一涩盾、李進(jìn)-廣州大學(xué)-AI安全 1邓梅、信息系統(tǒng)安全三個(gè)屬性:完整性、可用性闽烙、機(jī)密性 AI攻擊主要考慮兩方面工作:逃逸攻擊、投毒攻擊(數(shù)據(jù)中毒攻擊)声搁。...
參考鏈接:http://www.reibang.com/p/22c50ded4cf7[http://www.reibang.com/p/22...
【總結(jié)】 當(dāng)數(shù)值過(guò)大或者過(guò)小時(shí)會(huì)導(dǎo)致數(shù)值問(wèn)題疏旨; 常發(fā)生在深度模型中很魂,因?yàn)槠鋾?huì)對(duì)n個(gè)數(shù)累乘。 合理的權(quán)重初始值和激活函數(shù)的選取可以提升數(shù)值穩(wěn)定性檐涝。...
https://blog.csdn.net/weixin_43398590/article/details/106911052[https://...
【總結(jié)】 權(quán)重衰退通過(guò)L2正則項(xiàng)使得模型參數(shù)不會(huì)過(guò)大遏匆,從而控制模型復(fù)雜度。 正則項(xiàng)權(quán)重是控制模型復(fù)雜度的超參數(shù)谁榜。 丟棄法將一些輸出項(xiàng)隨機(jī)置0來(lái)控...
【總結(jié)】 訓(xùn)練數(shù)據(jù)集:訓(xùn)練模型參數(shù); 驗(yàn)證數(shù)據(jù)集:選擇模型超參數(shù)窃植。 非大數(shù)據(jù)集上通常使用k-折交叉驗(yàn)證帝蒿。 模型容量需要匹配數(shù)據(jù)復(fù)雜度,否則可能導(dǎo)...
【總結(jié)】 感知機(jī)是一個(gè)二分類(lèi)的問(wèn)題撕瞧,是最早的AI模型之一陵叽。 它的求解算法等價(jià)于使用批量大小為1的梯度下降。 它不能擬合XOR函數(shù)丛版,導(dǎo)致第一次AI...
一巩掺、損失函數(shù) 損失函數(shù),用來(lái)衡量預(yù)測(cè)值和真實(shí)值之間的區(qū)別页畦。 1胖替、均方損失(L2 Loss) 橫坐標(biāo)應(yīng)該是y-y'。藍(lán)色曲線(xiàn)是:真實(shí)值y不變時(shí)豫缨,變...
【總結(jié)】 softmax是一個(gè)多類(lèi)的分類(lèi)問(wèn)題独令。 使用softmax操作子得到每個(gè)類(lèi)的預(yù)測(cè)置信度。 使用交叉熵來(lái)衡量預(yù)測(cè)和標(biāo)號(hào)的區(qū)別好芭。 1燃箭、回歸與...