貝葉斯決策輪： ??對(duì)分類(lèi)任務(wù)來(lái)說(shuō)挠蛉，在所有相關(guān)概率都已知的理想情形下勒叠，貝葉斯決策論考慮如何基于這些概率和誤判損失來(lái)選擇最優(yōu)的類(lèi)別標(biāo)記拉队。??假設(shè)有...

Lagrange優(yōu)化問(wèn)題： ??標(biāo)準(zhǔn)形式的優(yōu)化問(wèn)題（原問(wèn)題）：?? ?? 其中，自變量慧瘤。設(shè)問(wèn)題的定義域是非空集合，優(yōu)化問(wèn)題的最優(yōu)值為。則問(wèn)題...

奇異值分解（Singular Value Decomposition艇拍，SVD）： 定義： ??任意的實(shí)矩陣都可以分解為：????其中，是滿(mǎn)足的階...

Hermitian矩陣： ??又被稱(chēng)為厄爾米特矩陣宠纯，指的是共軛矩陣卸夕。矩陣中的每一個(gè)第行第列的元素都與第行列的元素共軛相等。稱(chēng)為的共軛轉(zhuǎn)置婆瓜，矩陣即...

神經(jīng)元模型： ??快集，其中為權(quán)值，為閾值通過(guò)激活函數(shù)處理產(chǎn)生的輸出（或）廉白。 感知機(jī)： ??感知機(jī)由兩層神經(jīng)元組成个初，輸入層和輸出層，感知機(jī)只有一層功...

原理： ??每次按照下降的方向進(jìn)行計(jì)算蒙秒，屬于貪心的算法勃黍。 算法（就最小二乘法討論）： ??若訓(xùn)練集：??訓(xùn)練函數(shù)：??參數(shù)向量：??損失函數(shù)：?...

基本流程： ??略 劃分選擇： ??“信息熵”是度量樣本集合純度最常用的一項(xiàng)指標(biāo)????“信息增益”是度量某個(gè)屬性對(duì)劃分的增益????表示該屬性...

信息熵 ??熵是接收的每條消息中包含的信息的平均量，被稱(chēng)為信息熵晕讲、信源熵覆获、平均自信息量，為不確定性的量度瓢省。簡(jiǎn)而言之弄息，越是確定的事，信息熵小勤婚，而越...

??若訓(xùn)練樣例數(shù)正例和反例的差別很大摹量，則會(huì)對(duì)學(xué)習(xí)過(guò)程造成困擾。例如998個(gè)反例，2個(gè)正例缨称，那么學(xué)習(xí)方法只需永遠(yuǎn)將測(cè)試新樣本設(shè)為反例凝果，那么就會(huì)99...