機器學習中的Inductive Bias




機器學習算法中茬贵,假設學習器在預測中逼近正確的結果郊霎,其中包括在訓練中未出現(xiàn)的樣本沼头。既然是未知的狀況,結果可以是任意的結果书劝,若沒有其他假設进倍,這任務就無法解決。這種關于目標函數(shù)的必要假設就稱為*歸納偏置*购对。

歸納偏差有點像我們所說的先驗(Prior)猾昆,但是有點不同的是歸納偏差在學習的過程中不會更新,但是先驗在學習后會不斷地被更新骡苞。

Algorithm | Inductive Bias

---|---

Linear Regression | The relationship between the attributes x and the output y is linear. The goal is to minimize the sum of squared errors.

Single-Unit Perceptron | Each input votes independently toward the final classification (interactions between inputs are not possible).

Neural Networks with Backpropagation | Smooth interpolation between data points.

K-Nearest Neighbors | The classification of an instance x will be most similar to the classification of other instances that are nearby in Euclidean distance.

Support Vector Machines | Distinct classes tend to be separated by wide margins.

Naive Bayes | Each input depends only on the output class or label; the inputs are independent from each other.

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末垂蜗,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子解幽,更是在濱河造成了極大的恐慌贴见,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,968評論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件亚铁,死亡現(xiàn)場離奇詭異蝇刀,居然都是意外死亡,警方通過查閱死者的電腦和手機徘溢,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,601評論 2 382
  • 文/潘曉璐 我一進店門吞琐,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人然爆,你說我怎么就攤上這事站粟。” “怎么了曾雕?”我有些...
    開封第一講書人閱讀 153,220評論 0 344
  • 文/不壞的土叔 我叫張陵奴烙,是天一觀的道長。 經常有香客問我,道長切诀,這世上最難降的妖魔是什么揩环? 我笑而不...
    開封第一講書人閱讀 55,416評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮幅虑,結果婚禮上丰滑,老公的妹妹穿的比我還像新娘。我一直安慰自己倒庵,他們只是感情好褒墨,可當我...
    茶點故事閱讀 64,425評論 5 374
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著擎宝,像睡著了一般郁妈。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上绍申,一...
    開封第一講書人閱讀 49,144評論 1 285
  • 那天噩咪,我揣著相機與錄音,去河邊找鬼失晴。 笑死剧腻,一個胖子當著我的面吹牛,可吹牛的內容都是我干的涂屁。 我是一名探鬼主播书在,決...
    沈念sama閱讀 38,432評論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼拆又!你這毒婦竟也來了儒旬?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 37,088評論 0 261
  • 序言:老撾萬榮一對情侶失蹤帖族,失蹤者是張志新(化名)和其女友劉穎栈源,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體竖般,經...
    沈念sama閱讀 43,586評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡甚垦,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 36,028評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了涣雕。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片艰亮。...
    茶點故事閱讀 38,137評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖挣郭,靈堂內的尸體忽然破棺而出迄埃,到底是詐尸還是另有隱情,我是刑警寧澤兑障,帶...
    沈念sama閱讀 33,783評論 4 324
  • 正文 年R本政府宣布侄非,位于F島的核電站蕉汪,受9級特大地震影響,放射性物質發(fā)生泄漏逞怨。R本人自食惡果不足惜者疤,卻給世界環(huán)境...
    茶點故事閱讀 39,343評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望骇钦。 院中可真熱鬧宛渐,春花似錦、人聲如沸眯搭。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,333評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽鳞仙。三九已至,卻和暖如春笔时,著一層夾襖步出監(jiān)牢的瞬間棍好,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,559評論 1 262
  • 我被黑心中介騙來泰國打工允耿, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留借笙,地道東北人。 一個月前我還...
    沈念sama閱讀 45,595評論 2 355
  • 正文 我出身青樓较锡,卻偏偏與公主長得像业稼,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子蚂蕴,可洞房花燭夜當晚...
    茶點故事閱讀 42,901評論 2 345

推薦閱讀更多精彩內容

  • 平橋區(qū)二小畢業(yè)班家長會 心得體會 劉二班余林潞家長 余順河 孩子快樂而又難忘的小學生活即...
    楊蕾001閱讀 9,668評論 0 2
  • 數(shù)組的介紹 數(shù)組(Array)是一串有序的由相同類型元素構成的集合 數(shù)組中的集合元素是有序的低散,可以重復出現(xiàn) Swi...
    猴子的救兵520閱讀 366評論 0 0
  • 文/Nichole 管理/職場 周一剛回到公司熔号,相信大多數(shù)上班族一樣,還處于從周末到工作日的過渡中鸟整。除了心態(tài)上尚未...
    翁萍閱讀 204評論 0 0
  • 先走一遍引镊。有時間的話,我還是愿意看何帆老師的文字篮条,沒時間才聽弟头。不是貶低朗讀者,而是在朗讀的過程中兑燥,有諸多因素亮瓷。比如...
    雷光祥閱讀 245評論 0 0