[機(jī)器學(xué)習(xí)]決策樹(decision tree)--1.基本概念

下個學(xué)期開始就要講數(shù)據(jù)挖掘了麦锯,有點(diǎn)開心碎紊,也有點(diǎn)緊張佑附。數(shù)據(jù)挖掘不是單純的講解理論,更偏向于實踐仗考。所以除了把基礎(chǔ)的概念講清楚音同,如何帶著同學(xué)們做一些有意義的項目,確實是一個挑戰(zhàn)~~

今天呢秃嗜,我們就從決策樹開始权均,先介紹基礎(chǔ)的概念顿膨,然后再做一個項目練手。

先提醒大家一下叽赊,我會將一個算法分為多篇文章介紹虽惭,由淺入深。今天先給大家介紹一下決策樹的基本流程蛇尚。

決策樹是一類常見的機(jī)器學(xué)習(xí)方法芽唇。以二分類為例,我們希望從給定的訓(xùn)練數(shù)據(jù)集學(xué)得一個模型用以對新示例進(jìn)行分類取劫,這個把樣本分類的任務(wù)匆笤,可看作對“當(dāng)前樣本屬于正類嗎?”這個問題的“決策”或“判斷”谱邪。顧名思義炮捧,決策樹是基于樹結(jié)構(gòu)來進(jìn)行決策的,這恰是人類在面臨決策問題時一種很自然的處理機(jī)制惦银。例如咆课,我們要對“這是好機(jī)會嗎?”這樣的問題進(jìn)行決策時扯俱,通常會進(jìn)行一系列的判斷或“子決策”:我們先看“每個月賺多少錢”书蚪,如果是“合乎自己預(yù)期”,則我們再看“這家公司的主營業(yè)務(wù)”迅栅,如果是“一些熱門的行業(yè)”殊校,我們再判斷“它位于哪個地區(qū)”,如果是在“一線城市”读存,最后为流,我們的出最終決策:這是個好機(jī)會。

顯然让簿,決策過程的最終結(jié)論對應(yīng)了我們所希望的判定結(jié)果敬察,例如“是”或“不是”好機(jī)會;決策過程中提出的每個判定問題都是對某個屬性的“測試”尔当,例如“每月收入=莲祸?”,“主營業(yè)務(wù)=居凶?”虫给;每個測試的結(jié)果或是導(dǎo)出最終結(jié)論藤抡,或是導(dǎo)出進(jìn)一步的判定問題侠碧,其考慮范圍是在上次決策結(jié)果的限定范圍之內(nèi),例如:若在“每個月賺多少錢=合乎自己預(yù)期”之后再判斷“這家公司的主營業(yè)務(wù)=缠黍?”弄兜,則僅在考慮合乎自己預(yù)期的收入的基礎(chǔ)上的公司的主營業(yè)務(wù)。

這句話理解起來比較繞,簡單來說就是替饿,判斷這家公司的主營業(yè)務(wù)的前提是语泽,收入需要滿足自己的預(yù)期。如果收入達(dá)不到預(yù)期视卢,那可能考慮的就不是主營業(yè)務(wù)踱卵,而是別的條件。

所以据过,面對“每月收入=惋砂?”這種問題,我們?nèi)绾位卮鹕F(xiàn)實生活中答案肯定不止一種西饵。我們選擇其中一種答案后,接下來該考慮什么問題鳞芙,是“主營業(yè)務(wù)=眷柔?”,還是“公司位于哪個地區(qū)=原朝?”驯嘱。這些問題的重要性如何取舍,是都考慮還是挑選某幾個問題喳坠。如何解決這些疑問呢宙拉?就需要用到算法了~~

好了,決策樹的基本概念先介紹這么多丙笋,我們盡量不說的那么書面化谢澈,盡量用通俗一點(diǎn)的語言來表達(dá)。期待下一篇對決策樹的進(jìn)一步介紹吧~

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末御板,一起剝皮案震驚了整個濱河市锥忿,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌怠肋,老刑警劉巖敬鬓,帶你破解...
    沈念sama閱讀 219,539評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異笙各,居然都是意外死亡钉答,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,594評論 3 396
  • 文/潘曉璐 我一進(jìn)店門杈抢,熙熙樓的掌柜王于貴愁眉苦臉地迎上來数尿,“玉大人,你說我怎么就攤上這事惶楼∮冶模” “怎么了诊杆?”我有些...
    開封第一講書人閱讀 165,871評論 0 356
  • 文/不壞的土叔 我叫張陵,是天一觀的道長何陆。 經(jīng)常有香客問我晨汹,道長,這世上最難降的妖魔是什么贷盲? 我笑而不...
    開封第一講書人閱讀 58,963評論 1 295
  • 正文 為了忘掉前任淘这,我火速辦了婚禮,結(jié)果婚禮上巩剖,老公的妹妹穿的比我還像新娘慨灭。我一直安慰自己,他們只是感情好球及,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,984評論 6 393
  • 文/花漫 我一把揭開白布氧骤。 她就那樣靜靜地躺著,像睡著了一般吃引。 火紅的嫁衣襯著肌膚如雪筹陵。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,763評論 1 307
  • 那天镊尺,我揣著相機(jī)與錄音朦佩,去河邊找鬼。 笑死庐氮,一個胖子當(dāng)著我的面吹牛语稠,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播弄砍,決...
    沈念sama閱讀 40,468評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼仙畦,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了音婶?” 一聲冷哼從身側(cè)響起慨畸,我...
    開封第一講書人閱讀 39,357評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎衣式,沒想到半個月后寸士,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,850評論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡碴卧,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,002評論 3 338
  • 正文 我和宋清朗相戀三年弱卡,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片住册。...
    茶點(diǎn)故事閱讀 40,144評論 1 351
  • 序言:一個原本活蹦亂跳的男人離奇死亡婶博,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出界弧,到底是詐尸還是另有隱情凡蜻,我是刑警寧澤搭综,帶...
    沈念sama閱讀 35,823評論 5 346
  • 正文 年R本政府宣布垢箕,位于F島的核電站划栓,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏条获。R本人自食惡果不足惜忠荞,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,483評論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望帅掘。 院中可真熱鬧委煤,春花似錦、人聲如沸修档。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,026評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽吱窝。三九已至讥邻,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間院峡,已是汗流浹背兴使。 一陣腳步聲響...
    開封第一講書人閱讀 33,150評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留照激,地道東北人发魄。 一個月前我還...
    沈念sama閱讀 48,415評論 3 373
  • 正文 我出身青樓,卻偏偏與公主長得像俩垃,于是被迫代替她去往敵國和親励幼。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,092評論 2 355

推薦閱讀更多精彩內(nèi)容