該系列文章為帅容，觀看“吳恩達(dá)機(jī)器學(xué)習(xí)”系列視頻的學(xué)習(xí)筆記牍帚。雖然每個(gè)視頻都很簡單棍矛，但不得不說每一句都非常的簡潔扼要安疗，淺顯易懂。非常適合我這樣的小白入門够委。

本章含蓋

• 1.1 引言
• 1.2 機(jī)器學(xué)習(xí)是什么荐类？
• 1.3 監(jiān)督學(xué)習(xí)
• 1.4 無監(jiān)督學(xué)習(xí)

引言

機(jī)器學(xué)習(xí)發(fā)源于人工智能領(lǐng)域 我們希望能夠創(chuàng)造出具有智慧的機(jī)器 我們通過編程來讓機(jī)器完成一些基礎(chǔ)的工作。比如茁帽，“如何找到從A到B的最短路徑”玉罐，但在大多數(shù)情況下我們并不知道如何顯式地編寫人工智能程序來做一些更有趣的任務(wù)真竖，比如，“網(wǎng)頁搜索”厌小、“標(biāo)記照片”和“攔截垃圾郵件”等

你也許曾經(jīng)接觸過自然語言處理和計(jì)算機(jī)視覺。事實(shí)上战秋，這些領(lǐng)域都是試圖通過人工智能來理解人類的語言和圖像璧亚。如今大多數(shù)的自然語言處理和計(jì)算機(jī)視覺都是對機(jī)器學(xué)習(xí)的一種應(yīng)用，機(jī)器學(xué)習(xí)算法也在用戶自定制化程序(self-customizing program)中有著廣泛的應(yīng)用脂信。每當(dāng)你使用亞馬遜 Netflix或iTunes Genius的服務(wù)時(shí)都會(huì)收到它們?yōu)槟懔可硗扑]的電影或產(chǎn)品癣蟋，這就是通過學(xué)習(xí)算法來實(shí)現(xiàn)的。

最后狰闪，機(jī)器學(xué)習(xí)算法已經(jīng)被應(yīng)用于探究人類的學(xué)習(xí)方式并試圖理解人類的大腦疯搅。我們也將會(huì)了解到研究者是如何運(yùn)用機(jī)器學(xué)習(xí)的工具來一步步實(shí)現(xiàn)人工智能的夢想。

1.2 機(jī)器學(xué)習(xí)是什么埋泵？

Tom Mitchell （來自卡內(nèi)基梅隆大學(xué)）定義的機(jī)器學(xué)習(xí)是：一個(gè)程序被認(rèn)為能從經(jīng)驗(yàn) E 中學(xué)習(xí)幔欧，解決任務(wù) T，達(dá)到性能度量值 P丽声，當(dāng)且僅當(dāng)礁蔗，有了經(jīng)驗(yàn) E 后，經(jīng)過 P 評(píng)判雁社，程序在處理 T 時(shí)的性能有所提升浴井。
舉個(gè)例子，下棋 ——— 我認(rèn)為經(jīng)驗(yàn) E 就是程序上萬次的自我練習(xí)（下棋）的經(jīng)驗(yàn)而任務(wù) T 就是（同未知的對手）下棋霉撵。性能度量值 P 呢磺浙，就是它在與一些新的對手比賽時(shí)，贏得比賽的概率徒坡。

目前存在幾種不同類型的學(xué)習(xí)算法撕氧。主要的兩種類型被我們稱之為“監(jiān)督學(xué)習(xí)”和“無監(jiān)督學(xué)習(xí)”。此外你將聽到諸如崭参，強(qiáng)化學(xué)習(xí)和推薦系統(tǒng)等各種術(shù)語呵曹。這些都是機(jī)器學(xué)習(xí)算法的一員，以后我們都將介紹到何暮，但學(xué)習(xí)算法最常用兩個(gè)類型就是監(jiān)督學(xué)習(xí)奄喂、無監(jiān)督學(xué)習(xí)。

給你講授學(xué)習(xí)算法就好像給你一套工具海洼，相比于提供工具跨新，可能更重要的，是教你如何使用這些工具坏逢。我喜歡把這比喻成學(xué)習(xí)當(dāng)木匠域帐。想象一下赘被，某人教你如何成為一名木匠，說這是錘子肖揣，這是螺絲刀民假，鋸子，祝你好運(yùn)龙优，再見羊异。這種教法不好，不是嗎?你擁有這些工具彤断，但更重要的是野舶，你要學(xué)會(huì)如何恰當(dāng)?shù)厥褂眠@些工具。

1.3 監(jiān)督學(xué)習(xí)

例一：根據(jù)房屋大小宰衙，對房屋價(jià)格進(jìn)行預(yù)期（回歸問題）

??這是監(jiān)督學(xué)習(xí)算法的一個(gè)例子一屋。

監(jiān)督學(xué)習(xí)指的就是我們給學(xué)習(xí)算法一個(gè)數(shù)據(jù)集。這個(gè)數(shù)據(jù)集由“正確答案”組成袋哼。在房價(jià)的例子中陆淀，我們給了一系列房子的數(shù)據(jù)，我們給定數(shù)據(jù)集中每個(gè)樣本的正確價(jià)格先嬉， 即它們實(shí)際的售價(jià)轧苫。然后，運(yùn)用學(xué)習(xí)算法得到更多的正確答案（即疫蔓，算法的目的就是得到更多的正確答案）含懊。

用更專業(yè)的術(shù)語來定義，它也被稱為“回歸問題”衅胀。這里的“回歸問題”我指的是：我們想要預(yù)測連續(xù)的數(shù)值輸出岔乔，即價(jià)格。

例二：根據(jù)腫瘤大小滚躯，對腫瘤是良性還是惡性的預(yù)測（分類問題）

橫軸：腫瘤尺寸
縱軸：1或0雏门，代表 是或否（惡性腫瘤）

機(jī)器學(xué)習(xí)的問題是，能否估計(jì)出腫瘤是良性還是惡性的概率掸掏。
用更專業(yè)的術(shù)語來說茁影，這是一個(gè)分類問題。分類指的是丧凤，我們試著推測出離散的輸出值募闲。

eg：0 或 1 良性或惡性，而事實(shí)上在分類問題中愿待，輸出可能不止兩個(gè)值浩螺。比如說可能有三種乳腺癌靴患，所以你希望預(yù)測離散輸出 0、1要出、2鸳君、 3。0 代表良性患蹂，1 表示第 1 類乳腺癌相嵌，2 表示第 2 類癌癥，3 表示第 3 類况脆，但這也是分類問題。

在其他機(jī)器學(xué)習(xí)問題中批糟，我們通常有更多的特征格了，比如腫塊密度，腫瘤細(xì)胞尺寸的一致性和形狀的一致性等等徽鼎。
你想用無限多種特征盛末，好讓你的算法可以利用大量的特征，或者說線索來做推測否淤。那你怎么處理無限多個(gè)特征悄但，甚至怎么存儲(chǔ)這些特征都存在問題，你電腦的內(nèi)存肯定不夠用石抡。后面我們會(huì)講一個(gè)算法檐嚣，叫支持向量機(jī)，里面有一個(gè)巧妙的數(shù)學(xué)技巧啰扛，能讓計(jì)算機(jī)處理無限多個(gè)特征嚎京。

無監(jiān)督學(xué)習(xí)

對于監(jiān)督學(xué)習(xí)里的每條數(shù)據(jù)， 我們已經(jīng)清楚地知道隐解，訓(xùn)練集對應(yīng)的正確答案鞍帝。

在無監(jiān)督學(xué)習(xí)中，我們已知的數(shù)據(jù)煞茫∨劣浚看上去有點(diǎn)不一樣，不同于監(jiān)督學(xué)習(xí)的數(shù)據(jù)的樣子续徽， 無監(jiān)督學(xué)習(xí)中沒有任何的標(biāo)簽蚓曼。所以我們已知數(shù)據(jù)集，卻不知如何處理钦扭，也未告知每個(gè)數(shù)據(jù)點(diǎn)是什么辟躏。別的都不知道，就是一個(gè)數(shù)據(jù)集土全。你能從數(shù)據(jù)中找到某種結(jié)構(gòu)嗎捎琐？針對數(shù)據(jù)集会涎，無監(jiān)督學(xué)習(xí)就能判斷出數(shù)據(jù)有兩個(gè)不同的聚集簇。 這是一個(gè)瑞凑，那是另一個(gè)末秃，二者不同。是的籽御，無監(jiān)督學(xué)習(xí)算法可能會(huì)把這些數(shù)據(jù)分成兩個(gè)不同的簇练慕。所以叫做聚類算法。事實(shí)證明技掏，它能被用在很多地方铃将。

聚類應(yīng)用的一個(gè)例子就是在谷歌新聞中。如果你以前從來沒見過它哑梳，你可以到這個(gè) URL 網(wǎng)址 news.google.com 去看看劲阎。谷歌新聞每天都在收集非常多非常多的網(wǎng)絡(luò)的新聞內(nèi)容。 它再將這些新聞分組鸠真，組成有關(guān)聯(lián)的新聞悯仙。所以谷歌新聞做的就是搜索非常多的新聞事件， 自動(dòng)地把它們聚類到一起吠卷。所以锡垄，這些新聞事件全是同一主題的，并會(huì)顯示到一起祭隔。

所以這個(gè)就是無監(jiān)督學(xué)習(xí)货岭，因?yàn)槲覀儧]有提前告知算法一些信息。我們只是說疾渴，是的茴她，這是有一堆數(shù)據(jù)。我不知道這些數(shù)據(jù)是什么程奠。我不知道誰是什么類型丈牢。我甚至不知道有哪些不同的類型，你能自動(dòng)地找到數(shù)據(jù)中的結(jié)構(gòu)嗎瞄沙？就是說你要自動(dòng)地聚類那些個(gè)體到各個(gè)類己沛，我沒法提前知道哪些是哪些。因?yàn)槲覀儧]有給算法正確答案來回應(yīng)數(shù)據(jù)集中的數(shù)據(jù)距境，所以這就是無監(jiān)督學(xué)習(xí)申尼。

無監(jiān)督學(xué)習(xí)或聚類有著大量的引用：

• 它用于組織大型計(jì)算機(jī)集群。我有些朋友在大數(shù)據(jù)中心工作垫桂，那里有大型的計(jì)算機(jī)集群师幕，他們想解決什么樣的機(jī)器易于協(xié)同地工作，如果你能夠讓那些機(jī)器協(xié)同工作，你就能讓你的數(shù)據(jù)中心工作得更高效霹粥。
• 第二種應(yīng)用就是社交網(wǎng)絡(luò)的分析灭将。所以已知你朋友的信息，比如你經(jīng)常發(fā) email 的后控，或是你 Facebook 的朋友庙曙、谷歌+圈子的朋友，我們能否自動(dòng)地給出朋友的分組呢?即每組里的人們彼此都熟識(shí)浩淘，認(rèn)識(shí)組里的所有人?
• 還有市場分割捌朴。許多公司有大型的數(shù)據(jù)庫，存儲(chǔ)消費(fèi)者信息张抄。所以砂蔽，你能檢索這些顧客數(shù)據(jù)集，自動(dòng)地發(fā)現(xiàn)市場分類署惯，并自動(dòng)地把顧客劃分到不同的細(xì)分市場中左驾，你才能自動(dòng)并更有效地銷售或不同的細(xì)分市場一起進(jìn)行銷售。這也是無監(jiān)督學(xué)習(xí)泽台，因?yàn)槲覀儞碛兴械念櫩蛿?shù)據(jù)，但我們沒有提前知道是什么的細(xì)分市場矾缓，以及分別有哪些我們數(shù)據(jù)集中的顧客怀酷。我們不知道誰是在一號(hào)細(xì)分市場，誰在二號(hào)市場嗜闻，等等蜕依。那我們就必須讓算法從數(shù)據(jù)中發(fā)現(xiàn)這一切。
• 最后琉雳，無監(jiān)督學(xué)習(xí)也可用于天文數(shù)據(jù)分析样眠，這些聚類算法給出了令人驚訝、有趣翠肘、有用的理論檐束，解釋了星系是如何誕生的。

這些都是聚類的例子束倍，聚類只是無監(jiān)督學(xué)習(xí)中的一種被丧。
無監(jiān)督學(xué)習(xí)，它是學(xué)習(xí)機(jī)制绪妹，你給算法大量的數(shù)據(jù)甥桂，要求它找出數(shù)據(jù)的類型結(jié)構(gòu)。