開始赫粥。這是最容易令人喪失斗志的兩個字观话。邁出第一步通常最艱難。當可以選擇的方向太多時越平,就更讓人兩腿發(fā)軟了频蛔。
從哪里開始?
本文旨在通過七個步驟秦叛,使用全部免費的線上資料晦溪,幫助新人獲取最基本的 Python 機器學習知識,直至成為博學的機器學習實踐者挣跋。這篇概述的主要目的是帶領(lǐng)讀者接觸眾多免費的學習資源三圆。這些資源有很多,但哪些是最好的避咆?哪些相互補充舟肉?怎樣的學習順序才最好?
我假定本文的讀者不是以下任何領(lǐng)域的專家:
? 機器學習
? Python
? 任何 Python 的機器學習查库、科學計算度气、數(shù)據(jù)分析庫
如果你有前兩個領(lǐng)域其一或全部的基礎(chǔ)知識,可能會很有幫助膨报,但這些也不是必需的磷籍。在下面幾個步驟中的前幾項多花點時間就可以彌補适荣。
第一步:基本的 Python 技能
首先要安裝 Python 。由于我們要使用機器學習和科學計算的 packages 院领,這里建議安裝 Anaconda弛矛。Anaconda 是一個可在 Linux , OSX , Windows 上運行的 Python 實現(xiàn)工具,擁有所需的機器學習 packages 比然,包括 numpy丈氓,scikit-learn,matplotlib强法。它還包含 iPython Notebook 万俗,一個帶有許多教程的交互式環(huán)境。這里推薦使用 Python 2.7 饮怯,不是因為特殊原因闰歪,只是因為它是目前安裝版本中的主流。
如果你之前沒有編程知識蓖墅,建議你閱讀這本免費電子書库倘,然后再接觸其他學習材料:
? Python The Hard Way 作者Zed A. Shaw
如果你之前有編程知識,但不是 Python 的论矾,又或者你的 Python 水平很基礎(chǔ)教翩,推薦下列一種或幾種教程:
? Google Developers Python Course(強烈推薦給視覺型學習者)
? An Introduction to Python for Scientific Computing (from UCSB Engineering) 作者 M. Scott Shell (一個很好的 Python 科學計算簡介,60 頁)
對于想要速成課程的人贪壳,這里有:
? Learn X in Y Minutes (X = Python)
當然饱亿,如果你是個經(jīng)驗豐富的 Python 程序員,可以跳過這一步闰靴。盡管如此路捧,還是建議你把通俗易懂的 Python documentation 放在手邊。
第二步:機器學習基礎(chǔ)技能
KDnuggets 的 Zachary Lipton 指出传黄,人們對于“數(shù)據(jù)科學家”的認知千差萬別。這實際上是對機器學習領(lǐng)域的反映队寇。數(shù)據(jù)科學家在不同程度上使用計算學習算法膘掰。要建立和使用支持向量機模型,熟知核函數(shù)方法是否是必需的佳遣?答案當然不是识埋。就像現(xiàn)實生活中的許多事情一樣,所需要的理論深入程度與具體的實際應(yīng)用有關(guān)零渐。獲取對機器學習算法的深入理解不是本文的討論范圍窒舟, 而且這通常需要在學術(shù)領(lǐng)域投入大量時間,或者至少要通過密集的自學才能達到诵盼。
好消息是惠豺,你不必擁有博士級別的機器學習理論能力才能進行實踐银还,就如同不是所有程序員都必須接受計算機理論教育才能寫好代碼。
吳恩達在 Coursera 的課程飽受贊譽洁墙。但我的建議是去看看一名以前的學生做的筆記蛹疯。略過那些針對 Octave(一個與 Python 無關(guān)的,類 Matlab 語言)的內(nèi)容热监。需要注意捺弦,這些不是“官方”的筆記,雖然看起來的確抓住了吳恩達課程材料的相關(guān)內(nèi)容孝扛。如果你有時間列吼,可以自己去 Coursera 完成這個課程 :Andrew Ng's Machine Learning course 。
? 非官方課程筆記鏈接
除了吳恩達的課程以外苦始,還有很多其他視頻教程寞钥。我是Tom Mitchell的粉絲,下面是他(與Maria-Florina Balcan共同完成的)最新的課程視頻盈简,對學習者非常友好:
? Tom Mitchell Machine Learning Lectures
你不需要現(xiàn)在看完全部的筆記和視頻凑耻。比較好的策略是向前推進,去做下面的練習柠贤,需要的時候再查閱筆記和視頻香浩。比如,你要做一個回歸模型臼勉,就可以去查閱吳恩達課程有關(guān)回歸的筆記以及/或者 Mitchell 的視頻邻吭。
第三步:科學計算 Python packages 一覽
好了。現(xiàn)在我們有了 Python 編程經(jīng)驗宴霸,并對機器學習有所了解囱晴。Python 有很多為機器學習提供便利的開源庫。通常它們被稱為 Python 科學庫(scientific Python libraries)瓢谢,用以執(zhí)行基本的數(shù)據(jù)科學任務(wù)(這里有一點程度主觀色彩):
? numpy - 主要用于N維數(shù)組
? pandas - Python數(shù)據(jù)分析庫畸写,包含dataframe等結(jié)構(gòu)
? matplotlib - 2D繪圖庫,產(chǎn)出質(zhì)量足以進行印刷的圖
? scikit-learn - 數(shù)據(jù)分析氓扛、數(shù)據(jù)挖掘任務(wù)使用的機器學習算法
學習以上這些內(nèi)容可以使用:
? Scipy Lecture Notes 作者 Ga?l Varoquaux枯芬, Emmanuelle Gouillart, Olav Vahtras
下面這個pandas教程也不錯采郎,貼近主題:
? 10 Minutes to Pandas
在后面的教程中你會看到其他一些packages千所,比如包括Seaborn,一個基于matplotlib的可視化庫蒜埋。前面提到的packages (再次承認具有一定主觀色彩)是許多Python機器學習任務(wù)的核心工具淫痰。不過,理解它們也可以讓你在之后的教程中更好理解其他相關(guān)packages整份。
好了待错,現(xiàn)在到了有意思的部分.....
第四步:開始用 Python 進行機器學習
Python籽孙。搞定。
機器學習基礎(chǔ)朗鸠。搞定蚯撩。
Numpy。搞定烛占。
Pandas胎挎。搞定。
Matplotlib忆家。搞定犹菇。
是時候用 Python 的標準機器學習庫,scikit-learn芽卿,實現(xiàn)機器學習算法了揭芍。
scikit-learn 算法選擇圖
下面許多教程和練習都基于交互式環(huán)境 iPython (Jupyter) Notebook。這些iPython Notebooks 有些可以在網(wǎng)上觀看卸例,有些可以下載到本地電腦称杨。
? iPython Notebook概覽 斯坦福大學
也請注意下面的資源來自網(wǎng)絡(luò)。所有資源屬于作者筷转。如果出于某種原因姑原,你發(fā)現(xiàn)有作者沒有被提及,請告知我呜舒,我會盡快改正锭汛。在此特別要向Jake VanderPlas,Randal Olson袭蝗,Donne Martin唤殴,Kevin Markham,Colin Raffel致敬到腥,感謝他們提供的優(yōu)秀免費資源朵逝。
下面是 scikit-learn 的入門教程。在進行下一個步驟之前乡范,推薦做完下列全部教程配名。
對于 scikit-learn 的整體介紹,它是 Python 最常用的通用機器學習庫篓足,包含 knn 最近鄰算法:
? An Introduction to scikit-learn 作者 Jake VanderPlas
更深入更寬泛的介紹,包含一個新手項目闰蚕,從頭到尾使用一個著名的數(shù)據(jù)集:
? Example Machine Learning Notebook 作者 Randal Olson
專注于 scikit-learn 中評估不同模型的策略栈拖,涉及訓(xùn)練集/測試集拆分:
? Model Evaluation 作者 Kevin Markham
第五步:Python機器學習主題
在 scikit-learn 打下基礎(chǔ)以后,我們可以探索更多有用的常見算法没陡。讓我們從最知名的機器學習算法之一涩哟,k-means聚類開始索赏。對于無監(jiān)督學習問題,k-means通常簡單有效:? k-means Clustering 作者 Jake VanderPlas接下來是分類贴彼,讓我們看看史上最流行的分類方法之一潜腻,決策樹:? Decision Trees via The Grimm Scientist分類之后,是連續(xù)數(shù)字變量的預(yù)測:? Linear Regression 作者 Jake VanderPlas通過邏輯斯蒂回歸器仗,我們可以用回歸解決分類問題:? Logistic Regression 作者Kevin Markham
第六步:Python 高級機器學習
接觸過 scikit-learn融涣,現(xiàn)在讓我們把注意力轉(zhuǎn)向更高級的內(nèi)容。首先是支持向量機精钮,一個無需線性的分類器威鹿,它依賴復(fù)雜的數(shù)據(jù)轉(zhuǎn)換,把數(shù)據(jù)投向高維空間轨香。
? Support Vector Machines 作者 Jake VanderPlas
接下來是隨機森林忽你,一種集成分類器。下面的教程通過 Kaggle Titanic Competition講解臂容。
? Kaggle Titanic Competition (with Random Forests) 作者 Donne Martin
降維是一種減少問題涉及的變量數(shù)目的方法科雳。PCA 主成分分析是一種無監(jiān)督學習降維的特殊形式:
? Dimensionality Reduction 作者 Jake VanderPlas
在開始下一步之前,可以暫停一下脓杉,回想我們在短短的時間已經(jīng)走了多遠糟秘。
通過使用 Python 和它的機器學習庫,我們涵蓋了一些最常用最知名的機器學習算法( knn 最近鄰丽已,k-means 聚類蚌堵,支持向量機),了解了一種強有力的集成方法(隨機森林)沛婴,涉及了一些其他機器學習支持方案(降維吼畏,模型驗證技巧)。在一些基礎(chǔ)機器學習的技巧的幫助下嘁灯,我們開始有了一個漸漸豐富的工具箱泻蚊。
在結(jié)束以前,讓我們給工具箱增加一個需求很大的工具丑婿。
第七步 :Python 深度學習
學習性雄,深深地。
到處都在深度學習羹奉!深度學習基于過去幾十年的神經(jīng)網(wǎng)絡(luò)研究秒旋,但最近幾年的發(fā)展大大增加了深度神經(jīng)網(wǎng)絡(luò)的能力和對于它的興趣。如果你不熟悉深度學習诀拭,KDnuggets 有許多文章 迁筛,詳細介紹最近的進展、成果耕挨,以及對這項技術(shù)的贊譽细卧。
本文的最后一部分并不想成為某種深度學習示范教程尉桩。我們會關(guān)注基于兩個 Python 深度學習庫的簡單應(yīng)用。對于想了解更多的讀者贪庙,我推薦下面這本免費在線書:
? Neural Networks and Deep Learning 作者 Michael Nielsen
Theano
Theano 是我們關(guān)注的第一個 Python 深度學習庫蜘犁。根據(jù)作者所說:
作為一個 Python 庫,Theano 讓你可以有效定義止邮、優(yōu)化这橙、評估包含多維數(shù)組的數(shù)學表達式。
下面的 Theano 深度學習教程很長农尖,但非常不錯析恋,描述詳細,有大量評論:
? Theano Deep Learning Tutorial 作者 Colin Raffel
Caffe
我們關(guān)注的另一個庫是 Caffe盛卡。根據(jù)它的作者所說:
Caffe 是一個深度學習框架助隧。開發(fā)過程中時刻考慮著表達式、速度滑沧、模型并村。 它是由 Berkeley Vision and Learning Center (BVLC) 和社區(qū)貢獻者共同開發(fā)的。
這個教程是本文的壓軸滓技。盡管上面列舉了一些有趣的案例哩牍,沒有那個比得上下面這個:用 Caffe 實現(xiàn) Google的#DeepDream。希望你喜歡令漂!理解這個教程以后膝昆,盡情玩樂,讓你的處理器開始自己做夢吧叠必。
? Dreaming Deep with Caffe via Google's GitHub
我不敢保證 Python 機器學習是速成的或簡單的荚孵。但只要投入時間,遵循這七個步驟纬朝,你無疑會對于這個領(lǐng)域擁有足夠的熟練度和理解收叶,會使用流行的 Python庫實現(xiàn)許多機器學習算法,甚至當今深度學習領(lǐng)域的前沿內(nèi)容共苛。
以上內(nèi)容均為摘錄判没,只為自己在機器學習的路上找到方向和學習路線,我自己也整理相關(guān)的學習計劃和腦圖:Python機器學習腦圖