Deep Learning的紅火應(yīng)該說已經(jīng)有很長一段時(shí)間了,隨著Google,微軟小渊,F(xiàn)acebook等重量級(jí)玩家的進(jìn)入放可,這一塊兒領(lǐng)域的成果/成績?cè)俳鼛啄旮泳哂修Z動(dòng)效應(yīng)谒臼,尤其是阿爾法go的橫空出世,可以說把Machine learning和AI這兩個(gè)專業(yè)領(lǐng)域研究的問題耀里,直接推到了大眾的面前蜈缤。
然而另一面的實(shí)事是,對(duì)于圖像圖像冯挎,聲音識(shí)別等領(lǐng)域底哥,深度學(xué)習(xí)已經(jīng)有了大量的應(yīng)用范例和應(yīng)用手段。但對(duì)于很多別的業(yè)務(wù)領(lǐng)域(金融方向里面的存貸款和客戶需求的沖突管理,通信領(lǐng)域的資源分配和優(yōu)化趾徽,信道估計(jì)的策略续滋,云/邊緣計(jì)算里面的network slicing):其是否適用(why),使用哪一個(gè)模型(what)孵奶,以及怎么使用(how)始終是很困擾我的一件事疲酌。于是,在眾多推薦之下拒课,本著“知奇然知其所以然”的出發(fā)點(diǎn)徐勃,我開始了這一趟旅程:
先來說說本書的結(jié)構(gòu):
數(shù)學(xué)相關(guān)知識(shí)(偏微分,求導(dǎo)早像,乘和加的幾何意義僻肖,矩陣運(yùn)算(點(diǎn)和叉乘)) +
python針對(duì)深度學(xué)習(xí)的lib+相關(guān)用法(numpy, matplotlib)
對(duì)于深度學(xué)習(xí)理論的實(shí)踐化解釋(逼近原則,模型的泛化能力卢鹦,依靠對(duì)于損失的觀察確定學(xué)習(xí)的方向正確性等)
在我心目中一本適合自學(xué)的書臀脏,需要有這么幾個(gè)特點(diǎn):對(duì)于細(xì)節(jié)的講解要點(diǎn)到要害,對(duì)于整體架構(gòu)/宏觀層面的講解冀自,要能盡量做到清晰揉稚。可以說本書對(duì)于基礎(chǔ)的講解時(shí)非常細(xì)致而獨(dú)到的熬粗,頗有自學(xué)教材的風(fēng)范搀玖。
具體來說,這本書對(duì)于講解的敘述上驻呐,使用一個(gè)貫穿全書的“手寫文字識(shí)別”作為待解的問題灌诅,把一個(gè)深度學(xué)習(xí)網(wǎng)絡(luò)需要注意的各個(gè)細(xì)節(jié)問題都做了準(zhǔn)確詳盡的講解。
比如含末,對(duì)于網(wǎng)絡(luò)的講解(從感知機(jī) --> 神經(jīng)網(wǎng)絡(luò)-->引入相關(guān)建模方法(激活函數(shù)猜拾,loss function等) -->引入卷積層 --> 引入深度加深的概念);對(duì)于python的相關(guān)知識(shí)講解(numpy和list區(qū)別佣盒,*和numpy.dot()運(yùn)算挎袜,T,廣播方法肥惭,python的類型判斷方法盯仪,im2col對(duì)于卷積運(yùn)算的效率提升);對(duì)于數(shù)學(xué)知識(shí)的介紹(解析解和數(shù)值解蜜葱,特征的應(yīng)用磨总,圖形中像素點(diǎn)的灰度信息值得含義和轉(zhuǎn)換)。都有相關(guān)性很強(qiáng)的講解笼沥,可以說蚪燕,如果單獨(dú)進(jìn)行娶牌,可能理解并不深刻。針對(duì)具體的一個(gè)一個(gè)拆分的問題馆纳,加入對(duì)于某個(gè)數(shù)學(xué)的诗良,python的和機(jī)器學(xué)習(xí)相關(guān)理論的講解,深入淺出鲁驶,記憶點(diǎn)建立的比較深刻鉴裹。
總的來說,對(duì)于其他行業(yè)的人钥弯,想使用machine learning/deep learning作為工具径荔,來為自己的行業(yè)帶來一些進(jìn)化/優(yōu)化的方法的話,我的體會(huì)是本書非常適合作為第一本入門讀物(這里有個(gè)小插曲:關(guān)于“魚書”和“花書”的適用群體脆霎。相比之下总处,花書更適合已經(jīng)具備一些實(shí)踐經(jīng)驗(yàn)的人去閱讀)
最夠想說點(diǎn)自己對(duì)于深度學(xué)習(xí)這件事的一些隨想。
通過這些天的學(xué)習(xí)睛蛛,閱讀鹦马,python practice,以及和相關(guān)人士的一些交流忆肾。我的直觀感受還是很受沖擊的荸频。在神經(jīng)網(wǎng)絡(luò)這一塊兒:
一方面來說,有些很確定對(duì)于行業(yè)也有直觀好處的結(jié)果/成績:比如物體識(shí)別(歸類問題)客冈,語音識(shí)別處理旭从,文字識(shí)別等等,這一點(diǎn)大家都有自己的體會(huì)场仲。我相信對(duì)于歸類問題和悦,比如應(yīng)用的行業(yè)的decision mode,怎么做更合理燎窘,將來一定會(huì)有更多更漂亮的案例摹闽。我自己也計(jì)劃對(duì)這一塊兒做一些實(shí)踐蹄咖。
另一方面褐健,主要是針對(duì)unsupervised training,到底可以孵化出什么樣的’怪獸‘澜汤,尤其是現(xiàn)在分布式計(jì)算(比如Tensor-flow對(duì)于分布式已經(jīng)做了周全的考慮)蚜迅,Nv 新GPU的 CUDA的性能越來越強(qiáng)。以后的“風(fēng)格矩陣”也許就不僅僅用在圖畫這件事了俊抵。到底人的優(yōu)勢(shì)在何時(shí)會(huì)被“sensor不如碳基生物谁不,但計(jì)算速度有碾壓性優(yōu)勢(shì)”的computing device超越,可能真的是一個(gè)不得不思考和應(yīng)對(duì)的課題徽诲。
長路漫漫刹帕,對(duì)我來說吵血,這是一個(gè)非常有趣的啟程。