深度學(xué)習(xí)(DL, Deep Learning)是機(jī)器學(xué)習(xí)(ML, Machine Learning)領(lǐng)域中一個新的研究方向荤西,它被引入機(jī)器學(xué)習(xí)使其更接近于最初的目標(biāo)——人工智能(AI, Artificial Intelligence)秘狞。
本書由四部分構(gòu)成谅年。第一部分介紹本書中將使用的基本學(xué)習(xí)機(jī)制惕橙,包括有或杠,監(jiān)督學(xué)習(xí)鱼鼓、
多層感知器拟烫、基于梯度的訓(xùn)練以及用于實(shí)現(xiàn)和訓(xùn)練神經(jīng)網(wǎng)絡(luò)的計(jì)算圖抽象。第二部分將第
一部分介紹的機(jī)制與語言進(jìn)行關(guān)聯(lián)迄本,介紹處理語言時所能用到的主要信息源硕淑,并解釋如何
將它們與神經(jīng)網(wǎng)絡(luò)機(jī)制進(jìn)行整合。同時討論詞嵌入算法和分布式假設(shè)嘉赎,以及將前饋方法用
于語言模型置媳。第三部分處理特殊的結(jié)構(gòu)以及它們在語言數(shù)據(jù)中的應(yīng)用,包括用于處理
ngram 的一維卷積網(wǎng)絡(luò)公条、用于建模序列和梭的循環(huán)神經(jīng)網(wǎng)絡(luò)CR>JN ) 拇囊。第三部分描述最多
的RNN 是針對語言數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)應(yīng)用的主要創(chuàng)新,包括強(qiáng)大的條件生成框架以及基于
注意力的模型靶橱。第四部分是各種新進(jìn)展的集合寂拆,包括用于建模樹的遞歸網(wǎng)絡(luò)、結(jié)構(gòu)化預(yù)測
模型以及多任務(wù)學(xué)習(xí)抓韩。
約阿夫.戈?duì)柕仑惛瘛痘谏疃葘W(xué)習(xí)的自然語言處理》中文pdf
《基于深度學(xué)習(xí)的自然語言處理》中文pdf, 274頁,帶目錄纠永,文字可復(fù)制
下載:https://pan.baidu.com/s/1GrOYN_gtigopQbhN4YGdt
提取碼:7cuq
機(jī)器學(xué)習(xí)內(nèi)容龐雜,理論精深谒拴,學(xué)好不容易尝江,以下是幾點(diǎn)學(xué)習(xí)建議
- 不要從頭開始學(xué)數(shù)學(xué)
如果不是一點(diǎn)數(shù)學(xué)都不會,你沒有必要從零學(xué)起英上。用上一小段時間炭序,把微積分、線性代數(shù)苍日、以及概率統(tǒng)計(jì)復(fù)習(xí)一遍就夠了惭聂。不要過度投入到數(shù)學(xué)領(lǐng)域,打好基礎(chǔ)即可相恃。舉個栗子辜纲,你想當(dāng)個司機(jī),你需要去了解汽油發(fā)動機(jī)原理嗎? 不需要耕腾。 因?yàn)槟汩_的車见剩,有可能是電動車。
- 代碼能力要過關(guān)
除了Python扫俺,請至少學(xué)習(xí)1-2門底層語言苍苞,比如C/C++,Java狼纬。
此外羹呵,如果你的目標(biāo)是算法工程師,那么數(shù)據(jù)結(jié)構(gòu)與算法疗琉、計(jì)算機(jī)系統(tǒng)担巩、內(nèi)存機(jī)制、網(wǎng)絡(luò)編程没炒、大數(shù)據(jù)框架也要著手學(xué)習(xí)涛癌。
- 不要過分深入
深度學(xué)習(xí),底層結(jié)構(gòu)很復(fù)雜送火,理論知識讀懂即可拳话,書也可以跳著看。除了自己感興趣的部分种吸,其他不需要深入弃衍。
- 不要重復(fù)造輪子
在開始入門的時候,認(rèn)認(rèn)真真自己實(shí)現(xiàn)一遍基礎(chǔ)算法的底層代碼就足夠了坚俗,對于更多復(fù)雜的算法實(shí)現(xiàn)镜盯,如非必要,請不要浪費(fèi)時間猖败,要記住速缆,你只是入門,不需要專精這個領(lǐng)域恩闻。
現(xiàn)如今艺糜,對于大多數(shù)深度模型調(diào)用,代碼量基本不過百行幢尚。除非你的方向是大規(guī)模破停、高可用深度學(xué)習(xí)系統(tǒng)的底層開發(fā)、架構(gòu)開發(fā)尉剩,那么沒有必要深入底層代碼真慢。
對于還處于入門階段的人來說,基礎(chǔ)還沒有學(xué)好理茎,直接讀框架源代碼黑界,往往是做無用功管嬉,效率不會太高,需要循序漸進(jìn)园爷。
- 不要報(bào)培訓(xùn)班
這一點(diǎn)仁者見仁。但我認(rèn)為式撼,網(wǎng)絡(luò)上的公開課足夠你學(xué)的了童社,比如Coursera,斯坦福CS231著隆,可汗學(xué)院等等扰楼。
要強(qiáng)調(diào)的是,有的同學(xué)會覺得花了錢美浦,自然就會心疼弦赖,就會堅(jiān)持學(xué)下去。這個想法很好浦辨,但太天真蹬竖,國內(nèi)這一塊的教學(xué)體系才剛起步,很多985高校都是和計(jì)算機(jī)流酬、數(shù)學(xué)系一起上課币厕,老師自己很可能都不是研究AI出身的。校外的培訓(xùn)機(jī)構(gòu)芽腾,會有比985還好的教學(xué)能力嗎旦装?
深度學(xué)習(xí)沒有速成一說,雖然深度學(xué)習(xí)經(jīng)常被詬病沒有基礎(chǔ)理論支撐摊滔,不需要數(shù)學(xué)知識阴绢,但那是說給大牛聽的。你一旦深入某個方向艰躺,底層的數(shù)學(xué)照樣少不了呻袭。培訓(xùn)班最不會教你的,它們只會利用你的興趣腺兴,揠苗助長棒妨,然后收割學(xué)費(fèi)。