第九章 無(wú)監(jiān)督學(xué)習(xí) 典型的無(wú)監(jiān)督學(xué)習(xí)問(wèn)題可以分為以下幾類： 無(wú)監(jiān)督特征學(xué)習(xí)是從無(wú)標(biāo)簽的訓(xùn)練數(shù)據(jù)中挖掘有效的特征或表示。無(wú)監(jiān)督特征學(xué)習(xí)一般用來(lái)進(jìn)行...

第八章 注意力機(jī)制與外部記憶 借用人腦的注意力和記憶機(jī)制，處理信息過(guò)載問(wèn)題，從而提高神經(jīng)網(wǎng)絡(luò)處理信息的能力押桃。 注意力 解決信息超載問(wèn)題的主要手段...

第七章 網(wǎng)絡(luò)優(yōu)化與正則化 雖然神經(jīng)網(wǎng)絡(luò)具有非常強(qiáng)的表達(dá)能力，但是當(dāng)應(yīng)用神經(jīng)網(wǎng)絡(luò)模型到機(jī)器學(xué)習(xí)時(shí)依然存在一些難點(diǎn)問(wèn)題导犹。主要分為兩大類：（1）優(yōu)化問(wèn)...

第六章 循環(huán)神經(jīng)網(wǎng)絡(luò) 循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network唱凯，RNN）是一類具有短期記憶能力的神經(jīng)網(wǎng)絡(luò)。循環(huán)神經(jīng)網(wǎng)絡(luò)的參...

第五章 卷積神經(jīng)網(wǎng)絡(luò) 卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network谎痢，CNN或ConvNet）是一種具有局部連接波丰、權(quán)重共...

第二部分 基礎(chǔ)模型 第四章 前饋神經(jīng)網(wǎng)絡(luò) 激活函數(shù) 連續(xù)可導(dǎo)（允許少數(shù)點(diǎn)上不可導(dǎo)）的非線性函數(shù)。 激活函數(shù)和其導(dǎo)函數(shù)簡(jiǎn)單舶得。 導(dǎo)函數(shù)的值域在一個(gè)合...

《神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)》筆記 ? 入門(mén)篇 第一章 緒論 特征表示方法 局部特征 含義：也稱為離散表示或符號(hào)表示，通常是用one-hot向量的形式...