Matlab 深度學習工具箱?入門指南(2)

創(chuàng)建簡單序列分類網(wǎng)絡

本示例說明了如何創(chuàng)建簡單的長期短期記憶(LSTM)分類網(wǎng)絡宋欺。

要訓??練深度神經(jīng)網(wǎng)絡對序列數(shù)據(jù)進行分類殷勘,可以使用LSTM網(wǎng)絡。 LSTM網(wǎng)絡是一種遞歸神經(jīng)網(wǎng)絡(RNN)竭贩,用于學習序列數(shù)據(jù)的時間步長之間的長期依賴關系印屁。

該示例演示如何:?加載序列數(shù)據(jù)。
?定義網(wǎng)絡體系結構稼锅。
?指定訓練選項吼具。
?訓練網(wǎng)絡。
?預測新數(shù)據(jù)的標簽并計算分類準確性矩距。

1)導入數(shù)據(jù)
如[1]和[2]中所述加載日語元音數(shù)據(jù)集拗盒。 預測變量是一個單元陣列,其中包含長度可變的特征維為12的序列锥债。標簽是標簽1,2陡蝇,...,9的分類向量赞弥。

[XTrain,YTrain] = japaneseVowelsTrainData; [XValidation,YValidation] = japaneseVowelsTestData;

查看前幾個訓練序列的大小。 序列是具有12行(每個要素一行)和不同列數(shù)(每個時間步長一列)的矩陣趣兄。

XTrain(1:5)
  1. 定義網(wǎng)絡架構
    定義LSTM網(wǎng)絡體系結構绽左。 指定輸入層中要素的數(shù)量,以及完全連接層中的類的數(shù)量艇潭。
numFeatures = 12; 
numHiddenUnits = 100; numClasses = 9; 
layers = [ ...
    sequenceInputLayer(numFeatures)                             lstmLayer(numHiddenUnits,'OutputMode','last') fullyConnectedLayer(numClasses) softmaxLayer classificationLayer];

3)訓練網(wǎng)絡
指定訓練選項并訓練網(wǎng)絡拼窥。
由于小批量生產(chǎn)的序列短,因此CPU更適合訓練蹋凝。 將“ ExecutionEnvironment”設置為“ cpu”鲁纠。 要在GPU上進行訓練(如果有),請將'ExecutionEnvironment'設置為'auto'(默認值)鳍寂。

miniBatchSize = 27; 
options = trainingOptions('adam', ...
    'ExecutionEnvironment','cpu', ...
    'MaxEpochs',100, ...
    'MiniBatchSize',miniBatchSize, ...
    'ValidationData',{XValidation,YValidation}, ...
    'GradientThreshold',2, ...
    'Shuffle','every-epoch', ...
    'Verbose',false, ...
    'Plots','training-progress'); 
net = trainNetwork(XTrain,YTrain,layers,options);
image.png

有關指定訓練選項的更多信息改含,請參見“設置參數(shù)和訓練卷積神經(jīng)網(wǎng)絡”。

  1. 測試網(wǎng)絡
    對測試數(shù)據(jù)進行分類并計算分類精度迄汛。 指定用于訓練的相同小批量大小捍壤。
YPred = classify(net,XValidation,'MiniBatchSize',miniBatchSize); 
acc = mean(YPred == YValidation)

acc=0.9351
對于下一步骤视,您可以嘗試使用雙向LSTM(BiLSTM)層或創(chuàng)建更深的網(wǎng)絡來提高準確性。 有關更多信息鹃觉,請參見“長短期存儲網(wǎng)絡”专酗。

有關顯示如何使用卷積網(wǎng)絡對序列數(shù)據(jù)進行分類的示例,請參見“使用深度學習的語音命令識別”盗扇。

References

1 M. Kudo, J. Toyama, and M. Shimbo. "Multidimensional Curve Classification Using Passing-Through Regions." Pattern Recognition Letters. Vol. 20, No. 11–13, pages 1103–1111.

2 UCI Machine Learning Repository: Japanese Vowels Dataset. https://archive.ics.uci.edu/ml/datasets/Japanese+Vowels

See Also
lstmLayer | trainNetwork | trainingOptions
More About
? “Long Short-Term Memory Networks”
? “Try Deep Learning in 10 Lines of MATLAB Code” on page 1-12
? “Classify Image Using Pretrained Network” on page 1-15
? “Get Started with Transfer Learning” on page 1-18
? “Transfer Learning with Deep Network Designer”
? “Create Simple Image Classification Network” on page 1-22

?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末祷肯,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子疗隶,更是在濱河造成了極大的恐慌佑笋,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,188評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件抽减,死亡現(xiàn)場離奇詭異允青,居然都是意外死亡,警方通過查閱死者的電腦和手機卵沉,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,464評論 3 395
  • 文/潘曉璐 我一進店門颠锉,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人史汗,你說我怎么就攤上這事琼掠。” “怎么了停撞?”我有些...
    開封第一講書人閱讀 165,562評論 0 356
  • 文/不壞的土叔 我叫張陵瓷蛙,是天一觀的道長。 經(jīng)常有香客問我戈毒,道長艰猬,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,893評論 1 295
  • 正文 為了忘掉前任埋市,我火速辦了婚禮冠桃,結果婚禮上,老公的妹妹穿的比我還像新娘道宅。我一直安慰自己食听,他們只是感情好,可當我...
    茶點故事閱讀 67,917評論 6 392
  • 文/花漫 我一把揭開白布污茵。 她就那樣靜靜地躺著樱报,像睡著了一般。 火紅的嫁衣襯著肌膚如雪泞当。 梳的紋絲不亂的頭發(fā)上迹蛤,一...
    開封第一講書人閱讀 51,708評論 1 305
  • 那天,我揣著相機與錄音,去河邊找鬼笤受。 笑死穷缤,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的箩兽。 我是一名探鬼主播津肛,決...
    沈念sama閱讀 40,430評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼汗贫!你這毒婦竟也來了身坐?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 39,342評論 0 276
  • 序言:老撾萬榮一對情侶失蹤落包,失蹤者是張志新(化名)和其女友劉穎部蛇,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體咐蝇,經(jīng)...
    沈念sama閱讀 45,801評論 1 317
  • 正文 獨居荒郊野嶺守林人離奇死亡涯鲁,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,976評論 3 337
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了有序。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片抹腿。...
    茶點故事閱讀 40,115評論 1 351
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖旭寿,靈堂內(nèi)的尸體忽然破棺而出警绩,到底是詐尸還是另有隱情,我是刑警寧澤盅称,帶...
    沈念sama閱讀 35,804評論 5 346
  • 正文 年R本政府宣布肩祥,位于F島的核電站,受9級特大地震影響缩膝,放射性物質發(fā)生泄漏混狠。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,458評論 3 331
  • 文/蒙蒙 一疾层、第九天 我趴在偏房一處隱蔽的房頂上張望将饺。 院中可真熱鬧,春花似錦云芦、人聲如沸俯逾。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,008評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至皇筛,卻和暖如春琉历,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,135評論 1 272
  • 我被黑心中介騙來泰國打工旗笔, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留彪置,地道東北人。 一個月前我還...
    沈念sama閱讀 48,365評論 3 373
  • 正文 我出身青樓蝇恶,卻偏偏與公主長得像拳魁,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子撮弧,可洞房花燭夜當晚...
    茶點故事閱讀 45,055評論 2 355

推薦閱讀更多精彩內(nèi)容