1.什么是注意力機(jī)制 2.attention綜述 3.attention
針對(duì)問題:時(shí)間序列預(yù)測(cè)鲤看。LSTM的淺層架構(gòu)無法有效地表示時(shí)間序列數(shù)據(jù)的復(fù)雜特征,尤其是高度非線性和長間隔時(shí)間序列數(shù)據(jù)集谢翎。 提出模型:deep-L...
問題背景:deepLSTM模型在建模多元時(shí)間序列(MTS)性能有待提高算墨,尤其是高度非線性和長間隔的MTS數(shù)據(jù)集蹲嚣。原因:監(jiān)督學(xué)習(xí)方法在RNN中隨機(jī)...
針對(duì)問題:結(jié)構(gòu)化序列 structured sequences(如赚瘦,時(shí)空序列). 提出模型:GCRN. 圖+CNN——識(shí)別空間結(jié)構(gòu),RNN——查...
問題背景:交通流量預(yù)測(cè)忽略時(shí)空依賴性寺谤。 提出模型:Spatio-Temporal Graph Convolutional Networks (S...
針對(duì)問題:交通預(yù)測(cè)仑鸥。 提出模型:擴(kuò)散卷積遞歸神經(jīng)網(wǎng)絡(luò)(DCRNN)。DCRNN在圖形上使用雙向隨機(jī)步捕獲空間依賴性变屁,并使用計(jì)劃采樣的編碼器-解碼...
用于流量預(yù)測(cè)的時(shí)序圖卷積 問題背景:交通流量預(yù)測(cè)眼俊。 提出模型:為了同時(shí)捕獲空間和時(shí)間相關(guān)性,提出了時(shí)間圖卷積網(wǎng)絡(luò)(T-GCN)模型粟关,即將圖卷積網(wǎng)...
對(duì)RNN和CNN進(jìn)行比較 時(shí)間卷積網(wǎng)絡(luò)TCN代碼:GitHub - locuslab/TCN: Sequence modeling benchm...
問題背景:預(yù)測(cè)玻璃態(tài)系統(tǒng)中的靜態(tài)結(jié)構(gòu)變化 提出模型:使用圖神經(jīng)網(wǎng)絡(luò)疮胖,僅從初始粒子位置確定玻璃態(tài)系統(tǒng)的長期演化,而沒有任何手工特征闷板。 通過我們的網(wǎng)...