
AttentionCellWrapper的疑問 關注Attention機制的同學們都知道,Attention最初是在Encoder-Decoder結構中由Bahdanau提出...
前面兩篇分別梳理了下BERT的原理和BERT的訓練,接著前面的內(nèi)容,梳理下BERT是如何在下游任務上運用的易茬。 原理就是上面這個圖了。四種任務及老,實際上從他的訓練模型的代碼和...
寫這篇文章的時候抽莱,跳過了兩個專題,因為BERT的確太火了骄恶,也比較實用吧食铐,就拿最近的閱讀理解比賽來說,幾乎霸榜了僧鲁,比如下面這個圖: 之所以NLP這么多任務都會被刷新紀錄虐呻,是因為...
0點52分,唉睡不著费薄。 剛讀完第二遍《黃金時代》硝全。相比上一次的一臉懵逼,這次像是摸到了一點頭緒楞抡。 以前讀錢鐘書伟众,心是暖的;讀春上召廷,心是軟的凳厢;這次讀王小波,心是涼的竞慢。黃金的時代...