發(fā)簡(jiǎn)信
IP屬地：青海
-
一種解決bert長(zhǎng)文本匹配的方法引言 bert[1]提出來(lái)后打開(kāi)了遷移學(xué)習(xí)的大門工禾，首先通過(guò)無(wú)監(jiān)督的語(yǔ)料訓(xùn)練通用的語(yǔ)言模型鱼鼓，然后基于自己的語(yǔ)料微調(diào)(finetune)模型來(lái)達(dá)到不...
-
ALBert論文閱讀筆記-縮減版的bert辟汰，模型參數(shù)更少叠必，性能更好
引言 自從Bert被提出來(lái)后崎逃，后續(xù)的研究者大多基于bert進(jìn)行改造丽焊，提升預(yù)訓(xùn)練語(yǔ)言模型性能较剃，從而提高下游任務(wù)的性能。比如ERINE技健、BERT_W...