發(fā)簡信
IP屬地：北京
-
transformer語言模型原理解讀
一盆耽、簡介 基于假設(shè)：一個(gè)詞在句子中的意思莹桅，與上下文（語境）有關(guān)。與哪些詞有關(guān)呢尼荆？Transformer就是：利用點(diǎn)積將句子中所有詞的影響當(dāng)成權(quán)重...
-
Dataloader重要參數(shù)與內(nèi)部機(jī)制
@[TOC] 一左腔、pytorch數(shù)據(jù)輸入 Dataset負(fù)責(zé)生產(chǎn)數(shù)據(jù)，DataLoader負(fù)責(zé)數(shù)據(jù)的分批（batch_size）耀找、采樣(samp...
-
google-research/bert官方代碼中的坑_run_classifier_效果很差原因
[[TOC好像還不支持]] 簡介 bert官方代碼google-research/bert中有很多很強(qiáng)的設(shè)定翔悠，稍有改動就會導(dǎo)致結(jié)果很差业崖。此文檔簡...