pre-train是遷移學(xué)習(xí)的基礎(chǔ)，雖然Google已經(jīng)發(fā)布了各種預(yù)訓(xùn)練好的模型捎谨，而且因?yàn)橘Y源消耗巨大民效，自己再預(yù)訓(xùn)練也不現(xiàn)實(shí)（在Google Cloud TPU v2 上訓(xùn)練...
發(fā)簡信
IP屬地：新竹
-
Bert系列（三）——源碼解讀之Pre-train
-
Bert系列（二）——源碼解讀之模型主體本篇文章主要是解讀模型主體代碼modeling.py。在閱讀這篇文章之前希望讀者們對bert的相關(guān)理論有一定的了解涛救，尤其是transformer的結(jié)構(gòu)原理畏邢，網(wǎng)上的資料很多，本...
-
Bert系列（四）——源碼解讀之Fine-tune這是我們源碼解讀的最后一個(gè)部分了检吆。fine-tune搞明白之后推斷也就沒必要再分析了舒萎，反正形式都是一樣的，重要的是明白根據(jù)不同任務(wù)調(diào)整輸入格式和對loss的構(gòu)建蹭沛，這兩個(gè)知識點(diǎn)...
-
Python性能優(yōu)化的20條建議
作者：開元 1.優(yōu)化算法時(shí)間復(fù)雜度 算法的時(shí)間復(fù)雜度對程序的執(zhí)行效率影響最大臂寝，在Python中可以通過選擇合適的數(shù)據(jù)結(jié)構(gòu)來優(yōu)化時(shí)間復(fù)雜度，如list和set查找某一個(gè)元素的時(shí)...
-
