transformer decoder里的K和V為什么要用encoder輸出的K和Vimage.pngIn "encoder-decoder attention" layer...
發(fā)簡信
IP屬地：江西
-
transformer內(nèi)部細(xì)節(jié) -
漫畫：怎么讓代碼不再臃腫皆刺，寫的像詩一樣優(yōu)雅基本類型偏執(zhí) 基本類型偏執(zhí)(Primitive Obsession)使用基本類型而不是小對象來實(shí)現(xiàn)簡單任務(wù)（例如貨幣袱讹、范圍意推、電話號碼字符串等）溯街。使用常量編碼信息（例如一個(gè)用于...
-
2022-03-11 leetcode刷題
2049 統(tǒng)計(jì)最高分的節(jié)點(diǎn)數(shù)目[https://leetcode-cn.com/problems/count-nodes-with-the-highest-score/] 0...
-
2021-12-06 bert model
attention mask如何使用 attention_mask List[int] 0-mask,1-attentionforward(,attention_mask,)...
-
2021-09-10reading
雙向模型只在encoder铅乡，不在decoder（前向預(yù)測）嗎榔幸？類的繼承g(shù)ithub頁面上傳只有25M類的寫法坊谁，其中繼承自父類的構(gòu)造方法寫作 forward方法繼承自父類的fo...
-
2021-09-11 leetcode刷題1.9.10號每日一題搔耕，好的優(yōu)化時(shí)間養(yǎng)成的好習(xí)慣隙袁，使得沒有被暴力卡住 一個(gè)班級里有 n 個(gè)學(xué)生，編號為 0 到 n - 1 弃榨。每個(gè)學(xué)生會依次回答問題菩收，編號為 0 的學(xué)生先回答...
-
2021-09-07周賽and雙周賽
思想沒錯(cuò)，缺點(diǎn)是沒有理解題意+數(shù)據(jù)結(jié)構(gòu)模糊+沒有預(yù)處理+取模和去除多余數(shù) 給你一個(gè)整數(shù)數(shù)組 nums 鲸睛。如果 nums 的一個(gè)子集中坛梁，所有元素的乘積可以用若干個(gè) 互不相同的質(zhì)...
-
2021-09-07編程trick
動態(tài)規(guī)劃，僅僅與上一狀態(tài)有關(guān)的腊凶，可以滾動數(shù)組 滾動數(shù)組時(shí)划咐，一般生成一個(gè)新的數(shù)組，當(dāng)作新數(shù)組钧萍，因?yàn)橛洃洈?shù)組需要在外部設(shè)置全局變量去記憶褐缠，占用大量內(nèi)存 一般的，記數(shù)問題都可以使用...
-
2021-09-02leetcode
代碼寫的亂风瘦，更容易被卡 思路：模擬棧队魏，先把乘除計(jì)算完（合成數(shù)字），再算加減（需要做個(gè)逆序）超出時(shí)間限制因?yàn)槭褂胹um(op_stack)，所以要加入-num_per胡桨，故導(dǎo)致負(fù)...
-
python中defaultdict用法詳解
認(rèn)識defaultdict： 當(dāng)我使用普通的字典時(shí)官帘，用法一般是dict={},添加元素的只需要dict[element] =value即，調(diào)用的時(shí)候也是如此昧谊，dict[ele...
-
2021-08-23周賽難題惡補(bǔ)11981. 最小化目標(biāo)值與所選元素的差[https://leetcode-cn.com/problems/minimize-the-difference-between-t...
-
2021-08-21leetcode刷題背包問題進(jìn)階版刽虹，商品可無限選擇直至選擇到某固定金額 給你一個(gè)整數(shù)數(shù)組 coins ，表示不同面額的硬幣呢诬；以及一個(gè)整數(shù) amount 涌哲，表示總金額。計(jì)算并返回可以湊成總金額所需...
-
2021-08-19leetcode刷題
區(qū)間dp降低時(shí)間復(fù)雜度 給你一個(gè)字符串 s 尚镰，找出其中最長的回文子序列阀圾，并返回該序列的長度。子序列定義為：不改變剩余字符順序的情況下狗唉，刪除某些字符或者不刪除任何字符形成的一個(gè)...
-
2021-08-15254周賽感想
快速冪+貪心思想 p=x+y min(xy)R(x,y)=xy+v(p-x-y)易知(v,v)是R的最大值初烘，而向x，y距離越遠(yuǎn)分俯，xy值越小账月，多變量亦具有該性質(zhì) 給你一個(gè)正整數(shù)...
-
2021-08-09leetcode刷題近幾天使用的進(jìn)階python語法 zip(*)將列轉(zhuǎn)換為行，是二維數(shù)組轉(zhuǎn)換為[(),(),()]形式澳迫。 set()增加元素使用add 列表由值找索引局齿，使用index(valu...
-
2021-08-05leetcode刷題
給定一個(gè)非負(fù)整數(shù)數(shù)組 nums ，你最初位于數(shù)組的 第一個(gè)下標(biāo) 橄登。數(shù)組中的每個(gè)元素代表你在該位置可以跳躍的最大長度抓歼。判斷你是否能夠到達(dá)最后一個(gè)下標(biāo)。 通過規(guī)范代碼拢锹，可以使得相...
-
2021-08-03leetcode刷題題編寫一個(gè)高效的算法來判斷 m x n 矩陣中谣妻，是否存在一個(gè)目標(biāo)值。該矩陣具有如下特性：每行中的整數(shù)從左到右按升序排列卒稳。每行的第一個(gè)整數(shù)大于前一行的最后一個(gè)整數(shù)蹋半。 下面的題與...
-
2021-07-26leetcode刷題
輸入一個(gè)鏈表的頭節(jié)點(diǎn)，從尾到頭反過來返回每個(gè)節(jié)點(diǎn)的值（用數(shù)組返回）充坑。示例 1：輸入：head = [1,3,2]輸出：[2,3,1]