TL;DR paper中的位置編碼定義可以直觀理解為 "鐘表盤上每個(gè)針頭的位置坐標(biāo)" 跟直接拿index作為位置編碼的方案相比钮追,這種定義有兩個(gè)優(yōu)點(diǎn)可以使用不含bias的線性變...

IP屬地:廣東
TL;DR paper中的位置編碼定義可以直觀理解為 "鐘表盤上每個(gè)針頭的位置坐標(biāo)" 跟直接拿index作為位置編碼的方案相比钮追,這種定義有兩個(gè)優(yōu)點(diǎn)可以使用不含bias的線性變...