論文提出二值化多任務(wù)密集預(yù)測器 Bi-MTDP，通過二值神經(jīng)網(wǎng)絡(luò)（BNNs）顯著加速多任務(wù)密集預(yù)測模型粗井，同時保持甚至提高模型性能。為了避免信息嚴(yán)...

作者發(fā)現(xiàn)深層ViT出現(xiàn)的注意力崩潰問題街图，提出了新穎的Re-attention機(jī)制來解決浇衬，而且計(jì)算量和內(nèi)存開銷都很少。通過Re-attention...

DPP能夠?qū)δ繕?biāo)檢測proposal進(jìn)行非統(tǒng)一處理耘擂，根據(jù)proposal選擇不同復(fù)雜度的算子，加速整體推理過程絮姆。從實(shí)驗(yàn)結(jié)果來看醉冤，效果非常不錯來源...

論文主要處理Vision Transformer中的性能問題，采用推理速度不同的級聯(lián)模型進(jìn)行速度優(yōu)化蚁阳，搭配層級間的特征復(fù)用和自注意力關(guān)系復(fù)用來提...

論文提出了經(jīng)典的Vision Transormer模型Swin Transformer，能夠構(gòu)建層級特征提高任務(wù)準(zhǔn)確率螺捐，而且其計(jì)算復(fù)雜度經(jīng)過各種...

論文設(shè)計(jì)了用于密集預(yù)測任務(wù)的純Transformer主干網(wǎng)絡(luò)PVT，包含漸進(jìn)收縮的特征金字塔結(jié)構(gòu)和spatial-reduction atten...

論文基于改進(jìn)訓(xùn)練配置以及一種新穎的蒸餾方式定血，提出了僅用ImageNet就能訓(xùn)練出來的Transformer網(wǎng)絡(luò)DeiT赔癌。在蒸餾學(xué)習(xí)時，DeiT以...

論文直接將純Trasnformer應(yīng)用于圖像識別澜沟，是Trasnformer在圖像領(lǐng)域正式挑戰(zhàn)CNN的開山之作灾票。這種簡單的可擴(kuò)展結(jié)構(gòu)在與大型數(shù)據(jù)集...

論文提出能夠適配硬件加速的動態(tài)網(wǎng)絡(luò)DS-Net刊苍，通過提出的double-headed動態(tài)門控來實(shí)現(xiàn)動態(tài)路由”粑觯基于論文提出的高性能網(wǎng)絡(luò)設(shè)計(jì)和IEB...