神經(jīng)網(wǎng)絡(luò)也能像人類利用外圍視覺一樣觀察圖像

<h1>
</h1><div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-7cca89770e970d8d.jpeg" img-data="{"format":"jpeg","size":80477,"height":668,"width":982}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
<h1>本篇分享論文『Peripheral Vision Transformer』，POSTECH&MSRA&中科大提出PerViT单旁，讓神經(jīng)網(wǎng)絡(luò)也能關(guān)注圖片中的重點信息吟温！</h1>
詳細(xì)信息如下：
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-af41f069fb6366d6.jpeg" img-data="{"format":"jpeg","size":34589,"height":342,"width":862}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
<ol><li>論文地址：https://arxiv.org/abs/2206.06801</li><li>項目地址：http://cvlab.postech.ac.kr/research/PerViT/ （尚未開源）</li></ol><h1>
</h1>
 01 <h1>摘要</h1>
人類視覺擁有一種特殊類型的視覺處理系統(tǒng)姑尺，稱為外圍視覺（peripheral vision）厂抖。根據(jù)到凝視中心的距離將整個視野劃分為多個輪廓區(qū)域灸眼，外圍視覺為人類提供了感知不同區(qū)域的各種視覺特征的能力卧檐。
在這項工作中，作者采用了一種受生物學(xué)啟發(fā)的方法焰宣，并探索在深度神經(jīng)網(wǎng)絡(luò)中對外圍視覺進行建模以進行視覺識別霉囚。作者提出將外圍位置編碼合并到多頭自注意力層中，以讓網(wǎng)絡(luò)學(xué)習(xí)在給定訓(xùn)練數(shù)據(jù)的情況下將視野劃分為不同的外圍區(qū)域匕积。
作者在大規(guī)模 ImageNet 數(shù)據(jù)集上評估了本文提出的網(wǎng)絡(luò)PerViT盈罐，并系統(tǒng)地研究了機器感知模型的內(nèi)部工作原理，表明該網(wǎng)絡(luò)學(xué)習(xí)感知視覺數(shù)據(jù)的方式類似于人類視覺的方式闪唆。在各種模型大小的圖像分類任務(wù)中的最新性能證明了所提出方法的有效性盅粪。

 02 <h1>Motivation</h1>
在過去的十年中，卷積一直是視覺識別神經(jīng)網(wǎng)絡(luò)中的主要特征轉(zhuǎn)換悄蕾，因為它在圖像空間配置建模方面具有優(yōu)勢票顾。盡管在學(xué)習(xí)視覺模式方面很有效，但卷積核的局部和靜止特性限制了靈活處理中表示能力的最大程度帆调，例如奠骄，具有全局感受野的動態(tài)變換。
自注意力最初是為自然語言處理 (NLP) 設(shè)計的番刊，它闡明了這個方向含鳞；配備自適應(yīng)輸入處理和捕獲遠(yuǎn)程交互的能力，它已成為計算機視覺的替代特征變換芹务，被廣泛用作核心構(gòu)建塊蝉绷。
然而，獨立的自注意模型枣抱，例如 ViT熔吗，需要更多的訓(xùn)練數(shù)據(jù)才能與其卷積對應(yīng)物的競爭性能，因為它們錯過了卷積的某些理想屬性沃但，例如磁滚，局部性。卷積和自注意力的這些固有優(yōu)缺點鼓勵了最近對兩者結(jié)合的研究宵晚，以便享受兩全其美，但哪一種最適合有效的視覺處理维雇，但在文獻中尚有爭議淤刃。
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-ee265106905a18a1.jpeg" img-data="{"format":"jpeg","size":33322,"height":481,"width":329}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
與機器視覺中占主導(dǎo)地位的視覺特征轉(zhuǎn)換不同，人類視覺擁有一種特殊類型的視覺處理系統(tǒng)吱型，稱為外圍視覺（peripheral vision）逸贾。它根據(jù)到凝視中心的距離將整個視覺劃分為多個輪廓區(qū)域，其中每個區(qū)域標(biāo)識不同的視覺方面。如上圖所示铝侵，人類在注視中心附近（即中心和準(zhǔn)中心區(qū)域）進行了高分辨率處理灼伤，以識別高度詳細(xì)的視覺元素，例如幾何形狀和低級細(xì)節(jié)咪鲜。
對于距離注視更遠(yuǎn)的區(qū)域狐赡，即中部和遠(yuǎn)邊緣區(qū)域，分辨率會降低以識別抽象的視覺特征疟丙，例如運動和高級上下文颖侄。這種系統(tǒng)化的策略使人類能夠有效地感知一小部分（1%）視野內(nèi)的重要細(xì)節(jié)，同時最大限度地減少對其余部分（99%）背景雜波的不必要處理享郊，從而促進人腦的高效視覺處理览祖。
根據(jù)最近對視覺Transformer內(nèi)部工作原理的研究，它們的行為實際上與外圍視覺的功能密切相關(guān)炊琉。學(xué)習(xí)早期層的注意力圖以局部捕獲中心區(qū)域的細(xì)粒度幾何細(xì)節(jié)展蒂，而后面層的注意力圖則執(zhí)行全局注意力以從整個視野中識別粗粒度語義和上下文，覆蓋外圍區(qū)域苔咪。

這些發(fā)現(xiàn)表明玄货，模仿生物設(shè)計可能有助于對有效的機器視覺進行建模，并且還支持最近實現(xiàn)卷積和自注意的混合方法悼泌，而不僅僅是獨立的視覺處理松捉。兩種不同感知策略的優(yōu)勢：細(xì)粒度/局部和粗粒度/全局。
在這項工作中馆里，作者采用了一種受生物學(xué)啟發(fā)的方法隘世，并提出將外圍歸納偏置注入深度神經(jīng)網(wǎng)絡(luò)以進行圖像識別。作者提出將外圍注意力機制結(jié)合到多頭自注意力中鸠踪，以讓網(wǎng)絡(luò)學(xué)習(xí)在給定訓(xùn)練數(shù)據(jù)的情況下將視野劃分為不同的外圍區(qū)域丙者，其中每個區(qū)域捕獲不同的視覺特征。作者通過實驗表明营密，所提出的網(wǎng)絡(luò)對有效的視覺外圍進行了建模械媒，以實現(xiàn)可靠的視覺識別。
本文的主要貢獻可以總結(jié)如下：<ol><li>這項工作探索通過將外圍歸納偏置注入自注意力層來縮小人類和機器視覺之間的差距评汰，并提出了一種稱為多頭外圍注意 (MPA) 的新形式的特征轉(zhuǎn)換纷捞。</li><li>在 MPA 的基礎(chǔ)上，作者引入 PerViT（PerViT）被去，并通過定性和定量分析 PerViT 的學(xué)習(xí)注意力系統(tǒng)地研究 PerViT 的內(nèi)部工作原理主儡，這揭示了網(wǎng)絡(luò)學(xué)習(xí)感知視覺元素的方式類似于人類視覺沒有的方式任何特殊監(jiān)督。</li><li>不同模型大小的圖像分類任務(wù)的最新性能驗證了所提出方法的有效性惨缆。</li></ol><h1>
</h1>
 03 <h1>方法
</h1>
具有個頭的多頭自注意力 (MHSA)通過聚合個自注意力輸出來執(zhí)行基于注意力的特征轉(zhuǎn)換：
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-446372de7b778e01.jpeg" img-data="{"format":"jpeg","size":5947,"height":56,"width":498}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
其中是一組輸入token糜值，和是轉(zhuǎn)換參數(shù)丰捷。自注意力的個輸出旨在從輸入表示中提取一組不同的特征。形式上，head h 的 self-attention 定義為：
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-56d98a8d37c6427f.jpeg" img-data="{"format":"jpeg","size":4922,"height":42,"width":454}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
其中 Normalize[·] 表示逐行歸一化，是一個基于內(nèi)容信息提供空間注意力以聚合值的函數(shù)：
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-e1532249a9fd6d6b.jpeg" img-data="{"format":"jpeg","size":6090,"height":47,"width":544}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
使用的線性投影分別用于查詢鞠柄、鍵和值。<h2>3.1 Peripheral Vision Transformer</h2>基于 MHSA 的公式停巷，作者將多頭外圍注意 (MPA) 定義為：
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-f5556a1ba86ccd6d.jpeg" img-data="{"format":"jpeg","size":6508,"height":42,"width":565}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
其中是具有通道維度的相對位置編碼。MHSA 中的 self-attention 現(xiàn)在被 Peripheral-Attention 取代累贤，由基于內(nèi)容和位置的注意力函數(shù)組成叠穆，定義為：
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-7323c40a5f3de0d2.jpeg" img-data="{"format":"jpeg","size":7417,"height":53,"width":646}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>其中是 Hadamard 積臼膏，它混合了給定的注意力對以提供混合注意力硼被。對于基于內(nèi)容的注意力，作者在查詢和鍵之間使用指數(shù)（縮放）點積：渗磅。對于基于位置的注意力嚷硫，作者設(shè)計了一個旨在模仿人類視覺系統(tǒng)（例如外圍視覺）的神經(jīng)網(wǎng)絡(luò)。<h3>Modelling peripheral vision: a Roadmap</h3>人類視野可以根據(jù)與注視中心的歐式距離分為幾個區(qū)域始鱼，每個區(qū)域形成如圖1所示的環(huán)形區(qū)域仔掸，其中每個區(qū)域捕獲不同的視覺方面；離凝視越近医清，處理的特征越復(fù)雜起暮，離凝視越遠(yuǎn)，感知的視覺特征就越簡單会烙。
在二維注意力圖的上下文中负懦，作者將查詢位置，即感興趣的特征所在的位置進行變換柏腻，作為注視中心纸厉，局部查詢周圍的區(qū)域為中心/準(zhǔn)中心區(qū)域，其余為中/遠(yuǎn)外圍區(qū)域五嫂。
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-7257e72fd00735fb.jpeg" img-data="{"format":"jpeg","size":32584,"height":369,"width":422}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
也許將視野劃分為多個子區(qū)域的最簡單方法是對歐式距離執(zhí)行單個線性投影颗品，即，其中,為了直接模仿外圍視覺沃缘，作者使用歐式距離作為相對位置輸入 R躯枢，并以種不同方式權(quán)衡距離，以便網(wǎng)絡(luò)學(xué)習(xí)多個尺度的映射：孩灯，其中是一組跨層和頭共享的可學(xué)習(xí)參數(shù)闺金，并且是查詢和鍵位置之間的歐式距離，峰档。
對于 σ败匹，作者選擇 sigmoid 來為基于內(nèi)容的注意力提供歸一化權(quán)重。這種單層公式的一個主要缺點是只能提供如上圖左上角所示的類似高斯的注意力圖讥巡，因此無法表示不同的外圍區(qū)域掀亩。對于表示不同（環(huán)形）外圍區(qū)域的編碼函數(shù)，距離必須由 MLP 處理：
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-a91ec0cf2f2c78d2.jpeg" img-data="{"format":"jpeg","size":8354,"height":59,"width":720}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
其中和 是線性投影參數(shù)欢顷，ReLU 賦予函數(shù)非線性槽棍。第一個投影在頭之間共享以交換信息，因此每個特征都能夠提供對其他頭注意力有效或互補的注意力抬驴。給定固定查詢點和關(guān)鍵點之間的相同相對距離炼七，即，上式提供了相同的注意力分?jǐn)?shù)：布持，如上圖的右上角所示豌拙。
然而，在實際場景中并不總是需要此屬性题暖，因為旋轉(zhuǎn)對稱屬性幾乎不適用于大多數(shù)現(xiàn)實世界的對象按傅。為了打破上式中的對稱屬性，并充分保留外圍設(shè)計胧卤，作者引入外圍投影（peripheral projection）唯绍，其中變換參數(shù)被賦予小的空間分辨率，使得和枝誊，因此它們提供相似但不同的注意力分?jǐn)?shù)况芒，。給定叶撒，通過參考鍵周圍的相鄰相對距離：
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-1d51a3ec25d3585e.jpeg" img-data="{"format":"jpeg","size":8578,"height":81,"width":665}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
其中是一個提供輸入位置周圍的一組鄰域的函數(shù)绝骚。在每個外圍投影之后，作者添加一個實例歸一化層以進行穩(wěn)定優(yōu)化：
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-00b77569742ccd1f.jpeg" img-data="{"format":"jpeg","size":9245,"height":57,"width":795}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
其中是實例范數(shù)的權(quán)重/偏置痊乾。上圖的中間行描繪了具有外圍投影的的學(xué)習(xí)注意力皮壁，與沒有 N 的單層和多層對應(yīng)物相比，它提供了更多樣化的外圍注意力圖哪审。<h3>Peripheral initialization</h3>最近的研究觀察到蛾魄，受過訓(xùn)練的視覺Transformer的早期層學(xué)習(xí)局部關(guān)注，而后期層則執(zhí)行全局關(guān)注湿滓。為了促進本文網(wǎng)絡(luò)的訓(xùn)練滴须，作者在訓(xùn)練階段的開始注入這個屬性，為此目的通過初始化 的參數(shù)叽奥，使靠近查詢的注意力分?jǐn)?shù)大于早期層中較遠(yuǎn)的查詢扔水，同時均勻地分布在后期層中，如上圖的底行所示朝氓。
作者將此方法稱為外圍初始化（ peripheral initialization）魔市，因為它類似于外圍視覺的特征主届，外圍視覺也可以在局部或全局范圍內(nèi)操作以感知不同的視覺。給定兩個任意選擇的距離待德，滿足 君丁，作者希望，即早期層的局部注意力将宪。
對于后期層的全局注意力绘闷，作者希望。作者首先將和的參數(shù)初始化為特定值较坛。具體來說印蔗，對于所有層和 head ：
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-764bd49585f6ca3b.jpeg" img-data="{"format":"jpeg","size":7274,"height":40,"width":825}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
其中是正實數(shù)，指的是大小為 N × M 的全一矩陣丑勤。上述初始化在第二次外圍投影后提供局部注意力华嘹，即給定，确封。
接下來除呵，基于本文的發(fā)現(xiàn)，即第二實例范數(shù)中的偏差和權(quán)重分別控制局部注意力的大小和強度爪喘，通過將它們的初始值設(shè)置為來模擬外圍初始化颜曾，其中是注意力大小和強度的初始值集。<h2>3.2 Overall Architecture</h2><div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-8a7fd40640f15d10.jpeg" img-data="{"format":"jpeg","size":35647,"height":382,"width":433}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
基于提出的外圍投影和初始化秉剑，作者開發(fā)了稱為外圍視覺Transformer的圖像分類模型泛豪，如上圖所示。原始的 patchify stem由于其粗粒度的早期視覺處理而表現(xiàn)出不合標(biāo)準(zhǔn)的可優(yōu)化性侦鹏，因此許多最近的 ViT 模型采用多分辨率金字塔設(shè)計來緩解該問題诡曙。
雖然金字塔模型在學(xué)習(xí)可靠的圖像嵌入方面已經(jīng)顯示出它們的功效，但作者堅持使用 PerViT 的原始單分辨率圓柱形設(shè)計略水，因為多分辨率的特征使本文的研究難以解釋价卤。為了進行細(xì)粒度的早期處理，同時保持跨層的單分辨率特征渊涝，作者采用卷積patch嵌入層慎璧，通道尺寸具有多階段布局。卷積嵌入層由四個 3×3 和一個 1×1 卷積組成跨释，其中 3×3 卷積后面是BatchNorm和ReLU胸私。<h3>Peripheral Vision Transformer </h3>給定一張圖像，卷積patch嵌入提供了token嵌入鳖谈。嵌入被饋送到個塊岁疼，每個塊由一個 MPA 層和一個帶有殘差路徑的前饋網(wǎng)絡(luò)組成：
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-79c79f4675cf91f6.jpeg" img-data="{"format":"jpeg","size":6927,"height":44,"width":700}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
其中 LN 是層歸一化，F(xiàn)FN 是由兩個帶有 GELU 激活的線性變換組成的 MLP缆娃。作者在第一層歸一化之前采用卷積位置編碼 (CPE)捷绒，即 3 × 3 深度卷積瑰排。輸出被全局平均池化以形成圖像嵌入。<h1>
</h1>
 04 <h1>實驗</h1>
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-002d1b35d3ac1e3a.jpeg" img-data="{"format":"jpeg","size":24584,"height":234,"width":475}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
上圖展示了學(xué)習(xí)到的注意力圖疙驾，可以觀察到注意力被學(xué)習(xí)到處于不同形狀的外圍區(qū)域中凶伙。
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-32f7c1095e6d765a.jpeg" img-data="{"format":"jpeg","size":17326,"height":221,"width":351}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
上圖的餅圖描述了 Tiny郭毕、Small 和 Medium 模型的外圍區(qū)域的比例它碎，其中條形圖以分層方式顯示它們。
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-50893fe9a3f330f8.jpeg" img-data="{"format":"jpeg","size":62765,"height":404,"width":845}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
為了研究基于位置的注意力如何對混合注意力 做出貢显押，作者收集樣本圖像并將其在上圖中的第 3扳肛、4 和 8 層的注意力圖可視化。
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-cec9b99e4d72e944.jpeg" img-data="{"format":"jpeg","size":48139,"height":260,"width":875}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
如上圖所示乘碑，作者觀察到一個明顯的趨勢挖息，即基于位置的注意力的影響在早期處理中顯著更高，半動態(tài)地轉(zhuǎn)換特征兽肤，而后面的層需要較少的位置信息套腹，將視為較小的位置偏差。這種趨勢隨著更大的模型變得更加明顯资铡，如上圖右側(cè)所示电禀；與 Tiny 模型相比，Small 和 Medium 模型更多地利用動態(tài)轉(zhuǎn)換笤休，尤其是在后面的層中尖飞。
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-15263d690ee1cad6.jpeg" img-data="{"format":"jpeg","size":35017,"height":222,"width":846}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
如上圖所示，作者觀察到之間相似的局部性趨勢店雅，這表明位置信息在形成用于特征轉(zhuǎn)換的空間注意力 () 方面比內(nèi)容信息更占主導(dǎo)地位政基。
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-26be26f03fe5a15a.jpeg" img-data="{"format":"jpeg","size":48475,"height":419,"width":578}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
上表展示了本文方法和SOTA方法的對比結(jié)果。
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-dbecdee52503bf6b.jpeg" img-data="{"format":"jpeg","size":18183,"height":223,"width":322}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
上表展示了不同相對位置編碼的結(jié)果對比闹啦。
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-e4cc6f585ba68dc4.jpeg" img-data="{"format":"jpeg","size":23445,"height":221,"width":523}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
上表展示了本文方法的不同模塊的消融結(jié)果沮明。
<div class="image-package"><img src="https://upload-images.jianshu.io/upload_images/11486041-6af4ae41c6882d92.jpeg" img-data="{"format":"jpeg","size":28742,"height":425,"width":272}" class="uploaded-img" style="min-height:200px;min-width:200px;" width="auto" height="auto"/>
</div>
上表展示了不同的初始化方法和網(wǎng)絡(luò)設(shè)計對實驗結(jié)果的影響。<h1>
</h1>
 05 <h1>總結(jié)
</h1>
本文探索了將人類周邊視覺與機器視覺相結(jié)合以實現(xiàn)有效的視覺識別窍奋，并提出了周邊視覺Transformer荐健，該Transformer學(xué)習(xí)提供各種基于位置的注意力來使用周邊投影和初始化來模擬周邊視覺。
作者系統(tǒng)地研究了所提出網(wǎng)絡(luò)的內(nèi)部工作原理费变，并觀察到網(wǎng)絡(luò)通過學(xué)習(xí)決定特征轉(zhuǎn)換中的局部性和動態(tài)性水平摧扇，通過網(wǎng)絡(luò)本身給定訓(xùn)練數(shù)據(jù)，從而享受卷積和自注意力的好處挚歧。在不同模型大小和深入的消融研究中扛稽，ImageNet 上現(xiàn)有技術(shù)的持續(xù)改進證實了所提出方法的有效性。
<h3>參考資料</h3>[1]https://arxiv.org/abs/2206.06801
▊ 作者簡介研究領(lǐng)域：FightingCV公眾號運營者滑负，研究方向為多模態(tài)內(nèi)容理解在张，專注于解決視覺模態(tài)和語言模態(tài)相結(jié)合的任務(wù)用含，促進Vision-Language模型的實地應(yīng)用。知乎/公眾號：FightingCV
已建立深度學(xué)習(xí)公眾號——FightingCV帮匾，歡迎大家關(guān)注Ｗ暮А！瘟斜！
ICCV缸夹、CVPR、NeurIPS螺句、ICML論文解析匯總：https://github.com/xmu-xiaoma666/FightingCV-Paper-Reading
面向小白的Attention虽惭、重參數(shù)、MLP蛇尚、卷積核心代碼學(xué)習(xí)：https://github.com/xmu-xiaoma666/External-Attention-pytorch

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者

人面猴
序言：七十年代末芽唇，一起剝皮案震驚了整個濱河市，隨后出現(xiàn)的幾起案子取劫，更是在濱河造成了極大的恐慌匆笤，老刑警劉巖，帶你破解...
沈念sama閱讀 212,816評論 6贊 492
死咒
序言：濱河連續(xù)發(fā)生了三起死亡事件谱邪，死亡現(xiàn)場離奇詭異炮捧，居然都是意外死亡，警方通過查閱死者的電腦和手機虾标，發(fā)現(xiàn)死者居然都...
沈念sama閱讀 90,729評論 3贊 385
救了他兩次的神仙讓他今天三更去死
文/潘曉璐我一進店門寓盗，熙熙樓的掌柜王于貴愁眉苦臉地迎上來，“玉大人璧函，你說我怎么就攤上這事傀蚌。” “怎么了蘸吓？”我有些...
開封第一講書人閱讀 158,300評論 0贊 348
道士緝兇錄：失蹤的賣姜人
文/不壞的土叔我叫張陵善炫，是天一觀的道長。經(jīng)常有香客問我库继，道長箩艺，這世上最難降的妖魔是什么？我笑而不...
開封第一講書人閱讀 56,780評論 1贊 285
?港島之戀（遺憾婚禮）
正文為了忘掉前任宪萄，我火速辦了婚禮艺谆，結(jié)果婚禮上，老公的妹妹穿的比我還像新娘拜英。我一直安慰自己静汤，他們只是感情好，可當(dāng)我...
茶點故事閱讀 65,890評論 6贊 385
惡毒庶女頂嫁案：這布局不是一般人想出來的
文/花漫我一把揭開白布。她就那樣靜靜地躺著虫给，像睡著了一般藤抡。火紅的嫁衣襯著肌膚如雪。梳的紋絲不亂的頭發(fā)上抹估，一...
開封第一講書人閱讀 50,084評論 1贊 291
城市分裂傳說
那天缠黍，我揣著相機與錄音，去河邊找鬼药蜻。笑死瓷式，一個胖子當(dāng)著我的面吹牛，可吹牛的內(nèi)容都是我干的谷暮。我是一名探鬼主播蒿往，決...
沈念sama閱讀 39,151評論 3贊 410
雙鴛鴦連環(huán)套：你想象不到人心有多黑
文/蒼蘭香墨我猛地睜開眼，長吁一口氣：“原來是場噩夢啊……” “哼湿弦！你這毒婦竟也來了？” 一聲冷哼從身側(cè)響起腾夯，我...
開封第一講書人閱讀 37,912評論 0贊 268
萬榮殺人案實錄
序言：老撾萬榮一對情侶失蹤颊埃，失蹤者是張志新（化名）和其女友劉穎，沒想到半個月后蝶俱，有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體班利，經(jīng)...
沈念sama閱讀 44,355評論 1贊 303
?護林員之死
正文獨居荒郊野嶺守林人離奇死亡，尸身上長有42處帶血的膿包…… 初始之章·張勛以下內(nèi)容為張勛視角年9月15日...
茶點故事閱讀 36,666評論 2贊 327
?白月光啟示錄
正文我和宋清朗相戀三年榨呆，在試婚紗的時候發(fā)現(xiàn)自己被綠了罗标。大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
茶點故事閱讀 38,809評論 1贊 341
活死人
序言：一個原本活蹦亂跳的男人離奇死亡积蜻，死狀恐怖闯割，靈堂內(nèi)的尸體忽然破棺而出，到底是詐尸還是另有隱情竿拆，我是刑警寧澤宙拉，帶...
沈念sama閱讀 34,504評論 4贊 334
?日本核電站爆炸內(nèi)幕
正文年R本政府宣布，位于F島的核電站丙笋，受9級特大地震影響谢澈，放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜御板，卻給世界環(huán)境...
茶點故事閱讀 40,150評論 3贊 317
男人毒藥：我在死后第九天來索命
文/蒙蒙一锥忿、第九天我趴在偏房一處隱蔽的房頂上張望。院中可真熱鬧怠肋，春花似錦敬鬓、人聲如沸。這莊子的主人今日做“春日...
開封第一講書人閱讀 30,882評論 0贊 21
一樁弒父案列林，背后竟有這般陰謀
文/蒼蘭香墨我抬頭看了看天上的太陽瑞你。三九已至，卻和暖如春希痴，著一層夾襖步出監(jiān)牢的瞬間者甲，已是汗流浹背。一陣腳步聲響...
開封第一講書人閱讀 32,121評論 1贊 267
情欲美人皮
我被黑心中介騙來泰國打工砌创，沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留虏缸，地道東北人。一個月前我還...
沈念sama閱讀 46,628評論 2贊 362
代替公主和親
正文我出身青樓嫩实，卻偏偏與公主長得像刽辙，于是被迫代替她去往敵國和親。傳聞我的和親對象是個殘疾皇子甲献，可洞房花燭夜當(dāng)晚...
茶點故事閱讀 43,724評論 2贊 351

神經(jīng)網(wǎng)絡(luò)也能像人類利用外圍視覺一樣觀察圖像

推薦閱讀更多精彩內(nèi)容