[圖片上傳失敗...(image-6f792c-1593862843865)]
論文標(biāo)題：GAPNet: Graph Attention based Point Neural
Network for Exploiting Local Feature of Point Cloud（用于點(diǎn)云局部特征提取的圖注意力神經(jīng)網(wǎng)絡(luò)）
論文來(lái)源：arxiv2019
論文鏈接：https://arxiv.org/abs/1905.08705
1粉怕、背景
由于點(diǎn)云在非歐幾里得空間中具有不規(guī)則和稀疏的結(jié)構(gòu)荆烈，利用點(diǎn)云的細(xì)粒度語(yǔ)義特征仍然具有挑戰(zhàn)性。在已有的研究中让禀，PointNet提供了一種在無(wú)序三維點(diǎn)云上直接學(xué)習(xí)形狀特征的有效方法，取得了較好的效果允睹。然而棉圈，有助于更好的上下文學(xué)習(xí)的本地特性沒(méi)有被考慮。同時(shí)胚膊，注意機(jī)制通過(guò)對(duì)鄰近節(jié)點(diǎn)的關(guān)注故俐，可以有效地捕獲基于圖的數(shù)據(jù)上的節(jié)點(diǎn)表示。本文提出了一種新的點(diǎn)云神經(jīng)網(wǎng)絡(luò)GAPNet紊婉，通過(guò)在多層感知器(MLP)層中嵌入圖注意機(jī)制來(lái)學(xué)習(xí)局部幾何表示药版。首先，我們引入了一個(gè)GAPLayer喻犁，通過(guò)在鄰域上突出不同的注意權(quán)重來(lái)學(xué)習(xí)每個(gè)點(diǎn)的注意特征槽片。其次，為了挖掘足夠的特征肢础，采用了多頭機(jī)制还栓，允許GAPLayer聚合來(lái)自獨(dú)立頭的不同特征。第三传轰，我們提出了在相鄰網(wǎng)絡(luò)上使用注意力池層來(lái)捕獲本地簽名剩盒，以增強(qiáng)網(wǎng)絡(luò)的魯棒性。最后慨蛙，GAPNet應(yīng)用多層MLP層來(lái)關(guān)注特征和局部特征辽聊，充分提取局部幾何結(jié)構(gòu)。
2期贫、方法
為了更好地地底完成形狀分類(lèi)和部分分割任務(wù)跟匆，學(xué)習(xí)非結(jié)構(gòu)化點(diǎn)云的表示，提出了一種GAPNet模型唯灵，主要由三個(gè)模塊組成贾铝，為GAPLayer (multi-head graph attention based point network layer)、attention pooling layer和整體網(wǎng)絡(luò)框架
2.1埠帕、GAPLayer
2.1.1垢揩、局部特征學(xué)習(xí)
考慮到樣本數(shù)量的點(diǎn)云可以非常大的在真實(shí)的應(yīng)用程序(如自主車(chē)輛),允許每一個(gè)點(diǎn)上所有其他點(diǎn)會(huì)導(dǎo)致高計(jì)算成本和梯度消失問(wèn)題由于非常小的權(quán)重分配上其他點(diǎn)每點(diǎn)。對(duì)中心點(diǎn)利用K-NN查找中心點(diǎn)的k近鄰點(diǎn)敛瓷，中心點(diǎn)與鄰近點(diǎn)作為圖的頂點(diǎn)叁巨，中心點(diǎn)與鄰近點(diǎn)的連線作為圖中的邊。以此完成點(diǎn)云構(gòu)圖呐籽，如下所示：[圖片上傳失敗...(image-45be07-1593862843865)]
2.1.2锋勺、GAPLayer 結(jié)構(gòu)
[圖片上傳失敗...(image-fa8354-1593862843865)]
2.1.3****蚀瘸、單頭****GAPLayer
為了對(duì)不同的鄰域給予不同的注意，我們提出了自注意機(jī)制和鄰域注意機(jī)制來(lái)獲取每個(gè)點(diǎn)對(duì)其鄰域的注意系數(shù)庶橱，如圖1所示贮勃。自注意機(jī)制通過(guò)考慮每個(gè)點(diǎn)的自幾何信息來(lái)學(xué)習(xí)自系數(shù)，而鄰域注意機(jī)制通過(guò)考慮鄰域來(lái)關(guān)注局部系數(shù)苏章。
注意力的計(jì)算與普通的注意力并無(wú)差距寂嘉，具體計(jì)算方式不再介紹。多頭的GAPLayer等于是單頭注意力的重復(fù)枫绅，沒(méi)有特別的差異泉孩。
2.2、注意力池化層
為了提高網(wǎng)絡(luò)的魯棒性和性能并淋，我們?cè)诙鄨D特征的相鄰?fù)ǖ郎隙x了一個(gè)注意力池層寓搬。我們使用最大合用作為我們的注意力合用操作，它識(shí)別頭部之間最重要的特征县耽，以捕獲局部簽名表示Yi定義為7句喷。局部簽名連接到中間層以獲取全局特征。
[圖片上傳失敗...(image-800bc7-1593862843865)]
3兔毙、GAPNet 網(wǎng)絡(luò)結(jié)構(gòu)
架構(gòu)類(lèi)似于PointNet脏嚷，架構(gòu)之間有三個(gè)主要的區(qū)別。首先瞒御，我們使用一個(gè)注意感知的空間變換網(wǎng)絡(luò)使點(diǎn)云對(duì)特定的變換不變性父叙。其次，我們不是只處理單個(gè)點(diǎn)肴裙，而是在多層MLP層之前利用一個(gè)GAPLayer的局部特征趾唱。第三，利用注意力池層獲取連接到中間層的局部簽名蜻懦。
[圖片上傳失敗...(image-dc61c6-1593862843865)]
4甜癞、實(shí)驗(yàn)與分析
Modelnet40數(shù)據(jù)集上的分類(lèi)任務(wù)和shapnet數(shù)據(jù)集上的部分分割任務(wù)
[圖片上傳失敗...(image-3ef2d7-1593862843865)]
[圖片上傳失敗...(image-d2532f-1593862843865)]
4、小結(jié)
在本文中宛乃，提出了一種基于圖注意的點(diǎn)神經(jīng)網(wǎng)絡(luò)——GAPNet悠咱，用于學(xué)習(xí)點(diǎn)云的形狀表示。實(shí)驗(yàn)表明征炼，在形狀分類(lèi)和語(yǔ)義部分分割任務(wù)的最新性能析既。該模型的成功也驗(yàn)證了圖注意網(wǎng)絡(luò)在圖節(jié)點(diǎn)相似性計(jì)算和幾何關(guān)系理解方面的有效性。
