Wang J, Feng S. Contrastive and View-Interaction Structure Learning for Multi-view Clustering[J]. IJCAI2024

論文鏈接：https://www.ijcai.org/proceedings/2024/0559.pdf

摘要簡述

現(xiàn)有的多視圖方法大多聚焦于捕獲多個視圖之間的共識語義信息，其中對比學(xué)習(xí)廣泛應(yīng)用于各視圖表示的對齊呀洲。然而秒啦，視圖特有表示提取自對應(yīng)樣本的內(nèi)容信息，而忽略了視圖樣本之間的關(guān)系。此外，目前的對比損失構(gòu)造中引入了大量錯誤的負(fù)例樣本，這一點與多視圖聚類任務(wù)的目標(biāo)是相矛盾的忧陪。對應(yīng)對以上問題，作者提出了服務(wù)于多視圖聚類任務(wù)的對比和視圖交互的結(jié)構(gòu)學(xué)習(xí)框架SERIES近范。提出的方法考慮了樣本之間的結(jié)構(gòu)關(guān)系嘶摊，促使對比損失可以提升類簇內(nèi)的緊湊性。同時评矩，引入了一個跨視圖的雙重關(guān)系生成機制用于獲取多視圖之間共識結(jié)構(gòu)圖叶堆，然后用于譜聚類。細化到模型的設(shè)計上斥杜，首先通過多個圖自編碼器利用樣本的內(nèi)容信息和結(jié)構(gòu)信息獲取各視圖特定表示蹂空。進一步俯萌，為了將同一類簇的樣本聚合在一起果录，設(shè)計了軟負(fù)例對感知的對比損失使得不相似的樣本遠離上枕，相似的樣本靠近。在此之后弱恒，視圖特定表示輸入到跨視圖雙重關(guān)系生成的網(wǎng)絡(luò)層中產(chǎn)生親和矩陣辨萍，以學(xué)習(xí)多視圖之間一致的結(jié)構(gòu)圖。

模型淺析

整體來說返弹，提出的模型包含三個子模塊锈玉，首先是一系列的圖自編碼器，利用樣本的內(nèi)容信息和結(jié)構(gòu)信息獲取視圖特有表示义起；接著是軟負(fù)例感知的對比學(xué)習(xí)模塊拉背，用于實現(xiàn)對假負(fù)樣本的顧慮；得到的視圖表示輸入到跨視圖雙重關(guān)系生成模塊中默终，利用多個視圖的信息來產(chǎn)生視圖特有的親和矩陣椅棺，輔助探索一致的拓?fù)浣Y(jié)構(gòu)圖。

• 視圖特定的深度圖自編碼器
  這里需要說明的是齐蔽，在每個視圖中使用k-NN來構(gòu)造初始的視圖親和矩陣两疚。圖自編碼器的結(jié)構(gòu)這里不進行贅述。該模塊最終的損失函數(shù)包含對內(nèi)容表示以及對結(jié)構(gòu)表示的重構(gòu)兩部分：

• 軟負(fù)例對感知的對比學(xué)習(xí)模塊
  對比學(xué)習(xí)在多視圖的應(yīng)用通常將來自同一樣本的不同視圖的表示進行對齊含滴，以學(xué)習(xí)對應(yīng)的具有區(qū)分性的特征诱渤。即：對于多視圖數(shù)據(jù)的個樣本，一般對比學(xué)習(xí)將作為正例樣本對谈况，而其余個樣本都為負(fù)例樣本勺美。顯然，這種操作可能會將來自同一個類簇的樣本看做負(fù)例樣本碑韵，這一點和聚類的目標(biāo)并不相符∩娜祝現(xiàn)有的做法是引入偽標(biāo)簽，將錯誤的負(fù)例剔除出去泼诱，但是在訓(xùn)練的過程中很難獲取到高置信度的標(biāo)簽坛掠，這會影響到最終的性能。
  與之相反治筒，作者提出了軟負(fù)例對感知的對比損失屉栓，目的是將關(guān)聯(lián)的樣本推進而不相關(guān)的樣本遠離。具體來說耸袜，作者設(shè)計了一個權(quán)重調(diào)節(jié)函數(shù)動態(tài)地調(diào)節(jié)樣本對之間權(quán)重友多，給定的形式如下：
  潛在的視圖表示通過視圖共享的映射頭過濾視圖其中的噪聲。堤框。是一個懲罰因子用于調(diào)節(jié)關(guān)聯(lián)樣本和非關(guān)聯(lián)樣本的度域滥。例如纵柿，，關(guān)聯(lián)樣本的相似度為启绰，此時對應(yīng)的權(quán)重為昂儒。依據(jù)上述定義的函數(shù)，視圖和視圖之間的軟負(fù)例對感知對比損失如下：
  全視圖的對比損失為：
• 跨視圖雙關(guān)系生成模塊
  為了進一步的融合多視圖間的互補信息委可，作者通過設(shè)計夸視圖雙關(guān)系生成模塊來產(chǎn)生各視圖的親和矩陣渊跋，更好地挖掘一致的拓?fù)浣Y(jié)構(gòu)圖。該模塊包含兩個生成層（雙層非線性全連接層{256,}）：
  （1）自關(guān)系生成層：給定視圖着倾，其目的是利用視圖的其他樣本來表示給定樣本拾酝。其生成過程可形式化為：
  并且為了挖掘給定視圖的全局結(jié)構(gòu)，其對應(yīng)的損失如下：
  
  （2）雙關(guān)系生成層：該層利用不同視圖之間的互補信息來生成跨視圖的親和矩陣卡者，即利用視圖的關(guān)系生成層來生成的潛在表示蒿囤。其對應(yīng)的損失為：
  給定視圖，該模塊的整體損失為上述兩個關(guān)系生成層的損失之和：
  同時可以計算視圖的親和矩陣：
  而在論文中崇决，最終的共識親和矩陣通過簡單的權(quán)重平均獲得：
• 提出模型的整體損失
  在訓(xùn)練階段材诽，視圖特定圖自編碼器、軟負(fù)例對感知的對比學(xué)習(xí)模塊以及雙關(guān)系生成模塊由下述目標(biāo)函數(shù)進行聯(lián)合訓(xùn)練：
  模型的最終聚類結(jié)果使用的是對共識親和矩陣進行譜聚類嗽桩。模型首先需要通過多個圖自編碼的預(yù)訓(xùn)練過程進行模型權(quán)重的初始化（200epochs）岳守；在微調(diào)階段使用最終的聯(lián)合損失進行共識親和矩陣的學(xué)習(xí)（100epochs）；并在其上應(yīng)用譜聚類算法獲得聚類結(jié)果碌冶。

實驗觀察

顯然不是低于SERIES-SC栅隐，其實筆者這里理解的直接和完整的模型SERIES對比就可以了塔嬉。