謠言檢測論文閱讀

一岩调、Heterogeneous Graph Attention Networks for Early Detection of Rumors on Twitter(2021)

主要使用異構(gòu)的數(shù)據(jù),解決的全局語義的問提凡涩,以提高檢測結(jié)果

1键闺、存在方法

目前存在的方法:

  1. 早期的謠言檢測方法大多是利用特征工程從文本內(nèi)容用戶畫像以及傳播模式中提取識別特征
  2. 近來介粘,由于深度學(xué)習(xí)的廣泛應(yīng)用搞隐,Ma采用了 RNN網(wǎng)絡(luò)來獲取每個源推及其轉(zhuǎn)發(fā)的語義變化部脚,并根據(jù)語義變化進行預(yù)測。Ma等[10]研究了一種基于樹的遞歸神經(jīng)網(wǎng)絡(luò)來捕獲源推傳播的語義信息和傳播線索两残,用于謠言檢測永毅。Yuan等人探索了一種全球-局部關(guān)注網(wǎng)絡(luò)來捕獲源推傳播的局部語義關(guān)系和全局結(jié)構(gòu)信息,用于謠言檢測人弓。

2卷雕、問題

  1. 這些方法不能夠利用內(nèi)容的全局語義關(guān)系,而謠言的語義共性是檢測謠言的關(guān)鍵技術(shù)票从。 這些方法的一個主要局限性是忽略了文本內(nèi)容的全局語義關(guān)系,而這一點已經(jīng)被證明是有用的
  2. 以往的謠言檢測方法大多側(cè)重于謠言傳播中文本內(nèi)容的局部語義關(guān)系滨嘱,而忽略了不同謠言文本內(nèi)容之間的全局語義關(guān)系峰鄙。

3、論文貢獻

構(gòu)建了一個根據(jù)內(nèi)容和謠言傳播來源構(gòu)建tweet-word-user 的異構(gòu)網(wǎng)絡(luò)太雨,并加入一個圖注意力網(wǎng)絡(luò)來捕捉內(nèi)容的全局語義關(guān)系結(jié)合源推傳播的全局結(jié)構(gòu)信息進行謠言檢測吟榴。

  1. 這是第一次將謠言的文本內(nèi)容和源傳播構(gòu)建為異構(gòu)的tweet-word-user圖,其中包含tweet囊扳、word和用戶節(jié)點
  2. 本文提出了一種基于元路徑的異構(gòu)圖關(guān)注網(wǎng)絡(luò)框架吩翻,用于獲取文本內(nèi)容的全局語義關(guān)系兜看,并將其與tweet源傳播中涉及的信息進行整合,用于謠言檢測
  3. 在真實的Twitter數(shù)據(jù)集上的實驗表明狭瞎,所提出的方法優(yōu)于最先進的基線细移,在早期檢測謠言方面具有可比性的能力

4、模型

二熊锭、Rumor Detection on Social Media with Bi-Directional Graph Convolutional Networks(2020)

主要使用雙向CGN解決謠言傳播與擴散這兩個角度的監(jiān)測問題

1弧轧、存在方法

  1. 傳統(tǒng)的檢測方法主要采用用戶特征、文本內(nèi)容碗殷、傳播模式等手工特征來訓(xùn)練監(jiān)督分類器精绎,如:Decision Tree (Castillo, Mendoza, and Poblete 2011), Ran?dom Forest (Kwon et al. 2013), Support Vector Machine (SVM) (Yang et al. 2012).
  2. 用戶評論 (Giudice 2010),時間結(jié)構(gòu)特性 (Wu, Yang, and Zhu 2015),帖子的情感態(tài)度 (Liu et al. 2015).
  3. 深度學(xué)習(xí)RNN結(jié)構(gòu)使用在謠言檢測中。發(fā)了深度學(xué)習(xí)方法锌妻,從傳播路徑/樹或網(wǎng)絡(luò)中挖掘高層表示來識別謠言代乃。許多深度學(xué)習(xí)模型,如長期短期記憶(LSTM)仿粹,門控循環(huán)單元(GRU)和遞歸神經(jīng)網(wǎng)絡(luò)(RvNN) (Ma et al. 2016;Ma, Gao, and Wong 2018)搁吓,因為他們能夠從一段時間的謠言傳播中學(xué)習(xí)序列特征。不能提取擴散信息的傳播
  4. 因此牍陌,一些研究試圖通過調(diào)用基于卷積神經(jīng)網(wǎng)絡(luò)(CNN)的方法來引入謠言擴散結(jié)構(gòu)中的信息(Yu et al. 2017;Yu等人2019)擎浴。基于cnn的方法可以獲得局部鄰居內(nèi)部的相關(guān)特征毒涧,但不能處理圖或樹的全局結(jié)構(gòu)關(guān)系
  5. GCN可以提取全局信息贮预。

2、問題

  1. 傳統(tǒng)方法主要依賴于特征工程契讲,費時費力仿吞。而且,這些手工制作的特征往往缺乏從謠言的傳播和擴散中提取的高層表征捡偏。
  2. 然而唤冈,這些深度學(xué)習(xí)方法在謠言檢測中只考慮了深度傳播的模式,而忽略了廣泛散布的結(jié)構(gòu)银伟。由于時間結(jié)構(gòu)特征只關(guān)注謠言的序列傳播你虹,而忽略了謠言擴散的影響,因此這些方法在效率上有很大的局限性彤避。
  3. CNN結(jié)構(gòu)不能處理圖或樹的全局結(jié)構(gòu)關(guān)系

3傅物、論文貢獻

實際上,傳播和散布是謠言的兩個重要特征琉预。本文提出了一種新的雙向圖模型董饰。雙向圖卷積網(wǎng)絡(luò)(Bi-GCN),通過操作自頂向下和自底向上謠言傳播來探索這兩種特征。它利用一個由上至下的謠言傳播有向圖的GCN來學(xué)習(xí)謠言傳播的模式;和一個具有相反方向謠言擴散圖的GCN來捕捉謠言擴散的結(jié)構(gòu)卒暂。GCN的每一層都涉及到源貼的信息啄栓,以增強謠言從根源上的影響。

  1. 我們利用圖卷積網(wǎng)絡(luò)來檢測謠言也祠。據(jù)我們所知昙楚,這是第一次使用GCN進行社交媒體謠言檢測的研究。
  2. 我們提出的Bi-GCN模型不僅考慮了謠言沿關(guān)系鏈自上而下傳播的因果特征齿坷,而且通過自下而上的聚集得到了謠言在社區(qū)內(nèi)傳播的結(jié)構(gòu)特征桂肌。
  3. 在每個圖卷積層上,我們將源帖子的特征與其他帖子的特征連接起來永淌,從而綜合利用根特征的信息崎场,從而獲得良好的謠言檢測性能。

4遂蛀、模型

模型
1谭跨、構(gòu)造傳播和擴散圖

把傳播結(jié)構(gòu)作為一個事件c_i,A表示鄰接矩陣李滴,只包括從上節(jié)點到下節(jié)點的邊螃宙,X表示c_i特征矩陣。為了防止過擬合所坯,我們采用DropEdge方法成A'谆扎。根據(jù)A'和X,建立Bi-GAN模型芹助,分程從上而下GCN(TD-GCN)從下而上GCN(BU-GCN)堂湖,共享特征矩陣X,鄰接矩陣有所不同状土,分別是A^{TD}=A'A^{BU}=A'^T无蜂。

2、計算高層節(jié)點表示

對于TD-GCN模塊蒙谓,把A^{TD}=A'和X輸入到GCN模型當(dāng)中斥季,激活函數(shù)采用Relu,同理BU-GCN也是如此計算累驮。

公式

3酣倾、根節(jié)點增強

一個謠言事件的源帖往往具有豐富的信息,產(chǎn)生廣泛的影響谤专,有必要更好地利用源帖子的信息灶挟,并從節(jié)點與源帖子的關(guān)系中學(xué)習(xí)更準(zhǔn)確的節(jié)點表示。我們提出了一種根特征增強操作來提高謠言檢測的性能毒租。因此我們將每個節(jié)點的隱藏特征向量與(k?1)層 GCL的根節(jié)點的隱藏特征向量連接起來,構(gòu)造一個新的特征矩陣為:

根節(jié)點隱藏層.png

其中,H_0^{TD}=X墅垮,因此
第二層根節(jié)點特征提取

BU-GCN以相同的方法獲取根節(jié)點特征惕医,來增強模型。

4算色、謠言分類中傳播和散布的表示

對于聚合抬伺,我們采用平均池的操作

平均池

而后兩個子模塊聚合
子模塊聚合

最后通過一個softmax函數(shù)進行分類
最后一層

使用交叉熵作為loss函數(shù),并用正則化L_2來防止過擬合灾梦。

5峡钓、數(shù)據(jù)集

采用了Weibo,Twitter15以及Twitter16三個數(shù)據(jù)集進行實驗若河,此三個數(shù)據(jù)集能岩,節(jié)點表示用戶,邊表示轉(zhuǎn)發(fā)和回應(yīng)萧福,特征是根據(jù)Bi-GCN中提到的TF-IDF值抽取的前5000個單詞拉鹃。


數(shù)據(jù)集

三、User Preference-aware Fake News Detection

1鲫忍、存在方法

  1. 特征工程和深度學(xué)習(xí)方法
  2. 自然語言處理類的方法膏燕,比如FakeBERT使用TextCNN和BERT的方法來獲取文字信息
  3. 圖網(wǎng)絡(luò)類:比如GCNFN和GNN-CL利用GCN在社交網(wǎng)絡(luò)上獲取傳播魔時

2、問題

  1. 側(cè)重于對新聞內(nèi)容及其用戶外生上下文的建模悟民,而忽略了用戶的內(nèi)生性偏好坝辫。
    如何提取內(nèi)生偏好和外生情境?射亏?近忙??

3鸦泳、論文貢獻

  1. 提出了UPFD模型银锻,將內(nèi)生偏好與外生情境聯(lián)合建模,其步驟可分為:
    1). 為了構(gòu)建用戶的的內(nèi)生偏好做鹰,采用不同的學(xué)習(xí)方法編碼文章內(nèi)容也用戶歷史击纬;
    2). 為了獲取用戶外生情境,構(gòu)建一個樹結(jié)構(gòu)的傳播圖钾麸;
    3). 為了把內(nèi)生和外生相結(jié)合更振,把用戶和新聞看成是節(jié)點特征,采用了GNN的方法饭尝,學(xué)習(xí)節(jié)點特征表達肯腕;
    4). 根據(jù)用戶的嵌入向量和文本嵌入向量,訓(xùn)練分類器檢測假消息钥平。

4实撒、模型

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子知态,更是在濱河造成了極大的恐慌捷兰,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,290評論 6 491
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件负敏,死亡現(xiàn)場離奇詭異贡茅,居然都是意外死亡,警方通過查閱死者的電腦和手機其做,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,107評論 2 385
  • 文/潘曉璐 我一進店門顶考,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人妖泄,你說我怎么就攤上這事驹沿。” “怎么了浮庐?”我有些...
    開封第一講書人閱讀 156,872評論 0 347
  • 文/不壞的土叔 我叫張陵甚负,是天一觀的道長。 經(jīng)常有香客問我审残,道長梭域,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,415評論 1 283
  • 正文 為了忘掉前任搅轿,我火速辦了婚禮病涨,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘璧坟。我一直安慰自己既穆,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 65,453評論 6 385
  • 文/花漫 我一把揭開白布雀鹃。 她就那樣靜靜地躺著幻工,像睡著了一般。 火紅的嫁衣襯著肌膚如雪黎茎。 梳的紋絲不亂的頭發(fā)上囊颅,一...
    開封第一講書人閱讀 49,784評論 1 290
  • 那天,我揣著相機與錄音傅瞻,去河邊找鬼踢代。 笑死,一個胖子當(dāng)著我的面吹牛嗅骄,可吹牛的內(nèi)容都是我干的胳挎。 我是一名探鬼主播,決...
    沈念sama閱讀 38,927評論 3 406
  • 文/蒼蘭香墨 我猛地睜開眼溺森,長吁一口氣:“原來是場噩夢啊……” “哼慕爬!你這毒婦竟也來了窑眯?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,691評論 0 266
  • 序言:老撾萬榮一對情侶失蹤医窿,失蹤者是張志新(化名)和其女友劉穎伸但,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體留搔,經(jīng)...
    沈念sama閱讀 44,137評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,472評論 2 326
  • 正文 我和宋清朗相戀三年铛铁,在試婚紗的時候發(fā)現(xiàn)自己被綠了隔显。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,622評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡饵逐,死狀恐怖括眠,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情倍权,我是刑警寧澤掷豺,帶...
    沈念sama閱讀 34,289評論 4 329
  • 正文 年R本政府宣布,位于F島的核電站薄声,受9級特大地震影響当船,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜默辨,卻給世界環(huán)境...
    茶點故事閱讀 39,887評論 3 312
  • 文/蒙蒙 一德频、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧缩幸,春花似錦壹置、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,741評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至爆办,卻和暖如春难咕,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背押逼。 一陣腳步聲響...
    開封第一講書人閱讀 31,977評論 1 265
  • 我被黑心中介騙來泰國打工步藕, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人挑格。 一個月前我還...
    沈念sama閱讀 46,316評論 2 360
  • 正文 我出身青樓咙冗,卻偏偏與公主長得像,于是被迫代替她去往敵國和親漂彤。 傳聞我的和親對象是個殘疾皇子雾消,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 43,490評論 2 348

推薦閱讀更多精彩內(nèi)容