CS224W-圖神經(jīng)網(wǎng)絡(luò) 筆記3.2:Motifs and Structural Roles in Networks - 網(wǎng)絡(luò)的結(jié)構(gòu)(Structural Roles)

本文總結(jié)之日CS224W Winter 2021只更新到了第四節(jié)蔓纠,所以下文會參考2021年課程的PPT并結(jié)合2019年秋季課程進(jìn)行總結(jié)以求內(nèi)容完整
課程主頁:CS224W: Machine Learning with Graphs
視頻鏈接:【斯坦福】CS224W:圖機(jī)器學(xué)習(xí)( 中英字幕 | 2019秋)

1 引言

工作中观游, 我們因?yàn)樗幍膷徫徊煌榔保局邪缪莸慕巧≧ole)也不盡相同卵贱。而在網(wǎng)絡(luò)中滥沫,節(jié)點(diǎn)的拓?fù)浣Y(jié)構(gòu),決定了節(jié)點(diǎn)的角色也是不一樣的键俱。這就是本節(jié)要研究的內(nèi)容——Structural Roles兰绣。

圖片

2 一些新概念(what)

    1. 角色(Role):具有相似結(jié)構(gòu)特征的節(jié)點(diǎn)集合,不要求彼此相連编振。
    1. 社區(qū)(communities ):結(jié)構(gòu)上缀辩,內(nèi)部連通,內(nèi)部可達(dá)的子圖踪央。

角色(Roles) 和 社區(qū)(communities )之間還是有明顯區(qū)別臀玄。兩者概念上是互補(bǔ)。

例如畅蹂,對于計(jì)算機(jī)學(xué)院的社交網(wǎng)絡(luò)而言:

  • 角色Roles:有教員健无、工作人員、學(xué)生
  • 社區(qū):有AI研究室液斜、信息研究室累贤、理論研究室等
圖片
    1. 結(jié)構(gòu)等價(jià)(Structural equivalence):若節(jié)點(diǎn)u和節(jié)點(diǎn)v與所有其他節(jié)點(diǎn)擁有相同的關(guān)系,則稱節(jié)點(diǎn)u和節(jié)點(diǎn)v結(jié)構(gòu)等價(jià)旗唁。

換句話說:對所有的其他節(jié)點(diǎn)集 ??, 當(dāng)且僅當(dāng)(iff/if and only)節(jié)點(diǎn) ?? 和 ??之間的連接畦浓,等同于節(jié)點(diǎn) ?? 和 ??之間的連接。如下圖的 結(jié)構(gòu)等價(jià)的節(jié)點(diǎn)4和節(jié)點(diǎn)5(6/7也是一組):

圖片

2.1 為什么Roles很重要检疫?(why)

因?yàn)橛杏茫∏覒?yīng)用廣泛祷嘶!

圖片

2.2 怎么找到Structural Roles屎媳?(how)

2.2.1 通過 RolX 方法[1]

簡單來說,就是遞歸抽取節(jié)點(diǎn)特征论巍,然后做無監(jiān)督的聚類烛谊。

該方法有以下特點(diǎn):

  • 無監(jiān)督學(xué)習(xí)方法
  • 無需先驗(yàn)知識
  • 為每個節(jié)點(diǎn)分配不同Roles混合而成的成員關(guān)系
  • 復(fù)雜度隨著網(wǎng)絡(luò)中的邊的數(shù)量線性增長

2.2.2 流程說明:

RolX 方法具體流程圖如下:大致兩個階段:

  1. 遞歸特征抽忍逃场(Recursive feature extraction)
  2. 角色抽日窦帷(Role Extraction)
圖片
2.2.2.1 遞歸特征抽取

目的是將節(jié)點(diǎn)轉(zhuǎn)化為特征向量,該特征向量包含了該節(jié)點(diǎn)本身危融、節(jié)點(diǎn)的鄰居節(jié)點(diǎn)的向量的信息鞋怀,然后使用它遞歸生成新的特征双泪。

基礎(chǔ)特征

  • (自身和鄰居)基礎(chǔ)特征特征工程思路總結(jié)

    • 對有向圖,包括入度密似、出度焙矛、總度數(shù)
    • 對加權(quán)圖:包括加權(quán)的各個度特征,即權(quán)重聚合
    • 鄰居的平均聚類系數(shù)
    • egonet的內(nèi)部邊數(shù)残腌,指向egonet邊數(shù)村斟,指出邊數(shù)贫导,總邊數(shù)等。

egonet: 某節(jié)點(diǎn)和它的鄰居蟆盹,以及這些節(jié)點(diǎn)之間的所有邊構(gòu)成的誘導(dǎo)子圖孩灯。

圖片
2.2.2.2 算法步驟
  1. 以基礎(chǔ)特征集作為開始

  2. 使用當(dāng)前節(jié)點(diǎn)特征集生成新特征

    • 尋找高度相關(guān)的特征對

    • 當(dāng)兩個特征的相關(guān)性超過用戶定義的閾值時,刪除其中一個特征

    • 使用mean和sum兩種聚合函數(shù)

    • 剪枝操作

      隨著每次遞歸迭代逾滥,生成特征的數(shù)量呈指數(shù)增長 (2^k)钱反。故需要使用剪枝來減少特征數(shù)量

    • 重復(fù)2

2.2.2.3 角色抽取

RolX 對特征矩陣進(jìn)行非負(fù)矩陣分解,得到最終結(jié)果匣距。

  • 最小描述長度進(jìn)行特征篩選(MDL:principle of minimum description length)面哥。
  • KL散度評估相似度。

2.3 應(yīng)用舉例

老師舉了論文合作者網(wǎng)絡(luò)角色挖掘的例子毅待。

圖片

3 總結(jié)

本節(jié)尚卫,介紹的RolX思想上雖然比較好理解,但是知和行之間還是有不小的差距尸红。計(jì)劃通過代碼運(yùn)行吱涉,加深理解,同時看能不能在實(shí)際業(yè)務(wù)中運(yùn)用外里。論文為資料5怎爵,供參考。

4 參考文章

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末盅蝗,一起剝皮案震驚了整個濱河市鳖链,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌墩莫,老刑警劉巖芙委,帶你破解...
    沈念sama閱讀 218,122評論 6 505
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異狂秦,居然都是意外死亡灌侣,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,070評論 3 395
  • 文/潘曉璐 我一進(jìn)店門裂问,熙熙樓的掌柜王于貴愁眉苦臉地迎上來侧啼,“玉大人,你說我怎么就攤上這事堪簿∪” “怎么了?”我有些...
    開封第一講書人閱讀 164,491評論 0 354
  • 文/不壞的土叔 我叫張陵戴甩,是天一觀的道長符喝。 經(jīng)常有香客問我,道長甜孤,這世上最難降的妖魔是什么协饲? 我笑而不...
    開封第一講書人閱讀 58,636評論 1 293
  • 正文 為了忘掉前任畏腕,我火速辦了婚禮,結(jié)果婚禮上茉稠,老公的妹妹穿的比我還像新娘描馅。我一直安慰自己,他們只是感情好而线,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,676評論 6 392
  • 文/花漫 我一把揭開白布铭污。 她就那樣靜靜地躺著,像睡著了一般膀篮。 火紅的嫁衣襯著肌膚如雪嘹狞。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,541評論 1 305
  • 那天誓竿,我揣著相機(jī)與錄音磅网,去河邊找鬼。 笑死筷屡,一個胖子當(dāng)著我的面吹牛涧偷,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播毙死,決...
    沈念sama閱讀 40,292評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼燎潮,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了扼倘?” 一聲冷哼從身側(cè)響起确封,我...
    開封第一講書人閱讀 39,211評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎唉锌,沒想到半個月后隅肥,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,655評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡袄简,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,846評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了泛啸。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片绿语。...
    茶點(diǎn)故事閱讀 39,965評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖候址,靈堂內(nèi)的尸體忽然破棺而出吕粹,到底是詐尸還是另有隱情,我是刑警寧澤岗仑,帶...
    沈念sama閱讀 35,684評論 5 347
  • 正文 年R本政府宣布匹耕,位于F島的核電站,受9級特大地震影響荠雕,放射性物質(zhì)發(fā)生泄漏稳其。R本人自食惡果不足惜驶赏,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,295評論 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望既鞠。 院中可真熱鬧煤傍,春花似錦、人聲如沸嘱蛋。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,894評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽洒敏。三九已至龄恋,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間凶伙,已是汗流浹背郭毕。 一陣腳步聲響...
    開封第一講書人閱讀 33,012評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留镊靴,地道東北人铣卡。 一個月前我還...
    沈念sama閱讀 48,126評論 3 370
  • 正文 我出身青樓,卻偏偏與公主長得像偏竟,于是被迫代替她去往敵國和親煮落。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,914評論 2 355

推薦閱讀更多精彩內(nèi)容