ICLR 2016
Github地址:https://github.com/Microsoft/gated-graph-neural-network-samples
Gated Graph Neural Networks
-
六個(gè)基本公式:
Equation (1):初始化步驟。它將節(jié)點(diǎn)注釋(node annotations)復(fù)制到隱藏狀態(tài)的第一個(gè)部分中赤兴,并用零填充其余部分周伦。
Equation (2):用于在不同node之間傳遞信息差牛。
其中鸽扁,A∈ RD|V|×2D|V| 由圖的出度鄰接矩陣 A(out) 和入度鄰接矩陣 A(in) 連接而成谭网,Av:∈ RD|V|×2D 為 A(out) 和 A(in) 中與節(jié)點(diǎn) v 相對應(yīng)的兩列(V為節(jié)點(diǎn)數(shù)达罗,av(t)∈ R2D )痒芝。如下圖所示:
Equation (3) - (6):GRU單元的計(jì)算俐筋,z 和 r 分別為 update gate 和 reset gate。
-
同時(shí)严衬,GG-NNs支持輸出一個(gè)graph-level的outputs澄者,公式為:
Gated Graph Sequence Neural Networks
- 使用了兩個(gè)GG-NNs,分別為 Fo(k) 和 FX(k)。其中 Fo(k) 用于預(yù)測 X(k) 的輸出 o(k)粱挡, FX(k) 通過 X(k) 預(yù)測 X(k+1) 赠幕,如下圖所示:
其公式為:
其中,中間的 node annotations X(k) 可以人為指定询筏,也可以作為參數(shù)完全由網(wǎng)絡(luò)學(xué)習(xí)榕堰。
具體細(xì)節(jié)及文中的項(xiàng)目等請參照原文及源代碼。