原計(jì)劃是先學(xué)習(xí)C++蜓堕，但是沒有找到C++比較好的課程跟衅，決定回家看書的年枕，那么就先系統(tǒng)的學(xué)下Python吧，下面是廖雪峰Python課程和虐媚桑客網(wǎng)上面的一個(gè)免費(fèi)視頻教學(xué)：
https://www.liaoxuefeng.com/wiki/1016959663602400/1016959735620448
https://www.nowcoder.com/study/vod/205/2/1
今天看了一篇IEEE Access的一篇論文揉抵，Knowledge Graph Embedding With Interactive Guidance From Entity Descriptions，考慮了實(shí)體的描述信息嗤疯。
三元組都是從文本中抽取得到冤今，因此三元組中實(shí)體的描述信息也很重要。本文提出考慮實(shí)體描述信息的一種迭代方法茂缚。首先通過實(shí)體的描述信息增強(qiáng)知識(shí)圖譜的表示能力戏罢，其次集成知識(shí)圖譜中實(shí)體的嵌入表示約束描述信息中相應(yīng)單詞的嵌入表示屋谭。其中，知識(shí)圖譜的向量表示使用TransE龟糕；實(shí)體描述的信息通過Word2Vec將每個(gè)單詞表示為向量桐磁，根據(jù)HIERARCHICAL BILSTM MAX POOLING ENCODER將詞向量的集合進(jìn)行編碼。
兩個(gè)階段：1）Knowledge Constraint 2）Description Encoder
其中es為原三元組中實(shí)體的向量表示讲岁，ed為實(shí)體的描述信息我擂，gh、gt為門控機(jī)制缓艳。
ed是u1校摩，u2，u3三層的平均值阶淘，使用前一層的最終hidden和cell狀態(tài)作為二三層的初始狀態(tài)衙吩，h1....為網(wǎng)絡(luò)的前后饋的值。
實(shí)體描述的信息通過Word2Vec將每個(gè)單詞表示為向量w1, . . .wT舶治，根據(jù)HIERARCHICAL BILSTM MAX POOLING ENCODER將詞向量的集合進(jìn)行編碼獲得h1, . . .ht（圖的右半部分）分井。
文章中提出要使描述信息wi與ei以及其鄰居ej更加接近，采用歐式距離更新wi的嵌入表示霉猛。求解優(yōu)化函數(shù)尺锚，將wi更新為
在訓(xùn)練過程中將更新后的wi帶入網(wǎng)絡(luò)中獲得ed，采用門控機(jī)制惜浅，結(jié)合兩種信息更新該實(shí)體的向量表示：
其損失函數(shù)和TransE相同瘫辩，即：
通過這篇論文發(fā)現(xiàn)結(jié)合實(shí)體的描述信息也是一個(gè)研究的方向，使用不同深度學(xué)習(xí)的方法將實(shí)體的描述信息進(jìn)行表示坛悉，再通過不同的方法和表示學(xué)習(xí)模型進(jìn)行結(jié)合伐厌，會(huì)獲得不錯(cuò)的效果。迭代的思想可以用在各種領(lǐng)域裸影，這篇文章考慮了描述信息的迭代挣轨，之前看的是和規(guī)則進(jìn)行迭代，本質(zhì)上其實(shí)是相似的轩猩。
把深度學(xué)習(xí)的報(bào)告搞定啦卷扮，用的一個(gè)學(xué)長(zhǎng)的ppt改成實(shí)驗(yàn)報(bào)告，雖然吧寫完了都是看不懂的狀態(tài)均践，但是總算是糊弄過去啦Ｎ钋隆！彤委！解決了困擾好久的問題鞭铆。
這幾天這種吃吃吃，都沒有餓的感覺了...我不胖誰(shuí)胖焦影，還有一個(gè)月就能回家了３邓臁７舛稀！暖氣暖氣好想你們艰额，吼吼吼~
