關鍵詞提取TextRank算法_3分鐘熱情學NLP第3篇

第3篇:三分鐘熱情學NLP-關鍵詞提取TextRank算法

TextRank算法庐镐,借鑒了PageRank的思想,或者可以直接理解成:TextRank是PageRank的2.0版毯焕。

1、PageRank算法

谷歌的2位創(chuàng)始人佩奇和布林剥槐,借鑒了評判論文重要性的方法(學術界损谦,如果1篇論文被引用得越多,就會認為該論文越重要)來評價網(wǎng)頁的重要性找颓,概況來說就是2點:
1合愈、要數(shù)量。某個網(wǎng)頁被越多網(wǎng)頁鏈接的話击狮,說明這個網(wǎng)頁越重要佛析,其對應的PageRank值越高;
2彪蓬、要質(zhì)量寸莫。被PageRank值較高的網(wǎng)頁A鏈接的網(wǎng)頁B,則被鏈接的這個網(wǎng)頁B的PageRank值也會相應提高档冬;
注:PageRank值膘茎,簡稱PR值;

如下圖所示(圖片來源https://www.cnblogs.com/Luv-GEM/p/10884493.html

PageRank概念圖

PageRank算法

2酷誓、TextRank算法

通過把文本分割成若干組成單元(如:句子)并建立圖模型, 利用投票機制對文本中的重要成分進行排序披坏,可實現(xiàn)利用單篇文檔本身的信息進行關鍵詞提取。
步驟包括:
1呛牲、對文本進行切割刮萌,按照完整的句子進行切割;
2娘扩、對于每個句子進行分詞和詞性標注着茸,去掉停用詞,保留名詞琐旁、動詞涮阔、形容詞等;
3灰殴、計算詞向量敬特;
4、將詞向量合并為句子的句向量表示牺陶;
5伟阔、計算句向量之前的相似性;計算轉(zhuǎn)移概率矩陣掰伸,用于句子的TenxRank計算皱炉;
6、按照TextRank值進行排序狮鸭;
7合搅、取排名靠前的句子作為摘要多搀;

如下圖所示(圖片來源:https://zhuanlan.zhihu.com/p/55270310

TextRank算法流程圖

3、TextRank算法實戰(zhàn)

本部分以Jieba分詞下的TextRank進行實戰(zhàn)灾部,摘選一段jieba的git上的對jieba.analyse.textrank的參數(shù)說明康铭。

jieba.analyse.textrank(sentence, topK=20, withWeight=False, allowPOS=('ns', 'n', 'vn', 'v')) 直接使用,接口相同赌髓,注意默認過濾詞性从藤。

輸入

import jieba
import jieba.analyse

s = "此外,公司擬對全資子公司吉林歐亞置業(yè)有限公司增資4.3億元春弥,增資后呛哟,吉林歐亞置業(yè)注冊資本由7000萬元增加到5億元。吉林歐亞置業(yè)主要經(jīng)營范圍為房地產(chǎn)開發(fā)及百貨零售等業(yè)務匿沛。目前在建吉林歐亞城市商業(yè)綜合體項目扫责。2013年,實現(xiàn)營業(yè)收入0萬元逃呼,實現(xiàn)凈利潤-139.13萬元鳖孤。"

for x, w in jieba.analyse.textrank(s, withWeight=True):
    print('%s %s' % (x, w))

輸出

吉林 1.0
歐亞 0.9966893354178172
置業(yè) 0.6434360313092776
實現(xiàn) 0.5898606692859626
收入 0.43677859947991454
增資 0.4099900531283276
子公司 0.35678295947672795
城市 0.34971383667403655
商業(yè) 0.34817220716026936
業(yè)務 0.3092230992619838
在建 0.3077929164033088
營業(yè) 0.3035777049319588
全資 0.303540981053475
綜合體 0.29580869172394825
注冊資本 0.29000519464085045
有限公司 0.2807830798576574
零售 0.27883620861218145
百貨 0.2781657628445476
開發(fā) 0.2693488779295851
經(jīng)營范圍 0.2642762173558316
最后編輯于
?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市抡笼,隨后出現(xiàn)的幾起案子苏揣,更是在濱河造成了極大的恐慌,老刑警劉巖推姻,帶你破解...
    沈念sama閱讀 206,839評論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件平匈,死亡現(xiàn)場離奇詭異,居然都是意外死亡藏古,警方通過查閱死者的電腦和手機增炭,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,543評論 2 382
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來拧晕,“玉大人隙姿,你說我怎么就攤上這事〕Ю蹋” “怎么了输玷?”我有些...
    開封第一講書人閱讀 153,116評論 0 344
  • 文/不壞的土叔 我叫張陵,是天一觀的道長靡馁。 經(jīng)常有香客問我欲鹏,道長,這世上最難降的妖魔是什么臭墨? 我笑而不...
    開封第一講書人閱讀 55,371評論 1 279
  • 正文 為了忘掉前任貌虾,我火速辦了婚禮,結(jié)果婚禮上裙犹,老公的妹妹穿的比我還像新娘尽狠。我一直安慰自己,他們只是感情好叶圃,可當我...
    茶點故事閱讀 64,384評論 5 374
  • 文/花漫 我一把揭開白布袄膏。 她就那樣靜靜地躺著,像睡著了一般掺冠。 火紅的嫁衣襯著肌膚如雪沉馆。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,111評論 1 285
  • 那天德崭,我揣著相機與錄音斥黑,去河邊找鬼。 笑死眉厨,一個胖子當著我的面吹牛锌奴,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播憾股,決...
    沈念sama閱讀 38,416評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼鹿蜀,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了服球?” 一聲冷哼從身側(cè)響起茴恰,我...
    開封第一講書人閱讀 37,053評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎斩熊,沒想到半個月后往枣,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,558評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡粉渠,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,007評論 2 325
  • 正文 我和宋清朗相戀三年分冈,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片渣叛。...
    茶點故事閱讀 38,117評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡丈秩,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出淳衙,到底是詐尸還是另有隱情蘑秽,我是刑警寧澤,帶...
    沈念sama閱讀 33,756評論 4 324
  • 正文 年R本政府宣布箫攀,位于F島的核電站肠牲,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏靴跛。R本人自食惡果不足惜缀雳,卻給世界環(huán)境...
    茶點故事閱讀 39,324評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望梢睛。 院中可真熱鬧肥印,春花似錦识椰、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,315評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至敷硅,卻和暖如春功咒,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背绞蹦。 一陣腳步聲響...
    開封第一講書人閱讀 31,539評論 1 262
  • 我被黑心中介騙來泰國打工力奋, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人幽七。 一個月前我還...
    沈念sama閱讀 45,578評論 2 355
  • 正文 我出身青樓景殷,卻偏偏與公主長得像,于是被迫代替她去往敵國和親锉走。 傳聞我的和親對象是個殘疾皇子滨彻,可洞房花燭夜當晚...
    茶點故事閱讀 42,877評論 2 345

推薦閱讀更多精彩內(nèi)容