文本分析-關(guān)鍵詞提取

1.概念理解:
詞頻(TF):指某一個(gè)給定詞在該文檔出現(xiàn)的次數(shù)
逆文檔頻率(IDF):IDF指每個(gè)詞的權(quán)重,他的大小和詞的常見程度成反比
TF-IDF:權(quán)衡某個(gè)分詞是否是關(guān)鍵詞指標(biāo)症歇,該值越大淮腾,是關(guān)鍵詞的可能性越大。
計(jì)算公式:TF-IDF=TF*IDF,其中坚芜,IDF=log(文檔總數(shù)/包含該詞的文檔數(shù)+1)

2.提取關(guān)鍵詞python包:jieba.analyse.extract_tags(content.tooK=n)
.content:文章內(nèi)容
.提取n個(gè)關(guān)鍵詞

案例代碼:

import os,codecs,pandas
import jieba.analyse
#創(chuàng)建一個(gè)數(shù)據(jù)框存儲(chǔ)數(shù)據(jù)
tagkey=pandas.DataFrame(columns=['filepath','content','tag1','tag2','tag3','tag4'])
for root,dirs,files in os.walk('文件夾路徑'):
      for name in files:
            filepath=root+'/'+name
            f=codecs.open(filepath,'r','utf-8')
            content=f.read()
            f.close()
            tags=jieba.analyse.extract_tags(content,topK=4)
            tagkey.loc[len(tagkey)+1]=[filepath,content,tags[0],tags[1],tags[2],tags[3]]
代碼輸出結(jié)果
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末览芳,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子鸿竖,更是在濱河造成了極大的恐慌沧竟,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,968評(píng)論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件缚忧,死亡現(xiàn)場(chǎng)離奇詭異屯仗,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)搔谴,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,601評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門魁袜,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人敦第,你說我怎么就攤上這事峰弹。” “怎么了芜果?”我有些...
    開封第一講書人閱讀 153,220評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵鞠呈,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我右钾,道長(zhǎng)蚁吝,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,416評(píng)論 1 279
  • 正文 為了忘掉前任舀射,我火速辦了婚禮窘茁,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘脆烟。我一直安慰自己山林,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,425評(píng)論 5 374
  • 文/花漫 我一把揭開白布邢羔。 她就那樣靜靜地躺著驼抹,像睡著了一般。 火紅的嫁衣襯著肌膚如雪拜鹤。 梳的紋絲不亂的頭發(fā)上框冀,一...
    開封第一講書人閱讀 49,144評(píng)論 1 285
  • 那天,我揣著相機(jī)與錄音敏簿,去河邊找鬼明也。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的诡右。 我是一名探鬼主播安岂,決...
    沈念sama閱讀 38,432評(píng)論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼帆吻!你這毒婦竟也來了域那?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,088評(píng)論 0 261
  • 序言:老撾萬榮一對(duì)情侶失蹤猜煮,失蹤者是張志新(化名)和其女友劉穎次员,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體王带,經(jīng)...
    沈念sama閱讀 43,586評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡淑蔚,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,028評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了愕撰。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片刹衫。...
    茶點(diǎn)故事閱讀 38,137評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖搞挣,靈堂內(nèi)的尸體忽然破棺而出带迟,到底是詐尸還是另有隱情,我是刑警寧澤囱桨,帶...
    沈念sama閱讀 33,783評(píng)論 4 324
  • 正文 年R本政府宣布仓犬,位于F島的核電站,受9級(jí)特大地震影響舍肠,放射性物質(zhì)發(fā)生泄漏搀继。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,343評(píng)論 3 307
  • 文/蒙蒙 一翠语、第九天 我趴在偏房一處隱蔽的房頂上張望叽躯。 院中可真熱鬧,春花似錦啡专、人聲如沸险毁。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,333評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至鲸鹦,卻和暖如春慧库,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背馋嗜。 一陣腳步聲響...
    開封第一講書人閱讀 31,559評(píng)論 1 262
  • 我被黑心中介騙來泰國打工齐板, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,595評(píng)論 2 355
  • 正文 我出身青樓甘磨,卻偏偏與公主長(zhǎng)得像橡羞,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子济舆,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,901評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容

  • 注:參考文檔 一卿泽、在線詞云圖工具# (1)、使用### 在正式使用jieba分詞之前滋觉,首先嘗試用在線分詞工具來將自...
    DearIreneLi閱讀 6,004評(píng)論 1 8
  • 詞頻統(tǒng)計(jì) - 語料庫的構(gòu)建 遍歷路徑下的所有文件和子目錄 os.walk() 讀取目錄及其所有子目錄 root —...
    WesleyLien閱讀 1,692評(píng)論 0 3
  • 關(guān)鍵詞:windows平臺(tái)下jieba安裝签夭、三種模式比較、自定義詞典椎侠、停用詞語料第租、詞頻統(tǒng)計(jì)、詞云生成 jieba簡(jiǎn)...
    秋燈鎖憶閱讀 4,400評(píng)論 0 2
  • 用TF-IDF算法提取關(guān)鍵詞 假設(shè)現(xiàn)在有一篇很長(zhǎng)的文章我纪,要從中提取出它的關(guān)鍵字慎宾,完全不人工干預(yù)浅悉,那么怎么做到呢璧诵?又...
    Shira0905閱讀 3,635評(píng)論 0 5
  • 茶館開張逢五四, 惠風(fēng)和暢是吉日仇冯。 高僧教授傳真經(jīng)之宿, 少長(zhǎng)群賢齊聚集。 館主殷勤宴客賓苛坚, 更有嬌妹展茶藝比被。 休閑會(huì)...
    大尾巴狗閱讀 259評(píng)論 0 0