7 LDA

LDA解釋:假如有一篇文章text,通過里面的詞畔勤,來確定他是什么類型的文章,如果文章中出現(xiàn)很多體育類的詞扒磁,比如庆揪,籃球,足球之類的妨托,那么主題模型就會(huì)把它劃分為體育類的文章

什么是LDA缸榛?

它是一種無監(jiān)督的貝葉斯模型。

是一種主題模型兰伤,它可以將文檔集中的每篇文檔按照概率分布的形式給出内颗。

是一種無監(jiān)督學(xué)習(xí),在訓(xùn)練時(shí)不需要手工標(biāo)注的訓(xùn)練集敦腔,需要的是文檔集和指定主題的個(gè)數(shù)均澳。

是一種典型的詞袋模型,它認(rèn)為一篇文檔是由一組詞組成的集合符衔,詞與詞之間沒有順序和先后關(guān)系


LDA的目的就是要識(shí)別主題找前,即把文檔—詞匯矩陣變成文檔—主題矩陣(分布)和主題—詞匯矩陣(分布)

P(詞?|?文檔)=P(詞?|?主題)P(主題?|?文檔)

用表達(dá)式如下:

P(w|d)=P(w|t)?P(t|d)

詞→主題→文檔

同一主題下,某個(gè)詞出現(xiàn)的概率柏腻,以及同一文檔下纸厉,某個(gè)主題出現(xiàn)的概率,兩個(gè)概率的乘積五嫂,可以得到某篇文檔出現(xiàn)某個(gè)詞的概率,我們在訓(xùn)練的時(shí)候肯尺,調(diào)整這兩個(gè)分布就可以了沃缘。

由此可以定義LDA的生成過程:

對(duì)每篇文檔,在主題分布中抽取一個(gè)主題则吟;(相當(dāng)于左圖)

對(duì)抽到的主題所對(duì)應(yīng)的單詞分布中隨機(jī)抽取一個(gè)單詞槐臀;(在右圖中抽)

重復(fù)上述過程直至遍歷整篇文檔中的每個(gè)單詞


3 實(shí)例

3.1 計(jì)算文檔-詞匯矩陣

N個(gè)文檔組成的語料庫(??1,??2氓仲,"……" 水慨,????)得糜,由V個(gè)詞組成的詞匯表。矩陣中的值表示了詞???? 〖在文檔??〗?? 中出現(xiàn)的頻率晰洒,主題用Z表示朝抖,下面對(duì)語料庫中的每一個(gè)word隨機(jī)指派一個(gè)主題編號(hào)????,統(tǒng)計(jì)每個(gè)??_??下出現(xiàn)的word次數(shù)谍珊,可得一個(gè)主題—詞匯矩陣治宣。

3.2 計(jì)算主題-詞匯矩陣

3.3 計(jì)算文檔主題矩陣

統(tǒng)計(jì)每個(gè)詞代表的主題在每一個(gè)文檔中出現(xiàn)的次數(shù),可得出以下矩陣文檔—主題矩陣

參考:http://www.reibang.com/p/fa97454c9ffd

參考:https://blog.csdn.net/qq_39422642/article/details/78730662

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末砌滞,一起剝皮案震驚了整個(gè)濱河市侮邀,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌贝润,老刑警劉巖绊茧,帶你破解...
    沈念sama閱讀 217,509評(píng)論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異打掘,居然都是意外死亡华畏,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,806評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門胧卤,熙熙樓的掌柜王于貴愁眉苦臉地迎上來唯绍,“玉大人,你說我怎么就攤上這事枝誊】雒ⅲ” “怎么了?”我有些...
    開封第一講書人閱讀 163,875評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵叶撒,是天一觀的道長绝骚。 經(jīng)常有香客問我,道長祠够,這世上最難降的妖魔是什么压汪? 我笑而不...
    開封第一講書人閱讀 58,441評(píng)論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮古瓤,結(jié)果婚禮上止剖,老公的妹妹穿的比我還像新娘。我一直安慰自己落君,他們只是感情好穿香,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,488評(píng)論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著绎速,像睡著了一般皮获。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上纹冤,一...
    開封第一講書人閱讀 51,365評(píng)論 1 302
  • 那天洒宝,我揣著相機(jī)與錄音购公,去河邊找鬼。 笑死雁歌,一個(gè)胖子當(dāng)著我的面吹牛宏浩,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播将宪,決...
    沈念sama閱讀 40,190評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼绘闷,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了较坛?” 一聲冷哼從身側(cè)響起印蔗,我...
    開封第一講書人閱讀 39,062評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎丑勤,沒想到半個(gè)月后华嘹,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,500評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡法竞,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,706評(píng)論 3 335
  • 正文 我和宋清朗相戀三年耙厚,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片岔霸。...
    茶點(diǎn)故事閱讀 39,834評(píng)論 1 347
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡薛躬,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出呆细,到底是詐尸還是另有隱情型宝,我是刑警寧澤,帶...
    沈念sama閱讀 35,559評(píng)論 5 345
  • 正文 年R本政府宣布絮爷,位于F島的核電站趴酣,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏坑夯。R本人自食惡果不足惜岖寞,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,167評(píng)論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望柜蜈。 院中可真熱鬧仗谆,春花似錦、人聲如沸淑履。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,779評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽鳖谈。三九已至,卻和暖如春阔涉,著一層夾襖步出監(jiān)牢的瞬間缆娃,已是汗流浹背捷绒。 一陣腳步聲響...
    開封第一講書人閱讀 32,912評(píng)論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留贯要,地道東北人暖侨。 一個(gè)月前我還...
    沈念sama閱讀 47,958評(píng)論 2 370
  • 正文 我出身青樓,卻偏偏與公主長得像崇渗,于是被迫代替她去往敵國和親字逗。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,779評(píng)論 2 354