一、LDA模型簡(jiǎn)介
LDA是Latent Dirichlet Allocation(潛在狄利克雷分配模型)的縮寫(xiě)疗涉,也是線性判別分析(Linear Discriminant Analysis)的簡(jiǎn)寫(xiě)炼鞠。本文探討的是第一種Latent Dirichlet Allocation(潛在狄利克雷分配模型)技術(shù)桩撮。LDA通俗的來(lái)講就是一種主題抽取模型。它是一種無(wú)監(jiān)督的算法,作用是從一份文檔中提出文檔的主題,以及主題中的詞語(yǔ)响牛。LDA模型應(yīng)用范圍很廣,如我們熟知個(gè)性化推薦赫段、商品標(biāo)簽呀打、智能分類等等。
有監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)以及半監(jiān)督學(xué)習(xí)的概念是比較容易理解的糯笙。這邊就簡(jiǎn)單的提一下贬丛。
我們知道,AI系統(tǒng)都可以抽象為如圖所示的結(jié)構(gòu):
我們訓(xùn)練AI给涕,就是要得到一個(gè)模型豺憔。訓(xùn)練模型的方式有這么幾種:
有監(jiān)督學(xué)習(xí):即通過(guò)人工標(biāo)注數(shù)據(jù),機(jī)器從中學(xué)習(xí)得到模型稠炬,如分類焕阿、回歸算法咪啡。
無(wú)監(jiān)督學(xué)習(xí):機(jī)器直接通過(guò)海量的數(shù)據(jù)自主學(xué)習(xí)得到模型首启。,如聚類算法撤摸。
半監(jiān)督學(xué)習(xí):機(jī)器通過(guò)少量的人工標(biāo)注數(shù)據(jù)和海量的無(wú)標(biāo)注數(shù)據(jù)學(xué)習(xí)得到模型毅桃。半監(jiān)督學(xué)習(xí)的特點(diǎn)就是褒纲,用少數(shù)的人工標(biāo)注數(shù)據(jù)就能得到一個(gè)不錯(cuò)的模型,隨著模型的使用钥飞,產(chǎn)生的糾錯(cuò)數(shù)據(jù)又能反過(guò)來(lái)提升模型的精度莺掠,最終使得模型得到最優(yōu)。
回到我們要講的LDA模型读宙。根據(jù)場(chǎng)景的不同彻秆,數(shù)據(jù)的不同可以選擇不同的方案。如定制化場(chǎng)景下结闸,可以做有監(jiān)督的學(xué)習(xí)唇兑,以達(dá)到較好的精度。如在to C的產(chǎn)品中桦锄,則使用半監(jiān)督的學(xué)習(xí)方式可以讓產(chǎn)品具有個(gè)性化推薦的能力扎附。
簡(jiǎn)單解析一下LDA模型的原理:
在LDA模型中,文檔是由詞語(yǔ)組成主題结耀,再由主題組成的文章留夜。在主題中,有詞語(yǔ)的一個(gè)概率分布图甜,概率越高表示與主題的關(guān)聯(lián)性越大碍粥。相對(duì)的,文檔中有一個(gè)主題概率分布黑毅,概率越高代表與文檔的相關(guān)性越高即纲。LDA的簡(jiǎn)化公式如下:
P(詞語(yǔ)|文檔)=∑P(詞語(yǔ)|主題)×P(主題|文檔)
LDA從詞語(yǔ)在文檔中 的概率學(xué)習(xí)得出詞語(yǔ)在主題中的概率分布以及主題在文檔中的概率分布。
從公式中我們就能夠很清晰的看到博肋,如何能夠提升LDA模型的準(zhǔn)確度再融合進(jìn)算法中低斋,從而提升產(chǎn)品的用戶體驗(yàn)。
關(guān)鍵點(diǎn)在于:
1匪凡、提供詞語(yǔ)|主題的標(biāo)注數(shù)據(jù)膊畴。
2、提供主題|文檔的標(biāo)注數(shù)據(jù)病游。
二唇跨、LDA主題產(chǎn)品設(shè)計(jì)
假設(shè)我們要做一款個(gè)性化信息流的產(chǎn)品,我們想運(yùn)用LDA為文章打標(biāo)簽衬衬,并推送給具有相同標(biāo)簽的用戶买猖,從而實(shí)現(xiàn)個(gè)性化推薦,那我們要怎么做滋尉?
其實(shí)標(biāo)簽就可以看成是LDA中的主題玉控,融合AI的產(chǎn)品的設(shè)計(jì)如果能巧妙的讓用戶給你提供標(biāo)注數(shù)據(jù),這樣的產(chǎn)品體驗(yàn)一定是優(yōu)秀的狮惜。
沿著這個(gè)思路高诺,我們可以有這樣的設(shè)計(jì)方案:
可以先讓用戶選擇標(biāo)簽碌识,然后給用戶推薦一些無(wú)監(jiān)督學(xué)習(xí)標(biāo)注出來(lái)的同標(biāo)簽的文章,手機(jī)用戶的點(diǎn)擊數(shù)據(jù)虱而、停留時(shí)長(zhǎng)筏餐、點(diǎn)贊、收藏等數(shù)據(jù)牡拇,再把這些數(shù)據(jù)轉(zhuǎn)化為用戶對(duì)這個(gè)文章的認(rèn)可程度魁瞪。如果用戶認(rèn)可程度高,就提升這篇文章的權(quán)重惠呼;如果認(rèn)可程度低的佩番,降權(quán)。再設(shè)計(jì)一個(gè)“不喜歡”的按鈕罢杉,用戶點(diǎn)擊了也對(duì)文章進(jìn)行降權(quán)。如果經(jīng)過(guò)海量用戶的使用滩租,可以獲得較為優(yōu)質(zhì)的數(shù)據(jù)赋秀, 再利用這些數(shù)據(jù)進(jìn)行訓(xùn)練,使得模型越來(lái)越精準(zhǔn)律想。
總結(jié)成一幅圖就是: