基于向量空間模型的余弦相似度算法

基于向量空間模型的余弦相似度算法###

向 量 空 間 模 型 VSM ( vector space model ) 是 由 Salton 在 1975 年 的Communications of the ACM 上提出的靴姿。

它的基本思想是:

在自然界中任何事物都可以用一些最基本的元素加以表示,這些最基本的元素作為基礎(chǔ)單元,類似于坐標系中坐標軸宅荤,通過這種假設(shè)與推理木西,每一個構(gòu)成事物的基本元素都對應(yīng)著n維空間中某個坐標系立镶,則事物可通過各個基本元素表示為坐標系向量的形式.

那么浴讯,兩個向量之間的夾角越小静盅,則兩個向量所代表的事物就越相似椭坚。

基本概念和定義

文本(document):通常是文本中具有一定規(guī)模的片斷予跌,如句子、句群善茎、段落段落組直至整篇文本券册。


項/特征項(term/feature term):特征項是文本表示中最基本的元素,正是由于特征項之間的不同組合構(gòu)成了文本垂涯,同時特征項作為基本元素構(gòu)成了表示文本的向量形式烁焙。 文本被看作為項的集合 Document = (t1,t2,t3...tn).


項的權(quán)重(term weight): Document = (t1,t2,t3...tn)表示文檔中包含 n 個關(guān)鍵詞(特征項),在文本向量中每一個維度上的特征項tk都依據(jù)一定的原則被賦予一個特征項權(quán)重wk表示它們在文檔中的重要程度.權(quán)值的計算方法有幾種:基于詞頻(TF)的關(guān)鍵詞權(quán)值,基于文檔頻率(DF)的關(guān)鍵詞權(quán)值,基于文檔頻率的關(guān)鍵詞權(quán)值耕赘,基于信息增益的關(guān)鍵詞權(quán)值骄蝇,基于卡方分布的關(guān)鍵詞權(quán)值,基于互信息的關(guān)鍵詞權(quán)值

我們可以(t1,t2,t3..tn)看成是一個n維坐標系操骡。坐標系的每一個維度對應(yīng)一個特征項九火,權(quán)重對應(yīng)在坐標軸上的值赚窃。 一個文本就是坐標系中的一個向量。

D = (w1,w2,w3..wn)就是文本的向量表示

如何計算相似度

設(shè)文檔 D1和D2表示向量空間模型中的兩個向量
D1 = (w11,w12,w13..w1n)
D2 = (w21,w22,w23..w2n)
那么兩個文本的相似度計算公式如下:

捕獲.PNG
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末岔激,一起剝皮案震驚了整個濱河市考榨,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌鹦倚,老刑警劉巖河质,帶你破解...
    沈念sama閱讀 216,591評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異震叙,居然都是意外死亡掀鹅,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,448評論 3 392
  • 文/潘曉璐 我一進店門媒楼,熙熙樓的掌柜王于貴愁眉苦臉地迎上來乐尊,“玉大人,你說我怎么就攤上這事划址∪忧叮” “怎么了?”我有些...
    開封第一講書人閱讀 162,823評論 0 353
  • 文/不壞的土叔 我叫張陵夺颤,是天一觀的道長痢缎。 經(jīng)常有香客問我,道長世澜,這世上最難降的妖魔是什么独旷? 我笑而不...
    開封第一講書人閱讀 58,204評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮寥裂,結(jié)果婚禮上嵌洼,老公的妹妹穿的比我還像新娘。我一直安慰自己封恰,他們只是感情好麻养,可當我...
    茶點故事閱讀 67,228評論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著诺舔,像睡著了一般鳖昌。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上混萝,一...
    開封第一講書人閱讀 51,190評論 1 299
  • 那天遗遵,我揣著相機與錄音,去河邊找鬼逸嘀。 笑死车要,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的崭倘。 我是一名探鬼主播翼岁,決...
    沈念sama閱讀 40,078評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼类垫,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了琅坡?” 一聲冷哼從身側(cè)響起悉患,我...
    開封第一講書人閱讀 38,923評論 0 274
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎榆俺,沒想到半個月后售躁,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,334評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡茴晋,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,550評論 2 333
  • 正文 我和宋清朗相戀三年陪捷,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片诺擅。...
    茶點故事閱讀 39,727評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡市袖,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出烁涌,到底是詐尸還是另有隱情苍碟,我是刑警寧澤认罩,帶...
    沈念sama閱讀 35,428評論 5 343
  • 正文 年R本政府宣布躯枢,位于F島的核電站,受9級特大地震影響虑省,放射性物質(zhì)發(fā)生泄漏二打。R本人自食惡果不足惜县忌,卻給世界環(huán)境...
    茶點故事閱讀 41,022評論 3 326
  • 文/蒙蒙 一掂榔、第九天 我趴在偏房一處隱蔽的房頂上張望继效。 院中可真熱鬧,春花似錦装获、人聲如沸瑞信。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,672評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽凡简。三九已至,卻和暖如春精肃,著一層夾襖步出監(jiān)牢的瞬間秤涩,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,826評論 1 269
  • 我被黑心中介騙來泰國打工司抱, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留筐眷,地道東北人。 一個月前我還...
    沈念sama閱讀 47,734評論 2 368
  • 正文 我出身青樓习柠,卻偏偏與公主長得像匀谣,于是被迫代替她去往敵國和親照棋。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 44,619評論 2 354

推薦閱讀更多精彩內(nèi)容