發(fā)簡(jiǎn)信
IP屬地：廣東
-
第三周該模型假設(shè)一篇文章是由多個(gè)分布所產(chǎn)生的。此處地熄，模型簡(jiǎn)化為由一個(gè)主題分布和一個(gè)背景詞分布华临。 接下來(lái)需要求出模型的各個(gè)分布的參數(shù)，課程在這里假設(shè)其他...
-
第二周發(fā)現(xiàn)K個(gè)主題 計(jì)算每個(gè)文檔包含哪些主題 此處引入了單詞集端考，用來(lái)計(jì)算各主題的詞分布雅潭。 通過(guò)調(diào)整模型的參數(shù)，使得生成數(shù)據(jù)的條件概率最大跛梗。 可以用最大...
-
第一周文本表示有很多種寻馏，不同的種類(lèi)對(duì)應(yīng)著不同的應(yīng)用場(chǎng)景和算法。 基于單詞的表示方法有如下幾個(gè)好處 通用性和魯棒性：可以應(yīng)用于多種自然語(yǔ)言 不需要太多人...
-
預(yù)測(cè)算法
1. 近似算法 t 時(shí)刻最有可能的狀態(tài)核偿，這個(gè)公式取值最大的 i 2. 維比特算法 t 時(shí)刻狀態(tài)為 i 的最大概率（在該模型下诚欠，觀(guān)測(cè)序列為O，且t...
-
學(xué)習(xí)算法
1.1 監(jiān)督學(xué)習(xí)方法 已知S個(gè)長(zhǎng)度相同的觀(guān)測(cè)序列和對(duì)應(yīng)的狀態(tài)序列，可以通過(guò)極大似然估計(jì)法轰绵。頻率算概率：轉(zhuǎn)移概率粉寞，觀(guān)測(cè)概率，初始狀態(tài)概率 1.2 ...
-
概率計(jì)算算法
1.1 直接計(jì)算法 由于已知馬爾可夫模型參數(shù)和觀(guān)察序列左腔，所以有 模型產(chǎn)生某一狀態(tài)序列的概率 模型產(chǎn)生某一狀態(tài)序列時(shí)得到某一觀(guān)測(cè)序列的概率 上面兩...
-
第九章 馬爾可夫模型——統(tǒng)計(jì)自然語(yǔ)言處理基礎(chǔ)筆記
1. 馬爾可夫模型 特征： 有限歷史假設(shè)該隨機(jī)變量的概率唧垦，只取決于前面一個(gè)隨機(jī)變量 時(shí)間不變性時(shí)間變化不影響各隨機(jī)變量的概率 但是n-gram模...
-
第五章 搭配——統(tǒng)計(jì)自然語(yǔ)言處理基礎(chǔ)筆記
所謂搭配，感性理解可以認(rèn)為搭配就是自然語(yǔ)言中經(jīng)常聯(lián)合一起使用的詞液样。比如我們小學(xué)英語(yǔ)經(jīng)常被的詞組等振亮，這章討論的問(wèn)題便是如何通過(guò)一些技術(shù)手段找到常用...
-
信息論基礎(chǔ)——統(tǒng)計(jì)自然語(yǔ)言處理基礎(chǔ)筆記
在香農(nóng)的信息論里面，把信息本身看成是一個(gè)隨機(jī)變量鞭莽，因此要量化信息坊秸，自然就是同隨機(jī)變量的概率以量化。 關(guān)于熵的數(shù)理運(yùn)算完全可用概率來(lái)理解澎怒，依然講究...