N-gram Basic Research

前言:

使用輸入法打字或者語(yǔ)音搜索時(shí)乖篷,用戶的輸入常常無(wú)法分辨,或者無(wú)法憑借聲學(xué)透且,拼音無(wú)法準(zhǔn)確判斷那伐。

這個(gè)時(shí)候可以用大量歷史數(shù)據(jù)訓(xùn)練出一個(gè)N-Gram 模型,依靠模型來(lái)估計(jì)用戶的輸入石蔗。

今天就先看一下N-Gram相關(guān)的基本知識(shí)。


N-gram:

N-gram是計(jì)算機(jī)語(yǔ)言學(xué)和概率論范疇內(nèi)的概念畅形,是指給定的一段文本或者語(yǔ)音中的N個(gè)項(xiàng)目(item)的序列养距。

項(xiàng)目(item)可以是音節(jié),字母日熬,或者單詞棍厌。

N=1時(shí)N-gram又被稱作unigram,N=2時(shí)N-gram被稱為bigram竖席,N=3時(shí)被稱為trigram耘纱,依此類推。實(shí)際應(yīng)用通常是采用bigram和trigram進(jìn)行計(jì)算毕荐。

一個(gè)例子:

今天又是元?dú)鉂M滿的一天

這句話的bigram為:

今天束析,天又,又是憎亚,是元员寇,元?dú)猓瑲鉂M第美,滿滿蝶锋,滿的,的一什往,一天扳缕。

trigram就是:

今天又,天又是,又是元躯舔,是元?dú)饴刻蓿獨(dú)鉂M,氣滿滿庸毫,滿滿的仔拟,滿的一,的一天飒赃。

N-gram的用途:

輸入法

用前幾個(gè)字預(yù)測(cè)之后要輸入的字利花,這個(gè)功能幾乎存在于每一個(gè)我們用到的輸入法中。

語(yǔ)音識(shí)別

同樣载佳,在前面提到過(guò)炒事,N-gram模型也被應(yīng)用在語(yǔ)音識(shí)別領(lǐng)域。比如用戶在使用語(yǔ)音搜索的時(shí)候蔫慧,輸入的語(yǔ)音常常比較含糊挠乳,并且同音詞無(wú)法通過(guò)聲學(xué)原理來(lái)判斷。這個(gè)時(shí)候往往就需要語(yǔ)音識(shí)別服務(wù)提供商通過(guò)歷史搜索記錄訓(xùn)練出一個(gè)N-gram模型姑躲,依靠模型來(lái)估計(jì)用戶更有可能的輸入睡扬。

模糊匹配

除了常了解到的字符間編輯距離之外,還可以利用N-gram距離黍析,利用兩個(gè)字符串的公共子串?dāng)?shù)量卖怜,能夠比較字符串相似度,從而實(shí)現(xiàn)模糊匹配阐枣。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末马靠,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子蔼两,更是在濱河造成了極大的恐慌甩鳄,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,214評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件额划,死亡現(xiàn)場(chǎng)離奇詭異妙啃,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)俊戳,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,307評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門彬祖,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人品抽,你說(shuō)我怎么就攤上這事储笑。” “怎么了圆恤?”我有些...
    開封第一講書人閱讀 152,543評(píng)論 0 341
  • 文/不壞的土叔 我叫張陵突倍,是天一觀的道長(zhǎng)腔稀。 經(jīng)常有香客問(wèn)我,道長(zhǎng)羽历,這世上最難降的妖魔是什么焊虏? 我笑而不...
    開封第一講書人閱讀 55,221評(píng)論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮秕磷,結(jié)果婚禮上诵闭,老公的妹妹穿的比我還像新娘。我一直安慰自己澎嚣,他們只是感情好疏尿,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,224評(píng)論 5 371
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著易桃,像睡著了一般褥琐。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上晤郑,一...
    開封第一講書人閱讀 49,007評(píng)論 1 284
  • 那天敌呈,我揣著相機(jī)與錄音,去河邊找鬼造寝。 笑死磕洪,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的诫龙。 我是一名探鬼主播褐鸥,決...
    沈念sama閱讀 38,313評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼赐稽!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起浑侥,我...
    開封第一講書人閱讀 36,956評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤姊舵,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后寓落,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體括丁,經(jīng)...
    沈念sama閱讀 43,441評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,925評(píng)論 2 323
  • 正文 我和宋清朗相戀三年伶选,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了史飞。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,018評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡仰税,死狀恐怖构资,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情陨簇,我是刑警寧澤吐绵,帶...
    沈念sama閱讀 33,685評(píng)論 4 322
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響己单,放射性物質(zhì)發(fā)生泄漏唉窃。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,234評(píng)論 3 307
  • 文/蒙蒙 一纹笼、第九天 我趴在偏房一處隱蔽的房頂上張望纹份。 院中可真熱鬧,春花似錦廷痘、人聲如沸蔓涧。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,240評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)蠢笋。三九已至,卻和暖如春鳞陨,著一層夾襖步出監(jiān)牢的瞬間昨寞,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,464評(píng)論 1 261
  • 我被黑心中介騙來(lái)泰國(guó)打工厦滤, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留援岩,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,467評(píng)論 2 352
  • 正文 我出身青樓掏导,卻偏偏與公主長(zhǎng)得像享怀,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子趟咆,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,762評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容

  • 前面的文章主要從理論的角度介紹了自然語(yǔ)言人機(jī)對(duì)話系統(tǒng)所可能涉及到的多個(gè)領(lǐng)域的經(jīng)典模型和基礎(chǔ)知識(shí)添瓷。這篇文章,甚至之后...
    我偏笑_NSNirvana閱讀 13,867評(píng)論 2 64
  • 語(yǔ)音識(shí)別是以語(yǔ)音為研究對(duì)象值纱,通過(guò)語(yǔ)音信號(hào)處理和模式識(shí)別讓機(jī)器自動(dòng)識(shí)別和理解人類口述的語(yǔ)言鳞贷。語(yǔ)音識(shí)別技術(shù)就是讓機(jī)器通...
    郭少悲閱讀 26,978評(píng)論 2 40
  • 承接前面的《淺談機(jī)器學(xué)習(xí)基礎(chǔ)》、《淺談深度學(xué)習(xí)基礎(chǔ)》和《淺談自然語(yǔ)言處理基礎(chǔ)》虐唠,主要參考了《解析深度學(xué)習(xí):語(yǔ)音識(shí)別...
    我偏笑_NSNirvana閱讀 23,492評(píng)論 6 67
  • 前幾天去洗車搀愧,期間與店主閑聊。 “你喜歡什么類型的男人疆偿?” “易中天那樣的咱筛,除了年齡「斯剩” “啊迅箩,我也好喜歡他!他演...
    閬苑奇葩閱讀 258評(píng)論 1 2
  • 轉(zhuǎn)載文章 一处铛、調(diào)用函數(shù) Python內(nèi)置了很多有用的函數(shù)沙热,我們可以直接調(diào)用叉钥。要調(diào)用一個(gè)函數(shù),需要知道函數(shù)的名稱和參...
    五秋木閱讀 140評(píng)論 0 1