AI是怎樣理解人話的吏恭?淺析NLP中的分詞和關(guān)鍵詞

前言:

難道你就不好奇趋距,AI音箱是怎樣做出決定的嗎驰后?這就像別人問(wèn)你中午吃什么呀鸦难,然后你想:我吃這個(gè)吧珍语,不强衡,那就那個(gè)吧形葬,不合呐,選來(lái)選去還是選擇了別的.....

正文:

AI與人類(lèi)不同,它沒(méi)有發(fā)達(dá)的大腦笙以,無(wú)法自主的做出任何決定淌实。它所有的工作都要通過(guò)人類(lèi)的幫助來(lái)實(shí)現(xiàn)。那它理解語(yǔ)言的過(guò)程究竟是怎樣的呢猖腕?這就涉及到了NLP(自然語(yǔ)言處理)拆祈。顧名思義,它就是AI用來(lái)處理語(yǔ)言的方式倘感,而現(xiàn)在大部分公司所使用的工具都是python放坏。

下面舉例說(shuō)明

你 ??????? ???:天是什么顏色

某AI音箱:藍(lán)色

當(dāng)你說(shuō)完“天是什么顏色”這句話之后,AI音箱接受到了你的指令侠仇,然后它就要去搜索答案轻姿。這就涉及到了中文分詞和關(guān)鍵詞。什么是中文分詞呢逻炊?就是把一句切分成很多個(gè)詞組互亮。如:天是什么顏色,它的中文分詞可能是:天|是|什么|顏色

那什么是關(guān)鍵詞呢余素?如下:“天是什么顏色的”關(guān)鍵詞我們可以標(biāo)注成豹休,天|顏色。那天和顏色就是這句話的關(guān)鍵詞桨吊。

然后AI通過(guò)分詞和關(guān)鍵詞去搜索相關(guān)的答案威根,最后給出結(jié)果(藍(lán)色)。如果中文分詞和關(guān)鍵詞有一方標(biāo)注出錯(cuò)视乐,那出來(lái)的結(jié)果也會(huì)是錯(cuò)誤的洛搀。這就是我們所說(shuō)的badcase。在工作中我們需要去改badcase和標(biāo)注關(guān)鍵詞佑淀。

badcase有三種:

①中文分詞錯(cuò)誤 ??②關(guān)鍵詞錯(cuò)誤? ③中文分詞和關(guān)鍵詞均錯(cuò)


badcase的第一種和第二種留美,拿過(guò)來(lái)直接改就好。第三種會(huì)比較麻煩,需要同時(shí)看中文分詞的文件和關(guān)鍵詞的文件來(lái)處理谎砾。而分詞本身就很容易出問(wèn)題逢倍,如多音字造成的badcase

例? ?:花都是什么顏色的? ?

分詞:花 都是 什么 顏色 的 ——正確

????????? ??花都 是什么 顏色 的 ?——錯(cuò)誤

上面那句話正常我們都是說(shuō)花都(dou) 景图,可花都(du)也是一個(gè)詞较雕,但程序在切分的時(shí)候很容易混淆,所以會(huì)出現(xiàn)badcase挚币。


小知識(shí):中文分詞上歧義——組合型歧義和交集型歧義

例:研究生物的起源”可以切分為?

研究 ?生物?的 ?起源?

研究生 ?物 ?的 ?起源?

?其中亮蒋,“研究生物”為交集歧義字段。?

?

他 ?從 ?馬 ?上 ?下來(lái)?

他 ?從 ?馬上 ?下來(lái)?

?其中妆毕,“馬上”為組合型歧義字段宛蚓。


還是以“花都是什么顏色的”為例:

關(guān)鍵詞: 花 顏色

分 詞 :

① 花都 是 什么 顏色 的

② 花 都是 什么 顏色的

③花都 是 什么 顏色的

④花 都 是 什么 顏色 的


那請(qǐng)問(wèn)關(guān)鍵詞和哪一組分詞的組合不是badcase呢?

首先分詞1是badcase设塔,因?yàn)樵谶@句話的本意不是花都凄吏,所以分詞錯(cuò)誤。

而分詞2闰蛔,沒(méi)有“花都”的錯(cuò)誤痕钢,但它有“的”的錯(cuò)誤。什么是“的”的錯(cuò)誤呢序六?首先我們需要看關(guān)鍵詞任连,這句話的關(guān)鍵詞是花|顏色,所以在分詞里面例诀,顏色需要和的分開(kāi)随抠,所以這分詞和關(guān)鍵詞的組合是badcase。

再看分詞3繁涂,它綜合了分詞1和2的兩處錯(cuò)誤拱她,“花都”和“的”。所以它也是badcase扔罪。

而最后一組和關(guān)鍵詞的組合就不是badcase了秉沼。


小知識(shí):分詞粒度

然后我們?cè)诜催^(guò)來(lái)看分詞中的詞組如“顏色”,它是分詞中切分出來(lái)的一個(gè)序列矿酵,它的分詞粒度是二唬复。什么是分詞粒度,就是這個(gè)詞組的長(zhǎng)度全肮,如果是:“五顏六色”那它的分詞粒度就是四敞咧。



接著我們來(lái)看分詞和關(guān)鍵詞都有問(wèn)題的badcase

例句:天為什么是藍(lán)顏色的

① 關(guān)鍵詞??? 藍(lán) 顏色

? 分?? 詞 ? 天 為什么 是 藍(lán) 顏色的


②關(guān)鍵詞??? 天 顏色的

??分? 詞 ?? 天 為什么 是 藍(lán)顏色 的


③關(guān)鍵詞? ?天 顏色

? 分? 詞 ? 天 為什么 是 藍(lán) 顏色 的

很明顯第三組分詞和關(guān)鍵詞的組合不是badcase。

第一組錯(cuò)在辜腺,關(guān)鍵詞沒(méi)有主語(yǔ)休建,分詞應(yīng)該吧顏色和的分開(kāi)柱锹。

第二組錯(cuò)在,關(guān)鍵詞應(yīng)該是顏色而不是顏色的丰包,分詞應(yīng)該是 藍(lán) 顏色。


看這組的例句壤巷,天為什么是藍(lán)顏色的

在分詞正確的情況下邑彪,它的關(guān)鍵詞有幾種標(biāo)法?

① 天 藍(lán) ② 天 顏色 ③ 天 藍(lán)顏色


除此之外胧华,NLP里還包含了許多的知識(shí):語(yǔ)料庫(kù)寄症、詞法分析、漢字編碼矩动、句法分析有巧、語(yǔ)義分析、文本生成悲没、語(yǔ)音識(shí)別篮迎、等。更具體的各位可以去咨詢自己公司的智慧大腦——研發(fā)哥哥們示姿。他們的大腦儲(chǔ)存了很多知識(shí)甜橱,可以去深挖一下~

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市栈戳,隨后出現(xiàn)的幾起案子岂傲,更是在濱河造成了極大的恐慌,老刑警劉巖子檀,帶你破解...
    沈念sama閱讀 211,290評(píng)論 6 491
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件镊掖,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡褂痰,警方通過(guò)查閱死者的電腦和手機(jī)亩进,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,107評(píng)論 2 385
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)缩歪,“玉大人镐侯,你說(shuō)我怎么就攤上這事∈幻埃” “怎么了苟翻?”我有些...
    開(kāi)封第一講書(shū)人閱讀 156,872評(píng)論 0 347
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)骗污。 經(jīng)常有香客問(wèn)我崇猫,道長(zhǎng),這世上最難降的妖魔是什么需忿? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,415評(píng)論 1 283
  • 正文 為了忘掉前任诅炉,我火速辦了婚禮蜡歹,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘涕烧。我一直安慰自己月而,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,453評(píng)論 6 385
  • 文/花漫 我一把揭開(kāi)白布议纯。 她就那樣靜靜地躺著父款,像睡著了一般。 火紅的嫁衣襯著肌膚如雪瞻凤。 梳的紋絲不亂的頭發(fā)上憨攒,一...
    開(kāi)封第一講書(shū)人閱讀 49,784評(píng)論 1 290
  • 那天,我揣著相機(jī)與錄音阀参,去河邊找鬼肝集。 笑死,一個(gè)胖子當(dāng)著我的面吹牛蛛壳,可吹牛的內(nèi)容都是我干的杏瞻。 我是一名探鬼主播,決...
    沈念sama閱讀 38,927評(píng)論 3 406
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼衙荐,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼伐憾!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起赫模,我...
    開(kāi)封第一講書(shū)人閱讀 37,691評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤树肃,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后瀑罗,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體胸嘴,經(jīng)...
    沈念sama閱讀 44,137評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,472評(píng)論 2 326
  • 正文 我和宋清朗相戀三年斩祭,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了劣像。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,622評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡摧玫,死狀恐怖耳奕,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情诬像,我是刑警寧澤屋群,帶...
    沈念sama閱讀 34,289評(píng)論 4 329
  • 正文 年R本政府宣布,位于F島的核電站坏挠,受9級(jí)特大地震影響芍躏,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜降狠,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,887評(píng)論 3 312
  • 文/蒙蒙 一对竣、第九天 我趴在偏房一處隱蔽的房頂上張望庇楞。 院中可真熱鬧,春花似錦否纬、人聲如沸吕晌。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,741評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)睛驳。三九已至,卻和暖如春谬俄,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背弃理。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,977評(píng)論 1 265
  • 我被黑心中介騙來(lái)泰國(guó)打工溃论, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人痘昌。 一個(gè)月前我還...
    沈念sama閱讀 46,316評(píng)論 2 360
  • 正文 我出身青樓钥勋,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親辆苔。 傳聞我的和親對(duì)象是個(gè)殘疾皇子算灸,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,490評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容