7-Answer 系列-語(yǔ)義解析模塊(二)

上一篇文章中我們介紹了語(yǔ)義解析模塊中的分詞和句法分析仆潮,句法分析輸出的結(jié)果是語(yǔ)句的句法依存關(guān)系愧哟,而依據(jù)這個(gè)句法依存關(guān)系就能按照語(yǔ)義圖算法構(gòu)建查詢語(yǔ)義圖靴庆。

這一篇介紹語(yǔ)義圖算法及其實(shí)現(xiàn)讲逛。

語(yǔ)義圖算法簡(jiǎn)介

在北京大學(xué)徐坤的論文《面向知識(shí)庫(kù)的中文自然語(yǔ)言問(wèn)句的語(yǔ)義理解》中,提出了一種利用 Stanford Parser 的句法分析樹(shù)構(gòu)建查詢語(yǔ)義圖店诗,從而獲取用戶自然語(yǔ)言表述的語(yǔ)義的方法裹刮,這種方法我稱之為語(yǔ)義圖算法。

在最終構(gòu)建的語(yǔ)義圖中庞瘸,圖的頂點(diǎn)代表著名詞或命名實(shí)體捧弃,頂點(diǎn)之間的連線代表頂點(diǎn)之間的聯(lián)系。

論文中提到擦囊,經(jīng)過(guò)統(tǒng)計(jì)违霞,發(fā)現(xiàn)問(wèn)句的實(shí)體有將近 90% 左右概率是名詞,而其中的關(guān)系有 80% 的概率是名詞或者動(dòng)詞瞬场。因此基于這個(gè)統(tǒng)計(jì)我們可以認(rèn)為語(yǔ)義圖算法在自然語(yǔ)言理解的處理上有一定的準(zhǔn)確性和實(shí)用性买鸽。

語(yǔ)義圖算法詳解

基于上述的統(tǒng)計(jì),語(yǔ)義圖算法的原理為:

分析問(wèn)句中各個(gè)單詞的詞性贯被,如果是名詞眼五,則構(gòu)造名詞性結(jié)點(diǎn),并將名詞性結(jié)點(diǎn)區(qū)分為兩類彤灶,一類為上一步提到的實(shí)體詞典中的命名實(shí)體看幼,如 “周星馳、周杰倫幌陕、美人魚” 等桌吃,另一類則是普通的名詞性變量,如 “導(dǎo)演苞轿、母親” 等。

根據(jù)詞性找到名詞性結(jié)點(diǎn)后,我們需要分析單詞之間的依存關(guān)系闪盔,如果名詞性結(jié)點(diǎn)之間存在修飾關(guān)系违寞,如 “美人魚的導(dǎo)演” 問(wèn)句中,并存在 “美人魚” 修飾 “導(dǎo)演” 這一關(guān)系契邀,其中 “美人魚” 可稱為修飾詞摆寄,而 “導(dǎo)演” 可稱為被修飾詞。在此基礎(chǔ)上坯门,如果被修飾詞是名詞性結(jié)點(diǎn)(而不是命名實(shí)體)微饥,我們并可構(gòu)建一條從修飾詞到被修飾詞的邊,并且邊上的關(guān)系名稱為被修飾詞的名稱(即例句中的“導(dǎo)演”一詞)古戴。

仍然以 “美人魚的導(dǎo)演欠橘?” 為例,其構(gòu)建的語(yǔ)義圖如下圖所示:

2018-09-05-7-Answer-pic-1.png

上述為對(duì)名詞性結(jié)點(diǎn)的處理现恼。

而對(duì)于詞性為動(dòng)詞的單詞肃续,我們構(gòu)造動(dòng)詞性結(jié)點(diǎn),并且以動(dòng)詞為核心叉袍,根據(jù)依存句法分析的結(jié)果找出動(dòng)詞的主體動(dòng)詞的客體始锚,也就是謂語(yǔ)的主語(yǔ)和賓語(yǔ),然后構(gòu)建出主體-動(dòng)詞-客體的有向圖關(guān)系喳逛。

現(xiàn)在以 “美人魚的導(dǎo)演是誰(shuí)瞧捌?” 為例,其中 “是” 為動(dòng)詞润文,再根據(jù)上一節(jié)中提到的依存句法分析的結(jié)果姐呐,很容易并能得出謂語(yǔ) “是” 的主語(yǔ)為 “導(dǎo)演”,而賓語(yǔ)則是 “誰(shuí)”转唉,因此我們并可以獲得圖關(guān)系:導(dǎo)演-是-誰(shuí)皮钠,最終結(jié)合之前的名詞性結(jié)點(diǎn)的處理結(jié)果,我們構(gòu)建查詢語(yǔ)義圖如下圖所示:

2018-09-05-7-Answer-pic-2.png

其中 美人魚-導(dǎo)演-導(dǎo)演 為名詞性結(jié)點(diǎn)處理的結(jié)果赠法,導(dǎo)演(主體)-是(謂語(yǔ))-誰(shuí)(客體)則是動(dòng)詞性結(jié)點(diǎn)處理的結(jié)果麦轰。

語(yǔ)義圖算法實(shí)現(xiàn)

在論文《面向知識(shí)庫(kù)的中文自然語(yǔ)言問(wèn)句的語(yǔ)義理解》中已經(jīng)給出了基于 Stanford Parser 句法解析樹(shù)的語(yǔ)義圖算法實(shí)現(xiàn)的偽碼。但在 Answer 系統(tǒng)中依存句法分析采用 HanLP 的結(jié)果砖织,所以過(guò)程稍微有點(diǎn)不同款侵。

在 Answer 系統(tǒng)中語(yǔ)義圖算法最終實(shí)現(xiàn)的主要步驟如下:

  1. 第一次遍歷依存關(guān)系分析后輸出的結(jié)果
  2. 找出其中的名詞性詞語(yǔ),構(gòu)建名詞性結(jié)點(diǎn)侧纯,并加入到名詞性結(jié)點(diǎn)集合中
  3. 找出其中的動(dòng)詞性詞語(yǔ)新锈,根據(jù)依存關(guān)系,找出謂語(yǔ)的主體和客體(如果是ADV眶熬,構(gòu)建新詞組妹笆,這一點(diǎn)是自己對(duì)語(yǔ)義圖的一個(gè)還沒(méi)有驗(yàn)證準(zhǔn)確度的小優(yōu)化)
  4. 結(jié)束遍歷
  5. 第二次遍歷依存關(guān)系分析后輸出的結(jié)果
  6. 根據(jù)依存關(guān)系块请,建立名詞性結(jié)點(diǎn)集合中修飾詞和被修飾詞之間的圖關(guān)系
  7. 結(jié)束遍歷

Answer 系統(tǒng)語(yǔ)義圖算法的偽碼如下:

for (CoNLLWord coNLLWord : coNLLsentence) {
    if (this.isNounWord(coNLLWord.CPOSTAG))
        添加結(jié)點(diǎn)到名詞性結(jié)點(diǎn)集合中
    if (this.isVerbWord(coNLLWord.POSTAG))
        找出其主謂賓
        如果是 ADV,則構(gòu)建新詞組(如 出生地方)
}
for (CoNLLWord word : coNLLsentence) {
    遍歷名詞性結(jié)點(diǎn)集合拳缠,造出修飾關(guān)系的名詞構(gòu)建成圖
}

算法實(shí)現(xiàn)過(guò)程如下圖所示:

2018-09-05-7-Answer-pic-3.png

語(yǔ)義圖算法的實(shí)現(xiàn)源碼可見(jiàn) 查詢語(yǔ)義圖算法源碼

下一篇

人類的自然語(yǔ)言極其復(fù)雜墩新,并非構(gòu)造出查詢語(yǔ)義圖之后,就能完成語(yǔ)義理解窟坐。例如將 “星爺?shù)哪挲g海渊?” 這條問(wèn)句構(gòu)建成語(yǔ)義圖之后,仍然存在很多需要解決的問(wèn)題哲鸳,如句中的星爺指代著誰(shuí)臣疑,是否是某一個(gè)實(shí)體的別名?如果問(wèn)句為 “星爺?shù)哪昙o(jì)徙菠?” 那我們?cè)撊绾谓馕龅鹊取?/p>

在構(gòu)造出查詢語(yǔ)義圖之后讯沈,我們后續(xù)還需要解決同名實(shí)體和實(shí)體別名(實(shí)體消歧)問(wèn)題,同時(shí)也需要進(jìn)行謂語(yǔ)消歧的處理懒豹。

下一篇將介紹這些處理過(guò)程芙盘。

汪.

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市脸秽,隨后出現(xiàn)的幾起案子儒老,更是在濱河造成了極大的恐慌,老刑警劉巖记餐,帶你破解...
    沈念sama閱讀 222,252評(píng)論 6 516
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件驮樊,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡片酝,警方通過(guò)查閱死者的電腦和手機(jī)囚衔,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,886評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)雕沿,“玉大人练湿,你說(shuō)我怎么就攤上這事∩舐郑” “怎么了肥哎?”我有些...
    開(kāi)封第一講書人閱讀 168,814評(píng)論 0 361
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)疾渣。 經(jīng)常有香客問(wèn)我篡诽,道長(zhǎng),這世上最難降的妖魔是什么榴捡? 我笑而不...
    開(kāi)封第一講書人閱讀 59,869評(píng)論 1 299
  • 正文 為了忘掉前任杈女,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘达椰。我一直安慰自己翰蠢,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,888評(píng)論 6 398
  • 文/花漫 我一把揭開(kāi)白布砰碴。 她就那樣靜靜地躺著躏筏,像睡著了一般。 火紅的嫁衣襯著肌膚如雪呈枉。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書人閱讀 52,475評(píng)論 1 312
  • 那天埃碱,我揣著相機(jī)與錄音猖辫,去河邊找鬼。 笑死砚殿,一個(gè)胖子當(dāng)著我的面吹牛啃憎,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播似炎,決...
    沈念sama閱讀 41,010評(píng)論 3 422
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼辛萍,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了羡藐?” 一聲冷哼從身側(cè)響起贩毕,我...
    開(kāi)封第一講書人閱讀 39,924評(píng)論 0 277
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎仆嗦,沒(méi)想到半個(gè)月后辉阶,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,469評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡瘩扼,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,552評(píng)論 3 342
  • 正文 我和宋清朗相戀三年谆甜,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片集绰。...
    茶點(diǎn)故事閱讀 40,680評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡规辱,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出栽燕,到底是詐尸還是另有隱情罕袋,我是刑警寧澤,帶...
    沈念sama閱讀 36,362評(píng)論 5 351
  • 正文 年R本政府宣布纫谅,位于F島的核電站炫贤,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏付秕。R本人自食惡果不足惜兰珍,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,037評(píng)論 3 335
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望询吴。 院中可真熱鬧掠河,春花似錦亮元、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 32,519評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至勾拉,卻和暖如春煮甥,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背藕赞。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 33,621評(píng)論 1 274
  • 我被黑心中介騙來(lái)泰國(guó)打工成肘, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人斧蜕。 一個(gè)月前我還...
    沈念sama閱讀 49,099評(píng)論 3 378
  • 正文 我出身青樓双霍,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親批销。 傳聞我的和親對(duì)象是個(gè)殘疾皇子洒闸,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,691評(píng)論 2 361

推薦閱讀更多精彩內(nèi)容

  • 在之前的文章中已經(jīng)介紹了系統(tǒng)的本體構(gòu)建模塊和本體查詢模塊,也就是說(shuō)現(xiàn)在我們已經(jīng)擁有一個(gè)本體庫(kù)均芽,并且封裝了對(duì)本體庫(kù)的...
    401閱讀 2,307評(píng)論 4 4
  • 命名實(shí)體識(shí)別 命名實(shí)體的提出源自信息抽取問(wèn)題丘逸,即從報(bào)章等非結(jié)構(gòu)化文本中抽取關(guān)于公司活動(dòng)和國(guó)防相關(guān)活動(dòng)的結(jié)構(gòu)化信息,...
    我偏笑_NSNirvana閱讀 10,288評(píng)論 1 35
  • 句法分析的基本任務(wù)是確定句子的語(yǔ)法結(jié)構(gòu)或句子中詞匯之間的依存關(guān)系骡技。句法分析不是一個(gè)自然語(yǔ)言處理任務(wù)的最終目標(biāo)鸣个,但它...
    呂不韋閱讀 30,468評(píng)論 2 16
  • 小學(xué)的時(shí)候囤萤,我一直都是一個(gè)差生,尤其是不喜歡學(xué)英語(yǔ)是趴,一直到畢業(yè)我都不會(huì)二十六個(gè)字母表的發(fā)音涛舍,當(dāng)時(shí)覺(jué)得沒(méi)啥,可中考的...
    拾荒Demo閱讀 234評(píng)論 0 1
  • 1唆途、手機(jī)號(hào)(手機(jī)號(hào)注冊(cè)&訪問(wèn)手機(jī)通訊錄) PC 互聯(lián)網(wǎng)時(shí)代富雅,注冊(cè)方式多為用戶名或郵箱;移動(dòng)互聯(lián)網(wǎng)時(shí)代肛搬,手機(jī)號(hào)注冊(cè)變...
    車三七閱讀 289評(píng)論 0 0