前言

大模型落地應(yīng)用過(guò)程中杖小，一般形式還是問(wèn)答形式列林，無(wú)論是人機(jī)對(duì)話還是機(jī)機(jī)對(duì)話终吼，都是靠問(wèn)答來(lái)解決一系列問(wèn)題贞盯。無(wú)論是要求大模型給出具體的專業(yè)化知識(shí)音念，還是要求大模型進(jìn)行某項(xiàng)作業(yè)的開(kāi)展，都是以問(wèn)題（指令其實(shí)也是一種特殊的問(wèn)題）的形式進(jìn)行躏敢。所以在RAG中闷愤，如何將問(wèn)題轉(zhuǎn)化為大模型能夠理解的問(wèn)題，轉(zhuǎn)化為各種知識(shí)庫(kù)可以查詢的問(wèn)題件余，這是應(yīng)用大模型能力的關(guān)鍵讥脐。本次帶來(lái)的東南大學(xué)發(fā)表的一篇關(guān)于KBQA相關(guān)的論文綜述遭居。詳細(xì)介紹了復(fù)雜事實(shí)性問(wèn)題的處理框架。我分為上中下三個(gè)部分詳解這篇論文中關(guān)于KBQA相關(guān)的內(nèi)容攘烛。洞悉用戶問(wèn)題才是大模型落地應(yīng)用的第一步魏滚！本篇為中篇，主要講述了KBQA中基于語(yǔ)義解析的方法（SP_base）和基于信息檢索的方法（IR-base）坟漱。歡迎關(guān)注我們鼠次，大模型的藝術(shù)，持續(xù)更新芋齿！

【RAG問(wèn)答相關(guān)】復(fù)雜知識(shí)庫(kù)問(wèn)答綜述（上）【RAG問(wèn)答相關(guān)】復(fù)雜知識(shí)庫(kù)問(wèn)答綜述（中）

基于語(yǔ)義解析的方法

在這一部分我們討論基于語(yǔ)義解析方法的挑戰(zhàn)和解決辦法腥寇。

挑戰(zhàn)和解決方案的分類可以用圖4來(lái)顯示。

概述

基于SP的方法采用一種解析-執(zhí)行過(guò)程觅捆，通過(guò)一系列模塊來(lái)實(shí)現(xiàn)赦役，包括問(wèn)題理解、邏輯解析栅炒、知識(shí)庫(kù)連接和知識(shí)庫(kù)執(zhí)行掂摔。這些模塊在處理復(fù)雜的知識(shí)庫(kù)問(wèn)答（KBQA）時(shí)面臨不同的挑戰(zhàn)。首先赢赊，當(dāng)問(wèn)題在語(yǔ)義和句法方面都較為復(fù)雜時(shí)乙漓，問(wèn)題理解變得更加困難。其次释移，邏輯解析必須涵蓋復(fù)雜問(wèn)題的多種查詢類型叭披。此外，涉及更多關(guān)系和主題的復(fù)雜問(wèn)題將顯著增加解析的可能搜索空間玩讳。第三涩蜘，邏輯形式的手動(dòng)標(biāo)注成本高昂且勞動(dòng)密集，使用弱監(jiān)督信號(hào)（即問(wèn)題-答案對(duì)）來(lái)訓(xùn)練基于SP的方法具有挑戰(zhàn)性熏纯。在接下來(lái)的部分中同诫，我們將介紹先前研究如何應(yīng)對(duì)這些挑戰(zhàn)，并總結(jié)它們提出的高級(jí)技術(shù)樟澜。

理解復(fù)雜的語(yǔ)義和句法結(jié)構(gòu)

作為基于SP方法的第一步误窖，問(wèn)題理解模塊將非結(jié)構(gòu)化文本轉(zhuǎn)化為編碼的問(wèn)題，這有助于下游的解析過(guò)程往扔。與簡(jiǎn)單問(wèn)題相比，復(fù)雜問(wèn)題具有組合語(yǔ)義和更復(fù)雜的查詢類型熊户，這增加了語(yǔ)言分析的難度萍膛。

理解復(fù)雜問(wèn)題的語(yǔ)義結(jié)構(gòu)

復(fù)雜問(wèn)題的復(fù)雜語(yǔ)義表明了句子之間的復(fù)雜依賴模式，這表達(dá)了各成分之間的關(guān)系嚷堡。了解句子結(jié)構(gòu)的核心部分有助于理解問(wèn)題蝗罗。將問(wèn)題的結(jié)構(gòu)屬性結(jié)合是實(shí)現(xiàn)這一目標(biāo)的一種直觀策略艇棕。

將問(wèn)題的結(jié)構(gòu)屬性納入到seq2seq生成中。許多現(xiàn)有方法依賴于句法分析串塑，例如依賴關(guān)系和抽象含義表示（AMR）沼琉，以提供問(wèn)題成分與邏輯形式元素（如實(shí)體、關(guān)系桩匪、實(shí)體類型和屬性）之間更好的對(duì)齊打瘪。這一研究方向在圖5的左側(cè)有所示。為了表示答案與問(wèn)題中主題實(shí)體之間的遠(yuǎn)距離依賴關(guān)系傻昙，Luo等人提取了它們之間的依賴路徑闺骚。通過(guò)編碼方向性依賴路徑，他們將句法特征和本地語(yǔ)義特征結(jié)合起來(lái)妆档，形成全局問(wèn)題表示僻爽。類似地，Abujabal等人利用依賴關(guān)系解析來(lái)處理組合性表達(dá)贾惦，并在創(chuàng)建查詢模板時(shí)僅關(guān)注由解析的依賴路徑包含的重要token胸梆。Abujabal等人沒(méi)有直接在依賴路徑上創(chuàng)建邏輯形式，而是利用依賴關(guān)系解析來(lái)分析表達(dá)方式的組合须板，并將其與邏輯形式對(duì)齊碰镜。Kapanipathi等人引入了AMR來(lái)幫助理解問(wèn)題。其好處有兩個(gè)方面：（1）AMR在消除自然語(yǔ)言表達(dá)中的歧義方面很有效逼纸。（2）AMR解析模塊高度抽象洋措，有助于以與知識(shí)庫(kù)無(wú)關(guān)的方式理解問(wèn)題。然而杰刽，在復(fù)雜問(wèn)題上菠发，尤其是在存在長(zhǎng)距離依賴的情況下，產(chǎn)生句法分析仍然不夠滿意贺嫂。

為了緩解復(fù)雜問(wèn)題的不準(zhǔn)確句法分析滓鸠，Sun等人利用基于骨架的分析來(lái)獲取復(fù)雜問(wèn)題的主干，這是一個(gè)帶有幾個(gè)分支（即原始文本段的主要詞）的簡(jiǎn)單問(wèn)題第喳，需要進(jìn)一步擴(kuò)展糜俗。例如，問(wèn)題“What movie that Miley Cyrus acted in had a director named Tom Vaughan?”的主干是“What movie had a director?”曲饱，問(wèn)題中的定語(yǔ)從句將被視為主干的分支悠抹。在這種骨架結(jié)構(gòu)下，只有簡(jiǎn)單問(wèn)題需要進(jìn)一步解析扩淀，這更有可能獲得準(zhǔn)確的解析結(jié)果楔敌。

理解復(fù)雜查詢的復(fù)雜句法結(jié)構(gòu)

通過(guò)分析復(fù)雜語(yǔ)義來(lái)理解問(wèn)題非常重要。同樣驻谆，分析查詢的句法結(jié)構(gòu)也至關(guān)重要卵凑，確保生成的邏輯形式能夠滿足復(fù)雜查詢的句法要求庆聘。雖然上述方法使用Seq2seq框架生成邏輯形式，但另一條研究路線（如圖5的右側(cè)所示）側(cè)重于利用結(jié)構(gòu)屬性（例如邏輯形式的樹(shù)結(jié)構(gòu)或圖結(jié)構(gòu)）來(lái)對(duì)候選解析進(jìn)行排名勺卢。

將邏輯形式的結(jié)構(gòu)屬性納入特征化排名中伙判。Maheshwari等人提出了一種新穎的排名模型，利用查詢圖的結(jié)構(gòu)并使用注意權(quán)重來(lái)明確比較謂詞與自然語(yǔ)言問(wèn)題黑忱。具體而言宴抚，他們提出了一種細(xì)粒度的槽匹配機(jī)制，用于在問(wèn)題和核心推理鏈中的每個(gè)謂詞之間進(jìn)行逐跳語(yǔ)義匹配杨何。與捕捉問(wèn)題和簡(jiǎn)單關(guān)系鏈之間的語(yǔ)義相關(guān)性不同酱塔，Zhu等人關(guān)注了查詢的結(jié)構(gòu)屬性，并進(jìn)行了查詢-問(wèn)題匹配的KBQA危虱。他們使用了一個(gè)結(jié)構(gòu)感知的編碼器來(lái)建模查詢中的實(shí)體或關(guān)系上下文羊娃，促進(jìn)了查詢和問(wèn)題之間的匹配。類似地埃跷，Zafar等人結(jié)合了兩個(gè)Tree-LSTM來(lái)建模問(wèn)題的依賴解析樹(shù)和候選查詢的樹(shù)結(jié)構(gòu)蕊玷，并利用它們之間的結(jié)構(gòu)相似性進(jìn)行全面排名。

傳統(tǒng)方法采用狀態(tài)轉(zhuǎn)移策略生成候選查詢圖弥雹。由于這種策略忽略了查詢的結(jié)構(gòu)垃帅，將生成大量無(wú)效的候選查詢捌肴。為了過(guò)濾掉這些查詢恨胚，Chen等人提出了預(yù)測(cè)問(wèn)題的查詢結(jié)構(gòu)，并利用結(jié)構(gòu)限制候選查詢的生成销钝。具體而言厕吉，他們?cè)O(shè)計(jì)了一系列操作酱固，用于生成類型、數(shù)值操作符头朱、謂詞和實(shí)體的占位符运悲。然后，他們可以將這種未實(shí)例化的邏輯形式與知識(shí)庫(kù)進(jìn)行關(guān)聯(lián)项钮，并生成可執(zhí)行的邏輯形式班眯。

解析復(fù)雜查詢

為了生成可執(zhí)行的邏輯形式，傳統(tǒng)方法首先利用現(xiàn)有的解析器將問(wèn)題轉(zhuǎn)化為CCG推導(dǎo)烁巫，然后通過(guò)將謂詞和參數(shù)與知識(shí)庫(kù)中的關(guān)系和實(shí)體進(jìn)行對(duì)齊署隘，將其映射到SPARQL。由于本體不匹配問(wèn)題亚隙，這種方法對(duì)于復(fù)雜問(wèn)題來(lái)說(shuō)是次優(yōu)的磁餐。因此，為了進(jìn)行準(zhǔn)確的解析恃鞋，需要利用知識(shí)庫(kù)的結(jié)構(gòu)崖媚，在解析過(guò)程中進(jìn)行與知識(shí)庫(kù)的連接。

通過(guò)預(yù)定義的查詢模版設(shè)計(jì)邏輯形式恤浪。為了滿足復(fù)雜問(wèn)題的組合性畅哑，研究人員已經(jīng)開(kāi)發(fā)了多種表達(dá)能力強(qiáng)的邏輯形式作為解析目標(biāo)∷桑回顧在初步步驟中識(shí)別的主題實(shí)體荠呐，Bast等人從主題實(shí)體出發(fā)，設(shè)計(jì)了三個(gè)查詢模板作為解析目標(biāo)砂客。我們?cè)趫D6中列出了這三個(gè)查詢模板泥张。前兩個(gè)模板返回距離主題實(shí)體“Titanic”1跳和2跳的實(shí)體。第三個(gè)模板返回距離主題實(shí)體兩跳鞠值，并受另一個(gè)實(shí)體的限制媚创。后續(xù)研究集中于設(shè)計(jì)模板以回答時(shí)間性問(wèn)題。雖然這種基于模板的方法可以成功解析幾種類型的復(fù)雜問(wèn)題彤恶，但存在覆蓋范圍有限的問(wèn)題钞钙。

采用靈活組合規(guī)則設(shè)計(jì)具有表達(dá)力的邏輯形式。為了設(shè)計(jì)更具表現(xiàn)力的邏輯形式声离，Yih等人提出了查詢圖作為具有表達(dá)力的解析目標(biāo)芒炼。查詢圖是一種圖結(jié)構(gòu)的邏輯形式，與知識(shí)庫(kù)模式密切匹配术徊，是可執(zhí)行SPARQL的替代品本刽。它由實(shí)體、變量和函數(shù)組成赠涮，分別對(duì)應(yīng)于問(wèn)題中提到的基礎(chǔ)實(shí)體子寓、查詢和聚合操作。如圖6所示世囊，首先確定了一組從主題實(shí)體開(kāi)始的核心推理鏈别瞭。然后，將約束實(shí)體和聚合運(yùn)算符附加到路徑鏈上株憾，使其適應(yīng)更復(fù)雜的問(wèn)題蝙寨。與預(yù)定義的模板不同，查詢圖不受跳數(shù)和約束數(shù)的限制嗤瞎。它們已經(jīng)表現(xiàn)出強(qiáng)大的能力來(lái)表達(dá)復(fù)雜問(wèn)題墙歪，盡管它們?nèi)匀粺o(wú)法處理長(zhǎng)尾復(fù)雜問(wèn)題類型”雌妫基于對(duì)長(zhǎng)尾數(shù)據(jù)樣本的更多觀察虹菲，后續(xù)工作試圖通過(guò)引入句法標(biāo)注來(lái)增強(qiáng)查詢圖的結(jié)構(gòu)復(fù)雜性，應(yīng)用更多的聚合操作符掉瞳，如合并毕源、共指消解以適應(yīng)復(fù)雜問(wèn)題浪漠。與查詢模板相比，具有靈活組合規(guī)則的邏輯形式可以適用于各種復(fù)雜查詢霎褐。更具表現(xiàn)力的邏輯形式表示更強(qiáng)大的知識(shí)庫(kù)問(wèn)答系統(tǒng)址愿，可以處理更多樣化的問(wèn)題。

在龐大的搜索空間下進(jìn)行知識(shí)庫(kù)連接

為了獲得可執(zhí)行的邏輯形式冻璃，知識(shí)庫(kù)連接模塊會(huì)將可能的邏輯形式與知識(shí)庫(kù)進(jìn)行實(shí)例化响谓。由于知識(shí)庫(kù)中的一個(gè)實(shí)體可能與數(shù)百甚至數(shù)千個(gè)關(guān)系相連，考慮到計(jì)算資源和時(shí)間復(fù)雜性省艳，枚舉和連接復(fù)雜問(wèn)題的所有可能邏輯形式是不可行的娘纷。

將復(fù)雜問(wèn)題分解為子問(wèn)題。研究人員嘗試提出方法跋炕，通過(guò)多個(gè)步驟生成復(fù)雜查詢赖晶，而不是通過(guò)單一遍歷來(lái)枚舉邏輯形式。鄭等人提出首先將復(fù)雜問(wèn)題分解為多個(gè)簡(jiǎn)單問(wèn)題辐烂，其中每個(gè)簡(jiǎn)單問(wèn)題都被解析為一個(gè)簡(jiǎn)單的邏輯形式嬉探。最終答案可以通過(guò)部分邏輯形式的連接或合成來(lái)獲得。這種分解-執(zhí)行-連接策略可以有效縮小搜索空間棉圈。不過(guò)涩堤，布塔尼等人研究了一種類似的方法。由于將問(wèn)題分解需要人工工作分瘾，他們通過(guò)增強(qiáng)的指針網(wǎng)絡(luò)減少了人工注釋胎围，并通過(guò)識(shí)別組合計(jì)劃來(lái)獲得。最終答案是通過(guò)合并或組合分解問(wèn)題的答案獲得德召。

通過(guò)迭代擴(kuò)展邏輯形式白魂。與將復(fù)雜問(wèn)題分解為子問(wèn)題不同，許多研究采用了擴(kuò)展和排名策略上岗，通過(guò)迭代方式擴(kuò)展邏輯形式以減少搜索空間福荸。具體而言，它們首次收集了與主題實(shí)體的1跳鄰域相關(guān)的所有查詢圖作為第一次迭代的候選邏輯形式肴掷。這些候選根據(jù)它們與問(wèn)題的語(yǔ)義相似性進(jìn)行排名敬锐。排名靠前的候選保留下來(lái)進(jìn)行進(jìn)一步擴(kuò)展，而排名靠后的候選則被過(guò)濾掉呆瞻。在隨后的迭代中台夺，每個(gè)排名靠前的查詢圖都會(huì)進(jìn)行擴(kuò)展，從而產(chǎn)生了一組更復(fù)雜的候選查詢圖痴脾。此過(guò)程將一直重復(fù)颤介，直到獲得最佳查詢圖。陳等人首次利用跳躍貪婪搜索來(lái)擴(kuò)展最有可能的查詢圖。蘭等人提出了一個(gè)增量序列匹配模塊滚朵，以迭代方式解析問(wèn)題冤灾，而不需要在每個(gè)搜索步驟中重新生成查詢圖。上述擴(kuò)展是以線性方式進(jìn)行的辕近，只對(duì)生成多跳關(guān)系有效瞳购。蘭等人為每次迭代定義了三種擴(kuò)展操作，分別對(duì)應(yīng)多跳推理亏推、約束關(guān)系和數(shù)值操作年堆，分別是擴(kuò)展吞杭、連接和聚合。圖7中的示例展示了這兩種策略的不同原理变丧。

在弱監(jiān)督信號(hào)下進(jìn)行訓(xùn)練

為了應(yīng)對(duì)未標(biāo)記的推理路徑問(wèn)題芽狗，已經(jīng)使用基于強(qiáng)化學(xué)習(xí)（RL）的優(yōu)化方法來(lái)最大化預(yù)期獎(jiǎng)勵(lì)。然而痒蓬，訓(xùn)練數(shù)據(jù)不足使得在弱監(jiān)督下進(jìn)行訓(xùn)練成為一項(xiàng)挑戰(zhàn)童擎。

使用稀疏獎(jiǎng)勵(lì)進(jìn)行訓(xùn)練

通過(guò)RL進(jìn)行訓(xùn)練表明，基于SP的方法只能在完整解析邏輯形式之后才能獲得反饋攻晒。這導(dǎo)致了一個(gè)具有極度稀疏正獎(jiǎng)勵(lì)的長(zhǎng)時(shí)間探索階段顾复。為了解決這個(gè)問(wèn)題，提出了一些方法來(lái)增強(qiáng)最終獎(jiǎng)勵(lì)或中間獎(jiǎng)勵(lì)鲁捏。

通過(guò)豐富的特征增強(qiáng)最終獎(jiǎng)勵(lì)芯砸。一些研究工作采用獎(jiǎng)勵(lì)塑造策略來(lái)進(jìn)行解析評(píng)估。具體而言给梅，研究人員通過(guò)將更多答案信息納入最終預(yù)測(cè)的豐富特征中來(lái)增加邏輯形式的獎(jiǎng)勵(lì)假丧。Saha等人在模型預(yù)測(cè)的答案具有與連接真相相同的類型時(shí)，獎(jiǎng)勵(lì)模型附加的反饋动羽。通過(guò)這種方式包帚，即使模型預(yù)測(cè)的答案不完全等于連接真相，它們也可以鼓勵(lì)模型尋找正確的答案類型运吓。這有助于避免探索階段出現(xiàn)稀疏正獎(jiǎng)勵(lì)渴邦。

通過(guò)豐富的評(píng)論者增強(qiáng)中間獎(jiǎng)勵(lì)。除了來(lái)自最終預(yù)測(cè)的獎(jiǎng)勵(lì)之外拘哨，語(yǔ)義解析過(guò)程中的中間獎(jiǎng)勵(lì)也可以幫助應(yīng)對(duì)這一挑戰(zhàn)几莽。最近，Qiu等人將查詢圖生成形式化為分層決策問(wèn)題宅静，并提出了一個(gè)基于選項(xiàng)的分層框架章蚣，為低級(jí)代理提供中間獎(jiǎng)勵(lì)。通過(guò)在決策過(guò)程中設(shè)置選項(xiàng)，高級(jí)代理在中間步驟為低級(jí)代理設(shè)定目標(biāo)纤垂。為了評(píng)估低級(jí)代理的中間狀態(tài)是否符合高級(jí)代理的目標(biāo)矾策，他們測(cè)量了給定問(wèn)題和生成的三元組之間的語(yǔ)義相似性。為了為策略提供有效的中間反饋峭沦，Qiu等人使用手工制定的規(guī)則增強(qiáng)了查詢圖的評(píng)論者贾虽。

處理虛假推理

在訓(xùn)練的早期階段，很難找到具有正獎(jiǎng)勵(lì)的邏輯形式吼鱼。此外蓬豁，在早期階段的隨機(jī)探索很容易導(dǎo)致虛假推理，其中邏輯形式導(dǎo)致正確答案但在語(yǔ)義上不正確菇肃。因此地粪，可以進(jìn)行高質(zhì)量邏輯形式的早期監(jiān)督，以加速訓(xùn)練并防止模型誤導(dǎo)虛假推理琐谤。

通過(guò)高獎(jiǎng)勵(lì)邏輯形式穩(wěn)定訓(xùn)練過(guò)程蟆技。為了加速和穩(wěn)定訓(xùn)練過(guò)程，Liang等人提出了通過(guò)迭代最大似然訓(xùn)練過(guò)程找到的偽黃金程序來(lái)引導(dǎo)訓(xùn)練的方法斗忌。訓(xùn)練過(guò)程包括兩個(gè)步驟：(1) 利用波束搜索機(jī)制找到偽黃金程序质礼，以及(2) 在歷史上找到的最佳程序的監(jiān)督下優(yōu)化模型。Hua等人采用了類似的思路织阳，通過(guò)將生成的邏輯形式與存儲(chǔ)在內(nèi)存緩沖區(qū)中的高獎(jiǎng)勵(lì)邏輯形式進(jìn)行比較來(lái)評(píng)估邏輯形式眶蕉。為了在開(kāi)發(fā)和探索之間取得平衡，他們提出了接近獎(jiǎng)勵(lì)和新奇獎(jiǎng)勵(lì)唧躲，以鼓勵(lì)記住過(guò)去的高獎(jiǎng)勵(lì)邏輯形式并生成新的邏輯形式以減輕虛假推理妻坝。將這種獎(jiǎng)勵(lì)與終端獎(jiǎng)勵(lì)結(jié)合起來(lái)，模型可以在學(xué)習(xí)過(guò)程中獲得密集的反饋惊窖。

基于信息檢索的方法

在本節(jié)中刽宪，我們總結(jié)了復(fù)雜問(wèn)題對(duì)IR-based方法的不同模塊帶來(lái)的主要挑戰(zhàn)。這些挑戰(zhàn)和解決方案的分類可以通過(guò)下圖進(jìn)行可視化界酒。

概述

整個(gè)流程通常包括檢索源構(gòu)建圣拄、問(wèn)題表示、基于圖的推理和答案生成等模塊毁欣。這些模塊在處理復(fù)雜KBQA時(shí)會(huì)遇到不同的挑戰(zhàn)庇谆。首先，檢索源模塊從知識(shí)庫(kù)中提取一個(gè)與問(wèn)題相關(guān)的圖凭疮，其中包括相關(guān)事實(shí)和大量的噪聲事實(shí)饭耳。由于源知識(shí)庫(kù)的不可忽視的不完整性，正確的推理路徑可能在提取的圖中不存在执解。在復(fù)雜問(wèn)題的情況下寞肖，這兩個(gè)問(wèn)題更容易出現(xiàn)。其次，問(wèn)題表示模塊理解問(wèn)題并生成指導(dǎo)推理過(guò)程的指令新蟆。當(dāng)問(wèn)題變得復(fù)雜時(shí)觅赊，這一步變得具有挑戰(zhàn)性。然后琼稻，通過(guò)語(yǔ)義匹配在圖上進(jìn)行推理吮螺。在處理復(fù)雜問(wèn)題時(shí)，這些方法通過(guò)語(yǔ)義相似性來(lái)對(duì)答案進(jìn)行排名帕翻，而不在圖中進(jìn)行可追蹤的推理鸠补，這阻礙了推理分析和故障診斷。

接下來(lái)的部分將闡述先前的工作是如何應(yīng)對(duì)這些挑戰(zhàn)以及使用的先進(jìn)技術(shù)嘀掸。

在不完美的知識(shí)庫(kù)下進(jìn)行推理

一般而言紫岩，基于信息檢索的方法通過(guò)在圖結(jié)構(gòu)上進(jìn)行推理來(lái)找到答案。這個(gè)圖結(jié)構(gòu)通常是從知識(shí)庫(kù)中提取的一個(gè)與問(wèn)題相關(guān)的圖横殴。然而，由于知識(shí)庫(kù)的不完整性和啟發(fā)式圖生成策略帶來(lái)的噪聲圖上下文卿拴，這些問(wèn)題特定的圖永遠(yuǎn)不會(huì)是完美的衫仑。

在不完整的知識(shí)庫(kù)上進(jìn)行推理

對(duì)于問(wèn)題特定圖來(lái)說(shuō)，獲得正確推理路徑的高召回率是至關(guān)重要的堕花。由于簡(jiǎn)單問(wèn)題只需要在知識(shí)庫(kù)中的主題實(shí)體附近進(jìn)行1跳推理文狱，所以在解決簡(jiǎn)單問(wèn)題時(shí)，基于信息檢索的方法不太可能受到知識(shí)庫(kù)固有不完整性的影響缘挽。相比之下瞄崇，復(fù)雜問(wèn)題的正確推理路徑很可能不會(huì)出現(xiàn)在問(wèn)題特定圖中，這將成為一個(gè)嚴(yán)重問(wèn)題壕曼。為了解決這個(gè)挑戰(zhàn)苏研，研究人員利用輔助信息來(lái)補(bǔ)充知識(shí)源。我們將不同的補(bǔ)充方法分為三類腮郊，并在圖9中展示它們的核心區(qū)別摹蘑。

圖9. 說(shuō)明了三種補(bǔ)充不完整知識(shí)庫(kù)的方法類別。所有子圖都是以自下而上的方式繪制的轧飞，輸入位于底部衅鹿，補(bǔ)充的圖位于頂部。主題實(shí)體和答案實(shí)體分別以粗體和陰影框顯示过咬。

用句子作為節(jié)點(diǎn)來(lái)補(bǔ)充不完整的知識(shí)庫(kù)大渤。直觀地說(shuō)，從維基百科中檢索到的大量與問(wèn)題相關(guān)的文本語(yǔ)料庫(kù)可以提供廣泛的非結(jié)構(gòu)化知識(shí)作為補(bǔ)充證據(jù)掸绞”萌基于這一觀察，Sun等人提出了使用額外的問(wèn)題相關(guān)句子作為節(jié)點(diǎn)來(lái)補(bǔ)充圖，并在增強(qiáng)的異構(gòu)圖上進(jìn)行推理（即圖9左側(cè)）切黔。根據(jù)句子中提到的實(shí)體砸脊，他們將它們與圖上的相應(yīng)實(shí)體進(jìn)行關(guān)聯(lián)并將它們視為節(jié)點(diǎn)。

通過(guò)文本信息增強(qiáng)實(shí)體表示纬霞。與直接將句子作為節(jié)點(diǎn)補(bǔ)充到問(wèn)題特定圖中不同凌埂，熊等人和韓等人提出將額外的文本信息融合到實(shí)體表示中作為第二種方式（如圖9中間所示）。熊等人設(shè)計(jì)了一種新穎的條件門控機(jī)制诗芜，在子圖閱讀器提取的與文本鏈接的實(shí)體表示的指導(dǎo)下瞳抓，獲得了句子的知識(shí)感知信息。這些句子的知識(shí)感知信息進(jìn)一步被聚合以增強(qiáng)實(shí)體表示伏恐，以補(bǔ)充不完整的知識(shí)庫(kù)孩哑。類似地，韓等人將句子的文本信息融合到實(shí)體表示中翠桦。在他們的設(shè)置中横蜒，每個(gè)句子被視為連接所有涉及實(shí)體的超邊，一個(gè)文檔可以被視為一個(gè)超圖销凑〈陨危基于超圖卷積網(wǎng)絡(luò)（HGCN）[95]，他們對(duì)文檔中的句子進(jìn)行編碼斗幼，并將句子表示融合到句子鏈接的實(shí)體表示中澎蛛。

用預(yù)訓(xùn)練的知識(shí)庫(kù)嵌入來(lái)補(bǔ)充不完整的圖。在知識(shí)庫(kù)補(bǔ)全（knowledge base completion 蜕窿，KBC）任務(wù)中谋逻，知識(shí)庫(kù)嵌入已經(jīng)被采用來(lái)通過(guò)執(zhí)行缺失鏈接預(yù)測(cè)來(lái)減輕知識(shí)庫(kù)的稀疏性。受此啟發(fā)桐经，Apoorv等人利用了預(yù)訓(xùn)練的知識(shí)庫(kù)嵌入來(lái)解決不完整的知識(shí)庫(kù)問(wèn)題毁兆，如圖9右側(cè)所示。具體而言阴挣，他們使用ComplEX方法預(yù)訓(xùn)練了知識(shí)庫(kù)嵌入（即實(shí)體和關(guān)系嵌入）荧恍，并通過(guò)一個(gè)三元組評(píng)分函數(shù)來(lái)預(yù)測(cè)答案，該函數(shù)將三元組（主題實(shí)體屯吊、問(wèn)題送巡、答案實(shí)體）作為輸入。為了使問(wèn)題適應(yīng)原始的ComplEX評(píng)分函數(shù)盒卸，他們將問(wèn)題的Roberta嵌入映射到相同維度的復(fù)數(shù)空間中骗爆。通過(guò)利用全局知識(shí)庫(kù)的預(yù)訓(xùn)練知識(shí)，他們隱式地補(bǔ)充了不完整的問(wèn)題特定圖蔽介。

處理嘈雜的圖上下文

由于問(wèn)題特定圖通常是使用啟發(fā)式方法構(gòu)建的摘投，它可能引入冗余甚至與問(wèn)題無(wú)關(guān)的嘈雜圖上下文（包括實(shí)體和句子節(jié)點(diǎn)）煮寡。與只需要1跳推理的簡(jiǎn)單問(wèn)題相比，為復(fù)雜問(wèn)題構(gòu)建的問(wèn)題特定圖更有可能包含嘈雜的圖上下文犀呼。在這樣的嘈雜圖上進(jìn)行推理對(duì)于復(fù)雜問(wèn)題構(gòu)成了巨大的挑戰(zhàn)幸撕，同時(shí)也降低了模型訓(xùn)練的效率。

構(gòu)建精確的問(wèn)題特定圖外臂。一個(gè)直觀的想法是構(gòu)建一個(gè)相對(duì)小而精確的圖以進(jìn)行后續(xù)推理坐儿。為了實(shí)現(xiàn)這個(gè)目標(biāo)，Sun等人提出了在主題實(shí)體和答案實(shí)體之間的最短路徑監(jiān)督下宋光，通過(guò)迭代檢索和推理過(guò)程構(gòu)建異構(gòu)圖貌矿。在最近的研究中，Zhang等人提出了一個(gè)可訓(xùn)練的子圖檢索器（SR）罪佳，用于檢索相關(guān)的關(guān)系路徑以進(jìn)行后續(xù)推理逛漫。他們的實(shí)驗(yàn)結(jié)果證明，這樣的精確圖可以為基于信息檢索的方法帶來(lái)顯著的性能提升赘艳。

在推理過(guò)程中過(guò)濾掉無(wú)關(guān)信息酌毡。除了為后續(xù)推理構(gòu)建小而精確的圖外，一些研究工作還提出在推理過(guò)程中過(guò)濾掉無(wú)關(guān)信息蕾管。注意力機(jī)制枷踏，對(duì)于消除無(wú)關(guān)特征非常有效，已被現(xiàn)有的基于信息檢索的方法采用娇掏，以在推理過(guò)程中保留相關(guān)信息呕寝。類似地勋眯，Yasunaga等人采用了每個(gè)節(jié)點(diǎn)的預(yù)訓(xùn)練語(yǔ)言模型評(píng)分婴梧，條件是問(wèn)題回答上下文作為相關(guān)性分?jǐn)?shù)，以引導(dǎo)后續(xù)推理過(guò)程客蹋。

理解復(fù)雜語(yǔ)義

理解復(fù)雜問(wèn)題是后續(xù)推理的前提塞蹭。然而，復(fù)雜問(wèn)題包含復(fù)合語(yǔ)義讶坯，并需要特定的知識(shí)（例如命名實(shí)體番电、序數(shù)推理）來(lái)回答。由于復(fù)雜問(wèn)題具有這種固有屬性辆琅，專為簡(jiǎn)單問(wèn)題理解設(shè)計(jì)的方法可能不適用于復(fù)雜問(wèn)題漱办。

理解復(fù)合語(yǔ)義

基于信息檢索的方法通常通過(guò)神經(jīng)網(wǎng)絡(luò)（例如，LSTM和GRU）直接將問(wèn)題編碼為低維向量來(lái)生成初始問(wèn)題表示q婉烟。通過(guò)上述方法獲得的靜態(tài)推理指令（例如娩井，q的最終隱藏狀態(tài)）無(wú)法有效表示復(fù)雜問(wèn)題的復(fù)合語(yǔ)義，這對(duì)于指導(dǎo)問(wèn)題特定圖上的推理構(gòu)成了挑戰(zhàn)似袁。為了全面理解問(wèn)題洞辣，一些研究在推理過(guò)程中動(dòng)態(tài)更新推理指令咐刨。

使用注意力在不同語(yǔ)義上逐步指導(dǎo)。為了使推理模型能夠了解推理步驟扬霜，Qiu等人提出通過(guò)使用單層感知器將初始問(wèn)題表示q轉(zhuǎn)化為具有步驟感知性的表示定鸟。在獲得具有步驟感知性的問(wèn)題表示之后，進(jìn)一步引入了注意力機(jī)制著瓶，以選擇有用的信息生成指導(dǎo)向量联予。類似地，He等人提出使用動(dòng)態(tài)注意力機(jī)制關(guān)注問(wèn)題的不同部分蟹但∏基于具有步驟感知性的問(wèn)題表示和先前的推理指令，他們生成了對(duì)問(wèn)題的標(biāo)記的注意力分布华糖，并更新了指導(dǎo)向量麦向。

使用推理上下文信息更新指導(dǎo)信息。除了通過(guò)注意力明確記錄問(wèn)題的分析部分之外客叉，還有一些其他方法提出使用在推理過(guò)程中檢索到的信息更新指導(dǎo)信息诵竭。一個(gè)典型的例子是生成明確的推理路徑并使用生成的路徑更新指導(dǎo)。Zhou等人設(shè)計(jì)了一個(gè)模型兼搏，該模型以當(dāng)前的推理指導(dǎo)作為輸入卵慰，然后從知識(shí)庫(kù)中的所有關(guān)系中預(yù)測(cè)中間關(guān)系。在獲得預(yù)測(cè)的關(guān)系后佛呻，模型將指導(dǎo)向量更新為：裳朋，其中減法是指從問(wèn)題中省略已分析信息。因此吓著，在后續(xù)推理過(guò)程中鲤嫡，更新后的推理指導(dǎo)可以保存問(wèn)題的未分析部分。

與生成明確的推理路徑不同绑莺，Xu等人和Miller等人采用了鍵-值記憶網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)類似的動(dòng)態(tài)指導(dǎo)更新暖眼。具體來(lái)說(shuō)，他們首先將包含一個(gè)主題實(shí)體作為主語(yǔ)的所有知識(shí)庫(kù)事實(shí)包含到內(nèi)存中纺裁。然后诫肠，他們索引鍵-值內(nèi)存中的鍵和值，其中鍵是（主語(yǔ)欺缘，關(guān)系）對(duì)栋豫，值是相應(yīng)的客體實(shí)體。通過(guò)進(jìn)行鍵尋址過(guò)程谚殊，以找到最適合的鍵和相應(yīng)值來(lái)指導(dǎo)丧鸯。使用已尋址的鍵和值，他們將其表示與先前步驟的推理指導(dǎo)連接络凿，并執(zhí)行線性轉(zhuǎn)換以獲得更新后的推理指導(dǎo)骡送，以指導(dǎo)下一跳推理昂羡。通過(guò)這種方式，推理指導(dǎo)將在內(nèi)存中得到更新摔踱。基于圖神經(jīng)網(wǎng)絡(luò)的聯(lián)合推理虐先。除了指導(dǎo)更新，另一類研究通過(guò)基于圖神經(jīng)網(wǎng)絡(luò)（GNN）的推理來(lái)解決這種復(fù)合語(yǔ)義派敷。Sun等人提出了一種基于GNN的模型GraftNet蛹批，用于在異構(gòu)信息源上推理復(fù)雜問(wèn)題。通過(guò)迭代的GNN推理步驟篮愉，實(shí)體表示和推理指導(dǎo)依次得到更新腐芍。推理指導(dǎo)傳達(dá)了主題實(shí)體的知識(shí)，它在推理過(guò)程中動(dòng)態(tài)更新试躏。盡管推理指導(dǎo)和圖神經(jīng)網(wǎng)絡(luò)的迭代更新猪勇，Yasunaga等人提出了QAGNN模型，該模型通過(guò)單一圖神經(jīng)網(wǎng)絡(luò)進(jìn)行復(fù)雜問(wèn)題的推理颠蕴。他們?cè)趩?wèn)題特定圖中構(gòu)建了一個(gè)額外的問(wèn)答上下文節(jié)點(diǎn)泣刹，該節(jié)點(diǎn)與圖中的所有其他節(jié)點(diǎn)相連。所有節(jié)點(diǎn)都使用預(yù)訓(xùn)練語(yǔ)言模型（PLM）統(tǒng)一編碼為初始表示犀被，并隨著圖神經(jīng)網(wǎng)絡(luò)推理而得到更新椅您。

知識(shí)表示

除了組合語(yǔ)義之外，復(fù)雜問(wèn)題可能還包含知識(shí)密集型的標(biāo)記或短語(yǔ)（例如命名實(shí)體寡键、序數(shù)約束）掀泳，這會(huì)阻礙基于文本的語(yǔ)義理解。除了問(wèn)題文本之外西轩，外部知識(shí)被作為輸入來(lái)幫助理解這些復(fù)雜問(wèn)題员舵。

注入有知識(shí)的實(shí)體表示。在自然語(yǔ)言問(wèn)題中遭商，主題實(shí)體通常是命名實(shí)體固灵，但這些實(shí)體通常不足以提供足夠的信息來(lái)理解問(wèn)題捅伤。為了處理這些命名實(shí)體劫流，一些現(xiàn)有的工作提出了從知識(shí)庫(kù)中獲取的更具信息性的表示形式。作為一個(gè)典型例子丛忆，熊等人提出了從主題實(shí)體的圖上下文中學(xué)到的知識(shí)表示祠汇，以在潛在空間中重新構(gòu)建查詢表示。通過(guò)一項(xiàng)消融研究熄诡，他們驗(yàn)證了將這種有知識(shí)的表示注入到問(wèn)題表示中的有效性可很。類似的想法也被采用在增強(qiáng)知識(shí)的語(yǔ)言模型預(yù)訓(xùn)練中。雖然可以使用流行的seq2seq文本生成框架生成自然答案凰浮，但直接從標(biāo)記詞匯表中生成命名實(shí)體仍然很困難我抠。為了彌補(bǔ)這一差距苇本，何等人首次提出了一種復(fù)制和檢索機(jī)制，用于從問(wèn)題特定圖中的問(wèn)題標(biāo)記和實(shí)體的額外詞匯生成自然答案菜拓。類似的想法也被引入了知識(shí)增強(qiáng)型語(yǔ)言模型預(yù)訓(xùn)練中瓣窄，將關(guān)系事實(shí)輸入到結(jié)構(gòu)化記憶槽中，作為生成命名實(shí)體的額外詞匯纳鼎，并使用基于注意力的信息融合生成有知識(shí)的表示俺夕。

注入有知識(shí)的數(shù)值推理表示。雖然已經(jīng)提出了多種解決多跳推理的方法贱鄙，但很少關(guān)注解決具有數(shù)值運(yùn)算的復(fù)雜問(wèn)題劝贸。為了賦予基于信息檢索的方法數(shù)值推理能力，馮等人提出將數(shù)值屬性（即數(shù)字的大小和序數(shù)屬性）編碼到實(shí)體表示中逗宁。首先映九，他們手動(dòng)定義了一系列序數(shù)限定詞（例如，第一個(gè)瞎颗，最大的）來(lái)檢測(cè)序數(shù)約束問(wèn)題氯迂。對(duì)于這些檢測(cè)到的問(wèn)題，他們使用額外的數(shù)值屬性三元組來(lái)豐富其問(wèn)題特定圖言缤。通過(guò)使用預(yù)訓(xùn)練的數(shù)字編碼模塊對(duì)這些數(shù)值屬性三元組進(jìn)行編碼嚼蚀，額外的數(shù)值嵌入可以用作模型無(wú)關(guān)的插件，用于基于信息檢索的方法進(jìn)行數(shù)值推理管挟。

無(wú)法解釋的推理

由于復(fù)雜問(wèn)題通常按順序查詢多個(gè)事實(shí)轿曙，系統(tǒng)應(yīng)該能夠基于可追溯的推理過(guò)程在圖上準(zhǔn)確預(yù)測(cè)答案。盡管神經(jīng)網(wǎng)絡(luò)非常強(qiáng)大僻孝，但推理模塊的黑盒風(fēng)格使得推理過(guò)程難以解釋导帝，也難以引入用戶交互以進(jìn)一步改進(jìn)。為了獲得更可解釋的推理過(guò)程穿铆，推理是通過(guò)多步中間預(yù)測(cè)來(lái)執(zhí)行的您单。在推理過(guò)程中，KBQA模型生成一系列推理狀態(tài)荞雏，盡管最終狀態(tài)用于生成答案預(yù)測(cè)虐秦，但中間狀態(tài)可能有助于生成中間預(yù)測(cè)（即匹配的關(guān)系或?qū)嶓w），以提高可解釋性凤优。更重要的是悦陋，中間預(yù)測(cè)使得通過(guò)用戶交互更容易檢測(cè)到虛假或錯(cuò)誤的推理。

解釋復(fù)雜推理與關(guān)系路徑≈妫現(xiàn)有研究采用不同的推理狀態(tài)和推理模塊設(shè)計(jì)來(lái)解釋推理過(guò)程俺驶。具體而言，Zhou等人將多跳推理過(guò)程形式化為關(guān)系序列生成棍辕，并使用向量表示推理狀態(tài)暮现。對(duì)于每一步还绘，指令向量和狀態(tài)向量與關(guān)系候選進(jìn)行匹配，生成關(guān)于知識(shí)庫(kù)中所有關(guān)系的概率分布栖袋。然后蚕甥，加權(quán)的關(guān)系表示被用來(lái)更新?tīng)顟B(tài)。通過(guò)重復(fù)這個(gè)過(guò)程栋荸，模型可以實(shí)現(xiàn)可解釋的推理過(guò)程菇怀。受到上述工作的啟發(fā)，Han等人提出了基于超圖卷積網(wǎng)絡(luò)（HGCN）的可解釋模型晌块，用于預(yù)測(cè)解釋的關(guān)系路徑爱沟。他們通過(guò)確定一組通過(guò)相同關(guān)系連接的實(shí)體構(gòu)建了一個(gè)密集的超圖，模擬了人類的跳躍關(guān)系推理匆背。為了訓(xùn)練這兩個(gè)模型呼伸，他們利用了黃金關(guān)系路徑。然而钝尸，在大多數(shù)情況下括享，黃金關(guān)系路徑的注釋是不可用的，這使得他們的方法不適用于一般數(shù)據(jù)集珍促。解釋復(fù)雜推理與中間實(shí)體铃辖。除了關(guān)系路徑之外，一些研究工作在中間步驟預(yù)測(cè)與問(wèn)題相關(guān)的實(shí)體猪叙，以解釋多跳推理過(guò)程娇斩。Xu等人精心采用了鍵值記憶網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)可追溯的推理過(guò)程。在他們的工作中穴翩，狀態(tài)被定義為值表示的加權(quán)和犬第，其權(quán)重來(lái)自鍵-指令匹配。為了預(yù)測(cè)中間實(shí)體芒帕，他們的模型采用傳統(tǒng)的基于信息檢索的方法來(lái)給定查詢對(duì)候選進(jìn)行評(píng)分歉嗓。由于虛假的長(zhǎng)路徑可能連接主題實(shí)體與知識(shí)庫(kù)中的答案實(shí)體，在訓(xùn)練過(guò)程中背蟆，他們提出使用最終答案來(lái)監(jiān)督中間實(shí)體的預(yù)測(cè)鉴分。這樣的目標(biāo)鼓勵(lì)模型生成最短的推理路徑。除了明確生成中間實(shí)體淆储，He等人提出生成中間實(shí)體分布來(lái)指示推理過(guò)程冠场。他們的實(shí)驗(yàn)結(jié)果還顯示家浇，這種中間監(jiān)督信號(hào)可以有效減少虛假推理本砰。

在弱監(jiān)督信號(hào)下訓(xùn)練

與基于SP（Semantic Parsing）方法類似，對(duì)于基于信息檢索（IR）的方法來(lái)說(shuō)钢悲，在中間步驟沒(méi)有任何注釋的情況下推理出正確答案是困難的点额，因?yàn)槟Ｐ蜔o(wú)法在推理結(jié)束之前接收到任何反饋舔株。研究發(fā)現(xiàn)，這種情況可能導(dǎo)致虛假推理还棱。由于缺乏中間狀態(tài)的監(jiān)督信號(hào)载慈，來(lái)自虛假推理的獎(jiǎng)勵(lì)可能會(huì)誤導(dǎo)模型。中間反饋的獎(jiǎng)勵(lì)塑形策略珍手。為了在弱監(jiān)督信號(hào)下訓(xùn)練模型办铡，Qiu等人將基于知識(shí)庫(kù)的多跳推理過(guò)程形式化為在圖上擴(kuò)展推理路徑的過(guò)程×找基于編碼的決策歷史寡具，策略網(wǎng)絡(luò)利用了注意機(jī)制，以關(guān)注給定問(wèn)題的不同部分對(duì)三元組選擇的獨(dú)特影響稚补。為了緩解由弱監(jiān)督信號(hào)引起的延遲和稀疏獎(jiǎng)勵(lì)問(wèn)題童叠，他們采用了獎(jiǎng)勵(lì)塑形策略來(lái)評(píng)估推理路徑并提供中間獎(jiǎng)勵(lì)。具體來(lái)說(shuō)课幕，他們利用問(wèn)題和關(guān)系路徑之間的語(yǔ)義相似性來(lái)評(píng)估中間步驟的推理狀態(tài)厦坛。

學(xué)習(xí)偽中間監(jiān)督信號(hào)。除了在中間步驟評(píng)估推理狀態(tài)之外乍惊，一個(gè)更直觀的想法是推斷偽中間狀態(tài)杜秸，并用這些推斷的信號(hào)增強(qiáng)模型的訓(xùn)練。受到圖上雙向搜索算法的啟發(fā)润绎，He等人提出了使用雙向推理過(guò)程學(xué)習(xí)和增強(qiáng)中間監(jiān)督信號(hào)的方法亩歹。將實(shí)體分布作為中間步驟的適當(dāng)監(jiān)督信號(hào)，他們提出在師生框架下學(xué)習(xí)和利用這些信號(hào)凡橱。

增強(qiáng)監(jiān)督信號(hào)的多任務(wù)學(xué)習(xí)小作。雖然大多數(shù)現(xiàn)有工作都集中在增強(qiáng)中間步驟的監(jiān)督信號(hào)上，但很少關(guān)注實(shí)體鏈接步驟稼钩。大多數(shù)現(xiàn)有工作使用現(xiàn)成的工具來(lái)定位問(wèn)題中的主題實(shí)體顾稀，導(dǎo)致錯(cuò)誤傳播。為了在沒(méi)有注釋的情況下準(zhǔn)確定位主題實(shí)體坝撑，Zhang等人提出了通過(guò)變分學(xué)習(xí)算法來(lái)訓(xùn)練實(shí)體鏈接模塊静秆，該模塊共同建模主題實(shí)體識(shí)別和隨后的知識(shí)庫(kù)推理。他們還應(yīng)用了具有方差減少技術(shù)的REINFORCE算法巡李，以使系統(tǒng)具備端到端的可訓(xùn)練性抚笔。