來源：AINLPer微信公眾號
編輯: ShuYini
校稿: ShuYini
時間: 2019-8-16

引言

????兩篇文章為大家介紹揉抵，第一篇針對會話問題產(chǎn)生尔崔，提出一種新的增強動態(tài)推理網(wǎng)絡(luò)，該網(wǎng)絡(luò)基于一般的編解碼器動態(tài)的集成了一個推理過程命浴，使得該網(wǎng)絡(luò)可以更好地理解文章中提出的問題和接下來要問的問題。第二篇主要針對當(dāng)前語義解釋器直接將輸入句子轉(zhuǎn)換成邏輯形式的問題，提出使用生產(chǎn)驗證框架來決此問題的方法楞件，并且該方法性能比最先進(jìn)的高出7.93%。

First Blood

TILE: Reinforced Dynamic Reasoning for Conversational Question Generation
Contributor : 浙江大學(xué) && 俄亥俄州立大學(xué)
Paper: https://arxiv.org/pdf/1907.12667v1.pdf
Code: https://github.com/ZJULearning/ReDR

文章摘要

????會話問題產(chǎn)生（CQG）是開發(fā)智能代理的關(guān)鍵裳瘪，它可以驅(qū)動問答式對話或測試用戶對給定段落的理解土浸。為此，我們提出了一種新的增強動態(tài)推理(ReDR)網(wǎng)絡(luò)彭羹，該網(wǎng)絡(luò)基于一般的編解碼器框架黄伊，并以動態(tài)的方式集成了一個推理過程，以更好地理解文章中提出的問題和接下來要問的問題派殷。為了鼓勵產(chǎn)生有意義的問題还最，我們利用一個流行的問題回答(QA)模型來提供反饋，并使用強化學(xué)習(xí)機制對問題生成器進(jìn)行微調(diào)毡惜。

本文三大看點

????1拓轻、提出了一種新的會話問題生成(CQG)任務(wù)，該任務(wù)對于開發(fā)智能代理來驅(qū)動問答式會話至關(guān)重要经伙，并可能為未來相關(guān)研究提供有價值的數(shù)據(jù)集扶叉。
????2、提出了一個新的有效的CQG框架帕膜，它配備了一個動態(tài)推理組件來生成會話問題枣氧，并通過強化學(xué)習(xí)機制進(jìn)行了進(jìn)一步的微調(diào)。
????3泳叠、使用最新的CoQA數(shù)據(jù)集驗證我們方法的有效性作瞄。此外，我們還使用它來創(chuàng)建多輪的QA會話危纫，以顯示其廣泛的適用性宗挥。

網(wǎng)絡(luò)模型介紹

????增強動態(tài)推理(ReDR)網(wǎng)絡(luò)架構(gòu)。

????由于一個完成的段落太長,很難專注于在最相關(guān)信息下生成一個問題,我們的方法：是首先從文章中選擇一個文本跨度作為每個會話轉(zhuǎn)折點种蝶，然后在最終解碼下一個問題之前契耿，動態(tài)的為編碼會話歷史以及選擇的基本理論建模。其中推理機制迭代地讀取會話歷史螃征，在每次迭代中搪桂，它的輸出通過一個軟決策者(pd)作為新的編碼表示動態(tài)地與之前的編碼表示相結(jié)合，并將其反饋到下一個迭代中。最后踢械，通過由QA模型預(yù)測的答案的質(zhì)量所定義的獎勵對模型進(jìn)行微調(diào)酗电。

試驗結(jié)果

Double Kill

TILE: A Generate-Validate Approach to Answering Questions about Qualitative
Relationships
Contributor : Arizona State University（亞利桑那州立大學(xué)）
Paper: https://arxiv.org/pdf/1908.03645v1.pdf
Code: None

文章摘要

????最近提出了一個涉及定性關(guān)系的問題回答數(shù)據(jù)集内列，并探索了幾種回答此類問題的方法撵术，其核心依賴語義解釋器將自然語言輸入轉(zhuǎn)換為合適邏輯形式。現(xiàn)有語義解釋器的一個問題是话瞧，它們試圖直接將輸入的句子轉(zhuǎn)換成邏輯形式嫩与。由于輸出語言隨應(yīng)用程序的不同而不同，它迫使語義解析器從頭開始學(xué)習(xí)幾乎所有內(nèi)容交排。在本文中,提出應(yīng)用生成驗證框架划滋，生成邏輯形式的自然語言描述，并驗證輸入文本是否遵循自然語言描述埃篓，我們得到了一個更好的學(xué)習(xí)范圍处坪，我們的方法性能比最先進(jìn)高出7.93%。

本文兩大看點

????1架专、指出了如何應(yīng)用生成驗證框架來解決Quarel的定性單詞問題稻薇；
????2、我們通過實驗表明胶征，現(xiàn)有的自然語言推理數(shù)據(jù)集塞椎，即snli和像bert這樣的預(yù)先訓(xùn)練的模型，可以顯著提高Quarel的性能睛低，而不是直接生成邏輯形式案狠，語義分析是通過生成驗證來完成的。 本文方法的精度為76.63%钱雷，比Quasp+模型高7.93%骂铁，比Quasp模型高20.53%。

方法介紹

????1罩抗、生成： 所有可能的基于QVAL謂詞的自然語言描述集拉庵，其中一些是給定的事實、ClaimA和ClaimB套蒂。
????2钞支、驗證：步驟2的目標(biāo)是準(zhǔn)確地確定中的哪個陳述是ClaimA往毡，哪個陳述屬于ClaimB钥组，哪個陳述代表給定的事實狭瞎。 為此，系統(tǒng)使用兩個不同的文本包含函數(shù)對中的語句進(jìn)行評分。
????3斑芜、使用步驟2中計算的分?jǐn)?shù)計算最終答案杀迹。。

實驗結(jié)果

????在QUAREL訓(xùn)練集和測試集上選擇不同和得到的準(zhǔn)確率對比押搪。

ACED

Attention

更多自然語言處理相關(guān)知識浅碾，還請關(guān)注AINLPer公眾號大州，極品干貨即刻送達(dá)。