(含源碼)「自然語言處理(NLP)」Question Answering(QA)論文整理(一)

來源: AINLPer 微信公眾號(每日更新...
編輯: ShuYini
校稿: ShuYini
時(shí)間: 2020-03-02

引言:下面是作者整理的關(guān)于Question Answering(QA)相關(guān)的論文文章狭莱,下面這10篇文章都頂會ICLR發(fā)表的文章找都,能找到源碼的作者也直接貼出來了羞迷,如果你對Question Answering(QA)感興趣或者也在找一些相關(guān)的文章,希望能夠幫助你~~

TILE: Pretrained Encyclopedia: Weakly Supervised Knowledge-Pretrained Language Model
Author: Wenhan Xiong, Jingfei Du, William Yang Wang, Veselin Stoyanov
Paper:https://openreview.net/pdf?id=BJlzm64tDH
Code: None
論文簡述:提出了一個(gè)簡單而有效的弱監(jiān)督預(yù)訓(xùn)練方法辐烂,該方法明確地迫使模型包含關(guān)于真實(shí)世界實(shí)體的知識淮椰。用我們的新方法訓(xùn)練的模型在實(shí)際任務(wù)上產(chǎn)生了顯著的改進(jìn)横缔。



TILE: Differentiable Reasoning over a Virtual Knowledge Base
Author: Bhuwan Dhingra, Manzil Zaheer, Vidhisha Balachandran, Graham Neubig, Ruslan Salakhutdinov, William W. Cohen
Paper:https://openreview.net/pdf?id=SJxstlHFPH
Code: http://www.cs.cmu.edu/~bdhingra/pages/drkit.html
論文簡述:本文使用一個(gè)語料庫作為虛擬知識庫來回答復(fù)雜的多跳轉(zhuǎn)問題。本文主要描述了一個(gè)神經(jīng)模塊DrKIT轴咱,它像KB一樣遍歷文本數(shù)據(jù)汛蝙,并遵循在語料庫中提到的實(shí)體之間的關(guān)系路徑。



TILE: Generative Question Answering: Learning to Answer the Whole Question
Author: Mike Lewis, Angela Fan
Paper:https://openreview.net/pdf?id=Bkx0RjA9tX
Code: None
論文簡述: 本文介紹了問題和答案的聯(lián)合分布的生成模型朴肺,這些模型被訓(xùn)練來解釋整個(gè)問題窖剑,而不僅僅是回答它。我們的問題回答(QA)模型是通過學(xué)習(xí)先驗(yàn)而不是答案來實(shí)現(xiàn)的戈稿,并且通過條件語言模型生成給定答案的問題——允許在逐字生成問題時(shí)進(jìn)行可伸縮和可解釋的多跳推理西土。


TILE: FlowQA: Grasping Flow in History for Conversational Machine Comprehension
Author: Hsin-Yuan Huang, Eunsol Choi, Wen-tau Yih.
Paper:https://openreview.net/pdf?id=ByftGnR9KX
Code: None
論文簡述:會話機(jī)器理解需要對會話歷史有深刻的理解。為了使傳統(tǒng)的單輪模型能夠全面地對歷史進(jìn)行編碼鞍盗,本文引入了Flow機(jī)制需了,通過交替的并行處理結(jié)構(gòu),可以將在回答前面問題的過程中生成的中間表示然后合并到一起般甲。與將之前的問題/答案作為輸入串聯(lián)起來的淺層方法相比肋乍,F(xiàn)low更深入地集成了會話歷史的潛在語義。


TILE: Coarse-grain Fine-grain Coattention Network for Multi-evidence Question Answering
Author:Victor Zhong, Caiming Xiong, Nitish Shirish Keskar, Richard Socher
Paper: https://openreview.net/pdf?id=Syl7OsRqY7
Code: None
論文簡述: 端到端神經(jīng)模型在回答問題方面取得了重大進(jìn)展敷存,但最近的研究表明墓造,這些模型隱含地假設(shè)答案和證據(jù)在一個(gè)文檔中緊密地出現(xiàn)。在這項(xiàng)工作中锚烦,我們提出了粗粒度細(xì)粒度協(xié)同注意網(wǎng)絡(luò)(CFC)觅闽,這是一種新的問題回答模型,它結(jié)合了來自多個(gè)文檔的證據(jù)信息涮俄。


TILE: Mastering the Dungeon: Grounded Language Learning by Mechanical Turker Descent
Author:Zhilin Yang, Saizheng Zhang, Jack Urbanek, Will Feng, Alexander Miller, Arthur Szlam, Douwe Kiela, Jason Weston.
Paper:https://openreview.net/pdf?id=SJ-C6JbRW
Code: None
論文簡述: 人類是在環(huán)境中交互式地學(xué)習(xí)語言的蛉拙。本文提出了一個(gè)交互式學(xué)習(xí)過程,稱為Mechanical Turker Descent (MTD)彻亲,訓(xùn)練代理人執(zhí)行自然語言命令植根于幻想文本冒險(xiǎn)游戲孕锄。



TILE: DCN+: Mixed Objective And Deep Residual Coattention for Question Answering.
Author:Caiming Xiong, Victor Zhong, Richard Socher.
Paper:https://openreview.net/pdf?id=H1meywxRW
Code: None
論文簡述: 傳統(tǒng)的問答模型使用交叉熵?fù)p失進(jìn)行優(yōu)化,這種方法尋求精確的答案苞尝,但代價(jià)是懲罰有時(shí)同樣精確的鄰近答案畸肆。為此本文提出了一種交叉熵?fù)p失與自懲罰策略學(xué)習(xí)相結(jié)合的混合解決方法,利用詞重疊產(chǎn)生的激勵來解決評價(jià)指標(biāo)與優(yōu)化目標(biāo)之間的偏差野来。



TILE: FusionNet: Fusing via Fully-aware Attention with Application to Machine Comprehension.
Author:Hsin-Yuan Huang, Chenguang Zhu, Yelong Shen, Weizhu Chen.
Paper:https://openreview.net/pdf?id=BJIgi_eCZ
Code: None
論文簡述: 本文介紹了一種新的神經(jīng)結(jié)構(gòu)FusionNet恼除,它從三個(gè)方面擴(kuò)展了現(xiàn)有的自注意力方法。首先,提出了一個(gè)新的“詞史”概念豁辉,將注意力信息從最低的詞級嵌入到最高的語義級表征中令野。其次,它確定了一個(gè)自注意力評分函數(shù)徽级,該函數(shù)更好地利用了“詞史”概念气破。第三,提出了一種全意識的多層次注意力機(jī)制餐抢,可以在一個(gè)文本(如一個(gè)問題)中捕獲完整的信息现使,并在其對應(yīng)的文本(如上下文或文章)中逐層加以利用。


TILE: Ask the Right Questions: Active Question Reformulation with Reinforcement Learning
Author: Christian Buck, Jannis Bulian, Massimiliano Ciaramita, Wojciech Gajewski, Andrea Gesmundo, Neil Houlsby, Wei Wang.
Paper:https://openreview.net/pdf?id=S1CChZ-CZ
Code: None
論文簡述: 本文將問答(QA)作為一種強(qiáng)化學(xué)習(xí)任務(wù)旷痕,稱之為主動問答碳锈。這里提出一個(gè)介于用戶和黑箱QA系統(tǒng)之間的代理,并學(xué)會重新組織問題以獲得最佳答案欺抗。代理通過對最初問題的自然語言重新表達(dá)來探測系統(tǒng)售碳,并收集返回的證據(jù)來獲得最佳答案。


TILE: Query-Reduction Networks for Question Answering.
Author:Minjoon Seo, Sewon Min, Ali Farhadi, Hannaneh Hajishirzi.
Paper: https://arxiv.org/pdf/1606.04582.pdf
Code: None
論文簡述:本文介紹了一組可微圖轉(zhuǎn)換绞呈,并使用它們來構(gòu)建一個(gè)具有圖內(nèi)部狀態(tài)的模型贸人,該模型可以從文本中提取結(jié)構(gòu)化數(shù)據(jù)并可以使用它來回答查詢。


Attention

更多自然語言處理相關(guān)知識佃声,還請關(guān)注AINLPer公眾號艺智,極品干貨即刻送達(dá)。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末圾亏,一起剝皮案震驚了整個(gè)濱河市十拣,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌召嘶,老刑警劉巖父晶,帶你破解...
    沈念sama閱讀 221,548評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件哮缺,死亡現(xiàn)場離奇詭異弄跌,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)尝苇,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,497評論 3 399
  • 文/潘曉璐 我一進(jìn)店門铛只,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人糠溜,你說我怎么就攤上這事淳玩。” “怎么了非竿?”我有些...
    開封第一講書人閱讀 167,990評論 0 360
  • 文/不壞的土叔 我叫張陵蜕着,是天一觀的道長。 經(jīng)常有香客問我,道長承匣,這世上最難降的妖魔是什么蓖乘? 我笑而不...
    開封第一講書人閱讀 59,618評論 1 296
  • 正文 為了忘掉前任,我火速辦了婚禮韧骗,結(jié)果婚禮上嘉抒,老公的妹妹穿的比我還像新娘。我一直安慰自己袍暴,他們只是感情好些侍,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,618評論 6 397
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著政模,像睡著了一般岗宣。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上淋样,一...
    開封第一講書人閱讀 52,246評論 1 308
  • 那天狈定,我揣著相機(jī)與錄音,去河邊找鬼习蓬。 笑死纽什,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的躲叼。 我是一名探鬼主播芦缰,決...
    沈念sama閱讀 40,819評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼枫慷!你這毒婦竟也來了让蕾?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,725評論 0 276
  • 序言:老撾萬榮一對情侶失蹤或听,失蹤者是張志新(化名)和其女友劉穎探孝,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體誉裆,經(jīng)...
    沈念sama閱讀 46,268評論 1 320
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡顿颅,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,356評論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了足丢。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片粱腻。...
    茶點(diǎn)故事閱讀 40,488評論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖斩跌,靈堂內(nèi)的尸體忽然破棺而出绍些,到底是詐尸還是另有隱情,我是刑警寧澤耀鸦,帶...
    沈念sama閱讀 36,181評論 5 350
  • 正文 年R本政府宣布柬批,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏氮帐。R本人自食惡果不足惜锻霎,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,862評論 3 333
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望揪漩。 院中可真熱鬧旋恼,春花似錦、人聲如沸奄容。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,331評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽昂勒。三九已至蜀细,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間戈盈,已是汗流浹背奠衔。 一陣腳步聲響...
    開封第一講書人閱讀 33,445評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留塘娶,地道東北人归斤。 一個(gè)月前我還...
    沈念sama閱讀 48,897評論 3 376
  • 正文 我出身青樓,卻偏偏與公主長得像刁岸,于是被迫代替她去往敵國和親脏里。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,500評論 2 359

推薦閱讀更多精彩內(nèi)容