《Factored Neural Machine Translation》簡讀

paper來源:arXiv.org

問題

實驗任務----屬于機器翻譯(NMT)任務秽褒,具體來說砸脊,本paper實驗任務為英語翻譯為法語;

paperwork----在傳統(tǒng)NMT的“seq2seq+attention”的基礎上引入先驗知識/工具改進了decoder的結構,在一定程度上解決大詞表(Large Vocabulary)和OOV(Out Of Vocabulary)問題纽哥;

摘要:

首先逮光,作者使用morphological and grammatical analysis(形態(tài)學與語法分析器)來獲取單詞的因素表示代箭,lemmas, Part of Speech tag, tense, person, gender and number等;

其次涕刚,作者改進了傳統(tǒng)的NMT的decoder嗡综,把輸出由一個變成了兩個,分別表示lemmas和其他的factors杜漠,獨立學習极景,然后重組為word;

由此帶來的好處是驾茴,同樣大的詞表可以表示更多的詞盼樟;再者,它可以生產詞表中不存在的新詞沟涨,減少OOV詞項的出現頻率恤批;

形態(tài)學與語法分析器(本文使用的是MACAON):

舉例:法語詞devient(對應英文詞becomes)可以表示為devenir和“vP3#s”, devenir為lemma,可以理解為詞根裹赴;“vP3#s”為factors喜庞,可理解為修飾限制詞根的其他因素;v表示verb棋返,P表示Present(時態(tài))延都,3表示3rd person(第三人稱),#表示無關性別,s表示單數睛竣;

網絡結構:

傳統(tǒng)的NMT結構圖:

兩個重要概念:seq2seq晰房,attention

FNMT提出的新的decoder的結構:

P變成獨立的Lemma和factors向量(由此可能會帶來長度差異,最終翻譯結果的長度以lemma長度為準)射沟;

將P層輸入給softmax決定lemma和factor后殊者,再將二者輸送給形態(tài)學分析器來產生word;

(feedback采用的是lemma向量验夯,根據如下實驗效果選擇的):

實驗結果:

1猖吴,詞表比較大的時候,表現基本持平挥转;詞表縮小的話海蔽,FNMT的表現就要好得多共屈;

2,相同的參數量党窜,FNMT能夠囊括更多的word拗引;

3,在OOV問題的解決上幌衣,FNMT表現更好矾削;

4,最后一列是忽略factor誤差帶來的影響豁护,lemma正確就算正確的結果怔软;

簡評:

1,本文利用先驗知識(詞根+限制條件表示詞匯)給解決大詞表和OOV問題提供了一種思路择镇;

2挡逼,實驗的效果很大一部分依賴于先驗的語態(tài)學分析器的效果,比如目標語言如果是中文或者英文就沒有這樣靠譜的分析器腻豌;

3家坎,如有問題或建議,歡迎留言交流~

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末吝梅,一起剝皮案震驚了整個濱河市虱疏,隨后出現的幾起案子,更是在濱河造成了極大的恐慌苏携,老刑警劉巖做瞪,帶你破解...
    沈念sama閱讀 218,525評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現場離奇詭異右冻,居然都是意外死亡装蓬,警方通過查閱死者的電腦和手機,發(fā)現死者居然都...
    沈念sama閱讀 93,203評論 3 395
  • 文/潘曉璐 我一進店門纱扭,熙熙樓的掌柜王于貴愁眉苦臉地迎上來牍帚,“玉大人,你說我怎么就攤上這事乳蛾“蹈希” “怎么了?”我有些...
    開封第一講書人閱讀 164,862評論 0 354
  • 文/不壞的土叔 我叫張陵肃叶,是天一觀的道長蹂随。 經常有香客問我,道長因惭,這世上最難降的妖魔是什么岳锁? 我笑而不...
    開封第一講書人閱讀 58,728評論 1 294
  • 正文 為了忘掉前任,我火速辦了婚禮筛欢,結果婚禮上浸锨,老公的妹妹穿的比我還像新娘。我一直安慰自己版姑,他們只是感情好柱搜,可當我...
    茶點故事閱讀 67,743評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著剥险,像睡著了一般聪蘸。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上表制,一...
    開封第一講書人閱讀 51,590評論 1 305
  • 那天健爬,我揣著相機與錄音,去河邊找鬼么介。 笑死娜遵,一個胖子當著我的面吹牛,可吹牛的內容都是我干的壤短。 我是一名探鬼主播设拟,決...
    沈念sama閱讀 40,330評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼久脯!你這毒婦竟也來了纳胧?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 39,244評論 0 276
  • 序言:老撾萬榮一對情侶失蹤帘撰,失蹤者是張志新(化名)和其女友劉穎跑慕,沒想到半個月后,有當地人在樹林里發(fā)現了一具尸體摧找,經...
    沈念sama閱讀 45,693評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡核行,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 37,885評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現自己被綠了蹬耘。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片钮科。...
    茶點故事閱讀 40,001評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖婆赠,靈堂內的尸體忽然破棺而出绵脯,到底是詐尸還是另有隱情,我是刑警寧澤休里,帶...
    沈念sama閱讀 35,723評論 5 346
  • 正文 年R本政府宣布蛆挫,位于F島的核電站,受9級特大地震影響妙黍,放射性物質發(fā)生泄漏悴侵。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,343評論 3 330
  • 文/蒙蒙 一拭嫁、第九天 我趴在偏房一處隱蔽的房頂上張望可免。 院中可真熱鬧抓于,春花似錦、人聲如沸浇借。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,919評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽妇垢。三九已至巾遭,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間闯估,已是汗流浹背灼舍。 一陣腳步聲響...
    開封第一講書人閱讀 33,042評論 1 270
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留涨薪,地道東北人骑素。 一個月前我還...
    沈念sama閱讀 48,191評論 3 370
  • 正文 我出身青樓,卻偏偏與公主長得像刚夺,于是被迫代替她去往敵國和親砂豌。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 44,955評論 2 355

推薦閱讀更多精彩內容

  • 近日光督,谷歌官方在 Github開放了一份神經機器翻譯教程阳距,該教程從基本概念實現開始,首先搭建了一個簡單的NMT模型...
    MiracleJQ閱讀 6,378評論 1 11
  • 前面的文章主要從理論的角度介紹了自然語言人機對話系統(tǒng)所可能涉及到的多個領域的經典模型和基礎知識结借。這篇文章筐摘,甚至之后...
    我偏笑_NSNirvana閱讀 13,911評論 2 64
  • 語言與精神分析 四川大學哲學系 霍大同 第一講 1999年3月1日 這是一個比較困難的題目,我準備講的課的題目是“...
    團的花園閱讀 5,441評論 0 19
  • Spring Cloud為開發(fā)人員提供了快速構建分布式系統(tǒng)中一些常見模式的工具(例如配置管理船老,服務發(fā)現咖熟,斷路器,智...
    卡卡羅2017閱讀 134,657評論 18 139
  • 每每與各方朋友談及人生道路如何走,經常聽到的一句話就是:做事先做人薪韩。這句話可以說是約定俗成的大家都統(tǒng)統(tǒng)認可的一...
    太原家老馮閱讀 707評論 4 3