自然語言處理基礎(chǔ)技術(shù)之組合范疇文法

聲明:轉(zhuǎn)載請注明出處,謝謝:http://www.reibang.com/p/a055ba6076a3
另外阵难,更多實時更新的個人學(xué)習(xí)筆記分享芒填,請關(guān)注:


知乎https://www.zhihu.com/people/yuquanle/columns
公眾號:StudyForAI
CSDN地址http://blog.csdn.net/m0_37306360


之前在讀論文的時候看到CCG這個概念多望,所以之查閱學(xué)習(xí)了一波~~


定義:

  • 組合范疇語法(Combinatory categorial grammar,CCG)怀偷,是在AB演算基礎(chǔ)上進(jìn)行擴(kuò)展而產(chǎn)生的范疇語法。從語法理論視角看椎工,CCG是一種詞匯形式化的方法饭于;從計算語言學(xué)視角看,CCG屬于一類適度上下文相關(guān)文法维蒙;從邏輯語義學(xué)視角看掰吕,CCG在句法與語義的接口方面非常融洽颅痊。無論是CCG語言的、計算的斑响,還是邏輯的特征菱属,都使得 CCG非常適用于自然語言信息處理,對于計算語言學(xué)具有很好的理論和實際價值舰罚。

  • 維基百科定義:Combinatory categorial grammar (CCG) is an efficiently parsable, yet linguistically expressive grammar formalism. It has a transparent interface between surface syntax and underlying semantic representation, including predicate-argument structure, quantification and information structure. The formalism generates constituency-based structures (as opposed to dependency-based ones) and is therefore a type of phrase structure grammar (as opposed to a dependency grammar).

  • 組合范疇文法纽门,簡稱 CCG,是一種類型驅(qū)動的詞匯化文法赏陵,通過詞匯范疇顯式地提供從句法到語義的接口,屬于短語結(jié)構(gòu)文法蝙搔。CCG 的基本操作包括:1)原子范疇(Atomic Category),用于表達(dá)基本的詞匯類別和句法功能吃型; 2)組合范疇(Function Category),由原子范疇構(gòu)成败玉,通常用 X/Y 或 X\Y 來表示可以向左或者向右尋找變元 Y 來獲得組合 X镜硕。


例子:

  • 在CCG中运翼,句子沒有單一的結(jié)構(gòu)兴枯,就像在其他語法模型中一樣血淌。這里用一個維基百科的例子直觀的感受一下。
    例子地址:https://en.wikipedia.org/wiki/Combinatory_categorial_grammar
    Given a sentence:the dog bit John
    在這里插入圖片描述
  • 另外癌淮,看了一篇IJCAI2017的文章,這篇文章是做sentence representation的乳蓄。文章指出大多數(shù)現(xiàn)有模型在學(xué)習(xí)sentence representation通常會平均對待句子中的每個單詞夕膀。所以文章通過為組成單詞的向量分配不同的權(quán)重來改進(jìn)句子表示虚倒,這可以被視為單個句子上的注意機(jī)制产舞。為此,文章提出了新穎的注意力模型易猫,就包括使用CCG supertags來推導(dǎo)注意力權(quán)重。 換句話簡單的說准颓,文章提出不同的詞性應(yīng)該有不同的重要性,其中就提出了給不同詞性不同CCG的詞分配不同的權(quán)重瞬场。
    有興趣的可以去看文章:Learning Sentence Representation with Guidance of Human Attention
    文章下載地址https://arxiv.org/pdf/1609.09189.pdf
    作者也開源了代碼https://github.com/wangshaonan/Learning-sentence-representation-with-guidance-of-human-attention

一些工具:

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末涧郊,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子妆艘,更是在濱河造成了極大的恐慌,老刑警劉巖批旺,帶你破解...
    沈念sama閱讀 221,198評論 6 514
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異搏熄,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)心例,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,334評論 3 398
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來止后,“玉大人,你說我怎么就攤上這事译株」侠” “怎么了歉糜?”我有些...
    開封第一講書人閱讀 167,643評論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長匪补。 經(jīng)常有香客問我,道長叉袍,這世上最難降的妖魔是什么始锚? 我笑而不...
    開封第一講書人閱讀 59,495評論 1 296
  • 正文 為了忘掉前任喳逛,我火速辦了婚禮,結(jié)果婚禮上润文,老公的妹妹穿的比我還像新娘。我一直安慰自己典蝌,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 68,502評論 6 397
  • 文/花漫 我一把揭開白布鸠澈。 她就那樣靜靜地躺著,像睡著了一般笑陈。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上涵妥,一...
    開封第一講書人閱讀 52,156評論 1 308
  • 那天坡锡,我揣著相機(jī)與錄音蓬网,去河邊找鬼鹉勒。 笑死,一個胖子當(dāng)著我的面吹牛贸弥,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 40,743評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼臣疑,長吁一口氣:“原來是場噩夢啊……” “哼徙菠!你這毒婦竟也來了讯沈?” 一聲冷哼從身側(cè)響起婿奔,我...
    開封第一講書人閱讀 39,659評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎萍摊,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體冰木,經(jīng)...
    沈念sama閱讀 46,200評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,282評論 3 340
  • 正文 我和宋清朗相戀三年歇终,在試婚紗的時候發(fā)現(xiàn)自己被綠了逼龟。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片评凝。...
    茶點故事閱讀 40,424評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡腺律,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出疾渣,到底是詐尸還是另有隱情崖飘,我是刑警寧澤,帶...
    沈念sama閱讀 36,107評論 5 349
  • 正文 年R本政府宣布朱浴,位于F島的核電站,受9級特大地震影響翰蠢,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜梁沧,卻給世界環(huán)境...
    茶點故事閱讀 41,789評論 3 333
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧栓辜,春花似錦、人聲如沸藕甩。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,264評論 0 23
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽概作。三九已至,卻和暖如春讯榕,著一層夾襖步出監(jiān)牢的瞬間辉阶,已是汗流浹背瘩扼。 一陣腳步聲響...
    開封第一講書人閱讀 33,390評論 1 271
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留集绰,地道東北人。 一個月前我還...
    沈念sama閱讀 48,798評論 3 376
  • 正文 我出身青樓罕袋,卻偏偏與公主長得像,于是被迫代替她去往敵國和親浴讯。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,435評論 2 359