標(biāo)注訓(xùn)練——crfsuite(附代碼)

一、背景

最近在做一個(gè)簡(jiǎn)歷語料的訓(xùn)練洼畅,對(duì)簡(jiǎn)歷中的關(guān)鍵信息進(jìn)行標(biāo)注(標(biāo)注出應(yīng)聘者的技能吩案、專業(yè)等內(nèi)容),已經(jīng)有了大量的已經(jīng)標(biāo)注好的語料帝簇,之前是用crf++進(jìn)行訓(xùn)練徘郭,后來遷移到crfsuite上靠益,但是我在網(wǎng)上找不到太多的關(guān)于crfsuite教程,有些安裝配置還特別麻煩残揉,在找了其他人的代碼以及看教程的基礎(chǔ)上胧后,終于訓(xùn)練出了一版,因此這里提供詳細(xì)的教程抱环,供大家參考

二壳快、安裝

安裝非常簡(jiǎn)單,假設(shè)你已經(jīng)配好 python 環(huán)境镇草,并配好相關(guān)的安裝工具 pip,easy_instal..直接在python中導(dǎo)入pycrfsuite眶痰、sklearn-crfsuite包

1)pip install python-crfsuite

2)pip install sklearn-crfsuite

三、數(shù)據(jù)準(zhǔn)備

1)訓(xùn)練集數(shù)據(jù):我使用的是IOB格式標(biāo)注體系(采用了四個(gè)符號(hào):B梯啤、I竖伯、E、O),使用txt文件(excel也可以)因宇,文件格式不是特別重要七婴。我的txt文件里面是這個(gè)格式,不同的句子之間用一個(gè)空行隔開察滑。(備注:我這里的ZY表示‘專業(yè)’打厘、XL表示‘學(xué)歷’),詞與標(biāo)注之間用tab鍵隔開。

標(biāo)注好的數(shù)據(jù)格式

2)數(shù)據(jù)讀入后贺辰,將數(shù)據(jù)放于一個(gè)列表(list)婚惫,列表的樣式為:

四、訓(xùn)練

1)特征定義

為每一個(gè)詞(字)定義一些特征魂爪,可以理解為我們想要考察字的哪些特征先舷,比如它是否為大小寫、數(shù)字滓侍、以及它前后的字有哪些蒋川。

2)獲取每個(gè)詞、詞的標(biāo)簽以及特征

3)訓(xùn)練

調(diào)用上面2)的函數(shù)撩笆,將訓(xùn)練集數(shù)據(jù)分成兩個(gè)列表:X_train和Y_train捺球,里面分別存放特征和標(biāo)簽(對(duì)訓(xùn)練集也作同樣的處理)

設(shè)置訓(xùn)練模型參數(shù)并開始訓(xùn)練,這里的model.train(crfsuite_model)里的crfsuite_model你應(yīng)當(dāng)之前定義好夕冲,它是一個(gè)模型文件氮兵,“crfsuite_model = (os.path.join(model_path, 'cv.crfsuite'))? ”,即你訓(xùn)練出來的模型會(huì)存放在文件cv.crfsuite中歹鱼。

五泣栈、測(cè)試

打開模型文件,對(duì)測(cè)試集數(shù)據(jù)進(jìn)行預(yù)測(cè)

六、評(píng)估

最后你可能需要去計(jì)算accuracy南片、precision掺涛、recall、f1-score疼进。但這里要注意的是薪缆,這里還少了幾行代碼,前面的y_true和y_pred的形式是列表的列表伞广,這樣計(jì)算會(huì)報(bào)錯(cuò)拣帽,你需要把y_true里的元素都放一個(gè)列表里,不要有列表的嵌套的形式嚼锄。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末减拭,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子灾票,更是在濱河造成了極大的恐慌,老刑警劉巖茫虽,帶你破解...
    沈念sama閱讀 207,248評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件刊苍,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡濒析,警方通過查閱死者的電腦和手機(jī)正什,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,681評(píng)論 2 381
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來号杏,“玉大人婴氮,你說我怎么就攤上這事《苤拢” “怎么了主经?”我有些...
    開封第一講書人閱讀 153,443評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)庭惜。 經(jīng)常有香客問我罩驻,道長(zhǎng),這世上最難降的妖魔是什么护赊? 我笑而不...
    開封第一講書人閱讀 55,475評(píng)論 1 279
  • 正文 為了忘掉前任惠遏,我火速辦了婚禮,結(jié)果婚禮上骏啰,老公的妹妹穿的比我還像新娘节吮。我一直安慰自己,他們只是感情好判耕,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,458評(píng)論 5 374
  • 文/花漫 我一把揭開白布透绩。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪渺贤。 梳的紋絲不亂的頭發(fā)上雏胃,一...
    開封第一講書人閱讀 49,185評(píng)論 1 284
  • 那天,我揣著相機(jī)與錄音志鞍,去河邊找鬼瞭亮。 笑死,一個(gè)胖子當(dāng)著我的面吹牛固棚,可吹牛的內(nèi)容都是我干的统翩。 我是一名探鬼主播,決...
    沈念sama閱讀 38,451評(píng)論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼此洲,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼厂汗!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起呜师,我...
    開封第一講書人閱讀 37,112評(píng)論 0 261
  • 序言:老撾萬榮一對(duì)情侶失蹤娶桦,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后汁汗,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體衷畦,經(jīng)...
    沈念sama閱讀 43,609評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,083評(píng)論 2 325
  • 正文 我和宋清朗相戀三年知牌,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了祈争。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,163評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡角寸,死狀恐怖菩混,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情扁藕,我是刑警寧澤沮峡,帶...
    沈念sama閱讀 33,803評(píng)論 4 323
  • 正文 年R本政府宣布,位于F島的核電站亿柑,受9級(jí)特大地震影響帖烘,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜橄杨,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,357評(píng)論 3 307
  • 文/蒙蒙 一秘症、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧式矫,春花似錦乡摹、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,357評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽瞬痘。三九已至,卻和暖如春板熊,著一層夾襖步出監(jiān)牢的瞬間框全,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,590評(píng)論 1 261
  • 我被黑心中介騙來泰國(guó)打工干签, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留津辩,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,636評(píng)論 2 355
  • 正文 我出身青樓容劳,卻偏偏與公主長(zhǎng)得像喘沿,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子竭贩,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,925評(píng)論 2 344

推薦閱讀更多精彩內(nèi)容