最近使用中文維基百科數(shù)據(jù)訓(xùn)練Word2Vec時(shí)暇韧,發(fā)現(xiàn)數(shù)據(jù)里面包含了很多繁體字,這就很尷尬了浓瞪。這時(shí)候就知道OpenCC的強(qiáng)大了懈玻。哈哈,本來(lái)打算直接使用python里面的opencc模塊的乾颁,但是在安裝涂乌,編譯opencc時(shí)遇到了各種錯(cuò)誤∮⒘耄花費(fèi)了很長(zhǎng)時(shí)間湾盒,終于安裝成功,但是文本處理起來(lái)效率很低诅妹。最終選擇了直接在linux下安裝OpenCC罚勾,處理的效率著實(shí)安慰了我受傷的心 -- 很快,特別快吭狡。
好啦荧库,接下來(lái)總結(jié)下OpenCC的安裝方法,萬(wàn)一以后又用到它了呢赵刑?主要參考這篇博客:
- 檢查下linux環(huán)境下是否已經(jīng)安裝cmake以及git分衫,如果沒(méi)有,那就通過(guò)yum安裝好般此。
$ yum install cmake
$ yum install git
- 克隆下OpennCC開(kāi)源項(xiàng)目OpennCC開(kāi)源項(xiàng)目蚪战。
$ git clone https://github.com/BYVoid/OpenCC
- 編譯OpenCC
$ cd OpenCC
$ make
$ make install
- 創(chuàng)建libopencc.so.2鏈接
如果不知道libopencc.so.2的路徑,可以通過(guò)find / -name libopencc.so.2查找铐懊。
$ ln -s /usr/lib/libopencc.so.2 /usr/lib64/libopencc.so.2
- 通過(guò)查看 OpenCC 版本邀桑,檢查OpenCC是否已經(jīng)安裝成功
$ opencc --version
- 測(cè)試用例
# 繁體轉(zhuǎn)簡(jiǎn)體
$ echo '歐幾里得 西元前三世紀(jì)的希臘數(shù)學(xué)家' | opencc -c t2s
歐幾里得 西元前三世紀(jì)的希臘數(shù)學(xué)家
# 簡(jiǎn)體轉(zhuǎn)繁體
$ echo '歐幾里得 西元前三世紀(jì)的希臘數(shù)學(xué)家' | opencc -c s2t
歐幾里得 西元前三世紀(jì)的希臘數(shù)學(xué)家
# 可以通過(guò)以下方式直接對(duì)文件進(jìn)行繁簡(jiǎn)轉(zhuǎn)換
$ opencc -i zhwiki_raw.txt -o zhwiki_t2s.txt -c t2s.json