Tesseract中英文正體斜體混合訓(xùn)練
當(dāng)我們識別數(shù)據(jù)中包含中文正體诅蝶，英文斜體字符時(shí)，Tess4.0識別英文斜體的效果并不理想桑包。因此南蓬，我們需要訓(xùn)練新的模型，以滿足識別正體斜體混合文本圖片的需求捡多。
預(yù)言
在看本篇文章之前蓖康，推薦閱讀本人之前寫的一篇題庫特殊字符語言包訓(xùn)練流程（新）铐炫，這篇文章里提到了Tess4正常的訓(xùn)練的流程垒手，可以快速理解Tess的訓(xùn)練過程。
Tess4正斜體混合訓(xùn)練分析
針對中文正體倒信，英文斜體混合文本識別科贬，一個(gè)簡單的訓(xùn)練思路是，將中英文混合文本放在一起分別轉(zhuǎn)化成正體和斜體兩種形式的圖片鳖悠，然后輸入Tess4一起訓(xùn)練榜掌。然而，
針對英文文本的訓(xùn)練乘综，Tess4可以有效地應(yīng)用相應(yīng)的斜體字體將txt轉(zhuǎn)化成斜體字符圖片憎账，從而進(jìn)一步訓(xùn)練斜體字符；但對于中文卡辰，因?yàn)闆]有找到中文斜體的相應(yīng)字體胞皱，所以針對中文斜體識別便一籌莫展。
所以九妈，針對中英文(中文正體反砌，英文斜體)混合文本，Tess4只能將中文正體和英文斜體分開轉(zhuǎn)換圖片萌朱，然后手工進(jìn)行合并宴树，最后導(dǎo)入Tess4中的神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。
中英文混合輸入數(shù)據(jù)準(zhǔn)備
中文正體輸入數(shù)據(jù)準(zhǔn)備
中文正體輸入數(shù)據(jù)的改變比較簡單：
- 將需要識別的數(shù)據(jù)拷貝到./langdata/chi_sim/chi_sim.training_text文件中晶疼；
- 輸入以下命令：
training/tesstrain.sh --fonts_dir /usr/share/fonts --lang chi_sim --linedata_only
--noextract_font_properties --langdata_dir ../langdata
--fontlist "SIMSUN" --tessdata_dir ./tessdata --output_dir ~/tesstutorial/trainmerge
查看日志可以看到整個(gè)過程中執(zhí)行了/usr/local/bin/text2image命令酒贬，此命令將txt文本數(shù)據(jù)轉(zhuǎn)化成相應(yīng)的chi_sim.SIMSUN.exp0.tif圖片及其相應(yīng)的chi_sim.SIMSUN.exp0.box文件，因此可以在/tmp/tmp.xxxxxxxxxx/chi_sim/文件夾下查看這兩個(gè)文件翠霍。在后期合并數(shù)據(jù)時(shí)有用到這兩個(gè)文件同衣。
英文斜體輸入數(shù)據(jù)準(zhǔn)備
- 將需要識別的數(shù)據(jù)拷貝到./langdata/eng/eng.training_text文件中；
- 輸入以下命令：
training/tesstrain.sh --fonts_dir /usr/share/fonts --lang eng --linedata_only
--noextract_font_properties --langdata_dir ../langdata
--fontlist "Arial Italic" --tessdata_dir ./tessdata --output_dir ~/tesstutorial/traineng
這里壶运，針對英文斜體耐齐，這里主要用了Arial Italic字體進(jìn)行圖片轉(zhuǎn)換，同樣/tmp/tmp.xxxxxxxxxx/chi_sim/文件夾下可以看到eng.Arial_Italic.exp0.tif圖片及相應(yīng)的eng.Arial_Italic.exp0.box文件。
合并中英文數(shù)據(jù)
合并tif圖片
下載安裝jTessBoxEditor工具埠况，具體的工具使用方法可以查看日志：android中tesseract-ocr自定義字庫的介紹耸携。這里不再贅述。
將chi_sim.SIMSUN.exp0.tif和eng.Arial_Italic.exp0.tif拷貝到同一目錄下辕翰，先將兩張圖片分別split夺衍，并刪除chi_sim.SIMSUN.exp0.tif和eng.Arial_Italic.exp0.tif圖片，然后將split出來的圖片一起merge喜命，具體方法查看android中tesseract-ocr自定義字庫的介紹日志沟沙。注意：將合并后的tif圖片命名為：chi_sim.SIMSUN.exp0.tif即可。
合并box文件
box文件的合并壁榕，本人寫了一段python代碼：
box_file1 = open('E:/jTessBoxEditorFX/tesseract-ocr/temp_roman/chi_sim.SIMSUN.exp0.box', 'rb').read().decode('utf-8')
box_file2 = open('E:/jTessBoxEditorFX/tesseract-ocr/temp_roman/eng.Times_New_Roman.exp0.box', 'rb').read().decode('utf-8')
box_content = box_file1 + '\n'
box1_page_num = 0
for line in box_file1.split('\n'):
if len(line) > 0:
page_num = int(line.split(' ')[len(line.split(' '))-1])
if page_num > box1_page_num:
box1_page_num = page_num
box1_page_num += 1
for line in box_file2.split('\n'):
if len(line) > 0:
page_num1 = int(line.split(' ')[len(line.split(' '))-1])
sub_line = ''
for i in range(len(line.split(' '))-1):
sub_line += line.split(' ')[i] + ' '
box_content += sub_line + str(page_num1+box1_page_num) + '\n'
open('E:/jTessBoxEditorFX/tesseract-ocr/temp_roman/merge.box', 'bw').write(box_content.encode('utf-8'))
注：在運(yùn)行代碼之前矛紫，需要在chi_sim.SIMSUN.exp0.box文件末尾加入換行提示行，內(nèi)容如下：
[tab] 1710 222 1755 187 2
注意部分坐標(biāo)值需要根據(jù)現(xiàn)實(shí)情況作出相應(yīng)修改牌里，這個(gè)應(yīng)該不難颊咬，稍微總結(jié)一下box文件中的規(guī)律即可明白。
神經(jīng)網(wǎng)絡(luò)輸入數(shù)據(jù)準(zhǔn)備
- 合并完tif和box文件后牡辽，將它們覆蓋到/tmp/tmp.xxxxxxxxxx/chi_sim/文件夾下面喳篇，(中文正體輸入數(shù)據(jù)準(zhǔn)備生成的目錄)，并將其他文件清空态辛；
- 修改tesseract/training/tesstrain.sh文件內(nèi)容:
- 將61行phase_I_generate_image 8內(nèi)容注釋麸澜；
- 將source "$(dirname $0)/tesstrain_utils.sh" 改為source "$(dirname $0)/tesstrain_utils1.sh"; - 修改tesseract/training/tesstrain_utils.sh文件內(nèi)容，修改以下內(nèi)容：
- WORKSPACE_DIR=$(mktemp -d) 改成WORKSPACE_DIR="/tmp/tmp.xxxxxxxxxx"(目錄為中文正體輸入數(shù)據(jù)準(zhǔn)備生成的目錄)
- export FONT_CONFIG_CACHE=$(mktemp -d --tmpdir font_tmp.XXXXXXXXXX)改成 export FONT_CONFIG_CACHE="/tmp/font_tmp.xxxxxxxxxx"(目錄為中文正體輸入數(shù)據(jù)準(zhǔn)備生成的目錄)
- 注釋initialize_fontconfig方法下的run_command text2image命令 - 運(yùn)行命令：
training/tesstrain.sh --fonts_dir /usr/share/fonts --lang chi_sim --linedata_only
--noextract_font_properties --langdata_dir ../langdata
--fontlist "SIMSUN" --tessdata_dir ./tessdata --output_dir ~/tesstutorial/trainchisim
訓(xùn)練數(shù)據(jù)
這里給出scratch訓(xùn)練方法：
training/lstmtraining --debug_interval 100
--traineddata ~/tesstutorial/trainmerge/chi_sim/chi_sim.traineddata
--net_spec '[1,0,0,1 Ct5,5,16 Mp3,3 Lfys64 Lfx128 Lrx128 Lfx512 O1c379]'
--model_output ~/tesstutorial/mergeoutput/base
--learning_rate 20e-4 --train_listfile ~/tesstutorial/trainmerge/chi_sim.training_files.txt
--eval_listfile ~/tesstutorial/evalmerge/chi_sim.training_files.txt
--max_iterations 3600 &>~/tesstutorial/mergeoutput/basetrain.log
更多訓(xùn)練教程可以查看：題庫特殊字符語言包訓(xùn)練流程（新）
最后奏黑，合并模型炊邦，具體命令可以查看：題庫特殊字符語言包訓(xùn)練流程（新）
