入手的第一步環(huán)境搭建好了，那就是準(zhǔn)備跑代碼了羽氮，還是有幾個(gè)必要的條件或链，巧婦難為無米之炊，首先档押，既然是訓(xùn)練澳盐，要先有訓(xùn)練集尤筐，有一個(gè)新手嘗鮮的訓(xùn)練集，是mnist手寫識(shí)別的例子洞就，可以在騰訊云下載：https://share.weiyun.com/5pzGF4V
，現(xiàn)在萬事俱備掀淘，只欠東風(fēng)旬蟋。

3.1 定義一個(gè)模型

本項(xiàng)目基于參數(shù)化配置，不需要改動(dòng)任何代碼革娄，可以通過可視化界面操作訓(xùn)練幾乎任何字符型圖片驗(yàn)證碼倾贰。訓(xùn)練框架界面可以大致劃分為幾個(gè)部分：

1. Neural Network - 神經(jīng)網(wǎng)絡(luò)區(qū)

   
   
   0.png

2. Project Configuration - 項(xiàng)目配置區(qū)

   
   
   1.png

3. Sample Source - 樣本源配置區(qū)

   
   
   2.png

4. Training Configuration - 訓(xùn)練配置區(qū)

   
   
   3.png

5. Buttons - 功能控制區(qū)

   
   
   4.png

依此類推的訓(xùn)練配置的步驟如下：

1. 神經(jīng)網(wǎng)絡(luò)區(qū) 的配置項(xiàng)看起來很多，對(duì)于新手來說拦惋，可以直接使用默認(rèn)的配置：CNNX+GRU+CTC+C1組合（CNN前置網(wǎng)絡(luò)+GRU+CTC+單通道）匆浙。
2. 項(xiàng)目配置區(qū) 的配置項(xiàng)在網(wǎng)絡(luò)選好之后配置項(xiàng)目名，按回車或者點(diǎn)擊空白處確認(rèn)厕妖。
3. 樣本源配置區(qū) 的配置項(xiàng)用來配置樣本源的路徑首尼，訓(xùn)練樣本是根據(jù)此路徑進(jìn)行打包成TFRecords格式，驗(yàn)證樣本可以不指定言秸，使用[Validation Set Num]參數(shù)隨機(jī)從訓(xùn)練集總抽樣成驗(yàn)證集软能。
4. 訓(xùn)練配置區(qū) 的配置項(xiàng)負(fù)責(zé)定義訓(xùn)練完成的條件如：結(jié)束準(zhǔn)確率，結(jié)束COST举畸，結(jié)束Epochs查排，批次大小
5. 功能控制區(qū) 的配置項(xiàng)，設(shè)置完上面步驟抄沮，先點(diǎn)擊[Make Dataset] 打包樣本跋核，再點(diǎn)擊[Start Training]開始訓(xùn)練。

以下部分有基礎(chǔ)的讀者們可以了解一下：

如若使用CrossEntropy作為解碼器需要注意標(biāo)簽數(shù)LabelNum和圖片尺寸需要滿足的關(guān)系叛买，因?yàn)榫W(wǎng)絡(luò)為多標(biāo)簽而設(shè)計(jì)（一般的多標(biāo)簽采用直接連接多個(gè)分類器）砂代，卷積層的輸出 outputs 經(jīng)過了以下變換：

Reshape([label_num, int(outputs_shape[1] / label_num)])

為了保證運(yùn)算 int(outputs_shape[1] / label_num) 能夠取得正整數(shù)，也意味著他們之間存在某種關(guān)系率挣，對(duì)于CNN5+Cross Entropy的網(wǎng)絡(luò)結(jié)構(gòu)泊藕，Conv2D層的步長皆為1，那么需要保證以下關(guān)系成立：

所以有時(shí)候需要Resize網(wǎng)絡(luò)輸入的Shape

例如使用CNN5+CrossEntropy組合难礼，則輸入寬度與輸入高度需要滿足：

同理如果CNN5+RNN+CTC娃圆，卷積層之后的輸出經(jīng)過以下變換：

Reshape([-1, outputs_shape[2] * outputs_shape[3]])

原輸出(batch_size, outputs_shape[1], outputs_shape[2], outputs_shape[3])，RNN層的輸入輸出要求為(batch, timesteps, num_classes)蛾茉，為了接入RNN經(jīng)過以上操作讼呢，那么又引出一個(gè)Time Step的概念，所以timesteps的值也是 outputs_shape[1]谦炬，而CTC Loss要求的輸入為 [batch_size, frames, num_labels]悦屏，若是 timesteps 小于標(biāo)簽數(shù)則無法計(jì)算損失节沦，也就無法找損失函數(shù)中找到極小值，梯度何以下降础爬。timesteps 最合理的值一般是標(biāo)簽數(shù)的2倍甫贯，為了達(dá)到目的，也可以通過Resize網(wǎng)絡(luò)輸入的Shape解決看蚜，一般情況timesteps直接關(guān)聯(lián)于圖片寬度叫搁，大多情況只要按比例放大寬度即可。

ExtractRegex 參數(shù)：

注意：如果訓(xùn)練集的命名格式和我提供的新手訓(xùn)練集不一樣供炎，請(qǐng)根據(jù)實(shí)際情況修改ExtractRegex的正則表達(dá)式渴逻。目前只支持在yaml配置文件中直接修改，尚未提供GUI界面修改的支持音诫。 DatasetPath 和SourcePath參數(shù)允許多個(gè)路徑惨奕，這種操作適用于需要將多種樣本訓(xùn)練為一個(gè)模型，或者希望訓(xùn)練一套通用泛化模型的人竭钝。
字符集Category其實(shí)大多數(shù)情況下不需要修改梨撞，一般的圖形驗(yàn)證碼離不開數(shù)字和英文，而且一般來說是大小寫不敏感的香罐，不區(qū)分大小寫聋袋，因?yàn)榇虼a平臺(tái)收集的訓(xùn)練集質(zhì)量參差不齊，有些大寫有些小寫穴吹，不如全部統(tǒng)一為小寫幽勒，默認(rèn)ALPHANUMERIC_LOWER則會(huì)自動(dòng)將大寫的轉(zhuǎn)為小寫，字符集可定制化很靈活港令，除了配置備注上提供的幾種類型啥容，還可以訓(xùn)練中文，自定義字符集用list表示顷霹，示例如下：

Category: ['常', '世', '寧', '慢', '南', '制', '根', '難']

如果是單標(biāo)簽分類咪惠，可以配合LabelNum=1，例如：

Category: ["航母", "雨靴", "毛線", "安全帽", "調(diào)色板", "海鷗", "日歷", "網(wǎng)球拍", ......]

其文件名示例：航母_1231290424123.png

如果是多標(biāo)簽分類淋淀，可以配合LabelSplit=&遥昧，例如：

Category: ["航母", "雨靴", "毛線", "安全帽", "調(diào)色板", "海鷗", "日歷", "網(wǎng)球拍", ......]

其文件名示例：航母&雨靴&毛線_1231290424123.png

可以自己根據(jù)收集訓(xùn)練集的實(shí)際字符集使用率來定義，也可以無腦網(wǎng)上找3500常用字來訓(xùn)練朵纷，注意：中文字符集一般比數(shù)字英文大很多炭臭，剛開始收斂比較慢，需要更久的訓(xùn)練時(shí)間袍辞，也需要更多的樣本量鞋仍，請(qǐng)量力而行

QQ截圖20181204150924.png

Pretreatment參數(shù)：

該參數(shù)是用來做圖片預(yù)處理的，例如形如以下的GIF動(dòng)圖肚豺，

2pc5uv_8989.gif

可以使用ConcatFrames參數(shù)選取幀對(duì)兩幀進(jìn)行水平拼接溃斋，適用于處理滾動(dòng)型GIF，而閃爍型GIF可以使用BlendFrames參數(shù)進(jìn)行融合吸申。

3.2 開始訓(xùn)練

1. 經(jīng)過 采集標(biāo)注樣本形如 xxx_隨機(jī)數(shù).png

   
   
   QQ截圖20200531182034.png
2. 打包樣本
   通過GUI界面的 [Make Dataset] 或者 make_dataset.py 直接打包梗劫。
   注意：使用源碼運(yùn)行本項(xiàng)目的功能模塊需要具備一定的語言基礎(chǔ)，參數(shù)修改的部分和示例已預(yù)留好呛谜，盡量不修改核心類或函數(shù)的代碼以免出現(xiàn)錯(cuò)誤。

按照上面的介紹枪萄，配置只要修改極少數(shù)的參數(shù)對(duì)應(yīng)的值隐岛，就可以開啟正式的訓(xùn)練之旅了，具體操作如下：
可以直接使用 PyCharm 的 Run瓷翻，執(zhí)行 trains.py聚凹，也可以在激活Virtualenv下使用終端亦或在安裝依賴的全局環(huán)境下執(zhí)行，但本文建議全程使用GUI界面進(jìn)行操作齐帚，使用GUI僅需啟動(dòng) app.py 即可妒牙。

python3 trains.py

剩下的就是等了，看過程对妄，等結(jié)果湘今。
正常開始訓(xùn)練的模樣應(yīng)該是這樣的：

訓(xùn)練結(jié)束會(huì)在項(xiàng)目的out路徑下生成一個(gè)包含pb文件的graph目錄和包含yaml文件的model目錄，下面該到部署環(huán)節(jié)了剪菱。

3.3 部署

真的很有必要認(rèn)真的介紹一下部署項(xiàng)目摩瞎，比起訓(xùn)練，這個(gè)部署項(xiàng)目傾注了筆者更多的心血孝常，為什么呢旗们？
項(xiàng)目地址：https://github.com/kerlomz/captcha_platform

如希望將本系統(tǒng)集成于自己的項(xiàng)目中的可以參考python-sdk的使用：
https://pypi.org/project/muggle-ocr/
該項(xiàng)目的核心基于 captcha_platform/sdk/pb/sdk.py 可以根據(jù)需要自行修改，抑或直接使用MuggleOCR 調(diào)用訓(xùn)練框架生產(chǎn)的模型构灸。（具體調(diào)用方法可點(diǎn)擊上面鏈接有對(duì)應(yīng)的文檔介紹）

編譯版：https://github.com/kerlomz/captcha_platform/releases上渴，使用編譯版無需安裝Python和TensorFlow環(huán)境。

真的值得了解的幾點(diǎn)

1. 同時(shí)管理多個(gè)模型喜颁，支持模型熱拔插
2. 靈活的版本控制
3. 支持批量識(shí)別
4. 服務(wù)智能路由策略

首先筆者重寫了TensorFlow的Graph會(huì)話管理稠氮，設(shè)計(jì)會(huì)話池，允許同時(shí)管理多模型半开，實(shí)現(xiàn)多模型動(dòng)態(tài)部署方案括袒。

1） 訓(xùn)練好的 pb模型只要放在部署項(xiàng)目的graph路徑下，yaml模型配置文件放在model稿茉， 即可被服務(wù)發(fā)現(xiàn)并加載锹锰。（用SDK調(diào)用時(shí)芥炭，兩者置于同一目錄下）

2） 如果需要卸載一個(gè)正在服務(wù)的模型，只需要在model中刪除該模型的yaml配置文件恃慧，在graph中刪除對(duì)應(yīng)的pb模型即可园蝠。

3） 如果需要更新一個(gè)已經(jīng)服務(wù)中的模型，只需修改新版的模型yaml配置文件的版本號(hào)高于原模型的版本號(hào)痢士，按先放pb后放yaml的順序彪薛，服務(wù)便會(huì)自動(dòng)發(fā)現(xiàn)新版的模型并加載使用，舊的模型將因版本低于新版模型不會(huì)被調(diào)用怠蹂，可以按照上述的卸載方法卸載已被棄用的模型釋放內(nèi)存善延。
上面的操作中無需重啟服務(wù)，完全的無縫切換

其次城侧，一套服務(wù)想要服務(wù)于各式各樣的圖像識(shí)別需求易遣，可以定義一套策略，訓(xùn)練時(shí)將所有尺寸一樣的圖片訓(xùn)練成一個(gè)模型嫌佑，服務(wù)根據(jù)圖片尺寸自動(dòng)選擇使用哪個(gè)模型豆茫，這樣的設(shè)計(jì)使定制化和通用性共存，等積累到一定多樣的訓(xùn)練集時(shí)可以將所有的訓(xùn)練集合到一起訓(xùn)練一個(gè)通用模型屋摇，亦可以彼此獨(dú)立揩魂，每個(gè)模型的疊加僅僅增加了少量的內(nèi)存或顯存，網(wǎng)上的方案大多是不同的模型單獨(dú)部署一套服務(wù)炮温，每個(gè)進(jìn)程加載了一整套TensorFlow框架勢(shì)必是過于龐大和多余的火脉。

用到批量識(shí)別需求的人相對(duì)少很多這里就不展開介紹了。但是這里給出一個(gè)12306的例子：

FieldParam:
  CorpParams: [
    {
      "start_pos": [118, 0],
      "interval_size": [0, 0],
      "corp_num": [1, 1],
      "corp_size": [60, 30]
    },
    {
      "start_pos": [5, 40],
      "interval_size": [5, 5],
      "corp_num": [4, 2],
      "corp_size": [66, 66]
    }
  ]
  OutputCoord: True

該參數(shù)可以用于大圖的裁剪組成一批小圖作為一個(gè)批次的輸入柒啤，改用法可以避免多次調(diào)用忘分。

但是識(shí)別項(xiàng)目提供了多套可選的服務(wù)有：gRPC，F(xiàn)lask白修，Tornado妒峦，Sanic，其中Flask和Tornado提供了加密接口兵睛，類似于微信公眾號(hào)開發(fā)接口的SecretKey和AccessKey接口肯骇，感興趣的可以在demo.py中閱讀調(diào)用源碼了解。

部署的使用可以經(jīng)過package.py編譯為可執(zhí)行文件祖很，這樣可以免去更換機(jī)器環(huán)境安裝的煩惱吃媒，部署項(xiàng)目安裝流程同訓(xùn)練項(xiàng)目候醒，項(xiàng)目中提供的requirements.txt已經(jīng)將所需的依賴都列清楚了棵磷，強(qiáng)烈建議部署項(xiàng)目安裝cpu版TensorFlow风秤。

本項(xiàng)目部署推薦使用Tornado版，功能最齊全笨鸡，性能最為穩(wěn)定姜钳。

Linux：

1. Tornado：

# 端口 19952
python3 tornado_server.py

2. Flask

# 方案1坦冠，裸啟動(dòng)， 端口 19951
python flask_server.py 
# 方案2哥桥，使用gunicorn辙浑，端口 5000
pip install gunicorn 
gunicorn -c deploy.conf.py flask_server:app

3. Sanic：

# 端口 19953
python3 sanic_server.py

4. gRPC:

# 端口 50054
python3 grpc_server.py

5. 編譯版(基于Tornado)

# 前臺(tái)運(yùn)行
./captcha_platform_tornado
#后臺(tái)運(yùn)行
nohup ./captcha_platform_tornado &

Windows：
Windows平臺(tái)下都是通過python3 xxx_server.py啟動(dòng)對(duì)應(yīng)的服務(wù)，注意拟糕，Tornado判呕、Flask、Sanic的性能在Windows平臺(tái)都大打折扣送滞，gRPC是Google開源的RPC服務(wù)侠草，有較為優(yōu)越的性能。
編譯版直接運(yùn)行編譯后的exe可執(zhí)行文件即可犁嗅。

3.4 調(diào)用/測(cè)試

1. Tornado服務(wù)：

具體參數(shù)：

請(qǐng)求為JSON格式愧哟，形如：{"image": "base64編碼后的圖像二進(jìn)制流"}

返回結(jié)果：

該返回為JSON格式奥吩，形如：{"message": "xxxx", "code": 0, "success": true}

2. Flask服務(wù)：

請(qǐng)求參數(shù)和返回格式同上

3. Sanic服務(wù)：

請(qǐng)求參數(shù)和返回格式同上

4. gRPC服務(wù)：
需要安裝依賴哼蛆，grpcio蕊梧、grpcio_tools和對(duì)應(yīng)的grpc.proto文件，可以直接從項(xiàng)目中的示例代碼demo.py中提取腮介。

python -m grpc_tools.protoc -I. --python_out=. --grpc_python_out=. ./grpc.proto

grpcio肥矢、grpcio_tools 是根據(jù) grpc.proto 使用上述命令生成的。

class GoogleRPC(object):

    def __init__(self, host: str):
        self._url = '{}:50054'.format(host)
        self.true_count = 0
        self.total_count = 0

    def request(self, image, model_type=None, model_site=None):

        import grpc
        import grpc_pb2
        import grpc_pb2_grpc
        channel = grpc.insecure_channel(self._url)
        stub = grpc_pb2_grpc.PredictStub(channel)
        response = stub.predict(grpc_pb2.PredictRequest(
            image=image, split_char=',', model_type=model_type, model_site=model_site
        ))
        return {"message": response.result, "code": response.code, "success": response.success}

if __name__ == '__main__':
    result = GoogleRPC().request("base64編碼后的圖片二進(jìn)制流")
    print(result)

3.5 奇技淫巧

該項(xiàng)目還可以直接用于識(shí)別帶顏色的驗(yàn)證碼叠洗，部署項(xiàng)目middleware/impl/color_extractor.py基于k-means實(shí)現(xiàn)了顏色分離模塊甘改，可用于處理如下形式的驗(yàn)證碼：

紅色.png

還有一種方案是同時(shí)預(yù)測(cè)驗(yàn)證碼和每個(gè)字符對(duì)應(yīng)的顏色，不過這需要修改現(xiàn)有的神經(jīng)網(wǎng)絡(luò)進(jìn)行支持灭抑，在最后一層修改為雙輸出十艾，一個(gè)輸出顏色，一個(gè)輸出對(duì)應(yīng)字符腾节，這對(duì)于樣本標(biāo)注的要求較高忘嫉，也提高的成本，所以如果能用無限生成樣本案腺，那問題就迎刃而解了庆冕，比如上圖，筆者就寫了樣本生成代碼劈榨，感興趣的可以移步：
http://www.reibang.com/p/da1b972e24f2
其實(shí)還有很多很多技巧访递，例如，用生成的樣本代替訓(xùn)練集同辣，其實(shí)網(wǎng)上的圖片驗(yàn)證碼大多是采用開源的拷姿，稍作修改而已惭载，大多數(shù)情況都能被近似生成出來，上述展示的驗(yàn)證碼圖片不代表任何實(shí)際的網(wǎng)站跌前，如有雷同棕兼，純屬巧合，該項(xiàng)目只能用于學(xué)習(xí)和交流用途抵乓，不得用于非法用途伴挚。

后記

如果文章描述不夠詳盡或需要技術(shù)支持的，可以加群 857149419 咨詢灾炭，或在開源項(xiàng)目中提issue茎芋，很榮幸能為開源社區(qū)貢獻(xiàn)綿薄之力。