最近深度學習算法被廣泛研究和應用,而tensorflow則是被應用最為廣泛的工具孤个。tensorflow訓練的模型被應用在線上時剃允,主要有3種方式(本文主要討論java方向的應用):
1:java代碼重寫預測代碼(應用效率太低)
2:tensorflow serving加載tensorflow模型,通過rpc服務調(diào)用齐鲤,改種方式耗時較長斥废,不滿足線上要求(之前測試的結(jié)果)
3:tensorflow sdk加載tensorflow模型(目前線上應用的方式)
采用tensorflow sdk 加載模型有幾個條件:
? ? ? 1):需要tensorflow 版本1.1.0以上
? ? ? 2):部署環(huán)境需要centos7
? ? ? 3):需要jdk1.8
A:tensorflow保存模型的方式為:
每一次保存模型版本號都需要更新,不然會保存失敗给郊,但tag可不變牡肉。
B:java加載tensorflow保存的模型
C:預測時,模型入?yún)⒍夹枰猼ensor變量淆九,如果是矩陣可保存為二維數(shù)組统锤,然后創(chuàng)建tensor作為入?yún)ⅰ?/p>
D:模型預測結(jié)果也是tensor毛俏,因此需要對結(jié)果進行轉(zhuǎn)換