TensorFlow固化模型

前言

TensorFlow目前在移動端是無法training的熄阻,只能跑已經訓練好的模型,但一般的保存方式只有單一保存參數或者graph的倔约,如何將參數秃殉、graph同時保存呢?

生成模型

主要有兩種方法生成模型浸剩,一種是通過freeze_graph把tf.train.write_graph()生成的pb文件與tf.train.saver()生成的chkp文件固化之后重新生成一個pb文件钾军,這一種現在不太建議使用。另一種是把變量轉成常量之后寫入PB文件中绢要。我們簡單的介紹下freeze_graph方法吏恭。

freeze_graph

這種方法我們需要先使用tf.train.write_graph()以及tf.train.saver()生成pb文件和ckpt文件,代碼如下:

with tf.Session() as sess:
    saver = tf.train.Saver()
    saver.save(session, "model.ckpt")
    tf.train.write_graph(session.graph_def, '', 'graph.pb')

然后使用TensorFlow源碼中的freeze_graph工具進行固化操作:

首先需要build freeze_graph 工具( 需要 bazel ):

bazel build tensorflow/python/tools:freeze_graph

然后使用這個工具進行固化(/path/to/表示文件路徑):

bazel-bin/tensorflow/python/tools/freeze_graph --input_graph=/path/to/graph.pb --input_checkpoint=/path/to/model.ckpt --output_node_names=output/predict --output_graph=/path/to/frozen.pb

convert_variables_to_constants

其實在TensorFlow中傳統(tǒng)的保存模型方式是保存常量以及graph的重罪,而我們的權重主要是變量樱哼,如果我們把訓練好的權重變成常量之后再保存成PB文件,這樣確實可以保存權重蛆封,就是方法有點繁瑣唇礁,需要一個一個調用eval方法獲取值之后賦值,再構建一個graph惨篱,把W和b賦值給新的graph盏筐。

牛逼的Google為了方便大家使用,編寫了一個方法供我們快速的轉換并保存砸讳。

  • 首先我們需要引入這個方法
from tensorflow.python.framework.graph_util import convert_variables_to_constants
  • 在想要保存的地方加入如下代碼琢融,把變量轉換成常量
output_graph_def = convert_variables_to_constants(sess, sess.graph_def, output_node_names=['output/predict'])

這里參數第一個是當前的session,第二個為graph簿寂,第三個是輸出節(jié)點名(如我的輸出層代碼是這樣的:)

    with tf.name_scope('output'):
        w_out = tf.Variable(w_alpha * tf.random_normal([1024, MAX_CAPTCHA * CHAR_SET_LEN]))
        tf.summary.histogram('output/weight', w_out)
        b_out = tf.Variable(b_alpha * tf.random_normal([MAX_CAPTCHA * CHAR_SET_LEN]))
        tf.summary.histogram('output/biases', b_out)
        out = tf.add(tf.matmul(dense2, w_out), b_out)
        out = tf.nn.softmax(out)
        predict = tf.argmax(tf.reshape(out, [-1, 11, 36]), 2, name='predict')

由于我們采用了name_scope所以我們在predict之前需要加上output/

  • 生成文件
    with tf.gfile.FastGFile('model/CTNModel.pb', mode='wb') as f:
        f.write(output_graph_def.SerializeToString())

第一個參數是文件路徑漾抬,第二個是指文件操作的模式,這里指的是以二進制的方式寫入文件常遂。

運行代碼纳令,系統(tǒng)會生成一個PB文件,接下來我們要測試下這個模型是否能夠正常的讀取、運行平绩。

測試模型

在Python環(huán)境下圈匆,我們首先需要加載這個模型,代碼如下:

with open('./model/rounded_graph.pb', 'rb') as f:
    graph_def = tf.GraphDef()
    graph_def.ParseFromString(f.read())
    output = tf.import_graph_def(graph_def,
                                 input_map={'inputs/X:0': newInput_X},
                                 return_elements=['output/predict:0'])

由于我們原本的網絡輸入值是一個placeholder捏雌,這里為了方便輸入我們也先定義一個新的placeholder:

newInput_X = tf.placeholder(tf.float32, [None, IMAGE_HEIGHT * IMAGE_WIDTH], name="X")

在input_map的參數填入新的placeholder跃赚。

在調用我們的網絡的時候直接用這個新的placeholder接收數據,如:

text_list = sesss.run(output, feed_dict={newInput_X: [captcha_image]})

然后就是運行我們的網絡性湿,看是否可以運行吧纬傲。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市肤频,隨后出現的幾起案子叹括,更是在濱河造成了極大的恐慌,老刑警劉巖着裹,帶你破解...
    沈念sama閱讀 221,430評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件领猾,死亡現場離奇詭異,居然都是意外死亡骇扇,警方通過查閱死者的電腦和手機摔竿,發(fā)現死者居然都...
    沈念sama閱讀 94,406評論 3 398
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來少孝,“玉大人继低,你說我怎么就攤上這事∩宰撸” “怎么了袁翁?”我有些...
    開封第一講書人閱讀 167,834評論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長婿脸。 經常有香客問我粱胜,道長,這世上最難降的妖魔是什么狐树? 我笑而不...
    開封第一講書人閱讀 59,543評論 1 296
  • 正文 為了忘掉前任焙压,我火速辦了婚禮,結果婚禮上抑钟,老公的妹妹穿的比我還像新娘涯曲。我一直安慰自己,他們只是感情好在塔,可當我...
    茶點故事閱讀 68,547評論 6 397
  • 文/花漫 我一把揭開白布幻件。 她就那樣靜靜地躺著,像睡著了一般蛔溃。 火紅的嫁衣襯著肌膚如雪绰沥。 梳的紋絲不亂的頭發(fā)上篱蝇,一...
    開封第一講書人閱讀 52,196評論 1 308
  • 那天,我揣著相機與錄音揪利,去河邊找鬼态兴。 笑死狠持,一個胖子當著我的面吹牛疟位,可吹牛的內容都是我干的。 我是一名探鬼主播喘垂,決...
    沈念sama閱讀 40,776評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼甜刻,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了正勒?” 一聲冷哼從身側響起得院,我...
    開封第一講書人閱讀 39,671評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎章贞,沒想到半個月后祥绞,有當地人在樹林里發(fā)現了一具尸體,經...
    沈念sama閱讀 46,221評論 1 320
  • 正文 獨居荒郊野嶺守林人離奇死亡鸭限,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 38,303評論 3 340
  • 正文 我和宋清朗相戀三年蜕径,在試婚紗的時候發(fā)現自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片败京。...
    茶點故事閱讀 40,444評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡兜喻,死狀恐怖,靈堂內的尸體忽然破棺而出赡麦,到底是詐尸還是另有隱情朴皆,我是刑警寧澤,帶...
    沈念sama閱讀 36,134評論 5 350
  • 正文 年R本政府宣布泛粹,位于F島的核電站遂铡,受9級特大地震影響,放射性物質發(fā)生泄漏晶姊。R本人自食惡果不足惜扒接,卻給世界環(huán)境...
    茶點故事閱讀 41,810評論 3 333
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望帽借。 院中可真熱鬧珠增,春花似錦、人聲如沸砍艾。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,285評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽脆荷。三九已至凝垛,卻和暖如春懊悯,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背梦皮。 一陣腳步聲響...
    開封第一講書人閱讀 33,399評論 1 272
  • 我被黑心中介騙來泰國打工炭分, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人剑肯。 一個月前我還...
    沈念sama閱讀 48,837評論 3 376
  • 正文 我出身青樓捧毛,卻偏偏與公主長得像,于是被迫代替她去往敵國和親让网。 傳聞我的和親對象是個殘疾皇子呀忧,可洞房花燭夜當晚...
    茶點故事閱讀 45,455評論 2 359

推薦閱讀更多精彩內容

  • 簡單線性回歸 import tensorflow as tf import numpy # 創(chuàng)造數據 x_dat...
    CAICAI0閱讀 3,551評論 0 49
  • 昨天晚上我隨手看看自己的手紋,紋身遍布溃睹,手心亂左一團而账,想一想自己這么多年真不知道自己干些啥了,感覺時間就是這么浪費...
    娥眉山閱讀 210評論 0 0
  • 再回深圳,溫度還沒有完全升回來竞滓。在十幾度的溫度中咐吼,還是能明顯的感受到潮濕,慶幸的是虽界,在出國之前汽烦,沒有巧遇令人厭惡的...
    壹言肆韻閱讀 776評論 0 2
  • 《超級個體-伽藍214》201/300,5.29打卡莉御,陽光繼續(xù)普照 【三件事】 1. [ ] pm課程學習13/9...
    伽藍214閱讀 115評論 0 0
  • 周末追完爸爸去哪兒撇吞,諾一和妹妹霓娜對甜食的如癡如醉,讓人久久不能忘懷礁叔。 看把咱們霓娜給饞的牍颈!再高冷的女神也抵擋不住...
    足記閱讀 634評論 0 3