tensorflow初探八之加載數據-Tensorflow技術解析與實戰(zhàn)學習

加載數據

TensorFlow 作為符號編程框架妖泄,需要先構建數據流圖丹喻,再讀取數據,隨后進行模型訓練螃征。

  • 預加載數據(preloaded data):在 TensorFlow 圖中定義常量或變量來保存所有數據。這種方式的缺點在于略步,將數據直接嵌在數據流圖中描扯,當訓練數據較大時,很消耗內存趟薄。
  • 填充數據(feeding): 使用 sess.run()中的 feed_dict 參數绽诚,將 Python 產生的數據填充給后端。Python 產生數據竟趾,再把數據填充后端憔购。填充的方式也有數據量大、消耗內存等缺點岔帽。
  • 從文件讀取數據(reading from file):從文件中直接讀取玫鸟,讓隊列管理器從文件中讀取數據。這是最推薦的方式犀勒,讓 TensorFlow 自己從文件中讀取數據屎飘,并解碼成可使用的樣本集。
import tensorflow as tf
# 第二種方式:填充數據
a1 = tf.placeholder(tf.int16)
a2 = tf.placeholder(tf.int16)
b = tf.add(x1, x2)
# 用 Python 產生數據
li1 = [2, 3, 4]
li2 = [4, 0, 1]
# 打開一個會話贾费,將數據填充給后端
with tf.Session() as sess:
  print sess.run(b, feed_dict={a1: li1, a2: li2})

TFRecords 是一種二進制文件钦购,能更好地利用內存,更方便地復制和移動褂萧,并且不需要單獨的標記文件押桃。

從文件讀取數據分為如下兩個步驟:
(1)把樣本數據寫入 TFRecords 二進制文件;
(2)再從隊列中讀取导犹。

把樣本數據寫入 TFRecords 二進制文件

  1. 將數據填入到 tf.train.Example 的協議緩沖區(qū)(protocolbuffer)中
 example=tf.train.Example(features=tf.train.Features(feature={
                    'height': _int64_feature(rows),
                    'width': _int64_feature(cols),
                    'depth': _int64_feature(depth),
                    'label': _int64_feature(int(labels[i].tolist)),
                    'image_raw': _bytes_feature(image_raw)
                }))
  1. 將協議緩沖區(qū)序列化為一個字符串唱凯,通過 tf.python_io.TFRecordWriter 寫入 TFRecords文件
#定義一個writer
    filename=os.path.join(os.getcwd(),name+'.tfrecords')
    writer= tf.python_io.TFRecordWriter(filename)
......
#對于for i in range(num_example)中的每個example,寫入文件
    writer.write(example.SerializerToString())
  1. 最后關閉writer
writer.close()

從隊列中讀取
一旦生成了 TFRecords 文件谎痢,接下來就可以使用隊列讀取數據了磕昼。主要分為 3 步:
(1)創(chuàng)建張量,從二進制文件讀取一個樣本节猿;
(2)創(chuàng)建張量票从,從二進制文件隨機讀取一個 mini-batch;
(3)把每一批張量傳入網絡作為輸入節(jié)點滨嘱。

?著作權歸作者所有,轉載或內容合作請聯系作者
  • 序言:七十年代末峰鄙,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子九孩,更是在濱河造成了極大的恐慌先馆,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,198評論 6 514
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件躺彬,死亡現場離奇詭異煤墙,居然都是意外死亡,警方通過查閱死者的電腦和手機宪拥,發(fā)現死者居然都...
    沈念sama閱讀 94,334評論 3 398
  • 文/潘曉璐 我一進店門仿野,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人她君,你說我怎么就攤上這事脚作。” “怎么了缔刹?”我有些...
    開封第一講書人閱讀 167,643評論 0 360
  • 文/不壞的土叔 我叫張陵球涛,是天一觀的道長。 經常有香客問我校镐,道長亿扁,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,495評論 1 296
  • 正文 為了忘掉前任鸟廓,我火速辦了婚禮从祝,結果婚禮上,老公的妹妹穿的比我還像新娘引谜。我一直安慰自己牍陌,他們只是感情好,可當我...
    茶點故事閱讀 68,502評論 6 397
  • 文/花漫 我一把揭開白布员咽。 她就那樣靜靜地躺著毒涧,像睡著了一般。 火紅的嫁衣襯著肌膚如雪贝室。 梳的紋絲不亂的頭發(fā)上契讲,一...
    開封第一講書人閱讀 52,156評論 1 308
  • 那天,我揣著相機與錄音档玻,去河邊找鬼怀泊。 笑死,一個胖子當著我的面吹牛误趴,可吹牛的內容都是我干的霹琼。 我是一名探鬼主播,決...
    沈念sama閱讀 40,743評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼凉当,長吁一口氣:“原來是場噩夢啊……” “哼枣申!你這毒婦竟也來了?” 一聲冷哼從身側響起看杭,我...
    開封第一講書人閱讀 39,659評論 0 276
  • 序言:老撾萬榮一對情侶失蹤忠藤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后楼雹,有當地人在樹林里發(fā)現了一具尸體模孩,經...
    沈念sama閱讀 46,200評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡尖阔,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 38,282評論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現自己被綠了榨咐。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片介却。...
    茶點故事閱讀 40,424評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖块茁,靈堂內的尸體忽然破棺而出齿坷,到底是詐尸還是另有隱情,我是刑警寧澤数焊,帶...
    沈念sama閱讀 36,107評論 5 349
  • 正文 年R本政府宣布永淌,位于F島的核電站,受9級特大地震影響佩耳,放射性物質發(fā)生泄漏遂蛀。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,789評論 3 333
  • 文/蒙蒙 一蚕愤、第九天 我趴在偏房一處隱蔽的房頂上張望答恶。 院中可真熱鬧,春花似錦萍诱、人聲如沸悬嗓。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,264評論 0 23
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽包竹。三九已至,卻和暖如春籍凝,著一層夾襖步出監(jiān)牢的瞬間周瞎,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,390評論 1 271
  • 我被黑心中介騙來泰國打工饵蒂, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留声诸,地道東北人。 一個月前我還...
    沈念sama閱讀 48,798評論 3 376
  • 正文 我出身青樓退盯,卻偏偏與公主長得像彼乌,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子渊迁,可洞房花燭夜當晚...
    茶點故事閱讀 45,435評論 2 359

推薦閱讀更多精彩內容