用tensorflow搭建簡單的神經(jīng)網(wǎng)絡(luò)

之前學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)時寫代碼用的是C++ 寫的扔傅,代碼冗長而且容易出錯〗J幔現(xiàn)在學(xué)了Python發(fā)現(xiàn)用Python-tensorflow寫神經(jīng)網(wǎng)絡(luò)代碼非常的簡潔苗傅。

一捺球、材料準(zhǔn)備

Python 3.5缸浦,可通過官網(wǎng)下載
tensorflow,可用pip install tensorflow 命令安裝
Pycharm 2017氮兵,百度有一大堆破解教程
MNIST數(shù)據(jù)集裂逐,下載地址

二、實(shí)現(xiàn)代碼

先把下載到的這幾個壓縮包解壓出來:


我解壓到了如下的目錄

讀取數(shù)據(jù)
offset type value description
0000 32 bit integer 0x00000801(2049) magic number (MSB first)
0004 32 bit integer 60000 number of items
0008 unsigned byte ?? label
0009 unsigned byte ?? label
........

數(shù)據(jù)的內(nèi)容格式如下:
訓(xùn)練標(biāo)簽數(shù)據(jù)(labels-idx1-ubyte):

offset type value description
0000 32 bit integer 0x00000801(2049) magic number (MSB first)
0004 32 bit integer 60000 number of items
0008 unsigned byte ?? label
0009 unsigned byte ?? label
........

The labels values are 0 to 9.

offset type value description
0000 32 bit integer 0x00000803(2051) magic number
0004 32 bit integer 60000 number of images
0008 32 bit integer 28 number of rows
0012 32 bit integer 28 number of columns
0016 unsigned byte ?? pixel
0017 unsigned byte ?? pixel
........

訓(xùn)練圖像數(shù)據(jù) (images-idx3-ubyte):

offset type value description
0000 32 bit integer 0x00000803(2051) magic number
0004 32 bit integer 60000 number of images
0008 32 bit integer 28 number of rows
0012 32 bit integer 28 number of columns
0016 unsigned byte ?? pixel
0017 unsigned byte ?? pixel
........

Pixels are organized row-wise. Pixel values are 0 to 255. 0 means background (white), 255 means foreground (black).

offset type value description
0000 32 bit integer 0x00000801(2049) magic number (MSB first)
0004 32 bit integer 10000 number of items
0008 unsigned byte ?? label
0009 unsigned byte ?? label
........

測試標(biāo)簽數(shù)據(jù) (t10k-labels-idx1-ubyte):

offset type value description
0000 32 bit integer 0x00000801(2049) magic number (MSB first)
0004 32 bit integer 10000 number of items
0008 unsigned byte ?? label
0009 unsigned byte ?? label
........

The labels values are 0 to 9.

offset type value description
0000 32 bit integer 0x00000803(2051) magic number
0004 32 bit integer 10000 number of images
0008 32 bit integer 28 number of rows
0012 32 bit integer 28 number of columns
0016 unsigned byte ?? pixel
0017 unsigned byte ?? pixel
........

測試圖像數(shù)據(jù) (t10k-images-idx3-ubyte):

offset type value description
0000 32 bit integer 0x00000803(2051) magic number
0004 32 bit integer 10000 number of images
0008 32 bit integer 28 number of rows
0012 32 bit integer 28 number of columns
0016 unsigned byte ?? pixel
0017 unsigned byte ?? pixel
........

Pixels are organized row-wise. Pixel values are 0 to 255. 0 means background (white), 255 means foreground (black).

讀取數(shù)據(jù)代碼:
def read_train_data():
    file = open('mnist_data/images-idx3-ubyte','rb')
    '''
        跳過了魔術(shù)碼(4 byte)
        圖像數(shù)量讀取(4 byte)
        行(4 byte)泣栈、列(4 byte)
    '''
    file.seek(4*4)
    img = []
    for i in range(60000):
        tmp = []
        for j in range(784):
            t = struct.unpack('b',file.read(1))
            if t[0] > -1:
                tmp.append(0)
            else:
                tmp.append(1)
        img.append(tmp)

    file = open('mnist_data/labels-idx1-ubyte','rb')
    
    '''
        跳過了魔術(shù)碼(4 byte)
        標(biāo)簽數(shù)量(4 byte)
    '''

    file.seek(4*2)
    label = []
    for i in range(60000):
        t = struct.unpack('b', file.read(1))
        tmp = []
        for j in range(10):
            if t[0] == j:
                tmp.append(1)
            else:
                tmp.append(0)
        label.append(tmp)
    return img,label

神經(jīng)網(wǎng)絡(luò)模型:

我要構(gòu)建的神經(jīng)網(wǎng)絡(luò)模型如下:

訓(xùn)練代碼:
if __name__ == "__main__":
    x = tf.placeholder("float", [None, 784])
    w1 = tf.Variable(tf.random_uniform([784, 120], -1.0, 1.0))
    b1 = tf.Variable(tf.random_uniform([120], -1.0, 1))
    w2 = tf.Variable(tf.random_uniform([120, 10], -1.0, 1.0))
    b2 = tf.Variable(tf.random_uniform([10], -1.0, 1.0))

    hid = tf.nn.sigmoid(tf.matmul(x, w1) + b1)

    output = tf.nn.softmax(tf.matmul(hid, w2) + b2)

    output_ = tf.placeholder("float", [None, 10])

    cross_entropy = -tf.reduce_sum(output_ * tf.log(output))
    train_step = tf.train.GradientDescentOptimizer(0.01).minimize(cross_entropy)

    init = tf.initialize_all_variables()
    sess = tf.Session()
    sess.run(init)

    IMG, LABEL = read_train_data()
    # 訓(xùn)練200次
    for i in range(200):
        j = 0
        while j < 60000:
            batch_xs, batch_ys = get_batch(IMG, LABEL, j, 100)
            sess.run(train_step, feed_dict={x: batch_xs, output_: batch_ys})
            j += 100

    W1 = sess.run(w1)
    W2 = sess.run(w2)
    B1 = sess.run(b1)
    B2 = sess.run(b2)
    # 把神經(jīng)網(wǎng)絡(luò)模型參數(shù)保存下來
    save_para(W1,W2,B1,B2)
    sess.close()

測試代碼:

import tensorflow as tf
import struct

def restore_para():
    W1 = []
    W2 = []
    B1 = []
    B2 = []
    #   載入weight
    file = open('mnist_para/w1', 'rb')
    for i in range(784):
        tmp = []
        for j in range(120):
            t = struct.unpack("f", file.read(4))
            tmp.append(t[0])
        W1.append(tmp)
    file.close()

    file = open('mnist_para/w2', 'rb')
    for i in range(120):
        tmp = []
        for j in range(10):
            t = struct.unpack("f", file.read(4))
            tmp.append(t[0])
        W2.append(tmp)
    file.close()
    #   載入bias
    file = open('mnist_para/b1', 'rb')
    for i in range(120):
        t = struct.unpack('f', file.read(4))
        B1.append(t[0])
    file.close()

    file = open('mnist_para/b2', 'rb')
    for i in range(10):
        t = struct.unpack('f', file.read(4))
        B2.append(t[0])
    file.close()

    w1 = tf.constant(W1)
    b1 = tf.constant(B1)
    w2 = tf.constant(W2)
    b2 = tf.constant(B2)

    return w1, b1, w2, b2

def read_test_data():
    file = open('mnist_data\\t10k-images-idx3-ubyte', 'rb')
    file.seek(4 * 4)
    img = []
    for i in range(10000):
        tmp = []
        for j in range(784):
            t = struct.unpack('b', file.read(1))
            if t[0] > -1:
                tmp.append(0)
            else:
                tmp.append(1)
        img.append(tmp)

    file = open('mnist_data\\t10k-labels-idx1-ubyte', 'rb')
    file.seek(4 * 2)
    label = []
    for i in range(10000):
        t = struct.unpack('b', file.read(1))
        tmp = []
        for j in range(10):
            if t[0] == j:
                tmp.append(1)
            else:
                tmp.append(0)
        label.append(tmp)

    return img, label

if __name__ == "__main__":

    x = tf.placeholder("float",[None,784])

    w1, b1, w2, b2 = restore_para()

    hid = tf.nn.sigmoid(tf.matmul(x,w1)+b1)
    output = tf.nn.softmax(tf.matmul(hid,w2)+b2)

    output_ = tf.placeholder("float",[None,10])

    init = tf.initialize_all_variables()
    sess = tf.Session()
    sess.run(init)

    IMG, LABEL = read_test_data()

    correct_prediction = tf.equal(tf.argmax(output, 1), tf.argmax(output_, 1))
    accuracy = tf.reduce_mean(tf.cast(correct_prediction, "float"))
    print("識別率:")
    print(sess.run(accuracy, feed_dict={x: IMG, output_:LABEL}))

    sess.close()

最后的識別率能達(dá)到95.93%左右卜高,下次嘗試用卷積神經(jīng)網(wǎng)絡(luò)來識別,識別率用改會更高一些南片。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末掺涛,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子疼进,更是在濱河造成了極大的恐慌薪缆,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,755評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件颠悬,死亡現(xiàn)場離奇詭異矮燎,居然都是意外死亡定血,警方通過查閱死者的電腦和手機(jī)赔癌,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,305評論 3 395
  • 文/潘曉璐 我一進(jìn)店門诞外,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人灾票,你說我怎么就攤上這事峡谊。” “怎么了刊苍?”我有些...
    開封第一講書人閱讀 165,138評論 0 355
  • 文/不壞的土叔 我叫張陵既们,是天一觀的道長。 經(jīng)常有香客問我正什,道長啥纸,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,791評論 1 295
  • 正文 為了忘掉前任婴氮,我火速辦了婚禮斯棒,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘主经。我一直安慰自己荣暮,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,794評論 6 392
  • 文/花漫 我一把揭開白布罩驻。 她就那樣靜靜地躺著穗酥,像睡著了一般。 火紅的嫁衣襯著肌膚如雪惠遏。 梳的紋絲不亂的頭發(fā)上砾跃,一...
    開封第一講書人閱讀 51,631評論 1 305
  • 那天,我揣著相機(jī)與錄音节吮,去河邊找鬼蜓席。 笑死,一個胖子當(dāng)著我的面吹牛课锌,可吹牛的內(nèi)容都是我干的厨内。 我是一名探鬼主播,決...
    沈念sama閱讀 40,362評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼渺贤,長吁一口氣:“原來是場噩夢啊……” “哼雏胃!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起志鞍,我...
    開封第一講書人閱讀 39,264評論 0 276
  • 序言:老撾萬榮一對情侶失蹤瞭亮,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后固棚,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體统翩,經(jīng)...
    沈念sama閱讀 45,724評論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡仙蚜,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,900評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了厂汗。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片委粉。...
    茶點(diǎn)故事閱讀 40,040評論 1 350
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖娶桦,靈堂內(nèi)的尸體忽然破棺而出贾节,到底是詐尸還是另有隱情,我是刑警寧澤衷畦,帶...
    沈念sama閱讀 35,742評論 5 346
  • 正文 年R本政府宣布栗涂,位于F島的核電站,受9級特大地震影響祈争,放射性物質(zhì)發(fā)生泄漏斤程。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,364評論 3 330
  • 文/蒙蒙 一菩混、第九天 我趴在偏房一處隱蔽的房頂上張望忿墅。 院中可真熱鬧,春花似錦墨吓、人聲如沸球匕。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,944評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽亮曹。三九已至,卻和暖如春秘症,著一層夾襖步出監(jiān)牢的瞬間照卦,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,060評論 1 270
  • 我被黑心中介騙來泰國打工乡摹, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留役耕,地道東北人。 一個月前我還...
    沈念sama閱讀 48,247評論 3 371
  • 正文 我出身青樓聪廉,卻偏偏與公主長得像瞬痘,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子板熊,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,979評論 2 355

推薦閱讀更多精彩內(nèi)容