TensorFlow是Google推出的深度學(xué)習(xí)框架,相信谷歌出品摇幻,必屬精品夫否。養(yǎng)成良好的寫筆記習(xí)慣,好記性不如爛筆頭(* ̄(oo) ̄)
安裝&入門教程
網(wǎng)上一堆安裝和入門教程局待,以下兩個鏈接都是比較靠譜的八千。這里只啰嗦一句,window環(huán)境下燎猛,TensorFlow只能支持Python3.5以及以上版本A道Α!重绷!
中文官網(wǎng):https://tensorflow.google.cn/
極客學(xué)院:http://wiki.jikexueyuan.com/project/tensorflow-zh/
生成一個最簡單的前饋神經(jīng)網(wǎng)絡(luò)模型
tensorflow官方教程上有一個識別手寫阿拉伯?dāng)?shù)字的例子沸停,采用了卷積神經(jīng)網(wǎng)絡(luò)模型(一般圖像處理都使用卷積神經(jīng)網(wǎng)絡(luò))。但是對于我這個初學(xué)者來說昭卓,上來的demo是這個例子愤钾,難度略大瘟滨。所以,使用一個最簡單的前饋神經(jīng)網(wǎng)絡(luò)模型能颁,作為第一個栗子杂瘸。該模型主要是一個二分類模型。
代碼如下:
importtensorflowastf
fromnumpy.randomimportRandomState
#定義訓(xùn)練數(shù)據(jù)batch的大小
batch_size=8
#生成一個2X3的隨機(jī)矩陣w1,3X1的隨機(jī)矩陣w2,標(biāo)準(zhǔn)差是1伙菊,隨機(jī)種子1
w1=tf.Variable(tf.random_normal([2,3],stddev=1,seed=1),name="w1")
w2=tf.Variable(tf.random_normal([3,1],stddev=1,seed=1),name="w2")
#在shape的一個維度上使用None可以方便使用不用的batch大小败玉。在訓(xùn)練時需要把數(shù)據(jù)分成
#比較小的batch,但是在測試時镜硕,可以一次性使用全部的數(shù)據(jù)运翼。當(dāng)數(shù)據(jù)集比較小時,這樣比較方便測試
#但是當(dāng)數(shù)據(jù)集比較大時兴枯,將大量數(shù)據(jù)放入一個batch可能導(dǎo)致內(nèi)存溢出
x=tf.placeholder(tf.float32,shape=(None,2),name="x-input")
y_=tf.placeholder(tf.float32,shape=(None,1),name="y-input")
#定義神經(jīng)網(wǎng)絡(luò)前向傳播過程 a=x*w1,y=a*w2
a=tf.matmul(x,w1)
y=tf.matmul(a,w2)
#定義損失函數(shù)血淌,使用真實(shí)值和預(yù)測值之間的交叉熵
cross_entropy= -tf.reduce_mean(y_*tf.log(tf.clip_by_value(y,1e-10,1.0)))
#定義反向傳播算法
train_step=tf.train.AdamOptimizer(0.001).minimize(cross_entropy)
#通過隨機(jī)數(shù)生成一個模擬數(shù)據(jù)集
rdm=RandomState(1)
dataset_size=128
X=rdm.rand(dataset_size,2)
#定義規(guī)則來給出樣本的標(biāo)簽。在這里所有x1+x2<1 的樣例都被認(rèn)為是正樣本(比例產(chǎn)品合格)财剖,
#而其他為負(fù)樣本(比如零件不合格)悠夯。和TensorFlow游樂場中的算法表示法不大一樣的地方是,
#在這里使用0來表示負(fù)樣本躺坟,1表示正樣本沦补,大部分解決分類問題的神經(jīng)網(wǎng)絡(luò)都采用0和1的表示方法
Y=[[int(x1+x2<1)]for(x1,x2)inX]
#創(chuàng)建一個會話來運(yùn)行TensorFlow程序,初始化變量
withtf.Session()assess:
init_op=tf.initialize_all_variables()
sess.run(init_op)
#訓(xùn)練之前的參數(shù)值
print(sess.run(w1))
print(sess.run(w2))
STEPS=5000
foriinrange(STEPS):
# 每次選取batch_size個樣本進(jìn)行訓(xùn)練
start=(i*batch_size)%dataset_size
end=min(start+batch_size, dataset_size)
# 通過選取的樣本訓(xùn)練神經(jīng)網(wǎng)絡(luò)并更新參數(shù)
sess.run(train_step,feed_dict={x:X[start:end], y_:Y[start:end]})
ifi%1000==0:
# 每隔一段時間計(jì)算在所有數(shù)據(jù)上的交叉熵并輸出
total_cross_entropy=sess.run(cross_entropy,feed_dict={x:X, y_:Y})
print("After %d training step(s),cross entropy on all data is %g",(i, total_cross_entropy))
#訓(xùn)練之后的參數(shù)值
print(sess.run(w1))
print(sess.run(w2))
#導(dǎo)出計(jì)算圖
writer=tf.summary.FileWriter("E://workspace/tensorflow",tf.get_default_graph())
writer.close()
Tensorboard
Tensorboard是TensorFlow自帶的一個強(qiáng)大的可視化工具瞳氓。有多強(qiáng)大策彤?可以看到,上述代碼最后兩句就是到處該模型的計(jì)算圖匣摘。我們看看效果是怎么樣的店诗。
**啟動tensorboard: **tensorboard --logdir=E://workspace/tensorflow,這個路徑是你上述代碼到處的路徑音榜。啟動結(jié)果如下:
運(yùn)行結(jié)果如下: