本節(jié)例子在這里
本節(jié)例子主要計(jì)算Y=X*w + b公式里的W和b參數(shù)界赔。優(yōu)化器選用的是GradientDescentOptimizer。
我手工敲了一遍牵触，翻譯了注釋淮悼，如下：
import tensorflow as tf
import numpy
import matplotlib.pyplot as plt
rng = numpy.random
# 超參數(shù)
learning_rate = 0.01
training_epochs = 1000
display_step = 50
# 訓(xùn)練數(shù)據(jù)
train_X = numpy.asarray([3.3,4.4,5.5,6.71,6.93,4.168,9.779,6.182,7.59,2.167,
7.042,10.791,5.313,7.997,5.654,9.27,3.1])
train_Y = numpy.asarray([1.7,2.76,2.09,3.19,1.694,1.573,3.366,2.596,2.53,1.221,
2.827,3.465,1.65,2.904,2.42,2.94,1.3])
n_samples = train_X.shape[0] #參數(shù)組數(shù)
# 計(jì)算圖的輸入節(jié)點(diǎn)
X = tf.placeholder('float')
Y = tf.placeholder('float')
# 初始化模型權(quán)重
W = tf.Variable(rng.randn(), name="weight")
b = tf.Variable(rng.randn(), name="bias")
# 構(gòu)造一個(gè)線性模型
pred = tf.add(tf.multiply(X, W), b)
#均方誤差
cost = tf.reduce_sum(tf.pow(pred-Y, 2))/(2*n_samples)
#梯度下降
#注意，minimize()將會(huì)改變W和b, 變量的trainable屬性默認(rèn)是True
#這里使用梯度下降法來訓(xùn)練參數(shù)揽思，學(xué)習(xí)率由learning_rate指定
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(cost)
#初始化變量
init = tf.global_variables_initializer()
#開始訓(xùn)練
with tf.Session() as sess:
#運(yùn)行初始化動(dòng)作
sess.run(init)
#載入訓(xùn)練數(shù)據(jù)
for epoch in range(training_epochs):
for (x, y) in zip(train_X, train_Y):
sess.run(optimizer, feed_dict = {X:x, Y:y})
#每過一定步數(shù)（display_step）就顯示日志
if (epoch+1) %display_step == 0:
c = sess.run(cost, feed_dict={X:train_X, Y:train_Y})
print('Epoch:', '%04d'%(epoch+1), 'cost=', '{:.9f}'.format(c), \
'W=', sess.run(W), 'b=', sess.run(b), '\n')
print('最優(yōu)化訓(xùn)練結(jié)束')
training_cost = sess.run(cost, feed_dict={X:train_X, Y:train_Y})
print('training_cost=', training_cost, 'W=', sess.run(W), 'b=', sess.run(b), '\n')
#圖表顯示
plt.plot(train_X, train_Y, 'ro', label='Original data')
plt.plot(train_X, sess.run(W)*train_X+sess.run(b), label='Fitted line')
plt.legend()
plt.show()
#測(cè)試用例
#應(yīng)觀眾要求袜腥，增加了測(cè)試用例：https://github.com/aymericdamien/TensorFlow-Examples/issues/2
test_X = numpy.asarray([6.83, 4.668, 8.9, 7.91, 5.7, 8.7, 3.1, 2.1])
test_Y = numpy.asarray([1.84, 2.273, 3.2, 2.831, 2.92, 3.24, 1.35, 1.03])
print("Testing... (Mean square loss Comparison)")
testing_cost = sess.run(
tf.reduce_sum(tf.pow(pred - Y, 2))/(2*test_X.shape[0]),
feed_dict = {X:test_X, Y:test_Y}) #與上面的代價(jià)計(jì)算使用同樣的函數(shù)
print('testing cost=', testing_cost)
print('Absolute mean square loss difference:', abs(
training_cost - testing_cost))
plt.plot(test_X, test_Y, 'bo', label='Testing data')
plt.plot(train_X, sess.run(W)*train_X+sess.run(b), label='Fitted line')
plt.legend()
plt.show()
輸出內(nèi)容為：
Epoch: 1000 cost= 0.082081832 W= 0.289674 b= 0.513132
最優(yōu)化訓(xùn)練結(jié)束
training_cost= 0.0820818 W= 0.289674 b= 0.513132
Testing... (Mean square loss Comparison)
testing cost= 0.0768293
Absolute mean square loss difference: 0.00525256
輸出圖表為： [圖片上傳中...(image-89f954-1521646069033-1)]
本節(jié)的新知識(shí)點(diǎn)主要有兩塊：
- 優(yōu)化器
- matplolab畫圖
關(guān)于優(yōu)化器這里有篇不錯(cuò)的文章（如何選擇優(yōu)化器 optimizer）
下面是tensorflow中提供的優(yōu)化器 [圖片上傳中...(image-26b483-1521646069033-0)]
作者的結(jié)論如下：
如何選擇？
如果數(shù)據(jù)是稀疏的钉汗，就用自適用方法羹令，即 Adagrad, Adadelta, RMSprop, Adam鲤屡。
RMSprop, Adadelta, Adam 在很多情況下的效果是相似的。
Adam 就是在 RMSprop 的基礎(chǔ)上加了 bias-correction 和 momentum福侈，
隨著梯度變的稀疏酒来，Adam 比 RMSprop 效果會(huì)好。
整體來講癌刽，Adam 是最好的選擇役首。
作者：不會(huì)停的蝸牛
鏈接：http://www.reibang.com/p/d99b83f4c1a6
來源：簡(jiǎn)書
著作權(quán)歸作者所有。商業(yè)轉(zhuǎn)載請(qǐng)聯(lián)系作者獲得授權(quán)显拜，非商業(yè)轉(zhuǎn)載請(qǐng)注明出處衡奥。
