經(jīng)過一周的學(xué)習(xí)以政，我基本掌握了深層神經(jīng)網(wǎng)絡(luò)的搭建方法博肋，以下是我的一點總結(jié)：
一舟肉、深度學(xué)習(xí)分以下6個基本步驟：
1.初始化參數(shù)W和b（參數(shù)的初始值必須隨機桶现；權(quán)重值W需要根據(jù)訓(xùn)練集數(shù)據(jù)大小去調(diào)整）
2.向前傳播（除了最后一層用sigmod函數(shù)，前面都是用relu或其他更好的函數(shù)）
3.計算損失（這里就是套公式）
4.向后傳播（從最后一層開始喊巍，一層一層向前面求導(dǎo)屠缭，得到每層的dW和db）
5.向后傳播（根據(jù)每層的dW和db，用梯度下降法去更新參數(shù)W和b）
6.預(yù)測（將最后得到的參數(shù)代入第2步的向前傳播函數(shù)崭参，最終求出預(yù)測值Y_prediction）
二呵曹、神經(jīng)網(wǎng)絡(luò)搭建好后，非常關(guān)鍵的一步就是調(diào)參數(shù)，使得損失能更好地收斂奄喂。有幾個參數(shù)是比較關(guān)鍵的：
1铐殃、學(xué)習(xí)率；
2跨新、網(wǎng)絡(luò)層數(shù)和各層節(jié)點富腊；
3、W的初始值設(shè)置
通過調(diào)試可以發(fā)現(xiàn)玻蝌，以上幾個參數(shù)都是直接影響損失函數(shù)收斂的蟹肘，那應(yīng)該按照什么準則去調(diào)這些參數(shù)词疼，我目前還沒發(fā)現(xiàn)什么規(guī)律和原理俯树，有待進一步的學(xué)習(xí)和研究探索。
