第2章 梯度下降法
深度學(xué)習(xí)的核心任務(wù)就是通過樣本數(shù)據(jù)訓(xùn)練一個函數(shù)模型，或者說找到一個最佳的函數(shù)表示或刻畫這些樣本數(shù)據(jù)雕沉。求解最佳的函數(shù)模型歸結(jié)為一個數(shù)學(xué)優(yōu)化問題渡处，更準(zhǔn)確地說求某種損失函數(shù)的最值（極值）問題。深度學(xué)習(xí)中都是用梯度下降法求解這個最值問題或者說求解模型參數(shù)的摸航。
本章從函數(shù)極值的必要條件出發(fā)介紹了梯度下降法算法的理論根據(jù)奥帘、算法原理與代碼實現(xiàn)铜邮，并介紹了梯度下降法中對求解變量（參數(shù)）進(jìn)行更新的不同優(yōu)化策略。
