86篇文章 · 9367字 · 8人關(guān)注
-
總結(jié)
線性回歸所意，用線去擬合數(shù)據(jù)淮逊，預(yù)測連續(xù)值邏輯回歸（對數(shù)幾率回歸，簡稱對率回歸）扶踊，用來解決分類問題正則化泄鹏，解決過擬合問題神經(jīng)網(wǎng)絡(luò)模型評估，偏差秧耗，方差類...
-
-
映射化簡和數(shù)據(jù)并行（Map-reduce and data parallelism）所謂map reduce技術(shù)备籽，就是利用我們計(jì)算的算法中含加法的部分拆分成幾個(gè)部分，分別由幾臺(tái)計(jì)算機(jī)完成計(jì)算绣版，最后送到中心計(jì)算機(jī)中完成最后的求和胶台。...
-
在線學(xué)習(xí)（Online learning）在線學(xué)習(xí)算法，獲取連續(xù)的數(shù)據(jù)杂抽，當(dāng)我們訓(xùn)練完后诈唬，便丟棄了，不再使用缩麸。 點(diǎn)擊率CTR（Click through rate）： 和隨機(jī)梯度下降算法很...
-
隨機(jī)梯度下降收斂（Stochastic gradient descent convergence）我們需要確保隨機(jī)梯度下降是收斂的铸磅，我們需要選取合適的α。 我們需要每多少個(gè)樣本杭朱，計(jì)算一次代價(jià)函數(shù)平均值阅仔，然后看它是否收斂。我們可以通過此來調(diào)整學(xué)...
-
小批量梯度下降（Mini-Batch gradient descent）小批量梯度下降（介于批量梯度下降和隨機(jī)梯度下降之間）弧械。b稱為小批量大小八酒，一次訓(xùn)練b個(gè)樣本，然后一直下去刃唐。訓(xùn)練一次羞迷，就更新了一次參數(shù)值界轩。 小批量梯...
-
隨機(jī)梯度下降（Stochastic gradient descent）以線性回歸為例：我們之前的批量梯度下降，當(dāng)數(shù)據(jù)量很大的時(shí)候衔瓮，需要頻繁讀取數(shù)據(jù)并計(jì)算微分浊猾，開銷很大，占用內(nèi)存大热鞍。 隨機(jī)梯度下降和批量梯度下降對比：...
-
大型數(shù)據(jù)集的學(xué)習(xí)（Learning with large datasets）如何處理這些大數(shù)據(jù)集葫慎，有兩種方法：第一種稱為隨機(jī)梯度下降；第二種稱為圖的減少薇宠。
-
實(shí)施細(xì)節(jié)：均值歸一化（Implementational detail: Mean normalization）對未知的用戶預(yù)測是電影評分的均值：
