RBM
限制波爾茲曼機(jī)(RBM)
5. Restricted Boltzmann Machines 是什么?
Geoff Hinton 發(fā)表了 RBM 的論文,這個(gè)貢獻(xiàn)也使他被稱為深度學(xué)習(xí)之父纸厉。
RBM 是 Feature Extractor Neural Nets 家族即 Autoencoders 的一員,可以通過重建 inputs 來自動(dòng)學(xué)習(xí)數(shù)據(jù)中的 pattern咙鞍。
RBM 有兩層房官,有個(gè)限制條件是,同一層的node不可以有聯(lián)系续滋。它將 inputs 編碼成數(shù)字集易阳,在回溯的時(shí)候,又把數(shù)字解碼成 inputs 的原來狀態(tài)吃粒。而且RBM不需要訓(xùn)練的數(shù)據(jù)是labeled。
6.為什么RBM可以改善梯度消失的問題呢拒课?
是怎么避免 vanishing gradient 的問題的呢徐勃,就是不用 Back propagation,而是用 Deep Belief Nets 替代早像。