本文為恒生電子李濤在中國(guó)技術(shù)開(kāi)放日上的發(fā)言演講PPT溯职。覺(jué)得實(shí)在太詳細(xì)實(shí)誠(chéng)了攘烛。于是千方百計(jì)地把圖放上來(lái)。
人工智能發(fā)展歷史
注：convolution neural network
監(jiān)督和無(wú)監(jiān)督分類
實(shí)踐舉例1
實(shí)踐舉例1
實(shí)踐舉例2
實(shí)踐舉例2
實(shí)踐舉例3
實(shí)踐舉例3
實(shí)踐舉例3
實(shí)踐舉例3
智能策略服務(wù)平臺(tái)業(yè)務(wù)構(gòu)架
實(shí)踐舉例4: RNN
實(shí)踐舉例5: LSTM
實(shí)踐舉例5: LSTM
實(shí)踐舉例6: PCA
實(shí)踐舉例7: CNN
實(shí)踐舉例7: CNN
過(guò)擬合
過(guò)擬合
過(guò)擬合
DL訓(xùn)練技巧
- 數(shù)據(jù)預(yù)處理：zero center, normalization; shuffling training examples;
- 學(xué)習(xí)速率調(diào)整: decreasing, AdaGrad/ AdaDelta
- 避免過(guò)擬合: early stopping, weight decay
- 權(quán)重初始化: 方差歸一
- 梯度下降優(yōu)化: SDG, Variance Reduction
計(jì)算：數(shù)據(jù)并行與模型并行
開(kāi)發(fā)框架：CNTK, TensorFlow
