目錄

請先看前言

前言

1 深度學(xué)習(xí)

1.1 介紹神經(jīng)網(wǎng)絡(luò)

1.1.1 什么是神經(jīng)網(wǎng)絡(luò)

1.2 神經(jīng)網(wǎng)絡(luò)基礎(chǔ)

1.2.1 如何將數(shù)據(jù)輸入到神經(jīng)網(wǎng)絡(luò)中

1.2.2 神經(jīng)網(wǎng)絡(luò)是如何進(jìn)行預(yù)測的

1.2.3 神經(jīng)網(wǎng)絡(luò)如何判斷自己預(yù)測得是否準(zhǔn)確

1.2.4 神經(jīng)網(wǎng)絡(luò)是如何進(jìn)行學(xué)習(xí)的

1.2.5 計(jì)算圖

1.2.6 如何計(jì)算邏輯回歸的偏導(dǎo)數(shù)

1.2.7 向量化

1.2.8 如何開始使用python

1.2.9 如何向量化人工智能算法

1.2.10 [實(shí)戰(zhàn)編程]教你編寫第一個(gè)人工智能程序

1.3 淺神經(jīng)網(wǎng)絡(luò)

1.3.1 淺層神經(jīng)網(wǎng)絡(luò)

1.3.2 如何計(jì)算淺層神經(jīng)網(wǎng)絡(luò)的前向傳播

1.3.3 如何計(jì)算淺層神經(jīng)網(wǎng)絡(luò)的反向傳播

1.3.4 為什么需要激活函數(shù)

1.3.5 常見的激活函數(shù)

1.3.6 激活函數(shù)的偏導(dǎo)數(shù)

1.3.7 隨機(jī)初始化參數(shù)

1.3.8 [實(shí)戰(zhàn)編程]教你編寫淺層神經(jīng)網(wǎng)絡(luò)

1.4 深度神經(jīng)網(wǎng)絡(luò)

1.4.1 為什么需要深度神經(jīng)網(wǎng)絡(luò)

1.4.2 如何計(jì)算深度神經(jīng)網(wǎng)絡(luò)

1.4.3 核對矩陣的維度

1.4.4 參數(shù)和超參數(shù)

1.4.5 [實(shí)戰(zhàn)編程] 構(gòu)建深度神經(jīng)網(wǎng)絡(luò)

2 實(shí)戰(zhàn)優(yōu)化

2.1 實(shí)戰(zhàn)基礎(chǔ)

2.1.1 如何配置數(shù)據(jù)集

2.1.2 欠擬合和過擬合

2.1.3 如何解決欠擬合與過擬合

2.1.4 L2正則化

2.1.5 dropout

2.1.6 數(shù)據(jù)增強(qiáng)

2.1.7 將輸入特征進(jìn)行歸一化處理

2.1.8 梯度消失和梯度爆炸

2.1.9 梯度檢驗(yàn)

2.1.10 [實(shí)戰(zhàn)編程] 構(gòu)建實(shí)戰(zhàn)神經(jīng)網(wǎng)絡(luò)

2.2 優(yōu)化算法

2.2.1 Mini-batch 梯度下降

2.2.2 理解Mini-batch 梯度下降

2.2.3 指數(shù)加權(quán)平均

2.2.4 理解指數(shù)加權(quán)平均

2.2.5 指數(shù)加權(quán)平均的偏差修正

2.2.6 momentum梯度下降

2.2.7 RMSprop

2.2.8 Adam優(yōu)化算法

2.2.9 學(xué)習(xí)率衰減

2.2.10 局部最優(yōu)問題

2.2.11 [實(shí)戰(zhàn)編程] 優(yōu)化神經(jīng)網(wǎng)絡(luò)

2.3 調(diào)試神經(jīng)網(wǎng)絡(luò)

2.3.1 調(diào)試處理

2.3.2 為超參數(shù)選擇和適合范圍

2.3.3 超參數(shù)訓(xùn)練的實(shí)踐

2.3.4 網(wǎng)絡(luò)中的正則化激活函數(shù)

2.3.5 將 Batch Norm擬合進(jìn)神經(jīng)網(wǎng)絡(luò)

2.3.6 為什么Batch Norm奏效颖变？

2.3.7 測試時(shí)的Batch Norm

2.3.8 Softmax 回歸

2.3.9 訓(xùn)練一個(gè)Softmax 分類器

2.3.10 深度學(xué)習(xí)框架

2.3.11 TensorFlow（TensorFlow）

2.3.12 [實(shí)戰(zhàn)編程] 使用框架構(gòu)建神經(jīng)網(wǎng)絡(luò)

3 深度學(xué)習(xí)項(xiàng)目實(shí)戰(zhàn)

3.1 項(xiàng)目實(shí)戰(zhàn)一

3.1.1 為什么是ML策略弛饭？

3.1.2 正交化

3.1.3 單一數(shù)字評(píng)估指標(biāo)

3.1.4 滿足和優(yōu)化指標(biāo)

3.1.5 訓(xùn)練集链烈、開發(fā)集、測試集的劃分

3.1.6 開發(fā)集和測試集的大小

3.1.7 什么時(shí)候改變開發(fā)集/測試集和評(píng)估指標(biāo)

3.1.8 為什么是人的表現(xiàn)

3.1.9 可避免偏差

3.1.10 理解人類的表現(xiàn)

3.1.11 超過人類的表現(xiàn)

3.1.12 改善你的模型表現(xiàn)

3.1.13 [實(shí)戰(zhàn)編程] 大項(xiàng)目神經(jīng)網(wǎng)絡(luò)

3.2 實(shí)戰(zhàn)項(xiàng)目二

3.2.1 誤差分析

3.2.2 清除標(biāo)注錯(cuò)誤的數(shù)據(jù)

3.2.3 快速搭建你的第一個(gè)系統(tǒng)，并進(jìn)行迭代

3.2.4 在不同的分布上的訓(xùn)練集和測試集

3.2.5 數(shù)據(jù)分布不匹配的偏差與方差分析

3.2.6 處理數(shù)據(jù)不匹配問題

3.2.7 遷移學(xué)習(xí)

3.2.8 多任務(wù)學(xué)習(xí)

3.2.9 什么是端到端的深度學(xué)習(xí)粪薛？

3.2.10 是否使用端到端的深度學(xué)習(xí)方法

3.2.11 [實(shí)戰(zhàn)編程] 優(yōu)化大項(xiàng)目

4 人臉識(shí)別

4.1 卷積神經(jīng)網(wǎng)絡(luò)

4.1.1 計(jì)算機(jī)視覺

4.1.2 邊緣檢測示例

4.1.3 更多邊緣檢測內(nèi)容

4.1.4 Padding1.5 卷積步長

4.1.6 三維卷積

4.1.7 單層卷積網(wǎng)絡(luò)

4.1.8 簡單卷積網(wǎng)絡(luò)示例

4.1.9 池化層

4.1.10 卷積神經(jīng)網(wǎng)絡(luò)示例

4.1.11 為什么使用卷積？

4.1.12 [實(shí)戰(zhàn)編程] 構(gòu)建簡單的人臉識(shí)別程序

4.2 深度卷積網(wǎng)絡(luò)

4.2.1 為什么要進(jìn)行實(shí)例探究？

4.2.2 經(jīng)典網(wǎng)絡(luò)

4.2.3 殘差網(wǎng)絡(luò)

4.2.4 殘差網(wǎng)絡(luò)為什么有用命贴？

4.2.5 網(wǎng)絡(luò)中的網(wǎng)絡(luò)以及 1×1 卷積

4.2.6 谷歌 Inception 網(wǎng)絡(luò)簡介

4.2.7 Inception 網(wǎng)絡(luò)

4.2.8 使用開源的實(shí)現(xiàn)方案

4.2.9 遷移學(xué)習(xí)

4.2.10 數(shù)據(jù)擴(kuò)充

4.2.11 計(jì)算機(jī)視覺現(xiàn)狀

4.2.12 [實(shí)戰(zhàn)編程] 優(yōu)化人臉識(shí)別程序

4.3 目標(biāo)檢測

4.3.1 目標(biāo)定位

4.3.2 特征點(diǎn)檢測

4.3.3 目標(biāo)檢測

4.3.4 卷積的滑動(dòng)窗口實(shí)現(xiàn)

4.3.5 Bounding Box預(yù)測

4.3.6 交并比

4.3.7 非極大值抑制

4.3.8 Anchor Boxes

4.3.9 YOLO 算法

4.3.10 候選區(qū)域

4.3.11 [實(shí)戰(zhàn)編程] 構(gòu)建商用人臉識(shí)別程序

4.4 油畫風(fēng)格轉(zhuǎn)換

4.4.1 什么是轉(zhuǎn)換？

4.4.2 One-Shot學(xué)習(xí)

4.4.3 Siamese 網(wǎng)絡(luò)

4.4.4 Triplet 損失

4.4.5 風(fēng)格驗(yàn)證與二分類

4.4.6 什么是神經(jīng)風(fēng)格轉(zhuǎn)換？

4.4.7 什么是深度卷積網(wǎng)絡(luò)胸蛛？

4.4.8 代價(jià)函數(shù)

4.4.9 內(nèi)容代價(jià)函數(shù)

4.4.10 風(fēng)格代價(jià)函數(shù)

4.4.11 一維到三維推廣

4.4.12 [實(shí)戰(zhàn)編程] 構(gòu)建風(fēng)格轉(zhuǎn)換程序

5 語音識(shí)別

5.1 循環(huán)序列模型

5.1.1 為什么選擇序列模型污茵？

5.1.2 數(shù)學(xué)符號(hào)

5.1.3 循環(huán)神經(jīng)網(wǎng)絡(luò)模型

5.1.4 通過時(shí)間的反向傳播

5.1.5 不同類型的循環(huán)神經(jīng)網(wǎng)絡(luò)

5.1.6 語言模型和序列生成

5.1.7 對新序列采樣

5.1.8 循環(huán)神經(jīng)網(wǎng)絡(luò)的梯度消失

5.1.9 GRU單元

5.1.10 長短期記憶

5.1.11 雙向循環(huán)神經(jīng)網(wǎng)絡(luò)

5.1.12 深層循環(huán)神經(jīng)網(wǎng)絡(luò)

5.1.13 [實(shí)戰(zhàn)編程]構(gòu)建簡單的語音識(shí)別程序

5.2 自然語言處理與詞嵌入

5.2.1 詞匯表征

5.2.2 使用詞嵌入

5.2.3 詞嵌入的特性

5.2.4 嵌入矩陣

5.2.5 學(xué)習(xí)詞嵌入

5.2.6 Word2Vec2.7 負(fù)采樣

5.2.8 GloVe 詞向量

5.2.9 情緒分類

5.2.10 詞嵌入除偏

5.2.11 [實(shí)戰(zhàn)編程] 優(yōu)化語音識(shí)別程序

5.3 序列模型和注意力機(jī)制

5.3.1 基礎(chǔ)模型

5.3.2 選擇最可能的句子

5.3.3 集束搜索

5.3.4 改進(jìn)集束搜索

5.3.5 集束搜索的誤差分析

5.3.6 Bleu 得分

5.3.7 注意力模型直觀理解

5.3.8注意力模型

5.3.9語音識(shí)別

5.3.10觸發(fā)字檢測

5.3.11 [實(shí)戰(zhàn)編程] 構(gòu)建商用語音識(shí)別

6 生成對抗網(wǎng)絡(luò)GANs

7 自動(dòng)駕駛

8 強(qiáng)化學(xué)習(xí)

9 無監(jiān)督學(xué)習(xí)

10 人工大腦