深度學習

第1章 緒論
1．1 引言
1．2 基本術語
1．3 監(jiān)督學習算法
1．3．1 支持向量機
1．3．2 決策樹
1．4 無監(jiān)督學習算法
1．4．1 主成分分析
1．4．2 K-均值聚類
1．5 機器學習
1．6 深度學習的趨勢
1．6．1 與日俱增的數(shù)據(jù)量
1．6．2 愈發(fā)龐大的計算資源
1．6．3 越來越高的性能以及解決實際問題的潛力
思考題
參考文獻
第2章 TensorFlow和Keras簡介
2．1 TensorFlow簡介
2．1．1 概述
2．1．2 TensorFlow的使用
2．1．3 TensorFlow的可視化
2．2 Keras簡介
2．2．1 Keras概述
2．2．2 Keras的使用
2．2．3 Keras的可視化
思考題
參考文獻
第3章 簡單神經(jīng)網(wǎng)絡
3．1 人腦是如何學習的
3．2 模仿人腦——神經(jīng)元（感知器）
3．3 非線性神經(jīng)元
3．4 神經(jīng)網(wǎng)絡架構
3．5 梯度下降
3．5．1 代價函數(shù)
3．5．2 梯度下降
3．6 反向傳播
3．6．1 多層神經(jīng)網(wǎng)絡的數(shù)學表示
3．6．2 反向傳播算法原理
3．7 實現(xiàn)簡單神經(jīng)網(wǎng)絡
思考題
參考文獻
第4章 圖像類數(shù)據(jù)處理
4．1 二維卷積神經(jīng)網(wǎng)絡的基本原理
4．1．1 卷積神經(jīng)網(wǎng)絡的原理
4．1．2 參數(shù)共享
4．1．3 池化
4．1．4 分類原理
4．2 簡單卷積神經(jīng)網(wǎng)絡實例
4．3 過度擬合
4．3．1 容量、過擬合與欠擬合的基本概念
4．3．2 數(shù)據(jù)集增強
4．3．3 L2正則化一
4．3．4 L1正則化
4．3．5 Dropout
4．3．6 提前終止
4．4 時間優(yōu)化
4．4．1 交叉熵代價函數(shù)
4．4．2 批標準化
4．4．3 隨機梯度下降
4．4．4 動量
4．4．5 Nesterov動量
4．5 綜合二維卷積神經(jīng)網(wǎng)絡實例
思考題
參考文獻
第5章 序列類數(shù)據(jù)處理
5．1 一維卷積神經(jīng)網(wǎng)絡
5．1．1 一維卷積神經(jīng)網(wǎng)絡的原理
5．1．2 一維卷積神經(jīng)網(wǎng)絡實例
5．2 循環(huán)神經(jīng)網(wǎng)絡
5．2．1 循環(huán)神經(jīng)網(wǎng)絡的基本原理
5．2．2 循環(huán)神經(jīng)網(wǎng)絡的輸出
5．2．3 上下文依賴型數(shù)據(jù)處理
5．2．4 序列到序列的數(shù)據(jù)處理
5．3 遞歸神經(jīng)網(wǎng)絡
5．3．1 遞歸神經(jīng)網(wǎng)絡的基本原理
5．3．2 長期依賴性
5．4 長短期記憶LSTM網(wǎng)絡
5．4．1 長短期記憶網(wǎng)絡的基本原理
5．4．2 長短期記憶網(wǎng)絡工程實例
思考題
參考文獻
第6章 深度學習模型優(yōu)化
6．1 參數(shù)初始化
6．2 超參數(shù)尋優(yōu)算法
6．2．1 手動超參數(shù)尋優(yōu)
6．2．2 超參數(shù)尋優(yōu)算法
6．3 基于梯度的自適應學習算法
6．3．1 AdaGrad算法一
6．3．2 RMSProp算法
6．3．3 Adam算法
6．4 生成對抗神經(jīng)網(wǎng)絡及實例
6．5 遷移學習及實例
6．6 強化學習
6．7 模型優(yōu)化的局限性
6．7．1 局部極小值
6．7．2 梯度消失、梯度爆炸與懸崖
6．7．3 鞍點
6．7．4 長期依賴
6．7．5 梯度的非精確性
思考題
參考文獻
第7章 數(shù)據(jù)和模型的處理與調(diào)試
7．1 模型評價
7．2 數(shù)據(jù)預處理
7．3 基礎模型的選擇
7．4 模型調(diào)試
思考題
參考文獻
第8章 現(xiàn)代深度學習模型概述
8．1 玻爾茲曼機
8．1．1 標準玻爾茲曼機
8．1．2 受限玻爾茲曼機
8．1．3 深層玻爾茲曼機
8．2 自編碼器
8．2．1 標準自編碼器
8．2．2 稀疏自編碼器
8．2．3 降噪自編碼器
8．3 深度信念網(wǎng)絡及實例
8．4 殘差神經(jīng)網(wǎng)絡及實例
8．5 膠囊神經(jīng)網(wǎng)絡及實例
思考題
參考文獻
附錄
附錄A 基于深度學習的視頻目標跟蹤研究進展綜述
附錄B Q-Learning算法的參考代碼