異步深度學習經(jīng)典教程：深度學習+動手學深度學習（套裝共2冊，京東）

動手學深度學習目錄：
對本書的贊譽
前言
如何使用本書
資源與支持
主要符號表
第　1 章 深度學習簡介　1
1.1　起源　2
1.2　發(fā)展　4
1.3　成功案例　6
1.4　特點　7
小結　8
練習　8
第　2 章 預備知識　9
2.1　獲取和運行本書的代碼　9
2.1.1　獲取代碼并安裝運行環(huán)境　9
2.1.2　更新代碼和運行環(huán)境　11
2.1.3　使用GPU版的MXNet　11
小結12
練習12
2.2　數(shù)據(jù)操作　12
2.2.1　創(chuàng)建NDArray　12
2.2.2　運算　14
2.2.3　廣播機制　16
2.2.4　索引　17
2.2.5　運算的內存開銷　17
2.2.6　NDArray和NumPy相互變換18
小結19
練習19
2.3　自動求梯度　19
2.3.1　簡單例子　19AL34
2.3.2　訓練模式和預測模式　20
2.3.3　對Python控制流求梯度　20
小結21
練習21
2.4　查閱文檔　21
2.4.1　查找模塊里的所有函數(shù)和類　21
2.4.2　查找特定函數(shù)和類的使用　22
2.4.3　在MXNet網(wǎng)站上查閱　23
小結　24
練習　24
第3　章 深度學習基礎　25
3.1　線性回歸　25
3.1.1　線性回歸的基本要素　25
3.1.2　線性回歸的表示方法　28
小結　30
練習　30
3.2　線性回歸的從零開始實現(xiàn)　30
3.2.1　生成數(shù)據(jù)集　30
3.2.2　讀取數(shù)據(jù)集　32
3.2.3　初始化模型參數(shù)　32
3.2.4　定義模型　33
3.2.5　定義損失函數(shù)　33
3.2.6　定義優(yōu)化算法　33
3.2.7　訓練模型　33
小結　34
練習　34
3.3　線性回歸的簡潔實現(xiàn)　35
3.3.1　生成數(shù)據(jù)集　35
3.3.2　讀取數(shù)據(jù)集　35
3.3.3　定義模型　36
3.3.4　初始化模型參數(shù)　36
3.3.5　定義損失函數(shù)　37
3.3.6　定義優(yōu)化算法　37
3.3.7　訓練模型　37
小結　38
練習　38
3.4　softmax回歸　38
3.4.1　分類問題　38
3.4.2　softmax回歸模型　39
3.4.3　單樣本分類的矢量計算表達式　40
3.4.4　小批量樣本分類的矢量計算表達式　40
3.4.5　交叉熵損失函數(shù)　41
3.4.6　模型預測及評價　42
小結　42
練習　42
3.5　圖像分類數(shù)據(jù)集（Fashion-MNIST）　42
3.5.1　獲取數(shù)據(jù)集　42
3.5.2　讀取小批量　44
小結　45
練習　45
3.6　softmax回歸的從零開始實現(xiàn)　45
3.6.1　讀取數(shù)據(jù)集　45
3.6.2　初始化模型參數(shù)　45
3.6.3　實現(xiàn)softmax運算　46
3.6.4　定義模型　46
3.6.5　定義損失函數(shù)　47
3.6.6　計算分類準確率　47
3.6.7　訓練模型　48
3.6.8　預測　48
小結　49
練習　49
3.7　softmax回歸的簡潔實現(xiàn)　49
3.7.1　讀取數(shù)據(jù)集　49
3.7.2　定義和初始化模型　50
3.7.3　softmax和交叉熵損失函數(shù)　50
3.7.4　定義優(yōu)化算法　50
3.7.5　訓練模型　50
小結　50
練習　50
3.8　多層感知機　51
3.8.1　隱藏層　51
3.8.2　激活函數(shù)　52
3.8.3　多層感知機　55
小結　55
練習　55
3.9　多層感知機的從零開始實現(xiàn)　56
3.9.1　讀取數(shù)據(jù)集　56
3.9.2　定義模型參數(shù)　56
3.9.3　定義激活函數(shù)　56
3.9.4　定義模型　56
3.9.5　定義損失函數(shù)　57
3.9.6　訓練模型　57
小結　57
練習　57
3.10　多層感知機的簡潔實現(xiàn)　57
3.10.1　定義模型　58
3.10.2　訓練模型　58
小結　58
練習　58
3.11　模型選擇、欠擬合和過擬合　58
3.11.1　訓練誤差和泛化誤差　59
3.11.2　模型選擇　59
3.11.3　欠擬合和過擬合　60
3.11.4　多項式函數(shù)擬合實驗　61
小結　65
練習　65
3.12　權重衰減　65
3.12.1　方法　65
3.12.2　高維線性回歸實驗　66
3.12.3　從零開始實現(xiàn)　66
3.12.4　簡潔實現(xiàn)　68
小結　70
練習　70
3.13　丟棄法　70
3.13.1　方法　70
3.13.2　從零開始實現(xiàn)　71
3.13.3　簡潔實現(xiàn)　73
小結　74
練習　74
3.14　正向傳播、反向傳播和計算圖　74
3.14.1　正向傳播　74
3.14.2　正向傳播的計算圖　75
3.14.3　反向傳播　75
3.14.4　訓練深度學習模型　76
小結　77
練習　77
3.15　數(shù)值穩(wěn)定性和模型初始化　77
3.15.1　衰減和爆炸　77
3.15.2　隨機初始化模型參數(shù)　78
小結　78
練習　79
3.16　實戰(zhàn)Kaggle比賽：房價預測　79
3.16.1　Kaggle比賽　79
3.16.2　讀取數(shù)據(jù)集　80
3.16.3　預處理數(shù)據(jù)集　81
3.16.4　訓練模型　82
3.16.5　k 折交叉驗證　82
3.16.6　模型選擇　83
3.16.7　預測并在Kaggle提交結果　84
小結　85
練習　85
第4章 深度學習計算　86
4.1　模型構造　86
小結　89
練習　90
4.2　模型參數(shù)的訪問、初始化和共享　90
小結　94
練習　94
4.3　模型參數(shù)的延后初始化　95
小結　96
練習　97
4.4　自定義層　97
小結　99
練習　99
4.5　讀取和存儲　99
小結　101
練習　101
4.6　GPU計算　101
小結　105
練習　105
第5章 卷積神經(jīng)網(wǎng)絡　106
5.1　二維卷積層　106
小結　110
練習　110
5.2　填充和步幅　111
小結　113
練習　113
5.3　多輸入通道和多輸出通道　114
小結　117
練習　117
5.4　池化層　117
小結　120
練習　121
5.5　卷積神經(jīng)網(wǎng)絡（LeNet）　121
小結　124
練習　124
5.6　深度卷積神經(jīng)網(wǎng)絡（AlexNet）　124
小結　128
練習　129
5.7　使用重復元素的網(wǎng)絡（VGG）　129
5.7.1　VGG塊　129
5.7.2　VGG網(wǎng)絡　129
5.7.3　訓練模型　130
小結　131
練習　131
5.8　網(wǎng)絡中的網(wǎng)絡（NiN）　131
小結　134
練習　134
5.9　含并行連結的網(wǎng)絡（GoogLeNet）　134
小結　137
練習　137
5.10　批量歸一化　138
小結　142
練習　142
5.11　殘差網(wǎng)絡（ResNet）　143
小結　146
練習　146
5.12　稠密連接網(wǎng)絡（DenseNet）　147
小結　149
練習　149
第6章 循環(huán)神經(jīng)網(wǎng)絡　150
6.1　語言模型　150
小結　152
練習　152
6.2　循環(huán)神經(jīng)網(wǎng)絡　152
小結　155
練習　155
6.3　語言模型數(shù)據(jù)集（歌詞）　155
小結　158
練習　159
6.4　循環(huán)神經(jīng)網(wǎng)絡的從零開始實現(xiàn)　159
小結　164
練習　164
6.5　循環(huán)神經(jīng)網(wǎng)絡的簡潔實現(xiàn)　165
小結　168
練習　168
小結　170
練習　170
6.7　門控循環(huán)單元（GRU）　170
小結　176
練習　176
6.8　長短期記憶（LSTM）　176
小結　181
練習　182
6.9　深度循環(huán)神經(jīng)網(wǎng)絡　182
小結　183
練習　183
6.10　雙向循環(huán)神經(jīng)網(wǎng)絡　183
小結　184
練習　184
第7章 優(yōu)化算法　185
7.1　優(yōu)化與深度學習　185
小結　188
練習　189
7.2　梯度下降和隨機梯度下降　189
小結　194
練習　194
7.3　小批量隨機梯度下降　194
小結　199
練習　199
7.4　動量法　200
小結　205
練習　205
7.5　AdaGrad算法206
小結　209
練習　209
7.6　RMSProp算法　209
小結　212
練習　212
7.7　AdaDelta算法　212
小結　214
練習　214
7.8　Adam算法　215
小結　217
練習　217
第8章 計算性能　218
8.1　命令式和符號式混合編程　218
小結　224
練習　224
8.2　異步計算　224
小結　229
練習　229
8.3　自動并行計算　229
小結　231
練習　231
8.4　多GPU計算　232
小結　237
練習　237
8.5　多GPU計算的簡潔實現(xiàn)　237
小結　241
練習　241
第9章 計算機視覺　242
9.1　圖像增廣242
小結　250
練習　250
9.2　微調　250
熱狗識別　251
小結　255
練習　255
9.3　目標檢測和邊界框　255
邊界框　256
小結　257
練習　257
9.4　錨框　257
小結　265
練習　265
9.5　多尺度目標檢測　265
小結　268
練習　268
9.6　目標檢測數(shù)據(jù)集（皮卡丘）　268
小結　270
練習　271
9.7　單發(fā)多框檢測（SSD）　271
小結　278
練習　278
9.8　區(qū)域卷積神經(jīng)網(wǎng)絡（R-CNN）系列280
小結　285
練習　285
9.9　語義分割和數(shù)據(jù)集　285
小結　290
練習　290
9.10　全卷積網(wǎng)絡（FCN）　290
小結　297
練習　297
9.11　樣式遷移　298
小結　306
練習　306
9.12　實戰(zhàn)Kaggle比賽：圖像 分類（CIFAR-10）306
小結　313
練習　313
9.13　實戰(zhàn)Kaggle比賽：狗的品種識別（ImageNet　Dogs）　314
小結　320
練習　320
第10 章 自然語言處理　321
10.1　詞嵌入（word2vec）　321
小結　325
練習　325
10.2　近似訓練325
小結　327
練習　328
10.3　word2vec的實現(xiàn)328
小結　336
練習　336
10.4　子詞嵌入（fastText）　336
小結　337
練習　337
10.5　全局向量的詞嵌入（GloVe）337
小結　340
練習　340
10.6　求近義詞和類比詞340
小結　343
練習　343
10.7　文本情感分類：使用循環(huán)神經(jīng)網(wǎng)絡　343
小結　347
練習　347
10.8　文本情感分類：使用卷積神經(jīng)網(wǎng)絡（textCNN）　347
小結　353
練習　353
10.9　編碼器-解碼器（seq2seq）353
小結　355
練習　355
10.10　束搜索　355
小結　358
練習　358
10.11　注意力機制　358
小結　361
練習　361
10.12　機器翻譯　361
小結　369
練習　369
附錄A　數(shù)學基礎　370
附錄B　使用 Jupyter 記事本　376
附錄C　使用 AWS 運行代碼　381
附錄D　GPU 購買指南　388
附錄E　如何為本書做貢獻　391
附錄F　d2lzh 包索引　395
附錄G　中英文術語對照表　397
參考文獻　402
索引　407