檢索匹配：深度學(xué)習(xí)在搜索、廣告、推薦系統(tǒng)中的應(yīng)用

第1部分 理 論 準(zhǔn) 備

第1章 深度學(xué)習(xí)時(shí)代/
1.1 深度學(xué)習(xí)的飛速發(fā)展/
1.2 深度學(xué)習(xí)在互聯(lián)網(wǎng)的應(yīng)用/
1.2.1 搜索/
1.2.2 推薦/
1.2.3 廣告/
1.2.4 通用檢索流程/
1.3 深度學(xué)習(xí)模型分類/
1.4 模型服務(wù)中臺(tái)/
1.5 分布式機(jī)器學(xué)習(xí)/
1.6 深度學(xué)習(xí)軟件框架/
1.7 小結(jié)/

第2章 深度學(xué)習(xí)簡(jiǎn)介/
2.1 生物神經(jīng)網(wǎng)絡(luò)/
2.2 人工神經(jīng)網(wǎng)絡(luò)/
2.3 業(yè)務(wù)問題建模/
2.4 DNN的擬合能力/
2.5 DNN的學(xué)習(xí)方式/
2.6 CNN與RNN/
2.7 小結(jié)/


第2部分 設(shè)計(jì)與實(shí)現(xiàn)

第3章 標(biāo)簽拼接/
3.1 時(shí)間窗口/
3.2 延遲反饋/
3.3 樣本集介紹/
3.3.1 原始樣本/
3.3.2 廣告基本信息表/
3.3.3 用戶基本信息表/
3.3.4 用戶的行為日志/
3.4小結(jié)/

第4章 特征處理/
4.1 特征分類/
4.2 特征體系/
4.3 原始特征拼接/
4.3.1 拼接方法/
4.3.2 數(shù)據(jù)集特征拼接/
4.3.3 代碼/
4.4 明文特征抽取/
4.4.1 特征抽取算子/
4.4.2 特征抽取示例/
4.5 特征ID化/
4.5.1 特征詞表生成/
4.5.2 ID化示例/
4.6 代碼說明/
4.7 小結(jié)/

第5章 模型構(gòu)建/
5.1 DNN求解/
5.1.1 數(shù)學(xué)規(guī)劃/
5.1.2 DNN方法/
5.2 模型層/
5.2.1 輸入層/
5.2.2 神經(jīng)網(wǎng)絡(luò)層/
5.2.3 激活函數(shù)層/
5.3模型結(jié)構(gòu)/
5.3.1 DLRM模型/
5.3.2 模型搭建/
5.4 損失函數(shù)/
5.4.1 MSE損失函數(shù)/
5.4.2 CrossEntropy損失函數(shù)/
5.5 優(yōu)化器/
5.5.1 SGD/
5.5.2 Momentum/
5.5.3 Nesterov/
5.5.4 AdaGrad/
5.5.5 Adam/
5.5.6 擴(kuò)展/
5.6 小結(jié)/

第6章 模型訓(xùn)練與預(yù)測(cè)/
6.1 模型評(píng)估/
6.2 模型訓(xùn)練/
6.2.1 模型訓(xùn)練流程/
6.2.2 模型訓(xùn)練技巧/
6.3 模型預(yù)測(cè)/
6.4 訓(xùn)練效果示例/
6.5 模型優(yōu)化/
6.6 GPU應(yīng)用/
6.7 小結(jié)/

第3部分 高級(jí)深度學(xué)習(xí)模型

第7章 檢索算法理論/
7.1 檢索算法抽象/
7.2 有表示匹配/
7.2.1 標(biāo)簽表示/
7.2.2 分布式表示/
7.3 無表示匹配/
7.4 內(nèi)容理解/
7.4.1 自然語言處理/
7.4.2 計(jì)算機(jī)視覺/
7.4.3 一點(diǎn)思考/
7.5 用戶理解/
7.6 總結(jié)/

第8章 檢索算法演進(jìn)/
8.1 前深度學(xué)習(xí)時(shí)代/
8.1.1 LR/
8.1.2 決策樹/
8.1.3 協(xié)同過濾/
8.1.4 MF/
8.1.5 算法應(yīng)用/
8.2 深度學(xué)習(xí)時(shí)代/
8.2.1 精排模型演進(jìn)/
8.2.2 粗排模型演進(jìn)/
8.2.3 召回模型演進(jìn)/
8.3 小結(jié)/

第9章 DSSM理論與實(shí)現(xiàn)/
9.1 DSSM模型/
9.2 DSSM實(shí)現(xiàn)/
9.3 線上預(yù)測(cè)/
9.4 ANN檢索/
9.4.1 基于樹的方法/
9.4.2 基于Hash的方法/
9.4.3 基于圖的方法/
9.4.4 ANN檢索效率比較/
9.5 訓(xùn)練效果/
9.6 模型優(yōu)化/
9.7 小結(jié)/

第4部分 分布式機(jī)器學(xué)習(xí)

第10章 計(jì)算機(jī)系統(tǒng)/
10.1 單機(jī)系統(tǒng)/
10.1.1 單機(jī)系統(tǒng)物理模型/
10.1.2 單機(jī)系統(tǒng)程序編程/
10.2 分布式系統(tǒng)/
10.2.1 分布式計(jì)算/
10.2.2 分布式存儲(chǔ)/
10.2.3 分布式協(xié)同通信/
10.2.4 CAP理論/
10.2.5 一點(diǎn)思考/
10.3 分布式系統(tǒng)示例/
10.4 分布式編程示例/
10.5 小結(jié)/

第11章 分布式機(jī)器學(xué)習(xí)設(shè)計(jì)與實(shí)現(xiàn)/
11.1 機(jī)器學(xué)習(xí)應(yīng)用系統(tǒng)設(shè)計(jì)/
11.2 分布式機(jī)器學(xué)習(xí)設(shè)計(jì)/
11.2.1 并行方式/
11.2.2 節(jié)點(diǎn)協(xié)作方式/
11.2.3 模型更新方式/
11.3 常用的分布式學(xué)習(xí)框架/
11.4 PS Lite介紹/
11.4.1 代碼架構(gòu)/
11.4.2 工作流程/
11.5 分布式訓(xùn)練實(shí)現(xiàn)/
11.5.1 架構(gòu)設(shè)計(jì)/
11.5.2 代碼實(shí)現(xiàn)/
11.5.3 程序運(yùn)行/
11.5.4 模型保存與加載/
11.5.5 效果評(píng)估/
11.6 小結(jié)/
結(jié)語/
附錄/
附錄A 輔助學(xué)習(xí)資料/