人工智能安全基礎(chǔ)

推薦序
前言
第一部分基礎(chǔ)知識(shí)
第1章人工智能概述2
11人工智能發(fā)展現(xiàn)狀2
111跌跌撞撞的發(fā)展史2
112充滿誘惑與希望的現(xiàn)狀3
113百家爭(zhēng)鳴的技術(shù)生態(tài)圈4
114像人一樣行動(dòng)：通過(guò)圖靈測(cè)試
就足夠了嗎5
115像人一樣思考：一定需要具備
意識(shí)嗎7
116合理地思考：一定需要具備邏輯
思維嗎8
117合理地行動(dòng)：能帶領(lǐng)我們走得
更遠(yuǎn)嗎9
12人工智能安全現(xiàn)狀 12
121模型安全性現(xiàn)狀13
122模型與數(shù)據(jù)隱私現(xiàn)狀14
123人工智能安全法規(guī)現(xiàn)狀15
第2章人工智能基本算法16
21基本概念16
22經(jīng)典算法17
221支持向量機(jī)17
222隨機(jī)森林22
223邏輯回歸25
224K近鄰27
225神經(jīng)網(wǎng)絡(luò)28
226卷積神經(jīng)網(wǎng)絡(luò)31
227強(qiáng)化學(xué)習(xí)36
23主流算法43
231生成對(duì)抗網(wǎng)絡(luò)43
232聯(lián)邦學(xué)習(xí)45
233在線學(xué)習(xí)49
24算法可解釋性51
241可解釋性問(wèn)題52
242事前可解釋52
243事后可解釋53
244可解釋性與安全性分析56
25基礎(chǔ)算法實(shí)現(xiàn)案例56
26小結(jié)57
第3章人工智能安全模型58
31人工智能安全定義58
311人工智能技術(shù)組成58
312人工智能安全模型概述59
32人工智能安全問(wèn)題60
321數(shù)據(jù)安全問(wèn)題60
322算法安全問(wèn)題60
323模型安全問(wèn)題61
33威脅模型和常見(jiàn)攻擊62
331威脅模型63
332常見(jiàn)攻擊65
34模型竊取攻擊與防御實(shí)現(xiàn)
案例77
35小結(jié)77
第二部分模型安全性
第4章投毒攻擊與防御80
41投毒攻擊80
411針對(duì)傳統(tǒng)機(jī)器學(xué)習(xí)模型的投毒
攻擊81
412深度神經(jīng)網(wǎng)絡(luò)中的投毒攻擊84
413強(qiáng)化學(xué)習(xí)中的投毒攻擊89
414針對(duì)其他系統(tǒng)的投毒攻擊89
42針對(duì)投毒攻擊的防御方法90
421魯棒學(xué)習(xí)91
422數(shù)據(jù)清洗92
423模型防御93
424輸出防御93
43投毒攻擊實(shí)現(xiàn)案例94
44小結(jié)94
第5章后門(mén)攻擊與防御95
51后門(mén)攻擊與防御概述95
511攻擊場(chǎng)景97
512機(jī)器學(xué)習(xí)生命周期中的后門(mén)
攻擊97
513后門(mén)攻擊相關(guān)定義98
514威脅模型99
52圖像后門(mén)攻擊100
521早期后門(mén)攻擊100
522基于觸發(fā)器優(yōu)化的后門(mén)
攻擊102
523面向觸發(fā)器隱蔽性的后門(mén)
攻擊104
524“干凈標(biāo)簽”條件下的后門(mén)
攻擊109
525其他后門(mén)攻擊方法112
53圖像后門(mén)防御113
531基于數(shù)據(jù)預(yù)處理的防御
方法114
532基于模型重建的防御方法114
533基于觸發(fā)器生成的防御方法115
534基于模型診斷的防御方法116
535基于投毒抑制的防御方法117
536基于訓(xùn)練樣本過(guò)濾的防御
方法117
537基于測(cè)試樣本過(guò)濾的防御
方法117
538認(rèn)證的防御方法118
54其他場(chǎng)景下的后門(mén)模型118
55后門(mén)攻擊和其他方法的關(guān)系119
551與對(duì)抗樣本攻擊的關(guān)系119
552與投毒攻擊的關(guān)系120
56后門(mén)攻擊與防御實(shí)現(xiàn)案例120
57小結(jié)121
第6章對(duì)抗攻擊與防御122
61對(duì)抗攻擊與防御概述122
62圖像對(duì)抗樣本生成技術(shù)123
621基于梯度的對(duì)抗樣本生成124
622基于優(yōu)化的對(duì)抗樣本生成126
623基于梯度估計(jì)的對(duì)抗樣本
生成128
624基于決策的對(duì)抗樣本生成130
63圖像對(duì)抗樣本防御131
631輸入層面的防御方法131
632模型層面的防御方法134
633可驗(yàn)證的防御方法138
634其他防御方法139
64文本對(duì)抗樣本生成與防御140
641文本對(duì)抗樣本生成140
642文本對(duì)抗樣本防御150
65其他數(shù)字對(duì)抗樣本155
651圖對(duì)抗樣本155
652惡意軟件檢測(cè)模型中的對(duì)抗
樣本162
66對(duì)抗攻擊與防御實(shí)現(xiàn)
案例168
67小結(jié)169
第7章深度偽造攻擊與防御170
71深度偽造攻擊與防御概述170
72深度偽造人臉生成171
721人臉合成171
722身份交換172
723面部屬性操作175
724面部表情操作176
73深度偽造人臉檢測(cè)176
731基于幀內(nèi)差異的檢測(cè)方法177
732基于幀間差異的檢測(cè)方法180
74深度偽造語(yǔ)音生成與檢測(cè)182
741深度偽造語(yǔ)音生成182
742深度偽造語(yǔ)音檢測(cè)185
75深度偽造攻擊與防御實(shí)現(xiàn)
案例186
76小結(jié)187
第三部分模型與數(shù)據(jù)隱私
第8章隱私保護(hù)基本概念190
81隱私保護(hù)概述190
82安全多方計(jì)算191
821安全多方計(jì)算的基本概念191
822基于混淆電路的安全多方
計(jì)算193