人工智能安全

第1章 概述 1
1.1 人工智能的發(fā)展、應(yīng)用及其安全性 1
1.1.1 人工智能的發(fā)展 1
1.1.2 人工智能的應(yīng)用 4
1.1.3 人工智能帶來(lái)的安全問題 6
1.2 人工智能安全的范疇 9
1.2.1 人工智能安全的范疇與特征 9
1.2.2 人工智能安全的分類 12
1.3 人工智能安全治理 18
1.3.1 人工智能安全與技術(shù)標(biāo)準(zhǔn) 22
1.3.2 人工智能安全與法律 23
1.3.3 人工智能安全倫理道德 24
1.3.4 人工智能安全評(píng)估評(píng)測(cè) 24
1.4 本章小結(jié) 24
參考文獻(xiàn) 25
本章執(zhí)筆人 29
第2章 可信計(jì)算保障人工智能安全 30
2.1 可信計(jì)算技術(shù) 30
2.1.1 可信計(jì)算簡(jiǎn)介 30
2.1.2 可信計(jì)算相關(guān)技術(shù) 31
2.1.3 可信計(jì)算標(biāo)準(zhǔn)體系 35
2.2 基于可信計(jì)算構(gòu)建安全可信的人工智能計(jì)算環(huán)境 36
2.2.1 人工智能系統(tǒng)啟動(dòng)環(huán)境度量保護(hù) 37
2.2.2 人工智能系統(tǒng)運(yùn)行環(huán)境度量保護(hù) 40
2.2.3 人工智能計(jì)算環(huán)境可信報(bào)告 44
2.2.4 人工智能數(shù)據(jù)可信存儲(chǔ) 45
2.2.5 人工智能系統(tǒng)可信審計(jì) 48
2.3 基于可信計(jì)算實(shí)現(xiàn)人工智能數(shù)據(jù)可信交互 50
2.3.1 人工智能數(shù)據(jù)可信交互連接架構(gòu) 50
2.3.2 人工智能數(shù)據(jù)可信交互過程 53
2.4 本章小結(jié) 54
參考文獻(xiàn) 54
本章執(zhí)筆人 55
第3章 無(wú)人系統(tǒng)安全 56
3.1 無(wú)人駕駛安全 56
3.1.1 無(wú)人駕駛安全研究概述 56
3.1.2 現(xiàn)狀與發(fā)展趨勢(shì) 58
3.1.3 研究?jī)?nèi)容 60
3.1.4 我國(guó)無(wú)人駕駛的人工智能安全方案和風(fēng)險(xiǎn)應(yīng)對(duì)策略 73
3.2 多無(wú)人系統(tǒng)協(xié)同 76
3.2.1 發(fā)展方向與進(jìn)展 76
3.2.2 安全要素分析 78
3.2.3 技術(shù)保障措施 88
3.3 本章小結(jié) 91
參考文獻(xiàn) 91
本章執(zhí)筆人 94
第4章 基于類腦計(jì)算的強(qiáng)人工智能及其安全 95
4.1 概念界定及其技術(shù)實(shí)現(xiàn)途徑 95
4.1.1 相關(guān)基本概念 95
4.1.2 關(guān)于強(qiáng)人工智能發(fā)展與實(shí)現(xiàn)的觀點(diǎn) 98
4.1.3 基于類腦計(jì)算的強(qiáng)人工智能 99
4.2 時(shí)間預(yù)測(cè)及潛在安全問題分析 104
4.2.1 發(fā)展階段預(yù)測(cè) 104
4.2.2 時(shí)間點(diǎn)預(yù)測(cè) 109
4.2.3 理論及技術(shù)研究階段的潛在安全問題 113
4.2.4 應(yīng)用階段的潛在安全問題 116
4.3 安全風(fēng)險(xiǎn)對(duì)策與風(fēng)險(xiǎn)預(yù)防策略研究 118
4.3.1 安全風(fēng)險(xiǎn)評(píng)估及風(fēng)險(xiǎn)對(duì)策研究 118
4.3.2 理論及技術(shù)研究階段的風(fēng)險(xiǎn)預(yù)防策略 121
4.3.3 應(yīng)用階段的風(fēng)險(xiǎn)預(yù)防策略研究 126
4.4 本章小結(jié) 128
參考文獻(xiàn) 129
本章執(zhí)筆人 133
第5章 智能制造和智能城市中的人工智能應(yīng)用安全 134
5.1 智能制造中的人工智能應(yīng)用安全 134
5.1.1 發(fā)展現(xiàn)狀 135
5.1.2 應(yīng)用場(chǎng)景 143
5.1.3 安全風(fēng)險(xiǎn)分析 145
5.1.4 安全技術(shù)體系 150
5.1.5 重點(diǎn)產(chǎn)業(yè)與應(yīng)用發(fā)展方向 150
5.2 智能城市中的人工智能應(yīng)用安全 152
5.2.1 發(fā)展現(xiàn)狀 152
5.2.2 應(yīng)用場(chǎng)景 157
5.2.3 安全風(fēng)險(xiǎn)分析 160
5.2.4 安全技術(shù)體系 163
5.2.5 重點(diǎn)產(chǎn)業(yè)與應(yīng)用發(fā)展方向 163
5.3 本章小結(jié) 165
參考文獻(xiàn) 165
本章執(zhí)筆人 167
第6章 網(wǎng)絡(luò)安全 168
6.1 概述 168
6.2 應(yīng)用現(xiàn)狀與趨勢(shì) 169
6.2.1 在網(wǎng)絡(luò)攻擊中的應(yīng)用 169
6.2.2 在網(wǎng)絡(luò)防御中的應(yīng)用 176
6.3 應(yīng)用引發(fā)的安全問題與應(yīng)對(duì) 187
6.3.1 應(yīng)用引發(fā)的安全問題與應(yīng)對(duì)措施綜述 187
6.3.2 對(duì)抗樣本問題 190
6.3.3 對(duì)抗樣本問題的應(yīng)對(duì)措施 191
6.4 值得深入研究的內(nèi)容 193
6.4.1 基于人工智能技術(shù)的網(wǎng)絡(luò)攻擊 194
6.4.2 基于人工智能技術(shù)的網(wǎng)絡(luò)防御 195
6.4.3 針對(duì)人工智能技術(shù)的網(wǎng)絡(luò)攻擊 195
6.4.4 針對(duì)人工智能技術(shù)的網(wǎng)絡(luò)防御 197
6.5 本章小結(jié) 198
參考文獻(xiàn) 199
本章執(zhí)筆人 204
第7章 人工智能安全可控的產(chǎn)業(yè)生態(tài)建設(shè) 205
7.1 安全可控的產(chǎn)業(yè)生態(tài)建設(shè)的概念與內(nèi)涵 205
7.2 我國(guó)人工智能安全可控水平分析 206
7.2.1 國(guó)內(nèi)外人工智能應(yīng)用技術(shù)發(fā)展研究 206
7.2.2 我國(guó)人工智能安全可控需要解決的主要問題 221
7.3 我國(guó)人工智能產(chǎn)業(yè)生態(tài)建設(shè)現(xiàn)狀分析 228
7.3.1 人工智能產(chǎn)業(yè)生態(tài)現(xiàn)狀分析 229
7.3.2 我國(guó)人工智能產(chǎn)業(yè)生態(tài)建設(shè)存在的主要問題 232
7.4 我國(guó)人工智能安全可控與產(chǎn)業(yè)生態(tài)建設(shè) 233
7.4.1 人工智能產(chǎn)業(yè)生態(tài)建設(shè)與安全可控水平的關(guān)系 233
7.4.2 我國(guó)安全可控的人工智能軟硬件發(fā)展目標(biāo) 234
7.4.3 我國(guó)安全可控的人工智能產(chǎn)業(yè)生態(tài)發(fā)展目標(biāo) 234
7.4.4 我國(guó)IT產(chǎn)業(yè)發(fā)展對(duì)安全可控的人工智能產(chǎn)業(yè)生態(tài)建設(shè)的
啟示 235
7.5 建設(shè)安全可控的人工智能產(chǎn)業(yè)生態(tài)的措施 236
7.5.1 加強(qiáng)對(duì)人工智能安全可控發(fā)展的頂層設(shè)計(jì) 236
7.5.2 加強(qiáng)人工智能應(yīng)用技術(shù)的安全可控能力 237
7.5.3 強(qiáng)化安全可控的人工智能產(chǎn)業(yè)生態(tài)建設(shè) 238
7.5.4 人工智能應(yīng)用產(chǎn)業(yè)鏈要素安全可控 239
7.6 本章小結(jié) 241
參考文獻(xiàn) 241
本章執(zhí)筆人 242
第8章 人工智能安全標(biāo)準(zhǔn)與風(fēng)險(xiǎn)評(píng)估預(yù)警 243
8.1 人工智能安全標(biāo)準(zhǔn) 243
8.1.1 人工智能安全標(biāo)準(zhǔn)的理論和實(shí)踐意義 243
8.1.2 人工智能安全標(biāo)準(zhǔn)研制概況 244
8.1.3 ISO/IEC JTC1人工智能技術(shù)安全相關(guān)標(biāo)準(zhǔn) 248
8.1.4 ITU-T人工智能應(yīng)用安全相關(guān)標(biāo)準(zhǔn) 249
8.1.5 IEEE人工智能倫理道德安全相關(guān)標(biāo)準(zhǔn) 249
8.1.6 NIST組織研制人工智能安全相關(guān)標(biāo)準(zhǔn) 251
8.1.7 我國(guó)的人工智能安全標(biāo)準(zhǔn) 251
8.1.8 基于模塊劃分的人工智能安全標(biāo)準(zhǔn)體系分類 254
8.2 人工智能安全風(fēng)險(xiǎn)評(píng)估 264
8.2.1 風(fēng)險(xiǎn)評(píng)估的概念 264
8.2.2 人工智能安全風(fēng)險(xiǎn)評(píng)估原則、流程與方法 265
8.2.3 人工智能安全風(fēng)險(xiǎn)評(píng)估指標(biāo)體系構(gòu)建 267
8.3 人工智能安全風(fēng)險(xiǎn)預(yù)警 278
8.3.1 人工智能安全風(fēng)險(xiǎn)預(yù)警方法 278
8.3.2 安全風(fēng)險(xiǎn)預(yù)警等級(jí)劃分及閾值確定 280
8.4 本章小結(jié) 281
參考文獻(xiàn) 281
本章執(zhí)筆人 282
第9章 人工智能法律倫理 283
9.1 人工智能倫理 283
9.2 強(qiáng)人工智能倫理 290
9.2.1 人工智能的倫理風(fēng)險(xiǎn)與治理現(xiàn)狀 291
9.2.2 強(qiáng)人工智能的倫理風(fēng)險(xiǎn) 294
9.2.3 強(qiáng)人工智能體的倫理身份與新型倫理關(guān)系 302
9.2.4 向善的強(qiáng)人工智能——優(yōu)化共生設(shè)計(jì) 307
9.2.5 強(qiáng)人工智能倫理治理的初步思考 309
9.3 人工智能法律治理 310
9.3.1 人工智能應(yīng)用引發(fā)的法律問題 310
9.3.2 人工智能法律治理原則、機(jī)制與規(guī)律 312
9.4 本章小結(jié) 317
參考文獻(xiàn) 318
本章執(zhí)筆人 319