人工智能安全（精裝版）

第1章人工智能技術(shù)發(fā)展概述
1.1人工智能的研究方向及起源
1.1.1人工智能的研究方向
1.1.2人工智能起源
1.2人工智能的三次發(fā)展高峰
1.2.1人工智能第一次發(fā)展高峰
1.2.2人工智能第二次發(fā)展高峰
1.2.3人工智能第三次發(fā)展高峰
1.3人工智能的三個學(xué)術(shù)流派
1.3.1符號主義
1.3.2連接主義
1.3.3行為主義
1.3.4關(guān)于三個學(xué)術(shù)流派的評論
1.4人工智能第三次發(fā)展高峰的技術(shù)推手
1.4.1深度學(xué)習(xí)的貢獻(xiàn)
1.4.2軟件框架成為人工智能應(yīng)用的推手
1.4.3解決不同軟硬件的適配
1.4.4算力大幅提升的貢獻(xiàn)
1.4.5大數(shù)據(jù)的貢獻(xiàn)
1.4.6移動互聯(lián)網(wǎng)與傳感器的貢獻(xiàn)
1.5人工智能帶來的巨大沖擊
1.5.1人工智能對經(jīng)濟(jì)的沖擊
1.5.2人工智能對社會的沖擊
1.5.3人工智能對人類思維的沖擊
1.5.4人工智能對教育與就業(yè)的影響
1.5.5人工智能對隱私的沖擊
1.6本章小結(jié)
參考文獻(xiàn)
第2章世界各國人工智能發(fā)展戰(zhàn)略規(guī)劃
2.1美國人工智能發(fā)展戰(zhàn)略
2.1.1美國人工智能發(fā)展職能機(jī)構(gòu)
2.1.2美國人工智能戰(zhàn)略規(guī)劃
2.1.3美國人工智能發(fā)展計劃
2.1.4美國人工智能監(jiān)管政策
2.2歐盟及英國人工智能發(fā)展戰(zhàn)略
2.2.1歐盟及英國的人工智能戰(zhàn)略
2.2.2歐盟人工智能發(fā)展計劃
2.2.3歐盟及英國的人工智能倫理原則
2.2.4歐盟及英國人工智能立法及監(jiān)管
2.3其他一些國家人工智能發(fā)展戰(zhàn)略
2.3.1日本人工智能發(fā)展戰(zhàn)略
2.3.2俄羅斯人工智能發(fā)展戰(zhàn)略
2.3.3韓國、新加坡、加拿大、印度等國的人工智能戰(zhàn)略
2.4中國人工智能發(fā)展戰(zhàn)略
2.4.1中國人工智能發(fā)展的總體要求
2.4.2中國人工智能發(fā)展的主要任務(wù)
2.4.3中國人工智能產(chǎn)業(yè)發(fā)展的資源配置
2.4.4中國人工智能發(fā)展的保障措施
2.4.5中國人工智能發(fā)展的組織保障
2.4.6中國人工智能人才培養(yǎng)政策
2.5國內(nèi)外人工智能標(biāo)準(zhǔn)研究
2.5.1國際人工智能標(biāo)準(zhǔn)研究
2.5.2中國人工智能標(biāo)準(zhǔn)研究
2.6本章小結(jié)
參考文獻(xiàn)
第3章人工智能安全概述
3.1人工智能與安全的辯證關(guān)系
3.2人工智能安全體系架構(gòu)與分類
3.2.1人工智能安全體系架構(gòu)
3.2.2人工智能助力安全
3.2.3人工智能內(nèi)生安全
3.2.4人工智能衍生安全
3.3人工智能安全所處位置及外部關(guān)聯(lián)
3.3.1人工智能安全性、可靠性和可控性的關(guān)系
3.3.2人工智能安全與法律、政策和標(biāo)準(zhǔn)的關(guān)系
3.3.3人工智能安全與倫理之間的關(guān)系
3.3.4人工智能安全評測與防控
3.4本章小結(jié)
參考文獻(xiàn)
第4章人工智能助力安全
4.1人工智能助力安全概述
4.2人工智能助力防御
4.2.1物理智能安防監(jiān)控
4.2.2軍用機(jī)器人
4.2.3智能入侵檢測
4.2.4惡意代碼檢測與分類
4.2.5基于知識圖譜的威脅獵殺
4.2.6用戶實(shí)體行為分析
4.2.7垃圾郵件檢測
4.3人工智能助力攻擊
4.3.1自動化網(wǎng)絡(luò)攻擊
4.3.2助力網(wǎng)絡(luò)攻擊，提升網(wǎng)絡(luò)攻擊效率
4.3.3助力有害信息的傳播
4.3.4助力虛假信息內(nèi)容的制作
4.3.5智能惡意代碼
4.3.6神經(jīng)網(wǎng)絡(luò)后門
4.3.7對抗機(jī)器學(xué)習(xí)
4.3.8智能工具被用于惡意攻擊
4.3.9助力自主武器研發(fā)
4.4本章小結(jié)
參考文獻(xiàn)
第5章人工智能的內(nèi)生安全
5.1數(shù)據(jù)安全
5.1.1數(shù)據(jù)集質(zhì)量影響人工智能內(nèi)生安全
5.1.2數(shù)據(jù)投毒可人為導(dǎo)致人工智能算法出錯
5.1.3對抗樣本成為人工智能內(nèi)生安全的新關(guān)注點(diǎn)
5.2框架安全
5.3算法安全
5.3.1算法的可解釋性
5.3.2對抗樣本體現(xiàn)出人工智能算法缺乏可解釋性
5.4模型安全
5.4.1模型存儲和管理的安全
5.4.2開源模型被攻擊
5.5運(yùn)行安全
5.5.1客觀原因?qū)е碌倪\(yùn)行安全問題
5.5.2主觀原因?qū)е碌倪\(yùn)行安全問題
5.6本章小結(jié)
參考文獻(xiàn)
第6章人工智能衍生安全問題
6.1人工智能系統(tǒng)失誤而引發(fā)的安全事故
6.1.1自動駕駛汽車失效
6.1.2智能機(jī)器人失效
6.1.3智能音箱失效
6.1.4人工智能系統(tǒng)“失控”
6.1.5會話人工智能的偏激言論
6.1.6醫(yī)療人工智能的危險治療意見
6.2人工智能武器研發(fā)可能引發(fā)國際軍備競賽
6.2.1各國人工智能武器化發(fā)展情況
6.2.2人工智能武器軍備競賽帶來的風(fēng)險
6.3人們對人工智能技術(shù)失控的擔(dān)憂
6.4人工智能行為體失控三要素
6.4.1人工智能行為體具有行為能力以及破壞力
6.4.2人工智能行為體具有不可解釋的決策能力
6.4.3人工智能行為體具有進(jìn)化能力，可進(jìn)化成自主系統(tǒng)
6.5預(yù)防人工智能技術(shù)失控的舉措
6.5.1人機(jī)協(xié)作國際規(guī)范
6.5.2阿西洛馬人工智能原則
6.5.3自我終結(jié)機(jī)制防范系統(tǒng)性失控風(fēng)險
6.6本章小結(jié)
參考文獻(xiàn)
第7章人工智能行為體
7.1人工智能行為體的定義
7.2人工智能行為體類型1——傳統(tǒng)型
7.2.1工業(yè)機(jī)器人
7.2.2專用服務(wù)機(jī)器人
7.2.3家用型機(jī)器人
7.3人工智能行為體類型2——自動駕駛的交通工具
7.3.1自動駕駛簡介
7.3.2自動駕駛汽車
7.3.3人工智能無人機(jī)
7.3.4無人駕駛船舶
7.4人工智能行為體類型3——人工智能武器
7.4.1人工智能武器簡介
7.4.2“殺人蜂” 武器
7.4.3炮塔型AI戰(zhàn)斗機(jī)器人
7.4.4人形戰(zhàn)斗機(jī)器人
7.5人工智能行為體類型4——類人機(jī)器人
7.5.1Jules機(jī)器人
7.5.2Bina48機(jī)器人
7.5.3Sophia機(jī)器人
7.6人工智能行為體的特性
7.6.1人工智能行為體的移動特性
7.6.2人工智能行為體的決策特性
7.6.3人工智能行為體的自主特性
7.7本章小結(jié)
參考文獻(xiàn)
第8章人工智能行為體保險箍
8.1體系架構(gòu)
8.2基本功能
8.2.1遠(yuǎn)程控制組件
8.2.2能源控制組件
8.2.3宿主交互組件
8.2.4數(shù)據(jù)記錄組件
8.3安全機(jī)制
8.3.1設(shè)備安全
8.3.2數(shù)據(jù)安全
8.3.3運(yùn)行安全
8.4安全圍欄
8.4.1工作過程
8.4.2移動范圍限制
8.4.3速度與距離監(jiān)控
8.4.4輸出功率與力約束
8.4.5安全策略
8.5增強(qiáng)功能
8.5.1內(nèi)置傳感器
8.5.2人的識別
8.5.3“黑AIA”識別
8.6防控中心
8.6.1態(tài)勢感知
8.6.2指揮控制
8.6.3應(yīng)急處置
8.6.4專家研判
8.7生態(tài)環(huán)境
8.7.1準(zhǔn)入制度
8.7.2標(biāo)準(zhǔn)規(guī)范
8.7.3生態(tài)基礎(chǔ)
8.8本章小結(jié)
參考文獻(xiàn)
第9章人工智能行為體的安全評估與檢測
9.1人工智能行為體的安全管理概述
9.1.1從術(shù)語的角度感受個人助理機(jī)器人的安全要素
9.1.2個人助理機(jī)器人的風(fēng)險評估要求
9.1.3個人助理機(jī)器人的安全要求
9.1.4個人助理機(jī)器人的功能安全
9.2人工智能行為體安全評估和檢測的目標(biāo)
9.2.1動能安全：對AIA動能的評估
9.2.2決策安全：對決策系統(tǒng)安全的評估
9.2.3自主安全：對AIA自主能力失控風(fēng)險的評估
9.3人工智能行為體安全評估的方法與指標(biāo)
9.3.1動能安全評估
9.3.2決策安全評估
9.3.3自主安全評估
9.3.4安全評估過程
9.4人工智能行為體檢測能力與檢測方法
9.4.1針對AIA動能的檢測方法
9.4.2針對AIA決策機(jī)制的檢測方法
9.4.3針對AIA自主能力的檢測方法
9.5人工智能行為體的檢測流程
9.5.1針對AIA動能的檢測流程
9.5.2針對AIA決策機(jī)制的檢測流程
9.5.3針對AIA自主能力的檢測流程
9.6本章小結(jié)
參考文獻(xiàn)
第10章人工智能安全倫理準(zhǔn)則
10.1人工智能技術(shù)引發(fā)的倫理問題
10.1.1人權(quán)問題
10.1.2倫理地位問題
10.1.3責(zé)任倫理問題
10.1.4風(fēng)險問題
10.2人工智能技術(shù)發(fā)展的倫理準(zhǔn)則
10.2.1各國政府及社團(tuán)組織關(guān)于人工智能技術(shù)發(fā)展的倫理準(zhǔn)則
10.2.2國際組織關(guān)于人工智能技術(shù)發(fā)展的倫理準(zhǔn)則
10.2.3企業(yè)和高等院校關(guān)于人工智能技術(shù)發(fā)展的倫理準(zhǔn)則
10.3人工智能行為體的倫理決策
10.3.1人工智能行為體的倫理決策能力
10.3.2人工智能行為體的倫理決策設(shè)計
10.3.3人工智能行為體的倫理決策考量
10.4人工智能行為體的責(zé)任歸咎
10.4.1責(zé)任主體
10.4.2責(zé)任分配
10.4.3無人駕駛汽車的責(zé)任追究
10.5本章小結(jié)
參考文獻(xiàn)
第11章人工智能前沿技術(shù)
11.1學(xué)術(shù)前沿
11.1.1強(qiáng)化學(xué)習(xí)
11.1.2遷移學(xué)習(xí)
11.1.3聯(lián)邦學(xué)習(xí)
11.1.4分布式機(jī)器學(xué)習(xí)
11.1.5表示學(xué)習(xí)
11.1.6元學(xué)習(xí)
11.1.7可解釋的人工智能
11.1.8對抗訓(xùn)練
11.1.9人工智能芯片
11.1.10技術(shù)前沿安全挑戰(zhàn)
11.2應(yīng)用前沿
11.2.1計算機(jī)視覺
11.2.2自然語言處理
11.2.3智能語音
11.2.4智能駕駛
11.2.5擬人和仿生
11.2.6智能攻防
11.2.7應(yīng)用前沿安全挑戰(zhàn)
11.3交叉領(lǐng)域
11.3.1人工智能與互聯(lián)網(wǎng)
11.3.2人工智能與工業(yè)互聯(lián)網(wǎng)
11.3.3人工智能與醫(yī)學(xué)生物
11.3.4人工智能與軍事
11.3.5人工智能與商業(yè)模式
11.3.6人工智能與人文社會
11.3.7交叉領(lǐng)域安全挑戰(zhàn)
11.4本章小結(jié)
參考文獻(xiàn)
第12章人工智能安全的未來展望
12.1人工智能內(nèi)生安全的未來展望
12.1.1數(shù)據(jù)是否會制約人工智能內(nèi)生安全
12.1.2對抗樣本是否會出現(xiàn)在實(shí)際應(yīng)用場景中
12.1.3是否存在安全的智能模型
12.1.4人工智能執(zhí)行過程是否安全
12.2人工智能衍生安全的未來展望
12.2.1人工智能武器化
12.2.2人工智能濫用導(dǎo)致安全隱患
12.2.3人工智能是否會危害人類
12.3人工智能安全相關(guān)的未來焦點(diǎn)
12.3.1人工智能基礎(chǔ)工具應(yīng)注重自主可控
12.3.2如何看待人工智能自主發(fā)明物的專利性問題
12.3.3人工智能對人的影響
12.3.4人工智能挑起的欲望
12.3.5超人工智能是否會危害人類
12.4人工智能的安全可控之路
12.4.1建立保護(hù)人類的法律規(guī)范和規(guī)章制度
12.4.2確立人類優(yōu)先與安全優(yōu)先的原則
12.4.3謹(jǐn)慎承認(rèn)智能機(jī)器人的法律主體資格
12.4.4充分尊重社會公眾的知情權(quán)
12.4.5人工智能的安全評估與檢測
12.4.6人工智能安全可控需要社會各界共同的努力
12.5本章小結(jié)
參考文獻(xiàn)