引發(fā)公共衛(wèi)生危機(jī)的虛假新聞
2000年，美國(guó)宣布已經(jīng)在全國(guó)范圍內(nèi)消滅了麻疹。盡管2010年報(bào)告的病例只有63個(gè)，但在2019年開(kāi)始后的7個(gè)月里，報(bào)告的病例數(shù)超過(guò)了1100個(gè)，增長(zhǎng)了將近1800%。麻疹對(duì)兒童來(lái)說(shuō)尤其危險(xiǎn)，通常以發(fā)燒和起皮疹開(kāi)始，但是在1000個(gè)病例中，有1個(gè)病例的病毒會(huì)擴(kuò)散到大腦，引起腦腫脹和身體抽搐，或者引發(fā)腦炎。每20名患上了麻疹的孩子中就會(huì)有1名患上肺炎，從而導(dǎo)致肺無(wú)法從空氣中汲取氧氣并將其輸送給全身。2017年，這種疾病以這樣的方式奪走了全世界11萬(wàn)名兒童的生命。
當(dāng)?shù)貢r(shí)間2019年5月6日，美國(guó)佛羅里達(dá)州奧蘭多，衛(wèi)生局免疫部門(mén)。美國(guó)疾病控制和預(yù)防中心6日公布的數(shù)據(jù)顯示，截至5月3日，美國(guó)當(dāng)年已確診764例麻疹病例，刷新25年來(lái)新高
麻疹也是世界上傳染性最強(qiáng)的病毒之一。一個(gè)感染者的咳嗽會(huì)馬上污染空氣中的懸浮顆粒，即便他在你抵達(dá)前幾個(gè)小時(shí)就已經(jīng)離開(kāi)了房間，你仍然有可能通過(guò)這些被污染的懸浮顆?；忌线@種疾病。只要接觸這種病毒，10個(gè)人中有9個(gè)人會(huì)被傳染。2020年，每一個(gè)新冠肺炎病毒的感染者有可能傳染的平均人數(shù)，也就是其R0值是2.5，而麻疹的R0值為15。
為了防止具有如此強(qiáng)大傳染力的疾病在人群中傳播，社會(huì)必須通過(guò)為絕大部分人口接種疫苗來(lái)發(fā)展“群體免疫”的能力。比如，以小兒麻痹癥為例，這種病沒(méi)有那么強(qiáng)的傳染性，所以疫苗的接種率只要達(dá)到80%～85%就可以實(shí)現(xiàn)群體免疫。對(duì)于麻疹這種具有極高傳染性的疾病，疫苗的接種率必須達(dá)到95%才能夠?qū)崿F(xiàn)群體免疫。令人遺憾的是，盡管從1963年開(kāi)始就已經(jīng)出現(xiàn)了一種有效的疫苗，但是按照專家的說(shuō)法，麻疹在美國(guó)死灰復(fù)燃，是因?yàn)槿藗兙芙^接種疫苗。雖然在2017年有91%的兒童接種了麻疹-流行性腮腺炎-風(fēng)疹（或者簡(jiǎn)稱為MMR）疫苗，但近年來(lái)一些社區(qū)的疫苗接種率出現(xiàn)了急劇下滑，正是在這些社區(qū)，麻疹病例的數(shù)量開(kāi)始激增。
對(duì)我來(lái)講，麻疹疫情的暴發(fā)好像就發(fā)生在我的家門(mén)口，因?yàn)槲矣幸粋€(gè)7歲的兒子，而受麻疹疫情暴發(fā)影響最嚴(yán)重的群體，那個(gè)幾乎占據(jù)了2019 年美國(guó)報(bào)告的麻疹病例一半以上的社區(qū)就是距離我家5個(gè)街區(qū)的、位于紐約布魯克林的正統(tǒng)猶太社區(qū)。其他較大范圍的暴發(fā)主要集中在一些關(guān)系緊密的社區(qū)中，比如紐約洛克蘭的猶太人社區(qū)和華盛頓克拉克縣的烏克蘭裔以及俄羅斯裔美國(guó)人社區(qū)，在這些社區(qū)中，疫苗的接種率始終徘徊在70%左右，遠(yuǎn)遠(yuǎn)低于群體免疫所需的閾值。
如果麻疹如此危險(xiǎn)，而疫苗又如此有效，那么為什么有些父母不愿意給他們的孩子接種疫苗呢？這可能要?dú)w咎于1998年在媒體上曾出現(xiàn)過(guò)的一波有關(guān)接種疫苗會(huì)發(fā)生危險(xiǎn)的錯(cuò)誤信息，這些錯(cuò)誤信息來(lái)源于安德魯·韋克菲爾德（Andrew Wakefield）在權(quán)威醫(yī)學(xué)雜志《柳葉刀》上發(fā)表的一篇欺詐性的論文，他在文中聲稱接種疫苗會(huì)導(dǎo)致兒童出現(xiàn)自閉癥。盡管后來(lái)的真相表明，韋克菲爾德當(dāng)時(shí)被一個(gè)正在起訴疫苗制造商的律師收買，并且他自己也正在開(kāi)發(fā)一種與之競(jìng)爭(zhēng)的疫苗，所以他偽造了那篇論文中的證據(jù)?！读~刀》隨后立刻撤銷了這篇論文，韋克菲爾德也因此失去了行醫(yī)執(zhí)照。但是，通過(guò)一部由韋克菲爾德自己導(dǎo)演的、曾廣為流傳的電影《疫苗黑幕》（Vaxxed），以及在博客上傳播的陰謀論的幫助下，結(jié)合當(dāng)今社交媒體的催化，這波由他制造的錯(cuò)誤信息的浪潮至今尚未平息。
為了處理這一“反疫苗”的錯(cuò)誤信息引發(fā)的一系列的后果，美國(guó)參議院在2019年3月召開(kāi)了一次公開(kāi)的聽(tīng)證會(huì)。在這次聽(tīng)證會(huì)上，作為田納西大學(xué)健康科學(xué)中心兒科系主任以及田納西州孟菲斯市幸福兒童醫(yī)院的首席兒科醫(yī)生，喬納森·卡勒斯（Jonathan Cullers）博士做證說(shuō)：“除了田納西州原有的關(guān)于疫苗豁免的政策以及在給出專業(yè)咨詢意見(jiàn)時(shí)采用的方式有不當(dāng)之處以外，通過(guò)社交媒體和各種快速的、多樣化的通信渠道對(duì)一些非主流理論進(jìn)行的放大，再加上缺乏權(quán)威意見(jiàn)的主動(dòng)干預(yù)，一些錯(cuò)誤信息立刻得到了強(qiáng)化。所有這些因素疊加在一起，正在導(dǎo)致……人們對(duì)接種疫苗的遲疑。當(dāng)父母主要是通過(guò)互聯(lián)網(wǎng)或社交媒體平臺(tái)（如推特和臉書(shū)）來(lái)獲取大量信息時(shí)，在缺乏準(zhǔn)確信息的情況下，他們?nèi)绻喿x到這些非主流的觀點(diǎn)，就很有可能會(huì)產(chǎn)生擔(dān)憂和困惑。因此，在沒(méi)有更多信息的情況下，這些家長(zhǎng)在面對(duì)是否該讓孩子接種疫苗的問(wèn)題時(shí)，或許就會(huì)表現(xiàn)出猶豫不決。”這些坊間的證據(jù)表明，在社交媒體上傳播的錯(cuò)誤信息正在使那些原本通過(guò)接種疫苗就可以防控的疾?。ㄈ缏檎睿U(kuò)散開(kāi)來(lái)，而這是非常令人擔(dān)憂的。
2019年5月6日，在佛羅里達(dá)州奧蘭多市奧蘭治縣衛(wèi)生局里的麻疹疫苗
臉書(shū)上的反疫苗之王
拉里·庫(kù)克（Larry Cook）把自己描繪成了一個(gè)“全職的反接種疫苗的活動(dòng)家”，2019年，他成為臉書(shū)上的反疫苗之王。他建立的“停止強(qiáng)制接種疫苗”組織是一個(gè)營(yíng)利性的實(shí)體，這個(gè)組織通過(guò)在社交媒體上傳播反疫苗接種的虛假新聞來(lái)賺錢(qián)，同時(shí)通過(guò)在亞馬遜上銷售反接種疫苗的書(shū)籍來(lái)賺取介紹費(fèi)。另外，他還通過(guò)在GoFundMe（眾籌平臺(tái)）網(wǎng)站上舉辦的活動(dòng)來(lái)籌集資金，而籌集到的資金被他用來(lái)運(yùn)營(yíng)他的網(wǎng)站，支付他在臉書(shū)上投放的廣告的費(fèi)用以及他的個(gè)人賬單。庫(kù)克的“停止強(qiáng)制接種疫苗”組織和另一個(gè)由小羅伯特·F.肯尼迪（Robert F. Kennedy Jr.）領(lǐng)導(dǎo)的名為“世界水星計(jì)劃”的組織在2019年購(gòu)買了臉書(shū)上54%的反疫苗廣告。
庫(kù)克在臉書(shū)上投放的反疫苗廣告瞄準(zhǔn)的是在華盛頓州的25歲以上的年輕女性，這個(gè)年齡段的女性很有可能會(huì)有孩子，而她們的孩子需要接種疫苗。在臉書(shū)上，包括庫(kù)克賬號(hào)在內(nèi)的一共7個(gè)不同的賬號(hào)針對(duì)25歲以上的女性發(fā)布了超過(guò)150個(gè)帖子，這些帖子的瀏覽量為160萬(wàn)～520萬(wàn)，每1美元的廣告投入收獲了大約18次的點(diǎn)擊量。對(duì)所有行業(yè)的企業(yè)來(lái)講，在臉書(shū)上獲得一次點(diǎn)擊的平均成本在1.85美元左右。如果做一個(gè)簡(jiǎn)單的計(jì)算，你會(huì)發(fā)現(xiàn)庫(kù)克的滲透具有極其驚人的效率，上面的數(shù)據(jù)表明，他每獲得一次點(diǎn)擊，只需要支付大約0.06美元。
2019年年初，在臉書(shū)上所有關(guān)于疫苗的搜索結(jié)果都已經(jīng)被反疫苗的宣傳所主導(dǎo)。而YouTube的推薦算法把用戶“從基于事實(shí)的醫(yī)療信息推向了反疫苗的錯(cuò)誤信息”，另外，“在Pinteres（拼趣）上，75%的與疫苗相關(guān)的帖子討論的是麻疹疫苗和自閉癥之間根本就不存在的聯(lián)系”。在一份2019年發(fā)表的論文中，喬治·華盛頓大學(xué)的研究人員發(fā)現(xiàn)，俄羅斯的推特機(jī)器人發(fā)布有關(guān)疫苗信息的頻率是普通推特用戶的22倍，這就把有關(guān)疫苗的錯(cuò)誤信息與俄羅斯嘗試劫持炒作機(jī)器的行為聯(lián)系了起來(lái)。
和政治類的虛假新聞一樣，反疫苗的錯(cuò)誤信息的集中程度也很高。《大西洋月刊》的亞歷克西斯·馬德里加爾（Alexis Madrigal）做出的分析顯示，2016年1月到2019年2月，在臉書(shū)上排名前50的疫苗相關(guān)的頁(yè)面中充斥著大量信息，這些信息幾乎占到了全網(wǎng)排名前1萬(wàn)篇疫苗相關(guān)的帖子的一半，而且這些帖子獲得了全部點(diǎn)贊數(shù)的38%。事實(shí)上，在這段時(shí)間里，僅僅7個(gè)反疫苗相關(guān)的頁(yè)面就生成了前1萬(wàn)篇疫苗相關(guān)的帖子中的20%。
炒作機(jī)器的網(wǎng)絡(luò)會(huì)高度集中在由具有相似的觀點(diǎn)和信仰的人群所組成的關(guān)系緊密的社區(qū)中。今天，我們都生活在一個(gè)能夠把志趣相投的人聯(lián)結(jié)在一起的信息生態(tài)系統(tǒng)中。2019年和2020年，在紐約和華盛頓暴發(fā)的麻疹疫情都發(fā)生在人員志趣相投且關(guān)系緊密的社區(qū)中。就像俄羅斯的錯(cuò)誤信息無(wú)須說(shuō)服大多數(shù)的美國(guó)人來(lái)對(duì)選舉結(jié)果產(chǎn)生影響一樣，在社交媒體上開(kāi)展的反疫苗活動(dòng)也不需要通過(guò)說(shuō)服大批人放棄接種疫苗來(lái)促使麻疹疫情重新暴發(fā)。要使疫苗接種的水平低于群體免疫所需要的閾值，他們只需要說(shuō)服在同一個(gè)關(guān)系緊密的社區(qū)中的一小部分人，然后這些人就會(huì)互相分享這些錯(cuò)誤信息。
通過(guò)分析7年以來(lái)260萬(wàn)名用戶與30萬(wàn)個(gè)疫苗相關(guān)的帖子的互動(dòng)，研究人員發(fā)現(xiàn)，在臉書(shū)上進(jìn)行的與疫苗有關(guān)的討論往往發(fā)生在那些關(guān)系非常緊密的社區(qū)中。上述研究結(jié)果還顯示：“與疫苗有關(guān)的內(nèi)容的消費(fèi)已經(jīng)被回聲室效應(yīng)所主導(dǎo)，而且觀點(diǎn)的兩極分化多年來(lái)一直在不斷地加劇。從用戶對(duì)這些信息的消費(fèi)習(xí)慣中產(chǎn)生了一些相互之間完全隔離的社區(qū)……絕大多數(shù)用戶在消費(fèi)這些信息時(shí)要么傾向于支持，要么完全反對(duì)疫苗，而不會(huì)兩者兼而有之?！比A盛頓州的那些人員關(guān)系緊密的社區(qū)正是拉里·庫(kù)克和反疫苗的奸商在投放他們的臉書(shū)廣告時(shí)所瞄準(zhǔn)的社區(qū)，而且這些社區(qū)也正是暴發(fā)了麻疹疫情的社區(qū)。
2019年年初，社交媒體平臺(tái)注意到了這些現(xiàn)象，Instagram開(kāi)始屏蔽與反疫苗相關(guān)的標(biāo)簽，比如“疫苗導(dǎo)致自閉癥”和“疫苗是毒藥”等；YouTube宣布不會(huì)再允許用戶通過(guò)廣告將反疫苗視頻貨幣化；Pinterest禁止了用戶搜索有關(guān)疫苗的內(nèi)容；而臉書(shū)不再顯示任何含有反疫苗內(nèi)容的頁(yè)面和群組，并調(diào)整了推薦引擎，不再建議用戶加入這些群組，另外，他們還撤下了拉里·庫(kù)克等人在臉書(shū)上購(gòu)買的廣告。那么，這些措施是否有助于減緩麻疹疫情的暴發(fā)呢？虛假新聞是否真的會(huì)推動(dòng)那些原本可以預(yù)防的疾病的傳播？所有問(wèn)題的答案很可能就隱藏在當(dāng)下正在興起的關(guān)于虛假新聞的科學(xué)中。
虛假新聞的科學(xué)
盡管虛假新聞的崛起很可能給民主、經(jīng)濟(jì)和公共衛(wèi)生帶來(lái)潛在的災(zāi)難性的后果，但是關(guān)于它如何以及為什么會(huì)在網(wǎng)上傳播開(kāi)來(lái)的科學(xué)研究目前才剛剛起步。直到2018年，絕大多數(shù)有關(guān)虛假新聞的科學(xué)研究都只能分析很少的一些孤立的樣本，或者針對(duì)某個(gè)故事的傳播進(jìn)行案例研究，而且每次研究的對(duì)象都是一些孤立的個(gè)案。所以，我和我的同事蘇魯什·沃梭基、德布·羅伊決定著手改變這一現(xiàn)狀，2018年3月，我們?cè)凇犊茖W(xué)》雜志上發(fā)表了已經(jīng)進(jìn)行了長(zhǎng)達(dá)10年的關(guān)于虛假新聞在網(wǎng)絡(luò)上傳播的研究報(bào)告。
在這項(xiàng)研究中，我們與推特直接合作，研究了從2006年推特成立一直到2017年所有曾經(jīng)在這個(gè)平臺(tái)上傳播的、經(jīng)過(guò)事實(shí)核查的真實(shí)新聞和虛假新聞的傳播方式。我們從推特的歷史檔案中提取了那些經(jīng)過(guò)事實(shí)核查的虛假新聞的推文，其中包括大約12.6萬(wàn)條被反復(fù)轉(zhuǎn)發(fā)的推文，這些推文經(jīng)過(guò)300萬(wàn)人超過(guò)450萬(wàn)次的轉(zhuǎn)發(fā)在網(wǎng)絡(luò)上傳播開(kāi)來(lái)。在將有關(guān)新聞（推文）分為真假兩類的過(guò)程中，我們使用了6家獨(dú)立的事實(shí)核查組織（其中包括Snopes、Politifact、Factcheck.org等）提供的信息，而這些組織對(duì)相關(guān)新聞的真實(shí)性表現(xiàn)出了95%～98%的一致性。然后，我們又雇用了一些學(xué)生，讓他們?cè)诼槭±砉W(xué)院和威爾斯利學(xué)院的校園內(nèi)獨(dú)立核查上述幾家事實(shí)核查機(jī)構(gòu)在選擇那些經(jīng)過(guò)反復(fù)轉(zhuǎn)發(fā)的推文時(shí)是否存在偏見(jiàn)。
一旦我們有了一個(gè)全面的數(shù)據(jù)庫(kù)，其中包含自推特問(wèn)世以來(lái)的10年間各種經(jīng)過(guò)事實(shí)核查的謠言，我們就可以搜索有哪些推文曾經(jīng)提到過(guò)這些謠言，然后通過(guò)反向追蹤這些謠言的轉(zhuǎn)發(fā)鏈條，找出“原始”的推文（即第一篇在推特上提到這些謠言的推文），這樣我們就可以重建這些謠言在網(wǎng)上通過(guò)轉(zhuǎn)發(fā)進(jìn)行傳播的整個(gè)過(guò)程（實(shí)際上，這個(gè)過(guò)程是眾多擁有單一共同源頭的完整轉(zhuǎn)發(fā)鏈條所組成的集合）。在我們把完整的轉(zhuǎn)發(fā)鏈條圖形化以后，整個(gè)轉(zhuǎn)發(fā)的過(guò)程呈現(xiàn)出了一種奇異的、讓人感到非常陌生的形態(tài)。一般來(lái)講，這個(gè)過(guò)程的圖形會(huì)從原始的推文開(kāi)始，呈放射狀向四周發(fā)散，通過(guò)轉(zhuǎn)發(fā)擴(kuò)散開(kāi)來(lái)，接著，每一個(gè)方向上都會(huì)形成新的轉(zhuǎn)發(fā)鏈條，而這些鏈條看上去就好像是從中心向外延伸的水母的觸須。我們?cè)谙聢D中畫(huà)出了 這些虛假新聞眾多轉(zhuǎn)發(fā)鏈條中的一條（見(jiàn)下圖），用數(shù)學(xué)的方式描繪了這些虛假新聞隨著時(shí)間的推移在推特的用戶群中不斷被轉(zhuǎn)發(fā)并傳播的過(guò)程，進(jìn)而分析了虛假新聞的傳播是如何變得與真實(shí)新聞的傳播不同的。
一個(gè)虛假的新聞故事通過(guò)推特進(jìn)行傳播的數(shù)據(jù)透視圖像。長(zhǎng)線條代表了更長(zhǎng)的轉(zhuǎn)發(fā)鏈條，顯示了虛假新聞的傳播范圍更廣，滲透程度更深。上述結(jié)果發(fā)表在《科學(xué)》雜志上
這個(gè)發(fā)現(xiàn)既讓我們感到驚訝，又讓我們感到擔(dān)憂。我們發(fā)現(xiàn)，與所有類別的真實(shí)信息相比，虛假新聞會(huì)傳播得更遠(yuǎn)、更快，而且滲透的程度會(huì)更深、范圍會(huì)更廣。有時(shí)候，后者甚至?xí)銮罢咭粋€(gè)數(shù)量級(jí)。雖然真實(shí)信息很少會(huì)擴(kuò)散到1000人以上的群體中，但前1%的虛假新聞轉(zhuǎn)發(fā)鏈可以很輕松地?cái)U(kuò)散到10萬(wàn)人的群體中。
把真實(shí)信息傳播給1500人所需要的時(shí)間大約是把虛假信息傳播給同樣數(shù)量的人所需時(shí)間的6倍，而把前者的原始推文傳播給10個(gè)轉(zhuǎn)發(fā)人所需的時(shí)間又是把后者傳播給同樣數(shù)量的轉(zhuǎn)發(fā)人所需時(shí)間的20倍。虛假信息的傳播范圍明顯比真實(shí)信息更廣，而且在轉(zhuǎn)發(fā)鏈每個(gè)不同的“深度”層次上，虛假信息被轉(zhuǎn)發(fā)的次數(shù)都比真實(shí)信息多（每一次轉(zhuǎn)發(fā)都會(huì)將原始的推文傳播得更遠(yuǎn)，在這個(gè)過(guò)程中就會(huì)產(chǎn)生一條新的轉(zhuǎn)發(fā)鏈條，或者多次轉(zhuǎn)發(fā)的層疊。在這樣一條轉(zhuǎn)發(fā)鏈條上，轉(zhuǎn)發(fā)或?qū)盈B的次數(shù)就是我們所說(shuō)的“深度”）。
與其他任何類別的虛假新聞相比，虛假政治新聞的傳播范圍更廣，滲透程度更深，影響到的人更多，因此在網(wǎng)上的熱度更高。虛假政治新聞?dòng)绊懗^(guò)2萬(wàn)人的速度幾乎是其他所有類型的虛假新聞?dòng)绊憙H1萬(wàn)人的速度的三倍。涉及政治和都市逸聞的新聞的傳播速度可以說(shuō)是所有新聞當(dāng)中最快的，也是網(wǎng)上熱度最高的。即便對(duì)社交賬號(hào)持有人的年齡、活躍程度、粉絲數(shù)量以及在原始推文下方進(jìn)行評(píng)論的人數(shù)，甚至對(duì)原始推文的作者是不是一個(gè)經(jīng)過(guò)驗(yàn)證的用戶等各項(xiàng)因素進(jìn)行控制，虛假信息被轉(zhuǎn)發(fā)的概率仍然要比真實(shí)信息高出70%。
或許有人會(huì)認(rèn)為，可以用傳播虛假新聞的人的性格特征來(lái)解釋為什么虛假信息的傳播速度比真實(shí)信息的傳播速度快很多，但數(shù)據(jù)告訴我們，情況并非如此。比如，有人可能會(huì)懷疑，那些傳播虛假信息的人擁有更多粉絲，關(guān)注更多的人，更頻繁地在推特上發(fā)帖，更經(jīng)常地使用經(jīng)過(guò)“認(rèn)證”的賬號(hào)，或者注冊(cè)推特的時(shí)間更長(zhǎng)。事實(shí)上，情況卻恰恰相反。平均來(lái)講，那些散布虛假新聞的人的粉絲數(shù)量明顯更少，他們自己關(guān)注的人也寥寥無(wú)幾，他們?cè)谕铺厣系幕钴S度非常低，而且?guī)缀鯊牟皇褂媒?jīng)過(guò)認(rèn)證的賬號(hào)，另外，他們注冊(cè)推特的時(shí)間一般都很短。換句話說(shuō)，盡管有上述這些差異，但虛假新聞比真實(shí)新聞傳播得更遠(yuǎn)、更快，滲透的程度更深且范圍更廣的原因并不在這些人的身上。那么，虛假新聞為什么能傳播開(kāi)來(lái)，又是如何傳播開(kāi)來(lái)的呢？謊言在網(wǎng)上的傳播，實(shí)際上是在一個(gè)人們意想不到的共生關(guān)系中，在相互協(xié)同的機(jī)器人與一些毫不知情的人類進(jìn)行某種復(fù)雜的互動(dòng)后得以實(shí)現(xiàn)的。
社交機(jī)器人和虛假新聞的傳播
社交機(jī)器人（由軟件控制的社交媒體賬號(hào)）是虛假新聞得以傳播的一個(gè)重要因素。當(dāng)我們分析2014年俄羅斯在克里米亞進(jìn)行的信息戰(zhàn)時(shí)，我們已經(jīng)從推特的數(shù)據(jù)中看到了這一點(diǎn)，而且在橫跨了10年時(shí)間、范圍更加廣泛的來(lái)自推特的樣本數(shù)據(jù)中，我們也看到了這一點(diǎn)。社交機(jī)器人在網(wǎng)上傳播謊言的方式既令人感到不安，又令人非常著迷。
我在印第安納大學(xué)的朋友和同事菲利波·門(mén)采爾（Filippo Menczer），還有他的同事邵程程（Chengcheng Shao，音譯）、喬瓦尼·錢(qián)帕利亞（Giovanni Ciampaglia）、奧努爾·瓦羅爾（Onur Varol）、楊凱晨（Kai-Cheng Yang，音譯）和阿里桑德羅·弗拉米尼（Alessandro Flammini）在2018年公開(kāi)了迄今為止規(guī)模最大的關(guān)于社交機(jī)器人如何傳播虛假新聞的研究。他們具體分析了2016年和2017年在推特上傳播了40萬(wàn)篇文章的1400萬(wàn)條推文。他們的工作進(jìn)一步證實(shí)了我們的發(fā)現(xiàn)，即虛假新聞在網(wǎng)上要比真實(shí)新聞更容易被傳播。他們還發(fā)現(xiàn)，在傳播來(lái)自低可信度來(lái)源的內(nèi)容時(shí)，社交機(jī)器人扮演了一個(gè)很重要的角色。但是，社交機(jī)器人放大虛假新聞的方式令人感到非常驚訝，這也凸顯出它們用來(lái)挾持炒作機(jī)器的程序是極其復(fù)雜的。
首先，在虛假新聞發(fā)布后的幾秒鐘內(nèi)，社交機(jī)器人就會(huì)捕捉到這些新聞，然后自動(dòng)進(jìn)行大范圍的轉(zhuǎn)發(fā)，它們的程序就是這樣設(shè)計(jì)的。所以，最初傳播虛假新聞的人更有可能是機(jī)器人，而不是人類?；叵胍幌挛覀?cè)谏蠄D中演示的虛假新聞在推特中通過(guò)層層轉(zhuǎn)發(fā)而形成的那種放射狀的形態(tài)，這種形態(tài)的絕大部分都是由機(jī)器人形成的。接下來(lái)發(fā)生的事情驗(yàn)證了這種策略的有效性，因?yàn)橹蟮拇蟛糠洲D(zhuǎn)發(fā)都是由人類完成的。機(jī)器人早期在推特上的活動(dòng)引發(fā)了人類不成比例的參與，所以這些被機(jī)器人捕捉到的虛假新聞開(kāi)始形成眾多不斷向外延伸的轉(zhuǎn)發(fā)鏈條，但最終還是需要由人類通過(guò)炒作機(jī)器的網(wǎng)絡(luò)把這些虛假新聞傳播開(kāi)來(lái)。
其次，機(jī)器人會(huì)不斷地提到一些有影響力的人。如果它們能夠讓一個(gè)有影響力的人來(lái)轉(zhuǎn)發(fā)這些虛假新聞，那么這些虛假新聞馬上就會(huì)被放大，而且還會(huì)被合理化。門(mén)采爾和他的同事用他們的數(shù)據(jù)舉了一個(gè)例子。有一個(gè)機(jī)器人曾經(jīng)19次提到了@realDonaldTrump（特朗普的推特賬號(hào)），而且它每次都轉(zhuǎn)發(fā)這樣一條虛假新聞：在2016年的總統(tǒng)大選中，有數(shù)百萬(wàn)名非法移民也參與了投票。當(dāng)有影響力的人士被愚弄并開(kāi)始分享這些內(nèi)容時(shí)，這種策略就起了作用。例如，特朗普曾經(jīng)在很多場(chǎng)合轉(zhuǎn)發(fā)過(guò)一些已經(jīng)被確認(rèn)是由機(jī)器人發(fā)出來(lái)的內(nèi)容，這就使那些內(nèi)容好像得到了證實(shí)，進(jìn)而使這些錯(cuò)誤信息在推特上被廣泛地傳播開(kāi)來(lái)。實(shí)際上，正是特朗普將數(shù)百萬(wàn)名非法移民在2016年總統(tǒng)大選中參與了投票這一錯(cuò)誤信息當(dāng)成了官方的話題。
但是，如果沒(méi)有人類，機(jī)器人就無(wú)法傳播虛假新聞。在我們對(duì)推特進(jìn)行的10年的研究中，我們發(fā)現(xiàn)，正是人類，而不是機(jī)器人，使得虛假新聞的傳播比真相的傳播速度更快、范圍更廣。在2016-2017年的研究中，門(mén)采爾和他的同事同樣發(fā)現(xiàn)，正是人類， 而不是機(jī)器人，才是推特中最重要的虛假新聞傳播者。最終，人類和機(jī)器人在虛假新聞的傳播過(guò)程中共同扮演了某種共生的角色：通過(guò)誘導(dǎo)人類，機(jī)器人實(shí)現(xiàn)了虛假新聞的分享，而人類又通過(guò)炒作機(jī)器把虛假新聞傳播到了更大的范圍。任何利用錯(cuò)誤信息開(kāi)展的活動(dòng)的最終目標(biāo)都是對(duì)一些人進(jìn)行誤導(dǎo)，而且也只有人類才會(huì)進(jìn)行諸如投票、抗議、抵制各種產(chǎn)品等一系列的活動(dòng)，當(dāng)然還包括決定是否讓他們的孩子接種疫苗等。這些深層次的人類決策過(guò)程正是虛假新聞想要進(jìn)行誘導(dǎo)并施加影響的對(duì)象，而機(jī)器人只不過(guò)是達(dá)成這一目的的工具。但是，如果人類就是虛假新聞活動(dòng)的目標(biāo)，而且對(duì)它們的傳播還如此關(guān)鍵，那么我們?yōu)槭裁磿?huì)被虛假新聞吸引？我們?yōu)槭裁催€會(huì)主動(dòng)分享這些錯(cuò)誤信息呢？
虛假新聞
新奇性假設(shè)
一種解釋是由我和蘇魯什·沃梭基、德布·羅伊提出的“新奇性假設(shè)”。新奇的東西會(huì)吸引人的注意力，因?yàn)樗鼤?huì)讓人感到驚訝并引起人們情緒上的共鳴，而且它還會(huì)更新或改變我們對(duì)這個(gè)世界的理解。新奇的東西會(huì)鼓勵(lì)人們進(jìn)行分享，因?yàn)樗鼤?huì)在無(wú)形中傳達(dá)出分享者的社會(huì)地位，分享者會(huì)被視為一個(gè)“知情人”或者能夠接觸“內(nèi)幕消息”的人。在意識(shí)到了這些之后，我們決定利用我們?cè)谘芯客铺氐?0年間所搜集的數(shù)據(jù)進(jìn)行測(cè)試，看一看虛假新聞是否真的比真實(shí)新聞更加新奇。我們還具體核查了推特用戶是否更有可能轉(zhuǎn)發(fā)那些看起來(lái)更加新奇的信息。
為了衡量所謂的“新奇性”，我們觀察了那些既分享真實(shí)新聞，也分享各種謠言的用戶，然后把謠言推文的內(nèi)容與在用戶決定轉(zhuǎn)發(fā)這些謠言前60天內(nèi)曾經(jīng)接觸過(guò)的所有推文的內(nèi)容進(jìn)行了比較。在多種不同的衡量新奇性的標(biāo)準(zhǔn)下，我們的發(fā)現(xiàn)始終都是一致的：虛假新聞確實(shí)比真實(shí)新聞更加新奇，而且人們也更傾向于分享一些新奇的信息。這個(gè)結(jié)果在所謂的“注意力經(jīng)濟(jì)”的背景下是完全符合邏輯的。在社交媒體中，本來(lái)就存在各種競(jìng)爭(zhēng)非常激烈的思想和行為模式，正是在這樣一種背景下，新奇性吸引了我們本就稀缺的注意力，激發(fā)了我們?cè)诰W(wǎng)上看到的各種消費(fèi)和分享行為。
雖然在我們的研究中，虛假新聞要比真相更加新奇，但用戶很可能并不這么認(rèn)為。所以，為了進(jìn)一步測(cè)試“新奇性假設(shè)”，我們通過(guò)比較用戶在回復(fù)這些謠言時(shí)表達(dá)出來(lái)的情緒來(lái)具體評(píng)估用戶對(duì)真相和虛假新聞的感受。我們發(fā)現(xiàn)，虛假新聞會(huì)激起更多的驚嘆和厭惡，而真相會(huì)激起更多的悲傷、期待、快樂(lè)和信任，所以這實(shí)際上已經(jīng)證實(shí)了我們的“新奇性假設(shè)”。但這些情緒也揭示出，除了新奇性之外，還有哪些因素會(huì)刺激人們?nèi)シ窒砟切┨摷傩侣?。為了理解隱藏在虛假新聞背后的傳播機(jī)制，我們不得不考慮人類對(duì)虛假新聞的敏感性。
我們對(duì)虛假新聞的敏感性
關(guān)于人類容易受到“錯(cuò)誤信念”影響的科學(xué)，要比關(guān)于虛假新聞的科學(xué)發(fā)展得更加成熟，但不幸的是，即便是前者也沒(méi)有能夠得到定論。當(dāng)下，在所謂的“古典推理”和“動(dòng)機(jī)推理”之間還存在著一場(chǎng)爭(zhēng)論。古典推理認(rèn)為，當(dāng)我們進(jìn)行分析性思考的時(shí)候，我們能夠更好地明辨真假。動(dòng)機(jī)推理卻認(rèn)為，當(dāng)我們面對(duì)關(guān)于錯(cuò)誤信念的糾正信息時(shí)，我們的分析能力越強(qiáng)，就越會(huì)主動(dòng)去“深入挖掘”并進(jìn)一步加深對(duì)錯(cuò)誤信念的投入，尤其是如果我們從一開(kāi)始就已經(jīng)對(duì)那些錯(cuò)誤信念深信不疑。
我的朋友，同時(shí)也是我在麻省理工學(xué)院的同事戴 維·蘭德（David Rand）與他的合作者戈登·彭尼庫(kù)克（Gordon Pennycook）研究了哪種類型的人能夠更好地分辨出虛假新聞。他們首先測(cè)試了具有認(rèn)知反思能力的人是如何應(yīng)對(duì)認(rèn)知反思任務(wù)（CRT）的，然后詢問(wèn)這些人是否會(huì)相信一系列真實(shí)和虛假的新聞故事。認(rèn)知反思任務(wù)測(cè)試的是一個(gè)人的反思能力。如果你讓某個(gè)人解一道題：“購(gòu)買一根球棒和一個(gè)球總共需要花費(fèi)1.1美元，球棒比球貴1美元，那么球多少錢(qián)？”通常，很多人會(huì)飛快地給出一個(gè)很直觀的答案，即10美分，但如果你回頭再仔細(xì)思考一下，那么這個(gè)答案顯然是錯(cuò)誤的，因?yàn)槿绻虻膬r(jià)格是10美分，那么球棒的價(jià)格就是1.1美元，總共是1.2美元。這種類型的問(wèn)題測(cè)試的正是人們的反思能力。蘭德和彭尼庫(kù)克發(fā)現(xiàn)，反思能力強(qiáng)的人能夠更好地分辨真?zhèn)?，并且能夠更好地識(shí)別出對(duì)真實(shí)事件有明顯傾向性的報(bào)道，這個(gè)結(jié)論實(shí)際上支持了古典推理的觀點(diǎn)。
但是，不斷地重復(fù)同一種說(shuō)法會(huì)讓人信以為真。如果一個(gè)人用虛假新聞反復(fù)地沖刷我們的頭腦，我們就很有可能會(huì)相信它。這也被稱作“虛假真實(shí)效應(yīng)”，在多次重復(fù)接觸某些錯(cuò)誤信息后，我們就會(huì)傾向于相信這些信息。重復(fù)之所以會(huì)讓人相信，是因?yàn)槿藗兺鶅A向于相信他們已經(jīng)接觸過(guò)的或思考過(guò)的東西，這就是所謂的 “證真偏差”。所以，當(dāng)我們聽(tīng)到某些東西的次數(shù)越多，而且它與我們已經(jīng)知道的某些東西一致時(shí)，我們就越有可能相信這些東西。類似的想法還導(dǎo)致一些認(rèn)知科學(xué)家和政治科學(xué)家提出了這樣的假設(shè)，即由于存在“證真偏差”的現(xiàn)象，任何用來(lái)糾正錯(cuò)誤的信息都可能會(huì)起到反作用。當(dāng)你試圖讓某些人相信，他們一直持有的錯(cuò)誤信念實(shí)際上并不正確的時(shí)候，他們反而會(huì)更深入地挖掘那些錯(cuò)誤的信念并深陷其中。但是，有關(guān)這種“逆火效應(yīng)”的證據(jù)似乎并不充分。 例如，在三個(gè)不同的調(diào)查實(shí)驗(yàn)中，安德魯·格斯和亞歷山大·科波克（Alexander Coppock）表示：“即使在理論上極其有利的情況下，我們也沒(méi)有發(fā)現(xiàn)任何這種群體強(qiáng)力逆反的證據(jù)?！?/p>
所以，反思確實(shí)可以幫助我們從虛假中辨識(shí)出真相。盡管信息的重復(fù)會(huì)讓人傾向于相信，但是用于糾正錯(cuò)誤的信息不一定會(huì)產(chǎn)生反向的效果，即便“證真偏差”帶來(lái)的偏見(jiàn)確實(shí)會(huì)讓我們更加相信我們已經(jīng)知道的東西。這些發(fā)現(xiàn)向我們提供了與虛假新聞做斗爭(zhēng)的線索。
制造虛假新聞的經(jīng)濟(jì)動(dòng)機(jī)
俄羅斯對(duì)烏克蘭和美國(guó)政治的干預(yù)，已經(jīng)充分說(shuō)明了制造虛假新聞背后的政治動(dòng)機(jī)，但其中的經(jīng)濟(jì)動(dòng)機(jī)也絕不應(yīng)該被低估。制造虛假新聞的經(jīng)濟(jì)動(dòng)機(jī)在馬其頓的維爾斯地區(qū)展現(xiàn)得淋漓盡致。
維爾斯是一個(gè)馬其頓境內(nèi)的毫無(wú)活力的山城，這里大約有55000名居民，擁有兩個(gè)電視頻道，還有一些非常漂亮的教堂。歷史上的一些著名人物和事件也出現(xiàn)在這里，比如奧斯曼帝國(guó)時(shí)期的大維齊爾，以及14世紀(jì)后期發(fā)生在塞爾維亞和奧斯曼帝國(guó)之間的一場(chǎng)戰(zhàn)爭(zhēng)。但對(duì)維爾斯的全球歷史地位做出過(guò)最大貢獻(xiàn)的，或許還是那些2016年美國(guó)總統(tǒng)大選期間在這座城市里到處游蕩的無(wú)法找到工作的年輕人，因?yàn)樗麄儼l(fā)現(xiàn)了，炒作機(jī)器是如何通過(guò)在網(wǎng)上傳播虛假新聞而讓他們發(fā)財(cái)致富的。
維爾斯的年輕人首先創(chuàng)建并推廣了數(shù)百個(gè)不同的網(wǎng)站，這些網(wǎng)站通過(guò)社交媒體的廣告網(wǎng)絡(luò)向美國(guó)的選民傳播了各種虛假新聞。像谷歌這樣的公司會(huì)在互聯(lián)網(wǎng)瀏覽器上投放廣告，然后再依據(jù)不同的網(wǎng)站吸引的高質(zhì)量用戶的數(shù)量來(lái)向網(wǎng)站創(chuàng)建者支付報(bào)酬。維爾斯的年輕人發(fā)現(xiàn)，通過(guò)創(chuàng)建各種網(wǎng)站，再利用社交媒體的網(wǎng)絡(luò)來(lái)推廣其內(nèi)容，他們就可以賺到很多錢(qián)。閱讀并分享他們文章的人越多，他們賺到的錢(qián)就越多。
他們發(fā)現(xiàn)，虛假新聞可以吸引更多的讀者，而且，正如我們?cè)谧约旱难芯恐邪l(fā)現(xiàn)的那樣，人們?cè)诰W(wǎng)上分享虛假新聞的可能性要比分享其他內(nèi)容的可能性高70%。所以，這些年輕人會(huì)首先通過(guò)創(chuàng)建虛假的賬號(hào)來(lái)放大一些文章的信息，一旦相關(guān)的趨勢(shì)算法注意到了這些文章，這些虛假的新聞故事就會(huì)受到廣播效應(yīng)的推動(dòng)，這些文章就可以被傳播給更多的人，并擴(kuò)展到網(wǎng)絡(luò)中的新區(qū)域。接著，我們看到的就是鋪天蓋地的虛假新聞了，而且就在美國(guó)民眾還在前往投票站的路上的時(shí)候，這些虛假新聞就已經(jīng)把他們完全淹沒(méi)了。當(dāng)大量的資金流向某一個(gè)方向的時(shí)候，虛假新聞卻正在朝著另一個(gè)方向流動(dòng)。就在2016年總統(tǒng)大選前幾個(gè)月，當(dāng)維爾斯的大街上擠滿了嶄新的寶馬車時(shí)，整個(gè)美國(guó)卻已經(jīng)被虛假新聞的洪流吞沒(méi)了。維爾斯小城只不過(guò)是其中的一個(gè)例子而已。2019年全年，虛假新聞網(wǎng)站收獲了超過(guò)2億美元的廣告收入。虛假新聞現(xiàn)在已經(jīng)是大生意了，當(dāng)我們準(zhǔn)備推出解決這個(gè)問(wèn)題的方案時(shí)，我們必須認(rèn)識(shí)到這一經(jīng)濟(jì)現(xiàn)實(shí)。
電視中的虛假新聞
現(xiàn)實(shí)的終結(jié)
不幸的是，到目前為止，我所描述的一切，從股市的崩盤(pán)到麻疹疫情的暴發(fā)，再到對(duì)選舉的人為干預(yù)，這些實(shí)際上還算一些比較好的消息，因?yàn)樵谔摷傩侣劦臅r(shí)代，一切都只會(huì)變得更糟糕。我們正處于“合成媒體”這個(gè)嶄新時(shí)代的邊緣，有些人擔(dān)心這將把我們帶入“現(xiàn)實(shí)的終結(jié)”。這樣的描述聽(tīng)起來(lái)或許有些夸張，但毫無(wú)疑問(wèn)的是，在制造虛假新聞的領(lǐng)域，技術(shù)創(chuàng)新正在以非常危險(xiǎn)的步伐快速向前邁進(jìn)。各種“深度造假”技術(shù)的發(fā)展正在生產(chǎn)出極具說(shuō)服力的“人工合成的音頻和視頻內(nèi)容”，這些內(nèi)容甚至比文本類的虛假新聞更有可能愚弄我們?！吧疃仍旒佟奔夹g(shù)已經(jīng)可以使用深度學(xué)習(xí)（一種基于多層神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)的方式）創(chuàng)造出超現(xiàn)實(shí)的虛假視頻和音頻內(nèi)容了。如果說(shuō)眼見(jiàn)為實(shí)，那么，與我們迄今為止見(jiàn)過(guò)的任何虛假媒介相比，下一代的虛假媒介內(nèi)容更能讓我們完全信服，而這是極其危險(xiǎn)的。
2018年，電影導(dǎo)演兼模仿秀演員喬丹·皮爾（Jordan Peele）與BuzzFeed（新聞網(wǎng)站）合作制作了一段“深度造假”的視頻。在視頻中，奧巴馬把特朗普稱作“徹頭徹尾的蠢豬”。雖然視頻看上去就像是真的，但這顯然是虛假新聞。在視頻中，當(dāng)皮爾讓奧巴馬說(shuō)出“現(xiàn)在，我根本不可能說(shuō)出這樣的話來(lái)……至少絕不會(huì)在公開(kāi)的演講中這樣說(shuō)”的時(shí)候，他讓那個(gè)明顯是他捏造的形象開(kāi)玩笑般地點(diǎn)了點(diǎn)頭。也就在這一年的晚些時(shí)候，CNN（美國(guó)有線電視新聞網(wǎng)）記者吉姆·阿科斯塔（Jim Acosta）和白宮實(shí)習(xí)生在新聞發(fā)布會(huì)上發(fā)生了爭(zhēng)吵，這一爭(zhēng)吵的加速版視頻使阿科斯塔拒絕放下手上麥克風(fēng)的行為顯得更加暴力，所以這段視頻后來(lái)還被用來(lái)為吊銷阿科斯塔的記者證辯護(hù)。曾經(jīng)在電影中扮演過(guò)替身的特技演員后來(lái)告訴記者，他們經(jīng)常使用這種技巧，這使他們?cè)陔娪爸械某鋈吞咄瓤雌饋?lái)更有攻擊性。
“深度造假”技術(shù)的基礎(chǔ)是一種被稱作“生成式對(duì)抗網(wǎng)絡(luò)”（Generative Adversarial Networks，后簡(jiǎn)稱 GANs）的特定類型的深度學(xué)習(xí)技術(shù)，它是伊恩·古德費(fèi)洛（Ian Goodfellow）在蒙特利爾大學(xué)讀研究生期間首次開(kāi)發(fā)出來(lái)的。有一天晚上，當(dāng)他和其他研究生一起在當(dāng)?shù)氐囊患揖瓢衫锖绕【茣r(shí)，古德費(fèi)洛遇到了一個(gè)和機(jī)器學(xué)習(xí)有關(guān)的問(wèn)題，即如何訓(xùn)練一臺(tái)電腦自己創(chuàng)建照片，這個(gè)問(wèn)題已經(jīng)困擾了他的朋友很長(zhǎng)時(shí)間。傳統(tǒng)的方法遭遇了慘敗。但是，就在那天晚上，在喝了幾品脫啤酒之后，古德費(fèi)洛居然頓悟了。他開(kāi)始設(shè)想，是否可以通過(guò)讓兩個(gè)神經(jīng)網(wǎng)絡(luò)相互對(duì)抗來(lái)解決這個(gè)問(wèn)題。這就是GANs的最初設(shè)想，臉書(shū)人工智能研究部門(mén)的前負(fù)責(zé)人楊立昆（Yann LeCun）把這項(xiàng)技術(shù)稱作“在過(guò)去的20年里深度學(xué)習(xí)領(lǐng)域中最酷的想法”。這也正是隱藏在那段視頻背后的操控奧巴馬把特朗普稱作“蠢豬”的技術(shù)力量。
GANs把兩個(gè)神經(jīng)網(wǎng)絡(luò)湊到一起，讓它們進(jìn)行對(duì)抗：其中一個(gè)被稱作“生成者”，它的工作就是制造出各種合成媒體的內(nèi)容；而另一個(gè)被稱作“判別者”，它的工作就是去判斷有關(guān)的內(nèi)容是真的還是假的。“生成者”會(huì)從“判別者”的決策過(guò)程中了解到自己的缺陷，然后以此為基礎(chǔ)去優(yōu)化它所創(chuàng)造的合成媒體的內(nèi)容，這樣，它創(chuàng)造出來(lái)的視頻和音頻就會(huì)越來(lái)越有說(shuō)服力。事實(shí)上，“生成者”的全部工作就是最大限度地提高它欺騙“判別者”的能力，使其誤以為那些合成的視頻或音頻的內(nèi)容是真實(shí)的。想象一下，有這樣一臺(tái)機(jī)器，它被設(shè)置在一個(gè)超級(jí)循環(huán)中，不斷地試圖讓自己變得越來(lái)越擅長(zhǎng)愚弄我們。在一個(gè)GANs技術(shù)正在以指數(shù)級(jí)速度不斷改善的世界里，我們將要面對(duì)的未來(lái)很可能是一個(gè)現(xiàn)實(shí)扭曲的世界。
當(dāng)然，GANs技術(shù)還可以被用在好的方面，比如在高能物理的實(shí)驗(yàn)中生成讓人信服的合成數(shù)據(jù)，或者加速藥物的研究和發(fā)現(xiàn)，但是這種技術(shù)可能對(duì)地緣政治和經(jīng)濟(jì)造成的傷害令人感到不安。美國(guó)國(guó)務(wù)院前反恐事務(wù)協(xié)調(diào)員丹尼爾·本杰明（Daniel Benjamin）和克林頓政府與奧巴馬政府國(guó)家安全委員會(huì)反恐事務(wù)高級(jí)主任史蒂文·西蒙（Steven Simon）曾描繪了這樣一幅可怕的畫(huà)面：“你很容易就可以想象出那些偽造的視頻可能會(huì)帶來(lái)何種巨大的破壞，比如你可能會(huì)看到一段視頻，上面出現(xiàn)的是伊朗的外交官員正在與恐怖分子合作商討襲擊美國(guó)的目標(biāo)，或者你還可以簡(jiǎn)單地捏造一段新聞，內(nèi)容是伊朗或朝鮮的軍隊(duì)正計(jì)劃對(duì)任意某個(gè)目標(biāo)進(jìn)行先發(fā)制人的打擊……這樣的虛假新聞很可能會(huì)導(dǎo)致一場(chǎng)戰(zhàn)爭(zhēng)，或者后果同樣嚴(yán)重的是，它們可能會(huì)阻礙一個(gè)國(guó)家對(duì)真正的威脅做出反應(yīng)?！?/p>
“深度造假”的音頻已經(jīng)被用來(lái)詐騙一些企業(yè)了，金額高達(dá)數(shù)百萬(wàn)美元。2019年夏天，賽門(mén)鐵克公司的CTO（首席技術(shù)官）休·湯普森（Hugh Thompson）披露，他的公司曾經(jīng)注意到，好幾個(gè)客戶遭到了“深度造假”的音頻攻擊。攻擊者首先用長(zhǎng)達(dá)數(shù)小時(shí)的公開(kāi)錄音資料對(duì)一套GANs系統(tǒng)進(jìn)行了訓(xùn)練，這些公開(kāi)資料的內(nèi)容包括了其中一家公司的CEO在接受新聞采訪、發(fā)表公開(kāi)演講，以及在財(cái)報(bào)電話會(huì)議上發(fā)表講話時(shí)留下的所有語(yǔ)音文件，還有在國(guó)會(huì)面前做證時(shí)留下的語(yǔ)音錄音。利用這些音頻文件，攻擊者建立了一個(gè)系統(tǒng)來(lái)自動(dòng)模仿這名CEO的聲音。例如，他們會(huì)打電話給公司的CFO（首席財(cái)務(wù)官），然后利用模仿的聲音假裝是公司的CEO，要求CFO立即將數(shù)百萬(wàn)美元電匯到他們控制的銀行賬號(hào)上。 這個(gè)系統(tǒng)并不是只能發(fā)送預(yù)先錄制的信息，而是可以將攻擊者的聲音實(shí)時(shí)地轉(zhuǎn)換成為這家公司CEO的聲音，這樣他們就可以進(jìn)行一 場(chǎng)“真實(shí)”的對(duì)話，并且回答任何CFO有可能會(huì)提出的問(wèn)題。由系統(tǒng)合成的CEO的語(yǔ)音是如此逼真，再加上一個(gè)為什么需要馬上安排轉(zhuǎn)賬的好故事，比如不馬上轉(zhuǎn)賬的話公司很可能會(huì)失去一筆大買賣，又或者他們必須在這個(gè)財(cái)務(wù)季度即將結(jié)束的時(shí)候趕上某個(gè)即將到來(lái)的截止日期，那么此時(shí)這家公司的CFO就很有可能會(huì)按照要求進(jìn)行轉(zhuǎn)賬。湯普森還透露，這樣的攻擊每次都會(huì)讓目標(biāo)公司損失數(shù)百萬(wàn)美元。
喬丹·皮爾在與Buzzfeed一起制作出那段關(guān)于奧巴馬的“深度造假”視頻時(shí)曾這樣說(shuō)過(guò)：“這聽(tīng)起來(lái)可能很簡(jiǎn)單，但是在信息時(shí)代，我們?nèi)绾卫^續(xù)向前發(fā)展，將意味著我們是選擇繼續(xù)這樣生存下去，還是選擇墜入某種混亂的深淵?！毕胍斫饽撤N“混亂的深淵”是否就是我們的命運(yùn)，我們必須理解炒作機(jī)器的工作方式。而想要做到這一點(diǎn)，我們就需要回到一些基本的原則上，從深入了解炒作機(jī)器的工作機(jī)制開(kāi)始，然后再具體地審視社交媒體對(duì)我們的大腦產(chǎn)生的影響。
本文節(jié)選自《炒作機(jī)器：社交時(shí)代的群體盲區(qū)》。
《炒作機(jī)器：社交時(shí)代的群體盲區(qū)》，【美】錫南·阿拉爾/著 周海云/譯，中信出版集團(tuán)，2022年5月版
鄂公網(wǎng)安備 42010302001612號(hào) 