李開復：人類最重要的器官，不是大腦，而是內(nèi)心

從層出不窮的科幻電影，到阿爾法圍棋（AlphaGo），再到產(chǎn)業(yè)機器工人，人工智能（AI）在我們時代的強勁出現(xiàn)，帶來了知識、技能和生存的恐慌。你對科技有好奇，但是不是也感到了一種緊張？

書評君在“我有嘉賓”第2期中所征集到的問題，就彌漫著這樣的恐慌與緊張。

現(xiàn)在，第2期的問答將如約與你相遇。在這一期，書評君請來的嘉賓是李開復先生。在他看來，人工智能工具正在改變著世界，但科幻電影誤導了人們對人工智能的理解，它們沒有情感也沒有自我認知，所有程序都是被編制和控制的。阿爾法在圍棋中勝利了，但它并未因此感到快樂。只不過，像任何技術(shù)一樣，人工智能被怎樣使用同樣拷問著使用者的用意。

這些征集到的問題中，也有提問李開復先生曾被診斷患上淋巴癌的經(jīng)歷對其影響、普通人的讀書境遇與選擇。他用自己的經(jīng)歷提出建議，比如“少讀成功學的書”、“少讀翻譯劣質(zhì)的書”，但于他而言，所有話題都可歸至近些年持續(xù)關(guān)注的人工智能，它不可怕，因為“人類最重要的器官，不是大腦，而是內(nèi)心?！遍喿x的意義大概也在于此。

人工智能與我們時代的恐慌“沒有一種技術(shù)可以告訴我們?nèi)绾螌崿F(xiàn)超人工智能”

提問（鄭欣）：昨日剛剛聽完您在哥倫比亞大學的畢業(yè)典禮演講。你提到給畢業(yè)生未來職業(yè)選擇和規(guī)劃的建議。對于專業(yè)并非工程類的語言類學生，我很想知道應該如何做才能不被AI替代。

李開復：不必特別為你的專業(yè)擔心，因為大部分的專業(yè)在人工智能時代，都有類似的問題。

我的建議是：如果你決定深耕一個領(lǐng)域，就要成為該領(lǐng)域的頂尖專家。任何領(lǐng)域的頂尖專家都不會被AI取代；盡量讓自己能做戰(zhàn)略性的、跨領(lǐng)域的工作或行業(yè)。比如說學外語不能只當做語言來學，要學會多國的不同文化和思維方式，并爭取能用到這類知識的工作。

如果你有創(chuàng)造性，無論是理工還是人文，那都是不會被AI取代的工作。比如說文科生寫詩、小說、劇本等都不會被AI取代；一旦找到一個工作，一定要掌握該領(lǐng)域的AI工具，善用這個工具，和它一起成長考慮服務業(yè)的各種機會，讓自己更善于與人打交道，尋找基于人際溝通的行業(yè)。比如說：用你的外語能力做一個生動有趣，讓人真心喜歡的老師或者導游。

1956年的達特茅斯會議（Dartmouth Conference）常常被公認為是人工智能的起源。2006年，會議五十年后，當事人重聚達特茅斯。

提問（陳欣玉）：如果人類要保證不受威脅，什么領(lǐng)域是人工智能絕對不允許涉足的？

李開復：任何一種技術(shù)，都是“水能載舟，亦能覆舟”，所以過早或過分擔心未來的威脅，而扼殺或“絕對不允許”某種科技，肯定是過激了。比如說：為了保證不會有劫機威脅，我們是否就不允許發(fā)明制造飛機了？

當然，任何新的科技都需要關(guān)注，并且用法律和行規(guī)來降低嚴重問題。我認為值得關(guān)注的問題包括：全自動殺人武器的開發(fā)、人工智能使用的隱私數(shù)據(jù)的合法性、數(shù)據(jù)和人工智能很強大的公司如何不傷害用戶隱私和安全、自我運作的軟硬件都應該有人工手動關(guān)機功能、人工智能系統(tǒng)安全和防止黑客功能、軟硬件植入人體的潛在傷害和影響。

《人工智能》

作者：李開復 王詠剛

版本：文化發(fā)展出版社 2017年5月

“我們無需擔憂和懼怕人工智能時代的到來，我們所要做的，應當是盡早認清AI與人類的關(guān)系，了解變革的規(guī)律，更好地擁抱新時代的到來?！?/p>

提問（辛穎）：人工智能是否會等同于或超越人類本身的智能？

李開復（由王詠剛代復）：超人工智能誕生并威脅人類這件事發(fā)生的概率是非常小的。至少從現(xiàn)在的所有人工智能技術(shù)看來，沒有一種技術(shù)可以告訴我們?nèi)绾螌崿F(xiàn)超人工智能。也就是說，我們沒法在邏輯上預測，今天的人工智能技術(shù)必然會在未來發(fā)展為超人工智能。

其實，我們現(xiàn)在做的只是在制造工具。我們所面對的，只不過是一系列工程設計上的問題。我們必須確保我們設計制造的產(chǎn)品和服務符合我們的愿望和預期。這件事與橋梁工程師們使用一整套質(zhì)量保障方案來確保他們建造的橋梁不會坍塌并沒有什么兩樣。

我們有許多工程學上的原則，來指導我們?nèi)绾螠y試一個系統(tǒng)，什么樣的系統(tǒng)是合格的，什么樣的系統(tǒng)是足夠安全的，等等。在人工智能領(lǐng)域，我們同樣需要這樣的技術(shù)，因為人工智能十分強大，具有潛在的危險性。但這并不是因為智能機器會像人類一樣思考。只是因為它們十分強大，我們必須小心使用它們。

科幻電影的誤導“人工智能工具沒有感情”

提問（辛穎）：人工智能的趨勢化在使人類獲得舒適的同時，是否會存在一些未知的風險？如果存在風險，那么以人類目前的能力，“可控”嗎？

印度科幻電影《機器人之戀》中的AI對女主人公產(chǎn)生了感情

李開復：很多科幻電影和一些過激的預測影響了很多讀者?，F(xiàn)在的人工智能只是工具，一次只能在一個領(lǐng)域工作。人工智能的優(yōu)化目標函數(shù)是由人來擬定的。人工智能工具沒有自我意識也沒有感情。人可以決定隨時關(guān)掉人工智能工具。比如說，AlphaGo就只會下圍棋，但是下棋并沒有感到樂趣，贏了也不會開心。比賽結(jié)束，公司決定永遠“封棋”就封了。

這樣的工具用在很多領(lǐng)域，會產(chǎn)生很大的商業(yè)價值，也會帶來各種必然的問題，比如說貧富差距、大量失業(yè)、整改教育。我認為我們應該更多關(guān)懷這些必然的問題，而不是花太多時間去擔心那些“未知”的風險。這些風險，也許100年甚至更久也不會發(fā)生，讓技術(shù)專家來討論處理更合適。

提問（Fay Hu）：我是一名醫(yī)生，感興趣的是人工智能在醫(yī)療方面的應用。請問人工智能的發(fā)展瓶頸會在哪？

李開復：人工智能應該是很適合診斷方面，因為是有復雜空間，有數(shù)字導向，和客觀標注的領(lǐng)域。（就是說：可以輸入多維度的各種病人歷史信息，測驗信息，根據(jù)類似的人過去的病情和最后診斷治療結(jié)果作為導向）

但是，很大的瓶頸是數(shù)據(jù)的隱私問題，還有醫(yī)院之間的信息未打通，因此很難匯集大量數(shù)據(jù)來訓練人工智能的機器學習。比如說：人臉識別庫是打通的，因此，人工智能很快就遠超人類。而B超、X光、核磁共振、斷層掃描的資料是現(xiàn)階段無法打通的，所以會形成瓶頸。

另外，就是風險承擔方面的問題（診斷錯誤誰負責？），還有病人是否能接受“機器人醫(yī)生”的問題。

我認為最快能做出的系統(tǒng)是醫(yī)生助理診斷系統(tǒng)，這樣決定還是醫(yī)生的。再往下，圖片方面的診斷輔助也會有很大的進步。還有，任何大數(shù)據(jù)量的工作（比如說基因排序、精準醫(yī)療），還有和圖片相關(guān)的工作（比如說上面提到的各種影片識別、病理切片、皮膚科診斷等）遲早都會能解決上述的瓶頸，行程很精確的系統(tǒng)。

也許20-30年以后，機器診斷會全面超越醫(yī)生，而醫(yī)生的角色會轉(zhuǎn)換成為“人工智能診斷機和病人之間的界面”。醫(yī)生會繼續(xù)和病人對話，問病人問題。而信息的整合，最后的診斷，可能主要是機器來推薦或直接做。醫(yī)生會負責和病人的溝通，對病人的聆聽、關(guān)懷、鼓勵等。未來醫(yī)生需要情商溝通方面的能力會越來越重要。

人類最重要的器官“不是大腦，而是內(nèi)心”

提問（李曉峰）：李老師，您好！人總是在經(jīng)歷事情的過程中完成自我的升華。我特別想聆聽的問題是，在經(jīng)歷了那場眾所周知的大病（注：2013年，李開復被診斷患上淋巴癌第四期）之后，您的世界觀，人生觀和價值觀有了什么變化？這段經(jīng)歷對您理解人工智能的現(xiàn)在和未來又產(chǎn)生了什么影響？

李開復：4年前，我被診斷患上淋巴癌第四期，當時我面對的無情事實：我的生命可能就只剩下短短幾個月。

在那段前路未卜的時間，我對生命的意義深思良多。我意識到我所有的成就，包括在等待30多年后終于來到的人工智能時代，對我來說其實毫無意義。我意識到我過去所追求的科技、產(chǎn)品、投資、事業(yè)，我重視各種事情的優(yōu)先級完全本末倒置。我忽視了我的家庭，我父親去世了，我母親已幾乎不認得我，我的孩子們也不知不覺都長大了。

在治療期間，我讀了布朗妮·維爾（Bronnie Ware）的一本書，書中記錄了臨終病人一生中最后悔的事情。作者提到，沒有一個人會為當年不夠認真工作、不夠努力加班、或財產(chǎn)積攢不足而后悔。人們臨終時最最盼望的，是希望能再有機會花更多時間與自己所愛的人在一起。

回到人工智能的話題，愛讓人類有別于人工智能。不要相信科幻電影里描繪的人工智能的愛（或感情），我可以負責任地告訴你們，人工智能不會有愛，它們甚至沒有感情和自我意識。AlphaGo雖然能擊敗世界棋手冠軍，但是它體驗不到手談的樂趣，勝利不會為它帶來愉悅感，也不會讓它激動到產(chǎn)生想要擁抱一位他愛的人的渴望。

人類已制造出許多以任務為導向的人工智能，在每個具體任務上它們的表現(xiàn)遠超人腦，這正是我37年前的夢想。作為一個計算機科學家，我為我們所取得的科技進步成就而自豪。但我現(xiàn)在覺得，自己也許追逐錯了方向——人類最重要的器官，不是大腦，而是內(nèi)心。

《做最好的自己》

作者：李開復

版本：人民出版社 2005年9月

“成功就是做最好的自己。”

提問（梁慧杰）：您最近在閱讀什么書？對于工作和閱讀您是如何安排的？

李開復：我最近在閱讀的書包括：《未來簡史》，《北京折疊》，三本英文書：Abundance: The Future Is Better Than You Think（中文名是《富足》，賈擁民譯），Option B: Build resilience in the face of adversity（Facebook COO桑德伯格的新書），Thank you for being late（有繁體中譯本《謝謝你遲到了：一個樂觀主義者在加速時代的繁榮指引》）。

關(guān)于讀書，我想給大家六個建議，三做三不做，非常簡單的建議，應該適合每個人。

第一個建議，多讀不同意見的書。我覺得在東方長大的小朋友們常常被灌輸一種思想，認為書上寫的就是對的，讀了書要把它背下來。我覺得這樣并不好，其實每一件事情都有很多面，有很多不同的觀點、不同的意見。我建議大家不要把書當圣經(jīng)，多去讀一些不同觀點的書，而不是只讀那些你認為是你同意的，符合你觀點的書，嘗試讀一些跟你的觀點有沖突的書。如果你能多方面來看待同一件事情，也可以培養(yǎng)批判式思維。另一方面，就算你堅持你原來的想法，你也可以了解別人是怎么想的，當你和對方辯論或者持有不同意見的時候也許可以用到。

第二個建議，多讀歷史。走了這么長的路，看了這么多的事情，讀了這么多的書，我發(fā)現(xiàn)歷史總是在重復，人類還是不斷在犯過去犯過的錯誤。我想如果我們每個人都多讀歷史的話，也許我們可以多了解人性、可以少走一些彎路。

第三個建議，是要中西融會貫通。雖然中國古老的思想、文學都非常精湛，可以學到很多東西，但是我在哥倫比亞大學讀的那幾百本書，我覺得對我還是有非常深刻的啟發(fā)。所以有時間的話，我覺得還是平衡一下，讀一些東方的書，也讀一些你想讀的西方的書，比如英美哲學家的書、莎士比亞的書等等，東西方的思想能夠平衡吸取。

第四個建議，不要讀翻譯劣質(zhì)的書。當你讀西方的書時盡量讀原文書，因為翻譯的過程會流失很多有價值的東西。所以英文好的同學，可以讀原文書；英文不錯的同學，可以先把英文學好，然后讀原文書；實在不想學英文的同學們，那讀中文書也可以，但是一定要找好的翻譯來源。我發(fā)現(xiàn)比如《喬布斯傳》，我看了兩個中文版，翻譯水平差異是巨大的。

第五個建議，少讀純理論的書。有些純理論的書，不是在過去實例的驗證之下寫成的，所以我會更建議大家去讀那些有真實的事例穿插的書，而不是純理論化的一本書。

最后一個建議，少讀成功學的書。每次走到書店看到我的書被放到成功學，我就想低著頭走過去，因為，我覺得大部分成功學的書，其實都是一些沒有實干過的人，把一些理論攢起來，讓你認為自己看完也可以成功的書，而且它教導的可能是“你只要模仿誰誰誰就可以成功”。

但是實際上每一個人是不同的，每一個人成功的模式也是不同的。而且那些寫成功學的書的人，他們自己成功了嗎？他們自己有經(jīng)驗嗎？他們分享的是攢來的經(jīng)驗還是自己的經(jīng)歷總結(jié)呢？所以我建議少讀成功學的書。但是如果你很想學習一些成功的典范，那么我會推薦多看自傳?？醋詡鞯臅r候，也要看作者本人自己寫的自傳，而不是授權(quán)別人寫的，因為別人寫的也是攢出來的。最后，即使看作者本人的自傳，也不要盲目地去學習對方的一切，因為每個人是不一樣的，學習那些適合你的。