編者按：ChatGPT席卷全球，成為當(dāng)下最紅的熱門話題。繼元宇宙之后，一個(gè)人工智能的革命性突破來(lái)臨了嗎？它對(duì)未來(lái)的人類、生存方式和日常生活將發(fā)生什么樣的轉(zhuǎn)折性影響？2023年2月16日，華東師范大學(xué)歷史學(xué)教授、中國(guó)現(xiàn)代思想文化研究所副所長(zhǎng)許紀(jì)霖邀請(qǐng)華東師范大學(xué)政治與國(guó)家關(guān)系學(xué)院教授姜宇輝、華東師范大學(xué)中文系與國(guó)家漢語(yǔ)文化學(xué)院雙聘教授金雯、華東師范大學(xué)世界政治研究中心特聘研究員張笑宇從科技、人性、倫理多種視角，碰撞思想的火花，展望人類面臨的新的生活處境和心靈世界。
許紀(jì)霖：今天這場(chǎng)對(duì)話是從科技、人性和倫理的多重視角來(lái)討論ChatGPT與人工智能。最近半個(gè)月網(wǎng)上已經(jīng)有很多專家從技術(shù)的角度談?wù)揅hatGPT，但我覺(jué)得ChatGPT的產(chǎn)生不僅是一個(gè)技術(shù)現(xiàn)象，也是一個(gè)文化現(xiàn)象，它甚至和社會(huì)經(jīng)濟(jì)和政治都息息相關(guān)，所以或許我們應(yīng)該從一個(gè)更廣泛的視角來(lái)思考這場(chǎng)人工智能的革命性突破將會(huì)給人類，以及個(gè)人帶來(lái)怎樣的變化。我想先請(qǐng)笑宇來(lái)介紹一下這塊的技術(shù)。
張笑宇：目前Open AI推出了包括ChatGPT在內(nèi)的一系列同類產(chǎn)品，部分產(chǎn)品在某些特定方面的表現(xiàn)甚至要優(yōu)于ChatGPT。我想通過(guò)ChatGPT，來(lái)聊聊最近出現(xiàn)的AI技術(shù)有著怎樣的進(jìn)步意義，它可能會(huì)扮演哪些角色。
也許很多人還記得當(dāng)年AlphaGo先后戰(zhàn)勝了世界頂級(jí)的圍棋選手，當(dāng)時(shí)的AlphaGo已經(jīng)不像以前的程序，只能根據(jù)人類規(guī)定的算法執(zhí)行出結(jié)果。它能夠在完全了解圍棋的基本規(guī)則之后，進(jìn)行自我的學(xué)習(xí)與進(jìn)化。而現(xiàn)在的人工智能的深度學(xué)習(xí)（deep learning）一般以圖像識(shí)別為基礎(chǔ)，以此來(lái)完成各種任務(wù)。它不光能識(shí)別學(xué)習(xí)，還能夠生成新的內(nèi)容，因此我們可以將它理解成是有創(chuàng)造能力的。
相較于過(guò)去的“聊天機(jī)器人”，ChatGPT的對(duì)話能力有了質(zhì)的飛躍。雖然它的核心算法還沒(méi)有公布，但我們可以從幾個(gè)側(cè)面去理解它。比如它的名字GPT中G（Generative）是生成、P（Pre-trained）是預(yù)先訓(xùn)練。實(shí)際上，ChatGPT不是實(shí)時(shí)聯(lián)網(wǎng)進(jìn)行回答，它有一個(gè)巨大的訓(xùn)練模型，基于這個(gè)模型再聯(lián)網(wǎng)進(jìn)行嘗試。最后T（Transformer）是轉(zhuǎn)換器，通過(guò)多層的轉(zhuǎn)換，來(lái)生成接近人類的語(yǔ)言。
它早期版本的算法大概原理是：先有一個(gè)字母，通過(guò)向量圖來(lái)猜測(cè)下一個(gè)字母跟它匹配的概率，之后組成一個(gè)單詞，并猜測(cè)下一個(gè)單詞跟它的匹配概率，最后組成一句話。通過(guò)分析這個(gè)能力，我們可以知道ChatGPT并不是真的學(xué)會(huì)了人類的語(yǔ)言方式，而是在盡可能地去模仿。雖然它的說(shuō)話方式像人類，但并不具備人類的思維方式。
許紀(jì)霖：謝謝笑宇的介紹，接下來(lái)，我們先從感性入手，談?wù)勎覀冏鳛橛脩舻捏w驗(yàn)究竟是怎么樣的。
金雯：之前笑宇老師說(shuō)了一個(gè)很重要的點(diǎn)。ChatGPT好像會(huì)說(shuō)人類的語(yǔ)言，但它的思維方式和人類完全不同。那么，如果人和ChatGPT的思維方式完全不同，兩者還有沒(méi)有可能在同一個(gè)頻道上對(duì)話？
自然語(yǔ)言是一種人與人之間通過(guò)長(zhǎng)期交流后形成的，約定俗成的符號(hào)系統(tǒng)，它具有一定的任意性。即使是人在說(shuō)話的時(shí)候，我們想要表達(dá)的感受或觀念也無(wú)法做到與語(yǔ)言無(wú)縫連接。人類在說(shuō)話的時(shí)候，也不是自然而然、脫口而出的，它同樣經(jīng)過(guò)了內(nèi)在的轉(zhuǎn)譯和翻譯。事實(shí)上，人常常感到語(yǔ)言的無(wú)力，無(wú)法表達(dá)內(nèi)心感受或所思所感。舉例而言，在大部分的語(yǔ)言中關(guān)于疼痛的直接表達(dá)是非常稀少的，無(wú)非是疼痛、劇痛，或微痛，但這些表達(dá)無(wú)法涵蓋每個(gè)個(gè)體感受到的疼痛。
如果擴(kuò)展到所有情感，人類的語(yǔ)言更是千變?nèi)f化。人類為了表達(dá)一種個(gè)性化的感受，往往會(huì)使用一種隱喻的、迂回的方式。因此，有創(chuàng)造力的人類語(yǔ)言使用者，一定會(huì)想到一個(gè)非常有趣和獨(dú)特的方式來(lái)表達(dá)某種情感。
對(duì)此，我測(cè)試了ChatGPT是否能理解隱喻。我用的例子是美國(guó)歌手萊昂納德·科恩（Leonard Cohen）在歌曲中的隱喻，科恩說(shuō)：每個(gè)人好像都有罪的，走完了一生還沒(méi)有擺脫負(fù)罪感；即使擺脫了，也依舊是一個(gè)有缺憾的人。但他沒(méi)有直接這么表達(dá)，而是用了一個(gè)隱喻，科恩說(shuō)蛇也會(huì)為它的罪惡而感到彷徨不安，所以蛇會(huì)蛻皮，似乎這樣能褪去自己的罪惡。但在蛻皮后，蛇仍然非常脆弱，而且它的毒液已經(jīng)流遍了全身。也就是說(shuō)，即使你擺脫了上帝，擺脫了這種罪惡感，你仍然是一個(gè)有缺憾的人，你的人生仍然是非常痛苦的。
那么，ChatGPT是如何理解這個(gè)隱喻的呢？它說(shuō)蛇并不是為了自己的罪惡而蛻皮，這是因?yàn)樯咝枰M(jìn)行一個(gè)重大的生命轉(zhuǎn)變，這種轉(zhuǎn)變可以讓它變得更加強(qiáng)大和堅(jiān)韌。雖然它的重生可能并不開(kāi)心，但蛇也會(huì)從中學(xué)習(xí)，變得更加堅(jiān)強(qiáng)。
從這里可以看出ChatGPT的有幾個(gè)特征。第一，它不太了解人類文化里面典故的語(yǔ)言，它不知道蛇在《圣經(jīng)》里有怎樣的隱喻，蛇跟原罪、跟伊甸園之間的緊密關(guān)聯(lián)。因此，它只能就事論事來(lái)做一個(gè)闡述。第二，我發(fā)現(xiàn)ChatGPT的設(shè)定很講究“正能量”，如果你和它分享一個(gè)悲觀的觀點(diǎn)，它一定會(huì)從正面的角度去理解，給你加油鼓勁。所以它首先反駁了蛇的罪惡感，然后強(qiáng)調(diào)了蛇的蛻皮會(huì)讓它變得更好。第三，是ChatGPT無(wú)法從隱喻的角度理解這句話，不知道它在以蛇喻人。一來(lái)是ChatGPT沒(méi)有人類的這種困境，二來(lái)機(jī)器沒(méi)有經(jīng)驗(yàn)、沒(méi)有身體、沒(méi)有社會(huì)交往，所以它也很難理解隱喻的概念，不理解人類借此言彼的行為。
在我看來(lái)，每個(gè)人在使用日常語(yǔ)言的同時(shí)，也時(shí)刻在使用著創(chuàng)造力。因?yàn)樽匀徽Z(yǔ)言是如此“標(biāo)準(zhǔn)”，如果沒(méi)有創(chuàng)造力，人類是沒(méi)有辦法表達(dá)自身的。因此，自然語(yǔ)言使用所需要的創(chuàng)造力比我們想象更多，而ChatGPT目前仍然表現(xiàn)得像一個(gè)沒(méi)有領(lǐng)悟力的、乏味的對(duì)話者。至于它將來(lái)能不能夠成為一個(gè)有趣的對(duì)話者，我對(duì)此持高度懷疑，這或許是大型語(yǔ)言模型非常難以逾越的障礙。
伊甸園
許紀(jì)霖：我這兩天也和ChatGPT交流了很多，我的感受是：ChatGPT有著一流的邏輯，二流的知識(shí)，三流的文字。一流的邏輯，是因?yàn)樗惴ㄌ珔柡α?，整個(gè)對(duì)話非常流暢，它能理解你的語(yǔ)言和語(yǔ)境。雖然它的回答有時(shí)候會(huì)出錯(cuò)，但即便如此，它的邏輯依舊是清晰的。二流的知識(shí)，是因?yàn)樗挠⒄Z(yǔ)資料數(shù)據(jù)庫(kù)非常強(qiáng)大，可以說(shuō)是有問(wèn)必答；但和中國(guó)相關(guān)的知識(shí)卻比較欠缺，抓取的數(shù)據(jù)有時(shí)讓人啼笑皆非。三流的文字，是因?yàn)樗幕卮鸲际侨狈€(gè)性的。它就像一個(gè)合格的學(xué)術(shù)助手，文字非常規(guī)范，彬彬有禮，但是沒(méi)有個(gè)性，缺乏文采。
姜宇輝：在目前這個(gè)階段，我還沒(méi)有感覺(jué)到ChatGPT對(duì)我有巨大幫助，但相較于元宇宙的巨大泡沫，我對(duì)ChatGPT的判斷非常積極。我認(rèn)為它對(duì)人類知識(shí)的發(fā)展、寫(xiě)作的發(fā)展、思考的發(fā)展，將會(huì)帶來(lái)巨大的推動(dòng)或貢獻(xiàn)。
許多人都擔(dān)心人工智能發(fā)展的速度太快，擔(dān)心人類會(huì)淪為技術(shù)的奴隸。但在我看來(lái)，ChatGPT并不像一個(gè)敵人，而是一個(gè)助手，幫助我在學(xué)習(xí)、寫(xiě)論文、做研究的過(guò)程中完成重復(fù)性的工作和低端思考：包括搜索和分類資料、閱讀并概括文獻(xiàn)等等。在它的幫助下，人類能有更大的空間去發(fā)揮人類的思考或者知識(shí)的創(chuàng)造性。
當(dāng)然，許多朋友不太認(rèn)同這個(gè)觀點(diǎn)，他們覺(jué)得個(gè)人如果沒(méi)有完成重復(fù)性工作的經(jīng)歷，例如學(xué)習(xí)語(yǔ)言和知識(shí)，就不可能擁有知識(shí)的成長(zhǎng)。但在人工智能的時(shí)代，其實(shí)個(gè)人不需要花許多時(shí)間去從事那些重復(fù)的勞作。而是應(yīng)該關(guān)注更有創(chuàng)造力的工作。我之前看到過(guò)一個(gè)說(shuō)法：ChatGPT將徹底改變中國(guó)，乃至整個(gè)人類的教育模式。盡管許多人認(rèn)為國(guó)外的教育是啟發(fā)式的，中國(guó)是灌輸式的，但其實(shí)國(guó)外的教育體制中依舊有許多機(jī)械性、重復(fù)性的學(xué)習(xí)，而ChatGPT恰恰能分擔(dān)這些知識(shí)和語(yǔ)言的勞動(dòng)，讓教育承擔(dān)更多啟蒙的作用，激發(fā)人們的思維創(chuàng)造性和潛能。當(dāng)然，ChatGPT也有發(fā)生異化的可能，如果它的語(yǔ)言能力和知識(shí)能力遠(yuǎn)遠(yuǎn)超越人類的學(xué)習(xí)速度，那么它會(huì)不會(huì)反過(guò)來(lái)對(duì)人類會(huì)實(shí)施一種規(guī)訓(xùn)或操控？會(huì)不會(huì)讓人類在技術(shù)的領(lǐng)域里喪失自己的自由？
另一方面，人工智能也能對(duì)人類的情感進(jìn)行非常細(xì)致的分析甚至設(shè)計(jì)。我研究電子游戲比較多，在電子游戲里面有一個(gè)專門的詞叫“情感工程”。一個(gè)游戲之所以那么好玩，正是因?yàn)樗茉谟螒騼?nèi)精準(zhǔn)地去操控人類的情感細(xì)節(jié)，把控玩家的情感走向。總而言之，我依舊期待ChatGPT和人類之間的合作，去激發(fā)雙方的潛能。
許紀(jì)霖：宇輝提出的角度很有意思。我曾問(wèn)過(guò)ChatGPT：“你能不能像人類一樣地思考？”它表示自己不可能像人類一樣有自主意識(shí)和主觀體驗(yàn)，也不可能像人類一樣有創(chuàng)造性和判斷力，不能做出道德判斷。它表示盡管自己在某些方面表現(xiàn)出色，但它無(wú)法完全替代人類的思考，只能輔助人類完成一些任務(wù)。
那么，如果人工智能再進(jìn)化，它有沒(méi)有可能獲得一種智慧？一些理論認(rèn)為，智慧是通過(guò)經(jīng)驗(yàn)獲得的，這種經(jīng)驗(yàn)不僅是人的理性，也包括人的情感和意志。按照西方著名哲學(xué)家邁克爾·波蘭尼（Michael Polanyi）的說(shuō)法：所謂模糊性知識(shí)是不可言說(shuō)的，只能通過(guò)自己的實(shí)踐去體驗(yàn)，比如去學(xué)習(xí)駕駛或游泳等等，而缺少身體的人工智能似乎無(wú)法獲得這種體驗(yàn)，人工智能似乎也無(wú)法像人類那樣獲得智慧。
張笑宇：如果從這個(gè)角度出發(fā)，我們就問(wèn)錯(cuò)了問(wèn)題。人工智能不需要像人類那樣，去獲得模糊性的智慧。模糊性的智慧恰恰是人類感官和思考能力的局限，我們?yōu)榱税盐漳撤N東西，不得不去進(jìn)行所謂的玄學(xué)、冥想。但如果人工智能夠在其他學(xué)科的支持下，用暴力的數(shù)據(jù)手段得到直接的觀察、分析和解釋，它就不必追求模糊性的知識(shí)。所以我認(rèn)為人工智能沒(méi)有必要通過(guò)人類的道路來(lái)獲得智慧。
此外，如果我們事先對(duì)人工智能進(jìn)行教育，它或許能理解隱喻。它可能不理解你在聊什么，但它可以模仿你的語(yǔ)言。如果我們事先教過(guò)它某個(gè)隱喻是什么意思，它就可以在對(duì)話中自然運(yùn)用這種隱喻。其實(shí)從這個(gè)角度講，文學(xué)和思想史上使用過(guò)的隱喻也不過(guò)是對(duì)首創(chuàng)者的模仿。從這個(gè)角度否定人工智能可以像人類那樣擁有智慧其實(shí)不妥。我們可以由此提出一個(gè)思想實(shí)驗(yàn)，笛卡爾曾提出過(guò)“無(wú)所不能的惡魔”的概念：如果有一個(gè)無(wú)所不能的惡魔，它能控制你的一切感官，操縱你對(duì)外部世界的一切認(rèn)知，那么你的思想里還有什么是能夠確定的呢？那么，如果人工智能可以做一個(gè)無(wú)所不能的模仿者，雖然它本身沒(méi)有任何情感和智慧，也不能像人類這樣去思考，但它可以模仿一個(gè)具備這些能力的人。從這個(gè)角度來(lái)看，我們憑什么說(shuō)人工智能的智能比人類低級(jí)？除了人工智能沒(méi)有情感，沒(méi)有模糊性的智慧，并且不是人類外，我們是否還有其他的出發(fā)點(diǎn)和合法性，去質(zhì)疑人工智能的智慧？
第二，從社會(huì)功能和政治結(jié)構(gòu)的角度來(lái)講，人工智能可以在多大程度上替代人類，不取決于算法的上限，而是人類的下限。日常生活中大量的白領(lǐng)工作，本身就是以簡(jiǎn)單的交互方式進(jìn)行大量的重復(fù)勞動(dòng)。而且很多年輕人在剛畢業(yè)踏入社會(huì)時(shí)，從事的就是這類基礎(chǔ)性重復(fù)勞動(dòng)。比如助教、助理律師、助理文案。他們必須經(jīng)過(guò)長(zhǎng)期的鍛煉，才能成為高級(jí)人才。但現(xiàn)在他們的工作很容易被算法取代。由此帶來(lái)的問(wèn)題是，如果人工智能可以替代大量的基礎(chǔ)工作，會(huì)不會(huì)導(dǎo)致巨大的社會(huì)不公？這些技術(shù)進(jìn)步和社會(huì)結(jié)構(gòu)不公造成的內(nèi)卷，會(huì)不會(huì)在未來(lái)導(dǎo)致代際不公的問(wèn)題？
許紀(jì)霖：我對(duì)此有不同觀點(diǎn)。之前華東師范大學(xué)的會(huì)議上，有一位人工智能的專家表示，他們?cè)谘邪l(fā)過(guò)程中發(fā)現(xiàn)人工智能非常熟悉理性知識(shí)，人工智能難以掌握的，反而是那些類似小孩子的知識(shí)技能。因?yàn)樾『⒆拥囊恍┡袛嗖⒉皇腔诶硇裕且环N孩童式的直覺(jué)和悟性，而人工智能恰恰缺乏這些。笑宇剛剛的觀點(diǎn)其實(shí)涉及到我們對(duì)人的預(yù)設(shè)：將人理解為是一個(gè)理性人，但人類除了理性之外，還具有悟性和直覺(jué)。悟性和直覺(jué)是創(chuàng)造力的根本。從這點(diǎn)來(lái)說(shuō)，人究竟是什么？現(xiàn)在隨著科技的進(jìn)步，往往把人還原為一個(gè)理性人，但這恰恰是對(duì)人性非常淺薄的解讀。休謨有一句名言：理性只是情感的奴隸，這正是為了破除現(xiàn)代啟蒙給人帶來(lái)的迷思。這就涉及到Open AI設(shè)置的人工智能的局限，包括不為它添加情感。這其中也有倫理道德的考慮，如果ChatGPT有自身意志，還有豐富的情感，那么，AI真的將會(huì)變成一種自然人很難控制的新人類了。
金雯：我想接著許老師的觀點(diǎn)繼續(xù)，ChatGPT能很好地完成輔助工作，它不一定會(huì)大量削減人類的崗位，它甚至可以為許多工作者提供重要的輔助。這點(diǎn)我是完全贊同的，但我有兩點(diǎn)反對(duì)意見(jiàn)。首先，笑宇可能覺(jué)得人類中有少數(shù)的天才，他們是人類超越自身的希望，但大多數(shù)人類的下限實(shí)在太低，所以對(duì)人類充滿了失望和悲觀的情緒，也因此寄希望于某種新的智能。
笑宇之前說(shuō)悟性、模糊性都是基于人的局限性。但人類之所以能有我們引以為豪的情感，恰恰是因?yàn)槿擞形镔|(zhì)性的身體。情感就是物質(zhì)性身體在與外界的接觸中做出一種回應(yīng)。如果我們沒(méi)有身體，就不會(huì)做出回應(yīng)，無(wú)法被任何的變化所觸動(dòng)，我們的情感也不會(huì)存在。
那么有情感究竟是不是一件好事？如果從一個(gè)非常負(fù)面的角度來(lái)看，人類的一些特質(zhì)根本不值得我們?yōu)橹湴?，但人類文明和人類社?huì)之所以還值得我們?nèi)ゾS護(hù)，就是因?yàn)槟切┳顐ゴ蟮娜祟愄刭|(zhì)都基于人類的局限。人類的上限實(shí)際是以人類的下限為基礎(chǔ)的。
假如人沒(méi)有身體，人類的經(jīng)驗(yàn)和語(yǔ)言之間沒(méi)有任何鴻溝，他就沒(méi)有動(dòng)力去創(chuàng)造千變?nèi)f化的語(yǔ)言。事實(shí)上，人類最璀璨的文明恰恰基于人類的局限性。正如博爾赫斯在《永生》這個(gè)故事中所表達(dá)的：人類的最終局限就是人類會(huì)死的事實(shí)，人類有著速朽的肉體，但這也正是他們得以偉大的根由。正因?yàn)槿祟愑邢薜纳眢w會(huì)衰朽，他們才擁有自我意識(shí)，這個(gè)自我意識(shí)帶來(lái)了巨大的欣喜和狂歡，同時(shí)也帶來(lái)巨大的痛苦。為了應(yīng)對(duì)這種巨大的情緒起伏，人類才創(chuàng)造了自己的文明。
這個(gè)文明也有著致命的弱點(diǎn)，就是人的分化。ChatGPT，包括之前機(jī)械工具的產(chǎn)生都在提醒人類。人類社會(huì)有一種天然的傾向，就是讓精英有更多的時(shí)間去從事所謂的高級(jí)勞動(dòng)，將重復(fù)的簡(jiǎn)單勞動(dòng)交給“沒(méi)有天賦”的人。到了18世紀(jì)，這種傾向逐步演變成了勞動(dòng)分工理論：社會(huì)的生產(chǎn)系統(tǒng)要產(chǎn)生巨大的效應(yīng)，必須有一部分人從事簡(jiǎn)單的、急需的勞動(dòng)，讓另外一部分人做統(tǒng)籌、管理和創(chuàng)新的工作。ChatGPT的出現(xiàn)恰恰不是要推翻這種秩序，而是來(lái)加固所謂的階層分工。ChatGPT加強(qiáng)了一種極其錯(cuò)誤的思維：一部分人可以去做最復(fù)雜的工作，而另一部分人可以做最簡(jiǎn)單的工作。
這個(gè)思維之所以錯(cuò)誤有兩個(gè)原因。首先，所有最復(fù)雜的創(chuàng)造性工作，往往需要最簡(jiǎn)單的直覺(jué)，而這種直覺(jué)需要通過(guò)重復(fù)性勞動(dòng)才能涌現(xiàn)。比如你從來(lái)就沒(méi)有學(xué)過(guò)西班牙語(yǔ)，如果你一直依靠翻譯軟件把西班牙語(yǔ)翻譯成英語(yǔ)或中文，那么你就無(wú)法理解西班牙語(yǔ)的詩(shī)歌，你只能夠理解詩(shī)歌的大致含義，但無(wú)法理解詩(shī)歌本身。與之相似，這種人工智能的分工會(huì)抹殺人類所有的創(chuàng)造力。
第二，這在倫理上來(lái)說(shuō)是完全不可取的。在人工智能參與勞動(dòng)分工的未來(lái)，我們會(huì)被分成“奴隸”和“主人”兩個(gè)階層。但正因?yàn)橹魅瞬蛔龊?jiǎn)單的重復(fù)勞動(dòng)，他們也創(chuàng)造不出任何新的東西，只能反復(fù)地去做一些套路化的重復(fù)性工作。任何“創(chuàng)造”，即便是人工智能制作的畫(huà)面或電影，其靈感的基本內(nèi)核，還是來(lái)自于人的不可取代而時(shí)刻更新的在物質(zhì)性感官經(jīng)驗(yàn)和社會(huì)生活經(jīng)驗(yàn)，而不是來(lái)自對(duì)大眾化套路的重復(fù)。
也就是說(shuō)，社會(huì)在分化的過(guò)程中對(duì)每個(gè)階層都造成了巨大的傷害，那些自以為在上層的人，他們的創(chuàng)造力被抹殺；在中層或下層的人，他們的智能也沒(méi)法得到進(jìn)一步的開(kāi)拓，因?yàn)樗麄冎荒芫窒抻谧鲋貜?fù)的工作。所以從倫理上來(lái)說(shuō)，過(guò)度的勞動(dòng)分工會(huì)導(dǎo)致階層的巨大分化，對(duì)每個(gè)階層產(chǎn)生非常悲劇化的沖擊。ChatGPT的出現(xiàn)會(huì)加劇和固化人類的這種悲劇化傾向，不過(guò)也成為一種警示，提醒我們把人和機(jī)器分成等級(jí)將會(huì)帶來(lái)怎樣的危機(jī)。
舉一個(gè)最簡(jiǎn)單的例子，如果我們天天跟ChatGPT聊天，就會(huì)忘記自然語(yǔ)言的上限。人們會(huì)逐漸喪失表達(dá)自己的能力，無(wú)法理解自身，最終不能和他人進(jìn)行良性的互動(dòng)。人類的友情、愛(ài)情、任何的良性關(guān)系都會(huì)因此解體，人類社會(huì)將走向物理意義上的萎縮。這才是最大的危機(jī)。
張笑宇：我想對(duì)金老師對(duì)社會(huì)結(jié)構(gòu)和歷史的分析提出異議。歷史上所有的分層和分化，都是人類進(jìn)步的一個(gè)伴生物。我們不應(yīng)該否定分層結(jié)構(gòu)的合理性，而是要從中區(qū)分哪些人從中獲利是合理的，哪些人從中獲利是不合理的。例如瓦特發(fā)明了蒸汽機(jī)，牛頓發(fā)現(xiàn)了物理學(xué)的規(guī)律，袁隆平發(fā)明了雜交水稻，他們理應(yīng)獲得回報(bào)。 但在人類社會(huì)進(jìn)步的過(guò)程中，有一些人上人階層靠著暴力去搶奪，用不公正的政權(quán)去壓榨很多人，使得其他人無(wú)法實(shí)現(xiàn)自身的潛力，這就是不合理的。
盧德運(yùn)動(dòng)
沒(méi)有技術(shù)，人類社會(huì)結(jié)構(gòu)也已經(jīng)存在大量的不公，我們不需要把這些責(zé)任都?xì)w到技術(shù)上，也可以勇敢地正視和指出這些不公，造成這些不公的人才是我們要革命的對(duì)象。我們不能像工業(yè)革命時(shí)代的盧德運(yùn)動(dòng)一樣，把怨氣都指向機(jī)器，而是應(yīng)當(dāng)看到不公的社會(huì)現(xiàn)象首先是由不公的社會(huì)結(jié)構(gòu)造成的。如果我們認(rèn)同這種觀點(diǎn)，我們就會(huì)發(fā)現(xiàn)在人類歷史上，技術(shù)力量往往是幫助我們推翻不合理社會(huì)結(jié)構(gòu)的同盟軍，而不是敵人。我們需要意識(shí)到社會(huì)結(jié)構(gòu)已經(jīng)很不公了，社會(huì)上存在著太多圍著領(lǐng)導(dǎo)打轉(zhuǎn)的狗屁工作，而這才是導(dǎo)致人類越來(lái)越像機(jī)器的重要原因。我們要先去打破這些社會(huì)不公，只有這樣每個(gè)人才能去成為具有原創(chuàng)性的個(gè)體。
姜宇輝：歷史上的技術(shù)，包括ChatGPT都是雙刃劍。金老師感受到它對(duì)人性之中的真善美構(gòu)成了威脅；笑宇看到的則是更為解放的內(nèi)容。在這個(gè)技術(shù)剛起步的階段，我們應(yīng)該努力使它向更好的方向推進(jìn)，而不是上來(lái)就對(duì)它口誅筆伐。一直以來(lái)，我的立場(chǎng)就是：所有的科學(xué)家發(fā)明技術(shù)的初衷就是要造福人類?；蛟S在這個(gè)階段，人文科學(xué)學(xué)者可以和技術(shù)學(xué)者聯(lián)手，防止ChatGPT向邪惡的方向發(fā)展。
另外，我并不認(rèn)為只有少數(shù)人才能享受ChatGPT的益處。相反，當(dāng)ChatGPT承擔(dān)了人類的語(yǔ)言、知識(shí)、思考里那些重復(fù)的工作之后，每個(gè)人都可以激發(fā)出自身的潛能。但它的前提是社會(huì)能夠?yàn)槊總€(gè)人提供一些機(jī)會(huì)。技術(shù)的進(jìn)化需要與社會(huì)的進(jìn)化相結(jié)合。技術(shù)并不能解決所有的問(wèn)題，人類應(yīng)該行動(dòng)起來(lái)，配合技術(shù)的發(fā)展，讓社會(huì)變得更平等。
在人工智能出現(xiàn)之后，社會(huì)確實(shí)可能變得更加平等。因?yàn)槿斯ぶ悄懿幌袢祟惸菢?，存在各種歧視：種族歧視、性別歧視、地域歧視，甚至財(cái)富歧視，它不存在這些想法。從這一點(diǎn)來(lái)看，或許機(jī)器能更好地去制造一個(gè)平等的平臺(tái)，讓人在這個(gè)平臺(tái)上平等發(fā)揮個(gè)體的潛能。
但是，我也看到過(guò)一個(gè)批判元宇宙的外國(guó)學(xué)者提出的一個(gè)術(shù)語(yǔ)，叫“魚(yú)缸效應(yīng)”。他認(rèn)為所有的大眾都在魚(yú)缸里，從魚(yú)缸往外看，我們認(rèn)為自己很自由，能在水里自由自在地游動(dòng)；但實(shí)際上真正站在魚(yú)缸外，能夠去立法和控制我們的是少數(shù)的技術(shù)精英。因此，很多人認(rèn)為人工智能會(huì)造成人類有史以來(lái)最大的不平等，并且是一種智性的不平等。如果一個(gè)人比你聰明，他的思考能力比你強(qiáng)，他就能夠牢牢地把大眾踩在腳下。但我個(gè)人還是相信，ChatGPT可以將人類從繁重的勞動(dòng)中解放出來(lái)。并且我認(rèn)為，如果給每個(gè)人都提供機(jī)會(huì)，每個(gè)人都可能會(huì)成為非常高超的創(chuàng)造者；正是現(xiàn)代社會(huì)中制度化的崗位，重復(fù)化的勞動(dòng)使得他們沒(méi)有空間去實(shí)現(xiàn)自己的潛能。
最后我也想做一個(gè)展望，人類歷史上那些偉大的文明成果有其不可取代的地位，但下一波的創(chuàng)造可能不再是由人類單純地通過(guò)語(yǔ)言，通過(guò)符號(hào)，通過(guò)傳統(tǒng)來(lái)實(shí)現(xiàn)。相反，下一波的創(chuàng)造會(huì)是人和機(jī)器共同攜手，機(jī)器將會(huì)為人類提供靈感和動(dòng)力。
許紀(jì)霖：宇輝的期待讓我想起Open AI的聯(lián)合創(chuàng)始人格雷格·布魯克曼（Greg Brockman）的浪漫主義想象。他曾提出，人工智能和智能機(jī)器人會(huì)替代所有的工作，未來(lái)社會(huì)的勞動(dòng)力成本將會(huì)是零。今后所有人只需要基本收入，然后就可以成為一個(gè)自由的人，這或許能打破今天資本主義的不平等現(xiàn)狀。
但至少?gòu)哪壳皝?lái)看，這種愿景恐怕是一個(gè)新的烏托邦。因?yàn)樵谌斯ぶ悄艿拈_(kāi)發(fā)公司背后，支撐著他們的是互聯(lián)網(wǎng)巨頭企業(yè)。這些互聯(lián)網(wǎng)巨頭曾經(jīng)歷過(guò)互聯(lián)網(wǎng)的誕生，在互聯(lián)網(wǎng)出現(xiàn)時(shí)，人們也曾覺(jué)得一個(gè)真正意義上的無(wú)政府主義時(shí)代將要到來(lái)，每個(gè)人終于有了平等的表達(dá)權(quán)利。但經(jīng)過(guò)互聯(lián)網(wǎng)的多次迭代后，這個(gè)社會(huì)反而變得更加不平等了。全球的資源、財(cái)富、技術(shù)、人才，越來(lái)越向頭部國(guó)家和企業(yè)集中。從現(xiàn)實(shí)層面來(lái)看，每一次技術(shù)的進(jìn)步背后都有資本的推動(dòng)，這種現(xiàn)象的背后就是贏者通吃。所有的資源、人才、技術(shù)都集中在那幾個(gè)寡頭那里。
所以未來(lái)是否會(huì)出現(xiàn)自由平等的烏托邦？社會(huì)是否會(huì)變得更加撕裂，甚至出現(xiàn)新的等級(jí)秩序？關(guān)于這些問(wèn)題，其中有些部分我們可以想象，有些部分只能走著看。從這點(diǎn)來(lái)說(shuō)，我相信晚清的章太炎先生提出的“俱分進(jìn)化論”：他認(rèn)為善在進(jìn)步，惡也在進(jìn)步，道高一尺，魔高一丈。技術(shù)上的每一次進(jìn)步都會(huì)伴隨另外一方面的退步。過(guò)分的樂(lè)觀不可取，過(guò)分的悲觀也是多余的，因?yàn)闅v史上的人類總是在一種矛盾的處境中迎來(lái)發(fā)展，人類的困境依然是永恒的。
鄂公網(wǎng)安備 42010302001612號(hào) 