下午六點(diǎn)，神經(jīng)精神病研究室主任羅杰。麥克弗森上七摟查看他的病人。至少他認(rèn)為本森是他的病人，這是一種業(yè)主的感受，但并不完全正確。沒有麥克弗森憂不會有神經(jīng)精神病研究室，沒有神經(jīng)精神病研究室就不會有腦外科手術(shù)，電就不會有本森。他就是這樣認(rèn)為的。
?。罚保胺块g里靜悄悄的，沐浴在落日的紅霞中。本森好像在睡覺，但麥克弗森關(guān)門時(shí)他睜開了眼睛。
“你感覺怎么樣？”麥克弗森說著朝病床走去。
本森微微一笑?！罢l都想知道這個(gè)，”他說。
麥克弗森也朝他笑笑。“這是很自然的?！?br/>
“我累，就這感覺，很累……有時(shí)我想我是一顆滴答作響的定時(shí)炸彈，你們都想知道我什么時(shí)候爆炸?！?br/>
“這就是你的想法嗎？”麥克弗森問。
他習(xí)慣性地動動本森的被子，以便觀察靜脈輸液管。輸液管一切正常。
“滴答滴答?！北旧f著又閉上了眼睛。“滴答滴答?！?br/>
麥克弗森緊皺雙眉。他已習(xí)慣本森用機(jī)械來作比喻，不管怎么說，本森滿腦子想的都是人就是機(jī)器。但手術(shù)結(jié)束不久就出現(xiàn)這種想法……
“疼嗎？”
“不疼。耳朵后面稍許有一點(diǎn)，就像摔倒了一下。其它沒什么?！?br/>
麥克弗森知道這是頭蓋骨被鉆孔之后的疼。
“摔倒？”
“我就是一個(gè)摔倒的人，”本森說，“我屈服了。”
“向什么屈服了？”
“把我變成一臺機(jī)器的過程屈服了?！彼直犻_眼睛笑笑?！盎蛘咭活w定時(shí)炸彈?！?br/>
“聞到什么味道嗎？有什么奇特的感受？”麥克弗森邊問邊朝病床上方的腦電圖掃描器看了一眼。掃描器顯示的仍然是α圖像，沒有任何發(fā)作活動的跡象。
“沒有，沒有那種感覺?！?br/>
“可你感到好像是要爆炸似的？”他想羅斯該來問這些問題。
“有點(diǎn)，”本森說，“在即將來臨的戰(zhàn)爭中，我們也許都會爆炸。”
“這話怎么說？”
“在即將來臨的人與機(jī)器的戰(zhàn)爭中，你知道，人腦已經(jīng)不管用。”
這是新的看法，麥克弗森以前沒聽本森說過。他注視著躺在床上的本森，本森的頭上肩上都扎滿了繃帶，使他的上身和頭部顯得笨重和臃腫。
“是的，”本森說，“人腦已走到盡頭，它已疲憊不堪，于是它生育了下一代的智慧形式。它們將——我為什么會這樣累？”他又閉上眼睛。
“你沒有力氣是手術(shù)的緣故?！?br/>
“一個(gè)小步驟?！彼f完閉著眼睛笑笑。轉(zhuǎn)眼間他已鼾聲大作。
麥克弗森在病床旁站了片刻，然后轉(zhuǎn)向窗戶望著落日在太平洋上空徐徐西沉。本森的房間真不錯(cuò)，可以在圣莫尼卡的高樓大廈之間看到一方海水。他又站了幾分鐘，本森沒有醒過來。最后，麥克弗森走出病房，去護(hù)士辦公室做病情記錄。
病人機(jī)靈、敏感，已適應(yīng)一切。他寫到這里停了下來，他并不真的知道本森是否已適應(yīng)他人、環(huán)境和時(shí)間，因?yàn)樗麤]做具體的檢查。不過病人確實(shí)機(jī)靈又敏感，麥克弗森繼續(xù)往下寫。思路清晰有序，但他的腦子里仍有術(shù)前的機(jī)器形象。下結(jié)論還為時(shí)過早，可似乎病人早些時(shí)候的預(yù)言是正確的，手術(shù)無法改變他不在發(fā)作時(shí)的精神狀態(tài)。
簽名：羅杰·Ａ。麥克弗森，醫(yī)學(xué)博士。
他朝自己的簽名看了片刻，接著合上病歷表，將它擺上架子。這病情記錄寫得不錯(cuò)，冷靜、直接，沒有虛假的預(yù)料。病歷表不管怎么說是具有法律效應(yīng)的，可以在法庭上作證。麥克弗森不想在法庭上看到本森的病歷表，但小心謹(jǐn)慎總不會是壞事。
任何一個(gè)大科學(xué)實(shí)驗(yàn)室的頭頭都有一種政治功能。你也許不承認(rèn)這種功能，你也許不喜歡這種功能，但它又確確實(shí)實(shí)是這個(gè)職位必不可少的組成部分。
你得使手下的人一起工作時(shí)保持快樂。和純政治一樣，不守紀(jì)律者愈多，你的工作就愈是難做。
你得為你的實(shí)驗(yàn)室到外面去爭取基金，這也是純粹的政治。如果你在神經(jīng)精神病研究室這種棘手的部門工作，情況就更是如此。麥克弗森早已形成一套申請獲得批準(zhǔn)的辣根過氧化物酶原則。這很簡單：你申請經(jīng)費(fèi)時(shí)要宣布這筆經(jīng)費(fèi)將用于尋找酶辣根過氧化物酶，它可能會產(chǎn)生治愈癌癥的方法。你便能輕而易舉地為項(xiàng)目申請到六萬美元的經(jīng)費(fèi)，然而要是搞思維工程你連六角錢也休想弄到手。
他望著架子上的一排病歷表，這是一排陌生的名字，７１０病房的本森這個(gè)名字在其中消失得無影無蹤。他心里想，本森的話從某種意義上說是正確的——他是一顆活著的定時(shí)炸彈。一個(gè)接受思維控制技術(shù)治療的人會遇上公眾的各種非理性的偏見。用于“心臟控制”的心臟起搏器被認(rèn)為是神奇的發(fā)明；用藥物進(jìn)行的“腎臟控制”是件幸事，但“大腦控制”是罪惡，是災(zāi)難——即便神經(jīng)精神病研究室的控制工程和其它器官的控制工程極為相似，甚至連技術(shù)都是類同的：他們現(xiàn)在使用的原子能充電器原先是為心臟病人研制的。
但是偏見不會改變。本森認(rèn)為自己是一顆滴答作響的定時(shí)炸彈。麥克弗森嘆了口氣，又找出他的病歷表，翻到醫(yī)囑部分。埃利斯和莫里斯兩人都在上面寫了術(shù)后照料囑咐。麥克弗森作了補(bǔ)充：“明天上午接合后，開始用氯丙嗪?！?br/>
他看看囑咐，肯定護(hù)士不會懂什么叫接合。他涂改后重新寫道：“明天中午后開始用氯丙嗪。”
離開七樓時(shí)，他心想本森一旦用了氯丙嗓會休息得更好?；蛟S他們無法卸除定時(shí)炸彈的引信——但他們當(dāng)然可把它扔進(jìn)一桶冷水。
深夜，格哈得在遠(yuǎn)程信息處理房里焦急地注視著計(jì)算機(jī)控制臺。他輸入了更多的指令，然后走到一臺打印機(jī)前，開始查看長長的綠條打印紙。他在紙上匆匆掃視，尋找他知道出現(xiàn)在程序中的那個(gè)錯(cuò)誤。
計(jì)算機(jī)本身從不犯錯(cuò)。格哈得已用了差不多十年的計(jì)算機(jī)——在不同的地方使用過不同的機(jī)型——他從沒見過計(jì)算機(jī)犯錯(cuò)。當(dāng)然，錯(cuò)誤一直有，但從來就是程序出錯(cuò)，而不是機(jī)器出錯(cuò)。有時(shí)候，計(jì)算機(jī)不出差錯(cuò)反而使人難以接受。首先它不符合人們對世界的其它方面的看法，其它方面的機(jī)器一直在出差錯(cuò)——保險(xiǎn)絲燒斷，立體聲裝置出故障，烤爐過熱，汽車發(fā)動不起來?，F(xiàn)代人沒有指望機(jī)器不出差錯(cuò)。
但計(jì)算機(jī)完全不同，和計(jì)算機(jī)合作會使你丟盡臉面。它們從不出錯(cuò)，事情就這么簡單。即使你花幾個(gè)星期找出了問題的根源，即使程序經(jīng)過了不同的人的十幾次檢查，即使全體人員慢慢得出結(jié)論這次是計(jì)算機(jī)線路出了毛病——到頭來出錯(cuò)的結(jié)果還是人。永遠(yuǎn)如此。
理查茲走進(jìn)來，脫下運(yùn)動外套，為自己倒了一杯咖啡?！霸趺礃?？”
格哈得搖搖頭。“我很難操作喬治?！?br/>
“又不靈了？真見鬼?！崩聿槠澩刂婆_?！艾斏鯓?？”
“瑪莎沒問題。我想就是喬治不行?！?br/>
“是哪個(gè)喬治？”
“圣喬治，”格哈得說，“真是個(gè)混蛋?！?br/>
理查茲呷了口咖啡，在控制臺前坐了下來?！拔襾碓囋嚱橐鈫幔俊?br/>
“請吧，”格哈得說。
理查茲快速按動鍵鈕，先調(diào)出圣喬治的程序，再調(diào)出瑪莎的程序，接著按下了交互作用鍵。
理查茲和格哈得沒有設(shè)計(jì)這些程序，它們是從其它大學(xué)研制的幾套現(xiàn)存計(jì)算機(jī)程序修改得來的，但其基本思想是相同的——創(chuàng)造一種能使計(jì)算機(jī)變得像人一樣有感情的程序。所以把這些程序稱作喬治和瑪莎也就合乎情理了。先例在這之前已經(jīng)有過：波士頓的伊麗莎和英格蘭的奧爾德斯。
喬治和瑪莎這兩種程序基本相同，相互之間只有細(xì)微的區(qū)別。起先設(shè)計(jì)的喬治對刺激的反應(yīng)是中性的，接著又創(chuàng)造了瑪莎。瑪莎有點(diǎn)傲慢，大多數(shù)事情她不喜歡。最后制定出了另一個(gè)喬治，一個(gè)可愛的喬治，他被叫做圣喬治。
每套程序能有三種感情的反應(yīng)——愛、恐懼和憤怒。每套程序能產(chǎn)生三種行為——靠近、后退和進(jìn)攻。所有這些當(dāng)然都是高度抽象的，執(zhí)行是用數(shù)字來表示的。例如，起先的喬治對大多數(shù)數(shù)字的反應(yīng)是中性的，但他不喜歡７５１這個(gè)數(shù)字，是設(shè)計(jì)成這樣的。他因此也不喜歡相似的數(shù)字－７４３，７７２等。他很喜歡諸如４０４，１３３和９１８這樣的數(shù)字。如果你輸入其中的一個(gè)，喬治便顯示出一系列表示愛和親近的數(shù)字。如果你輸入７０７，喬治便后退。如果你輸入７５０，喬治便用他輸出的數(shù)字發(fā)動憤怒的進(jìn)攻。
神經(jīng)精神病研究室的研究人員長期以來一直用這種方法玩程序，之后他們采納各種程序修改意見讓計(jì)算機(jī)“交談”。數(shù)字被譯成句子。這很逗人，也很發(fā)人深省。真正的交互作用被叫做“圣誕游戲”，因?yàn)榇蠖鄶?shù)游戲玩的是贈送和接受禮物——這些東西正像數(shù)字一樣具有設(shè)定的感情價(jià)值。
正常的喬治和瑪莎交往，那么喬治最終會贏得瑪莎，而她的傲慢會失去優(yōu)勢。
但圣喬治對她產(chǎn)生的影響要差得多。他表示愛的受禮逼得她難以忍受。如果一切正常的話，那情況就是這樣。理查茲望著句子在屏幕上閃現(xiàn)出來。
你好，我是圣喬治
你好
你叫什么名字？
瑪莎。
你不太講話，瑪莎。
是的
可我喜歡你。
為什么我不喜歡你。
這我理解。我怎樣才能幫助你？
“有時(shí)沒有句號，”理查茲問，“這是什么時(shí)候開始的？”
“這沒關(guān)系，”格哈得說，“往下看?！?br/>
幫助我？
是的，我想幫助你。
給你一只貓。
理查茲皺眉蹙額。貓是程序設(shè)計(jì)中喬治和瑪莎都不喜歡的東西。給喬治一只貓是充滿敵意的行為。
謝謝你
再給你一只貓。
謝謝你你真好。
再給你一只貓。
不，謝謝你。
難道你不喜歡貓嗎？
喜歡可我的貓已經(jīng)夠多了。
給你一只大猩猩。
“真是糟透了，”理查茲說，“其它的交互作用怎么樣？”
“大同小異，”格哈得說。
“和這一樣糟？”
“差不多?！?br/>
他們現(xiàn)在已習(xí)慣這種看法，認(rèn)為計(jì)算機(jī)交互作用的時(shí)候，結(jié)果是不可預(yù)料的。交互作用的一般形式可以猜到，但具體的結(jié)果是不定的。這就像計(jì)算機(jī)下跳棋——它或許會贏，但每次贏的方法是不同的，這要取決于對手怎么下。
我不想要大猩猩。
難道你不喜歡大猩猩？
不喜歡謝謝你。
你太客氣了。
如果我冒犯了你請多原諒。
你的話大多。
對不起。
給你一只茄子。
理查茲饒有興致地望著。圣喬治沒有茄子的背景資料，但他不喜歡黃瓜和香蕉。
不，謝謝你。
難道你不喜歡茄子？
不太喜歡。
再給你一只。
不，謝謝你。
我要你拿著。
不，謝謝你。
快拿吧。
不，謝謝你。
我一定要給你。
不，謝謝你。
“圣喬治怎么啦？，”理查茲問，“他的反應(yīng)完全沒有兩樣?！?br/>
“這真是我想不通的地方。”
“他的程序里都是些什么？”
“你進(jìn)來時(shí)我正在檢查。”
我一定要給你一根黃瓜。
我拒絕。
“喬治！”理查茲幾乎不假思索地喊了一聲。
那就拿個(gè)香蕉吧。
不。
“喬治出故障了，”理查茲說，“他不再是個(gè)圣人?！?br/>
那就拿一個(gè)香蕉和一根黃瓜。
不，謝謝你。
我一定要給你。
去你的我宰了你：：：：：：：：：：：：：：：：：：：
：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：
?。海海海海海海海海海海海海海海海海海海海海海海海海海海海海海海海海海?br/>
屏幕上全是白點(diǎn)?！斑@是什么意思，是打印不出來的反應(yīng)？”理查茲問。
“我不知道。我以前從未見過這白點(diǎn)?！?br/>
“這程序用過多少次了？”理查茲問。
“一百一十次，用于瑪莎的。”
“有誰擦過嗎？”
“沒有。”
“真見鬼，”理查茲說，“他正在成為一個(gè)脾氣暴躁的圣人?！彼肿煨πΑ！拔覀兛梢园堰@個(gè)補(bǔ)寫進(jìn)去?！?br/>
格哈得點(diǎn)點(diǎn)頭又回到打印機(jī)跟前。從理論上說，發(fā)生的這一切并不叫人疑惑。喬治和瑪莎的程序里都有向經(jīng)驗(yàn)學(xué)習(xí)的設(shè)計(jì)。就像下跳棋的程序一樣——計(jì)算機(jī)越下越聰明——在這個(gè)程序的設(shè)計(jì)中計(jì)算機(jī)會“習(xí)得”對事物新的反應(yīng)。經(jīng)過一百一十次的考驗(yàn)，圣喬治突然不做圣人了。他正在學(xué)習(xí)不在瑪莎面前做圣人——即便他是為做圣人而設(shè)計(jì)的。
“我知道他有何感受?！崩聿槠澱f完關(guān)掉機(jī)器，隨后他走到格哈得身旁，尋找導(dǎo)致這一切發(fā)生的程序錯(cuò)誤。
?。罚保胺块g里靜悄悄的，沐浴在落日的紅霞中。本森好像在睡覺，但麥克弗森關(guān)門時(shí)他睜開了眼睛。
“你感覺怎么樣？”麥克弗森說著朝病床走去。
本森微微一笑?！罢l都想知道這個(gè)，”他說。
麥克弗森也朝他笑笑。“這是很自然的?！?br/>
“我累，就這感覺，很累……有時(shí)我想我是一顆滴答作響的定時(shí)炸彈，你們都想知道我什么時(shí)候爆炸?！?br/>
“這就是你的想法嗎？”麥克弗森問。
他習(xí)慣性地動動本森的被子，以便觀察靜脈輸液管。輸液管一切正常。
“滴答滴答?！北旧f著又閉上了眼睛。“滴答滴答?！?br/>
麥克弗森緊皺雙眉。他已習(xí)慣本森用機(jī)械來作比喻，不管怎么說，本森滿腦子想的都是人就是機(jī)器。但手術(shù)結(jié)束不久就出現(xiàn)這種想法……
“疼嗎？”
“不疼。耳朵后面稍許有一點(diǎn)，就像摔倒了一下。其它沒什么?！?br/>
麥克弗森知道這是頭蓋骨被鉆孔之后的疼。
“摔倒？”
“我就是一個(gè)摔倒的人，”本森說，“我屈服了。”
“向什么屈服了？”
“把我變成一臺機(jī)器的過程屈服了?！彼直犻_眼睛笑笑?！盎蛘咭活w定時(shí)炸彈?！?br/>
“聞到什么味道嗎？有什么奇特的感受？”麥克弗森邊問邊朝病床上方的腦電圖掃描器看了一眼。掃描器顯示的仍然是α圖像，沒有任何發(fā)作活動的跡象。
“沒有，沒有那種感覺?！?br/>
“可你感到好像是要爆炸似的？”他想羅斯該來問這些問題。
“有點(diǎn)，”本森說，“在即將來臨的戰(zhàn)爭中，我們也許都會爆炸。”
“這話怎么說？”
“在即將來臨的人與機(jī)器的戰(zhàn)爭中，你知道，人腦已經(jīng)不管用。”
這是新的看法，麥克弗森以前沒聽本森說過。他注視著躺在床上的本森，本森的頭上肩上都扎滿了繃帶，使他的上身和頭部顯得笨重和臃腫。
“是的，”本森說，“人腦已走到盡頭，它已疲憊不堪，于是它生育了下一代的智慧形式。它們將——我為什么會這樣累？”他又閉上眼睛。
“你沒有力氣是手術(shù)的緣故?！?br/>
“一個(gè)小步驟?！彼f完閉著眼睛笑笑。轉(zhuǎn)眼間他已鼾聲大作。
麥克弗森在病床旁站了片刻，然后轉(zhuǎn)向窗戶望著落日在太平洋上空徐徐西沉。本森的房間真不錯(cuò)，可以在圣莫尼卡的高樓大廈之間看到一方海水。他又站了幾分鐘，本森沒有醒過來。最后，麥克弗森走出病房，去護(hù)士辦公室做病情記錄。
病人機(jī)靈、敏感，已適應(yīng)一切。他寫到這里停了下來，他并不真的知道本森是否已適應(yīng)他人、環(huán)境和時(shí)間，因?yàn)樗麤]做具體的檢查。不過病人確實(shí)機(jī)靈又敏感，麥克弗森繼續(xù)往下寫。思路清晰有序，但他的腦子里仍有術(shù)前的機(jī)器形象。下結(jié)論還為時(shí)過早，可似乎病人早些時(shí)候的預(yù)言是正確的，手術(shù)無法改變他不在發(fā)作時(shí)的精神狀態(tài)。
簽名：羅杰·Ａ。麥克弗森，醫(yī)學(xué)博士。
他朝自己的簽名看了片刻，接著合上病歷表，將它擺上架子。這病情記錄寫得不錯(cuò)，冷靜、直接，沒有虛假的預(yù)料。病歷表不管怎么說是具有法律效應(yīng)的，可以在法庭上作證。麥克弗森不想在法庭上看到本森的病歷表，但小心謹(jǐn)慎總不會是壞事。
任何一個(gè)大科學(xué)實(shí)驗(yàn)室的頭頭都有一種政治功能。你也許不承認(rèn)這種功能，你也許不喜歡這種功能，但它又確確實(shí)實(shí)是這個(gè)職位必不可少的組成部分。
你得使手下的人一起工作時(shí)保持快樂。和純政治一樣，不守紀(jì)律者愈多，你的工作就愈是難做。
你得為你的實(shí)驗(yàn)室到外面去爭取基金，這也是純粹的政治。如果你在神經(jīng)精神病研究室這種棘手的部門工作，情況就更是如此。麥克弗森早已形成一套申請獲得批準(zhǔn)的辣根過氧化物酶原則。這很簡單：你申請經(jīng)費(fèi)時(shí)要宣布這筆經(jīng)費(fèi)將用于尋找酶辣根過氧化物酶，它可能會產(chǎn)生治愈癌癥的方法。你便能輕而易舉地為項(xiàng)目申請到六萬美元的經(jīng)費(fèi)，然而要是搞思維工程你連六角錢也休想弄到手。
他望著架子上的一排病歷表，這是一排陌生的名字，７１０病房的本森這個(gè)名字在其中消失得無影無蹤。他心里想，本森的話從某種意義上說是正確的——他是一顆活著的定時(shí)炸彈。一個(gè)接受思維控制技術(shù)治療的人會遇上公眾的各種非理性的偏見。用于“心臟控制”的心臟起搏器被認(rèn)為是神奇的發(fā)明；用藥物進(jìn)行的“腎臟控制”是件幸事，但“大腦控制”是罪惡，是災(zāi)難——即便神經(jīng)精神病研究室的控制工程和其它器官的控制工程極為相似，甚至連技術(shù)都是類同的：他們現(xiàn)在使用的原子能充電器原先是為心臟病人研制的。
但是偏見不會改變。本森認(rèn)為自己是一顆滴答作響的定時(shí)炸彈。麥克弗森嘆了口氣，又找出他的病歷表，翻到醫(yī)囑部分。埃利斯和莫里斯兩人都在上面寫了術(shù)后照料囑咐。麥克弗森作了補(bǔ)充：“明天上午接合后，開始用氯丙嗪?！?br/>
他看看囑咐，肯定護(hù)士不會懂什么叫接合。他涂改后重新寫道：“明天中午后開始用氯丙嗪。”
離開七樓時(shí)，他心想本森一旦用了氯丙嗓會休息得更好?；蛟S他們無法卸除定時(shí)炸彈的引信——但他們當(dāng)然可把它扔進(jìn)一桶冷水。
深夜，格哈得在遠(yuǎn)程信息處理房里焦急地注視著計(jì)算機(jī)控制臺。他輸入了更多的指令，然后走到一臺打印機(jī)前，開始查看長長的綠條打印紙。他在紙上匆匆掃視，尋找他知道出現(xiàn)在程序中的那個(gè)錯(cuò)誤。
計(jì)算機(jī)本身從不犯錯(cuò)。格哈得已用了差不多十年的計(jì)算機(jī)——在不同的地方使用過不同的機(jī)型——他從沒見過計(jì)算機(jī)犯錯(cuò)。當(dāng)然，錯(cuò)誤一直有，但從來就是程序出錯(cuò)，而不是機(jī)器出錯(cuò)。有時(shí)候，計(jì)算機(jī)不出差錯(cuò)反而使人難以接受。首先它不符合人們對世界的其它方面的看法，其它方面的機(jī)器一直在出差錯(cuò)——保險(xiǎn)絲燒斷，立體聲裝置出故障，烤爐過熱，汽車發(fā)動不起來?，F(xiàn)代人沒有指望機(jī)器不出差錯(cuò)。
但計(jì)算機(jī)完全不同，和計(jì)算機(jī)合作會使你丟盡臉面。它們從不出錯(cuò)，事情就這么簡單。即使你花幾個(gè)星期找出了問題的根源，即使程序經(jīng)過了不同的人的十幾次檢查，即使全體人員慢慢得出結(jié)論這次是計(jì)算機(jī)線路出了毛病——到頭來出錯(cuò)的結(jié)果還是人。永遠(yuǎn)如此。
理查茲走進(jìn)來，脫下運(yùn)動外套，為自己倒了一杯咖啡?！霸趺礃?？”
格哈得搖搖頭。“我很難操作喬治?！?br/>
“又不靈了？真見鬼?！崩聿槠澩刂婆_?！艾斏鯓?？”
“瑪莎沒問題。我想就是喬治不行?！?br/>
“是哪個(gè)喬治？”
“圣喬治，”格哈得說，“真是個(gè)混蛋?！?br/>
理查茲呷了口咖啡，在控制臺前坐了下來?！拔襾碓囋嚱橐鈫幔俊?br/>
“請吧，”格哈得說。
理查茲快速按動鍵鈕，先調(diào)出圣喬治的程序，再調(diào)出瑪莎的程序，接著按下了交互作用鍵。
理查茲和格哈得沒有設(shè)計(jì)這些程序，它們是從其它大學(xué)研制的幾套現(xiàn)存計(jì)算機(jī)程序修改得來的，但其基本思想是相同的——創(chuàng)造一種能使計(jì)算機(jī)變得像人一樣有感情的程序。所以把這些程序稱作喬治和瑪莎也就合乎情理了。先例在這之前已經(jīng)有過：波士頓的伊麗莎和英格蘭的奧爾德斯。
喬治和瑪莎這兩種程序基本相同，相互之間只有細(xì)微的區(qū)別。起先設(shè)計(jì)的喬治對刺激的反應(yīng)是中性的，接著又創(chuàng)造了瑪莎。瑪莎有點(diǎn)傲慢，大多數(shù)事情她不喜歡。最后制定出了另一個(gè)喬治，一個(gè)可愛的喬治，他被叫做圣喬治。
每套程序能有三種感情的反應(yīng)——愛、恐懼和憤怒。每套程序能產(chǎn)生三種行為——靠近、后退和進(jìn)攻。所有這些當(dāng)然都是高度抽象的，執(zhí)行是用數(shù)字來表示的。例如，起先的喬治對大多數(shù)數(shù)字的反應(yīng)是中性的，但他不喜歡７５１這個(gè)數(shù)字，是設(shè)計(jì)成這樣的。他因此也不喜歡相似的數(shù)字－７４３，７７２等。他很喜歡諸如４０４，１３３和９１８這樣的數(shù)字。如果你輸入其中的一個(gè)，喬治便顯示出一系列表示愛和親近的數(shù)字。如果你輸入７０７，喬治便后退。如果你輸入７５０，喬治便用他輸出的數(shù)字發(fā)動憤怒的進(jìn)攻。
神經(jīng)精神病研究室的研究人員長期以來一直用這種方法玩程序，之后他們采納各種程序修改意見讓計(jì)算機(jī)“交談”。數(shù)字被譯成句子。這很逗人，也很發(fā)人深省。真正的交互作用被叫做“圣誕游戲”，因?yàn)榇蠖鄶?shù)游戲玩的是贈送和接受禮物——這些東西正像數(shù)字一樣具有設(shè)定的感情價(jià)值。
正常的喬治和瑪莎交往，那么喬治最終會贏得瑪莎，而她的傲慢會失去優(yōu)勢。
但圣喬治對她產(chǎn)生的影響要差得多。他表示愛的受禮逼得她難以忍受。如果一切正常的話，那情況就是這樣。理查茲望著句子在屏幕上閃現(xiàn)出來。
你好，我是圣喬治
你好
你叫什么名字？
瑪莎。
你不太講話，瑪莎。
是的
可我喜歡你。
為什么我不喜歡你。
這我理解。我怎樣才能幫助你？
“有時(shí)沒有句號，”理查茲問，“這是什么時(shí)候開始的？”
“這沒關(guān)系，”格哈得說，“往下看?！?br/>
幫助我？
是的，我想幫助你。
給你一只貓。
理查茲皺眉蹙額。貓是程序設(shè)計(jì)中喬治和瑪莎都不喜歡的東西。給喬治一只貓是充滿敵意的行為。
謝謝你
再給你一只貓。
謝謝你你真好。
再給你一只貓。
不，謝謝你。
難道你不喜歡貓嗎？
喜歡可我的貓已經(jīng)夠多了。
給你一只大猩猩。
“真是糟透了，”理查茲說，“其它的交互作用怎么樣？”
“大同小異，”格哈得說。
“和這一樣糟？”
“差不多?！?br/>
他們現(xiàn)在已習(xí)慣這種看法，認(rèn)為計(jì)算機(jī)交互作用的時(shí)候，結(jié)果是不可預(yù)料的。交互作用的一般形式可以猜到，但具體的結(jié)果是不定的。這就像計(jì)算機(jī)下跳棋——它或許會贏，但每次贏的方法是不同的，這要取決于對手怎么下。
我不想要大猩猩。
難道你不喜歡大猩猩？
不喜歡謝謝你。
你太客氣了。
如果我冒犯了你請多原諒。
你的話大多。
對不起。
給你一只茄子。
理查茲饒有興致地望著。圣喬治沒有茄子的背景資料，但他不喜歡黃瓜和香蕉。
不，謝謝你。
難道你不喜歡茄子？
不太喜歡。
再給你一只。
不，謝謝你。
我要你拿著。
不，謝謝你。
快拿吧。
不，謝謝你。
我一定要給你。
不，謝謝你。
“圣喬治怎么啦？，”理查茲問，“他的反應(yīng)完全沒有兩樣?！?br/>
“這真是我想不通的地方。”
“他的程序里都是些什么？”
“你進(jìn)來時(shí)我正在檢查。”
我一定要給你一根黃瓜。
我拒絕。
“喬治！”理查茲幾乎不假思索地喊了一聲。
那就拿個(gè)香蕉吧。
不。
“喬治出故障了，”理查茲說，“他不再是個(gè)圣人?！?br/>
那就拿一個(gè)香蕉和一根黃瓜。
不，謝謝你。
我一定要給你。
去你的我宰了你：：：：：：：：：：：：：：：：：：：
：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：
?。海海海海海海海海海海海海海海海海海海海海海海海海海海海海海海海海海?br/>
屏幕上全是白點(diǎn)?！斑@是什么意思，是打印不出來的反應(yīng)？”理查茲問。
“我不知道。我以前從未見過這白點(diǎn)?！?br/>
“這程序用過多少次了？”理查茲問。
“一百一十次，用于瑪莎的。”
“有誰擦過嗎？”
“沒有。”
“真見鬼，”理查茲說，“他正在成為一個(gè)脾氣暴躁的圣人?！彼肿煨πΑ！拔覀兛梢园堰@個(gè)補(bǔ)寫進(jìn)去?！?br/>
格哈得點(diǎn)點(diǎn)頭又回到打印機(jī)跟前。從理論上說，發(fā)生的這一切并不叫人疑惑。喬治和瑪莎的程序里都有向經(jīng)驗(yàn)學(xué)習(xí)的設(shè)計(jì)。就像下跳棋的程序一樣——計(jì)算機(jī)越下越聰明——在這個(gè)程序的設(shè)計(jì)中計(jì)算機(jī)會“習(xí)得”對事物新的反應(yīng)。經(jīng)過一百一十次的考驗(yàn)，圣喬治突然不做圣人了。他正在學(xué)習(xí)不在瑪莎面前做圣人——即便他是為做圣人而設(shè)計(jì)的。
“我知道他有何感受?！崩聿槠澱f完關(guān)掉機(jī)器，隨后他走到格哈得身旁，尋找導(dǎo)致這一切發(fā)生的程序錯(cuò)誤。
鄂公網(wǎng)安備 42010302001612號