關(guān)于第二個問題的答案很簡單：我們不需要人工智能。不需要人工智能，并不是因為它造成了新的失業(yè)，失業(yè)根本上是由資本力量帶來的貧富差距造成的，而不是技術(shù)革新帶來的；也不是因為它帶來了倫理難題，社會變遷所帶來的倫理重塑一直都在發(fā)生，大不了我們可以把機器人當成一個新的種族。我們不需要人工智能，是因為技術(shù)的進步跟人類的幸福從來關(guān)系不大，就像經(jīng)濟數(shù)字的增長跟人類真正的幸福沒什么關(guān)系一樣。當然，如果你依然陷在這種錯覺里，我也無能為力。倒是在一種特殊情況下，我們需要人工智能，那就是面對外星人的入侵。不過，到那時候，它們未必情愿充當人類的敢死隊，甚至可能反過來讓人類充當他們的先鋒隊。這涉及第三個問題。

關(guān)于第三個問題，失去控制應該包含兩方面內(nèi)容：其一，不透明性和不可預測性；其二，不再遵守人類的道德設(shè)定。第一方面跟第四個問題緊密相連，我們在下文再展開論述，現(xiàn)在主要討論第二方面。

科幻作家阿西莫夫曾提出了著名的機器人三大定律：一，機器人不得傷害人類個體，或坐視人類個體遭受傷害；二，機器人必須服從人給予它的命令，除非違背第一定律；三，機器人在不違反第一、第二定律的情況下，要盡可能保護自己。后來，人們不斷對機器人三定律做了修正。不過，這只是人類的美好愿望和一廂情愿，“人工智能會服從人類的道德設(shè)定”這一論斷并不令人信服。明顯的例子是，我們從小就教育孩子要誠信、友善、積極、勇敢等，但仍有孩子不可避免地學壞了。有人會說，這是因為人的社會化過程遠比機器人復雜，而操控機器人要簡單得多，因為它的電源開關(guān)在人類手里。但斷了電就無法運營的機器人很難說是人工智能，真正的人工智能應該是，當它識別到電能不夠用時，它會自己去尋找新的替代電源。

而且，這些尚處在史前階段的人工智能，已經(jīng)展現(xiàn)出了相當出色的反道德能力。

微軟推出的一款名叫Tay的人工智能聊天機器人，在網(wǎng)上經(jīng)過二十四小時的學習之后，已經(jīng)徹底學壞了：出言不遜，臟話連篇，言語甚至涉及色情、納粹、仇恨、歧視等。

聰明并不必然與道德相關(guān)，人工智能也是。

關(guān)于第四個問題，人們直覺地認為人工智能不可能超越人類，一個樸素的邏輯就是：人類創(chuàng)造了超出自己的人工智能，就像說人類創(chuàng)造出了上帝一樣，但人類不可能造出上帝。對“上帝是全能的”這一命題，有一個很有意思的反駁：上帝能造出一臺自己都不會操作的機器嗎？如果他造不出來，則這一命題不攻擊破，如果他能造出來，則這臺機器他應該操作不了才對，說“上帝是全能的”同樣不成立。這也是人工智能能否超越人類的悖論。但這一思維方法恐怕有問題。

有人提出了廣義上的生命的定義。生命不僅是我們通常理解的有機體，它指的是一套可以對外反饋和進行自反饋的穩(wěn)定系統(tǒng)。就好比蜜蜂，每個蜜蜂都是一個生命，而整個蜂群展現(xiàn)出了相當?shù)闹刃蛐?，也可以算作一個生命。就好比人的身體，在微觀層面上，我們的每個細胞都可以被看作是一個生命，一簇細胞組成的器官也可以被看作是一個生命，不同器官組成的人當然也是生命，而且，低一層次的生命從屬于高一層次的生命，它們也理解不了高一層次生命的目的。

凱文·凱利在《失控》中有相關(guān)表述。

“蜂群思維”的神奇在于，沒有一只蜜蜂在控制它，但是有一只看不見的手，一只從大量愚鈍的成員中涌現(xiàn)出來的手，控制著整個群體。它的神奇還在于，量變引起質(zhì)變。要想從單個蟲子的機體過渡到集群機體，只需要增加蟲子的數(shù)量，使大量的蟲子聚集在一起，使它們能夠互相交流。

而“集群”作為一個生命體，確實表現(xiàn)出了高于個體的特性。比如，每個蜜蜂只有六天的記憶，而整個蜂巢卻擁有長達三個月的記憶。