關(guān)于第二個(gè)問(wèn)題的答案很簡(jiǎn)單：我們不需要人工智能。不需要人工智能，并不是因?yàn)樗斐闪诵碌氖I(yè)，失業(yè)根本上是由資本力量帶來(lái)的貧富差距造成的，而不是技術(shù)革新帶來(lái)的；也不是因?yàn)樗鼛?lái)了倫理難題，社會(huì)變遷所帶來(lái)的倫理重塑一直都在發(fā)生，大不了我們可以把機(jī)器人當(dāng)成一個(gè)新的種族。我們不需要人工智能，是因?yàn)榧夹g(shù)的進(jìn)步跟人類的幸福從來(lái)關(guān)系不大，就像經(jīng)濟(jì)數(shù)字的增長(zhǎng)跟人類真正的幸福沒(méi)什么關(guān)系一樣。當(dāng)然，如果你依然陷在這種錯(cuò)覺(jué)里，我也無(wú)能為力。倒是在一種特殊情況下，我們需要人工智能，那就是面對(duì)外星人的入侵。不過(guò)，到那時(shí)候，它們未必情愿充當(dāng)人類的敢死隊(duì)，甚至可能反過(guò)來(lái)讓人類充當(dāng)他們的先鋒隊(duì)。這涉及第三個(gè)問(wèn)題。

關(guān)于第三個(gè)問(wèn)題，失去控制應(yīng)該包含兩方面內(nèi)容：其一，不透明性和不可預(yù)測(cè)性；其二，不再遵守人類的道德設(shè)定。第一方面跟第四個(gè)問(wèn)題緊密相連，我們?cè)谙挛脑僬归_(kāi)論述，現(xiàn)在主要討論第二方面。

科幻作家阿西莫夫曾提出了著名的機(jī)器人三大定律：一，機(jī)器人不得傷害人類個(gè)體，或坐視人類個(gè)體遭受傷害；二，機(jī)器人必須服從人給予它的命令，除非違背第一定律；三，機(jī)器人在不違反第一、第二定律的情況下，要盡可能保護(hù)自己。后來(lái)，人們不斷對(duì)機(jī)器人三定律做了修正。不過(guò)，這只是人類的美好愿望和一廂情愿，“人工智能會(huì)服從人類的道德設(shè)定”這一論斷并不令人信服。明顯的例子是，我們從小就教育孩子要誠(chéng)信、友善、積極、勇敢等，但仍有孩子不可避免地學(xué)壞了。有人會(huì)說(shuō)，這是因?yàn)槿说纳鐣?huì)化過(guò)程遠(yuǎn)比機(jī)器人復(fù)雜，而操控機(jī)器人要簡(jiǎn)單得多，因?yàn)樗碾娫撮_(kāi)關(guān)在人類手里。但斷了電就無(wú)法運(yùn)營(yíng)的機(jī)器人很難說(shuō)是人工智能，真正的人工智能應(yīng)該是，當(dāng)它識(shí)別到電能不夠用時(shí)，它會(huì)自己去尋找新的替代電源。

而且，這些尚處在史前階段的人工智能，已經(jīng)展現(xiàn)出了相當(dāng)出色的反道德能力。

微軟推出的一款名叫Tay的人工智能聊天機(jī)器人，在網(wǎng)上經(jīng)過(guò)二十四小時(shí)的學(xué)習(xí)之后，已經(jīng)徹底學(xué)壞了：出言不遜，臟話連篇，言語(yǔ)甚至涉及色情、納粹、仇恨、歧視等。

聰明并不必然與道德相關(guān)，人工智能也是。

關(guān)于第四個(gè)問(wèn)題，人們直覺(jué)地認(rèn)為人工智能不可能超越人類，一個(gè)樸素的邏輯就是：人類創(chuàng)造了超出自己的人工智能，就像說(shuō)人類創(chuàng)造出了上帝一樣，但人類不可能造出上帝。對(duì)“上帝是全能的”這一命題，有一個(gè)很有意思的反駁：上帝能造出一臺(tái)自己都不會(huì)操作的機(jī)器嗎？如果他造不出來(lái)，則這一命題不攻擊破，如果他能造出來(lái)，則這臺(tái)機(jī)器他應(yīng)該操作不了才對(duì)，說(shuō)“上帝是全能的”同樣不成立。這也是人工智能能否超越人類的悖論。但這一思維方法恐怕有問(wèn)題。

有人提出了廣義上的生命的定義。生命不僅是我們通常理解的有機(jī)體，它指的是一套可以對(duì)外反饋和進(jìn)行自反饋的穩(wěn)定系統(tǒng)。就好比蜜蜂，每個(gè)蜜蜂都是一個(gè)生命，而整個(gè)蜂群展現(xiàn)出了相當(dāng)?shù)闹刃蛐裕部梢运阕饕粋€(gè)生命。就好比人的身體，在微觀層面上，我們的每個(gè)細(xì)胞都可以被看作是一個(gè)生命，一簇細(xì)胞組成的器官也可以被看作是一個(gè)生命，不同器官組成的人當(dāng)然也是生命，而且，低一層次的生命從屬于高一層次的生命，它們也理解不了高一層次生命的目的。

凱文·凱利在《失控》中有相關(guān)表述。

“蜂群思維”的神奇在于，沒(méi)有一只蜜蜂在控制它，但是有一只看不見(jiàn)的手，一只從大量愚鈍的成員中涌現(xiàn)出來(lái)的手，控制著整個(gè)群體。它的神奇還在于，量變引起質(zhì)變。要想從單個(gè)蟲子的機(jī)體過(guò)渡到集群機(jī)體，只需要增加蟲子的數(shù)量，使大量的蟲子聚集在一起，使它們能夠互相交流。

而“集群”作為一個(gè)生命體，確實(shí)表現(xiàn)出了高于個(gè)體的特性。比如，每個(gè)蜜蜂只有六天的記憶，而整個(gè)蜂巢卻擁有長(zhǎng)達(dá)三個(gè)月的記憶。