問(wèn)題9. “如果一個(gè)人工智能機(jī)器變得有意識(shí)，消滅它嗎？”

下述的觀點(diǎn)更好地表達(dá)了地球主義者的態(tài)度。

來(lái)信

親愛(ài)的德·加里斯教授：

如果人工智能機(jī)器在定義上來(lái)說(shuō)“超越了人類(lèi)的控制范圍”，那么，為什么要認(rèn)真地思考是否要制造它們呢？讓我們更具體些，您所定義的人工智能機(jī)器“哪一部分應(yīng)該永遠(yuǎn)不要制造出來(lái)呢”。我們非常善于制造我們可以控制的強(qiáng)大工具。制造對(duì)人類(lèi)有危險(xiǎn)的人工智能機(jī)器會(huì)有什么好處呢？為什么不停止制造這些人工智能機(jī)器而僅僅去制造那些無(wú)自我意識(shí)的人工智能呢？只有人類(lèi)和其他的一些動(dòng)物具有自我意識(shí)。把一臺(tái)人工智能機(jī)器放在鏡子前面，如果它可以識(shí)別其映像是自身的話，毀掉它！

回答

這種評(píng)論顯然沒(méi)有考慮“硅權(quán)利”。許多宇宙主義者會(huì)認(rèn)為毀掉有意識(shí)的人工智能機(jī)器是一種謀殺行為。我從上述的評(píng)論可以看出這種評(píng)論沒(méi)有宇宙主義的同情，因?yàn)樗麊?wèn)到，“制造對(duì)人類(lèi)有危險(xiǎn)的人工智能機(jī)器會(huì)有什么好處呢？”

好，考慮一下這樣的意見(jiàn)如何？——“去制造神一樣的宗教般的吸引力”，或者“去制造出地球上或者更遙遠(yuǎn)的星球上的下一個(gè)主導(dǎo)物種”，或者“去創(chuàng)造出一個(gè)和科學(xué)更加兼容的宗教來(lái)達(dá)到‘宇宙意識(shí)’的目的”。或者這樣，那就是“很多人渴望最終得到一個(gè)機(jī)會(huì)，來(lái)做一些‘大事’，來(lái)看到‘全景’”。

這樣的評(píng)論低估了宇宙主義學(xué)說(shuō)的力量，它非常強(qiáng)大有力，可能會(huì)影響幾十億人的思想，會(huì)成為影響本世紀(jì)全球政治的力量，并且在某個(gè)時(shí)刻會(huì)間接地導(dǎo)致幾十億人的死亡。請(qǐng)不要簡(jiǎn)單地反對(duì)它，它甚至可能成為人類(lèi)和宇宙中其他幾萬(wàn)億個(gè)高級(jí)物種所必須面臨的“宇宙主義者過(guò)渡”的問(wèn)題，也許只有少數(shù)物種可以存活下來(lái)。宇宙主義可能比我們想象的要有影響得多。