人工智能時代的“人類愚蠢”

在任何時代，啟蒙的最大障礙是人類的愚昧和人類自己制造和維持的無知環(huán)境條件。在漫長的中世紀(jì)，由于將宗教與美德相提并論，再加上最虔誠的人并不是最聰明的人，宗教教育給了無知者反抗有教養(yǎng)者知識權(quán)威的勇氣。今天，在進(jìn)化論教學(xué)被取締的地方依然在發(fā)生這樣的事情。同樣，通過將意識形態(tài)與正確性相提并論，再加上那些意識形態(tài)立場最堅定的人并不是最聰明的人，意識形態(tài)教育給了無知者反對啟蒙和獨(dú)立思想價值的傲慢和狂妄。

要克服人類的愚昧和無知環(huán)境條件所造成的障礙，就必須改變造成這些現(xiàn)象長期存在的根本條件。啟蒙和教育在培養(yǎng)批判性思維、懷疑精神和挑戰(zhàn)迷信盲從方面發(fā)揮著至關(guān)重要的作用。通過促進(jìn)求知欲和開放性思維，教育可以增強(qiáng)個人抵御無知和意識形態(tài)傲慢誘惑的能力。此外，培養(yǎng)寬容和尊重不同觀點(diǎn)的文化對于促進(jìn)啟蒙和思想進(jìn)步至關(guān)重要。啟蒙和教育鼓勵對話和辯論，將其作為交流思想和挑戰(zhàn)固有觀點(diǎn)必不可少的機(jī)制。

在當(dāng)代，對啟蒙的追求面臨著前所未有的挑戰(zhàn)，而人工智能的出現(xiàn)則放大了這一挑戰(zhàn)。長期以來，人類的愚昧和無知阻礙了智力的進(jìn)步，而人工智能與社會各方面的融合則帶來了新的復(fù)雜性。

人工智能加劇人類愚蠢的重要方式之一是放大認(rèn)知偏見和錯誤信息。人工智能算法雖然旨在處理大量數(shù)據(jù)并提取模式，但很容易受到其分析的數(shù)據(jù)和開發(fā)這些算法的人類所固有的偏見的影響。因此，人工智能系統(tǒng)會延續(xù)甚至放大人類的無知和偏見，導(dǎo)致錯誤信息、回音室和兩極分化言論的擴(kuò)散。此外，人工智能決策過程的不透明性會掩蓋偏見，加劇有缺陷或誤導(dǎo)性信息的傳播。

除了擴(kuò)大現(xiàn)有形式的無知之外，人工智能的整合還通過使我們對知識和真理的理解復(fù)雜化，創(chuàng)造了新的無知維度。人工智能算法的復(fù)雜性及其自主決策的能力對傳統(tǒng)的知識權(quán)威和專業(yè)知識提出了挑戰(zhàn)。例如，隨著人工智能系統(tǒng)對從醫(yī)療診斷到法律判決等各個領(lǐng)域的決策產(chǎn)生越來越大的影響，其決策過程的不透明性可能會掩蓋其結(jié)論的依據(jù)，從而破壞問責(zé)制，削弱人們對機(jī)構(gòu)的信任。

盡管人工智能帶來了挑戰(zhàn)，但它也提供了通過技術(shù)創(chuàng)新和批判性參與來增強(qiáng)人文啟蒙戰(zhàn)勝人類愚蠢的機(jī)會。這需要人類批判性思維的介入，例如，人工智能開發(fā)和部署過程中的透明度和問責(zé)制對于降低偏見和錯誤信息的風(fēng)險至關(guān)重要，應(yīng)該成為開發(fā)者的優(yōu)先考量。

此外，努力提高人工智能使用者自身的數(shù)字素養(yǎng)（digital literacy）和批判性思維能力，對于增強(qiáng)個人駕馭以人工智能為媒介的復(fù)雜信息環(huán)境的能力也至關(guān)重要。技術(shù)專家、倫理學(xué)家、政策制定者和學(xué)者之間的跨學(xué)科合作，可以幫助促進(jìn)對人工智能的倫理、社會和哲學(xué)影響有更加周全和細(xì)致的考量，從而推動知情決策，促進(jìn)合乎倫理的人工智能發(fā)展。所有這些都有助于應(yīng)對人工智能時代更為復(fù)雜的個人和體制性愚蠢。

正如文藝復(fù)興時期的伊拉斯謨（Erasmus）所發(fā)現(xiàn)的那樣，愚蠢是永恒的，但人類卻幸存了下來。如果把我們這個時代的愚蠢放在過去的愚蠢的背景下來看，就會更容易理解，雖然未必就更容易接受。盡管歷史和社會的發(fā)展論向我們允諾人類的不斷進(jìn)步，但未必就真的有證據(jù)支持這樣的信念。經(jīng)常是恰恰相反，我們看到世界在不斷地進(jìn)一步陷入瘋狂，看到偉大的國家，昔日的文明領(lǐng)袖，被胡言亂語的愚蠢人士引入歧途。我們看到殘酷、迫害、迷信、盲從和愚蠢在持續(xù)增長，以至虛無主義者很容易把18世紀(jì)啟蒙運(yùn)動時的啟蒙愿景當(dāng)作一個令人遺憾的，從天真時代幸存下來的老古董。這一切都令人沮喪和絕望，但沮喪和虛無主義是無用的情緒。為了擺脫這種情緒，今天的人文啟蒙不得不比以前更加專注地研究過去，并且發(fā)現(xiàn)，今天的愚蠢不能完全與古代的愚蠢混為一談，而且，我們的時代并不比我們的祖先所經(jīng)歷的其他時代糟糕多少。再說，我們比我們的祖先對愚蠢有了更多的理解，所以我們克服愚蠢的機(jī)會也許會更好一些。

《人類愚蠢基本定律》

卡洛·奇波拉（Carlo M. Cipolla）的《人類愚蠢基本定律》（The Fundamental Laws of Human Stupidity，1976）就是一本能幫助我們更好地理解愚蠢的書。書中用通俗易懂的語言介紹和分析了關(guān)于愚蠢的四條法則，它們?nèi)匀贿m用于人工智能時代的人類愚蠢。

奇波拉的第一條定律是：“每個人總是不可避免地低估了流通中的愚蠢個體的數(shù)量?！边@一定律概括了人類感知的一個普遍真理——我們往往低估了社會中愚蠢的普遍程度。盡管我們對愚蠢有直觀的認(rèn)識，但我們往往認(rèn)識不到它的程度，從而導(dǎo)致意想不到的遭遇和后果。這一定律警示我們要保持警惕，注意人類愚蠢的普遍性。

第二定律指出：“個人愚蠢的概率與這個人的任何其他特征無關(guān)?！边@一定律挑戰(zhàn)了人們對智力的普遍假設(shè)，表明愚蠢并不局限于特定的人口統(tǒng)計或特征。無論一個人的背景、教育程度或社會地位如何，他都有可能表現(xiàn)出愚蠢的行為。這個關(guān)于愚蠢的平等主義觀點(diǎn)強(qiáng)調(diào)了愚蠢的不可預(yù)測性和無差別性，強(qiáng)調(diào)了謙遜和自我意識的重要性。

第三定律為奇波拉的分析引入了一個關(guān)鍵維度，它區(qū)分了四種類型的個體：聰明人、無助的人、強(qiáng)盜和愚蠢的人。根據(jù)奇波拉的分類，聰明人對社會做出積極貢獻(xiàn)，而無助的人不會對社會構(gòu)成重大威脅或帶來重大利益。強(qiáng)盜利用他人謀取私利，而愚蠢的人則有意無意地給自己和他人造成傷害。這一分類法為人類互動和社會動態(tài)提供了寶貴的見解，突出了理性與非理性之間固有的緊張關(guān)系。

最后一條定律揭示了愚蠢最令人擔(dān)憂的一面：愚蠢能夠在傷害他人的同時傷害自己。與明知故犯地利用他人的強(qiáng)盜不同，愚蠢的人無意中會通過自己的行為制造混亂和痛苦。無論是由于無能、無知還是漠不關(guān)心，愚蠢都會對社會凝聚力和進(jìn)步構(gòu)成巨大威脅。

只有認(rèn)識到愚蠢的破壞潛力，社會才有可能采取措施減輕其影響，促進(jìn)集體福祉。非蠢人總是低估蠢人的破壞力。特別是，他們總是忘記，無論何時何地，在任何情況下，與愚蠢的人打交道或交往，都會是一個代價高昂的錯誤。

奇波拉還揭示了崛起國家與衰落國家的區(qū)別。對這兩種國家之間的“愚蠢”動力差異進(jìn)行了發(fā)人深省的分析。他認(rèn)為，雖然所有國家都不可避免地存在一定比例的“愚蠢”人口，但關(guān)鍵的區(qū)別在于人口中聰明人的比例。

正在崛起的國家中，聰明人明顯占多數(shù)，他們共同彌補(bǔ)了智力天賦較低的人的不足。這些聰明的公民通過創(chuàng)新思維、解決問題的能力和建設(shè)性的行動，為國家的進(jìn)步和繁榮做出了貢獻(xiàn)。他們的存在抵消了愚蠢的不利影響，確保了國家在存在一定比例的不聰明人的情況下仍能繼續(xù)前進(jìn)。

相反，在衰落的國家中，“非愚蠢”——有知識但無智慧，人不傻但不開竅——的人大量涌現(xiàn)，其行為無意中造成了社會的永久衰敗。這些人雖然本身并不缺乏能力，但卻算不得聰明，他們往往不能以建設(shè)性的方式利用自己的能力。相反，他們可能會成為被動的旁觀者，甚至不知不覺地助長了那些長期愚蠢的同胞的破壞性行為。

奇波拉指出了衰落國家中兩個截然不同但同樣有害的群體，他們的行為導(dǎo)致了社會問題的惡化。他們分別是“強(qiáng)盜”和“喪失權(quán)力的群眾”。

“強(qiáng)盜”指的是在政府、企業(yè)或其他有影響力的機(jī)構(gòu)中占據(jù)社會權(quán)力地位的人群。這些人利用職務(wù)之便謀取私利，參與腐敗行為、掠奪資源和濫用權(quán)力。他們將自身利益置于國家和公民福祉之上，往往通過非法手段積累財富和影響力。他們的行為可能包括貪污公款、行賄受賄、任人唯親和拉幫結(jié)派。通過這些行為，“強(qiáng)盜”加劇了國家面臨的問題，進(jìn)一步削弱了人們對國家機(jī)構(gòu)的信任，使不平等現(xiàn)象長期存在，并破壞了社會凝聚力。他們的行為助長了腐敗和有罪不罰文化的惡習(xí)和慣性，阻礙了實(shí)現(xiàn)可持續(xù)發(fā)展和進(jìn)步的可能。

“喪失權(quán)力的群眾”指的是衰落國家中被邊緣化、權(quán)利被剝奪或在社會中缺乏能動性的廣泛人群。這些人可能面臨各種形式的結(jié)構(gòu)性和系統(tǒng)性障礙，限制了他們獲得資源、機(jī)會和政治參與。經(jīng)濟(jì)不平等、社會排斥和政治壓迫導(dǎo)致他們的權(quán)能喪失，使他們很容易受到掌權(quán)者的欺騙、引誘、利用和操縱。盡管被剝奪權(quán)力的群眾有可能心生怨恨和不滿，但他們對自己的處境聽天由命、逆來順受、一味順從，缺乏挑戰(zhàn)現(xiàn)狀的手段或信心。他們對現(xiàn)狀的被動接受在惰性和冷漠中循環(huán)往復(fù)，進(jìn)一步鞏固了“強(qiáng)盜”的統(tǒng)治地位，加劇了國家的衰落。

“強(qiáng)盜”和“喪失權(quán)力的群眾”代表了衰落國家中兩個截然不同，但又相互關(guān)聯(lián)的群體。“強(qiáng)盜”利用權(quán)力和影響力，以犧牲國家利益為代價謀取自身利益；而“無權(quán)大眾”則不能或不敢為維護(hù)自身權(quán)益和政治變革而奮斗。這兩個群體以不同的方式助長了惡性社會問題的長期存在，最終挫敗了為實(shí)現(xiàn)進(jìn)步、正義和社會凝聚力所做的努力。

奇波拉所描繪的“強(qiáng)盜”和“喪失權(quán)力的群眾”都是體制性愚蠢的維護(hù)者，認(rèn)識他們的愚蠢只是第一步，更關(guān)鍵的下一步就是我們該怎么辦？

在應(yīng)對強(qiáng)權(quán)者的道德盲目和無權(quán)者的消極退讓所帶來的雙重挑戰(zhàn)時，一個社會必須采取多層面的方法，以促進(jìn)道德治理、增強(qiáng)邊緣化社區(qū)的能力、培養(yǎng)批判性思維和推動集體行動。通過解決這些形式的愚昧的根源，我們可以努力創(chuàng)造一個更加公正、公平和有韌性的社會。

為了遏制“強(qiáng)盜”——利用權(quán)力地位謀取私利的個人——所表現(xiàn)出的道德盲目性，社會必須將官員和社會精英的道德要求和問責(zé)放在首位。這包括建立健全的法律框架、獨(dú)立的監(jiān)督機(jī)制和透明的治理程序，迫使掌權(quán)者對自己的行為負(fù)責(zé)。此外，通過教育、宣傳活動和公共討論來培養(yǎng)一種有利于公共道德、社會誠信和民主責(zé)任的文化也至關(guān)重要。但自由和民主的制度改革和建設(shè)是最重要的，如果不能通過真正的法治將權(quán)力有效地關(guān)進(jìn)籠子，并把鑰匙交到選民手中，卻是去期待“強(qiáng)盜”自己良心發(fā)現(xiàn)和道德自律，那是水中撈月、白日做夢。

增強(qiáng)“無權(quán)大眾”的智慧、權(quán)能和行動能力需要倡導(dǎo)啟蒙，促進(jìn)教育、信息和資源的獲取。在懷疑主義和虛無主義盛行的今天，許多人已經(jīng)對啟蒙、教育和信息公開的可能作用喪失了信心。人文啟蒙和公民教育本身被他們當(dāng)作一種不切實(shí)際的白日夢。確實(shí)，以前的啟蒙和教育遠(yuǎn)沒有起到人們曾經(jīng)期待的作用。但是，如果徹底放棄啟蒙和教育，后果又會如何呢？除了啟蒙和教育，還有什么別的辦法嗎？

放棄啟蒙和教育會給個人和整個社會帶來可怕的后果。啟蒙、教育和獲取信息不僅僅是奢侈品，它們還是個人成長、社會進(jìn)步和維護(hù)民主的基本權(quán)利和必要工具。在當(dāng)今這個向往“躺平”“無為”和“一動不如一靜”的社會里，憤世嫉俗和無所作為之風(fēng)盛行，有些人可能會否定啟蒙和教育的潛力，這是可以理解的。然而，完全放棄這些原則就等于向無知、愚蠢和絕望投降。相反，我們必須重新致力于倡導(dǎo)啟蒙、批判性思維、信息公開、公民參與，這是我們在逆境中自救剩下的唯一方法。在自救的方法選擇中，我們沒有挑精揀肥的余地。看不到這一點(diǎn)，是一種自我斷送、自我毀滅，因此是不可饒恕的愚蠢。

人工智能時代和其他任何時代一樣，聰明人會享受供應(yīng)充足的美好事物，而愚蠢者也會在智力垃圾中找到豐富的食物。愚蠢的人群在任何一個國家都有，愚蠢的事情在每個國家里都會發(fā)生，但是，發(fā)生愚蠢的原因，尤其是愚蠢的規(guī)模和嚴(yán)重程度卻會在不同的國家有很大的不同。奇波拉所說的那種愚蠢是極端的，也是可怕的，一旦發(fā)生了，就會落地生根，再也難以逆轉(zhuǎn)。因此，我們必須在它已經(jīng)開始發(fā)生的時候，就盡最大的努力，阻止它的全面發(fā)生。看不到愚蠢落地生根的可能，那只會成為另一種更嚴(yán)重的愚蠢。

本文節(jié)選自《人類還有希望嗎：人工智能時代的人文啟蒙和教育》（徐賁 著，上海三聯(lián)書店，2025年5月版）