世界正在被算法重塑，人工智能更以澎湃之勢催生一個(gè)復(fù)雜而鮮活的“算法紀(jì)元”。然而在技術(shù)的光芒之下，潛藏著關(guān)于社會(huì)變革、倫理邊界、法律公正與經(jīng)濟(jì)秩序的深刻命題。
4月20日至27日，三聯(lián)書店舉辦第七季“三聯(lián)·新知大會(huì)”，以“算法的尺度：智能時(shí)代的共生法則”為主題，帶領(lǐng)公眾深入理解算法背后的本質(zhì)及其對社會(huì)的多維影響。
始于2018年世界讀書日的三聯(lián)·新知大會(huì)，一直致力于推廣深度閱讀與知識(shí)普及。本季新知大會(huì)匯聚了計(jì)算機(jī)技術(shù)、應(yīng)用算法、社會(huì)學(xué)、法律、經(jīng)濟(jì)等領(lǐng)域的十三位頂尖專家，精心組織四場主題論壇，分享前沿研究成果與獨(dú)到見解。這一主題源自三聯(lián)書店即將出版的算法系列叢書，該系列將從算法的本質(zhì)、算法與社會(huì)、算法與法律、算法與經(jīng)濟(jì)四個(gè)維度解讀對日常生活的多元影響。
首場論壇題為“未來契約：AI時(shí)代的法律刻度”，中國社科院文化法制研究中心研究員周輝、北京大學(xué)法學(xué)院副教授戴昕、清華大學(xué)公共管理學(xué)院副教授陳天昊和對外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院教授張欣，四位法學(xué)專家剖析如何構(gòu)建一個(gè)既能促進(jìn)創(chuàng)新又能守護(hù)人類核心價(jià)值的法律框架。
首場論壇現(xiàn)場
在算法決策的時(shí)代，法律如何定義邊界？當(dāng)人機(jī)交互變得日益復(fù)雜時(shí)，責(zé)任歸屬該如何界定？從自動(dòng)駕駛歸責(zé)到AIGC內(nèi)容風(fēng)險(xiǎn)，從個(gè)人隱私保護(hù)到算法公正透明，世人正在面對技術(shù)革命帶來的法律困境。據(jù)相關(guān)報(bào)告顯示，全球已有不少國家和地區(qū)發(fā)布了AI倫理準(zhǔn)則或監(jiān)管框架。在技術(shù)快速發(fā)展的背景下，建構(gòu)合理法律邊界既要防止過度監(jiān)管阻礙創(chuàng)新，又要確保技術(shù)發(fā)展符合公共利益，對這一平衡的探討貫穿本季新知大會(huì)。
主持人葉彤在論壇開場白時(shí)表示：“我們希望通過專業(yè)而通俗的對話，幫助公眾理性看待技術(shù)變革，共同思考未來發(fā)展方向，而這也正體現(xiàn)了論壇知識(shí)普及的創(chuàng)辦初衷?！?/p>
“智法共生”
周輝在發(fā)言中首先回溯了算法的定義與演變。在他看來，算法是“為計(jì)算機(jī)解決問題設(shè)計(jì)的計(jì)算方法”，但在AI時(shí)代，其復(fù)雜性和社會(huì)影響遠(yuǎn)超傳統(tǒng)算術(shù)工具?！拔覀兛梢钥匆幌滤惴ǖ臍v史演進(jìn)，早期如公式計(jì)算是為了解決確定性數(shù)學(xué)問題；到了近代，算法與圖靈機(jī)、大數(shù)據(jù)結(jié)合，結(jié)果從‘確定性’轉(zhuǎn)向‘多樣性’，也引發(fā)了黑箱問題；在當(dāng)前的生成式AI時(shí)代，算法與數(shù)據(jù)、算力構(gòu)成AI三大支柱，如DeepSeek的算法創(chuàng)新，直接影響到了社會(huì)資源的配置?！?/p>
中國社科院文化法制研究中心研究員周輝
談及算法的社會(huì)連接功能，周輝列出了商業(yè)場景和公共治理兩個(gè)方面：“前者如電商推薦、短視頻分發(fā)，可以做到精準(zhǔn)匹配用戶需求，但也可能導(dǎo)致‘信息繭房’；后者應(yīng)用于優(yōu)化應(yīng)急信息傳播、交通調(diào)度等，但也需警惕如‘大數(shù)據(jù)殺熟’等算法歧視?！?/p>
周輝認(rèn)為，當(dāng)前算法引發(fā)的四大法律問題突出表現(xiàn)在：“隱私保護(hù)，精準(zhǔn)服務(wù)需收集用戶數(shù)據(jù)，卻可能過度侵入隱私，比如大家都感受到了，‘關(guān)閉個(gè)性化推薦’選項(xiàng)的實(shí)際效果往往很有限；資源配置不公，算法可能基于商業(yè)目標(biāo)，而非公平性原則分配資源，例如優(yōu)惠券規(guī)則復(fù)雜化導(dǎo)致用戶權(quán)益受損；‘信息繭房’與認(rèn)知局限，長期依賴算法推薦會(huì)限制用戶信息接觸，但‘打破繭房’又需要權(quán)衡技術(shù)成本與社會(huì)效益；算法黑箱與透明度，復(fù)雜的算法往往如同黑箱，讓人難以捉摸其內(nèi)部邏輯。法律亟須在‘可解釋性’與技術(shù)創(chuàng)新間找到平衡?！?/p>
2021年通過施行的《中華人民共和國個(gè)人信息保護(hù)法》，首次界定“自動(dòng)化決策”，要求透明化與用戶知情權(quán)；2022年國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式施行，明確了如生成合成類、個(gè)性化推薦類等六類算法類型，要求平臺(tái)公示基本原理?！捌脚_(tái)作為算法治理的關(guān)鍵角色，需平衡技術(shù)創(chuàng)新與用戶權(quán)益保護(hù)，應(yīng)公開算法邏輯、保護(hù)數(shù)據(jù)安全，并承擔(dān)如過濾違法內(nèi)容等的‘守門人’責(zé)任?！?/p>
毋庸置疑，算法是一柄雙刃劍——既能提升效率，也可能固化社會(huì)偏見，法律則需劃定“技術(shù)中性”與“責(zé)任歸屬”的邊界。其中，平臺(tái)是治理的關(guān)鍵節(jié)點(diǎn)，亟待通過算法透明化、用戶參與治理等方式構(gòu)建起信任度。周輝在發(fā)言時(shí)強(qiáng)調(diào)AI技術(shù)迭代迅速，法律也應(yīng)保持靈活性，避免“一刀切”扼殺創(chuàng)新。“法律規(guī)范的出臺(tái)相應(yīng)而言總是滯后的，眼下如ChatGPT等帶來了版權(quán)歸屬、虛假信息生成等新問題，也要求動(dòng)態(tài)調(diào)整法律。對于人工智能AI技術(shù)的發(fā)展，中國采取的是‘發(fā)展與安全并重’的治理思路，在總體國家安全觀的引領(lǐng)下，我主張?jiān)诜ㄖ栖壍郎贤苿?dòng)算法安全與創(chuàng)新協(xié)同。同時(shí)，算法治理也需展開跨國協(xié)作，對于數(shù)據(jù)跨境流動(dòng)規(guī)則，實(shí)際上各國的監(jiān)管差異很大，我們也需探索出本土路徑?！?/p>
對外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院教授張欣
對于算法透明的迷思與制度建構(gòu)，張欣在發(fā)言時(shí)對比了人類中如醫(yī)生、法官的決策，認(rèn)為算法目前仍缺乏信譽(yù)機(jī)制和權(quán)力制衡，需要通過透明建立信任?！氨热纾绹糠种菔褂靡豢蠲麨镃ompas的算法來評(píng)估犯罪，但這種算法就存在種族歧視，由此也凸顯出算法解釋權(quán)的重要性。反歧視法律體系的不完善是算法歧視的深層原因，不能僅僅歸咎平臺(tái)。在以生成式人工智能為核心的大模型時(shí)代，技術(shù)的復(fù)雜性、商業(yè)秘密保護(hù)、數(shù)據(jù)隱私等問題使得透明度更難實(shí)現(xiàn)，但仍是治理的基礎(chǔ)?！?/p>
智能趨勢下的AI對齊與治理
如何讓AI在司法、醫(yī)療等決策中與人類價(jià)值觀一致？陳天昊在發(fā)言時(shí)認(rèn)為，當(dāng)下的技術(shù)趨勢體現(xiàn)在小模型本地化部署、多模態(tài)交互、大模型與平臺(tái)深度融合等方面，但治理難點(diǎn)在于對齊的規(guī)則要由誰來制定？文化差異本身就會(huì)導(dǎo)致價(jià)值觀的沖突。怎么去緩解大家的悲觀，我們可以通過人監(jiān)督小模型，再由小模型監(jiān)督大模型來實(shí)現(xiàn)——人先用很好的道德規(guī)范數(shù)據(jù)訓(xùn)練出一個(gè)小模型，再用小模型監(jiān)督大模型的日常運(yùn)作，讓大模型始終處于人類可管控的范圍內(nèi)。
清華大學(xué)公共管理學(xué)院副教授陳天昊
談及未來法律制定和出臺(tái)的方向，陳天昊認(rèn)為個(gè)人正在成為數(shù)據(jù)處理者，“對于平臺(tái)，我們可以通過很明確的合規(guī)義務(wù)來進(jìn)行信息監(jiān)管，但目前對于個(gè)人則很難進(jìn)行信息監(jiān)管，未來要?jiǎng)澏▊€(gè)人使用AI的行為底線。其次是要明確AI代理（Agent）的法律責(zé)任，Agent是我們物理世界和虛擬世界交互的中介。比如你開車，自動(dòng)駕駛出了事故，這臺(tái)自動(dòng)駕駛的車是一個(gè)Agent，那么事故的法律責(zé)任要誰來承擔(dān)，如何分配？”
德國社會(huì)學(xué)家烏爾里?！へ惪嗽?986年出版的成名之作《風(fēng)險(xiǎn)社會(huì)：朝向一種新的現(xiàn)代性》中，把“risk society”（風(fēng)險(xiǎn)社會(huì)）這一概念帶入學(xué)術(shù)界的中心話語地帶。“這本書的第一部分的標(biāo)題就是‘在文明的火山上’。貝克認(rèn)為生活在現(xiàn)代社會(huì)，就是生活在現(xiàn)代文明的火山口?，F(xiàn)代性就是一個(gè)巨大的火山，只是我們感覺不到而已，大家都在享受人工智能帶來的便利，但我們要明白這底下是不斷噴涌的巖漿，隨時(shí)可能造成火山噴發(fā)。怎么能盡可能地去規(guī)避風(fēng)險(xiǎn)，我相信這是所有治理學(xué)者的義務(wù)?！标愄礻徽f。
北京大學(xué)法學(xué)院副教授戴昕
談及AI治理中的價(jià)值考量與社會(huì)契約，戴昕認(rèn)為這其實(shí)是經(jīng)典問題的一種延續(xù)?！癆I并未帶來全新的問題，而是放大了隱私、歧視、虛假信息等傳統(tǒng)法律議題。算法偏見反映的其實(shí)也是社會(huì)問題，暴露矛盾反而可能推動(dòng)解決。當(dāng)人均成為‘創(chuàng)作者’或‘領(lǐng)導(dǎo)者’后，就需要重構(gòu)權(quán)利與義務(wù)的邊界。比如，自動(dòng)駕駛的安全標(biāo)準(zhǔn)應(yīng)結(jié)合技術(shù)表現(xiàn)和社會(huì)需求，包括人們的風(fēng)險(xiǎn)接受度。在我看來，法律需從‘明確規(guī)則’轉(zhuǎn)向‘掌握分寸’，容忍分散化判斷以適應(yīng)技術(shù)復(fù)雜性和高速迭代。說到底，技術(shù)只是工具，治理的關(guān)鍵仍在于回歸到人的切實(shí)需求與社會(huì)的公平正義?！?/p>
做大蛋糕，更要實(shí)現(xiàn)“甜味均衡分配”
在隨后幾天舉行的“道法自然：人工智能背心后面的算法賦能”、“算法煉金術(shù)：當(dāng)代社會(huì)的隱形架構(gòu)師”、“算法引擎：數(shù)字智能與經(jīng)濟(jì)發(fā)展”三場論壇中，與會(huì)專家學(xué)者也不乏真知灼見。
本季新知大會(huì)共四場論壇
對于怎么看待AI時(shí)代人類的競爭力，香港科技大學(xué)廣州協(xié)理副校長熊輝認(rèn)為當(dāng)下我們應(yīng)盡快培養(yǎng)三種能力：以AI工具賦能本職工作的應(yīng)用能力；機(jī)器目前還不擅長的“可意會(huì)不可言傳”技能，凸顯出人類的差異化能力；大力提升提問、思辨和閉環(huán)執(zhí)行的創(chuàng)新能力。對于未成年人尤其要保護(hù)他們的好奇心，強(qiáng)化溝通與思辨能力，踐行“知行合一”。
算法作為“隱形架構(gòu)師”，已深度嵌入社會(huì)運(yùn)行，其爭議本質(zhì)是技術(shù)與人性的博弈。中國人民大學(xué)新聞學(xué)院副教授董晨宇在發(fā)言中揭示了平臺(tái)創(chuàng)作者“流量密碼”的四大來源：基礎(chǔ)流，粉絲基數(shù)與黏性，“知識(shí)類博主黏性高于娛樂類”；算法流，用戶滿意度決定推薦權(quán)重，“伺候觀眾而非算法”；事件流，社會(huì)情緒與政策導(dǎo)向，“如‘三農(nóng)’、文旅賽道爆發(fā)”；投流，商業(yè)購買流量。
“‘信息繭房’的概念其實(shí)在學(xué)術(shù)界已經(jīng)過時(shí)，我們應(yīng)轉(zhuǎn)而研究算法的透明性。而網(wǎng)紅的本質(zhì)是社會(huì)情緒的‘踩點(diǎn)者’，算法并非核心，關(guān)鍵在于捕捉公共情緒。2024年的調(diào)研顯示，頭部創(chuàng)作者更關(guān)注社會(huì)心理而非算法規(guī)則?！倍坑钫f。
中國社會(huì)科學(xué)院財(cái)經(jīng)戰(zhàn)略研究院的研究員李勇堅(jiān)的演講以通俗生動(dòng)的語言揭示了算法對經(jīng)濟(jì)發(fā)展的深層影響。在他看來，算法如同數(shù)字經(jīng)濟(jì)時(shí)代的“隱形基礎(chǔ)設(shè)施”，通過提升匹配效率（解決市場失靈）、釋放隱性供給（激活長尾）、重構(gòu)生產(chǎn)函數(shù)（創(chuàng)新業(yè)態(tài)）三重機(jī)制驅(qū)動(dòng)經(jīng)濟(jì)發(fā)展，“其真實(shí)貢獻(xiàn)遠(yuǎn)超GDP的統(tǒng)計(jì)范疇?！?/p>
“對就業(yè)的影響則需動(dòng)態(tài)看待，這里面涉及替代效應(yīng)與創(chuàng)造效應(yīng)間的對比。這方面，2024年諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)獲得者達(dá)龍·阿西莫格魯是悲觀派，在他和西蒙·約翰遜合著的《權(quán)力與進(jìn)步：我們在技術(shù)與繁榮上的千年斗爭》一書中認(rèn)為目前AI發(fā)展已誤入歧途，許多算法的設(shè)計(jì)是盡可能地取代人類。但我們也應(yīng)看到‘算法能洗衣服但不會(huì)疊衣服’。自動(dòng)化也存在能力的邊界，這造成中等技能崗位最易受沖擊。麻省理工學(xué)院的大衛(wèi)·奧托教授則是樂觀派，他通過研究1940年至2018年的數(shù)據(jù)發(fā)現(xiàn)，新增崗位數(shù)量實(shí)際上大于消失崗位，中等技能者可以通過學(xué)習(xí)進(jìn)階為高技能者?！?/p>
“歷史表明，技術(shù)革命終將創(chuàng)造比摧毀更多的工作，但必須配套教育升級(jí)與社會(huì)保障以緩解轉(zhuǎn)型陣痛。未來的核心命題是如何讓算法不僅能做大蛋糕，更要實(shí)現(xiàn)‘甜味均衡分配’?！崩钣聢?jiān)說。
鄂公網(wǎng)安備 42010302001612號(hào) 