算法治理和監(jiān)控資本主義
有人在看著我們，我們也意識到正在被他們凝視，但這是完全不同步的，我們根本無法與他們對視，因為有一種先驗的……和絕對的不對稱，一種絕對無法控制的不平衡。時序倒錯是這里的法則。我們感到自己被一種永遠無法對視的目光凝視著，這就是“面甲效應”。
——雅克·德里達（Jacques Derrida）
大數(shù)據(jù)有三個主要特點：持續(xù)生成；它的目標是同時做到詳盡和細化；靈活生成，因此可以隨時添加新的數(shù)據(jù)源。換句話說，大數(shù)據(jù)聚合了來自不同領域的信息，這些信息事先不一定相互關聯(lián)。這些異構數(shù)據(jù)以不可知論的方式進行處理，即揭示其中的關系，卻不解釋它們。大數(shù)據(jù)的這些特性助長了一種天真的經(jīng)驗主義認識論，認為這種新的知識體系將通過純粹的自動歸納法進行——數(shù)據(jù)將提供真相，而無須經(jīng)過理論的干擾。但事實并非如此。它們所表達的觀點必然是片面的，只有與先前構成的知識聯(lián)系起來才有意義。它們并非純潔無害。它們包含著理論，具體體現(xiàn)在組織它們的算法中，要知道，對規(guī)律性的探索以構建假設為前提。
大數(shù)據(jù)還帶有社會偏見和統(tǒng)治關系。人工智能程序不僅反映了制度和權力關系中的種族或性別不平等，而且有助于放大這些不平等。它們包含的偏見反過來又被納入其他算法結果中。例如，有研究表明，語言分析程序“單詞嵌套”（Word Embedding）會將具有歐美含義的名字歸類為好聽的名字，而將非洲裔美國人的名字歸類為難聽的名字。另一個例子是，由于訓練自動駕駛汽車識別行人的算法的數(shù)據(jù)庫主要由淺色皮膚的人組成，機器系統(tǒng)檢測深色皮膚行人的能力較差，因此碰撞風險較大。這些偏差在日常生活中的負面影響被稱為“預測性不公正”。
大數(shù)據(jù)不是中立的。即使它們兜售的偏見和成見能夠得到糾正，人們的擔憂也不會減輕。安托瓦內(nèi)特·魯夫羅伊（Antoinette Rouvroy）和托馬斯·伯恩斯（Thomas Berns）提出了“算法治理”的概念，它指“某種類型的規(guī)范性或政治理性，其基礎是通過建模的方式收集、聚合和自動分析大量數(shù)據(jù)，提前預測并影響可能的行為”。這種形式的治理繞過了人類主體并剝奪了他們的反身性。他們總結說，算法治理的目的是在“沒有形成或提出欲望的情況下產(chǎn)生行動”。個人被絕對化，陷入了多重決定的復雜性中，個人也被拆解了，被簡化為一系列將他們限制在概率可能性中的措施。就像讓-呂克·戈達爾（Jean-Luc Godard）想象的未來城市阿爾法城（Alphaville）一樣，由算法統(tǒng)治的社會開始類似于“像白蟻或螞蟻那樣的技術社會”，在那里，“人們已經(jīng)成為概率的奴隸”。
試圖將存在歸結為概率，有可能剝奪個人和社會對未來的控制權。被剝奪了挑戰(zhàn)概率的能力，換句話說就是挑戰(zhàn)現(xiàn)實的能力，主體就失去了所有的力量。這種 “去現(xiàn)實化”的風險絕非不可避免，但在“數(shù)字時代”的影響下，這種風險正在不斷增加。
大他者守護著一個無法逃脫的世界
公司對大數(shù)據(jù)的利用是被肖莎娜·祖博夫（Shoshana Zuboff）稱為“監(jiān)控資本主義”的社會項目的一部分。該系統(tǒng)賴以生存的盈利戰(zhàn)略包括預測和修改人類行為，以創(chuàng)造收入和控制市場。因此，監(jiān)控資本主義需要單方面詳盡了解人類經(jīng)驗，并將它轉化為預測性的行為數(shù)據(jù)。在大數(shù)據(jù)的指導下，建議和解決辦法提高了行為的可預測性，從而達到市場定位的目的。但監(jiān)控資本主義并未就此止步。祖博夫表示，行為控制是追求更準確預測的領域。
這個“大他者”（Big Other）吸收了我們提供給它的所有數(shù)據(jù)，比我們更了解我們自己。從我們的通信細節(jié)，到我們臥室里的動靜，再到我們的消費清單，它無所不包。通過大規(guī)模的在線實驗，它學會了指導我們的行動，并最終體現(xiàn)出一種新的極權主義。20世紀的極權主義通過暴力來運作，而這種被祖博夫稱為“工具主義”的新權力則是通過改變行為來運作。
雖然哈耶克和凱恩斯在幾乎所有問題上都針鋒相對，但他們都堅信經(jīng)濟學從根本上說是一個信息和知識的問題。這促使凱恩斯強調根本的不確定性及其對經(jīng)濟參與者心理的影響。在他看來，經(jīng)濟政策必須考慮到經(jīng)濟行為的這一心理層面，并能夠通過有力的干預，抵消消極情緒轉化為自我實現(xiàn)預期的抑郁螺旋。相反，在哈耶克看來，知識的內(nèi)在分散性與公共干預互不相容。只有市場才能調動本質上無法獲取的知識，因為它們是隱性的和情境性的。因此，任何對競爭態(tài)勢的破壞都只會降低社會層面認知過程的質量，從而導致經(jīng)濟決策失誤。
新積累邏輯的本質是對哈耶克和凱恩斯關注點的顛覆。核心不再是不確定性或不可知性，而是可預測性。祖博夫將監(jiān)視資本家的戰(zhàn)略視為一場“提高確定性程度的競賽”，在這場競賽中，他們別無選擇，只能加強對社會活動的控制。亞馬遜、谷歌和臉書正以各自的方式加強監(jiān)控擴張與價值創(chuàng)造之間的重要聯(lián)系。
亞馬遜與推薦邏輯。亞馬遜成功的秘訣之一在于它的推薦系統(tǒng)及其在銷售環(huán)境個性化方面的優(yōu)勢：
亞馬遜網(wǎng)站為每位客戶量身打造了一家商店。每個來到亞馬遜網(wǎng)站的人看到的網(wǎng)站都不一樣，因為網(wǎng)站是根據(jù)他們的興趣個性化設計的。這就好比你走進一家商店，貨架開始重新排列，你想買的東西被突出顯示，反之，你不可能感興趣的東西則被排在后面。亞馬遜網(wǎng)站的推薦系統(tǒng)會根據(jù)當前語境和你過去的行為，選擇你或許感興趣的少量商品。
這種個性化體驗來自協(xié)同過濾算法，這種算法借鑒了其他用戶的經(jīng)驗。不過，亞馬遜發(fā)明的系統(tǒng)并不是將客戶與其他具有相似特征的客戶進行匹配，而是以物品為基礎進行組織。用戶購買和評估的每件物品都與相似物品相關聯(lián)，然后這些物品根據(jù)接近程度被組合在一個推薦列表中。該列表通過各種指標進行完善。例如，它包括一個時間維度，以便系統(tǒng)整合某些購買的順序邏輯（如文學系列的連續(xù)卷本）或個人的社會生物學軌跡（年齡增長、與孩子出生相關的周期等）。這種技術的一個主要優(yōu)點在于，大部分計算都離線進行，因此系統(tǒng)功能強大，運行速度快。該系統(tǒng)非常有效。點擊率和購買轉化率都非常高。據(jù)說，亞馬遜上約有30%的頁面瀏覽量是通過它產(chǎn)生的。網(wǎng)飛也采用了同樣的流程，80%的視頻觀看都要經(jīng)過這一中介，這使其成為公司估值的關鍵因素之一。因此，推薦與行動之間的關系循環(huán)往復。目標定位的質量取決于推薦的質量；反之，推薦做法通過參與者的行動得到驗證，從而為未來推薦的循環(huán)提供信息。
谷歌與語境優(yōu)先級。Alphabet是谷歌的母公司，它主要是一家廣告公司。2017年，廣告創(chuàng)造了該公司收入的87%，該公司控制了全球在線廣告市場33%的份額（總額2 240億美元中的740億美元），在美國控制了42%的份額。讓谷歌發(fā)家致富的廣告空間銷售系統(tǒng)基于兩個因素，這兩個因素的力量結合在一起。第一個決定性因素是搜索引擎的性能。謝爾蓋·布林（Sergey Brin）和勞倫斯·佩奇（Lawrence Page）發(fā)明的排名系統(tǒng)基于網(wǎng)絡超文本鏈接的架構。第一代搜索引擎主要以關鍵詞分析為基礎，與之不同的是，谷歌的原型既考慮了指向頁面的鏈接數(shù)量和包含這些鏈接的頁面的相對重要性，也考慮了其他因素，如鏈接文本、請求位置和視覺特征（如字體大小）。這一新搜索引擎的成功源于分層原則的強大功能，它能夠提供最相關的結果，即不僅能夠摒棄不良結果（垃圾），還能識別那些從搜索制定者的角度來看只具有適度興趣的結果。正是在這一功能的基礎上，谷歌取得了經(jīng)濟上的成功。
第二個決定性因素是廣告與瀏覽語境的相關性。這樣才能在最壞的情況下限制廣告對瀏覽體驗的破壞，在最好的情況下確保網(wǎng)絡用戶對廣告有積極的看法。廣告定位的精細程度取決于對關鍵字、瀏覽歷史和谷歌生態(tài)系統(tǒng)中收集的大量其他數(shù)據(jù)的分析。這些豐富的語境信息實現(xiàn)了極為精確的定位，從而提高了廣告引發(fā)點擊的可能性。最大限度地提高廣告商所追求的行為效果，可以增加廣告空間的價值。
2010年代，Alphabet實現(xiàn)了多元化，擴大了它在網(wǎng)絡安全（Chronicle）、人工智能（Deepmind）、智能家居（Nest的恒溫器、攝像頭、傳感器、報警器和可視門鈴）和自動駕駛汽車（Waymo）領域的活動。2018年，當Waymo這家子公司在亞利桑那州的道路上推出第一輛機器人出租車時，其估計價值（在700億~2 500億美元之間）有可能超過大眾（750億美元）和豐田（1930億美元）等最大的汽車制造商。Waymo的盈利策略不是制造更好的汽車，而是將汽車作為一個生活空間、一個移動空間來控制，進而成為一個“數(shù)據(jù)井架”?！督鹑跁r報》（Financial Times）上瑞銀（UBS）的一份報告詳細解釋了這一點：
Waymo的威脅不在于制造更好的汽車。該公司并不需要。恰恰相反，它從克萊斯勒和捷豹（淪為供應商）那里訂購汽車，然后為它們配備內(nèi)部制造的自動駕駛軟件和硬件。但它的潛力遠不止于卓越的自動駕駛能力。一旦機器人出租車成為主流，Alphabet 就能從谷歌地圖和搜索中收集數(shù)據(jù)，通過YouTube和Play Store為乘客提供娛樂，通過谷歌智能揚聲器提供建議，并利用它的軟件能力管理車隊。瑞銀解釋說，除了車輛本身，Waymo還是一個垂直整合的“封閉系統(tǒng)”。蒂爾先生（Mr. Thill）補充說，機器人出租車的利害關系“將影響廣告、媒體和娛樂行業(yè)”。重要的不僅是自動駕駛技術，還有谷歌為汽車帶來的所有組件。這些都很重要。這也是該公司在客廳設備上投入巨資的原因——它希望汽車看起來像你的客廳。
數(shù)據(jù)收集、整合和處理指導著谷歌的擴張，目的始終是根據(jù)個人和語境提供最相關的產(chǎn)品。公司創(chuàng)始人兼首席執(zhí)行官勞倫斯·佩奇說：“谷歌的問題在于，你必須向它提出問題。它應該知道你想要什么，甚至在你提出要求之前就告訴你?！币虼?，鎖定目標是為了預測行為，更是為了引導行為。
臉書與廣泛的軟件整合。語境化的原則在不斷完善。它傾向于整合每個人在活動中留下的所有數(shù)字痕跡，包括與他們的社交網(wǎng)絡、行動、購買歷史有關的數(shù)據(jù)，以及他們的個人信息（甚至是隱私信息）、行政信息、財務信息和職業(yè)信息。事實表明，臉書直接從某些移動應用程序中獲取數(shù)據(jù)，而用戶并不知情。比如一款名為Breethe的冥想程序和另一款名為即時心率檢測（Instant Heart Rate）的程序，后者被吹捧為“第一款最快、最準確的便攜式心率監(jiān)測器”。再如一款名為Flo的應用程序，它記錄三十多種癥狀和活動，以便“通過人工智能生成有關月經(jīng)周期和排卵期的最準確預測”，并承諾“通過檢測反復出現(xiàn)的身體和情緒模式更好地了解你的身體”。在以上種種例子中，有關冥想、心率或排卵期的信息都會被傳送到臉書。
收集的數(shù)據(jù)來自內(nèi)置應用程序或網(wǎng)站中的小程序，被稱為軟件開發(fā)工具包（SDK）。軟件開發(fā)工具包通過以下先進的功能使公司得以增強：它們向分析平臺傳輸數(shù)據(jù)，例如會話數(shù)量和持續(xù)時間、位置、使用的終端類型，以及用戶在應用程序中輸入的信息，這讓公司能夠更好地了解用戶行為并向他們投放更具針對性的廣告。
臉書分析（Facebook Analytics）提供“以人為本的全方位渠道分析”。借助“從二十億人的社區(qū)中收集的統(tǒng)計數(shù)據(jù)”，臉書分析承諾，幫助企業(yè)家深入了解人們在網(wǎng)站、應用程序、臉書頁面等渠道與企業(yè)家的業(yè)務互動的方式和位置。該觀點契合了非規(guī)模化的論點，小規(guī)模運營可以與大數(shù)據(jù)的力量相結合。這家大型公司正在提供復雜的信息技術服務，而這類服務對于中型公司來說通常難以獨立提供。
通過軟件開發(fā)工具包，社交網(wǎng)絡可以訪問其他個人數(shù)據(jù)源，并將這些數(shù)據(jù)與它已有的用戶數(shù)據(jù)鏈接起來，從而強化對個人存在的了解。這使得社交網(wǎng)絡能夠進行復雜的市場研究，為算法過程提供數(shù)據(jù)，以便精細地選擇要在用戶個人頁面上顯示的內(nèi)容，當然，也可以兜售越來越有針對性的廣告?！度A爾街日報》（Wall Street Journal）調查了軟件開發(fā)工具包，報道稱，這些移動應用程序數(shù)據(jù)對臉書的利潤至關重要：
臉書積累了有關用戶行為的知識，該公司可以為營銷人員提供比大多數(shù)其他公司更好的投資回報。例如，當營銷人員想針對喜歡運動的用戶或正在購買新跑車的用戶投放廣告時，這些廣告的每次點擊價格會更高。這就是臉書收入增長的原因。
在這場提取相關信息的資源競賽中，網(wǎng)絡巨頭們對自己收集的數(shù)據(jù)或從合作伙伴那里獲得的數(shù)據(jù)嚴加防范。但它們也求助于專門編譯文件的代理商來補充它們的數(shù)據(jù)：
甲骨文擁有或合作的數(shù)據(jù)代理商有八十多家，它們提供了海量的數(shù)據(jù)……包括消費者購買行為、金融交易、社交媒體行為和人口統(tǒng)計信息。該公司聲稱出售全球三億多人的數(shù)據(jù)，每個人擁有三萬條數(shù)據(jù)，“美國80%以上的互聯(lián)網(wǎng)人口都在你的指尖”。
知悉每個人都有三萬個屬性，再加上錯綜復雜的跟蹤設備，我們可以對每個人都了如指掌。這種通過系統(tǒng)化探索數(shù)據(jù)而獲得的信息優(yōu)勢構成了祖博夫所說的“行為剩余”，這是一種整體知識，它為控制這種知識的組織提供了一個居高臨下的位置，使它只根據(jù)自己設定的目標來調動這種知識。這樣，與用戶相關的信息只有在符合價值要求的情況下才會被披露。
祖博夫論點的新穎之處和優(yōu)勢在于，它指出了這一動力將把我們引向何方。監(jiān)控資本主義的目標不是提高行為的可預測性，而是控制行為。這可以通過微妙的激勵措施來實現(xiàn)，比如《寶可夢GO》（Pokémon GO）這款游戲，它的商業(yè)模式的理念是向商家收取費用，引導人群前往對商家更有利的目的地。這還表明，它可以更具侵入性，例如遠程扣押逾期償還貸款或逾期支付保險費的人的聯(lián)網(wǎng)車輛。遠程信息處理技術、遠程計算機化管理程序都有一個明確的目標：
遠程信息處理不僅關乎“了解”，還關乎“做到”……。它承諾通過旨在改變行為以實現(xiàn)最大盈利能力的機器流程來降低風險。行為剩余被用來觸發(fā)制裁，例如實時票價上漲、經(jīng)濟處罰、宵禁和發(fā)動機堵塞，也被用來觸發(fā)獎勵，例如票價折扣、優(yōu)惠券和獎賞以換取未來的福利。
在祖博夫看來，監(jiān)控資本主義的公司正在建立一個大他者的基礎設施，它從我們的社會經(jīng)驗中汲取無限的資源，對這些資源進行重新安排，并以行為指令的形式返還給我們，從而從根本上削弱了我們的自主性。這個大他者是雅克·德里達意義上的“幽靈”。面對大他者時，有徹底的不對稱性。它擁有“權力的最高徽章——看到他人而不被看見”，作為個體的我們則陷入了“‘面甲效應’——我們看不到誰在看著我們”。然而，與大多數(shù)幽靈不同的是，大他者不只是存在于我們的生活中，它還玩弄我們的生活。它通過推薦、建議和義務來塑造我們的生活，對我們的行為產(chǎn)生深遠影響，從而激活自己的力量。祖博夫向我們表明，監(jiān)控資本主義的繁榮是以犧牲個人自治的完整性為代價的，它直擊人類生存條件的核心。
《技術封建主義》，[法]塞德里克·迪朗著，陳榮鋼譯，中國人民大學出版社，2024年7月出版
【本文節(jié)選自《技術封建主義》】
鄂公網(wǎng)安備 42010302001612號 