如果說(shuō)數(shù)據(jù)是數(shù)字經(jīng)濟(jì)時(shí)代的核心生產(chǎn)要素，那么算法則是推進(jìn)這一核心生產(chǎn)要素資產(chǎn)化和價(jià)值化的運(yùn)行基礎(chǔ)。當(dāng)數(shù)字技術(shù)賦能各個(gè)領(lǐng)域，催生了新產(chǎn)品、新組織模式、新商業(yè)模式和新產(chǎn)業(yè)業(yè)態(tài)的同時(shí)，也帶來(lái)了諸如算法歧視、算法操縱、算法協(xié)同、算法黑箱等潛在風(fēng)險(xiǎn)。不同類型的算法經(jīng)由設(shè)計(jì)和實(shí)施，其帶來(lái)的算法應(yīng)用潛在風(fēng)險(xiǎn)不同，并可能導(dǎo)致政府失靈與市場(chǎng)失靈。

中國(guó)傳媒大學(xué)國(guó)際傳媒教育學(xué)院院長(zhǎng)金雪濤認(rèn)為圍繞“治理主體—治理對(duì)象—治理工具措施”探索算法治理的體系架構(gòu)，可以融合多元主體協(xié)同、利益均衡和敏捷治理等三種機(jī)制，在元規(guī)制和全過(guò)程管理理念的基礎(chǔ)上優(yōu)化算法治理措施，推動(dòng)三種機(jī)制并行。

“

核心觀點(diǎn)

算法應(yīng)用存在哪些潛在風(fēng)險(xiǎn)？

1.算法歧視（Algorithmic Bias）；

2.算法操縱（Algorithmic Manipulation）；

3.算法協(xié)同（Algorithmic Collaboration）；

4.算法黑箱（Algorithmic Black Box）。

對(duì)算法應(yīng)用進(jìn)行治理存在哪些難點(diǎn)？

首先，算法應(yīng)用的過(guò)程中，人們知道“因和果”，卻難以了解過(guò)程，這種算法的不透明性源于數(shù)據(jù)安全性的考慮，也源于技術(shù)的專業(yè)性，更源于智能技術(shù)的應(yīng)用實(shí)現(xiàn)了“機(jī)器自我學(xué)習(xí)”，可以說(shuō)算法的不透明性與生俱來(lái)，這給治理帶來(lái)了難題。

其次，算法的研發(fā)具有物理上的隱蔽性、算法的應(yīng)用具有廣泛的分散性，當(dāng)深度學(xué)習(xí)嵌入算法推動(dòng)人的“決策”向機(jī)器讓渡，對(duì)算法潛在風(fēng)險(xiǎn)的評(píng)估和責(zé)任主體的確認(rèn)就變得更為困難。

最后，算法的應(yīng)用基于各領(lǐng)域的平臺(tái)，平臺(tái)是聯(lián)接著不同主體的多邊市場(chǎng)，算法應(yīng)用涉及的潛在風(fēng)險(xiǎn)既涉及個(gè)人用戶、平臺(tái)運(yùn)營(yíng)企業(yè)（平臺(tái)樞紐）和平臺(tái)參與企業(yè)，也涉及平臺(tái)上的數(shù)字勞動(dòng)者和政府管理部門，算法治理主體和算法治理對(duì)象都是多元的，相較于其他領(lǐng)域的治理問(wèn)題，算法治理的難度更大。

”

更多精彩觀點(diǎn)

從技術(shù)的角度看，算法是一個(gè)解決問(wèn)題的計(jì)算過(guò)程，是一個(gè)包含算術(shù)運(yùn)算、邏輯運(yùn)算、關(guān)系運(yùn)算的從輸入到輸出的程序；從社會(huì)學(xué)的角度看，算法是設(shè)計(jì)者與算法參數(shù)（運(yùn)算過(guò)程）及算法對(duì)象之間的互動(dòng)，這個(gè)互動(dòng)過(guò)程也伴隨技術(shù)倫理問(wèn)題的產(chǎn)生；從經(jīng)濟(jì)學(xué)的角度看，算法是完成對(duì)數(shù)據(jù)資源“輸入—輸出”的分析系統(tǒng)，提高生產(chǎn)力的同時(shí)也會(huì)影響生產(chǎn)關(guān)系。伴隨數(shù)字技術(shù)的普及應(yīng)用，社會(huì)體系中的微觀、中觀、宏觀等各層級(jí)無(wú)一不被嵌入算法的技術(shù)環(huán)境與契約環(huán)境之中。依靠機(jī)器學(xué)習(xí)的算法通過(guò)數(shù)據(jù)分析更精準(zhǔn)地掌握了需求側(cè)的偏好，極大地促進(jìn)了供給側(cè)的生產(chǎn)、管理與運(yùn)營(yíng)效率的提升。然而，算法在深度賦能社會(huì)經(jīng)濟(jì)生活方方面面的同時(shí)，也帶來(lái)了諸如算法歧視、算法操縱、算法共謀、算法黑箱等潛在風(fēng)險(xiǎn)。

算法的技術(shù)中立性產(chǎn)品特點(diǎn)與算法應(yīng)用后“技術(shù)權(quán)力”濫用及壟斷的矛盾，促使我們重新審視算法應(yīng)用與潛在風(fēng)險(xiǎn)之間的關(guān)系。我們需要深入分析算法應(yīng)用產(chǎn)生風(fēng)險(xiǎn)的特征以及風(fēng)險(xiǎn)產(chǎn)生的機(jī)理，本研究將從技術(shù)權(quán)力向資本權(quán)力和對(duì)公共資源控制轉(zhuǎn)化的角度闡釋算法應(yīng)用所導(dǎo)致的市場(chǎng)失靈與政府失靈。進(jìn)一步地，圍繞“治理主體—治理對(duì)象—治理工具措施”探索算法治理的體系架構(gòu)，提出融合多元主體協(xié)同、利益均衡和敏捷治理等三種機(jī)制，在元規(guī)制和全過(guò)程管理理念的基礎(chǔ)上優(yōu)化算法治理措施。

01 算法治理研究溯源

算法研究的總體趨勢(shì)。早在公元前1世紀(jì)，我國(guó)《周髀算經(jīng)》就對(duì)四分歷法進(jìn)行說(shuō)明，同時(shí)用商高問(wèn)答解釋了“勾三股四玄五”這一勾股定律的特例，已經(jīng)有了數(shù)學(xué)及算法的雛形。算法（Algorithm）一詞來(lái)自于波斯數(shù)學(xué)天才花剌子模名字的拉丁化，在他的書(shū)籍中不僅闡釋了如何將復(fù)雜的問(wèn)題分解為更為簡(jiǎn)單的部分并加以解決，也闡釋了沿用至今的“算數(shù)運(yùn)算”“關(guān)系運(yùn)算”等概念。此后在人類文明的進(jìn)程中，推進(jìn)幾何學(xué)系統(tǒng)化的歐幾里德算法、“軟件之母”Ada Byron的程序設(shè)計(jì)流程圖、抽象了數(shù)學(xué)計(jì)算過(guò)程的圖靈機(jī)，以及“Pascal創(chuàng)始者”Nicklaus Wirth提出的“算法+數(shù)據(jù)結(jié)構(gòu)=程序”等，每一次探索與進(jìn)步都堅(jiān)實(shí)了算法的應(yīng)用基礎(chǔ)。當(dāng)人類從工業(yè)社會(huì)、信息化社會(huì)步入數(shù)字經(jīng)濟(jì)時(shí)代之后，依托高速互聯(lián)的網(wǎng)絡(luò)、大數(shù)據(jù)存儲(chǔ)及計(jì)算能力，算法已融入個(gè)人的吃穿住行、企業(yè)的生產(chǎn)運(yùn)營(yíng)和政府的公共治理之中。

筆者對(duì)2000年 2021年國(guó)內(nèi)外關(guān)于算法治理、算法規(guī)制的學(xué)術(shù)論文成果進(jìn)行檢索分析。國(guó)外文獻(xiàn)數(shù)據(jù)來(lái)自Web of Science核心合集數(shù)據(jù)庫(kù)，為了保證數(shù)據(jù)的全面性，利用專業(yè)檢索，構(gòu)造檢索式“TS=（algorithm*）AND TS=（governance OR regulation）”、選擇語(yǔ)言“English”、選擇文獻(xiàn)類型“Article”，選擇時(shí)間截至“2021年”，最終獲取到828篇國(guó)外文獻(xiàn)。國(guó)內(nèi)文獻(xiàn)數(shù)據(jù)來(lái)自中國(guó)知網(wǎng)，為了保證數(shù)據(jù)的全面性，利用專業(yè)檢索，構(gòu)造檢索式“SU=’算法’*（’治理’+’規(guī)制’）”，選擇CSSCI期刊為檢索范圍，選擇時(shí)間截至“2021年”，最終獲取到526篇國(guó)內(nèi)文獻(xiàn)。每年中外發(fā)表的論文數(shù)量變化的整體趨勢(shì)如圖1所示。綜合來(lái)看，國(guó)外的研究起步早于國(guó)內(nèi)，文章數(shù)量多于國(guó)內(nèi)。國(guó)內(nèi)外在算法治理領(lǐng)域的研究都是從2017年開(kāi)始顯著增加，這與2016年是算法編輯超越人工編輯的拐點(diǎn)之年密切相關(guān)，更佐證了算法技術(shù)應(yīng)用廣度與深度不斷拓展的現(xiàn)實(shí)。

聚焦國(guó)內(nèi)算法治理問(wèn)題，研究發(fā)現(xiàn)，國(guó)內(nèi)相關(guān)研究中最熱關(guān)鍵詞是“人工智能”，該關(guān)鍵詞節(jié)點(diǎn)的“原點(diǎn)”最大，代表算法治理中與人工智能相關(guān)的研究最多。在國(guó)內(nèi)研究排名前20的關(guān)鍵詞中，有5個(gè)詞與“算法”關(guān)聯(lián)，分別是算法歧視、算法風(fēng)險(xiǎn)、算法規(guī)制、算法權(quán)力和算法倫理，說(shuō)明學(xué)術(shù)界非常關(guān)注算法風(fēng)險(xiǎn)的成因、算法風(fēng)險(xiǎn)的類型和治理措施探索；有6個(gè)詞與“治理”關(guān)聯(lián)，分別是“治理”、“數(shù)據(jù)治理”、“社會(huì)治理”、“協(xié)同治理”、“技術(shù)治理”和“政治治理”，這說(shuō)明當(dāng)前針對(duì)算法應(yīng)用的治理問(wèn)題研究不是只停留在微觀層面，也在中觀和宏觀層面都有所涉及。

算法治理的研究重點(diǎn)。國(guó)內(nèi)外關(guān)于算法治理的相關(guān)研究主要聚焦在傳播學(xué)、社會(huì)學(xué)、政治經(jīng)濟(jì)學(xué)、經(jīng)濟(jì)學(xué)和法學(xué)等領(lǐng)域，表1列示了代表性學(xué)者的研究觀點(diǎn)。

從傳播學(xué)的視角看，算法的直接影響是產(chǎn)生信息繭房（Information Cocoons）、回聲室效應(yīng)（Echo Chamber）和信息過(guò)濾泡（Filter Bubble）。這三個(gè)概念均指因算法支撐的數(shù)據(jù)分析及內(nèi)容精準(zhǔn)推送，在無(wú)形的網(wǎng)絡(luò)空間中打造了相對(duì)封閉、高度同質(zhì)化的信息空間，人們的視界被熟悉的內(nèi)容和思維所限制并進(jìn)一步固化，甚而這種固有之見(jiàn)會(huì)被推向極端形成群體極化（Group Polarization）。

從社會(huì)學(xué)和政治經(jīng)濟(jì)學(xué)的視角看，盡管算法技術(shù)并非數(shù)字鴻溝、數(shù)字勞動(dòng)、個(gè)人隱私保護(hù)等問(wèn)題存在的唯一因素，但算法應(yīng)用使得橫亙?cè)诨ヂ?lián)網(wǎng)觸達(dá)者和互聯(lián)網(wǎng)無(wú)法觸達(dá)者之間的橫向數(shù)字鴻溝，政府、企業(yè)、個(gè)人等在縱向管理關(guān)系上因?qū)?shù)據(jù)（信息）掌握程度和決策能力不同而導(dǎo)致的縱向數(shù)字鴻溝等更加顯著；算法應(yīng)用也令有酬和無(wú)酬的數(shù)字勞動(dòng)者的勞動(dòng)付出被機(jī)器判斷與指令控制，從而數(shù)字勞動(dòng)被進(jìn)一步商品化和資本化；算法應(yīng)用也會(huì)因隱私（數(shù)據(jù)）主體喪失了控制權(quán)從而產(chǎn)生隱私泄漏等風(fēng)險(xiǎn)。

從經(jīng)濟(jì)學(xué)的角度看，泛在的網(wǎng)絡(luò)平臺(tái)是數(shù)字經(jīng)濟(jì)的基礎(chǔ)設(shè)施，也是數(shù)字生產(chǎn)要素利用與配置的場(chǎng)域，更是算法得以應(yīng)用產(chǎn)生價(jià)值增值的舞臺(tái)。傳統(tǒng)經(jīng)濟(jì)中企業(yè)通過(guò)協(xié)議或相互暗示可以形成策略行為的共謀，以限制競(jìng)爭(zhēng)實(shí)現(xiàn)合作集團(tuán)內(nèi)部利益最大化。數(shù)字經(jīng)濟(jì)和人工智能環(huán)境下，算法應(yīng)用更有助于網(wǎng)絡(luò)平臺(tái)通過(guò)收集個(gè)人或企業(yè)的基礎(chǔ)信息及行為信息，通過(guò)加工分析而洞悉平臺(tái)上的價(jià)格趨勢(shì)、產(chǎn)品結(jié)構(gòu)以及各類參與方的行為特征，令共謀行為更易達(dá)成?；趥€(gè)人用戶基礎(chǔ)數(shù)據(jù)和行為數(shù)據(jù)分析的算法，還可以針對(duì)個(gè)人用戶的偏好實(shí)施動(dòng)態(tài)的價(jià)格歧視或服務(wù)歧視，剝奪了更多的消費(fèi)者剩余。

從法學(xué)的角度看，中外學(xué)者對(duì)算法權(quán)力的形成及其對(duì)社會(huì)資源和數(shù)據(jù)的控制作用進(jìn)行了分析，同時(shí)對(duì)算法權(quán)力嵌入商業(yè)領(lǐng)域、嵌入公權(quán)力程序所形成的異化風(fēng)險(xiǎn)提出了警示，從立法的角度考慮了治理的架構(gòu)與措施。

伴隨大數(shù)據(jù)分析技術(shù)的升級(jí)與智能技術(shù)的普及，算法應(yīng)用帶來(lái)的風(fēng)險(xiǎn)隱患受到了廣泛關(guān)注，很多國(guó)家政府通過(guò)立法和標(biāo)準(zhǔn)制定對(duì)算法應(yīng)用的相關(guān)領(lǐng)域進(jìn)行實(shí)質(zhì)維度的治理與監(jiān)管，不同行業(yè)、企業(yè)也通過(guò)建立算法應(yīng)用的倫理指南來(lái)實(shí)現(xiàn)自我規(guī)制。

02 算法應(yīng)用的潛在風(fēng)險(xiǎn)及形成機(jī)理

算法應(yīng)用的潛在風(fēng)險(xiǎn)。1.算法歧視（Algorithmic Bias）。算法歧視是指通過(guò)數(shù)字自動(dòng)化決策，特定條件的數(shù)據(jù)分析導(dǎo)致對(duì)特定數(shù)據(jù)主體產(chǎn)生基于性別、價(jià)格及其他條件的不公正對(duì)待，濫用排序、大數(shù)據(jù)殺熟等都是算法歧視的直接表現(xiàn)。算法歧視可能是源于算法設(shè)計(jì)者的文化差異、判斷差異、目的差異，也可能源于算法使用過(guò)程中意外出現(xiàn)的突發(fā)結(jié)果。不管是哪一種情況，算法歧視都會(huì)產(chǎn)生偏見(jiàn)強(qiáng)化、消費(fèi)者剩余被蠶食、個(gè)人自主選擇被剝奪等不利影響。

現(xiàn)實(shí)生活中，經(jīng)常使用打車APP的人和使用外賣平臺(tái)APP的會(huì)員，他們訂車或訂外賣支付的金額有時(shí)反而會(huì)比不經(jīng)常使用的人更高；又比如企業(yè)在專業(yè)招聘平臺(tái)上招人，會(huì)存在因算法歧視而導(dǎo)致選擇范圍過(guò)窄等問(wèn)題。根據(jù)2019年北京消費(fèi)者協(xié)會(huì)的社會(huì)調(diào)查數(shù)據(jù)，有56.92%的被調(diào)查者有過(guò)被大數(shù)據(jù)“殺熟”的經(jīng)歷；調(diào)查還顯示購(gòu)物類、旅游類、打車類等平臺(tái)APP均存在著大數(shù)據(jù)“殺熟”現(xiàn)象（劉朝，2022）。

2.算法操縱（Algorithmic Manipulation）。算法操縱是指當(dāng)算法部分（或全部）替代“人”成為發(fā)出指令和進(jìn)行決策的主體時(shí)，數(shù)據(jù)（信息、隱私）的所有者、企業(yè)決策主體、勞動(dòng)主體喪失了控制權(quán)，會(huì)造成信息繭房、回音室效應(yīng)、信息過(guò)濾泡以及隱私泄漏等問(wèn)題。

針對(duì)消費(fèi)者的算法操縱包括新聞、文娛、廣告等推送主要依靠對(duì)用戶行為的數(shù)據(jù)分析，算法推斷用戶偏好并只呈現(xiàn)該種類內(nèi)容，比如Facebook的新聞投喂算法（News Feed Algorithm），這使得信息繭房、回音室效應(yīng)、信息過(guò)濾泡等構(gòu)筑“信息隔離空間”的效能大大增強(qiáng)；與此同時(shí)，在算法操縱對(duì)個(gè)人用戶基本數(shù)據(jù)和行為數(shù)據(jù)的收集、分析、預(yù)測(cè)和使用過(guò)程中，因數(shù)據(jù)（信息、隱私）主體喪失了控制權(quán)，有可能導(dǎo)致個(gè)人數(shù)據(jù)或隱私被泄漏和不當(dāng)利用。

針對(duì)勞動(dòng)者的算法操控，最直接的表現(xiàn)就是對(duì)數(shù)字勞動(dòng)的“剝削”。作為工具革命代表的算法能夠?qū)?shù)字勞動(dòng)的價(jià)值精準(zhǔn)計(jì)量和控制，比如外賣騎手走哪條線路能夠最有效率地送出外賣，粉絲收看視頻的完播率、轉(zhuǎn)發(fā)數(shù)量和評(píng)論數(shù)量能夠創(chuàng)造多少流量?jī)r(jià)值等。數(shù)字技術(shù)通過(guò)對(duì)數(shù)字勞動(dòng)的屬性、行為計(jì)算出最佳方案，并以一種可見(jiàn)或不可見(jiàn)的方式推進(jìn)各類數(shù)字勞動(dòng)去“行動(dòng)”，數(shù)字勞動(dòng)所創(chuàng)造的信息內(nèi)容、流量以及生產(chǎn)效率，部分或全部地?zé)o償參與資本擴(kuò)張與增值過(guò)程。

針對(duì)同業(yè)競(jìng)爭(zhēng)者的算法操縱集中地體現(xiàn)在網(wǎng)絡(luò)平臺(tái)通過(guò)算法設(shè)置條件，控制搜索結(jié)果或排名呈現(xiàn)，構(gòu)筑了市場(chǎng)進(jìn)入壁壘，當(dāng)然算法操縱也會(huì)導(dǎo)致同業(yè)競(jìng)爭(zhēng)企業(yè)的數(shù)據(jù)（信息）被泄漏或不當(dāng)利用。算法操縱破壞了公平競(jìng)爭(zhēng)，同時(shí)也給消費(fèi)者帶來(lái)了不良體驗(yàn)。比如韓國(guó)最大的搜索引擎Naver在2020年利用搜索服務(wù)禁止其內(nèi)容供應(yīng)商與它的競(jìng)爭(zhēng)對(duì)手合作，并將自己的產(chǎn)品設(shè)置在搜索結(jié)果的高排名中，將競(jìng)爭(zhēng)對(duì)手的產(chǎn)品設(shè)置在低排名中，這種既欺騙消費(fèi)者又阻礙公平競(jìng)爭(zhēng)的行為被韓國(guó)公平貿(mào)易委員會(huì)（Korea Fair Trade Commission, KFTC）罰款280.2億韓元。

3.算法協(xié)同（Algorithmic Collaboration）。協(xié)同行為（共謀行為）是在特定產(chǎn)業(yè)中多個(gè)企業(yè)通過(guò)協(xié)議或暗示，采取共同限制價(jià)格、限制產(chǎn)量、控制銷售渠道等一致性行為來(lái)壓制競(jìng)爭(zhēng)，獲得超額壟斷利潤(rùn)的策略。在數(shù)字經(jīng)濟(jì)時(shí)代，數(shù)據(jù)、算法、算力已經(jīng)貫穿了所有的生產(chǎn)要素和各類社會(huì)經(jīng)濟(jì)活動(dòng)，基于互聯(lián)網(wǎng)平臺(tái)的運(yùn)營(yíng)企業(yè)和平臺(tái)內(nèi)參與企業(yè)均有能力對(duì)消費(fèi)者、競(jìng)爭(zhēng)同行的大數(shù)據(jù)進(jìn)行收集與分析，并可自動(dòng)地形成在價(jià)格、服務(wù)標(biāo)準(zhǔn)或產(chǎn)量上的共謀。

英國(guó)學(xué)者阿里爾·扎拉奇（Ariel Ezrachi）和莫里斯·E·斯圖克（Maurice E. Stucke）將算法協(xié)同（共謀）分為四類：1）信使型共謀是通過(guò)分享算法傳遞的信息達(dá)成對(duì)價(jià)格或銷售條件等的共謀，算法的角色類似“信使”；2）軸輻型共謀最為常見(jiàn)，是指作為平臺(tái)的運(yùn)營(yíng)企業(yè)（平臺(tái)樞紐）利用算法形成價(jià)格指導(dǎo)（車軸），協(xié)同平臺(tái)其他參與企業(yè)（輻條）形成上下游縱向共謀，或作為平臺(tái)參與企業(yè)（輻條）之間在平臺(tái)樞紐的影響形成下游橫向的共謀，從而封閉市場(chǎng)成立，限制了競(jìng)爭(zhēng)；3）預(yù)測(cè)型共謀需要依靠更智能的算法，由算法（特別是價(jià)格算法）充當(dāng)企業(yè)高管的代理人角色，動(dòng)態(tài)監(jiān)控市場(chǎng)價(jià)格的變化，通過(guò)信息差來(lái)獲得定價(jià)優(yōu)勢(shì)；4）自主型共謀是在機(jī)器學(xué)習(xí)不斷深化的過(guò)程中，算法可以完成自我學(xué)習(xí)與自我決策的不斷優(yōu)化，形成了自動(dòng)探索優(yōu)化利潤(rùn)的路徑，從而成為操縱市場(chǎng)的力量，盡管目前自主型共謀還處于概念和實(shí)驗(yàn)階段，但其危害值得我們更多關(guān)注。

在現(xiàn)實(shí)中，亞馬遜網(wǎng)站上的書(shū)商因定價(jià)算法設(shè)計(jì)上的漏洞，其銷售的書(shū)籍定價(jià)追隨用戶的留言與評(píng)價(jià)機(jī)械地發(fā)生并無(wú)限循環(huán)，導(dǎo)致一本普通的生物遺傳學(xué)教科書(shū)的定價(jià)高達(dá)2000多萬(wàn)美金，這是信使型共謀的典例；2016年歐盟法院審理的E-Turas案是E-Turas這家線上旅游預(yù)訂系統(tǒng)通過(guò)對(duì)所有會(huì)員單位的報(bào)價(jià)信息分析，自動(dòng)將折扣限制在3%以內(nèi)，而不論成員單位的自我價(jià)格折扣是多少，這是一種典型的軸輻型共謀。

4.算法黑箱（Algorithmic Black Box）?！昂谙洹笔且环N隱喻，指存在于人工智能深度學(xué)習(xí)的輸入與輸出之間，難以為外界所觀察和理解的隱層。算法設(shè)計(jì)者和算法應(yīng)用者作為專業(yè)人士對(duì)算法內(nèi)容和機(jī)制會(huì)有更多了解，但非專業(yè)人士只能觀察到算法系統(tǒng)的輸入與輸出，很難掌握算法的內(nèi)容與邏輯。算法“黑箱”對(duì)多數(shù)主體或個(gè)人是具有不透明性和不公開(kāi)性的，這種不透明性和不公開(kāi)性必然導(dǎo)致數(shù)據(jù)（信息）的不可控，而數(shù)據(jù)（信息）的不可控又加劇了輸出結(jié)果與事實(shí)相悖、或算法決策責(zé)任性缺失，關(guān)聯(lián)地或可能侵犯公眾知情權(quán)和自主決策權(quán)，威脅個(gè)人信息安全，甚至可能引發(fā)公共數(shù)據(jù)資源的使用危機(jī)。算法黑箱也使算法歧視、算法操縱和算法共謀等以更隱蔽的狀態(tài)產(chǎn)生風(fēng)險(xiǎn)蔓延。

算法應(yīng)用存在風(fēng)險(xiǎn)的機(jī)理。OECD將算法分為四類：一是“監(jiān)控式算法”（Monitoring Algorithms），指按既定目標(biāo)，利用數(shù)據(jù)（內(nèi)容信息）爬取技術(shù)，通過(guò)數(shù)據(jù)收集完成監(jiān)控過(guò)程，在監(jiān)控式算法使用過(guò)程中，“人”是發(fā)出指令的控制主體和進(jìn)行決策的主體，算法只是工具；二是“平行式算法”（Parallel Algorithms），依然是根據(jù)既定目標(biāo)通過(guò)特定算法對(duì)數(shù)據(jù)進(jìn)行收集、分析和監(jiān)控，“人”是發(fā)出指令的控制主體，但通過(guò)算法設(shè)計(jì)讓渡了部分“決策權(quán)”給算法；三是“信號(hào)式算法”（Signaling Algorithms），是在算法對(duì)數(shù)據(jù)收集、分析和預(yù)測(cè)的基礎(chǔ)上，按照設(shè)計(jì)程序可以自動(dòng)發(fā)布信號(hào)和處理信號(hào)，此類算法已開(kāi)始對(duì)“人發(fā)出指令和進(jìn)行決策的功能”產(chǎn)生部分的替代；四是“自我學(xué)習(xí)式算法”（Self-learning Algorithms），是在人工智能的相關(guān)技術(shù)加持下，擁有智能認(rèn)知的算法可以實(shí)現(xiàn)從發(fā)出指令到完成決策的全過(guò)程，具有了對(duì)“人發(fā)出指令和進(jìn)行決策的功能”完全替代的可能性。

不同類型的算法經(jīng)由設(shè)計(jì)和實(shí)施，對(duì)算法應(yīng)用潛在風(fēng)險(xiǎn)影響不同（如圖2所示）：監(jiān)控式算法不存在發(fā)出指令和完成決策的機(jī)器替代，主要功能是收集和分析數(shù)據(jù)，并產(chǎn)生導(dǎo)向型的數(shù)據(jù)輸出，因此它是產(chǎn)生基于基礎(chǔ)數(shù)據(jù)和基于行為數(shù)據(jù)的算法歧視的主要助力，同時(shí)監(jiān)控式算法也會(huì)加劇信息繭房、回聲室效應(yīng)、信息過(guò)濾泡和信使型共謀所產(chǎn)生的風(fēng)險(xiǎn)；平行式算法的指令發(fā)出主體仍然是人，但部分決策控制權(quán)出現(xiàn)向算法的轉(zhuǎn)移，這種算法的輸出背離事實(shí)的可能性會(huì)推動(dòng)基于行為數(shù)據(jù)的算法歧視產(chǎn)生、信息過(guò)濾泡的構(gòu)建、個(gè)人隱私和公共數(shù)據(jù)的泄漏等，平行式算法的自動(dòng)分析與決策過(guò)程也便利了軸輻型共謀的達(dá)成；信號(hào)式算法已開(kāi)始對(duì)“人發(fā)出指令和進(jìn)行決策的功能”產(chǎn)生部分的替代，因此與算法對(duì)象間的互動(dòng)更為密切，對(duì)于具主動(dòng)性的數(shù)字勞動(dòng)進(jìn)行控制、形成預(yù)測(cè)型共謀和算法黑箱，信號(hào)式算法更有效率；自我學(xué)習(xí)式算法更加智能，算法能夠獨(dú)立完成發(fā)出指令并優(yōu)化決策，因此基于機(jī)器學(xué)習(xí)的自主型共謀和更高難度的算法黑箱有了實(shí)施支撐。

當(dāng)作為技術(shù)的算法，通過(guò)數(shù)據(jù)分析和輸出結(jié)果導(dǎo)向?qū)?jīng)濟(jì)活動(dòng)或社會(huì)活動(dòng)主體的決策與行為產(chǎn)生了一定程度的支配力與控制力，特別是智能技術(shù)的深入融合不斷增強(qiáng)算法的自我學(xué)習(xí)能力，算法可以部分甚至完全替代人這個(gè)主體“發(fā)出指令”“完成決策”，進(jìn)一步地算法對(duì)生產(chǎn)力和生產(chǎn)關(guān)系都會(huì)產(chǎn)生影響，從單純的技術(shù)工具逐漸轉(zhuǎn)變?yōu)榫哂兄黧w性的“技術(shù)權(quán)力者”。而當(dāng)這種技術(shù)權(quán)力與商業(yè)程序相結(jié)合時(shí)，形成了“算法（技術(shù)權(quán)力）——數(shù)據(jù)收集、分析與結(jié)果輸出——經(jīng)濟(jì)資源控制+行為影響——社會(huì)利益分配重構(gòu)（資本權(quán)力）——市場(chǎng)失靈”的作用機(jī)制路徑；當(dāng)這種技術(shù)權(quán)力與行政程序相結(jié)合時(shí)，則有可能導(dǎo)致“算法（技術(shù)權(quán)力）——數(shù)據(jù)收集、分析與結(jié)果輸出——公共資源（含數(shù)據(jù)／信息）控制——政府失靈”的作用機(jī)制路徑。

03 算法應(yīng)用治理體系構(gòu)建

對(duì)算法應(yīng)用進(jìn)行治理的難點(diǎn)。算法其實(shí)是一種分析利用數(shù)據(jù)的智能手段，它將數(shù)據(jù)輸入（原因）通過(guò)既定的程序變?yōu)閿?shù)據(jù)輸出（結(jié)果）。首先，算法應(yīng)用的過(guò)程中，人們知道“因和果”，卻難以了解過(guò)程，這種算法的不透明性源于數(shù)據(jù)安全性的考慮，也源于技術(shù)的專業(yè)性，更源于智能技術(shù)的應(yīng)用實(shí)現(xiàn)了“機(jī)器自我學(xué)習(xí)”，可以說(shuō)算法的不透明性與生俱來(lái)，這給治理帶來(lái)了難題。其次，算法的研發(fā)具有物理上的隱蔽性、算法的應(yīng)用具有廣泛的分散性，當(dāng)深度學(xué)習(xí)嵌入算法推動(dòng)人的“決策”向機(jī)器讓渡，對(duì)算法潛在風(fēng)險(xiǎn)的評(píng)估和責(zé)任主體的確認(rèn)就變得更為困難。最后，算法的應(yīng)用基于各領(lǐng)域的平臺(tái)，平臺(tái)是聯(lián)接著不同主體的多邊市場(chǎng)，算法應(yīng)用涉及的潛在風(fēng)險(xiǎn)既涉及個(gè)人用戶、平臺(tái)運(yùn)營(yíng)企業(yè)（平臺(tái)樞紐）和平臺(tái)參與企業(yè)，也涉及平臺(tái)上的數(shù)字勞動(dòng)者和政府管理部門，算法治理主體和算法治理對(duì)象都是多元的，相較于其他領(lǐng)域的治理問(wèn)題，算法治理的難度更大。

算法應(yīng)用治理體系構(gòu)建。1.算法治理體系的構(gòu)成要件?；谒惴ㄖ卫碇黧w和對(duì)象的多元特點(diǎn)，算法治理的復(fù)雜性，算法治理需要構(gòu)建體系。這需要厘清治理主體與治理對(duì)象之間的關(guān)系和職責(zé)，同時(shí)考慮市場(chǎng)失靈和政府失靈的雙重影響，通過(guò)治理主體的一系列工具措施與治理對(duì)象之間形成有效的互動(dòng)，實(shí)現(xiàn)治理目標(biāo)。算法治理體系的構(gòu)成要件包含治理主體、治理對(duì)象、治理工具與措施。

需要說(shuō)明的是，算法治理的主體和治理對(duì)象并非截然分開(kāi)的，算法治理主體有時(shí)與算法治理對(duì)象具有一致性。比如算法治理的主體包括相關(guān)政府部門、行業(yè)協(xié)會(huì)、第三方社會(huì)組織等，但這些主體也會(huì)使用算法進(jìn)行數(shù)字資源的使用與控制，所以要接受公眾的監(jiān)督；算法治理的對(duì)象如算法設(shè)計(jì)開(kāi)發(fā)方、使用算法的平臺(tái)運(yùn)營(yíng)企業(yè)、平臺(tái)參與企業(yè)、公共組織等，也會(huì)采取自我規(guī)制來(lái)實(shí)現(xiàn)技術(shù)倫理責(zé)任。傳統(tǒng)的治理工具主要依賴于政府干預(yù)（外部規(guī)制）和自我治理（自我規(guī)制）等具體措施工具，前者是治理主體通過(guò)治理工具與措施從外部設(shè)定標(biāo)準(zhǔn)等對(duì)治理對(duì)象進(jìn)行引導(dǎo)和監(jiān)管，比如市場(chǎng)準(zhǔn)入，技術(shù)標(biāo)準(zhǔn)，正面及負(fù)面清單等；后者是治理對(duì)象基于社會(huì)責(zé)任、倫理道德等對(duì)自身施以主動(dòng)管理的行為，比如企業(yè)責(zé)任、技術(shù)和道德倫理原則等。算法治理主體通過(guò)外部治理、算法治理對(duì)象通過(guò)自我治理，以及近年來(lái)理論界與實(shí)踐界關(guān)注度不斷提高的對(duì)治理過(guò)程本身或治理主體的“元規(guī)制”，在明晰各類主體權(quán)責(zé)和應(yīng)承擔(dān)技術(shù)倫理責(zé)任的基礎(chǔ)上，形成多元化主體協(xié)同機(jī)制、利益均衡機(jī)制和敏捷治理機(jī)制，實(shí)現(xiàn)算法治理體系的穩(wěn)健運(yùn)行。

2.算法治理體系的運(yùn)行機(jī)制。一是多主體協(xié)同機(jī)制。算法治理首先需要相關(guān)政府部門采取由上而下的行政賦能，通過(guò)立法立規(guī)明晰不同算法應(yīng)用所涉及的各類主體的權(quán)責(zé)，通過(guò)系列的工具和措施來(lái)實(shí)現(xiàn)對(duì)算法的評(píng)估、對(duì)算法的問(wèn)責(zé)、對(duì)算法的審計(jì)，建立責(zé)罰相當(dāng)?shù)闹卫砜蚣?。其次，厘清算法治理主體與治理對(duì)象間的關(guān)系，提高相關(guān)企業(yè)、社會(huì)組織和公眾對(duì)算法應(yīng)用的技術(shù)及倫理的認(rèn)知與理解，推動(dòng)自下而上的多主體、多元化的參與進(jìn)程。在這樣的機(jī)制下，可以充分調(diào)動(dòng)算法所涉及的各類主體的積極性與能動(dòng)性，形成對(duì)公共部門作為單一治理主體的有益補(bǔ)充。

二是利益均衡機(jī)制。算法治理工作的目的是保障和實(shí)現(xiàn)公共利益，而公共利益意味著一定社會(huì)條件下或特定范圍內(nèi)不特定多數(shù)主體利益相一致。利益均衡首先要明確主體利益，然后建立主體利益規(guī)范機(jī)制。算法治理涉及的主體利益既包括用戶個(gè)體和數(shù)字勞動(dòng)者的隱私權(quán)、他們對(duì)算法的知情權(quán)和要求解釋權(quán)，也包括算法設(shè)計(jì)者或控制方應(yīng)享有合法使用信息與數(shù)據(jù)的權(quán)利，以及在知識(shí)產(chǎn)權(quán)保護(hù)下獲得算法應(yīng)用的收益權(quán)，還包括公共部門合法使用算法的權(quán)利等。利益均衡機(jī)制需要依靠立法的權(quán)威和社會(huì)性的、經(jīng)濟(jì)性的規(guī)制手段來(lái)協(xié)調(diào)各方主體，在利益共存和相容的基礎(chǔ)上通過(guò)科學(xué)治理程序和具體治理工具解決制衡與保護(hù)等問(wèn)題。

三是敏捷治理（Agile Governance）機(jī)制。如果說(shuō)多主體協(xié)同機(jī)制與利益均衡機(jī)制更多地是從算法涉及的治理主體與治理對(duì)象的復(fù)雜性出發(fā)構(gòu)建治理體系的原則與基礎(chǔ)，那么敏捷治理機(jī)制則是從算法治理的效率與效果出發(fā)推動(dòng)算法治理體系可持續(xù)運(yùn)行。當(dāng)數(shù)字技術(shù)應(yīng)用超越了傳統(tǒng)治理體系范疇，敏捷治理機(jī)制是為應(yīng)對(duì)技術(shù)帶來(lái)的新風(fēng)險(xiǎn)和新挑戰(zhàn)而開(kāi)展的新型治理。敏捷治理機(jī)制依托“政府為核心+多元參與主體”的模式，通過(guò)跨部門合作形成自上而下與自下而上相結(jié)合的治理程序；從對(duì)需求的被動(dòng)響應(yīng)轉(zhuǎn)向?qū)π枨蟮闹鲃?dòng)響應(yīng)，從結(jié)果導(dǎo)向的治理轉(zhuǎn)向過(guò)程導(dǎo)向的治理，在不斷的自反性學(xué)習(xí)過(guò)程中，動(dòng)態(tài)調(diào)整并優(yōu)化治理工具與措施。盡管敏捷治理在理論研究和實(shí)踐應(yīng)用中仍存在目標(biāo)與效果的差距，但不可否認(rèn)的是，集合各方力量、以迅速響應(yīng)和不斷自反性學(xué)習(xí)為原則的敏捷治理機(jī)制，可以有效地推進(jìn)算法治理中多主體協(xié)同與利益均衡的實(shí)現(xiàn)。

3.算法治理的措施優(yōu)化。推動(dòng)以上三種機(jī)制并行，算法治理的措施優(yōu)化應(yīng)堅(jiān)持過(guò)程導(dǎo)向和主動(dòng)響應(yīng)需求的原則，引入“元規(guī)制”理念，強(qiáng)調(diào)多主體權(quán)責(zé)的明確和系統(tǒng)參與，加強(qiáng)事前、事中和事后全過(guò)程的管理。

首先，算法治理的措施優(yōu)化體現(xiàn)在外部治理和自我治理基礎(chǔ)上元規(guī)制理念的引入。“元規(guī)制”是指規(guī)制本身成為被規(guī)制的對(duì)象（Bronwen Morgan, 2003）。顯然，元規(guī)制不僅對(duì)治理主體進(jìn)行規(guī)制，也強(qiáng)調(diào)對(duì)治理過(guò)程的管控。實(shí)踐中元規(guī)制的主旨不在于對(duì)算法風(fēng)險(xiǎn)個(gè)案解決，而在于對(duì)算法應(yīng)用進(jìn)行整體的技術(shù)標(biāo)準(zhǔn)指引，并對(duì)“算法類型—算法風(fēng)險(xiǎn)”的生成機(jī)制予以過(guò)程性管理的回應(yīng)。例如，國(guó)際標(biāo)準(zhǔn)化組織已于2018年開(kāi)始制定針對(duì)消費(fèi)者數(shù)據(jù)信息保護(hù)的標(biāo)準(zhǔn)，旨在改善算法帶來(lái)的“價(jià)格歧視”問(wèn)題；2019年，德國(guó)數(shù)據(jù)倫理委員會(huì)發(fā)布“針對(duì)數(shù)據(jù)和算法的建議”，建立數(shù)字服務(wù)企業(yè)使用數(shù)據(jù)的5級(jí)風(fēng)險(xiǎn)評(píng)級(jí)制度，對(duì)不同風(fēng)險(xiǎn)類型的企業(yè)采取不同的監(jiān)管措施。目前，我國(guó)已出臺(tái)的《中華人民共和國(guó)個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》進(jìn)一步明確算法推薦服務(wù)商在保護(hù)個(gè)人信息、防止過(guò)度消費(fèi)、秉持道德倫理等方面的責(zé)任和算法需備案、定期審核等要求，對(duì)打破算法黑箱大有裨益。但目前我國(guó)尚缺乏對(duì)不同類型算法的技術(shù)標(biāo)準(zhǔn)和對(duì)算法風(fēng)險(xiǎn)分級(jí)分類管理的標(biāo)準(zhǔn)，從元規(guī)制視角出發(fā)，這些標(biāo)準(zhǔn)應(yīng)盡快出臺(tái)，以實(shí)現(xiàn)將治理原則和目標(biāo)融入技術(shù)開(kāi)發(fā)和應(yīng)用中，推動(dòng)治理對(duì)象的自我治理和治理過(guò)程的全覆蓋。

其次，算法規(guī)制的措施優(yōu)化體現(xiàn)在對(duì)算法應(yīng)用全過(guò)程的管理。在《中華人民共和國(guó)個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》頒布之前，我國(guó)對(duì)于算法的治理較明顯地體現(xiàn)為事后治理，比如2018年8月頒布的《電子商務(wù)法》第十九條規(guī)定“電子商務(wù)經(jīng)營(yíng)者搭售商品或者服務(wù)，應(yīng)當(dāng)以顯著方式提醒消費(fèi)者注意，不得將搭售商品或者服務(wù)作為默認(rèn)同意的選項(xiàng)”，對(duì)這一條款的違規(guī)處罰上限為50萬(wàn)元罰款。再比如2021年2月出臺(tái)的《國(guó)務(wù)院反壟斷委員會(huì)關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》中明確指出“認(rèn)定平臺(tái)經(jīng)濟(jì)領(lǐng)域的濫用市場(chǎng)支配地位行為，適用《反壟斷法》第三章和《禁止濫用市場(chǎng)支配地位行為暫行規(guī)定》”，認(rèn)定過(guò)程及行政處罰等也是通過(guò)舉報(bào)、調(diào)查等事后追索。因?yàn)樗惴夹g(shù)的迭代更新，事后治理或追責(zé)往往無(wú)法有效應(yīng)對(duì)算法應(yīng)用引致風(fēng)險(xiǎn)的廣泛性和破壞性，增強(qiáng)事中，特別是事前的治理才有利于前瞻性地防范算法風(fēng)險(xiǎn)的產(chǎn)生。2021年12月出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》強(qiáng)調(diào)“算法風(fēng)險(xiǎn)防控機(jī)制備案”“建立健全算法機(jī)制機(jī)理審核與評(píng)估”“驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果”等，這已充分說(shuō)明我國(guó)已逐漸實(shí)現(xiàn)算法問(wèn)責(zé)前置，推進(jìn)事前和事中治理工作。在此基礎(chǔ)上，需進(jìn)一步探索算法內(nèi)容（原理）的備案路徑、拓展第三方算評(píng)估（審計(jì)）的范圍等，讓原則與要求具有落地基礎(chǔ)；同時(shí)要關(guān)注算法影響的平臺(tái)參與企業(yè)、消費(fèi)者、數(shù)字勞動(dòng)者等多重個(gè)體，可以通過(guò)分類別的負(fù)面清單方式，阻斷算法風(fēng)險(xiǎn)的產(chǎn)生。

總體而言，算法應(yīng)用產(chǎn)生的風(fēng)險(xiǎn)是多維度的，是算法應(yīng)用中技術(shù)權(quán)力轉(zhuǎn)化為資本權(quán)力和對(duì)公共資源的控制，從而導(dǎo)致了市場(chǎng)失靈或政府失靈。技術(shù)本無(wú)善惡，是具有中立性的工具和手段。技術(shù)應(yīng)用達(dá)到何種目的，產(chǎn)生何種影響，均有賴于使用和控制技術(shù)的主體。因此，發(fā)揮算法推動(dòng)社會(huì)向善發(fā)展的作用，需要深入分析算法應(yīng)用產(chǎn)生風(fēng)險(xiǎn)的特征以及風(fēng)險(xiǎn)產(chǎn)生的機(jī)理，并推進(jìn)多元主體協(xié)同、利益均衡和敏捷治理機(jī)制，通過(guò)動(dòng)態(tài)優(yōu)化治理工具與措施，構(gòu)筑“負(fù)責(zé)任的算法”的基石。

文章來(lái)源：《學(xué)術(shù)前沿》雜志2022年5月下（微信有刪節(jié)）

作者：中國(guó)傳媒大學(xué)國(guó)際傳媒教育學(xué)院院長(zhǎng)金雪濤

原文責(zé)編：張曉

新媒體責(zé)編：馮一帆

視覺(jué)：劉潔

（圖片來(lái)自網(wǎng)絡(luò)）