【摘要】開展算法治理是依法加強(qiáng)網(wǎng)絡(luò)社會(huì)治理的重要組成部分，也是貫徹黨中央國(guó)務(wù)院決策部署、引導(dǎo)產(chǎn)業(yè)健康發(fā)展、順應(yīng)國(guó)際趨勢(shì)的重要舉措。近年來，算法在繁榮數(shù)字經(jīng)濟(jì)、促進(jìn)社會(huì)發(fā)展等方面發(fā)揮重要作用，但與此同時(shí)，算法操縱信息、濫用數(shù)據(jù)、算法霸權(quán)等問題仍然存在，引發(fā)內(nèi)容安全風(fēng)險(xiǎn)、侵害用戶合法權(quán)益、破壞數(shù)字市場(chǎng)秩序、影響社會(huì)公共治理等問題，亟需深入治理。應(yīng)堅(jiān)持以人為本、安全可控、公平公正、透明可釋等基本原則理念，積極構(gòu)建多元主體協(xié)同的治理模式，以硬性法律制度夯實(shí)安全底線，以柔性治理手段激勵(lì)算法向上向善，穩(wěn)步推進(jìn)算法綜合治理體系建設(shè)，推動(dòng)我國(guó)數(shù)字經(jīng)濟(jì)和算法產(chǎn)業(yè)發(fā)展行穩(wěn)致遠(yuǎn)。

【關(guān)鍵詞】算法治理? 算法風(fēng)險(xiǎn)? 多元治理? 科技倫理

【中圖分類號(hào)】 D922.6/TP391.3? ? ? ? ? ? ? 【文獻(xiàn)標(biāo)識(shí)碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2022.10.002

當(dāng)前，新一輪科技革命和產(chǎn)業(yè)變革突飛猛進(jìn)，數(shù)字化、網(wǎng)絡(luò)化、智能化加速推進(jìn)，數(shù)字技術(shù)與經(jīng)濟(jì)社會(huì)發(fā)展、人民生產(chǎn)生活交織融合，數(shù)字經(jīng)濟(jì)發(fā)展速度之快、輻射范圍之廣、影響程度之深前所未有。作為數(shù)字時(shí)代一項(xiàng)關(guān)鍵信息技術(shù)，算法早已無處不在，被嵌入社會(huì)運(yùn)行的諸多層次，并日益廣泛地應(yīng)用在新聞推薦、電子商務(wù)、無人駕駛、司法判決、智能診療等商業(yè)和公共領(lǐng)域，成為推動(dòng)企業(yè)數(shù)字化轉(zhuǎn)型和國(guó)家治理能力現(xiàn)代化的重要力量。與此同時(shí)，算法對(duì)社會(huì)生活的影響也“無遠(yuǎn)弗屆”，在造福人類的同時(shí)，實(shí)踐中算法歧視、算法霸權(quán)、算法黑箱等問題層出不窮，日益威脅著個(gè)人權(quán)利、公共利益乃至國(guó)家利益，因此，加強(qiáng)算法治理成為亟需全球共同面對(duì)的重要議題。

算法治理的重要性緊迫性日益凸顯

落實(shí)中央決策部署的重要舉措。開展算法治理是依法加強(qiáng)網(wǎng)絡(luò)社會(huì)管理的重要組成部分，也是認(rèn)真貫徹黨中央、國(guó)務(wù)院決策部署的重要舉措。習(xí)近平總書記多次強(qiáng)調(diào)，要依法加強(qiáng)網(wǎng)絡(luò)社會(huì)管理，加強(qiáng)網(wǎng)絡(luò)新技術(shù)新應(yīng)用的管理，確?；ヂ?lián)網(wǎng)可管可控。習(xí)近平總書記在十九屆中央政治局第十二次集體學(xué)習(xí)時(shí)的講話中強(qiáng)調(diào)，用主流價(jià)值導(dǎo)向駕馭“算法”。2020年12月，中共中央印發(fā)《法治社會(huì)建設(shè)實(shí)施綱要（2020-2025年）》，明確提出依法治理網(wǎng)絡(luò)空間，“制定完善對(duì)網(wǎng)絡(luò)直播、自媒體、知識(shí)社區(qū)問答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。近年來，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等監(jiān)管部門貫徹落實(shí)黨中央、國(guó)務(wù)院決策部署，持續(xù)組織開展算法治理工作，聚焦人民群眾反映強(qiáng)烈、社會(huì)高度關(guān)注的算法推薦、信息繭房等問題，迅速出擊、積極作為，切實(shí)解決人民群眾最關(guān)心最直接最現(xiàn)實(shí)的問題。2021年9月，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等九部門聯(lián)合發(fā)布《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，提出用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。

引導(dǎo)產(chǎn)業(yè)健康發(fā)展的現(xiàn)實(shí)需要。算法治理水平對(duì)于數(shù)字經(jīng)濟(jì)發(fā)展環(huán)境和算法相關(guān)產(chǎn)業(yè)發(fā)展具有重要影響。作為數(shù)字經(jīng)濟(jì)時(shí)代的重要底層架構(gòu)，算法逐步成為影響內(nèi)容分發(fā)、服務(wù)提供、資源配置的基礎(chǔ)性力量，與此同時(shí)，算法也引發(fā)了群體歧視、算法合謀、不正當(dāng)競(jìng)爭(zhēng)等一系列問題，影響了數(shù)字經(jīng)濟(jì)市場(chǎng)秩序，阻礙了算法推薦服務(wù)等相關(guān)產(chǎn)業(yè)的健康發(fā)展。深入開展算法治理是適應(yīng)當(dāng)前我國(guó)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展的關(guān)鍵舉措，也是防范化解安全風(fēng)險(xiǎn)、促進(jìn)算法服務(wù)行業(yè)健康發(fā)展的現(xiàn)實(shí)需要。我國(guó)已進(jìn)入高質(zhì)量發(fā)展階段，這并不是意味著我國(guó)已經(jīng)實(shí)現(xiàn)了高質(zhì)量發(fā)展，而是指我國(guó)發(fā)展已經(jīng)到了必須以高質(zhì)量發(fā)展為主要目標(biāo)要求的階段。習(xí)近平總書記在十九屆中央政治局第三十四次集體學(xué)習(xí)的講話中強(qiáng)調(diào)，要規(guī)范數(shù)字經(jīng)濟(jì)發(fā)展，堅(jiān)持促進(jìn)發(fā)展和監(jiān)管規(guī)范兩手抓、兩手都要硬，在發(fā)展中規(guī)范、在規(guī)范中發(fā)展。推進(jìn)算法治理不僅是一項(xiàng)具有重大社會(huì)效益的益民舉措，也是為算法相關(guān)產(chǎn)業(yè)持續(xù)健康發(fā)展?fàn)I造公平競(jìng)爭(zhēng)環(huán)境的重要保障。

順應(yīng)國(guó)際發(fā)展趨勢(shì)的普遍做法。從全球范圍來看，隨著算法技術(shù)演進(jìn)和應(yīng)用普及，起草制定算法監(jiān)管相關(guān)法律政策、規(guī)制引導(dǎo)算法技術(shù)和應(yīng)用向善發(fā)展，是全球數(shù)字經(jīng)濟(jì)發(fā)展背景下的大勢(shì)所趨，推進(jìn)算法治理已經(jīng)成為國(guó)際社會(huì)廣泛關(guān)注的重要議題和普遍做法。在國(guó)際組織層面，聯(lián)合國(guó)、經(jīng)濟(jì)發(fā)展與合作組織（OECD）、二十國(guó)集團(tuán)（G20）等發(fā)布多項(xiàng)相關(guān)倫理指南，推動(dòng)算法實(shí)現(xiàn)透明可釋、公平公正、安全可控。在區(qū)域和國(guó)家層面，歐盟提出技術(shù)主權(quán)話語(yǔ)體系，重點(diǎn)關(guān)注算法帶來的人類自主性、人性尊嚴(yán)威脅以及日益突出的極端言論、政治生態(tài)等問題。歐盟早在2016年通過的《通用數(shù)據(jù)保護(hù)條例》（GDPR）中就規(guī)定了免受自動(dòng)化決策權(quán)。此后，歐盟又相繼發(fā)布《數(shù)字服務(wù)法案》《數(shù)字市場(chǎng)法案》《人工智能法案》等，對(duì)算法利用和大型平臺(tái)展開全面監(jiān)管。美國(guó)在聯(lián)邦和地方層面提出多項(xiàng)算法相關(guān)立法，重點(diǎn)關(guān)注政府公共部門、人臉識(shí)別等領(lǐng)域產(chǎn)生的種族歧視、政治選舉操縱等問題。2017年12月，美國(guó)紐約市議會(huì)通過《關(guān)于政府機(jī)構(gòu)使用自動(dòng)化決策系統(tǒng)的當(dāng)?shù)胤ā罚瑢?duì)法院、警方等公權(quán)力機(jī)構(gòu)使用的人工智能自動(dòng)化決策系統(tǒng)進(jìn)行安全規(guī)制。2019年4月，美國(guó)參議員提出聯(lián)邦《算法問責(zé)法案》，要求美國(guó)聯(lián)邦貿(mào)易委員會(huì)對(duì)企業(yè)進(jìn)行算法審查，強(qiáng)調(diào)通過訴諸專業(yè)性的行政機(jī)構(gòu)或外部監(jiān)督主體，對(duì)算法決策問題進(jìn)行審查。

我國(guó)算法治理仍面臨諸多風(fēng)險(xiǎn)挑戰(zhàn)

近年來，在黨中央、國(guó)務(wù)院統(tǒng)一決策部署下，我國(guó)相關(guān)政府部門密切配合，積極推進(jìn)算法治理相關(guān)工作，出臺(tái)了全球第一部系統(tǒng)性規(guī)制算法推薦的法律文件——《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，取得了階段性明顯成效。但與此同時(shí)，作為引領(lǐng)未來的戰(zhàn)略性技術(shù)，算法發(fā)展變化快，新情況新問題不斷出現(xiàn)，目前仍面臨諸多問題和挑戰(zhàn)，需要持續(xù)深入推進(jìn)算法治理工作。

算法操縱信息引發(fā)內(nèi)容安全風(fēng)險(xiǎn)。目前，算法已經(jīng)成為互聯(lián)網(wǎng)信息分發(fā)的重要工具，代表了網(wǎng)絡(luò)宣傳的新范式。在信息大爆炸的背景下，算法推薦將信息獲取從“大海撈針”轉(zhuǎn)為“私人定制”，極大地提升了信息分發(fā)的效率和精準(zhǔn)度。但是，算法應(yīng)用也呈現(xiàn)一系列突出問題。一是以獲取流量為核心目標(biāo)，缺乏價(jià)值觀和客觀性。用戶流量是企業(yè)盈利的重要來源，算法所追求的技術(shù)中立僅限于形式和運(yùn)行程序中立，無法真正實(shí)現(xiàn)價(jià)值中立。在缺乏價(jià)值觀引領(lǐng)的前提下，算法作為企業(yè)獲客、增加用戶粘性的重要工具，容易優(yōu)先推送博人眼球的虛假信息、標(biāo)題黨、極端內(nèi)容、低俗泛娛樂等信息。二是容易導(dǎo)致信息單一性，形成信息繭房。一方面，長(zhǎng)期困于信息繭房、屏蔽異己信息，不利于個(gè)人理性思想塑造和觀點(diǎn)養(yǎng)成。另一方面，信息繭房容易激化矛盾、加劇社會(huì)焦慮情緒，甚至造成群體極化。三是算法具有操縱用戶思想、影響社會(huì)輿論的能力。算法通過大數(shù)據(jù)深度分析并實(shí)施有針對(duì)性信息推送，使人們潛移默化地遵循其所控制的技術(shù)系統(tǒng)的規(guī)范和要求，無形中對(duì)特定個(gè)人或人群進(jìn)行精準(zhǔn)思想“操縱”，影響公共空間意見的來源和構(gòu)成。

算法濫用數(shù)據(jù)侵害用戶合法權(quán)益。海量的數(shù)據(jù)“喂養(yǎng)”是算法創(chuàng)新的前提。伴隨算法、物聯(lián)網(wǎng)、5G等技術(shù)的快速發(fā)展，全球數(shù)據(jù)呈現(xiàn)爆發(fā)增長(zhǎng)、海量集聚的特點(diǎn)。在對(duì)數(shù)據(jù)收集處理的過程中，算法容易產(chǎn)生侵害用戶個(gè)人信息權(quán)益、算法歧視等典型問題。一方面，個(gè)人信息違規(guī)處理問題突出，嚴(yán)重侵犯用戶隱私等權(quán)益。例如，在未經(jīng)用戶同意情況下，過度收集用戶行為數(shù)據(jù)、人臉數(shù)據(jù)等個(gè)人信息，進(jìn)行算法畫像并精準(zhǔn)推送信息或商品，侵害用戶知情權(quán)、自主權(quán)和選擇權(quán)。另一方面，大數(shù)據(jù)殺熟等算法歧視問題突出。平臺(tái)依據(jù)用戶消費(fèi)習(xí)慣、地理位置、需求迫切程度等信息進(jìn)行定價(jià)，部分消費(fèi)者在未知情況下支付更高價(jià)格。根據(jù)總臺(tái)報(bào)道，電商平臺(tái)大數(shù)據(jù)殺熟現(xiàn)象突出，平臺(tái)對(duì)價(jià)格不敏感用戶、蘋果手機(jī)用戶或老用戶、會(huì)員用戶定價(jià)更高，侵害消費(fèi)者公平交易權(quán)和知情權(quán)，損害社會(huì)公平交易秩序。

利用算法霸權(quán)破壞數(shù)字市場(chǎng)秩序。在市場(chǎng)競(jìng)爭(zhēng)領(lǐng)域，算法有助于促進(jìn)服務(wù)創(chuàng)新，降低決策成本，在改善商品定價(jià)模型、提供定制化服務(wù)、分析預(yù)測(cè)價(jià)格趨勢(shì)等方面發(fā)揮積極作用。但與此同時(shí)，平臺(tái)利用算法實(shí)施限制交易、虛假宣傳等不正當(dāng)競(jìng)爭(zhēng)和壟斷行為，也對(duì)數(shù)字經(jīng)濟(jì)發(fā)展環(huán)境和市場(chǎng)競(jìng)爭(zhēng)秩序帶來負(fù)面影響。一是部分平臺(tái)企業(yè)利用算法給自營(yíng)業(yè)務(wù)以“優(yōu)待”。在市場(chǎng)競(jìng)爭(zhēng)中，平臺(tái)扮演了“參賽選手”和“裁判員”雙重角色，易于利用算法操縱商品展示、推薦和排序的優(yōu)先級(jí)進(jìn)行自我優(yōu)待。二是利用算法達(dá)成共謀協(xié)議。作為一種更高效的工具，算法在傳統(tǒng)的反競(jìng)爭(zhēng)行為當(dāng)中可能起到支持、促進(jìn)實(shí)施、維持和隱藏的作用，可能促進(jìn)橫向壟斷協(xié)議和縱向壟斷協(xié)議的達(dá)成和維持，例如，促成價(jià)格聯(lián)合行為，檢測(cè)固定或最低轉(zhuǎn)售價(jià)格的偏差。三是利用算法限制交易。平臺(tái)經(jīng)營(yíng)者通過算法進(jìn)行搜索降權(quán)、流量限制等懲罰性措施來保障“二選一”行為的實(shí)施。在市場(chǎng)監(jiān)管總局公布的調(diào)查中，個(gè)別電商平臺(tái)憑借市場(chǎng)力量和算法等技術(shù)手段，對(duì)不執(zhí)行平臺(tái)“二選一”等要求的平臺(tái)內(nèi)經(jīng)營(yíng)者實(shí)施處罰，包括減少促銷活動(dòng)資源支持、搜索降權(quán)等，破壞了公平有序的市場(chǎng)競(jìng)爭(zhēng)秩序。

算法問責(zé)困境影響社會(huì)公共治理。在公共領(lǐng)域，算法顯著提升了公共治理效率，例如，智慧交通系統(tǒng)的應(yīng)用大大提升了通勤效率。然而，算法在帶來便利的同時(shí)也為國(guó)家安全、公共利益和個(gè)人權(quán)利帶來新問題新挑戰(zhàn)，算法治理不足成為制約我國(guó)新發(fā)展階段數(shù)字經(jīng)濟(jì)提速和國(guó)家治理能力現(xiàn)代化的障礙。一是缺乏說明解釋、公眾參與等正當(dāng)程序要求。例如在社會(huì)福利分配、員工聘用等算法程序中，對(duì)于算法作出對(duì)用戶有重大影響的決定所造成的用戶權(quán)益損害，缺乏權(quán)利救濟(jì)的程序。二是通過算法實(shí)現(xiàn)對(duì)勞動(dòng)者的行為監(jiān)控，侵害其主體權(quán)益?！袄г谒惴ㄖ械耐赓u騎手”、被技術(shù)支配的網(wǎng)約車司機(jī)、被智能手環(huán)實(shí)時(shí)監(jiān)控的環(huán)衛(wèi)工人等都身處算法規(guī)訓(xùn)的牢籠之中。三是責(zé)任歸屬難題。在自動(dòng)駕駛、智能醫(yī)療、輔助量刑等應(yīng)用中，對(duì)于因算法錯(cuò)誤帶來的人身、財(cái)產(chǎn)損害，如何在設(shè)計(jì)者、平臺(tái)、用戶等主體間分配責(zé)任，成為當(dāng)前制約算法應(yīng)用的重要障礙。

以“算法向善向上”明確我國(guó)算法治理的原則理念

開展算法治理首先需要明確治理的基本原則和理念，從觀念和道德層面提出各方主體開展算法活動(dòng)應(yīng)遵循的基本要求，同時(shí)有效彌補(bǔ)法律滯后性的缺陷，解決算法治理過程中法律規(guī)范的“時(shí)間差”“空白區(qū)”等問題，引導(dǎo)算法向善向上發(fā)展。

堅(jiān)持以人為本是算法治理的基本導(dǎo)向。開展算法治理工作必須堅(jiān)持以人民為中心的發(fā)展思想，不斷增強(qiáng)人民獲得感、幸福感、安全感，促進(jìn)人類社會(huì)和平發(fā)展和可持續(xù)發(fā)展。習(xí)近平總書記強(qiáng)調(diào)，“讓億萬(wàn)人民在共享互聯(lián)網(wǎng)發(fā)展成果上有更多獲得感”。以人為本強(qiáng)調(diào)以人作為價(jià)值的核心和社會(huì)的本位，把人的生存與發(fā)展作為最高的價(jià)值目標(biāo)。要堅(jiān)守以人為本的宗旨，秉持良善的技術(shù)設(shè)計(jì)倫理原則來設(shè)計(jì)算法。當(dāng)前，以人為本成為國(guó)際社會(huì)算法治理普遍認(rèn)可的價(jià)值導(dǎo)向，例如，聯(lián)合國(guó)教科文組織同世界科學(xué)知識(shí)與技術(shù)倫理委員會(huì)2016年聯(lián)合發(fā)布的《機(jī)器人倫理初步報(bào)告草案》，倡導(dǎo)以人為本，努力促使“機(jī)器人尊重人類社會(huì)的倫理規(guī)范”;再如，歐盟2020年發(fā)布的《人工智能白皮書》也指出要以人為本、合乎道德、可持續(xù)發(fā)展。以人為本強(qiáng)調(diào)人是算法的目的而非工具，在算法應(yīng)用中，利用算法操縱人類思想、行為，利用算法窺探人類隱私、濫用個(gè)人信息等行為，均違背了以人為本的基本導(dǎo)向。因此，在算法設(shè)計(jì)、部署、應(yīng)用的全流程中，均應(yīng)牢固樹立以人為本的價(jià)值導(dǎo)向，確保算法尊重和維護(hù)人類利益和福祉 。

堅(jiān)持安全可控是算法治理的核心目標(biāo)。新技術(shù)快速迭代應(yīng)用的同時(shí)，也不斷帶來新的風(fēng)險(xiǎn)和安全隱患，隱患所涉領(lǐng)域從網(wǎng)絡(luò)安全到數(shù)據(jù)安全，再到算法安全，焦點(diǎn)持續(xù)演進(jìn)。算法安全與政治安全、國(guó)土安全、軍事安全、經(jīng)濟(jì)安全、文化安全、社會(huì)安全等一起，成為我國(guó)總體安全體系中的關(guān)鍵環(huán)節(jié)。習(xí)近平總書記指出，“沒有網(wǎng)絡(luò)安全就沒有國(guó)家安全”，“安全是發(fā)展的前提，發(fā)展是安全的保障，安全和發(fā)展要同步推進(jìn)”。當(dāng)前，算法泛化能力差、算法自我更新迭代不可控、數(shù)據(jù)質(zhì)量和樣本不足等技術(shù)應(yīng)用現(xiàn)狀，導(dǎo)致算法應(yīng)用和產(chǎn)品存在被攻擊、被欺騙、被操縱等多重風(fēng)險(xiǎn)。安全可控是確保算法可信和算法創(chuàng)新的重要前提。中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)的《關(guān)于加強(qiáng)科技倫理治理的意見》明確指出，“科技活動(dòng)應(yīng)客觀評(píng)估和審慎對(duì)待不確定性和技術(shù)應(yīng)用的風(fēng)險(xiǎn)，力求規(guī)避、防范可能引發(fā)的風(fēng)險(xiǎn)，防止科技成果誤用、濫用，避免危及社會(huì)安全、公共安全、生物安全和生態(tài)安全”。

堅(jiān)持公平公正是算法治理的價(jià)值追求。公平公正是歷史悠久的價(jià)值目標(biāo)和價(jià)值準(zhǔn)則，也是我國(guó)《民法典》《個(gè)人信息保護(hù)法》等諸多法律法規(guī)規(guī)定的基本原則。習(xí)近平總書記指出，“積極營(yíng)造開放、公平、公正、非歧視的數(shù)字發(fā)展環(huán)境”。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》明確規(guī)定，提供算法推薦服務(wù)，應(yīng)當(dāng)遵循公正公平、公開透明、科學(xué)合理和誠(chéng)實(shí)信用的原則。公平強(qiáng)調(diào)人人平等和機(jī)會(huì)均等，避免歧視對(duì)待，帶有明顯的工具性，即用同一尺度衡量所有的人或事，要求一視同仁。公正帶有明顯價(jià)值取向，強(qiáng)調(diào)這種價(jià)值取向的正當(dāng)性。一方面，治理算法歧視問題需要將公平公正作為算法治理的價(jià)值取向。算法歧視可分為人為造成的歧視、數(shù)據(jù)驅(qū)動(dòng)造成的歧視和機(jī)器自我學(xué)習(xí)造成的歧視，其本質(zhì)是社會(huì)歧視在算法應(yīng)用中的映射。另一方面，算法自我優(yōu)待、操縱排序等不正當(dāng)競(jìng)爭(zhēng)行為同樣違背了公平公正原則，是新技術(shù)推動(dòng)下平臺(tái)利用算法權(quán)力謀取私利，損害社會(huì)公正的表現(xiàn)。在我國(guó)進(jìn)行算法治理的過程中，應(yīng)當(dāng)堅(jiān)持公平公正的價(jià)值追求，尊重民族、種族、身體條件、宗教信仰等差異，包容地對(duì)待不同社會(huì)群體，避免各類歧視和偏見。

堅(jiān)持透明可釋是算法治理的重要保障。算法透明是指對(duì)算法相關(guān)信息的可訪問性和可解釋性，是算法責(zé)任分配的基礎(chǔ)?！蛾P(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》明確提出，“督促企業(yè)及時(shí)、合理、有效地公開算法基本原理、優(yōu)化目標(biāo)、決策標(biāo)準(zhǔn)等信息，做好算法結(jié)果解釋，暢通投訴通道，消除社會(huì)疑慮，推動(dòng)算法健康發(fā)展”。由于算法技術(shù)的復(fù)雜性，尤其是自主學(xué)習(xí)算法的自我迭代和產(chǎn)生的算法“黑箱”等問題，導(dǎo)致算法成為不可解釋的技術(shù)黑箱，引發(fā)算法問責(zé)的倫理難題。算法透明成為克服算法問責(zé)難題的重要前提和保障。算法透明首先意味著算法模型和輸入、輸出數(shù)據(jù)的透明可見，實(shí)現(xiàn)用戶的知情權(quán)和監(jiān)管部門對(duì)信息的獲取。算法透明并不要求算法源代碼的公開，僅要求對(duì)算法基本原理、主要運(yùn)行機(jī)制的公示。通過算法透明，可有效發(fā)揮公眾監(jiān)督、行業(yè)監(jiān)督和政府監(jiān)管的效力，避免算法黑箱下的平臺(tái)權(quán)力濫用。同時(shí)，算法透明還意味著算法運(yùn)行后的可解釋性。在自動(dòng)駕駛、金融、醫(yī)療等應(yīng)用場(chǎng)景下，算法如果難以實(shí)現(xiàn)可解釋，將阻礙相關(guān)主體損害救濟(jì)的實(shí)現(xiàn)，進(jìn)而降低算法可信賴性。因此，從技術(shù)、法律和倫理等多層面實(shí)現(xiàn)算法在重大風(fēng)險(xiǎn)領(lǐng)域的可解釋性，是當(dāng)前算法治理的重要保障。

多措并舉加快構(gòu)建算法綜合治理體系

算法治理工作涉及主體眾多、情況復(fù)雜多樣，是一項(xiàng)非常艱巨的系統(tǒng)工程，需要堅(jiān)持問題導(dǎo)向，多措并舉，推動(dòng)建立涵蓋“多主體”“多手段”的算法綜合治理格局。積極構(gòu)建多元主體協(xié)同的治理模式，加快推進(jìn)軟硬結(jié)合的治理手段，以硬性的法律制度夯實(shí)算法安全發(fā)展底線，以柔性的規(guī)范手段激勵(lì)算法向上向善發(fā)展。

積極構(gòu)建多元主體協(xié)同的治理模式。治理主體的多元化是算法治理的重要特征，依賴于包括政府、行業(yè)組織、企業(yè)、公眾在內(nèi)的多利益攸關(guān)方的參與合作，各方各司其職、各盡所能，以適當(dāng)?shù)慕巧?、最佳的方式協(xié)同共治，從而構(gòu)建嚴(yán)謹(jǐn)、全面、有效的全新治理模式。

一是發(fā)揮政府在算法治理中的主導(dǎo)作用。算法治理工作需要公權(quán)力發(fā)揮主導(dǎo)作用，政府監(jiān)管是算法治理最主要的推動(dòng)力量。近年來，算法技術(shù)在輿論宣傳、市場(chǎng)決策，乃至軍事等領(lǐng)域普及應(yīng)用，算法風(fēng)險(xiǎn)的廣泛性、全局性、不可控性凸顯，單憑個(gè)人或私人機(jī)構(gòu)力量難以有效對(duì)抗算法風(fēng)險(xiǎn)，需要公權(quán)力的干預(yù)和引導(dǎo)。國(guó)家政府部門作為肩負(fù)公共事務(wù)管理職責(zé)的公權(quán)力機(jī)關(guān)，應(yīng)當(dāng)依據(jù)職責(zé)和相關(guān)法律法規(guī)積極開展算法治理工作?！蛾P(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》提出，要健全算法安全治理機(jī)制，網(wǎng)信部門會(huì)同宣傳、教育、科技、工信、公安、文化和旅游、市場(chǎng)監(jiān)管、廣電等部門，建立部門協(xié)同聯(lián)動(dòng)長(zhǎng)效機(jī)制，履行監(jiān)管職責(zé)，共同開展算法安全治理工作?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》也規(guī)定，國(guó)家網(wǎng)信部門、國(guó)務(wù)院電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門以及地方相關(guān)部門依據(jù)各自職責(zé)負(fù)責(zé)算法推薦服務(wù)監(jiān)督管理工作。未來，建議相關(guān)部門充分發(fā)揮監(jiān)管主體作用，健全完善算法規(guī)則標(biāo)準(zhǔn)、強(qiáng)化監(jiān)管執(zhí)法活動(dòng)、加大算法規(guī)范普法宣傳，持續(xù)提升算法治理水平和能力，推動(dòng)算法應(yīng)用向上向善發(fā)展。

二是規(guī)范企業(yè)切實(shí)履行算法治理主體責(zé)任。企業(yè)是最主要的市場(chǎng)主體，與傳統(tǒng)領(lǐng)域治理相比，互聯(lián)網(wǎng)企業(yè)是當(dāng)前算法最大的擁有者、開發(fā)者和使用者，因此也是算法治理的重要實(shí)踐者與行動(dòng)者，是確保算法技術(shù)在正確道路上發(fā)展的重要防線，其履責(zé)水平的高低直接關(guān)系到算法治理工作的水平。尤其是頭部平臺(tái)企業(yè)，作為算法技術(shù)的主要開發(fā)者和擁有者，掌握了資金、技術(shù)、人才、市場(chǎng)、政策扶持等大量資源，在推動(dòng)算法治理規(guī)則和標(biāo)準(zhǔn)落地上發(fā)揮著決定性作用，理應(yīng)承擔(dān)相關(guān)主體責(zé)任，嚴(yán)格遵守法律法規(guī)、科技倫理和技術(shù)標(biāo)準(zhǔn)，以高標(biāo)準(zhǔn)進(jìn)行自我約束與監(jiān)督，實(shí)現(xiàn)有效的行業(yè)自律自治。面對(duì)算法所引發(fā)的社會(huì)擔(dān)憂與質(zhì)疑，應(yīng)當(dāng)引導(dǎo)平臺(tái)企業(yè)主動(dòng)研究算法倫理問題，推動(dòng)科技向善，積極探索算法評(píng)估、算法透明、算法可釋等企業(yè)最佳實(shí)踐，推動(dòng)算法事前、事中、事后全流程風(fēng)險(xiǎn)把控，開發(fā)差分隱私、隱私計(jì)算、算法透明度工具等技術(shù)手段，并積極參與和引領(lǐng)算法國(guó)際標(biāo)準(zhǔn)制定，在算法治理中發(fā)揮重要作用。

三是引導(dǎo)行業(yè)組織積極參與算法治理。行業(yè)組織作為兼顧服務(wù)、溝通、自律、協(xié)調(diào)等功能的社會(huì)團(tuán)體，是協(xié)調(diào)算法治理、制定算法應(yīng)用產(chǎn)業(yè)標(biāo)準(zhǔn)的先行者和積極實(shí)踐者。算法行業(yè)只有通過不斷地自律發(fā)展，更多地履行法律義務(wù)和社會(huì)責(zé)任，更好地發(fā)揮政府和市場(chǎng)各自的作用，才能走向良性循環(huán)，才能滿足人民的需要，才能在國(guó)際上更具競(jìng)爭(zhēng)力。從國(guó)際社會(huì)來看，電氣與電子工程師協(xié)會(huì)（IEEE）、美國(guó)計(jì)算機(jī)協(xié)會(huì)（ACM）、人工智能促進(jìn)協(xié)會(huì)（AAAI）等行業(yè)協(xié)會(huì)，以及國(guó)際標(biāo)準(zhǔn)化組織（ISO）、國(guó)際電工委員會(huì)（IEC）等標(biāo)準(zhǔn)化組織在算法、人工智能治理領(lǐng)域發(fā)揮了重要作用。從國(guó)內(nèi)來看，我國(guó)目前也成立了人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟、人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟等行業(yè)組織，成員涵蓋了國(guó)內(nèi)主要的算法企業(yè)。下一步，在算法治理中，建議進(jìn)一步發(fā)揮行業(yè)組織作用，積極搭建政產(chǎn)學(xué)研溝通平臺(tái)，組織開展算法治理相關(guān)研究，制定算法技術(shù)及產(chǎn)品標(biāo)準(zhǔn)，推動(dòng)行業(yè)各方落實(shí)算法治理要求，持續(xù)貢獻(xiàn)行業(yè)治理經(jīng)驗(yàn)。

四是鼓勵(lì)公眾參與算法治理，完善社會(huì)監(jiān)督。公眾是算法技術(shù)、產(chǎn)品的主要服務(wù)對(duì)象，擁有對(duì)算法治理相關(guān)內(nèi)容的監(jiān)督、意見反饋等權(quán)利。公眾參與是實(shí)現(xiàn)算法有效治理不可缺少的重要力量。治理好算法，需要著力暢通各個(gè)治理主體間溝通渠道，加強(qiáng)社會(huì)公眾與平臺(tái)、政府等主體間的對(duì)話與協(xié)商，合作制定應(yīng)對(duì)算法風(fēng)險(xiǎn)挑戰(zhàn)的整體解決方案。公眾要積極參與算法治理的規(guī)則制定，適當(dāng)介入相關(guān)監(jiān)督、監(jiān)管過程，為算法治理獻(xiàn)計(jì)獻(xiàn)策，形成自下而上的協(xié)同治理模式，使算法服務(wù)真正地“以人為本，造福人類”。此外，新聞媒體是社會(huì)監(jiān)督的重要力量，在算法治理中可以充分發(fā)揮輿論監(jiān)督功能，暢通社會(huì)監(jiān)督表達(dá)渠道，著力發(fā)現(xiàn)問題、化解矛盾，力求通達(dá)社情民意、弘揚(yáng)社會(huì)正氣，保障公眾知情權(quán)、參與權(quán)、監(jiān)督權(quán)。

五是深化算法治理國(guó)際合作。習(xí)近平總書記指出，我們要攜手合作，共同營(yíng)造有利于數(shù)字經(jīng)濟(jì)發(fā)展的國(guó)際環(huán)境，要推動(dòng)建設(shè)和平、安全、開放、合作的網(wǎng)絡(luò)空間，探索建立多邊、透明、包容的數(shù)字領(lǐng)域國(guó)際貿(mào)易規(guī)則。算法技術(shù)發(fā)展和應(yīng)用具有跨國(guó)界、國(guó)際分工的特征，治理算法需要國(guó)際社會(huì)共同發(fā)力。由于各國(guó)在算法技術(shù)研發(fā)上的關(guān)注與投入不同，算法技術(shù)在各國(guó)的發(fā)展參差不齊，有關(guān)算法治理的需求和要求也各不相同?？梢钥紤]依托聯(lián)合國(guó)、上合組織、G20、金磚等國(guó)際組織和多邊場(chǎng)合，汲取各國(guó)關(guān)于算法治理的共性原則和最佳實(shí)踐，深入?yún)⑴c并積極宣介中國(guó)在算法治理領(lǐng)域的經(jīng)驗(yàn)做法，引導(dǎo)算法治理穩(wěn)步前進(jìn)并達(dá)成國(guó)際共識(shí)。

以硬性法律制度夯實(shí)算法安全底線。法律是治國(guó)之重器，法治是國(guó)家治理體系和治理能力的重要依托，是互聯(lián)網(wǎng)治理特別是算法治理工作不可或缺的重要手段。要妥善解決算法發(fā)展中治理的一系列突出矛盾和重大問題，必須密織法律之網(wǎng)、強(qiáng)化法治之力，劃清行為底線、明確違法違規(guī)高壓線，堅(jiān)持在法治軌道上統(tǒng)籌社會(huì)力量、平衡社會(huì)利益、調(diào)節(jié)社會(huì)關(guān)系、規(guī)范社會(huì)行為，推動(dòng)構(gòu)建涵蓋算法備案、分級(jí)分類、算法審查等舉措在內(nèi)的科學(xué)監(jiān)管體系，逐步形成算法治理長(zhǎng)效機(jī)制，確保算法發(fā)展既生機(jī)勃勃又井然有序。

一是健全完善算法備案制度，從服務(wù)入口實(shí)現(xiàn)登記備查。算法備案制度是一項(xiàng)推動(dòng)實(shí)現(xiàn)算法透明的重要?jiǎng)?chuàng)新制度。備案制度在我國(guó)有著較為廣泛的運(yùn)用，一般是指?jìng)浒钢黧w向行政主管機(jī)關(guān)就要求事項(xiàng)提供書面材料，主管機(jī)關(guān)接受備案主體材料，予以登記并存檔備查。通過算法備案制度，可在算法服務(wù)入口獲取算法設(shè)計(jì)部署階段的算法系統(tǒng)相關(guān)信息。當(dāng)算法的使用造成實(shí)際損害時(shí)，既有的算法備案信息也可以為監(jiān)督部門提供便捷的故障溯源與追責(zé)途徑，有利于及時(shí)便捷地保障國(guó)家、社會(huì)、個(gè)人的權(quán)利。特別是在算法應(yīng)用領(lǐng)域仍在拓展、影響尚不明確的情況下，采取算法備案這一監(jiān)管措施，可以在保持風(fēng)險(xiǎn)防控力的同時(shí)，隨時(shí)對(duì)算法發(fā)展和運(yùn)用的情況進(jìn)行觀察與研判。目前，在互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域，根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，我國(guó)已經(jīng)上線運(yùn)行了算法備案系統(tǒng)。針對(duì)算法種類繁多、形式多樣的特性，應(yīng)通過立法方式進(jìn)一步擴(kuò)展備案范圍，完善備案程序、細(xì)化備案主體義務(wù)，穩(wěn)步推進(jìn)算法備案工作。

二是建立分級(jí)分類管理制度，依風(fēng)險(xiǎn)大小實(shí)現(xiàn)差異監(jiān)管。分級(jí)分類管理體現(xiàn)了科學(xué)化、精細(xì)化的算法治理基本思路，是平衡安全和發(fā)展的重要制度方案。當(dāng)前，以風(fēng)險(xiǎn)為導(dǎo)向的分級(jí)分類管理理念在國(guó)際社會(huì)得到廣泛認(rèn)可。例如，歐盟《通用數(shù)據(jù)保護(hù)條例》推行“基于風(fēng)險(xiǎn)的路徑”（risk-based approach），將風(fēng)險(xiǎn)作為判定個(gè)人數(shù)據(jù)保護(hù)義務(wù)的重要衡量標(biāo)準(zhǔn);2021年，歐盟《人工智能法案》延續(xù)“基于風(fēng)險(xiǎn)”的監(jiān)管理念，對(duì)人工智能技術(shù)應(yīng)用進(jìn)行風(fēng)險(xiǎn)劃分，確立了不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、低風(fēng)險(xiǎn)、極低風(fēng)險(xiǎn)等四級(jí)人工智能。再如，加拿大《自動(dòng)化決策指令》將算法風(fēng)險(xiǎn)劃分為四級(jí)，分別介于I（代表最小風(fēng)險(xiǎn)）和IV（代表最大風(fēng)險(xiǎn)）之間。在我國(guó)，分級(jí)分類管理已在多個(gè)領(lǐng)域得到普遍適用。例如，在數(shù)據(jù)安全領(lǐng)域，《中華人民共和國(guó)數(shù)據(jù)安全法》要求國(guó)家建立數(shù)據(jù)分類分級(jí)保護(hù)制度。2021年出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》將算法推薦技術(shù)分為生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等五大類，同時(shí)，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》明確要求，根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對(duì)用戶行為的干預(yù)程度等對(duì)算法推薦服務(wù)提供者實(shí)施分級(jí)分類管理。下一步，應(yīng)研究制定算法分級(jí)分類管理的具體制度要求，全面調(diào)查評(píng)估算法風(fēng)險(xiǎn)等級(jí)，通過出臺(tái)規(guī)范性文件、行業(yè)標(biāo)準(zhǔn)等明確細(xì)化算法分級(jí)分類的可操作標(biāo)準(zhǔn)，通過企業(yè)最佳實(shí)踐形成算法分級(jí)分類方案。

三是建立算法審查制度，深入平臺(tái)內(nèi)部實(shí)現(xiàn)穿透式監(jiān)管。算法審查是由監(jiān)管部門對(duì)算法的流程、要素進(jìn)行合規(guī)性審查，旨在揭示算法是否遵循了適當(dāng)程序，并發(fā)現(xiàn)侵害事實(shí)與算法損害結(jié)果的關(guān)聯(lián)性，以實(shí)現(xiàn)有效追責(zé)的監(jiān)管方式。近年來，國(guó)外由司法部門進(jìn)行的算法審查和由第三方機(jī)構(gòu)進(jìn)行的算法審計(jì)在算法治理中逐漸發(fā)揮重要作用。例如，美國(guó)威斯康星州最高法院對(duì)Wisconsin v. Loomis案中使用算法是否造成種族歧視的問題進(jìn)行司法審查。再如，2020年，荷蘭審計(jì)署對(duì)荷蘭政府使用算法的情況進(jìn)行為期一年的審計(jì)工作，以評(píng)估算法帶來的社會(huì)影響。適應(yīng)算法治理新形勢(shì)的需要，我國(guó)應(yīng)盡快建立算法審查制度，從審查機(jī)構(gòu)、審查范圍、審查流程、審查內(nèi)容等方面推進(jìn)算法治理和算法責(zé)任落實(shí)。一方面，可依法建立算法審查專門機(jī)構(gòu)，負(fù)責(zé)對(duì)算法進(jìn)行隨機(jī)抽查或定向抽檢，從技術(shù)上對(duì)算法進(jìn)行審查檢驗(yàn)，對(duì)算法風(fēng)險(xiǎn)提出更正、補(bǔ)救措施。另一方面，建立健全算法審查機(jī)制，對(duì)算法運(yùn)行的全過程，包括數(shù)據(jù)輸入、算法設(shè)計(jì)、算法運(yùn)行、結(jié)果影響進(jìn)行有效的審查監(jiān)督，注重對(duì)數(shù)據(jù)偏見的審查，確保數(shù)據(jù)樣本的公平客觀;注重對(duì)算法模型開發(fā)和運(yùn)行階段的人工干預(yù)，降低算法決策偏差所帶來的影響。

以柔性的規(guī)范手段激勵(lì)算法向上向善。算法風(fēng)險(xiǎn)作為數(shù)字智能時(shí)代的新型風(fēng)險(xiǎn)類型，具有明顯的廣泛性、復(fù)雜性，僅靠法律手段難以完全實(shí)現(xiàn)全面治理。以算法評(píng)估、技術(shù)治理、行業(yè)標(biāo)準(zhǔn)為代表的柔性規(guī)范手段，不僅彌補(bǔ)了法律滯后性帶來的治理空白，引導(dǎo)算法向上向善發(fā)展;同時(shí)也避免了法律制度的強(qiáng)制性約束，為企業(yè)創(chuàng)新和業(yè)務(wù)探索留下了空間。

一是利用算法評(píng)估提前研判安全風(fēng)險(xiǎn)。算法評(píng)估是自我監(jiān)督和外部強(qiáng)制性監(jiān)督結(jié)合的治理機(jī)制。算法評(píng)估目的是建立風(fēng)險(xiǎn)適應(yīng)型的算法治理，在設(shè)計(jì)、部署、運(yùn)行和結(jié)果輸出全生命周期進(jìn)行評(píng)估，不同評(píng)估結(jié)果對(duì)應(yīng)不同治理強(qiáng)度。這一制度要求在算法模型設(shè)計(jì)完成后、投入使用前，由專門機(jī)構(gòu)對(duì)算法可能造成的潛在歧視影響進(jìn)行事前評(píng)估，尤其要對(duì)其是否將對(duì)特定受保護(hù)群體產(chǎn)生不成比例的差別性影響加以評(píng)估。具體來看，算法評(píng)估從程序和實(shí)質(zhì)上創(chuàng)建了合理的算法透明度，保證算法系統(tǒng)的可追溯性、穩(wěn)健性和準(zhǔn)確性。當(dāng)前，算法評(píng)估制度已成為國(guó)內(nèi)外算法治理的重要手段。例如，2021年，歐盟《算法責(zé)任與透明治理框架》提出建立“算法影響評(píng)估”機(jī)制，以應(yīng)對(duì)算法對(duì)內(nèi)容與用戶行為的“過程操縱”。我國(guó)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》也規(guī)定了有關(guān)部門依法開展算法評(píng)估和監(jiān)督檢查的工作職責(zé)，并要求算法推薦服務(wù)提供者對(duì)評(píng)估和監(jiān)督檢查工作提供必要的數(shù)據(jù)、技術(shù)等支持或協(xié)助。下一步，應(yīng)盡快建立配套的算法安全檢查評(píng)估機(jī)制，推動(dòng)算法推薦服務(wù)提供者開展算法安全自評(píng)估，督促相關(guān)主體建設(shè)安全檢查評(píng)估力量，支撐有關(guān)部門對(duì)算法推薦服務(wù)進(jìn)行安全檢查，督促算法推薦服務(wù)提供者及時(shí)發(fā)現(xiàn)和整改相關(guān)問題。

二是利用技術(shù)手段預(yù)警日常風(fēng)險(xiǎn)隱患。技術(shù)治理是化解算法風(fēng)險(xiǎn)、實(shí)現(xiàn)日常預(yù)警隱患的重要手段。隨著人工智能的持續(xù)發(fā)展，算法技術(shù)治理方式也在不斷突破創(chuàng)新，方法種類不斷豐富，作用效果逐步提升。一方面，在設(shè)計(jì)和開發(fā)階段構(gòu)建可信人工智能框架、堅(jiān)持倫理與法治的設(shè)計(jì)原則、加強(qiáng)對(duì)算法系統(tǒng)的測(cè)試和驗(yàn)證、建立服務(wù)質(zhì)量指標(biāo)體系等;另一方面，在算法部署全流程中，加強(qiáng)技術(shù)實(shí)時(shí)監(jiān)測(cè)、通過技術(shù)手段實(shí)現(xiàn)算法系統(tǒng)的可解釋性等。從算法安全監(jiān)管體系的角度來看，算法風(fēng)險(xiǎn)監(jiān)測(cè)致力于對(duì)算法的數(shù)據(jù)使用、應(yīng)用場(chǎng)景、影響效果等開展日常監(jiān)測(cè)，感知算法應(yīng)用帶來的網(wǎng)絡(luò)傳播趨勢(shì)、市場(chǎng)規(guī)則變化、網(wǎng)民行為等信息。從實(shí)踐來看，目前部分企業(yè)已通過數(shù)據(jù)篩選、算法設(shè)計(jì)、模型優(yōu)化等技術(shù)手段，將倫理原則“嵌入”算法應(yīng)用與產(chǎn)品中，從而解決諸如隱私泄露、算法偏見、非法內(nèi)容審核等問題，以達(dá)到科技向善的目的。在我國(guó)算法治理過程中，應(yīng)進(jìn)一步強(qiáng)化研究攻關(guān)算法全生命周期安全監(jiān)測(cè)等關(guān)鍵技術(shù)問題，開展網(wǎng)絡(luò)算法第三方監(jiān)測(cè)、評(píng)估等方面研究，實(shí)現(xiàn)算法標(biāo)準(zhǔn)化及可評(píng)估以促進(jìn)技術(shù)創(chuàng)新和成果轉(zhuǎn)化，提高算法產(chǎn)品服務(wù)質(zhì)量與國(guó)際競(jìng)爭(zhēng)力，助力打造公平開放的算法產(chǎn)業(yè)生態(tài)。

三是利用行業(yè)標(biāo)準(zhǔn)明確算法運(yùn)行底層邏輯。在軟法治理的工具箱中，行業(yè)標(biāo)準(zhǔn)是國(guó)際社會(huì)普遍依托的重要抓手。行業(yè)標(biāo)準(zhǔn)是對(duì)企業(yè)和市場(chǎng)需求的規(guī)則回應(yīng)，有助于細(xì)化具體要求，引導(dǎo)企業(yè)承擔(dān)社會(huì)責(zé)任，促進(jìn)算法應(yīng)用向上向善。在算法治理過程中，行業(yè)標(biāo)準(zhǔn)可在算法規(guī)范中嵌入倫理價(jià)值，例如，國(guó)際標(biāo)準(zhǔn)化組織《ISO/IEC 30122》、電氣和電子工程師協(xié)會(huì)《IEEE P7001》等文本中均嵌入了算法透明、安全可控等價(jià)值。與此同時(shí)，行業(yè)標(biāo)準(zhǔn)是一種編碼化的知識(shí)，可將技術(shù)的某項(xiàng)特性或路徑轉(zhuǎn)換為技術(shù)規(guī)范，進(jìn)而促使產(chǎn)品達(dá)到規(guī)范要求。此外，技術(shù)標(biāo)準(zhǔn)可以結(jié)合應(yīng)用場(chǎng)景和系統(tǒng)類型探索最佳方案，為人工智能產(chǎn)品的設(shè)計(jì)者提供清晰指引，確保系統(tǒng)生成可靠、完整且不可篡改的確鑿記錄作為追溯驗(yàn)證的依據(jù)。總體來看，行業(yè)標(biāo)準(zhǔn)對(duì)算法治理具有基礎(chǔ)性、支撐性、引領(lǐng)性作用，同時(shí)也是我國(guó)算法法律制度的細(xì)化和補(bǔ)充。我國(guó)《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》提出，要建立與人臉識(shí)別、人工智能等新技術(shù)新應(yīng)用相關(guān)的標(biāo)準(zhǔn)體系。下一步，應(yīng)積極回應(yīng)算法技術(shù)標(biāo)準(zhǔn)建構(gòu)的迫切需求，盡快細(xì)化算法相關(guān)立法中的規(guī)范要求，明確對(duì)算法的技術(shù)性規(guī)制需求，注重算法標(biāo)準(zhǔn)之間的銜接與配套、標(biāo)準(zhǔn)評(píng)估機(jī)制、標(biāo)準(zhǔn)實(shí)施機(jī)制等問題，建設(shè)能夠有效協(xié)同法律規(guī)范和技術(shù)標(biāo)準(zhǔn)的算法治理體系。

結(jié)語(yǔ)

當(dāng)前，面對(duì)算法治理的痛點(diǎn)和難點(diǎn)，積極構(gòu)建算法治理體系，最大限度地發(fā)揮技術(shù)潛力和優(yōu)勢(shì)，有效應(yīng)對(duì)其引發(fā)的社會(huì)和倫理影響已逐漸成為全球共識(shí)。未來算法治理路徑應(yīng)放在不同的場(chǎng)景、業(yè)務(wù)下進(jìn)行討論，并綜合運(yùn)用多手段、多主體協(xié)同治理。根據(jù)算法使用場(chǎng)景、影響范圍、可能的危害程度的不同，采用分級(jí)分類、基于風(fēng)險(xiǎn)治理的思路。對(duì)涉及重大敏感利益等“高風(fēng)險(xiǎn)”的算法應(yīng)用場(chǎng)景，應(yīng)當(dāng)加強(qiáng)事前監(jiān)管，依據(jù)合理審慎原則設(shè)置必要的準(zhǔn)入限制和約束條件。對(duì)于“低風(fēng)險(xiǎn)”算法應(yīng)用領(lǐng)域，采取基于結(jié)果的規(guī)制思路，側(cè)重于事中事后的監(jiān)管。應(yīng)采用倫理規(guī)范、行業(yè)標(biāo)準(zhǔn)、算法備案、算法審查等軟硬法并舉，通過國(guó)家政府、行業(yè)組織、企業(yè)、公眾等不同主體協(xié)同治理。在算法治理國(guó)際合作方面，既需要突出全球各國(guó)的共同理想和追求，也需要尊重和理解各國(guó)制度設(shè)計(jì)中存在的不同，通過合作的方式共同尋求合理有效的算法治理路徑。

參考文獻(xiàn)

中國(guó)信息通信研究院、中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟，2020，《人工智能治理白皮書》，北京：中國(guó)信息通信研究院、中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟。

張凌寒，2021，《權(quán)力之治：人工智能時(shí)代的算法規(guī)制》，上海人民出版社。

朱寶麗，2018，《行政備案制度的實(shí)踐偏差及其矯正》，《山東大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》，第5期。

許可、劉暢，2022，《論算法備案制度》，《人工智能》，第1期。

張欣，2021，《我國(guó)人工智能技術(shù)標(biāo)準(zhǔn)的治理效能、路徑反思與因應(yīng)之道》，《中國(guó)法律評(píng)論》，第5期。

許可，2022，《算法規(guī)制體系的中國(guó)建構(gòu)與理論反思》，《法律科學(xué)》，第1期。

蔡星月，2021，《人工智能的“標(biāo)準(zhǔn)之治”》，《中國(guó)法律評(píng)論》，第5期。

林凌，2021，《哲學(xué)視域下的智能傳播》，《山東師范大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》，第6期。

畢勛磊，2012，《論作為知識(shí)的技術(shù)標(biāo)準(zhǔn)》，《自然辯證法通訊》，第5期。

責(zé) 編/桂 琰

胡堅(jiān)波，中國(guó)信息通信研究院副院長(zhǎng)，教授級(jí)高級(jí)工程師，中國(guó)通信學(xué)會(huì)信息通信戰(zhàn)略咨詢委員會(huì)主任委員。研究方向?yàn)樾畔⑼ㄐ偶夹g(shù)政策、網(wǎng)絡(luò)規(guī)劃、移動(dòng)互聯(lián)網(wǎng)及智能終端。主要著作有《統(tǒng)籌發(fā)展和安全 提升數(shù)字化治理效能》（論文）、《5G助力數(shù)字經(jīng)濟(jì)新發(fā)展，兩岸產(chǎn)業(yè)合作迎來新機(jī)遇》（論文）等。