司偉攀，劉鑫怡

（中國科學技術(shù)信息研究所，北京 100038）

算法治理是當今全球的一項重要議題，國際社會競相開展相關(guān)研究與實踐。2022年2月，美國民主黨參議員提出《2022算法問責法案》，成為美國關(guān)于算法治理專門立法的最新探索。無獨有偶，我國第一部以算法推薦服務(wù)為規(guī)制對象的部門規(guī)章——《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》也于2022年3月正式實施。本文以美國算法治理立法為主線，梳理與分析其算法治理背景、模式、策略與制度，以期助力我國相關(guān)工作的深化推進。

1 美國開展算法治理的重要背景

隨著算法技術(shù)與社會生活融合程度的日益加深，其產(chǎn)生的影響也愈加深刻。同時，在第四次工業(yè)革命浪潮下，國家未來發(fā)展前景與對新興技術(shù)的掌握息息相關(guān)。這兩方面的原因構(gòu)成了美國開展算法治理的重要背景。

1.1 算法影響的正反二重性

本質(zhì)上，算法是一套包含一系列數(shù)學運算（如方程式、代數(shù)、微積分、邏輯學等）并將其轉(zhuǎn)換為計算機代碼的完整指令[1]。其作為現(xiàn)代科學技術(shù)重要成果之一，不僅為機器創(chuàng)造現(xiàn)代奇跡提供了重要動力，更已深刻嵌入社會發(fā)展結(jié)構(gòu)的肌理，重塑了社會傳統(tǒng)決策機制——由機器替代人做出部分決策，涉及交通、金融、住房、醫(yī)療、銷售、教育、就業(yè)等諸多領(lǐng)域。如智能出行App，可以直接為用戶規(guī)劃最佳出行路線，實現(xiàn)交易成本的降低。同時，算法也因在公共部門的擴展應(yīng)用而逐漸參與到社會治理中來。公共部門已經(jīng)習慣（甚至依賴）通過算法模型參與社會日常治理，以緩解日益增長的治理壓力與相對有限的治理資源之間的緊張關(guān)系[2]。研究還發(fā)現(xiàn)，通過算法模型觀察離散事件的時間和空間坐標，甚至可提前一周預測兩個街區(qū)內(nèi)的犯罪，且在美國8個城市的試驗準確率高達90%[3]。應(yīng)認為，算法在公私領(lǐng)域的應(yīng)用，為社會治理與公眾生活提供了高效、便捷的服務(wù)。

但與此同時，算法也展現(xiàn)出了益處與風險并存的“正反二重性”。按照風險社會理論，工業(yè)化發(fā)展在給人類社會帶來益處的同時，也會產(chǎn)生“現(xiàn)代性風險”，引發(fā)新的危險和不安。文明的進步并不總能消解人類對風險的擔憂，特別是在技術(shù)學科等現(xiàn)代化發(fā)展的核心領(lǐng)域，風險正披著數(shù)字和方程的外衣，悄無聲息地潛入生活之中[4]。

算法風險的產(chǎn)生與其運行機制密不可分，算法運行需要以數(shù)據(jù)為支撐，輸入帶有偏見的數(shù)據(jù)則輸出不公正的決策結(jié)果，即“偏見入，偏見出”。密歇根州的算法自動化審核失業(yè)補貼申請者系統(tǒng)就曾導致4萬人受害[5]；一些高校也因利用算法決策學生招錄和獎學金的分配，導致了可能有損學生利益和加劇教育危機的質(zhì)疑[6]；一份關(guān)于美國刑事司法系統(tǒng)利用算法的報告也指出，智能量刑工具的使用面臨有效性、準確性和偏見等擔憂，應(yīng)停止使用或改進此類智能工具[7]。在這些事例中，算法充當了看不見的“裁決者”，算法黑箱的存在使得外界無法清晰了解算法決策的過程。有學者甚至將有害的算法模型描述為具有“不透明、規(guī)?；蜌缧浴碧卣?，并造成“數(shù)字難民”的“數(shù)學殺傷性武器”（Weapons of Math Destruction）[8]。在這種情況下，有關(guān)算法歧視、算法操縱、算法繭房、算法權(quán)力等的爭議不絕于耳，引發(fā)了強化算法治理的時代訴求。

1.2 算法治理進入全球化時代

面對算法現(xiàn)實風險及技術(shù)發(fā)展需要，以聯(lián)合國、歐盟、英國、加拿大等為代表的國際組織、國家開始探索算法治理方案，反映出算法治理進入全球化時代。

2021年11月，聯(lián)合國頒布《人工智能倫理問題建議書》，闡明人工智能算法可能復制和加深現(xiàn)有的偏見，產(chǎn)生新的倫理挑戰(zhàn)，并在算法研發(fā)、可解釋性、透明度、隱私影響評估等方面提出了治理要求[9]。該建議書由聯(lián)合國的193個成員國共同簽署，對國際社會的算法治理具有重要指導意義。

歐盟算法治理規(guī)范建設(shè)已取得了較為豐碩的成果。2016年4月通過《通用數(shù)據(jù)保護條例》，賦予個人關(guān)于算法自動化決策的事前拒絕權(quán)和事后獲得人工干預和表達觀點、提出異議權(quán)，以增強個人在自動化決策中的數(shù)據(jù)權(quán)益保護[10]。2019年4月發(fā)布《算法問責及透明度監(jiān)管框架》，建立“算法影響評估”機制[11]。2021年4月出臺《人工智能法》，設(shè)計“人為監(jiān)督”制度，強化對高風險人工智能，尤其是為人的決策提供信息或建議的高風險人工智能系統(tǒng)的監(jiān)督[12]。

英國是世界上最早在國家層面制定算法透明度標準的國家之一。2021年11月發(fā)布了一項開創(chuàng)性標準，旨在為政府和公共服務(wù)部門提供有關(guān)利用算法工具進行自動化決策的具體指導（尤其是對個人可能產(chǎn)生法律或經(jīng)濟影響時），包括透明度數(shù)據(jù)標準、透明度模板和行動指南等重要內(nèi)容[13]。

加拿大在認識算法自動化決策功能的基礎(chǔ)上，為降低公共部門采用該決策方式的風險，于2019年2月出臺了《自動化決策指令》，就算法影響評估、算法決策透明度和質(zhì)量保證、算法決策的救濟和責任承擔等，提出了一系列要求[14]。

基于算法現(xiàn)實風險及其治理的全球化，美國也在不斷探索治理方案，并形成了頗具自身特點的“多元共治”模式。

2 美國算法多元共治模式與特點

多元共治意味著多方主體的共同參與，這是美國算法治理模式所體現(xiàn)的鮮明特點。聯(lián)邦政府、州和地方政府、相關(guān)行業(yè)、私營部門等主體都參與到了治理行列之中，但這些主體并非一定采用統(tǒng)一的規(guī)范行事，而是呈現(xiàn)出去中心化和動態(tài)發(fā)展的治理特征[15]。在此基礎(chǔ)上，形成了以州和地方政府率先立法、聯(lián)邦政府持續(xù)推進、企業(yè)行業(yè)自治自律、研究院所/機構(gòu)積極參與為主要特點的治理模式。

2.1 州和地方政府率先立法

美國州和地方政府是推動算法治理的先行者、主力軍，涌現(xiàn)出了多個“第一”。2018年1月，紐約市議會正式通過美國第一部算法問責法案——《1696法案》，開創(chuàng)了美國算法立法治理的先河。本法旨在對政府使用的各種算法進行監(jiān)管，以促進自動化決策的公平性、推動政府決策算法開源和建立問責制，增強公眾對算法的信任。但由于市政府和企業(yè)基于隱私安全、政府網(wǎng)絡(luò)安全和商業(yè)秘密等理由，反對立法公開算法設(shè)計、使用情況，同時立法也未清晰界定執(zhí)法范圍，導致本法存在先天不足，實施效果大打折扣。

盡管如此，《1696法案》仍具有里程碑意義。之后的4年里，為規(guī)范政府機構(gòu)等對算法決策系統(tǒng)的使用，美國各地的立法者提出了近40項法案[16]。如2018年5月，佛蒙特州通過了全美第一部針對數(shù)據(jù)代理商的法律——《第171號法案》，要求在本州注冊的數(shù)據(jù)代理商告知消費者個人信息收集方式、是否有權(quán)退出及退出機制等。2018年6月，加州頒布了美國第一部全面的隱私法——美國“史上最嚴”的《加州消費者隱私法》（CCPA），并于2020年11月在其基礎(chǔ)上通過了新的《加州隱私權(quán)法》（CPRA），對以自動化方式處理個人信息的活動進行了更為細致、全面的規(guī)定。2019年8月，伊利諾伊州頒布了美國第一部規(guī)范以人臉識別方式視頻面試的法案——《人工智能視頻面試法》，適用于所有通過人工智能視頻面試方式申請該州工作職位的應(yīng)聘者。

2.2 聯(lián)邦政府持續(xù)推進

美國聯(lián)邦政府也在積極推進相關(guān)立法，但與州和地方政府頗有成效的立法進展不同，聯(lián)邦政府諸多提案仍處在審議程序中，至今尚未正式頒布專門立法。

2019年4月，參議員伊薇特·克拉克（Yvette Clarke）等提出《2019算法問責法案》，圍繞個人信息保護和隱私安全問題，要求大型科技公司評估和消除其“自動決策系統(tǒng)”有關(guān)風險，并對監(jiān)管規(guī)則的適用主體、責任承擔等進行了較為體系化的設(shè)置[17]。2019年10月，參議員約翰·圖恩（John Thune）提出《過濾氣泡透明度法案》，要求大型平臺向用戶提供關(guān)閉個性化推薦的選項，提升算法排序結(jié)果的透明度[18]。2020年6月，參議員謝羅德·布朗（Sherrod Brown）提出《數(shù)據(jù)問責和透明度法案》，賦予消費者對數(shù)據(jù)收集提出質(zhì)疑、要求人工審查和解釋自動化決策的權(quán)利[19]。2020年10月，眾議員湯姆·馬林諾夫斯基（Tom Malinowski）等提出《保護美國人免受危險算法侵害法案》，要求擁有1 000萬以上用戶的大型平臺對有損人生命和福祉的算法負責[20]。2021年5月，參議員愛德華·馬基（Edward J. Markey）提出《算法正義與互聯(lián)網(wǎng)平臺透明度法案》，設(shè)置在線平臺義務(wù)、提出算法使用的有效性和安全性標準、賦予用戶權(quán)利、成立算法專項監(jiān)管小組等，以提升算法透明度和防止平臺利用算法歧視性地處理個人信息[21]。2021年10月，民主黨議員提出《2021對抗惡意算法的正義法案》，以規(guī)制算法個性化推薦[22]。2022年2月，伊薇特·克拉克等又在《2019算法問責法案》的基礎(chǔ)上提出《2022算法問責法案》，聚焦算法自動化決策問題，力圖構(gòu)建一個更為安全和公平的算法使用環(huán)境[23]，這也是美國算法治理專門立法的最新嘗試。

除推動立法之外，聯(lián)邦政府還發(fā)布了多項行政措施。在奧巴馬、特朗普政府時期，政府均通過制定計劃和指導性文件支持開展人工智能治理機制的研究和實踐[24]。拜登政府同樣重視算法治理，如住房和城市發(fā)展部擬推翻一項既有規(guī)則，允許人們對與住房分配有關(guān)的算法決策不公提起歧視訴訟和索賠[25]。在專門立法之外，美國一些其他既有立法，如《公平信用報告法》《公平住房法》《平等信貸機會法》等，因遵循“技術(shù)中立”理念而不區(qū)分決策是否由人做出，也發(fā)揮著相應(yīng)的治理功能。

2.3 企業(yè)行業(yè)自治自律

企業(yè)行業(yè)作為算法技術(shù)的直接研發(fā)、應(yīng)用主體，面對算法風險，社會要求其積極履行有關(guān)治理責任。尤其是2018年發(fā)生的“劍橋分析事件”，更是掀起了反思與批評大型在線平臺侵犯用戶隱私、權(quán)力過大、逃避社會責任的“抨擊科技潮”（Techlash）[26]。在這種趨勢下，企業(yè)行業(yè)開始以各種方式探索與構(gòu)建算法治理機制。

如Twitter公司成立了由工程師、研究人員和數(shù)據(jù)科學家組成的專業(yè)治理機構(gòu)，評估其所使用的算法可能產(chǎn)生的風險，并通過舉辦“算法賞金挑戰(zhàn)賽”這種創(chuàng)新方式，邀請有關(guān)開發(fā)人員發(fā)現(xiàn)和幫助解決相關(guān)問題。在行業(yè)方面，亞馬遜、谷歌、Facebook、IBM和微軟共同成立一家以向公眾科普人工智能知識、提供人工智能研究范例和參與討論渠道為目標的非營利組織——人工智能合作組織，為算法技術(shù)的合規(guī)應(yīng)用提出了相應(yīng)行業(yè)要求。

2.4 研究院所/機構(gòu)積極參與

除政府、企業(yè)行業(yè)外，研究院所/機構(gòu)也從第三方的角度參與算法治理，并主要存在兩種途徑：一是與政府等其他機構(gòu)合作。如哈佛大學與舊金山政府共同設(shè)計了一個主要由“評估”和“管理”算法風險兩部分組成的倫理和算法工具包，圍繞公共部門如何更加透明和負責地使用算法這一問題，闡明算法潛在風險，提高對算法影響的認識和確定減輕風險的方法。二是研究院所/機構(gòu)單獨提出治理建議。如2017年1月，美國計算機協(xié)會從責任制、對算法決策提出質(zhì)疑并獲得救濟、可解釋性、可審查性等角度發(fā)布了7條關(guān)于算法透明和可責性的原則，以應(yīng)對算法歧視問題。研究院所/機構(gòu)的參與，為美國算法治理提供了新視角與智力支持。

整體而言，美國各級政府和企業(yè)行業(yè)都比較重視算法治理，并支持有關(guān)研究機構(gòu)的參與，構(gòu)建了由諸多主體組成的多元共治模式。但該模式仍在發(fā)展之中。一方面，該模式吸納了多方力量，形成了較為強大的治理合力，為消除算法風險、引導算法技術(shù)合規(guī)發(fā)展起到了積極作用；另一方面，該模式仍是不完善的，尤其是聯(lián)邦算法立法仍然缺位。

3 美國算法治理重要策略與制度

3.1 算法治理重要策略

3.1.1 將基于風險的具體場景治理作為重點

當前，美國各級政府都未致力于出臺“大而全”的算法治理法案，而主要以風險作為基本考慮因素，根據(jù)算法具體應(yīng)用場景提出不同治理方案。如2021年11月，紐約市議會與伊利諾伊州、馬里蘭州聯(lián)合批準了Int.1894-2020A號法案——《自動化就業(yè)決策工具法》，設(shè)置招聘、晉升決策中雇主采用自動化工具時應(yīng)遵循的要求，如防止偏見的審查、該工具使用的事前告知制度等，以保護就業(yè)公平，但豁免了不會對人產(chǎn)生實質(zhì)影響的自動化工具，如垃圾郵件過濾器、防火墻、電子表格、數(shù)據(jù)集或其他數(shù)據(jù)匯編等[27]。這種以風險為導向的立法策略，體現(xiàn)了敏捷使用監(jiān)管方法和支持技術(shù)創(chuàng)新的態(tài)度。

3.1.2 治理對象涵蓋公共和私營部門

隨著算法在公共與私營部門的擴展應(yīng)用，其對社會治理和社會生活的影響更加深刻，為此美國同時對公共與私營部門設(shè)置了相關(guān)規(guī)制制度。在公共部門領(lǐng)域，如開創(chuàng)美國算法立法治理先河的《1696法案》，試圖通過監(jiān)管政府使用自動化決策的行為，防范和解決公共部門中的算法歧視問題。紐約州、舊金山市、薩默維爾市等州和城市也發(fā)布了禁止警方和市政部門使用人臉識別軟件的禁令。

在私營部門領(lǐng)域，對個性化推薦服務(wù)等的應(yīng)用提出了要求，尤其是注重對大型平臺的規(guī)制。多部聯(lián)邦政府提案都指出大型平臺應(yīng)履行更多的義務(wù)和承擔更大的責任?！端惴ㄕx與互聯(lián)網(wǎng)平臺透明度法案》規(guī)定，在線平臺應(yīng)嚴格履行算法使用、處理記錄的保留義務(wù)和算法審核義務(wù)，但小型在線平臺無需履行其中的某些具體義務(wù)事項。《平臺問責制和透明度法案》要求大型互聯(lián)網(wǎng)社交媒體平臺必須向適格研究人員共享數(shù)據(jù)，否則將失去根據(jù)《通信規(guī)范法》而享有的豁免權(quán)。對大型平臺的判斷主要是以資金數(shù)額和使用的用戶信息量為標準，根據(jù)《2022算法問責法案》，最近3個財年的應(yīng)稅期間，平均年總收入超5 000萬美元或擁有超2.5億美元股權(quán)的，以及以擁有、管理、分析等方式使用超100萬名用戶或消費設(shè)備識別信息的，是受本法案強制性約束的對象。美國之所以重視規(guī)制大型平臺，重要原因可能在于其一般擁有較大規(guī)模的用戶群和較強的信息收集、檢索、分析等能力，即便對個人較小的風險也可能因涉及眾多用戶而釀成較大風險，因此有必要強化對大型平臺的監(jiān)管。

3.1.3 構(gòu)建算法治理邏輯閉環(huán)

為引導算法合規(guī)研發(fā)與應(yīng)用，提升算法透明度和可解釋性，消弭算法風險，美國諸多治理規(guī)范設(shè)計了一系列具體措施，包括要求算法控制者、使用者等履行相應(yīng)義務(wù)，賦予受算法影響的個人獲得救濟權(quán)和設(shè)置監(jiān)管機構(gòu)的職責等。但這些措施目的的實現(xiàn)，需要以問責制為保障。與歐盟通過“個體賦權(quán)”，即賦予數(shù)據(jù)主體算法權(quán)利來影響與控制算法決策不同，美國基于其對算法治理的認識和多元價值定位，構(gòu)建了“外部問責”范式，即建立以政府或第三方為主體的算法問責制[28]，將由算法歧視等導致的危害后果，直接歸責于算法研發(fā)者與使用者，而非算法本身，以此滿足算法的可追責性[29]。通過建立這種范式的問責制，美國形成了算法治理的邏輯閉環(huán)。

3.2 算法治理重要制度

3.2.1 算法影響評估制度

建立健全算法影響評估制度，是美國算法治理的核心制度之一。該制度實現(xiàn)了對算法風險的動態(tài)化、常態(tài)化監(jiān)測，可以發(fā)揮及時防控不同研發(fā)與應(yīng)用階段出現(xiàn)的各種風險的作用。以《2022算法問責法案》為例，本文將美國算法影響評估制度簡要歸納為評估主體、要求、程序、時間和監(jiān)督五大方面。

第一，評估主體。在整個評估制度的運行中，存在三大關(guān)鍵參與主體：聯(lián)邦貿(mào)易委員會（FTC）、提供算法技術(shù)支持的公司以及聯(lián)邦貿(mào)易委員會按照《聯(lián)邦貿(mào)易委員會法》對其享有管轄權(quán)的實體（個人、合伙企業(yè)和公司）。算法自動化決策的應(yīng)用實體和為其提供技術(shù)支持的其他公司，都應(yīng)對有關(guān)評估結(jié)果負責。

第二，評估要求。法案共提出了13項具體的評估要求，主要包括但不限于以下內(nèi)容：一是評估決策開始前任何已存在的用于關(guān)鍵決策的相關(guān)信息，如已知的危害、故障案例等。二是評估決策過程中的隱私風險和隱私增強措施，如數(shù)據(jù)最小化措施、隱私安全技術(shù)等。三是評估任何用于決策的數(shù)據(jù)集和其他信息，如用戶的種族、性別、年齡、社會經(jīng)濟狀況等。四是評估用戶的權(quán)利，如知情權(quán)、選擇權(quán)、異議權(quán)等。五是評估對用戶可能產(chǎn)生的重大影響及其緩解策略。六是記錄已經(jīng)履行的評估要求、時間和關(guān)鍵節(jié)點，以及未能履行評估要求的原因。七是評估聯(lián)邦貿(mào)易委員會認為合適的其他事項。

第三，評估程序。聯(lián)邦貿(mào)易委員會應(yīng)會同其他部門（如標準機構(gòu)、私營公司、學術(shù)界、技術(shù)專家等）制定相關(guān)法規(guī)，為評估的開展提供指導。有關(guān)實體應(yīng)按照要求自行評估本實體因開展自動化決策而產(chǎn)生的影響，并形成報告報送聯(lián)邦貿(mào)易委員會。

第四，評估時間。一是評估活動持續(xù)時間。對自動化決策及其對公眾的影響應(yīng)進行持續(xù)性評估，包括決策開展之前和決策持續(xù)過程中的評估。二是評估記錄保存時間。開展評估的實體應(yīng)將評估報告予以保存，保存時間比利用相關(guān)自動化決策的過程多3年。

第五，評估監(jiān)督。聯(lián)邦貿(mào)易委員會將發(fā)布年度匿名綜合報告并建立向公眾開放的信息庫，公眾可以審查所涉實體做出自動化決策的類別、基于哪些因素考量（如數(shù)據(jù)源、指標等）做出決策，以及享有哪些提出異議（質(zhì)疑、糾正或退出自動化決策系統(tǒng)等）的權(quán)利。

3.2.2 算法披露制度

算法披露制度的重要作用是增強算法透明度，維護個人的知情權(quán)。理論上對“透明”的理解，存在狹義與廣義之分：狹義上，是指公開算法代碼、數(shù)據(jù)、決策樹等信息；廣義上，是實現(xiàn)算法運行全過程的透明，除上述內(nèi)容外，還包括對算法決策機制的解釋[30]，即除了“靜態(tài)”地公示與所使用算法有關(guān)的信息外，還應(yīng)對算法運行決策機制做出解釋，可謂“動態(tài)”的透明。

美國算法披露制度的設(shè)計和履行分為以下三類情況：第一，僅披露算法的存在。《過濾氣泡透明度法案》規(guī)定，平臺應(yīng)向用戶告知算法的存在，并以清晰、醒目的方式，向用戶提供可以一次性拒絕算法的提示。第二，披露算法技術(shù)信息?！?696法案》規(guī)定，應(yīng)使公眾能夠有意義地評估自動化決策系統(tǒng)的應(yīng)用情況，必要時可酌情公開該系統(tǒng)的有關(guān)技術(shù)信息。第三，解釋算法決策機制。《2022算法問責法案》規(guī)定，消費者有權(quán)獲得關(guān)于系統(tǒng)決策的信息，包括有助于做出特定決策的任何相關(guān)因素，如解釋哪些因素會導致系統(tǒng)做出不同決策等。盡管美國在算法披露制度的建構(gòu)上存在披露程度的差異，但毫無疑問的是，該制度已經(jīng)成為強化算法治理的重要理念。

3.2.3 算法問責制度

雖然美國各部法案在具體問責制度的設(shè)計上不盡相同，但從整個算法治理體系考察，美國主要構(gòu)建了行政法和民法層面的問責制。在行政法方面，對于違反法規(guī)的有關(guān)行為，由聯(lián)邦貿(mào)易委員會根據(jù)《聯(lián)邦貿(mào)易委員會法》以構(gòu)成“不公平或欺詐”進行處罰。在民法層面，違反規(guī)定的法律主體將受到民事起訴，并處以一定數(shù)額的民事罰款。

4 關(guān)于美國算法治理經(jīng)驗的思考

我國高度重視算法治理工作，并取得了較為豐富的研究成果與實踐經(jīng)驗，如我國《個人信息保護法》對利用個人信息進行自動化決策的活動進行了專門規(guī)定，并通過《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》規(guī)范算法推薦服務(wù)行為。當前，我國正逐步向構(gòu)建完備的算法治理體系邁進。作為一項全球性議題，美國所構(gòu)建的多元共治模式和采用的重要治理策略、制度，可為我國相關(guān)工作的開展提供思考。

第一，保持發(fā)展與安全的相互協(xié)調(diào)。我國《新一代人工智能發(fā)展規(guī)劃》做出了“最大程度發(fā)揮人工智能潛力”和“最大限度防范風險”的總體部署。在當前人工智能技術(shù)與社會發(fā)展高度融合的趨勢下，算法作為支撐人工智能發(fā)展的關(guān)鍵要素之一，應(yīng)盡可能地發(fā)揮其積極功能，彰顯數(shù)據(jù)的生產(chǎn)要素價值。因此，在算法功能發(fā)揮與風險防范之間，應(yīng)恰當把握發(fā)展與安全的平衡，既要防止過于嚴格的制度設(shè)計阻礙技術(shù)創(chuàng)新，也要盡力減小算法風險。

第二，健全多元共治算法治理模式。目前，在我國算法治理模式的探索中，政府、企業(yè)行業(yè)、研究院所/機構(gòu)等都已成為引導算法向上向善的重要主體。我國應(yīng)進一步強調(diào)政府的基礎(chǔ)性作用，完善有關(guān)政策規(guī)范，營造良好的制度環(huán)境；發(fā)揮企業(yè)行業(yè)的主體性作用，推動構(gòu)建深層次的自治自律機制；激發(fā)研究院所/機構(gòu)的智力支撐作用，支持其結(jié)合實際開展深入研究。

第三，加強重點領(lǐng)域算法治理立法。依據(jù)算法風險發(fā)生的可能性和嚴重性，算法治理的必要性和難度也隨之變化，應(yīng)根據(jù)算法應(yīng)用領(lǐng)域的不同，厘清治理重點領(lǐng)域，加強分類分級治理研究。對于低風險的算法應(yīng)用不需監(jiān)管或僅需實施算法備案即可，而對于高風險的算法應(yīng)用應(yīng)進行重點規(guī)制，如刑事司法領(lǐng)域、自動駕駛領(lǐng)域等。同時，還應(yīng)充分發(fā)揮既有法律規(guī)范、政策的作用，對能夠有效規(guī)制有關(guān)算法風險的，不需額外增設(shè)專門的算法規(guī)范，以免增加不必要的負擔。

第四，注重規(guī)制大型平臺算法應(yīng)用。事實上，任何類型的平臺應(yīng)用算法時都可能產(chǎn)生某些風險，但相比而言，對大型平臺的規(guī)制更為急迫。這是因為，大型平臺通常擁有龐大的用戶群、強大的數(shù)據(jù)持續(xù)收集和分析能力，并可能在單一或多元市場領(lǐng)域獲得支配地位，從而成為“關(guān)鍵信息基礎(chǔ)設(shè)施”。因此，大型平臺不當使用算法造成的危害將達到相當?shù)膹V度和深度，對用戶個人利益、社會秩序等都可能造成嚴重影響。

第五，建立健全相應(yīng)算法治理制度。首先，堅持算法風險評估制度的常態(tài)化適用。建立從算法研發(fā)到應(yīng)用的全流程風險評估機制，尤其是重視評估可能損害公共利益和個人權(quán)益的風險，根據(jù)評估結(jié)果適時調(diào)整治理措施。其次，恰當適用算法披露制度。披露算法的重要目的在于維護公眾的知情權(quán)，提升算法透明度和可解釋性，受算法決策負面影響的主體可因此更容易獲得救濟。但同時也應(yīng)注意協(xié)調(diào)算法披露與算法知識產(chǎn)權(quán)、商業(yè)秘密保護之間的關(guān)系，防止因不當披露而侵犯企業(yè)的利益，從而限制創(chuàng)新發(fā)展。再次，建立多層級的算法問責制。問責的對象應(yīng)是與造成算法危害有關(guān)的自然人或法人，但為保護創(chuàng)新，只有當產(chǎn)生嚴重危害時，才宜適用行政、民事等相對嚴厲的處罰措施。對于一般的、能夠及時消除的算法風險，應(yīng)賦予算法使用者、控制者等自查自糾的機會，優(yōu)先發(fā)揮市場的調(diào)節(jié)作用予以解決。