王禎軍

重大行政決策是行政機(jī)關(guān)作出的事關(guān)公共利益的重大決定，可能成為社會(huì)穩(wěn)定風(fēng)險(xiǎn)的源頭或社會(huì)穩(wěn)定風(fēng)險(xiǎn)事件發(fā)生的導(dǎo)火索。這一命題的理論依據(jù)是“風(fēng)險(xiǎn)社會(huì)”理論，即，現(xiàn)代社會(huì)的風(fēng)險(xiǎn)相當(dāng)一部分來源于我們作為集體或者個(gè)人作出的每一個(gè)決定，如過去一段時(shí)間各地因重大行政決策引發(fā)的矛盾沖突和群體性事件。2019 年4 月，國務(wù)院公布《重大行政決策程序暫行條例》（以下簡(jiǎn)稱《條例》），將社會(huì)穩(wěn)定風(fēng)險(xiǎn)評(píng)估（下文簡(jiǎn)稱“穩(wěn)評(píng)”）確定為重大行政決策的前置程序。2021 年《市縣法治政府建設(shè)示范指標(biāo)體系》作為開展示范創(chuàng)建活動(dòng)的評(píng)估標(biāo)準(zhǔn)和建設(shè)法治政府的具體指引，在“重大行政決策科學(xué)民主合法”和“重大突發(fā)事件依法預(yù)防處置”兩個(gè)一級(jí)指標(biāo)中，均涉及穩(wěn)評(píng)和風(fēng)險(xiǎn)防范的內(nèi)容。提升社會(huì)穩(wěn)定風(fēng)險(xiǎn)的識(shí)別、分析和預(yù)測(cè)能力是提高穩(wěn)評(píng)效能的關(guān)鍵，對(duì)于防范社會(huì)穩(wěn)定風(fēng)險(xiǎn)，確?？茖W(xué)決策和順利實(shí)施決策具有重要意義。算法是“在計(jì)算或其他解決問題的操作中，特別是計(jì)算機(jī)所遵循的一個(gè)過程或一組規(guī)則”。①Oxford English Dictionary,Definition of algorithm,see https://en.oxforddictionaries.com/definition/algorithm.2021-05-17.在信息時(shí)代，算法為政府提供了大量收集個(gè)人信息并且監(jiān)控個(gè)人行為的機(jī)會(huì)，它可以廣泛抓取并高效解析個(gè)人數(shù)據(jù)生成相關(guān)決策，具有將網(wǎng)絡(luò)空間虛擬社會(huì)和現(xiàn)實(shí)世界的個(gè)體相互聯(lián)結(jié)，根據(jù)個(gè)體的過去和現(xiàn)在預(yù)測(cè)未來的技術(shù)能力?！霸诠彩聵I(yè)領(lǐng)域，從司法審判到智慧警務(wù)，從福利分配到信用評(píng)估，算法也正在政府、專家之外成為影響決策的第三股力量，或獨(dú)立或輔助地發(fā)揮著智慧決策的作用?！雹趶埿溃骸哆B接與失控：面對(duì)算法社會(huì)的來臨，如何構(gòu)建算法信任？》，載《法治周末》2019 年5 月30 日，第12 版。顯然，算法的獨(dú)特功能既可以擴(kuò)大對(duì)重大行政決策利益相關(guān)群體的信息收集，擴(kuò)充風(fēng)險(xiǎn)識(shí)別范圍，提高風(fēng)險(xiǎn)分析的充分性和準(zhǔn)確性，也可以為風(fēng)險(xiǎn)評(píng)估的人工“風(fēng)險(xiǎn)溝通”環(huán)節(jié)提供行動(dòng)方案，在提升穩(wěn)評(píng)的效能中發(fā)揮作用。然而，“當(dāng)算法與紛繁復(fù)雜的平臺(tái)應(yīng)用相結(jié)合，深入且廣泛地嵌入到我們的生活中并不斷拓展之時(shí)，看似理性的算法卻引發(fā)了一系列算法危機(jī)”，③同上注。算法應(yīng)用于穩(wěn)評(píng)不可避免地會(huì)遇到權(quán)利保護(hù)和公共利益維護(hù)等法律問題。在提升穩(wěn)評(píng)效能的同時(shí)，必須在法治的軌道上規(guī)制算法的使用。

一、算法應(yīng)用于重大行政決策社會(huì)穩(wěn)定風(fēng)險(xiǎn)評(píng)估的可行性

重大行政決策社會(huì)穩(wěn)定風(fēng)險(xiǎn)評(píng)估（下文簡(jiǎn)稱“重大決策穩(wěn)評(píng)”）是行政機(jī)關(guān)在制定、實(shí)施事關(guān)人民群眾切身利益的重大決策之前，通過調(diào)查研究，對(duì)可能影響社會(huì)穩(wěn)定的風(fēng)險(xiǎn)進(jìn)行預(yù)測(cè)、識(shí)別、分析和評(píng)判，制定風(fēng)險(xiǎn)應(yīng)對(duì)預(yù)案和措施，并將評(píng)估結(jié)論作為決策依據(jù)，在決策事項(xiàng)實(shí)施過程中妥善處置社會(huì)穩(wěn)定風(fēng)險(xiǎn)的過程。根據(jù)《條例》，穩(wěn)評(píng)結(jié)論的作出要經(jīng)過合法性、合理性、可行性論證，同時(shí)要遵循公眾參與、專家論證等法律程序，必經(jīng)的技術(shù)流程包括風(fēng)險(xiǎn)信息收集、風(fēng)險(xiǎn)識(shí)別、分類、分析等。算法應(yīng)用的基礎(chǔ)是數(shù)據(jù)處理，實(shí)現(xiàn)數(shù)據(jù)的采集、存儲(chǔ)、檢索、加工、變換和傳輸。將算法應(yīng)用于穩(wěn)評(píng)已經(jīng)具備了數(shù)據(jù)基礎(chǔ)，在技術(shù)和目的上具有可行性。

（一）大數(shù)據(jù)技術(shù)的發(fā)展為算法應(yīng)用于穩(wěn)評(píng)奠定了基礎(chǔ)

現(xiàn)代算法是由易于訪問的大型和（或）多樣化數(shù)據(jù)集推動(dòng)的，這些數(shù)據(jù)集可以有效地聚合和處理（通常稱為“大數(shù)據(jù)”）。這些算法存在于復(fù)雜、相互依存的全球數(shù)據(jù)生態(tài)系統(tǒng)中，通過算法產(chǎn)生的輸出可以用作其他算法過程的新輸入數(shù)據(jù)。④M Balkin,2016 Sidley Austin Distinguished Lecture on Big Data Law and Policy:The Three Laws of Robotics in the Age of Big Data,(2017) 78(5) OhioStLJ 1217,1219.建立在數(shù)據(jù)之上的算法應(yīng)用于穩(wěn)評(píng)的基礎(chǔ)環(huán)節(jié)，一是掌握反映社會(huì)穩(wěn)定風(fēng)險(xiǎn)的豐富數(shù)據(jù)，二是實(shí)現(xiàn)社會(huì)穩(wěn)定風(fēng)險(xiǎn)的數(shù)據(jù)化驅(qū)動(dòng)。在大數(shù)據(jù)時(shí)代，隨著智能手機(jī)、智能電器等智能設(shè)備普及到千家萬戶，從消費(fèi)習(xí)慣、飲食嗜好、活動(dòng)軌跡，到身高、體重、心跳、脈搏等豐富的個(gè)人信息，隨時(shí)隨刻都會(huì)被傳送到“云端”，每個(gè)人已經(jīng)成為 “物聯(lián)網(wǎng)”時(shí)代的“量化自我”（quantified self）或“可測(cè)度的自我”（measurable self）。⑤Sander Klous,Nart Wielaard,We are Big Data:The Future of the Information Society,Atlantis Press,2016,p.61.轉(zhuǎn)引自鄭戈：《算法的法律與法律的算法》，載《中國法律評(píng)論》2018 年第2 期。很多個(gè)人信息背后隱含著社會(huì)穩(wěn)定風(fēng)險(xiǎn)因子，如學(xué)者所言，“自己每一次點(diǎn)擊鼠標(biāo)，包括上傳一張照片、轉(zhuǎn)發(fā)一則笑話或在短片下面點(diǎn)一個(gè)‘贊’，都是在為建立與自己相關(guān)的龐大數(shù)據(jù)庫添磚加瓦，而其揭示出的人格特質(zhì)真實(shí)得讓人恐懼”⑥［瑞典］大衛(wèi)薩普特：《被算法操控的生活》，易文波譯，湖南科學(xué)技術(shù)出版社2020 年版，第4 頁。。這些信息成為深度分析進(jìn)而評(píng)估社會(huì)穩(wěn)定風(fēng)險(xiǎn)的重要數(shù)據(jù)。在此基礎(chǔ)上，對(duì)導(dǎo)致影響社會(huì)穩(wěn)定的風(fēng)險(xiǎn)因素實(shí)施的數(shù)據(jù)化轉(zhuǎn)變，實(shí)現(xiàn)風(fēng)險(xiǎn)的可計(jì)算化是實(shí)現(xiàn)算法應(yīng)用于穩(wěn)評(píng)的重要環(huán)節(jié)。“在實(shí)現(xiàn)風(fēng)險(xiǎn)因素的數(shù)據(jù)化轉(zhuǎn)化這一目標(biāo)過程中，所采用的主要研究手段應(yīng)當(dāng)是尋求風(fēng)險(xiǎn)因素與定量數(shù)據(jù)間的融合點(diǎn)與連接點(diǎn)，將風(fēng)險(xiǎn)因素與數(shù)理算法自然地建立聯(lián)系，從而能實(shí)現(xiàn)對(duì)風(fēng)險(xiǎn)計(jì)算的普遍應(yīng)用。顯然，數(shù)字化提高了數(shù)據(jù)管理的效率。通過數(shù)字化，模擬數(shù)據(jù)被轉(zhuǎn)換成計(jì)算機(jī)可以讀取的數(shù)字?jǐn)?shù)據(jù)”⑦王禎軍：《法治視域下大數(shù)據(jù)應(yīng)用于穩(wěn)評(píng)的作用、問題及路徑》，載《理論學(xué)刊》2021 年第3 期。而“數(shù)據(jù)體量的指數(shù)級(jí)增長(zhǎng)使得數(shù)據(jù)處理的環(huán)節(jié)只有算法能夠勝任，而數(shù)據(jù)處理者的算法能力決定了其數(shù)據(jù)處理水平能力?！雹鄰埩韬骸端惴ㄔu(píng)估制度如何在平臺(tái)問責(zé)中發(fā)揮作用》，載《上海政法學(xué)院學(xué)報(bào)（法治論叢）》2021 年第3 期。算法已經(jīng)能夠?qū)Ａ康臒o結(jié)構(gòu)數(shù)據(jù)（包括百度搜索記錄、淘寶購物記錄、手機(jī)GPS 信息等各種電子痕跡）進(jìn)行分析和處理，最終實(shí)現(xiàn)“完美個(gè)人化”，⑨參見鄭戈：《算法的法律與法律的算法》，載《中國法律評(píng)論》2018 年第2 期。準(zhǔn)確識(shí)別出某一特定個(gè)人的身份、個(gè)性、品味、社會(huì)屬性、偏好和政治傾向。因此，算法應(yīng)用于穩(wěn)評(píng)的數(shù)據(jù)資源和技術(shù)已經(jīng)具備。在實(shí)踐中，算法已經(jīng)用于協(xié)助判決和假釋決定、預(yù)測(cè)犯罪“熱點(diǎn)”以分配警察資源、個(gè)性化搜索引擎結(jié)果、電子新聞源和廣告、發(fā)現(xiàn)欺詐、確定礦山信用評(píng)級(jí)、促進(jìn)招聘、提供醫(yī)療和法律服務(wù)等事務(wù)中⑩Lorna McGregor .International Human Rights Law as a Framework for Algorithmic Ac-countability,International and Comparative Law Quarterly/2019 -Volume 68/Issue 2,1 April/Articles/International Human Rights Law as a Framework for Algorithmic Accountability– International and Comparative Law Quarterly 68,2019 pp 309–343，為算法應(yīng)用于穩(wěn)評(píng)提供了參考和借鑒。

（二）算法可以實(shí)現(xiàn)社會(huì)穩(wěn)定風(fēng)險(xiǎn)的數(shù)據(jù)分析

風(fēng)險(xiǎn)學(xué)界的制度主義者認(rèn)為，“風(fēng)險(xiǎn)社會(huì)”中的“風(fēng)險(xiǎn)”是人類活動(dòng)的反映，是人類社會(huì)工業(yè)化發(fā)展和科學(xué)技術(shù)迅猛提高的副產(chǎn)品。風(fēng)險(xiǎn)不僅來源于人類社會(huì)之外，更來源于我們作為集體或者個(gè)人作出的每一個(gè)決定，每種選擇，以及每次行動(dòng)。?參見楊雪冬：《全球化、風(fēng)險(xiǎn)社會(huì)與復(fù)合治理》，載李程偉主編：《公共危機(jī)管理：理論與實(shí)踐探索》，中國政法大學(xué)出版社2006年版，第46 頁。人類學(xué)者和文化學(xué)者則把風(fēng)險(xiǎn)定義為一個(gè)群體對(duì)危險(xiǎn)的主觀認(rèn)識(shí)，認(rèn)為風(fēng)險(xiǎn)是否客觀存在本身并不重要，重要的是誰在認(rèn)知并強(qiáng)化了風(fēng)險(xiǎn)意識(shí)與觀念。由于不同文化導(dǎo)致的風(fēng)險(xiǎn)感知不同，對(duì)風(fēng)險(xiǎn)的認(rèn)識(shí)是混亂無序的，很難尋求到建立這種等級(jí)性秩序的基礎(chǔ)。?［英］斯科特·拉什：《風(fēng)險(xiǎn)社會(huì)與風(fēng)險(xiǎn)文化》，王武龍譯，載《馬克思主義與現(xiàn)實(shí)》2002 年第4 期。社會(huì)穩(wěn)定風(fēng)險(xiǎn)是未來發(fā)生不可控的社會(huì)沖突的可能性，是一個(gè)動(dòng)態(tài)發(fā)展過程，不可能被完全消除，體現(xiàn)了制度主義者所主張的風(fēng)險(xiǎn)的客觀存在性。同時(shí)，社會(huì)穩(wěn)定風(fēng)險(xiǎn)又具有人類學(xué)者和文化學(xué)者所主張的主觀建構(gòu)性，最終以決策利益相關(guān)方的行為反映出來，而利益相關(guān)方的行為受主觀思想和認(rèn)知的支配，往往基于個(gè)人主觀上對(duì)風(fēng)險(xiǎn)的認(rèn)知、利害分辨和價(jià)值判斷來決定是否采取影響社會(huì)穩(wěn)定的行動(dòng)。并且，利益相關(guān)方的心理活動(dòng)不斷變化，其態(tài)度和價(jià)值立場(chǎng)經(jīng)常是不穩(wěn)定的。“這些立場(chǎng)的系列光譜包含著強(qiáng)烈反對(duì)、溫和反對(duì)、中立、溫和支持，直至強(qiáng)烈支持。通過公共決策過程中信息告知、協(xié)商、卷入、談判、公民主導(dǎo)等方式的不斷強(qiáng)化，在決策過程的包容性、開放性、互動(dòng)性等作用下，相關(guān)群體的利益認(rèn)知、偏好和立場(chǎng)都是可變的?！?朱德米：《深化穩(wěn)評(píng)的理論支持》，載《中國社會(huì)科學(xué)報(bào)》2011 年6 月2 日，第3 版?？陀^存在性的風(fēng)險(xiǎn)評(píng)估標(biāo)準(zhǔn)基于科學(xué)的“理性—工具”范式，而主觀構(gòu)建的風(fēng)險(xiǎn)則偏向“商談—建構(gòu)”范式。社會(huì)穩(wěn)定風(fēng)險(xiǎn)兼具主觀性和客觀性的特征增加了風(fēng)險(xiǎn)數(shù)據(jù)分析的難度，對(duì)數(shù)據(jù)分析工具提出了很高的要求。而建立在數(shù)據(jù)之上的算法應(yīng)用于穩(wěn)評(píng)的基礎(chǔ)環(huán)節(jié)是實(shí)現(xiàn)社會(huì)穩(wěn)定風(fēng)險(xiǎn)的數(shù)據(jù)化驅(qū)動(dòng)，體現(xiàn)了“理性—工具”范式的科學(xué)性，即“對(duì)導(dǎo)致影響社會(huì)穩(wěn)定的風(fēng)險(xiǎn)因素實(shí)施的數(shù)據(jù)化轉(zhuǎn)變，實(shí)現(xiàn)風(fēng)險(xiǎn)的可計(jì)算化。在實(shí)現(xiàn)風(fēng)險(xiǎn)因素的數(shù)據(jù)化轉(zhuǎn)化這一目標(biāo)過程中，所采用的主要研究手段應(yīng)當(dāng)是尋求風(fēng)險(xiǎn)因素與定量數(shù)據(jù)間的融合點(diǎn)與連接點(diǎn)，將風(fēng)險(xiǎn)因素與數(shù)理算法自然地建立聯(lián)系，從而能實(shí)現(xiàn)對(duì)風(fēng)險(xiǎn)計(jì)算的普遍應(yīng)用。顯然，數(shù)字化提高了數(shù)據(jù)管理的效率。通過數(shù)字化，模擬數(shù)據(jù)被轉(zhuǎn)換成計(jì)算機(jī)可以讀取的數(shù)字?jǐn)?shù)據(jù)，使得數(shù)據(jù)的管理變得既方便又高效。”?同前注⑦。此外，社會(huì)穩(wěn)定風(fēng)險(xiǎn)的主觀性在穩(wěn)評(píng)中表現(xiàn)為“個(gè)體的感知和情緒等心理層面的因素必然千差萬別且大部分存在這樣那樣的波動(dòng)，具有典型的非線性特征，恰恰是這些具有非線性的因素在‘穩(wěn)評(píng)’中是最為重要的評(píng)測(cè)方向，它們決定了利益相關(guān)者對(duì)重大行政決策的接受程度，以及采取對(duì)抗行動(dòng)引發(fā)風(fēng)險(xiǎn)的可能性?！?同前注⑦。傳統(tǒng)穩(wěn)評(píng)評(píng)估指標(biāo)的靜態(tài)性特征，數(shù)據(jù)采集的抽樣限制使得這一工具方法在現(xiàn)實(shí)中難以避免時(shí)效性差、權(quán)威度低的局限，降低了對(duì)長(zhǎng)期趨勢(shì)和波動(dòng)幅度的可預(yù)測(cè)性，?Sheldon，Eleanor B.&freeman，Howard E.“Notes on Social Indicators：Promises and Potential”，Policy Sciences，Vol.1，No.1，1970，PP.97-111.無法獲取持續(xù)的、周期性的觀測(cè)數(shù)據(jù)。更為關(guān)鍵的是，偏于線性因果關(guān)系指標(biāo)評(píng)估體系往往忽視了對(duì)社會(huì)行為的文化和集體心理方向的測(cè)度。?Firestone，Joseph M.“The Development of Social Indicators from Content Analysis of Social Documents”.Policy Sciences，Vol.3，No.2，1972，PP.249-263.基于大數(shù)據(jù)的算法為解決穩(wěn)評(píng)中的“非結(jié)構(gòu)化數(shù)據(jù)”分析提供了重要的工具和方法。隨著智能和可移動(dòng)計(jì)算設(shè)備的出現(xiàn)，個(gè)人的位置、行為，甚至身體生理數(shù)據(jù)的變化都成為了可被記錄和分析的數(shù)據(jù)，“每一個(gè)數(shù)據(jù)都被視為一個(gè)節(jié)點(diǎn)，無限次地與網(wǎng)絡(luò)間關(guān)聯(lián)數(shù)據(jù)形成裂變式傳播路徑，其間的關(guān)聯(lián)狀態(tài)蘊(yùn)含著風(fēng)險(xiǎn)擴(kuò)散的無限可能性”。?劉澤照、朱正威：《大數(shù)據(jù)平臺(tái)下的穩(wěn)評(píng)：研究前瞻與應(yīng)用挑戰(zhàn)》，載《華東理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2015 年第1 期。這為在技術(shù)上以“數(shù)據(jù)參與”代表“公眾參與”從而為算法應(yīng)用于穩(wěn)評(píng)實(shí)現(xiàn)“商談—建構(gòu)”范式要求的民主性提供了空間。通過算法實(shí)現(xiàn)對(duì)大數(shù)據(jù)的分析、預(yù)測(cè)，使海量數(shù)據(jù)釋放出更多的價(jià)值，透過大數(shù)據(jù)探析利益相關(guān)者的真實(shí)心理、態(tài)度和立場(chǎng)，能夠充分掌握影響相關(guān)利益群體風(fēng)險(xiǎn)感知狀況的各種因素，提高穩(wěn)評(píng)結(jié)論的科學(xué)性和準(zhǔn)確度，為重大行政決策提供更可靠的咨詢。

（三）算法有助于實(shí)現(xiàn)穩(wěn)評(píng)目標(biāo)

“風(fēng)險(xiǎn)的知識(shí)屬性決定風(fēng)險(xiǎn)的識(shí)別與判斷不能僅依靠傳統(tǒng)經(jīng)驗(yàn)法則和社會(huì)一般大眾的感覺，而需要借助專業(yè)化的標(biāo)準(zhǔn)與規(guī)范。而這些專業(yè)化的標(biāo)準(zhǔn)必然通過專業(yè)化的行政機(jī)關(guān)來設(shè)定?！?趙鵬：《風(fēng)險(xiǎn)社會(huì)的行政法回應(yīng)》，中國政法大學(xué)出版社2018 年版，第56 頁。重大行政決策客觀上作為引發(fā)風(fēng)險(xiǎn)的人為因素，在作出之前進(jìn)行穩(wěn)評(píng)是政府、社會(huì)、個(gè)人、制度對(duì)社會(huì)穩(wěn)定風(fēng)險(xiǎn)反思性提高的表現(xiàn)。當(dāng)然，風(fēng)險(xiǎn)是“未來破壞性結(jié)果發(fā)生的概率”包含兩方面的含義：不利結(jié)果的嚴(yán)重程度和發(fā)生的概率。因此，穩(wěn)評(píng)所針對(duì)的核心問題是不確定性，包括“對(duì)結(jié)果預(yù)判的知識(shí)方面不足；對(duì)風(fēng)險(xiǎn)無法進(jìn)行定量描述或風(fēng)險(xiǎn)評(píng)估的結(jié)果不可靠；潛在因素對(duì)活動(dòng)結(jié)果的影響上缺乏理解；對(duì)結(jié)果的空間狀態(tài)缺乏明確的定義。”?Aven T.On the Type of Uncertainties in the Context of the Precautionary Principle.Risk Analysis,2011,31 (10):1515-1525.“不確定性”分為兩種類型：社會(huì)穩(wěn)定風(fēng)險(xiǎn)事件的不確定性——客觀上的不確定性；決策者對(duì)風(fēng)險(xiǎn)認(rèn)知是否充分的不確定——主觀上的不確定性。對(duì)社會(huì)穩(wěn)定風(fēng)險(xiǎn)的感知既受客觀不確定性的影響，也受因決策者的認(rèn)知局限性以及與公眾的認(rèn)知背離的影響。因此，社會(huì)穩(wěn)定風(fēng)險(xiǎn)并不只是秉持實(shí)證主義的精神，通過科學(xué)技術(shù)與數(shù)學(xué)模型建構(gòu)的“事實(shí)”，也是一種秉持建構(gòu)主義的精神，探尋公眾對(duì)風(fēng)險(xiǎn)主觀感知的價(jià)值判斷。因此，穩(wěn)評(píng)是預(yù)防社會(huì)穩(wěn)定風(fēng)險(xiǎn)的機(jī)制，最終的價(jià)值目標(biāo)應(yīng)當(dāng)是動(dòng)態(tài)地構(gòu)建社會(huì)穩(wěn)定狀態(tài)——一種相關(guān)主體間參與、互動(dòng)式的社會(huì)構(gòu)建過程。在信息社會(huì)，穩(wěn)評(píng)欲實(shí)現(xiàn)動(dòng)態(tài)建構(gòu)社會(huì)穩(wěn)定狀態(tài)的目標(biāo)，需要借助算法的力量。算法決策具有專業(yè)性、復(fù)雜性和動(dòng)態(tài)性特征。結(jié)合具體應(yīng)用，算法主要發(fā)揮著優(yōu)先級(jí)配置、分類、關(guān)聯(lián)及過濾四項(xiàng)功能。21Nicholas Diakopoulos,Algorithmic Accountability Reporting:On the Investigation of Black Boxes，Tow Center for Digital Journalism 1-37（2013）.轉(zhuǎn)引自張欣：《從算法危機(jī)到算法信任：算法治理的多元方案和本土化路徑》，載《華東政法大學(xué)學(xué)報(bào)》2019 年第6 期。根據(jù)復(fù)雜場(chǎng)景和具體需要，自動(dòng)化決策的達(dá)成還可能是四種功能的有機(jī)結(jié)合。這意味著數(shù)據(jù)和算法驅(qū)動(dòng)的自動(dòng)化決策可以將個(gè)體的線上、線下數(shù)據(jù)進(jìn)行整合，形成對(duì)特定主體行為偏好的精準(zhǔn)預(yù)測(cè)和評(píng)估，并可依據(jù)解析出的數(shù)據(jù)將其歸入到特定的類別和群組中。22See Guidelines on Automated Individual Decision-making and Profiling for the Purpose of Regulation 2016/679,https://ec.europa.eu/newsroom/article29/item-detail.cfm?item_id=612053,accessed on June 16,2019.轉(zhuǎn)引自張欣：《從算法危機(jī)到算法信任：算法治理的多元方案和本土化路徑》，載《華東政法大學(xué)學(xué)報(bào)》2019 年第6 期。憑借精心設(shè)計(jì)的算法和先進(jìn)的數(shù)據(jù)抓取技術(shù)，能夠精準(zhǔn)分析并解讀利益相關(guān)群體的嗜好和利益訴求，從而為利益相關(guān)者提供量身定制的風(fēng)險(xiǎn)發(fā)生和化解方案，滿足了風(fēng)險(xiǎn)溝通的需求。一方面，通過在互聯(lián)網(wǎng)上自動(dòng)抓取內(nèi)容，再運(yùn)用算法和少量的人工進(jìn)行識(shí)別分析，從而形成風(fēng)險(xiǎn)評(píng)估結(jié)果；另一方面，算法可以通過社交媒體平臺(tái)對(duì)個(gè)人的日常生活產(chǎn)生影響，人們通過搜索引擎獲取知識(shí)和商業(yè)信息，通過微博社交和獲取新聞，通過評(píng)價(jià)類的社交媒體知曉餐館評(píng)價(jià)，通過約會(huì)類的社交媒體結(jié)識(shí)伴侶23參見張凌寒：《風(fēng)險(xiǎn)防范下算法的監(jiān)管路徑研究》，載《交大法學(xué)》2018 年第4 期。，通過算法可以做到向利益相關(guān)者推送法律宣傳、政策解釋、疏導(dǎo)情緒、化解矛盾等有助于化解風(fēng)險(xiǎn)的信息。同時(shí)，通過記錄利益相關(guān)者點(diǎn)擊、閱讀選擇等行為數(shù)據(jù)，用算法精準(zhǔn)分析用戶的興趣和內(nèi)容需求，形成針對(duì)利益相關(guān)者特點(diǎn)和特定風(fēng)險(xiǎn)點(diǎn)特征的風(fēng)險(xiǎn)溝通和防范方案。此外，算法決策過程本身具有動(dòng)態(tài)性。算法運(yùn)行規(guī)則可能為了適應(yīng)新的數(shù)據(jù)而加以改變，24See Guidelines on Automated Individual Decision-making and Profiling for the Purpose of Regulation 2016/679,https://ec.europa.eu/newsroom/article29/item-detail.cfm?item_id=612053,accessed on June 16,2019.轉(zhuǎn)引自張欣：《從算法危機(jī)到算法信任：算法治理的多元方案和本土化路徑》，載《華東政法大學(xué)學(xué)報(bào)》2019 年第6 期。可以動(dòng)態(tài)監(jiān)測(cè)風(fēng)險(xiǎn)，動(dòng)態(tài)建構(gòu)社會(huì)穩(wěn)定狀態(tài)的目標(biāo)，這一點(diǎn)可以從算法用于風(fēng)險(xiǎn)評(píng)估的域外實(shí)踐得到驗(yàn)證。例如，目前在使用的風(fēng)險(xiǎn)評(píng)估工具，如美國的COMPAS 或英國的HART，被用于預(yù)測(cè)個(gè)人再次犯罪的可能性等因素。這些算法使用個(gè)人數(shù)據(jù)計(jì)算個(gè)人的風(fēng)險(xiǎn)因素，如他們的犯罪史和與執(zhí)法部門的互動(dòng)，也使用諸如居住地以及他們與其他有犯罪記錄的人的聯(lián)系等變量。25Northpointe,Practitioner's Guide to COMPAS Core' (Northpointe,19 March 2015) Section 4.2.2 Criminal Associ-ates/Peers and Section 4.2.8 Family Criminality,http://www.northpointeinc.com/downloads/compas/Practitioners-Guide-COMPAS-Core-_031915.pdf,2021-08-15.AM Barry-Jester,B Casselman and D Goldstein,The New Science of Sentencing'(The Marshall Project,4 August 2015),https://www.themarshallproject.org/2015/08/04/the-new-science-of-sentencing,2021-08-15.這些工具不僅可以用于提供信息，而且可以在判刑、假釋或進(jìn)入康復(fù)或轉(zhuǎn)移方案等領(lǐng)域?qū)嶋H作出決定?？梢灶A(yù)見，算法可用于就個(gè)人是否可能做出引發(fā)社會(huì)穩(wěn)定的過激行為作出決定。具體而言，算法與大數(shù)據(jù)之間的相互作用和相互依賴性使得它們能夠部署在風(fēng)險(xiǎn)評(píng)估領(lǐng)域，使許多傳統(tǒng)上由人工進(jìn)行的評(píng)估變得越來越自動(dòng)化。例如，基于穩(wěn)評(píng)結(jié)果的重大行政決策實(shí)施過程亦是動(dòng)態(tài)建構(gòu)社會(huì)穩(wěn)定狀態(tài)的過程，如果有關(guān)主體在重大行政決策實(shí)施階段作出的“派生性決策”——各種涉及利益相關(guān)群體的決策不當(dāng)，極有可能會(huì)激化矛盾，導(dǎo)致原有贊成決策的利益相關(guān)方倒戈，破壞先前構(gòu)建的社會(huì)穩(wěn)定平衡關(guān)系。因此，算法的動(dòng)態(tài)分析功能可以幫助實(shí)施主體謹(jǐn)慎對(duì)待并動(dòng)態(tài)監(jiān)測(cè)“派生性決策”可能引發(fā)的社會(huì)穩(wěn)定風(fēng)險(xiǎn)平衡。

二、算法應(yīng)用于穩(wěn)評(píng)需面臨的法律問題

互聯(lián)網(wǎng)和數(shù)字技術(shù)的迅猛發(fā)展使得算法的使用空間愈加廣泛。然而，“信息技術(shù)革命帶來了新的權(quán)力形態(tài)，導(dǎo)致了‘算力即權(quán)力’的新現(xiàn)象，同時(shí)也使傳統(tǒng)上用來抗衡國家權(quán)力的公民權(quán)利面對(duì)更隱微、更無所不在、更多元化的權(quán)力技術(shù)的侵蝕?！?6鄭戈：《算法的法律與法律的算法》，載《中國法律評(píng)論》2018 年第2 期。算法應(yīng)用于穩(wěn)評(píng)雖然在數(shù)據(jù)收集、技術(shù)應(yīng)用和目的達(dá)成方面具有可行性，但其在決策過程中的日益普及也引發(fā)了一些法律問題。在法治國家，唯有使算法應(yīng)用符合法治的價(jià)值要求，方能確保算法發(fā)揮應(yīng)有的作用。

（一）政府、評(píng)估機(jī)構(gòu)與網(wǎng)絡(luò)平臺(tái)的關(guān)系

算法應(yīng)用于穩(wěn)評(píng)的一般建模流程是：確定風(fēng)險(xiǎn)評(píng)估目標(biāo)→獲取風(fēng)險(xiǎn)信息數(shù)據(jù)→風(fēng)險(xiǎn)信息數(shù)據(jù)檢驗(yàn)→變量選擇（數(shù)據(jù)清洗）→變量轉(zhuǎn)化→數(shù)據(jù)輸入模型算法→模型評(píng)估?？梢?，“數(shù)據(jù)是算法運(yùn)行的寶貴資產(chǎn)和持續(xù)優(yōu)化的源泉；算法是海量數(shù)據(jù)挖掘和分析的有力工具；平臺(tái)是提供數(shù)據(jù)和開發(fā)算法的關(guān)鍵基地。”27張欣：《從算法危機(jī)到算法信任：算法治理的多元方案和本土化路徑》，載《華東政法大學(xué)學(xué)報(bào)》2019 年第6 期。互聯(lián)網(wǎng)的發(fā)展為政府和企業(yè)提供了豐富的監(jiān)視控制個(gè)人、收集個(gè)人信息的機(jī)會(huì)。對(duì)于政府部門，除了通過日常辦理行政事務(wù)和利用大數(shù)據(jù)機(jī)構(gòu)外，還可以利用政府的權(quán)力和資源，通過各種渠道，有效控制個(gè)人的網(wǎng)上信息和行為，也可以迫使企業(yè)遵照政府的要求，利用企業(yè)的基礎(chǔ)設(shè)施和技術(shù)，幫助和參與對(duì)個(gè)人信息和網(wǎng)絡(luò)的控制。28The Independence,http://www.independent.co.uk/news/people/stephen-hawking-artificial-intelligence-diaster-human-historyleverhulme-centre-cambridge-a7371106.html,2021-07-18.就穩(wěn)評(píng)而言，與社會(huì)穩(wěn)定風(fēng)險(xiǎn)的數(shù)據(jù)化分析相關(guān)的利益相關(guān)者的習(xí)慣、嗜好、政治傾向等潛在風(fēng)險(xiǎn)信息，很多是通過利益相關(guān)者在網(wǎng)絡(luò)平臺(tái)的購買、搜索軌跡，通過媒體平臺(tái)關(guān)注利益相關(guān)者關(guān)注的新聞或話題等特定信息的偏好中反映出來的，單靠政府自身掌握的數(shù)據(jù)難以滿足穩(wěn)評(píng)的需要。目前的主要網(wǎng)絡(luò)企業(yè)多是大型的跨國公司，它們的經(jīng)營(yíng)網(wǎng)絡(luò)可以伸到世界的任一角落。換言之，“個(gè)人作為算法與網(wǎng)絡(luò)的消費(fèi)者是無處逃遁的。政府的手腳力所不能及的地方，企業(yè)卻更為有效?！?9The Independence,http://www.independent.co.uk/news/people/stephen-hawking-artificial-intelligence-diaster-human-historyleverhulme-centre-cambridge-a7371106.html,,2021-07-18.將算法應(yīng)用于穩(wěn)評(píng)，政府需要利用網(wǎng)絡(luò)平臺(tái)企業(yè)的數(shù)據(jù)。然而，“在算法系統(tǒng)的開發(fā)與部署中，政府公共部門與平臺(tái)私營(yíng)部門之間的界限往往模糊不清。平臺(tái)作為私營(yíng)部門不僅自身是算法系統(tǒng)的主要開發(fā)者和使用者，同時(shí)是政府公共部門使用算法時(shí)的主要采購對(duì)象?！?0同前注⑧。政府和企業(yè)在數(shù)據(jù)分享中的合作必然是建立在雙方利益的基礎(chǔ)上，而政府追求公共利益維護(hù)的目的和企業(yè)追求利潤(rùn)最大化的利益往往并不一致。雖然政府為了實(shí)現(xiàn)自己的目的需要借助企業(yè)的基礎(chǔ)設(shè)施和技術(shù)力量，但企業(yè)與政府合作的目的卻可能是為了免于干擾或從政府處獲得更多資源。在這種情況下，政府如何從企業(yè)合法正當(dāng)?shù)孬@得數(shù)據(jù)幫助就成為算法應(yīng)用于穩(wěn)評(píng)面臨的首要問題。這一問題隨著穩(wěn)評(píng)主體的變化而進(jìn)一步變得復(fù)雜。目前，根據(jù)多地規(guī)范穩(wěn)評(píng)的規(guī)范性文件規(guī)定，穩(wěn)評(píng)通常實(shí)行評(píng)估主體委托第三方評(píng)估機(jī)構(gòu)評(píng)估的方式。在這種情況下，第三方評(píng)估機(jī)構(gòu)如何獲取充分的數(shù)據(jù)信息？圍繞著數(shù)據(jù)收集所產(chǎn)生的政府與第三方評(píng)估機(jī)構(gòu)的關(guān)系、第三方評(píng)估機(jī)構(gòu)與企業(yè)的關(guān)系、第三方評(píng)估機(jī)構(gòu)如何從政府獲得幫助從企業(yè)獲取數(shù)據(jù)等問題，則是算法應(yīng)用于穩(wěn)評(píng)必須考慮解決的法律問題。

（二）算法對(duì)個(gè)人權(quán)利的影響

算法自動(dòng)化決策作為一種決策類型，也會(huì)涉及相關(guān)主體的利益，和風(fēng)險(xiǎn)發(fā)生存在著一定的聯(lián)系。并且，由人作出的決策既要體現(xiàn)一些基礎(chǔ)性的底線價(jià)值，如人的尊嚴(yán)和平等，也要遵循一些程序性要求，如法定程序或正當(dāng)程序。與此不同，算法自動(dòng)化決策趨向于只講手段不問目的的工具理性，如盧曼所言：“人工智能研究關(guān)心的是如何操縱‘符號(hào)’，而不是如何形成意義。”31Niklas Luhmann,Theory of Society,Vol.I,translated by Rhodes Barrett,Stanford University Press,2012,p.315.鄭戈：《算法的法律與法律的算法》，載《中國法律評(píng)論》2018 年第2 期。算法自動(dòng)化決策所體現(xiàn)的技術(shù)理性有明顯的化約主義傾向，32同前注⑨。它可以用來提高效率，作出價(jià)值判斷和事關(guān)人類權(quán)益和福祉的最終決策卻并非其所擅長(zhǎng)。因此，應(yīng)用算法不可避免地面臨侵犯權(quán)利等違法法治精神的問題。特別是“當(dāng)算法用于支持決策時(shí)，如風(fēng)險(xiǎn)評(píng)估，它們可能會(huì)引入或加劇現(xiàn)有的人權(quán)挑戰(zhàn)。”33Lorna McGregor .International Human Rights Law as a Framework for Algorithmic Ac-countability,International and Comparative Law Quarterly/2019 -Volume 68/Issue 2,1 April/Articles/International Human Rights Law as a Framework for Algorithmic Accountability– International and Comparative Law Quarterly 68,2019 pp 309–343.

1.侵犯隱私權(quán)問題

在動(dòng)態(tài)、立體化的網(wǎng)絡(luò)環(huán)境下，重大行政決策的利益相關(guān)者的“異質(zhì)性”心理與行為表現(xiàn)極為突出，因重大行政決策誘發(fā)的風(fēng)險(xiǎn)信息可以通過自媒體快速擴(kuò)散、交織，短時(shí)間內(nèi)形成數(shù)量巨大、形態(tài)多樣的輿情數(shù)據(jù)。34參見王禎軍：《法治視域下大數(shù)據(jù)應(yīng)用于穩(wěn)評(píng)的作用、問題及路徑》，載《理論學(xué)刊》2021 年第3 期。利益相關(guān)者使用互聯(lián)網(wǎng)產(chǎn)生的數(shù)據(jù)基本屬于個(gè)人信息的范疇，“但我們并不擁有這些數(shù)據(jù)，也無法控制這些數(shù)據(jù)，數(shù)據(jù)屬于為我們提供各種服務(wù)的‘大數(shù)據(jù)掌控者’。”35同前注。在一些情況下，互聯(lián)網(wǎng)企業(yè)收集和提取用戶私人信息往往未經(jīng)用戶同意，侵犯了利益相關(guān)者的信息權(quán)利。另外，“涉及利益相關(guān)者的圖像、視頻、音頻、點(diǎn)擊流等半結(jié)構(gòu)化或非結(jié)構(gòu)化的數(shù)據(jù)內(nèi)容背后，往往隱藏著利益相關(guān)者的真實(shí)態(tài)度、訴求及行為趨勢(shì)特征?！?6同前注⑦。算法應(yīng)用于穩(wěn)評(píng)勢(shì)必要分析利益相關(guān)者的心理和行為傾向，必然會(huì)更多地涉及個(gè)人的隱私信息，而搜集和使用個(gè)人數(shù)據(jù)的邊界和程度目前并沒有具體的規(guī)定。37即便是2021 年11 月1 日起施行的《中華人民共和國個(gè)人信息保護(hù)法》（下文簡(jiǎn)稱《個(gè)人信息保護(hù)法》），其中第13 條，規(guī)定了7 項(xiàng)個(gè)人信息處理者可以處理個(gè)人信息的情形，但其中多達(dá)6 項(xiàng)是“不需取得個(gè)人同意”的。更值得一提的是，除了直接非法收集、使用公民個(gè)人信息甚至是隱私信息的侵權(quán)行為外，算法預(yù)測(cè)——通過算法對(duì)所收集數(shù)據(jù)的二次利用，將一些表面上不具有個(gè)人特征的數(shù)據(jù)，經(jīng)過算法的應(yīng)用之后就可以追溯到特定的個(gè)人，成為一種間接、隱蔽的侵權(quán)行為。與大數(shù)據(jù)結(jié)合后的算法預(yù)測(cè)的準(zhǔn)確率越來越高。例如，F(xiàn)acebook 的算法根據(jù)用戶提供的種族、職業(yè)等少量個(gè)人信息就能推斷出用戶的性取向，且準(zhǔn)確率高達(dá)80%左右。全美第二大零售企業(yè) Target 公司曾根據(jù)算法分析，向一位已孕未成年少女郵寄嬰兒用品手冊(cè)，其法定監(jiān)護(hù)人卻根本不知其已懷孕。如今，日益智能化的算法，同大數(shù)據(jù)等技術(shù)相融合，不斷沖擊著現(xiàn)有的公民個(gè)人信息和隱私保護(hù)體系。38同前注⑨。并且，當(dāng)管理不嚴(yán)導(dǎo)致算法的數(shù)據(jù)庫被盜或被惡意使用時(shí)，反映個(gè)人隱私的數(shù)據(jù)將可能泄露，致使個(gè)人信息存在巨大的安全隱患。在穩(wěn)評(píng)中，無論是對(duì)擬做出的重大行政決策——“當(dāng)事性決策”，還是導(dǎo)致同一利益相關(guān)群體遭受了利益損失或不公正對(duì)待并且問題未得到有效解決的以往的決策——“背景性決策”所可能引發(fā)的社會(huì)穩(wěn)定風(fēng)險(xiǎn)，都要進(jìn)行應(yīng)評(píng)盡評(píng)。同時(shí)，在涉及風(fēng)險(xiǎn)防控措施和應(yīng)急預(yù)案時(shí)，應(yīng)當(dāng)充分考慮防止“當(dāng)事性決策”和“背景性決策”的風(fēng)險(xiǎn)共振和轉(zhuǎn)化。為了運(yùn)用算法盡可能地分析出各種風(fēng)險(xiǎn)，存在著更多更復(fù)雜的誘因，讓評(píng)估主體對(duì)數(shù)據(jù)盡可能地采集更多、存儲(chǔ)更久、分析更徹底，這就會(huì)不可避免地涉及個(gè)人隱私。39同前注?！耙晃蹲非髷?shù)據(jù)搜集和算法設(shè)計(jì)而不顧及個(gè)人的隱私，或者對(duì)個(gè)人同意收集的個(gè)人數(shù)據(jù)疏于管理，必然導(dǎo)致個(gè)人隱私被侵犯，不僅會(huì)導(dǎo)致公眾不愿意提交自己的數(shù)據(jù)信息，而且如果出現(xiàn)大規(guī)模侵犯?jìng)€(gè)人隱私的情況，很可能會(huì)因?yàn)橐l(fā)民怨，與重大行政決策可能引發(fā)的風(fēng)險(xiǎn)疊加而威脅社會(huì)穩(wěn)定?！?0同前注⑦。

2.歧視和不平等問題

數(shù)據(jù)收集的歧視性和算法本身存在缺陷或瑕疵也會(huì)導(dǎo)致不平等或歧視現(xiàn)象的發(fā)生?！八惴ú煌５男D(zhuǎn)和降維你的數(shù)據(jù)集，直到它能讀懂你、透視你?！惴ǖ母呔S理解完勝你對(duì)自己的了解，但它們并不具備完美的預(yù)測(cè)能力和公平公正的態(tài)度。”41同前注⑥，第7 頁。雖然算法的設(shè)計(jì)和運(yùn)行具有高度的專業(yè)性和客觀程序性，具有很強(qiáng)的工具理性特征，但算法“是由人設(shè)計(jì)出來的，這本身就有可能具有偏見性和錯(cuò)誤性?！?2迪莉婭：《大數(shù)據(jù)算法決策的問責(zé)與對(duì)策研究》，載《現(xiàn)代情報(bào)》2020 年第6 期。事實(shí)上，“中立”與“偏見”的區(qū)別本身就存在著價(jià)值判斷的問題。因此，算法設(shè)計(jì)者很有可能有意或無意地把個(gè)人的偏見和歧視態(tài)度編進(jìn)了程序，“也有可能數(shù)據(jù)本身就反映了相應(yīng)的社會(huì)偏見。”43於興中：《算法社會(huì)與人的秉性》，載《中國法律評(píng)論》2018 年第2 期。由此，工具化和技術(shù)化的算法決策也難以保證每一次決策結(jié)果的公正性和與實(shí)質(zhì)層面的價(jià)值理性相一致。“換句話說，算法自身的有用性、有效性常無法保證社會(huì)層面所認(rèn)同的自由、平等、公平、公正等價(jià)值理性的達(dá)成?！?4周劍銘：《算法理論與中國理性——現(xiàn)代儒學(xué)的科學(xué)發(fā)展觀》，https://cloud.tencent.com/developer/news/96622.“因此在公共事業(yè)領(lǐng)域，對(duì)于弱勢(shì)群體和邊緣群體，算法決策看似簡(jiǎn)化了繁瑣的行政流程，但卻具有讓弱勢(shì)群體更加邊緣化的風(fēng)險(xiǎn)，從而發(fā)生‘?dāng)?shù)字貧民窟’效應(yīng)。”45See Virginia Eubanks,Automating Inequality:How High-Tech Tools Profile,Eliminating Racial Inequity in the Criminal Justice System,St.Martin’s Press,2018.轉(zhuǎn)引自張欣：《從算法危機(jī)到算法信任：算法治理的多元方案和本土化路徑》，載《華東政法大學(xué)學(xué)報(bào)》2019 年第6 期?！八惴◣肀憷沧屓司?，它們從最冷靜、理性的角度分析我們的性格、洞察我們的喜好……它們還放大了偏見和歧視的威力?！?6同前注⑥，第1 頁。如果算法應(yīng)用產(chǎn)生的偏見和歧視性問題不能很好地解決，將算法應(yīng)用于穩(wěn)評(píng)，一方面，在算法設(shè)計(jì)中，哪些人將成為利益相關(guān)者、哪些事項(xiàng)構(gòu)成風(fēng)險(xiǎn)信息，什么是常規(guī)、什么是意外等等，程序員將對(duì)所有這些因素做出決定，這些因素將嵌入難以更改的軟件代碼中，代碼是秘密的，很難被一般大眾所理解，很難被公眾質(zhì)疑或糾正。因此，人類的固有偏見或者歧視在算法建模和系統(tǒng)訓(xùn)練的過程中會(huì)被結(jié)構(gòu)化，影響或者損害穩(wěn)評(píng)需要的公眾平等參與的民主性，成為引發(fā)社會(huì)穩(wěn)定風(fēng)險(xiǎn)的一個(gè)潛在源頭。例如，英國目前正在實(shí)施基于自動(dòng)匹配算法的社會(huì)保障系統(tǒng)，目的是簡(jiǎn)化社會(huì)保障支付系統(tǒng)的成本，提高效率。該系統(tǒng)因?qū)Λ@得社會(huì)保障設(shè)置數(shù)字障礙導(dǎo)致歧視風(fēng)險(xiǎn)，可能會(huì)排斥數(shù)字識(shí)字率較低或無關(guān)聯(lián)性的個(gè)人。該系統(tǒng)的可訪問性以及風(fēng)險(xiǎn)評(píng)估的使用有可能影響到處于社會(huì)弱勢(shì)地位的人的人權(quán)生活的關(guān)鍵領(lǐng)域，如食品、住房和工作。47UN Special Rapporteur on Extreme Poverty and Human Rights,Philip Alston,'Statement on Visit to the United Kingdom' (n 16).預(yù)測(cè)分析也可用于兒童保護(hù)。48London Councils,Keeping Children Safer by Using Predictive Analytics in Social Care Management,https://www.londoncouncils.gov.uk/our-key-themes/our-projects/london-ventures/current-projects/childrens-safeguarding,2021-07-08.據(jù)報(bào)道，倫敦議會(huì)與私人供應(yīng)商合作使用的一種工具，結(jié)合多個(gè)機(jī)構(gòu)的數(shù)據(jù)，并應(yīng)用風(fēng)險(xiǎn)評(píng)分來確定忽視或虐待的可能性。這引起了對(duì)隱私和數(shù)據(jù)保護(hù)的關(guān)注以及與家庭生活權(quán)和歧視有關(guān)的問題。49N McIntyre and D Pegg,Councils Use 377,000 People's Data in Efforts to Predict Child Abuse' (The Guardian,16 Sep-tember 2018),https://www.theguardian.com/society/2018/sep/16/ coun-cils-use-377000-peoples-data-in-efforts-to-predict-child-abuse,2021-07-08.另一方面，在穩(wěn)評(píng)工作中，利益相關(guān)者在爭(zhēng)取自身利益的過程中，往往會(huì)將自己或被社會(huì)公眾貼上弱勢(shì)群體的標(biāo)簽。相對(duì)于一般的社會(huì)公眾，這些正處于與政府博弈爭(zhēng)取利益的弱勢(shì)群體在權(quán)利受到侵犯或受到不平等的待遇時(shí)，很有可能會(huì)不自覺地歸咎于政府?dāng)M出臺(tái)的重大行政決策，在“新仇舊恨涌上心頭”的心理作用下產(chǎn)生過激反應(yīng)，成為新的社會(huì)穩(wěn)定風(fēng)險(xiǎn)點(diǎn)。例如，在“征地補(bǔ)償”決策的穩(wěn)評(píng)中，依據(jù)算法決策結(jié)果進(jìn)行的溝通協(xié)商可能會(huì)使大部分居民滿意補(bǔ)償標(biāo)準(zhǔn)，但如果基于設(shè)計(jì)上存在偏見的算法決策分配給這些人的安置房的位置不合理，很可能會(huì)滋生新的風(fēng)險(xiǎn)引發(fā)連鎖反應(yīng)，使先前關(guān)于補(bǔ)償標(biāo)準(zhǔn)的協(xié)商成果付之東流。除此之外，大數(shù)據(jù)驅(qū)動(dòng)算法的操作通常基于相關(guān)性和統(tǒng)計(jì)概率。算法分析大量數(shù)據(jù)，以確定特定輸入和特定輸出之間的關(guān)系，并在此基礎(chǔ)上進(jìn)行預(yù)測(cè)。在這種情況下，更大的數(shù)據(jù)集提供了更大的樣本量，這有助于降低誤差幅度和更精確的模型。5030 E Benvenisti,Upholding Democracy Amid the Challenges of New Technology:What Role for the Law of Global Govern-ance? (2018) 29(1) EJIL 9,60.鑒于大數(shù)據(jù)驅(qū)動(dòng)算法的這一特點(diǎn)，算法應(yīng)用于穩(wěn)評(píng)中還會(huì)產(chǎn)生這樣的問題：（1）穩(wěn)評(píng)結(jié)論的得出可能基于群體層面的特征，而不是以個(gè)人為中心的特征——一種算法應(yīng)用于穩(wěn)評(píng)所暴露出的“隱形歧視”。也就是說，這些模型未能考慮到個(gè)人的能動(dòng)性和個(gè)人選擇的相關(guān)性。由于特定于某個(gè)人的因素，某個(gè)特定的個(gè)人可能會(huì)以特定的方式采取行動(dòng)；（2）決策通常基于相關(guān)性而非因果關(guān)系。這兩個(gè)問題是相互關(guān)聯(lián)的。它們表明，對(duì)未來可能行為的分析只在群體層面有效，而不是在個(gè)人層面有效，而且預(yù)測(cè)對(duì)特定個(gè)人將如何行動(dòng)沒有決定性作用。51Lorna McGregor .International Human Rights Law as a Framework for Algorithmic Ac-countability,International and Comparative Law Quarterly/2019 -Volume 68/Issue 2,1 April/Articles/International Human Rights Law as a Framework for Algorithmic Accountability– International and Comparative Law Quarterly 68,2019 pp 309–343.這些特征表明，雖然算法可以用作包括穩(wěn)評(píng)結(jié)論在內(nèi)的決策依據(jù)，但它們不能為直接影響個(gè)人權(quán)利的決策提供唯一依據(jù)，某種形式的人工參與或監(jiān)督是必要的。

（三）算法對(duì)公共利益的影響

算法可以被政府或企業(yè)用以日常管理從而影響公民權(quán)利，這一功能尤其表現(xiàn)在社交媒體算法上。社交媒體算法的目標(biāo)“是獲得和保持用戶的數(shù)量，并且盡量提高用戶的參與度。所以，它收集社交媒體用戶數(shù)據(jù)，預(yù)測(cè)用戶的偏好進(jìn)行推薦，而用戶對(duì)于推薦內(nèi)容的刺激和反饋可以為下一步的推薦提供數(shù)據(jù)?！?2張凌寒：《風(fēng)險(xiǎn)防范下算法的監(jiān)管路徑研究》，載《交大法學(xué)》2018 年第4 期。依據(jù)用戶的點(diǎn)擊率和轉(zhuǎn)發(fā)率，算法可以實(shí)現(xiàn)社交媒體對(duì)用戶的新聞投放。如果說算法的新聞投放功能是一枚硬幣，硬幣的一面是：這一功能應(yīng)用于穩(wěn)評(píng)的“風(fēng)險(xiǎn)溝通”環(huán)節(jié)，可以根據(jù)利益相關(guān)者的個(gè)體情況和溝通需要，以新聞投放的形式將重大決策的內(nèi)容、相關(guān)解釋和政府舉措、相關(guān)法律和政策等有助于“化解矛盾，維護(hù)穩(wěn)定”的信息向利益相關(guān)者傳播，以增強(qiáng)他們對(duì)相關(guān)事項(xiàng)的正確認(rèn)識(shí)，提高法律意識(shí)，避免做出過激行為。然而，硬幣的另一面是：在現(xiàn)實(shí)生活中，算法“推送標(biāo)準(zhǔn)是用戶的點(diǎn)擊率和轉(zhuǎn)發(fā)率而非新聞的真實(shí)性。因此頗具噱頭的假新聞被用戶高頻點(diǎn)擊或轉(zhuǎn)發(fā)，并進(jìn)一步被算法推送而廣泛傳播?！?3同上注。例如美國大選中發(fā)生假新聞事件引發(fā)了人們對(duì)如何進(jìn)行監(jiān)管算法的關(guān)注和憂慮。因?yàn)樗惴軌蛑鲗?dǎo)和控制社交媒體的信息傳播，通過社交媒體平臺(tái)對(duì)公眾日常生活產(chǎn)生越來越大的影響，學(xué)者們擔(dān)心，“社交媒體的算法過度利用了用戶偏好數(shù)據(jù)推送信息，制造了信息‘過濾泡沫’，造成用戶接受的觀點(diǎn)越來越極端?！?4同前注。思想是行為的先導(dǎo)，極端的思想必然可能產(chǎn)生極端的行為。穩(wěn)評(píng)的重要目的是通過預(yù)先識(shí)別和消除社會(huì)穩(wěn)定風(fēng)險(xiǎn)，避免利益相關(guān)者采取極端措施引發(fā)威脅社會(huì)穩(wěn)定的事件。而在社會(huì)穩(wěn)定風(fēng)險(xiǎn)防范中，影響社會(huì)穩(wěn)定的負(fù)面信息的傳播也有可能通過算法使其向公眾的傳播力增強(qiáng)。此外，考慮到社會(huì)影響程度，算法未來會(huì)越來越多地應(yīng)用于政府管理的諸多領(lǐng)域，政府在決策中使用算法會(huì)引起許多涉及個(gè)人權(quán)利和公共利益的問題，例如，在算法應(yīng)用于社會(huì)福利、稅收制度、環(huán)境管理和監(jiān)管等領(lǐng)域時(shí)，如何選擇個(gè)人進(jìn)行稅務(wù)審計(jì)？哪些人得不到社會(huì)福利？哪些人需受到警察調(diào)查？通常，這是因?yàn)樗惴Q策的結(jié)果。自動(dòng)信用評(píng)分可以影響就業(yè)和住房權(quán)利；越來越多地使用算法來告知關(guān)于獲得社會(huì)保障的決定，這可能會(huì)影響公民的社會(huì)權(quán)利；使用算法協(xié)助識(shí)別處于危險(xiǎn)中的兒童可能會(huì)影響家庭生活；用于批準(zhǔn)或拒絕醫(yī)療干預(yù)的算法可能會(huì)影響健康權(quán)；而判決中使用的算法會(huì)影響公民的自由權(quán)。55Lorna McGregor .International Human Rights Law as a Framework for Algorithmic Ac-countability,International and Comparative Law Quarterly/2019 -Volume 68/Issue 2,1 April/Articles/International Human Rights Law as a Framework for Algorithmic Accountability– International and Comparative Law Quarterly 68,2019 pp 309–343.“政府和官僚機(jī)構(gòu)使用數(shù)據(jù)庫、算法和大數(shù)據(jù)有可能嚴(yán)重出錯(cuò)，給個(gè)人和人群帶來嚴(yán)重的負(fù)面后果?！?6Dr Rónán Kennedy.Algorithms and the Rule of Law,Legal Information Management,2017 -Volume 17,Issue 3,1 September/Articles/Algorithms and the Rule of Law– Legal Information Management,17 (2017),pp.170.而每一次應(yīng)用算法所作出的公共決策，都有引發(fā)社會(huì)穩(wěn)定風(fēng)險(xiǎn)的可能。正如丹妮爾·濟(jì)慈·西特倫（Danielle Keats Citron）所言，這一發(fā)展——基于未知、難以捉摸且往往不可質(zhì)疑的制度作出有關(guān)個(gè)人權(quán)利和權(quán)利的決定——對(duì)現(xiàn)代國家的法治提出了嚴(yán)重挑戰(zhàn)。57Danielle Keats Citron,Technological Due Process,(2008) 85 Washington University Law Review 1249.因此，如何加強(qiáng)對(duì)算法的有效監(jiān)管，是信息時(shí)代算法應(yīng)用法治化需應(yīng)對(duì)的挑戰(zhàn)，也是社會(huì)穩(wěn)定風(fēng)險(xiǎn)治理需要解決的重要問題。

三、問題的解決思路

算法搜集和分析的數(shù)據(jù)越多，讀懂人、改變?nèi)说纳詈托袨榉绞降母怕示驮酱?。在?shù)字信息和通信技術(shù)，特別是大數(shù)據(jù)、機(jī)器學(xué)習(xí)工具和網(wǎng)絡(luò)設(shè)備已被政府部門、企業(yè)、個(gè)人廣泛采用的背景下，個(gè)人的數(shù)據(jù)不僅僅受到政府的監(jiān)控，同時(shí)也受到企業(yè)的監(jiān)控，并且，只要政府或企業(yè)愿意，他們的監(jiān)控?zé)o遠(yuǎn)弗屆。規(guī)制算力，保護(hù)數(shù)據(jù)主體的權(quán)利成為算法應(yīng)用法治化的應(yīng)有之意，對(duì)于算法應(yīng)用于穩(wěn)評(píng)也毫不例外。

（一）合理構(gòu)建政府、網(wǎng)絡(luò)平臺(tái)企業(yè)、評(píng)估機(jī)構(gòu)的法律關(guān)系

在傳統(tǒng)依據(jù)小數(shù)據(jù)的穩(wěn)評(píng)中，無論是由政府部門親自負(fù)責(zé)穩(wěn)評(píng)還是將穩(wěn)評(píng)委托于第三方評(píng)估機(jī)構(gòu)，都難免會(huì)出現(xiàn)穩(wěn)評(píng)結(jié)果唯長(zhǎng)官意志的情況。算法具有工具理性，可以一定程度上避免傳統(tǒng)穩(wěn)評(píng)中的人為操縱問題。在現(xiàn)實(shí)中，第三方穩(wěn)評(píng)機(jī)構(gòu)一般是專門的風(fēng)險(xiǎn)評(píng)估機(jī)構(gòu)、律師事務(wù)所，雖然通過委托協(xié)議負(fù)有穩(wěn)評(píng)的法律義務(wù)，但就算法設(shè)計(jì)使用而言，他們既無權(quán)也無資源收集廣泛的數(shù)據(jù)，更無法從事復(fù)雜的算法設(shè)計(jì)。網(wǎng)絡(luò)平臺(tái)企業(yè)雖然掌握著豐富的數(shù)據(jù)資源和算法設(shè)計(jì)技術(shù)，但他們并不負(fù)有維護(hù)公共利益的責(zé)任，也沒有義務(wù)為穩(wěn)評(píng)設(shè)計(jì)算法。相對(duì)于第三方評(píng)估機(jī)構(gòu)和網(wǎng)絡(luò)平臺(tái)企業(yè)，政府部門負(fù)有維護(hù)公共利益、安全和社會(huì)穩(wěn)定的職責(zé)，掌握著行政權(quán)力和一定的數(shù)據(jù)資源，但卻不得不面對(duì)算法設(shè)計(jì)的技術(shù)難題，而且，“自己決策自己評(píng)估”也會(huì)面臨有違正當(dāng)程序的輿論壓力。因此，解決算法應(yīng)用于穩(wěn)評(píng)的設(shè)計(jì)、使用主體問題，就要在考慮數(shù)據(jù)收集、算法設(shè)計(jì)技術(shù)難題和確保穩(wěn)評(píng)結(jié)果客觀性的基礎(chǔ)上，充分利用三方的優(yōu)勢(shì)和資源，構(gòu)建相互間的法律關(guān)系。有學(xué)者認(rèn)為，“基本公共服務(wù)（包括國防和治安）領(lǐng)域的公、私權(quán)力關(guān)系是未來法治需要解決的首要問題。以政府為主要規(guī)制和防范對(duì)象的現(xiàn)有公法體系需要考慮技術(shù)革新和權(quán)力結(jié)構(gòu)變化所帶來的新問題，一方面將透明、公開、程序合法、說明理由等對(duì)公權(quán)力行使者的要求延伸到實(shí)際上行使著‘準(zhǔn)公權(quán)力’的私人（包括企業(yè)和個(gè)人），使算法等技術(shù)化的監(jiān)控和決策手段不再是無法被問責(zé)的‘黑箱’，另一方面延伸和調(diào)整傳統(tǒng)的公法概念體系（包括‘公共服務(wù)’）和規(guī)制手段，以應(yīng)對(duì)現(xiàn)時(shí)代公私合作、公私共治的普遍現(xiàn)象?！?8同前注。根據(jù)這一思路，可以考慮由政府部門與網(wǎng)絡(luò)平臺(tái)企業(yè)簽訂以維護(hù)公共利益為目的的行政協(xié)議的方式，將穩(wěn)評(píng)的算法設(shè)計(jì)使用權(quán)通過協(xié)議委托網(wǎng)絡(luò)平臺(tái)企業(yè)，并施加必要的保密義務(wù)。同時(shí)，政府部門與第三方風(fēng)險(xiǎn)評(píng)估機(jī)構(gòu)簽訂委托協(xié)議，由第三方實(shí)施穩(wěn)評(píng)工作?；诰W(wǎng)絡(luò)平臺(tái)企業(yè)并不精通穩(wěn)評(píng)中涉及的法律和風(fēng)險(xiǎn)管理業(yè)務(wù)，可以要求網(wǎng)絡(luò)平臺(tái)企業(yè)與風(fēng)險(xiǎn)評(píng)估機(jī)構(gòu)以協(xié)議的方式確立雙方的法律關(guān)系，由風(fēng)險(xiǎn)評(píng)估機(jī)構(gòu)為網(wǎng)絡(luò)平臺(tái)企業(yè)提供算法設(shè)計(jì)所需的法律和風(fēng)險(xiǎn)管理專業(yè)知識(shí)，由網(wǎng)絡(luò)平臺(tái)企業(yè)設(shè)計(jì)算法，并將算法分析結(jié)果交于風(fēng)險(xiǎn)評(píng)估機(jī)構(gòu)作公眾參與、專家論證、合法性審查等進(jìn)一步分析，雙方根據(jù)自己在穩(wěn)評(píng)中承擔(dān)的法律義務(wù)共同對(duì)穩(wěn)評(píng)結(jié)果向政府承擔(dān)相應(yīng)的法律責(zé)任。

（二）加強(qiáng)算法應(yīng)用于穩(wěn)評(píng)的監(jiān)管

算法的使用是一把“雙刃劍”，雖然可以提高穩(wěn)評(píng)的準(zhǔn)確性和效率，但是，如果算法設(shè)計(jì)和使用涉及的侵犯權(quán)利和損害公共利益等問題得不到解決，算法的使用可能會(huì)適得其反，甚至引發(fā)額外的社會(huì)穩(wěn)定風(fēng)險(xiǎn)。隨著算法的廣泛使用，其應(yīng)用于穩(wěn)評(píng)是一種必然的趨勢(shì)。因此，除了規(guī)范數(shù)據(jù)收集、算法設(shè)計(jì)主體間的關(guān)系，必須在法治原則指引下，結(jié)合穩(wěn)評(píng)工作的實(shí)際，規(guī)范算法內(nèi)容設(shè)計(jì)，設(shè)計(jì)算法評(píng)估機(jī)制。

1.監(jiān)管算法的內(nèi)容設(shè)計(jì)

算法規(guī)制已經(jīng)成為當(dāng)今理論和實(shí)踐關(guān)注的熱點(diǎn)問題。當(dāng)前關(guān)于算法設(shè)計(jì)的規(guī)制模式，以權(quán)利或義務(wù)主體為標(biāo)準(zhǔn)，主要有賦予數(shù)據(jù)主體權(quán)利的歐洲模式，實(shí)施行政機(jī)構(gòu)和公共機(jī)構(gòu)問責(zé)的美國模式，以及我國的賦權(quán)數(shù)據(jù)主體和為平臺(tái)施加義務(wù)的模式。59參見張欣：《從算法危機(jī)到算法信任：算法治理的多元方案和本土化路徑》，載《華東政法大學(xué)學(xué)報(bào)》2019 年第6 期。按照時(shí)間來分，包括以構(gòu)建算法風(fēng)險(xiǎn)評(píng)估機(jī)制為代表的事先監(jiān)管機(jī)制，將法律的價(jià)值和倫理融入算法設(shè)計(jì)的事中監(jiān)管機(jī)制，和以建立算法問責(zé)制度為典型的事后監(jiān)管機(jī)制。從規(guī)制階段上分，可以分為算法治理、數(shù)據(jù)治理和平臺(tái)治理。以監(jiān)管內(nèi)容為標(biāo)準(zhǔn)，分為將法律的價(jià)值和倫理融入算法設(shè)計(jì)、算法監(jiān)管人、算法問責(zé)等。當(dāng)然，無論采用何種監(jiān)管模式和方式，算法的規(guī)范使用都將有利于算法在法治框架內(nèi)應(yīng)用于穩(wěn)評(píng)。具體對(duì)穩(wěn)評(píng)中的算法應(yīng)用而言，由于網(wǎng)絡(luò)技術(shù)具有較強(qiáng)的專業(yè)性，而算法往往被認(rèn)為是不應(yīng)公開的商業(yè)秘密，應(yīng)以風(fēng)險(xiǎn)防范為目的，對(duì)算法同時(shí)進(jìn)行事先與事后監(jiān)管，主體與技術(shù)監(jiān)管。具體而言，對(duì)于屬于企業(yè)商業(yè)秘密的算法的監(jiān)管方式的選擇，應(yīng)當(dāng)著重于避免行政機(jī)關(guān)介入算法的設(shè)計(jì)內(nèi)容和運(yùn)行的內(nèi)部結(jié)構(gòu)，避免行政機(jī)關(guān)主體陷入司法者并不了解的技術(shù)領(lǐng)域，為此，體現(xiàn)結(jié)果導(dǎo)向的事后責(zé)任追究是較為可取的規(guī)制方法。對(duì)于行政機(jī)關(guān)委托設(shè)計(jì)或可以向行政機(jī)關(guān)公開的算法的監(jiān)管，可以考慮采取事先的算法風(fēng)險(xiǎn)評(píng)估和將法律的價(jià)值和倫理融入算法設(shè)計(jì)的事中監(jiān)管方式。事實(shí)上，2021 年《個(gè)人信息保護(hù)法》第24 條的規(guī)定就體現(xiàn)了“事先與事后監(jiān)管，主體與技術(shù)監(jiān)管”的思路，該條規(guī)定，個(gè)人信息處理者利用個(gè)人信息進(jìn)行自動(dòng)化決策，應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正，不得對(duì)個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇。但遺憾地是，該條規(guī)定只明確對(duì)算法在“交易價(jià)格等交易條件上實(shí)行不合理的差別待遇”作了禁止性規(guī)定，范圍遠(yuǎn)小于算法的適用范圍，為日后進(jìn)一步完善留下了空間。

2.算法評(píng)估機(jī)制設(shè)計(jì)

1992 年《里約宣言》第15 條指出：“在嚴(yán)重的或不可逆轉(zhuǎn)的損害威脅存在的領(lǐng)域，缺乏充分的科學(xué)確定性不應(yīng)成為暫緩采取有成本效益的措施來防止環(huán)境惡化的理由?！?0United Nations Environment Programme (UNEP),Rio Declaration on Environment and Development,Principle 15.Rio deJaneiro,Brazil,June 14,1992.轉(zhuǎn)引自鄭戈：《算法的法律與法律的算法》，載《中國法律評(píng)論》2018 年第2 期。該條規(guī)定引申出一項(xiàng)重要的風(fēng)險(xiǎn)治理原則——“風(fēng)險(xiǎn)預(yù)防原則”（Precautionary Principle)，根據(jù)該原則，如果一種新技術(shù)可能對(duì)社會(huì)產(chǎn)生負(fù)面影響，即便影響的效果上不確定，決策者也應(yīng)當(dāng)從預(yù)防可能的負(fù)面影響的目的出發(fā)制定預(yù)防風(fēng)險(xiǎn)的制度。對(duì)算法的設(shè)計(jì)和使用也應(yīng)當(dāng)具有風(fēng)險(xiǎn)防范意識(shí)，貫徹風(fēng)險(xiǎn)預(yù)防原則。吊詭地是，算法與風(fēng)險(xiǎn)的關(guān)系使得對(duì)算法危機(jī)的預(yù)防也要采取類似預(yù)防社會(huì)穩(wěn)定風(fēng)險(xiǎn)的風(fēng)險(xiǎn)評(píng)估機(jī)制。這一制度已經(jīng)成為《歐盟通用數(shù)據(jù)保護(hù)條例》第 35 條規(guī)定的“數(shù)據(jù)保護(hù)影響評(píng)估”（Data Protection Impact Assessment）制度，除歐盟外，世界主要國家去年以來均建立了算法評(píng)估的相關(guān)制度，評(píng)估已經(jīng)在數(shù)據(jù)與算法治理框架中發(fā)揮著重要作用。2021 年《個(gè)人信息保護(hù)法》也建立了該項(xiàng)制度，第 55 條規(guī)定，有“利用個(gè)人信息進(jìn)行自動(dòng)化決策”等情形的，“個(gè)人信息處理者應(yīng)當(dāng)事前進(jìn)行個(gè)人信息保護(hù)影響評(píng)估”。“算法評(píng)估制度目的是建立風(fēng)險(xiǎn)適應(yīng)型的算法監(jiān)管，使得監(jiān)管嚴(yán)格程度基于算法可能造成損害的可能性以及損害的嚴(yán)重性，針對(duì)不同算法系統(tǒng)的關(guān)鍵模型構(gòu)建不同監(jiān)管體系。”61同前注⑧。面對(duì)算法所涉利益的廣泛性，有學(xué)者甚至提出算法設(shè)計(jì)部署者應(yīng)提供“社會(huì)影響聲明”“歧視影響評(píng)估”，62Barocas Solon and Andrew Selbst.Big data's disparate impact.671.Calif.L.Rev.169 (2016).甚至“人類影響聲明”63Marc L.Roark,Human Impact Statements,54 WASHBURN L.J.649 (2015).等。算法評(píng)估的目的對(duì)于穩(wěn)評(píng)中的算法規(guī)制十分必要。算法應(yīng)用于穩(wěn)評(píng)分別涉及風(fēng)險(xiǎn)信息分析和人工“風(fēng)險(xiǎn)溝通”兩個(gè)環(huán)節(jié)的工作，即，將實(shí)現(xiàn)風(fēng)險(xiǎn)信息數(shù)據(jù)化后進(jìn)行算法分析，根據(jù)個(gè)體數(shù)據(jù)分析結(jié)果做出風(fēng)險(xiǎn)溝通方案。當(dāng)然，如果重大行政決策的做出涉及數(shù)據(jù)分析，也會(huì)涉及算法應(yīng)用問題。因此，算法應(yīng)用于穩(wěn)評(píng)對(duì)算法的風(fēng)險(xiǎn)評(píng)估包括重大行政決策算法風(fēng)險(xiǎn)評(píng)估、風(fēng)險(xiǎn)數(shù)據(jù)分析的算法評(píng)估和基于數(shù)據(jù)分析結(jié)果做出的風(fēng)險(xiǎn)溝通方案的算法風(fēng)險(xiǎn)評(píng)估。算法在穩(wěn)評(píng)中的使用不僅關(guān)系穩(wěn)評(píng)結(jié)論的準(zhǔn)確性、風(fēng)險(xiǎn)溝通方案的科學(xué)性和有效性，也關(guān)系算法風(fēng)險(xiǎn)可能滋生或引發(fā)的社會(huì)穩(wěn)定風(fēng)險(xiǎn)的預(yù)防。算法風(fēng)險(xiǎn)評(píng)估對(duì)于算法應(yīng)用于穩(wěn)評(píng)的意義，除了關(guān)注對(duì)個(gè)人隱私權(quán)、平等權(quán)的保護(hù)，更注重社會(huì)公共利益的維護(hù)。算法風(fēng)險(xiǎn)評(píng)估不僅是對(duì)傳統(tǒng)技術(shù)的影響評(píng)估，而且，由于算法應(yīng)用于穩(wěn)評(píng)相當(dāng)于算法已經(jīng)嵌入了政府、公共部門的決策環(huán)節(jié)，也是對(duì)政府、公共部門的權(quán)力的監(jiān)督，具有算法法治化的重要意義。

3.算法應(yīng)用與人工“風(fēng)險(xiǎn)溝通”相結(jié)合

當(dāng)然，鑒于算法應(yīng)用于穩(wěn)評(píng)其固有的“隱形歧視”的操作特征，在穩(wěn)評(píng)中應(yīng)避免算法成為事實(shí)上唯一決策者的風(fēng)險(xiǎn)。美國威斯康星州最高法院最近一項(xiàng)關(guān)于在判決中使用算法風(fēng)險(xiǎn)評(píng)估的判決強(qiáng)調(diào)了這一點(diǎn)。在“威斯康星州訴Eric L.Loomis”一案中，法院必須評(píng)估使用算法風(fēng)險(xiǎn)評(píng)估工具確定被告是否可以在社區(qū)內(nèi)接受監(jiān)督而不是拘留是否侵犯了被告的正當(dāng)程序權(quán)利。64State of Wisconsin v Eric L.Loomis (n 42) para 7.法院認(rèn)為，“風(fēng)險(xiǎn)評(píng)分旨在預(yù)測(cè)那些有類似犯罪史的人在獲釋后再次犯罪的可能性較小或更大。然而，COMPAS 風(fēng)險(xiǎn)評(píng)估并未預(yù)測(cè)個(gè)別罪犯再次犯罪的具體可能性。相反，它提供了一個(gè)基于個(gè)人信息與類似數(shù)據(jù)組的比較的預(yù)測(cè)?！?5Ibid.因此，為確保穩(wěn)評(píng)結(jié)果的科學(xué)性和參考價(jià)值，算法應(yīng)用于穩(wěn)評(píng)的過程應(yīng)注重大數(shù)據(jù)分析與人工“風(fēng)險(xiǎn)溝通”的有效結(jié)合。如在形成穩(wěn)評(píng)報(bào)告環(huán)節(jié)，應(yīng)對(duì)基于算法分析的結(jié)論擬采取的防范措施的有效性進(jìn)行評(píng)估。為彌補(bǔ)算法工具理性的不足，評(píng)估時(shí)應(yīng)返回到征求意見環(huán)節(jié)，聽取相關(guān)部門、專家和專業(yè)機(jī)構(gòu)的看法，發(fā)揮人的主觀能動(dòng)性，通過直接和間接溝通了解利益相關(guān)方對(duì)這些措施的潛在行為反應(yīng)；評(píng)估后應(yīng)再返回形成報(bào)告環(huán)節(jié)進(jìn)行校正和完善。66顧嚴(yán)、張本波主編：《重大決策穩(wěn)評(píng)研究》，人民出版社2018 年版，第29 頁。

四、結(jié)論

算法在當(dāng)代社會(huì)越來越重要的原因是它們的變革潛力。例如，計(jì)算能力的進(jìn)步意味著現(xiàn)代算法可以執(zhí)行超出人類能力和速度的復(fù)雜任務(wù)，自我學(xué)習(xí)以提高性能，并進(jìn)行復(fù)雜分析以預(yù)測(cè)未來可能的結(jié)果。這意味著算法在各個(gè)領(lǐng)域的應(yīng)用成為一種不可逆的趨勢(shì)。重大決策穩(wěn)評(píng)的核心是通過分析社會(huì)穩(wěn)定風(fēng)險(xiǎn)信息，評(píng)估社會(huì)穩(wěn)定風(fēng)險(xiǎn)狀況，提出動(dòng)態(tài)建構(gòu)社會(huì)穩(wěn)定狀態(tài)的方案，為重大行政決策提供參考。顯然，在風(fēng)險(xiǎn)信息分析和風(fēng)險(xiǎn)溝通環(huán)節(jié)，作為數(shù)據(jù)處理工具的算法可以發(fā)揮作用。然而，和其它領(lǐng)域一樣，算法應(yīng)用于穩(wěn)評(píng)中也不可避免地面臨數(shù)據(jù)收集和算法設(shè)計(jì)、使用面臨的法律問題。算法在提高了穩(wěn)評(píng)效率的和準(zhǔn)確性的同時(shí)，也增加了預(yù)防算法危機(jī)的制度成本。同時(shí)，諸如“隱形歧視”的操作特征使得算法應(yīng)用于穩(wěn)評(píng)并不能將算法的評(píng)估決策作為唯一依據(jù)，人工“風(fēng)險(xiǎn)溝通”仍要發(fā)揮其特有的作用。雖然為了風(fēng)險(xiǎn)評(píng)估使用算法卻又要對(duì)算法進(jìn)行風(fēng)險(xiǎn)評(píng)估的邏輯看似多余，但這正是算法在當(dāng)代社會(huì)作為一股變革潛力的具體體現(xiàn)，顯示出算法應(yīng)用于穩(wěn)評(píng)的一個(gè)新特點(diǎn)。