唐林垚

黨的十九屆五中全會(huì)提出，“十四五”時(shí)期經(jīng)濟(jì)社會(huì)發(fā)展要以推動(dòng)高質(zhì)量發(fā)展為主題，這是根據(jù)我國(guó)發(fā)展階段、發(fā)展環(huán)境、發(fā)展條件變化做出的科學(xué)判斷。(1)王昌林： 《深入學(xué)習(xí)貫徹黨的十九屆五中全會(huì)精神 以推動(dòng)高質(zhì)量發(fā)展為主題》，載《人民日?qǐng)?bào)》2020年11月17日，第9版。自動(dòng)化應(yīng)用能夠提高經(jīng)濟(jì)社會(huì)的智能化水平，有效增強(qiáng)公共服務(wù)和城市管理能力，是提升現(xiàn)代化治理不可或缺的技術(shù)加持。在“黑天鵝”和“灰犀?！睙o(wú)處不在的風(fēng)險(xiǎn)社會(huì)，依靠大數(shù)據(jù)、云計(jì)算、機(jī)器學(xué)習(xí)以及各類(lèi)算法工具營(yíng)造的行政“社會(huì)共律”，是獨(dú)立個(gè)體普遍“自律不足”的必要補(bǔ)充；健康碼等自動(dòng)化應(yīng)用介入公共治理具有了充分的合法性根基。《法治中國(guó)建設(shè)規(guī)劃(2020—2025年)》要求在2022年年底前建成全國(guó)一體化的電子政務(wù)服務(wù)平臺(tái)，推動(dòng)人民群眾參與社會(huì)治理，打造共建共治共享的社會(huì)治理格局；電子化審批、算法化決策、智能化評(píng)估和服務(wù)等，已在多個(gè)領(lǐng)域先行試點(diǎn)。

自動(dòng)化應(yīng)用提升現(xiàn)代化治理，需要強(qiáng)大的經(jīng)濟(jì)和法律制度作為后盾。“由于技術(shù)變革帶來(lái)的‘外部性’不斷變化，行為主體難以就風(fēng)險(xiǎn)程度、治理事項(xiàng)的優(yōu)先排序、治理目標(biāo)與手段的選擇等問(wèn)題形成共識(shí)，這使得安全治理在起點(diǎn)的原則規(guī)范上就缺乏堅(jiān)實(shí)基礎(chǔ)?！?2)劉楊鉞： 《技術(shù)變革與網(wǎng)絡(luò)空間安全治理： 擁抱“不確定的時(shí)代”》，載《社會(huì)科學(xué)》2020年第9期，第41頁(yè)。囿于對(duì)不斷涌現(xiàn)的新形勢(shì)、新業(yè)態(tài)、新模式的認(rèn)知不足，當(dāng)前個(gè)人信息保護(hù)法和數(shù)據(jù)安全法的立法和闡釋進(jìn)路，正不可避免地步入過(guò)于關(guān)注隱私保護(hù)的歐盟《通用數(shù)據(jù)保護(hù)條例》、強(qiáng)化信息披露的法國(guó)《行政法典》以及確保責(zé)任主體鏈條可追蹤識(shí)別的美國(guó)《算法問(wèn)責(zé)法案》等“問(wèn)題驅(qū)動(dòng)型立法”的路徑依賴(lài)，(3)參見(jiàn)蘇宇、高文英： 《個(gè)人信息的身份識(shí)別標(biāo)準(zhǔn)： 源流、實(shí)踐與反思》，載《交大法學(xué)》2019年第4期，第54—71頁(yè)。“頭痛醫(yī)頭、腳痛醫(yī)腳”的立法范式，難以為自動(dòng)化技術(shù)的跳躍式發(fā)展和管理部門(mén)的跨界式應(yīng)用提供保障。研究表明，完全從信息保護(hù)入手建立規(guī)制體系的嘗試，已經(jīng)被證明面臨加劇社會(huì)割裂的風(fēng)險(xiǎn)與徒增合規(guī)成本等流弊。(4)參見(jiàn)韓新遠(yuǎn)： 《個(gè)人行為軌跡信息的法律屬性與分類(lèi)保護(hù)研究》，載《交大法學(xué)》2021年第3期，第69—79頁(yè)。如何突破公私二元界限、掙脫傳統(tǒng)法律規(guī)制的制度慣性，采取整體化應(yīng)對(duì)而非單純數(shù)據(jù)保護(hù)的思路，以期為自動(dòng)化應(yīng)用介入現(xiàn)代化治理保駕護(hù)航，無(wú)疑是邁向全面建設(shè)社會(huì)主義現(xiàn)代化國(guó)家新征程之時(shí)亟待思考的重要問(wèn)題。

一、 自動(dòng)化應(yīng)用介入公共治理領(lǐng)域的法律問(wèn)題

公共治理領(lǐng)域自動(dòng)化應(yīng)用的是非利弊之爭(zhēng)，由來(lái)已久、反復(fù)無(wú)常、難分伯仲，始見(jiàn)于1978年法國(guó)《數(shù)據(jù)處理、文件和個(gè)人自由法案》頒布前夕、興盛于1995年歐盟《數(shù)據(jù)保護(hù)指令》適用之后、延續(xù)至2018年歐盟《通用數(shù)據(jù)保護(hù)條例》的監(jiān)管實(shí)踐，與新公共治理理論的由盛轉(zhuǎn)衰、新公共服務(wù)理論的迅速迭代和公共價(jià)值管理理論的異軍突起相伴相隨。

(一) 新公共治理語(yǔ)境下的自動(dòng)化應(yīng)用

早在1971年，莫頓(Michael Morton)在《反思智能輔助系統(tǒng)： 基于計(jì)算機(jī)的自動(dòng)化決策》一書(shū)開(kāi)頭就發(fā)出了“切勿盲目迷信機(jī)器自動(dòng)化決策”的警告，(5)Morton M. S. S.， Management Decision Systems: Computer-Based Support for Decision Making， Division of Research， Graduate School of Business Administration， Harvard University， 1971， p.1.并直接促成了法國(guó)《數(shù)據(jù)處理、文件和個(gè)人自由法案》對(duì)司法行政自動(dòng)化應(yīng)用的一概禁止。然而，計(jì)算機(jī)自動(dòng)化的發(fā)展和應(yīng)用契合了早期新公共治理理論為解決監(jiān)管機(jī)構(gòu)資源匱乏而被迫演化出的“按需監(jiān)管”路徑，用清晰有序的風(fēng)險(xiǎn)評(píng)估框架取代了過(guò)去憑空想象的資源分配順序，實(shí)乃既定稟賦下公共治理能力提升之“自然選擇”，在法國(guó)之外的其他國(guó)家發(fā)展迅猛。彼時(shí)學(xué)界前瞻性地指出，自動(dòng)化應(yīng)用“人為打壓理性數(shù)據(jù)分析的地位，為獲得似是而非的簡(jiǎn)化結(jié)果毫無(wú)原則、不計(jì)后果地對(duì)某些因素進(jìn)行加權(quán)并賦予相對(duì)重要性”；(6)Christie G. C.， An Essay on Discretion， 5 Duke Law Journal 747 (1986).對(duì)美國(guó)大型城市公共信息系統(tǒng)的早期實(shí)證研究也表明，鑒于某些公共任務(wù)本身所蘊(yùn)含的政治屬性，不能一味地讓計(jì)算機(jī)系統(tǒng)在“涉及公共權(quán)利的事項(xiàng)上為所欲為”。(7)Northrop A.， Kraemer K. L.， Dunkle D. & King J. L.， Payoffs from Computerization: Lessons over Time， 50th year Public Administration Review 505-514 (1990).

不過(guò)，這些理性的呼聲幾乎完全淹沒(méi)在新公共治理理論學(xué)者對(duì)“解構(gòu)”“非領(lǐng)地化”和“變樣”的狂熱之中，技術(shù)層面的高歌猛進(jìn)與傳統(tǒng)古德諾行政二分論和韋伯科層制論的節(jié)節(jié)敗退形成鮮明對(duì)比，很大程度上滿(mǎn)足了激進(jìn)派“掀起一場(chǎng)官僚制度革命”的主觀(guān)想象。即便是與新公共治理理論學(xué)者所倡導(dǎo)的“層層契約制”格格不入的新公共服務(wù)理論學(xué)者，也大多堅(jiān)信技術(shù)進(jìn)步將促進(jìn)社會(huì)福利的雨露均沾——算力提升讓過(guò)去難以協(xié)同一致的計(jì)算機(jī)系統(tǒng)間可以合乎邏輯地彼此聯(lián)動(dòng)，極大地消除了管理部門(mén)之間的隔閡，使得“系統(tǒng)遺留問(wèn)題得以自然消解”。(8)Dunleavy P.， Margetts H.， Tinkler J. & Bastow S.， Digital Era Governance: IT Corporations， the State， and e-Government， Oxford University Press， 2006， p.1-15.在技術(shù)裹挾治理的大趨勢(shì)下，公域軟法的必要性，日益凸顯。

(二) 自動(dòng)化應(yīng)用的角色與功能變遷

將集體協(xié)商和網(wǎng)絡(luò)治理貫穿于公共服務(wù)的獲取和傳遞之中、輕“個(gè)體偏好的簡(jiǎn)單疊加”重“利益相關(guān)者的對(duì)話(huà)與參與”，新銳公共價(jià)值管理理論學(xué)者不約而同地主張應(yīng)跟隨技術(shù)變革的腳步不斷修正民主與效率的關(guān)系，但他們對(duì)自動(dòng)化應(yīng)用的評(píng)價(jià)卻呈現(xiàn)出兩極化趨勢(shì)。萊頓·安德魯斯(Leighton Andrews)認(rèn)為，技術(shù)進(jìn)步促進(jìn)了公共服務(wù)有效和規(guī)范地傳遞，是對(duì)缺乏專(zhuān)業(yè)決策、響應(yīng)遲延和服務(wù)標(biāo)準(zhǔn)化匱乏的官僚主義的矯正，能夠有效促使“技術(shù)官僚的角色從管理者向公共利益共同創(chuàng)造者和維護(hù)者轉(zhuǎn)變”。(9)Andrews L.， Public Administration， Public Leadership and the Construction of Public Value in the Age of the Algorithm and “Big Data”， 97 (2) Public Administration 296-310 (2019).對(duì)此，邁克爾·利普斯基(Michael Lipsky)針?shù)h相對(duì)地指出，“公共服務(wù)的核心，在于自然人可以而機(jī)器人卻難以實(shí)現(xiàn)的‘推理和決策’”，借此唱衰公共行政領(lǐng)域的自動(dòng)化應(yīng)用。(10)Lipsky M.， Street-Level Bureaucracy: Dilemmas of the Individual in Public Service， Russell Sage Foundation， 2010， p.5-6.

利普斯基的上述悲觀(guān)言論至今已經(jīng)整整過(guò)去十一年，在公共治理領(lǐng)域，無(wú)論是行政部門(mén)、人事部門(mén)還是公共企業(yè)乃至司法部門(mén)的自動(dòng)化應(yīng)用不僅有增無(wú)減，還大有百花齊放之勢(shì)。2016年，美國(guó)威斯康星州最高法院在“州政府訴盧米思案”(Statev.Loomis)中正式認(rèn)可法官借助自動(dòng)化系統(tǒng)進(jìn)行量刑裁判的合理性與正當(dāng)性，意味著人工智能對(duì)司法的影響從輔助層面正式進(jìn)入實(shí)質(zhì)層面。長(zhǎng)期引領(lǐng)工會(huì)斗爭(zhēng)之風(fēng)的威斯康星州的這一舉動(dòng)，旋即激發(fā)了學(xué)界對(duì)公共治理領(lǐng)域自動(dòng)化濫用的擔(dān)憂(yōu)。連司法量刑裁判都可以通過(guò)自動(dòng)化系統(tǒng)完成，人工智能技術(shù)的應(yīng)用是否還存在邊界？自動(dòng)化帝國(guó)主義侵入傳統(tǒng)的司法審判領(lǐng)域引發(fā)了幾乎是規(guī)律性的部門(mén)法學(xué)者的反思和詰問(wèn)，例如，人工智能能否真正模擬法律議論？(11)參見(jiàn)季衛(wèi)東： 《人工智能時(shí)代的法律議論》，載《法學(xué)研究》2019年第6期，第32頁(yè)。機(jī)器學(xué)習(xí)何以輔助事實(shí)認(rèn)定？(12)參見(jiàn)栗崢： 《人工智能與事實(shí)認(rèn)定》，載《法學(xué)研究》2020年第1期，第117頁(yè)。在管理部門(mén)“數(shù)字化”的大背景下，自動(dòng)化應(yīng)用做出價(jià)值判斷的合法性基礎(chǔ)何在？(13)See Veale M. & Brass I.， Administration by Algorithm？ Public Management Meets Public Sector Machine Learning， in Yeung K. ed.， Algorithmic Regulation， Oxford University Press, 2019， p.121-149.如何針對(duì)平臺(tái)用工、電子交易等公共治理樣態(tài)引入新的類(lèi)型化規(guī)則？(14)參見(jiàn)王天玉： 《互聯(lián)網(wǎng)平臺(tái)用工的“類(lèi)雇員”解釋路徑及其規(guī)范體系》，載《環(huán)球法律評(píng)論》2020年第3期，第85頁(yè)。在智能社會(huì)中消除異化、促進(jìn)人的自由全面發(fā)展所需要的法律保障是什么？(15)參見(jiàn)孫偉平： 《人工智能與人的“新異化”》，載《中國(guó)社會(huì)科學(xué)》2020年第12期，第119頁(yè)。上述法學(xué)論題在回應(yīng)和補(bǔ)充公共治理學(xué)科相關(guān)研究的同時(shí)，也帶來(lái)了方法論上的啟示： 我們究竟應(yīng)當(dāng)如何定性公共治理領(lǐng)域的自動(dòng)化應(yīng)用？管理效率的提升能在多大程度上正當(dāng)化自動(dòng)化應(yīng)用對(duì)公眾權(quán)利的侵蝕？

(三) 自動(dòng)化應(yīng)用規(guī)制的法律聚焦

推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化，是我國(guó)全面深化改革的總目標(biāo)。個(gè)人信息一直是一種非稀缺的公共物品，(16)參見(jiàn)劉迎霜： 《大數(shù)據(jù)時(shí)代個(gè)人信息保護(hù)再思考——以大數(shù)據(jù)產(chǎn)業(yè)發(fā)展之公共福利為視角》，載《社會(huì)科學(xué)》2019年第3期，第100頁(yè)。從效用增益的角度來(lái)看，公共治理領(lǐng)域的自動(dòng)化應(yīng)用符合從傳統(tǒng)社會(huì)治理體系向科技社會(huì)治理體系轉(zhuǎn)型的大趨勢(shì)，因?yàn)樽詣?dòng)化系統(tǒng)能以更高效率和更低成本實(shí)現(xiàn)“溫故而知新”。在北京，城市管理綜合行政執(zhí)法局通過(guò)對(duì)海量投訴舉報(bào)電話(huà)的機(jī)器分析，得出每年夏季晚間某固定時(shí)段占道經(jīng)營(yíng)違法行為上升的結(jié)論，結(jié)合指揮系統(tǒng)的位置信息，集中調(diào)配執(zhí)法力量，實(shí)現(xiàn)科學(xué)執(zhí)法；在上海，政務(wù)服務(wù)“一網(wǎng)通辦”、城市運(yùn)行“一網(wǎng)統(tǒng)管”，將“菜籃子、米袋子、水電煤氣”等基本民生保障類(lèi)的“獲得感”數(shù)據(jù)作為治理數(shù)字化的重要抓手；在江蘇，公安部門(mén)的犯罪預(yù)測(cè)系統(tǒng)已覆蓋超過(guò)百種常見(jiàn)的違法犯罪行為，犯罪治理活動(dòng)從事后打擊轉(zhuǎn)為事前預(yù)防；在河北，導(dǎo)訴機(jī)器人、手機(jī)立案平臺(tái)、多元解紛結(jié)果預(yù)測(cè)系統(tǒng)為群眾提供了像“新零售”“網(wǎng)絡(luò)店”一樣方便的糾紛解決服務(wù)渠道。

需要特別強(qiáng)調(diào)的是，各類(lèi)自動(dòng)化系統(tǒng)遠(yuǎn)非盡善盡美，也并非在所有領(lǐng)域都比自然人做得更好，甚至在多個(gè)應(yīng)用場(chǎng)景中問(wèn)題頻現(xiàn)。(17)參見(jiàn)袁康： 《可信算法的法律規(guī)制》，載《東方法學(xué)》2021年第3期，第5頁(yè)。例如，在缺乏科學(xué)論證的基礎(chǔ)上，紐約州曾率先利用預(yù)警保護(hù)系統(tǒng)來(lái)鑒別具有“嚴(yán)重家暴傾向”的父母，并對(duì)“高危兒童”進(jìn)行隔離保護(hù)。該系統(tǒng)不僅沒(méi)有大幅降低虐童事件的發(fā)生概率，還造成了上萬(wàn)正常父母同其子女的被迫分離，上線(xiàn)不到半年就引發(fā)眾怒。美國(guó)賓夕法尼亞州用于提供替代性制裁矯正犯罪管理畫(huà)像的坎帕斯風(fēng)險(xiǎn)評(píng)估系統(tǒng)(CAMPAS)，被指控存在嚴(yán)重種族歧視的傾向： 在該系統(tǒng)做出的犯罪高風(fēng)險(xiǎn)判定中，黑人數(shù)量竟然占到白人數(shù)量的兩倍以上；在系統(tǒng)看來(lái)，即便是有多次前科和犯罪指控、經(jīng)濟(jì)狀況欠佳的白人，也比接受過(guò)良好教育、無(wú)任何不良嗜好的黑人，犯罪風(fēng)險(xiǎn)更低。2019年4月，逾四萬(wàn)居民對(duì)密歇根州政府提起了集團(tuán)訴訟，起因是政府用于檢測(cè)騙補(bǔ)行為和欺詐行為的米達(dá)思預(yù)測(cè)系統(tǒng)(MIDAS)的出錯(cuò)率高達(dá)93%，致使數(shù)萬(wàn)申請(qǐng)人被無(wú)端懲戒。(18)參見(jiàn)唐林垚： 《算法應(yīng)用的公共妨害及其治理路徑》，載《北方法學(xué)》2020年第3期，第51頁(yè)。

從世界范圍來(lái)看，有關(guān)自動(dòng)化應(yīng)用的立法建議早已漸次成型，但多墨守自動(dòng)化應(yīng)用為自然人輔助之成規(guī)，致使“組織性無(wú)序”和“程序性濫用”屢禁不止，“這是一種極為尋常的經(jīng)驗(yàn)，但也是全球化所指”。(19)[英] 盧恰諾·弗洛里迪： 《信息倫理學(xué)》，薛平譯，上海譯文出版社2018年版，第427頁(yè)。究其根源，碎片化的規(guī)則探尋容易缺乏對(duì)自動(dòng)化應(yīng)用特征共性的整體把握，造成個(gè)別小體制對(duì)抽象的大體制的掣肘和抵消?！肮彩聵I(yè)”已經(jīng)成為自動(dòng)化應(yīng)用的核心領(lǐng)域的美國(guó)和加拿大，仍“屢敗屢戰(zhàn)”，積極探尋框架式治理和協(xié)同治理共存并行的全周期評(píng)估框架。(20)參見(jiàn)張欣： 《算法影響評(píng)估制度的構(gòu)建機(jī)理與中國(guó)方案》，載《法商研究》2021年第2期，第102頁(yè)。即使試錯(cuò)成本高昂、技術(shù)性矯正手段相對(duì)匱乏，公共治理也早已不可回頭地染上了數(shù)字時(shí)代的自動(dòng)化底色，“人類(lèi)正在從持續(xù)了千百年的物理實(shí)體社會(huì)跨入新興的虛擬數(shù)字社會(huì)”，(21)吳霽虹： 《眾創(chuàng)時(shí)代——互聯(lián)網(wǎng)+、物聯(lián)網(wǎng)時(shí)代企業(yè)創(chuàng)新完整解決方案》，中信出版社2015年版，第1頁(yè)。涵蓋法學(xué)理論、司法實(shí)踐和制度規(guī)范的法律轉(zhuǎn)型升級(jí)早已是“箭在弦上”。

二、 自動(dòng)化應(yīng)用治理導(dǎo)向法律規(guī)則的構(gòu)建機(jī)理

長(zhǎng)期以來(lái)，面對(duì)公共治理的數(shù)字化、公式化和模型化，新公共治理理論學(xué)者和新公共服務(wù)理論學(xué)者傾向于籠統(tǒng)地將技術(shù)進(jìn)步視為官僚主義從韋伯式的公共利益行政廉潔和公正模式向新公共治理范式轉(zhuǎn)變的驅(qū)動(dòng)力，而公共價(jià)值管理理論學(xué)者卻不由自主地沉浸在對(duì)技術(shù)變革遠(yuǎn)期風(fēng)險(xiǎn)的悲觀(guān)情緒之中，此間的價(jià)值觀(guān)割裂，須在對(duì)日新月異不同類(lèi)型的自動(dòng)化技術(shù)區(qū)別對(duì)待的基礎(chǔ)上予以修復(fù)。

(一) 自動(dòng)化應(yīng)用的三重維度區(qū)分

以人工智能顛覆傳統(tǒng)公共治理手段為視角，自動(dòng)化應(yīng)用可以由遠(yuǎn)及近、由淺入深地劃分為三個(gè)維度。第一維度是基于數(shù)據(jù)庫(kù)編碼的計(jì)算機(jī)自動(dòng)化(1980年代開(kāi)始)，可以近乎完美地替代基層公務(wù)員實(shí)現(xiàn)“唯手熟爾”的重復(fù)性基礎(chǔ)工作和流程性工作，例如，將電話(huà)或通信分類(lèi)到正確的聯(lián)系人、審閱數(shù)份公共文件后提煉出要點(diǎn)和關(guān)鍵詞、根據(jù)以往的公共文書(shū)來(lái)修改生成更新的交易文書(shū)等。(22)參見(jiàn)左衛(wèi)民： 《關(guān)于法律人工智能在中國(guó)運(yùn)用前景的若干思考》，載《清華法學(xué)》2018年第2期，第104頁(yè)。重復(fù)、簡(jiǎn)單的工作日益被高效、廉價(jià)的機(jī)器人逐步取代，大大提升了勞動(dòng)生產(chǎn)率。在第一維度，自動(dòng)化決策對(duì)自然人的取代在于計(jì)算機(jī)具有更高數(shù)據(jù)處理能力的事實(shí)。

第二維度是基于機(jī)器學(xué)習(xí)的算法自動(dòng)化(2010年代開(kāi)始)，其實(shí)質(zhì)是作為編程理論典范的透過(guò)“規(guī)則本原的邏輯”，在范圍不確定的環(huán)境中進(jìn)行邏輯推導(dǎo)或模式識(shí)別，替代自然人實(shí)現(xiàn)“溫故而知新”的基礎(chǔ)性預(yù)測(cè)工作與規(guī)范性鑒別工作，但常因系統(tǒng)失靈多次給社會(huì)帶來(lái)極高的“矯正成本”。在歐洲地區(qū)不止一次出現(xiàn)這樣的情況： 例如，法國(guó)銀行間通用的客戶(hù)資信考察系統(tǒng)，曾一度拒絕為單親家庭成員提供住房貸款；英國(guó)鐵路部門(mén)的智能審核系統(tǒng)把關(guān)不嚴(yán)，超額濫發(fā)多張?zhí)卦S經(jīng)營(yíng)執(zhí)照。近年來(lái)，亞洲各國(guó)也相繼出現(xiàn)了“人工智能熱”，技術(shù)外部性效應(yīng)日益凸顯，例如，超過(guò)1/4的韓國(guó)公共公司在人員招聘中使用智能面試系統(tǒng)。該系統(tǒng)可以檢測(cè)面試者恐懼、喜悅和回避的面部表情，并結(jié)合其措辭、眼神活動(dòng)和聲調(diào)變化等細(xì)節(jié)，對(duì)面試者進(jìn)行抗壓能力高低以及是否具備職場(chǎng)靈活性的判斷。重壓之下，各類(lèi)面試練習(xí)班層出不窮，求職者支付天價(jià)補(bǔ)習(xí)費(fèi)用，只為學(xué)習(xí)如何在機(jī)器面前“用眼睛微笑”。在第二維度，自動(dòng)化應(yīng)用導(dǎo)致的公權(quán)力擴(kuò)張?jiān)谟诠芾聿块T(mén)對(duì)機(jī)器學(xué)習(xí)技術(shù)能夠做出準(zhǔn)確而中立預(yù)測(cè)的不當(dāng)信賴(lài)。

第三維度是多個(gè)機(jī)器學(xué)習(xí)模型相互交織、基于神經(jīng)網(wǎng)絡(luò)的超級(jí)自動(dòng)化(2020年代開(kāi)始)，現(xiàn)已徹底突破利普斯基所認(rèn)為的自動(dòng)化決策系統(tǒng)的“智能上限”，(23)Lipsky， supra note 〔10〕， at 5-6.其獲得識(shí)辨特定時(shí)期的法律和社會(huì)運(yùn)行宏觀(guān)規(guī)律、以超乎常人的洞察力來(lái)提供制度解決方案或進(jìn)行價(jià)值判斷的能力的奇點(diǎn)臨近。在第三維度，自動(dòng)化應(yīng)用以管理部門(mén)為載體，表面上看起來(lái)是被公權(quán)力所“收編”，實(shí)則將“權(quán)威從個(gè)人轉(zhuǎn)向由算法構(gòu)成的網(wǎng)絡(luò)”。(24)Harari Y. N.， Homo Deus: A Brief History of Tomorrow， Random House， 2016， p.16.人類(lèi)將不再是自主的個(gè)體，而是一種生化機(jī)制集合體的組成部分，逐漸由自動(dòng)化決策系統(tǒng)實(shí)時(shí)評(píng)價(jià)、定義、監(jiān)測(cè)和指揮。

(二) 公共治理理論的立場(chǎng)辨析

以上述三個(gè)維度作為基本線(xiàn)索，交叉比對(duì)相關(guān)研究后不難發(fā)現(xiàn)，新公共治理理論學(xué)者出于對(duì)第一維度機(jī)器自動(dòng)化成功的認(rèn)可、公共價(jià)值管理理論學(xué)者出于對(duì)第二維度算法自動(dòng)化失靈的擔(dān)憂(yōu)，對(duì)第三維度超級(jí)自動(dòng)化崛起的判斷大異其趣——要么過(guò)于樂(lè)觀(guān)、要么過(guò)于悲觀(guān)。實(shí)際上，公共治理領(lǐng)域第二維度或第三維度的自動(dòng)化應(yīng)用，其前景定然介乎于二者之間；正如法學(xué)家們多倡導(dǎo)對(duì)技術(shù)變革的“理性冷漠”，跳出人工智能的應(yīng)然與實(shí)然之爭(zhēng)，轉(zhuǎn)而就已經(jīng)出現(xiàn)的問(wèn)題和即將出現(xiàn)的問(wèn)題尋求應(yīng)對(duì)之策，提出了代碼正義觀(guān)和算法正義觀(guān)等新型法權(quán)理念。(25)參見(jiàn)馬長(zhǎng)山： 《智能互聯(lián)網(wǎng)時(shí)代的法律變革》，載《法學(xué)研究》2018年第4期，第20頁(yè)。在智能社會(huì)語(yǔ)境下，需要密切關(guān)注的是公共治理領(lǐng)域自動(dòng)化應(yīng)用已經(jīng)產(chǎn)生的第二維度困境和必然面對(duì)的第三維度風(fēng)險(xiǎn)，借此反思人工智能促進(jìn)公共治理體系和治理能力現(xiàn)代化所需的必要法律保障，進(jìn)而為公共治理領(lǐng)域自動(dòng)化應(yīng)用的制度設(shè)計(jì)明確方向。

(三) 傳統(tǒng)法律應(yīng)對(duì)的局限與失靈

對(duì)于自動(dòng)化決策崛起所帶來(lái)的法律挑戰(zhàn)，世界各國(guó)主要采取了三種傳統(tǒng)方式加以應(yīng)對(duì)： 以個(gè)人數(shù)據(jù)權(quán)為核心展開(kāi)的隱私保護(hù)立法、以因果辨析和流程透明為導(dǎo)向的可解釋性合規(guī)要求，以及覆蓋數(shù)據(jù)處理全過(guò)程的完整履責(zé)鏈條。這種看似完備的“事前—事中—事后”的規(guī)制范式，在實(shí)踐中面臨可行性和可欲性難題： 一方面，法律規(guī)則之于技術(shù)嬗變的更高站位，源于立法者制定規(guī)則時(shí)運(yùn)用的思維和智識(shí)合理性，即立法者是否可以突破當(dāng)前自然科學(xué)以及宗教倫理所框定的籬藩，超前布局應(yīng)對(duì)技術(shù)必然帶來(lái)的權(quán)力異化與權(quán)利式微；但就目前而言，立法者在自動(dòng)化應(yīng)用第一維度和第二維度已經(jīng)完成的知識(shí)積累，還尚不足以應(yīng)對(duì)第三維度自動(dòng)化應(yīng)用可能帶來(lái)的法律挑戰(zhàn)。另一方面，“問(wèn)題驅(qū)動(dòng)型”的立法應(yīng)對(duì)模式并不自然催生令人向往的制度生態(tài)，即便具備技術(shù)可行性的法律規(guī)則，也未必長(zhǎng)期符合相關(guān)主體的合理利益訴求；大眾的狂熱和盲從常因理性的回歸得以修正，而追逐自身利益最大化導(dǎo)致的立場(chǎng)轉(zhuǎn)變，或讓原本就舉步維艱的立法回應(yīng)不堪一擊。在這個(gè)意義上，既有“事前—事中—事后”規(guī)制范式的脆弱性顯而易見(jiàn)——“可欲性”淪為了為達(dá)到“可行性”而進(jìn)行的說(shuō)理手段，但“可行性”卻難以帶來(lái)“可欲性”的法律效果。具體而言，無(wú)論是以個(gè)人數(shù)據(jù)權(quán)為核心展開(kāi)的隱私保護(hù)立法，以代碼公開(kāi)和流程透明為導(dǎo)向的可解釋性合規(guī)要求，還是覆蓋數(shù)據(jù)處理全過(guò)程的完整履責(zé)鏈條，都不具備嚴(yán)格意義上的“規(guī)則圓滿(mǎn)性”，在實(shí)踐中屢被架空。

其一，“告知—選擇框架”廣泛被各國(guó)立法者前置為數(shù)據(jù)處理全周期的“第一閘口”，使得隱私保護(hù)爭(zhēng)議在司法審判實(shí)踐中常以合同糾紛論處。在引人矚目的“刷臉第一案”中，杭州市人民法院判處動(dòng)物園不當(dāng)采集公民生物特征信息，但勝訴的原告郭兵僅就合同利益損失和交通費(fèi)補(bǔ)償獲得了1038元的賠償。這樣的判決結(jié)果顯然無(wú)助于遏制被告動(dòng)物園繼續(xù)“店大欺客”，強(qiáng)推其他“技術(shù)入園”的自動(dòng)化應(yīng)用嘗試。更重要的是，長(zhǎng)篇累牘用戶(hù)協(xié)議下的“告知”實(shí)際上是毫無(wú)誠(chéng)意的“告知”，授權(quán)俘獲機(jī)制下的“選擇”也未必就是真正意義上的“選擇”。(26)姚佳： 《知情同意原則抑或信賴(lài)授權(quán)原則——兼論數(shù)字時(shí)代的信用重建》，載《暨南學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2020年第2期，第48—49頁(yè)?，F(xiàn)行法判定數(shù)據(jù)主體是否因充分“被告知”而做出真實(shí)意思表示“選擇”的審查標(biāo)準(zhǔn)，只是技術(shù)方是否履行了最低信息披露要求，這實(shí)際上是以自動(dòng)化應(yīng)用技術(shù)主體的行為違法性評(píng)價(jià)取代了數(shù)據(jù)主體的法益保護(hù)評(píng)價(jià)，難以對(duì)數(shù)據(jù)主體的隱私侵害提供充分救濟(jì)。

其二，強(qiáng)行代碼公開(kāi)將必然導(dǎo)致知識(shí)產(chǎn)權(quán)保護(hù)和投機(jī)式對(duì)抗方方面面的阻力，可解釋性合規(guī)要求取代算法公開(kāi)成為“退而求其次”的法律選擇。立法者看到的是一個(gè)規(guī)定可解釋性合規(guī)要求就足以讓自動(dòng)化應(yīng)用可解釋的世界，但正是這種不切實(shí)際的理想愿景導(dǎo)致了技術(shù)發(fā)展與法律滯后之間的巨大鴻溝。隨著自動(dòng)化應(yīng)用從第一維度和第二維度逐漸向第三維度轉(zhuǎn)換，機(jī)器學(xué)習(xí)模型和卷積神經(jīng)網(wǎng)絡(luò)的復(fù)雜程度呈指數(shù)級(jí)遞變，就正如再?gòu)?qiáng)勢(shì)的父母也無(wú)法完全預(yù)設(shè)子女的人生選擇那般，一旦進(jìn)入全自動(dòng)更新?lián)Q代的狀態(tài)，自動(dòng)化應(yīng)用的造物主也可能退居次席，成為僅僅掌握底層代碼的“局外人”，甚至對(duì)自動(dòng)化應(yīng)用的脫韁束手無(wú)策。(27)參見(jiàn)李晟： 《略論人工智能語(yǔ)境下的法律轉(zhuǎn)型》，載《法學(xué)評(píng)論》2018年第1期，第98頁(yè)。即便是在自動(dòng)化應(yīng)用復(fù)雜度相對(duì)有限的第一維度和第二維度，考慮到數(shù)據(jù)主體通常不具備相關(guān)理論知識(shí)背景，要就自動(dòng)化應(yīng)用的運(yùn)作機(jī)理與決策方式做出準(zhǔn)確且外行人也能理解的解釋?zhuān)絼跓o(wú)功。更有可能的情況是，信息和技術(shù)的雙重優(yōu)勢(shì)地位必然帶來(lái)監(jiān)管套利的空間，解釋和說(shuō)理的方式最終將完全取決于經(jīng)濟(jì)和政治目標(biāo)，致使數(shù)據(jù)主體在“半哄騙半威嚇”下掉入任人宰割的陷阱。

其三，當(dāng)自動(dòng)化應(yīng)用失靈損害當(dāng)事人利益時(shí)，自動(dòng)化應(yīng)用的使用方未必是唯一應(yīng)當(dāng)承擔(dān)責(zé)任的主體，技術(shù)開(kāi)發(fā)方、數(shù)據(jù)處理方乃至看似中立的平臺(tái)也是潛在的責(zé)任方。(28)參見(jiàn)胡凌： 《平臺(tái)視角中的人工智能法律責(zé)任》，載《交大法學(xué)》2019年第3期，第5頁(yè)。但是，在實(shí)踐中，每一層法律關(guān)系之間，可能存在著環(huán)環(huán)相扣的免責(zé)條款，出于對(duì)當(dāng)事人意思自治的尊重，此類(lèi)條款不宜隨意被強(qiáng)行法排除。此外，理想化的完全履責(zé)鏈條高度依賴(lài)侵權(quán)責(zé)任，其本質(zhì)是基于合同相對(duì)性的信義義務(wù)約定，通常以具有直接近因的法律關(guān)系為限。況且，一旦自動(dòng)化應(yīng)用進(jìn)入第三維度，自動(dòng)化應(yīng)用所依托的非自然人載體將取得獨(dú)立法律地位，(29)參見(jiàn)彭誠(chéng)信、陳吉棟： 《論人工智能體法律人格的考量要素》，載《當(dāng)代法學(xué)》2019年第2期，第52頁(yè)。此時(shí)，傳統(tǒng)的信義義務(wù)關(guān)系又可能陷入自指化悖論——依照數(shù)據(jù)主體要求提供專(zhuān)業(yè)化服務(wù)的自動(dòng)化應(yīng)用，究竟應(yīng)當(dāng)被視為對(duì)其載體享有支配權(quán)的運(yùn)營(yíng)方的代理人，還是為數(shù)據(jù)主體實(shí)現(xiàn)特定目的的代理人？在雙方代理絕對(duì)禁止的情況下，基于信息、知識(shí)和能力的不對(duì)等而產(chǎn)生的信義義務(wù)極有可能出現(xiàn)“指向劈叉”的情況?？偠灾?，功能主義的立法范式，長(zhǎng)期落后于技術(shù)突飛猛進(jìn)帶來(lái)的破壞式創(chuàng)新，夾雜著概念層面的模糊和失序，最終導(dǎo)致了個(gè)人權(quán)利的虛化。

三、 公共治理領(lǐng)域自動(dòng)化應(yīng)用法律法規(guī)的全新面向

以自動(dòng)化應(yīng)用的維度區(qū)分為基礎(chǔ)、以公共治理理論的立場(chǎng)辨析為坐標(biāo)、以傳統(tǒng)法律應(yīng)對(duì)的失靈為警醒，公共治理領(lǐng)域自動(dòng)化應(yīng)用法律規(guī)制的完善方向，可以從宏觀(guān)、中觀(guān)和微觀(guān)三個(gè)層面展開(kāi)。

(一) 宏觀(guān)技術(shù)共治： 以程序透明取代代碼透明

由于缺乏數(shù)據(jù)積累，管理部門(mén)經(jīng)常需要同掌握大數(shù)據(jù)的私營(yíng)企業(yè)或者平臺(tái)合作，這種權(quán)力“外包”顛覆了傳統(tǒng)的權(quán)力專(zhuān)屬原則和正當(dāng)程序原則。(30)參見(jiàn)張凌寒： 《風(fēng)險(xiǎn)防范下算法的監(jiān)管路徑研究》，載《交大法學(xué)》2018年第4期，第49—62頁(yè)。具有準(zhǔn)公權(quán)力的企業(yè)和平臺(tái)橫亙?cè)谡c市場(chǎng)之間，公權(quán)力、私權(quán)力(準(zhǔn)公權(quán)力)和私權(quán)利的多方博弈不僅沒(méi)有給普羅大眾帶來(lái)實(shí)質(zhì)性利好，反而極有可能造成高度技術(shù)化的管理部門(mén)和持“尚方寶劍”的平臺(tái)寡頭對(duì)身處信息弱勢(shì)地位的普通民眾的“輪番算計(jì)”。(31)參見(jiàn)黃尹旭、楊東： 《超越傳統(tǒng)市場(chǎng)力量： 超級(jí)平臺(tái)何以壟斷？——社交平臺(tái)的壟斷源泉》，載《社會(huì)科學(xué)》2021年第9期，第100頁(yè)。外溢出來(lái)的公權(quán)力難以監(jiān)管，卻迅速呈現(xiàn)出私有化、商品化和官僚化的異化趨勢(shì)；生產(chǎn)數(shù)據(jù)和積累行為剩余，或?qū)⒊蔀閭€(gè)體受眾在“監(jiān)視資本主義”下的唯一價(jià)值。自動(dòng)化應(yīng)用構(gòu)建于海量個(gè)人數(shù)據(jù)的處理之上，而個(gè)人數(shù)據(jù)處理活動(dòng)包含了數(shù)據(jù)主體、數(shù)據(jù)處理主體以及社會(huì)公眾三重利益。從數(shù)據(jù)安全的角度來(lái)看，自動(dòng)化應(yīng)用規(guī)制的微妙性體現(xiàn)在，當(dāng)數(shù)據(jù)處理主體以壓倒性的技術(shù)和信息優(yōu)勢(shì)侵蝕數(shù)據(jù)主體的合法利益時(shí)，政府不宜直接介入數(shù)據(jù)主體和數(shù)據(jù)處理主體之間的利益分配，而只能以社會(huì)公眾利益為導(dǎo)向?qū)?shù)據(jù)主體和數(shù)據(jù)處理主體之間的利益失衡進(jìn)行力所能及的糾偏。依照計(jì)算風(fēng)險(xiǎn)規(guī)避效用的漢德公式，對(duì)管理部門(mén)“公共使命”和平臺(tái)企業(yè)“社會(huì)責(zé)任”的籠統(tǒng)強(qiáng)調(diào)，遠(yuǎn)不如反其道而行之直接從代碼入手、從源頭解決問(wèn)題具有更高法益。如何以權(quán)利保護(hù)和責(zé)任落實(shí)為核心、以“技術(shù)倒逼技術(shù)”為手段，讓國(guó)家公權(quán)力與社會(huì)私權(quán)力所形成的在一定程度上“去中心化”的共謀治理機(jī)制更加貼近人民群眾對(duì)技術(shù)變革的理想期盼，是未來(lái)立法工作的重中之重。

無(wú)論是哪個(gè)維度的自動(dòng)化應(yīng)用，算法程序的運(yùn)行皆以代碼為基礎(chǔ)，因此，通過(guò)代碼對(duì)自動(dòng)化應(yīng)用實(shí)施逆向管理在理論上可行。外觀(guān)上，代碼是具備技術(shù)中立性特征的系統(tǒng)語(yǔ)言，但這并不意味著代碼的組合就不能進(jìn)行價(jià)值負(fù)載。實(shí)際上，基于代碼的自動(dòng)化應(yīng)用，或多或少包含了所有者、利用方、程序員以及數(shù)據(jù)集本身的私心與偏見(jiàn)?！胺ü賹?duì)于法律用語(yǔ)不可附加任何意義，毋寧須以受法律及立法者拘束的方式，來(lái)發(fā)現(xiàn)法律的語(yǔ)義內(nèi)容”，(32)[德] 卡爾·拉倫茨： 《法學(xué)方法論》，陳愛(ài)娥譯，商務(wù)印書(shū)館2003年版，第23頁(yè)。但是，自動(dòng)化應(yīng)用的創(chuàng)造者和改造者，是清一色未經(jīng)過(guò)任何系統(tǒng)法律訓(xùn)練的程序員，他們將鮮活的語(yǔ)義轉(zhuǎn)化為毫無(wú)情感的代碼，進(jìn)一步完成機(jī)器模型的建立，使得自動(dòng)化應(yīng)用背后的計(jì)算機(jī)語(yǔ)言有時(shí)不能精確地轉(zhuǎn)譯規(guī)則的實(shí)際含義，甚至偶爾還會(huì)因?yàn)槌绦騿T的個(gè)人好惡、理解偏差使之與原本預(yù)期相去甚遠(yuǎn)。以美國(guó)公共福利系統(tǒng)的失策為例，美國(guó)科羅拉多州公務(wù)員曾經(jīng)將“無(wú)家可歸”錯(cuò)誤解讀為“行乞?yàn)樯保沟帽緫?yīng)獲得政府救濟(jì)的流浪漢們被自動(dòng)化審核系統(tǒng)拒之門(mén)外。(33)Pasquale F.， The Black Box Society， Harvard University Press， 2015， p.165.在代碼化過(guò)程中因語(yǔ)言理解和事實(shí)認(rèn)定產(chǎn)生的巨大差異，以過(guò)失和疏忽為構(gòu)成要件的一般侵權(quán)責(zé)任以及以信義義務(wù)為核心的事后審查機(jī)制都于事無(wú)補(bǔ)，只能通過(guò)更精確的代碼語(yǔ)言來(lái)減少轉(zhuǎn)譯過(guò)程中的偏差和耗散。在宏觀(guān)層面，與其讓算法“透明”，不如讓程序員的代碼寫(xiě)作過(guò)程“透明化”；可以考慮以技術(shù)手段構(gòu)建專(zhuān)屬于程序員群體的闡釋和說(shuō)理場(chǎng)域，通過(guò)交流和相互探討的方式將模糊的概念精確化，使得自動(dòng)化應(yīng)用底層代碼中的邏輯連鎖推論，可以更好地適用于意義涵攝，并通過(guò)完善中間步驟的方式更為準(zhǔn)確地定義終局概念。

(二) 中觀(guān)價(jià)值位階： 場(chǎng)景理論助推技術(shù)性規(guī)制

自動(dòng)化應(yīng)用對(duì)公共治理的介入，需要對(duì)各類(lèi)信息進(jìn)行數(shù)據(jù)化改造，在克服表達(dá)障礙后，主要依據(jù)概率計(jì)算而非演繹推理的基本邏輯來(lái)行使公共職權(quán)。在機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的加持下，第二維度的算法自動(dòng)化已經(jīng)可以熟練進(jìn)行法律規(guī)則適用的三段論推理乃至辯證推理，但當(dāng)下第三維度的超級(jí)自動(dòng)化即便通過(guò)模型累積遞歸、交叉話(huà)語(yǔ)博弈也難以做出公正的價(jià)值判斷。理論上，價(jià)值判斷的命題群可被結(jié)構(gòu)性改造以實(shí)現(xiàn)整體客觀(guān)性，但不同的應(yīng)用場(chǎng)景和語(yǔ)境必然對(duì)應(yīng)不同次序、不同權(quán)重的價(jià)值元規(guī)則。在技術(shù)共性規(guī)則之外，法律應(yīng)就不同公共治理領(lǐng)域(例如衛(wèi)生、醫(yī)療、教育、司法、社會(huì)保障等)所面對(duì)的技術(shù)社會(huì)化應(yīng)用場(chǎng)景，分門(mén)別類(lèi)地填補(bǔ)具體的、顆粒度更細(xì)的法律規(guī)則以實(shí)現(xiàn)公共治理的提質(zhì)增效，(34)參見(jiàn)唐林垚： 《公共衛(wèi)生領(lǐng)域算法治理的實(shí)現(xiàn)途徑及法律保障》，載《法學(xué)評(píng)論》2021年第3期，第95—107頁(yè)。場(chǎng)景理論介入自動(dòng)化應(yīng)用規(guī)制，具有了合理性基礎(chǔ)。

場(chǎng)景理論提倡以情境為導(dǎo)向考察自動(dòng)化應(yīng)用的風(fēng)險(xiǎn)水平，相應(yīng)制定與風(fēng)險(xiǎn)程度相一致的規(guī)制策略和規(guī)則，亦即“貼合現(xiàn)實(shí)的法律應(yīng)對(duì)”，其理論根源是傳播學(xué)家梅羅維茨·約書(shū)亞(Meyrowitz Joshua)的情境理論(Contingency Theory)。(35)See Meyrowitz J.， No Sense of Place: The Impact of Electronic Media on Social Behavior， Oxford University Press， 1986， p.1-12.海倫·尼森鮑姆(Helen Nissenbaum)等人將情境理論延伸至信息科學(xué)領(lǐng)域，發(fā)展出了基于“場(chǎng)景一貫性”的社群主義隱私產(chǎn)權(quán)理論。(36)See Nissenbaum H.， Privacy as Contextual Integrity， 79 Washington Law Review 119， 119 (2004).其提倡結(jié)合參與者、數(shù)據(jù)類(lèi)型和流動(dòng)樣態(tài)三大關(guān)鍵要素，判斷自動(dòng)化應(yīng)用的風(fēng)險(xiǎn)是否超過(guò)數(shù)據(jù)主體的合理預(yù)期。美國(guó)《消費(fèi)者隱私權(quán)利保護(hù)法》與歐盟《通用數(shù)據(jù)保護(hù)條例》是將場(chǎng)景理論引入立法的典型代表，前者對(duì)“場(chǎng)景自洽”進(jìn)行了專(zhuān)章規(guī)定，認(rèn)為個(gè)人隱私受侵害程度同因違反信息傳播規(guī)則導(dǎo)致的場(chǎng)景破壞程度息息相關(guān)；后者要求自動(dòng)化應(yīng)用的利用方在事前考察數(shù)據(jù)處理活動(dòng)的“性質(zhì)、范圍、語(yǔ)境與目的”，并主動(dòng)向監(jiān)管者提交潛在風(fēng)險(xiǎn)的應(yīng)對(duì)措施。近年來(lái)，場(chǎng)景理論還延伸到了人臉識(shí)別技術(shù)的法律規(guī)制當(dāng)中，為網(wǎng)格和網(wǎng)絡(luò)作為治理之理想類(lèi)型的二分提供了理論基礎(chǔ)。(37)參見(jiàn)胡凌： 《刷臉： 身份制度、個(gè)人信息與法律規(guī)制》，載《法學(xué)家》2021年第2期，第41頁(yè)。

不過(guò)，上述立法實(shí)踐，均未跳脫出傳統(tǒng)的自動(dòng)化應(yīng)用的規(guī)制思維，不僅未能真正實(shí)現(xiàn)場(chǎng)景理論介入自動(dòng)化應(yīng)用規(guī)制本應(yīng)帶來(lái)的監(jiān)管效率提升，甚至起到了同預(yù)期完全相反的效果。《消費(fèi)者隱私權(quán)利保護(hù)法》所規(guī)定的“場(chǎng)景自洽”主要作用于傳統(tǒng)的“告知—選擇”框架，在實(shí)踐中反而導(dǎo)致了自動(dòng)化應(yīng)用“目的拘束原則”的擴(kuò)大解釋?zhuān)?38)參見(jiàn)郭春鎮(zhèn)： 《對(duì)“數(shù)據(jù)治理”的治理——從“文明碼”治理現(xiàn)象談起》，載《法律科學(xué)》2021年第1期，第58頁(yè)。擴(kuò)大了某些自動(dòng)化應(yīng)用和個(gè)人數(shù)據(jù)處理活動(dòng)的合法性基礎(chǔ)，使得自動(dòng)化應(yīng)用的流弊變本加厲?！锻ㄓ脭?shù)據(jù)保護(hù)條例》的相關(guān)規(guī)定，本來(lái)旨在明確自動(dòng)化應(yīng)用利用方的風(fēng)險(xiǎn)管理責(zé)任，以區(qū)分情境適當(dāng)增強(qiáng)或降低外部執(zhí)法威懾的手段，保障自動(dòng)化應(yīng)用的風(fēng)險(xiǎn)“可防可控”；但是，過(guò)于教條的法律規(guī)定帶來(lái)了“執(zhí)行難”的問(wèn)題，歐盟各成員國(guó)依照《通用數(shù)據(jù)保護(hù)條例》制定本國(guó)信息保護(hù)法時(shí)，只能著眼于依照情境適當(dāng)強(qiáng)化或削弱自動(dòng)化應(yīng)用利用方的信息披露義務(wù)，并同步賦予數(shù)據(jù)主體是否繼續(xù)授權(quán)的權(quán)利，這就又回到了毫無(wú)新意的“告知—選擇”框架上。

回到自動(dòng)化應(yīng)用的本質(zhì)，無(wú)論是第一維度的自然人決策輔助，第二維度的人機(jī)交互決策，還是第三維度的高等自動(dòng)化，自動(dòng)化應(yīng)用必然會(huì)因?yàn)檫\(yùn)用主體的不同、針對(duì)對(duì)象的不同以及所涉及問(wèn)題的不同具有大相徑庭的性質(zhì)，就此而論，場(chǎng)景理論介入自動(dòng)化應(yīng)用規(guī)制的根本目的，應(yīng)當(dāng)是根據(jù)不同場(chǎng)景確定不同的規(guī)制方式。由于自動(dòng)化應(yīng)用的風(fēng)險(xiǎn)與日俱增且難以被當(dāng)事人察覺(jué)，不同的風(fēng)險(xiǎn)場(chǎng)景“依其位階衡量輕重”的規(guī)則設(shè)計(jì)需以系統(tǒng)化構(gòu)筑技術(shù)風(fēng)險(xiǎn)管理體系為目標(biāo)，將主要風(fēng)險(xiǎn)管理責(zé)任配置給自動(dòng)化應(yīng)用的使用方、次要風(fēng)險(xiǎn)管理責(zé)任配置給相關(guān)管理部門(mén)，實(shí)現(xiàn)齊心共治、多措并舉的合力局面。公共價(jià)值管理理論學(xué)者雖然對(duì)自動(dòng)化應(yīng)用的評(píng)價(jià)褒貶不一，但大多都認(rèn)可辯證地看待自動(dòng)化應(yīng)用的社會(huì)效益。從場(chǎng)景理論的視角來(lái)看，不同的場(chǎng)景，一定對(duì)應(yīng)著不同的自動(dòng)化應(yīng)用的“社會(huì)最佳活動(dòng)水平”，場(chǎng)景化法律規(guī)則，正是以寬嚴(yán)相濟(jì)的動(dòng)態(tài)規(guī)范方式，促使自動(dòng)化應(yīng)用無(wú)限趨近符合現(xiàn)實(shí)情況的“社會(huì)最佳活動(dòng)水平”，借此來(lái)實(shí)現(xiàn)公共效益的“帕累托最優(yōu)”。在這個(gè)意義上，法律是技術(shù)領(lǐng)域國(guó)家宏觀(guān)調(diào)控的重要手段，動(dòng)態(tài)的風(fēng)險(xiǎn)控制機(jī)制是確保自動(dòng)化應(yīng)用“技術(shù)向善”不可或缺的法律保障。

(三) 微觀(guān)權(quán)利保障： 避免自然人決策名存實(shí)亡

目前，公共治理領(lǐng)域的自動(dòng)化應(yīng)用處于從第二維度向第三維度的過(guò)渡階段，具體表現(xiàn)在： 自動(dòng)化系統(tǒng)占有、處理承載著社會(huì)利益的大數(shù)據(jù)，從單純的技術(shù)工具逐步升級(jí)為通過(guò)嵌入社會(huì)權(quán)力結(jié)構(gòu)發(fā)揮作用的“準(zhǔn)公權(quán)力”。隨之而來(lái)的格局很可能是，自動(dòng)化系統(tǒng)的應(yīng)用范圍越來(lái)越廣，專(zhuān)屬于人類(lèi)的決策空間和社會(huì)溝通被漸次壓縮： 公共治理和服務(wù)中的各個(gè)環(huán)節(jié)越來(lái)越多地被算法事先預(yù)設(shè)，通過(guò)大數(shù)據(jù)反映出來(lái)的趨勢(shì)和評(píng)價(jià)會(huì)限制和迷惑自然人的推理和判斷，也必然會(huì)削弱管理部門(mén)的自由裁量權(quán)。本來(lái)希望通過(guò)技術(shù)來(lái)確保公共治理的中立和客觀(guān)，結(jié)果卻很可能完全抹除自然人獨(dú)有的通時(shí)合變的人情味，讓冷漠、機(jī)械、獨(dú)裁的自動(dòng)化決策大行其道，(39)參見(jiàn)許中緣： 《論智能機(jī)器人的工具性人格》，載《法學(xué)評(píng)論》2018年第5期，第153頁(yè)。同新公共治理理論所倡導(dǎo)的“公民權(quán)理念觀(guān)”和公共價(jià)值管理理論所強(qiáng)調(diào)的“協(xié)商機(jī)制”都背道而馳。反過(guò)來(lái)，自動(dòng)化系統(tǒng)的專(zhuān)斷又將逐漸影響大眾群體的行為規(guī)范，在人機(jī)相互適應(yīng)的過(guò)程中不斷強(qiáng)化“算法絕對(duì)主義”。職是之故，法律首要任務(wù)，從社會(huì)整體利益的角度防范公共治理領(lǐng)域中的自動(dòng)化霸權(quán)，亦即，從宏觀(guān)層面防止自然人決策名存實(shí)亡。

早在自動(dòng)化應(yīng)用的第一維度時(shí)期，人們就已經(jīng)意識(shí)到，只有在決定自身利益的關(guān)鍵事務(wù)上享有積極參與的權(quán)利，才能在知識(shí)、經(jīng)驗(yàn)和道德上維持一以貫之的卓越。(40)參見(jiàn)唐林垚： 《〈個(gè)人信息保護(hù)法〉語(yǔ)境下“免受算法支配權(quán)”的實(shí)現(xiàn)路徑與內(nèi)涵辨析》，載《湖北社會(huì)科學(xué)》2021年第3期，第135頁(yè)。出于對(duì)機(jī)器超越人類(lèi)的無(wú)形恐懼，歐盟立法者在1995年的歐盟《數(shù)據(jù)保護(hù)指令》第15條率先規(guī)定了“脫離自動(dòng)化決策權(quán)”的雛形：“數(shù)據(jù)主體享有免受基于用戶(hù)側(cè)寫(xiě)的完全自動(dòng)化決策的權(quán)利?！痹诖撕蟮?0年中，雖然自動(dòng)化應(yīng)用已從第一維度向第二維度躍遷，但“脫離自動(dòng)化決策權(quán)”在各成員國(guó)法院的審判實(shí)踐中幾乎從未發(fā)揮任何作用，(41)雖然“脫離自動(dòng)化決策之訴”客觀(guān)存在，但是雙方的爭(zhēng)論焦點(diǎn)是決策是否完全由自動(dòng)化應(yīng)用做出，而非“脫離自動(dòng)化決策權(quán)”的行權(quán)方式與行權(quán)效果。See Cour de Cassation， Chambre Criminelle， Audience publique No de pourvoi， Publié au bulletin， 1998， p.97.被戲稱(chēng)為歐盟《數(shù)據(jù)保護(hù)指令》中的“二等權(quán)利”。即便如此，2018年的歐盟《通用數(shù)據(jù)保護(hù)條例》第22條概括繼承了《數(shù)據(jù)保護(hù)指令》第15條，還進(jìn)一步拓展了“脫離自動(dòng)化決策權(quán)”的行權(quán)對(duì)象和適用范圍，賦予相關(guān)人完全脫離自動(dòng)化應(yīng)用對(duì)其做出的具有法律后果的決策的權(quán)利，足見(jiàn)“脫離自動(dòng)化決策權(quán)”在自動(dòng)化應(yīng)用從第二維度向第三維度躍遷時(shí)代背景下的特殊意義。

為了使“脫離自動(dòng)化決策權(quán)”脫離“二等權(quán)利”之稱(chēng)謂，歐盟各成員國(guó)通常將《通用數(shù)據(jù)保護(hù)條例》第22條作為賦權(quán)性條款解讀，但由于普遍缺乏對(duì)第三維度自動(dòng)化應(yīng)用的準(zhǔn)確理解，原本就過(guò)于抽象的“脫離自動(dòng)化決策權(quán)”在實(shí)踐中廣泛存在與“更正權(quán)”競(jìng)合之表象、與“獲解釋權(quán)”補(bǔ)強(qiáng)之曲解以及與“被遺忘權(quán)”混同之誤判。界定“脫離自動(dòng)化決策權(quán)”的內(nèi)涵應(yīng)當(dāng)回歸自動(dòng)化應(yīng)用的維度劃分，“在基于數(shù)據(jù)庫(kù)編碼的計(jì)算機(jī)自動(dòng)化場(chǎng)景為脫離數(shù)據(jù)采集，在基于機(jī)器學(xué)習(xí)的算法自動(dòng)化場(chǎng)景為脫離用戶(hù)側(cè)寫(xiě)，在基于神經(jīng)網(wǎng)絡(luò)的超級(jí)自動(dòng)化場(chǎng)景為脫離平臺(tái)交互”。(42)唐林垚： 《“脫離算法自動(dòng)化決策權(quán)”的虛幻承諾》，載《東方法學(xué)》2020年第6期，第18頁(yè)。在“更正權(quán)”“獲解釋權(quán)”和“被遺忘權(quán)”之外，公共治理學(xué)者還提出了“陳情權(quán)”“離線(xiàn)權(quán)”和“注意力保護(hù)權(quán)”等概念，這些形形色色的具體權(quán)利，既是“脫離自動(dòng)化決策權(quán)”的細(xì)化表達(dá)，也是在自動(dòng)化應(yīng)用大行其道的背景下，以更高程度的人類(lèi)干預(yù)取代較低程度的人工介入的理性呼吁?？傊?，自動(dòng)化應(yīng)用的維度躍遷，亟需微觀(guān)層面的新型個(gè)體權(quán)利予以應(yīng)對(duì)；堅(jiān)持問(wèn)題導(dǎo)向和目標(biāo)導(dǎo)向、圍繞“促進(jìn)人的全面發(fā)展”構(gòu)建權(quán)利簇，正是“以良法促進(jìn)發(fā)展、保障善治”的題中之意。

四、 結(jié) 語(yǔ)

公共治理領(lǐng)域的自動(dòng)化應(yīng)用，完全不同于私人部門(mén)的自動(dòng)化應(yīng)用。傳統(tǒng)侵權(quán)責(zé)任規(guī)定和信義義務(wù)創(chuàng)設(shè)，足以應(yīng)對(duì)大多數(shù)私人領(lǐng)域的自動(dòng)化妨害，基本能在合同相對(duì)方的信義義務(wù)框架內(nèi)解決問(wèn)題。但是，公共治理領(lǐng)域的自動(dòng)化失控，卻極有可能給整個(gè)社會(huì)帶來(lái)類(lèi)似環(huán)境污染一樣的“公共妨害”，其本質(zhì)是技術(shù)外部性擴(kuò)散所引發(fā)的社會(huì)成本向廣大弱勢(shì)群體的不合理轉(zhuǎn)嫁，若不加以控制，定然會(huì)隨著公共數(shù)據(jù)體系的污染日趨積重難返；以當(dāng)代公共治理理論已確立的規(guī)范價(jià)值作為對(duì)標(biāo)，跨學(xué)科對(duì)公共治理領(lǐng)域自動(dòng)化應(yīng)用的動(dòng)態(tài)法律思考迫在眉睫。

“法者，治之端也。”法律的終極原因是社會(huì)福利，技術(shù)亦然。自動(dòng)化應(yīng)用介入現(xiàn)代化治理的持續(xù)與有序，有待整合社會(huì)各方力量，形成跨領(lǐng)域的、立體的協(xié)同合作體系來(lái)推動(dòng)技術(shù)和法律的共同演進(jìn)。(43)參見(jiàn)彭中禮： 《智慧法治： 國(guó)家治理能力現(xiàn)代化的時(shí)代宣言》，載《法學(xué)論壇》2020年第3期，第29頁(yè)。在這個(gè)協(xié)同體系中，社會(huì)公眾利益擁有壓倒性考量，而權(quán)力制約和權(quán)利保護(hù)應(yīng)共存并行，平衡自動(dòng)化應(yīng)用載體的內(nèi)部治理系統(tǒng)和外部監(jiān)察制度，既是實(shí)現(xiàn)以“智”提“質(zhì)”治理的重要基石，也是用新發(fā)展理念引領(lǐng)發(fā)展全局的內(nèi)在要求。如此這般，方能真正促進(jìn)全面依法治國(guó)的制度優(yōu)勢(shì)與勢(shì)在必行的技術(shù)治理之間的交流與相互增益。