文/張凌寒

在人工智能時代，自動化決策嵌入政府的行政治理中，撼動了傳統(tǒng)行政活動的運行規(guī)律和基本范式。算法自動化決策給傳統(tǒng)行政正當程序帶來了挑戰(zhàn)。更重要的是，算法可以提前預測風險，進而調(diào)配行政資源，這一活動卻完全不受正當程序的控制。以禁飛名單為例，算法根據(jù)既往違法人員的特征，預測高風險人群并禁止其登上飛機。換句話說，被禁飛的人并非已經(jīng)違法而是有違法風險。但是，直到被阻止登上飛機之前，公民并不知曉其被列入名單，也不知曉被列入名單的原因與過程。保證行政活動可信和正當?shù)男姓敵绦蛎媾R失靈的風險。在算法自動化決策逐步廣泛深度嵌入行政活動的背景下，如何堅持、修正和發(fā)展正當程序原則是亟待研究的重大議題。

算法治理嵌入行政活動的雙重效應

算法自動化決策加強了行政機關對治理對象信息處理分析能力，產(chǎn)生了行政權力的增強效應。同時，算法自動化決策使正當程序控制失靈。此消彼長下，形成了“權力—權利”失衡的格局。

（一）算法嵌入行政治理的行政權力增強效應

算法自動化決策的應用使得行政機關與治理對象的信息不對稱得到了極大緩解，有效增強了政府的權力運行的廣度、深度和密度。首先，政府收集的信息數(shù)量和質(zhì)量得到了極大提高。海量信息有效助力于行政檢查、行政命令等多種行政活動。其次，政府處理、輸出信息的能力增強，因此行政執(zhí)法力度與強度也遠強于過去。最后，政府通過算法自動化決策對行政活動大數(shù)據(jù)進行分析，預測評估行政相對人的風險指標，在違規(guī)發(fā)生之前進行干預。算法自動化決策成為行政權力實現(xiàn)和有效運行的能源和催化劑，也在此基礎上強化了其說服權力行使對象的能力。

（二）算法應用導致的行政正當程序失靈效應

算法自動化決策與行政正當程序的沖突

算法自動化決策的不透明性遮蔽了行政公開原則，算法設計運行的技術壟斷架空了公眾參與原則，算法決策黑箱無法為相對人提供理由說明，算法自動化決策與行政正當程序產(chǎn)生了嚴重沖突。

（一）行政正當程序制度的信息工具功能

從信息論角度觀察，正當程序制度實際上是一種信息工具，通過在政府與行政相對人之間建立信息溝通機制，緩解行政相對人的信息不對稱。正當程序制度的核心內(nèi)容包含著行政活動前的“信息發(fā)送”工具、行政活動中的“信息溝通”工具、行政行為后的“信息糾正”工具。盡管信息不對稱無法最終消除，但通過正當程序“發(fā)送信息”是法律對行政行為的基本合法性要求。

然而，行政正當程序的信息發(fā)送功能由于算法自動化決策阻礙無法實現(xiàn)。無論是反應型算法壓縮行政程序各個環(huán)節(jié)造成行政正當程序的缺省，還是預測型算法直接作為內(nèi)部決策規(guī)避行政正當程序，最終均導致行政相對人無法接收到行政機關通過行政正當程序發(fā)送的信息。具體而言，尤其以行政公開原則、公眾參與原則與說明理由規(guī)則為甚。

（二）算法不透明遮蔽行政公開原則

算法導致的行政公開原則缺失可分為兩類原因：不愿公開與公開不能。第一類原因是算法的采購、設計與運行，甚至算法的存在本身，政府基于各種考慮可公開而不愿公開。第二類原因是“算法黑箱”造成的公開不能：數(shù)據(jù)收集由于公共利益豁免知情同意規(guī)則而不透明、算法決策過程由于商業(yè)秘密保護而不公開、數(shù)據(jù)分析結果與決策之間轉(zhuǎn)換不公布。

算法不透明可能由于政府嚴重的技術依賴形成惡性循環(huán)。這進一步導致了某個專門的算法系統(tǒng)長期壟斷某行政部門的行政活動技術支持，更加缺乏來自社會公眾的監(jiān)督。因此，調(diào)和算法自動化決策與行政信息公開的原則需平衡三方利益：要求企業(yè)披露算法的相關信息，又不損害商業(yè)秘密和競爭優(yōu)勢，同時還能夠確保公眾監(jiān)督。

（三）技術壟斷架空公眾參與原則

公眾參與原則的核心理念是“聽取公眾意見”：第一，公眾應有權利參與行政活動，這體現(xiàn)了正當程序的公共意志形成功能；第二，在具體行政行為中，應充分聽取當事人的陳述和申辯。算法自動化決策系統(tǒng)由私營公司“技術壟斷”，因此，公眾的參與權難以得到保障。

在算法廣泛嵌入行政活動的背景下，公眾參與原則面臨兩重障礙。第一，公眾參與行政活動面臨私營企業(yè)技術壟斷的障礙。公眾沒有機會在行政活動中融入自身的價值判斷和權利主張，無法實現(xiàn)對行政權力濫用的程序性控制。第二，自動化（半自動）行政行為根據(jù)算法設定的規(guī)則運行，這一過程由行政機關與技術公司壟斷，沒有為行政相對人提供陳述與申辯的機會。算法自動化決策既回避了行政決策的公眾參與和聽證，也消解了具體行政行為層面的當事人陳述和申辯的程序，造成了公眾參與原則的缺失。

類型分布分別是感染性職業(yè)暴露47例次，其中黏膜暴露4例次(8.16 %)，銳器傷43例次(87.76%)；化學性職業(yè)暴露1例次(2.04%)；其他職業(yè)暴露1例次(2.04%)。

（四）算法黑箱無法提供理由說明

預測型算法作出行政決策的時點是在行政對象做出行為之前，依據(jù)是大數(shù)據(jù)的相關關系而非因果關系，因此無法提供理由說明，可能違反法律面前人人平等的原則。而且，算法預測準確率無法保證，一旦出錯可能造成無法挽回的損失。

算法深度學習與相關可能存在的預測失真問題由于算法自動化決策無法提供理由說明，算法決策缺乏有效的法律程序控制，易于不斷自我肯定與強化，造成行政行為持續(xù)性錯誤與相對人權利受損。

基于行政信息公開原則增強算法自動化決策透明度

（一）算法嵌入行政活動背景下行政信息公開原則的回歸

首先，應增強算法自動化決策的可見性，并將其作為行政信息公開的基本要求。政府應公布政府部門自動化決策清單，讓公眾知曉哪些行政活動有自動化決策的參與，了解算法自動化決策可能帶來的權利影響。

其次，算法作出決策的基本規(guī)則和因素權重，應該對公眾與社會公開。各類智能機器、評估模型等自動化設備的設置及啟用以及運作方式，都由行政機關發(fā)出指示，行政機關仍是行政程序的主宰，所作出的表示或決定，都是行政機關的行為，具有法效意思及規(guī)制效力，性質(zhì)上仍為具體行政行為。形式的改變并不能豁免政府信息公開的義務。

以上是行政信息公開原則對算法自動化決策應用于行政活動的基本要求。除此之外，行政信息公開原則面臨著算法黑箱的挑戰(zhàn)，需作出相應的調(diào)整。

（二）行政信息公開原則在算法數(shù)據(jù)收集環(huán)節(jié)的貫徹

首先，行政機關收集數(shù)據(jù)同樣受到“合法、正當、必要”原則的限制，應在行政活動中逐漸將此類規(guī)則細化。以新冠疫情防控為例，無論是健康碼對個人敏感數(shù)據(jù)的大規(guī)模收集與使用，還是大數(shù)據(jù)對公民的追蹤定位，包括社區(qū)出入居民的信息登記，均應有公共衛(wèi)生緊急狀態(tài)作為正當性基礎。在由緊急狀態(tài)恢復為日常狀態(tài)之后，即使疫情狀態(tài)防控常態(tài)化，也應避免對公民個人數(shù)據(jù)的收集與追蹤常態(tài)化。

其次，盡管基于公共利益考慮無法要求政府再次獲得數(shù)據(jù)個體的知情同意，但起碼應在平臺向個體收集數(shù)據(jù)時，作出“不利行為”通知。例如，應提示行政相對人，自動化決策結果參考了個人的公開信息、犯罪記錄、信息記錄，甚至可能是社交媒體使用情況。

此外，法律應及時劃定政府獲取第三方平臺數(shù)據(jù)的邊界，防止政府以公共利益為名無限度獲取平臺通過知情同意收集的用戶數(shù)據(jù)，并規(guī)定政府做好相關的數(shù)據(jù)安全保障工作。

（三）行政信息公開原則與保護算法商業(yè)秘密的衡平

堅持行政公開原則，必須衡平商業(yè)秘密保護與公民正當權利之間的價值位階。一套算法系統(tǒng)可對多個行政相對人產(chǎn)生法律效力，一旦發(fā)生錯誤可能產(chǎn)生彌散化的損害后果。而具備正當性的規(guī)則應具有可預測性，這種對規(guī)則的知情權既是一種人權，也是可依據(jù)我國憲法推導出的公民權利。相對于私營公司的商業(yè)秘密保護，顯然價值位階更高。

算法自動化決策系統(tǒng)信息公開的不足會導致民眾對政府公權力信任的不足，民眾信任的缺失可能導致更多的上訴，抵消掉算法系統(tǒng)帶來的行政效率提高效應。因此，未來在政府內(nèi)部增加專業(yè)力量，由既懂行政規(guī)則又懂技術的人員來監(jiān)督算法設計運行，方為解決之道。

（四）行政信息公開與算法決策輸出的說明

行政信息公開應包括該行政決策結果在何種程度參考了算法自動化決策結果的信息。對于某個具體的行政行為，算法自動化決策可能起到不同程度的作用：直接成為生效的行政行為或需要進行進一步人工審核。在此意義上，算法自動化決策對具體行政行為的干預程度和行政決策的可逆性應向行政相對人公開?？紤]到行政權力有著諸多不可讓渡的空間，并且涉及國家等基本概念的存系，應盡量減少算法直接作出行政決定的情況。

同時，應尤其注意算法自動化決策結果對技術弱勢群體的說明方式。應在信息公開環(huán)節(jié)同樣照顧老人、受教育程度較低人群等技術弱勢群體，以簡明（例如圖畫）方式對公眾說明算法自動化決策。

基于公眾參與原則進行算法影響評估

行政正當程序中的公眾參與原則具有重要的實體權利保障功能，應從加強公眾參與與恢復相對人陳述和申辯權利兩個方面，發(fā)展算法治理時代的行政正當程序。

（一）以算法影響評估保證公眾參與算法系統(tǒng)訂購與使用

算法影響評估是既有行政制度資源的發(fā)展，可參考環(huán)境影響評估等類似的相關制度。政府使用算法自動化決策前，行政相對人、研究人員和決策者共同參與影響評估。這為公眾提供了算法系統(tǒng)部署前發(fā)現(xiàn)問題、表達訴求主張，甚至反對使用算法的機會。這一過程本身就是向社會提供算法系統(tǒng)信息的機制，能夠讓公眾更加了解情況、增加算法透明度，并讓政府部門、算法研發(fā)人員和公眾進行富有成效的對話。

算法自動化決策的評估程序，不僅是公眾參與的有效路徑，也是算法設計者和使用者（平臺或政府）進行自我監(jiān)管的重要方式。例如，我國中央網(wǎng)信辦要求算法應用進行自我安全評估。舉輕以明重，由政府部門購買使用的算法自動化決策，應在投入使用并切實影響公民權利之前，經(jīng)過公眾參與的算法評估程序。

（二）將通知與申辯環(huán)節(jié)作為算法決策生效的必經(jīng)程序

首先，應避免全自動行政行為直接對當事人發(fā)生法律效力，保證行政相對人可以收到算法自動化決策的有效通知，并將其作為行政行為生效的必經(jīng)程序。當算法作出了不利于當事人的決定時，按照正當程序應該提供有效通知。算法自動化決策應以對相對人的及時通知作為后續(xù)行政活動展開的基礎，公民可以主張相關內(nèi)容的更改、撤銷或者無效，方可為公民提供后續(xù)的救濟路徑。

其次，應保證當事人有陳述和申辯的權利，確保公民獲得人工干預算法自動化決策的權利。算法自動化決策做出具體行政行為的情況下，具體個案的聽證成本極高，并不符合成本—收益分析法。歐盟《通用數(shù)據(jù)保護條例》（GDPR）第22條為類似境遇的相對人提供了出路：相對人具有不受完全的自動化決策支配的權利，以及獲得人為干預的權利。該條款的目的旨在保護數(shù)據(jù)主體的利益，保障數(shù)據(jù)主體可以參與對其重要的決策。

基于說明理由規(guī)則創(chuàng)設算法解釋權

由于數(shù)據(jù)來源的不透明、算法黑箱等因素，算法自動化決策的過程難以為個體所知曉。算法治理時代應在適用算法自動化決策時堅持并修正行政行為說明理由的制度。

（一）發(fā)展算法解釋權說明具體行政行為的理由

各國的立法者與學界已達成共識，自動化決策的算法應當具備可解釋性，使得用戶有權知曉決策的原因。

如果將算法自動化決策看作是專家論證，行政決策的科學性也必然要求建立行政決策專家咨詢的說明理由制度。算法自動化決策經(jīng)常以“專家決策輔助系統(tǒng)”的形式參與行政決策，行政部門應以其理性解釋回應公眾疑問，這既是對行政決策理性內(nèi)涵的解釋，也是對公眾的一種負責任的回應。無法提供理由說明的專家意見直接影響行政決策的效力。在司法實踐中，以專家咨詢結論說理不充分為由否定行政決策的個案并不鮮見。

算法解釋權已經(jīng)從理論逐步發(fā)展為各國的具體制度。法國2016年頒布實施的《數(shù)字共和國法》規(guī)定了較為具體的針對公共部門的算法解釋權。加拿大公共部門算法的自動化決策指令在2020年4月生效，要求使用算法決策的公共部門應就其決策，甚至包括決策中使用的變量，向受影響的個人提供有意義的解釋?？梢姡蛐姓鄬θ藗€體提供具體的算法解釋具有不可替代的制度價值，并逐漸成為各國實踐。算法影響評估制度并不能代替算法解釋權制度，因為其旨在規(guī)避事前風險，而非進行事后的個體救濟。

（二）行政行為算法解釋的內(nèi)容和標準

理由說明不僅要使相對人知曉決定是如何作出的，同時還應提供相對人可修正自動化決策的方法。具體的自動化決策算法解釋的理由說明包括：具體決策的理由和原因，以及產(chǎn)生決策結果的個人數(shù)據(jù)。

政府部門提供的算法解釋應遵循以下標準：第一，自動化決策的算法解釋應由監(jiān)管部門統(tǒng)一提供格式解釋文本，保證算法設計者和使用者提供的解釋客體完整且無遺漏；第二，政府應作出具體行政行為的理由說明，如不能提供理由則應視為沒有理由，這可能直接導致政府算法自動化決策的行為失效；第三，解釋語言清晰平實，應遵循具體行政行為說明理由的要求，或以書面形式作出，或在做出行政行為時必須說明，方便為日后行政訴訟與算法問責留存證據(jù)。

結語

在算法治理時代，亟須遵循行政正當程序的制度精神以改變對算法“技術中立”的錯誤認識，避免“算法監(jiān)獄”與“算法暴政”的產(chǎn)生。算法治理時代，堅持、修正與發(fā)展正當程序的具體制度，是政府負責任地應用算法自動化決策的基本要求。