蔡 健

（海南大學法學院,海南 ?？?570228）

1 問題的提出

智能執(zhí)法①適用于行政機關執(zhí)法的各種場景，如交通抓拍、“健康碼”評級及“秒批”等。智能執(zhí)法在數(shù)據(jù)處理和執(zhí)法效率等方面展現(xiàn)出顯著的優(yōu)勢，逐漸受到行政機關的青睞。智能執(zhí)法與傳統(tǒng)的行政執(zhí)法在主體、程序、執(zhí)法密度等方面有所區(qū)別。在智能執(zhí)法中，行政機關作為信息的處理者在信息與技術方面占據(jù)優(yōu)勢?！吨腥A人民共和國行政處罰法》（以下簡稱《行政處罰法》）第四十一條對非現(xiàn)場執(zhí)法作出了通用性規(guī)定，其中，第一款中規(guī)定了行政機關電子技術監(jiān)控設備的設置地點應當向社會公布，第三款規(guī)定了行政機關應當及時告知當事人違法事實，并為其查詢、陳述和申辯提供便利。這些規(guī)定蘊含了保障行政相對人知情權的內(nèi)涵，本質(zhì)上體現(xiàn)了正當程序原則在智能執(zhí)法領域的要求。然而，法條中的“及時告知”以及“為當事人查詢、陳述和申辯提供便利”并無詳細的規(guī)定。因此，智能執(zhí)法極易對當事人程序權利保障不足，進而損害實體權益。例如，從“杜寶良案”②可以看出，行政機關對于如何實現(xiàn)“及時告知”行政相對人并未找到合適的解決方案，目前也只是通過發(fā)送短信或者《行政處罰決定書》告知行政相對人并說明理由，但這種解決方案存在一些問題，一方面，處罰理由說明較為簡略且機械，可能造成行政相對人理解上的障礙，另一方面，壓縮了行政相對人與行政機關互動溝通的空間，聽證等特殊程序適用也比較困難[1]。由此可見，當前智能執(zhí)法還無法全面滿足現(xiàn)代行政法下正當程序的要求，無法充分保障行政相對人的知情權。

保障行政相對人的知情權是實現(xiàn)“全面建設數(shù)字法治政府”目標必須解決的問題。保障行政相對人的知情權不僅可以防止行政專斷，保障正當程序，還可以使行政相對人了解與自身利益相關的信息，從而打破與行政機關之間的信息鴻溝。然而，在智能執(zhí)法正當程序缺位與算法黑箱的困擾下，行政相對人由于“數(shù)字鴻溝”的存在而難以參與到行政活動中，更難以對行政機關基于算法決策對其作出的涉及其自身合法權益的行政行為提出異議。因此，如何保障智能執(zhí)法中行政相對人的知情權成為必須解決的現(xiàn)實問題?；诖?，本文試圖對智能執(zhí)法過程中行政相對人知情權受到侵害的問題進行梳理；其次，對目前國際上主流的知情權保障路徑進行探討反思；最后，從行政相對人的知情權、行政機關的算法解釋義務以及算法監(jiān)督角度提出完善措施，以期提升智能執(zhí)法的合法性和算法決策的合理性。

2 智能執(zhí)法中行政相對人知情權面臨的現(xiàn)實問題

傳統(tǒng)的行政執(zhí)法通常包括受理、調(diào)查、決定、送達等程序。行政法既規(guī)定了行政機關保障行政相對人權利的義務，也規(guī)定了相對人進行陳述申辯的權利。而智能執(zhí)法是基于人工智能技術的算法決策系統(tǒng)，通過分析處理政府采集的數(shù)據(jù)畫像和相關數(shù)據(jù)作出決策，根據(jù)其智能化的程度和人工介入程度的不同，對傳統(tǒng)行政執(zhí)法產(chǎn)生了不同程度的影響，尤其體現(xiàn)在智能執(zhí)法的某些階段中。

2.1 數(shù)據(jù)采集階段的無“知”

數(shù)據(jù)采集階段的無“知”是指當行政機關進行數(shù)據(jù)采集時，數(shù)據(jù)主體并未處于充分的知情同意的狀態(tài)，無法保障數(shù)據(jù)的完整性、隱私性和準確性。譬如，在疫情防控時期，各地政府紛紛建立了“健康碼”管理制度，并根據(jù)“健康碼”的數(shù)據(jù)對公民個人、社區(qū)、公司等是否存在風險進行判斷。然而這一行為是否屬于過度采集個人信息，是否需要取得公民的知情同意也引發(fā)了廣泛的關注和討論。目前，我國涉及個人信息數(shù)據(jù)采集的法律規(guī)定主要見于《中華人民共和國民法典》《中華人民共和國網(wǎng)絡安全法》《全國人民代表大會常務委員會關于加強網(wǎng)絡信息保護的決定》等。此外，各地的地方性法規(guī)也對數(shù)據(jù)采集行為進行規(guī)制，如《廣東省政務數(shù)據(jù)資源共享管理辦法（試行）》《上海市公共數(shù)據(jù)和一網(wǎng)通辦管理辦法》都制定了數(shù)據(jù)采集的規(guī)則，明確了“合法、必要、適度”的原則以及公共數(shù)據(jù)“準確性、完整性、時效性”的要求?，F(xiàn)有法律、法規(guī)存在的問題十分明顯，具有較高效力的法律規(guī)定數(shù)量較少且大多為原則性的規(guī)定，較為全面與具備可操作性的地方性法規(guī)又存在效力上的局限性。在這種情況下，智能執(zhí)法不僅無法保障數(shù)據(jù)主體的權益，還會影響數(shù)據(jù)本身的真實性、完整性和可用性，從而影響數(shù)據(jù)利用的效率和效益。

2.2 算法處理階段的無“情”

算法處理階段的無“情”是指法律的情理無法體現(xiàn)，原因在于算法處理無法完整地表達法律程序，這與行政法要求的正當程序規(guī)則存在沖突。當行政程序被簡化后，數(shù)據(jù)主體無法知道其個人數(shù)據(jù)在被算法處理，更無法為捍衛(wèi)自己的合法權益進行說明理由、陳述申辯或是聽證。算法處理是通過深度學習或神經(jīng)網(wǎng)絡等技術處理分析相關數(shù)據(jù)，然后作出決策的活動[2]。人工智能算法的智能執(zhí)法系統(tǒng)在人們印象中應當是高效便捷、客觀公正的，既無主觀成見的干擾，也不謀求個體的利益。然而，越來越多的實踐和研究表明，人工智能算法決策的不透明特性所形成的算法黑箱使行政相對人無法理解算法決策的依據(jù)，這增加了行政相對人對智能執(zhí)法的執(zhí)法結果提出異議的難度。

2.3 決策結果階段的無“權”

決策結果階段的無“權”是指智能執(zhí)法實施后，行政相對人的權利無法得到保障。算法黑箱和技術不透明的問題違背了行政公開原則，行政相對人無法實質(zhì)性地參與到行政機關執(zhí)法中，空有決策結果卻難以了解決策的依據(jù)。當前，從實體上解決算法黑箱的問題是十分困難的，一方面，企業(yè)對于商業(yè)秘密和知識產(chǎn)權的主張，是算法公開需要考慮的重要因素，另一方面，一般的社會公眾無法理解算法，去審查執(zhí)法結果的算法更是不切實際。

在眾多算法規(guī)制的實踐和理論探索中，“個體賦權范式”理論重要分支之一的“算法解釋權”制度，一方面可以增強智能執(zhí)法結果的可解釋性和說理性，另一方面可以讓智能執(zhí)法更加符合行政公開原則，推進行政執(zhí)法的公開透明。然而，算法解釋權制度也在理論和實務上引發(fā)了諸多爭議，有學者對算法解釋權的正當性和可行性進行批判，將算法解釋權意欲實現(xiàn)的“透明性”價值斥責為“透明之謬誤”[3]?！秶鴦赵恨k公廳關于全面推行行政執(zhí)法公示制度執(zhí)法全過程記錄制度重大執(zhí)法決定法制審核制度的指導意見》中強調(diào)要 “加強事后公開……行政許可、行政處罰的執(zhí)法決定信息要在執(zhí)法決定作出之日起7個工作日內(nèi)公開”③。但是對于算法決策結果的作出過程如何進行監(jiān)督尚未形成定論，一方面，算法是市場主體重要的商業(yè)秘密，另一方面，公開審查算法的成本可能遠大于收益。

3 智能執(zhí)法中行政相對人知情權保障的借鑒反思

歐盟《通用數(shù)據(jù)保護條例》（GDPR）是一部以“數(shù)據(jù)基本權利”為基石的數(shù)據(jù)法典，其十分注重“數(shù)據(jù)權利保護”與“數(shù)據(jù)自由流通”的平衡。GDPR明確規(guī)定了數(shù)據(jù)控制者和處理者應當采取合法、公平和透明的技術并保護數(shù)據(jù)主體權利的法定義務?！昂戏?、公平和透明的技術”蘊含了取得數(shù)據(jù)主體知情同意的基本要求。GDPR第三章規(guī)定了數(shù)據(jù)主體的權利，相較1995年歐洲議會和歐盟理事會通過的《有關個人數(shù)據(jù)處理中的個人保護和所涉數(shù)據(jù)自由流通的第95/46/EC指令》（以下簡稱“95指令”），GDPR以數(shù)據(jù)主體“告知+同意”為基本框架，保留并明確了現(xiàn)有的查詢權、更正權、刪除權、拒絕權等權利外，增加了新的權利，如遺忘權、限制處理權、知情權等。筆者對目前的知情權保障措施進行歸納，并依照保障措施的內(nèi)容進行分類。

3.1 禁令路徑：以“有效同意”為前提

所謂禁令路徑，是指除有合法處理基礎外，禁止對數(shù)據(jù)主體使用算法決策[4]。數(shù)據(jù)收集主體收集個人數(shù)據(jù)應當有法律的授權或是經(jīng)過數(shù)據(jù)主體的同意，而授權同意原則也是國際社會普遍認可的數(shù)據(jù)收集的合法性基礎之一。GDPR第7條規(guī)定了數(shù)據(jù)控制者處理個人數(shù)據(jù)的四個同意要件：第一，數(shù)據(jù)控制者應能夠證明數(shù)據(jù)主體已同意處理其個人數(shù)據(jù)；第二，如果數(shù)據(jù)主體通過書面聲明的方式作出同意，且書面聲明涉及其他事項，那么同意應以易于理解且與其他事項顯著區(qū)別的形式呈現(xiàn)；第三，數(shù)據(jù)主體可以隨時撤回其同意，但不影響撤回之前基于同意的合法的數(shù)據(jù)處理；第四，應最大限度地考慮該同意是否對于履行該合同是所必需的④。由此可見，數(shù)據(jù)主體的有效同意應當包含自由給出、條款明確、易于理解、隨時可以撤回、對與其相關的數(shù)據(jù)處理的知情權、不影響數(shù)據(jù)主體權益等內(nèi)容。數(shù)據(jù)的控制者對個人數(shù)據(jù)進行自動化決策、用戶畫像等特殊處理時，應當取得數(shù)據(jù)主體的明示同意，即獲得的數(shù)據(jù)主體明示同意不僅需要滿足四個同意要件，還需要獲得數(shù)據(jù)主體以聲明的方式作出的明示同意。

3.2 權利路徑：數(shù)據(jù)主體的“被告知權”

所謂權利路徑，是指法律賦予數(shù)據(jù)主體知情的權利，數(shù)據(jù)主體可以行使該權利去維護其合法權益。GDPR第12～15條構成了數(shù)據(jù)主體的知情權體系。知情權的原文為“Right to be informed”，準確的翻譯應當是“被告知權”，主要體現(xiàn)在數(shù)據(jù)控制者收集個人數(shù)據(jù)時要將收集與處理的目的、數(shù)據(jù)主體應當享有的權利告知數(shù)據(jù)主體，當發(fā)生數(shù)據(jù)泄露等情形，應當及時告知數(shù)據(jù)主體實情及可能發(fā)生的后果等。數(shù)據(jù)控制者有告知數(shù)據(jù)主體相關信息的義務，無論數(shù)據(jù)主體是否要求其告知。數(shù)據(jù)主體的知情權有以下特點：第一，知情權是數(shù)據(jù)主體行使權利的前提和基礎，其他權利的行使需要建立在知情的基礎上。譬如，“95指令”中的訪問權可以理解為知情權的延伸，即數(shù)據(jù)主體有權從數(shù)據(jù)控制者那里獲取到自身個人數(shù)據(jù)相關的信息，包括數(shù)據(jù)處理中收集了哪些個人數(shù)據(jù)，以及這些個人數(shù)據(jù)的處理情況；更正權可以理解為數(shù)據(jù)主體有權更正其個人數(shù)據(jù)中的不完善信息或者錯誤信息，該權利的行使更是需要建立在知情的基礎上，只有知情才有可能完善或者更正錯誤。第二，知情權傾向保護數(shù)據(jù)主體的基本權利，數(shù)據(jù)控制者想要使用算法對數(shù)據(jù)主體進行自動化決策，就必須要履行告知的義務。

3.3 對兩種路徑的反思

基于以上的分析可以看出，GDPR所主張的禁令路徑與權利路徑均為數(shù)據(jù)主體的知情權保障提供了法律保護，但兩種路徑的方式、目標以及限制存在不同。禁令路徑以數(shù)據(jù)主體的權利為重心，以個人權益保護為基礎，構建算法決策的事前知情同意規(guī)則。而權利路徑則從數(shù)據(jù)控制者的義務出發(fā)，構建數(shù)據(jù)收集后的事后告知的規(guī)制路徑。兩種方式為保護數(shù)據(jù)主體的知情權提供了兩類保障模式，但仍然存在問題。以數(shù)據(jù)主體的個人權益保護為重點的禁令路徑雖然追求公平價值，但在算法決策興起的背景下，公眾參與和協(xié)商機制極有可能被懸置[5]。而權利路徑雖然在尊重數(shù)據(jù)主體權利的前提下增加了數(shù)據(jù)控制者的義務，但忽視了智能技術的局限性及其對行政程序的影響，也未對數(shù)據(jù)控制者如何及時告知數(shù)據(jù)主體進行討論。因此，有必要在智能執(zhí)法的發(fā)展和保護行政相對人權益之間尋找平衡點，尋求一條符合正當程序原則、保障公眾實質(zhì)性參與、拓展行政相對人救濟途徑的知情權保障路徑。

4 智能執(zhí)法中行政相對人知情權保障的實現(xiàn)路徑

從智能執(zhí)法發(fā)展與行政相對人知情權保護的平衡角度出發(fā)，構建行政相對人免受算法決策侵權的法律保護體系變得尤為關鍵。因此需要結合行政智能執(zhí)法的實際，形成一套貫穿智能執(zhí)法全過程的行政相對人知情權保障體系，以解決當下人工智能技術嵌入行政執(zhí)法產(chǎn)生的現(xiàn)實問題。

4.1 補充智能執(zhí)法的正當性前提：明確行政相對人的知情權

除了行政機關的自我審查，智能執(zhí)法的正當性基礎還包括立法授權和行政相對人的授權同意[6]。從我國上海、廣東等地方性法規(guī)可以看出，數(shù)據(jù)采集規(guī)定的共同點是行政機關的數(shù)據(jù)采集應當遵循“合法、必要、適度”的原則，且要滿足“知情同意”“不得泄露或者篡改其收集、存儲的個人信息”等要求。因此，在智能執(zhí)法中明確行政相對人的知情權，既有利于厘清行政機關采集數(shù)據(jù)的界限，也能夠保障行政相對人的合法權益。同意應當是基于必要性的、明確的、公平的條款，數(shù)據(jù)控制者與數(shù)據(jù)主體間以公平平等為前提，行政機關應當根據(jù)數(shù)據(jù)處理的目的，給行政相對人容易理解的告知，只有基于知情同意的授權，行政機關才能夠?qū)ζ鋫€人數(shù)據(jù)進行處理。筆者認為，可以根據(jù)執(zhí)法事項敏感程度的不同進行分別告知，即當不涉及行政相對人敏感信息時，行政相對人可以其個人信息置換程序性義務的減省。譬如，涉及行政相對人交通違法的情形，并不涉及其敏感的個人信息，智能執(zhí)法可以直接根據(jù)其交通違法行為的種類對其進行處罰，而在涉及“秒批”類的情形，應當對行政相對人進行必要的告知。

4.2 正當程序原則與行政效率原則的平衡：推行全過程的算法解釋義務

算法知情權體系采行的是外部解釋模式，一方面算法作為市場主體的商業(yè)秘密，算法設計的市場主體不愿意公開其算法模型；另一方面算法公開后有被篡改或規(guī)避的風險。因此，算法知情權體系是不進行算法公開前提下進行的一種解釋。具體來說就是賦予智能執(zhí)法中行政機關一定范圍內(nèi)的算法解釋義務，以保障行政相對人的知情權并增強行政執(zhí)法公開性與透明性。桑德拉·瓦赫特等學者采取類型化分析，將算法自動決策的解釋界分為“系統(tǒng)功能性解釋”和“具體決定解釋”，并根據(jù)時間節(jié)點界分為事前解釋和事后解釋[7]。

在解釋時間上，采取事前解釋和事后解釋相結合的方式。有觀點認為，算法的事后解釋并不屬于知情權體系的內(nèi)容，而算法的事前告知只是自動化決策在知情權保護規(guī)則下的特殊要求[8]。筆者認為，算法解釋與知情權并不是涇渭分明的獨立關系。算法的事前解釋側重于讓行政相對人知曉針對其作出的行政行為，而算法的事后解釋側重于對行政相對人的權利預留救濟途徑。因此，全過程的算法解釋義務在一定程度上促進了行政相對人的知情權的保護，這也衍生出相關的問題，即事后的解釋如何才是及時的。譬如，《行政處罰法》第四十一條規(guī)定了行政機關的“及時告知”義務，但是何為“及時告知”仍未有更為詳細具體的規(guī)定。有觀點提出對“及時”的把握不應超過24小時，也有學者認為應當是各執(zhí)法機關結合本領域電子技術監(jiān)控設備執(zhí)法實踐，對本領域進行明確的程序規(guī)定。筆者認為，“及時告知”的標準不應當為恒定的標準，應當根據(jù)事項的重要程度進行不同標準的規(guī)定，這也需要后續(xù)更詳細的研究與討論。

在解釋的內(nèi)容上，堅持功能性解釋與針對性解釋相結合。功能性解釋主要圍繞算法系統(tǒng)的工作原理和相關功能進行介紹，包括算法系統(tǒng)的需求規(guī)范、預定義模型、訓練參數(shù)、輸入數(shù)據(jù)摘要、運行邏輯、模型測試、訓練或者篩選的相關信息等方面[9]，較為概括、抽象。針對性解釋是將執(zhí)法的理由、法律依據(jù)等告知行政相對人，相比功能性解釋，更加詳細、具體。從 “成本－效益”分析的角度來看，審查算法需要花費極大的代價，可能遠遠超出所能獲得的效益[10]。因此，當行政相對人對于智能執(zhí)法作出的決策存在無法理解、又無法對其算法進行審查的情形時，行政機關需要提供針對性的解釋以滿足行政相對人知情權的需要。此外，需要注意的是，兩種解釋方式都是為了增強行政相對人對智能執(zhí)法系統(tǒng)的算法決策結果的理解所進行的解釋，只有在此基礎之上，才能真正保障行政相對人的知情權。

4.3 正當程序原則與行政效率原則的平衡：加強算法監(jiān)督

一切有權力的人都容易濫用權力，這是萬古不變的一條經(jīng)驗。有權力的人們使用權力一直到遇到有界限的地方才會休止[11]。行政相對人在面對不透明且內(nèi)部性的智能執(zhí)法作出的決策時，監(jiān)督變得更加困難。面對人工智能嵌入行政執(zhí)法的智能化轉型挑戰(zhàn)，現(xiàn)代行政法規(guī)范不應將人工智能束縛，而有必要建立相應的法律制度，對人工智能在行政執(zhí)法領域的算法決策使用設定合理的限制。目前，我國專門規(guī)范行政執(zhí)法的法律法規(guī)仍然是缺位的，部分省份制定了地方性法規(guī)，但大多缺乏獨立地位，并未受到重視。立法上的重視程度決定了智能執(zhí)法能否得到良性的發(fā)展。第一，需要建立系統(tǒng)建設規(guī)則。智能執(zhí)法系統(tǒng)的建設也是行政執(zhí)法監(jiān)督機制建設的契機，根據(jù)人工智能應用于行政執(zhí)法主要在于提升行政效率的特點，明確行政執(zhí)法監(jiān)督平臺從“數(shù)據(jù)采集—數(shù)據(jù)互通—算法決策”全流程的職權分工和履責方式，即對數(shù)據(jù)采集階段的采集、共享的范圍進行框定，在僅通過自動化方式進行決策時，及時告知行政相對人以保障其合法權益。第二，建立規(guī)范的數(shù)據(jù)收集規(guī)則、數(shù)據(jù)隱私保護、數(shù)據(jù)安全規(guī)則。譬如，歐盟GDPR希望通過以主動性、強制性、靈活性為特征的公法機制建立數(shù)據(jù)保護機制，并致力于建立“指導性行業(yè)標準+強制性法律規(guī)范”的雙重數(shù)據(jù)規(guī)范體系和“企業(yè)自我規(guī)制+政府規(guī)制”的雙重數(shù)據(jù)治理體系[12]。GDPR要求成員國設立獨立的數(shù)據(jù)監(jiān)管機構，監(jiān)督條例的實施，并建立了一系列行政救濟制度框架，允許數(shù)據(jù)主體向監(jiān)督機構提出投訴。第三，要建立算法監(jiān)督規(guī)則。包括對人工智能算法嵌入行政執(zhí)法的適用范圍進行立法上的授權，對算法模型的合法性、公正性進行審查，加強在智能執(zhí)法中行政相對人解釋申辯權的制度保障。第四，制定智能執(zhí)法程序標準化規(guī)則。包括監(jiān)督權責清單、執(zhí)法流程以及自由裁量的標準化等。

5 結語

隨著算法技術的不斷發(fā)展，其在政府管理、社會治理與公共服務中也將發(fā)揮越來越大的作用。雖然目前行政智能執(zhí)法仍處于弱人工智能時代，但江河終有入海之日，算法技術嵌入更多的行政管理活動是法治政府發(fā)展的必然趨勢。同時，我國數(shù)字政府的建設需要積累寶貴的經(jīng)驗，維護起公權力和個人權利之間的平衡。一方面，行政機關應當在智能執(zhí)法的發(fā)展中始終堅持行政法治的價值理念，保持正當程序的基本原則；另一方面，行政相對人應當積極主動地在智能執(zhí)法中維護自己的合法權益，如此，數(shù)字法治政府的建設才能不斷地向前推進。

注釋：

①有學者將人工智能技術與行政執(zhí)法的結合稱為智能行政執(zhí)法，筆者認為，智能行政執(zhí)法應當是完全智能行政執(zhí)法，而目前人工智能與行政執(zhí)法的結合程度還未達到完全智能的程度，因此筆者將現(xiàn)階段的人工智能技術與行政執(zhí)法的結合稱為行政智能執(zhí)法或智能執(zhí)法。

②2005年5月23日，杜寶良偶然查詢得知，自己于2004年7月20日至2005年5月23日在駕駛小貨車運菜時，在每天必經(jīng)的北京市西城區(qū)真武廟頭條西口被“電子眼”拍下闖禁行105次，被罰款10 500元。此前，從未有交管部門告知他有違法行為。

③參見《國務院辦公廳關于全面推行行政執(zhí)法公示制度執(zhí)法全過程記錄制度重大執(zhí)法決定法制審核制度的指導意見》（國辦發(fā) 〔2018〕 118 號）。

④參見《General Data Protection Regulation》。