包康赟

(北京大學法學院，北京 100871)

一、引言

數(shù)字時代，算法決策顯而易見地影響著個體生活和社會發(fā)展。個人層面，淘寶呈現(xiàn)的商品(1)青峰.淘寶搜索算法技術的演進以及未來搜索的探尋[EB/OL].(2018-10-30)[2020-10-17].http://www.taodahu.com/p/5710822018/.、抖音推送的視頻(2)段視頻熱門研究社.深度解讀抖音算法機制[EB/OL].(2019-03-27)[2020-10-17].https://zhuanlan.zhihu.com/p/60605828.、小貸核準的額度(3)邵智寶.小額信貸技術的應用發(fā)展[J].中國金融,2018,(24):49.、新冠病毒的報告(4)林志吟,李娜.用算法“攻克”新型冠狀病毒肺炎[EB/OL].(2020-02-05)[2020-10-17].https://www.yicai.com/news/100491526.html.，各類算法決策影響著日常生活。國家層面，中國(5)中華人民共和國科技部等.中國新一代人工智能發(fā)展報告2019[R].北京：中華人民共和國科技部,2019.、美國(6)The White House(Office of Science and Technology Policy),American Artificial Intelligence Initiative:Year One Annual Report,February 2019.、歐洲各國(7)European Commission,White Paper on Artificial Intelligence:A European Approach to Excellence and Trust,February,2020.紛紛將包括算法決策、機器學習在內(nèi)的人工智能產(chǎn)業(yè)上升為影響國計民生、決定競爭實力的國家發(fā)展戰(zhàn)略。

然而，現(xiàn)階段算法決策的可靠程度與其普及范圍和戰(zhàn)略高度不相匹配。“信息繭房”(8)申楠.算法時代的信息繭房與信息公平[J].西安交通大學學報(社會科學版),2020,(2):139.“算法歧視”(9)章小杉.人工智能算法歧視的法律規(guī)制：歐美經(jīng)驗與中國路徑[J].華東理工大學學報(社會科學版),2019,(6):63.“算法殺熟”(10)朱程程.大數(shù)據(jù)殺熟的違法性分析與法律規(guī)制探究——基于消費者權益保護視角的分析[J].南方金融,2020,(4):92.“算法失誤”(11)Donie O’ Sullivan,Report:Fake News Content Went Viral Using YouTube’s Algorithm San Francisco-based Company Gathered and Analyzed the Data,The Mercury News 13 December 2019,https://www.mercurynews.com/2019/12/13/report-fake-news-content-went-viral-using-youtubes-algorithm/,17 October 2020 last visited.等現(xiàn)象層出不窮。隨著算法替代人腦的程度變高、決策涉及的領域變多、結果關涉的利害變大，受算法決策影響的主體不斷地拋出疑問：算法是如何為我決策的？我被算法公平合理地對待了嗎？如何讓算法得出更有利于我的決策？

上述問題的答案藏在“算法黑箱”中。因此，“認識”算法成為目標(12)Bryan Casey,Ashkon Farhangi and Roland Vogl,Rethinking Explainable Machines:The GDPR’s Right to Explanation Debate and the Rise of Algorithmic Audits in Enterprise,34 Berkeley Technology Law Journal 143,143-188(2019).值得注意，“認識算法”并不一定要打開“算法黑箱”，代表性觀點參見Sandra Wachter,Brent Mittelstadt,Chris Russell,Counterfactual Explanations without Opening the Black Box:Automated Decisions and the GDPR,31 Harvard Journal of Law and Technology 841,841-887(2018).。經(jīng)過半個多世紀的演進，算法“透明度”(transparency)(13)1970年美國平等信貸機會法(Equal Credit Opportunity Act)和公平信用報告法(Fair Credit Reporting Act)提出了要提高算法自動決策系統(tǒng)的“透明度”。、算法“進入權”(right of access)(14)1995年歐盟數(shù)據(jù)保護指令(Data Protection Directive)引入了算法“進入權”。、算法“解釋權”(right to explanation)(15)2016年歐盟通用數(shù)據(jù)保護條例(General Data Protection Regulation)在序言中提出了算法“解釋權”(right to explanation)的概念。等概念不斷涌現(xiàn)。其核心都是要求說明和闡釋算法的決策過程和結果，以此回答：算法決策的結果為何以及如何作出(16)Finale Doshi-Velez and Mason Kortz,Accountability of AI Under the Law:The Role of Explanation,Berkman Klein Center Working Group on Explanation and the Law,Berkman Klein Center for Internet and Society working paper,2017.。然而，由于技術、法律、商業(yè)利益等因素的影響，作為一種算法治理工具，算法解釋的定位、限度、要件和實施細節(jié)尚不明確。這種模糊現(xiàn)狀亟待改變，否則受損的不僅是個人權利、商業(yè)利益，還有社會創(chuàng)新的動力和數(shù)字經(jīng)濟的發(fā)展。

其實，算法解釋與法律人較為熟悉的司法公開高度相似——兩者都致力于用最低的成本，展現(xiàn)和說明以公平合理為終極追求的復雜決策之過程和結果，進而對決策的質效進行控制(包括規(guī)范、監(jiān)督和問責等)。同時，兩者都關系到公眾對特定決策機制的認知和信任，并進一步影響經(jīng)濟和社會發(fā)展。法律是調整社會關系的規(guī)范性工具，其構造受到所要實現(xiàn)的目標、將要作用的對象、所處的環(huán)境、可能產(chǎn)生的影響等多方面因素的制約(17)蘇力.法律理論——社會科學的視角(書稿，尚未出版)[M].2006.20-23.。當這些制約因素相似時，法律工具之間或可彼此啟發(fā)。因此，在構建算法解釋方案時，司法公開的經(jīng)驗可供借鑒。

本文第一部分將從規(guī)制方式、規(guī)制目標、規(guī)制對象、規(guī)制成本四方面論證算法解釋與司法公開的可比性。第二部分將從權屬特征和決策類型兩方面展現(xiàn)兩者的特殊性。基于上述結論，第三部分將從定位、限度、要件、實施四個維度具體剖析司法公開中積累的經(jīng)驗對于構建算法解釋治理方案的啟示，最終確立算法解釋的若干基本原則。

二、算法解釋與司法公開的共性

(一)規(guī)制方式

司法公開和算法解釋的規(guī)制方式幾乎一致。兩者都要求清楚“說明”(被稱為“公開”或“解釋”)特定決策(“司法裁判”或“算法決策”)的結果及其產(chǎn)生的過程、依據(jù)和理由，進而保障相關主體的“知情權”。

司法公開的核心要義是揭開人民法院司法活動的“神秘面紗”，把司法的過程和環(huán)節(jié)同其結果一起“曬”出來，讓民眾看得清楚和明白(18)蔣惠嶺.以改革創(chuàng)新精神推進司法公開[J].中國黨政干部論壇,2012,(8):6.。通過這種“公之于眾”的方式，普通民眾能夠獲知司法活動的信息，司法決策的質效也能得到規(guī)范和控制(19)沈定成,孫永軍.司法公開的權源、基礎及形式——基于知情權的視角[J].江西社會科學,2017,(2):207.。目前，中國已經(jīng)建成了四大司法公開平臺(分別用于審判流程公開、庭審視頻公開、裁判文書公開和執(zhí)行信息公開)(20)張俊,張婭子.周強：中國司法公開的廣度和深度全面拓展[EB/OL].(2018-12-27)[2020-10-17].http://k.sina.com.cn/article_1784473157_6a5ce64502000z6h6.html?from=news&subch=onews.。

雖然展示司法過程和結果的動作被稱為“公開”，但其本質是“解釋”或“說明”。以裁判文書的公開為例，司法的結果(“判決結果”)僅是法官形成的“判決如下”之后的幾行文字，由若干判項組成(21)以行政訴訟裁判文書為例，參見最高人民法院行政審判廳.行政訴訟文書樣式[M].北京：人民法院出版社,2015.7.。然而，裁判文書公開的內(nèi)容卻不止于此。早在2001年，我國法院就要求裁判文書至少還應公開五個方面的內(nèi)容：案件的基本信息(立案受理時間、開庭時間和次數(shù)、當事人及代理人情況、合議庭情況等)、當事人雙方意見、舉證質證情況、法官認證意見(對證據(jù)的判斷和取舍原因)、法官說理論證(對法律的解讀、解決糾紛的判斷依據(jù))。部分法院還要求附上相關法律條文(22)蔣惠嶺,胡夏冰.我國司法透明機制的改革和完善[J].法律適用,2006,(3):3.。目前，文書公開的內(nèi)容更全面、要求更細致(23)參見最高人民法院行政審判廳.行政訴訟文書樣式[M].北京：人民法院出版社,2015.1-8.。在這種“公開”模式下，法官形成決策的素材依據(jù)、所思所想一應俱全——這無疑是對裁判結果的詳盡解釋。

算法解釋的基本思路是解決算法決策的“黑箱效應”(24)張恩典.大數(shù)據(jù)時代的算法解釋權：背景、邏輯與構造[J].法學論壇,2019,(7):152.，通過要求算法提供輸入素材、輸出結果、影響結果的主要因素等信息，說明和闡釋算法決策結果的由來(provenance)(25)David Freeman Engstrom, Daniel E.Ho, Catherine M.Sharkey, Mariano-Florentino Cuellar, Government by Algorithm: Artificial Intelligence in Federal Administrative Agencies, February 2020, 75.，最終使算法決策的結果符合預設的期待。值得注意的是，解釋算法決策需要提供的信息(即算法解釋的內(nèi)容)目前仍存在爭議(后文將展開討論)——即便是《通用數(shù)據(jù)保護條例》(GDPR)也沒有正式確立所謂的“算法解釋權”，更沒有明確其內(nèi)涵和外延(26)See Sandra Wachter,Brent Mittelstadt,Luciano Floridi,Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation,7 International Data Privacy Law 76,76-99(2017).。然而在具體場景下仍有一些可供參考的規(guī)則，比如2018年美國《公平信用報告法》(Fair Credit Reporting Act)。該法規(guī)定，在信用評分(credit scoring)時，評級機構需要提供五類信息：評分結果、評分算法模型中的分數(shù)范圍、算法模型中影響最終評分結果的關鍵因素(不超過四項)、評分日期、評分基礎文件的提供者(個人姓名或機構名稱)等(27)15 U.S.C.§1681 g(f)(1)(2018),https://www.law.cornell.edu/uscode/text/15/1681g,17 October 2020 last visited.。

(二)規(guī)制目標

司法公開和算法解釋的規(guī)制目標高度相似。兩者都是為了監(jiān)督?jīng)Q策主體、追究潛在責任、教育普通民眾。

1.監(jiān)督

司法公開的重要目標是監(jiān)督法官工作和司法裁判過程(28)Anonymity,Making Chinese Court Filings Public? Some Not-So-Foreign American Insights,133 Harvard Law Review 1728,1728-1750(2020)；蔣惠嶺.以改革創(chuàng)新精神推進司法公開[J].中國黨政干部論壇,2012,(8):6.。對于庭審公開，美國聯(lián)邦上訴法院的法官弗蘭克·M·柯芬(Frank Coffin)曾指出：庭審過程與審判結果一樣值得重視(29)Frank M.Coffin,A Lexicon of Oral Advocacy,National Institute for Trial Advocacy,1984.14.。因為當庭審鮮活地為公眾所見，法官的辛勤不言自明。同時，民眾也會明白判決是法官和律師“較勁”的結果，而非暗箱操作所得，司法信任也因此提升(30)弗蘭克·M·柯芬,傅郁林譯.美國上訴程序——法庭·代理·裁判[M].北京：中國政法大學出版社,2005.98-99.。

算法解釋的目標之一也是監(jiān)督算法決策過程，增加公眾信任。如果算法決策過程不公開、不提供公司解釋，可能引致“算法暴政”。解決方案之一就是借助作為監(jiān)督機制的算法解釋(31)Bruno Lepri,Jacopo Staiano,David Sangokoya,Emmanuel Letouzé,Nuria Oliver,The Tyranny of Data? The Bright and Dark Sides of Data-Driven Decision-Making for Social Good,in Transparent Data Mining for Big and Small Data,Studies in Big Data Series,Springer,2016.15.。2018年，今日頭條向公眾解釋了其推薦算法的基本原理、算法模型設計的維度和策略。談及面向公眾解釋算法的初衷，相關負責人表示，希望借助算法解釋讓社會共同參與監(jiān)督、積極建言。這就類似于法律實施過程中要透明公開以方便公眾監(jiān)督一樣(32)李童.讓算法公開透明：今日頭條首次公布算法原理[EB/OL].(2018-01-11)[2020-10-17].http://www.xinhuanet.com/fortune/2018-01/11/c_129788682.htm.。算法解釋的監(jiān)督功能可見一斑。

2.問責

司法公開是后續(xù)問責的基礎，由于前者提供了“證據(jù)”，使追責成為可能。舉例來說，司法裁判文書在網(wǎng)上公開曝光了諸多裁判文書中的錯誤，觸發(fā)了針對相關法官的問責程序(33)楊玉龍.“帶病”判決書何以層出不窮[EB/OL].(2019-04-15)[2020-10-17].http://www.xinhuanet.com/comments/2019-04/15/c_1124365996.htm.。庭審網(wǎng)絡直播也讓很多法官的“不當言行”得以公開(如法官呵斥、辱罵律師等)，使其受到應有的追責(34)孔令晗.庭審途中法官讓律師滾出去？廣州律協(xié)已介入調查[EB/OL].(2019-05-08)[2020-10-17].https://new.qq.com/omn/20190508/20190508A0CXPF.html；匿名.廣東女法官庭審中3次打斷律師發(fā)言，并呵斥律師沒水平[EB/OL].(2019-05-09)[2020-10-17].http://gd.sina.com.cn/news/2019-05-09/detail-ihvhiews0708139.shtml.。

算法解釋同樣也承擔著提供證據(jù)、厘定責任的功能，最終確保算法決策的可責性(accountability)(35)European Parliamentary Research Service(EU),A Governance Framework for Algorithmic Accountability and Transparency,March 2019.。只有讓算法決策的相對人了解與其相關的決策是如何做出的，才能在必要的情形下尋求救濟(36)張凌寒.商業(yè)自動化決策的算法解釋權研究[J].法律科學,2018,(3):65.。而且，如何解釋算法的決策過程，會影響相關的主體的責任承擔情況。比如，在信息檢索的算法決策中，提供搜索結果的主體是否為“不受控制的”算法本身，可能決定了谷歌等科技公司是否要承擔搜索結果導致的侵權責任(37)Seema Ghatnekar,Injury by Algorithm,33 Loyola of Los Angeles Entertainment Law Review 171,171-204(2012).。在反壟斷領域，算法決策過程的解釋路徑直接影響了潛在算法共謀行為的類型。不同的共謀行為則會引致不同的問責可能性和責任承擔方式(38)Ariel Ezrachi & Maurice E.Stucke,The Promise and Perils of Algorithm-Driven Economy,Harvard University Press,2016.218-232.。比如，被認定為“信使類共謀”的算法可以按照傳統(tǒng)法律追究違法責任。然而，被認定為“自主類共謀”的算法則難以依法追責(39)李振利.論算法共謀的反壟斷規(guī)制路徑[J].學術交流,2018,(7):73.。

3.教育

司法公開是普及法治教育的手段。公開的裁判文書被認為是社會各界的法律教育材料(40)蔣惠嶺.以改革創(chuàng)新精神推進司法公開[J].中國黨政干部論壇,2012,(8):6.，而庭審網(wǎng)絡直播則被視為最生動的法治課堂(41)支振鋒.人民法院庭審公開第三方評估報告[R].北京：中國社會科學院法學研究所,2017；孫獻濤.庭審直播也是法治公開課[EB/OL].(2016-07-13)[2020-10-17].http://opinion.people.com.cn/n1/2016/0713/c1003-28550357.html.。以這種方式進行法治教育，不但能夠培養(yǎng)民眾對司法活動的熟悉感和信任感，還能有助于增強公眾的權利意識，促使其敢于并善于借助司法渠道維護權益。

算法解釋也承載著普及算法常識，引導數(shù)字時代的公民了解算法特性、接納算法功能、警惕算法風險的功能和期待。事實證明，缺乏“算法素養(yǎng)”(algorithm literacy)不但會造成個體在與算法互動過程(包括使用算法服務、防止算法侵權等)中的被動局面，還不利于民眾參與算法相關的公共政策討論(42)European Parliamentary Research Service(EU),A Governance Framework for Algorithmic Accountability and Transparency,March 2019.69.。通過解釋算法運作邏輯、展示算法決策過程，可以增進大眾的算法知識、提升其算法素養(yǎng)。目前，向社會解釋算法邏輯的今日頭條、淘寶、抖音等APP客觀上都體現(xiàn)了上述功能。

(三)規(guī)制對象

司法公開的公開對象(司法裁判)和算法解釋的解釋對象(算法決策)在各個關鍵方面都存在共性。兩者都在既定的規(guī)則和可及的信息下完成決策任務，都以公平正義為追求卻又面臨恣意、歧視等障礙。它們的決策結果都會影響個體利益、社會福利和經(jīng)濟發(fā)展。

1.過程與終點

在司法裁判過程中，法官“以事實為依據(jù)、以法律為準繩”作出裁決(43)吳旭陽.從演化博弈看“司法裁判”的本質和完善——行為策略實驗的視角[J].自然辯證法通訊,2017,(2):117.。在算法決策過程中，算法根據(jù)收集的數(shù)據(jù)信息、按照技術人員預設的流程，最終作出決策(44)European Parliamentary Research Service(EU),Understanding Algorithmic Decision-making:Opportunities and Challenges,March 2019.5.?？梢园l(fā)現(xiàn)，法官手中的“事實”和算法掌握的“數(shù)據(jù)”、法官遵守的“法律”(包括程序和實體規(guī)則)和算法遵循的“流程”，都構成決策素材和約束，最終主導法官和算法給出的決策結果。而且不管是司法裁判，還是算法決策，兩者均涉及社會生活的方方面面。

此外，司法裁判和算法決策都可能存在人類和算法“相互配合”的情形。在司法裁判的過程中，算法可能成為依據(jù)。比如，算法程序得出的科學實驗模擬結果(如子彈飛行軌跡)會成為法官決策的依據(jù)之一(45)栗崢.人工智能與事實認定[J].法學研究,2020,(1):117.。在算法決策的過程中，當然也存在人類的角色。比如，證券算法交易過程中，雖然算法模型會自動發(fā)出指令完成證券買賣和資產(chǎn)組合管理。但是，分析師和交易員會適時監(jiān)督、人為干預(46)夏中寶.算法交易對虛假申報操縱法律認定邏輯的新挑戰(zhàn)[J].證券市場導報,2017,(10):61.，共同決定決策結果。

2.追求與障礙

司法裁判的最終目標是公平合理，其障礙在于法官的枉法裁判、恣意裁量(47)齊偉.司法裁判的“兩張面孔”——以社會治理為分析背景[J].理論導刊,2016,(9):99.。司法實踐中的“同案不同判”和“冤假錯案”，本質上是法官違背了公平原則和合理原則。其實，法官裁判時的非理性甚至犯錯誤，很多時候并非故意為之，而是受制于人類認知系統(tǒng)的弱點(48)丹尼爾·卡尼曼,胡曉嬌,等.譯.思考，快與慢[M].北京：中信出版社,2012.87.。一系列關于法官行為的實驗研究發(fā)現(xiàn)，法官受到法律無關因素影響并作出歧視性判決的現(xiàn)象比比皆是(49)Zhuang Liu,Does Reason Writing Reduce Decision Bias? Experimental Evidence from Judges in China, Journal of Legal Studies,2018,47(1):83-118.。因此，要求法官公開裁判文書、接受監(jiān)督和問責，成為遏制司法偏見的手段之一(50)賀小榮,劉樹德,楊建文.《關于人民法院在互聯(lián)網(wǎng)公布裁判文書的規(guī)定》的理解與適用[J].人民司法,2014,(1):23.。

算法決策的終極追求也是公平合理(fairness)(51)Aziz Huq,Sam Corbett-Davies,Emma Pierson,Avi Feller and Sharad Goel,Algorithmic Decision Making and the Cost of Fairness,1 Proceedings of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining 797,797-805(2017).?，F(xiàn)實中算法暴露的諸多問題都是因為決策不公平或不合理。比如，算法對女性和黑人存在偏見(即算法歧視)、算法針對不同人群區(qū)分定價(即算法殺熟)、算法錯誤地匹配像素以至于人臉識別失敗(即算法失誤)等。算法決策無法做到完全公平合理的障礙主要來源于有偏見的價值觀、偏頗的訓練數(shù)據(jù)、偏誤的數(shù)據(jù)輸入，以及算法系統(tǒng)不適當?shù)膱?zhí)行機制(52)European Parliamentary Research Service(EU),A Governance Framework for Algorithmic Accountability and Transparency,March 2019,p.20.。由于算法的設計、訓練和運轉，包括用以決策的基礎數(shù)據(jù)都源自人腦，因此算法歧視和犯錯本質上要追溯到人類社會(53)Mayson,Sandra Gabriel,Bias In,Bias Out,128 Yale Law Journal 2218,2218-2300(2019).?？梢?，算法決策不但和司法裁判的終極目標一致，而且阻礙目標實現(xiàn)的障礙也是同源的。

3.利害與意義

司法裁判的作用是定分止爭、分配利益。裁判結果因此會影響當事人的權利和義務，還會影響相同情況下公眾的行為和后案法官的判斷(尤其在普通法的語境下)(54)吳旭陽.從演化博弈看“司法裁判”的本質和完善——行為策略實驗的視角[J].自然辯證法通訊,2017,(2):117.。與此同時，大量理論和實證研究證明，司法裁判對經(jīng)濟發(fā)展意義深遠。司法裁判作用機制有很多。比如，司法地方保護主義引發(fā)的審判不公會導致企業(yè)減少創(chuàng)新研發(fā)的投入，進而抑制企業(yè)長期發(fā)展(55)潘越,潘健平,戴亦一.公司訴訟風險、司法地方保護主義與企業(yè)創(chuàng)新[J].經(jīng)濟研究,2015,(3):131.；帶有保護主義色彩的司法裁判人為地設置壁壘、分割市場，最終導致投資環(huán)境和市場經(jīng)濟惡化等(56)陳剛,李樹.司法獨立與市場分割——以法官異地交流為實驗的研究[J].經(jīng)濟研究,2013,(9):30.。

算法決策的結果同樣會影響個人權益和社會福利。比如，很多國家已經(jīng)運用算法決策預測罪犯的人身危險和再犯風險，以此決定他們是否可以獲得保釋、緩刑等(57)Aziz Huq,Sam Corbett-Davies,Emma Pierson,Avi Feller and Sharad Goel,Algorithmic Decision Making and the Cost of Fairness,1 Proceedings of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining 797,797-805(2017).?？梢韵胍?，這些算法決策結果直接關系到個體的自由和社會的安定(58)The Law Society,Algorithms in the Criminal Justice System,June 2019.46.。此外，算法決策對于數(shù)字經(jīng)濟的影響不言而喻。數(shù)據(jù)和算法是數(shù)字經(jīng)濟的驅動器(59)Bruno Lepri,Jacopo Staiano,David Sangokoya,Emmanuel Letouzé,Nuria Oliver,The Tyranny of Data? The Bright and Dark Sides of Data-Driven Decision-Making for Social Good,in Transparent Data Mining for Big and Small Data,Studies in Big Data Series,Springer,2016.2.，算法決策的發(fā)達程度直接關系到社會運轉的效率、行業(yè)創(chuàng)新的規(guī)模以及數(shù)字經(jīng)濟的活力(60)McKinsey Global Institute,The Age of Analytics:Competing in A Data-Driven World,December 2016.8.。

(四)規(guī)制成本

司法公開和算法解釋作為治理手段，都會帶來一定的規(guī)制成本，而且都體現(xiàn)為減損決策過程的效率和犧牲決策結果的質量兩個方面。

1.決策效率

司法公開必不可避免地為司法系統(tǒng)帶來額外的工作負擔(61)Anonymity,Making Chinese Court Filings Public? Some Not-So-Foreign American Insights,133 Harvard Law Review 1728,1728-1750(2020).。比如，為了完成裁判文書的公開任務，就需要安排法官或書記員統(tǒng)一格式、審查校對、編號排序、按時上傳、匿名處理等。法院還需要設置專門的部門、安排專職人員負責司法公開工作(62)Anonymity,Making Chinese Court Filings Public? Some Not-So-Foreign American Insights,133 Harvard Law Review 1728,1728-1750(2020).。這些工作負擔的增加最終會犧牲法官個體以及整個司法系統(tǒng)的裁判效率。在美國，司法公開是一項收費服務(63)Electronic Court Records Reform Act of 2019,H.R.1164,116th Cong.§3(2019).，其背后人、財、物的成本投入不言而喻。目前，我國法院正在積極借助科技手段以減少法官在司法公開方面的負擔，提升司法效率(64)劉艷紅.大數(shù)據(jù)時代審判體系和審判能力現(xiàn)代化的理論基礎與實踐展開[J].安徽大學學報(哲學社會科學版),2019,(3):96.。顯然，這是最小化司法公開成本的努力。

同樣，要求算法提供解釋會為算法決策帶來額外負擔。從計算科學的視角看，算法并不會自動存儲決策的過程信息(與人類不同，算法天生沒有記憶)。而且這一點被認為是算法決策相比于人類決策的優(yōu)勢——及時刪除存儲的冗余數(shù)據(jù)以確保高效運行，同時，還能保護隱私信息、減少無關因素干擾決策。于是，若要算法給出事后決策解釋(ex post explanation)，必須明確地提前部署(65)Finale Doshi-Velez and Mason Kortz,Accountability of AI Under the Law:The Role of Explanation,Berkman Klein Center Working Group on Explanation and the Law,Berkman Klein Center for Internet and Society working paper,2017.10.。這就需要在算法設計時額外付出更多的人力和財力。而且，在算法決策過程中同時運行提供事后解釋的程序會侵占大量算力，最終減損算法決策效率。

2.決策質量

司法公開可能會阻礙優(yōu)秀判決的產(chǎn)生(66)Frederick Schauer,The Mixed Blessings of Financial Transparency,31 Yale Journal on Regulation 809,809,821-822(2014).。由于受到公開的壓力，法官傾向于在作出判斷時“隨大流”或者采納更容易為公眾接受的安全立場(67)Anonymity,Making Chinese Court Filings Public? Some Not-So-Foreign American Insights,133 Harvard Law Review 1728,1728-1750(2020).。長此以往，法官在潛在的輿論影響下，無法自由并忠于內(nèi)心確信地發(fā)表意見，最終影響裁判質量。

相比之下，算法是沒有感情的決策機器，其自然不會受到輿論的影響。但是在算法解釋的要求下，算法決策的質量會通過其他路徑受到減損。如果法律對算法決策提出了更高的解釋標準，為了使算法決策可解釋，相關公司和機構可能會簡化算法模型設計、減少機器學習的數(shù)據(jù)標簽等，最終導致算法的分析能力下降，得出不當(undue)甚至錯誤的算法決策結果(68)Jason L.Anastasopoulos and Andrew B.Whitford,Machine Learning for Public Administration Research,with Application to Organizational Reputation,29 Journal of Public Administration Research and Theory 491,491-506(2019).。

(五)小結

綜上所述，算法解釋與司法公開在規(guī)制方式、規(guī)制目標、規(guī)制對象和規(guī)制成本這四個關鍵方面都高度相似(見圖1)。這為司法公開向算法解釋借鑒經(jīng)驗奠定了基礎。

圖1 算法解釋與司法公開的共性匯總

三、算法解釋及司法公開的特性

(一)權屬特征

司法公開與算法解釋的內(nèi)容在所有權歸屬方面大相徑庭。前者被普遍認為是“公共資源”，而后者則很可能屬于“私人財產(chǎn)”。因此，司法公開往往力度更大、要求更高。

司法公開的內(nèi)容很早就被認為屬于公共資源。美國法院向社會公開司法記錄(judicial records)的歷史可以追溯到建國初期(69)Nixon v.Warner Commc’ns,Inc.,435 U.S.589,597(1978); Arthur R.Miller,Confidentiality,Protective Orders,and Public Access to the Courts,105 Harvard Law Review 427,427-429(1991).。司法公開的正當性來自“信息披露理論(information-revealing argument)”(70)Anonymity,Making Chinese Court Filings Public? Some Not-So-Foreign American Insights,133 Harvard Law Review 1728,1728-1750(2020).。簡單來說，司法活動信息為公眾所關切。即便訴訟涉及私人主體，但由于觸發(fā)了公權力機構的干預、動用了公共資源(public resources)(71)Cf.Doe v.Vill.of Deerfield,819 F.3d 372,376-77(7th Cir.2016).，這些信息也就具備了公共屬性，成為了公眾之事(public matter)(72)Cf.BP Expl.& Prod.,Inc.v.Claimant,920 F.3d 209,212(5th Cir.2019).。我國開始在網(wǎng)上公開裁判文書時，最高人民法院也表示“當事人之間的糾紛一旦進入訴訟程序就動用了國家司法資源，私人訴訟就轉變?yōu)楣珯嗔\行的組成部分，糾紛的處理情況也成為一種司法產(chǎn)品和公共資源。”(73)張先明.積極回應社會關切 主動接受社會監(jiān)督——最高人民法院審判管理辦公室負責人就裁判文書上網(wǎng)答記者問[EB/OL].(2013-07-03)[2020-10-17].https://www.chinacourt.org/article/detail/2013/07/id/1020571.shtml.因此，司法公開是由司法過程信息的社會特性決定的，而這也意味著要求更大的公開力度。

與之相對，算法解釋的內(nèi)容(如算法程序的源代碼、訓練數(shù)據(jù)等)在很大程度上屬于私人財產(chǎn)甚至商業(yè)秘密(74)Jack M.Balkin,Free Speech in the Algorithmic Society:Big Data,Private Governance,and New School Speech Regulation,51 U.C.Davis Law Review 1149,1149-1210(2018).。在商業(yè)領域，算法是科技公司、互聯(lián)網(wǎng)企業(yè)投入大量成本研制而出的智慧成果，也是其獲得市場優(yōu)勢、賺取商業(yè)利益的工具(75)林洹民.自動決策算法的法律規(guī)制：以數(shù)據(jù)活動顧問為核心的二元監(jiān)管路徑[J].法律科學(西北政法大學學報),2019,(3):43.。這就使得這些算法決策信息與“公共資源”相去甚遠，也無法直接借用“信息披露理論”作為公開的正當性基礎。上述觀點得到了法院的認可。比如，在2008年的Viacom v.You Tube案中，當原告要求披露You Tube網(wǎng)站搜索工具的計算機源代碼時，法官以保護商業(yè)秘密為由駁回了請求(76)Viacom Int’l,Inc.v.YouTube,Inc.,No.1:07-cv-02103-LLS,2008 U.S.Dist.LEXIS50614(S.D.N.Y.Jul.2,2008).。

值得注意，即便應用于公共領域，算法決策的過程信息也并非當然可以公開的“公共資源”。斯坦福大學在2019年的一項調查顯示，在聯(lián)邦政府各部門的算法決策工具中，只有53%是內(nèi)部科技部門研發(fā)的，還有一半來自外包資源(與外部科技公司簽訂合同，委托研發(fā)或使用其核心技術)(external source)(77)David Freeman Engstrom,Daniel E.Ho,Catherine M.Sharkey,Mariano-Florentino Cuellar,Government by Algorithm:Artificial Intelligence in Federal Administrative Agencies,February 2020.18.。事實上，在2016年的State v.Loomis案中，法官就將國家司法部門用以輔助量刑的算法決策程序視為商業(yè)秘密進行保護(78)State v.Loomis,881 N.W.2d 749(Wis.2016).。

其實，相比于公共部門，科技公司在算法研發(fā)的過程中不受雇傭和預算限制，而且在商業(yè)利益的驅動下更傾向于優(yōu)化技術、追求創(chuàng)新。因此，在現(xiàn)有的算法決策工具中，越是精細度和技術水平高的算法，越是為私人公司所有(尤其是“巨型私人公司”)(79)David Freeman Engstrom,Daniel E.Ho,Catherine M.Sharkey,Mariano-Florentino Cuellar,Government by Algorithm:Artificial Intelligence in Federal Administrative Agencies,February 2020.89.。而這些“高精尖”的算法往往在決策過程更復雜、對社會福利影響更大，因而更需要被解釋。但是有了“私產(chǎn)”的標簽，上述算法作出決策的過程信息存在解釋的正當性和利益沖突問題，在公開力度上可能會大打折扣。

(二)決策類型

雖然司法公開和算法解釋涉及的領域都包羅萬象，但兩者需要說明和闡釋的決策過程具有不同的類型。所謂“決策類型”，即決策的任務種類、正式程度和自主程度。

司法裁判主要包括司法判決和司法裁定，兩者都屬于法官主導的正式?jīng)Q策。即便是諸如確認調解協(xié)議等司法裁定行為，也是需要法官全程參與、實質審查。而且作出的裁決具有法律效力，會對當事人的權利義務作出分配(80)胡軍輝,趙毅宇.論司法確認裁定的既判力范圍與程序保障[J].湘潭大學學報(哲學社會科學版),2018,(4):36.。相比之下，不同算法決策的類型差異很大，這又進一步?jīng)Q定了決策結果對個體和社會福利的影響。舉例而言，“抖音算法”對于用戶即將看到的下一個視頻的決策與“量刑算法”對罪犯應被判處服刑年限的決策相比，兩者的正式程度不同、影響迥異。

在公共服務領域，以算法決策最為活躍的美國為例，其聯(lián)邦政府部署的算法決策工具非常多元。截至2019年，142個最主要的美國聯(lián)邦政府部門(超過400個正式雇員)中有64個機構常態(tài)化地使用算法決策，共包括157種應用。其中，司法項目辦公室(Office of Justice Programs)、證券交易委員會(Securities and Exchange Commission)、食藥監(jiān)局(Food and Drug Administration)等機構最多運用算法。涉及的政策領域包括法律執(zhí)行、健康、金融監(jiān)管、商業(yè)、環(huán)境等。執(zhí)行的具體任務包括收集、篩選、分析政策以服務于政策制定；搜集和追蹤違法違規(guī)行為；以工商監(jiān)管為目的與公眾互動交流(如聊天機器人)；雇傭管理和采購決策；在特定領域作出行政裁決等。

就算法決策的任務種類而言，包括分類(classification)、回歸(regression)、結構化預測(structured prediction)、聚類(clustering)和機器人感知與控制(robotics)。不同的任務種類意味著不同的算法決策難度。就正式程度而言，包括正式(formal)決策、非正式(informal)決策以及其他決策(81)美國行政執(zhí)法部門的行政裁決(adjudication)包括正式裁決和非正式裁決。正式裁決受到聯(lián)邦行政程序法監(jiān)管，一般由行政法法官來主持；非正式裁決在聯(lián)邦行政程序法中沒有具體程序規(guī)定，并主要由非行政法法官來操作。后者的比重更大。See 5 U.S.C.§ 554(2018).在本文中，如果算法代替行政法法官作出正式裁決，則稱為“正式?jīng)Q策”；如果算法作出非正式裁決，則為“非正式?jīng)Q策”。如果算法作出不涉及行政裁決的一般決策，則為“其他決策”。文章以此分類，主要為了體現(xiàn)算法決策的正式程度。。不同的正式程度決定了決策的潛在影響。就算法自主程度而言，包括監(jiān)督式學習(supervised learning)及決策和無監(jiān)督學習及決策(82)David Freeman Engstrom,Daniel E.Ho,Catherine M.Sharkey,Mariano-Florentino Cuellar,Government by Algorithm:Artificial Intelligence in Federal Administrative Agencies,February 2020.15-20.。不同的自主程度，決定了人工干預的程度和算法出錯的幾率。由此可見，不同于司法決策的正式嚴肅和高度自主，算法決策的具體類型豐富多元。

(三)小結

綜上所述，算法解釋及司法公開在權屬特征和決策類型兩個方面存在差異(見圖2)。這是算法解釋在汲取司法公開經(jīng)驗時需有所變通的指引和方向。

圖2 算法解釋及司法公開的特性匯總

四、司法公開對算法解釋的啟示

作為規(guī)制手段，司法公開與算法解釋在方式、目標、對象、成本等關鍵維度相互對應，在內(nèi)容權屬和決策類型上略有差異。兩者的共性奠定了借鑒的基礎，彼此的特性指引著變通的方向。從兩者的共性來看，作為法律工具的司法公開和算法解釋在機理、功能、關注、約束等方面都非常類似。這是前者為后者提供啟發(fā)的重要前提。從兩者的特性來看，司法裁判作為“公產(chǎn)”，面臨著更高的信息公開要求。同時，司法決策通常有著比算法決策更正式和自主的決策場景，這也意味著更強的規(guī)制必要。這些特點都決定了司法公開的標準、要求和難度一般應大于等于算法解釋。即便面對這些挑戰(zhàn)，中國的司法公開仍走在世界前列(公開力度遠超美歐)(83)Anonymity,Making Chinese Court Filings Public? Some Not-So-Foreign American Insights,133 Harvard Law Review 1728,1728-1750(2020).，其寶貴經(jīng)驗可供算法解釋借鑒。基于“類比出真知”和“舉重以明輕”的理念，下文將結合司法公開與算法解釋的共性和特性，從定位、限度、要件、實施四個層面，為算法解釋確立“謙抑原則”“保留原則”“細分原則”和“比例原則”。

(一)算法解釋的定位：謙抑原則

隨著我國算法治理相關的立法活動逐步開展，算法解釋的定位亟待澄清，因為它決定了這一算法治理工具的預期功能和具體構造。然而，國內(nèi)法學界對于這個問題意見不一，分為“激進派”和“保守派”。前者認為算法解釋“神通廣大”，絕大部分算法決策導致的問題都可以通過它解決。于是，呼吁算法解釋、強制算法解釋的聲音層出不窮(84)此派觀點如解正山.算法決策規(guī)制——以算法“解釋權”為中心[J].現(xiàn)代法學,2020,(1):179; 張恩典.大數(shù)據(jù)時代的算法解釋權：背景、邏輯與構造[J].法學論壇,2019,(4):152.。后者則認為算法解釋并不重要，應處于“非普適性”和“輔助性”的位置(85)此派觀點如沈偉偉.算法透明原則的迷思——算法規(guī)制理論的批判[J].環(huán)球法律評論,2019,(6):20; 陳景輝.算法的法律性質：言論、商業(yè)秘密還是正當程序？[J].比較法研究,2020,(2):120.。參照司法公開的現(xiàn)實地位，算法解釋應遵循“謙抑原則”，即承認其具有相當?shù)闹匾?，但不宜過分夸大其功能。

若為司法公開的地位和作用“畫像”(見表1)(86)這一理論框架參見羅伯特·C.埃里克森,蘇力譯.無需法律的秩序[M].北京：中國政法大學出版社,2003.9.，它在規(guī)制層級上屬于“國家立法”(與“組織規(guī)則、社會規(guī)范、合同規(guī)范、自我規(guī)范”相對)，在規(guī)制類型上主要屬于“規(guī)則”(與“原則”相對)，在規(guī)制階段上包括“事中(庭審網(wǎng)絡直播)”和“事后(裁判文書公開)”(與“事前”相對)，在規(guī)制目標上包括監(jiān)督、問責、教育(不包括實現(xiàn)司法裁判公平合理的其他目標，如培訓法官)。

表1 司法公開的定位“畫像”

從“畫像”的“留白”部分可知，司法公開有諸多力所不逮之處，在定位上保持著“謙抑”特性。具體來說，對于司法公開意圖實現(xiàn)的目標，其他規(guī)制工具也在發(fā)揮作用。比如，通過司法公開監(jiān)督法官以外，法官的自我監(jiān)督(“自我規(guī)范”的規(guī)制層級)、法院領導及上級法院的監(jiān)督(“組織規(guī)則”的規(guī)制層級)也作用巨大(87)崔永東.關于司法機關內(nèi)部監(jiān)督問題的探索與思考[J].北京聯(lián)合大學學報(人文社會科學版),2015,(3):61.。對于司法公開無法涵蓋的部分，其他工具則各司其職。比如，員額制法官的遴選從事前確保了決策主體的素質，最終將促進司法裁判質效的提升(88)包獻榮.我國員額法官退出機制的構建與完善[J].法律適用,2019,(9):120.。由此可見，司法公開與其他規(guī)制工具相互依存、相輔相成，體現(xiàn)著作為規(guī)制工具的“謙抑性”。

考慮到算法解釋與司法公開的共性，以及兩者在權屬特征上的“公私之分”、決策類型上的“高下之分”，為算法解釋定位時，更應當遵循“謙抑原則”——以算法決策公平合理為追求，算法解釋應和其他治理工具相互依存，共同發(fā)揮作用。一方面，算法解釋可以實現(xiàn)的規(guī)制目標(監(jiān)督、問責、教育)決定了它的價值和意義不容忽視。另一方面，對于上述規(guī)制目標，算法解釋不應成為唯一手段；對于算法決策的終極追求(算法決策公平合理)，算法解釋也僅是其中一環(huán)?？傊瑧獙ζ浯嬗泻侠砥诖?，積極發(fā)展相互依存或可以替代的更優(yōu)治理方案。

以算法解釋的“問責”目標為例，算法問責是否必須以算法解釋為前提？答案是否定的。在嚴格責任的語境下，只要證明算法侵權的結果即可啟動問責，無須考慮算法決策的過程。有學者指出，基于算法的實施效果，對算法進行事后問責可能是可行性更高、成本更低的做法(89)沈偉偉.算法透明原則的迷思——算法規(guī)制理論的批判[J].環(huán)球法律評論,2019,(6):20.。再看確保算法決策公平合理這一終極愿景，僅有算法解釋是否足夠？答案也是否定的。比如，算法解釋是解釋既有的算法決策過程，為了確保算法決策的質量，“贏在起點”的做法是在算法設計和訓練時就進行“前期檢查”，降低其未來犯錯的風險。據(jù)此，德國設立了數(shù)據(jù)保護顧問(90)林洹民.自動決策算法的法律規(guī)制：以數(shù)據(jù)活動顧問為核心的二元監(jiān)管路徑[J].法律科學(西北政法大學學報),2019,(3):43.。可見，算法決策的治理還應重視和發(fā)展事前規(guī)制手段。“法律不是目的，而是手段。秩序才是目的”(91)羅伯特·C.埃里克森,蘇力譯.無需法律的秩序[M].北京：中國政法大學出版社,2003.3.。對于算法治理這樣技術性強、專業(yè)化高的領域，法律人應保持謙抑——對技術心存敬畏，不但要避免被特定規(guī)制手段“一葉障目”，也要警惕濫用“法律工具”(92)Lilian Edwards and Michael Veale,Slave to the Algorithm:Why a Right to an Explanation Is Probably Not the Remedy You Are Looking for,16 Duke Law and Technology Review 18,18-84(2017).，防止造就一個“法律更多，但秩序更少”的世界。

總之，算法解釋雖然重要，但其并非算法決策終極追求的充分條件(算法解釋并不足以確保追求能夠達成)，也不能當作算法解釋規(guī)制目標的必要條件(規(guī)制目標的實現(xiàn)并不一定需要算法解釋)。因此，比照司法公開的地位，算法解釋的定位應符合“謙抑原則”——僅僅作為可相互替代的算法治理工具之一。在這種定位下，各學科應積極發(fā)展其他可供選擇的算法治理手段，共同促成算法決策公平合理的終極目標。

(二)算法解釋的限度：保留原則

國內(nèi)學者對于算法解釋的限度也存在爭議。有學者基于算法的專業(yè)性和復雜性，提出應當降低算法解釋的限度(93)徐鳳.人工智能算法黑箱的法律規(guī)制——以智能投顧為例展開[J].東方法學,2019,(6):78.。另有學者認為算法解釋會侵犯知識產(chǎn)權和商業(yè)秘密，不利于算法創(chuàng)新和科技發(fā)展，因此也要求降低解釋限度(94)孫慶春,賈煥銀.算法治理與治理算法[J].重慶大學學報(社會科學版),2019,(12):1.。然而，站在算法決策受眾的角度，部分學者以“算法透明”為標準，要求提高算法解釋限度(95)程瑩.元規(guī)制模式下的數(shù)據(jù)保護與算法規(guī)制——以歐盟《通用數(shù)據(jù)保護條例》為研究樣本[J].法律科學(西北政法大學學報),2019,(4):48.。其實，參照司法公開的尺度，算法解釋的限度應當有所保留，而且保留的原因和程度至少應與司法公開保持一致。

中國的司法公開水平世界領先，然而遠沒有做到完全公開，而是遵循了“保留原則”(96)Benjamin L.Liebman et al.,Mass Digitization of Chinese Court Decisions:How to Use Text as Data in the Field of Chinese Law(21st Century China Ctr.,Research Paper No.2017-01; Columbia Pub.Law,Research Paper No.14-551,2017).?？傮w來看，中國法院一般基于三類原因在一系列與司法裁決緊密相關的事項上有所保留。第一，因缺乏可能性而不公開。主要針對司法裁判中的“混沌過程”。比如，法官的自由心證被認為是一種“生物算法”的黑箱。公開闡釋此類心智活動困難重重(97)周慕涵.證明力評判方式新論——基于算法的視角[J].法律科學(西北政法大學學報),2020,(1):46; 杜文靜.證據(jù)證明力評價的似然率模型[J].華東政法大學學報,2017,(1):149.。第二，因缺乏合理性而不公開。主要針對司法公開中的“利益沖突”。常見的比如司法公開與商業(yè)秘密、個人隱私的沖突。還比如，為了防止司法公開與社會穩(wěn)定等利益相沖突，法院一般不公開合議庭中的少數(shù)人意見(98)馮文生.論公開合議庭少數(shù)人意見[J].法律適用,2002,(12):29.和審委會的討論過程(99)邵六益.審委會與合議庭：司法判決中的隱匿對話[J].中外法學,2019,(3):713.。第三，因缺乏必要性而不公開。主要針對司法公開中的“冗余投入”。比如，法官一般不會在裁判說理中詳細解釋諸如“不當?shù)美焙汀盁o因管理”等法學專業(yè)術語的內(nèi)涵和外延。

作為與司法公開高度類似的決策規(guī)制工具，算法解釋的限度應遵循司法公開的“保留原則”，將缺乏可能性、合理性、必要性確定為豁免算法解釋的三項基本理由。而且，由于算法決策往往比司法裁判的正式程度更低、自主性更弱、權屬上的公共色彩也沒那么濃厚，算法解釋的限度原則上不應超過司法公開的限度。下面具體從三項理由梳理原則上應予保留的算法解釋事項?？梢园l(fā)現(xiàn)，這些事項與司法公開的保留事項一一對應(見表2)。

表2 司法公開和算法解釋的保留事項對比

第一，缺乏解釋可能性的“混沌過程”。類似于無法闡明的法官自由心證，被稱為“算法黑箱”的算法決策過程(包括機器學習階段)也是典型的“混沌過程”?？疾煊嬎憧茖W領域的現(xiàn)狀可知，提高算法可解釋性仍是技術人員面臨的重大難題——現(xiàn)在問題并不是算法設計者“愿不愿意解釋”，而是他們“有沒有能力解釋”(100)張永鋒.個性化推薦的可解釋性研究[D].清華大學計算機科學與技術專業(yè)博士論文,2016.16; 全文君.數(shù)據(jù)挖掘過程中的可解釋性問題研究[D].重慶大學計算機科學與技術專業(yè)博士論文,2018.12-13.。以算法決策的“人工神經(jīng)網(wǎng)絡”算法為例(見圖3)。它是一種模仿動物神經(jīng)網(wǎng)絡行為的算法模型。在結構上，圓圈類似于人類的神經(jīng)元，直線類似于神經(jīng)元之間的連結。層與層之間的節(jié)點相互連接，每層之間的節(jié)點則互不相通。這種算法模型在“隱藏層”通過調整內(nèi)部大量節(jié)點之間的關系，達到處理信息的目的。即便是算法設計者，也難以解釋決策過程的來龍去脈。因此，如果“算法黑箱”本就無法打開，算法解釋自然就沒有可能性。

圖3 “人工神經(jīng)網(wǎng)絡算法”模擬圖

第二，缺乏解釋合理性的“利益沖突”。法院為了社會穩(wěn)定等因素通常不會公開審委會的討論過程，于是“難辦案件”的司法決策過程在價值權衡后，成為了合議庭和審委會間的“隱匿對話”(101)邵六益.審委會與合議庭：司法判決中的隱匿對話[J].中外法學,2019,(3):713.。與此類似，在算法決策過程中，很多內(nèi)容本是可以解釋的，但因為在價值沖突和權衡時處于“下風”而不應予以解釋。常見的比如算法解釋與商業(yè)秘密、個人隱私之間的沖突。此外，與算法解釋沖突的利益還包括最廣泛的社會福利。具體來說，高標準的算法解釋可能帶來“反向機器學習和博弈”(adversarial machine learning and gaming)的隱患(102)Daniel Lowd and Christopher Meek,Adversarial Learning.In Proceedings of the Eleventh ACM SIGKDD International Conference on Knowledge Discovery in Data Mining(KDD’ 05),Association for Computing Machinery,New York,NY,USA,641-647(2005).。受到算法決策影響的群體可以通過算法解釋，剖析算法決策的特點，進而投其所好地輸入信息，最終使算法得出有利于自己的決策結果。在極端的情況下，他們還可能侵入算法決策過程，提供新的訓練數(shù)據(jù)影響決策模型(103)See Jane R.Bambauer & Tal Zarsky,The Algorithm Game,94 Notre Dame Law Review 1,1-48(2018).。在這種情況下，算法決策過程的解釋限度應該降低。其原理與法院不應公開庭審直播可能傳授和傳播犯罪方法案件的原理相似(104)如北京市高級人民法院.關于進一步推進和規(guī)范庭審直播工作的通知,2018.。可見，如果與算法解釋相沖突的價值或利益占據(jù)上風，算法解釋便不再有合理性。

第三，缺乏解釋必要性的“冗余投入”。在有限司法資源的約束下，司法系統(tǒng)會以降低公開限度的方式避免冗余工作，以提升司法效率。比如，法官并不會在裁判文書中詳細闡釋基本的法律術語。類似的，算法解釋也不必將專業(yè)術語、編程語言甚至數(shù)學原理事無巨細地講解給算法解釋的對象(105)解正山.算法決策規(guī)制——以算法“解釋權”為中心[J].現(xiàn)代法學,2020,(1):179.。在多數(shù)情況下，也應盡量避免算法的使用者因無法滿足高標準的算法解釋要求而被迫棄用算法決策工具。因為棄用算法決策意味著更多人力資源的冗余投入(106)Finale Doshi-Velez and Mason Kortz,Accountability of AI Under the Law:The Role of Explanation,Berkman Klein Center Working Group on Explanation and the Law,Berkman Klein Center for Internet and Society working paper,2017.。總之，算法解釋不應以過度犧牲算法效率為代價——在成本收益分析下，算法解釋的投入過大，就失去了其必要性。

(三)算法解釋的要件：細分原則

司法公開要在秉持“保留原則”的前提下完成公開任務，就必須輔以“細分原則”。司法活動及司法決策的內(nèi)容并非“鐵板一塊”，而是可供分割的有機整體。具體來說，司法公開本身就包括公開的內(nèi)容、公開的時機和公開的對象等若干方面，每一個方面又可以細分為多個要素。比如，在庭審網(wǎng)絡直播的場景下，可以以庭審的階段為標準，分解為核對當事人身份信息、當事人陳述、舉證質證、法庭辯論、法庭調解、法庭宣判等。又比如，公開的時機包括事中公開(如庭審網(wǎng)絡直播)、事后公開(如裁判文書的公開)等。再比如，公開的對象包括案件的當事人、法庭的旁聽人員、全體公眾等。

進行細分的目的是為了在司法公開時做到“區(qū)別對待”和“有所取舍”。很多時候，為了遵循司法公開的“保留原則”，在具體的公開場景下，應選擇性地公開或隱去特定部分(107)如最高人民法院.最高人民法院關于人民法院在互聯(lián)網(wǎng)公布裁判文書的規(guī)定,2016,第8條.。于是，不同類型和程度的分割為“部分公開”和“部分剔除”提供了可能。換言之，在利益沖突時，細分原則確保了司法公開的合理性。比如，在庭審網(wǎng)絡直播中，為了保護當事人的隱私權益，舉證質證的階段需要單獨切割和抽離出來，不予直播(108)如江蘇省南京市江寧區(qū).南京市江寧區(qū)人民法院關于全面開展庭審網(wǎng)絡直播的通知,2018.。

效仿上述邏輯和目的，算法解釋也應納入“細分原則”。首先，算法解釋的概念本身應拆解出若干要件。其中，最為關鍵的就是算法解釋的內(nèi)容、時機和對象(109)European Parliamentary Research Service(EU),A Governance Framework for Algorithmic Accountability and Transparency,March 2019.4-8.。其后，上述三個構成要素還應當被進一步細分(見圖4)。具體來說，算法解釋的內(nèi)容至少應包括數(shù)據(jù)(包括原始數(shù)據(jù)和訓練數(shù)據(jù)等)、代碼(算法的運算法則)、決策目標(算法決策的功能或作用，比如通過人臉識別驗證身份)、決策結果(在特定的場景下得到的結果，比如身份驗證是否通過)、合規(guī)情況(算法設計和使用符合哪些規(guī)定)、利益沖突情況(算法的關聯(lián)方及潛在的利害關系)、數(shù)據(jù)使用方法(算法收集的數(shù)據(jù)如何形成決策，包括每種數(shù)據(jù)的影響權重)等。算法解釋的時機應包括決策前解釋、決策中解釋、決策后解釋。算法解釋的對象至少應包括所有公眾、當事人、監(jiān)管部門、第三方機構、獨立研究者等(110)European Parliamentary Research Service(EU),A Governance Framework for Algorithmic Accountability and Transparency,March 2019.6.。

圖4 算法解釋的細分要素

可以想見，由于算法決策程序的權屬特征，潛在的利益沖突會更激烈，算法解釋活動也并非理所當然。于是，將算法解釋的內(nèi)容、時機和對象進行細分后，在要求算法解釋的特定場景下，就可以按照實際需要，把“合適的解釋內(nèi)容”在“合適的時機”提供給“合適的對象”。以此，便可盡量均衡各方權益、各類價值，實現(xiàn)算法解釋的合理性。

(四)算法解釋的實施：比例原則

明確算法解釋的定位、限度、要件的基本原則，最終是為了服務于算法解釋的具體實施?；仡櫳衔牡慕Y論，“謙抑原則”為其他算法治理工具保留了空間；“保留原則”提示算法解釋必須滿足合理性和必要性；“細分原則”為利益權衡下的精準取舍做好了準備。那么，應該如何綜合運用上述原則，把“合適的解釋內(nèi)容”在“合適的時機”提供給“合適的對象”呢？此時，可以借用行政法領域“比例原則”。主要原因有三：

第一，“比例原則”是司法公開過程中遵循的原則之一，常被用以確定司法公開的范圍和限度(111)冀放,冀祥德.司法公開的審查和限制——以法官和媒體在審判公開中的角色為視角[J].求是學刊,2014,(4):88.?；谒痉ü_與算法解釋的可比性，這一原則同樣可以借用。第二，算法解釋作為一種國家機關作出的規(guī)制手段，是國家權力行使的范疇，屬于比例原則的作用范圍(112)梅楊.比例原則的適用范圍與限度[J].法學研究,2020,(2):57.。第三，“比例原則”及其三個子原則，與本文借鑒司法公開所確立的“保留原則”中的“必要性”和“合理性”不謀而合，重在權衡成本收益、平衡價值沖突。因此，“比例原則”的理論資源可供借鑒。總之，在確定不同情形下“合適的”算法解釋內(nèi)容、時機和對象時，可以借助“比例原則”的框架進行分析。

“比例原則”包含三項子原則?！斑m當性原則”要求國家機關采取的手段應當有助于規(guī)制目的的實現(xiàn)；“必要性原則”要求國家機關選取對當事人利益侵害最小的手段；“均衡性原則”要求國家機關采取的手段給當事人利益造成的損失必須與手段所追求的目的合乎比例。由此，“比例原則”適用的關鍵是明確特定場景下的規(guī)制目的，并考慮特定規(guī)制手段的成本(潛在的損害和沖突的權益)。這本質上是一個在目標和手段之間權衡沖突價值、計算成本收益的過程(113)于鳳瑞.“成片開發(fā)”征收決定公益目的的司法審查：比例原則的應用[J].中國政法大學學報,2019,(5):153.。在算法解釋的語境下，為了找出天平兩端的對立價值，計算潛在的成本和收益，應綜合考慮的因素至少包括：算法解釋的目的(問責/監(jiān)督/教育/...)、算法權屬(公共/私人)、應用領域(軍事國防/社會保障/社交媒體/...)、潛在影響(國家安全/社會秩序/個體利益)、正式程度(正式/非正式/其他)和自主程度(有監(jiān)督/無監(jiān)督)、潛在的替代方案等因素(見圖5)(114)Mateski,Mark,Cassandra M.Trevino,Cynthia K.Veitch,John Michalski,J.Mark Harris,Scott Maruoka,and Jason Frye,Cyber Threat Metrics,Sandia National Laboratories,2012; European Parliamentary Research Service(EU),Understanding Algorithmic Decision-making:Opportunities and Challenges,March 2019,p.19.。

圖5 算法解釋適用“比例原則”的考慮因素

考慮到前文論述的“細分原則”，算法解釋的具體實施應分為三步(見表3)。第一，選擇待考慮的算法解釋的構成要件(內(nèi)容/時機/對象)；第二，逐一對算法解釋的構成要件適用“比例原則”，確定應該考慮的因素(解釋目的/應用領域/潛在影響/...)并加以權衡和計算；第三，根據(jù)權衡和計算的結果決定算法解釋的細分要素。下面結合具體場景對算法解釋的三個構成要件進行說明。

表3 算法解釋的具體實施示意圖

第一，確定算法解釋的內(nèi)容——以只需提供“算法決策結果”的情形為例。假設我們要判斷一個商業(yè)(私人)貸款額度的監(jiān)督算法決策程序是否存在性別歧視，進而對其追究責任。在這個案例中，算法解釋的目的是“問責”，類別屬于私人算法，自主程度較低。根據(jù)“必要性原則”的指引，國家機關應選取對當事人利益侵害最小的手段。考慮到“統(tǒng)計證明法”和“反事實解釋法”能夠輔助我們單純基于算法決策結果對算法問責，我們就無需打開算法黑箱了解其決策過程，只需提供“算法決策的結果”這一細分要素即可實現(xiàn)目標。

具體來說，采用“統(tǒng)計證明法”(Statistical Evidence Approach)(115)Finale Doshi-Velez and Mason Kortz,Accountability of AI Under the Law:The Role of Explanation,Berkman Klein Center Working Group on Explanation and the Law,Berkman Klein Center for Internet and Society working paper,2017.國內(nèi)學者提出了類似的方法，被稱為“正當程序法”，參見陳景輝.算法的法律性質：言論、商業(yè)秘密還是正當程序？[J].比較法研究,2020,(2):120.，在控制除性別外其他因素不變的情況下，讓算法對一定數(shù)量的樣本情形作出決策。從算法決策的結果來看，如果某種性別總是得到更有利的結果，而另一種性別總是處于不利地位，則算法決策必然存在性別歧視，可以追責。我們還可以采用“反事實解釋法”(Counterfactual Explanations)實現(xiàn)相同目標(116)Sandra Wachter,Brent Mittelstadt and C Russell,Counterfactual Explanations without Opening the Black Box:Automated Decisions and the GDPR,31 Harvard Journal of Law & Technology 841,841-887(2018).。假設某人懷疑自己因性別而被算法差別對待。只需保持其他因素不變，單純改變性別這一因素后讓算法再次決策，如果得出的結論并不相同，則說明算法確實存在性別歧視，應當承擔責任。

第二，確定算法解釋的時機——以需要在“決策前”和“決策中”解釋的情形為例。如果某正式?jīng)Q策的公共算法將被應用在軍事領域，潛在地影響到國家安全。而且，這一算法包括無監(jiān)督的機器學習環(huán)節(jié)，自主性較高。那么，該算法在投入使用(決策)之前甚至進行設計之時就應進行算法解釋。并且，在算法決策的過程中，要全程保持透明、留存可追蹤復盤的算法決策過程信息。顯然，這么做符合“均衡性原則”，因為國家機關采取的手段的成本必須與手段所追求的目的成比例。也就是說，在綜合考慮了算法解釋的目的、應用領域、潛在影響、正式程度和自主程度后，我們認為這類算法必須在事前、事中提供清晰、完整的解釋，否則，就應當棄用(117)Congressional Research Service,Artificial Intelligence and National Security,November 2019.。

第三，確定算法解釋的對象——以只需向“監(jiān)管部門”解釋的情形為例。如果某一算法是商業(yè)領域的私人算法，主要的功能是呈現(xiàn)用戶搜索結果的決策，而且該算法的決策過程如果公之于眾，可能導致算法博弈和反向機器學習等損害公共利益的嚴重后果。假設這一算法侵害了公民的健康權、財產(chǎn)權，我們就需要獲取算法解釋以對其進行監(jiān)督和整改。那么，在考慮了算法解釋的目的、算法權屬、應用領域和潛在影響之后，該算法可不必向所有社會公眾提供解釋，而可僅向政府監(jiān)管部門解釋。此舉符合“必要性原則”和“均衡性原則”。其實，我國就有這樣的實例。2016年，針對“魏則西事件”，國家網(wǎng)信辦會同國家工商總局對百度的競價排名算法進行內(nèi)部調查和整改?；诎俣确矫嫣峁┑乃惴ń忉專{查組認為這一算法存在付費競價權重過高、信譽度權重過低、搜索結果每頁顯示的商業(yè)推廣信息過多等問題(118)雷麗娜.國家網(wǎng)信辦聯(lián)合調查組公布進駐百度調查結果[EB/OL].(2016-05-09)[2020-10-17].http://www.gov.cn/xinwen/2016-05/09/content_5071628.htm.。此時，百度算法解釋的對象僅是政府監(jiān)管部門，以這種對私人利益侵害較小的方式實現(xiàn)了監(jiān)管目的。

通過上述三個案例可以發(fā)現(xiàn)，在決定算法解釋的內(nèi)容、時機和對象時，需在“比例原則”的指導下，結合“謙抑原則”和“保留原則”，在特定的應用場景下，基于多種考慮因素，靈活確定算法解釋的各個構成要件和呈現(xiàn)要素。最后，通過“細分原則”讓算法解釋趨于精細化、合理化、均衡化。

五、結語

算法解釋的標準決定了算法決策的興衰，也影響著數(shù)字經(jīng)濟的發(fā)展。然而，算法解釋的治理方案在中國方興未艾，諸如定位、限度、要件、實施等具體問題亟待澄清?；谒痉ü_與算法解釋在規(guī)制方法、規(guī)制目標、規(guī)制對象、規(guī)制成本等關鍵方面的相似性，算法解釋可以從司法公開處借鑒經(jīng)驗。又由于兩者在權屬特征和決策類型方面的差異性，算法解釋在借鑒的過程中應有所變通?？偟膩砜?，在司法公開的啟示下，算法解釋應確立四項原則?！爸t抑原則”要求算法解釋作為法律工具，在其他算法治理工具面前保持謙和與自抑，做好相互配合甚至被更優(yōu)秀的治理手段替代的準備?！氨Ａ粼瓌t”提供了豁免算法解釋的若干正當性基礎，確保算法解釋具備可能性、合理性和必要性。“細分原則”明確了算法解釋的各個要件可以且應當進行拆分，以備精準地滿足特定場景下的監(jiān)管要求?！氨壤瓌t”在算法實施層面提供了權衡價值沖突、計算成本收益的框架，為確定算法解釋的內(nèi)容、時機、對象等具體要素提供了指引。