徐寅晨，陶懷川

（西南政法大學(xué) 人工智能法學(xué)院，重慶 401120）

一、問題的提出

在技術(shù)的推動下，算法作為人工智能時代的基石，正深刻地影響著社會治理的方方面面。新時代社會治理的現(xiàn)代化離不開司法治理的現(xiàn)代化，我國司法系統(tǒng)選擇以開放包容的心態(tài)主動將算法納入司法運(yùn)行體系，以期引導(dǎo)算法良性參與司法活動，助益糾紛解決。自2015 年最高人民法院提出“智慧法院”建設(shè)伊始，以算法為底層技術(shù)的智慧法院建設(shè)正式試點布局，其旨在憑借算法技術(shù)的強(qiáng)勁發(fā)展，提升司法參與社會治理的效能，達(dá)到“破解改革難題，提升改革效能”之目的。最高人民法院更是在2019 年發(fā)布的《人民法院第五個五年改革綱要（2019—2023）》中提出：“建設(shè)現(xiàn)代化智慧法院應(yīng)用體系”。目前典型的已有最高人民法院“類案智審?fù)扑拖到y(tǒng)”、貴州法院“政法大數(shù)據(jù)系統(tǒng)”、上海法院“刑事案件智能輔助辦案系統(tǒng)”等成果。以算法為基礎(chǔ)的智慧法院建設(shè)將逐步邁向縱深。

然而，以審慎著稱的司法領(lǐng)域自然將不可避免地受到來自于算法技術(shù)的沖擊。算法是指，在數(shù)學(xué)和計算機(jī)科學(xué)之中，一個被定義好的、計算機(jī)可施行之指示的有限步驟或次序，常用于計算、數(shù)據(jù)處理和自動推理。廣義的算法作為一種決策運(yùn)行方式與程序，其概念早已滲透人類社會治理數(shù)千年，而狹義的算法與人工智能技術(shù)相結(jié)合便顯現(xiàn)出一定的技術(shù)壁壘，尤其是在算法技術(shù)于司法領(lǐng)域中應(yīng)用熱潮方興未艾之時，需要關(guān)注到算法自身特性對司法領(lǐng)域帶來的沖擊。由于技術(shù)的高度專業(yè)性和算法構(gòu)成的復(fù)雜性，司法領(lǐng)域的算法呈現(xiàn)出算法設(shè)計者與算法使用者相分離的特點，法院所應(yīng)用的底層算法系統(tǒng)大多采用外包方式，通過“技術(shù)專家+法律專家”的方式進(jìn)行設(shè)計和構(gòu)建。技術(shù)的高度專業(yè)性以及構(gòu)成的復(fù)雜性使得算法一經(jīng)成型便具有了黑箱特性，在事件輸入和決策結(jié)果的輸出之間存在著人們無法洞悉的隱層，也因此無法向當(dāng)事人完整解釋決策過程。由此帶來算法輔助決策過程與法官心證過程混同，算法黑箱特性與司法公開沖突，算法決策結(jié)果問責(zé)機(jī)制不明確等問題。是以，因此需要探究一套行之有效的方式，以平衡算法運(yùn)行的“難以捉摸”與決策出現(xiàn)的“不可接受”之間的矛盾。針對司法領(lǐng)域算法運(yùn)行的法律規(guī)制，包括從算法技術(shù)層面的算法公開、從當(dāng)事人角度的個人數(shù)據(jù)賦權(quán)以及法律規(guī)則抑制算法歧視等維度進(jìn)行，但上述進(jìn)路的問題也尤為突出，算法公開對司法裁判領(lǐng)域個人當(dāng)事人心理特質(zhì)考慮甚少，而個人數(shù)據(jù)賦權(quán)進(jìn)路，通常當(dāng)事人在數(shù)據(jù)收集之時就含混不清，在數(shù)據(jù)處理之時更加難以行使其反對權(quán)，審視抑制算法歧視進(jìn)路，發(fā)現(xiàn)其在數(shù)據(jù)層面存在著有效數(shù)據(jù)匱乏和算法使用與設(shè)計分離的問題。

從司法場景的應(yīng)用需求出發(fā)，算法可解釋性機(jī)制可以發(fā)揮維護(hù)法官主體性、保障當(dāng)事人公正需求、提升司法權(quán)威的功效，在此前提下，算法可解釋性機(jī)制作為司法場景中算法法律規(guī)制的一種方法被學(xué)界所注意。作為一種有效手段，人工智能研發(fā)者對算法作出必要解釋被特別強(qiáng)調(diào)[1]，在司法裁決中，凡涉及自主研制系統(tǒng)，都應(yīng)提供一個有說服力的解釋[2]，由此觀之，這一原則已經(jīng)為越來越多的人認(rèn)可和接受。在司法領(lǐng)域糾紛解決語境中，“可解釋”意在向受自動化算法決策影響的相關(guān)人釋明為該算法決策的合理性和正當(dāng)性，使決策結(jié)果被相對人信服和接受。2018年，歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）以1995 年歐盟數(shù)據(jù)指令為藍(lán)本，在“鑒于”部分第71 條和正文第22 條針對基于算法的“自動化決策”賦予個人干預(yù)的權(quán)利，允許其表達(dá)的觀點，在評估后獲得該決策的解釋，以及對決策提出質(zhì)疑[3]。歐盟會議智庫2019 年發(fā)布《算法決策：機(jī)遇與挑戰(zhàn)》報告，將“可解釋性”視為決策系統(tǒng)中的關(guān)鍵議題。在全球范圍內(nèi)影響深遠(yuǎn)的《伯克利對人工智能面臨挑戰(zhàn)的系統(tǒng)性觀點》，亦將“可解釋性”視為人工智能算法“適時、穩(wěn)健、安全”的核心要素。在司法領(lǐng)域糾紛解決語境中，“可解釋”意在向受自動化算法決策影響的相對人或相關(guān)人釋明為該算法決策的合理性和正當(dāng)性，使決策結(jié)果被相對人信服，達(dá)致可接受的目的。

司法領(lǐng)域中算法可解釋性機(jī)制的構(gòu)建是一項系統(tǒng)工程，需要結(jié)合算法技術(shù)未來發(fā)展趨勢和司法領(lǐng)域自身特質(zhì)兩方面的情況進(jìn)行構(gòu)建，對可解釋性機(jī)制構(gòu)建的總體思路與原則依循進(jìn)行清晰界定，是司法場景下算法可解釋性機(jī)制具體路徑形成的基礎(chǔ)。 本文立足于算法技術(shù)與司法決策的融合，明確算法在司法決策中的輔助性定位，探討算法司法輔助決策的解釋理念及方法原則，以期為算法技術(shù)助益司法治理科學(xué)路徑的形成提供參考。

二、算法可解釋性機(jī)制構(gòu)建的總體思路

（一）以場景化規(guī)制為核心理念

場景理論從社會學(xué)中發(fā)展而來，原是為研究和解釋后工業(yè)經(jīng)濟(jì)社會的諸多現(xiàn)象而設(shè)立。場景理論不斷發(fā)展、完善和更新，具有更強(qiáng)大的理論包容性，成為了一套新的學(xué)術(shù)范式，用于社會問題分析的諸多領(lǐng)域。例如針對個人信息保護(hù)發(fā)展出了場景公正理論，在算法法律規(guī)制問題上，提出根據(jù)不同場景建構(gòu)不同的規(guī)制方法。以場景化規(guī)制為核心理念，符合當(dāng)前算法法律規(guī)制的發(fā)展趨勢。算法規(guī)制應(yīng)立足于場景化規(guī)制理念基礎(chǔ)之上，因為算法之法律屬性會因具體應(yīng)用場景的不同而有所變化[4]。在民事案件場景中，諸如機(jī)動車交通肇事案件、房屋租賃案件、勞動爭議案件等案情簡單、爭議不大的案件解決過程中，算法能夠進(jìn)行深度地介入，甚至自動生成預(yù)測裁判結(jié)果；然而，刑事案件中的定罪量刑場景，比如刑法種類的確定、有罪或者無罪判決的作出，需要由法官獨立進(jìn)行判斷。原因在于，從技術(shù)層面考量，算法技術(shù)并不能準(zhǔn)確實現(xiàn)此種需求，從當(dāng)事人以及社會層面考量，定罪量刑由機(jī)器作出難以被接受，此外，此種決策將對傳統(tǒng)司法體系帶來的巨大沖擊。司法場景下應(yīng)用的算法有可能生成算法司法決策，有可能對當(dāng)事人權(quán)利造成重大甚至決定性的影響，此時，算法的法律屬性更接近于正當(dāng)程序。然而，當(dāng)算法不介入公權(quán)力機(jī)構(gòu)，僅在一般私人領(lǐng)域應(yīng)用時，其法律屬性又接近于商業(yè)秘密。由此可見，不宜武斷的直接確立算法的法律屬性為何，而要根據(jù)應(yīng)用的具體場景，綜合算法發(fā)揮的具體作用、對社會的影響等因素進(jìn)行綜合考慮。

（二）以可信任為首要目標(biāo)

實現(xiàn)算法的可信控制是算法治理的核心任務(wù)[5]，算法司法決策要真正獲得司法工作人員、當(dāng)事人、社會大眾的理解和接受，必須是可信任的。算法可解釋性機(jī)制構(gòu)建的目標(biāo)即是：當(dāng)算法司法行為或者決策被質(zhì)疑之時，經(jīng)由可解釋性機(jī)制闡明算法決策的合理性和正當(dāng)性，同時在解釋的交互過程中，向用戶展現(xiàn)算法是可理解、可靠和可控的。當(dāng)用戶感覺到該算法更公平、更負(fù)責(zé)任、更透明、更易于解釋時，他們便會認(rèn)為它更值得信賴和有用[6]。常見的三種信任機(jī)制分別是，基于行動者自身特征的信任、基于交往經(jīng)驗的信任和基于制度的信任[7]。事實上，法律作為一種以國家強(qiáng)制力為后盾的社會治理機(jī)制，本身也是一種制度信任機(jī)制[8]。社會民眾在基于制度權(quán)威的認(rèn)同和信任理解的認(rèn)同的基礎(chǔ)上[9]，不斷增強(qiáng)對司法的制度信任。但此種信任也具有脆弱性，從當(dāng)事人角度觀之，算法司法行為或者決策也是司法權(quán)運(yùn)行的一部分。決策結(jié)果的正當(dāng)、正確與否關(guān)系著法院司法公信力和司法權(quán)威，而司法公信力很大程度上源自司法的確定力和說服力，然而即使是實現(xiàn)案卷電子化、提取卷宗文字等事務(wù)性工作也可能在功能實現(xiàn)中出現(xiàn)錯誤，導(dǎo)致司法形象和司法公信力在當(dāng)事人信念中的削弱。更遑論算法深入介入司法應(yīng)用場景，進(jìn)入到事實認(rèn)定環(huán)節(jié)。如果沒有充分的信任，算法司法決策在應(yīng)用過程中會爭議不斷，故而，算法可解釋性機(jī)制構(gòu)建應(yīng)當(dāng)以可信任為首要目標(biāo)。個案當(dāng)事人追求紛爭高效、公平的解決，對公平正義的追求是當(dāng)事人提起訴訟的重要動因。通過算法解釋與當(dāng)事人對話溝通能夠有效提高當(dāng)事人對算法司法決策的信任度。

三、算法可解釋性機(jī)制構(gòu)建的原則依循

算法司法決策可解釋性機(jī)制的構(gòu)建，需要將技術(shù)與司法制度資源充分融合，結(jié)合司法領(lǐng)域的場景化需求進(jìn)行設(shè)計。從算法可解釋性機(jī)制的目的和司法現(xiàn)實出發(fā)，我們認(rèn)為，支撐算法可解釋性機(jī)制運(yùn)行的原則包括以下方面：

（一）解釋的公開性原則

“司法公開、透明是現(xiàn)代司法的基本原則，并對現(xiàn)代司法公信力、司法權(quán)威有著決定性影響”[10]，一般來說，司法公開是國家機(jī)關(guān)主導(dǎo)的自上而下的向公眾公開的司法活動，推進(jìn)司法公開是人民法院的重要工作，是保障人民群眾知情權(quán)、參與權(quán)、監(jiān)督權(quán)和表達(dá)權(quán)的重要途徑和方式。司法公開的核心要義是揭開人民法院司法活動的“神秘面紗”，把司法的過程和環(huán)節(jié)同其結(jié)果一起“曬”出來，讓民眾看得清楚和明白[11]。算法可解釋性機(jī)制與司法公開具有天然聯(lián)系，算法司法決策可解釋性機(jī)制構(gòu)建是司法公開原則的必然要求，也可以說是以用戶需求或者當(dāng)事人需求為核心的互聯(lián)網(wǎng)思維推進(jìn)來司法公開工作。目前，各級人民法院以建設(shè)“智慧法院”“電子法院”為契機(jī)，大力推動司法公開與“互聯(lián)網(wǎng)+”的跨界融合，算法可解釋性機(jī)制與司法公開具有價值目標(biāo)一致性的特點，二者致力于用最低的成本，展現(xiàn)復(fù)雜決策的過程，使司法審判的結(jié)果更具合理性，保障民眾的信息知情權(quán)，進(jìn)而對決策的質(zhì)效進(jìn)行控制[12]，以回答算法決策相對人對算法生成決策結(jié)果的正當(dāng)性拷問，并增強(qiáng)當(dāng)事人對司法審判的結(jié)果更具可接受性。以此方式，公眾方可了解司法運(yùn)行的過程，知曉審判結(jié)果的由來，不僅有益于維護(hù)司法權(quán)威，亦對公眾起到了教育、警示的作用。從技術(shù)融合應(yīng)用發(fā)展的角度看，司法決策中的算法是司法決策數(shù)據(jù)化的需求與計算機(jī)程序相結(jié)合的產(chǎn)物[13]。公眾對司法的信任建立在司法公開的基礎(chǔ)上，隨著智慧法院體系建設(shè)的縱深發(fā)展，算法司法決策應(yīng)用場景的不斷擴(kuò)展，受到當(dāng)事人質(zhì)疑與挑戰(zhàn)的可能性也將不斷增加，故此，穩(wěn)定的算法可解釋性機(jī)制將成為算法司法決策不可或缺配套措施。

（二）解釋的輔助性原則

輔助性原則是充分權(quán)衡算法技術(shù)應(yīng)用特質(zhì)和算法可解釋性機(jī)制構(gòu)建目的得出的結(jié)論。首先，算法依據(jù)特定計算模型將數(shù)據(jù)轉(zhuǎn)化為可預(yù)期結(jié)果，以精確的編碼程序和高效的識別、運(yùn)算能力體現(xiàn)出極大的工具價值[14]，且算法作為基礎(chǔ)設(shè)施逐步嵌入各平臺和社會治理之中，將不同要素相鏈接，扮演運(yùn)用于不同場景下供人類進(jìn)行決策依據(jù)選擇的中介性角色[15]。故而，出于算法本身所具有工具價值、算法運(yùn)用于現(xiàn)代社會各領(lǐng)域所發(fā)展出的中介性角色，以及算法無法理解決策者精神性、價值性內(nèi)涵的考慮，算法的解釋自然也居于結(jié)果作出解釋的一部分而非全部，且是輔助性的一部分，目的在于銜接機(jī)器提供決策依據(jù)與最終結(jié)果之間所不被常人理解之處。故在智慧司法場景下，算法可解釋性機(jī)制應(yīng)定位于發(fā)揮“輔助性”之功效，其是基于與如今、乃至較長一段時間內(nèi)人工智能技術(shù)介入司法的有限性相適配所做的考慮。如此，輔助性原則下的算法可解釋性機(jī)制可起到助益現(xiàn)今智慧法院體系建設(shè)，提高司法效能，提升審判質(zhì)效之用。其次，算法黑箱是算法技術(shù)的最大特點，構(gòu)建算法可解釋性機(jī)制事實上是為了打開算法黑箱而做努力，但在技術(shù)上必須考慮的現(xiàn)實問題是，對于算法決策的解釋不能一味追求技術(shù)上的庖丁解牛，因為司法領(lǐng)域中的算法可解釋性機(jī)制必須慮及糾紛解決成本，節(jié)約司法資源。算法自身的黑箱特性及其在現(xiàn)今和較長一段時間內(nèi)運(yùn)用于智慧法院場景下的輔助性定位，對于算法參與的結(jié)果解釋場景中，不宜過度消耗社會資源和司法資源。算法解釋的目的是讓當(dāng)事人在其權(quán)利義務(wù)受影響時，知曉提供決策的算法是如何運(yùn)作和對結(jié)果如何產(chǎn)生的影響即可，并非“事無巨細(xì)”地告知當(dāng)事人在理解上存在天然鴻溝的技術(shù)細(xì)節(jié)。事實上，法律只關(guān)心有關(guān)權(quán)利、義務(wù)、責(zé)任的問題，故而法律上所需要的解釋只是對人工智能的部分重要內(nèi)容進(jìn)行解釋[16]，故算法可解釋性機(jī)制服務(wù)于司法場景的智能提升要以法院需求和當(dāng)事人接受度為界。在當(dāng)前以及未來一段時間內(nèi)，當(dāng)事人和社會對人工智能技術(shù)和機(jī)器審判的接受還需要長期的過程，故而將算法技術(shù)運(yùn)用定位于司法輔助工具是準(zhǔn)確和適宜的[17]。

（三）解釋的相對性原則

相對性是指，可解釋性機(jī)制框架下的算法解釋保持“相對透明”即可，這是技術(shù)發(fā)展現(xiàn)狀與司法現(xiàn)實需要決定的。算法的不透明性是與生俱來的，任何人工智能都不是完全不具有可解釋性的，它們都是在一定范圍內(nèi)具有相當(dāng)程度的可解釋性[18]。囿于技術(shù)壁壘，法官及當(dāng)事人均不一定能理解算法原理和計算細(xì)節(jié)，一味地公開算法，使之達(dá)到絕對透明的程度，不僅無益于算法對象（當(dāng)事人）的權(quán)利保護(hù)，亦增加訟累。試圖解釋算法內(nèi)部運(yùn)行的每一處細(xì)節(jié)機(jī)制和作用成因的做法在司法領(lǐng)域并不適用。原因在于，其一，隨著算法領(lǐng)域的核心技術(shù)日益更新、不斷加深，即使是算法的設(shè)計者也很難說清數(shù)據(jù)輸入與結(jié)果輸出這一中間過程具體是如何作用以及發(fā)生的。其二，即使從技術(shù)層面作出了解釋，但程序意義大于實質(zhì)意義，算法細(xì)節(jié)對法官與當(dāng)事人來說仍然是難以理解的。算法解釋的側(cè)重點在于相對人或社會公眾對算法決策的可理解性，解釋的難點更多在于以通俗易懂的方式解釋算法決策的原理、決策樹和邏輯關(guān)系等[19]。其三，技術(shù)解釋時間上遷延日久，技術(shù)上成本較高，與使用算法追求效率的初衷不符。鑒于算法的特性，即便強(qiáng)制要求算法公開，也只能做到有限度的算法透明[20]。在“司法公開”視野下，尚有因涉及商業(yè)秘密、個人隱私、未成年保護(hù)等內(nèi)容而不予公開，作為公開程度弱于司法公開、且天生打著商業(yè)秘密保護(hù)傘的算法[21]，更毋庸做到詳盡的解釋、苛求徹底的公開。

（四）解釋的層次性原則

“層次性”是指，算法的解釋之于不同場景、不同對象以及具體解釋時，所需面向的具體范圍。算法解釋的內(nèi)容涉及數(shù)據(jù)的抓取、數(shù)據(jù)的運(yùn)算、各數(shù)據(jù)對結(jié)果的輸出影響所占的比重等，有學(xué)者指出，依照全樣本數(shù)據(jù)原理，數(shù)據(jù)體量越大，越容易對不確定的事項作出判斷，也就越能總結(jié)出結(jié)構(gòu)化的規(guī)律[22]，故而數(shù)據(jù)選取的體量也用在層次性的考慮范圍之內(nèi)。算法解釋不同于因果關(guān)系解釋，其更多的是一種“相關(guān)性”解釋[23]，是對多因素作用下各環(huán)節(jié)、各要素所起不同比重的解釋，且不同場景，解釋范圍亦多有不同，因此算法的解釋應(yīng)當(dāng)有一定的“層次性”。算法的解釋對象也分為向當(dāng)事人解釋（主要）、向法官解釋、向社會公眾解釋等；而“層次性”即要求算法在進(jìn)行解釋時，應(yīng)當(dāng)根據(jù)不同主體、不同時機(jī)，層次分明地進(jìn)行解釋，而不是以“什么都說，大鍋燉”的方式進(jìn)行解釋，正如有觀點指出，算法解釋應(yīng)當(dāng)區(qū)分解釋權(quán)的權(quán)利主體——自動化決策使用者與相對人，且當(dāng)自動化決策使用者無法提出具體解釋時，算法開發(fā)者具有解釋義務(wù)等，并將算法的解釋分為事后的具體解釋和事后的更新解釋等[24]；具言之，層次性原則下的算法解釋應(yīng)注意如下方面：一是數(shù)據(jù)抓取層次，要求真實、全面地闡明被質(zhì)疑案件的初始數(shù)據(jù)，包括事實要素和法律要素、對應(yīng)之法律規(guī)范、相應(yīng)的法律特征等；以及對數(shù)據(jù)提取的體量進(jìn)行說明，以免不同地區(qū)不同數(shù)據(jù)而適用了同一套解釋方法，進(jìn)而導(dǎo)致算法解釋的實質(zhì)不公。二是作用比重層次，要求準(zhǔn)確解釋主要數(shù)據(jù)要素對算法結(jié)果所產(chǎn)生的影響何在，各要素所占權(quán)重比例以及關(guān)聯(lián)度和相互關(guān)系。三是具體解釋層次，根據(jù)解釋場合和解釋對象的不同，落實解釋的專業(yè)性。各級人民法院進(jìn)行細(xì)化解釋時，在專業(yè)性方面，可以定期組織專家進(jìn)行專業(yè)解答，或在系統(tǒng)設(shè)計之初，留有備案進(jìn)行說明，仍解決不了的疑難問題，由定期舉行的專家論壇處理解決。

四、結(jié)語

可以預(yù)見到，在未來的數(shù)十年中，科技與司法將進(jìn)行更深程度的融合，算法也必將從工具型定位向分析型定位邁進(jìn)。我們認(rèn)為，人工智能有可能出現(xiàn)“五過之疵”，與人類串通、勾結(jié)，進(jìn)行權(quán)力尋租，司法場景下的算法輔助決策必須在監(jiān)管之下運(yùn)行，算法可解釋性機(jī)制即是監(jiān)管運(yùn)行的重要組成之一，以場景化規(guī)制為核心理念，以可信任為首要目標(biāo)作為可解釋性機(jī)制構(gòu)建的總體思路，以公開性、輔助性、相對性、層次性為可解釋性機(jī)制的原則依循，將有助于消除智慧法院建設(shè)路途上關(guān)于智能系統(tǒng)介入裁判領(lǐng)域的疑慮，同時為具體的算法可解釋性機(jī)制的構(gòu)建打下基礎(chǔ)，形成程序保障與實體規(guī)范并重，解釋主體、解釋標(biāo)準(zhǔn)、解釋內(nèi)容明確的可解釋性機(jī)制。算法可解釋機(jī)制原則的確立，不僅保證了算法司法決策場景下相對人的正當(dāng)程序性權(quán)利，亦將大大提升相對人對裁判結(jié)果的可接受度，這無疑將從較長一段時間的視野里助力于智慧法院的發(fā)展，使算法輔助決策真正成為助益于司法闊步于新時代社會治理領(lǐng)域的車之輪、鳥之翼。