賀 泳 杰，雷 震 文

當(dāng)前，人工智能的興起及其在司法領(lǐng)域的廣泛應(yīng)用成為法學(xué)理論與實(shí)踐關(guān)注的熱點(diǎn)。對(duì)此，不少學(xué)者報(bào)以積極的態(tài)度，認(rèn)為智慧司法是人類法律文明躍遷的當(dāng)代探索，(1)劉品新：《智慧司法的中國(guó)創(chuàng)新》，《國(guó)家檢察官學(xué)院學(xué)報(bào)》2021年第3期。在為訴訟方式和司法系統(tǒng)帶來前所未有實(shí)惠的同時(shí)，也較大程度增強(qiáng)了人民群眾對(duì)司法的公信。(2)蔣惠嶺：《以正確理念引領(lǐng)智慧法院建設(shè)》，《人民法院報(bào)》2018年2月2日，第6版。在實(shí)踐層面，自《國(guó)家信息化戰(zhàn)略發(fā)展綱要》和《“十三五”國(guó)家信息化規(guī)劃》將“智慧法院”建設(shè)列為國(guó)家信息化發(fā)展戰(zhàn)略及最高人民法院《關(guān)于加快建設(shè)智慧法院的意見》發(fā)布以來，以上?！靶淌掳讣悄苻k案輔助系統(tǒng)”(簡(jiǎn)稱“206系統(tǒng)”)、北京“睿法官”、浙江“移動(dòng)微法院”、重慶“法治云”、貴州“法鏡系統(tǒng)”等為代表，各地司法智能化建設(shè)相繼展開，成績(jī)斐然。然而，誠(chéng)如學(xué)者所言，我們現(xiàn)有的法律體系都是圍繞“只有人才能做出決定”這一基本假定展開的，以機(jī)器人為代表的人工智能的出現(xiàn)卻使我們的傳統(tǒng)認(rèn)知遇到極大挑戰(zhàn)。(3)趙萬一：《機(jī)器人的法律主體地位辨析——兼談對(duì)機(jī)器人進(jìn)行法律規(guī)制的基本要求》，《貴州民族大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2018年第3期。智慧司法并非現(xiàn)代科技與司法的簡(jiǎn)單疊加，或科技效能在司法領(lǐng)域的簡(jiǎn)單平移，二者的融合將在審判方式、審判機(jī)制、審判管理和審判倫理等方面為審判活動(dòng)帶來顛覆性的變革。(4)參見田幸、成立、王平榮：《人工智能帶來的司法革命》，《人民司法·應(yīng)用》2019年第7期。以此為背景，就智能化對(duì)司法活動(dòng)特別對(duì)作為其核心內(nèi)容的司法裁量帶來的影響作出必要的觀察和分析，對(duì)于保障我國(guó)正在戮力推進(jìn)的司法改革和司法能力現(xiàn)代化建設(shè)的順利實(shí)施而言，無疑具有積極的現(xiàn)實(shí)意義。

一、人工智能與司法裁判的深度融合

對(duì)司法系統(tǒng)內(nèi)部而言，提高司法效率，緩解“案多人少”矛盾，特別是“最大限度減輕辦案人員的非審判性事務(wù)負(fù)擔(dān)”，是其致力推進(jìn)司法智能化的初衷，各地法院早期信息化、智能化建設(shè)的重點(diǎn)也大多集中于此。信息技術(shù)向訴訟領(lǐng)域的滲透，帶來了新的訴訟交往方式。(5)周瑩瑩：《在線訴訟中身份認(rèn)證制度研究》，《貴州民族大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2021年第6期。例如，借助圖文識(shí)別(OCR)、語音識(shí)別、自然語義分析等技術(shù)，目前，廣東、河北、山東等不少地方的智能司法輔助系統(tǒng)皆已基本可實(shí)現(xiàn)對(duì)卷宗收錄及管理、庭審和合議筆錄、文書制作與糾錯(cuò)等大量基礎(chǔ)性、簡(jiǎn)單性、重復(fù)性工作的自動(dòng)處理，較大程度減輕了司法人員的案頭工作負(fù)擔(dān)，提升司法工作效率。(6)參見王祿生：《智慧法院建設(shè)的中國(guó)經(jīng)驗(yàn)及其路徑優(yōu)化——基于大數(shù)據(jù)與人工智能的應(yīng)用展開》，《內(nèi)蒙古社會(huì)科學(xué)》2021年第1期。但是，以《關(guān)于加快建設(shè)智慧法院的意見》提出的“全方位智能”為目標(biāo)，人工智能對(duì)司法活動(dòng)的介入?yún)s遠(yuǎn)不止于此，以“智能證據(jù)審核”“類案推送”“量刑輔助”“偏離度預(yù)警”等功能為觸手，逐漸滲透至事實(shí)認(rèn)定、法律適用等案件審理的核心環(huán)節(jié)，實(shí)現(xiàn)與司法裁判的全面、深度融合。

(一)智能證據(jù)審核

對(duì)案件事實(shí)要素的審查、構(gòu)成要件的指引和證據(jù)的審核判斷是人工智能應(yīng)用于司法裁判事實(shí)認(rèn)定環(huán)節(jié)的主要體現(xiàn)。(7)唐偉然、唐茂林：《人工智能在司法裁判中的應(yīng)用研究》，《湖南科技學(xué)院學(xué)報(bào)》2021年第6期。作為國(guó)內(nèi)智慧法院建設(shè)的早期典型，上?！?06系統(tǒng)”即以智能化的證據(jù)標(biāo)準(zhǔn)指引和證據(jù)核驗(yàn)功能作為其一大亮點(diǎn)。以《刑事訴訟法》及相關(guān)司法解釋的規(guī)定為基礎(chǔ)，通過對(duì)海量已決案例中證據(jù)要素和規(guī)則的提取、分析以及專家經(jīng)驗(yàn)的總結(jié)，形成標(biāo)準(zhǔn)的證據(jù)模型并嵌入系統(tǒng)中，該系統(tǒng)不但可以“清單”形式為辦案人員收集、固定證據(jù)提供指引，而且可以從客觀、關(guān)聯(lián)和合法層面實(shí)現(xiàn)對(duì)單一證據(jù)的自動(dòng)校驗(yàn)，甚至具備“證據(jù)鏈和全案證據(jù)審查”功能，對(duì)統(tǒng)一證據(jù)標(biāo)準(zhǔn)、規(guī)范辦案流程和提高辦案效率具有積極的意義。(8)參見崔亞東：《人工智能與司法現(xiàn)代化》，上海：上海人民出版社，2019年，第110—112頁。目前，安徽、浙江、貴州等部分地區(qū)也在各自的智能辦案輔助系統(tǒng)的建設(shè)中對(duì)該模塊的嵌入進(jìn)行了嘗試，譬如，在貴州政法大數(shù)據(jù)辦案系統(tǒng)中，通過對(duì)相關(guān)證據(jù)標(biāo)準(zhǔn)指引的嵌入，已基本可以實(shí)現(xiàn)對(duì)殺人、搶劫、盜竊、毒品、故意傷害等5 類常見案件證據(jù)的收集、校驗(yàn)、審查的自動(dòng)化處理。(9)參見張洋：《大數(shù)據(jù)辦案公正又精準(zhǔn)》，《人民日?qǐng)?bào)》2017年7月10日，第6版。

(二)類案推送

類案推送是目前各地智慧法院系統(tǒng)中的基礎(chǔ)和必備模塊。其以自然語言處理技術(shù)為依托，依循以語義識(shí)別完成“前案要素提取”→“類案畫像構(gòu)建”→“裁判語義匹配”→“類案?jìng)€(gè)性化推送”的技術(shù)路徑，(10)李世宇：《司法大數(shù)據(jù)在類案裁判中的應(yīng)用探索》，《鄭州大學(xué)學(xué)報(bào)》2018年第1期。在海量已決案例中為辦案人員推薦與在辦案件最為相似的案例，為相關(guān)案件的辦理提供參考。與傳統(tǒng)的案件檢索不同，類案智能推送系統(tǒng)通過構(gòu)建包括案情事實(shí)、爭(zhēng)議焦點(diǎn)、法律適用等要素的語義畫像，輔助用戶快速?gòu)暮Ａ繗v史案件中發(fā)現(xiàn)相似案例，較大程度地省去辦案人員案例檢索時(shí)瀏覽、判斷、篩除方面的負(fù)擔(dān)。(11)陳琨：《類案推送嵌入“智慧法院”辦案場(chǎng)景的原理和路徑》，《中國(guó)應(yīng)用法學(xué)》2018年第4期。通過與其他辦案系統(tǒng)中模塊的融合，類案推送在提升司法效率方面的助力作用則表現(xiàn)得愈發(fā)明顯。例如，通過與電子卷宗系統(tǒng)對(duì)接，自動(dòng)提取并深度挖掘卷宗中案情的摘要及基本事實(shí)依據(jù)，并與中國(guó)裁判文書網(wǎng)等數(shù)據(jù)庫(kù)資源匹配，遼寧省“法信智推”系統(tǒng)實(shí)現(xiàn)了對(duì)案例、法條、觀點(diǎn)、要旨、當(dāng)事人關(guān)鍵案件等多重審判輔助信息的一站式主動(dòng)推送；(12)侯永鋒：《“法信智推”系統(tǒng)幫法官解類案檢索難題》，《遼寧日?qǐng)?bào)》2020年8月3日，第3版。另外，通過與文書寫作模塊的融合，北京“睿法官”系統(tǒng)，為法官判案提供統(tǒng)一、全面的審理規(guī)范和辦案指引，同時(shí)自動(dòng)生成裁判文書。(13)王歧豐：《北京法院依托“睿法官”系統(tǒng)推進(jìn)同案同判》，《北京晨報(bào)》2017年2月24日，第5版。

(三)量刑輔助

“電腦量刑”的思想由來已久，早在2004年時(shí)，我國(guó)山東某基層法院曾開展過“量刑規(guī)范化軟件管理系統(tǒng)”的開發(fā)嘗試。(14)參見魏勝?gòu)?qiáng)：《法律解釋視角下的“電腦量刑”》，《政法論壇》2009年第3期。雖同以量刑自動(dòng)化為表現(xiàn)形式，但與將小數(shù)量刑事案例、部分法官經(jīng)驗(yàn)與法律法規(guī)數(shù)據(jù)化，并借助電腦運(yùn)算系統(tǒng)進(jìn)行推理判斷“電腦量刑”不同，(15)張勇：《人工智能輔助辦案與量刑規(guī)范化的實(shí)現(xiàn)路徑》，《法治論叢》2019年第2期。智能辦案系統(tǒng)中量刑輔助功能則是以大數(shù)據(jù)、云計(jì)算等為基礎(chǔ)，通過對(duì)海量案例信息的分析挖掘，構(gòu)建法律圖譜和模型訓(xùn)練，并在提取案件要素的基礎(chǔ)上進(jìn)行類案識(shí)別，進(jìn)而得出一定的量刑幅度，為辦案人員提供參考。(16)參見程龍: 《人工智能輔助量刑的問題與出路》，《西北大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2021年第6 期。其實(shí)質(zhì)是在充分總結(jié)既有案件審判經(jīng)驗(yàn)基礎(chǔ)上，就在辦案件形成的量刑預(yù)測(cè)。在域外，此種司法智能化的模塊應(yīng)用并不乏見。以美國(guó)為例，目前已有一半以上的州利用了COMPAS、PSA 和LSI-R 等軟件對(duì)特定主體再犯罪風(fēng)險(xiǎn)進(jìn)行預(yù)測(cè)與評(píng)估，以輔助法官量刑。(17)李本：《美國(guó)司法實(shí)踐中的人工智能：?jiǎn)栴}與挑戰(zhàn)》，《中國(guó)法律評(píng)論》2018年第2期。而在我國(guó)，量刑輔助模塊的開發(fā)也已成為各地辦案輔助系統(tǒng)構(gòu)建的重要內(nèi)容，目前，貴州的“法鏡系統(tǒng)”、上?！?06系統(tǒng)”等都已具備此項(xiàng)功能。

(四)偏離度預(yù)警

“偏離度預(yù)警是類案檢索的延展性應(yīng)用，它是通過當(dāng)前案件裁判結(jié)果與相似案件裁判結(jié)果之間進(jìn)行比對(duì)，判定當(dāng)前裁判結(jié)果是否與類案裁判結(jié)果相偏離”。(18)魏斌：《司法人工智能融入司法改革的難題與路徑》，《現(xiàn)代法學(xué)》2021年第3期?！皩?duì)于校對(duì)結(jié)果偏差較大的，會(huì)自動(dòng)預(yù)警，需要主審法官向?qū)徟形瘑T會(huì)進(jìn)行說明與解釋”。(19)秦漢：《人工智能司法裁判系統(tǒng)的學(xué)理反思》，《北方法學(xué)》2021年第3期。以規(guī)范法官自由裁量權(quán)的行使，避免“同案不同判”問題為目標(biāo)。判決偏離度預(yù)警側(cè)重于對(duì)已決案件的質(zhì)量控制，在上?！?06系統(tǒng)”、江蘇法院“同案不同判預(yù)警平臺(tái)”等目前智能辦案輔助系統(tǒng)中主要適用于刑事案件，集中表現(xiàn)為對(duì)量刑偏離度的預(yù)警。但值得注意的是，為全方位監(jiān)督全國(guó)法院立案情況，整治年底不立案現(xiàn)象，最高法院2021年11月推出了立案偏離度預(yù)警系統(tǒng)，根據(jù)大數(shù)據(jù)分析結(jié)果，設(shè)定合理的月、周、日收案基準(zhǔn)數(shù)，進(jìn)行立案數(shù)變化對(duì)比，通過設(shè)置三個(gè)預(yù)警等級(jí)，對(duì)波動(dòng)異常、立案偏離度大的法院定期進(jìn)行預(yù)警通報(bào)。(20)最高人民法院：《最高法舉行全國(guó)法院整治年底不立案新聞發(fā)布會(huì)》，https://www.court.gov.cn/zixun-xiangqing-332851.html?？梢灶A(yù)見，在強(qiáng)調(diào)裁判標(biāo)準(zhǔn)統(tǒng)一司法大趨勢(shì)下，偏離度預(yù)警即將迎來更為廣泛的應(yīng)用。

二、智能輔助系統(tǒng)對(duì)司法審判的挑戰(zhàn)

以增效、減負(fù)、輔助、監(jiān)督為其基本功能定位，(21)謝澍：《人工智能如何“無偏見”地助力刑事司法——由“證據(jù)指引”轉(zhuǎn)向“證明輔助”》，《法律科學(xué)》2020年第5期。智慧司法在提高審判質(zhì)量和效率、提升審判管理智能化水平、促進(jìn)審判管理進(jìn)一步科學(xué)化、提高審判管理信息精確性等方面取得了顯著的成效。(22)胡昌明：《中國(guó)智慧法院建設(shè)的成就與展望——以審判管理的信息化建設(shè)為視角》，《中國(guó)應(yīng)用法學(xué)》2018年第2期。尤其在提升審判效率方面，以重慶的金融“類型化案件智能審判平臺(tái)”為例，自其在江北、渝中兩區(qū)法院運(yùn)營(yíng)以來，兩院信用卡糾紛案件平均立案時(shí)間縮短到10分鐘以內(nèi)，案件審理時(shí)間平均縮短27.26天，效能提升不可謂不明顯。(23)黃喬：《我市法院建設(shè)智能審判平臺(tái) 信用卡糾紛類型案件審理時(shí)間平均縮短27天》，《重慶日?qǐng)?bào)》2017年9月1日，第5版。但同時(shí)，人工智能的興起也給司法實(shí)踐帶來了不小的挑戰(zhàn)和沖擊，并且，隨著智慧法院建設(shè)的不斷推進(jìn)，人工智能與司法審判融合的不斷深化，這種挑戰(zhàn)和沖擊也將體現(xiàn)得愈發(fā)明顯。

(一)弱化法官的審判主導(dǎo)地位

以法官為中心、強(qiáng)調(diào)其對(duì)審判活動(dòng)的主導(dǎo)地位是現(xiàn)代司法的基本特征?！巴弻?shí)質(zhì)化才是當(dāng)前司法實(shí)踐中解決審判中心問題需要面向的問題。庭審實(shí)質(zhì)化是實(shí)踐層面的審判中心的內(nèi)涵?！?24)楊正萬：《審判中心內(nèi)涵再討論——基于理論、制度及實(shí)踐視角》，《云南民族大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2020年第4期。而司法智能化建設(shè)的過程中，雖然，作為共識(shí)，人工智能的“輔助”而非“替代”功能廣被強(qiáng)調(diào)，(25)張思巧、康寧：《人工智能參與司法裁判的實(shí)踐與定位》，《山東法官培訓(xùn)學(xué)院學(xué)報(bào)》2021年第3期。但是，隨著司法人工智能的不斷完善和深度應(yīng)用，人類法官正在或者已經(jīng)讓渡部分決策權(quán)成為不爭(zhēng)的事實(shí)。甚至有學(xué)者指出，智能量刑算法在當(dāng)下雖然是輔助性的，但其趨勢(shì)必然是主體性的。(26)張玉潔：《智能量刑算法的司法適用：邏輯、難題與程序法回應(yīng)》，《東方法學(xué)》2021年第3期。

以法官的司法裁量權(quán)為例，作為連接抽象規(guī)范與具象事實(shí)的紐帶，彌補(bǔ)法律剛性和滯后性等不足的基本機(jī)制，司法裁量權(quán)雖因存在濫用可能而備受詰難，但卻被認(rèn)為是司法“與生俱來的存在，無法回避也無法禁止”的組成部分。(27)楊翔：《我國(guó)法官自由裁量權(quán): 存在、運(yùn)行及規(guī)制》，《湘潭大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2016年第1期。而隨著智能算法對(duì)司法審判過程滲透的不斷深化，司法裁量權(quán)則難免出現(xiàn)被侵蝕、弱化的可能：一方面，類案推送、偏離度預(yù)警等模塊的加入，較大程度限縮了法官審判中的裁量空間，特別是部分智能系統(tǒng)中關(guān)于偏離預(yù)警后向主管庭領(lǐng)導(dǎo)、審委會(huì)報(bào)告審查的規(guī)則設(shè)置，無疑為審判人員裁量權(quán)的行使構(gòu)筑起較為剛性的限制；另一方面，“在受理案件數(shù)激增和法定審理期限剛性規(guī)定的雙重壓力下，加上人的思考惰性，或遲或早會(huì)出現(xiàn)法官過度依賴參考判決處理案件的傾向”。(28)季衛(wèi)東：《人工智能時(shí)代的司法權(quán)之變》，《東方法學(xué)》2018年第1期。

人工智能裁判讓司法裁判在算法面前有著虛化的風(fēng)險(xiǎn)，(29)胡銘、張傳璽：《人工智能裁判與審判中心主義的沖突及其消解》，《東南學(xué)術(shù)》2020年第1期。過分依靠人工智能技術(shù)提供的預(yù)測(cè)模式來進(jìn)行司法裁判，會(huì)削弱法官的自由裁量權(quán)以及降低其裁判的主觀能動(dòng)性，導(dǎo)致法官在工作中流于形式，弱化法官在審判活動(dòng)的中心作用，(30)王玉薇、顧思渺：《人工智能的司法應(yīng)用問題研究》，《齊齊哈爾大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2021年第8期。給傳統(tǒng)的司法理念和倫理帶來較大的挑戰(zhàn)。首先，其可能構(gòu)成對(duì)司法機(jī)關(guān)獨(dú)立行使審判權(quán)原則的沖擊。學(xué)者指出，“讓人工智能自動(dòng)生成判決、根據(jù)大數(shù)據(jù)矯正法律決定的偏差等做法勢(shì)必形成審判主體的雙重結(jié)構(gòu)、甚至導(dǎo)致決定者的復(fù)數(shù)化，事實(shí)上將出現(xiàn)程序員、軟件工程師、數(shù)據(jù)處理商、信息技術(shù)公司與法官共同作出決定的局面”。其次，司法智能化可能淡化司法責(zé)任倫理對(duì)法官的約束。有學(xué)者指出，“應(yīng)用于司法活動(dòng)的數(shù)字技術(shù)將導(dǎo)致一種不容忽視的異化問題，即在司法系統(tǒng)內(nèi)形成‘組織化的不負(fù)責(zé)任’傾向”。(31)高童非：《數(shù)字時(shí)代司法責(zé)任倫理之守正》，《法制與社會(huì)發(fā)展》2022年第1期。在依賴智能算法的決策結(jié)果作出的裁判的同時(shí)，法官可能將對(duì)案件事實(shí)和法律適用問題的審查、思考和判斷責(zé)任轉(zhuǎn)移至智能輔助系統(tǒng)。“如果法官過度依賴人工智能作出司法裁決，而不是基于自身的裁判邏輯，那么極可能架空司法責(zé)任制，使得對(duì)法官履行審判責(zé)任的行為責(zé)任難以判定”。(32)魏斌：《智慧司法的法理反思與應(yīng)對(duì)》，《政治與法律》2021年第8期。

(二)影響司法公正的實(shí)現(xiàn)

“公正是司法的靈魂和生命”?？陀^、公正的司法判決是新時(shí)代司法改革對(duì)法院和法官們提出的最高要求。(33)江必新：《司法審判中的價(jià)值考量》，《法律適用》2020年第19期。而依目前的主流認(rèn)識(shí)來看，智能化對(duì)促進(jìn)司法公正價(jià)值的實(shí)現(xiàn)而言是頗有助益的。司法智能系統(tǒng)通過海量已決案例的大數(shù)據(jù)分析和挖掘，全面總結(jié)和反映了法官群體所積累的共性經(jīng)驗(yàn)，可以有效幫助法官克服審判過程中的知識(shí)局限，(34)陳銳、王文玉：《司法人工智能與人類法官的角色定位辨析》，《重慶大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)》，https://kns.cnki.net/kcms/detail/50.1023.C.20210727.1632.008.html。并“一定程度抑制司法裁判的恣意性，維護(hù)同案同判的司法公正性”。(35)周世中、呂桐弢：《人工智能法律系統(tǒng)推理的方法論審思》，《湖南社會(huì)科學(xué)》2021年第3期。

但不能忽視的是，雖以數(shù)字理性為其表現(xiàn)形式，人工智能卻并非全然客觀、準(zhǔn)確和公正。電子商務(wù)領(lǐng)域中，經(jīng)營(yíng)者運(yùn)用算法動(dòng)態(tài)定價(jià)時(shí)出現(xiàn)的“大數(shù)據(jù)殺熟”、價(jià)格歧視，(36)朱黃娟：《電子商務(wù)領(lǐng)域算法動(dòng)態(tài)定價(jià)的規(guī)制建議》，《中國(guó)商論》2021年第18期。以及某些搜索引擎檢索結(jié)果中包含的性別和種族偏見等現(xiàn)象表明，(37)See Daniel R.Shulman,“What’s the Problem with Google?”15 Sedona Conf.J.,Vol.17,No.18,2014.智能算法本身亦存在價(jià)值傾向和偏見的可能。這種偏見可能來源于算法設(shè)計(jì)者有意或無意的注入，也有可能來源于作為算法訓(xùn)練材料的數(shù)據(jù)，是對(duì)社會(huì)群體中已經(jīng)泛在的偏見的匯總和固化。而在美國(guó)COMPAS等系統(tǒng)中，黑人被錯(cuò)誤評(píng)估為具有高犯罪風(fēng)險(xiǎn)的幾率是白人的兩倍的事實(shí)則表明，(38)參見雷震文：《算法偏見對(duì)“智慧司法”的影響及其防范》，《法制日?qǐng)?bào)》2017年12月27日第11版。此類偏見或歧視在被運(yùn)用于輔助司法裁判的智能算法中也未能避免。而當(dāng)這種包含偏見的算法以“輔助”的名義直接作用于司法實(shí)踐時(shí)，其對(duì)裁判結(jié)果公正性的影響可想而知。

除可能存在的偏見外，基于其特殊的工作原理，智能算法能否確實(shí)保證個(gè)案裁判的公正，也依然尚待商榷?！八痉ㄖ悄芑鋵?shí)就是對(duì)既有的司法裁判進(jìn)行概率建模，歸納出能夠體現(xiàn)同類案件處理的共性與標(biāo)準(zhǔn)的司法要素，輔助法官辦案”。(39)馬靖云：《智慧司法的難題及其破解》，《華東政法大學(xué)學(xué)報(bào)》2019年第4期。在概率模型的構(gòu)建中，難免面臨著案件要素的篩選和取舍，而有如常語所云“世界上沒有兩片相同的葉子”，經(jīng)由對(duì)既有案例要素裁剪、取舍所得的裁判經(jīng)驗(yàn)?zāi)芊衽c司法人員的在辦案件完全匹配不無疑問。就其實(shí)質(zhì)而言，以大數(shù)據(jù)、算法為基礎(chǔ)，智能辦案系統(tǒng)所作出的裁判指引雖然遠(yuǎn)比成文的法律規(guī)范具體、詳細(xì)，但是其實(shí)質(zhì)上依然屬于一般性調(diào)整的范疇，與追求個(gè)案裁判所追求的個(gè)案公正的距離雖然已明顯縮短卻依然存在，直接以人工智能的運(yùn)算結(jié)果作為裁判的依據(jù)，難謂當(dāng)然妥當(dāng)。有學(xué)者就曾指出，偏離度預(yù)警功能的運(yùn)用應(yīng)警惕機(jī)械地裁判結(jié)果與大數(shù)據(jù)預(yù)測(cè)的結(jié)果進(jìn)行量化比對(duì)，而忽略了個(gè)案的特殊情況。(40)魏斌：《司法人工智能融入司法改革的難題與路徑》，《現(xiàn)代法學(xué)》2021年第3期。而在美國(guó)威斯康星州一起因適用COMPAS系統(tǒng)輔助量刑而發(fā)生爭(zhēng)議的案件中，被告就曾提出“算法量刑侵犯了量刑個(gè)別化的權(quán)利”的主張。(41)參見李本：《美國(guó)司法實(shí)踐中的人工智能：?jiǎn)栴}與挑戰(zhàn)》，《中國(guó)法律評(píng)論》2018年第2期。

(三)降低司法審判的透明度

司法審判的公開、透明是社會(huì)對(duì)其進(jìn)行有效監(jiān)督的前提，也是司法公正的重要保證。一般認(rèn)為，智能化具有全程留痕、可視化的優(yōu)勢(shì)，對(duì)于推動(dòng)司法運(yùn)行更加規(guī)范透明具有積極的意義。(42)參見馬長(zhǎng)山：《司法人工智能的重塑效應(yīng)及其限度》，《法學(xué)研究》2020年第4期。但是，誠(chéng)如學(xué)者所言，司法公開還應(yīng)當(dāng)體現(xiàn)在裁判結(jié)論形成的過程公開性，“司法透明原則要求每一個(gè)司法環(huán)節(jié)及其結(jié)果都能被準(zhǔn)確預(yù)知”。(43)亞當(dāng)·薩馬哈：《現(xiàn)代司法透明原則的價(jià)值與趨向》，張薇譯，https://cdfy.chinacourt.gov.cn/article/detail/2009/12/id/571984.shtml。而在這方面，智能司法輔助系統(tǒng)卻存在著明顯局限性。以大數(shù)據(jù)、自主學(xué)習(xí)等為技術(shù)基礎(chǔ)，算法自主生成決策的過程往往是難以被理解和預(yù)見的，“甚至算法的設(shè)計(jì)者、運(yùn)行者，對(duì)算法將產(chǎn)生何種結(jié)果亦無法準(zhǔn)確地預(yù)估”(44)陶懷川、徐寅晨：《論算法可解釋性機(jī)制的構(gòu)建——司法場(chǎng)景下的算法法律規(guī)制邏輯》，《武漢交通職業(yè)學(xué)院學(xué)報(bào)》2021年第3期。。算法的這種“黑箱”特性既可能緣于其設(shè)計(jì)者以保護(hù)“商業(yè)秘密”為由拒絕公開所致，同時(shí)也不乏算法本身技術(shù)高度復(fù)雜性方面的原因。

雖然，在傳統(tǒng)司法活動(dòng)，由人腦進(jìn)行決策的裁判過程同樣難以被感知，也是一種“黑箱”。(45)秦漢：《人工智能司法裁判系統(tǒng)的學(xué)理反思》，《北方法學(xué)》2021年第3期。但是，“算法黑箱”對(duì)司法審判透明度的影響無疑更為嚴(yán)重，甚至很大程度上削弱了司法信任的基礎(chǔ)。畢竟，司法透明要求辦案人員對(duì)自己裁判依據(jù)的理由和思維的推導(dǎo)過程應(yīng)有盡可能清晰的說明。但是，“許多時(shí)候機(jī)器歸納的裁判模式、裁判標(biāo)準(zhǔn)可能連操控主體也難以理解”(46)左衛(wèi)民：《AI法官的時(shí)代會(huì)到來嗎——基于中外司法人工智能的對(duì)比與展望》，《政法論壇》2021年第5期。。同時(shí)，在人工智能輔助的司法裁判中，當(dāng)事人及其律師只能看到算法的決策結(jié)果，卻無從知曉算法決策的程序和邏輯，知情權(quán)與抗辯權(quán)受到嚴(yán)重的限制，難以對(duì)審判過程形成有效的參與。(47)馬靖云：《智慧司法的難題及其破解》，《華東政法大學(xué)學(xué)報(bào)》2019年第4期。這不但與司法正義的基本理念相悖離，而且也將較大程度降低了當(dāng)事人對(duì)司法判決的信任和接受程度。

三、應(yīng)對(duì)司法智能化挑戰(zhàn)的主要路徑

(一)明確人工智能司法應(yīng)用的界限

基于人工智能在提升審判質(zhì)效方面的顯著優(yōu)勢(shì)，人們對(duì)其在司法領(lǐng)域的廣泛適用飽含期待。但是，“司法不可能成為純粹的技術(shù)，過分地應(yīng)用技術(shù)會(huì)引發(fā)司法根基的動(dòng)搖”。人工智能在司法領(lǐng)域的應(yīng)用必須遵守必要的范圍界限。特別是在我國(guó)，盡管對(duì)司法輔助系統(tǒng)的探索尚處局部探索階段，但是在實(shí)在裁判的預(yù)測(cè)與監(jiān)督等一些關(guān)鍵性的決策已經(jīng)開始著手推進(jìn)裁判智能化嘗試。明確司法智能化的范圍限度，對(duì)于維護(hù)司法和法治的固有價(jià)值，推動(dòng)智慧司法建設(shè)的有序推進(jìn)具有十分重要的現(xiàn)實(shí)意義。對(duì)此，有學(xué)者指出，在司法裁判中，可以明確法律要素與經(jīng)驗(yàn)/情感的劃分，法律適用環(huán)節(jié)與事實(shí)認(rèn)定的劃分，輕微共性案件與嚴(yán)重個(gè)性案件的劃分，前者可由人工智能適度參與輔助，而后者則應(yīng)主要交由人類法官掌握裁量。(48)胡銘、宋靈珊：《“人工+智能”：司法智能化改革的基本邏輯》，《浙江學(xué)刊》2021年第2期。尤其在刑事司法領(lǐng)域，“受刑事司法規(guī)律的制約，案例規(guī)則及其調(diào)整，以及包含政策指引、改革試驗(yàn)和地方規(guī)范在內(nèi)的非正式制度，是刑事司法智能系統(tǒng)的核心禁區(qū)”。(49)黃京平：《刑事司法人工智能的負(fù)面清單》，《探索與爭(zhēng)鳴》2017年第10期。

以一種較為體系化的視角，司法智能化可大體依循司法工作性質(zhì)、案件類型、審理階段等的不同劃定具體的邊界。首先，從司法工作性質(zhì)的角度，人工智能技術(shù)應(yīng)側(cè)重應(yīng)用于庭審排期、審限監(jiān)督、庭審筆錄、文書糾錯(cuò)和送達(dá)等非審判事務(wù)性工作中，而對(duì)于關(guān)涉案件事實(shí)認(rèn)定和法律解釋、適用等審判核心工作環(huán)節(jié)中的智能化滲透，則應(yīng)保持較高的謹(jǐn)慎態(tài)度。其次，就案件類型而言，人工智能可推廣應(yīng)用在類型化較高的簡(jiǎn)單、常見案件和私法糾紛案件的審判輔助中，而對(duì)于嚴(yán)重的刑事案件、復(fù)雜程度較高或爭(zhēng)議較大案件以及新型案件的審理而言，鑒于人工智能技術(shù)本身局限性以及審判較大的影響力，應(yīng)主要由法官主導(dǎo)和完成。再者，在案件審理階段來看，智能化的輔助系統(tǒng)應(yīng)主要適用于一審案件的審理，而對(duì)二審和再審案件的審理來講，鑒于案件爭(zhēng)議的復(fù)雜性，應(yīng)主要由法官來完成，如此，其實(shí)也是為因智能輔助系統(tǒng)的算法局限、偏見而導(dǎo)致判決偏差提供一個(gè)人工彌補(bǔ)、矯正的機(jī)會(huì)。另外，值得注意的是，基于規(guī)模效率方面的考慮，在智慧司法系統(tǒng)的構(gòu)建中，全國(guó)、全領(lǐng)域統(tǒng)籌，構(gòu)建一個(gè)適用于全國(guó)各級(jí)公安、檢察和法院系統(tǒng)的智能輔助平臺(tái)無疑是一種較為理想的思路。但是，鑒于其可能對(duì)我國(guó)司法機(jī)關(guān)“分工合作、相互監(jiān)督”的體制安排和審級(jí)監(jiān)督制度帶來的消弭性影響，應(yīng)當(dāng)對(duì)此抱以必要的審慎態(tài)度。

(二)完善司法智能算法的監(jiān)管和審查

以“輔助”為名，人工智能對(duì)案件審理過程的參與和滲透確實(shí)在一定程度上“分享”了司法審判的權(quán)力。而基于智能算法本身的技術(shù)特點(diǎn)和局限性，為保證其客觀、中立、準(zhǔn)確地發(fā)揮審判輔助功能以及案件審理結(jié)果的公正性，構(gòu)建相對(duì)完善的司法智能算法監(jiān)管和審查機(jī)制體系頗為必要。

首先，應(yīng)當(dāng)明確人工智能系統(tǒng)的法律性質(zhì)以及其在司法審判中的地位。雖然，人工智能在司法活動(dòng)中的“輔助”定位已為基本共識(shí)，但就其輔助功能的實(shí)際內(nèi)涵，當(dāng)前的理論與實(shí)踐卻仍多是語焉不詳。作為一種對(duì)裁判具有重大甚至是決定性影響的力量，人工智能在法律性質(zhì)和地位上“模糊”，不但對(duì)其司法輔助效能的發(fā)揮造成了限制，而且也為由智能系統(tǒng)輔助辦案造成消極后果的責(zé)任分擔(dān)帶來較大的困惑?！缎乱淮斯ぶ悄馨l(fā)展規(guī)劃》，明確提出要確立人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任。而在智慧司法的建設(shè)中，作為前提和依據(jù)，應(yīng)當(dāng)首先在《民事訴訟法》或相關(guān)司法解釋中，對(duì)智能輔助系統(tǒng)在司法適用中應(yīng)遵循的規(guī)則以及其屬性作出必要的明確。

其次，應(yīng)當(dāng)進(jìn)一步明確算法設(shè)計(jì)者的法律責(zé)任。當(dāng)前，我國(guó)智慧法院的建設(shè)基本由各地司法機(jī)關(guān)以“服務(wù)外包”的形式委托相關(guān)科技企業(yè)、科研院所完成。而且，輔助系統(tǒng)算法的訓(xùn)練，多采取知識(shí)圖譜的半監(jiān)督模式為主，尚在“有多少人工，方有多少智能”的智能化水平階段。(50)左衛(wèi)民：《關(guān)于法律人工智能在中國(guó)運(yùn)用前景的若干思考》，《清華法學(xué)》2018年第2期。算法設(shè)計(jì)者在初始算法構(gòu)建和訓(xùn)練數(shù)據(jù)選取、標(biāo)簽提取等方面技術(shù)路徑和價(jià)值取舍對(duì)智能決策的結(jié)果具有重要的影響作用。因此，為保證算法決策的公正和妥當(dāng)性，明確智能輔助系統(tǒng)開發(fā)者的法律責(zé)任頗為必要。一方面，在智能系統(tǒng)的招標(biāo)過程，應(yīng)當(dāng)明確對(duì)投標(biāo)者基本技術(shù)能力和經(jīng)營(yíng)品質(zhì)的要求，切實(shí)提升司法智能算法開發(fā)者的門檻要求。另一方面，應(yīng)該在招投標(biāo)文件中，對(duì)開發(fā)者義務(wù)和責(zé)任加以明確，限制算法開發(fā)者以維護(hù)商業(yè)秘密或知識(shí)產(chǎn)權(quán)為由免除其對(duì)算法決策邏輯等方面的公開和說明義務(wù)，并要求開發(fā)者就算法司法應(yīng)用過程中導(dǎo)致的消極結(jié)果承擔(dān)影響的法律責(zé)任。另外，“最高人民法院、最高人民檢察院應(yīng)出臺(tái)相關(guān)規(guī)范，統(tǒng)一研發(fā)標(biāo)準(zhǔn)，界定研發(fā)倫理，降低司法機(jī)關(guān)開發(fā)系統(tǒng)的風(fēng)險(xiǎn)，確立對(duì)技術(shù)人員的追責(zé)依據(jù)”。(51)高童非：《數(shù)字時(shí)代司法責(zé)任倫理之守正》，《法制與社會(huì)發(fā)展》2022年第1期。

再次，構(gòu)建完善的司法智能算法審查和檢驗(yàn)機(jī)制。與人工智能在商業(yè)領(lǐng)域的應(yīng)用不同，人工智能以輔助的角色延申至司法權(quán)力的場(chǎng)域，具有較強(qiáng)的公眾屬性，應(yīng)當(dāng)加強(qiáng)對(duì)算法決策內(nèi)容和邏輯的審查，以保證決策符合基本的司法理念和司法倫理。在審查主體的構(gòu)建上，可以考慮成立由有技術(shù)專家、法學(xué)專家、社會(huì)公眾代表等相關(guān)人員參與的評(píng)估委員會(huì)就司法算法組織專門審查，(52)馬靖云：《智慧司法的難題及其破解》，《華東政法大學(xué)學(xué)報(bào)》2019年第4期。同時(shí)也應(yīng)當(dāng)鼓勵(lì)具備相應(yīng)技術(shù)能力的第三方社會(huì)組織自發(fā)對(duì)司法輔助系統(tǒng)的算法開展審查監(jiān)督。在審查的內(nèi)容和方式上，應(yīng)當(dāng)注意運(yùn)用大數(shù)據(jù)、反向算法檢驗(yàn)等方法，側(cè)重對(duì)算法中立性、公正性以及隱私保護(hù)方面內(nèi)容審查。對(duì)司法智能算法的審查不但應(yīng)當(dāng)適用于算法的設(shè)計(jì)和啟用階段，而且應(yīng)當(dāng)覆蓋算法運(yùn)行和輔助司法裁判的全過程，以保證算法可以持續(xù)有效地為司法裁判提供合規(guī)性的輔助服務(wù)。

(三)增強(qiáng)辦案人員的主體意識(shí)與責(zé)任

“法治由國(guó)情決定，國(guó)情可以決定一國(guó)法治的具體樣態(tài)?！?53)楊正萬：《習(xí)近平法治思想論綱》 ，《貴州警察學(xué)院學(xué)報(bào)》2021年第3期?！八痉ú门械膬r(jià)值判斷過程是一個(gè)非人工智能所能勝任、不能為人工智能所取代的領(lǐng)域”。(54)王江濤：《人工智能下自由裁量權(quán)的前景及應(yīng)對(duì)》，《理論觀察》2020年第2期?！皺C(jī)器審判”“AI法官”的理想雖然獨(dú)具吸引力，但是卻著實(shí)難與時(shí)下的司法實(shí)際及主流司法理念相符?！拜o助”而非“替代”依然是目前社會(huì)對(duì)人工智能在司法活動(dòng)中的基本角色定位。(55)參見陳靈峰：《司法人工智能的技術(shù)效應(yīng)與應(yīng)用邊界》，《求索》2021年第6期?！白鳛樗痉?quán)核心的裁判權(quán)亦需要法官把握最后一道防線，即使在高度智能化的現(xiàn)代法治下，司法裁判權(quán)的不可讓渡仍是人工智能介入司法的基本原則”。(56)胡銘、宋靈珊：《“人工+智能”：司法智能化改革的基本邏輯》，《浙江學(xué)刊》2021年第2期。

在智能輔助系統(tǒng)與司法實(shí)踐融合日益深化的當(dāng)下，避免和糾正智能算法對(duì)司法審判的消極影響，首先應(yīng)當(dāng)增強(qiáng)辦案人員的主體意識(shí)。畢竟，“在大量的數(shù)據(jù)面前，司法人員容易對(duì)算法決策結(jié)論產(chǎn)生盲目迷信，如傳統(tǒng)司法對(duì)于鑒定結(jié)論的盲目信賴一般，從而導(dǎo)致司法人員的能動(dòng)性法律判斷的弱化”。(57)馬靖云：《智慧司法的難題及其破解》，《華東政法大學(xué)學(xué)報(bào)》2019年第4期。而既有理論與實(shí)踐表明，“法官疏于行使自由裁量權(quán)可能會(huì)使案件判決結(jié)果明顯違背常情和常理，無法實(shí)現(xiàn)個(gè)案正義，最終損害了法律的權(quán)威性和司法公信力”。(58)劉亮：《司法裁量基準(zhǔn)研究：一種規(guī)則控制模式》，《社會(huì)中的法理》2019年第11卷。因此，辦案人員應(yīng)當(dāng)牢固樹立審判主體意識(shí)，對(duì)智能輔助系統(tǒng)的決策建議保持必要的合理懷疑，積極行使自己作為司法主體的裁量權(quán)，避免對(duì)智能算法決策的依賴。尤其需要注意的是，不能以算法決策的建議作為免除自己對(duì)案件裁判說理責(zé)任的理由，必須在裁判文書中，結(jié)合對(duì)算法決策的取舍就自己的裁判推理過程作出充分的解釋和說明。法官撰寫裁判文書“需要‘嚴(yán)謹(jǐn)?shù)厮季S’和‘精準(zhǔn)地表達(dá)’方能使‘讀者’理解法律條文運(yùn)用于案件判決的合理性?！?59)方臻、葉青：《司法責(zé)任制改革中的刑事合議庭辦案機(jī)制研究》，《貴州民族大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2019年第2期。當(dāng)然，增強(qiáng)辦案人員主體意識(shí)離不開責(zé)任制度安排上的有力保障。在司法責(zé)任制度的改革中，應(yīng)當(dāng)堅(jiān)持以司法人員為主體的責(zé)任歸責(zé)原則，在注重運(yùn)用偏離度預(yù)警等智能模塊加強(qiáng)司法責(zé)任監(jiān)督的同時(shí)，需同時(shí)強(qiáng)調(diào)，不能僅以錯(cuò)誤判決符合算法決策結(jié)果或是依據(jù)算法決策建議而作出的為由，免除或者減輕司法人員責(zé)任的承擔(dān)，以切實(shí)從責(zé)任層面避免司法人員對(duì)司法智能輔助系統(tǒng)的過度依賴。