馬嘯 狄小華

摘要：我國刑事司法人工智能建設(shè)已初具規(guī)模，能夠確保刑事訴訟定性更為準(zhǔn)確、查證更具針對性、程序更為高效、辦案質(zhì)量標(biāo)準(zhǔn)化，但隨著技術(shù)的發(fā)展，也會產(chǎn)生削弱司法自主權(quán)、將被控告人降為訴訟客體、使證據(jù)審查出現(xiàn)不當(dāng)傾向以及導(dǎo)致隱性歧視等負(fù)面風(fēng)險，累積著發(fā)生刑事錯案的潛在風(fēng)險，與避免刑事錯案的設(shè)計初衷形成“刑事錯案悖論”。從悖論成因看，人工智能建設(shè)存在對人工智能地位定位不準(zhǔn)、源頭數(shù)據(jù)存在瑕疵、算法模型封閉難懂、保障機(jī)制建設(shè)緩慢、交叉領(lǐng)域人才緊缺等問題。要消解該悖論，應(yīng)嘗試從人工智能定位、數(shù)據(jù)、算法、學(xué)習(xí)技術(shù)、保障機(jī)制等角度建構(gòu)刑事錯案風(fēng)險防范機(jī)制。

關(guān)鍵詞：案管機(jī)器人;被控告人客體化;算法釋明制度;智能化系統(tǒng)故障

中圖分類號：D9?文獻(xiàn)標(biāo)志碼：A ? 文章編號：1004-3160（2019）02-0037-12

引言

近些年，人工智能與刑事訴訟日益融合，相關(guān)技術(shù)被廣泛運(yùn)用于刑事司法領(lǐng)域。以美國為例，“在刑事法律領(lǐng)域，人工智能主要運(yùn)用于一般的警務(wù)活動、羈押必要性審查以及量刑后假釋等活動中”;[1]110在我國，刑事司法人工智能雖然起步較晚，但“幾乎涉及刑事訴訟的所有階段”“可以介入任何層次、任何環(huán)節(jié)的刑事司法判斷”。[2]刑事司法人工智能在國內(nèi)的蓬勃發(fā)展，與國家的高度重視是分不開的。2017年7月，國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》（以下簡稱《國務(wù)院規(guī)劃》），提出要“圍繞社會綜合治理、新型犯罪偵查、反恐等迫切需求，研發(fā)集成多種探測傳感技術(shù)、視頻圖像信息分析識別技術(shù)、生物特征識別技術(shù)的智能安防與警用產(chǎn)品，建立智能化監(jiān)測平臺”和“建設(shè)集審判、人員、數(shù)據(jù)應(yīng)用、司法公開和動態(tài)監(jiān)控于一體的智慧法庭數(shù)據(jù)平臺，促進(jìn)人工智能在證據(jù)收集、案例分析、法律文件閱讀與分析中的應(yīng)用，實(shí)現(xiàn)法院審判體系和審判能力智能化”;最高人民法院、最高人民檢察院、公安部也分別制定了深化智慧法院建設(shè)（《關(guān)于加快建設(shè)智慧法院的意見》和《人民法院信息化建設(shè)五年發(fā)展規(guī)劃（2016-2020）》）、智慧檢務(wù)建設(shè)（《關(guān)于深化智慧檢務(wù)建設(shè)的意見》和《全國檢察機(jī)關(guān)智慧檢務(wù)行動指南（2018-2020年）》）、公安信息化建設(shè)（《關(guān)于大力推進(jìn)基礎(chǔ)信息化建設(shè)的意見》和《關(guān)于推進(jìn)公安信息化發(fā)展若干問題的意見》）的指導(dǎo)意見及發(fā)展規(guī)劃。在上述國家規(guī)劃的基礎(chǔ)上，中央及各地積極探索，較好地發(fā)揮了刑事司法人工智能在規(guī)范辦案行為、維護(hù)合法權(quán)益、提高訴訟效率、實(shí)現(xiàn)公平正義方面的作用。但也應(yīng)看到，我國刑事司法人工智能建設(shè)并非盡善盡美，還存在著許多問題與不足，制約了其積極作用的進(jìn)一步發(fā)揮。因此，有必要對我國刑事司法人工智能運(yùn)作情況進(jìn)行一番探究，以發(fā)現(xiàn)一條問題與風(fēng)險的應(yīng)對之路。

一、建設(shè)現(xiàn)狀：百花齊放下的共同路徑

近年來，我國刑事司法人工智能建設(shè)涌現(xiàn)出了一批創(chuàng)新成果，如北京市高級人民法院“睿法官”系統(tǒng)、北京市人民檢察院“檢立方”系統(tǒng)、上海刑事案件智能輔助辦案系統(tǒng)（以下簡稱“上海206系統(tǒng)”）、蘇州智慧審判系統(tǒng)、江蘇省人民檢察院刑事辦案智能輔助系統(tǒng)（以下簡稱“江蘇案管機(jī)器人核心系統(tǒng)”）以及貴州貴陽政法大數(shù)據(jù)辦案系統(tǒng)。其中，上海、江蘇、蘇州研發(fā)的系統(tǒng)或系中央直接部署，或受到上級肯定推廣，典型性較強(qiáng)，故能夠反映目前我國刑事司法人工智能建設(shè)的共性特征，或者說是共同路徑：

（一）建設(shè)思路由簡到繁

面對各類案件體量不一、繁簡不一的實(shí)際情況，各地多采取較為穩(wěn)妥的方式，即從事實(shí)查證難度小、因果關(guān)系明確、數(shù)量大的案由入手，以降低初始建設(shè)難度，并為后續(xù)罪名拓展積累經(jīng)驗(yàn)。如上海206系統(tǒng)初期只涉及故意殺人罪、盜竊罪、非法吸收公眾存款罪、詐騙罪（電信網(wǎng)絡(luò)詐騙）4個罪名，[3]江蘇案管機(jī)器人核心系統(tǒng)雖然計劃繼續(xù)研發(fā)盜竊、搶劫、詐騙、容留吸毒、強(qiáng)奸、故意傷害等6個罪名的輔助系統(tǒng)，最終實(shí)現(xiàn)占當(dāng)前全省偵查監(jiān)督、公訴約70%的日常辦案量的智能化，但目前也僅涉及交通肇事罪、危險駕駛罪2個罪名。[4]

（二）以重復(fù)機(jī)械性工作為突破口

各地系統(tǒng)將減輕基層辦案人員重復(fù)機(jī)械性工作負(fù)擔(dān)作為推動刑事辦案智能化的突破口。辦案流程方面，上海206系統(tǒng)為法官提供遠(yuǎn)程審判、手機(jī)辦案事務(wù)安排、當(dāng)事人材料與訴求回復(fù)等29項(xiàng)移動辦公服務(wù)，[3]蘇州智慧審判系統(tǒng)則為當(dāng)事人提供網(wǎng)上立案、遠(yuǎn)程閱卷等訴訟服務(wù);案件記錄方面，蘇州智慧審判系統(tǒng)能夠在庭審中自動識別發(fā)言者并對錄入結(jié)果自動糾錯、排版，確保庭審發(fā)言情況如實(shí)反映，大大減輕了記錄人員工作負(fù)擔(dān);案件審查方面，上海206系統(tǒng)依據(jù)統(tǒng)一證據(jù)標(biāo)準(zhǔn)和證據(jù)規(guī)則指引，“對每一個證據(jù)收集程序以及形式、內(nèi)容進(jìn)行自動校驗(yàn)，生成審查結(jié)論，提示辦案人員進(jìn)行補(bǔ)正或說明”，[3]江蘇案管機(jī)器人核心系統(tǒng)則依據(jù)人工提煉總結(jié)并事先錄入后臺的交通肇事、危險駕駛案件的程序、證據(jù)和事實(shí)層面的審查規(guī)則及比對點(diǎn)，對案件信息、電子卷宗等要素進(jìn)行一鍵抓取、智能審查，篩選出疑似存在問題的案件，自動推送給檢察官進(jìn)行重點(diǎn)監(jiān)督，實(shí)現(xiàn)了期限預(yù)警、風(fēng)險預(yù)警、辦案活動出錯提醒;法律文書制作方面，江蘇案管機(jī)器人核心系統(tǒng)能夠自動生成檢察官辦案所需要、僅需其簡要填寫和修改的訊問提綱、補(bǔ)充偵查提綱以及案件審查報告、起訴書、量刑建議書、檢察建議書、糾正違法通知書、出庭預(yù)案、庭審筆錄等法律文書;訴訟材料流轉(zhuǎn)保管方面，蘇州中院建設(shè)紙質(zhì)訴訟材料智能管理云平臺“云柜系統(tǒng)”，通過將線下實(shí)體柜和線上虛擬柜連接起來，自動對所有紙質(zhì)材料編碼，并對材料流轉(zhuǎn)情況進(jìn)行全程跟蹤留痕，形成包括存取件人員、時間及地點(diǎn)等信息在內(nèi)的流轉(zhuǎn)檔案備查。

（三）采取自上而下的學(xué)習(xí)方式

現(xiàn)階段，囿于案件數(shù)據(jù)分散雜亂、質(zhì)量參差不齊，各地研發(fā)的系統(tǒng)多數(shù)采取自上而下的半監(jiān)督學(xué)習(xí)方式。以上海206系統(tǒng)為例，該系統(tǒng)從公檢法案例庫中所有同類型案件審理報告和卷宗中提取證據(jù)信息，按照法定證據(jù)種類和法律、司法解釋及各地審判經(jīng)驗(yàn)中的證據(jù)規(guī)范分類整理，提煉各類證據(jù)的收集程序、形式要件、內(nèi)容要素和不可采情形，最后形成統(tǒng)一的證據(jù)標(biāo)準(zhǔn)、證據(jù)規(guī)則，進(jìn)而構(gòu)建證據(jù)訓(xùn)練模型、預(yù)定機(jī)器學(xué)習(xí)規(guī)則，同時還組織業(yè)務(wù)骨干對掃入系統(tǒng)的卷宗內(nèi)容進(jìn)行精細(xì)化標(biāo)注，通過專家知識的介入，為機(jī)器學(xué)習(xí)提供優(yōu)質(zhì)樣本。

二、悖論的提出：刑事司法人工智能的硬幣兩面

（一）刑事司法人工智能的正面效應(yīng)

刑事司法人工智能建設(shè)借助自然語言處理、大數(shù)據(jù)分析等人工智能技術(shù)，通過類案推薦、量刑輔助、偏離預(yù)警等功能模塊，給刑事訴訟帶來以下四方面的積極影響，推動刑事辦案工作由零散轉(zhuǎn)向整體綜合、由閉塞轉(zhuǎn)向資源共享、由粗放轉(zhuǎn)向系統(tǒng)集約：

1.定性更加準(zhǔn)確。刑事司法人工智能通過提取新辦案件情節(jié)，與數(shù)據(jù)庫登記的案件情節(jié)進(jìn)行比對，選擇其中最為類似的案件推送給辦案人員，并同時附帶推薦類似案件的適用法條、爭議焦點(diǎn)、主要證據(jù)等，以幫助辦案人員對案件進(jìn)行準(zhǔn)確定性。借助對既有經(jīng)驗(yàn)的參考借鑒，辦案人員出現(xiàn)定性不準(zhǔn)情況的概率將大大下降。

2.查證更具針對性。刑事司法人工智能使得查證手段大數(shù)據(jù)化和智能化，尤其是在查證作案手段隱蔽、無他人見證的犯罪時，通過對嫌疑人資金流水、行蹤軌跡、體貌特征、日常習(xí)慣等信息的多維度排查比對，由案到人、再由人到案，如此循環(huán)反復(fù)，能夠更容易發(fā)現(xiàn)犯罪線索、固定犯罪證據(jù)，確保公安司法人員主要注意力集中在案件定性、查證方向判斷以及查證手段選擇上。

3.程序運(yùn)作更為高效。刑事司法人工智能將人工智能技術(shù)運(yùn)用于網(wǎng)上立案、網(wǎng)上查詢案件進(jìn)展、遠(yuǎn)程訊問、網(wǎng)上閱卷、網(wǎng)上批捕、網(wǎng)上接訪、庭審公開、質(zhì)量監(jiān)督、智能穿戴等多個方面，將之前需要花費(fèi)在路途、紙質(zhì)材料流轉(zhuǎn)、手續(xù)呈遞報送等環(huán)節(jié)的時間大大壓縮，為當(dāng)事人提供方便、維護(hù)其合法權(quán)益的同時，有效節(jié)約了司法資源，提升了辦案效率。

4.辦案質(zhì)量標(biāo)準(zhǔn)化。刑事司法人工智能在辦案伊始，就以公檢法三部門統(tǒng)一的證據(jù)標(biāo)準(zhǔn)、證據(jù)規(guī)則為基準(zhǔn)，督促公安司法人員按照法律規(guī)定、法定程序、統(tǒng)一標(biāo)準(zhǔn)辦理刑事案件;在辦案過程中，其通過預(yù)置風(fēng)險比對點(diǎn)，對疑似問題案件進(jìn)行自動篩選、預(yù)判，并實(shí)時提醒公安司法人員哪些案件、哪些環(huán)節(jié)存在實(shí)體、程序、證據(jù)上的問題;臨近案件辦結(jié)時，其憑借強(qiáng)大的記憶、檢索、識別能力，通過類案推送、量刑預(yù)測、偏離度預(yù)警等模塊，為刑事案件處理提供相對統(tǒng)一的評價標(biāo)準(zhǔn)，最大限度避免處理畸輕畸重和“同事不同處、同案不同判”等情況的出現(xiàn)。

（二）刑事司法人工智能的負(fù)面風(fēng)險

刑事司法人工智能目前產(chǎn)生的主要是積極影響，負(fù)面效應(yīng)尚不明顯，這與當(dāng)前“法律人工智能仍屬一種統(tǒng)計型、經(jīng)驗(yàn)型、材料準(zhǔn)備型、文字模板型的弱人工智能，低效且適用范圍窄”、[1]121易為人類掌控有直接關(guān)聯(lián)。但在不久的將來，隨著人工智能技術(shù)的發(fā)展，種種負(fù)面風(fēng)險會逐漸顯現(xiàn)。彼時表面上，人工智能的建設(shè)者、使用者、適用者還是人類，其設(shè)計、使用、改進(jìn)過程仍離不開人類的意志、經(jīng)驗(yàn)、技術(shù)，但實(shí)際上只是“以為算法只是顧問，最終的權(quán)威還是掌握在人類手中”[5]的錯覺罷了。因?yàn)槿斯ぶ悄芗夹g(shù)越發(fā)達(dá)，人類獨(dú)立判斷意愿就越弱，對其依賴度就越高，對其判斷、決策就越可能習(xí)慣性服從，此即所謂 “算法霸權(quán)”。具體來說，其將從以下方面引發(fā)刑事司法人工智能的負(fù)面風(fēng)險，甚至醞釀著發(fā)生刑事錯案的可能：

1.削弱司法自主權(quán)。刑事司法人工智能的技術(shù)服務(wù)提供者一般是公安司法機(jī)關(guān)外的公司企業(yè)，帶有較為鮮明的服務(wù)外包色彩，必然滲入獨(dú)立于公安司法理念之外的技術(shù)設(shè)計理念。隨著技術(shù)的進(jìn)步，技術(shù)服務(wù)提供者設(shè)計的系統(tǒng)，會對公安司法人員產(chǎn)生越來越大的影響，如果不加干預(yù)，甚至?xí)蔀樽笥夜菜痉ㄈ藛T作出判斷、決策的決定性因素，這在一定程度上影響了公安司法人員專業(yè)角色的發(fā)揮。而且，對案件事實(shí)進(jìn)行查證，在非人工智能時代，是以人類制定的法律為依據(jù)，通過人類組成的控辯審三方組織，圍繞爭議焦點(diǎn)開展辯論，針對證據(jù)進(jìn)行質(zhì)證的一系列步驟的總和，是人類經(jīng)驗(yàn)智慧和邏輯理性的結(jié)晶;而人工智能時代來臨后，由于技術(shù)因素的摻入，案件事實(shí)的查證過程并非完全由人類掌控。目前，在業(yè)已開展司法人工智能實(shí)踐探索的地區(qū)、部門，被控告人的命運(yùn)可以說已或多或少受到了技術(shù)、機(jī)器的影響，只是程度上有所差異而已。該種變化，實(shí)際上是工具理性對人類理性的一種侵入，將對司法意義有較大的消解作用，在合理性上存在著難以解釋的倫理障礙，即人可以決定人的命運(yùn)，但技術(shù)、機(jī)器能否決定人的命運(yùn)，換言之，也就是決定人的命運(yùn)的是否只能是人，是否可以是人之外的其他物體。該倫理障礙的存在，直接動搖到司法自主權(quán)的哲學(xué)基礎(chǔ)。

2.將被控告人降為訴訟客體。人工智能深度介入刑事司法領(lǐng)域后，公安司法人員如果不正確看待其角色，過度迷信其作用，或出于習(xí)慣性服從，或出于穩(wěn)妥考慮，直接將人工智能作出的判斷、決策作為最終的判斷、決策，就可能將被控告人降為訴訟客體，進(jìn)而導(dǎo)致工具理性的獨(dú)大。該客體化傾向具體表現(xiàn)為被控告人無從參與人工智能結(jié)論得出過程，無從知曉結(jié)論得出機(jī)理，無力對結(jié)論進(jìn)行辯駁、無力更改錯誤結(jié)論，進(jìn)而喪失對自身命運(yùn)的發(fā)言權(quán)，只能任由他人掌控。該傾向危害甚大，不僅嚴(yán)重侵害被控告人訴訟參與權(quán)、知情權(quán)、救濟(jì)權(quán)等正當(dāng)訴訟權(quán)益，還會從根本上動搖控辯雙方平等對抗格局，消解等腰三角的穩(wěn)定訴訟構(gòu)造，進(jìn)而導(dǎo)致案件處理的準(zhǔn)確性和公安司法機(jī)關(guān)的公信力下降，故應(yīng)當(dāng)引起有關(guān)部門的警惕。

3.使證據(jù)審查出現(xiàn)不當(dāng)傾向。人工智能過度介入刑事司法，可能導(dǎo)致證據(jù)制度兩大問題：首先，證明標(biāo)準(zhǔn)出現(xiàn)客觀化傾向。2017年年初，中央政法工作會議明確提出“運(yùn)用大數(shù)據(jù)技術(shù)，形成操作性強(qiáng)、可數(shù)據(jù)化的統(tǒng)一法定證明標(biāo)準(zhǔn)”。換言之，“操作性強(qiáng)、可數(shù)據(jù)化”將是未來刑事證明標(biāo)準(zhǔn)的重要特征。由此帶來的問題是，“如若將‘操作性強(qiáng)、可數(shù)據(jù)化視作未來刑事證明標(biāo)準(zhǔn)改革的目標(biāo)，那么，無論是操作性強(qiáng)還是可數(shù)據(jù)化都意味著未來努力的方向是增強(qiáng)刑事證明標(biāo)準(zhǔn)的客觀性”。[6]究其原因，皆因主觀證據(jù)難以判斷和把握，而客觀證據(jù)天生具備“操作性強(qiáng)、可數(shù)據(jù)化”特征，未來在人工智能證據(jù)審查過程中所占權(quán)重必然上升，因此刑事證明標(biāo)準(zhǔn)客觀化傾向也將愈發(fā)明顯;其次，法定證據(jù)主義復(fù)歸。制定公檢法三部門統(tǒng)一的證據(jù)標(biāo)準(zhǔn)、規(guī)則、程序有其積極意義，但同時也會帶來法定證據(jù)主義復(fù)歸的風(fēng)險。這是因?yàn)?，司法人工智能按照既有?jīng)驗(yàn)來收集、審查證據(jù)，假如其使用者只知機(jī)械搬用，而不加以具體判斷，就可能忽視某些特殊證據(jù)或者證據(jù)中的某些特殊因素，而這些證據(jù)或因素往往又與定罪量刑有著密切聯(lián)系，一旦沒有納入考慮范圍，就可能導(dǎo)致“具體問題不具體分析”，造成機(jī)械司法的后果。

4.導(dǎo)致隱性歧視。應(yīng)當(dāng)明確的是，大數(shù)據(jù)本身存在代表性不足的問題，即“大數(shù)據(jù)往往是由網(wǎng)絡(luò)活躍群體產(chǎn)生的數(shù)據(jù)，而活躍群體只是一部分，非活躍群體的信息、想法、行為模式等難以通過大數(shù)據(jù)反映出來，因而大數(shù)據(jù)不能代表不依賴、少依賴網(wǎng)絡(luò)或其他可記錄電子設(shè)備的人群”。[7]對于刑事司法人工智能來說，亦存在著大數(shù)據(jù)代表性不足的問題。具體來說，人工智能系統(tǒng)中的外部生活生產(chǎn)數(shù)據(jù)主要涉及網(wǎng)絡(luò)活躍群體的有關(guān)情況，系統(tǒng)自有數(shù)據(jù)及其衍生數(shù)據(jù)主要反映犯罪分子的基本情況以及前科劣跡、作案細(xì)節(jié)等情況，而對網(wǎng)絡(luò)非活躍群體、無犯罪記錄人員的有關(guān)情況，無法予以全面反映。以羈押必要性審查以及量刑評估為例，人工智能是在對案件庫中已有被控告人的性別、年齡、民族、籍貫、學(xué)歷、職業(yè)、家庭背景、體貌特征等諸多特征歸納提煉的基礎(chǔ)上，建立算法模型，借助大數(shù)據(jù)分析技術(shù)對現(xiàn)被控告人再犯可能性進(jìn)行評估。導(dǎo)致的直接后果就是，之前具有類似特征的人再犯情形越多，具有該特征的人就越有可能被羈押或者處以更重的刑罰，即所謂的“數(shù)據(jù)畫像”?？梢姡八惴Ｐ偷慕⑹且罁?jù)經(jīng)驗(yàn)法則的，法律AI本身其實(shí)是另一種形式的經(jīng)驗(yàn)證據(jù);長期使用會有過度重視‘專家的經(jīng)驗(yàn)證據(jù)的風(fēng)險”。[8]56亦即，該種數(shù)據(jù)畫像使被控告人陷入經(jīng)驗(yàn)主義和犯罪標(biāo)簽的窠臼，長遠(yuǎn)來看，會對個人復(fù)歸社會和社會綜合治理造成不良影響。

綜上，刑事司法人工智能存在硬幣兩面，兼具正反兩方面功效。一方面，其建設(shè)思路、過程控制以及結(jié)果實(shí)現(xiàn)均將避免刑事錯案作為追求目標(biāo)之一，實(shí)踐中也確實(shí)起到了一定錯案避免效果，但另一方面，人工智能建設(shè)還存在著諸多問題，且隨著技術(shù)的發(fā)展，“算法霸權(quán)”現(xiàn)象會越來越明顯，這累積著刑事錯案風(fēng)險。此即刑事司法人工智能面臨的兩難情形，可稱為“刑事錯案悖論”。

三、悖論的成因：人工智能建設(shè)存在的問題

（一）對人工智能地位定位不準(zhǔn)

實(shí)踐中存在著一種傾向，那就是過分夸大人工智能作用，將其視為解決刑事司法存在問題的靈丹妙藥。實(shí)際上，解決刑事司法問題的關(guān)鍵在于人，重點(diǎn)在于機(jī)制，人工智能在其間只適宜承擔(dān)輔助決策的角色，這是因?yàn)椋?/p>

1.從司法倫理來看，人的命運(yùn)交由機(jī)器或者技術(shù)主導(dǎo)并不合適。如前所述，隨著技術(shù)的發(fā)展，人類會不自覺地陷入數(shù)據(jù)算法的無形掌控中。在這種掌控中，人類自以為對算法結(jié)果進(jìn)行著自由選擇，其實(shí)卻承受著“算法霸權(quán)”風(fēng)險，即人類的選擇是以算法事先提出的選項(xiàng)為前提，在算法限定的路徑內(nèi)進(jìn)行的。而遍觀歷史，人類社會作為地球上唯一智慧生物組成的綜合體，創(chuàng)造了無數(shù)璀璨的文明成果，其中最重要的就是發(fā)現(xiàn)了人之所以為人的真諦——唯有人才具備超越動物本能的“人性”?？档抡J(rèn)為，人之所以有尊嚴(yán)，乃是因?yàn)槿瞬煌趧游?，這種不同就在于如亞里士多德所說，人是有理性的動物，人也是有道德意識的動物。[9]上述尊嚴(yán)、理性、道德就構(gòu)成了“人性”的重要內(nèi)容。而將人的命運(yùn)交由機(jī)器或者技術(shù)主導(dǎo)，某種程度上無視“人性”的存在，將人降格為“物”，既是不尊重人的尊嚴(yán)和自由、理性和道德的表現(xiàn)，又是對人主觀能動性的忽視和對人妥善處理綜合體內(nèi)部事務(wù)能力的懷疑。也許，大數(shù)據(jù)預(yù)測可以為我們打造一個更安全、更高效的社會，但是卻否定了我們之所以為人的重要組成部分——自由選擇的能力和行為責(zé)任自負(fù)。[10]207實(shí)際上，要真正尊重“人性”，就應(yīng)將人的命運(yùn)交由人去決定，而非是人之外的其他物體，其他物體至多只能成為提供參考意見的輔助工具。也只有充分發(fā)揮人的主觀能動性，才能抵御工具理性對人類理性的入侵，才能建立起公安司法機(jī)關(guān)與公民間的信任。

2.從發(fā)展水平來看，現(xiàn)階段刑事司法人工智能尚不能滿足多情形下的任務(wù)要求。首先，人工智能能否在信息非充分場合表現(xiàn)良好仍存疑義。眾所周知，刑事訴訟過程是一個去偽存真的開放過程，所涉信息繁多雜亂、真假難辨、流動不息，故對案件事實(shí)的事后回溯實(shí)際上是控辯雙方在信息非充分條件下的一種博弈。遍數(shù)目前人工智能表現(xiàn)明顯勝過人類的場合，還是以棋類運(yùn)動等信息充分場合居多，其能夠在信息非充分場合如撲克、麻將、電子游戲[11]、股市等有出色表現(xiàn)尚需時間的見證。而且，目前人工智能建立在既有數(shù)據(jù)環(huán)境基礎(chǔ)之上，面對已知情境往往運(yùn)行良好，但遇到新情況、新問題則有可能不知該如何處理，即發(fā)生“過擬合”現(xiàn)象，所以即便是信息充分場合，當(dāng)面臨新情境時，人工智能也可能表現(xiàn)失常，如韓國棋手李昌鎬在與Alpha Go第四局對壘過程中下出被稱為“神之一手”的白78手，直接導(dǎo)致Alpha Go面對沒有計算到的變化時出現(xiàn)混亂并犯下低級錯誤而輸?shù)舯荣?其次，人工智能缺乏人類作出判斷、決策的綜合能力。本杰明·卡多佐指出：“如果我們樂意，我們也許可以將法官的任務(wù)想象為一個翻譯者的工作，他閱讀著外部給予他的符號和記號?！盵12]換言之，公安司法人員對案件事實(shí)的查證是一個多方接受案件信息，并按照人類認(rèn)知模式而非機(jī)器語言重構(gòu)事實(shí)的過程。與人類相比，人工智能暫時欠缺演繹、關(guān)聯(lián)、聯(lián)想等事實(shí)重構(gòu)能力，更遑論按照人類認(rèn)知模式對證據(jù)關(guān)聯(lián)性、證明力等問題進(jìn)行有效審查。例如，證人證言提及搶劫者系黃發(fā)男子，嫌疑人被抓獲時又恰好染有黃發(fā)，人工智能會判定該人犯罪可能性較高，但假如該人在背景調(diào)查庫中被登記為理發(fā)業(yè)從業(yè)人員，公安司法人員會依此調(diào)低其犯罪可能性，而人工智能缺乏這種即時應(yīng)變能力，無法主動關(guān)聯(lián)“黃發(fā)”與“理發(fā)業(yè)從業(yè)人員”之間的邏輯關(guān)系，更不會因此調(diào)低被抓獲者的犯罪可能性。同時，影響司法判斷、決策的因素有很多，除犯罪構(gòu)成要件等常規(guī)因素外，還包括社會、情感、道德、價值等特殊因素?？紤]到現(xiàn)階段司法人工智能的智能化程度，要求其對上述因素進(jìn)行考量，將刑法謙抑性、寬嚴(yán)相濟(jì)刑事政策、刑罰個別化處理等理念體現(xiàn)在判斷、決策過程中，并對判斷、決策可能產(chǎn)生的社會影響進(jìn)行預(yù)估，顯然不切實(shí)際;最后，人工智能決策、判斷仍然存在出錯可能。刑事訴訟因其特殊性質(zhì)和可能造成的影響，對錯誤的容忍度極低，而當(dāng)前尚無一種人工智能技術(shù)和算法能夠保證判斷、決策的準(zhǔn)確率達(dá)到100%，如“一項(xiàng)研究顯示，在被算法預(yù)測的未來兩年內(nèi)實(shí)施暴力犯罪的人中，僅有20%實(shí)施了暴力犯罪。就算范圍擴(kuò)大到所有犯罪，算法預(yù)測的正確率亦僅有61%”[8]55。再考慮到人工智能審查證據(jù)時可能出現(xiàn)的客觀化傾向，故“我們冒險把罪犯的定罪權(quán)放在了數(shù)據(jù)手中，借以表達(dá)我們對數(shù)據(jù)和我們的分析結(jié)果的崇尚，但實(shí)際上這是一種濫用”[10]195。為最大限度降低人工智能可能引發(fā)的刑事錯案風(fēng)險，明確人工智能之于人腦判斷的輔助地位，顯得既必要又緊迫。

（二）源頭數(shù)據(jù)存在瑕疵

一方面，由于認(rèn)識不到位、責(zé)任心不足、任務(wù)繁重、收集手段滯后等主客觀原因，收集人員收集的“數(shù)據(jù)的質(zhì)量可能會很差;可能是不客觀的;可能存在分析錯誤或者具有誤導(dǎo)性;更糟糕的是數(shù)據(jù)可能根本達(dá)不到量化它的目的”，[10]210根據(jù)人工智能“垃圾數(shù)據(jù)產(chǎn)生糟糕結(jié)論”的定律，據(jù)此作出的判斷、決策的可信度存在較大疑問;而且，收集人員對有些本可結(jié)構(gòu)化收集的數(shù)據(jù)沒有采用結(jié)構(gòu)化收集方式，所收集到的數(shù)據(jù)雜亂而無序，又為后期的數(shù)據(jù)整合匯總、分析處理帶來了難題。另一方面，深度學(xué)習(xí)的案件樣本質(zhì)量和代表性存疑。具體來說，人工智能將既有案件數(shù)據(jù)作為其深度學(xué)習(xí)的訓(xùn)練集，盡管案件樣本數(shù)量不少，但未做到全量學(xué)習(xí)，現(xiàn)有學(xué)習(xí)對象僅限于本地區(qū)、本部門所掌握數(shù)據(jù)，且因區(qū)分案件辦理質(zhì)量優(yōu)劣，既缺乏統(tǒng)一標(biāo)準(zhǔn)，又需耗費(fèi)大量人力、物力、時間，亦無法保證優(yōu)量學(xué)習(xí);同時，目前人工智能涉及罪名還較為有限，后期要拓展至更多罪名的話，不可避免會遇到部分類別犯罪案件的樣本較少即數(shù)據(jù)顆粒度過小的問題，而該問題之所以成為問題，主要是因?yàn)樾颖緦W(xué)習(xí)得出的規(guī)律性特別是相關(guān)性難以令人信服，難以在實(shí)踐中使用。

（三）算法模型封閉難懂

刑事司法人工智能作出的判斷、決策是否具有價值，取決于算法模型是否科學(xué)、準(zhǔn)確。但目前人工智能算法還存在以下三方面缺憾，影響到人們對算法科學(xué)性和準(zhǔn)確性的信任：首先，科學(xué)性缺乏評估機(jī)制。當(dāng)前的探索實(shí)踐多以地方為主，自上而下的全國統(tǒng)一部署較為罕見，導(dǎo)致各地、各部門就同一事項(xiàng)設(shè)計的算法缺乏統(tǒng)一標(biāo)準(zhǔn)，變量的選擇帶有地區(qū)、部門、團(tuán)隊色彩，得出的結(jié)論出現(xiàn)偏差，進(jìn)而導(dǎo)致同一情況因所在地區(qū)、所屬部門、所用系統(tǒng)的不同而獲得不同的處理。且算法設(shè)計完畢后、投入使用前，缺乏對其科學(xué)性進(jìn)行評估的相關(guān)機(jī)制，算法投入使用后，亦無相關(guān)機(jī)構(gòu)對公安司法人員如何使用算法模型給予必要的指導(dǎo);其次，“黑箱”效應(yīng)明顯。人工智能技術(shù)服務(wù)公司為保守商業(yè)機(jī)密與保護(hù)知識產(chǎn)權(quán)，怠于公開算法內(nèi)容，造成算法“黑箱”效應(yīng)明顯，與刑事司法公開透明的要求相抵觸。對于算法內(nèi)容，不僅被控告人不知曉，甚至連主辦案件的公安司法人員也不甚清晰，且有關(guān)結(jié)論得出過程并未納入被控告人，某種程度上侵害了其正當(dāng)訴訟權(quán)益，不可避免引發(fā)公眾對案件辦理過程透明性的質(zhì)疑。并且，算法作為影響被控告人刑事責(zé)任舉足輕重的因素，不向當(dāng)事人以及公眾公開，值得商榷，這也是導(dǎo)致被控告人在訴訟過程中客體化的重要因素?？梢灶A(yù)見，被控告人未來必然會以此對這種不確定風(fēng)險進(jìn)行抗辯。美國威斯康星州已經(jīng)發(fā)生過一起典型案例——威斯康星州訴盧米斯案，該州法院使用COMPAS系統(tǒng)（中文全稱為“罪犯矯正替代性制裁分析管理系統(tǒng)”）作為量刑的部分依據(jù)，但“由于COMPAS的研發(fā)公司要保守其商業(yè)秘密，所以只有對再犯風(fēng)險的評估結(jié)果報告給法庭，而缺乏具體的評估過程記錄”，[13]被告以法官侵犯了其量刑個別化對待和依據(jù)準(zhǔn)確信息獲得判決等兩項(xiàng)權(quán)利上訴至威斯康星州最高法院。最后，驗(yàn)證標(biāo)準(zhǔn)及手段欠缺。刑事司法人工智能目前所使用的主流算法是深度學(xué)習(xí)算法，即使將該算法的代碼、公式全部公開，也無法展示其具體計算過程，更無法讓當(dāng)事人、公安司法人員預(yù)知或者理解算法結(jié)果。換言之，當(dāng)人工智能的判斷、決策作出后，由于算法的專業(yè)性，當(dāng)事人和公安司法人員缺乏對該判斷、決策的合理性、科學(xué)性乃至唯一性進(jìn)行驗(yàn)證的標(biāo)準(zhǔn)和手段。

（四）保障機(jī)制建設(shè)緩慢

當(dāng)前，我國刑事司法人工智能建設(shè)總體上還處在起步階段。這一階段的發(fā)展應(yīng)以為刑事執(zhí)法辦案提供基礎(chǔ)服務(wù)為目的，以數(shù)據(jù)的深度運(yùn)用、算法的不斷改進(jìn)和功能的優(yōu)化調(diào)整為重點(diǎn)。上述發(fā)展目的及重點(diǎn)的實(shí)現(xiàn)，離不開相關(guān)保障機(jī)制的建設(shè)。對于當(dāng)事人合法權(quán)益、數(shù)據(jù)安全等保障機(jī)制，目前已有所涉及，但大多是規(guī)定在僅具有內(nèi)部約束力的內(nèi)部工作規(guī)則中，并未為相關(guān)法律法規(guī)所涉及，且內(nèi)容比較粗疏、不成體系，由此導(dǎo)致當(dāng)事人缺乏與人工智能結(jié)論平等對抗的訴訟武器，控辯平等對抗的等腰三角結(jié)構(gòu)在一定程度上遭受破壞;更有甚者，如智能系統(tǒng)故障情形下的責(zé)任追究機(jī)制，理論界雖已注意到，但實(shí)務(wù)界還未納入考慮視野。

（五）交叉領(lǐng)域人才緊缺

刑事司法人工智能建設(shè)還存在一個突出問題，就是“懂法律的不懂技術(shù)，懂技術(shù)的不懂法律”。具體來說，一方面，公安司法人員對法律知識、辦案技巧、案件流程較為熟悉，但對人工智能技術(shù)了解不深，存在專業(yè)隔膜，對采取怎樣的技術(shù)方式來表達(dá)、釋明、總結(jié)法律問題“未窺門徑”，而且由于缺乏統(tǒng)計學(xué)、經(jīng)濟(jì)學(xué)等相關(guān)領(lǐng)域的知識，對已有數(shù)據(jù)資源亦未充分加以整合利用。針對這一點(diǎn)，已有學(xué)者指出目前法學(xué)教育存在的一大問題，就是“法律已變得非常深地混合了其他領(lǐng)域的方法和洞見，并且法學(xué)院還要走很長的路才能克服大多數(shù)法學(xué)院學(xué)生令人羞恥地回避數(shù)學(xué)、統(tǒng)計、科學(xué)和技術(shù)的現(xiàn)象”;[14]另一方面，人工智能技術(shù)提供者囿于法律專業(yè)背景的缺失，對公安司法人員提出的目標(biāo)以及要求，難以從法律層面上進(jìn)行理解和把握，難以將法律運(yùn)作規(guī)律通過技術(shù)方式表達(dá)出來，進(jìn)而導(dǎo)致建設(shè)的刑事司法人工智能功能與基層一線實(shí)踐需求產(chǎn)生偏離。

四、悖論的消解：建構(gòu)刑事錯案風(fēng)險防范機(jī)制

人工智能超越人類智能的可能性，人工智能產(chǎn)生危害后果的嚴(yán)重性，以及人工智能技術(shù)本身內(nèi)在的不確定性，這些因素足以構(gòu)成法律以及其他規(guī)范防止風(fēng)險的必要性。[15]

（一）明確刑事司法人工智能的輔助地位

該輔助地位不是暫時性的，而是永久性的，即無論刑事司法人工智能未來發(fā)展到何種程度，即使其已完全超越人類智能，仍然應(yīng)當(dāng)作為輔助辦案系統(tǒng)而存在。這不是技術(shù)方面的要求，而是倫理和刑事司法準(zhǔn)確性方面的要求。因此，應(yīng)根據(jù)刑事訴訟工作性質(zhì)和內(nèi)容，將其劃分為重復(fù)性、機(jī)械性、事務(wù)性工作和價值判斷性、結(jié)論性、裁判性工作。其中，第一類工作，如案件受理登記、電子卷宗制作、提審訊問記錄、閱卷摘錄、法庭記錄、電子送達(dá)、數(shù)據(jù)排查、統(tǒng)計分析等，可以盡量交給人工智能完成，以減輕公安司法人員機(jī)械工作負(fù)擔(dān)，使其能夠?qū)⒏嗑ν度氲街橇?、腦力判斷上來;第二類工作，如偵查方向判斷、證據(jù)收集審查、出庭公訴、庭上智辯、自由心證、裁定判決、法律服務(wù)等，應(yīng)當(dāng)以人類為主體完成。同時，人工智能的介入程度應(yīng)當(dāng)與案件的輕微程度、簡單程度成正比，如果被控告人同時還認(rèn)罪認(rèn)罰，那人工智能的介入深度就應(yīng)更深，這是因?yàn)榇藭r不公正風(fēng)險發(fā)生概率較小，完全可以優(yōu)先考慮效率問題。此外，使用人工智能對某事項(xiàng)作出判斷、決策，并不代表公安司法人員對該事項(xiàng)就不用作出判斷、決策，因?yàn)槿斯ぶ悄艿妮o助地位還表現(xiàn)在其作出的判斷、決策可以與公安司法人員形成一種比照監(jiān)督，以最大限度避免刑事錯案風(fēng)險的出現(xiàn)。

（二）注重源頭數(shù)據(jù)的收集工作

大數(shù)據(jù)是刑事司法人工智能的基礎(chǔ)，是充分發(fā)揮人工智能作用的前提。首先，盡可能多地收集數(shù)據(jù)。事實(shí)上，數(shù)據(jù)的異質(zhì)性使多樣化之于大數(shù)據(jù)的意義遠(yuǎn)遠(yuǎn)大于大容量的貢獻(xiàn)：大容量數(shù)據(jù)的特點(diǎn)是比抽樣統(tǒng)計更為精確，但異質(zhì)數(shù)據(jù)還能挖掘、分析出更有價值的結(jié)論。[16]而目前刑事司法人工智能使用的數(shù)據(jù)多為政法機(jī)關(guān)自有數(shù)據(jù)和衍生數(shù)據(jù)，多樣性還較為有限。因此，有必要從國家層面或者在國家支持下，采取購買或者交換的方式，獲取工商、銀行、醫(yī)療、教育、社保、交通、民航、住建、房管、有價證券、網(wǎng)購、外賣、票務(wù)、寄遞業(yè)、社交媒體、在線地圖、共享單車、網(wǎng)約車、出租車等信息，與已有的公安、檢察、法院、司法行政信息進(jìn)行整合，并按照各部門工作需要進(jìn)行審批與授權(quán)，為違法犯罪預(yù)測、犯罪偵查、公訴、審判、刑罰執(zhí)行、社區(qū)矯正提供全面的數(shù)據(jù)服務(wù)。其次，盡可能地確保收集數(shù)據(jù)的準(zhǔn)確性。盡管犧牲數(shù)據(jù)的準(zhǔn)確性有助于獲得技術(shù)處理效率上的快捷性，但數(shù)據(jù)準(zhǔn)確與否，直接關(guān)系到人工智能作出的判斷、決策是否準(zhǔn)確，且刑事司法對當(dāng)事人及其家庭影響重大，故應(yīng)確保收集的數(shù)據(jù)盡可能準(zhǔn)確。這就要求：對已經(jīng)能夠采取結(jié)構(gòu)化方式收集的數(shù)據(jù)，要進(jìn)一步細(xì)化該類數(shù)據(jù)的收集項(xiàng)目和項(xiàng)目要素，確保收集的數(shù)據(jù)盡可能詳盡。對尚未實(shí)現(xiàn)結(jié)構(gòu)化收集的數(shù)據(jù)，要改進(jìn)語音識別、圖文識別、語義識別和實(shí)體識別等技術(shù)手段，確保數(shù)據(jù)識別更加精確和便捷，如無法適用上述技術(shù)的，應(yīng)至少保證將數(shù)據(jù)留存在云存儲空間;對其中的非結(jié)構(gòu)化數(shù)據(jù)，如圖片、視頻、音頻、辦公文檔等，現(xiàn)階段由于技術(shù)所限，只能依托人工進(jìn)行審查;而對半結(jié)構(gòu)化數(shù)據(jù)，則在將其劃分為結(jié)構(gòu)化部分以及非結(jié)構(gòu)化部分后，應(yīng)采取結(jié)構(gòu)化和數(shù)據(jù)留存相結(jié)合的方式收集，以及結(jié)構(gòu)化和人工相結(jié)合的方式審查。最后，注重收集數(shù)據(jù)的全面性。近年來，社會上發(fā)生一系列案件，如陸勇代購印度抗癌藥案、天津老太擺地攤打氣球案等，展現(xiàn)了公眾與公安司法機(jī)關(guān)在認(rèn)知上的截然對立，受到了公眾的普遍質(zhì)疑。究其原因，與公安司法人員機(jī)械執(zhí)法、未全面考量案情有很大關(guān)系。在人工智能時代，要避免上述情形的發(fā)生，源頭階段就應(yīng)注意數(shù)據(jù)收集的全面性、客觀性。因此，應(yīng)對個案進(jìn)行特殊把控，在填清一般要素的同時，將特殊要素一并錄入。對于要素選項(xiàng)中暫未收錄的特殊要素，應(yīng)準(zhǔn)許公安司法人員自我創(chuàng)設(shè)。待后臺相似要素積累到一定量級，有關(guān)部門應(yīng)及時整理固化，并作為要素復(fù)選項(xiàng)供公安司法人員選填。后期在人工智能開展證據(jù)校驗(yàn)、類案推送、量刑預(yù)測、偏離預(yù)警時，公安司法人員應(yīng)特別關(guān)注特殊要素是否已經(jīng)納入考量。

（三）完善算法的設(shè)計與應(yīng)用

大數(shù)據(jù)的擁有者只有基于大數(shù)據(jù)建立有效的模型和工具，才能充分發(fā)揮大數(shù)據(jù)的價值。首先，控制設(shè)計主體資質(zhì)。應(yīng)對設(shè)計算法的公司企業(yè)實(shí)施門檻準(zhǔn)入制、進(jìn)行資質(zhì)分級認(rèn)證管理，即從事人工智能研發(fā)的公司企業(yè)必須取得人工智能研發(fā)牌照，且牌照上應(yīng)當(dāng)注明該公司企業(yè)所獲批的研發(fā)資質(zhì)和范圍。具體資質(zhì)的設(shè)計，可以按照公司企業(yè)的研發(fā)能力，將人工智能公司企業(yè)分為一級、二級、三級研發(fā)單位。其中，一級研發(fā)單位可以單獨(dú)研發(fā)某人工智能項(xiàng)目，二級研發(fā)單位可以在其他研發(fā)單位配合下為主研發(fā)某人工智能項(xiàng)目，三級研發(fā)單位則只能作為協(xié)作研發(fā)單位。其次，對算法進(jìn)行科學(xué)性評估。算法設(shè)計完畢、投入使用前，應(yīng)當(dāng)經(jīng)具備合法資質(zhì)的獨(dú)立第三方機(jī)構(gòu)進(jìn)行科學(xué)性評估，謹(jǐn)防出現(xiàn)主觀片面、系統(tǒng)性歧視等現(xiàn)象，投入后遇有重大情況（如刑事政策變更、法條修改等），或者雖無重大情況但達(dá)到再次評估時間，應(yīng)當(dāng)立即進(jìn)行評估，并及時做出調(diào)整。需要說明的是，通用算法的設(shè)計最好由中央政法機(jī)關(guān)組織進(jìn)行，唯此才能減少同一算法因各地、各部門數(shù)據(jù)內(nèi)容、考慮因素不同而存在差異，才能確保“同案同處、同案同判”。再次，建立算法釋明制度?？紤]到算法模型具有獨(dú)創(chuàng)性、獨(dú)占性、財產(chǎn)性特征，確實(shí)屬于有關(guān)政法機(jī)關(guān)及研發(fā)公司企業(yè)的智力成果，理應(yīng)作為知識產(chǎn)權(quán)進(jìn)行保護(hù)。但是鑒于社會公眾均是潛在的刑事追訴對象，刑事訴訟與公眾利益緊密相關(guān)，因此不適宜將算法模型單純地作為知識產(chǎn)權(quán)進(jìn)行排他性保護(hù)。比較合適的做法是采取區(qū)別保護(hù)的方式：一方面，當(dāng)與特定刑事司法人工智能無關(guān)、與特定刑事案件無關(guān)的機(jī)關(guān)和公司企業(yè)對有關(guān)算法模型進(jìn)行竊取、抄襲和未經(jīng)許可使用、傳播時，應(yīng)當(dāng)將該算法模型作為知識產(chǎn)權(quán)進(jìn)行排他性保護(hù);另一方面，刑事案件辦理過程中，人工智能使用機(jī)關(guān)應(yīng)當(dāng)主動制作人工智能決定說明報告，詳細(xì)列明人工智能工作原理和算法總體設(shè)計思路、考慮因素、代碼及程式等內(nèi)容并附卷備查，此外，當(dāng)控辯雙方有一方申請人工智能使用機(jī)關(guān)釋明使用算法模型，人工智能使用機(jī)關(guān)應(yīng)當(dāng)依申請，根據(jù)所處階段的不同，在申請人簽訂保密承諾書的前提下，視情采取書面答復(fù)或者出庭的方式予以釋明，除依申請釋明外，人工智能使用機(jī)關(guān)還可以依檢法部門通知視情采取上述方式進(jìn)行釋明。最后，確保算法可驗(yàn)證。即控辯雙方通過提出疑問或者異議，驗(yàn)證算法模型科學(xué)與否。由于被控告人的異議權(quán)在下文將詳細(xì)論述，故在此僅探討公安司法機(jī)關(guān)、被害人提出異議的情形。具體來說，檢察機(jī)關(guān)在審查批準(zhǔn)逮捕、審查起訴期間對公安機(jī)關(guān)，法院在審判期間對公檢機(jī)關(guān)人工智能決定存在疑問時，可以要求人工智能使用機(jī)關(guān)向檢察人員或者審判人員演示驗(yàn)證，演示結(jié)果如果與先前決定內(nèi)容存在實(shí)質(zhì)性差別，那么檢法部門應(yīng)當(dāng)以決定內(nèi)容不具有唯一性不予采信;被害人對公安司法機(jī)關(guān)人工智能決定存在異議的，可以向檢察機(jī)關(guān)提出。

（四）優(yōu)化現(xiàn)有深度學(xué)習(xí)技術(shù)

我國刑事司法人工智能借助深度學(xué)習(xí)技術(shù)，較好地完成了現(xiàn)階段刑事辦案智能化任務(wù)。但也應(yīng)當(dāng)看到，司法人工智能采用深度學(xué)習(xí)技術(shù)并不徹底，大多為自上而下的半監(jiān)督學(xué)習(xí)，與自下而上的無監(jiān)督學(xué)習(xí)相差甚遠(yuǎn)，一定程度上帶有專家系統(tǒng)的痕跡，自動化、智能化程度稍顯不足，且采用的深度學(xué)習(xí)技術(shù)也比較單一，以深度神經(jīng)網(wǎng)絡(luò)為主，這制約了司法人工智能實(shí)踐效能的進(jìn)一步發(fā)揮。因此，應(yīng)當(dāng)對現(xiàn)有深度學(xué)習(xí)技術(shù)進(jìn)行優(yōu)化，嘗試引入更多深度學(xué)習(xí)技術(shù)，如生成式對抗性網(wǎng)絡(luò)、強(qiáng)化學(xué)習(xí)、遷移學(xué)習(xí)等;同時，在大數(shù)據(jù)和云計算能力的支撐下，實(shí)現(xiàn)對既有刑事司法數(shù)據(jù)的全量學(xué)習(xí)，以數(shù)據(jù)相關(guān)性研究為切入點(diǎn)，深入探究隱藏在海量數(shù)據(jù)背后的刑事司法規(guī)律，逐步推進(jìn)自下而上的無監(jiān)督學(xué)習(xí)，繼而提升司法人工智能的智能化水平。至于使人工智能具備邏輯推理甚至自我意識等目前人類所獨(dú)有的高級認(rèn)知功能，應(yīng)是未來人工智能發(fā)展過程中需要著重考慮的問題，而非當(dāng)下最緊迫的任務(wù)。[17]

（五）加強(qiáng)保障機(jī)制建設(shè)

首先，通過法律賦予被控告人選擇適用權(quán)、請求專家?guī)椭鷻?quán)、知情權(quán)、異議權(quán)、訴訟抗辯權(quán)等，其中部分權(quán)利也應(yīng)當(dāng)賦予被害人。應(yīng)先明確僅有嫌疑人、被告人認(rèn)罪認(rèn)罰的輕微刑事案件需要強(qiáng)制使用人工智能。當(dāng)被控告人、被害人有一方反對人工智能作出的決定時，公安司法機(jī)關(guān)經(jīng)審查不屬于上述強(qiáng)制使用案件范圍的，就應(yīng)當(dāng)將決定所涉事項(xiàng)改由人工判斷的方式作出。之所以如此確定強(qiáng)制使用案件范圍，是因?yàn)檫@類案件性質(zhì)不太嚴(yán)重、事實(shí)相對穩(wěn)定，當(dāng)事人事先對其罪名和刑罰予以認(rèn)可，故人工智能的判斷、決策不易出錯，且被接受的可能性較高?？紤]到被控告人對人工智能可能了解甚少，所以應(yīng)當(dāng)允許其聘請專家作為《刑事訴訟法》第192條規(guī)定的“有專門知識的人”為自己提供咨詢和到庭協(xié)助解決專門性問題;當(dāng)被控告人申請公開或者釋明人工智能作出決定的依據(jù)、過程時，公安司法機(jī)關(guān)應(yīng)當(dāng)在被控告人簽訂保密承諾書的前提下，將人工智能工作原理、算法總體設(shè)計思路、算法考慮因素、算法代碼及程式告知被控告人;當(dāng)被控告人在檢察院審查起訴、法院庭審階段對人工智能決定內(nèi)容提出異議時，檢法部門應(yīng)當(dāng)要求人工智能使用機(jī)關(guān)對被控告人內(nèi)容予以書面答復(fù)，必要時要求人工智能使用機(jī)關(guān)向檢察人員演示或者當(dāng)庭演示操作（當(dāng)庭演示的，由控辯雙方圍繞爭議焦點(diǎn)當(dāng)庭進(jìn)行質(zhì)證），演示結(jié)果如果與先前決定內(nèi)容存在實(shí)質(zhì)性差別，那么檢法部門應(yīng)當(dāng)以決定內(nèi)容不具有唯一性不予采信;被控告人可以將算法不公開透明或者算法某類考慮因素涉嫌歧視作為抗辯理由。其次，保證數(shù)據(jù)安全。要保障數(shù)據(jù)的安全，關(guān)鍵就是做好權(quán)限管理、留痕回溯、責(zé)任追究三項(xiàng)工作。詳言之，就是對刑事司法人工智能數(shù)據(jù)進(jìn)行分級定密，嚴(yán)控數(shù)據(jù)網(wǎng)上流轉(zhuǎn)范圍，研究制定有關(guān)數(shù)據(jù)使用管理?xiàng)l例及實(shí)施細(xì)則，嚴(yán)格審批、管理人工智能及其關(guān)聯(lián)系統(tǒng)使用權(quán)限，對公安司法人員的每一次登陸、操作都要留痕備查，并研發(fā)異常情況實(shí)時預(yù)警模塊進(jìn)行監(jiān)督管理;當(dāng)發(fā)現(xiàn)危害數(shù)據(jù)安全情況時，應(yīng)根據(jù)嚴(yán)重程度及時進(jìn)行責(zé)任追究。最后，建立智能化系統(tǒng)故障情形下的責(zé)任追究機(jī)制?，F(xiàn)階段刑事司法人工智能尚處低人工智能階段，因此過錯責(zé)任主體只能是人工智能使用機(jī)關(guān)。至于是否要追究相關(guān)辦案人員的責(zé)任，建議按照辦案人員與智能化系統(tǒng)故障間因果關(guān)系的有無、強(qiáng)弱來進(jìn)行判定，只要不是故意、重大過失造成的，即使屬于普通過失，也不應(yīng)當(dāng)追究個人責(zé)任。同時鑒于辦案人員對系統(tǒng)性歧視的發(fā)生主觀上不存在過錯，故不建議以該理由對公安司法人員進(jìn)行追責(zé)。

參考文獻(xiàn)：

[1]左衛(wèi)民.關(guān)于法律人工智能在中國運(yùn)用前景的若干思考[J].清華法學(xué)，2018（2）.

[2]黃京平.刑事司法人工智能的負(fù)面清單[J].探索與爭鳴，2017（10）：85.

[3]陳健.上?！爸腔鄯ㄔ骸苯ㄔO(shè)再升級：非法吸收存款等罪名案件已進(jìn)入新系統(tǒng)試運(yùn)行[N].上海金融報，2017-10-31（A13）.

[4]盧志堅，等.江蘇人工智能與檢察辦案深度“碰撞”[N].江蘇法制報，2018-03-02（1）.

[5][以]尤瓦爾·赫拉利.今日簡史：人類命運(yùn)大議題[M].林俊宏，譯.北京：中信出版集團(tuán)，2018：46.

[6]李訓(xùn)虎.刑事證明標(biāo)準(zhǔn)“中體西用”立法模式審思[J].政法論壇，2018（3）：128.

[7]左衛(wèi)民.一場新的范式革命？——解讀中國法律實(shí)證研究[J].清華法學(xué)，2017（3）：59-60.

[8]李本.美國司法實(shí)踐中的人工智能：問題與挑戰(zhàn)[J].中國法律評論，2018（2）.

[9]王福玲.康德尊嚴(yán)思想研究[M].北京：中國社會科學(xué)出版社，2014：65-66.

[10][英]維克托·邁爾-舍恩伯格，肯尼思·庫克耶.大數(shù)據(jù)時代：生活、工作與思維的大變革[M].盛楊燕，周濤，譯.杭州：浙江人民出版社，2013.

[11]機(jī)器之心.面對最菜TI戰(zhàn)隊，OpenAI在Dota2上輸?shù)煤翢o還手之力[DB/OL].（2018-08-23）[2018-12-01]https：//www.jiqizhixin.com/articles/.

[12][美]本杰明·卡多佐.司法過程的性質(zhì)[M].蘇力，譯.北京：商務(wù)印書館，1998：109.

[13]朱體正.人工智能輔助刑事裁判的不確定性風(fēng)險及其防范——美國威斯康星州訴盧米斯案的啟示[J].浙江社會科學(xué)，2018（6）：77.

[14][美]理查德·波斯納.法官如何思考[M].蘇力，譯.北京：北京大學(xué)出版社，2009：192.

[15]吳漢東.人工智能時代的制度安排與法律規(guī)制[J].法律科學(xué)：西北政法大學(xué)學(xué)報，2017（5）：134.

[16]徐駿.智慧法院的法理審思[J].法學(xué)，2017（3）：56.

[17]劉憲權(quán).人工智能時代的“內(nèi)憂”“外患”與刑事責(zé)任[J].東方法學(xué)，2018（1）：134-142.

責(zé)任編輯：楊 煉