杜宴林 楊學(xué)科

摘要：算法司法，作為人工智能時代新的司法樣態(tài)，已初現(xiàn)其時代意義：有力回應(yīng)了新時代解放司法生產(chǎn)力，提升司法效能、切實保障算法司法正義的迫切需求，但也存在著算法隱蔽性和司法公開的沖突，算法司法商業(yè)化以及過度重視專家系統(tǒng)經(jīng)驗等風(fēng)險。算法司法的未來，無論呈現(xiàn)出增強(qiáng)/改善司法，還是替代司法的姿態(tài)，算法司法正義都應(yīng)當(dāng)是未來司法正義的必然選擇。

關(guān)鍵詞：算法司法;算法司法正義;算法歧視;人工智能;算法解釋權(quán)

中圖分類號：D9 ? 文獻(xiàn)標(biāo)志碼：A ? 文章編號：1004-3160（2019）05-0064-11

一、問題的提出

一般認(rèn)為算法是進(jìn)行計算、解決問題、做出決定的一套有條理的步驟。所以，算法并不是單指某次計算，而是計算時采用的方法。[1]75學(xué)界研究表明，在司法大數(shù)據(jù)日漸凸顯的時代，沒有算法，數(shù)據(jù)只能是沒有意義的知識經(jīng)驗載體。學(xué)界一般將其形象的做如下比喻：大數(shù)據(jù)可喻為石油或燃料，算法則喻為引擎驅(qū)動，也就是說沒有作為引擎的算法，數(shù)據(jù)的石油只能付之高閣，只有通過算法的數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)，數(shù)據(jù)的價值才能完美呈現(xiàn)。隨著算法日漸發(fā)展，算法在大數(shù)據(jù)基礎(chǔ)上已能自我學(xué)習(xí)、判斷和決策，并直接助推了人工智能的大發(fā)展，道理很簡單，算法乃人工智能的基石，人工智能即是算法和所用數(shù)據(jù)集的相互作用的自動化決策。

算法已經(jīng)侵入了人類世界的幾乎每一個領(lǐng)域，呈現(xiàn)出源于人類又超乎人類的強(qiáng)大力量，與之相伴隨，一個新興的人工智能時代的“算法帝國”景觀日漸浮現(xiàn)在我們眼前。[2]24司法領(lǐng)域也不例外，算法正在悄然接管司法，算法的“意識形態(tài)滲入了法律領(lǐng)域，決定了司法人員的態(tài)度與立場，從而控制了法律機(jī)器的運作”，[3]算法影響司法正義的時代，正在悄然降臨：算法如何塑造我們的司法？在算法帝國中，作為社會正義最后一道防線的司法，何去何從？算法真的即為正義？……這些問題無疑時時刻刻拷問著現(xiàn)代司法乃至現(xiàn)代法治的理論和實踐，并顯然需要我們認(rèn)真對待。然而不無遺憾的是，學(xué)界對此卻呈現(xiàn)出“心有余而力不足”的狀態(tài)：人們對人工智能的司法應(yīng)用極其關(guān)注，業(yè)已形成了系列科研成果，呈現(xiàn)出“心有余”之熱度，但卻對作為人工智能基石的算法則或直接忽視或語焉不詳，呈現(xiàn)出“力不足”之態(tài)。鑒此，本文以算法司法和算法司法正義為關(guān)注的焦點，對司法場域內(nèi)的相關(guān)問題略作探討。

二、算法司法及其局限

（一）算法司法的基本意蘊

自啟蒙運動以來，理性戰(zhàn)勝信仰，以數(shù)學(xué)為基的科學(xué)深刻推動了社會的發(fā)展，開啟了“科學(xué)為王”的時代。如海德格爾所言，數(shù)學(xué)實質(zhì)是一種可通達(dá)性的知識，近代科學(xué)都是建立在數(shù)學(xué)因素之上，“現(xiàn)代自然科學(xué)、現(xiàn)代數(shù)學(xué)和現(xiàn)代形而上學(xué)都是源出于廣義上的數(shù)學(xué)因素這個同一根源”。[4]875數(shù)學(xué)因素作為“關(guān)于物的知識的基本前提”，是一種對物的基本態(tài)度，即數(shù)字化的世界觀，其本質(zhì)就在于，一方面對物的規(guī)定的設(shè)定，事先規(guī)定物的可敞開領(lǐng)域，另一方面則“力求對知識形式本身的重新構(gòu)成和自我論證?！盵4]856、874近現(xiàn)代科學(xué)為我們打開了一個數(shù)學(xué)化世界之門，數(shù)字化的世界觀、數(shù)字化生存成為“新的自由、自我約束和自我論證”[4]873。

數(shù)學(xué)的妙處在于其擁有一個好的方法，常常是最簡潔明了的方法。[5]與之相類似，算法恰恰也是對于復(fù)雜問題求解的策略方法，其核心就是“按照設(shè)定程序運行以期獲得理想結(jié)果的一套指令”，因而它的全部價值就體現(xiàn)在它的速度上。[2]98當(dāng)司法引入算法，在“推理不過是計算”[6]的運作模式下，算法在司法領(lǐng)域的簡約邏輯和速率優(yōu)勢無疑盡顯。本文將這種司法領(lǐng)域算法的司法應(yīng)用統(tǒng)稱為算法司法：一種不涉及算法問題的司法解決，而是司法過程中采用的算法解決司法問題的司法。

算法司法是伴隨著計算機(jī)的發(fā)展而逐漸興起的，1970年布魯斯·布坎南和托馬斯·希德里克發(fā)表《關(guān)于人工智能和法律推理若干問題的考察》一文，拉開了計算機(jī)信息系統(tǒng)處理法律實踐中法律推理的序幕。隨后Walter G.Popp和Bernhard Schlink開發(fā)了JUDITH律師推理系統(tǒng)，1977年Jeffrey Meldman開發(fā)了計算機(jī)輔助法律分析系統(tǒng)，電子智能法律系統(tǒng)的首次應(yīng)用則以1981年D●特曼和M●皮特森開發(fā)的法律判決輔助系統(tǒng)（LDS）為標(biāo)志。[7]美國是當(dāng)今算法司法應(yīng)用較多的國家，一半以上州采用了替代性制裁為目標(biāo)的懲教犯管理畫像（COMPAS）、公共安全評估（PSA）和服務(wù)級別目錄修訂版（LSI-R）等三大風(fēng)險評估軟件，主要用于預(yù)測再次犯罪風(fēng)險、罪犯風(fēng)險性評估，進(jìn)而決定是否保釋、假釋等等。

對比美國的算法司法，現(xiàn)在我國司法中運用的算法，則主要集中在辦公自動化上，并沒有像美國那樣主要用在量刑輔助上面。盡管早在1993年武漢大學(xué)趙廷光就主持開發(fā)出了電腦量刑軟件“實用刑法專家系統(tǒng)”，時隔十年淄川區(qū)法院設(shè)計出一套利用電腦和軟件計算刑期的操作系統(tǒng)，甚至在政策層面頂層有關(guān)機(jī)關(guān)還先后設(shè)計了一些發(fā)展規(guī)劃指南（比如國務(wù)院頒布了《新一代人工智能發(fā)展規(guī)劃》，最高人民法院與最高人民檢察院發(fā)起了“智慧法院”與“智慧檢務(wù)”建設(shè)的行動規(guī)劃，公安部與司法部頒布的大數(shù)據(jù)與信息化建設(shè)指南等等），但實踐中，依然集中在辦公自動化層面上，特別是信息的電子化、數(shù)據(jù)化，辦案輔助系統(tǒng)的智能化，實體裁判的預(yù)測與監(jiān)督，統(tǒng)一的、電子化的證據(jù)標(biāo)準(zhǔn)等方面。[8]以智慧法院為例，在最高法院《關(guān)于加快建設(shè)智慧法院的意見》的“智慧法院”的整體架構(gòu)下，大數(shù)據(jù)與人工智能技術(shù)被要求用于支持辦案人員最大限度減輕非審判性事務(wù)負(fù)擔(dān)、為人民群眾提供更加智能的訴訟和普法服務(wù)、支持管理者確保審判權(quán)力正當(dāng)有序運行、支持法院管理者提高司法決策科學(xué)性等等。

實踐也呈現(xiàn)出相似的圖景。據(jù)《中國法院信息化發(fā)展報告No.2（2018）》所提供的數(shù)據(jù)顯示，2017年人民法院確立并完成了信息化3.0版的主體框架，“智慧法院”初步形成。一批輔助法官辦案的法信平臺、“智審”系統(tǒng)、庭審語音識別系統(tǒng)、裁判文書評查、同案不同判預(yù)警等智能化系統(tǒng)得以廣泛應(yīng)用，有力地推動了類案推送、法律文書輔助生成、電子卷宗隨案同步生成、網(wǎng)上調(diào)閱、電子送達(dá)和電子簽章等辦公系統(tǒng)自動化領(lǐng)域的新進(jìn)展;推行了電子法院、網(wǎng)絡(luò)法庭等辦案模式，開發(fā)了“智慧法院導(dǎo)航系統(tǒng)”、智能導(dǎo)訴機(jī)器人等系統(tǒng)[9]，客觀上也有利于推廣“互聯(lián)網(wǎng)+訴訟服務(wù)”經(jīng)驗，但無論如何，現(xiàn)階段我國的算法司法，發(fā)力的重心仍然集中在辦公自動化方面，也就是不讓事務(wù)性負(fù)擔(dān)成為法官的新負(fù)擔(dān)，從而為人民群眾提供便捷、智能、精準(zhǔn)的訴訟服務(wù)。中美算法司法存在上述反差的原因，除了司法制度和人工智能發(fā)展水平的差異外，也與我國近年來的司法人工智能的興盛主要依賴的是“市場利益驅(qū)動與官方改革管理的雙重邏輯”[10]有很大關(guān)系。當(dāng)然，各方對算法司法持漸進(jìn)、謹(jǐn)慎、穩(wěn)健的發(fā)展策略可能也是其原因之一。

（二）算法司法的時代意義

無論訴諸于理論還是實踐，人們都將承認(rèn)，作為適應(yīng)時代需要而產(chǎn)生的新事物，算法司法正深刻的影響著當(dāng)下司法裁判的模式，并日益體現(xiàn)出其獨特的時代優(yōu)勢和魅力：

首先，算法司法有利于積極破解日益繁重的司法裁判需求。技術(shù)的本質(zhì)應(yīng)當(dāng)是一種解蔽方式，一種真理的開顯方式。如海德格爾所揭示的這樣，算法技術(shù)也正是如此，算法及其生產(chǎn)制作過程的一切可能性無疑均建基于技術(shù)的解蔽之中。[4]931、932前已述及的算法的核心價值是速率，在解蔽司法生產(chǎn)力方面，無疑具有最大優(yōu)勢。尤其隨著訴訟社會的到來，訴訟規(guī)模以兩位數(shù)的速度增加，訴訟爆炸成了其標(biāo)志性話語表達(dá)，令人擔(dān)憂的“延遲司法”的趨勢也日漸突出;堆積如山的案件材料，令法律人難堪重負(fù)，法律人過勞死等現(xiàn)象屢見報端網(wǎng)媒的情況下，算法司法的適時登場，因算法能自動執(zhí)行重復(fù)性司法任務(wù)，客觀上使得法律人專注于核心的法律判決的產(chǎn)生成為了可能。因此算法司法呈現(xiàn)“增強(qiáng)/改善司法”的姿態(tài)，在增強(qiáng)法律人辦案能力、賦能司法生產(chǎn)力的同時，也很好的破解了日益繁重的司法裁判的需求。相對于傳統(tǒng)司法，算法司法這種效率的提升，不亞于“希特勒飆車體驗的快感”①，而在波斯納意義上，算法司法的這種效率無疑就是正義的代名詞：“正義的第二種涵義——也是最普遍的涵義——是效率”[11]。

其次，算法司法具有相當(dāng)?shù)臑槿怂邮艿脑鲋盗?。正如學(xué)界普遍認(rèn)識到的，增值力是任何一件新生事物能否為人所接受的客觀標(biāo)準(zhǔn)，其理論主要淵源于厄南·麥克馬林（Ernan McMullin），在他看來，有兩種增殖力來判定新生事物是否能為人接受，一是成功適應(yīng)的“業(yè)已證明的增殖力”，一是創(chuàng)造性應(yīng)對未來的“潛在增殖力”。[12]前者側(cè)重于當(dāng)下的中立性和客觀性考察，后者側(cè)重于未來，兩者共同構(gòu)成了客觀性、連貫性的評價尺度。算法司法的“業(yè)已證明的增殖力”，早在人工智能發(fā)展初期就得到了驗證：

在預(yù)算擠壓緊縮和正義需求增加的情況下，法官必須在努力應(yīng)對時間和資源限制的同時，還必須拼命地維持決策過程的質(zhì)量，定紛止?fàn)帯＿@顯然不是一項容易完成的任務(wù)，而AI工具無疑對此可提供強(qiáng)大的智力支持，在促進(jìn)足夠程度的一致性和效率的同時，支持合理行使司法裁量權(quán)，防止規(guī)則機(jī)械、僵化的適用。同樣，人工智能還可以起到靈活性的幫助、協(xié)調(diào)、補(bǔ)充任務(wù)的作用，例如起草各種司法文件，既確保了效率性，也兼顧了準(zhǔn)確性?？傊?，我們認(rèn)為司法機(jī)構(gòu)正處于轉(zhuǎn)型的初期階段，其中人工智能技術(shù)將使司法程序更快，更便利，并且在不影響法官自由裁量權(quán)的完整性的情況下，確保司法推理更具可預(yù)測性。[13]

美國的威斯康星州訴盧米斯一案（Wisconsin v.Loomis）已經(jīng)在司法上確認(rèn)了算法司法的中立性和客觀性。盧米斯因參與駕車槍擊事件被判有罪，在羈押期間，威斯康星州懲戒部門的COMPAS系統(tǒng)將被告是否會再次犯罪的可能性等級定為“高風(fēng)險”。盧米斯不服上訴，威斯康星州最高法院支持了下級法院的裁決，美國聯(lián)邦最高法院駁回盧米斯的申訴要求，實際上三級法院都確認(rèn)了COMPAS系統(tǒng)的算法具有中立性和客觀性，能成功適應(yīng)司法判決的需要，因而也就是算法司法“業(yè)已證明的增殖力”的最好的司法確認(rèn)。事實上，算法司法的增值力已得到越來越多的理論證成，斯溫伯恩大學(xué)法學(xué)院的（Swinburne Law School）學(xué)者們研究認(rèn)為，人工智能（AI）能夠消除情感偏差和人為錯誤，從而有利于量刑公正，并建議量化算法應(yīng)該作為現(xiàn)有量刑實踐的輔助手段來開發(fā)和試用。如果審判成功，則應(yīng)考慮廣泛使用計算機(jī)來輔助量刑決定。[14]而既有的司法實踐也表明，算法司法的自主決策也的確在防止冤假錯案、預(yù)防司法腐敗等方面發(fā)揮著自身的巨大優(yōu)勢。

算法司法也呈示出潛在的增殖力，據(jù)權(quán)威資料揭示，2017年，馬里蘭大學(xué)有學(xué)者設(shè)計出一款自動測謊在真實庭審視頻中的人工智能系統(tǒng)，測謊準(zhǔn)確率達(dá)到了92%，高于人類的81%。2017年，一場倫敦100名律師和一個名為Case Cruncher Alpha的人工智能同臺競賽，Case Cruncher Alpha以86.6%? vs? 66.3%的準(zhǔn)確度戰(zhàn)勝了律師們。盡管如學(xué)界所認(rèn)識到的，由于算法技術(shù)（通常表現(xiàn)為計算能力，簡稱為算力）的不足，現(xiàn)在的算法司法還大致處于由弱人工智能向強(qiáng)人工智能轉(zhuǎn)型階段，但算法司法已經(jīng)呈現(xiàn)出不可遏制的魅力，我們有理由相信，隨著算法技術(shù)的不斷發(fā)展，算法司法的“潛在增值力”大為可期。這一點，細(xì)心的人們從算法司法的不斷改進(jìn)和完善中是不難看出端倪的。

（三）算法司法的反思及其局限

算法司法在增強(qiáng)法律人辦案能力、提高司法效率的同時，算法司法也呈現(xiàn)出很大的因由算法而來的局限性：

1.算法的隱蔽性和司法公開、透明性間的沖突

算法往往被視為黑箱。算法的發(fā)展——基于未知的、不可思議的、通常是不可挑戰(zhàn)的系統(tǒng)，決定個人權(quán)利——對現(xiàn)代法治提出了嚴(yán)峻的挑戰(zhàn)。[15]具體言之，算法司法最大的問題就在于算法的隱蔽性和司法公開、透明性的沖突。算法本質(zhì)上是一種編程技術(shù)，“技術(shù)既不好也不壞;也不是中立的”，[16]545但算法的最大特點就是其隱蔽性，也就是算法不具有可解釋性。這種隱蔽性或不可解釋性，迄今為止仍為算法發(fā)展中的技術(shù)難題，也自然預(yù)示了其潛在的風(fēng)險。道理很簡單，顯式編程，編程人員還能知道其中的運作過程，但對于算法比如即使為學(xué)界目前最為推崇的智能算法、神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，它們也并非是顯式編程，而是隱藏的自我學(xué)習(xí)、自我編程，可以輕松擬合萬維以上的函數(shù)，但實驗表明，人類超過了二十維函數(shù)都難理解了，所以，這種算法向我們（包括編程人員）解釋的困難，在某種程度上，這就像是向一只狗解釋莎士比亞是誰一樣，無從解釋。[17]順便說一句，算法的這種不可解釋性，在一定程度上也是當(dāng)下為人關(guān)注的另一個問題即算法歧視且很難破解的原因之一。

這顯然與現(xiàn)代司法公開的精神發(fā)生沖突。司法公開、透明是現(xiàn)代司法的基本原則，并對現(xiàn)代司法公信力、司法權(quán)威有著決定性影響，此即現(xiàn)代法治上所謂“看得見的公正才是公正”。算法司法因其固有的隱蔽性/不可解釋性而往往使得相關(guān)判決陷入困境，其核心原因即是它與司法公開、透明性精神存在嚴(yán)重沖突。前述的威斯康星州訴盧米斯一案，盧米斯就對COMPAS系統(tǒng)的算法隱蔽性存在質(zhì)疑，并因此上訴。問題關(guān)鍵就在于COMPAS系統(tǒng)的原始算法及其過程具有不可解釋性，因而相關(guān)裁決也無法給人足夠的說服力，即使盧米斯最后勝訴了，也不能說是算法的勝利，因為算法的透明性、可解釋性、可責(zé)性等解釋性難題仍然是擺在目前算法司法面前的技術(shù)瓶頸，如無技術(shù)上的突破，算法利維坦（Algorithmic Leviathan）①、算法吉姆·克勞（Algorithmic Jim Crow）②都會成為算法司法難以克服的風(fēng)險。

2.算法司法商業(yè)化

實踐中，大部分司法算法是以服務(wù)外包的形式進(jìn)行的，商業(yè)公司對司法權(quán)僭越、承包司法，算法司法呈現(xiàn)出司法商業(yè)主義的態(tài)勢。這是算法司法廣受詬病之處，如前述的威斯康星州訴盧米斯，威斯康星政府反駁理由就是Northpointe公司（現(xiàn)為Equivant）需要保持算法的保密，以保護(hù)公司的知識產(chǎn)權(quán)。COMPAS系統(tǒng)的算法是由盈利性公司Northpointe制作的系統(tǒng)，其中公司創(chuàng)始人之一約翰·阿諾德是一位對沖基金經(jīng)理。如果民眾將對沖基金與司法算法勾連在一起，對沖基金賺錢法是不是就是司法算法風(fēng)險評估的方法？算法源代碼通常是私有的，不公開的，這是很容易讓人疑竇叢生的。COMPAS算法就被ProPublica機(jī)構(gòu)研究分析指出，COMPAS更有可能將黑人被告誤認(rèn)為未來的罪犯，而白人被告更有可能被錯誤地貼上低風(fēng)險的標(biāo)簽。在中國，有報道稱，包括最高人民法院在內(nèi)的超過100家法院使用了科大訊飛公司所研發(fā)的智慧法院庭審系統(tǒng)。但由于也是由商業(yè)力量主導(dǎo)對司法算法的開發(fā)，自然也難免逃脫算法司法商業(yè)化的局限，“難免形成審判主體的多重結(jié)構(gòu)，事實上形成程序員、軟件工程師、數(shù)據(jù)處理商等主體和司法者共執(zhí)司法的局面”，[18]出現(xiàn)算法司法中法律邏輯、商業(yè)邏輯、社會邏輯共治合一的局面。這種審判主體多元化、審判權(quán)多元化都是一種對傳統(tǒng)司法的解構(gòu)，也是需要謹(jǐn)慎思量的，畢竟司法算法的大量外包，容易讓算法承包公司、算法工程師的實際影響超過司法機(jī)關(guān)。司法實務(wù)人員的不懂算法以及對司法算法參與編輯的懈怠很大程度上更是給司法算法暗箱操作留有空間，進(jìn)而導(dǎo)致算法司法被人為利用的可能。

3.過度重視專家系統(tǒng)經(jīng)驗的風(fēng)險

如今的“專家系統(tǒng)”（expert system）在人工智能和大數(shù)據(jù)等核心技術(shù)因素支撐下，其意義比任何時代都要明顯和突出。[19]一般認(rèn)為，專家系統(tǒng)是一種計算機(jī)應(yīng)用程序，它包含了知識和專門知識：它們可以像人類一樣應(yīng)用于解決問題、提供建議和執(zhí)行各種其他任務(wù)。具體在法律上，利用計算機(jī)技術(shù)可以促使稀缺的專業(yè)知識和知識更廣泛地獲得和容易獲得。[20]有研究表明，當(dāng)人們接受特定的咨詢指導(dǎo)時，他們傾向于追隨咨詢建議而不是自己的判斷。[21]這就可能出現(xiàn)從眾效應(yīng)（herd effect）的風(fēng)險，例如當(dāng)算法推薦類案，法官看到算法推薦的類似案件的判決結(jié)果，法官判案的獨立性可能會受到干擾，相應(yīng)的法院判據(jù)也會被慣性效應(yīng)所持續(xù)強(qiáng)化而出現(xiàn)偏頗。司法算法是以簡單的邏輯（0+1）來推演復(fù)雜的司法現(xiàn)實，這種簡單邏輯是建立在過去的正確性的經(jīng)驗法則基礎(chǔ)上，穩(wěn)定有余，但變通性不足，缺乏未來視角的社會適應(yīng)性，畢竟迄今算法所采用的大數(shù)據(jù)“只會處理過去，不會創(chuàng)造未來”[22]204，由此“專家系統(tǒng)”幾乎成了唯一的依憑，算法司法的科學(xué)性自然也比較闕如。同時，由于算法的科學(xué)性通常都建基于經(jīng)驗性的驗證條件，這就意味著不同的驗證條件會出現(xiàn)截然相反的結(jié)論。比如，前述的COMPAS算法最近又被驗證出，風(fēng)險評估算法并不比沒有刑事司法經(jīng)驗的人更準(zhǔn)確。[23]隨即COMPAS算法現(xiàn)在的東家Equivant發(fā)表聲明中質(zhì)疑論文的準(zhǔn)確性，稱論文“具有高度的誤導(dǎo)性”。這也就是說，算法面臨著科學(xué)性不足的風(fēng)險和時代挑戰(zhàn)，算法司法也不例外，尤其是近年來，有學(xué)者通過實驗發(fā)現(xiàn)：一般人類會信任機(jī)器人，即使在緊急情況下，人類也可能會太信任機(jī)器人。[24]這也意味著算法司法目前出現(xiàn)的過度擬合因果，過度迷信司法算法，從而導(dǎo)致司法判決出現(xiàn)偏差的現(xiàn)象還會繼續(xù)持續(xù)下去，過于推崇“專家系統(tǒng)”的風(fēng)險常在。

（四）“未來之鏡”①算法司法的可能

早在1999年哈佛大學(xué)萊斯格教授就對未來的司法做出預(yù)測，他指出：“代碼就是法律”，代碼最終是互聯(lián)網(wǎng)的架構(gòu)，并且因此能夠通過技術(shù)手段來限制個人的行為。[25]而今隨著新技術(shù)的出現(xiàn)，如區(qū)塊鏈技術(shù)，帶來了許多將法律轉(zhuǎn)化為代碼的新機(jī)遇。[26]這場科技革命的下一步，可能會如未來學(xué)家尤瓦爾·赫拉利（Yuval Noah Harari）所預(yù)測的那樣，可將讓算法有能力“比我更了解我自己”，人類交出權(quán)威，算法獲得統(tǒng)治地位。[1]298、312

這顯然不是未來算法司法的全部，至少它不是靜態(tài)的呈現(xiàn)的，它將繼續(xù)改變，新技術(shù)將加速這種變化率。如算法帝國所言的那樣，未來屬于算法和他們的創(chuàng)立者，[2]194未來人類生活更可能都直接或間接地為算法所塑造，司法為算法塑造、變革、掌控也有足夠的理由使人們相信，必然成為現(xiàn)實，并將深刻的影響人們的生活方式和思維樣式。這一點從當(dāng)下的算法司法現(xiàn)狀及其影響即可窺見一斑。當(dāng)下算法司法由于算法技術(shù)尚處起步階段，至多只能視為其初級階段：以算法介入可重復(fù)性、輔助性的法律事務(wù)為抓手，算法司法已經(jīng)以“增強(qiáng)/改善司法”的姿態(tài)，已在社會生活中實實在在的發(fā)揮著越來越重要的作用，甚至出現(xiàn)了算法與人類共執(zhí)司法的局面，算法已給人“正在吞噬世界”[27]之感，算法司法也正走在吞噬世界的路上。

盡管如此，任何頑抗司法算法預(yù)測、自動決策的企圖，在算法革命面前，無疑于螳臂擋車。隨著算法的發(fā)展，當(dāng)算法能自主產(chǎn)生意識時，以算法自主為核心標(biāo)志的“替代司法”就可能會出現(xiàn)，“算法與人類共執(zhí)司法”將可能進(jìn)一步成為常態(tài)，這一方面取決于人類賦權(quán)算法和自主產(chǎn)生意識的算法的權(quán)利博弈，另一方面就是取決于司法算法自主學(xué)習(xí)能力和意識程度的高低，當(dāng)然還必須遵循相關(guān)的科技發(fā)展規(guī)律和司法規(guī)律，已有學(xué)者對此嘗試性地進(jìn)行了初步規(guī)劃②。但不管如何，算法司法正義無疑是必然追求，如同傳統(tǒng)司法一樣。

三、算法司法正義

（一）作為價值論的算法司法正義

1.算法審查和算法解釋權(quán)

如前述，算法的公開、透明和可問責(zé)性是算法亟待解決的問題之一，也是算法急需解決的可解釋性問題，因為算法現(xiàn)在還不會自己解釋自己。同時，算法還不時存在算法黑箱，即使開發(fā)設(shè)計的算法工程師也不能對其運作過程做出解釋。對此，科技界開出的方案是算法開源、逆向工程、算法審計等，實踐證明，這些技術(shù)方案并不能很好地解決問題。遂此，科技界將算法的可解釋性設(shè)置為人工智能未來發(fā)展的重要目標(biāo)之一。

參考文獻(xiàn)：

[1] 尤瓦爾·赫拉利.未來簡史[M].林俊宏，譯. 北京：中信出版社，2017.

[2] 克里斯托弗·斯坦納.算法帝國[M].李筱瑩，譯. 北京：人民郵電出版社，2014.

[3] 阿爾貝·加繆.局外人[M].柳鳴九，譯. 上海：上海譯文出版社，2010：10.

[4] 海德格爾.海德格爾選集（下）[M].孫周興，選編.上海：上海三聯(lián)書店，1996.

[5] 吳軍.數(shù)學(xué)之美[M].北京：人民郵電出版社，2012：前言.

[6] 霍布斯.利維坦[M].黎思復(fù)、黎廷弼，譯. 北京：商務(wù)印書館，1986：28.

[7] 張保生.人工智能法律系統(tǒng)的法理學(xué)思考[J].法學(xué)評論，2001（5）：11-12.

[8] 左衛(wèi)民.關(guān)于法律人工智能在中國運用前景的若干思考[J].清華法學(xué)，2018（2）：113-114.

[9] 李林，田禾.中國法院信息化發(fā)展報告No.2（2018）[M].北京：社會科學(xué)文獻(xiàn)出版社，2018.

[10] 錢大軍.司法人工智能的中國進(jìn)程：功能替代與結(jié)構(gòu)強(qiáng)化[J].法學(xué)評論，2018（5）：139.

[11] 理查德·A·波斯納.法律的經(jīng)濟(jì)分析（上）[M].蔣兆康，譯. 北京：中國大百科全書出版社，1997：31.

[12] 約翰·洛西.科學(xué)哲學(xué)的歷史導(dǎo)論[M].張卜天，譯. 北京：商務(wù)印書館，2017：231-232.

[13]Sartor G， Branting L K. Introduction： Judicial Applications of Artificial Intelligence[C]//Judicial Applications of Artificial Intelligence[M]. Dordrecht：Springer，， 1998： 6.

[14]Stobbs N， Bagaric M， Hunter D. Can Sentencing be Enhanced by the Use of Artificial Intelligence？[J]. Criminal Law Journal， 2017， 41（5）： 261-277.

[15] Citron，Danielle Keats. Technological Due Process[J].Washington University Law Review，2008（6）：1253-1258.

[16] Kranzberg，Melvin. Technology and History： “Kranzberg's Laws”[J].Technology and Culture，1986，27（3）.

[17] 楊學(xué)科.論智能互聯(lián)網(wǎng)時代的算法歧視治理與算法公正[J].山東科技大學(xué)學(xué)報：社會科學(xué)版，2019，21（4）：35.

[18] 季衛(wèi)東.人工智能時代的司法權(quán)之變[J]. 東方法學(xué)，2018（1）：132.

[19] 楊昌宇.智能互聯(lián)網(wǎng)時代法律變革的中國理路[J].湖湘論壇，2019（3）：73.

[20] Susskind，Richard E. The End of Lawyers： Rethinking the Nature of Legal Services[M]. Oxford： Oxford University Press，2010：120-121.

[21] O'Bien，Matt，and Dake Kang. AI in the Court： When Algorithms Rule on Jail Time[J].AP Financial，2018.

[22] O'Neil，Cathy. Weapons of Math Destruction： How Big Data Increases Inequality and Threatens Democracy[M]. New York：Crown，2016.

[23] Dressel，Julia，and Hany Farid. The accuracy，F(xiàn)airness，and Limits of Predicting Recidivism[J]. Science Advances，2018，4（1）：eaao5580.

[24] Robinette，Paul，Ayanna Howard，and Alan R. Wagner.Conceptualizing Overtrust in Robots： Why Do People Trust a Robot That Previously Failed？[C]//Autonomy and Artificial Intelligence： A Threat or Savior？[M]. Cham：Springer，2017：129-155.

[25] Lessig，Lawrence.Code： and other Laws of Cyberspace [M]. New York：Basic Books.2006：38-60.

[26] Filippi，Primavera D.，and Samer Hassan. Blockchain Technology as a Regulatory Technology： From Code is Law to Law is Code[J].First Monday，2016，20（12）.

[27] Andreessen，Marc.Why Software is Eating the World[J].The Wall Street Journal， 2011， 20（2011）： C2.

[28] 克里斯多夫·庫克里克：微粒社會[M]. 黃昆，夏柯，譯.北京：中信出版社，2018.

[29] 鄒恒明.算法之道[M]. 北京：機(jī)械工業(yè)出版社，2010：前言V.