劉 玫 陳慧君

(1.中國(guó)政法大學(xué) 刑事司法學(xué)院，北京 100088；2.華東政法大學(xué) 中外法律文獻(xiàn)中心，上海 201620)

一、問(wèn)題的提出

大數(shù)據(jù)時(shí)代下，數(shù)據(jù)洪流幾乎已經(jīng)觸及所有社會(huì)領(lǐng)域?；跈C(jī)器學(xué)習(xí)、算法自動(dòng)化決策而產(chǎn)生的人工智能，日益滲透到當(dāng)代生活的各個(gè)方面，并在現(xiàn)代社會(huì)的實(shí)質(zhì)性決策中發(fā)揮著越來(lái)越重要的作用，從在線(xiàn)個(gè)性化定制、保險(xiǎn)和信貸決策到預(yù)測(cè)性警務(wù)等，不一而足[1]。人工智能系統(tǒng)是一個(gè)可以為給定的目標(biāo)提出建議、做出預(yù)測(cè)或決定的機(jī)器系統(tǒng)[2]。人工智能技術(shù)中的算法決策系統(tǒng)(Algorithmic Decision Making-Systems,ADMs)是基于特定機(jī)器學(xué)習(xí)而構(gòu)建，并通過(guò)數(shù)據(jù)訓(xùn)練優(yōu)化模型進(jìn)而作出決策的系統(tǒng)[3]。

智慧司法在一般人工智能的基礎(chǔ)上融合司法實(shí)踐的特征，是人工智能等現(xiàn)代科學(xué)技術(shù)賦能司法的一種新的司法運(yùn)行和管理形態(tài)[4]。在訴訟中應(yīng)用人工智能，對(duì)于高效、準(zhǔn)確完成大量司法工作具有促進(jìn)意義。基于機(jī)器學(xué)習(xí)和算法決策的刑事司法人工智能尤其側(cè)重算法技術(shù)的開(kāi)發(fā)與應(yīng)用，并在各國(guó)司法實(shí)踐中屢見(jiàn)不鮮。例如美國(guó)的COMPAS(1)COMPAS(Correctional Offender Management Profiling for Alternative Sanctions)算法工具的原理是，收集和處理行為人的犯罪史、簡(jiǎn)歷、心理信息等數(shù)據(jù)，按照一定的算法計(jì)算出其風(fēng)險(xiǎn)值。在許多聯(lián)邦州的司法實(shí)踐中，該工具也被用來(lái)輔助作出取保候?qū)徎蛘呒籴尩臎Q定，以及在法庭中確定量刑或者其他措施。參見(jiàn)Katherine Freeman,“Algorithmic Injustice:How the Wisconsin Supreme Court Failed to Protect Due Process Rights in State v.Loomis”,North Carolina Journal of Law & Technology,2016,18(5)。、PSA(2)PSA(Pretrial Public Safety Assessment)是目前在美國(guó)應(yīng)用最廣泛的審前風(fēng)險(xiǎn)評(píng)估模型，2017年美國(guó)聯(lián)邦地區(qū)法院中近90%的被告人通過(guò)PSA系統(tǒng)評(píng)估審前風(fēng)險(xiǎn)。該系統(tǒng)由作為保釋制度改革試點(diǎn)州的美國(guó)肯塔基州開(kāi)發(fā)，評(píng)估結(jié)果表現(xiàn)為再次被逮捕、不出庭和因暴力犯罪被捕風(fēng)險(xiǎn)的綜合分?jǐn)?shù)。參見(jiàn)高通：《逮捕社會(huì)危險(xiǎn)性量化評(píng)估研究——以自動(dòng)化決策與算法規(guī)制為視角》，《北方法學(xué)》2021年第6期。和英國(guó)的HART等評(píng)估工具，均與預(yù)測(cè)被追訴人人身危險(xiǎn)性和再犯風(fēng)險(xiǎn)有關(guān)。即使是先前一直對(duì)其持保守態(tài)度、否定量刑模式化和數(shù)字化的德國(guó)，近期也在量刑時(shí)開(kāi)始關(guān)注“類(lèi)案推薦”或“量刑指南”[5]。

中國(guó)刑事訴訟運(yùn)用算法輔助決策的司法實(shí)踐起步較晚，但得力于科技的進(jìn)步與政策的支持，現(xiàn)階段發(fā)展勢(shì)頭正猛，在司法效果上已取得不俗的成績(jī)。例如全國(guó)檢察機(jī)關(guān)智慧檢務(wù)行動(dòng)指南(2018-2020年)推進(jìn)的“智能量刑輔助系統(tǒng)”等。但是司法實(shí)踐中算法工具所具有的性別歧視性風(fēng)險(xiǎn)不可不察。一方面，中國(guó)現(xiàn)行法律制度尚無(wú)體系性的反歧視法律制度，法律平等原則難以在隱蔽的歧視性風(fēng)險(xiǎn)中發(fā)揮實(shí)質(zhì)作用；另一方面，中國(guó)現(xiàn)階段法律人工智能實(shí)現(xiàn)性別平等存在現(xiàn)實(shí)困境，除了法律數(shù)據(jù)不充分、不真實(shí)、結(jié)構(gòu)化不足、深度學(xué)習(xí)型算法缺位外[6]，目前的算法決策系統(tǒng)在數(shù)據(jù)收集和模型設(shè)計(jì)上還沒(méi)有統(tǒng)一適用的公平標(biāo)準(zhǔn)，無(wú)法完全排除故意和無(wú)意識(shí)的性別歧視。此外，刑事訴訟中被追訴人本身就在訴訟信息和訴訟地位上處于劣勢(shì)，其知情權(quán)利可能因?yàn)樗惴üぞ咧行詣e歧視性風(fēng)險(xiǎn)的隱蔽性而更難得到保障。

因此，就智慧司法的規(guī)制問(wèn)題而言，本文側(cè)重于討論刑事訴訟中司法機(jī)關(guān)主動(dòng)運(yùn)用算法決策系統(tǒng)輔助裁判時(shí)產(chǎn)生的性別歧視問(wèn)題，追問(wèn)如何在智慧司法的背景下作出公正裁判、解釋裁判原理，保障訴訟權(quán)利平等實(shí)現(xiàn)。就本文所討論的性別歧視而言，主要指女性被追訴人在訴訟中所遭遇的不利于己且不合理的不平等待遇。該定義具有社會(huì)通常觀(guān)念下認(rèn)為不可接受的差別對(duì)待或劣勢(shì)地位等負(fù)面含義，與包含有利和可接受的區(qū)別性對(duì)待不同。

二、智慧司法存在性別歧視性風(fēng)險(xiǎn)的現(xiàn)實(shí)依據(jù)

(一)算法應(yīng)用具有性別歧視性風(fēng)險(xiǎn)的司法實(shí)踐

刑事司法運(yùn)用算法決策工具評(píng)估行為人的人身危險(xiǎn)性和再犯風(fēng)險(xiǎn)，雖然在特定情況下可以減輕司法機(jī)關(guān)和被追訴人的訴訟負(fù)擔(dān)，但是其同樣可能在不同的訴訟階段產(chǎn)生性別歧視性風(fēng)險(xiǎn)。

在審前保釋階段，算法工具的使用可能影響司法機(jī)關(guān)對(duì)犯罪嫌疑人人身危險(xiǎn)性的判斷與是否執(zhí)行羈押的決定。例如美國(guó)刑事司法使用PSA算法工具評(píng)估犯罪嫌疑人的審前公共安全指數(shù)。實(shí)證研究顯示，盡管PSA的結(jié)論總體上對(duì)法官是否決定釋放被捕者沒(méi)有影響，但是PSA可能會(huì)使法官傾向于對(duì)女性被捕者較為寬宥，其同時(shí)鼓勵(lì)法官對(duì)被認(rèn)為有風(fēng)險(xiǎn)的男性被捕者作出較嚴(yán)厲的決定(3)Imai,K.,Jiang,Z.,Greiner,D.J.,et al.“Experimental Evaluation of Algorithm-Assisted Human Decision-Making:Application to Pretrial Public Safety Assessment”,2021,available at https://imai.fas.harvard.edu/research/files/PSA.pdf，最后訪(fǎng)問(wèn)日期：2022年4月29日。。

在審中量刑階段，司法機(jī)關(guān)運(yùn)用算法工具預(yù)測(cè)犯罪行為人的再犯風(fēng)險(xiǎn)，可能因存在歧視性風(fēng)險(xiǎn)而違反程序正義。在美國(guó)Loomis v.Wisconsin案中，法院在量刑時(shí)使用了COMPAS算法工具進(jìn)行風(fēng)險(xiǎn)評(píng)估，并據(jù)此認(rèn)為被告人具有一般犯罪和暴力犯罪的再犯風(fēng)險(xiǎn)。被告人針對(duì)法院所使用的COMPAS算法工具，分別就基于準(zhǔn)確信息判處刑罰、獲得個(gè)別化量刑權(quán)利和量刑中不當(dāng)使用性別評(píng)估，根據(jù)正當(dāng)程序原則提出上訴(4)State v.Loomis,881 N.W.2d 749 (Wis.2016):754,755,757.。被告人認(rèn)為，該算法基于群體性數(shù)據(jù)而非其個(gè)人情況進(jìn)行預(yù)測(cè)，而且考慮了性別因素，算法的知識(shí)產(chǎn)權(quán)保密性也使他無(wú)法質(zhì)疑算法的有效性。但是，威斯康星州最高法院支持在有限的范圍內(nèi)使用該算法，并認(rèn)為在量刑時(shí)進(jìn)行COMPAS風(fēng)險(xiǎn)評(píng)估，有助于向量刑法庭提供盡可能多的信息，以達(dá)到個(gè)別化的判決。就性別評(píng)估問(wèn)題，COMPAS對(duì)性別因素的使用促進(jìn)了量刑的準(zhǔn)確性，有利于被告人和司法系統(tǒng)(5)State v.Loomis,881 N.W.2d 749 (Wis.2016):767.。此外，法院未對(duì)COMPAS的使用作出任何實(shí)質(zhì)性限制或采取措施要求算法控制者讓渡其算法所有權(quán)，包括公開(kāi)量刑算法的源代碼或以簡(jiǎn)樸的自然語(yǔ)言對(duì)算法進(jìn)行解釋[7]。

本案中，威斯康星州最高法院確認(rèn)COMPAS作為刑事風(fēng)險(xiǎn)評(píng)估算法的合憲性，體現(xiàn)了對(duì)采納自動(dòng)化決策的一種傾向性，一定程度上忽視了“自動(dòng)化偏見(jiàn)”的負(fù)面影響。所謂自動(dòng)化偏見(jiàn)，是指即使計(jì)算機(jī)系統(tǒng)所依賴(lài)的數(shù)據(jù)不準(zhǔn)確，人類(lèi)通常也會(huì)信賴(lài)其所生成的評(píng)估，并將計(jì)算機(jī)所提供的建議轉(zhuǎn)化為最終決定[8]。實(shí)證研究表明，人機(jī)交互式算法決策系統(tǒng)中的決策者即使認(rèn)為自動(dòng)化系統(tǒng)的建議可能是不完整、不準(zhǔn)確，甚至是錯(cuò)誤的，往往也不會(huì)反駁該建議，反而給予更積極的評(píng)價(jià)[9]。其中部分原因在于，機(jī)器學(xué)習(xí)的普及同時(shí)受到商業(yè)利益和政策目標(biāo)的推動(dòng)，導(dǎo)致相關(guān)從業(yè)者尋求更多“數(shù)據(jù)驅(qū)動(dòng)的決策”[10]。

中國(guó)各級(jí)法院正在積極開(kāi)發(fā)智能化審判輔助系統(tǒng)，讓算法系統(tǒng)學(xué)習(xí)相關(guān)判例及其裁判說(shuō)理，在保證同案同判的結(jié)果公正和充分論理的基礎(chǔ)上提升審判效率。以在上海等地試行的“206系統(tǒng)”為例，該系統(tǒng)主要運(yùn)用實(shí)體關(guān)系識(shí)別和分析、司法要素自動(dòng)提取、輔助量刑建議等技術(shù)，力圖形成統(tǒng)一適用的證據(jù)標(biāo)準(zhǔn)和證據(jù)規(guī)則指引，構(gòu)建人工智能技術(shù)支撐的公檢法司機(jī)關(guān)刑事辦案系統(tǒng)。然而，使用司法人工智能處理案例特征與數(shù)據(jù)庫(kù)檢索到的案例之間的類(lèi)似性并做傾向性推理和判斷，存在一種純粹的法律實(shí)證主義預(yù)設(shè)[11]。其在排除司法機(jī)關(guān)主觀(guān)恣意的同時(shí)，也可能復(fù)制先前案例中的歧視性因素，進(jìn)而通過(guò)自動(dòng)化偏見(jiàn)延續(xù)到后案之中。

綜上所述，人工智能在司法實(shí)踐運(yùn)用過(guò)程中所存在的性別歧視性風(fēng)險(xiǎn)，一方面源于算法工具本身的公平性和可理解性，另一方面通過(guò)司法機(jī)關(guān)依賴(lài)算法結(jié)論作出裁判的自動(dòng)化偏見(jiàn)作用于個(gè)體。

(二)算法模型嵌入性別歧視性風(fēng)險(xiǎn)的實(shí)證依據(jù)

首先，男性和女性的再犯率確有不同，這種性別上的區(qū)分一定程度上對(duì)預(yù)測(cè)再犯風(fēng)險(xiǎn)是有效的。2012年，荷蘭蒂爾堡大學(xué)進(jìn)行了一項(xiàng)實(shí)證研究，旨在比較不同犯因在預(yù)測(cè)男女兩性的再犯風(fēng)險(xiǎn)時(shí)的相關(guān)性(6)在荷蘭，緩刑服務(wù)部門(mén)通過(guò)評(píng)估罪犯的風(fēng)險(xiǎn)和犯因向檢察機(jī)關(guān)和法院提出建議，并制定監(jiān)督和矯治計(jì)劃。該研究使用了荷蘭緩刑服務(wù)部門(mén)的一個(gè)數(shù)據(jù)庫(kù)，其包含了從2004年11月(緩刑服務(wù)部門(mén)開(kāi)始使用結(jié)構(gòu)化風(fēng)險(xiǎn)評(píng)估工具)到2007年9月進(jìn)行的所有風(fēng)險(xiǎn)和犯因評(píng)估的數(shù)據(jù)。數(shù)據(jù)經(jīng)過(guò)清理后(刪除中斷的評(píng)估以及對(duì)同一罪犯的第二次或第三次評(píng)估)，最后樣本包括16329份評(píng)估。參見(jiàn)Leontien M.van der Knaap,Daphne L.Alberda,Paul Oosterveld,Marise Ph.Born,“The Predictive Validity of Criminogenic Needs for Male and Female Offenders:Comparing the Relative Impact of Needs in Predicting Eecidivism”,Law and Human Behavior,2012,36(5)。。研究結(jié)果表明，在一般犯罪和暴力犯罪方面，男性?xún)赡陜?nèi)的再犯率高于女性。略高于1/3的男性(36.5%)在兩年內(nèi)重新犯罪，而略高于1/5的女性(22.4%)重新犯罪。男性(12.1%)和女性(5.1%)暴力犯罪的兩年再犯率都較低。統(tǒng)計(jì)學(xué)上的檢驗(yàn)顯示，再犯率在男性和女性之間有顯著差異[12]。

但是，僅僅通過(guò)區(qū)分男女性別這一簡(jiǎn)單變量進(jìn)行評(píng)估的效果卻是有限的。由于刑事司法中風(fēng)險(xiǎn)預(yù)測(cè)型工具的開(kāi)發(fā)需要大量樣本數(shù)據(jù)，而現(xiàn)實(shí)生活中男性的犯罪率通常高于女性，故男性樣本數(shù)量占比更大[13]。例如，中國(guó)學(xué)者曾就被告人身份差異對(duì)量刑的影響進(jìn)行實(shí)證研究，其在J市四家基層法院十年間審理的盜竊案件中隨機(jī)抽取了1060件，發(fā)現(xiàn)樣本中的男性被告人占84.0%，女性被告人則僅占16.0%[14]。所以，主要針對(duì)男性罪犯群體進(jìn)行開(kāi)發(fā)的算法工具，其變量的選擇和模型的建構(gòu)很大程度上參考了以男性再次犯罪為主的文獻(xiàn)和案例[15]。由此，包含于評(píng)估再犯風(fēng)險(xiǎn)型算法模型中的風(fēng)險(xiǎn)因素可能不是與女性最相關(guān)的因素，且有可能存在不影響男性再犯幾率而與女性更相關(guān)的因素，其卻因與男性無(wú)關(guān)而未被選入現(xiàn)有的算法模型中。然而，這種基于男性數(shù)據(jù)的算法模型卻常常同時(shí)對(duì)女性使用。

例如，犯因和一般再犯率之間的相關(guān)性方面，存在顯著的性別差異。在犯罪歷史、住宿、財(cái)務(wù)、與朋友的關(guān)系、毒品和酒精濫用、認(rèn)知技能(思維和行為)以及對(duì)犯罪的態(tài)度方面，男性與一般再犯的關(guān)系明顯強(qiáng)于女性。而對(duì)于女性罪犯來(lái)說(shuō)，受教育水平、工作情況、與家庭和伴侶的關(guān)系以及情感問(wèn)題與一般再犯的相關(guān)性比男性罪犯的更強(qiáng)[16]。2019年，英國(guó)薩里大學(xué)有關(guān)刑事司法中算法性別歧視的實(shí)證研究也得出了類(lèi)似的結(jié)論(7)該研究收集了6172名在佛羅里達(dá)州Broward縣被逮捕者的信息，并于其被捕后不久的2013年和2014年使用COMPAS算法工具中的一般再犯風(fēng)險(xiǎn)對(duì)這些人進(jìn)行了評(píng)估。該縣治安機(jī)關(guān)自2008年以來(lái)一直使用COMPAS為司法裁決提供信息。參見(jiàn)Melissa Hamilton,“The Sexist Algorithm”,Behavioral Sciences & the Law,2019,37(2)。。多數(shù)再犯風(fēng)險(xiǎn)評(píng)估工具包含的所謂“性別中立”因素，例如犯罪史、年齡、心理健康、藥物濫用等，并不像所設(shè)想的那樣公平，因?yàn)槠渲泻芏嘁蛩嘏c男性再犯的相關(guān)性更高。而一些與性別相關(guān)的因素，尤其是性虐待、生育壓力等，與女性再犯風(fēng)險(xiǎn)的預(yù)測(cè)更為相關(guān)[17]。

因此，算法模型對(duì)再犯風(fēng)險(xiǎn)的預(yù)測(cè)在性別上產(chǎn)生了差異效度，即算法決策系統(tǒng)未能以相同水平的準(zhǔn)確度在兩個(gè)性別組進(jìn)行預(yù)測(cè)，特別是系統(tǒng)性地高估或低估了女性的再犯風(fēng)險(xiǎn)。誠(chéng)然，系統(tǒng)性地高估或低估再犯風(fēng)險(xiǎn)或許能夠?qū)Ω鱾€(gè)變量做出很好的區(qū)分，但是對(duì)相關(guān)個(gè)體實(shí)際風(fēng)險(xiǎn)的預(yù)測(cè)準(zhǔn)確性可能較差[18]。實(shí)證研究顯示，COMPAS算法工具在被用來(lái)預(yù)測(cè)一般再犯風(fēng)險(xiǎn)時(shí)，低、中、高三個(gè)風(fēng)險(xiǎn)等級(jí)中的女性再犯率都低于男性(分別低9、12、10個(gè)百分點(diǎn))，且這種差異具有統(tǒng)計(jì)學(xué)意義上的顯著性。此時(shí)，COMPAS便是系統(tǒng)性地高估了女性的再犯風(fēng)險(xiǎn)?？梢哉f(shuō)，超過(guò)10%差異的中高風(fēng)險(xiǎn)分類(lèi)對(duì)男女不同性別而言，根本沒(méi)有相同的預(yù)測(cè)效用，COMPAS在性別預(yù)測(cè)平等意義上不具有公平性[19]。

此外，算法涉及多維歧視的問(wèn)題。根據(jù)歐盟指令(Council Directive 2000/43/EC)重述，女性通常是多維歧視的受害者(8)Council Directive 2000/43/EC of 29 June 2000 Implementing the Principle of Equal Treatment between Persons Irrespective of Racial or Ethnic Origin,Recitals (14),https://lexparency.org/eu/32000L0043/PRE/，最后訪(fǎng)問(wèn)日期：2022年4月29日。。多維歧視主要包括疊加歧視和交叉歧視。疊加歧視是指存在兩個(gè)以上受保護(hù)屬性，但各自單獨(dú)考量而形成的歧視。交叉歧視則是同時(shí)考量?jī)蓚€(gè)以上受保護(hù)屬性而產(chǎn)生的差異影響。設(shè)想一個(gè)具有兩個(gè)變量的模型，分別為種族(如黑人和白人)和性別(如男性和女性)，二者在人口中獨(dú)立且均勻地隨機(jī)分布。當(dāng)分別審查種族變量和性別變量時(shí)，可能產(chǎn)生疊加歧視；但如果同時(shí)審查這兩個(gè)變量的任意組合(如黑人女性)，則可能產(chǎn)生交叉歧視。在后一種情形下，算法不僅無(wú)法做到準(zhǔn)確預(yù)測(cè)，而且易使受保護(hù)弱勢(shì)群體和對(duì)照群體的界定變得模糊，從而不利于證明歧視的存在[20]。

三、智慧司法背景下性別歧視性風(fēng)險(xiǎn)的多元成因

(一)法規(guī)體系未建立：現(xiàn)行制度難適用

性別歧視是社會(huì)經(jīng)濟(jì)發(fā)展與文化結(jié)構(gòu)下的產(chǎn)物，其本身存在于社會(huì)的各個(gè)領(lǐng)域。在智慧司法背景下，算法模型的復(fù)雜性和司法裁決的不透明很可能固化甚至強(qiáng)化這種歧視，而且方式十分隱蔽和難以察覺(jué)。識(shí)別并避免智慧司法中的性別歧視，對(duì)于保護(hù)人之基本權(quán)利、維護(hù)個(gè)體正義、實(shí)現(xiàn)社會(huì)公平，具有重要意義。分析中國(guó)現(xiàn)有法律制度規(guī)定，盡管法律平等原則已然建立，數(shù)據(jù)安全保護(hù)義務(wù)與個(gè)人信息權(quán)利也有法可循，但是這些規(guī)定對(duì)智慧司法背景下的算法決策系統(tǒng)而言，仍力有不逮。

首先，在原則性規(guī)范層面，《憲法》第33條、《刑事訴訟法》第6條、《民事訴訟法》第8條以及《行政訴訟法》第8條均作出類(lèi)似規(guī)定，即公民在法律面前一律平等，包括享有平等的訴訟權(quán)利和訴訟地位，并且平等地適用法律。此外，《婦女權(quán)益保障法》第2條第1款和第2款更是在男女性別平等保護(hù)上作出了明確的表述：“婦女在政治的、經(jīng)濟(jì)的、文化的、社會(huì)的和家庭的生活等各方面享有同男子平等的權(quán)利。實(shí)行男女平等是國(guó)家的基本國(guó)策。國(guó)家采取必要措施，逐步完善保障婦女權(quán)益的各項(xiàng)制度，消除對(duì)婦女一切形式的歧視?！逼渲?，人工智能運(yùn)用于司法實(shí)踐所可能產(chǎn)生的性別歧視，屬于“一切形式的歧視”的應(yīng)有之義。這種歧視違反法律平等原則，應(yīng)受法律規(guī)制。

其次，在數(shù)據(jù)規(guī)范層面，《數(shù)據(jù)安全法》第28條對(duì)于數(shù)據(jù)處理活動(dòng)以及研究開(kāi)發(fā)數(shù)據(jù)新技術(shù)，規(guī)定了應(yīng)“有利于促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展，增進(jìn)人民福祉，符合社會(huì)公德和倫理”的要求，構(gòu)成平權(quán)算法的原則性條款。此外，該法還將包括數(shù)據(jù)的收集、存儲(chǔ)、使用、加工、傳輸、提供、公開(kāi)等在內(nèi)的數(shù)據(jù)處理行為均納入其調(diào)整范圍，要求數(shù)據(jù)處理活動(dòng)應(yīng)履行數(shù)據(jù)安全保護(hù)義務(wù)，加強(qiáng)風(fēng)險(xiǎn)監(jiān)測(cè)，保障數(shù)據(jù)安全(9)參見(jiàn)《數(shù)據(jù)安全法》第3條、第27條、第29條。。根據(jù)《個(gè)人信息保護(hù)法》第24條和第48條的規(guī)定，對(duì)個(gè)人信息進(jìn)行自動(dòng)化決策時(shí)應(yīng)遵循決策透明與結(jié)果公正的要求。通過(guò)自動(dòng)化決策方式作出對(duì)個(gè)人權(quán)益有重大影響的決定，個(gè)人有權(quán)要求信息處理者對(duì)其信息處理規(guī)則予以解釋說(shuō)明，并有權(quán)拒絕信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定。該法第50條和第55條還要求個(gè)人信息處理者建立便捷的個(gè)人行使權(quán)利的申請(qǐng)受理和處理機(jī)制，并在特定情形下進(jìn)行個(gè)人信息保護(hù)影響評(píng)估。結(jié)合中國(guó)現(xiàn)有的法院信息化實(shí)踐和案件智能輔助系統(tǒng)，依托現(xiàn)代技術(shù)的辦案和管理平臺(tái)，案件卷宗實(shí)現(xiàn)電子化，類(lèi)案推薦、量刑輔助和偏離預(yù)警等審理逐步智能化[21]。當(dāng)事人的信息，包括犯罪歷史、教育情況等過(guò)去不變的靜態(tài)信息和訊問(wèn)情況、專(zhuān)家鑒定等新形成的動(dòng)態(tài)信息，均作為數(shù)據(jù)納入司法系統(tǒng)，作為算法自動(dòng)化程序運(yùn)行的對(duì)象，應(yīng)無(wú)疑義。

但是，輔助司法機(jī)關(guān)作出裁決的算法決策結(jié)果，是否屬于“對(duì)個(gè)人權(quán)益有重大影響的自動(dòng)化決策”，值得商榷。因?yàn)樾淌略V訟遵循直接言詞原則，訴訟進(jìn)程的最終結(jié)果須由直接審理案件的法官作出，而不能代之以自動(dòng)化的算法系統(tǒng)。直接原則要求審理法官應(yīng)對(duì)整個(gè)庭審的訴訟進(jìn)程親自感知，特別是親自進(jìn)行證據(jù)調(diào)查，要親眼觀(guān)察、親耳聆聽(tīng)。法官負(fù)有查明真相的義務(wù)，須將對(duì)裁判作出有意義的事實(shí)和證據(jù)全部納入證據(jù)調(diào)查程序，對(duì)案件進(jìn)行必要的法庭審理，在庭審中經(jīng)過(guò)直接審理和言詞辯論獲取新的信息，對(duì)證據(jù)進(jìn)行綜合判斷，依自由心證原則作出裁判。言詞原則是一種對(duì)形式進(jìn)行約束的原則，即法庭審理活動(dòng)應(yīng)當(dāng)以口頭溝通的方式實(shí)現(xiàn)，適用于整個(gè)庭審活動(dòng)，特別是證據(jù)調(diào)查程序。只有在法庭審理過(guò)程中通過(guò)言語(yǔ)進(jìn)行的陳述和討論，特別是庭審中對(duì)被告人的訊問(wèn)、對(duì)證人和鑒定人的質(zhì)證、文書(shū)宣讀以及最后陳述等，才能構(gòu)成裁判的基礎(chǔ)。直接原則與言詞原則二者須緊密結(jié)合，才能實(shí)現(xiàn)刑事訴訟法上有關(guān)自由心證的要求，即法官應(yīng)當(dāng)依據(jù)其親自對(duì)案件的全面審理，自由地形成對(duì)證據(jù)調(diào)查結(jié)果的確信，并作出裁判。因此，就司法裁決的形成而言，算法工具的自動(dòng)化結(jié)論通常作為一種司法機(jī)關(guān)作出裁決的決策支持，其至多屬于半自動(dòng)化決策，最終仍應(yīng)由法官在親自審理案件后進(jìn)行取舍。

然而，即使對(duì)信息處理與數(shù)據(jù)安全作廣義理解，認(rèn)為智慧司法背景下的數(shù)據(jù)自動(dòng)化處理，亦應(yīng)同時(shí)受到現(xiàn)行《個(gè)人信息保護(hù)法》和《數(shù)據(jù)安全法》的調(diào)整，刑事司法系統(tǒng)所固有的運(yùn)行邏輯卻使當(dāng)事人在主張適用上述法律時(shí)困難重重。在智慧司法的背景下，司法機(jī)關(guān)以強(qiáng)大的信息獲取、分析和運(yùn)用能力，期望借助算法決策系統(tǒng)作出更準(zhǔn)確的判斷，但是卻有擴(kuò)大司法機(jī)關(guān)與被追訴人之間地位、能力不平等的風(fēng)險(xiǎn)。因?yàn)檗q方在相關(guān)數(shù)據(jù)庫(kù)訪(fǎng)問(wèn)、算法規(guī)則理解等方面均處于劣勢(shì)。當(dāng)被追訴人希望適用前述有關(guān)平等原則和數(shù)據(jù)保護(hù)的規(guī)定時(shí)，其可能在發(fā)現(xiàn)歧視或提出證據(jù)等階段就舉步維艱。因此，即使寄希望于傳統(tǒng)法釋義學(xué)對(duì)《個(gè)人信息保護(hù)法》和《數(shù)據(jù)安全法》的上述規(guī)定作擴(kuò)張解釋?zhuān)匀粺o(wú)法使性別平等的倫理要求在算法形成伊始便發(fā)揮指導(dǎo)刑事訴訟運(yùn)行、規(guī)制算法決策的作用。

綜上所述，就智慧司法背景下的性別平等保護(hù)而言，對(duì)于公平概念的界定、歧視行為的認(rèn)定及其證明責(zé)任等實(shí)質(zhì)性?xún)?nèi)容，相關(guān)算法治理仍然是原則性的、碎片化的，尚無(wú)反歧視法、信息保護(hù)法、人工智能法為司法實(shí)踐中的性別平等提供體系性的法律保護(hù)。

(二)算法規(guī)則不健全：公正預(yù)測(cè)難實(shí)現(xiàn)

算法規(guī)則不健全，主要體現(xiàn)在算法形成中的數(shù)據(jù)挖掘和建立模型以及算法形成后的公平性評(píng)價(jià)等方面。

第一，算法模型形成中的數(shù)據(jù)挖掘階段沒(méi)有規(guī)范性標(biāo)準(zhǔn)約束程序開(kāi)發(fā)者的主觀(guān)判斷，是算法模型嵌入性別歧視性風(fēng)險(xiǎn)的原始階段和主要成因。數(shù)據(jù)挖掘的關(guān)鍵是賦予每個(gè)個(gè)體以統(tǒng)計(jì)意義上相似群體的品質(zhì)，形成一個(gè)區(qū)分個(gè)體的正當(dāng)性基礎(chǔ)。由此模型能夠自動(dòng)化地對(duì)數(shù)據(jù)進(jìn)行分類(lèi)、估計(jì)變量值或者預(yù)測(cè)未來(lái)的結(jié)果[22]。在數(shù)據(jù)挖掘的過(guò)程中，數(shù)據(jù)經(jīng)訓(xùn)練后確定其中的統(tǒng)計(jì)學(xué)關(guān)系，具有相同關(guān)系的數(shù)據(jù)集合形成自動(dòng)化運(yùn)行的“模型”。但其中的各個(gè)步驟未在行業(yè)或司法系統(tǒng)達(dá)成共識(shí)或有效監(jiān)管，沒(méi)有形成統(tǒng)一的規(guī)范標(biāo)準(zhǔn)，故均存在主觀(guān)的判斷。因此，智慧司法背景下的數(shù)據(jù)挖掘可能對(duì)本應(yīng)受法律保護(hù)的公民作出不公正的負(fù)面評(píng)價(jià)，使其系統(tǒng)性地處于相對(duì)不利的地位。而且，與人為主觀(guān)的決策不同，數(shù)據(jù)挖掘經(jīng)過(guò)定義目標(biāo)變量、數(shù)據(jù)訓(xùn)練、根據(jù)模型作出決策等過(guò)程，使性別歧視性風(fēng)險(xiǎn)更為隱蔽，其往往很難在算法系統(tǒng)中被追溯到。

一方面，對(duì)于形式簡(jiǎn)單、內(nèi)容互斥的問(wèn)題，目標(biāo)變量的定義可以借助現(xiàn)有的類(lèi)別標(biāo)簽進(jìn)行劃分，因此一般沒(méi)有爭(zhēng)議。但是在刑事司法中，目標(biāo)變量往往涉及抽象類(lèi)別的創(chuàng)設(shè)。例如對(duì)行為人再犯風(fēng)險(xiǎn)的預(yù)測(cè)，其中“再犯風(fēng)險(xiǎn)”的準(zhǔn)確含義并不明顯，無(wú)法由類(lèi)別標(biāo)簽將其所有的可能值劃分為互斥的數(shù)據(jù)類(lèi)別?！霸俜革L(fēng)險(xiǎn)”實(shí)則是程度問(wèn)題，其可能會(huì)隨數(shù)據(jù)的不同而發(fā)生改變，故應(yīng)以連續(xù)變量為形式的數(shù)據(jù)設(shè)置閾值來(lái)定義類(lèi)別，屬于定量定義[23]。因此，當(dāng)不存在統(tǒng)一的理想定義，類(lèi)別標(biāo)簽又不夠精確時(shí)，必然存在程序開(kāi)發(fā)人員的主觀(guān)判斷。另一方面，數(shù)據(jù)訓(xùn)練是針對(duì)示例數(shù)據(jù)的學(xué)習(xí)過(guò)程，包含標(biāo)記示例、數(shù)據(jù)收集、特征選擇等環(huán)節(jié)。示例數(shù)據(jù)的標(biāo)記是人為地為基礎(chǔ)數(shù)據(jù)分配標(biāo)簽的主觀(guān)過(guò)程[24]。例如對(duì)何種因素達(dá)到何種程度會(huì)揭示行為人具有再犯風(fēng)險(xiǎn)設(shè)置標(biāo)簽。在數(shù)據(jù)收集環(huán)節(jié)中，如果數(shù)據(jù)或選定的特征不正確或者不具代表性，則也可能會(huì)產(chǎn)生歧視性模型，尤其是可能產(chǎn)生過(guò)擬合的現(xiàn)象。特別是當(dāng)不同類(lèi)別的樣本數(shù)量差別過(guò)大，數(shù)量過(guò)少的數(shù)據(jù)將無(wú)法有效代表該類(lèi)別數(shù)據(jù)的整體分布情況，此時(shí)易形成過(guò)擬合[25]。而且，數(shù)量差距懸殊的大小樣本還可能導(dǎo)致特征不明顯的少數(shù)群體數(shù)據(jù)直接被歸屬到多數(shù)群體的噪音數(shù)據(jù)之中[26]。就性別歧視問(wèn)題而言，以男性罪犯數(shù)據(jù)為依據(jù)的數(shù)據(jù)訓(xùn)練和模型設(shè)計(jì)，往往容易導(dǎo)致算法決策系統(tǒng)性地高估女性的再犯風(fēng)險(xiǎn)。

第二，在算法形成后沒(méi)有評(píng)價(jià)公平性的統(tǒng)一標(biāo)準(zhǔn)。試舉美國(guó)COMPAS工具的公平性爭(zhēng)議為例。獨(dú)立媒體ProPublica質(zhì)疑該算法工具的預(yù)測(cè)結(jié)果在輔助司法機(jī)關(guān)作出裁判時(shí)存在種族和性別等方面的歧視(10)Angwin,J.,Larson,J.,Mattu,S.,et al.,“Machine Bias”,https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing，最后訪(fǎng)問(wèn)日期：2022年4月29日。。COMPAS的開(kāi)發(fā)者Northpointe公司對(duì)此進(jìn)行反駁，批評(píng)了ProPublica的統(tǒng)計(jì)學(xué)方法。實(shí)際上，二者的結(jié)果并不矛盾，只是雙方對(duì)算法是否公平的問(wèn)題分別采取不同的標(biāo)準(zhǔn)，從而得出了完全相反的結(jié)論[27]。由此可見(jiàn)，即使是較早實(shí)踐智慧司法的美國(guó)，亦沒(méi)有對(duì)算法的公平性形成統(tǒng)一的評(píng)價(jià)體系，這不利于訴訟當(dāng)事人發(fā)現(xiàn)并主張自己受到了歧視。

算法決策系統(tǒng)強(qiáng)調(diào)計(jì)算機(jī)的學(xué)習(xí)性，即通過(guò)將特定數(shù)據(jù)和相應(yīng)結(jié)果輸入，不斷訓(xùn)練該系統(tǒng)進(jìn)行學(xué)習(xí)。在這個(gè)過(guò)程中，人類(lèi)思考中的因果關(guān)系被數(shù)據(jù)間的關(guān)聯(lián)關(guān)系所替代。在一定程度上，基于龐大數(shù)據(jù)庫(kù)和高速機(jī)器運(yùn)轉(zhuǎn)的智能化決策系統(tǒng)會(huì)比人類(lèi)的思考過(guò)程更加準(zhǔn)確和迅捷，但是數(shù)據(jù)的選擇和算法程式的設(shè)計(jì)卻無(wú)法避開(kāi)人的智力和傾向。此時(shí)，如果沒(méi)有法律規(guī)范的規(guī)制、監(jiān)管體系的約束和對(duì)不受歧視權(quán)利的充分保障，則很難避免有關(guān)性別歧視的因素滲入算法決策系統(tǒng)，甚至性別歧視在智慧司法的背景下形成一種難以察覺(jué)和救濟(jì)的結(jié)構(gòu)性歧視。

(三)司法實(shí)踐不透明：平等訴權(quán)難實(shí)踐

智慧司法背景下的性別歧視性風(fēng)險(xiǎn)，不僅體現(xiàn)在用以訓(xùn)練和優(yōu)化算法模型的數(shù)據(jù)樣本和開(kāi)發(fā)者建模過(guò)程中存在偏差，其還因司法實(shí)踐上的各種不透明風(fēng)險(xiǎn)而加劇，導(dǎo)致當(dāng)事人可能難以意識(shí)到性別歧視的發(fā)生，繼而難以在訴訟權(quán)利的行使上實(shí)現(xiàn)性別平等。

首先，算法黑箱不透明，司法決策難理解。算法模型原理固有的復(fù)雜性及其結(jié)果的不易理解，表現(xiàn)在事實(shí)和法律兩個(gè)方面。在事實(shí)層面，刑事訴訟領(lǐng)域中基于機(jī)器學(xué)習(xí)而生成的算法系統(tǒng)，常常是復(fù)雜的人機(jī)交互，外行人往往無(wú)法理解。如果數(shù)據(jù)挖掘?qū)⑵缫曅园咐暈榭梢詫W(xué)習(xí)的有效示例，那么該模型可能會(huì)簡(jiǎn)單地復(fù)制這些先例中所涉及的性別歧視。如果數(shù)據(jù)挖掘從有性別歧視的總體樣本中得出推論，則任何基于該推論的決策都可能系統(tǒng)性地使那些在數(shù)據(jù)集合中被低估或高估的人群處于不利地位[28]。而這種歧視的隱蔽性在于，經(jīng)過(guò)數(shù)據(jù)訓(xùn)練后，算法模型似乎形成了一組可靠且公正的示例，算法系統(tǒng)從中歸納出決策規(guī)則。該決策再通過(guò)抽象到無(wú)法知悉算法基礎(chǔ)性代碼層面的信息來(lái)掩蓋故意或無(wú)意識(shí)的歧視。在法律層面，開(kāi)發(fā)和使用算法決策系統(tǒng)者可以主張知識(shí)產(chǎn)權(quán)法和數(shù)據(jù)保護(hù)法等相關(guān)規(guī)定，避免他人掌握系統(tǒng)運(yùn)行的原理，從而阻止他人入侵算法系統(tǒng)、破壞算法模型，保護(hù)商業(yè)秘密等經(jīng)濟(jì)利益。

以刑事司法中的量刑輔助系統(tǒng)為例，鑒于法官作出的量刑裁判本身就是一項(xiàng)綜合犯罪構(gòu)成要件和各種犯罪情節(jié)的模糊決策，作為案件輔助的算法決策系統(tǒng)所得到的結(jié)果也是一個(gè)模糊的決策函數(shù)，因此其很難以可視化的方式呈現(xiàn)或公開(kāi)算法[29]。司法機(jī)關(guān)、被追訴人與社會(huì)公眾也會(huì)由于時(shí)間有限、資源不足以及缺乏必要的專(zhuān)業(yè)知識(shí)而無(wú)法充分理解裁判作出的理由。試問(wèn)，當(dāng)被追訴人難以獲取有效的算法信息，性別歧視問(wèn)題也很難被意識(shí)到，其將如何對(duì)評(píng)估結(jié)果中涉及性別的要素進(jìn)行辯護(hù)準(zhǔn)備？更遑論主張法律的平等保護(hù)。

其次，訴訟信息不透明，訴訟地位不對(duì)稱(chēng)。司法機(jī)關(guān)在基于風(fēng)險(xiǎn)性預(yù)測(cè)工具進(jìn)行裁判時(shí)，往往未能充分保障訴訟當(dāng)事人的知情權(quán)。這一點(diǎn)在2017年美國(guó)的Kansas v.Walls案件中體現(xiàn)得尤為明顯。原審法院根據(jù)LSI-R(11)LSI-R是一個(gè)客觀(guān)的、可量化的、包含54個(gè)項(xiàng)目的風(fēng)險(xiǎn)/需求分類(lèi)工具。該工具由10個(gè)子量表組成，其中包括“靜態(tài)”(例如犯罪歷史)和“動(dòng)態(tài)”(例如酒精/毒品問(wèn)題、同伴和家庭/婚姻)風(fēng)險(xiǎn)因素。盡管靜態(tài)風(fēng)險(xiǎn)因素通常不能改變，但它們?nèi)匀豢梢灶A(yù)測(cè)再犯罪可能性。動(dòng)態(tài)風(fēng)險(xiǎn)因素是可變的，并為重點(diǎn)干預(yù)提供方向。參見(jiàn)Level of Service Inventory Scoring Guide May 2009,https://cssd.ctclearinghouse.org/images/customer-files-email/1537-Level_of_Service_Inventory_Scoring_Guide.pdf，最后訪(fǎng)問(wèn)日期：2022年4月29日。評(píng)估考量對(duì)Walls的緩刑條件。LSI-R評(píng)估的結(jié)果表明Walls是一個(gè)具有高再犯風(fēng)險(xiǎn)的待處緩刑者，而法院未將Walls的LSI-R評(píng)估的完整副本供律師審查。Walls在上訴中辯稱(chēng)，審查和驗(yàn)證評(píng)估報(bào)告中包含的問(wèn)題、答案和評(píng)分決定，是其所享有的憲法性權(quán)利。與前述Loomis案件的裁決不同，本案中的堪薩斯州上訴法院對(duì)預(yù)測(cè)型工具的使用得出了不同的結(jié)論，認(rèn)為被告人有權(quán)獲得LSI-R評(píng)估報(bào)告。原審法院未能向辯方律師提供LSI-R的完整副本，剝奪被告人在質(zhì)疑裁判時(shí)可獲得準(zhǔn)確信息的權(quán)利，侵犯了被告人在庭審量刑階段以正當(dāng)程序獲得裁判的權(quán)利，構(gòu)成自由裁量權(quán)的濫用，屬于法律錯(cuò)誤(12)State of Kansas v.John Keith Walls,No.116,027,The Court of Appeals of the State of Kansas (2017)。。盡管該案法官在救濟(jì)程序中確認(rèn)了被告人的知情權(quán)利，但不可否認(rèn)的是，基于數(shù)據(jù)獲取與分析能力形成的訴訟地位不平等，智慧司法的應(yīng)用加劇了被追訴人的劣勢(shì)地位，導(dǎo)致其無(wú)法有效地參與到訴訟程序中。這與現(xiàn)代刑事訴訟賦予被追訴人的訴訟主體地位與訴訟權(quán)利，難謂有合。

再次，自由裁量不透明，權(quán)力限度無(wú)約束。法官在量刑時(shí)的自由裁量空間可能掩蓋前述歧視性風(fēng)險(xiǎn)的存在。Loomis案中的威斯康星最高法院認(rèn)為，原審法官享有自由裁量權(quán)，其僅僅是把COMPAS中對(duì)性別的評(píng)估作為量刑裁判的基礎(chǔ)之一，且被告人無(wú)法證明該法官實(shí)際上僅以性別為量刑依據(jù)。這種對(duì)法官自由裁量空間的認(rèn)可，一方面是因?yàn)槿吮旧碚J(rèn)知能力的有限性，另一方面是為了要求法官對(duì)每一個(gè)個(gè)案的具體特性都進(jìn)行公正的對(duì)待，并依據(jù)行為人罪行所具有的相關(guān)特征決定其刑罰。因?yàn)橐话阈缘闹笇?dǎo)規(guī)范無(wú)法應(yīng)對(duì)司法實(shí)踐中眾多細(xì)微且不同的情形[30]。然而，算法決策的輔助雖然在一定程度上可以排除自由裁量權(quán)的主觀(guān)片面或恣意行使，但在算法邏輯不透明、訴訟信息不對(duì)稱(chēng)的情況下，這也可能產(chǎn)生另一種恣意——法官過(guò)度依賴(lài)算法決策而怠于對(duì)個(gè)案可能涉及的法理人情、權(quán)利保障、利益衡量等進(jìn)行考察，反而以其自由裁量權(quán)掩蓋自身對(duì)個(gè)體公正的忽略。此時(shí)，算法決策系統(tǒng)在功能意義上對(duì)刑事司法裁判的“輔助”可能異化為責(zé)任的推諉[31]。質(zhì)言之，法官在定罪量刑時(shí)所遵循的自由心證原則和所享有的自由裁量權(quán)往往會(huì)成為司法不透明的正當(dāng)理由，特別是當(dāng)法官借助智能辦案輔助系統(tǒng)、利用其算法決策結(jié)果作為依據(jù)進(jìn)行裁判時(shí)。此時(shí)，裁判究竟在多大程度上以算法決策結(jié)果為基礎(chǔ)，除法官本人以外，無(wú)從得知。即使被追訴人提出裁判作出的過(guò)程和結(jié)果存在性別歧視，法官亦得以其未完全根據(jù)算法結(jié)果進(jìn)行判斷，且享有自由裁量空間為理由駁回該異議。

綜上所述，算法決策系統(tǒng)的“黑箱”困境導(dǎo)致訴訟當(dāng)事人難以理解司法裁判的依據(jù)，裁判邏輯的模糊性可能會(huì)引發(fā)暗箱操作等不良后果。司法機(jī)關(guān)基于國(guó)家保密機(jī)制和商業(yè)秘密保護(hù)不提供具體算法邏輯和相關(guān)數(shù)據(jù)[32]，使得本身就沒(méi)有能力獨(dú)立獲取數(shù)據(jù)、分析算法的被追訴人無(wú)法充分知悉經(jīng)由人工智能輔助辦案的裁判理由，進(jìn)而不能進(jìn)行有針對(duì)性的辯護(hù)。

四、智慧司法因應(yīng)性別歧視性風(fēng)險(xiǎn)的規(guī)制路徑

智慧司法背景下的算法決策系統(tǒng)自始存在性別歧視性風(fēng)險(xiǎn)，該風(fēng)險(xiǎn)又因人工智能和司法實(shí)踐的不透明因素而易被掩蓋。當(dāng)事人往往難以察覺(jué)其不受歧視的權(quán)利已經(jīng)被侵害，故不知應(yīng)受法律保護(hù)而主張救濟(jì)，或者縱使當(dāng)事人欲主張司法救濟(jì)卻無(wú)有效手段對(duì)權(quán)利被侵害的事實(shí)進(jìn)行證明，這些均與法律面前人人平等原則的要求相違背。但是，不能因?yàn)樗惴A(yù)測(cè)系統(tǒng)中存在性別歧視性風(fēng)險(xiǎn)就因噎廢食，盲目地刪除其中的性別變量。實(shí)證調(diào)查和理論研究表明，性別本身不是風(fēng)險(xiǎn)性因素，而且在公平的前提下要將性別納入算法模型，有利于提高預(yù)測(cè)的準(zhǔn)確性，更好地為司法決策提供支持，維護(hù)社會(huì)利益，保護(hù)公共安全[33]。故此，有必要探究性別平等保護(hù)視角下智慧司法的規(guī)制路徑。

(一)規(guī)范之維：平權(quán)倫理與算法公平的法律構(gòu)建

1.嵌入平權(quán)倫理

禁止歧視的本質(zhì)在于尊重人類(lèi)尊嚴(yán)這一憲法最高價(jià)值，其旨在保障人的主體性地位，強(qiáng)調(diào)尊重人的多樣性和獨(dú)特性[34]。禁止性別歧視，理固當(dāng)然。目前算法系統(tǒng)有關(guān)性別歧視的不平等待遇和差別影響，多數(shù)因?yàn)槠鋼p害的不可預(yù)測(cè)性而未能落入隱私性權(quán)利或個(gè)人數(shù)據(jù)保護(hù)等法規(guī)范的范疇進(jìn)行調(diào)整[35]。但是國(guó)家對(duì)這一憲法性利益負(fù)有保護(hù)義務(wù)。若不對(duì)受造于人、應(yīng)用于人的算法進(jìn)行兩性平權(quán)方面的規(guī)制，則很可能使其隱蔽而廣泛地侵害女性受平等對(duì)待的權(quán)利，甚至成為一種對(duì)抗國(guó)家相關(guān)保護(hù)義務(wù)的“免死金牌”[36]。

從算法工具的自律性規(guī)制出發(fā)，現(xiàn)階段的算法決策系統(tǒng)尚未形成統(tǒng)一的公平概念，本身還不具備倫理判斷的功能。相反，刑事風(fēng)險(xiǎn)評(píng)估工具結(jié)果中的性別偏見(jiàn)甚至歧視可能會(huì)導(dǎo)致對(duì)女性群體作出更為不利的裁判，產(chǎn)生算法公平的問(wèn)題。不公平的算法決策系統(tǒng)不僅侵害個(gè)體以正當(dāng)程序進(jìn)行刑事訴訟的權(quán)利，尤其是根據(jù)充分的訴訟信息進(jìn)行辯護(hù)的自主權(quán)利，而且降低社會(huì)一般公眾對(duì)司法系統(tǒng)的信任度。因此，有必要通過(guò)嵌入平權(quán)倫理的規(guī)范進(jìn)行外部約束。

刑事訴訟旨在查明實(shí)質(zhì)真相，刑事司法預(yù)測(cè)型算法決策系統(tǒng)亦應(yīng)以實(shí)現(xiàn)實(shí)體公正和公平為目標(biāo)。自比較法觀(guān)之，歐洲司法效率委員會(huì)明確要求歐洲各法院在引入信息與通信技術(shù)時(shí)不應(yīng)侵害人類(lèi)尊嚴(yán)和司法的象征意義[37]。作為歐洲第一個(gè)關(guān)于司法人工智能所涉道德原則的文本，《在司法系統(tǒng)及其相關(guān)環(huán)境中使用人工智能的歐洲道德憲章》直接強(qiáng)調(diào)了反歧視原則的核心地位，要求在司法系統(tǒng)開(kāi)發(fā)和部署人工智能的階段應(yīng)特別審慎地對(duì)待任何歧視的發(fā)展或加劇，促進(jìn)使用機(jī)器學(xué)習(xí)和跨學(xué)科分析來(lái)避免這種歧視。確認(rèn)存在該種歧視的，須采取糾正措施中和所產(chǎn)生的風(fēng)險(xiǎn)，并提高權(quán)利人的相關(guān)意識(shí)[38]。綜觀(guān)中國(guó)現(xiàn)行法律法規(guī)，憲法和訴訟法等提出了平等原則的基本要求，《數(shù)據(jù)安全法》第28條和《個(gè)人信息保護(hù)法》第24條等內(nèi)容形成算法治理的框架性條款，《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等在互聯(lián)網(wǎng)信息服務(wù)行業(yè)規(guī)范層面對(duì)算法安全治理提出了具體要求。國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)于2021年發(fā)布《新一代人工智能倫理規(guī)范》，要求人工智能全生命周期應(yīng)融入倫理道德，并貫穿管理、研發(fā)、供應(yīng)和使用各個(gè)階段，特別是在數(shù)據(jù)采集和算法開(kāi)發(fā)中，應(yīng)加強(qiáng)倫理審查、充分考慮差異化訴求，促進(jìn)公平公正，避免偏見(jiàn)和歧視(13)參見(jiàn)《新一代人工智能倫理規(guī)范》第1條、第4條、第13條。。但是，司法系統(tǒng)中涉及公權(quán)力的算法往往因與社會(huì)公共利益有關(guān)而成為倫理性要求和原則性規(guī)定的例外。是故，中國(guó)現(xiàn)行法缺乏可以有效制約智慧司法的平權(quán)倫理和相應(yīng)規(guī)范。

綜上所述，鑒于算法決策的技術(shù)特點(diǎn)與其最終的使用結(jié)果是否合乎公平之間并非一一對(duì)應(yīng)，智慧司法的規(guī)制路徑宜以規(guī)制對(duì)象所要實(shí)現(xiàn)的功能出發(fā)，構(gòu)建適用于智慧司法算法決策系統(tǒng)的特定性規(guī)則，并嵌入性別平等的倫理要求。使算法系統(tǒng)嵌入倫理、實(shí)現(xiàn)公平?jīng)Q策的要求作為法律法規(guī)確定下來(lái)，形成司法實(shí)踐中實(shí)現(xiàn)男女平等、保障公平正義的規(guī)范基礎(chǔ)。

2.規(guī)范算法公平

性別平等保護(hù)的倫理理念在智慧司法中的落地，須規(guī)范算法系統(tǒng)的公平概念，并依據(jù)性別歧視產(chǎn)生的原因確立相應(yīng)的公平標(biāo)準(zhǔn)。對(duì)此，應(yīng)構(gòu)建性別歧視的概念，捋清算法發(fā)生性別歧視的原因，確定數(shù)據(jù)挖掘和建立模型中存在歧視所適用的證明標(biāo)準(zhǔn)，將技術(shù)語(yǔ)言轉(zhuǎn)化為法律語(yǔ)言。

公平，首先是一個(gè)社會(huì)和倫理概念。同時(shí)，算法決策系統(tǒng)中的公平基于特定目標(biāo)群體進(jìn)行定義，與個(gè)人層面的公平之間存在差別，具有統(tǒng)計(jì)學(xué)意義。因此，通常在現(xiàn)實(shí)世界中憑借直觀(guān)感受和樸素良心即能夠作出的公平性評(píng)價(jià)，在算法世界中卻仍是一個(gè)模糊概念。而且，算法系統(tǒng)設(shè)計(jì)者和軟件編程者在干預(yù)算法數(shù)據(jù)模型時(shí)的歧視和其他價(jià)值判斷根植于算法系統(tǒng)的每個(gè)環(huán)節(jié)。一些自動(dòng)生成的相關(guān)性和推論看似客觀(guān)，也有可能隱含歧視[39]。這種歧視性風(fēng)險(xiǎn)通常須在法律、倫理、統(tǒng)計(jì)等不同的公平概念之間進(jìn)行權(quán)衡后才能被確定。因此有必要進(jìn)行技術(shù)與法律等多學(xué)科的對(duì)話(huà)，需要法學(xué)、計(jì)算機(jī)科學(xué)、社會(huì)學(xué)和統(tǒng)計(jì)學(xué)等領(lǐng)域的專(zhuān)家進(jìn)行跨學(xué)科合作，通過(guò)反歧視性的法律制度確定技術(shù)話(huà)語(yǔ)中出現(xiàn)的公平概念和構(gòu)成歧視的標(biāo)準(zhǔn)。就立法技術(shù)而言，性別歧視概念的構(gòu)建有開(kāi)放式、封閉式和半封閉式等多種方案。封閉式規(guī)定為立法機(jī)關(guān)終局性地確定反歧視的禁止分類(lèi)清單，以求高度的法律確定性。開(kāi)放式則表現(xiàn)為司法機(jī)關(guān)能夠?qū)π詣e不平等進(jìn)行正當(dāng)性審查，從而靈活適應(yīng)現(xiàn)代社會(huì)的發(fā)展[40]。鑒于中國(guó)尚未專(zhuān)門(mén)制定反歧視方面的法律法規(guī)，宜以一般平等原則為指導(dǎo)、以“示例+其他”的半封閉模式規(guī)制智慧司法的算法決策。

此外，還應(yīng)由外部引入公共的第三方進(jìn)行算法公平性的監(jiān)管，包括數(shù)據(jù)訪(fǎng)問(wèn)、模型調(diào)整等。該中立的第三方作為一個(gè)集中的專(zhuān)家監(jiān)管機(jī)構(gòu)，應(yīng)由性別比例相當(dāng)?shù)墓姟⑺痉C(jī)關(guān)與行業(yè)人員合作制定規(guī)范性指南和專(zhuān)業(yè)標(biāo)準(zhǔn)，從而使算法工具在準(zhǔn)確性和公平性之間取得平衡。而且，還應(yīng)當(dāng)設(shè)計(jì)規(guī)制算法程序的技術(shù)工具作為輔助，確保第三方監(jiān)管的公平性，例如秘密文檔的數(shù)字復(fù)制品被第三方機(jī)構(gòu)持有以確保每個(gè)決策使用同樣決策邏輯的加密承諾技術(shù)、檢驗(yàn)決策程序可復(fù)制的公平選擇機(jī)制等[41]。由此，通過(guò)公正的外部監(jiān)管來(lái)糾正算法模型中錯(cuò)誤的相關(guān)性，同時(shí)避免或降低由于算法開(kāi)源所造成的對(duì)創(chuàng)新和效率方面的負(fù)面影響，并對(duì)被錯(cuò)誤評(píng)估而受不利影響的被追訴人進(jìn)行輔助，避免算法延續(xù)社會(huì)歧視。

(二)算法之維：平權(quán)算法的模型塑造與算法解釋

算法決策模型的優(yōu)點(diǎn)之一是遵循數(shù)理邏輯，消除人為決策中所存在的歧視，但前提是其所使用的數(shù)據(jù)不存在歧視。這要求算法工具的開(kāi)發(fā)者應(yīng)正視且重視性別歧視，帶著性別平等的意識(shí)進(jìn)行算法設(shè)計(jì)和評(píng)估[42]。對(duì)此，應(yīng)當(dāng)以平權(quán)倫理為基本理念，以規(guī)范的公平標(biāo)準(zhǔn)為依據(jù)，一方面對(duì)智慧司法背景下算法決策系統(tǒng)進(jìn)行多方面的平權(quán)性設(shè)計(jì)，另一方面以合適的方式對(duì)形成的算法工具及其使用進(jìn)行解釋?zhuān)岣咚惴ńY(jié)果的可理解性。

1.內(nèi)塑平權(quán)算法

首先，在算法模型選取目標(biāo)變量階段，主張應(yīng)當(dāng)刪除所有性別敏感屬性、僅保留中立屬性來(lái)保證公平性的觀(guān)點(diǎn)，不足為采。敏感屬性區(qū)別于中立屬性，是個(gè)體所特有的屬性，例如種族、性別、宗教和殘疾情況等。誠(chéng)然，算法工具的技術(shù)性脫敏能夠迅速剔除算法系統(tǒng)中的性別變量，但是這種做法并非一勞永逸。一方面，性別本身有一定的預(yù)測(cè)效力，去除該變量會(huì)降低預(yù)測(cè)結(jié)果的準(zhǔn)確性[43]。美國(guó)刑事司法統(tǒng)計(jì)數(shù)字顯示，婦女的再犯罪率遠(yuǎn)低于男性，但是婦女在監(jiān)獄中的表現(xiàn)卻相對(duì)較差。因此，使用具有性別屬性作為變量的評(píng)分系統(tǒng)，在刑事司法中對(duì)男性和女性進(jìn)行區(qū)分處遇，具有科學(xué)依據(jù)[44]。另一方面，即使不考慮性別，敏感屬性仍然可能在未被排除的其他屬性中體現(xiàn)出來(lái)。因?yàn)榭此浦辛⒌膶傩钥赡艹蔀槊舾袑傩缘摹按怼?proxy)。例如，性別分布差異明顯的職業(yè)可以是性別的一種代理形式[45]。故在刑事司法中，應(yīng)將女性的相關(guān)因素納入司法預(yù)測(cè)型算法中，而不是單純地去除性別變量。由此，在提高預(yù)測(cè)準(zhǔn)確性的同時(shí)，平衡女性在司法預(yù)測(cè)中的弱勢(shì)訴訟地位。

其次，對(duì)于很難被準(zhǔn)確定義的“再犯風(fēng)險(xiǎn)性”，數(shù)據(jù)挖掘過(guò)程中不妨嘗試對(duì)這種模糊的定量概念作出多種定義，分別就對(duì)被追訴人所在社區(qū)、特定職業(yè)、受害人等進(jìn)行獨(dú)立評(píng)分，再對(duì)不同方面的風(fēng)險(xiǎn)性評(píng)估進(jìn)行統(tǒng)計(jì)學(xué)分析[46]。而且，使用算法系統(tǒng)的司法機(jī)關(guān)應(yīng)有權(quán)訪(fǎng)問(wèn)形成算法模型和結(jié)論的基礎(chǔ)數(shù)據(jù)，并有權(quán)限收集更多數(shù)據(jù)。如此一來(lái)，不僅司法機(jī)關(guān)可以在斟酌各項(xiàng)結(jié)果后進(jìn)行審慎裁判，而且也使得數(shù)據(jù)的追溯和校正成為可能，從而減少數(shù)據(jù)挖掘、算法建模和算法應(yīng)用中的性別歧視性風(fēng)險(xiǎn)。

再次，在算法的數(shù)據(jù)訓(xùn)練階段，各個(gè)環(huán)節(jié)都可能存在性別歧視性風(fēng)險(xiǎn)。例如，使用性別歧視性的示例數(shù)據(jù)進(jìn)行數(shù)據(jù)訓(xùn)練，從不具代表性的樣本中提取該類(lèi)性別群體的屬性，等等。根據(jù)法律平等原則，在司法領(lǐng)域不允許性別等受保護(hù)屬性直接或間接在裁判作出時(shí)發(fā)揮作用。對(duì)此，算法模型的構(gòu)建不僅應(yīng)設(shè)計(jì)合理的相關(guān)關(guān)系，而且其所使用的訓(xùn)練數(shù)據(jù)樣本還應(yīng)能夠按比例代表整個(gè)總體，以此避免模型對(duì)代表性不足的類(lèi)別作出錯(cuò)誤的預(yù)測(cè)。其中，尤其應(yīng)在數(shù)據(jù)挖掘過(guò)程中選擇和補(bǔ)充與男性相當(dāng)?shù)呐詳?shù)據(jù)樣本，從而在兩性預(yù)測(cè)平等的意義上歸納有效的決策規(guī)則、建立平權(quán)模型。

此外，平權(quán)算法的塑造還須對(duì)算法系統(tǒng)開(kāi)發(fā)者的組成和作為算法系統(tǒng)使用者的司法機(jī)關(guān)進(jìn)行規(guī)制。一方面，在算法決策系統(tǒng)建模的過(guò)程中，需要開(kāi)發(fā)人員不斷進(jìn)行干預(yù)和校準(zhǔn)，或改變現(xiàn)有變量的權(quán)重，或增加與性別相關(guān)的特定變量。為此，參與開(kāi)發(fā)者應(yīng)包括具有性別平等意識(shí)和犯罪學(xué)研究背景的學(xué)者，且應(yīng)適當(dāng)提高女性的人數(shù)比例，防止以男性為主導(dǎo)的人工智能專(zhuān)業(yè)人士在創(chuàng)建算法時(shí)無(wú)意識(shí)地引入性別偏見(jiàn)[47]。另一方面，應(yīng)對(duì)司法機(jī)關(guān)人員進(jìn)行算法性別歧視的培訓(xùn)，包括基礎(chǔ)理論、歧視性裁判先例等內(nèi)容。研究表明，接受過(guò)此類(lèi)培訓(xùn)者更可能仔細(xì)審查算法系統(tǒng)的結(jié)果，有助于減少歧視性結(jié)論的作出[48]。盡管司法機(jī)關(guān)不是算法決策系統(tǒng)的設(shè)計(jì)者，但是其在性別平等的意識(shí)下使用、審查和反饋算法工具，有利于平權(quán)算法在動(dòng)態(tài)完善中得以實(shí)現(xiàn)。

2.構(gòu)建算法解釋

在智慧司法所使用的算法決策系統(tǒng)，挖掘個(gè)人信息，基于已有的訓(xùn)練數(shù)據(jù)形成算法模型，綜合分析個(gè)體可能實(shí)施的行為和風(fēng)險(xiǎn)程度。其中，個(gè)人數(shù)據(jù)的收集、運(yùn)算以及算法決策結(jié)論的依據(jù)、邏輯等，作為輔助司法裁判的信息，屬于對(duì)被追訴人有重要影響的訴訟信息。被追訴人應(yīng)擁有知悉和異議的權(quán)利，并對(duì)此提出辯護(hù)意見(jiàn)。但是，機(jī)器學(xué)習(xí)型算法與人類(lèi)思考不同。人類(lèi)作為可以相互理解的社會(huì)性動(dòng)物，在嘗試預(yù)測(cè)和解釋他人行為時(shí)所具有的自然優(yōu)勢(shì)，無(wú)法應(yīng)用于對(duì)算法行為方式的理解[49]。被追訴人更因其劣勢(shì)的訴訟地位而難以發(fā)現(xiàn)算法中隱含的歧視，進(jìn)而無(wú)法充分行使其訴訟權(quán)利。為此，有必要在技術(shù)層面優(yōu)化算法解釋方法，為司法透明與知情權(quán)保障提供技術(shù)支撐。

算法的可解釋性不僅是人工智能與司法機(jī)關(guān)之間建立互信的必要前提[50]，也是智慧司法使被追訴人接受訴訟結(jié)果、對(duì)一般公眾具有公信力的重要前提。因此，刑事司法中對(duì)于算法解釋的應(yīng)用，主要包括技術(shù)人員對(duì)作為算法系統(tǒng)使用者的司法機(jī)關(guān)進(jìn)行解釋、司法機(jī)關(guān)對(duì)被追訴人的解釋?zhuān)呔荚谝宰匀徽Z(yǔ)言解釋算法決策的原理。本文以向被追訴人進(jìn)行算法解釋為分析重點(diǎn)。

算法解釋?zhuān)ǔ７譃槿纸忉尯途植拷忉?。全局解釋是一種以模型為中心的解釋?zhuān)峁┌ㄔO(shè)置信息、訓(xùn)練元數(shù)據(jù)、性能指標(biāo)和處理信息等關(guān)于整個(gè)算法決策模型的廣泛信息[51]。但是，數(shù)據(jù)和算法系統(tǒng)所有人和相關(guān)權(quán)利人一般不傾向于打開(kāi)“黑匣子”，以避免泄露商業(yè)秘密或侵犯他人隱私等權(quán)利。實(shí)際上，司法機(jī)關(guān)可以不對(duì)完整的算法模型進(jìn)行解釋?zhuān)沁x擇在輸入記錄的基礎(chǔ)上進(jìn)行局部解釋。其以輸入樣本為導(dǎo)向，旨在幫助人們理解深度學(xué)習(xí)模型對(duì)每一個(gè)特定輸入樣本的決策過(guò)程和決策依據(jù)[52]。例如，以主題為中心的解釋方法作為一種局部解釋?zhuān)瑐?cè)重于在算法工具、司法機(jī)關(guān)和被追訴人之間建立聯(lián)系，從而提供對(duì)權(quán)利人“有意義的”解釋。但是主題解釋僅定位那些待解釋對(duì)象所在的部分區(qū)域，無(wú)法解釋模型的整體決策行為，不能就每個(gè)特征對(duì)模型決策結(jié)果的貢獻(xiàn)程度進(jìn)行定量分析。對(duì)此，基于變量擾動(dòng)性和敏感性分析進(jìn)行的解釋方法作為另一種局部解釋?zhuān)鶕?jù)變量的擾動(dòng)對(duì)模型判定結(jié)果的影響來(lái)判斷模型對(duì)于變量的依賴(lài)程度。例如在COMPAS模型中，可對(duì)性別和種族等變量及模型的相關(guān)變化進(jìn)行度量，以此解釋模型對(duì)于不同變量的依賴(lài)程度[53]。此外，“反設(shè)事實(shí)解釋”(Counterfactual Explanations)方法提供了能夠改變決策的最小信息量，有助于被解釋者理解決策的原因，而不需要掌握模型的內(nèi)部邏輯[54]。

與全局解釋相比，局部解釋優(yōu)勢(shì)明顯。其通過(guò)專(zhuān)注于算法系統(tǒng)中的某個(gè)區(qū)域，以更簡(jiǎn)單和更易理解的方式構(gòu)建解釋模型，兼顧被追訴人知情權(quán)和商業(yè)秘密、知識(shí)產(chǎn)權(quán)的保護(hù)。此時(shí)，解釋不僅促進(jìn)理解，而且被視為幫助被追訴人選擇訴訟行為的一種手段。司法機(jī)關(guān)則可以根據(jù)被追訴人欲實(shí)現(xiàn)的訴訟目標(biāo)來(lái)衡量解釋的范圍與內(nèi)容。不過(guò)，局部解釋并非無(wú)可指摘。其對(duì)于系統(tǒng)性了解算法工具的功能或者自動(dòng)化決策的原理內(nèi)容并無(wú)助益。反設(shè)事實(shí)解釋更是無(wú)法提供數(shù)據(jù)性的證據(jù)來(lái)輔助評(píng)價(jià)算法是否存在性別歧視。

值得注意的是，過(guò)度追求算法的可解釋性可能不利于算法預(yù)測(cè)的準(zhǔn)確性。通常情況下，具有更多變量的復(fù)雜系統(tǒng)會(huì)具有更高的預(yù)測(cè)準(zhǔn)確性。但是以人類(lèi)理解為導(dǎo)向的解釋模型旨在理解系統(tǒng)的主要邏輯，傾向于采用更簡(jiǎn)單的解釋模型，最終可能因追求易解釋性而簡(jiǎn)化原算法模型，從而導(dǎo)致后者預(yù)測(cè)性能的弱化。在智慧司法背景下，算法工具輔助司法機(jī)關(guān)作出裁判，故算法預(yù)測(cè)的準(zhǔn)確性和可解釋性既是技術(shù)問(wèn)題，也是公共政策和公共安全問(wèn)題[55]。選擇何種解釋方法或組合解釋?zhuān)瑧?yīng)在算法工具預(yù)測(cè)準(zhǔn)確性與可理解性、技術(shù)發(fā)展與公共利益之間進(jìn)行權(quán)衡，并以被追訴人理解決策原因、充分行使辯護(hù)權(quán)為目的構(gòu)建算法解釋機(jī)制。

(三)訴訟之維：知情權(quán)利與證明責(zé)任的訴權(quán)實(shí)踐

1.明確知情權(quán)利束

在傳統(tǒng)的刑事訴訟中，一定程度上仍然存在信息的不對(duì)稱(chēng)、武器的不平等。面對(duì)具有專(zhuān)業(yè)法律知識(shí)的檢察機(jī)關(guān)和法院工作人員，刑事訴訟中的被追訴人通常是不熟悉法律的公民。盡管武器平等原則沒(méi)有在憲法或法律性文件中被明文規(guī)定，但是武器平等實(shí)現(xiàn)與否，對(duì)于涉及行為自由與安定性等人格性權(quán)利，具有顯著影響[56]。因此，武器平等原則是實(shí)現(xiàn)公正審判權(quán)的基本要求。根據(jù)程序公正原則的要求，國(guó)家就平衡武器不平等這種被追訴人所承受的結(jié)構(gòu)性不利益，負(fù)有訴訟照管等幫助義務(wù)(14)BGH,Beschl.vom 14.05.1974-1 StR 366/73=LMRR 1974,2。。其應(yīng)為被追訴人有效參與訴訟提供條件，保障被追訴人在刑事訴訟中的基本權(quán)利不受侵犯。其中，保障被追訴人知情權(quán)是刑事訴訟武器平等的必要保障。

算法決策輔助司法作出裁判的情況下，被追訴人往往難以獲得相關(guān)訴訟信息，知情權(quán)難以保障，進(jìn)而人格尊嚴(yán)受尊重與受公正審判的基本權(quán)利受到損害。而且實(shí)證研究結(jié)果顯示，算法工具在對(duì)女性被追訴人的人身危險(xiǎn)性和再犯風(fēng)險(xiǎn)進(jìn)行評(píng)估時(shí)，相關(guān)關(guān)系的不當(dāng)設(shè)計(jì)和訓(xùn)練數(shù)據(jù)樣本過(guò)少可能導(dǎo)致系統(tǒng)性地高估女性群體的再犯風(fēng)險(xiǎn)，導(dǎo)致性別歧視。所以，司法機(jī)關(guān)如何使被追訴人了解算法工具的結(jié)論及理由，不僅是實(shí)現(xiàn)程序公正與被追訴人權(quán)利保障的基本前提，同時(shí)也是刑事司法人工智能實(shí)現(xiàn)性別平等的必要條件。

算法解釋是智慧司法背景下訴訟知情權(quán)的一部分，被追訴人有權(quán)請(qǐng)求司法機(jī)關(guān)解釋算法決策，應(yīng)無(wú)疑義[57]。但無(wú)救濟(jì)則無(wú)權(quán)利，僅僅算法解釋請(qǐng)求權(quán)尚不足以保證被追訴人充分行使其知情權(quán)。因此，為了對(duì)可能受到性別歧視的個(gè)體提供周延的保護(hù)，應(yīng)對(duì)知情權(quán)利設(shè)置配套的救濟(jì)性權(quán)利，形成知情權(quán)利束。不同于個(gè)人信息保護(hù)意義上的數(shù)據(jù)權(quán)利束強(qiáng)調(diào)個(gè)人對(duì)數(shù)據(jù)的知情與控制[58]，知情權(quán)利束重在個(gè)體對(duì)司法中所運(yùn)用的算法決策進(jìn)行透明性制約。智慧司法中知情權(quán)利束的構(gòu)造，由司法機(jī)關(guān)的告知義務(wù)為依托，以算法數(shù)據(jù)更正權(quán)、算法結(jié)果解釋權(quán)為基礎(chǔ)性權(quán)利，以算法結(jié)果異議權(quán)為救濟(jì)性權(quán)利。

算法數(shù)據(jù)更正權(quán)，以司法機(jī)關(guān)在使用算法工具前負(fù)有告知義務(wù)為前提。司法機(jī)關(guān)應(yīng)告知該算法工具的特點(diǎn)、功能和使用目的，并在保護(hù)知識(shí)產(chǎn)權(quán)與商業(yè)秘密的前提下說(shuō)明所涉數(shù)據(jù)的基本情況(15)對(duì)此，有學(xué)者提出應(yīng)強(qiáng)化訴訟中的信息開(kāi)示制度，將刑事訴訟中的閱卷權(quán)改造為“數(shù)據(jù)訪(fǎng)問(wèn)權(quán)”。參見(jiàn)鄭曦：《人工智能技術(shù)在司法裁判中的運(yùn)用及規(guī)制》，《中外法學(xué)》2020年第3期。。由此，被追訴人能夠預(yù)先知道算法決策將會(huì)輔助司法機(jī)關(guān)進(jìn)行追訴，并提前對(duì)此進(jìn)行必要的辯護(hù)準(zhǔn)備。但司法機(jī)關(guān)一旦決定使用算法工具的，不宜容許被追訴人的反對(duì)意見(jiàn)發(fā)生當(dāng)然的阻卻效力。因?yàn)樾淌滤痉C(jī)關(guān)負(fù)有法定追訴和查明真相的義務(wù)，其認(rèn)為有必要使用算法工具的，涉及公共利益之實(shí)現(xiàn)。在告知算法工具數(shù)據(jù)的基本情況后，被追訴人應(yīng)享有請(qǐng)求更正算法數(shù)據(jù)的權(quán)利。但是該權(quán)利以自身數(shù)據(jù)正誤和可能導(dǎo)致歧視為限，并由司法機(jī)關(guān)對(duì)該主張是否合理進(jìn)行裁斷。

算法結(jié)果解釋權(quán)，賦予被追訴人請(qǐng)求司法機(jī)關(guān)以適當(dāng)方法解釋算法結(jié)果的權(quán)利。算法解釋?xiě)?yīng)為被追訴人熟悉的自然語(yǔ)言，且能被一般公眾所充分理解，不得利用公民理解或使用數(shù)據(jù)的困難進(jìn)行片面披露。

算法結(jié)果異議權(quán)，意味著被追訴人有權(quán)對(duì)已經(jīng)形成并被司法機(jī)關(guān)使用的算法結(jié)果提出反對(duì)意見(jiàn)。在對(duì)裁判提出上訴權(quán)之外，另賦予被追訴人此項(xiàng)權(quán)利，是為避免司法機(jī)關(guān)自由裁量權(quán)的恣意行使。當(dāng)被追訴人主張司法機(jī)關(guān)使用存在性別歧視性風(fēng)險(xiǎn)的算法結(jié)果而作出錯(cuò)誤裁判，而司法機(jī)關(guān)以其并未使用算法結(jié)果或者綜合考慮其他因素為由主張自由裁量權(quán)的，不利于被追訴人以原裁判存在性別歧視為由提出上訴。因此，針對(duì)被追訴人對(duì)算法結(jié)果提出的異議，法院應(yīng)當(dāng)對(duì)該異議進(jìn)行審查，同時(shí)檢察機(jī)關(guān)應(yīng)參與審查以發(fā)揮法律監(jiān)督的作用。如果該異議被駁回而被追訴人提出上訴的，上訴審法院應(yīng)對(duì)該異議中所涉及的算法工具及其結(jié)果，再次進(jìn)行審查。

2.倒置舉證責(zé)任

性別平等保護(hù)理念未能對(duì)算法開(kāi)發(fā)人員和適用算法的司法機(jī)關(guān)形成有效的約束力，主要原因在于權(quán)利當(dāng)事人難以證明甚至察覺(jué)歧視的存在，從而無(wú)法主張其受到歧視，進(jìn)而獲得法律救濟(jì)。按照傳統(tǒng)的法律關(guān)系分析，過(guò)錯(cuò)、侵害行為與因果關(guān)系等是責(zé)任成立的必要條件，但算法歧視的存在及其與損害后果的因果關(guān)系卻難以證明。因此，從責(zé)任分配所產(chǎn)生的社會(huì)效益出發(fā)，鑒于司法機(jī)關(guān)在收集、分析數(shù)據(jù)和使用算法輔助決策的過(guò)程中占據(jù)絕對(duì)優(yōu)勢(shì)，應(yīng)對(duì)舉證責(zé)任的分配作出調(diào)整。

自比較法觀(guān)之，美國(guó)法關(guān)于歧視的認(rèn)定提出了差別待遇和差別影響等概念(16)有學(xué)者還提出了超越差別待遇和差別影響的公平概念，參見(jiàn)Zafar,M.B.,Valera,I.,Gomez Rodriguez,M.,and Gummadi,K.,“Fairness beyond Disparate Treatment & Disparate Impact:Learning Classification without Disparate Mistreatment”,In the 26th International World Wide Web Conference (WWW),2017。。二者分別作為反分類(lèi)和反從屬歧視理論的判斷標(biāo)準(zhǔn)，前者要求證明算法決策主體具備歧視的主觀(guān)故意，重在保障個(gè)體公正；后者則以客觀(guān)主義為特征，強(qiáng)調(diào)群體性公正，聚焦于社會(huì)、經(jīng)濟(jì)層面的結(jié)構(gòu)性歧視(17)參見(jiàn)張恩典：《反算法歧視：理論反思與制度建構(gòu)》，《華中科技大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)》2020年第5期；有關(guān)兩種理論的具體分析，參見(jiàn)Siegel,Reva B.,“Equality Talk:Antisubordination and Anticlassification Values in Constitutional Struggles over Brown”,Harvard Law Review,2004,117(5);Balkin,Jack M.and Siegel,Reva B.,“The American Civil Rights Tradition:Anticlassification or Antisubordination?”,https://ssrn.com/abstract=380800。。在歐洲文獻(xiàn)和司法實(shí)踐中對(duì)應(yīng)的反歧視機(jī)制分別被稱(chēng)為直接歧視與間接歧視。前者是指相比他人，具有受保護(hù)屬性者受到不利待遇，強(qiáng)調(diào)由主張被歧視者先還原決策過(guò)程、證明存在歧視，但算法決策系統(tǒng)發(fā)展得過(guò)于復(fù)雜而難以還原的，司法實(shí)踐采納間接歧視的概念，即表面中立的規(guī)定、標(biāo)準(zhǔn)或做法使受保護(hù)群體比其他人處于更不利地位[59]。此時(shí)歐洲法院采用所謂的“黃金標(biāo)準(zhǔn)”來(lái)對(duì)歧視事實(shí)進(jìn)行初步認(rèn)定，當(dāng)原告主張自身具有受保護(hù)屬性，但特定規(guī)定、標(biāo)準(zhǔn)或做法使其與對(duì)照群體相比顯著受到不利待遇，即推定歧視存在，舉證責(zé)任倒置，由算法系統(tǒng)的使用者舉證推翻該推定，或者被告方證明前述規(guī)定、標(biāo)準(zhǔn)或做法因目的合法而客觀(guān)上具有正當(dāng)性，且為目的之實(shí)現(xiàn)而有必要的，亦不構(gòu)成歧視[60]。但“黃金標(biāo)準(zhǔn)”對(duì)判斷算法歧視的一體適用性有待商榷?！包S金標(biāo)準(zhǔn)”要求的是司法機(jī)關(guān)在確定弱勢(shì)群體、對(duì)照群體和“特別不利待遇”的證據(jù)時(shí)須基于具體的案件事實(shí)進(jìn)行全面的比較和評(píng)估，并衡量案件發(fā)生地的政治、社會(huì)和法律背景。所以，該標(biāo)準(zhǔn)主要解決的仍是社會(huì)認(rèn)知層面的不平等問(wèn)題，難以通過(guò)明確恒定的規(guī)則或示例來(lái)將算法歧視的概念和相關(guān)群體定義成法律標(biāo)準(zhǔn)[61]。故其并未實(shí)質(zhì)性涉及算法決策系統(tǒng)內(nèi)部的歧視性問(wèn)題。

智慧司法背景下的算法公平往往涉及的是間接歧視。其中，性別歧視是主要歧視類(lèi)型之一。但是，僅依賴(lài)舉證責(zé)任倒置機(jī)制無(wú)法有效保障被追訴人不受到性別歧視。其仍須先以平權(quán)倫理嵌入法規(guī)與算法規(guī)則、算法解釋真正落地為突破，從而使被追訴人意識(shí)到算法決策存在歧視，且知悉其中的必要信息。在被追訴人據(jù)此完成初步的提出證據(jù)責(zé)任后，由司法機(jī)關(guān)對(duì)不存在歧視承擔(dān)舉證責(zé)任。就提出證據(jù)責(zé)任方面來(lái)看，歐洲司法實(shí)踐中推定歧視存在的“黃金標(biāo)準(zhǔn)”因其模糊性而無(wú)法全面調(diào)整算法決策的公平性問(wèn)題。對(duì)此，根據(jù)歧視概念及其產(chǎn)生原因進(jìn)行反歧視法律制度的構(gòu)建，是有效實(shí)施舉證責(zé)任倒置機(jī)制的必要前提。

五、結(jié)語(yǔ)

司法實(shí)踐與實(shí)證研究顯示，智慧司法背景下的算法預(yù)測(cè)模型存在性別歧視性風(fēng)險(xiǎn)，主要體現(xiàn)在性別變量與結(jié)果的相關(guān)性模糊、預(yù)測(cè)效度上存在系統(tǒng)性誤差以及多維歧視等問(wèn)題。雖然中國(guó)法律已規(guī)定平等原則，但是針對(duì)智慧司法背景下的算法決策系統(tǒng)，圍繞反歧視的綜合性法律制度仍然缺位。在算法規(guī)范層面，算法形成未受平權(quán)倫理價(jià)值的約束，缺乏算法公平性概念的規(guī)范界定，導(dǎo)致數(shù)據(jù)挖掘與算法建模階段嵌入性別歧視性風(fēng)險(xiǎn)，算法形成后亦沒(méi)有評(píng)價(jià)公平性的統(tǒng)一標(biāo)準(zhǔn)。而且，就司法不透明阻礙平等訴權(quán)的實(shí)踐而言，算法黑箱難題和訴訟地位的不對(duì)等導(dǎo)致被追訴人難以獲得算法輔助裁判的準(zhǔn)確信息，其知情權(quán)難以保障。司法機(jī)關(guān)對(duì)算法決策的傾向也借由自由裁量權(quán)而難以被約束。因此，雖然算法決策系統(tǒng)在智慧司法的實(shí)踐中被寄予厚望，但其在促進(jìn)效率的同時(shí)應(yīng)當(dāng)持守公平。在性別平等保護(hù)視角下規(guī)制智慧司法的發(fā)展，應(yīng)分別從規(guī)范、算法和訴訟等維度出發(fā)，將平權(quán)倫理嵌入調(diào)整算法輔助系統(tǒng)的規(guī)則之中，將公平性概念貫穿于算法工具的開(kāi)發(fā)、使用和解釋的全過(guò)程，以此保障被追訴人在知悉、證明和救濟(jì)等多方面行使其訴訟權(quán)利。