孫 笛

（中南財(cái)經(jīng)政法大學(xué)博士后流動(dòng)站 湖北 武漢 430073）

2017年7月20日，國務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，對(duì)人工智能時(shí)代的法律、倫理和社會(huì)問題研究提出了新的要求。由于學(xué)術(shù)界對(duì)人工智能還沒有統(tǒng)一的定義，因此，本文涉及的人工智能主要包括計(jì)算機(jī)視覺、自然語言理解與交流、認(rèn)知與推理、機(jī)器人學(xué)、博弈與倫理、機(jī)器學(xué)習(xí)這6大領(lǐng)域[1]。犯罪防控可劃分為宏觀、中觀和微觀3個(gè)層面：社會(huì)越軌行為是廣義犯罪防控的對(duì)象，即在宏觀層面上，社會(huì)中所有“越軌”或“失范”行為都屬于犯罪防控的范疇，理論界所指“社會(huì)控制”及實(shí)踐中的社會(huì)治安防控、社會(huì)管理綜合治理正是其應(yīng)有之意；中觀層面的犯罪防控特指對(duì)符合刑法犯罪構(gòu)成的行為進(jìn)行刑事追訴的過程，偵查機(jī)關(guān)、檢察機(jī)關(guān)、審判機(jī)關(guān)及法律服務(wù)等主體進(jìn)行的與刑事追訴有關(guān)的活動(dòng)均應(yīng)納入其中；微觀層面的犯罪防控針對(duì)具體的犯罪行為及對(duì)行為實(shí)施后有關(guān)證據(jù)的收集和固定，現(xiàn)場勘驗(yàn)、物證鑒定、犯罪地理畫像、測謊等都屬于此層面犯罪防控的對(duì)象。

1 人工智能的科技紅利：對(duì)犯罪現(xiàn)象的消解和犯罪行為的防控

1.1 社會(huì)治理的智能化

社會(huì)治理智能化既是人工智能發(fā)展的目標(biāo)之一，也為完善我國立體化社會(huì)治安防控體系提供前提保障與技術(shù)支持。依據(jù)國務(wù)院對(duì)人工智能的發(fā)展規(guī)劃，社會(huì)治理智能化包括智能政務(wù)、智慧法庭、智慧城市、智能交通和智能環(huán)保5個(gè)方面。政務(wù)的智能化主要體現(xiàn)在以下幾個(gè)方面：首先，政務(wù)大廳安排集取號(hào)、查詢及初步指引功能于一體的實(shí)體機(jī)器人來減輕人力壓力并提高指引的準(zhǔn)確度和政務(wù)效率；其次，基于人臉識(shí)別技術(shù)的應(yīng)用可以使辦事驗(yàn)證環(huán)節(jié)的驗(yàn)證手段多樣化，避免大量不必要的證明材料及異地當(dāng)事人遠(yuǎn)程審批的實(shí)現(xiàn)，提升服務(wù)效率及群眾滿意度；最后，通過人工智能系統(tǒng)運(yùn)行在線政務(wù)可以根據(jù)具體用戶偏好使內(nèi)容推薦個(gè)性化，多種渠道平臺(tái)的在線客服能夠提供全天候的即時(shí)服務(wù)，信息處理系統(tǒng)可以有效識(shí)別審批流程的冗余或可替換環(huán)節(jié)，輔助決策系統(tǒng)數(shù)據(jù)篩選質(zhì)量的提高能夠?yàn)闆Q策者提供更加客觀和多樣的決策選擇[2]。

智慧法庭、智慧城市、智能交通和智能環(huán)保的目標(biāo)同樣也是通過人工智能技術(shù)的介入提高工作效率及專業(yè)化服務(wù)水平。目前，我國在圖像識(shí)別、文字語音識(shí)別領(lǐng)域達(dá)到國際領(lǐng)先水平，自動(dòng)指紋識(shí)別系統(tǒng)、視頻監(jiān)控已廣泛應(yīng)用于城市治安防控體系，提高了犯罪線索搜集和篩選的效率。人臉識(shí)別系統(tǒng)基于區(qū)域特征分析算法，利用圖像識(shí)別技術(shù)實(shí)時(shí)提取人像特征點(diǎn)，通過生物統(tǒng)計(jì)學(xué)原理進(jìn)行分析建模，應(yīng)用于出入管理、辨識(shí)、監(jiān)視、認(rèn)證和智能報(bào)警等多個(gè)方面，已在國內(nèi)多個(gè)公安系統(tǒng)內(nèi)及機(jī)場、火車站應(yīng)用①長春機(jī)場使用人臉識(shí)別系統(tǒng)一個(gè)月內(nèi)有效攔截4人違法使用證件；沈陽地鐵站人臉識(shí)別系統(tǒng)在11天內(nèi)抓獲3名網(wǎng)上追逃人員；上海地鐵站啟用人臉識(shí)別系統(tǒng)一個(gè)月預(yù)警800余次，有效盤查652次，協(xié)助公安部門抓獲嫌疑人286名。。人工智能在教育、醫(yī)療、養(yǎng)老、環(huán)境保護(hù)、安防、公共服務(wù)等領(lǐng)域的廣泛應(yīng)用均極大程度地提高了公共服務(wù)精準(zhǔn)化及均等化水平，全面提升了人民生活品質(zhì)。人工智能技術(shù)對(duì)基礎(chǔ)設(shè)施和社會(huì)安全運(yùn)行等重大態(tài)勢的準(zhǔn)確感知、預(yù)測、預(yù)警，對(duì)群體認(rèn)知及心理變化及時(shí)把握和主動(dòng)決策反應(yīng)，將顯著提高社會(huì)治理的能力和水平，對(duì)有效維護(hù)社會(huì)穩(wěn)定具有不可替代的作用。社會(huì)穩(wěn)定程度越高，社會(huì)中的“越軌”或“失范”現(xiàn)象就越少，社會(huì)治安狀況就越好，社會(huì)控制的水平就越高。

1.2 刑事追訴過程的智能化

刑事追訴過程包括立案、偵查、審查起訴、審判和執(zhí)行5個(gè)階段。因此，刑事追訴過程的智能化涵蓋人工智能應(yīng)用于偵查機(jī)關(guān)、檢察機(jī)關(guān)、審判機(jī)關(guān)及法律服務(wù)者所做出的一切與刑事追訴活動(dòng)有關(guān)的行為。對(duì)偵查機(jī)關(guān)而言，人工智能的應(yīng)用主要集中在智能化信息檢索技術(shù)和圖像識(shí)別系統(tǒng)、偵查專家系統(tǒng)和偵查智能機(jī)器人領(lǐng)域。同傳統(tǒng)信息檢索技術(shù)相比，智能化信息檢索技術(shù)在信息檢索速度、信息整合廣度、信息處理深度3個(gè)方面得到更進(jìn)一步的優(yōu)化，它和圖像識(shí)別系統(tǒng)關(guān)聯(lián)能夠迅速準(zhǔn)確的檢索到符合目標(biāo)條件的犯罪嫌疑人。偵查專家系統(tǒng)的本質(zhì)是機(jī)器學(xué)習(xí)，以包含專家級(jí)別廣度和深度的數(shù)據(jù)為基礎(chǔ)，利用專家的知識(shí)和方法進(jìn)行推理判斷，模擬決策過程。偵查智能機(jī)器人特指具備獲取信息和證據(jù)功能的排爆或戰(zhàn)斗機(jī)器人[3]，應(yīng)用在偵查活動(dòng)中能夠降低人員傷亡、提高偵查效率。警用無人機(jī)、排爆機(jī)器人、警用平衡車、水下機(jī)器人等智能機(jī)器人已經(jīng)在我國公安工作中得到應(yīng)用。在打擊恐怖主義及嚴(yán)重犯罪活動(dòng)中，排爆機(jī)器人、戰(zhàn)斗機(jī)器人和具備監(jiān)聽監(jiān)視功能的機(jī)器人將會(huì)發(fā)揮巨大的作用。

檢察智能化以高清卷宗數(shù)據(jù)自動(dòng)抓取系統(tǒng)和精準(zhǔn)量刑建議系統(tǒng)為代表，服務(wù)于公訴和批捕業(yè)務(wù)，能夠精準(zhǔn)抓取定案關(guān)鍵信息，在最大程度上輔助辦案人員處理案件②浙江某檢察院自主研發(fā)的數(shù)據(jù)自動(dòng)抓取系統(tǒng)和精準(zhǔn)量刑建議系統(tǒng)上線3個(gè)月以來，通過辦案輔助功能輔助辦案204件，量刑建議準(zhǔn)確率超過90%，一次性文書生成篇幅超過80%。。我國1996年人民法院開啟了與信息技術(shù)融合之路，2016年最高法提出“智慧法院”，體現(xiàn)了科技與司法體系的全面融合。智慧法院的智能化重點(diǎn)體現(xiàn)在兩個(gè)方面：法院應(yīng)用系統(tǒng)的智能化和法院建設(shè)的智能化[4]。前者以案件信息在線查詢、法律文本檢索、在線立案、送達(dá)、繳費(fèi)、執(zhí)行等系統(tǒng)為代表；后者包括遠(yuǎn)程審判、語音識(shí)別代替庭審筆錄、自動(dòng)化生成文書及區(qū)塊鏈留痕等智能系統(tǒng)的應(yīng)用。智慧法院一方面將法官和書記員等主體從重復(fù)勞動(dòng)中解放出來，大幅度提高工作效率，另一方面可以有效提高司法可得性與法律援助的效率。

在律師服務(wù)領(lǐng)域，人工智能在智能法律檢索、法律文件自動(dòng)化、案件預(yù)測、咨詢服務(wù)等方面發(fā)揮積極的作用。智能化和自動(dòng)化的法律檢索向律師呈現(xiàn)與檢索相關(guān)的最有價(jià)值的結(jié)果③世界首個(gè)機(jī)器人律師ROSS基于大數(shù)據(jù)平臺(tái)，通過自然語言處理和機(jī)器學(xué)習(xí)技術(shù)識(shí)別檢索結(jié)果并評(píng)估價(jià)值，最終形成專業(yè)的回答。類似的還有知識(shí)產(chǎn)權(quán)法律工作自動(dòng)化領(lǐng)域的TrademarkNow。，而非所有的未經(jīng)篩選的檢索結(jié)果。同樣，智能法律咨詢系統(tǒng)向咨詢者提供經(jīng)過初步分析和判斷后最有價(jià)值的回答。法律文件自動(dòng)化包括文件審閱（電子取證和合同分析）與文件生成兩部分，為法律服務(wù)提高效率、降低成本并改善流程?；诖髷?shù)據(jù)和機(jī)器學(xué)習(xí)的案件預(yù)測技術(shù)④Lex Machina 公司的服務(wù)系統(tǒng)從大量案例的原始數(shù)據(jù)中自動(dòng)分析法官的辦案趨勢、對(duì)家律師的訴訟策略、案子的時(shí)間進(jìn)程等。不但可以節(jié)約當(dāng)事人訴訟成本，而且能夠進(jìn)行同案同判以實(shí)現(xiàn)司法公正。人工智能應(yīng)用于刑事追訴過程的結(jié)果是追訴程序效率的提高、訴訟成本的降低、司法服務(wù)均等化水平的提升及律師行業(yè)市場透明度與消費(fèi)者知情權(quán)的確保。對(duì)犯罪行為的有效追訴是犯罪防控在中觀層面的應(yīng)有之意。

1.3 犯罪分析的智能化

一直以來，刑事科學(xué)技術(shù)在犯罪分析領(lǐng)域發(fā)揮重要作用①廣義的刑事科學(xué)技術(shù)包括案件在調(diào)查、偵查及刑事追訴過程中使用的一切科學(xué)技術(shù)手段和方法，狹義的刑事科學(xué)技術(shù)包括物證分析（現(xiàn)場勘查、痕跡分析、文件物證檢驗(yàn)、毒品毒物檢驗(yàn)等）、法醫(yī)鑒定（尸檢、臨床試驗(yàn)）、犯罪心理分析（測謊、犯罪側(cè)寫）及精神病學(xué)鑒定等。本文取狹義概念。，人工智能為犯罪分析提供了更為強(qiáng)大的科學(xué)技術(shù)支持。

1.3.1 識(shí)別技術(shù)

我國已經(jīng)研發(fā)出的人臉識(shí)別人工智能測謊儀，包括人臉識(shí)別、語音識(shí)別、語義識(shí)別、形態(tài)識(shí)別、生理探測、智能決策和控制6大模塊[5]。結(jié)合生物探測技術(shù)與語音識(shí)別技術(shù)，根據(jù)神經(jīng)和生理的外在反應(yīng)實(shí)現(xiàn)毫秒級(jí)微表情的捕捉、反推心理活動(dòng)的發(fā)展變化，對(duì)個(gè)體情緒、內(nèi)心傾向進(jìn)行精準(zhǔn)分析。與傳統(tǒng)測謊儀相比，人工智能測謊儀進(jìn)行的檢測具有非接觸性，監(jiān)測手段的隱蔽可以有效降低被測個(gè)體的警惕性，為偵查訊問有效辨別謊言及訊問策略的制定提供了更為客觀和積極的輔助作用。

1.3.2 增強(qiáng)現(xiàn)實(shí)技術(shù)（AR）在犯罪分析中的應(yīng)用

增強(qiáng)現(xiàn)實(shí)技術(shù)將虛擬信息和現(xiàn)實(shí)信息同時(shí)顯示（兩者互為補(bǔ)充和疊加），通過實(shí)時(shí)計(jì)算攝影機(jī)影像角度位置使顯示器中虛擬世界和現(xiàn)實(shí)世界的疊加呈現(xiàn)動(dòng)態(tài)匹配與實(shí)時(shí)互動(dòng)。在犯罪現(xiàn)場勘驗(yàn)中使用AR技術(shù)，可以將對(duì)犯罪現(xiàn)場的掃描轉(zhuǎn)化為數(shù)字信息并進(jìn)行檢索處理；裸眼畫面中投放數(shù)字信息可實(shí)現(xiàn)虛擬與現(xiàn)實(shí)的實(shí)時(shí)對(duì)接；AR技術(shù)可以即時(shí)將掃描獲取的指紋、槍彈痕、血跡、筆跡等痕跡與相應(yīng)數(shù)據(jù)庫進(jìn)行比對(duì)，并將比對(duì)結(jié)果呈現(xiàn)給技術(shù)人員[6]。在犯罪現(xiàn)場重建中，AR技術(shù)可以通過三維模型模擬犯罪過程與行為，從而進(jìn)行推理分析，避免傳統(tǒng)通過文字、圖片和錄像為主的重建方法導(dǎo)致的結(jié)果與現(xiàn)實(shí)情況出現(xiàn)的偏差。

1.3.3 機(jī)器人在犯罪分析中的應(yīng)用

機(jī)器人是由仿生元件組成并具備運(yùn)動(dòng)特性的機(jī)電設(shè)備，它具有操作物體及感知周圍環(huán)境的能力[7]。在試驗(yàn)和安全監(jiān)控與自動(dòng)控制方面，智能機(jī)器人一方面起到補(bǔ)充人力的作用，協(xié)助技術(shù)人員執(zhí)行危險(xiǎn)任務(wù)，尤其在一些人力難以到達(dá)或危險(xiǎn)的場所進(jìn)行犯罪現(xiàn)場勘查和現(xiàn)場重建工作，另一方面能夠協(xié)助進(jìn)行遠(yuǎn)程司法鑒定[8]，降低鑒定成本，提高效率。

1.3.4 人工智能的應(yīng)用使監(jiān)測某一類型犯罪行為成為可能

英特爾通過AML Advisor解釋數(shù)據(jù)中間的關(guān)聯(lián)性[9]，幫助分析師和調(diào)查者在保險(xiǎn)公司和銀行的數(shù)據(jù)中了解新興趨勢，提升決策判斷能力。同時(shí)，透明度較高的智能系統(tǒng)符合監(jiān)管標(biāo)準(zhǔn)與要求，預(yù)警系統(tǒng)可以有效打擊金融犯罪。人工智能應(yīng)用于犯罪信息分類、檢索、鑒別、利用，在具體案件分析（數(shù)據(jù)挖掘技術(shù)）、決策、代為實(shí)施偵查行為等方面為犯罪分析提供了強(qiáng)有力的科學(xué)技術(shù)保障。

2 人工智能的科技風(fēng)險(xiǎn)：對(duì)社會(huì)公平的影響和法治原則的沖突

2.1 人工智能或引發(fā)社會(huì)不公

第一，人工智能導(dǎo)致一定范圍內(nèi)的大量失業(yè)。2016年物理學(xué)家史蒂芬·霍金認(rèn)為“工廠的自動(dòng)化已經(jīng)讓眾多傳統(tǒng)制造業(yè)工人失業(yè)，人工智能的興起很有可能會(huì)讓失業(yè)潮波及中產(chǎn)階級(jí)，最后只給人類留下護(hù)理、創(chuàng)造和監(jiān)管等工作”[10]。有學(xué)者將人工智能的威脅分為近期威脅、中期威脅和遠(yuǎn)期威脅3個(gè)層次，并認(rèn)為大批失業(yè)是近期主要的威脅[11]。每次工業(yè)革命必將伴隨大量工作崗位的消失及一定時(shí)期內(nèi)的失業(yè)大潮，科技革命雖然會(huì)造成既有工作崗位被取代，但也會(huì)制造出足夠多的新的就業(yè)機(jī)會(huì)，失業(yè)現(xiàn)象會(huì)逐漸得到消解。即使失業(yè)率會(huì)逐漸被消解，失業(yè)率在一定時(shí)期內(nèi)、一定領(lǐng)域內(nèi)還是會(huì)有所提高。失業(yè)率和犯罪率存在正相關(guān)關(guān)系，這意味著失業(yè)率的提高會(huì)導(dǎo)致犯罪率一定程度的提高，這是人工智能帶給犯罪研究的挑戰(zhàn)之一。

第二，人工智能引發(fā)的歧視現(xiàn)象不容忽視。人工智能決策中機(jī)器歧視屢見不鮮，機(jī)器歧視導(dǎo)致種族歧視、性別歧視、消費(fèi)歧視等問題的出現(xiàn)。例如，有圖片識(shí)別軟件將黑人標(biāo)記為大猩猩[12]；在某智能搜索服務(wù)中分別輸入黑人和白人的名字，前者更容易出現(xiàn)含有犯罪暗示的廣告；某犯罪風(fēng)險(xiǎn)評(píng)估軟件算法系統(tǒng)歧視黑人，導(dǎo)致黑人被賦予高犯罪風(fēng)險(xiǎn)幾率②非營利組織ProPublic研究發(fā)現(xiàn)，Northpointe公司開發(fā)的COMPAS犯罪風(fēng)險(xiǎn)評(píng)估算法帶有歧視黑人的風(fēng)險(xiǎn)。。性別歧視現(xiàn)象也存在于人工智能系統(tǒng)應(yīng)用領(lǐng)域，如智能廣告服務(wù)中男性比女性更容易看到高薪招聘信息[13]。除此之外，智能購物推薦系統(tǒng)和比價(jià)服務(wù)亦會(huì)出現(xiàn)針對(duì)消費(fèi)者的歧視現(xiàn)象。社會(huì)中歧視現(xiàn)象與犯罪率呈正相關(guān)關(guān)系，歧視現(xiàn)象增多導(dǎo)致犯罪率提高。

第三，人工智能使貧富分化差距進(jìn)一步加大。人工智能需要大量資本投入，而資本的本質(zhì)在于盈利，人工智能的研究和應(yīng)用方向不可避免的會(huì)以加速度涌向利潤高的領(lǐng)域?！柏毨Р粫?huì)產(chǎn)生犯罪，但是因貧困而不滿卻會(huì)產(chǎn)生犯罪，在富裕國家相對(duì)剝奪的人比在貧困的真正被剝奪的人更有可能因貧困而不滿?！盵14]相對(duì)貧困比絕對(duì)貧困更容易導(dǎo)致犯罪成為犯罪學(xué)的重要結(jié)論之一。理論上而言，“社會(huì)貧富分化差距越大，社會(huì)底層成員的相對(duì)剝奪感越強(qiáng)。相對(duì)剝奪感增強(qiáng)與感受者犯罪存在正相關(guān)關(guān)系”[15]。因此，人工智能一定程度上會(huì)加劇貧富分化的差距。貧富差距唯一的指標(biāo)是國際公認(rèn)的“基尼系數(shù)”，基尼系數(shù)與犯罪率呈正相關(guān)關(guān)系。近年來，我國基尼系數(shù)呈上升趨勢，人工智能的發(fā)展和應(yīng)用加劇了貧富分化的差距，從犯罪控制的角度而言，控制貧富差距勢在必行。

失業(yè)、歧視、貧富分化現(xiàn)象屬于犯罪原因中社會(huì)因素的范疇，共同指向社會(huì)不公。社會(huì)不公是導(dǎo)致犯罪發(fā)生的社會(huì)致罪因素，不公平現(xiàn)象出現(xiàn)的越多，公民的社會(huì)公平感知度就越低。社會(huì)公平與犯罪率呈負(fù)相關(guān)關(guān)系，人工智能對(duì)社會(huì)公平的消極影響必然會(huì)導(dǎo)致宏觀層面上犯罪率的上升。

2.2 人工智能或?qū)е路缸餀C(jī)會(huì)增加

借助化學(xué)反應(yīng)方程式，有學(xué)者將犯罪行為產(chǎn)生的原因和過程用動(dòng)態(tài)形式表示為具有犯罪人格的犯罪主體和社會(huì)環(huán)境相互作用，在犯罪機(jī)會(huì)的催化下，產(chǎn)生犯罪行為[16]。對(duì)社會(huì)公平的影響屬于人工智能對(duì)社會(huì)環(huán)境產(chǎn)生的消極作用，人工智能對(duì)犯罪機(jī)會(huì)的影響體現(xiàn)在犯罪時(shí)空因素和制度因素兩部分。

時(shí)空因素指實(shí)施具體犯罪行為的時(shí)間和空間。和傳統(tǒng)犯罪相比，利用人工智能進(jìn)行犯罪時(shí)，在時(shí)間和空間上受到的限制較少，表現(xiàn)為犯罪行為發(fā)生的隨機(jī)性、犯罪過程快、犯罪后果呈裂變式。犯罪的發(fā)生隨機(jī)性意味著判斷犯罪的行為和狀態(tài)是模糊的。從受害者角度而言，犯罪過程快降低了被害感知度，且無法進(jìn)行及時(shí)止損。犯罪后果呈裂變式指利用人工智能進(jìn)行的犯罪行為，其后果對(duì)法益的侵害呈指數(shù)級(jí)增長，危害范圍廣①惡意軟件Blackshades為犯罪分子提供的黑客技術(shù)使犯罪分子即使不懂任何黑客技術(shù)也可以在足不出戶的情況下，點(diǎn)擊鼠標(biāo)實(shí)現(xiàn)攻擊，即讓目標(biāo)計(jì)算機(jī)感染勒索軟件并對(duì)目標(biāo)進(jìn)行音頻及視頻的監(jiān)控。。在人工智能發(fā)展到擁有自我感知之前，已有犯罪種類基本能夠涵蓋社會(huì)法益受到侵害的所有領(lǐng)域。因此，現(xiàn)有某一類型犯罪現(xiàn)象的增多及新犯罪手段的出現(xiàn)是人工智能帶給犯罪行為的主要影響。

制度因素指規(guī)制犯罪行為的法律（包括憲法和各種具體法律）、法規(guī)、規(guī)章等由國家強(qiáng)制力保證實(shí)施的一系列規(guī)范的總稱。立法作為對(duì)社會(huì)活動(dòng)的一種回應(yīng)，具有天然的滯后性，人工智能的應(yīng)用應(yīng)當(dāng)在智能系統(tǒng)安全標(biāo)準(zhǔn)及權(quán)責(zé)歸屬、監(jiān)管措施等一系列規(guī)范設(shè)立和完善的框架內(nèi)運(yùn)行。制度設(shè)立的欠缺易導(dǎo)致監(jiān)管不力，阻礙了問責(zé)機(jī)制的運(yùn)行。犯罪行為發(fā)生的時(shí)間、空間限制度低，加上制度建設(shè)的滯后，都會(huì)降低犯罪成本從而加大犯罪機(jī)會(huì)②百度安全實(shí)驗(yàn)室的一款人工智能系統(tǒng)“小灰灰”在十幾分鐘內(nèi)破解了兒童智能手機(jī)網(wǎng)絡(luò)，這意味著兒童智能手機(jī)的作用從幫助家長轉(zhuǎn)變?yōu)閹椭缸锓肿?。目前，兒童智能手機(jī)網(wǎng)絡(luò)安全系數(shù)較低，這會(huì)降低犯罪成本，從而出現(xiàn)更多的犯罪機(jī)會(huì)。。

2.3 人工智能或與法治原則相悖

公平、公正、公開是最基本的法治原則。在犯罪追訴和犯罪分析中，人工智能的固有屬性和發(fā)展特征會(huì)導(dǎo)致其與基本的法治原則出現(xiàn)矛盾和沖突。

第一，數(shù)據(jù)缺陷和算法歧視與公平性原則的矛盾。一方面，人工智能系統(tǒng)的模型構(gòu)建依賴大數(shù)據(jù)平臺(tái)，對(duì)數(shù)據(jù)的收集、篩選和選取至關(guān)重要。大數(shù)據(jù)特指2000年后由于信息交換、信息存儲(chǔ)、信息處理3方面能力大幅增長而產(chǎn)生的數(shù)據(jù)[17]。由于數(shù)據(jù)提供者的角色、動(dòng)機(jī)、專業(yè)程度不同，信息噪音和對(duì)精準(zhǔn)度的影響導(dǎo)致數(shù)據(jù)源具有不確定性。數(shù)據(jù)源的不確定性導(dǎo)致數(shù)據(jù)客觀性的偏離和價(jià)值密度的稀釋。另一方面，算法偏見是人工智能的固有屬性，“自我實(shí)現(xiàn)的歧視性反饋循環(huán)”會(huì)反復(fù)鞏固這種偏見[18]。數(shù)據(jù)偏離客觀性和算法偏見的共同作用最終會(huì)導(dǎo)致基于算法和數(shù)據(jù)做出的智能司法決策存在偏見。從審判意見到案情預(yù)測，司法偏見的直接后果是司法不公，這和法治原則的公平性相矛盾。

第二，算法和數(shù)據(jù)的封閉性（不公開）會(huì)造成“黑箱操作”。出于對(duì)利益的追求、知識(shí)產(chǎn)權(quán)的保護(hù)及數(shù)據(jù)公開引發(fā)的一系列社會(huì)問題，智能決策系統(tǒng)的所有者一般不公開決策所依據(jù)的數(shù)據(jù)和算法。當(dāng)應(yīng)用于刑事司法和犯罪分析的智能決策出現(xiàn)問題需要對(duì)其進(jìn)行追溯分析時(shí)，算法和決策的所有者可以以商業(yè)機(jī)密為由拒絕公開。刑事追訴過程中，在審判機(jī)關(guān)適用案例規(guī)則的情況下，公開性是案例規(guī)則適用及轉(zhuǎn)化的必要條件，應(yīng)用人工智能決策的“黑箱操作”具有使規(guī)則調(diào)整和轉(zhuǎn)化脫離審判機(jī)關(guān)控制的危險(xiǎn)。此外，由于目前并不存在統(tǒng)一的涉及人工智能系統(tǒng)質(zhì)量和安全的行業(yè)標(biāo)準(zhǔn)，行業(yè)自律和問責(zé)機(jī)制均缺乏制度保障，智能決策過程的不透明與法治原則的公開性產(chǎn)生沖突。

第三，對(duì)于犯罪追訴而言，法官對(duì)案件進(jìn)行裁判所依據(jù)的除了現(xiàn)行法律外，還包括刑事政策、改革實(shí)驗(yàn)、地方規(guī)范等非正式制度及“隱性經(jīng)驗(yàn)”。智能決策系統(tǒng)基于數(shù)據(jù)和算法進(jìn)行的“模式識(shí)別”由于無法擁有人類的“隱性經(jīng)驗(yàn)”和對(duì)不同位階規(guī)范價(jià)值選擇的綜合判斷力，對(duì)案件進(jìn)行裁判時(shí)無法識(shí)別案例如何適用以符合寬嚴(yán)相濟(jì)的刑事政策、檢控政策、改革試點(diǎn)和地域的差異，因此智能決策系統(tǒng)做出的司法決策必定有其片面性，嚴(yán)重者可能導(dǎo)致所做裁判不公。同時(shí)，由于人工智能各領(lǐng)域、各研究機(jī)構(gòu)相對(duì)獨(dú)立，研發(fā)者各自擁有的數(shù)據(jù)和算法也處于相對(duì)獨(dú)立、各自保密狀態(tài)。大企業(yè)對(duì)信息一定程度的壟斷造成信息壁壘，加上算法偏見和數(shù)據(jù)，一旦智能決策出現(xiàn)問題，則很難通過其他途徑獲得算法和數(shù)據(jù)信息模擬決策的生成，無法對(duì)責(zé)任主體追究相應(yīng)的責(zé)任。違背了罪責(zé)刑相適應(yīng)原則，不符合法治原則公正性的要求。

理想狀態(tài)下，對(duì)犯罪的預(yù)防和控制需要法治化和科學(xué)化兼顧，兩者應(yīng)當(dāng)是辯證統(tǒng)一的關(guān)系。但人工智能自身固有的特征或發(fā)展中客觀存在的現(xiàn)象導(dǎo)致科學(xué)化和法治化產(chǎn)生沖突。對(duì)犯罪防控而言，同樣重要。

3 人工智能時(shí)代的犯罪防控應(yīng)對(duì)

3.1 限制人工智能研發(fā)和應(yīng)用的領(lǐng)域

為了預(yù)防人工智能不恰當(dāng)?shù)膽?yīng)用引發(fā)新的社會(huì)問題甚至犯罪，應(yīng)為人工智能的研發(fā)和應(yīng)用設(shè)置邊界。在社會(huì)治理層面，應(yīng)當(dāng)鼓勵(lì)發(fā)展提供基本服務(wù)的人工智能，限制發(fā)展增強(qiáng)型人工智能，禁止發(fā)展超級(jí)智能。政府和行業(yè)利益相關(guān)者應(yīng)當(dāng)決定哪些決策和操作是人工智能系統(tǒng)的禁區(qū)，并制定規(guī)則和標(biāo)準(zhǔn)來確保人類對(duì)這些決策的有效控制并為造成的損害分配法律責(zé)任。

基于司法大數(shù)據(jù)存在的局限、模式識(shí)別能力的有限性、司法活動(dòng)的規(guī)律和司法判斷的特點(diǎn)，人工智能在犯罪追訴和分析領(lǐng)域的應(yīng)用亦應(yīng)有所限制。犯罪追訴和犯罪分析領(lǐng)域最終的決策主體還是人，人工智能作為輔助決策系統(tǒng)“在類型化案件中，有可能形成統(tǒng)一的智能化算法；在不那么規(guī)格化的案件中，至少可以做到法律依據(jù)提醒、政策比較和類案參考”[19]。具體而言，案例規(guī)則及調(diào)整和非正式制度（包括刑事政策、改革實(shí)驗(yàn)、地方規(guī)范）應(yīng)成為智能決策系統(tǒng)的禁區(qū)[20]。

3.2 消減人工智能系統(tǒng)的偏差

在數(shù)據(jù)方面，對(duì)數(shù)據(jù)的收集、篩選及研判水平的提高是消減人工智能系統(tǒng)偏差的基礎(chǔ)。大數(shù)據(jù)時(shí)代，數(shù)據(jù)具有體量大、速度快、種類多和價(jià)值密度低的特點(diǎn)，數(shù)據(jù)風(fēng)險(xiǎn)隨之增大。算法以系統(tǒng)輸入的數(shù)據(jù)為前提條件，數(shù)據(jù)收集的范圍、質(zhì)量及價(jià)值密度影響算法的生成、運(yùn)行和結(jié)果。因此，辨別不同數(shù)據(jù)源、篩選價(jià)值密度高的有效數(shù)據(jù)、剔除無用數(shù)據(jù)和舊數(shù)據(jù)是提高數(shù)據(jù)客觀水平路徑的選擇。在數(shù)據(jù)準(zhǔn)備方面，應(yīng)當(dāng)立足各領(lǐng)域?qū)I(yè)職能，經(jīng)過數(shù)據(jù)挖掘、數(shù)據(jù)整合、數(shù)據(jù)分析等環(huán)節(jié)來實(shí)現(xiàn)專業(yè)數(shù)據(jù)準(zhǔn)備，如政務(wù)智能決策系統(tǒng)的數(shù)據(jù)只能由相關(guān)政府部門提供，犯罪追訴和分析的數(shù)據(jù)只能由司法機(jī)關(guān)和行政機(jī)關(guān)提供來確保數(shù)據(jù)的精準(zhǔn)性。在算法方面，算法技術(shù)的提升是人工智能客觀水平提高的關(guān)鍵，如犯罪追訴領(lǐng)域智能決策系統(tǒng)可以在投入實(shí)際應(yīng)用前，通過訓(xùn)練對(duì)規(guī)則的提煉和既有經(jīng)驗(yàn)的歸納來研發(fā)類型化案件裁判的最優(yōu)算法。

此外，打破信息壁壘，使算法和代碼的公開化能夠逐步改善人工智能系統(tǒng)。信息開放既可以保證數(shù)據(jù)的流動(dòng)，又可以在社會(huì)各層面實(shí)現(xiàn)更大價(jià)值。

3.3 構(gòu)建人工智能法律問責(zé)和監(jiān)管體系

3.3.1 構(gòu)建人工智能問責(zé)機(jī)制

應(yīng)當(dāng)制定人工智能統(tǒng)一的質(zhì)量標(biāo)準(zhǔn)或安全標(biāo)準(zhǔn)，制定人工智能產(chǎn)品研發(fā)設(shè)計(jì)人員的道德規(guī)范和行為守則，明確人工智能研發(fā)禁區(qū)。通過立法的形式建立與人工智能應(yīng)用有關(guān)的民事和刑事責(zé)任的確認(rèn)、信息安全利用等方面的追訴和問責(zé)制度。構(gòu)建人工智能復(fù)雜場景下突發(fā)事件的解決方案，針對(duì)機(jī)器人異化和安全監(jiān)管等問題提出制度性解決方案。

3.3.2 通過構(gòu)建立體化監(jiān)管模式使人工智能監(jiān)管體系公開透明

立體化監(jiān)管模式要求從智能產(chǎn)品的開發(fā)（包括數(shù)據(jù)使用和算法設(shè)計(jì)）到成果應(yīng)用進(jìn)行全方位監(jiān)管。智能系統(tǒng)中嵌入的規(guī)則和邏輯必須對(duì)監(jiān)管人員開放，并接受風(fēng)險(xiǎn)評(píng)估和嚴(yán)格測試。同時(shí)，系統(tǒng)應(yīng)當(dāng)將用于決策的事實(shí)和法律生成審計(jì)數(shù)據(jù)，服從第三方審核。此外，必須允許當(dāng)事人、律師和法院可以合理地獲取政府和其他國家機(jī)關(guān)采用智能系統(tǒng)產(chǎn)生和使用的所有數(shù)據(jù)信息，公眾應(yīng)當(dāng)對(duì)制定或支持這類系統(tǒng)決策的投資主體有知情權(quán)。

3.4 犯罪防控與人工智能的深度融合

深度融合既包括在犯罪防控中借助人工智能系統(tǒng)實(shí)現(xiàn)研究的高效性和科學(xué)性，也包括在人工智能有可能引發(fā)或涉及犯罪行為時(shí)，犯罪研究者加入研發(fā)團(tuán)隊(duì)，就專業(yè)問題與技術(shù)人員進(jìn)行研判并共同進(jìn)行決策。關(guān)于前者，犯罪研究人員在應(yīng)用人工智能系統(tǒng)進(jìn)行犯罪分析時(shí)，應(yīng)當(dāng)了解智能系統(tǒng)的數(shù)據(jù)來源范圍，算法的基本原理及對(duì)智能決策的自我判斷，一旦智能系統(tǒng)決策有所偏差，應(yīng)當(dāng)相應(yīng)地對(duì)智能決策系統(tǒng)提出改進(jìn)和完善的建議。

在社會(huì)治理層面，犯罪研究者主要介入和治安管理有關(guān)的領(lǐng)域，在犯罪追訴和犯罪分析層面，需要犯罪研究者的全面介入。這就對(duì)犯罪研究主體提出了更高的要求：必須擁有一定的人工智能理論知識(shí)?？鐚W(xué)科領(lǐng)域人才主要通過培訓(xùn)、教育及有關(guān)配套措施制度完成。

人工智能時(shí)代已經(jīng)到來，和實(shí)務(wù)界面對(duì)人工智能所表現(xiàn)出的實(shí)現(xiàn)人工智能與司法實(shí)務(wù)對(duì)接的熱情與速度相比，理論界秉持的是相對(duì)“審慎而樂觀”的態(tài)度。對(duì)于犯罪防控而言，從多維角度出發(fā)，對(duì)犯罪發(fā)生規(guī)律和犯罪防控方法進(jìn)行深度分析，才能使犯罪防控?fù)碛腥斯ぶ悄苓@一科技紅利并能更好地解決人工智能時(shí)代衍生的一系列社會(huì)風(fēng)險(xiǎn)。