劉憲權(quán),房慧穎

人工智能技術(shù)的發(fā)展在提高人們生活質(zhì)量的同時(shí)也帶來了一系列的社會(huì)問題和法律問題，沖擊著我們現(xiàn)有的法律體系。2017年9月22日，浙江省紹興市公安局破獲“全國首例利用AI犯罪案”，這是我國首例利用人工智能技術(shù)侵犯公民個(gè)人信息的犯罪[注]《全國首例AI技術(shù)犯罪案背后，你的個(gè)人信息被最先盯上》，網(wǎng)易新聞，http://news.163.com/shuangchuang/17/1016/14/D0SH0CCB000197V8.html，最后訪問日期：2018-12-03.?！凹訌?qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，加強(qiáng)人工智能相關(guān)法律、倫理、社會(huì)問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德”[注]《習(xí)近平：加強(qiáng)領(lǐng)導(dǎo)做好規(guī)劃明確任務(wù)夯實(shí)基礎(chǔ) 推動(dòng)我國新一代人工智能健康發(fā)展》，中國共產(chǎn)黨新聞網(wǎng)，http://cpc.people.com.cn/n1/2018/1101/c64094-30374958.html，最后訪問日期：2018-12-08.，具有重要且深遠(yuǎn)的價(jià)值和意義。

根據(jù)人工智能技術(shù)的發(fā)展程度，我們可以把人工智能時(shí)代劃分為普通機(jī)器人時(shí)代、弱人工智能時(shí)代和強(qiáng)人工智能時(shí)代。其中，普通機(jī)器人和弱智能機(jī)器人的區(qū)分標(biāo)準(zhǔn)在于機(jī)器人是否具有深度學(xué)習(xí)的能力，弱智能機(jī)器人和強(qiáng)智能機(jī)器人的區(qū)分標(biāo)準(zhǔn)在于機(jī)器人是否能夠在自主意識(shí)和意志的支配下，超出設(shè)計(jì)和編制的程序?qū)嵤┬袨?。目前，我們已?jīng)進(jìn)入了弱人工智能時(shí)代。在弱人工智能時(shí)代，智能機(jī)器人在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，不具有獨(dú)立的意志，其行為體現(xiàn)的是人類的意志。如果人類利用智能機(jī)器人實(shí)施犯罪行為，抑或是人類在正常使用智能機(jī)器人的過程中出現(xiàn)嚴(yán)重危害社會(huì)的后果，都會(huì)涉及刑事責(zé)任的認(rèn)定和分配問題。為了保障人工智能技術(shù)的健康發(fā)展、防范相關(guān)風(fēng)險(xiǎn)，我們的刑法理念以及刑事立法和司法體系應(yīng)當(dāng)適時(shí)作出相應(yīng)的調(diào)整和更新，這是人工智能這個(gè)“最好的時(shí)代”抑或“最壞的時(shí)代”不可回避的訴求。

一、人工智能時(shí)代應(yīng)秉持刑法新理念

人工智能技術(shù)為人們的生活帶來無與倫比的便利的同時(shí)，也帶來前所未有的風(fēng)險(xiǎn)。應(yīng)當(dāng)看到，現(xiàn)有的刑法規(guī)定難以妥善解決人工智能時(shí)代層出不窮的新問題。為了更好地發(fā)揮刑法的保護(hù)機(jī)能，促進(jìn)人工智能技術(shù)的健康發(fā)展和社會(huì)的穩(wěn)定繁榮，我們需要樹立前瞻性的刑法理念，建立和完善適應(yīng)人工智能時(shí)代要求的刑事立法和司法體系。

(一)人工智能時(shí)代需要革新刑法理念

1986年德國學(xué)者烏爾里?！へ惪顺霭媪恕讹L(fēng)險(xiǎn)社會(huì)》一書，自此“風(fēng)險(xiǎn)”一詞成為詮釋社會(huì)變化發(fā)展的關(guān)鍵詞。在《辭?！分?，“風(fēng)險(xiǎn)”被解釋為“人們?cè)谏a(chǎn)建設(shè)和日常生活中遭遇能導(dǎo)致人身傷亡、財(cái)產(chǎn)受損及其他經(jīng)濟(jì)損失的自然災(zāi)害、意外事件和其他不測(cè)事件的可能性”。不可否認(rèn)，人工智能技術(shù)為人類的社會(huì)生活帶來了極大的便利，“美國亞馬遜超級(jí)倉庫內(nèi)，無數(shù)機(jī)器人正在貨架間瘋狂奔跑；歐洲快餐店內(nèi)，機(jī)器人端著漢堡和薯?xiàng)l7×24小時(shí)來去自如；而在南非礦井下，電腦正操作精密儀器，向幽暗處進(jìn)發(fā)……”[注]《無人幸免的AI未來》，搜狐網(wǎng)，http://www.sohu.com/a/130310867_465267，最后訪問日期：2018-12-04.但是風(fēng)險(xiǎn)實(shí)際上與紅利成正比，人工智能技術(shù)為人類社會(huì)帶來的刑事風(fēng)險(xiǎn)也在急劇增加。現(xiàn)階段(即弱人工智能時(shí)代)涉人工智能刑事風(fēng)險(xiǎn)可以分為兩類：其一為行為人在正常利用智能機(jī)器人時(shí)產(chǎn)生的刑事風(fēng)險(xiǎn)[注]包括行為人由于疏忽大意而沒有預(yù)見到智能機(jī)器人可能造成損害，以致嚴(yán)重危害社會(huì)的結(jié)果發(fā)生和行為人已經(jīng)預(yù)見到智能機(jī)器人可能造成損害但輕信能夠避免，以致嚴(yán)重危害社會(huì)的結(jié)果發(fā)生這兩種情形。；其二為行為人利用智能機(jī)器人實(shí)施犯罪行為的刑事風(fēng)險(xiǎn)。

行為人在正常利用智能機(jī)器人時(shí)產(chǎn)生嚴(yán)重危害社會(huì)結(jié)果的情況屢見不鮮。例如，早在2016年，邯鄲一輛處于“定速”狀態(tài)的特斯拉自動(dòng)駕駛汽車未能按照程序設(shè)定躲避障礙物，從而撞上前車，車主不幸身亡。2018年美國亞利桑那州發(fā)生了一起Uber無人車撞死行人的事故。時(shí)隔不久，一輛開啟了Auto-pilot模式的特斯拉汽車撞上高速路旁的隔離帶，車主不幸喪生，并引發(fā)兩車追尾[注]《自動(dòng)駕駛事故頻發(fā)，事故責(zé)任究竟該如何劃分》，搜狐網(wǎng)，http://www.sohu.com/a/232993198_455835，最后訪問日期：2018-12-04.。再如，購物平臺(tái)通過對(duì)消費(fèi)者購買商品的品種、數(shù)量、頻率等各種數(shù)據(jù)的分析整合，為消費(fèi)者提供個(gè)性化服務(wù)。這在提升用戶購物體驗(yàn)、為用戶帶來便利的同時(shí)，背后也隱藏著侵犯公民個(gè)人信息的風(fēng)險(xiǎn)[注]《個(gè)性化推薦引擎：購物網(wǎng)站的智能推銷員》，果殼日志，https://www.guokr.com/blog/440494/，最后訪問日期：2018-12-04.。再如，手術(shù)機(jī)器人可以運(yùn)用微創(chuàng)方法，實(shí)施復(fù)雜的外科手術(shù)。但是在英國首例機(jī)器人心瓣恢復(fù)手術(shù)中，機(jī)器人把病人的心臟放錯(cuò)位置，并戳穿大動(dòng)脈，最終導(dǎo)致病人在術(shù)后一周死亡[注]《達(dá)芬奇機(jī)器人心瓣手術(shù)，致人死亡？》，百家號(hào)，https://baijiahao.baidu.com/s?id=1616721485785441586&wfr=spider&for=pc，最后訪問日期：2018-12-04.。又如，2015年，大眾汽車廠的一名工作人員在安裝機(jī)器人的過程中，被機(jī)器人抓住胸部繼而壓到金屬板上，最終這名工作人員不治身亡[注]《德國大眾汽車工廠發(fā)生首起“機(jī)器人殺人案”》，快科技，http://news.mydrivers.com/1/437/437018.htm，最后訪問日期：2018-12-08.。此類事例不勝枚舉，筆者不再一一贅述。

行為人利用智能機(jī)器人實(shí)施犯罪行為的情況也層出不窮。例如，犯罪分子利用無人機(jī)和紅外照相機(jī)尋找大麻農(nóng)場(chǎng)，并操縱無人機(jī)實(shí)施盜竊大麻的行為。也有犯罪分子給無人機(jī)裝上手槍、擴(kuò)音器等裝置，在幾百甚至幾千米外操縱無人機(jī)對(duì)行人進(jìn)行搶劫[注]《犯罪分子用無人機(jī)尋找目標(biāo)然后搶劫》，網(wǎng)易數(shù)碼，http://digi.163.com/14/0418/17/9Q4OQ6IQ00162OUT.html，最后訪問日期：2018-12-04.。再如，在“全國首例利用AI犯罪案”中，“犯罪分子利用具有深度學(xué)習(xí)能力的智能機(jī)器人，識(shí)別圖片驗(yàn)證碼，輕松繞過互聯(lián)網(wǎng)公司設(shè)置的賬戶登錄安全裝置，給網(wǎng)絡(luò)詐騙等黑色產(chǎn)業(yè)提供犯罪工具”[注]王肅之：《人工智能犯罪的理論與立法問題初探》，《大連理工大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)》2018年第4期。。又如，軍事領(lǐng)域的人工智能技術(shù)可以幫助完成掃雷等任務(wù)，維護(hù)人類安全，但是其一旦被恐怖分子利用，則會(huì)導(dǎo)致我們?cè)O(shè)置的各種安全防范措施均告無效等難以想象的惡果。

刑法必須敏感地應(yīng)對(duì)時(shí)代變化[注]李振林：《人工智能刑事立法圖景》，《華南師范大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)》2018年第6期。。面對(duì)人工智能技術(shù)帶來的各式各樣的刑事風(fēng)險(xiǎn)，現(xiàn)行刑法規(guī)定難以從容應(yīng)對(duì)，我們理應(yīng)順應(yīng)時(shí)代需求，樹立刑法新理念，調(diào)整立法和司法體系。有學(xué)者認(rèn)為，對(duì)智能機(jī)器人刑事責(zé)任和刑事主體地位的探討純屬無稽之談，智能機(jī)器人本質(zhì)上只是人類處理某一類具體事務(wù)的輔助工具[注]時(shí)方：《人工智能刑事主體地位之否定》，《法律科學(xué)》2018年第6期。。筆者認(rèn)為，雖然現(xiàn)階段的智能機(jī)器人仍屬于弱智能機(jī)器人，只能在人類設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，體現(xiàn)的是人類的意志而非自身的意志，不具有刑事責(zé)任主體地位，利用智能機(jī)器人實(shí)施犯罪行為時(shí)，仍然只能追究利用者的刑事責(zé)任，而不可能追究被利用的智能機(jī)器人的刑事責(zé)任；但我們并不能因此認(rèn)為，其與普通犯罪對(duì)象和犯罪工具無異，從而認(rèn)為智能機(jī)器人的出現(xiàn)對(duì)行為人刑事責(zé)任的認(rèn)定并無任何影響。事實(shí)上，無論智能機(jī)器人作為犯罪對(duì)象，還是作為犯罪工具，都有可能對(duì)刑事責(zé)任的認(rèn)定產(chǎn)生影響。

其一，智能機(jī)器人作為犯罪對(duì)象時(shí)，會(huì)對(duì)行為人刑事責(zé)任的認(rèn)定產(chǎn)生影響。應(yīng)當(dāng)看到，早在普通機(jī)器人時(shí)代，被賦予部分人腦功能(識(shí)別功能等)的普通機(jī)器人的出現(xiàn)就已對(duì)刑事責(zé)任的認(rèn)定產(chǎn)生了影響。以ATM機(jī)為例，2008年4月18日最高人民檢察院《關(guān)于拾得他人信用卡并在自動(dòng)柜員機(jī)(ATM機(jī))上使用的行為如何定性問題的批復(fù)》指出，拾得他人信用卡并在自動(dòng)柜員機(jī)上使用的行為，屬于刑法第196條第一款第三項(xiàng)規(guī)定的“冒用他人信用卡”的情形，構(gòu)成犯罪的，以信用卡詐騙罪追究刑事責(zé)任。2009年12月3日最高人民法院、最高人民檢察院《關(guān)于辦理妨害信用卡管理刑事案件具體應(yīng)用法律若干問題的解釋》第5條也作了類似的規(guī)定。有學(xué)者認(rèn)為，機(jī)器是不能被騙的，即機(jī)器因?yàn)闆]有意識(shí)而不會(huì)陷入認(rèn)識(shí)錯(cuò)誤，更不會(huì)基于認(rèn)識(shí)錯(cuò)誤處分財(cái)產(chǎn)。在ATM機(jī)上冒用他人信用卡的行為應(yīng)被認(rèn)定為盜竊罪[注]張明楷：《許霆案的刑法學(xué)分析》，《中外法學(xué)》2009年第1期。。而筆者認(rèn)為，最高檢及兩高的司法解釋將在ATM機(jī)上冒用他人信用卡的行為認(rèn)定為詐騙類犯罪而非盜竊類犯罪，主要原因在于，經(jīng)過編程后的ATM機(jī)，實(shí)際上是作為業(yè)務(wù)人員代表金融機(jī)構(gòu)處理相關(guān)金融業(yè)務(wù)，既然金融機(jī)構(gòu)的業(yè)務(wù)人員可以成為詐騙罪的對(duì)象，經(jīng)過電腦編程后的ATM機(jī)當(dāng)然也可以成為詐騙罪的對(duì)象[注]劉憲權(quán)：《金融犯罪刑法學(xué)原理》，上海：上海人民出版社，2017年，第508～509頁。。換言之，經(jīng)過電腦編程后的ATM機(jī)不同于一般的機(jī)械性機(jī)器，其具有人腦的識(shí)別功能，在作為犯罪對(duì)象時(shí)，可能會(huì)對(duì)刑事責(zé)任的認(rèn)定產(chǎn)生影響。當(dāng)然，筆者同時(shí)還認(rèn)為，ATM機(jī)雖然具有部分人腦的識(shí)別功能，但因其不具有人的其他功能，所以充其量也只能算作“機(jī)器人”而不能理解為人。我們將ATM機(jī)稱為“機(jī)器人”其實(shí)還有更深層次的考慮，即如果行為人利用ATM機(jī)的識(shí)別功能上的認(rèn)識(shí)錯(cuò)誤獲取錢財(cái)，其行為的性質(zhì)屬于詐騙類的犯罪，刑法將冒用他人信用卡的行為納入信用卡詐騙罪即為實(shí)例；而如果行為人利用ATM機(jī)的機(jī)械故障獲取錢財(cái)，其行為的性質(zhì)則當(dāng)然屬于盜竊類的犯罪，因?yàn)椤皺C(jī)械故障”中不存在“人的認(rèn)識(shí)錯(cuò)誤”問題。可見，經(jīng)電腦編程后的ATM機(jī)在作為犯罪對(duì)象時(shí)也會(huì)對(duì)行為人行為的刑事責(zé)任產(chǎn)生影響。當(dāng)人類從普通機(jī)器人時(shí)代進(jìn)入弱人工智能時(shí)代，智能機(jī)器人具有了深度學(xué)習(xí)能力，相當(dāng)于具有了更多的人腦功能，其對(duì)行為人所要承擔(dān)的刑事責(zé)任的認(rèn)定毫無疑問會(huì)產(chǎn)生更大的影響。

其二，智能機(jī)器人在作為犯罪工具時(shí)，也會(huì)對(duì)行為人刑事責(zé)任的認(rèn)定產(chǎn)生影響。當(dāng)智能機(jī)器人作為人類實(shí)施犯罪行為的工具時(shí)，研發(fā)者或使用者之間的刑事責(zé)任分配可能會(huì)隨著智能機(jī)器人“智能”的增長(zhǎng)而有所不同。例如，對(duì)于普通汽車而言，在汽車本身不存在安全隱患，僅因駕駛員違反交通運(yùn)輸管理法規(guī)進(jìn)行駕駛導(dǎo)致發(fā)生重大交通事故而構(gòu)成交通肇事罪的情況下，普通汽車的設(shè)計(jì)者無須承擔(dān)刑事責(zé)任，而應(yīng)由普通汽車的使用者(即駕駛員)承擔(dān)全部刑事責(zé)任。對(duì)于全自動(dòng)駕駛汽車而言，汽車的行駛方式、路徑全部都由自動(dòng)駕駛程序控制，車上僅有乘車人而無駕駛員，對(duì)于程序本身存在問題(包含全自動(dòng)駕駛汽車違反交通運(yùn)輸管理法規(guī)等)而導(dǎo)致發(fā)生重大交通事故的情況，可能就需要由全自動(dòng)駕駛汽車的設(shè)計(jì)者承擔(dān)全部刑事責(zé)任。

由此可見，在人工智能時(shí)代，人工智能技術(shù)帶來的風(fēng)險(xiǎn)急劇增加，智能機(jī)器人不同于普通的輔助工具，會(huì)對(duì)行為人刑事責(zé)任的認(rèn)定或分擔(dān)產(chǎn)生影響。

根據(jù)“庫茲韋爾定律”，技術(shù)的力量正以指數(shù)級(jí)的速度迅速向外擴(kuò)充，人類正處于加速變化的風(fēng)口浪尖。早在2015年，霍金等人就在公開信中警示人們要防范人工智能技術(shù)帶來的潛在風(fēng)險(xiǎn)，在進(jìn)行人工智能技術(shù)研究的同時(shí)必須采取相應(yīng)的防范措施。刑法理念及刑事立法和司法體系也應(yīng)該順應(yīng)時(shí)代潮流進(jìn)行調(diào)整，以發(fā)揮刑法作為“社會(huì)最后一道防線”對(duì)于社會(huì)穩(wěn)定健康發(fā)展的保障作用。人類社會(huì)經(jīng)歷了原始社會(huì)、農(nóng)業(yè)社會(huì)、工業(yè)社會(huì)和信息社會(huì)。每一種社會(huì)形態(tài)中的刑法理念和體系都是不同的，這是刑法順應(yīng)社會(huì)發(fā)展潮流的體現(xiàn)。當(dāng)前我們所處的弱人工智能時(shí)代，具有深度學(xué)習(xí)能力的智能機(jī)器人在社會(huì)生活的各個(gè)方面都發(fā)揮著重要作用，已經(jīng)并將持續(xù)對(duì)社會(huì)形態(tài)的發(fā)展和演變產(chǎn)生影響。正因如此，我們應(yīng)當(dāng)適時(shí)調(diào)整和革新刑法理念，以達(dá)到保障人工智能技術(shù)健康發(fā)展、防控和治理人工智能技術(shù)帶來的刑事風(fēng)險(xiǎn)的目的，最終實(shí)現(xiàn)維護(hù)人類整體利益、促進(jìn)社會(huì)發(fā)展進(jìn)步的目標(biāo)。這也是在人工智能時(shí)代革新刑法理念的意義所在。

(二)人工智能時(shí)代應(yīng)秉持前瞻性的刑法理念

在人工智能時(shí)代，我們應(yīng)樹立前瞻性的刑法理念。人工智能時(shí)代的刑法規(guī)定所立足的技術(shù)背景和社會(huì)條件都處于急速的變化發(fā)展之中[注]參見趙麗《網(wǎng)絡(luò)安全立法要有前瞻性眼光》，《法制日?qǐng)?bào)》2015年7月7日，第A4版。，我們必須提前預(yù)想到人工智能時(shí)代可能發(fā)生的刑事風(fēng)險(xiǎn)，并提前想好應(yīng)對(duì)策略。只有未雨綢繆，方可臨危不亂。正如2018年11月全國人大常委會(huì)委員長(zhǎng)會(huì)議組成人員進(jìn)行專題學(xué)習(xí)時(shí)栗戰(zhàn)書委員長(zhǎng)所指出的，“人工智能是影響面廣的顛覆性技術(shù)，其雙刃劍效應(yīng)尤為明顯，必須未雨綢繆，加強(qiáng)前瞻預(yù)防和約束引導(dǎo)，有效應(yīng)對(duì)技術(shù)不確定性帶來的新挑戰(zhàn)，確保其安全、可靠、可控”[注]楊維漢：《全國人大常委會(huì)：對(duì)人工智能涉及的法律問題進(jìn)行研究》，中證網(wǎng)，http://www.cs.com.cn/cj/hyzx/201811/t20181124_5896775.html，最后訪問日期：2018-12-05.。在此，筆者有必要澄清以下兩個(gè)誤區(qū)。

誤區(qū)之一：前瞻性的刑法理念與缺乏可靠的科學(xué)依據(jù)支撐的科幻小說無異[注]時(shí)方：《人工智能刑事主體地位之否定》，《法律科學(xué)》2018年第6期。。筆者認(rèn)為，樹立前瞻性刑法理念的目的是解決技術(shù)的飛速發(fā)展與刑事立法相對(duì)滯后之間的矛盾，即為了防止出現(xiàn)刑法無法妥善處置具有嚴(yán)重社會(huì)危害性行為的尷尬局面。應(yīng)當(dāng)看到，這種尷尬局面在我們初步進(jìn)入弱人工智能時(shí)代的今天已經(jīng)屢次發(fā)生。例如，全自動(dòng)汽車事故接二連三地發(fā)生，已經(jīng)并將可能繼續(xù)危害到公共安全、公民的人身和財(cái)產(chǎn)安全，但我們目前卻并未建立行之有效的法律體系對(duì)這些風(fēng)險(xiǎn)進(jìn)行良好的規(guī)制[注]目前僅有2018年4月3日工業(yè)和信息化部、公安部、交通運(yùn)輸部《智能網(wǎng)聯(lián)汽車道路測(cè)試管理規(guī)范(試行)》，以及各地制定的相關(guān)管理文件。。 “我們今天正處于一種大變革的時(shí)期，過去的許多行為其傳統(tǒng)意義正在蛻變或消失，與此相隨不知不覺中行為又被涂抹上新時(shí)代的若干色彩；一些過去見所未見、聞所未聞的光怪陸離的新事物也四處滋生”[注]馮亞東：《理性主義與刑法模式》，北京：中國政法大學(xué)出版社，1998年，第10頁。。在此背景下，用以指導(dǎo)刑事立法與刑事司法的刑法理念，毫無疑問也將面臨著一個(gè)是否需要調(diào)整以及如何調(diào)整的問題[注]劉憲權(quán)：《網(wǎng)絡(luò)犯罪的刑法應(yīng)對(duì)新理念》，《政治與法律》2016年第9期。。刑法理念屬于意識(shí)形態(tài)的范疇，其本身是主觀的，但是人們最終選擇什么樣的刑法理念，天然地受制于人們所處的特定時(shí)代。筆者建議在人工智能時(shí)代樹立前瞻性的刑法理念，并非是脫離技術(shù)的實(shí)際發(fā)展水平，憑借主觀想象設(shè)立未來的刑事立法和司法體系，而是在洞察和明悉時(shí)代背景與技術(shù)發(fā)展?fàn)顩r的前提下，破解人工智能時(shí)代刑法應(yīng)對(duì)的難題。同時(shí)，我們也要防患于未然，在正確理念的指導(dǎo)下，促使科技“向善”，將人工智能技術(shù)可能帶來的風(fēng)險(xiǎn)降至最低。

誤區(qū)之二：前瞻性的刑法理念體現(xiàn)了“過度刑法化”的趨勢(shì)。關(guān)于社會(huì)治理，學(xué)界存在“過度刑法化”的批判。有學(xué)者認(rèn)為過度刑法化是對(duì)刑法“謙抑和沉穩(wěn)品格”的背棄，勢(shì)必造成刑罰譴責(zé)功能的退化，引起社會(huì)治理的巨大風(fēng)險(xiǎn)[注]參見何榮功《社會(huì)治理“過度刑法化”的法哲學(xué)批判》，《中外法學(xué)》2015年第2期。。依筆者之見，前瞻性的刑法理念與過度刑法化趨勢(shì)是毫不相干的兩個(gè)事物，兩者之間不存在邏輯上的聯(lián)系。過度刑法化導(dǎo)致的結(jié)果是能夠采用道德上的譴責(zé)、行政或者民事手段規(guī)制的具有社會(huì)危害性的行為，刑事立法者仍將其規(guī)定為犯罪行為。這種因?yàn)轱L(fēng)險(xiǎn)無處不在，所以刑法無處不在的做法，是過度刑法化的主要體現(xiàn)[注]參見劉憲權(quán)《刑事立法應(yīng)力戒情緒——以〈刑法修正案(九)〉為視角》，《法學(xué)評(píng)論》2016年第1期。。而前瞻性的刑法理念則不等同于盲目擴(kuò)大犯罪圈，也不會(huì)導(dǎo)致刑罰的泛化使用。前瞻性的刑法理念可以為涉人工智能犯罪的刑法規(guī)制預(yù)留必要的解釋空間和緩沖空間，避免刑法的修改過于頻繁。我們應(yīng)該吸取網(wǎng)絡(luò)犯罪刑法規(guī)制中的相關(guān)教訓(xùn)，避免在涉人工智能犯罪規(guī)制時(shí)再犯類似的錯(cuò)誤。“在網(wǎng)絡(luò)犯罪立法中經(jīng)常出現(xiàn)這樣的情況，當(dāng)一國的立法經(jīng)過復(fù)雜而冗長(zhǎng)的立法程序?qū)⒛撤N網(wǎng)絡(luò)行為納入本國法律進(jìn)行規(guī)制時(shí)，卻驚奇地發(fā)現(xiàn)該種行為在網(wǎng)絡(luò)上已經(jīng)趨于銷聲匿跡了，代之而起的是新型的、法律尚未關(guān)注的行為，法律生效后很快就實(shí)質(zhì)性失效的情況在網(wǎng)絡(luò)中更易發(fā)生”[注]李懷勝：《三代網(wǎng)絡(luò)環(huán)境下網(wǎng)絡(luò)犯罪的時(shí)代演變及其立法展望》，《法學(xué)論壇》2015年第4期。。前瞻性的立法理念可以避免我們重蹈前述網(wǎng)絡(luò)犯罪立法的覆轍。在應(yīng)對(duì)涉人工智能犯罪時(shí)，踐行前瞻性的刑法理念，就是要求我們既要立足于人工智能技術(shù)的發(fā)展現(xiàn)狀和已經(jīng)產(chǎn)生的風(fēng)險(xiǎn)，又要預(yù)見到未來人工智能技術(shù)的發(fā)展趨勢(shì)和將會(huì)產(chǎn)生的風(fēng)險(xiǎn)，從而根據(jù)現(xiàn)狀適度調(diào)整刑法規(guī)定，并為應(yīng)對(duì)未來可能發(fā)生的刑事風(fēng)險(xiǎn)預(yù)留足夠空間，使得刑法規(guī)定既能應(yīng)對(duì)當(dāng)前風(fēng)險(xiǎn)，又能適應(yīng)未來發(fā)展，從而增強(qiáng)和延長(zhǎng)刑法條文之生命力。同時(shí)，需要說明的是，正如在網(wǎng)絡(luò)時(shí)代傳統(tǒng)犯罪大量向網(wǎng)絡(luò)犯罪轉(zhuǎn)移，隨著人工智能技術(shù)的發(fā)展，傳統(tǒng)犯罪可能會(huì)向涉人工智能犯罪轉(zhuǎn)移，許多傳統(tǒng)犯罪可能會(huì)失去生存的空間，因此，在人工智能時(shí)代樹立前瞻性的刑法理念并不必然導(dǎo)致犯罪圈的擴(kuò)大，與過度刑法化趨勢(shì)更是毫無關(guān)聯(lián)。

二、涉人工智能犯罪的類型劃分

正如網(wǎng)絡(luò)犯罪的本質(zhì)是犯罪，涉人工智能犯罪的本質(zhì)也依然是犯罪，只不過是人工智能時(shí)代產(chǎn)生的新樣態(tài)的犯罪。新舊事物之間的關(guān)系從來都是“藕斷絲連”而非“一刀兩斷”的。對(duì)于涉人工智能犯罪的研究仍需要以現(xiàn)行刑法規(guī)定為切入點(diǎn)和立足點(diǎn)。筆者認(rèn)為，根據(jù)現(xiàn)行刑法規(guī)定對(duì)涉人工智能犯罪的規(guī)制能力，我們可以將涉人工智能犯罪劃分為現(xiàn)行刑法規(guī)定能夠規(guī)制的涉人工智能犯罪、現(xiàn)行刑法規(guī)定規(guī)制不足的涉人工智能犯罪和現(xiàn)行刑法規(guī)定無法規(guī)制的涉人工智能犯罪三種類型。

(一)現(xiàn)行刑法規(guī)定能夠規(guī)制的涉人工智能犯罪

現(xiàn)行刑法規(guī)定能夠規(guī)制的涉人工智能犯罪，指的是現(xiàn)行刑法條文完全可以規(guī)制或者僅需用司法解釋明確刑法條文適用范圍和方式的涉人工智能犯罪。在處理涉人工智能犯罪時(shí)，我們既不能僅將智能機(jī)器人當(dāng)作簡(jiǎn)單的工具而認(rèn)為其對(duì)犯罪行為的定罪量刑沒有任何影響，也不能陷入“工具決定論”的誤區(qū)而認(rèn)為利用智能機(jī)器人犯罪的行為都比傳統(tǒng)犯罪行為的社會(huì)危害性更嚴(yán)重。我們?nèi)匀粦?yīng)當(dāng)具體問題具體分析。應(yīng)該看到，當(dāng)智能機(jī)器人成為犯罪行為的“臂膀”或“羽翼”時(shí)，確實(shí)會(huì)給傳統(tǒng)犯罪的實(shí)施帶來諸多的便捷，但是，從本質(zhì)上看，智能機(jī)器人的存在其實(shí)并沒有改變傳統(tǒng)犯罪的行為方式和結(jié)構(gòu)，因此，我們?nèi)匀豢梢赃\(yùn)用現(xiàn)行刑法的規(guī)定對(duì)之加以規(guī)制。即使現(xiàn)行刑法規(guī)定得過于籠統(tǒng)或模糊，我們也完全可以通過司法解釋加以明確，對(duì)此類犯罪行為進(jìn)行精確、全面的評(píng)價(jià)。

例如，在“全國首例利用AI犯罪案”中，犯罪分子利用智能機(jī)器人的深度學(xué)習(xí)能力，通過編程和訓(xùn)練，讓智能機(jī)器人掌握有效識(shí)別圖片驗(yàn)證碼的技能。這項(xiàng)技能可以幫助犯罪分子獲取用戶登錄各個(gè)網(wǎng)站的賬號(hào)和密碼[注]《人工智能涉罪細(xì)節(jié)首次披露：你的個(gè)人信息是這樣被破解的》，搜狐網(wǎng)，http://www.sohu.com/a/202973604_659173，最后訪問日期：2018-12-06.。究其本質(zhì)，這是非法獲取公民個(gè)人信息的行為，屬于刑法第253條第三款“竊取或者以其他方法非法獲取公民個(gè)人信息”的規(guī)制范圍，理應(yīng)按照侵犯公民個(gè)人信息罪定罪。又如，殺手機(jī)器人的出現(xiàn)，一度引起人們的恐慌。它的可怕之處在于其可以識(shí)別各種偽裝，精準(zhǔn)地搜尋到打擊對(duì)象并一擊即中。這種致命性的自主武器成本低卻威力巨大。但探究其工作機(jī)制，我們可以發(fā)現(xiàn)，用殺手機(jī)器人奪取人的性命，與用刀、槍、棍棒等奪取人的性命并無本質(zhì)上的不同，都是非法剝奪他人生命的行為，按照故意殺人罪定罪量刑即可。或許會(huì)有人提出，如果行為人意圖針對(duì)的打擊目標(biāo)與殺手機(jī)器人最終打擊的對(duì)象不一致，即殺手機(jī)器人實(shí)施的行為與行為人預(yù)想的行為存在偏差，應(yīng)當(dāng)如何處理？筆者認(rèn)為，這種情況可以用事實(shí)認(rèn)識(shí)錯(cuò)誤的理論解決。正如行為人放狗咬人，本來希望狗咬死甲，但狗卻咬死了乙，狗的“錯(cuò)誤”不影響對(duì)行為人行為的定性，對(duì)行為人仍應(yīng)以故意殺人罪(既遂)來認(rèn)定。殺手機(jī)器人作為完全受行為人設(shè)計(jì)和編制的程序控制的個(gè)體，其在執(zhí)行殺人指令時(shí)，與上文中所說的狗并無本質(zhì)區(qū)別，因此其所犯的“錯(cuò)誤”也不應(yīng)影響對(duì)行為人行為性質(zhì)的認(rèn)定。再如，行為人給無人機(jī)裝上手槍、擴(kuò)音器等裝置，在犯罪現(xiàn)場(chǎng)以外的地方操縱無人機(jī)上的裝置對(duì)被害人進(jìn)行威脅，要求其交出隨身攜帶的財(cái)物，否則就將對(duì)被害人的頭部進(jìn)行射擊。根據(jù)2005年6月8日最高人民法院《關(guān)于審理搶劫、搶奪刑事案件適用法律若干問題的意見》，搶劫罪表現(xiàn)為行為人劫取財(cái)物一般應(yīng)在同一時(shí)間、同一地點(diǎn)，具有“當(dāng)場(chǎng)性”。在無人機(jī)搶劫的場(chǎng)景中，行為人并未在犯罪現(xiàn)場(chǎng)，其行為似乎不具備成立搶劫罪所要求的“當(dāng)場(chǎng)性”要件，但應(yīng)當(dāng)看到，“當(dāng)場(chǎng)性”要件的存在，代表著行為人的行為對(duì)被害人的人身權(quán)利和財(cái)產(chǎn)權(quán)利能夠造成實(shí)質(zhì)危害或者緊迫威脅，利用傳統(tǒng)手段進(jìn)行搶劫時(shí)，如果行為人不在犯罪現(xiàn)場(chǎng)，則很難達(dá)到這個(gè)程度。無人機(jī)的出現(xiàn)，使得行為人所在的位置和行為實(shí)施的位置存在空間上的分離；更有甚者，如果行為人預(yù)先設(shè)定好搶劫的程序，讓無人機(jī)自主執(zhí)行，行為人設(shè)定搶劫程序的時(shí)間和無人機(jī)對(duì)被害人進(jìn)行搶劫的時(shí)間也會(huì)出現(xiàn)時(shí)間上的分離。但這種時(shí)空上的分離并未使得犯罪現(xiàn)場(chǎng)中被害人的人身權(quán)利和財(cái)產(chǎn)權(quán)利受到損害的程度或可能性有絲毫減輕。換言之，利用無人機(jī)進(jìn)行搶劫雖然出現(xiàn)了行為人行為實(shí)施的時(shí)空和被害人遭遇搶劫的時(shí)空分離，但行為的社會(huì)危害性程度并未減輕，仍然侵犯了被害人的人身權(quán)利和財(cái)產(chǎn)權(quán)利，仍應(yīng)按照搶劫罪對(duì)行為人進(jìn)行定罪量刑。

(二)現(xiàn)行刑法規(guī)定規(guī)制不足的涉人工智能犯罪

現(xiàn)行刑法規(guī)定規(guī)制不足的涉人工智能犯罪，指的是傳統(tǒng)犯罪在人工智能背景下出現(xiàn)了新特點(diǎn)，而現(xiàn)行刑法無法有力應(yīng)對(duì)的犯罪類型。如果把傳統(tǒng)犯罪行為比作“走獸”，人工智能技術(shù)為其增添“羽翼”之后，“走獸”變成了“飛禽”，雖然其根本屬性并未發(fā)生改變，但其行為模式發(fā)生了巨大變化，我們?cè)瓉硪?guī)制“走獸”的刑法規(guī)定無法有力規(guī)制“飛禽”。在當(dāng)下的弱人工智能時(shí)代，智能機(jī)器人的行為受人類設(shè)計(jì)和編制的程序控制，體現(xiàn)人類的意志和意識(shí)，是人類身體和智力的延伸。跟傳統(tǒng)犯罪工具相比，由于其不僅是人類身體的延伸，還是人類智力的延伸，因此其“智能”性有時(shí)會(huì)導(dǎo)致人類原有行為模式的變化。眾所周知，圍棋機(jī)器人(包括AlphaGo、AlphaGo Zero等)戰(zhàn)勝了世界圍棋冠軍。圍棋機(jī)器人是在人類設(shè)計(jì)和編制的程序支配下實(shí)施行為的，但是為其設(shè)計(jì)和編制程序的研發(fā)者本身并不可能戰(zhàn)勝世界圍棋冠軍，而圍棋機(jī)器人憑借其深度學(xué)習(xí)能力和快速反應(yīng)能力可以做到。換言之，圍棋機(jī)器人的行為來源于人類設(shè)計(jì)和編制的程序，但可能會(huì)超出人類在這一領(lǐng)域的本來能力。這一特征同樣出現(xiàn)于全自動(dòng)汽車、智能醫(yī)生等身上。由于智能機(jī)器人延伸了人類的身體和大腦，其所實(shí)施的行為也在一定程度上替代了人類行為。刑法規(guī)定的“行為”有廣義與狹義之分，廣義上的行為指“人的意思可以支配的具有社會(huì)意義的身體的外部態(tài)度(動(dòng)靜)”[注][日]大谷實(shí)：《刑法講義總論》(新版第2版)，黎宏譯，北京：中國人民大學(xué)出版社，2008年，第95頁。；狹義上的行為指“危害行為”，即由行為人意志支配之下違反刑法規(guī)定的危害社會(huì)的客觀活動(dòng)[注]劉憲權(quán)：《人工智能時(shí)代的“內(nèi)憂”“外患”與刑事責(zé)任》，《東方法學(xué)》2018年第1期。。無論采廣義說還是狹義說，刑法上的行為都必須是行為人在自主意識(shí)和意志支配之下進(jìn)行的客觀活動(dòng)。“無行為即無犯罪”，行為是對(duì)行為人進(jìn)行定罪和處罰的基礎(chǔ)和決定性要件。而智能機(jī)器人在一定程度上替代了人類的行為，理論上，也就應(yīng)該分擔(dān)一部分本應(yīng)由人類承擔(dān)的刑事責(zé)任。這就導(dǎo)致了原本以人類承擔(dān)全部刑事責(zé)任為前提構(gòu)建的刑法體系在處理部分涉人工智能犯罪時(shí)力有不逮。

例如，在過去，對(duì)于汽車行駛過程中引發(fā)的交通肇事(假設(shè)駕駛員負(fù)事故全部或主要責(zé)任)，如果是汽車本身質(zhì)量問題導(dǎo)致的，則應(yīng)當(dāng)由汽車的設(shè)計(jì)者或生產(chǎn)者承擔(dān)有關(guān)產(chǎn)品質(zhì)量的責(zé)任；如果是在駕車過程中違反交通規(guī)則導(dǎo)致的，則應(yīng)當(dāng)由駕駛員承擔(dān)交通肇事的責(zé)任。目前的自動(dòng)駕駛汽車，在行車過程中也需要駕駛員的參與，所以我們?nèi)钥砂凑丈鲜龅呢?zé)任分配模式來進(jìn)行處理。但是當(dāng)自動(dòng)駕駛發(fā)展到全自動(dòng)駕駛階段，即不存在駕駛員，全自動(dòng)汽車的行駛完全在設(shè)計(jì)和編制的程序控制之下進(jìn)行。對(duì)于全自動(dòng)汽車行駛過程中引發(fā)的交通事故，如果是全自動(dòng)汽車本身質(zhì)量問題導(dǎo)致的，我們?nèi)钥砂凑赵心Ｊ?，讓全自?dòng)汽車的設(shè)計(jì)者或生產(chǎn)者承擔(dān)有關(guān)產(chǎn)品質(zhì)量的責(zé)任；但對(duì)于全自動(dòng)汽車行駛過程中違反交通規(guī)則導(dǎo)致事故發(fā)生的情況，由于不存在駕駛員，所以我們無法按照原有模式，讓駕駛員承擔(dān)交通肇事的責(zé)任。而由于全自動(dòng)汽車仍屬于弱智能機(jī)器人的一種，即其只能在設(shè)計(jì)和編制的程序控制和支配下實(shí)施行為，不具備自主意識(shí)和意志，不能作為刑事責(zé)任主體，不能承擔(dān)刑事責(zé)任。因此本應(yīng)由駕駛員承擔(dān)的交通肇事的刑事責(zé)任無法轉(zhuǎn)移歸全自動(dòng)汽車承擔(dān)。在這種情況下，是否可以將本應(yīng)由駕駛員承擔(dān)的交通肇事的刑事責(zé)任轉(zhuǎn)移歸全自動(dòng)汽車的設(shè)計(jì)者或使用者承擔(dān)？如果讓全自動(dòng)汽車的設(shè)計(jì)者或使用者承擔(dān)，那么他們承擔(dān)的是產(chǎn)品質(zhì)量事故還是交通事故的刑事責(zé)任？目前刑法及相關(guān)法律法規(guī)尚未有明確規(guī)定。又如，在證券、期貨交易市場(chǎng)中，有行為人利用智能機(jī)器人超乎常人的反應(yīng)速度實(shí)施操控市場(chǎng)的行為，最典型的便是“幌騙”和“塞單”行為，即申報(bào)大量訂單后迅速撤銷，從中牟取利益。該行為本質(zhì)上是行為人利用技術(shù)優(yōu)勢(shì)操控證券、期貨市場(chǎng)的行為，違背了證券、期貨市場(chǎng)的“三公”原則[注]參見邢會(huì)強(qiáng)《證券期貨市場(chǎng)高頻交易的法律監(jiān)管框架研究》，《中國法學(xué)》2016年第5期。。根據(jù)刑法第182條“操縱證券、期貨市場(chǎng)罪”的規(guī)定，操縱證券、期貨市場(chǎng)的行為是指行為人利用自己手中掌握的資源優(yōu)勢(shì)操縱證券、期貨交易價(jià)格或者交易量[注]劉憲權(quán)：《金融犯罪刑法學(xué)原理》，第383頁。。而“資源優(yōu)勢(shì)”指的是資金優(yōu)勢(shì)、持股優(yōu)勢(shì)、持倉優(yōu)勢(shì)、信息優(yōu)勢(shì)，并不包括技術(shù)優(yōu)勢(shì)。因此，運(yùn)用現(xiàn)行刑法中的操縱證券、期貨市場(chǎng)罪很難規(guī)制利用技術(shù)優(yōu)勢(shì)操縱證券、期貨市場(chǎng)的行為。

(三)現(xiàn)行刑法規(guī)定無法規(guī)制的涉人工智能犯罪

現(xiàn)行刑法規(guī)定無法規(guī)制的涉人工智能犯罪，指的是由于人工智能時(shí)代的特殊性而出現(xiàn)的在人工智能時(shí)代之前難以想象也無須探討的嚴(yán)重危害社會(huì)的行為。這類行為無法用現(xiàn)行刑法規(guī)定進(jìn)行規(guī)制，主要存在兩種情況：

第一，現(xiàn)行刑法中規(guī)定的罪名的構(gòu)成要件沒有涵括人工智能時(shí)代的新型行為方式。例如，目前，隨著人工智能技術(shù)的發(fā)展以及人工智能技術(shù)與生命科學(xué)、神經(jīng)科學(xué)的結(jié)合，科學(xué)家研發(fā)出了人工智能假肢，可以幫助廣大的殘疾人群體解決肢體殘缺帶來的麻煩和痛苦。如果行為人損毀與人體配合良好的人工智能假肢，可能會(huì)給人工智能假肢的使用者帶來巨大的肉體和精神上的痛苦。因此，我們?nèi)绻麅H僅將人工智能假肢作為使用者的財(cái)物對(duì)待，并進(jìn)而認(rèn)為損毀人工智能假肢的行為只是毀壞財(cái)物似乎是不妥當(dāng)?shù)?；而如果將人工智能假肢作為使用者身體的一部分對(duì)待，則對(duì)于損毀人工智能假肢行為的定性似乎會(huì)有向侵犯人身健康等角度轉(zhuǎn)化的可能。根據(jù)現(xiàn)行刑法中故意傷害罪的規(guī)定，只有當(dāng)行為人故意傷害被害人的軀體并達(dá)到輕傷程度時(shí)才能構(gòu)成本罪，損毀人工智能假肢的行為顯然不能被認(rèn)定為本罪。同時(shí)隨著科技的發(fā)展，人工智能假肢越來越廉價(jià)，如果單純按人工智能假肢的價(jià)格計(jì)算，其價(jià)格甚至可能達(dá)不到構(gòu)成故意毀壞財(cái)物罪的數(shù)額標(biāo)準(zhǔn)，也即現(xiàn)行刑法對(duì)行為人損毀他人的人工智能假肢的行為根本無法規(guī)制。

第二，現(xiàn)行刑法中缺乏與人工智能時(shí)代的新型行為方式相對(duì)應(yīng)的罪名。例如，微軟研發(fā)的聊天機(jī)器人Tay(微軟將其設(shè)定為19歲的少女)，其設(shè)計(jì)原理是從對(duì)話交互中學(xué)習(xí)。一些不良網(wǎng)民利用Tay的這一學(xué)習(xí)機(jī)制，刻意引導(dǎo)她模仿偏激言論。于是僅在上線一天之后，Tay就因發(fā)表種族歧視等言論而被微軟公司緊急關(guān)閉。微軟研發(fā)聊天機(jī)器人的本意是為用戶帶來樂趣，但由于受到他人的惡意利用，Tay變成了散布種族歧視言論的“機(jī)器”[注]馬婷婷：《微軟聊天機(jī)器人Tay“誤入歧途”，被迫下線！》，驅(qū)動(dòng)中國，https://www.qudong.com/article/421735.shtml，最后訪問日期：2018-12-07.。根據(jù)我國刑法的規(guī)定，發(fā)表煽動(dòng)分裂國家、顛覆國家政權(quán)、暴力抗拒法律實(shí)施的言論或者發(fā)表煽動(dòng)民族仇恨、民族歧視的言論等都有可能構(gòu)成犯罪。試想，如果行為人刻意誘導(dǎo)具有聊天功能的智能機(jī)器人發(fā)表上述言論，是否可以構(gòu)成相應(yīng)的故意犯罪？另外，智能機(jī)器人的設(shè)計(jì)者在為智能機(jī)器人設(shè)計(jì)和編制程序時(shí)，并沒有設(shè)置相應(yīng)的反制功能(即指智能機(jī)器人能夠自動(dòng)抵御不當(dāng)言論的功能)，是否需要承擔(dān)過失犯罪的刑事責(zé)任？如果需要，則相關(guān)前置法應(yīng)如何構(gòu)建與完善？又如，在2018年俄羅斯世界杯期間，莫斯科的一個(gè)酒店提供“機(jī)器人妓女”服務(wù)，利用智能機(jī)器人向游客提供特殊服務(wù)。由于這項(xiàng)服務(wù)經(jīng)過政府特別許可，因此是合法的。荷蘭政府也擬于2050年之前推出“機(jī)器人妓女”項(xiàng)目。應(yīng)當(dāng)看到，在俄羅斯和荷蘭等國，賣淫行為可以因經(jīng)政府許可而具有合法性，但是在我國賣淫行為是違法的。如果在我國推出“機(jī)器人妓女”項(xiàng)目，相關(guān)人員是否會(huì)涉嫌組織、容留、介紹賣淫等犯罪？如果答案是肯定的，那么在“機(jī)器人妓女”提供的特殊服務(wù)與傳統(tǒng)意義上的賣淫行為存在本質(zhì)不同的情況下，將這種行為認(rèn)定為組織、容留、介紹賣淫等犯罪，是否屬于類推解釋并為罪刑法定原則所禁止[注]馬克昌：《比較刑法原理——外國刑法學(xué)總論》，武漢：武漢大學(xué)出版社，2015年，第15頁。？如果答案是否定的，則“機(jī)器人妓女”提供服務(wù)的行為是否完全不會(huì)妨害我國的社會(huì)管理秩序，即其本質(zhì)上不具有嚴(yán)重的社會(huì)危害性？以上問題，根據(jù)現(xiàn)行刑法規(guī)定，我們根本無法得出確定的答案。

綜上，筆者認(rèn)為，隨著人工智能技術(shù)的發(fā)展，會(huì)出現(xiàn)更多的類似問題需要得到解答，因此我們亟須完善現(xiàn)行刑法規(guī)定，以適應(yīng)人工智能時(shí)代發(fā)展的需求。

三、涉人工智能犯罪的刑法應(yīng)對(duì)策略

如上文所述，我們可以將涉人工智能犯罪劃分為現(xiàn)行刑法規(guī)定能夠規(guī)制的涉人工智能犯罪、現(xiàn)行刑法規(guī)定規(guī)制不足的涉人工智能犯罪與現(xiàn)行刑法規(guī)定無法規(guī)制的涉人工智能犯罪。針對(duì)三種不同的犯罪類型，筆者認(rèn)為，應(yīng)當(dāng)分別采取完善相關(guān)司法解釋、調(diào)整相關(guān)犯罪的構(gòu)成要件和設(shè)立新罪名的刑法應(yīng)對(duì)策略。

(一)完善相關(guān)司法解釋

針對(duì)現(xiàn)行刑法規(guī)定能夠規(guī)制的涉人工智能犯罪，可能會(huì)存在規(guī)定過于模糊的問題，我們需要完善相關(guān)司法解釋，從而對(duì)此類犯罪行為進(jìn)行全面、準(zhǔn)確的評(píng)價(jià)。例如，對(duì)于財(cái)產(chǎn)犯罪中涉及的“當(dāng)場(chǎng)性”問題，需要結(jié)合人工智能時(shí)代的特點(diǎn)予以進(jìn)一步明確。根據(jù)2005年6月8日最高人民法院《關(guān)于審理搶劫、搶奪刑事案件適用法律若干問題的意見》，搶劫罪中的“當(dāng)場(chǎng)性”表現(xiàn)為行為人劫取財(cái)物一般應(yīng)在同一時(shí)間、同一地點(diǎn)。按照通常理解，“同一時(shí)間”“同一地點(diǎn)”應(yīng)指行為人與被害人同時(shí)出現(xiàn)于同一時(shí)空中。但是在人工智能時(shí)代，由于行為人可以操控智能機(jī)器人(如無人機(jī))對(duì)被害人進(jìn)行人身威脅甚至是直接的打擊，更有甚者，行為人只要為智能機(jī)器人設(shè)置好相應(yīng)的程序，智能機(jī)器人就可以自主選擇搶劫對(duì)象、搶劫時(shí)間和搶劫地點(diǎn)，實(shí)際的搶劫過程無須行為人參與。以非法占有為目的，實(shí)施暴力威脅的情況下，搶劫罪和敲詐勒索罪的界限之一在于威脅的方式不同。敲詐勒索罪中的威脅可由行為人直接向被害人口頭或書面提出，也可以通過第三人間接提出；搶劫罪中的威脅只能由行為人當(dāng)場(chǎng)向被害人提出[注]劉憲權(quán)主編：《刑法學(xué)》(第四版)，上海：上海人民出版社，2016年，第645頁。。結(jié)合上述行為人利用智能機(jī)器人實(shí)施搶劫的案例，我們可以發(fā)現(xiàn)，如果把智能機(jī)器人按照程序設(shè)定或者行為人的操控對(duì)被害人作出的威脅理解為“通過第三人間接提出”，則上述行為應(yīng)被認(rèn)定為敲詐勒索罪而非搶劫罪。但事實(shí)上，搶劫罪和敲詐勒索罪的上述界限存在的主要原因是，敲詐勒索罪中的暴力威脅不具有當(dāng)場(chǎng)發(fā)生的可能性[注]劉憲權(quán)主編：《刑法學(xué)》(第四版)，第643頁。，而搶劫罪中的暴力威脅具有當(dāng)場(chǎng)發(fā)生的可能性。反觀上述案例，利用智能機(jī)器人搶劫的場(chǎng)景中，智能機(jī)器人(如無人機(jī))上面裝配著手槍等裝置，隨時(shí)可以對(duì)被害人實(shí)施暴力，因此可以說，本案中的暴力威脅具有當(dāng)場(chǎng)發(fā)生的可能性，以敲詐勒索罪認(rèn)定顯然不合法理和常理，而應(yīng)以搶劫罪來認(rèn)定。這就需要我們通過司法解釋來明確“當(dāng)場(chǎng)性”在人工智能時(shí)代的具體含義。在人工智能時(shí)代，“當(dāng)場(chǎng)性”成立所要求的“同一時(shí)間”“同一地點(diǎn)”顯然不應(yīng)是行為人與被害人在同一時(shí)空中，而是行為人的行為(包括行為的延伸)與被害人在同一時(shí)空中，至于搶劫行為的啟動(dòng)形式在所不論。搶劫行為可能是由行為人直接對(duì)被害人實(shí)施的(此時(shí)行為人與被害人在同一時(shí)空中)，也可以是行為人操控的智能機(jī)器人對(duì)被害人實(shí)施的(此時(shí)行為人與被害人在同一時(shí)間但未在同一空間)，甚至可以是智能機(jī)器人在行為人設(shè)計(jì)和編制的程序操控下對(duì)被害人實(shí)施的(此時(shí)行為人與被害人既未在同一空間，也未在同一時(shí)間)。但無論如何，在利用智能機(jī)器人搶劫的場(chǎng)景中，被害人的人身安全和財(cái)產(chǎn)安全受到了實(shí)際的威脅或侵害，且都是由行為人的行為或者行為的延伸所直接導(dǎo)致的。

(二)調(diào)整相關(guān)犯罪的構(gòu)成要件

針對(duì)現(xiàn)行刑法規(guī)定規(guī)制不足的涉人工智能犯罪，我們需要調(diào)整相關(guān)犯罪的構(gòu)成要件，將更新之后的行為方式納入刑法條文的調(diào)整范圍之內(nèi)。例如，對(duì)于全自動(dòng)汽車引發(fā)的交通事故，在由汽車本身存在質(zhì)量問題導(dǎo)致事故發(fā)生的情況下，應(yīng)由汽車的設(shè)計(jì)者或生產(chǎn)者承擔(dān)有關(guān)產(chǎn)品質(zhì)量事故的責(zé)任。但是在由全自動(dòng)汽車違反交通法規(guī)引發(fā)交通事故的情況下，應(yīng)由誰承擔(dān)責(zé)任，法律并未給出答案。根據(jù)刑法第133條“交通肇事罪”的規(guī)定，本罪的主體是從事交通運(yùn)輸?shù)娜藛T或者非交通運(yùn)輸人員。其中，非交通運(yùn)輸人員是指沒有合法手續(xù)，卻從事正常交通運(yùn)輸?shù)娜藛T[注]劉憲權(quán)主編：《刑法學(xué)》(第四版)，第436頁。。應(yīng)當(dāng)看到，在傳統(tǒng)的交通肇事罪的構(gòu)成要件中，能夠承擔(dān)交通肇事刑事責(zé)任的是從事交通運(yùn)輸?shù)娜藛T(包括有合法手續(xù)的人員和無合法手續(xù)的人員)。而在人工智能時(shí)代，全自動(dòng)汽車在行駛過程中，似乎并不存在從事正常交通運(yùn)輸?shù)娜藛T。全自動(dòng)汽車是在設(shè)計(jì)和編制的程序控制之下從事交通運(yùn)輸?shù)?，汽車上只有乘客而無駕駛員。在乘客沒有違反操作規(guī)則干預(yù)全自動(dòng)汽車正常行駛的情況下，乘客對(duì)交通事故的產(chǎn)生沒有任何原因力，不應(yīng)承擔(dān)任何責(zé)任。全自動(dòng)汽車是在設(shè)計(jì)和編制的程序控制之下在道路上行駛的，其之所以違反交通規(guī)則，也是在程序支配之下進(jìn)行的。退一步講，即使全自動(dòng)汽車程序發(fā)生了紊亂，導(dǎo)致全自動(dòng)汽車違反交通規(guī)則，其根本原因也可以追溯到程序設(shè)計(jì)和編制中發(fā)生的錯(cuò)誤或疏忽。由此可見，將全自動(dòng)汽車違反交通規(guī)則造成交通事故的過失犯罪的刑事責(zé)任歸于全自動(dòng)汽車的設(shè)計(jì)者或生產(chǎn)者似乎不應(yīng)有疑義。但是應(yīng)當(dāng)看到，過失犯罪的成立取決于三點(diǎn)：一是違反注意義務(wù)；二是對(duì)危害結(jié)果的預(yù)見可能性；三是危害結(jié)果發(fā)生[注]李振林：《人工智能刑事立法圖景》，《華南師范大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)》2018年第6期。。毫無疑問，對(duì)于全自動(dòng)汽車造成交通事故的危害結(jié)果，全自動(dòng)汽車的設(shè)計(jì)者或生產(chǎn)者是有預(yù)見可能性的。問題的關(guān)鍵在于全自動(dòng)汽車的設(shè)計(jì)者或生產(chǎn)者是否有保證全自動(dòng)汽車遵守交通規(guī)則從而避免交通事故發(fā)生的注意義務(wù)?！案鶕?jù)危險(xiǎn)控制原則，未能控制危險(xiǎn)的發(fā)生，是行為人歸責(zé)的基礎(chǔ)。具體地說，控制危險(xiǎn)是行為人的義務(wù)，如果行為人有能力避免危險(xiǎn)的發(fā)生，卻未履行控制的義務(wù)，以致發(fā)生危險(xiǎn)的，就應(yīng)該對(duì)此承擔(dān)刑事責(zé)任”[注]利子平：《風(fēng)險(xiǎn)社會(huì)中傳統(tǒng)刑法立法的困境與出路》，《法學(xué)論壇》2011年第4期。。全自動(dòng)汽車的設(shè)計(jì)者或生產(chǎn)者在設(shè)計(jì)和編制程序時(shí)，通常是有能力為全自動(dòng)汽車設(shè)置相應(yīng)程序，從而使其遵守交通規(guī)則的，如果其未設(shè)置相應(yīng)程序，使得全自動(dòng)汽車在行駛過程中違反交通規(guī)則引發(fā)交通事故，理應(yīng)承擔(dān)過失犯罪的刑事責(zé)任。

在弱人工智能時(shí)代，應(yīng)構(gòu)建和完善相應(yīng)的前置性法律法規(guī)，明確全自動(dòng)汽車的設(shè)計(jì)者或生產(chǎn)者的注意義務(wù)，否則對(duì)其追究過失犯罪的刑事責(zé)任時(shí)將缺乏依據(jù)。智能醫(yī)生在進(jìn)行醫(yī)療活動(dòng)時(shí)導(dǎo)致的醫(yī)療事故的責(zé)任承擔(dān)，與全自動(dòng)汽車造成交通事故時(shí)責(zé)任承擔(dān)的原理類似，在此不再贅述。筆者建議，在人工智能時(shí)代，應(yīng)完善相應(yīng)的前置性法律法規(guī)，明確智能機(jī)器人的設(shè)計(jì)者或生產(chǎn)者的注意義務(wù)，在其違反注意義務(wù)而使得智能機(jī)器人在運(yùn)行過程中造成嚴(yán)重的社會(huì)危害時(shí)，可以追究智能機(jī)器人的設(shè)計(jì)者或生產(chǎn)者的過失犯罪的刑事責(zé)任，具體路徑有如下兩種：第一，在如交通肇事罪等過失犯罪的構(gòu)成要件中增加智能機(jī)器人的設(shè)計(jì)者或生產(chǎn)者這一主體。第二，擴(kuò)大傳統(tǒng)意義上的承擔(dān)產(chǎn)品事故責(zé)任的范圍。將智能機(jī)器人的設(shè)計(jì)者或生產(chǎn)者納入交通肇事罪的主體之中這一路徑的合理之處在于，全自動(dòng)汽車在交通運(yùn)輸過程中發(fā)生交通事故的原因是基于違反交通規(guī)則，而不是直接基于全自動(dòng)汽車產(chǎn)品質(zhì)量；其不合理之處則在于，全自動(dòng)汽車的設(shè)計(jì)者或生產(chǎn)者并未直接參與交通運(yùn)輸活動(dòng)，而直接參與交通運(yùn)輸活動(dòng)的是全自動(dòng)汽車。但是，全自動(dòng)汽車違反交通規(guī)則導(dǎo)致的交通事故又是基于全自動(dòng)汽車的設(shè)計(jì)者或生產(chǎn)者在設(shè)置程序時(shí)存在瑕疵。換言之，構(gòu)成交通肇事罪這一過失犯罪的前提是違反了“遵守交通法規(guī)”這一注意義務(wù)，而全自動(dòng)汽車的設(shè)計(jì)者或生產(chǎn)者并未直接違反這一注意義務(wù)，而只是在設(shè)置程序時(shí)違反了程序質(zhì)量的注意義務(wù)。因?yàn)槌绦蚴强刂迫詣?dòng)汽車上路行駛必不可少的組成部分，也應(yīng)被作為產(chǎn)品看待，全自動(dòng)汽車因違反交通規(guī)則而引發(fā)的交通事故就變成了由于產(chǎn)品(程序)瑕疵而引發(fā)的產(chǎn)品質(zhì)量事故。如果全自動(dòng)汽車的設(shè)計(jì)者或生產(chǎn)者因此而承擔(dān)相應(yīng)的產(chǎn)品事故責(zé)任，那么就必然要擴(kuò)大傳統(tǒng)意義上的產(chǎn)品事故責(zé)任的范圍。為此，刑法似乎應(yīng)增加相應(yīng)罪名(筆者將在下文中作詳細(xì)說明)。當(dāng)然，“法律不強(qiáng)人所難”，囿于人工智能技術(shù)發(fā)展階段與水平的限制，完全可能存在智能機(jī)器人的設(shè)計(jì)者或生產(chǎn)者無法消除的人工智能安全風(fēng)險(xiǎn)。在這種情況下，我們應(yīng)將智能機(jī)器人在運(yùn)行過程中造成的嚴(yán)重危害社會(huì)的結(jié)果作為意外事件處理，不應(yīng)追究智能機(jī)器人的設(shè)計(jì)者或生產(chǎn)者的刑事責(zé)任。

針對(duì)現(xiàn)行刑法中規(guī)定的罪名的構(gòu)成要件沒有涵括人工智能時(shí)代的新型行為方式的情況，我們應(yīng)當(dāng)完善現(xiàn)有的刑法條文，在其中增加適應(yīng)人工智能時(shí)代特點(diǎn)的新型行為方式。例如，在證券、期貨交易市場(chǎng)中，行為人利用技術(shù)優(yōu)勢(shì)操控證券、期貨市場(chǎng)，而技術(shù)優(yōu)勢(shì)并不屬于刑法第182條“操縱證券、期貨市場(chǎng)罪”所規(guī)定的資金優(yōu)勢(shì)、持股優(yōu)勢(shì)、持倉優(yōu)勢(shì)和信息優(yōu)勢(shì)這四種優(yōu)勢(shì)；因此應(yīng)當(dāng)采用修正案的方式，在刑法第182條之中增加利用技術(shù)優(yōu)勢(shì)操縱證券、期貨交易價(jià)格或者證券、期貨交易量這種行為方式，完善操縱證券、期貨市場(chǎng)罪的行為方式，適應(yīng)人工智能時(shí)代的需求。

(三)設(shè)立新的罪名

針對(duì)當(dāng)前弱人工智能時(shí)代出現(xiàn)的新的嚴(yán)重危害社會(huì)的行為，我們需要設(shè)立新的罪名加以規(guī)制。人工智能時(shí)代出現(xiàn)的新的嚴(yán)重危害社會(huì)的行為可以分為兩類：一是行為人濫用智能機(jī)器人的深度學(xué)習(xí)能力，通過對(duì)從事正常合法行為的機(jī)器人進(jìn)行訓(xùn)練，使之具備實(shí)施嚴(yán)重危害社會(huì)的行為的能力；二是智能機(jī)器人的設(shè)計(jì)者或生產(chǎn)者在為智能機(jī)器人設(shè)計(jì)和編制程序時(shí)，未履行相應(yīng)的注意義務(wù)，導(dǎo)致使用者在使用智能機(jī)器人的過程中發(fā)生嚴(yán)重危害社會(huì)的結(jié)果。

筆者建議，針對(duì)第一種情形，應(yīng)增設(shè)濫用人工智能產(chǎn)品罪；針對(duì)第二種情形，應(yīng)增設(shè)人工智能產(chǎn)品事故罪。應(yīng)當(dāng)看到，在構(gòu)成濫用人工智能產(chǎn)品罪或者人工智能產(chǎn)品事故罪的同時(shí)，仍有可能構(gòu)成其他犯罪。例如，在“微軟聊天機(jī)器人Tay案”中，行為人通過教唆智能機(jī)器人Tay，使其發(fā)表不當(dāng)言論，有可能構(gòu)成煽動(dòng)類型的犯罪(如煽動(dòng)顛覆國家政權(quán)罪、煽動(dòng)分裂國家罪、煽動(dòng)民族歧視罪等)，同時(shí)也可能構(gòu)成濫用人工智能產(chǎn)品罪；在全自動(dòng)汽車違反交通規(guī)則引發(fā)交通事故的情況下，全自動(dòng)汽車的設(shè)計(jì)者或生產(chǎn)者可能構(gòu)成交通肇事罪，也可能構(gòu)成人工智能產(chǎn)品事故罪。筆者認(rèn)為，出現(xiàn)上述可能適用不同法條的現(xiàn)象是不可避免的。原因在于，在人工智能時(shí)代，技術(shù)的發(fā)展日新月異、一日千里，而刑事立法需要具有相對(duì)穩(wěn)定性，即社會(huì)的發(fā)展是無限的，而立法者的智慧是有限的，在設(shè)立新的涉人工智能犯罪的罪名時(shí)，立法者只能盡量出于對(duì)一般犯罪的考慮來設(shè)定條文。如果立法者對(duì)各種具體情況考慮得面面俱到，將會(huì)導(dǎo)致刑法條文過于龐雜。對(duì)于上述可能適用不同法條的問題，我們應(yīng)盡量通過刑法條文的完善加以解決；如果涉及法條競(jìng)合的，就應(yīng)遵循特別法優(yōu)于普通法、重法優(yōu)于輕法的法條競(jìng)合處理原則。其中，濫用人工智能產(chǎn)品罪和人工智能產(chǎn)品事故罪屬于普通法條。濫用人工智能產(chǎn)品罪側(cè)重于處罰行為人故意利用智能機(jī)器人實(shí)施犯罪的行為，而人工智能產(chǎn)品事故罪側(cè)重于處罰行為人由于過失導(dǎo)致嚴(yán)重危害社會(huì)結(jié)果發(fā)生的行為?？梢姡O(shè)置上述兩個(gè)罪名是適當(dāng)?shù)那罢靶粤⒎?，是平衡人工智能技術(shù)發(fā)展速度和刑法條文穩(wěn)定性之后作出的恰當(dāng)選擇。未來當(dāng)人工智能技術(shù)發(fā)展到更加成熟的階段，可以通過司法解釋對(duì)之作出更為具體的規(guī)定。

四、結(jié) 語

關(guān)于刑法理念和應(yīng)對(duì)策略的探討，并非形而上的坐而論道，而是由人們身處的社會(huì)發(fā)展階段和生產(chǎn)力發(fā)展水平所決定的。在目前的弱人工智能時(shí)代，智能機(jī)器人只能作為人類身體和大腦的延伸，在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，實(shí)現(xiàn)人類的意志和意識(shí)。就目前的人工智能技術(shù)發(fā)展水平而言，我國現(xiàn)行刑法規(guī)定可以規(guī)制大部分涉人工智能犯罪，但是針對(duì)條文規(guī)定過于模糊的地方，需要通過司法解釋予以明確，或者通過調(diào)整部分犯罪的構(gòu)成要件，將人工智能時(shí)代出現(xiàn)的新型行為方式包含進(jìn)去。對(duì)于人工智能時(shí)代出現(xiàn)的特有的新型犯罪，需要踐行人工智能時(shí)代刑法的前瞻性理念，增設(shè)濫用人工智能產(chǎn)品罪和人工智能產(chǎn)品事故罪等罪名，實(shí)現(xiàn)技術(shù)飛速發(fā)展和刑法條文相對(duì)穩(wěn)定之間的平衡。