王志祥 張圓國

2017年7月20日，國務(wù)院印發(fā)的《關(guān)于新一代人工智能發(fā)展規(guī)劃的通知》提出將人工智能提高到國家戰(zhàn)略層面進(jìn)行系統(tǒng)布局。由此可見，人工智能對于社會發(fā)展的重要影響日益凸顯。然而，正如有關(guān)學(xué)者所指出的，人工智能既是人類社會的偉大發(fā)明，同時也會給法律秩序帶來巨大的風(fēng)險。①參見吳漢東：《人工智能時代的制度安排與法律規(guī)制》，《法律科學(xué)》2017年第5期。人工智能所帶來的巨大刑事風(fēng)險不容忽視。例如，1978年，日本廣島的摩托車廠機(jī)器人轉(zhuǎn)身將其背后的工人抓住并切割；1989年，蘇聯(lián)國際象棋冠軍尼古拉·古德科夫在與人工智能機(jī)器人對戰(zhàn)時連勝3局,被“惱羞成怒”的對手自主釋放強(qiáng)電流電死；2015年，德國大眾汽車工廠內(nèi)發(fā)生機(jī)器人殺人事件。近年來，人工智能技術(shù)日新月異，發(fā)展很快，人工智能也被人類賦予了更多的獨(dú)立自主的能力，而智能機(jī)器人依據(jù)這種日漸強(qiáng)大的獨(dú)立自主能力實施的危害社會的行為也將越來越不可預(yù)測，由此給社會帶來的刑事風(fēng)險進(jìn)一步加大。人工智能會給人類社會帶來哪些刑事風(fēng)險？智能機(jī)器人是否應(yīng)當(dāng)對自己實施的行為承擔(dān)刑事責(zé)任并接受刑事處罰？刑法應(yīng)當(dāng)按照怎樣的路徑對人工智能犯罪進(jìn)行規(guī)制以適應(yīng)人工智能的快速發(fā)展？這些問題都是亟待刑法學(xué)界作出回應(yīng)的。只有對人工智能領(lǐng)域的刑法問題進(jìn)行具有前瞻性的分析并探索出合乎法理、行之有效的解決途徑，才能在不久的將來游刃有余地處理人工智能領(lǐng)域可能面臨的刑事風(fēng)險。

一、人工智能時代的刑事風(fēng)險

（一）具有更大的社會危害性

科技的發(fā)展在給人類社會帶來便利的同時，也給人類社會帶來了更大的風(fēng)險。每次科技的進(jìn)步都伴隨著人類社會生產(chǎn)力的極大解放，同時也使得犯罪的工具更加先進(jìn)。伴隨著兩次工業(yè)革命的進(jìn)行，人類發(fā)明了汽車、飛機(jī)等新型交通工具，同時也使得犯罪的工具得到了擴(kuò)展，給人類社會帶來了更大的風(fēng)險。犯罪分子能夠利用這些新型交通工具給社會帶來更大的危害，他們可以利用汽車等新型交通工具作為故意殺人和危害公共安全的工具，這與利用馬車等傳統(tǒng)交通工具相比會給社會帶來更大的危害。伴隨著新時代網(wǎng)絡(luò)科技的發(fā)展，以網(wǎng)絡(luò)為媒介的犯罪行為更是層出不窮。這些新興科技在給人類社會帶來便利的同時，犯罪分子以其為媒介所實施的犯罪給人類社會所造成的危害也呈現(xiàn)出不斷強(qiáng)化的趨勢。犯罪分子以人工智能技術(shù)為媒介所實施的犯罪往往比以往的傳統(tǒng)犯罪具有更大的社會危害，這主要體現(xiàn)在人工智能時代的刑事犯罪給社會帶來的危害更廣更深。從廣度上來講，現(xiàn)今人工智能技術(shù)被廣泛應(yīng)用于工業(yè)生產(chǎn)、醫(yī)療救治、智能駕駛、應(yīng)急事件處置等多領(lǐng)域，而且在這些領(lǐng)域起到至關(guān)重要的作用?？梢灶A(yù)見，人工智能技術(shù)還將應(yīng)用于農(nóng)業(yè)、金融、商務(wù)、軍事等重要領(lǐng)域。人工智能技術(shù)的應(yīng)用范圍非常廣闊，且還有逐步擴(kuò)大的趨勢，犯罪分子很可能利用人工智能技術(shù)在更廣的范圍內(nèi)實施犯罪行為。從深度上來講，人工智能技術(shù)被應(yīng)用在醫(yī)療救治、金融、軍事等重要領(lǐng)域。犯罪分子在這些重點(diǎn)領(lǐng)域內(nèi)利用人工智能技術(shù)所實施的犯罪行為會給人類社會帶來難以估量的危害，造成更加深重、難以估量的損失。由此可見，人工智能技術(shù)會使犯罪行為的影響更廣更深，使刑事犯罪具有更大的社會危害性。

（二）具有更顯著的時代特征

人工智能時代的刑事風(fēng)險具有更為顯著的時代特征，這一方面體現(xiàn)在隨著人工智能技術(shù)的進(jìn)一步發(fā)展，人工智能技術(shù)的表現(xiàn)形式也會有所變化，逐步呈現(xiàn)出從弱人工智能向強(qiáng)人工智能的轉(zhuǎn)化，刑事犯罪的主要表現(xiàn)形式也會隨之變化；另一方面體現(xiàn)在隨著人工智能技術(shù)的發(fā)展，人工智能時代的刑事犯罪可能會產(chǎn)生新的形式。為了更好地打擊這些新形式的犯罪行為，刑法需要創(chuàng)設(shè)新的犯罪類型。依據(jù)美國加利福尼亞大學(xué)約翰·塞爾教授的觀點(diǎn)，可以把人工智能分為“強(qiáng)人工智能”和“弱人工智能”?！叭跞斯ぶ悄堋笔侵赣嬎銠C(jī)在心靈研究中的主要價值，只為我們提供一個強(qiáng)有力的工具。“強(qiáng)人工智能”是指計算機(jī)不僅是我們研究心靈的工具，而且?guī)в姓_程序的計算機(jī)確實可被認(rèn)為具有理解和其他認(rèn)知狀態(tài)，恰當(dāng)編程的計算機(jī)其實就是一個心靈。在強(qiáng)AI中，由于編程的計算機(jī)具有認(rèn)知狀態(tài)，這些程序不僅是我們用來檢驗心理解釋的工具，而且本身就是一種解釋。①參見[英]瑪格麗特·A·博登：《人工智能哲學(xué)》，劉西瑞、王漢琦譯，上海譯文出版社2001年版，第92頁。由此可見，弱人工智能并不具有自己的獨(dú)立意志，只是在編程的范圍內(nèi)實施相關(guān)的行為，是人類為實現(xiàn)自己目的而制造的工具；而強(qiáng)人工智能則擁有自己獨(dú)立的意志，具有認(rèn)識能力和控制能力，能夠在編程的范圍外實施行為。毋庸置疑，弱人工智能是當(dāng)前人工智能技術(shù)的主要表現(xiàn)形式，利用弱人工智能實施故意犯罪或者涉及弱人工智能的過失犯罪的行為也是當(dāng)前人工智能犯罪的主流形態(tài)。然而，隨著人工智能技術(shù)的不斷發(fā)展，人工智能技術(shù)由弱人工智能向強(qiáng)人工智能轉(zhuǎn)變在不久的將來具有可能性。在將來制造強(qiáng)人工智能機(jī)器人具有技術(shù)可行性的條件下，就人類是否應(yīng)當(dāng)制造強(qiáng)人工智能機(jī)器人而言，在刑法學(xué)界引發(fā)了熱烈的討論。有學(xué)者認(rèn)為，我們應(yīng)當(dāng)鼓勵強(qiáng)人工智能技術(shù)的發(fā)展，允許制造強(qiáng)人工智能機(jī)器人，并指出人工智能技術(shù)是當(dāng)下我們重點(diǎn)發(fā)展的技術(shù)，所以，刑法對涉人工智能技術(shù)犯罪的規(guī)制應(yīng)保持適當(dāng)?shù)南薅龋荒茏铚踔炼髿⑷斯ぶ悄芗夹g(shù)的創(chuàng)新和發(fā)展。①參見劉憲權(quán)：《人工智能：刑法的時代挑戰(zhàn)》，上海人民出版社2018年版，第108頁。但是，也有學(xué)者對此表示質(zhì)疑，認(rèn)為當(dāng)強(qiáng)人工智能機(jī)器的利益與人類利益沖突時，未來遠(yuǎn)比人類智慧強(qiáng)大的、具有自主意識的強(qiáng)人工智能機(jī)器人必然全面碾壓人類反抗，使人類處于被奴役甚至滅絕的境地。②參見皮勇：《人工智能刑事法治的基本問題》，《比較法研究》2018年第5期。筆者認(rèn)為，鑒于人工智能技術(shù)已經(jīng)給人類社會在生產(chǎn)生活、文化教育、醫(yī)療活動等方面帶來的有益成果，將來隨著強(qiáng)人工智能技術(shù)發(fā)展有可能給人類社會帶來更多方面的便利，強(qiáng)人工智能機(jī)器人的研發(fā)成為時代發(fā)展的必然趨勢。我們應(yīng)當(dāng)順應(yīng)這種趨勢，使強(qiáng)人工智能機(jī)器人更好地為人類服務(wù)。但是，正如有學(xué)者所指出的，安全是人工智能時代的核心法價值，安全價值是對整個社會秩序穩(wěn)定的維護(hù)。③參見吳漢東：《人工智能時代的制度安排與法律規(guī)制》，《法律科學(xué)》2017年第5期。我們必須對強(qiáng)人工智能機(jī)器人的出現(xiàn)給人類社會安全所帶來的巨大風(fēng)險引起警惕，并采取行之有效的方法進(jìn)行防范和控制，從而把社會風(fēng)險降到最低。筆者認(rèn)為，綜合考慮強(qiáng)人工智能可能給人類社會帶來的風(fēng)險，發(fā)展強(qiáng)人工智能技術(shù)必須符合以下3個前提條件：第一，為了維護(hù)整個社會的安全，強(qiáng)人工智能機(jī)器人的應(yīng)用范圍必須受到嚴(yán)格限制。不能將強(qiáng)人工智能機(jī)器人應(yīng)用于武器系統(tǒng)管理、人類基因圖譜等關(guān)乎人類安全的重要領(lǐng)域，否則必將給整個社會的安全帶來更大的風(fēng)險和挑戰(zhàn)；第二，強(qiáng)人工智能機(jī)器人必須受到有效控制；第三，應(yīng)當(dāng)建立一系列針對強(qiáng)人工智能機(jī)器人的民事和行政方面的法律法規(guī)，使強(qiáng)人工智能技術(shù)的應(yīng)用在法的框架下運(yùn)行。

隨著強(qiáng)人工智能技術(shù)的發(fā)展，擁有強(qiáng)人工智能的智能機(jī)器人依據(jù)自己產(chǎn)生的獨(dú)立意志實施的犯罪也極有可能隨著人工智能技術(shù)的不斷發(fā)展而得以出現(xiàn)。強(qiáng)人工智能機(jī)器人不具有自然人所具有的生命權(quán)、身體權(quán)，卻具有自然人才能具有的獨(dú)立意識。假如其實施犯罪行為，應(yīng)當(dāng)由其自身承擔(dān)刑事責(zé)任還是由其背后的研發(fā)者、使用者承擔(dān)責(zé)任？如何確定強(qiáng)人工智能機(jī)器人實施犯罪的刑事責(zé)任的歸屬成為現(xiàn)今刑法學(xué)領(lǐng)域亟待解決的重要問題，科學(xué)技術(shù)的發(fā)展會使犯罪呈現(xiàn)出新形式。為了懲治這些新形式的犯罪，刑法往往會針對這些犯罪的特點(diǎn)規(guī)定新的犯罪類型。比如，機(jī)動車的出現(xiàn)導(dǎo)致大量交通事故的出現(xiàn)。為了更好地預(yù)防刑事風(fēng)險、懲治犯罪，刑法設(shè)立了交通肇事罪、危險駕駛罪等犯罪類型，飛機(jī)的出現(xiàn)給犯罪分子提供了新的犯罪工具。為此，刑法規(guī)定了劫持航空器罪等犯罪類型。信息網(wǎng)絡(luò)技術(shù)的發(fā)展為一些別有用心的人提供了實施危害社會行為的“溫床”。為了更好地規(guī)制這些行為，刑法規(guī)定了非法侵入計算機(jī)信息系統(tǒng)罪、破壞計算機(jī)信息系統(tǒng)罪等犯罪類型。同樣，隨著人工智能技術(shù)的不斷發(fā)展，利用人工智能實施犯罪的情況也會大量出現(xiàn)，其中涉及許多新形式的犯罪行為，例如，竊取人工智能技術(shù)所產(chǎn)生的數(shù)據(jù)庫里的數(shù)據(jù)并進(jìn)行傳播的行為，攻擊人工智能技術(shù)系統(tǒng)從而使自己的違法犯罪行為逃脫應(yīng)有處罰的行為等等。這些利用人工智能技術(shù)而實施的行為具有很強(qiáng)的社會危害性，依據(jù)現(xiàn)有的刑事法律并不能有效地懲治此類行為，這在客觀上要求刑法有針對性地增設(shè)犯罪類型，以懲罰這些利用人工智能技術(shù)實施的新形式的犯罪行為。

二、人工智能時代犯罪主體的范圍問題

人工智能時代的到來給人類社會帶來了巨大風(fēng)險，我們應(yīng)當(dāng)怎樣從刑法的角度出發(fā)應(yīng)對這些風(fēng)險？要很好地回答這個問題，就必須對人工智能犯罪主體的范圍進(jìn)行討論，假如能夠賦予人工智能機(jī)器人犯罪主體資格并承擔(dān)刑事責(zé)任，這個問題就能夠迎刃而解。但是，無論從刑法理論還是從實踐出發(fā)，人工智能機(jī)器人都不能成為犯罪主體；將其作為犯罪主體承擔(dān)刑事責(zé)任，不具有可行性。我國傳統(tǒng)刑法理論認(rèn)為，犯罪主體是指實施危害社會的行為并依法應(yīng)負(fù)刑事責(zé)任的自然人和單位。①參見高銘暄、馬克昌：《刑法學(xué)》（第5版），北京大學(xué)出版社2011年版，第82頁。自然人犯罪主體應(yīng)當(dāng)具備以下兩個方面的條件：第一，犯罪主體必須具有自然人人格；第二，犯罪主體必須具備刑事責(zé)任能力。單位犯罪的主體應(yīng)當(dāng)具備以下兩個方面的條件：第一，單位犯罪的主體包括公司、企業(yè)、事業(yè)單位、機(jī)關(guān)、團(tuán)體；第二，只有法律明文規(guī)定單位可以成為犯罪主體的犯罪，才存在單位犯罪及單位承擔(dān)刑事責(zé)任的問題。②同注①，第82頁、第101頁。依據(jù)上述刑法理論，人工智能機(jī)器人顯然不能夠成為犯罪主體。既然人工智能機(jī)器人并非我國刑法明文規(guī)定的犯罪主體，目前將其作為犯罪主體進(jìn)行處罰就明顯違反了罪刑法定原則。就人工智能時代犯罪主體的范圍應(yīng)否擴(kuò)展至智能機(jī)器人的問題，有觀點(diǎn)主張，智能機(jī)器人一旦擁有屬于自己的獨(dú)立的辨認(rèn)能力和控制能力，即擁有了刑事責(zé)任能力。在這種情況下，如果智能機(jī)器人實施了嚴(yán)重危害社會的犯罪行為，完全可以成為獨(dú)立的刑事責(zé)任主體。③參見劉憲權(quán)、朱彥：《人工智能時代對傳統(tǒng)刑法理論的挑戰(zhàn)》，《上海政法學(xué)院學(xué)報（法治論叢）》2018年第2期。筆者認(rèn)為，上述賦予智能機(jī)器人犯罪主體地位的觀點(diǎn)值得商榷。雖然強(qiáng)人工智能機(jī)器人擁有獨(dú)立的意志以及辨認(rèn)能力、控制能力，但同樣不能成為犯罪主體，不承擔(dān)刑事責(zé)任。

（一）弱人工智能機(jī)器人不能成為犯罪主體，不承擔(dān)刑事責(zé)任

弱人工智能機(jī)器人并不具有自己的獨(dú)立意志，只是在編程的范圍內(nèi)實施行為，是人類為實現(xiàn)自己目的而制造的工具，不能成為犯罪主體并承擔(dān)刑事責(zé)任。一方面，弱人工智能機(jī)器人只是犯罪分子實施犯罪時所使用的工具，并不具有自己獨(dú)立的意識和意志。眾所周知，犯罪分子為實現(xiàn)犯罪目的所采用的工具和手段可謂五花八門。犯罪分子為實現(xiàn)剝奪他人生命權(quán)的犯罪目的，會使用刀具、槍械、交通工具、動物等作為犯罪工具。在犯罪行為實施過程中，刀具、槍械、交通工具、動物等沒有獨(dú)立意志，當(dāng)然不可能成為犯罪主體。同樣，自然人可以通過對弱人工智能的編程系統(tǒng)進(jìn)行特定設(shè)置或者修改從而以智能機(jī)器人為媒介達(dá)到自己不可告人的犯罪目的。在這種情況下，借助弱人工智能機(jī)器人實施的犯罪行為所造成的危害雖然有可能比使用一般犯罪工具實施犯罪行為所造成的危害更為惡劣，但是，其沒有自己的獨(dú)立意志，本質(zhì)上是犯罪分子為實現(xiàn)犯罪目的而使用的工具，與上文所述的沒有自己獨(dú)立意志的刀具、槍械、交通工具、寵物等并無二致。在這種情況下，智能機(jī)器人當(dāng)然不能夠成為犯罪主體，不能承擔(dān)刑事責(zé)任。另一方面，弱人工智能機(jī)器人沒有刑法意義上的辨認(rèn)和控制自己行為的能力。刑事責(zé)任能力與辨認(rèn)能力和控制能力之間也存在有機(jī)聯(lián)系。辨認(rèn)能力是刑事責(zé)任能力的基礎(chǔ)，控制能力是刑事責(zé)任能力的關(guān)鍵。弱人工智能機(jī)器人受到編程程序的控制，沒有自己的獨(dú)立意志，更談不上具有自然人所擁有的刑法意義上的辨認(rèn)能力和控制能力，其只能夠根據(jù)編程來實施編程人員希望其實施的行為，其辨認(rèn)能力和控制能力受到自然人的操縱，是依附于自然人的辨認(rèn)能力和控制能力的。這樣，就只有操縱弱人工智能機(jī)器人實施犯罪的自然人才具有刑法意義上的控制能力和辨認(rèn)能力，才是刑事責(zé)任的真正承擔(dān)者。由此可見，弱人工智能機(jī)器人不能成為犯罪主體。對于弱人工機(jī)器人所實施的故意犯罪行為，應(yīng)由設(shè)定或改變?nèi)踔悄軝C(jī)器人編程而控制弱智能機(jī)器人的自然人作為犯罪主體，承擔(dān)相應(yīng)的刑事責(zé)任。值得注意的是，弱人工智能機(jī)器人有可能因為研發(fā)者或使用者的過失而實施犯罪，這里的過失包括研發(fā)者或使用者因疏忽大意沒有預(yù)見到弱人工智能機(jī)器人可能造成損害的疏忽大意的過失和研發(fā)者或使用者已經(jīng)預(yù)見到弱人工智能機(jī)器人可能造成損害，但輕信這種情況能夠避免而過于自信的過失。在這種情況下，如果弱人工智能機(jī)器人實施了過失犯罪的行為并確實造成了危害結(jié)果，對于相關(guān)研發(fā)者或使用者而言，就應(yīng)以相應(yīng)的過失犯罪追究刑事責(zé)任。有觀點(diǎn)認(rèn)為，囿于一定地域內(nèi)社會歷史發(fā)展階段與水平的限制，人類所掌握的人工智能技術(shù)完全可能無法徹底消除人工智能的安全風(fēng)險，亦即人工智能的安全系數(shù)與標(biāo)準(zhǔn)的提高還有賴于人工智能技術(shù)的進(jìn)一步成熟。在此情況下，我們不應(yīng)追究研發(fā)者和使用者的責(zé)任。對于最終導(dǎo)致的危害結(jié)果，可以按刑法中的意外事件處理。①參見劉憲權(quán)：《人工智能時代的刑事風(fēng)險與刑法應(yīng)對》，《法商研究》2018年第1期。筆者對這種觀點(diǎn)表示贊同。智能機(jī)器人作為人類社會發(fā)展到一定階段的產(chǎn)物，其必然會帶來一定的風(fēng)險。研發(fā)者和使用者在當(dāng)前認(rèn)知條件下盡到了注意義務(wù)，且在現(xiàn)有條件下無法預(yù)知人工智能的刑事風(fēng)險，也就談不上具有疏忽大意的過失或者過于自信的過失。如果對這種行為進(jìn)行處罰，會阻礙人工智能技術(shù)的發(fā)展，不符合刑事政策的要求，因此，在這種情況下，就不應(yīng)當(dāng)追究人工智能機(jī)器人研發(fā)者和使用者的刑事責(zé)任。

（二）強(qiáng)人工智能機(jī)器人也不能成為犯罪主體，不承擔(dān)刑事責(zé)任

與弱人工智能機(jī)器人相比，強(qiáng)人工智能則擁有獨(dú)立的意志，能夠在編程的范圍外實施相應(yīng)的行為。對于這種強(qiáng)人工智能機(jī)器人所實施的犯罪行為，可否以人工智能機(jī)器人為犯罪主體，并由其承擔(dān)刑事責(zé)任，是一個亟待解決的問題。有觀點(diǎn)認(rèn)為，人工智能時代，我們不得不警惕人類設(shè)計和編制的程序無法完全控制住“頭腦”越來越發(fā)達(dá)的智能機(jī)器人的行為，機(jī)器人完全可以按照自主意識和意志實施嚴(yán)重危害社會的犯罪行為。在這種情況下，智能機(jī)器人完全具有獨(dú)立的辨認(rèn)能力和控制能力，可以成為刑事責(zé)任主體并需要承擔(dān)刑事責(zé)任。②參見劉憲權(quán)、胡荷佳：《論人工智能時代智能機(jī)器人的刑事責(zé)任能力》，《法學(xué)》2018年第1期。筆者認(rèn)為，這種觀點(diǎn)從根本上動搖和改變了傳統(tǒng)刑法學(xué)關(guān)于犯罪主體方面的規(guī)定，其合理性是值得商榷的。支持將強(qiáng)人工智能機(jī)器人作為犯罪主體的觀點(diǎn)認(rèn)為強(qiáng)人工智能機(jī)器人能夠成為犯罪主體的理由如下：第一，在設(shè)計和編制的程序范圍外實施行為時，智能機(jī)器人的行為實現(xiàn)的是自主意志而非他人意志；第二，智能機(jī)器人在設(shè)計和編制的程序范圍外的行為相比于傳統(tǒng)理論對于“行為”的定義，除了不滿足主體是具有生命體的“人”之要素之外，其他的要素均符合行為理論要求。智能機(jī)器人在設(shè)計和編制的程序范圍外的行為可以成為刑法學(xué)意義上的“行為”；第三，對智能機(jī)器人完全可以課處刑罰，這符合刑罰的目的，且有利于降低社會治理成本。③同注②。支持這一觀點(diǎn)的理由還包括：在設(shè)計和編制的程序外實施行為的智能機(jī)器人具有辨認(rèn)能力和控制能力，而我們完全可以將刑事責(zé)任能力直接理解為辨認(rèn)能力和控制能力，所以也應(yīng)當(dāng)認(rèn)為此類智能機(jī)器人具有刑事責(zé)任能力。④參見劉憲權(quán)、朱彥：《人工智能時代對傳統(tǒng)刑法理論的挑戰(zhàn)》，《上海政法學(xué)院學(xué)報（法治論叢）》2018年第2期。筆者認(rèn)為，將強(qiáng)人工智能機(jī)器人作為犯罪主體的觀點(diǎn)忽視了自然人與智能機(jī)器人的本質(zhì)區(qū)別，同時也有悖刑法法理，是很難成立的。這種觀點(diǎn)的缺陷主要包括以下幾個方面：

第一，將強(qiáng)人工智能機(jī)器人作為犯罪主體的觀點(diǎn)忽視了自然人與智能機(jī)器人的區(qū)別，是形而上學(xué)的觀點(diǎn)。具有刑事任能力，就必須具備辨認(rèn)能力和控制能力，對此無需多論。然而，認(rèn)為強(qiáng)人工智能機(jī)器人依靠自我意識而具有辨認(rèn)能力和控制能力，便具有刑事責(zé)任能力，能夠成為犯罪主體的觀點(diǎn)卻過于膚淺，對自然人和強(qiáng)人工智能機(jī)器人之間的本質(zhì)區(qū)別缺乏由表及里的審視。自然人作為有血有肉的社會活動主體，其與智能機(jī)器人具有天壤之別，這體現(xiàn)在自然人在社會中有多重身份、自然人作為社會中的人受到倫理道德規(guī)范的約束、自然人的本質(zhì)是一切社會關(guān)系的總和，而這些都是機(jī)器人所不具備的特性。自然人的這些特性決定了即使出現(xiàn)了具有辨認(rèn)能力和控制能力的強(qiáng)人工智能機(jī)器人，將其作為犯罪主體的觀點(diǎn)也大大超出了預(yù)測可能性的范圍，容易造成“道德危機(jī)”，很難被社會大眾所接受。正如相關(guān)觀點(diǎn)所指出的，在理解法律主體概念的時候，必須考慮人的其他面相，以更多地區(qū)別于智能機(jī)器人。如果僅僅把人視為理性的過于抽象的法律主體，那么，作為人的其他面相就消失了。人不是僅僅具有身體的一個實體存在，同時也是向他者、與他者共性的存在。顯然，承認(rèn)智能機(jī)器人的公法主體地位是十分困難的。①參見王勇：《人工智能時代的法律主體理論構(gòu)造——以智能機(jī)器人為切入點(diǎn)》，《理論導(dǎo)刊》2018年第2期。還應(yīng)當(dāng)注意的是，自然人的獨(dú)立意志是通過自然人在人類社會中受到倫理道德和社會規(guī)則約束的情況下形成的獨(dú)立意志，而強(qiáng)人工智能機(jī)器人的獨(dú)立意志并不受到人類社會倫理道德和社會規(guī)則的約束。因此，自然人的獨(dú)立意志與強(qiáng)人工智能機(jī)器人的獨(dú)立意志不具有對等性，很難將智能機(jī)器人的自由意志擬制為自然人的自由意志。由此可見，將強(qiáng)人工智能機(jī)器人作犯罪主體的觀點(diǎn)超出了刑法中犯罪主體的“人”的概念具有的含義，在刑法立法者對犯罪主體的“人”的意識之外主張解釋者自己所設(shè)定的原理；認(rèn)識到智能機(jī)器人不是刑法規(guī)定的犯罪主體，以強(qiáng)人工智能機(jī)器人依據(jù)自己的意志實施具有相似社會危害性行為為由而主張將其作為犯罪主體，實質(zhì)上是對刑法規(guī)定的“人”的概念進(jìn)行類推解釋的結(jié)果，這顯然是不妥當(dāng)?shù)摹?/p>

第二，將強(qiáng)人工智能機(jī)器人作為犯罪主體，缺乏相應(yīng)的刑罰措施。“沒有刑罰就沒有犯罪”，這是西方刑法上的一句著名格言。這句格言顯然是就立法而言的，即某種行為是法律所禁止的，但如果刑法沒有對該行為規(guī)定刑罰后果，該行為就是無罪的；反之，如果刑法對某種行為規(guī)定了刑罰后果，該行為便是犯罪，而不是其他違法行為，我國刑法沒有直接對犯罪規(guī)定非刑罰處罰后果的條文。因此，在我國，仍然可以說沒有刑罰就沒有犯罪。②參見張明楷：《刑法格言的展開》（第3版），北京大學(xué)出版社2013年版，第186-188頁。如果要將強(qiáng)人工智能機(jī)器人作為犯罪主體，就必須對強(qiáng)人工智能機(jī)器人判處刑罰，否則將強(qiáng)人工智能機(jī)器人作為犯罪主體就失去了意義。我國現(xiàn)有的刑罰體系包括管制、拘役、有期徒刑、無期徒刑、死刑在內(nèi)的5種主刑和包括罰金、剝奪政治權(quán)利、沒收財產(chǎn)、驅(qū)逐出境在內(nèi)的4種附加刑。但是，將這些刑罰適用于智能機(jī)器人是不可思議的。由于智能機(jī)器人不具有如同自然人一樣的人身權(quán)，對智能機(jī)器人適用諸如管制、有期徒刑等限制或剝奪自由刑，不會讓智能機(jī)器人感到人身痛苦，由此刑罰的報應(yīng)功能便無法實現(xiàn)；而智能機(jī)器人被拘禁期間也很難在監(jiān)獄里得到改造，由此不但刑罰的預(yù)防功能無法實現(xiàn)，反而會浪費(fèi)大量的社會資源。由于智能機(jī)器人是由特殊材料制成的，其不具有如同自然人一般的生命權(quán)，對智能機(jī)器人適用死刑這種生命刑也不具有可操作性。智能機(jī)器人更沒有財產(chǎn)和政治權(quán)利，對其適用罰金、沒收財產(chǎn)、剝奪政治權(quán)利和驅(qū)逐出境也不具有現(xiàn)實意義。由此可見，在現(xiàn)有的刑罰體系下，不可能對智能機(jī)器人適用刑罰。而沒有刑罰就沒有犯罪，這樣，將智能機(jī)器人作為犯罪主體而對其不實施刑罰處罰的觀點(diǎn)就是不可取的。

第三，將強(qiáng)人工智能機(jī)器人作為犯罪主體并對其設(shè)定獨(dú)特刑罰的觀點(diǎn)無法實現(xiàn)刑罰的機(jī)能。由于對智能機(jī)器人判處現(xiàn)有的刑罰在刑法理論上是不科學(xué)的，在實踐中是不可行的，在這種情況下將強(qiáng)人工智能機(jī)器人作為犯罪主體的觀點(diǎn)就是無法自圓其說的。為了使強(qiáng)人工智能機(jī)器人可以成為犯罪主體的觀點(diǎn)在理論和實踐中得到支持，有學(xué)者指出，我們完全可以通過對刑罰體系的重構(gòu)來實現(xiàn)對智能機(jī)器人的刑事處罰。智能機(jī)器人雖然沒有生命，但其行為受到編程的影響，編程之于智能機(jī)器人猶如生命之于自然人。我們可以通過對自然人的生命、自由進(jìn)行限制來對自然人進(jìn)行定罪處罰，我們也同樣可以通過對智能機(jī)器人的編程進(jìn)行調(diào)整來對其進(jìn)行定罪處罰。適用于智能機(jī)器人的刑罰有3種，分別為刪除數(shù)據(jù)、修改編程、永久銷毀。①參見劉憲權(quán)、朱彥：《人工智能時代對傳統(tǒng)刑法理論的挑戰(zhàn)》，《上海政法學(xué)院學(xué)報（法治論叢）》2018年第2期。筆者認(rèn)為，這種觀點(diǎn)是不合理的，其漏洞集中體現(xiàn)在無法實現(xiàn)刑罰的機(jī)能。刑罰的機(jī)能，是指國家制定、裁量和執(zhí)行刑罰對社會與社會成員可能產(chǎn)生的積極作用。②參見馬克昌、盧建平：《外國刑法學(xué)總論（大陸法系）》（第2版），中國人民大學(xué)出版社2016年版，第368頁。刑法學(xué)者對刑罰機(jī)能的理解大致有三分法和四分法。三分法將刑罰機(jī)能分為對犯罪人的功能、對社會的功能和對被害人的功能。日本刑法學(xué)者牧野英一認(rèn)為，刑罰主要具備以下3個方面的機(jī)能：第一，對犯罪人方面，刑罰首先對犯人發(fā)揮作用，稱之為特別預(yù)防；第二，對社會方面，刑罰又以警戒社會的一般人以防后者的傾覆為目的，謂之一般預(yù)防，而同時又有滿足一般社會報應(yīng)思想的作用；第三，對被害者方面，刑罰對被害者有給予滿足的作用。③參見[日]牧野英一：《日本刑法》，有斐閣1939年版，第576頁。四分法將刑罰機(jī)能分為報復(fù)感情綏靖機(jī)能、保安機(jī)能、贖罪機(jī)能和預(yù)防機(jī)能。日本著名刑法學(xué)者西原春夫持有這種主張，認(rèn)為所謂報復(fù)感情綏靖機(jī)能，是指使被害者及其家屬，進(jìn)而包括社會一般的報復(fù)感情觀得以和緩并滿足的機(jī)能；所謂保安機(jī)能，是由于將犯人隔離于社會而保障社會安全的機(jī)能；所謂贖罪機(jī)能，是指受刑者自己由于受到刑罰的痛苦而贖罪；預(yù)防機(jī)能同樣指的是針對一般人，利用威懾來防止犯罪的機(jī)能，以及針對犯人本人，使其不再重新犯罪的機(jī)能。④參見[日]西原春夫：《刑法的根基與哲學(xué)》，顧肖榮等譯，法律出版社2004年版，第92頁。由此可見，刑罰的機(jī)能包括刑罰的報應(yīng)機(jī)能和預(yù)防機(jī)能兩大方面，而在設(shè)定刑罰時必須滿足刑罰的這兩種機(jī)能。由于強(qiáng)人工智能機(jī)器人具有認(rèn)識能力和控制能力，對強(qiáng)人工智能機(jī)器人施加刑罰具有一定的預(yù)防效果，這體現(xiàn)在對智能機(jī)器人的編程進(jìn)行修改和刪除可以使實施犯罪行為的機(jī)器人得到教育和改造，從而從一定程度上實現(xiàn)特別預(yù)防的效果；而且這種刑罰對其他具有獨(dú)立意識的智能機(jī)器人產(chǎn)生震懾，使其他智能機(jī)器人考慮到刑罰后果而自覺控制自己的行為，在一定程度上實現(xiàn)一般預(yù)防的效果。但是，也應(yīng)當(dāng)看到，對強(qiáng)人工智能機(jī)器人施加刑罰，不利于實現(xiàn)刑罰的報應(yīng)機(jī)能。對強(qiáng)人工智能機(jī)器人實施諸如刪除數(shù)據(jù)、修改編程、永久銷毀一類的刑罰措施，無法使被害者及其家屬，進(jìn)而包括社會一般的報復(fù)感情觀得以和緩并滿足。例如，自然人實施故意危害公共安全的犯罪行為，造成多人傷亡后果的，在我國的刑事司法中極有可能以危害公共安全的犯罪被判處死刑。這樣，被害人和社會的報復(fù)感情就可以得到宣泄和滿足。然而，如果具有辨認(rèn)能力和控制能力的強(qiáng)人工智能機(jī)器人實施故意危害公共安全的犯罪行為并造成多人傷亡后果的，對其施加刪除數(shù)據(jù)、修改程序一類刑罰措施，則根本不可能使被害人和社會的報復(fù)感情得到滿足?？赡苡腥苏J(rèn)為，單位可以成為刑法擬制的犯罪主體，而強(qiáng)人工智能機(jī)器人具有獨(dú)立意識，更可以成為擬制的犯罪主體。這種觀點(diǎn)忽視了單位具有一定的財產(chǎn)，其作為犯罪主體可以承擔(dān)罰金刑，從而使被害人和社會的報復(fù)感情得到滿足，而智能機(jī)器人則沒有財產(chǎn)權(quán)，對其不能實施罰金刑，由此也就不能使被害人和社會的報復(fù)感情得到滿足。這都體現(xiàn)出將強(qiáng)人工智能機(jī)器人作為犯罪主體并對其設(shè)定獨(dú)特刑罰的觀點(diǎn)是不合理的。

第四，將強(qiáng)人工智能機(jī)器人作為犯罪主體的觀點(diǎn)違反了適用刑法人人平等的基本原則。刑法的基本原則，是指貫穿全部刑法規(guī)范、具有指導(dǎo)和制約全部刑事立法和刑事司法的意義，并體現(xiàn)我國刑事法治的基本精神的準(zhǔn)則。罪刑法定原則、適用刑法人人平等原則、罪責(zé)刑相適應(yīng)原則無可置疑地應(yīng)當(dāng)屬于我國刑法的基本原則。①參見高銘暄、馬克昌：《刑法學(xué)》（第5版），北京大學(xué)出版社2011年版，第24頁。刑法的基本原則對刑事立法和刑事司法所具有的的巨大指導(dǎo)意義是毋庸置疑的，任何刑法學(xué)觀點(diǎn)都應(yīng)當(dāng)符合刑法基本原則的精神。適用刑法人人平等原則和含義是：對任何人犯罪，不論犯罪人的家庭出身、社會地位、職業(yè)性質(zhì)、財產(chǎn)情況、政治面貌、才能業(yè)績?nèi)绾?，都?yīng)當(dāng)追究刑事責(zé)任，一律平等地適用刑法，依法定罪、量刑和行刑，不允許任何人有超越法律的特權(quán)。②同注①，第28頁。將強(qiáng)人工智能機(jī)器人作為刑事主體的觀點(diǎn)則違反了刑法面前人人平等原則。這體現(xiàn)在刑法不可能對強(qiáng)人工智能機(jī)器人與自然人一律平等地適用刑法，依法定罪、量刑和行刑。假使自然人以極其兇殘的手段故意殺害被害人，大多會被判處故意殺人罪并處以死刑或長期監(jiān)禁；而強(qiáng)人工智能機(jī)器人作為犯罪主體實施了這類行為，對其判處故意殺人罪，卻最多只能對其判處銷毀或者刪除數(shù)據(jù)等刑罰措施，這樣就帶來了平等定罪卻不平等量刑和行刑的問題。自然人的生命權(quán)對于自然人來講只有一次，其珍貴性對于單一的自然人個體而言是至高無上的，而對于智能機(jī)器人而言，其不具有生命權(quán)和身體權(quán)，對其實施刪除數(shù)據(jù)甚至銷毀等刑罰充其量只算是一種形式意義上的處罰，不能使智能機(jī)器人感到生命被剝奪的痛苦和身體上的痛苦。如果在實施相同犯罪行為的情況下對智能機(jī)器人判處不同的刑罰，不但被判處死刑的自然人犯罪人會感到不公平和不可接受，整個社會也會感到不公平，甚至對這種不平等量刑的情況感到滑稽，從而使社會大眾對刑法公平、公正的理念產(chǎn)生動搖，也將令全社會對智能機(jī)器人犯罪陷入一片恐慌之中。由此可見，將強(qiáng)人工智能機(jī)器人作為犯罪主體的觀點(diǎn)違背了刑法面前人人平等原則的精神，在理論和實踐層面是站不住腳的。

此外，有學(xué)者認(rèn)為，既然單位能夠成為犯罪主體，那么強(qiáng)人工智能機(jī)器人也能夠成為犯罪主體。該學(xué)者還將強(qiáng)人工智能機(jī)器人與單位的法律地位做了一番對比，指出明確規(guī)定單位犯罪的國家通常承認(rèn)，單位也有意志，只不過其意志表現(xiàn)為單位內(nèi)部所有人的共同意志罷了，但歸根結(jié)底是一種自由意志，并且是一種區(qū)別于自然人的意志。通過深入學(xué)習(xí)，智能機(jī)機(jī)器人完全可能產(chǎn)生設(shè)計和編制的程序外的自由意志，那么便沒有理由否認(rèn)智能機(jī)器人的自由意志，智能機(jī)器人是介于普通機(jī)器人與人之間且是由人創(chuàng)造出的“人工人”。從法律屬性上看，智能機(jī)器人比單位更接近于法律意義上的人，我們應(yīng)當(dāng)關(guān)注智能機(jī)器人的自由意志并賦予其法律上的主體資格。由此，智能機(jī)器人一旦符合犯罪主體資格，那么其實施了嚴(yán)重危害社會的犯罪行為，當(dāng)然就可以承擔(dān)刑事責(zé)任。③參見劉憲權(quán)：《人工智能：刑法的時代挑戰(zhàn)》，上海人民出版社2018年版，第227頁。筆者認(rèn)為，上述觀點(diǎn)很難站得住腳：一方面，強(qiáng)人工智能機(jī)器人雖然具有自由意志，但是其自由意志與自然人的自由意志相差甚遠(yuǎn)，而單位的意志歸根結(jié)底反映的是單位內(nèi)部自然人的自由意志，而強(qiáng)人工智能機(jī)器人的自由意志不包含自然人在人類社會的屬性，不宜將其作為犯罪主體，否則極易引起人類社會秩序的混亂。另一方面，與單位相比，強(qiáng)人工智能機(jī)器人并不具有相應(yīng)的刑罰適應(yīng)能力。就單位犯罪的處罰而言，世界各國刑事立法和刑法理論上主要有兩種原則：一是雙罰制，即單位犯罪的，對單位和單位的直接責(zé)任人員均予以刑罰處罰；二是單罰制，即單位犯罪的，只處罰單位或只處罰單位的直接責(zé)任人員。對單位犯罪的，一般采取雙罰制的原則，即單位犯罪的，對單位判處罰金，同時對單位直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員判處刑罰。④同注①，第102頁。這體現(xiàn)了單位作為犯罪主體的刑罰適應(yīng)能力，刺破單位的面紗，其背后存在直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員，這些人都是自然人。當(dāng)單位構(gòu)成犯罪時，當(dāng)然可以對單位背后的這些自然人適用刑法針對自然人規(guī)定的一系列刑罰方式。然而，強(qiáng)人工智能機(jī)器人沒有生命權(quán)和身體權(quán)，不能適用這些針對自然人設(shè)置的刑罰方式；另一方面，由于單位具有一定的財產(chǎn)，可以被判處財產(chǎn)刑，而強(qiáng)人工智能機(jī)器人并不具有財產(chǎn)，不能夠?qū)ζ渑刑幉?zhí)行相關(guān)財產(chǎn)刑。由此決定，強(qiáng)人工智能機(jī)器人不能像單位一樣成為犯罪主體，認(rèn)為單位可以成為犯罪主體從而推斷強(qiáng)人工智能機(jī)器人可以成為犯罪主體的觀點(diǎn)是類推解釋的結(jié)果，不但在刑法理論上難以自圓其說，而且很難應(yīng)用于刑事司法實踐。

通過以上分析，筆者認(rèn)為，弱人工智能機(jī)器人和強(qiáng)人工智能機(jī)器人都不能夠成為犯罪主體，能夠成為犯罪主體的只能是智能機(jī)器人背后的自然人。關(guān)于自然人利用弱人工智能機(jī)器人實施故意犯罪以及涉及弱人工智能機(jī)器人的過失犯罪的犯罪主體問題以及刑事歸責(zé)問題，前文已有討論；而關(guān)于強(qiáng)人工智能機(jī)器人犯罪的犯罪主體及刑事歸責(zé)問題，筆者將在下文進(jìn)行進(jìn)一步的探討。

三、人工智能時代刑事風(fēng)險的刑法應(yīng)對措施

（一）濫用人工智能行為的刑法應(yīng)對措施

正如上文所論述的，人工智能技術(shù)的不斷發(fā)展給整個社會帶來的刑事風(fēng)險與日俱增，社會危害性越來越大，尤其是強(qiáng)人工智能機(jī)器人可能依靠獨(dú)立的意志實施犯罪，這更凸顯出從刑法立法上對濫用人工智能實施危害社會的行為創(chuàng)設(shè)新的犯罪類型的必要性。由于當(dāng)前對濫用人工智能實施犯罪行為的刑法研究方興未艾，濫用人工智能實施犯罪的形式也不充足，刑事立法尚不具備對濫用人工智能實施危害社會的行為規(guī)定大量法條的條件。然而，為化解目前人工智能技術(shù)所帶來的巨大刑事風(fēng)險，亟需通過相關(guān)罪名予以規(guī)制。為此，筆者建議設(shè)立“破壞人工智能管理秩序罪”，其中規(guī)定，濫用人工智能技術(shù)破壞人工智能管理秩序，情節(jié)嚴(yán)重的，按照破壞人工智能管理秩序罪論處。筆者認(rèn)為，在目前的環(huán)境下增設(shè)破壞人工智能管理秩序罪，具有其合理性：第一，從刑事立法上為濫用人工智能實施危害社會行為創(chuàng)設(shè)了新罪名，填補(bǔ)了此類犯罪行為在刑事立法上的空白；第二，人工智能管理秩序并不是橫空出世的概念，其內(nèi)容由民事法規(guī)和行政法規(guī)予以規(guī)定。設(shè)立新罪名，實際上構(gòu)建了一道民事、行政、刑事3種手段緊密銜接，懲治濫用人工智能行為的體系，充分發(fā)揮了民法、行政法、刑法在懲治不同情節(jié)濫用人工智能危害社會行為上的作用,而對破壞人工智能管理秩序情節(jié)嚴(yán)重的行為才作為犯罪論處的規(guī)定也充分體現(xiàn)了刑法的謙抑性。第三，對新罪名進(jìn)行如此設(shè)定，既考慮了當(dāng)前濫用人工智能實施犯罪行為的特征，又頗具前瞻性地對將來濫用人工智能實施犯罪行為的特征進(jìn)行了預(yù)見。隨著人工智能技術(shù)的不斷發(fā)展，濫用人工智能實施危害社會的行為將具有更多的形式，將來針對人工智能技術(shù)進(jìn)行規(guī)制的民事和行政法規(guī)必將如雨后春筍般不斷涌現(xiàn)。刑法作出如此規(guī)定，順應(yīng)了人工智能技術(shù)不斷發(fā)展的趨勢，避免了刑法在打擊新形式犯罪上的滯后性。也許有人會批評道，破壞人工智能管理秩序罪的設(shè)置過于籠統(tǒng)，不符合刑法明確性的要求。但是，我們更應(yīng)該看到的是如此設(shè)定在懲治犯罪和保障人權(quán)上所具有的顯著作用?；厥淄簦轮袊黜検聵I(yè)的發(fā)展剛剛起步，刑事法學(xué)研究方興未艾之時，我國刑法也曾經(jīng)設(shè)定了諸如流氓罪等口袋罪名。雖然這些罪名在刑法的明確性上有所欠缺，但是在客觀上卻符合當(dāng)時社會發(fā)展環(huán)境的需要，起到了懲治犯罪、保障人權(quán)的作用，完成了其歷史使命。同理，為了更好地懲治當(dāng)前濫用人工智能危害社會的行為，有必要增設(shè)一個涵蓋面較廣的具有兜底性質(zhì)的罪名，以避免無法可依情況的出現(xiàn)。而依據(jù)今后人工智能發(fā)展的新形勢要求，對個別行為需要單獨(dú)增設(shè)新罪名時，完全可以以刑法修正案的形式對相關(guān)新罪名進(jìn)行增設(shè)；而對于人工智能發(fā)展新形勢下新出現(xiàn)的亟待解決的疑難問題，也可以通過立法解釋和司法解釋加以解決。

（二）強(qiáng)人工智能機(jī)器人犯罪的刑法應(yīng)對措施

如上所述，將強(qiáng)人工智能機(jī)器人作為犯罪主體，由強(qiáng)人工智能機(jī)器人承擔(dān)刑事責(zé)任的觀點(diǎn)是站不住腳的。那么，對強(qiáng)人工智能機(jī)器人實施的犯罪行為應(yīng)當(dāng)如何進(jìn)行歸責(zé)？刑法應(yīng)當(dāng)對此類行為作出何種規(guī)制才能夠在預(yù)防強(qiáng)人工智能技術(shù)所帶來的刑事風(fēng)險的同時促進(jìn)強(qiáng)人工智能技術(shù)的發(fā)展？對此，均需要進(jìn)行進(jìn)一步的探索。

在強(qiáng)人工智能機(jī)器人實施犯罪行為的場景下，雖然在表面上犯罪行為確實是由強(qiáng)人工智能機(jī)器人實施的，但是，正如上文所述，將強(qiáng)人工智能機(jī)器人作為犯罪主體是不符合刑法理論和刑事司法實踐要求的。由此，我們應(yīng)當(dāng)刺破強(qiáng)人工智能機(jī)器人的面紗，找尋其背后真正應(yīng)該承擔(dān)刑事責(zé)任的犯罪主體。由于強(qiáng)人工智能機(jī)器人具有自己的意識，具有認(rèn)識能力和控制能力，其所實施的犯罪行為很難直接由強(qiáng)人工智能機(jī)器人的研發(fā)者和使用者來承擔(dān)責(zé)任。當(dāng)然，如果智能機(jī)器人的研發(fā)者和使用者沒有盡到注意義務(wù)，已經(jīng)提前預(yù)見到自己的行為有可能生產(chǎn)出一個產(chǎn)生犯罪意識的強(qiáng)人工智能機(jī)器人或在使用中意識到強(qiáng)人工智能機(jī)器人有可能產(chǎn)生犯罪意識，卻放任機(jī)器人依據(jù)自己產(chǎn)生的犯罪意識實施犯罪行為并造成危害結(jié)果發(fā)生，后來智能機(jī)器人果然基于這種扭曲意識實施犯罪行為的，應(yīng)當(dāng)作為相關(guān)犯罪的間接正犯承擔(dān)相應(yīng)的刑事責(zé)任。例如，強(qiáng)人工智能機(jī)器人的生產(chǎn)者在生產(chǎn)過程中意識到智能機(jī)器人的編程會使智能機(jī)器人產(chǎn)生扭曲意識，將來智能機(jī)器人可能基于此實施犯罪行為，卻放任其進(jìn)入相關(guān)領(lǐng)域。而智能機(jī)器人果然基于扭曲意識實施了犯罪行為，則對相關(guān)生產(chǎn)者應(yīng)當(dāng)按照相關(guān)犯罪的間接正犯進(jìn)行處罰；而如果智能機(jī)器人的研發(fā)者和使用者應(yīng)該預(yù)見到所生產(chǎn)或使用的強(qiáng)人工智能機(jī)器人有可能產(chǎn)生犯罪意識，因為疏忽大意沒有預(yù)見或已經(jīng)預(yù)見卻輕信能夠避免，則應(yīng)當(dāng)對智能機(jī)器人犯罪承擔(dān)相應(yīng)的過失責(zé)任。但是，也應(yīng)當(dāng)注意的是，這樣的情況畢竟是極少數(shù)。強(qiáng)人工智能機(jī)器人的生產(chǎn)者、使用者在生產(chǎn)、使用強(qiáng)人工智能機(jī)器人時，很難預(yù)見到強(qiáng)人工智能機(jī)器人今后是否會產(chǎn)生犯罪意識，也很難在生產(chǎn)、使用過程中對強(qiáng)人工智能機(jī)器人產(chǎn)生犯罪意識具有注意能力。在這種情況下，似乎就沒有人對智能機(jī)器人的犯罪行為負(fù)責(zé)任，而這也給刑法學(xué)界帶來了困惑。

筆者認(rèn)為，基于強(qiáng)人工智能機(jī)器人實施犯罪行為的特殊性，不妨對強(qiáng)人工智能機(jī)器人設(shè)定相關(guān)的監(jiān)管人員。這樣，當(dāng)強(qiáng)人工智能機(jī)器人依據(jù)自己的意志實施犯罪行為時，對智能機(jī)器人負(fù)有監(jiān)管義務(wù)且沒有履行或充分履行該義務(wù)的人員就要負(fù)擔(dān)相應(yīng)的刑事責(zé)任。隨著科技的不斷發(fā)展，在對強(qiáng)人工智能機(jī)器人實施的危害行為予以懲治方面引進(jìn)替代責(zé)任已較為可行?？梢灶A(yù)見的是，在不久的將來，強(qiáng)人工智能機(jī)器人必然會出現(xiàn)并應(yīng)用在更廣泛的領(lǐng)域。屆時，強(qiáng)人工智能機(jī)器人給人類社會所帶來的各種道德、倫理風(fēng)險將大大增加，也會給社會帶來更大的風(fēng)險。根據(jù)阿西莫夫提出的智能機(jī)器人三定律，智能機(jī)器人不得危害人類、必須服從人類的命令、在不違反第一條和第二條的情況下必須保護(hù)自己。①參見[美]艾薩克·阿西莫夫：《我，機(jī)器人》，葉李華譯，江蘇文藝出版社2013年版，第59-60頁。如何保障強(qiáng)人工智能機(jī)器人不危害人類和最大限度地服從人類命令成為當(dāng)前社會必須解決的問題。對此，筆者認(rèn)為，由于刑法具有補(bǔ)充性，僅僅以刑法為手段不可能抑制犯罪，并且因為刑罰是剝奪人的自由、財產(chǎn)等極苛酷的制裁，應(yīng)當(dāng)限定為防止犯罪的最后手段。正如德國學(xué)者李斯特所言，最好的社會政策就是最好的刑事政策，應(yīng)當(dāng)首先積極謀求從技術(shù)和社會的角度對強(qiáng)人工智能的危害行為進(jìn)行防衛(wèi)。鑒于強(qiáng)人工智能機(jī)器人給人類社會帶來的巨大風(fēng)險和挑戰(zhàn)，應(yīng)當(dāng)成立專門的監(jiān)管機(jī)構(gòu)對強(qiáng)人工智能機(jī)器人進(jìn)行監(jiān)管。這樣，就可以由精通人工智能技術(shù)的專業(yè)人員負(fù)責(zé)對強(qiáng)人工智能機(jī)器人予以監(jiān)督管理。但是，由于強(qiáng)人工智能機(jī)器人擁有自己獨(dú)立的思維意識，如何才能對其進(jìn)行有效管理便成為一個難題。在我國首個功夫科幻系列片《功夫機(jī)器俠·北腿篇》里，具有自主意識的強(qiáng)人工智能機(jī)器人“阿狗”被植入了特殊芯片，在其準(zhǔn)備著手實施針對自然人的暴力犯罪行為時智能系統(tǒng)將啟動自毀裝置，將智能機(jī)器人摧毀。筆者認(rèn)為，強(qiáng)人工智能機(jī)器人擁有自己的意識，而且在某些方面具備比自然人更強(qiáng)的能力。為了對強(qiáng)人工智能機(jī)器人進(jìn)行更加有效的監(jiān)管，可以考慮在強(qiáng)人工智能機(jī)器人的編程系統(tǒng)里設(shè)定“毀滅系統(tǒng)”。這樣，在強(qiáng)人工智能機(jī)器人產(chǎn)生犯罪意識時，相關(guān)的毀滅系統(tǒng)介入摧毀智能機(jī)器人的全部編程，使其變?yōu)闆]有任何意識的、冷冰冰的機(jī)器。待人類重新為其輸入編程系統(tǒng)后，再行恢復(fù)其相關(guān)能力。毀滅系統(tǒng)由專門的智能機(jī)器人監(jiān)管者負(fù)責(zé)安裝與維護(hù)。當(dāng)毀滅系統(tǒng)因故障失效時，監(jiān)管者可以通過使用手動遙控啟動毀滅程序摧毀強(qiáng)人工智能機(jī)器人的編程。如此一來，監(jiān)管者就承擔(dān)起對強(qiáng)人工智能機(jī)器人的監(jiān)管責(zé)任。如果因為監(jiān)管者沒有履行或充分履行監(jiān)管義務(wù)而導(dǎo)致強(qiáng)人工智能機(jī)器人實施犯罪行為的，則由監(jiān)管者承擔(dān)相應(yīng)的刑事責(zé)任。但是，由于在這種情況下，監(jiān)管者僅因為存在一定的失職行為從而過失導(dǎo)致危害結(jié)果的發(fā)生，而不是積極追求或放任危害結(jié)果的發(fā)生，對其不宜按照人工智能機(jī)器人所實施的行為進(jìn)行處罰，而應(yīng)當(dāng)針對人工智能監(jiān)管者增設(shè)管理機(jī)器人失職罪，并按照此罪對監(jiān)管者進(jìn)行刑事處罰。強(qiáng)人工智能機(jī)器人犯罪未遂的，監(jiān)管者不應(yīng)承擔(dān)相關(guān)的責(zé)任。此外，基于強(qiáng)人工智能機(jī)器人與自然人相比，可能實施具有更大社會危害性的行為，其犯罪行為會給被害人帶來更為嚴(yán)重的危害，單單對監(jiān)管者處以罰金刑顯然不能滿足對被害人的經(jīng)濟(jì)賠償。由此，如何滿足對被害人的經(jīng)濟(jì)賠償?shù)膯栴}也亟待解決。筆者認(rèn)為，應(yīng)當(dāng)推行對強(qiáng)人工智能機(jī)器人的強(qiáng)制保險制度。由此，如果強(qiáng)人工智能機(jī)器人實施嚴(yán)重危害行為的，則由保險公司承擔(dān)經(jīng)濟(jì)賠償責(zé)任。這樣就能夠充分利用現(xiàn)代社會的保險制度對被害人的損失加以彌補(bǔ)。

四、結(jié) 語

人工智能技術(shù)就像一柄雙刃劍，其快速發(fā)展既給人類社會帶來了更多的便利，推動了人類社會的快速發(fā)展，也給整個人類社會帶來了極大的風(fēng)險和挑戰(zhàn)。而對于人工智能機(jī)器人，尤其是隨著人工智能技術(shù)的不斷發(fā)展在將來出現(xiàn)的強(qiáng)人工智能機(jī)器人實施的危害社會的行為應(yīng)當(dāng)如何從刑法的維度進(jìn)行規(guī)制，成為一個亟待解決的難題。世異則事異，事異則備變。人工智能技術(shù)的刑事風(fēng)險所引發(fā)的討論才剛剛開始，伴隨著人工智能技術(shù)的快速發(fā)展和人類社會知識的創(chuàng)新，刑法理論也需要進(jìn)一步的發(fā)展，以應(yīng)對人工智能技術(shù)給整個社會帶來的日益復(fù)雜的刑事風(fēng)險。筆者認(rèn)為，刑法學(xué)者應(yīng)當(dāng)秉著實事求是的實踐精神和與時俱進(jìn)的創(chuàng)新精神，對人工智能時代的刑法完善途徑進(jìn)行積極探索，以構(gòu)建一整套防衛(wèi)人工智能刑事風(fēng)險的刑事法律制度體系，從而實現(xiàn)防衛(wèi)人工智能刑事風(fēng)險和推動人工智能技術(shù)不斷發(fā)展的有機(jī)統(tǒng)一。