李盈萱 張志光 鄭金華

摘要：人工智能技術及其應用發(fā)展，為我們敲響了智能時代人機安全的警鐘。但在人工智能技術尚未到達的時候，其刑事主體地位的認定，不宜操之過急，而應當理性審視其合理性、必要性與可行性，根據(jù)人工智能發(fā)展的實際情況，做好適當防范，以應對人工智能時代給刑法帶來的挑戰(zhàn)。

關鍵詞：人工智能;刑事責任主體;AI安全

近年來，隨著互聯(lián)網(wǎng)、大數(shù)據(jù)的快速崛起，人工智能的發(fā)展也進入了時代快車道。然而，就在人工智能技術日新月異，人工智能產(chǎn)品逐步走進人類生活的方方面面的時候，人工智能給世界帶來的安全挑戰(zhàn)也愈發(fā)清晰。在涉人工智能犯罪研究方面，關于人工智能機器人能否成為刑事責任主體、人工智能犯罪的刑事責任分配等問題成為爭論焦點。

一、人工智能的內(nèi)涵及發(fā)展現(xiàn)狀

人工智能，是通過賦予機器感知和模擬人類思維的能力，人工智能使機器達到乃至超越人類的智能。雖然近年來人工智能產(chǎn)業(yè)在我國乃至世界范圍內(nèi)仍呈高速發(fā)展態(tài)勢，但截止目前乃至未來很長一段時間，世界各國關于人工智能技術的研發(fā)應用仍處于早期階段。一方面，在我們可預見的情況下，人工智能將起到幫助人類的作用，而不是成為人類的替代品。另一方面，嚴重依賴數(shù)據(jù)輸入和計算能力的人工智能距離真正的人類智能還有較大的差距。

根據(jù)人工智能的發(fā)展應用，大部分學者基于人工智能產(chǎn)品的應用范圍和人工智能產(chǎn)品是否具有超出人類設計和編制的程序范圍外運作的能力，將人工智能界分為弱人工智能、強人工智能與超人工智能三大類。亦有部分學者認為此種分類過于簡單粗糙，應根據(jù)機器人的智能分層。但筆者認為人工智能的刑法討論應當由淺入深，由簡入繁，本文也將采用此種分類展開論述。

二、弱人工智能（體）刑事責任地位之否定

弱人工智能，即專用人工智能，其人工智能產(chǎn)品僅實現(xiàn)設計者或使用者的意志，無法獨立于人類設計的編程算法之外獨立判斷并自主做出決策。例如在無人駕駛領域應用廣泛的無人駕駛汽車、自動泊車系統(tǒng)等，其利用先進的環(huán)境感知技術與決策規(guī)劃控制技術實現(xiàn)半自動或全自動的駕駛，實際上仍舊是基于人工智能技術與編程算法之下，根據(jù)這些程序執(zhí)行命令，不存有任何的主觀意志。

現(xiàn)階段的人工智能正處于弱人工智能時代，其犯罪的主要形式有兩種，一是行為人非法利用（包括濫用和故意）人工智能技術及產(chǎn)品實施犯罪行為。例如，2017年9月浙江警方破獲的一起全國首例利用AI犯罪案，涉案平臺通過人工智能技術快速識別驗證碼，截取、販賣了10多億份公民個人信息，供合作團伙進行詐騙。此時的人工智能具有明顯的“工具”屬性，犯罪團伙對該人工智能產(chǎn)品握有絕對的控制權，犯罪主體顯而易見。被當作工具使用的人工智能產(chǎn)品不應成為該類型犯罪的刑事責任主體，而應由實施犯罪的人工智能的使用者承擔刑事責任。

二是弱人工智能產(chǎn)品在脫離人類控制的情況下，超出設計者或使用者的意志，自主的進行違法犯罪活動。對比上一種情況來說，這種情況顯得更為復雜。據(jù)英國《金融時報》報道， 2015年7月 1日，德國大眾位于卡塞爾附近的一家工廠發(fā)生的一起機器人殺人案件，當時一名年僅21歲的工人正在安裝和調(diào)試機器人，后者突然出手，狠狠地擊中這名工人的前胸部，隨后又將其按倒在金屬版上，隨后這名工人當場死亡。2018年3月18日晚，美國亞利桑那州一名女子被優(yōu)步自動駕駛汽車撞傷，之后不幸身亡。路透社報道稱此為全球首例自動駕駛車輛致人死亡事件。上述兩例弱人工智能犯罪案件，在現(xiàn)行刑法體系中涉及到故意殺人罪與交通肇事罪。首先，故意殺人罪、交通肇事罪作為故意及過失犯罪，要求犯罪必須存在故意或過失，在人工智能系統(tǒng)獲得獨立的思考能力之前，不論是機器人還是無人駕駛汽車都是不存在任何故意或過失的主觀意志的，它只是根據(jù)數(shù)據(jù)和代碼的編輯程序執(zhí)行命令。即使是行為本身造成了危害結(jié)果，最終也不具備有責性，因此它就不是刑罰適格的主體。其次，我們還應該看到人工智能的設計者、使用者是否對該人工智能產(chǎn)品存在過失。眾所周知，不論是傳統(tǒng)的機械技術亦或是如今的人工智能技術，都是存在著一定的技術風險的。如果人工智能的設計者，在設計中出現(xiàn)系統(tǒng)漏洞或技術缺陷，本該進行改良或及時告知使用者卻未盡到改良告知義務的，應該追究其過錯責任。因此，筆者認為此種情況應當審視為由人工智能“設計風險”“技術風險”帶來的技術事故、意外事故定性，人工智能不應成為適格刑事責任主體，可對人工智能產(chǎn)品的設計者、制造者、使用者追究相應的過錯責任來轉(zhuǎn)移風險。

三、強人工智能（體）刑事責任地位之否定

強人工智能是一種具有通用智能的機器的概念，它可以模仿人類的智能或行為，并具有深度學習和應用智能的能力，它與弱人工智能的最大區(qū)別就在于是否擁有意識。有學者認為，強人工智能產(chǎn)品是完全能夠在設計和編制的程序范圍之外實施嚴重危害社會的行為，完全有可能嚴重侵犯人權和刑法所保護的社會關系。因而覺得應當明確強人工智能為刑法中的適格刑事主體，并追究強人工智能犯罪之刑事責任。

筆者認為，隨著人工智能的逐步發(fā)展，強人工智能時代的到來興許不是人類的幻想，加強前瞻預防是大方向，但是對于強人工智能能否成為刑事責任主體，應秉持萬分慎重的態(tài)度，就目前來看，將強人工智能早早地通過立法來納入刑事主體范疇未免有些操之過急，應該保持否定立場。

（一）不具有必要性

首先，眾所周知科學技術的發(fā)展需要時間的沉淀，人工智能產(chǎn)業(yè)發(fā)展也是如此。即使人工智能正處于快速發(fā)展的階段，但仍有許多研發(fā)的核心難點、問題無法突破與解決，人工智能產(chǎn)生意識進化為強人工智能也是遙遙無期，即便是人工智能領域的專家也不知道需要多久才能實現(xiàn)這一目標。在目前這個階段，只看到一種可能，便認為人工智能會毀滅人類，過早的進行立法明確人工智能主體的刑事責任主體地位意義不大。

其次，假設人工智能能夠發(fā)展到擁有獨立自主的意識階段，此時的人工智能帶來的風險已然上升到一個新的高度。在人類無法準確接收到關于人工智能意識的反饋時，對于人工智能產(chǎn)生的意識也愈發(fā)一無所知，到那時，人類很有可能就會失去對人工智能的控制，用立法來確定人工智能的刑事責任主體地位，并讓它們遵守法律的規(guī)制無疑更是難上加難。若是無法證實刑法對其意識能產(chǎn)生約束，就算早早的將其作為適格刑事責任主體，也無法應對其帶來的社會安全風險。屆時唯有通過科學技術的應用才有可能直接、有效的解決人工智能制造的危機。

（二）不具有合理性

目前，人工智能的發(fā)展正遭遇著巨大的科研瓶頸，在第三次人工智能熱潮到來之際，回望曾經(jīng)兩次的歷史經(jīng)驗，我們對任一產(chǎn)業(yè)的期盼，都應建立在一定的現(xiàn)實基礎上，在人工智能方面，我們要充分意識到人工智能的可能性與極限性。強人工智能產(chǎn)品能否產(chǎn)生意識，迄今為止仍然是未知數(shù)，對人工智能未來的預測預見，在未經(jīng)科學研究充分證實的情況下，依然擁有無限的未知等待我們探索。在不明狀況的情況下，就給人工智能帶來的風險下一劑猛藥，這不是“對癥下藥”，反而是極其不科學、不合理的。

從道德倫理上看，人工智能作為和自然人一樣地位的刑事責任主體亦不具備合理性。2014年影視作品《她》在美國上映，為我們講述了一個有血有肉的人與代碼數(shù)據(jù)之間的愛情。雖然這只是影視創(chuàng)作的一個構(gòu)想，但無疑為我們提出了這樣一個問題，一個有獨立思考能力有意識的人工智能能否享有人權？倘若我們給強人工智能上了刑法這一道枷鎖，讓他擁有了刑事責任能力，需要履行守法義務，否則就要科處刑罰，那么根據(jù)權利與義務的關系強人工智能理應享受和自然人一樣的權利。因為無數(shù)的歷史事實告訴我們，階級的不平等必定帶來反抗?？扇羰墙o予了機器人和人類一樣的權利地位，這種平等不僅將對現(xiàn)今社會傳統(tǒng)的道德倫理發(fā)起巨大的挑戰(zhàn)——我們無法想象機器人與人類結(jié)婚生子會造成什么后果。不僅如此，還可能對人類自身的發(fā)展產(chǎn)生不良影響。

（三）不具有可行性

我國現(xiàn)行刑法中的刑事主體包括自然人和單位。其承擔責任首要的就是要具備刑事責任能力。眾所周知，自然人的刑事責任能力要依據(jù)自然人犯罪時是否擁有辯認能力、控制能力以及是否到法定年齡來進行判定。但是對于機器人而言，我們無法給定一個與自然人相同的標準，就算確定了刑事責任主體地位，其犯罪時刑事責任能力有無的判斷我們尚未可知，現(xiàn)行刑法中的標準顯然不適用于智能機器人之中，這就給現(xiàn)行刑法以人為本的中心造成了巨大的沖擊，如果不進行適當過度就直接立法，勢必影響現(xiàn)行刑法的穩(wěn)定。

對于確認刑事責任主體地位后的適用刑刑罰等相關問題，不具備可行性。我國現(xiàn)行刑法中對于自然人的刑罰于沒有生命沒有情感的智能機器人而言根本達不到處罰的目的，刑法的刑罰預防功能對于它們產(chǎn)生的意識也不具有威懾力。強人工智能實施犯罪后，適用于人類的刑罰類型如緩刑、監(jiān)禁、死刑等都不適用于人工智能，因為人工智能既不會感知痛苦，也不會死亡。唯物論中物質(zhì)與意識的辯證關系指出意識除了包括感性認識和理性認識這兩種基本的認識形式，還包括非邏輯的認識形式。這絕大都數(shù)都是人類世界獨有的，強人工智能就算擁有了類人的感性認識能力和理性認識能力，也未必能同人類一般，具有愿望、情感等非邏輯的認識形式。為此，有學者就智能機器人的刑罰進行了設想，即對機器人進行再程序化或者重新設計，如刪除數(shù)據(jù)、修改程序、永久銷毀等，但是此類刑罰措施仍然難以發(fā)揮刑罰的報應功能，對于沒有肉感痛感的人工智能而言，刪除數(shù)據(jù)與添加數(shù)據(jù)一樣，對它們來說只是無關痛癢的小事，而被人工智能傷害的受害者們承受的遠遠不止于此，這般刑罰真的能做到讓受害者滿意嗎，筆者認為就目前來看還遠遠不能為大眾所接受。而且因為人工智能技術的復雜性，其操作能否達到預設的效果也未必能如愿以償。

對于強人工智能犯罪后的刑事訴訟程序上，同樣不具備可行性。就自然人作為被告人而言，我國刑事訴訟法規(guī)定了被告人享有申請回避的權利、委托代理的權利、用本民族語言進行訴訟的權利等等，但是于強人工智能而言，這些權利的實現(xiàn)存在巨大的困難。譬如一個沒有財產(chǎn)權的人工智能如何支付相應金錢聘請律師為其辯護，聘請自然人抑或是類人機器人？就人工智能參與刑事訴訟流程中的偵察、拘捕階段而言，造型大同小異的人工智能，我們?nèi)绾螌θ斯ぶ悄苓M行抓捕、追逃？諸如此類。因而，人工智能作為刑事責任主體參與的刑事訴訟將會面臨施行困難又沖擊現(xiàn)有訴訟程序的囧境。

（四）不具有自洽性

對于肯定論者提出的觀點，其有多處都不具有自洽性?？隙ㄅ蓪W者一方面假設人工智能具有毀滅人類的能力，聲稱這不是危言聳聽我們應該未雨綢繆，另一方面又主張通過立法、科處刑罰來對人工智能進行限制。試問若是人工智能真的到了能毀滅人類，徹底改變?nèi)藱C關系那一天，刑法對其的約束還能實現(xiàn)嗎？一方面在論述強人工智能自主意識的產(chǎn)生時，做出了與人類意識產(chǎn)生方式不同的解釋，另一方面在意志的機能上又做出同人腦具有類似機能的解釋。一方面將其當作自然人，主張與自然人一樣，擁有刑事責任能力，又因為其機器人的屬性創(chuàng)造刑罰，承人了機器人的本質(zhì)。邏輯上不能自洽。

四、結(jié)語

人工智能的發(fā)展帶來的挑戰(zhàn)與探索從未停止，學術界正呈現(xiàn)出“百花齊放”“百家爭鳴”的新局面。刑法進行理論上的前瞻性探討和研究無可厚非，但我們也要看到人工智能與人類完全不同的一面，科學、理性地思考人工智能與人類的關系。對于人工智能刑事主體立法的問題，我們要始終保持嚴謹、慎重的態(tài)度，用發(fā)展的眼光全面地看待人工智能給刑法帶來的挑戰(zhàn)。就目前來看，否定人工智能體的犯罪主體資格，立足于現(xiàn)行的刑法規(guī)范，不僅有助于刑法的穩(wěn)定，也是應對人工智能時代刑事風險的應有之道。

參考文獻：

[1] 張鑫， 王明輝. 中國人工智能發(fā)展態(tài)勢及其促進策略[J]. 改革， 2019， （9）：31-44.

[2] 胡莎. 對人工智能體作為刑事責任主體的反思[J]. 廣州大學學報（社會科學版）， 2019， 第18卷（2）：109-115.

[3] 劉憲權. 人工智能時代的“內(nèi)憂”“外患”與刑事責任[J]. 東方法學， 2018， （1）：134-142.

[4] 張茜， 賀建鵬. 人工智能的發(fā)展及趨勢[J]. 電子技術與軟件工程， 2019， （8）：241-242.

[5] 尹蕾， 王讓新. 人工智能發(fā)展的喜與憂[J]. 人民論壇， 2018， （35）：84-85.

[6] 劉憲權. 涉人工智能犯罪刑法規(guī)制的路徑[J]. 現(xiàn)代法學， 2019， 第41卷（1）：75-83.

（遼寧省阜新市遼寧工程技術大學?遼寧?阜新?123000）