■劉仁文 曹 波

人工智能在推動(dòng)人類社會(huì)智能化變革的同時(shí)，其不確定性（自動(dòng)性）所衍生的侵害人類法益的刑事風(fēng)險(xiǎn)是亟待認(rèn)真對(duì)待的“真問題”，絕非憑空臆造、危言聳聽的“偽問題”。對(duì)人工智能體被濫用于實(shí)施犯罪的刑事風(fēng)險(xiǎn)，應(yīng)根據(jù)現(xiàn)有刑事歸責(zé)原理，按照具體行為方式以及主觀罪過形式，分別追究人工智能體背后的算法設(shè)計(jì)者、產(chǎn)品制造者與使用者（管理者）故意或過失犯罪的刑事責(zé)任。對(duì)人工智能體脫離人類控制侵害法益的刑事風(fēng)險(xiǎn)，賦予人工智能體以刑事責(zé)任主體地位的肯定論歸責(zé)方案，存在持論依據(jù)及論證路徑方面的諸多誤區(qū)。以刑罰規(guī)制人工智能體刑事風(fēng)險(xiǎn)缺乏適宜性，應(yīng)當(dāng)借鑒“科技社會(huì)防衛(wèi)論”，通過建構(gòu)保安處分機(jī)制，由司法機(jī)關(guān)在參考專業(yè)技術(shù)意見的基礎(chǔ)上，對(duì)嚴(yán)重侵害人類利益的人工智能體適用以技術(shù)性危險(xiǎn)消除措施為內(nèi)容的對(duì)物保安處分，回避以刑罰規(guī)制人工智能體刑事風(fēng)險(xiǎn)必須具備可非難性的局限，進(jìn)而為人工智能的發(fā)展預(yù)留必要的法律空間。

人工智能的概念雖然早在20世紀(jì)50年代即被提出①，但其后人工智能的發(fā)展和研究卻兩度遭遇“寒冬時(shí)期”，終在21世紀(jì)初迎來第三次發(fā)展浪潮和研究高峰。近年來，信息社會(huì)和知識(shí)時(shí)代的來臨使得信息以驚人的速度膨脹，人類處理浩如煙海的信息的現(xiàn)實(shí)需求催動(dòng)了大數(shù)據(jù)技術(shù)以及智能技術(shù)的發(fā)展，大有將人類文明從農(nóng)業(yè)文明——工業(yè)文明——網(wǎng)絡(luò)文明的三個(gè)遞進(jìn)階段推入第四個(gè)階段“人工智能文明”之勢。受人工智能技術(shù)研發(fā)以及法律治理需求的影響，中國的法學(xué)理論和法律實(shí)務(wù)界對(duì)人工智能表現(xiàn)出強(qiáng)烈的興趣，刑法領(lǐng)域的研究成果也呈現(xiàn)爆炸式增長的態(tài)勢，關(guān)于人工智能體能否成為刑事責(zé)任主體、其刑事責(zé)任應(yīng)采取何種歸責(zé)模式，甚至對(duì)人工智能體應(yīng)當(dāng)適用何種“刑罰”等迅速成為熱門話題。

一、人工智能體的刑事風(fēng)險(xiǎn)是“真問題”

得益于深度學(xué)習(xí)、大數(shù)據(jù)、大規(guī)模計(jì)算三位一體的聯(lián)合驅(qū)動(dòng)，人工智能勢不可擋地從封閉的實(shí)驗(yàn)室走向開放的商業(yè)應(yīng)用道路，其蘊(yùn)含的強(qiáng)大賦能效應(yīng)，使得智能思維、智能工廠、智能設(shè)備、智能產(chǎn)品及智能管理等不斷涌現(xiàn)，正推動(dòng)人類社會(huì)邁入智能時(shí)代。不過，如同促進(jìn)人類社會(huì)發(fā)展的其他科學(xué)技術(shù)一樣，人工智能在將人類從繁瑣紛雜、枯燥單調(diào)的工作中解放出來、推動(dòng)人類社會(huì)完成跨越式變革的同時(shí)，其內(nèi)在的不確定性也衍生出影響人類生存和發(fā)展安全的現(xiàn)實(shí)及潛在風(fēng)險(xiǎn)，客觀上引發(fā)人類對(duì)人工智能安全性的極大憂慮。

然而，對(duì)于刑法應(yīng)否介入人工智能刑事風(fēng)險(xiǎn)、人工智能體能否成為刑事責(zé)任主體等問題，目前中國刑法學(xué)界不乏否定聲音，甚至有學(xué)者就刑法學(xué)界對(duì)人工智能的濃厚興趣提出火藥味甚濃的批評(píng)，認(rèn)為人工智能法學(xué)研究出現(xiàn)違反人類智力常識(shí)的“反智化現(xiàn)象”。該學(xué)者指出，當(dāng)前關(guān)于人工智能的法學(xué)研究其實(shí)是以“偽問題”代替“真問題”；學(xué)者們關(guān)于人工智能所謂的“憂患意識(shí)”，實(shí)則只是依靠無數(shù)假想拼湊起來的幻影，只是在用別人的“噱頭”嚇唬自己；在人工智能法律風(fēng)險(xiǎn)的應(yīng)對(duì)上，當(dāng)前的研究停留在缺乏教義支持的對(duì)策論層面，往往就事論事、毫無體系；主張人工智能可承擔(dān)刑事責(zé)任的觀點(diǎn)根本違背人類制定刑法的目的理性，人類對(duì)自由刑、死刑的痛苦感來自天然的肉體和心理，機(jī)器人沒有痛感，在這一點(diǎn)上它連一只有觸覺的螞蟻都不如；對(duì)犯罪人工智能體科處刑罰違背刑法謙抑性原則，“法學(xué)家從來沒有考慮過人類是否能夠?yàn)闄C(jī)器人成功搭建起道德或倫理的規(guī)范體系，而只是簡單粗暴地動(dòng)用刑罰，面對(duì)人工智能等高端技術(shù)時(shí)總是如此急不可耐”。［1］此外，也有學(xué)者以人工智能技術(shù)發(fā)展的階段性特征為由，認(rèn)為“討論人工智能的刑事規(guī)制其實(shí)是一個(gè)偽命題”［2］。

上述批判意見的確為當(dāng)前相對(duì)激進(jìn)的人工智能刑法學(xué)研究提供了理性反思的契機(jī)，但斷言人工智能刑事風(fēng)險(xiǎn)乃“偽命題”、研究人工智能體刑事歸責(zé)系以“偽問題”替代“真問題”卻不足取，因?yàn)樗鼰o視人工智能潛在的負(fù)面效應(yīng)給人類帶來的危險(xiǎn)和危害，犯了從一個(gè)極端走向另一個(gè)極端的錯(cuò)誤。

（一）人工智能內(nèi)在之刑事風(fēng)險(xiǎn)具有不容否認(rèn)的客觀真實(shí)性

人工智能體是否具有刑事風(fēng)險(xiǎn)決不是法學(xué)學(xué)者的臆想或者斷言，而應(yīng)當(dāng)由人工智能運(yùn)行的實(shí)際情況以及技術(shù)專家的判斷來證實(shí)。在研發(fā)和應(yīng)用的實(shí)踐中，人工智能因其自動(dòng)性和自主性運(yùn)行特征或程序故障而致人死傷的事例時(shí)有報(bào)道。如：2015年德國一名大眾汽車廠員工在工作中被機(jī)器人抓住并壓死在金屬板上的“智能機(jī)器人殺人事件”；同年，中國發(fā)生利用人工智能技術(shù)破解互聯(lián)網(wǎng)驗(yàn)證碼策略的打碼平臺(tái)非法獲取公民信息的“全國首例利用人工智能犯罪案”；2016年裝載自動(dòng)駕駛系統(tǒng)的特斯拉汽車因出現(xiàn)誤認(rèn)而造成全世界首宗自動(dòng)駕駛系統(tǒng)致人死亡的車禍，特斯拉CEO伊隆-馬斯克也明確強(qiáng)調(diào)“人工智能是人類文明生存的根本風(fēng)險(xiǎn)”，并呼吁政府迅速而堅(jiān)決地進(jìn)行干預(yù)、監(jiān)督人工智能技術(shù)的發(fā)展；［3］2018年美國亞利桑那州發(fā)生優(yōu)步自動(dòng)駕駛車撞死行人的事故。此外，以人工智能深度學(xué)習(xí)為技術(shù)支撐的深度偽造（DeepFake）已帶來嚴(yán)重的社會(huì)風(fēng)險(xiǎn)，尤其是針對(duì)公眾人物的深度偽造，有對(duì)社會(huì)秩序和國家安全造成嚴(yán)重沖擊與損害的可能。［4］誠然，人工智能體侵害人類的事例尚未普遍發(fā)生，卻也充分說明能夠跟隨外部環(huán)境變化而自我調(diào)整的人工智能體內(nèi)含失去人類控制而侵損人類法益的危險(xiǎn)，決非主觀臆斷、危言聳聽。

從國內(nèi)外人工智能技術(shù)專家的相關(guān)研究來看，人工智能內(nèi)在的不安全性、不穩(wěn)定性以及具備深度學(xué)習(xí)能力的強(qiáng)人工智能存在脫離人類程序控制侵犯人類、反噬人類的可能性和危險(xiǎn)性都是得到認(rèn)可的。例如，英國薩塞斯大學(xué)認(rèn)知和計(jì)算機(jī)科學(xué)學(xué)院前院長、有著“人工智能領(lǐng)域的女性牛人”之稱的瑪格麗特·博登表示：“人工智能已經(jīng)引起了人們的擔(dān)心。未來的進(jìn)步肯定會(huì)帶來更多問題，所以對(duì)人工智能長期安全的焦慮也是非常必要的。更重要的是，它的短期影響也不容忽視?！保?］（P185）值得注意的是，牛津大學(xué)人類未來研究所曾于2015年發(fā)表題為《威脅人類文明的12個(gè)風(fēng)險(xiǎn)》的報(bào)告，將人工智能的崛起與核戰(zhàn)爭、巨大火山噴發(fā)并列為人類未來的威脅之一。英國倫敦大學(xué)學(xué)院Dawes未來犯罪案研究中心于2019年2月召開“AI與未來犯罪”研討會(huì)，組織來自學(xué)術(shù)界、公共部門、私營部門領(lǐng)域具有專業(yè)知識(shí)的31名代表對(duì)人工智能可能涉及的犯罪風(fēng)險(xiǎn)進(jìn)行科學(xué)評(píng)測?？嫉峦柕日硌杏憰?huì)相關(guān)材料，形成并發(fā)布研究報(bào)告《基于人工智能的未來犯罪》，對(duì)人工智能的日益普及所產(chǎn)生的潛在犯罪和恐怖威脅進(jìn)行分類，并根據(jù)預(yù)期的受害者損害、犯罪收益、犯罪可實(shí)現(xiàn)性和打擊難度對(duì)相關(guān)威脅進(jìn)行排序，最終對(duì)18類威脅給予識(shí)別和評(píng)級(jí)。［6］國內(nèi)也有不少人工智能技術(shù)專家對(duì)人工智能內(nèi)在的危險(xiǎn)性發(fā)出擔(dān)憂，表示“人工智能已經(jīng)不是科幻小說和電影討論的話題了，現(xiàn)實(shí)馬上就在眼前。我們必須要把可能的危機(jī)與機(jī)遇擺在人類的面前，這是人類的權(quán)利、科學(xué)家職責(zé)，我們不能因?qū)ξ磥淼目謶侄乇?，也無法回避，也不能為了眼前看得見的利益而忘命”［7］(P252)。

由此可見，如何妥善應(yīng)對(duì)人工智能的這種內(nèi)在危險(xiǎn)或威脅，科學(xué)分配人工智能體侵害人類法益的法律責(zé)任，是包括刑法在內(nèi)的法律體系必須認(rèn)真對(duì)待的“真問題”，至于采取何種刑法措施（刑罰或保安處分），則是刑法關(guān)于人工智能刑事風(fēng)險(xiǎn)應(yīng)對(duì)的措施之爭，屬于解決問題的具體方式，而不涉及對(duì)人工智能刑事風(fēng)險(xiǎn)是否為“真問題”的評(píng)判。申言之，批評(píng)者關(guān)于人工智能刑事風(fēng)險(xiǎn)屬于“偽命題”的看法既無視人工智能已經(jīng)帶給人類損害的客觀事實(shí)，還因其反對(duì)授予人工智能體刑事責(zé)任主體地位的理論主張，誤解人工智能刑事風(fēng)險(xiǎn)的具體內(nèi)容。然而，是否授予人工智能體刑事責(zé)任主體地位與人工智能刑事風(fēng)險(xiǎn)是否屬于“偽命題”系兩個(gè)不同層面的議題。理論界就不乏這樣的學(xué)者，他們即便不贊同賦予人工智能以獨(dú)立的刑事責(zé)任主體地位，卻依然十分關(guān)注人工智能刑事風(fēng)險(xiǎn)，并積極構(gòu)建責(zé)任分配機(jī)制予以應(yīng)對(duì)。［8］

在我們看來，由于評(píng)價(jià)標(biāo)準(zhǔn)的不同，人工智能體是否會(huì)像人類一樣直接實(shí)施犯罪行為可能存在一定的爭議，但人工智能體卷入犯罪而被作為犯罪工具予以濫用或者作為犯罪對(duì)象被攻擊均屬可能，批評(píng)者在一定意義上誤解了人工智能刑事風(fēng)險(xiǎn)的內(nèi)容和意涵。正如劉憲權(quán)回應(yīng)批評(píng)者時(shí)所稱：“并非在當(dāng)今的弱人工智能時(shí)代不存在刑事風(fēng)險(xiǎn)，而是批判者為批判或否定別人的觀點(diǎn)才對(duì)弱人工智能時(shí)代的風(fēng)險(xiǎn)采取熟視無睹的態(tài)度。就此而言，人工智能技術(shù)帶來的刑事風(fēng)險(xiǎn)不是法學(xué)研究者‘依靠無數(shù)假想拼湊起來的幻影’，而認(rèn)為人工智能技術(shù)沒有帶來刑事風(fēng)險(xiǎn)似乎才是批判者閉目塞聽所造成的‘幻覺’。”［9］應(yīng)當(dāng)承認(rèn)，批評(píng)者大多強(qiáng)調(diào)積極運(yùn)用既有刑法教義學(xué)原理在現(xiàn)行刑法的體系框架下解決人工智能損害法益的刑事責(zé)任分配問題，這其實(shí)已經(jīng)徑行肯定了人工智能內(nèi)含損害人類法益的可能，只是認(rèn)為此種可能性不需要刑法專門進(jìn)行新的規(guī)制。

（二）刑法謙抑性難以否定刑法規(guī)制人工智能風(fēng)險(xiǎn)的必要性

刑法謙抑性乃刑法最基礎(chǔ)、最獨(dú)特的屬性之一，但卻不知從何時(shí)開始，在討論刑法是否應(yīng)當(dāng)介入某種新行為或者新領(lǐng)域的規(guī)制時(shí)，謙抑性總會(huì)被提出來作為反對(duì)刑法規(guī)制的理由，以至于使人產(chǎn)生如下印象：刑法謙抑性已然成為反對(duì)刑法介入社會(huì)生活的標(biāo)配性理據(jù)，動(dòng)輒被用于批判刑法新增罪名或者重刑化的立法轉(zhuǎn)向。刑法謙抑性在人工智能風(fēng)險(xiǎn)的法律規(guī)制研討中扮演的角色既有積極的維度，也有消極的側(cè)面，如：有學(xué)者以違反刑法謙抑性為由反對(duì)賦予人工智能法律人格或者刑事責(zé)任主體地位［10］，有觀點(diǎn)表示刑法對(duì)人工智能刑事風(fēng)險(xiǎn)的規(guī)制犧牲了刑法謙抑性［11］。但是，不論積極抑或消極，學(xué)者們對(duì)刑法謙抑性的理解整體是在緩和、否定刑法介入人工智能風(fēng)險(xiǎn)規(guī)制意義上展開的，強(qiáng)調(diào)人工智能屬于新興科技，刑法前置法以及倫理道德等尚未實(shí)現(xiàn)對(duì)人工智能的研發(fā)和運(yùn)用提出普世性的明確規(guī)制標(biāo)準(zhǔn)，人工智能刑事風(fēng)險(xiǎn)的類型及表現(xiàn)仍有待進(jìn)一步明確，刑法此時(shí)介入人工智能刑事風(fēng)險(xiǎn)的規(guī)制過于急切。不過，人工智能刑事風(fēng)險(xiǎn)并非都是尚未明晰的新興風(fēng)險(xiǎn)，人工智能體被用作于犯罪工具以及被作為犯罪對(duì)象的風(fēng)險(xiǎn)已被證實(shí)，這些風(fēng)險(xiǎn)給人類利益帶來的損害絲毫不亞于甚至遠(yuǎn)超傳統(tǒng)犯罪工具或者傳統(tǒng)犯罪。因此，我們?cè)谶\(yùn)用刑法謙抑性對(duì)刑法是否應(yīng)介入人工智能風(fēng)險(xiǎn)進(jìn)行評(píng)判時(shí)需要慎重，應(yīng)防止對(duì)刑法謙抑性的不準(zhǔn)確把握和對(duì)人工智能刑事風(fēng)險(xiǎn)的不精確識(shí)別導(dǎo)致刑法應(yīng)介入?yún)s因謙抑性的不正當(dāng)主張而未介入。

毋庸置疑，刑事機(jī)制最具嚴(yán)厲性且規(guī)制成本最高，因而總是在民事侵權(quán)責(zé)任機(jī)制及行政處罰機(jī)制難以達(dá)到規(guī)制效果時(shí)，才動(dòng)用刑事機(jī)制介入特定行為，以實(shí)現(xiàn)保護(hù)法益的目的?！氨Ｗo(hù)法益的手段多數(shù)存在，刑罰是制裁手段中最嚴(yán)厲的，而且其社會(huì)成本也大（常被比喻成副作用強(qiáng)的藥），因此，使用刑罰應(yīng)該限于其他制裁手段不充分的場合?！保?2］(P9-10)刑法具有謙抑性的內(nèi)在品格，是輔助性的法益保護(hù)法，不追求規(guī)制任何形式、任何程度侵害法益的行為，但這絕不意味著刑法應(yīng)對(duì)人工智能的客觀危險(xiǎn)熟視無睹、置若罔聞。“刑法的謙抑性原則應(yīng)當(dāng)遵循，但也不能無視當(dāng)今科學(xué)技術(shù)的高速發(fā)展給人類社會(huì)所帶來的完全不同于以往的沖擊。人工智能技術(shù)的發(fā)展特別是未來可能到來的強(qiáng)人工智能，人類如果對(duì)其應(yīng)對(duì)稍有不慎即可能遭遇滅頂之災(zāi)。”［13］在相當(dāng)意義上，刑法謙抑性的要旨在于規(guī)范國家刑罰權(quán)的行使，防止國家刑罰權(quán)過分或不當(dāng)侵入公民社會(huì)生活，強(qiáng)調(diào)合理劃分不同法律部門在調(diào)整特定行為的具體分工，實(shí)現(xiàn)特定行為法律規(guī)制系統(tǒng)內(nèi)部的協(xié)調(diào)性與互補(bǔ)性，而限定刑法規(guī)制范圍卻非刑法謙抑性的必然要求，刑法規(guī)制范圍也并非越窄越好?！氨M管刑法謙抑主義特征仍然需要予以重視，但這并不等于說，刑法就是消極的，甚至是無為的?！保?4］(P20)當(dāng)特定行為具備值得刑法規(guī)制的必要性和可行性時(shí)，刑法應(yīng)當(dāng)果斷地介入該行為的規(guī)制，以發(fā)揮刑法有效且有力的社會(huì)規(guī)制機(jī)能。如果特定危險(xiǎn)客觀存在并嚴(yán)重威脅法益，適當(dāng)擴(kuò)充刑法規(guī)制范圍以及時(shí)介入該危險(xiǎn)的防控和治理，正是刑法作為保護(hù)人類法益的最后一道防線的題中之義。既然人工智能帶給人類社會(huì)的刑事風(fēng)險(xiǎn)客觀存在，運(yùn)用刑法給予應(yīng)對(duì)必定是刑法切實(shí)承擔(dān)保護(hù)法益任務(wù)的表現(xiàn)，并不違背刑法的謙抑性原則。

（三）人工智能風(fēng)險(xiǎn)刑法規(guī)制需要教義學(xué)與立法論銜接互補(bǔ)

人工智能作為人類社會(huì)變遷中出現(xiàn)的新技術(shù)，人工智能體侵害人類法益無疑為前所未有的新問題，批判論者希冀完全依靠既有的刑法教義學(xué)范式在現(xiàn)有刑法體系內(nèi)充分解決人工智能體刑事歸責(zé)問題，明顯夸大刑法教義學(xué)的功能，割裂刑法教義學(xué)與刑法立法論之間應(yīng)有的聯(lián)系，缺乏方法的妥當(dāng)性和實(shí)踐的可行性?！啊畟螁栴}論’通過質(zhì)疑將來而回避問題本身的論說思路可能并不可取，看不到或者忽視‘將來’的思考也無益于問題的有效解決，因而‘偽問題論’自身的問題意識(shí)也存在合理性疑問?！保?5］刑法學(xué)研究須秉持應(yīng)有的務(wù)實(shí)態(tài)度和開放理念，對(duì)當(dāng)前人工智能刑事風(fēng)險(xiǎn)的具體內(nèi)容和樣態(tài)進(jìn)行現(xiàn)實(shí)性考察以及必要的前瞻性預(yù)測，并根據(jù)刑事風(fēng)險(xiǎn)屬性的差異，給予不同的刑法規(guī)制：對(duì)刑法規(guī)范體系已能較為充分評(píng)價(jià)的刑事風(fēng)險(xiǎn)，盡可能在刑法教義學(xué)作用范圍內(nèi)進(jìn)行準(zhǔn)確認(rèn)定和評(píng)價(jià)；對(duì)運(yùn)用刑法教義學(xué)難以在當(dāng)前刑法規(guī)范體系內(nèi)準(zhǔn)確或者全面評(píng)價(jià)的人工智能刑事風(fēng)險(xiǎn)，應(yīng)當(dāng)轉(zhuǎn)變研究視角，通過制定新的罪刑規(guī)范予以規(guī)制。

就人工智能體侵害法益及其歸責(zé)問題來看，現(xiàn)有刑法教義學(xué)資源能夠基本解決自主性較弱的弱人工智能體侵害人類法益的刑事歸責(zé)問題，但對(duì)具有較強(qiáng)（或完全）自主性、具備獨(dú)立意識(shí)和意志的強(qiáng)人工智能侵害法益行為，卻難以給予適當(dāng)?shù)男谭ㄔu(píng)價(jià)和處置，亟須建構(gòu)性的“立法論”或“對(duì)策論”研究，通過引進(jìn)新型歸責(zé)模式來解決其刑事責(zé)任分配問題。就此而論，人工智能刑法學(xué)研究必然屬于批判者所謂的“對(duì)策論”，只不過該“對(duì)策論”決非恣意的“對(duì)策論”，而是建立在新的“教義學(xué)”基礎(chǔ)上的“對(duì)策論”，是對(duì)現(xiàn)有“教義學(xué)”的必要補(bǔ)充和發(fā)展。

誠如張明楷所言：“當(dāng)下經(jīng)過了一段解釋論之后的刑事立法論，可以避免不合理的立法建議，從而對(duì)刑事立法起到更好的指導(dǎo)作用?！保?6］刑法教義學(xué)與刑法立法論銜接互補(bǔ)的研究范式已經(jīng)在當(dāng)前刑法學(xué)界對(duì)人工智能刑事風(fēng)險(xiǎn)及其規(guī)制的研究中得到體現(xiàn)。此外，主張通過新增罪名規(guī)制人工智能風(fēng)險(xiǎn)的學(xué)者必定也采納以刑法教義學(xué)推動(dòng)刑法立法論和以刑法立法論補(bǔ)充刑法教義學(xué)的雙向互動(dòng)研究范式。［17］依此可見，人工智能刑法規(guī)制研究應(yīng)當(dāng)繼續(xù)充分釋放既有刑法教義學(xué)資源的解釋張力，在現(xiàn)有刑法規(guī)范體系內(nèi)規(guī)范評(píng)價(jià)人工智能損及人類法益行為的不法與罪責(zé)，避免不必要的刑法條文擴(kuò)張。以此為基礎(chǔ)，對(duì)超逸刑法教義學(xué)作用范圍的人工智能刑事風(fēng)險(xiǎn)及其危害，應(yīng)當(dāng)制定新的罪刑規(guī)范予以規(guī)制，促進(jìn)人工智能刑法規(guī)制司法路徑與立法路徑的銜接與互補(bǔ)。

二、人工智能體的刑事風(fēng)險(xiǎn)及其歸責(zé)論爭

人工智能所帶來的刑事風(fēng)險(xiǎn)除人工智能系統(tǒng)成為犯罪對(duì)象被不法攻擊或操縱外，還有人工智能體被濫用于實(shí)施犯罪的工具性風(fēng)險(xiǎn)，如人工智能體被用于非法搜集公民個(gè)人信息、實(shí)施詐騙犯罪、侵害社會(huì)信用等風(fēng)險(xiǎn)，也有人工智能體脫離人類控制而嚴(yán)重侵害人類的風(fēng)險(xiǎn)。后者又可區(qū)分為兩類：一是缺乏自主意識(shí)的弱人工智能體因程序運(yùn)行偏差、侵害人類的風(fēng)險(xiǎn)，如前述特斯拉自動(dòng)駕駛汽車致人死亡事例中，裝載自動(dòng)駕駛系統(tǒng)的特斯拉汽車在交叉路口撞上一輛卡車后面的拖車即是因?yàn)槌绦蜻\(yùn)行偏差所致：它既錯(cuò)以為拖車明亮的白色部分只是天空的一部分，又錯(cuò)以為司機(jī)正在注意路況，如果有事發(fā)生，他一定不會(huì)袖手旁觀。［18］(P133)二是能夠深度學(xué)習(xí)的強(qiáng)人工智能體，在自主意識(shí)和意志支配下實(shí)施程序設(shè)計(jì)之外的嚴(yán)重侵害人類法益行為的危險(xiǎn)。［19］

由于缺乏生命權(quán)、身體權(quán)、榮譽(yù)權(quán)和財(cái)產(chǎn)權(quán)，人工智能體一旦作為犯罪對(duì)象被其他犯罪主體所攻擊，刑法的聚焦點(diǎn)應(yīng)為人工智能體自身的算法系統(tǒng)（計(jì)算機(jī)信息系統(tǒng)）及其相應(yīng)數(shù)據(jù)的安全。人工智能體的智能屬性及其程度取決于人工智能算法，而“成功的人工智能算法需要三樣?xùn)|西：大數(shù)據(jù)、強(qiáng)大的電腦運(yùn)算能力，以及優(yōu)秀（但未必頂尖）的人工智能算法工程師”［20］(P25-26)。在新領(lǐng)域善用深度學(xué)習(xí)的能力，此三者都是必要的，但其中最重要的還是大數(shù)據(jù)。如果“喂養(yǎng)”算法系統(tǒng)的數(shù)據(jù)量越大，人工神經(jīng)網(wǎng)絡(luò)獲得的樣本數(shù)據(jù)將越多，人工智能體就越能夠正確識(shí)別出形態(tài)，準(zhǔn)確辨認(rèn)真實(shí)世界里的東西。當(dāng)然，人工智能體對(duì)算法系統(tǒng)及大數(shù)據(jù)的依賴也客觀上帶來算法系統(tǒng)和數(shù)據(jù)安全的巨大挑戰(zhàn)，誘發(fā)算法系統(tǒng)與數(shù)據(jù)安全被不法攻擊的危險(xiǎn)。對(duì)犯罪對(duì)象意義上人工智能體刑事風(fēng)險(xiǎn)及其客觀危害，應(yīng)盡可能借助現(xiàn)有刑法罪名體系予以準(zhǔn)確評(píng)價(jià)，即根據(jù)行為人行為方式與侵害法益的特征，分別將其認(rèn)定為刑法分則第六章規(guī)定的非法侵入計(jì)算機(jī)信息系統(tǒng)罪等信息網(wǎng)絡(luò)犯罪，而當(dāng)行為人通過破壞人工智能體算法系統(tǒng)或者數(shù)據(jù)安全操作人工智能體侵犯人類的生命、身體等安全的，可以根據(jù)具體犯罪情節(jié)，將其認(rèn)定為以危險(xiǎn)方法危害公共安全罪。［21］

在人工智能體被濫用于實(shí)施犯罪的責(zé)任分配中，犯罪體現(xiàn)的是犯罪人自身的犯罪意志，人工智能體僅作為實(shí)施犯罪的特殊工具?！霸诖蠖鄶?shù)情況下，算法的背后是人而不是機(jī)器在真正發(fā)揮決策作用。算法驅(qū)動(dòng)下的人工智能，按照人設(shè)定的邏輯，判斷、決策、執(zhí)行各個(gè)任務(wù)環(huán)節(jié)?！保?2］因此，對(duì)于人工智能體犯罪工具風(fēng)險(xiǎn)的刑事歸責(zé)，應(yīng)當(dāng)根據(jù)犯罪人濫用人工智能體實(shí)施犯罪的客觀樣態(tài)和犯罪人自身的主觀罪過形式，對(duì)故意設(shè)計(jì)、制造“邪惡”人工智能體，懈怠注意義務(wù)設(shè)計(jì)、制造嚴(yán)重瑕疵的人工智能體，濫用人工智能體實(shí)施犯罪或未盡合理監(jiān)管義務(wù)導(dǎo)致嚴(yán)重危害后果等，分別追究算法設(shè)計(jì)者、產(chǎn)品制造者與使用者（管理者）的故意或過失犯罪的刑事責(zé)任。

例如，人工智能外科醫(yī)生對(duì)病人進(jìn)行安裝新髖關(guān)節(jié)的手術(shù)，手術(shù)中人工智能體卻出現(xiàn)機(jī)械性誤差。負(fù)責(zé)監(jiān)控手術(shù)的人類醫(yī)生未能盡職地監(jiān)控手術(shù)進(jìn)程，且無法中途介入以完成髖關(guān)節(jié)置換術(shù)，導(dǎo)致手術(shù)不得不提早結(jié)束，迫使患者必須進(jìn)行第二次髖關(guān)節(jié)置換手術(shù)。［23］(P26)人類醫(yī)生原本履行監(jiān)管義務(wù)即可阻斷人工智能體內(nèi)在危險(xiǎn)現(xiàn)實(shí)化進(jìn)程，卻懈怠監(jiān)管義務(wù)，未能及時(shí)發(fā)現(xiàn)機(jī)械性誤差并中途介入完成手術(shù)，客觀上造成患者髖關(guān)節(jié)置換不當(dāng)并需要進(jìn)行第二次手術(shù)，可追究人類醫(yī)生過失犯罪的刑事責(zé)任。不過，“過失意味著不注意，而不注意指的是違反注意義務(wù)，也即違反應(yīng)當(dāng)為了回避犯罪事實(shí)的實(shí)現(xiàn)而小心謹(jǐn)慎的義務(wù)”［24］(P192)。過失犯罪刑事歸責(zé)的前提要素是具備結(jié)果回避可能性，即行為人小心謹(jǐn)慎地履行注意義務(wù)，采取回避措施即能夠有效地回避法定危害后果的發(fā)生，將過失犯罪的刑事歸責(zé)適用于缺乏結(jié)果回避可能性的場合將背離刑法責(zé)任主義。據(jù)此，如果人類醫(yī)生盡職地履行監(jiān)控義務(wù)，仍來不及中途介入手術(shù)進(jìn)程，或者即便人類醫(yī)生中途介入手術(shù)進(jìn)程，仍不能避免人工智能體機(jī)械性誤差的可能后果，應(yīng)當(dāng)以缺乏結(jié)果回避可能性為由，將患者因人類醫(yī)生懈怠盡職監(jiān)控義務(wù)而必須進(jìn)行第二次置換術(shù)的后果認(rèn)定為不可抗力造成的事故或偶然事件，進(jìn)而否定對(duì)人類醫(yī)生過失犯罪的刑事歸責(zé)。當(dāng)然在此種情形中，人類醫(yī)生懈怠盡職監(jiān)控義務(wù)符合醫(yī)療侵權(quán)的構(gòu)成要件的，不排除從民事侵權(quán)的角度考慮追究人類醫(yī)生的賠償責(zé)任。

在現(xiàn)階段，人工智能體刑事歸責(zé)論爭的焦點(diǎn)在于：若人工智能產(chǎn)品“變壞”，在運(yùn)行過程中偏離程序主動(dòng)或被動(dòng)侵害人類，該如何分配刑事責(zé)任？現(xiàn)代責(zé)任主義強(qiáng)調(diào)，刑事責(zé)任的發(fā)動(dòng)必須具有正當(dāng)化根據(jù)，任何人只能因自己可被非難的行為承擔(dān)刑事責(zé)任。擁有自主意識(shí)的人工智能體受其深度學(xué)習(xí)的指引，在改變自己來適應(yīng)環(huán)境變化的過程中有可能“自主地”“不被預(yù)見地”犯下嚴(yán)重侵害人類的“罪行”。在這種情況下，人工智能體研發(fā)和運(yùn)行中所涉及的人類主體都勤勉盡責(zé)，所設(shè)計(jì)和所制造的人工智能體滿足合理的產(chǎn)品質(zhì)量標(biāo)準(zhǔn)，他們與人工智能體的惡行雖有關(guān)聯(lián)但無因果，更無法具體預(yù)見人工智能體會(huì)嚴(yán)重侵損人類法益，追究其刑事責(zé)任將明顯抵觸現(xiàn)代責(zé)任主義。那么，應(yīng)否肯定人工智能體自身的刑事責(zé)任主體地位，以填補(bǔ)人工智能體脫離人類控制而侵害人類風(fēng)險(xiǎn)中可能出現(xiàn)的“責(zé)任空白”呢？

對(duì)此，肯定論者提出，刑法應(yīng)重視前瞻預(yù)防和風(fēng)險(xiǎn)防控，強(qiáng)調(diào)人工智能正深刻動(dòng)搖傳統(tǒng)刑法歸責(zé)體系及其基礎(chǔ)，應(yīng)從刑事責(zé)任能力出發(fā)抑或演繹法人犯罪主體法理，根據(jù)人工智能體的學(xué)習(xí)能力和發(fā)展代際，肯定具有自主學(xué)習(xí)能力的智能機(jī)器人為“第三類人”“人工人”，賦予其獨(dú)立刑事責(zé)任主體地位，增設(shè)刪除數(shù)據(jù)、修改程序、永久銷毀等新型刑罰方法，妥善解決人工智能體脫離人類控制、侵害法益的風(fēng)險(xiǎn)中的刑事責(zé)任歸屬問題。［25］與之相對(duì)，堅(jiān)持人工智能體不能成為刑事責(zé)任主體的否定論指出，因電子機(jī)械運(yùn)動(dòng)與人的生理運(yùn)動(dòng)之間存在不可逾越的鴻溝，從金屬、塑料和指示電極開與關(guān)的程序組合中無法產(chǎn)生人的意識(shí)。在對(duì)人類意識(shí)的本質(zhì)及生成機(jī)制缺乏透徹理解的情況下，無論是符號(hào)主義還是聯(lián)結(jié)主義，都不能模擬出人的意識(shí)。即使假設(shè)強(qiáng)人工智能已經(jīng)到來，考慮對(duì)其增設(shè)刑罰種類也意義不大。［26］

綜合肯定論與否定論來看，否定缺乏自主意識(shí)和意志的弱人工智能體的刑事責(zé)任主體地位已成為學(xué)界共識(shí)，論爭主要聚焦于強(qiáng)人工智能體是否可以成為刑事責(zé)任主體?？隙ㄕ撜吡⒆闳斯ぶ悄荏w本身的道義性，主張強(qiáng)人工智能體已經(jīng)超越工具理性的范疇，成為能夠通過深度學(xué)習(xí)形成自主意識(shí)并在其侵害人類法益的過程中實(shí)現(xiàn)其自主意識(shí)的特殊主體。“現(xiàn)有的罪責(zé)理論并不排斥人工智能的罪責(zé)，甚至可能發(fā)展出一種合理的客觀標(biāo)準(zhǔn)作為人工智能罪責(zé)能力的判斷依據(jù)。在此基礎(chǔ)上，至少將人工智能主體作為一種擬制的法律主體置于刑法的范疇之內(nèi)是沒有問題的，甚至將其作為道德主體的可能性在事實(shí)和邏輯層面也是可以成立的。在人工智能主體具備足夠的理性能力的前提下，對(duì)其科處刑罰是有意義的，完全符合刑罰目的?！保?7］否定論者則繼續(xù)秉承人類中心主義理念，強(qiáng)調(diào)：“把人看成是自然界唯一具有內(nèi)在價(jià)值的事物，并理所當(dāng)然地把人看成是一切價(jià)值的尺度，人以外的事物不具有內(nèi)在價(jià)值而只有工具價(jià)值，它們理應(yīng)為人類的利益服務(wù)?！保?8］(P33)人工智能體與人存在明顯區(qū)別，人工智能體所擁有的“智能”只是人類對(duì)于其能夠在人類缺乏詳細(xì)預(yù)設(shè)的情況下自主完成任務(wù)能力的一種表述，并非人類“智力”。［29］(P245)

三、不宜以刑罰來規(guī)制（強(qiáng)）人工智能體的刑事風(fēng)險(xiǎn)

蘊(yùn)含強(qiáng)烈規(guī)范性譴責(zé)和非難的刑罰乃犯罪之最基本、最主要且最核心的法律后果，建構(gòu)新型“刑罰”以實(shí)現(xiàn)對(duì)人工智能體自動(dòng)性運(yùn)行侵害人類法益的刑事風(fēng)險(xiǎn)進(jìn)行刑事歸責(zé)似乎是最直接的選擇。然而，主張賦予人工智能體（特別是強(qiáng)人工智能體）以刑事責(zé)任主體地位，運(yùn)用刑罰非難、制裁“犯罪”人工智能體的肯定論歸責(zé)方案，雖對(duì)現(xiàn)代科技所帶來的刑事風(fēng)險(xiǎn)保持了高度警惕，其重構(gòu)刑事責(zé)任理論模型及刑罰措施對(duì)完善現(xiàn)行刑事責(zé)任理論與刑事制裁體系也具有啟發(fā)意義，但卻存在持論依據(jù)及論證路徑方面的諸多誤區(qū)。

（一）誤將刑事責(zé)任能力視為刑事責(zé)任主體地位的充分條件

肯定論者普遍認(rèn)為，若人工智能體具有“獨(dú)立意志”“辨認(rèn)能力和控制能力”，能夠“為了實(shí)現(xiàn)自己的意志、自主決策并自主實(shí)施”行為，或具有“自主性”或“擁有自我的意識(shí)”，便符合刑事責(zé)任主體的條件。［30］但且不論人工智能體能否真切地理解其所感知事物的真實(shí)意義，即便暫時(shí)承認(rèn)能夠深入學(xué)習(xí)的人工智能體具有刑法所要求的辨認(rèn)和控制能力，也不應(yīng)據(jù)此肯定人工智能體的獨(dú)立刑事責(zé)任主體地位。

的確，刑事責(zé)任能力是行為人辨認(rèn)和控制自己行為的能力，行為人只有在能夠辨認(rèn)自己行為性質(zhì)及其后果并且能夠自由選擇是否實(shí)施犯罪時(shí)才承擔(dān)刑事責(zé)任；而刑事責(zé)任主體是實(shí)施刑法規(guī)定的犯罪行為、值得刑法非難與譴責(zé)的刑事責(zé)任承擔(dān)者。刑事責(zé)任能力僅為刑事責(zé)任主體地位的必要條件而非充分條件，具備獨(dú)立刑事責(zé)任主體地位的主體必然具有刑事責(zé)任能力，但具有刑事責(zé)任能力的主體卻并不一定擁有獨(dú)立刑事責(zé)任主體的地位?！熬哂小嬲J(rèn)能力和控制能力’的不只是人類，如家養(yǎng)和野生動(dòng)物雖有以上能力，但都不是犯罪主體，應(yīng)當(dāng)將以上能力限定為超越生物意義的、主要是與人類社會(huì)規(guī)范相關(guān)的‘辨認(rèn)能力和控制能力’，同時(shí)，犯罪主體要排除動(dòng)物等非人類創(chuàng)造物?！保?1］肯定說一味將人工智能體與人的特征進(jìn)行對(duì)比，論證人工智能體具有刑事責(zé)任能力的可能性，忽略刑法理論中責(zé)任主體歸根結(jié)底只能是人的這一最基礎(chǔ)最核心的要素［32］，走入了以偏概全、邏輯錯(cuò)亂的誤區(qū)。

（二）混淆“自主意識(shí)與意志”和辨認(rèn)與控制能力

傳感器、反應(yīng)器及無線通信技術(shù)的發(fā)展，使具有深度學(xué)習(xí)能力的強(qiáng)人工智能體可以感知外界環(huán)境的變化，并自主做出既可能是符合程序設(shè)定也可能偏離設(shè)定程序的反應(yīng)，獲得超越人類的“自主意識(shí)與意志”。如采用強(qiáng)化學(xué)習(xí)算法的AlphaGo Zero在零人類經(jīng)驗(yàn)的情況下，通過自我訓(xùn)練即可“隨機(jī)應(yīng)變”，最終自我訓(xùn)練三天即以100:0的戰(zhàn)績完敗曾經(jīng)戰(zhàn)勝韓國棋手李世石的AlphaGo，在與人類排名第一的棋手柯潔的人機(jī)大戰(zhàn)中也以3:0的戰(zhàn)績?nèi)?。?jīng)由深度學(xué)習(xí)、自主運(yùn)行而產(chǎn)生的“自主意識(shí)與意志”被肯定論者認(rèn)為具有“辨認(rèn)能力和控制能力”，甚至強(qiáng)調(diào)“與人類相比，強(qiáng)人工智能產(chǎn)品具有更強(qiáng)的控制能力和可培養(yǎng)的辨認(rèn)能力”。［33］

以辨認(rèn)與控制能力為核心的人類思維、情感、心智是人類與其他生物最明顯的區(qū)別之一，也是人類自身尊嚴(yán)和奧秘所在，與人工智能通過學(xué)習(xí)、歸納和推理表現(xiàn)出的“邏輯思維”“物理理性”大相徑庭?？隙ㄕ撜邔ⅰ白灾饕庾R(shí)與意志”和辨認(rèn)與控制能力予以等同，無視人工智能與人類智能的客觀差異，曲解刑法中辨認(rèn)與控制能力的實(shí)質(zhì)。對(duì)此，斯坦福頂尖人工智能專家杰瑞·卡普蘭曾發(fā)出警示：“人們傾向于認(rèn)為，大部分人工智能系統(tǒng)和特殊的機(jī)器人類似于人類的大腦和肌肉，雖然可以理解，但是這樣的想法卻是很危險(xiǎn)的。長期以來，人工智能領(lǐng)域一直在利用我們對(duì)于人格化對(duì)象（看起來像我們或者行為像我們）的自然喜好，因?yàn)樗鼈兛梢晕说淖⒁饬蛭顿Y。但同時(shí)這樣的對(duì)象也會(huì)誤導(dǎo)人們，讓人們相信機(jī)器比它們實(shí)際上更像我們，并進(jìn)一步假設(shè)它們有理解能力并會(huì)遵守我們的社會(huì)習(xí)俗。”［34］(P35)人作為社會(huì)性存在，并非機(jī)械、物理性地參與社會(huì)交往實(shí)踐，刑法中人的辨認(rèn)與控制能力均具有強(qiáng)烈的社會(huì)性和規(guī)范性，不是純粹感知到“有”或“無”“存在與否”等事實(shí)特征，而是對(duì)行為性質(zhì)及其后果的規(guī)范認(rèn)知并以此為前提有意識(shí)地選擇為或不為特定行為，以符合其參與社會(huì)交往和實(shí)現(xiàn)自身人格的需要。刑法設(shè)定和追究刑事責(zé)任，旨在以非難違反刑法規(guī)范的行為并制裁其行為主體的方式命令人們遵從刑法的規(guī)范。顯然，唯有以具有規(guī)范性辨認(rèn)和控制能力、能夠理解刑法規(guī)范意義的人為對(duì)象方能實(shí)現(xiàn)刑事責(zé)任的內(nèi)在目的。

與此相關(guān)，人工智能體基于深度學(xué)習(xí)做出表現(xiàn)于外部世界的反應(yīng)或舉動(dòng)也難以認(rèn)定為刑法中的“行為”，缺乏值得刑法處罰的對(duì)象。刑法中的行為是在自由意識(shí)和意志的支配下所實(shí)施的具有社會(huì)意義的外部動(dòng)作，“在目前的發(fā)展?fàn)顟B(tài)下，似乎人工智能產(chǎn)品的行為都很難被歸入行為的范疇內(nèi)。即使我們把行為的‘身體’維度排除在外，這一行為的定義永遠(yuǎn)都不適用于機(jī)器，智能主體的行為既不能被視為‘與社會(huì)相關(guān)’，也不能被視為刑法意義上的‘自愿’”［35］。

（三）不當(dāng)演繹單位作為獨(dú)立刑事責(zé)任主體的法理

除將人工智能體深度學(xué)習(xí)產(chǎn)生自主意識(shí)和意志的能力視作刑事責(zé)任能力外，肯定說還演繹單位作為獨(dú)立刑事責(zé)任主體的法理基礎(chǔ)，表示“自然人與智能機(jī)器人之間最大的區(qū)別在于自然人有生命，而智能機(jī)器人沒有生命。但是沒有生命的單位可以成為刑事責(zé)任主體，這就意味著‘生命’并不是成立刑事責(zé)任主體的必備要件”［36］。不過，“法人是法律擬制的產(chǎn)物，沒有法律的擬制，法人的任何一種行為均可以還原為自然人之行為。而人工智能機(jī)器人卻是實(shí)實(shí)在在的事物，有沒有法律的擬制均為客觀的事物。換句話說，法人是法律之子，而人工智能是自然之子，兩者存在事物本質(zhì)上的差異”［37］。當(dāng)前單位刑事責(zé)任主體地位的取得仍以自然人為基礎(chǔ)，未超逸自然人責(zé)任觀念的基本范疇。

單位承擔(dān)刑事責(zé)任的前提是依法成立的單位在“單位意志”的支配下由單位成員出于單位利益的需要實(shí)施刑法規(guī)定的犯罪行為，并將犯罪所得的利益歸屬于單位。其中，與人工智能體的明顯區(qū)別有三：一是單位的責(zé)任主體地位得到民法或經(jīng)濟(jì)行政法等刑法前置法的確認(rèn)，而人工智能體卻未獲得法律人格。雖然域外人工智能體有被授予法律人格的成例（如2010年日本富山縣接受陪伴機(jī)器人Paro的戶籍登記請(qǐng)求；2017年沙特阿拉伯授予人形機(jī)器人Sophia國籍，承認(rèn)其公民身份），但卻被包括人工智能科學(xué)家在內(nèi)的各方人士更多地認(rèn)為是一種公關(guān)噱頭，一場科技領(lǐng)域的作秀，絕非對(duì)人工智能體法律主體身份的真正肯定。［38］在刑法前置法尚未認(rèn)可人工智能體法律主體地位之前，肯定論確有抵觸刑法謙抑性之虞。二是單位犯罪須在單位意志支配下實(shí)施，但單位意志仍由自然人主導(dǎo)，是單位內(nèi)部成員意志的集中體現(xiàn)且由單位成員具體執(zhí)行，非在自然人毫不干涉的情況下自主形成。三是單位犯罪的犯罪利益應(yīng)歸屬于犯罪單位，但人工智能體缺乏權(quán)利主體資格，難以實(shí)際擁有“犯行”所帶來的“犯罪利益”，也難以為“犯罪”付出相應(yīng)的“刑罰代價(jià)”。事實(shí)上，有學(xué)者在考察單位責(zé)任的實(shí)質(zhì)根據(jù)后正確地指出：“各種學(xué)術(shù)觀點(diǎn)中的公司刑事責(zé)任，無非是某一部分自然人的責(zé)任，即便強(qiáng)調(diào)責(zé)任的整體性，亦是自然人責(zé)任的不同表現(xiàn)形式。公司罪責(zé)并非對(duì)傳統(tǒng)責(zé)任論的突破，也當(dāng)然不能成為肯定機(jī)器人刑事責(zé)任的根據(jù)?！保?9］故而，以單位與人工智能體均為無生命體而單位卻擁有刑事責(zé)任主體地位為由，主張人工智能體應(yīng)被賦予獨(dú)立刑事責(zé)任主體地位，缺乏令人信服的說服力。

（四）新設(shè)刑罰方法難以切實(shí)發(fā)揮刑罰機(jī)能、實(shí)現(xiàn)刑罰目的

為防止賦予人工智能體獨(dú)立刑事責(zé)任主體地位但既有刑罰方法卻無法有效懲治犯罪人工智能體，肯定論者還特別按照人類刑法所規(guī)定的刑罰方法，創(chuàng)造出刪除數(shù)據(jù)等新型刑罰方法，用于懲治犯罪人工智能體，以實(shí)現(xiàn)人工智能體罪責(zé)自負(fù)的要求。然而，這些新型刑罰方法發(fā)揮刑罰機(jī)能、實(shí)現(xiàn)刑罰目的之實(shí)際效果并非不值得懷疑?！安徽撛O(shè)計(jì)何種刑罰措施，基于人工智能特殊的存在形態(tài)，任何物理意義上的刑罰手段都無法實(shí)現(xiàn)應(yīng)有的懲罰效果，而從對(duì)被害人內(nèi)心安撫角度審視，當(dāng)前人們?cè)谟^念上同樣難以通過對(duì)機(jī)器施加刑罰措施得到心靈上的慰藉?！保?0］其實(shí)，刪除犯罪人工智能體的“犯罪記憶”，能否保證該人工智能體不會(huì)如前次犯罪那樣重新走向犯罪的道路，畢竟具有深度學(xué)習(xí)能力的人工智能體能夠在算法設(shè)計(jì)之外自主行動(dòng)？修改人工智能體的程序如果確有效果，為何不在人工智能體算法設(shè)計(jì)過程中即修改相應(yīng)的程序或者徑直加入避免侵犯人類或侵犯人類即自動(dòng)報(bào)廢的程序要求？按照肯定論者對(duì)人工智能體可能脫離人類控制甚至淘汰、奴役、消滅人類的設(shè)想，人類是否有足夠的能力和實(shí)力徹底銷毀嚴(yán)重犯罪的人工智能體呢？凡此種種，均需得到肯定論者應(yīng)有的重視。

事實(shí)上，肯定論為規(guī)制人工智能“反噬”人類的刑事風(fēng)險(xiǎn)，提出應(yīng)當(dāng)修正、解構(gòu)甚至否定人類中心主義的立場，在人類之外肯定存在其他類型的法律主體，賦予人工智能體特別是強(qiáng)人工智能體以獨(dú)立性刑事責(zé)任主體地位［41］，認(rèn)為“在智能時(shí)代，修正的人類中心主義才是更好的現(xiàn)實(shí)選擇”［42］，以此破解人工智能體刑事風(fēng)險(xiǎn)現(xiàn)實(shí)化過程中可能出現(xiàn)的“責(zé)任空白”難題。然而，人類中心主義是人類所建構(gòu)的各種規(guī)范性制度取得最終實(shí)效的基本保障和內(nèi)在緣由，肯定論者主張緩和或修正人類中心主義在相當(dāng)程度上弱化了人類的主體性地位和價(jià)值，是對(duì)人類價(jià)值與人格尊嚴(yán)的不當(dāng)放棄，得不償失，非明智之舉。當(dāng)前，堅(jiān)持人類中心主義已成為人工智能界的普遍共識(shí)，即人工智能研發(fā)與應(yīng)用必須以人為本，以追求并擴(kuò)大人類福祉為宗旨。［43］人工智能體脫離人類控制嚴(yán)重侵害人類法益的歸責(zé)方案理應(yīng)繼續(xù)堅(jiān)守人類中心主義的立場，堅(jiān)持人工智能體的工具理性，意識(shí)到人工智能體缺乏人心人性，其外部行動(dòng)建立于對(duì)外部世界客觀事實(shí)的感知而非價(jià)值意涵的理解，是深度學(xué)習(xí)能力及算法系統(tǒng)驅(qū)動(dòng)下的自動(dòng)性反應(yīng)，與人際間社會(huì)交往互動(dòng)存在明顯區(qū)別。同理，人工智能體對(duì)人類法益的侵害既非人工智能體自由意志的外部表現(xiàn)，也不是能夠避免侵害情況下有責(zé)任地違反規(guī)范，而是算法系統(tǒng)運(yùn)行的必然結(jié)果，缺乏被刑罰非難的主體適格性。

四、可能的方案：運(yùn)用保安處分抗制（強(qiáng)）人工智能體的刑事風(fēng)險(xiǎn)

就刑法作用機(jī)制的具體構(gòu)造來看，刑法對(duì)社會(huì)關(guān)系的規(guī)制是借助刑罰方法非難行為人違反禁止性規(guī)范主動(dòng)攻擊特定法益，抑或違反命令性規(guī)范應(yīng)當(dāng)救助卻不救助特定法益，其規(guī)制理由除侵害法益的特定后果以外，還包括行為人在能夠遵守相關(guān)規(guī)范的場合卻基于自由意志選擇（有責(zé)任地）違反相關(guān)規(guī)范，即犯罪系行為人自由意志外化的客觀結(jié)果，是行為人犯罪性人格的重要表現(xiàn)，而刑罰則是對(duì)犯罪性人格的正式否定，是對(duì)行為人自由意志犯罪性外化的非難形式。

以深度學(xué)習(xí)為技術(shù)支撐、靠大數(shù)據(jù)“喂養(yǎng)”的人工智能系對(duì)人類智能的模擬和仿效，其固然能夠借助各種傳感器捕捉外部世界的信息變化，并按照預(yù)先設(shè)定的算法系統(tǒng)作出特定反應(yīng)，但卻只是具備人類認(rèn)識(shí)能力和控制能力以及自由意志的外觀，而缺乏人類特有的人格性這一本質(zhì)要素?！叭祟惻c機(jī)器人一項(xiàng)重大的道德差異在于機(jī)器人缺乏人格性，無法參與在人際關(guān)系之中。雖然機(jī)器人作為道德主體，在外顯的行為表現(xiàn)上可以跟人類一樣，甚至更好，但無法享有人際關(guān)系理由的事實(shí)，代表在涉及干涉人類自主性的情況時(shí)，機(jī)器人的行為應(yīng)當(dāng)受到比人類更大的限制?！保?4］賦予“犯罪”人工智能體獨(dú)立的刑事責(zé)任主體地位，直接追究人工智能體自身的“刑事責(zé)任”，貌似是對(duì)人工智能體“犯罪”的報(bào)應(yīng)和非難，但此種報(bào)應(yīng)和非難的對(duì)象卻不是人工智能體能夠遵守法律規(guī)范前提下“自由”“自主”地選擇實(shí)施侵害人類法益，并未真正觸及人工智能體的“人格性”。

當(dāng)前，人工智能技術(shù)正成為推動(dòng)社會(huì)發(fā)展的重要?jiǎng)恿?，也是我國在現(xiàn)代國際競爭中實(shí)現(xiàn)“超車”的重要彎道，理應(yīng)坦然正視且致力抑制或消除人工智能體帶給人類利益受損的刑事風(fēng)險(xiǎn)，充分保護(hù)人機(jī)交互或人機(jī)融合中人類的利益和福祉。前述人工智能體缺乏被刑罰非難主體適格性的理論展開，旨在強(qiáng)調(diào)不宜賦予人工智能體獨(dú)立刑事責(zé)任主體地位、徑直追究“犯罪”人工智能體“刑事責(zé)任”的方式，解決人工智能體自動(dòng)運(yùn)行過程中侵害人類法益可能出現(xiàn)的“責(zé)任空白”，并不意味著刑事反應(yīng)機(jī)制不應(yīng)介入人工智能體的刑事風(fēng)險(xiǎn)及其歸責(zé)領(lǐng)域。

在特定行為的刑事反應(yīng)機(jī)制中，刑罰方法系國家對(duì)行為人能夠?qū)嵤┖戏ㄐ袨榈那樾蜗掠胸?zé)任地實(shí)施該當(dāng)構(gòu)成要件的違法行為所施予的責(zé)任報(bào)應(yīng)和非難譴責(zé)?！靶塘P是以剝奪法益這一形式所體現(xiàn)的責(zé)任非難的現(xiàn)實(shí)的表現(xiàn)形式。責(zé)任是刑罰的基礎(chǔ)，并且決定了刑罰的性質(zhì)?！保?5］（P469）依托現(xiàn)有刑事歸責(zé)理論無法賦予人工智能體獨(dú)立的刑事責(zé)任主體地位，難以肯定以刑罰規(guī)制人工智能體刑事風(fēng)險(xiǎn)的適宜性，于是放棄對(duì)人工智能體直接進(jìn)行歸責(zé)，將目光投向社會(huì)防衛(wèi)論以及以此為基礎(chǔ)的保安處分，就成為應(yīng)對(duì)人工智能刑事風(fēng)險(xiǎn)的務(wù)實(shí)選擇。對(duì)此，有論者借鑒刑事近代學(xué)派所主張的社會(huì)防衛(wèi)論，創(chuàng)造性地提出“科技社會(huì)防衛(wèi)論”：“在應(yīng)對(duì)人工智能等科技產(chǎn)品危害社會(huì)的風(fēng)險(xiǎn)時(shí)，只要有客觀危害產(chǎn)生或者有危險(xiǎn)存在，對(duì)實(shí)施了社會(huì)危害行為或者有危險(xiǎn)性的人工智能就應(yīng)當(dāng)適用具有保安處分性質(zhì)的技術(shù)消除措施。”［46］毋庸諱言，為消除客觀危險(xiǎn)的社會(huì)防衛(wèi)論曾在學(xué)術(shù)史上遭到批判，但以社會(huì)防衛(wèi)論為基礎(chǔ)所構(gòu)建的保安處分在管控風(fēng)險(xiǎn)、保障安全上超越刑罰（刑事歸責(zé)）的特殊優(yōu)勢卻得到現(xiàn)代刑法的普遍肯認(rèn)，刑罰與保安處分雙軌并行的刑事制裁體系也得到相對(duì)廣泛的提倡和采用。

在雙軌制中，刑罰是在滿足報(bào)應(yīng)需要前提下，追求一般預(yù)防與特殊預(yù)防的雙重目的，其以過去的犯罪行為所表現(xiàn)出的責(zé)任為基礎(chǔ)，通過剝奪犯罪人之法益，實(shí)現(xiàn)對(duì)具有刑事責(zé)任能力者實(shí)施犯罪行為的非難和譴責(zé)。與此相對(duì)，保安處分則僅出于特殊預(yù)防的考量，以將來實(shí)施嚴(yán)重危害社會(huì)的危險(xiǎn)性為基礎(chǔ)，采用改善、隔離等矯正或排害措施，抑制或消除社會(huì)危險(xiǎn)性。鑒于“根據(jù)犯罪行為的罪責(zé)程度而裁量的刑罰，往往不能正確而完整地達(dá)成刑法預(yù)防犯罪的目的構(gòu)想”［47］（P389），作為刑罰補(bǔ)充的保安處分直接針對(duì)處分對(duì)象的社會(huì)危險(xiǎn)性，面向?qū)韺?shí)施嚴(yán)重危害社會(huì)的可能，不涉及對(duì)過去嚴(yán)重危害社會(huì)行為的譴責(zé)或非難等否定性評(píng)價(jià)，不以具有刑事責(zé)任能力為前提，不以犯罪人具有被刑罰非難的主體性資格為必要［48］（P125），契合了人工智能刑事風(fēng)險(xiǎn)防范的現(xiàn)實(shí)需要。同時(shí)僅就犯罪預(yù)防而言，刑罰是透過剝奪犯罪人的重要法益使犯罪人與普通公眾認(rèn)識(shí)到實(shí)施犯罪將受到國家的譴責(zé)并遭受法益被剝奪的不利后果，進(jìn)而產(chǎn)生“不敢”或“不愿”實(shí)施犯罪的預(yù)防效果；而保安處分則聚焦于剝奪犯罪人工智能體的犯罪能力或消滅人工智能體，使之“不能”再犯罪。人工智能體不是可自負(fù)罪責(zé)的刑事責(zé)任主體，其自主運(yùn)行過程中內(nèi)在風(fēng)險(xiǎn)及其現(xiàn)實(shí)危害難以歸咎于人工智能體本身，為此，對(duì)人工智能體所施加的“技術(shù)性危險(xiǎn)消除措施”放棄對(duì)刑法上可非難性的考量，專注于消除人工智能體自身的風(fēng)險(xiǎn)，可歸入對(duì)物保安處分措施的范疇。②

與對(duì)具有危險(xiǎn)性格的人所實(shí)施的保安處分不同，對(duì)物保安處分是國家為抗制犯罪或侵害社會(huì)的危險(xiǎn)，對(duì)誘導(dǎo)犯罪發(fā)生之物或者過去犯罪殘存之危險(xiǎn)物采取的預(yù)防措施，旨在消除特定物的社會(huì)危險(xiǎn)性?！叭绻撤N物對(duì)公共安全或社會(huì)秩序具有危險(xiǎn)性，而且從防衛(wèi)社會(huì)的角度出發(fā)應(yīng)予沒收的，這種沒收就屬于保安處分。”［49］（P21）除刑事沒收以外，典型的對(duì)物保安處分措施還有責(zé)令犯罪者提供一定數(shù)額財(cái)物擔(dān)保將來不再實(shí)施犯罪的善行保證、關(guān)閉營業(yè)所、解散法人及停止業(yè)務(wù)等。［50］（P86）破解人工智能體刑事風(fēng)險(xiǎn)及其現(xiàn)實(shí)化之危害后果的歸責(zé)難題，需要繼續(xù)堅(jiān)守人類中心主義根本立場，根據(jù)人工智能刑事風(fēng)險(xiǎn)的獨(dú)特屬性、具體內(nèi)容并結(jié)合刑法的性質(zhì)任務(wù)以及運(yùn)行機(jī)制，探索建立有效且科學(xué)的規(guī)制人工智能體刑事風(fēng)險(xiǎn)的（對(duì)物）保安處分體系。亦即特定人工智能體在自主運(yùn)行中嚴(yán)重侵害人類并且有證據(jù)證實(shí)其仍有繼續(xù)侵害人類危險(xiǎn)的，司法機(jī)關(guān)可在參考專業(yè)技術(shù)意見的基礎(chǔ)上對(duì)該人工智能體適用刪除數(shù)據(jù)、修改編程以及永久銷毀等技術(shù)性危險(xiǎn)消除措施。這些技術(shù)性危險(xiǎn)消除措施繞過人工智能體自身刑罰非難適格性的論爭，因?qū)Ｗ⒂谙斯ぶ悄荏w內(nèi)在之侵害人類法益的刑事風(fēng)險(xiǎn)，確保人工智能運(yùn)行的安全性，與保安處分具有性質(zhì)、內(nèi)容及價(jià)值上的同一性。

采用保安處分的方案破解人工智能體侵害人類法益的歸責(zé)疑難，直面人工智能體內(nèi)在的技術(shù)風(fēng)險(xiǎn)，既有助于擺脫人工智能體侵害人類的責(zé)任應(yīng)當(dāng)歸咎于何種法律主體的糾結(jié)，回避以刑罰規(guī)制人工智能刑事風(fēng)險(xiǎn)必須具備可非難性的局限，進(jìn)而為國家公權(quán)力介入人工智能體刑事風(fēng)險(xiǎn)的抗制提供理論支持和正當(dāng)性根據(jù)，也有利于督促人工智能體的使用者審慎監(jiān)管人工智能體的實(shí)際運(yùn)行，及時(shí)阻斷人工智能體內(nèi)在刑事風(fēng)險(xiǎn)現(xiàn)實(shí)化流程，確保人工智能體始終在安全和值得信賴的環(huán)境中得到合理使用。畢竟對(duì)“問題”人工智能體采取的技術(shù)性危險(xiǎn)消除措施必定會(huì)構(gòu)成對(duì)使用者正常使用人工智能體不同程度的制約。

五、結(jié)語

鑒于人工智能在增強(qiáng)綜合國力、提升國際競爭力以及引領(lǐng)時(shí)代發(fā)展方面的獨(dú)特優(yōu)勢，中國已經(jīng)毫不遲疑地加入了新一輪人工智能革命，并將人工智能技術(shù)的研發(fā)與運(yùn)用作為提高經(jīng)濟(jì)社會(huì)發(fā)展智能化水平、增強(qiáng)社會(huì)治理能力的重要抓手和強(qiáng)力支撐。然而，“來自未知的力量也讓人們有些無所適從，擔(dān)憂、不安甚至惶恐的情緒，也讓人們深受困擾。人們不知道人工智能研究像潘多拉的盒子那樣裝滿了災(zāi)難，還是像一部電梯，帶著人們通向更高級(jí)的人類文明”［51］（P26-27）。不論在現(xiàn)實(shí)中還是理論中，人工智能體所蘊(yùn)含的刑事風(fēng)險(xiǎn)都是制約人工智能發(fā)展的重要障礙。人工智能進(jìn)步價(jià)值的充分釋放，有賴于包括刑法在內(nèi)的整個(gè)法律體系乃至社會(huì)控制體系有力、有效地應(yīng)對(duì)人工智能刑事風(fēng)險(xiǎn)，但人工智能刑事風(fēng)險(xiǎn)防控措施的選擇理應(yīng)準(zhǔn)確識(shí)別人工智能刑事風(fēng)險(xiǎn)的客觀屬性以及不同風(fēng)險(xiǎn)防控措施的獨(dú)特原理，科學(xué)地把握風(fēng)險(xiǎn)種類及防控措施之間的內(nèi)在邏輯關(guān)聯(lián)，確保人工智能刑事風(fēng)險(xiǎn)及其歸責(zé)方案的正當(dāng)性和實(shí)益性，避免將剛走出科幻世界不久的人工智能重新帶入科幻世界。

注釋：

①本文在系統(tǒng)的維度使用“人工智能”的概念，基于人工智能系統(tǒng)驅(qū)動(dòng)的實(shí)體則為“人工智能體”，特此說明。

②值得注意的是，保安處分因其處分內(nèi)容及法律依據(jù)的差異，可以區(qū)分為刑事保安處分與行政保安處分兩類。不過，刑事保安處分與行政保安處分雖然法律屬性上存有區(qū)別，但二者的實(shí)質(zhì)意涵均為消除或者抑制特定社會(huì)風(fēng)險(xiǎn)（人或物），保障社會(huì)安全。保安處分刑事性與行政性的固有區(qū)別，并不影響將技術(shù)性危險(xiǎn)消除措施歸入對(duì)物保安處分范疇的正當(dāng)性，畢竟對(duì)物保安處分與對(duì)人保安處分是在處分對(duì)象維度對(duì)保安處分進(jìn)行的類型化區(qū)分。