張金鋼

(華東政法大學(xué) 法律學(xué)院，上海 200042)

一、沖突與抵牾：人工智能時(shí)代的潛力前景與風(fēng)險(xiǎn)爭(zhēng)議

“計(jì)算機(jī)之父”馮·諾依曼指出:“技術(shù)正以其前所未有的速度增長(zhǎng)……我們將朝著某種類似奇點(diǎn)的方向發(fā)展，一旦超越了這個(gè)奇點(diǎn)，我們現(xiàn)在熟知的人類社會(huì)將變得大不相同。”[1]當(dāng)前人工智能技術(shù)的發(fā)展正逼近奇點(diǎn)，自1956年“人工智能”概念進(jìn)入人類歷史以來(lái)(1)1956年夏季，以麥卡賽、明斯基、羅切斯特和申農(nóng)等為首的一批有遠(yuǎn)見(jiàn)卓識(shí)的年輕科學(xué)家在一起聚會(huì)，共同研究和探討用機(jī)器模擬智能的一系列有關(guān)問(wèn)題，并首次提出了“人工智能”這一術(shù)語(yǔ)，標(biāo)志著“人工智能”這門新興學(xué)科的正式誕生。，人工智能技術(shù)得到了跨越式的發(fā)展，正以指數(shù)級(jí)的速度高速增長(zhǎng)，智能機(jī)器人已經(jīng)廣泛運(yùn)用于社會(huì)生活、工作和生產(chǎn)等領(lǐng)域。在過(guò)去的幾年，諸多人們?cè)O(shè)想的場(chǎng)景都已逐步實(shí)現(xiàn)：Alpha-Go(圍棋人工智能程序)戰(zhàn)敗頂尖棋手，自動(dòng)駕駛技術(shù)日漸成熟，“機(jī)器人”群體在日常大眾生活中發(fā)揮的作用越來(lái)越大……“智能時(shí)代，未來(lái)已來(lái)”[2]，同時(shí)也引發(fā)了關(guān)于人工智能安全問(wèn)題的擔(dān)憂，人工智能是否成為人類“最后的發(fā)明”(2)據(jù)2014年英國(guó)廣播公司的報(bào)道，著名物理學(xué)家霍金表示，“人工智能或許不但是人類歷史上最大的事件，而且還有可能是最后的事件”，“人工智能的全面發(fā)展可能導(dǎo)致人類的滅絕”[3-4]。？

人工智能技術(shù)狂飆突進(jìn)，我們應(yīng)該理性分析人工智能的發(fā)展對(duì)社會(huì)的影響，系統(tǒng)評(píng)估它的整體發(fā)展趨勢(shì)和效應(yīng)。2017年7月20日國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》強(qiáng)調(diào)，我國(guó)應(yīng)當(dāng)加快人工智能與現(xiàn)行法律制度的結(jié)合，在法律制度框架的約束和指引下充分發(fā)揮其功用，并防范其弊端。有理由預(yù)見(jiàn)，在不遠(yuǎn)的將來(lái)，諸多領(lǐng)域的各式各樣的智能機(jī)器人將成為人類社會(huì)中司空見(jiàn)慣的事物?！笆ト瞬恢我巡≈挝床?，不治已亂治未亂?！惫P者認(rèn)為，切勿忽略人工智能技術(shù)發(fā)展所引發(fā)的相關(guān)刑事風(fēng)險(xiǎn)問(wèn)題。“具有自主意識(shí)與意志的智能機(jī)器人是否可以成為刑事責(zé)任的承擔(dān)主體，是否具有刑事責(zé)任能力？”[5]的確，在時(shí)代巨變的態(tài)勢(shì)下，應(yīng)謹(jǐn)慎應(yīng)對(duì)人工智能技術(shù)發(fā)展所引發(fā)的新的刑事風(fēng)險(xiǎn)，通觀其態(tài)勢(shì)，審度其價(jià)值，進(jìn)而尋求解決之道。

二、正本與清源：智能機(jī)器人可成為刑事責(zé)任的主體

(一)智能機(jī)器人的主體資格初探

“智能機(jī)器人是人工智能技術(shù)的結(jié)晶，人工智能技術(shù)的核心就是通過(guò)模擬人類的神經(jīng)網(wǎng)絡(luò)，利用算法和程序?qū)Υ髷?shù)據(jù)加以深度學(xué)習(xí)?！盵6]具有深度學(xué)習(xí)能力的智能機(jī)器人為人類開(kāi)啟了一個(gè)新的進(jìn)步維度，同時(shí)，對(duì)此類智能機(jī)器人的行為進(jìn)行法律評(píng)價(jià)也觸發(fā)了新的難題。其難點(diǎn)首先在于，當(dāng)智能機(jī)器人隨著人工智能技術(shù)的不斷發(fā)展開(kāi)始逐漸脫離管控，將會(huì)導(dǎo)致什么樣的難題？

如何使人們?cè)诔浞窒硎苋斯ぶ悄芗夹g(shù)創(chuàng)新與發(fā)展成果的同時(shí)，最大限度地預(yù)防和控制人工智能技術(shù)給全社會(huì)帶來(lái)的刑事風(fēng)險(xiǎn)，是刑法需要研究解決的重要問(wèn)題。時(shí)下，關(guān)于智能機(jī)器人的責(zé)任問(wèn)題，民法領(lǐng)域的眾多學(xué)者已經(jīng)在研究這個(gè)難題，而在刑法領(lǐng)域討論才剛剛開(kāi)始。如果智能機(jī)器人造成了具有刑法意義的結(jié)果(例如有人死亡或受傷，或者物品遭到毀壞)，就會(huì)產(chǎn)生刑事責(zé)任問(wèn)題：誰(shuí)是行為人？誰(shuí)承擔(dān)刑法上的罪責(zé)？是智能機(jī)器人背后的人——使技術(shù)發(fā)揮其作用的研發(fā)者與使用者？還是智能機(jī)器人本身？亦或無(wú)人承擔(dān)刑責(zé)，因?yàn)楣娫瓌t上希望開(kāi)發(fā)并利用此類技術(shù)，因此也必須承擔(dān)其(部分的)不可預(yù)測(cè)性帶來(lái)的后果？下文概要介紹智能機(jī)器人所引發(fā)的刑事責(zé)任的可能理由及其界限，旨在探討前述問(wèn)題。

眾所周知，刑法是為人制定的，如果行為人的行為導(dǎo)致了構(gòu)成要件所描述的結(jié)果，那么該結(jié)果就要?dú)w責(zé)于該行為人。如果行為人能夠認(rèn)識(shí)到其行為的不法性，也能夠以可期待的方式避免，卻仍然故意或者過(guò)失滿足了犯罪構(gòu)成要件，也即符合構(gòu)成要件的不法行為的非難可能性，那么刑法上的罪責(zé)則由行為人承擔(dān)。然而，我們已經(jīng)看到，具備深度學(xué)習(xí)能力的智能機(jī)器人也可以具有學(xué)習(xí)能力，并且至少能夠在引申的意義上“自主地”行動(dòng)，那么智能機(jī)器人能否也像人一樣可以受刑事處罰？在開(kāi)始尋求這個(gè)問(wèn)題的最終答案之前，我們可以簡(jiǎn)單回顧一下有關(guān)對(duì)非人類進(jìn)行刑法懲戒的經(jīng)驗(yàn)和設(shè)想。通過(guò)考察人類刑法的歷史發(fā)現(xiàn)，罪責(zé)與刑罰并非由人類所壟斷。在過(guò)去的數(shù)個(gè)世紀(jì)中，直至啟蒙時(shí)期，刑法曾經(jīng)歷過(guò)并非完全以人類為中心進(jìn)行構(gòu)建的時(shí)期，比如刑法史有關(guān)于歐洲近代早期針對(duì)動(dòng)物的刑事訴訟程序和刑罰的記載，一起比較晚近的動(dòng)物訴訟相傳發(fā)生在巴塞爾(1474年)：審判對(duì)象是一只公雞，其被指控下了一個(gè)蛋，蛋中孵出了一只蛇精。這只巴塞爾的公雞和其他被判決的動(dòng)物一樣，被判處死刑。隨著社會(huì)的進(jìn)步和人們思想觀念的更新，針對(duì)動(dòng)物的刑法也走到盡頭，自此以后，動(dòng)物不再被等同于人，而是被作為“物”對(duì)待。

依照現(xiàn)代意義上的理解，機(jī)器和動(dòng)物一樣不具有人的法律地位，它們不被當(dāng)作自主的生命體，因?yàn)樗鼈兪且员欢x好的方式發(fā)揮功能。但是在科幻作品中我們總能發(fā)現(xiàn)端倪，表明原本被設(shè)想為人類助手的機(jī)器或許還能夠做得更多，逐漸演化成人的智能機(jī)器人，一再成為科幻小說(shuō)的主題。早在1950年，科幻作家艾薩克·阿西莫夫就形象地闡述了機(jī)器的法律人格問(wèn)題。在小說(shuō)《我，機(jī)器人》中，阿西莫夫提出了規(guī)范人與機(jī)器人之間(上下等級(jí))關(guān)系的“機(jī)器人三定律”(3)第一，機(jī)器人不能傷害人類，也不能在人類受到傷害的時(shí)候置之不理；第二，機(jī)器人必須遵守人類發(fā)出的命令，只有當(dāng)該命令違背第一定律的時(shí)候除外；第三，機(jī)器人必須保護(hù)自己，除非與第一、第二定律相沖突。。在許多科幻影片中，有著更強(qiáng)自主意識(shí)的機(jī)器人同樣扮演了重要角色，最典型的例子當(dāng)屬史蒂文·斯皮爾伯格執(zhí)導(dǎo)的影片《人工智能》中的智能機(jī)器人——男孩大衛(wèi)，它滿懷悔意地向它的人類媽媽保證會(huì)改過(guò)——就像經(jīng)典人物匹諾曹那樣，以便能夠回到家中，這些作品描述的智能機(jī)器人都學(xué)會(huì)了發(fā)展自我意識(shí)、感覺(jué)，可以產(chǎn)生自主的意識(shí)和意志。

“觀念的范圍是貧乏、不完善的，知識(shí)的范圍比觀念范圍更狹窄?！盵7]在大眾的預(yù)設(shè)理解下，智能機(jī)器人不具備獨(dú)立的法律主體地位。同時(shí)，行為、刑事責(zé)任等這樣的概念，一直被認(rèn)為是無(wú)法適用于機(jī)器的，即便是具備深度學(xué)習(xí)能力、具有辨認(rèn)和控制能力的智能機(jī)器人能自主地進(jìn)行活動(dòng)，但是因其不能劃歸到刑法當(dāng)中的行為，對(duì)機(jī)器人進(jìn)行刑事責(zé)任的歸屬都不具有可行性[8-10]。可以說(shuō)，此種觀點(diǎn)和結(jié)論是將智能機(jī)器人承擔(dān)刑事責(zé)任的可能性先驗(yàn)地予以完全排除?！岸@一結(jié)論又是以傳統(tǒng)理論未預(yù)見(jiàn)到人工智能技術(shù)會(huì)取得如此大的進(jìn)展為前提的?！盵11]

(二)智能機(jī)器人主體資格之再認(rèn)知

“法律要為智能機(jī)器人的發(fā)展提供有效創(chuàng)新激勵(lì)，就必須正確回應(yīng)智能機(jī)器人對(duì)法律主體理論帶來(lái)的諸多挑戰(zhàn)?！盵12]一些學(xué)者認(rèn)為：“人工智能的認(rèn)知和決定能力是人類賦予的，是依賴于人類的辨認(rèn)能力和控制能力而存在的，是一種與人類能力相區(qū)別的擬制的能力?！盵13]另外一些學(xué)者認(rèn)為：“智能機(jī)器人是人類模擬自身神經(jīng)網(wǎng)絡(luò)創(chuàng)造出來(lái)的事物，比世界上任何事物都更類似于人，刑法應(yīng)當(dāng)尊重其自由意志，適時(shí)考慮賦予其法律上的主體資格?！盵14]面對(duì)人工智能這一新興產(chǎn)業(yè)，“法治不僅僅是考慮當(dāng)下，也要考慮未來(lái)”[15]?！澳壳埃跈C(jī)器人的權(quán)利主體地位上，歐盟議會(huì)法律事務(wù)委員會(huì)(JURI)已經(jīng)就機(jī)器人和人工智能提出了立法提案，擬采用‘?dāng)M制電子人’的方式，賦予機(jī)器人法律主體地位?！盵16]“2016年2月，美國(guó)國(guó)家公路安全交通管理局認(rèn)定谷歌無(wú)人駕駛汽車采用的人工智能系統(tǒng)可以被視為司機(jī)?！盵17]國(guó)內(nèi)也有論者指出：“人工智能具有獨(dú)立自主的行為能力，有資格享有法律權(quán)利并承擔(dān)義務(wù)，人工智能應(yīng)具有法律人格。”[18]毋庸置疑，人類與智能機(jī)器人共存與發(fā)展已經(jīng)成為我們不可回避的趨勢(shì)，簡(jiǎn)單地反對(duì)或阻止智能機(jī)器人可作為受刑事處罰的主體往往適得其反。有學(xué)者認(rèn)為：“技術(shù)發(fā)展到一定程度后必然會(huì)有精神，如果技術(shù)發(fā)展更加智慧，它就會(huì)像大腦一般成為精神的更好載體?！盵19]“智能機(jī)器人和自然人一樣，完全可能具有自主的意識(shí)和意志。智能機(jī)器人雖然是由人類設(shè)計(jì)和編制的程序組成的，同時(shí)也因?yàn)槿祟愒谄洹w內(nèi)’設(shè)計(jì)和編制的程序使其具有了思考和學(xué)習(xí)的能力，這種能力使得智能機(jī)器人可以產(chǎn)生自主的意識(shí)和意志。例如，打敗圍棋世界冠軍的Alpha-Go能夠在人類設(shè)計(jì)和編制的程序之下通過(guò)學(xué)習(xí)而掌握圍棋技術(shù)從而贏得比賽?！盵5]正如雷·庫(kù)茲韋爾(Ray Kurzweil)在《人工智能的未來(lái)：揭示人類思維的奧秘》中所談?wù)摰模骸爱?dāng)機(jī)器說(shuō)出它們的感受和感知經(jīng)驗(yàn)，而我們相信它們所說(shuō)的是真的時(shí)，它們就真正成了有意識(shí)的人。”[20]

“刑法規(guī)范是一種結(jié)果，而不是一種前提，刑法要從社會(huì)中尋找?！盵21]在這個(gè)意義上，刑法學(xué)不僅僅包括對(duì)刑法規(guī)范本身的研究，同樣包括對(duì)刑事法律與社會(huì)控制的諸多方面社會(huì)現(xiàn)象的研究。縱觀刑法的發(fā)展歷史，犯罪類型由自然犯發(fā)展到法定犯，犯罪主體由自然人發(fā)展到單位法人，這些都是刑法順應(yīng)社會(huì)轉(zhuǎn)型的進(jìn)化成果。

同時(shí)，刑法上的“人”有其規(guī)范意義，法律中“人”的概念并不等同于自然意義上的生命體，是其作為權(quán)利和義務(wù)的集合體，有其規(guī)范性。例如，《刑法》規(guī)定未滿14周歲的未成年人和完全不能辨認(rèn)和控制自己行為的精神病人所實(shí)施的危害行為都不是犯罪行為，不能進(jìn)行刑事責(zé)任歸責(zé)，從此意義上來(lái)說(shuō)，他們都不是刑法意義上的人，而單位之所以是獨(dú)立的犯罪主體，可以承擔(dān)刑事責(zé)任，其根本原因是因?yàn)閱挝蛔鳛槌休d了自然人集體權(quán)利和義務(wù)的組織，被擬制為刑法上的“人”。正如有學(xué)者所言：自然人并不是自然現(xiàn)實(shí)而只是法律思想的構(gòu)造，自然人和法人都是法律權(quán)利和義務(wù)的統(tǒng)一體而成為了法律上的人[22]。由此觀之，刑法所規(guī)制的“人”并不以生物性為根本特征，而是具有刑法規(guī)范意義上的“法律人”。也即，刑事主體的賦予并不要求具備全部生物特征，核心要素的判斷才是關(guān)鍵，當(dāng)智能機(jī)器人在算法的支持下，借助數(shù)據(jù)和計(jì)算，能夠像人一樣進(jìn)行自我思考，感知外界變化并進(jìn)行獨(dú)立的行動(dòng)，擁有具備大腦所有功能的電子腦，與人一樣有了自我獨(dú)立意志，能自主支配自己外在機(jī)體，或者借助其他外在工具作出能夠影響客觀世界的行為，即成了行為自由的主體。智能機(jī)器人能夠進(jìn)行編程之外的自主行為，通過(guò)算法獲得規(guī)范意識(shí)支配下的自由意志，雖然該行為受控于智能機(jī)器人內(nèi)部的集合數(shù)據(jù)，且數(shù)據(jù)來(lái)源于研發(fā)設(shè)計(jì)者、操作者，但智能機(jī)器人卻不直接受控于設(shè)計(jì)者、研發(fā)者、操作者，這也是智能機(jī)器人能夠成為刑事責(zé)任主體的必要條件，是刑法所要求的“理性人”的存在，理應(yīng)被賦予刑事主體資格。因此，“在舊的理論無(wú)法回答新時(shí)代所帶來(lái)的問(wèn)題之時(shí)，我們所需要做的就是對(duì)舊理論加以改造和完善。將智能機(jī)器人納人刑事責(zé)任主體范圍之內(nèi)并非是沒(méi)有理論依據(jù)的，只需要我們?cè)谂f理論的基礎(chǔ)上灌以新的血液，就能回答人工智能時(shí)代所提出的新的疑問(wèn)?！盵23]

三、檢視與選擇：與智能機(jī)器人相關(guān)的刑事責(zé)任分配

(一)智能機(jī)器人自身的刑事責(zé)任

如果肯定具有自主意識(shí)和意志的智能機(jī)器人可作為受刑事處罰的主體，隨之而來(lái)的難題就是智能機(jī)器人的刑事責(zé)任問(wèn)題。無(wú)論在我國(guó)還是在大陸法系國(guó)家，行為人具有刑事責(zé)任能力才成立犯罪，然后才產(chǎn)生刑事責(zé)任問(wèn)題。同時(shí)，學(xué)界通常認(rèn)為刑事責(zé)任能力的有無(wú)又是行為主體能否成為刑事責(zé)任主體的必備要素?！靶淌仑?zé)任能力是指行為主體承擔(dān)刑事責(zé)任的能力，體現(xiàn)為行為主體辨認(rèn)和控制自己行為符合規(guī)范要求的能力，包括行為人認(rèn)識(shí)不法與否的認(rèn)識(shí)能力，以及在此基礎(chǔ)上控制自己行為的控制能力。”[24]智能機(jī)器人作為人工智能技術(shù)發(fā)展的代表和結(jié)晶，如上文所述，能夠深度學(xué)習(xí)，可產(chǎn)生自主意識(shí)和意志，具有辨認(rèn)和控制能力，完全具備承擔(dān)刑事責(zé)任的資格。但是不可忽視的問(wèn)題是，要注意具備辨認(rèn)和控制能力的智能機(jī)器人的刑事責(zé)任呈現(xiàn)兩面性的特征。一種情況是智能機(jī)器人在編程內(nèi)實(shí)施行為時(shí)，其實(shí)現(xiàn)和執(zhí)行的是人的意志而非自主的意志，不具有辨認(rèn)能力和控制能力，因此不承擔(dān)刑事責(zé)任。在另外一種情況下，由于智能機(jī)器人在編程外實(shí)施行為時(shí)，其實(shí)現(xiàn)和執(zhí)行的是自我生成的自主意志，應(yīng)承擔(dān)刑事責(zé)任。

(二)智能機(jī)器人的“隱身后臺(tái)者”的刑事責(zé)任

如前所述，當(dāng)智能機(jī)器人執(zhí)行的是自我生成的自主意志，并在意志支配下從事了犯罪活動(dòng)，與研發(fā)設(shè)計(jì)者、操作者的意志和主觀內(nèi)容無(wú)關(guān)，可以理解為智能機(jī)器人的犯罪活動(dòng)超出了研發(fā)設(shè)計(jì)者、操作者的意志，此時(shí)可以將智能機(jī)器人的行為舉動(dòng)認(rèn)定為“前臺(tái)亮相者”的自主行為，那么據(jù)以將之歸責(zé)于“隱身后臺(tái)者”(開(kāi)發(fā)者和操作者)的因果關(guān)系就會(huì)中斷，在此種情況下，智能機(jī)器人的開(kāi)發(fā)者和操作者將不產(chǎn)生相關(guān)刑事責(zé)任分擔(dān)的問(wèn)題。但不可否認(rèn)的是，在大多數(shù)情況下，智能機(jī)器人在設(shè)計(jì)和編制的程序范圍內(nèi)進(jìn)行獨(dú)立判斷并自主作出決策，體現(xiàn)的仍然是人類的意志而非自主意志，如果這種情況下不能令智能機(jī)器人承擔(dān)刑事責(zé)任，那么我們將面臨一個(gè)緊迫問(wèn)題：在何種條件下，智能機(jī)器背后的人可以以及必須為智能機(jī)器人的錯(cuò)誤行為擔(dān)責(zé)？例如，如果智能軍事機(jī)器人向無(wú)辜的民眾開(kāi)火，或者智能無(wú)人駕駛汽車造成其他交通參與者傷亡，那么這些智能機(jī)器人的制造者或使用者是否應(yīng)受刑罰處罰？“人是主體，他既能創(chuàng)造，也應(yīng)該能夠控制，道義上也有責(zé)任控制自己的創(chuàng)造物?！盵25]就目前我國(guó)刑法而言，我們將從以下兩個(gè)方面和角度，確立差別化的責(zé)任規(guī)則和歸責(zé)原則，以此來(lái)厘清和確定智能機(jī)器人開(kāi)發(fā)者和操作者的刑事歸責(zé)原理。

1.基于故意的可罰性

不可否認(rèn)的是，“智能機(jī)器人可能通過(guò)深度學(xué)習(xí)產(chǎn)生自主意識(shí)和意志，但即使是在產(chǎn)生自主意識(shí)和意志之后，也不是每個(gè)行為都能體現(xiàn)自主意志。如果智能機(jī)器人是在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，那么應(yīng)當(dāng)認(rèn)為此時(shí)該行為體現(xiàn)的是研發(fā)者的意志”[14]。如果智能機(jī)器人引起了刑法意義上的結(jié)果(例如人被殺或受傷或者物品遭到毀壞)，而這又是由于智能機(jī)器人的開(kāi)發(fā)者或操作者刻意或者在明知的情況下設(shè)定程序，借助智能機(jī)器人實(shí)現(xiàn)構(gòu)成要件，那么開(kāi)發(fā)者或操作者應(yīng)作為直接正犯承擔(dān)刑事責(zé)任。比如，指令官故意操縱智能軍事機(jī)器人殺害平民，或者無(wú)人駕駛汽車被研發(fā)者故意設(shè)定程序令其碾壓道路上的騎車人，這樣的情形下可以徑行確定，危害結(jié)果系由智能軍事機(jī)器人操縱者或無(wú)人駕駛汽車的研發(fā)者一手造成，他們應(yīng)當(dāng)作為相關(guān)犯罪構(gòu)成要件中的行為人承擔(dān)責(zé)任，因?yàn)樗麄兪窃诶谩獰o(wú)論是多么智能化的——智能機(jī)器人，就像常人根據(jù)自身意愿使用一件工具一樣，相當(dāng)于開(kāi)發(fā)者或操作者實(shí)施犯罪行為的“智能工具”。這對(duì)按照自己意圖操縱智能機(jī)器的人來(lái)說(shuō)，實(shí)際上是直接故意，可以理解為智能機(jī)器人的“隱身后臺(tái)者”——開(kāi)發(fā)者或操作者，直接借助智能機(jī)器人的“手”實(shí)施了犯罪行為，因此，此種情況下將刑事責(zé)任直接歸責(zé)于智能機(jī)器人的開(kāi)發(fā)者或操作者，并相應(yīng)地予以科處刑責(zé)并無(wú)不妥。

2.基于過(guò)失的可罰性

然而，更為常見(jiàn)的情形是，智能機(jī)器人造成了人們并不希望的損害：智能軍事機(jī)器人的操縱者只想打擊預(yù)定的軍事目標(biāo)，卻因機(jī)器人功能失靈而偏離軌道殺死了平民；智能無(wú)人駕駛汽車本應(yīng)當(dāng)遵守相關(guān)交通道路行駛規(guī)則，但卻違規(guī)并在十字路口撞傷騎車人，在這些情況下，只能基于過(guò)失考慮，對(duì)智能機(jī)器人的開(kāi)發(fā)者或操作者進(jìn)行刑事責(zé)任歸責(zé)和刑事處罰?！敖鞣叫谭P(guān)于過(guò)失犯罪之立法肇始于古羅馬法。在羅馬法中，過(guò)失犯之處罰，在于行為人疏忽而未認(rèn)識(shí)行為之違法性，或由于行為人之錯(cuò)誤，致未認(rèn)識(shí)其行為之結(jié)果，凡此均可因有所需要之注意而得以避免。”[26]根據(jù)《刑法》第15條第1款，過(guò)失犯罪的成立是以對(duì)預(yù)見(jiàn)義務(wù)的違反為前提的，也即“應(yīng)當(dāng)預(yù)見(jiàn)但沒(méi)有預(yù)見(jiàn)”，“已經(jīng)預(yù)見(jiàn)而輕信能夠避免”。同時(shí)，義務(wù)與責(zé)任是緊密相聯(lián)的，“沒(méi)有責(zé)任就沒(méi)有刑罰(責(zé)任主義)是近代刑法的一個(gè)基本原理”[27]。而且我國(guó)刑法以懲罰故意犯罪為原則，以懲罰過(guò)失犯罪為例外。

在人工智能技術(shù)迅猛前進(jìn)的時(shí)代背景之下，智能機(jī)器人的開(kāi)發(fā)者或操作者在開(kāi)發(fā)和操作智能機(jī)器人的過(guò)程中對(duì)預(yù)見(jiàn)義務(wù)的違反，為智能機(jī)器人的應(yīng)用提出了新的課題。一般而言，這種預(yù)見(jiàn)義務(wù)的違反就源自結(jié)果的可預(yù)見(jiàn)性：當(dāng)一個(gè)人認(rèn)識(shí)到，他的行為可能造成對(duì)某種受刑法保護(hù)利益的侵害，卻仍然我行我素，那么其行為通常也就違背了預(yù)見(jiàn)義務(wù)。此種義務(wù)不但涵蓋法律、相關(guān)規(guī)章制度所劃定的義務(wù)，還涵射日常生活準(zhǔn)則所要求的義務(wù)。義務(wù)規(guī)范為一般人所設(shè)，無(wú)需具體規(guī)定。換而言之，如果智能機(jī)器人實(shí)施的危害行為，是因?yàn)橹悄軝C(jī)器人的開(kāi)發(fā)者或操作者的疏忽大意所導(dǎo)致的，且智能機(jī)器人的開(kāi)發(fā)者或操作者可能利用當(dāng)時(shí)的人工智能技術(shù)知道會(huì)導(dǎo)致這一特定危害后果的可能性，那么開(kāi)發(fā)者或操作者應(yīng)承擔(dān)相應(yīng)的刑事責(zé)任。比如，智能軍事機(jī)器人的開(kāi)發(fā)者由于編程疏忽或者操作者在使用過(guò)程中沒(méi)有按相關(guān)說(shuō)明操作，對(duì)維護(hù)人類生命沒(méi)有采取相關(guān)預(yù)防、限制措施，則編程開(kāi)發(fā)者和操作者要對(duì)智能軍事機(jī)器人的行為負(fù)責(zé)?！耙呀?jīng)預(yù)見(jiàn)”并不是真正的有認(rèn)識(shí)，這種認(rèn)識(shí)的程度十分有限，只是曾預(yù)見(jiàn)過(guò)危害結(jié)果發(fā)生的可能性，可以說(shuō)其認(rèn)識(shí)通常是模糊不清的。眾所周知，人工智能機(jī)器人的研制和開(kāi)發(fā)是精細(xì)復(fù)雜的，在開(kāi)發(fā)者或操作者可以避免危害結(jié)果的發(fā)生的情況下，如果智能機(jī)器人的開(kāi)發(fā)者或操作者完全可以利用現(xiàn)有人工智能技術(shù)，對(duì)智能機(jī)器人進(jìn)行審慎的制造與編程、深入的測(cè)試以及持續(xù)的關(guān)注，“預(yù)見(jiàn)”到了智能機(jī)器人可能在未來(lái)實(shí)施犯罪行為并導(dǎo)致相應(yīng)的危害結(jié)果，但輕信在現(xiàn)有的人工智能技術(shù)下這種危害結(jié)果是能夠避免的，那么則符合“已經(jīng)預(yù)見(jiàn)并輕信能夠避免”的情況，屬于過(guò)于自信的過(guò)失。

四、消解與進(jìn)路：智能機(jī)器人刑事責(zé)任之限縮

“調(diào)控技術(shù)的發(fā)展并不通過(guò)決定性的個(gè)別現(xiàn)象，而是依據(jù)已建立的規(guī)范的秩序基礎(chǔ)，而這些規(guī)范的秩序基礎(chǔ)又是特別通過(guò)法律和社會(huì)道德建立起來(lái)的?！盵28]展望未來(lái)，人工智能無(wú)疑將是人類最具開(kāi)放性的創(chuàng)新，人類社會(huì)應(yīng)當(dāng)鼓勵(lì)創(chuàng)新，與此同時(shí)，如果刑法過(guò)分干預(yù)，則會(huì)使前沿技術(shù)萎縮，同時(shí)給人類帶來(lái)的利益也可能會(huì)被消解掉，智能機(jī)器人的開(kāi)發(fā)和操作亦是如此。

“歸責(zé)的判斷明顯是屬于規(guī)范的。然而只有在特殊情況下，有效的可宥理由的介入才排除責(zé)任?！盵29]在僅僅存在過(guò)失的場(chǎng)合，可能會(huì)在可預(yù)見(jiàn)性以及結(jié)果歸責(zé)的層面出現(xiàn)問(wèn)題。人工智能機(jī)器人，其決策行為并非總是可以預(yù)測(cè)的，因此對(duì)于開(kāi)發(fā)者或操作者來(lái)說(shuō)，智能機(jī)器人的錯(cuò)誤行為的可預(yù)見(jiàn)性是有疑問(wèn)的，同時(shí)因?yàn)槿斯ぶ悄芗夹g(shù)的高度復(fù)雜性，也使得結(jié)果歸責(zé)的證明變得幾乎不可能。正如法諺所云：法律不強(qiáng)人所難，智能機(jī)器人作為人工智能技術(shù)發(fā)展的代表和結(jié)晶，這一技術(shù)自身是高度復(fù)雜的，同時(shí)這個(gè)領(lǐng)域中風(fēng)險(xiǎn)非常之高并且難以控制，即便是在經(jīng)過(guò)了開(kāi)發(fā)、調(diào)試、制造之后的應(yīng)用階段，由于受到一定地域內(nèi)人工智能技術(shù)發(fā)展進(jìn)程和階段的制約，當(dāng)前還不能杜絕人工智能技術(shù)的弊端，會(huì)陷入無(wú)法預(yù)測(cè)的事態(tài)當(dāng)中，此時(shí)如果將與此相聯(lián)的不可避免的風(fēng)險(xiǎn)轉(zhuǎn)嫁給開(kāi)發(fā)者和操作者，這是不公平的。因此，在這種情況下，即便客觀上造成了損害結(jié)果，也不能夠追究相關(guān)人員的刑事責(zé)任。

基于過(guò)失的可罰性并非要求人們必須放棄任何可能具有風(fēng)險(xiǎn)的行為，就智能機(jī)器人的開(kāi)發(fā)和操作而言，如前所述，這個(gè)領(lǐng)域中風(fēng)險(xiǎn)非常之高并且難以控制，如果刑法過(guò)于積極地介入，那么刑責(zé)的威懾有可能導(dǎo)致(至少某些)智能機(jī)器人的開(kāi)發(fā)和操作——由于缺少可控性——完全停滯甚至終止。這樣的結(jié)果雖然贏得了安全，卻損失了大量能為人們的生活帶來(lái)巨大便利的創(chuàng)新應(yīng)用。任何科學(xué)技術(shù)的發(fā)展都不是以人的意志為轉(zhuǎn)移的，如果我們拒絕，必將被歷史的車輪甩在后面。

五、余論：未竟的話題

人工智能技術(shù)方興未艾，是目前科技發(fā)展的前沿與熱點(diǎn)問(wèn)題，隨著人工智能時(shí)代的來(lái)臨，人類必將迎來(lái)人工智能技術(shù)飛速發(fā)展的時(shí)代。人工智能既是人類文明，亦有社會(huì)風(fēng)險(xiǎn)，“人工智能超越人類智能的可能性，人工智能產(chǎn)生危害后果的嚴(yán)重性，以及人工智能技術(shù)本身內(nèi)在的不確定性，這些因素足以構(gòu)成法律以及其他規(guī)范防止風(fēng)險(xiǎn)的必要性”[30]。

無(wú)論是霍金等科學(xué)家們的警告，還是各界人士的創(chuàng)意性思考，都說(shuō)明人工智能的挑戰(zhàn)是深刻的、全方位的?！叭斯ぶ悄芗夹g(shù)的發(fā)展給人類社會(huì)帶來(lái)了極大的利益，但也帶來(lái)了相應(yīng)的風(fēng)險(xiǎn)，刑法對(duì)相關(guān)行為進(jìn)行必要規(guī)制具有正當(dāng)性?！盵31]所謂無(wú)規(guī)矩不成方圓，人工智能技術(shù)發(fā)展迅猛，應(yīng)在法律制度框架的約束和指引下充分發(fā)揮其功用，并防范其弊端，在智能機(jī)器人研發(fā)應(yīng)用的風(fēng)險(xiǎn)性與刑事歸責(zé)的合理性之間尋求平衡：一方面，保障必要的激勵(lì)，以在人工智能時(shí)代的“美麗新世界”中盡可能廣泛地遏制可控的刑事風(fēng)險(xiǎn)；另一方面，開(kāi)發(fā)和利用自主行動(dòng)的智能機(jī)器人所帶來(lái)的諸多可能性，而無(wú)需擔(dān)憂不可洞悉的刑法后果。

人工智能時(shí)代，智能機(jī)器人的刑事責(zé)任問(wèn)題的探究具有社會(huì)現(xiàn)實(shí)背景與刑法規(guī)范意義。當(dāng)前，我國(guó)刑法理論界對(duì)于智能機(jī)器人刑事責(zé)任問(wèn)題的研究還處于眾說(shuō)紛紜的階段，遠(yuǎn)沒(méi)有達(dá)成共識(shí)，如何應(yīng)對(duì)智能機(jī)器人帶來(lái)的刑事責(zé)任認(rèn)定的挑戰(zhàn)，以及如何認(rèn)定智能機(jī)器人與相關(guān)人類主體之間的刑事責(zé)任歸屬與承擔(dān)，均是當(dāng)前討論最富爭(zhēng)議性的話題，同時(shí)也是亟須解決的法律難題。從當(dāng)前來(lái)說(shuō)，并不存在一個(gè)清晰明了的解決方案，本文更多的目的在于提出問(wèn)題，引起人們的關(guān)注和思索，共同尋找并論證妥適的刑事歸責(zé)方案。