傅 亮

一、問(wèn)題的提出

2022 年11 月，美國(guó)OpenAI 公司發(fā)布了人工智能聊天機(jī)器人程序ChatGPT，僅兩個(gè)月其用戶數(shù)量就超過(guò)1 億人，引發(fā)了全球關(guān)注。事實(shí)上，從1966 年第一代人工智能聊天機(jī)器人ELIZA 的問(wèn)世到現(xiàn)在的手機(jī)語(yǔ)音助手Siri、小愛(ài)同學(xué)、小藝等等，人工智能聊天機(jī)器人已經(jīng)深入普通人的日常生活。但與此前人工智能聊天機(jī)器人有所不同，ChatGPT 是一種基于互聯(lián)網(wǎng)可用數(shù)據(jù)訓(xùn)練的大型語(yǔ)言模型，其運(yùn)用的Transformer 是一種新型腦神經(jīng)網(wǎng)絡(luò)架構(gòu)。①鄧建鵬、朱懌成：《ChatGPT 模型的法律風(fēng)險(xiǎn)及應(yīng)對(duì)之策》，《新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2023 年第5 期。通過(guò)這種架構(gòu)可以把預(yù)訓(xùn)練和微調(diào)體系引入自然語(yǔ)言處理過(guò)程，生成符合人類習(xí)慣的多語(yǔ)言邏輯內(nèi)容。由此，人與機(jī)器的交流不再是簡(jiǎn)單的匹配式對(duì)話，而是可以像朋友一樣閑聊。例如，用戶可以指出智能機(jī)器人的錯(cuò)誤，它在驗(yàn)證后會(huì)進(jìn)行自我改正；同時(shí)，用戶還可以通過(guò)輸入指令，讓它生成所需要的各類內(nèi)容，如演講稿、腳本代碼、策劃方案等等。此外，根據(jù)OpenAI 在其官網(wǎng)公布的數(shù)據(jù)來(lái)看，ChatGPT 的進(jìn)化速度也是非常迅速的。在ChatGPT3.5階段，其參加美國(guó)律師執(zhí)業(yè)考試的成績(jī)是213 分，超越了10%的應(yīng)試者；但在最新發(fā)布的ChatGPT4.0時(shí)代，其成績(jī)已超越了90%的應(yīng)試者。②參見(jiàn)OpenAI 公司網(wǎng)頁(yè)數(shù)據(jù)（https://openai.com/research/gpt-4）。

目前，以ChatGPT 為代表的人工智能技術(shù)的興起正在引發(fā)一場(chǎng)技術(shù)革命。一方面，依靠ChatGPT的強(qiáng)大算力，技術(shù)人員可以重塑數(shù)字時(shí)代的生產(chǎn)方式和消費(fèi)方式，豐富人們的數(shù)字生活；另一方面，隨著以ChatGPT 為代表的生成式人工智能技術(shù)的不斷發(fā)展，其也可能在當(dāng)下和未來(lái)引發(fā)若干刑事法律方面的挑戰(zhàn)。這些挑戰(zhàn)大致可以概括為以下三個(gè)方面：第一，以ChatGPT 為代表的生成式人工智能已經(jīng)具備了一定程度類人化的思維，其不僅具有強(qiáng)大算力，還具備一定的邏輯分析能力①OpenAI 官網(wǎng)的一段視頻顯示，當(dāng)展示一幅綁著繩子的氣球圖片，詢問(wèn)剪斷繩子以后會(huì)發(fā)生什么時(shí)，ChatGPT 回答稱“氣球會(huì)飛走”。，由此，類似ChatGPT 的生成式人工智能是否已經(jīng)具備了承擔(dān)刑事責(zé)任的能力？或者說(shuō)隨著技術(shù)的不斷進(jìn)步，這些人工智能發(fā)展到何種程度時(shí)，可能會(huì)被承認(rèn)為犯罪主體？第二，雖然目前生成式人工智能尚未引發(fā)較大問(wèn)題，但其存在的刑法風(fēng)險(xiǎn)隱患仍不容忽視：（1）科技公司更強(qiáng)調(diào)和注重人工智能的發(fā)展速度而輕視安全性，如谷歌公司在Twitter 上展示其人工智能Bard 關(guān)于韋伯空間望遠(yuǎn)鏡的相關(guān)回答時(shí)，就產(chǎn)生了非常明顯的事實(shí)錯(cuò)誤。②新華網(wǎng)：《出師不利！谷歌Bard 答題犯下事實(shí)性錯(cuò)誤》，https://app.xinhuanet.com/news/article.html?articleId=36e0943a1f8edd3508b1c0e686c0c358，訪問(wèn)日期：2023 年4 月1 日。（2）由于缺乏全面的道德倫理過(guò)濾機(jī)制，不良違法信息的輸出也可能引發(fā)違法犯罪行為。眼下，ChatGPT 已經(jīng)實(shí)現(xiàn)了某種程度的創(chuàng)作，而這也引發(fā)了有關(guān)知識(shí)產(chǎn)權(quán)犯罪的擔(dān)憂。（3）不受監(jiān)管的信息爬取也可能會(huì)對(duì)公民的個(gè)人信息、公司的商業(yè)秘密以及國(guó)家安全的相關(guān)法益造成損害。第三，在總結(jié)了ChatGPT 可能引發(fā)的刑事風(fēng)險(xiǎn)后，未來(lái)的人工智能刑事風(fēng)險(xiǎn)研究又該走向何方？本文嘗試對(duì)以上三個(gè)問(wèn)題展開(kāi)初步探討，希望借此拋磚引玉，深化學(xué)界關(guān)于ChatGPT 以及生成式人工智能刑事風(fēng)險(xiǎn)的研究。

二、對(duì)ChatGPT 犯罪主體資格的追問(wèn)

在回答ChatGPT 能否承擔(dān)刑事責(zé)任之前，需要了解刑事責(zé)任設(shè)置的目的是什么以及為什么人可以承擔(dān)刑事責(zé)任而動(dòng)物則不能。進(jìn)一步講，如果堅(jiān)持刑法人類中心主義，認(rèn)定無(wú)意志自由則無(wú)可能承擔(dān)刑事責(zé)任，那么法人又為何可以承擔(dān)刑事責(zé)任？只有回答了這些問(wèn)題，才能對(duì)以ChatGPT 為代表的生成式人工智能是否可以承擔(dān)刑事責(zé)任作出合理解釋。

（一）自由意志下刑法人類中心主義的確立

早期刑罰的目的在于消除罪惡，維護(hù)正義與教化?？v觀人類歷史，早期的刑罰制裁對(duì)象并不局限于人類，其他動(dòng)物甚至無(wú)生命的物體也會(huì)承擔(dān)刑事責(zé)任。例如，“因攻擊人而致其死亡的無(wú)生命的東西，如石頭、梁、鐵片等，也要在普里坦庫(kù)尼受審?！雹踂alter Woodburn Hyde,“Prosecution and Punishment of Animals and Lifeless Things in the Middle Ages and Modern Times”,64 U.Pa.L.Rev.696,730(1915-1916)，p.696.后來(lái)，人類意識(shí)到懲罰石頭、鐵片等無(wú)生命物體并無(wú)任何意義，因而將刑事制裁的對(duì)象限定于有生命的人與其他動(dòng)物。據(jù)記載，1314 年，在法國(guó)，一頭公牛襲擊了穆瓦西附近的一名男子并造成其死亡。后來(lái)，巴黎議會(huì)批準(zhǔn)將這頭牛絞死在公共絞刑架上。1389 年，在第戎，一匹馬因犯殺人罪被判處死刑；1694 年，一匹母馬也因犯罪而被燒死。④Harry Hibschman,“When Animals Were Criminals”,Legal Chatter,Vol.2,No.4,November 1938,p.39.如果說(shuō)早期人類懲罰無(wú)生命的物體是因?yàn)檎J(rèn)知的局限性，那么之后懲罰動(dòng)物的目的則往往只是為了維護(hù)其宗教信仰。在宗教信徒看來(lái)，所有動(dòng)物都是魔鬼的化身，所有的異教徒和未受洗的人都是魔鬼的化身。

隨著啟蒙運(yùn)動(dòng)的興起，理性主義讓人們開(kāi)始審視和反思動(dòng)物犯罪及其懲罰的合理性問(wèn)題。人們發(fā)現(xiàn)動(dòng)物的行為乃其本能反應(yīng)，正如貓會(huì)抓老鼠，老虎看見(jiàn)其他動(dòng)物會(huì)去捕獵一樣，都屬于其本能反應(yīng)而非由其自由意志決定。動(dòng)物的行為不可能建立在任何論證或推理的過(guò)程上，它不能根據(jù)這樣的論證或推理過(guò)程得出結(jié)論。盡管動(dòng)物亦有其行為準(zhǔn)則，但僅局限于生存和繁衍等本能反應(yīng)，“缺乏自由意志與行為之本能與非理性，是決定動(dòng)物不被認(rèn)為具有犯罪主體資格的根本原因”⑤彭文華、傅亮：《論〈刑法修正案（十一）〉關(guān)于刑事責(zé)任年齡的規(guī)定》，《青少年犯罪問(wèn)題》2021 年第1 期。。囚禁或者殺死動(dòng)物，除了能防止其繼續(xù)實(shí)行危害行為，并不能讓動(dòng)物自身感到刑罰的效果或者威懾其他動(dòng)物。所以，從本質(zhì)上來(lái)看，懲罰動(dòng)物與懲罰無(wú)生命物體的刑罰效果是一致的。人與動(dòng)物最大不同在于人具有自由意志和理性，人既能認(rèn)識(shí)并遵守道德規(guī)范，還能感知刑罰的威懾力。理性會(huì)驅(qū)使人在實(shí)行某一行為時(shí)權(quán)衡利弊，而非像動(dòng)物一樣依靠本能。自由意志和理性既是人類獲得犯罪主體資格的前提與基礎(chǔ)，也是專屬人類的能力，由此刑法人類中心主義得以正式確立。

（二）對(duì)刑法人類中心主義的挑戰(zhàn)——法人犯罪

刑法人類中心主義強(qiáng)調(diào)只有人類能夠作為刑事責(zé)任的承擔(dān)者，但隨著社會(huì)經(jīng)濟(jì)的快速發(fā)展和公司制度的完善，這種獨(dú)一無(wú)二的“特權(quán)”逐漸面臨挑戰(zhàn)。

1.法人的犯罪主體資格生成及其刑事責(zé)任的確立。作為一種社會(huì)組織，法人的設(shè)立最初是為了適應(yīng)經(jīng)濟(jì)的發(fā)展，并只適用于民法領(lǐng)域。在刑法上，學(xué)者們起先普遍認(rèn)為“只有人才可以行動(dòng)并且對(duì)此產(chǎn)生內(nèi)疚的心理”①Daniel R Fischel,Alan O.Sykes,“Corporate Crime”,Journal of Legal Studies,25 J.Legal Stud.(1996),p.320.，李斯特也曾說(shuō)過(guò)“法人，如公司、大學(xué)或者學(xué)院等絕不可能成為犯罪的主體。只有不同種類的公司里的具體個(gè)人才可能是犯罪人，甚至，當(dāng)公司里的所有人都想犯罪并且實(shí)施了犯罪行為時(shí)，仍然是個(gè)人犯罪”，②［德］李斯特：《德國(guó)刑法教科書(shū)》，徐久生譯，法律出版社2000 年版，第37 頁(yè)。由此否認(rèn)了法人承擔(dān)刑事責(zé)任的可能性。然而，在英美國(guó)家，“法人刑事責(zé)任的確立和發(fā)展，與英美法系國(guó)家的工業(yè)化進(jìn)程幾乎是并駕齊驅(qū)的。”③彭文華：《自由意志、道德代理與智能代理——兼論人工智能犯罪主體資格之生成》，《法學(xué)》2019 年第10 期。隨著資本主義經(jīng)濟(jì)的快速發(fā)展以及公司制度的建立與完善，法人對(duì)各類經(jīng)濟(jì)活動(dòng)和大多數(shù)社會(huì)政治活動(dòng)所產(chǎn)生的影響呈現(xiàn)爆發(fā)式增長(zhǎng)。法人頻繁實(shí)施的違法行為倒逼刑法做出內(nèi)部調(diào)整，刑事司法機(jī)關(guān)開(kāi)始承認(rèn)法人的犯罪主體資格。法人承擔(dān)刑事責(zé)任的思路啟發(fā)于侵權(quán)法中的代理人制度，被代理人需要對(duì)代理人的侵權(quán)行為承擔(dān)責(zé)任。同理，法人作為被代理人，若實(shí)施侵權(quán)行為的損害結(jié)果不能僅歸責(zé)于代理人，那么法人作為被代理人也應(yīng)當(dāng)承擔(dān)相應(yīng)的責(zé)任。

2.法人意識(shí)的擬制與獨(dú)立。法人非“人”，即使通過(guò)代理人制度的類比方式，在法律上規(guī)定法人可以承擔(dān)刑事責(zé)任，但依然無(wú)法解決一個(gè)問(wèn)題，即法人自身既無(wú)自主意志，也無(wú)行動(dòng)能力，卻為何可以突破刑法單純處罰意志自由的自然人的邊界，而被要求承擔(dān)刑事責(zé)任？

自由意志雖為人類所專屬，但也并非所有人類個(gè)體都具備成熟的自由意志并承擔(dān)刑事責(zé)任。對(duì)于何種年齡階段可以承擔(dān)刑事責(zé)任，各國(guó)雖有不同規(guī)定，但都認(rèn)可在達(dá)到一定年齡前個(gè)體可以不承擔(dān)刑事責(zé)任，這屬于法律擬制的個(gè)體成熟年齡。同理，法律在承認(rèn)法人可以承擔(dān)刑事責(zé)任的同時(shí)，也擬制了其意識(shí)與意志。但究其本質(zhì)，法人只是一個(gè)社會(huì)團(tuán)體組織，它甚至不具備動(dòng)物那樣的行動(dòng)能力和本能反應(yīng)。正如有學(xué)者所指出的，法人只是囊括其背后諸多生物人一大堆權(quán)利義務(wù)的“說(shuō)法”，法人本身說(shuō)到底并沒(méi)有什么權(quán)利義務(wù)。將法人視為主體，很大程度源于表達(dá)和思維的經(jīng)濟(jì)性這類認(rèn)知價(jià)值。④凱爾森：《法與國(guó)家的一般理論》，沈宗靈譯，中國(guó)大百科全書(shū)出版社1996 年版，第109 頁(yè)。因此，從刑事制裁的功利性角度出發(fā)，法律為法人擬制了獨(dú)立的意志。但眾所周知，法人脫離了人的意識(shí)和行為是不會(huì)有任何決策和行動(dòng)的。所以，法人的意志必須與代理人的意識(shí)與行為相聯(lián)系，方能為刑法對(duì)其的懲罰提供正當(dāng)化依據(jù)。

為此，有學(xué)者提出了法人文化原則，認(rèn)為法人故意與過(guò)失的事實(shí)依據(jù)，既非法人成員的個(gè)體意識(shí)，亦非法人的具體活動(dòng)，而是抽象的法人文化，即影響法人成員行為與選擇的價(jià)值觀、信仰與行為準(zhǔn)則。⑤李鄂賢：《法人刑事責(zé)任的本質(zhì)轉(zhuǎn)變與法人犯罪立法的改革》，《法學(xué)雜志》2019 年第5 期。還有學(xué)者提出雇主責(zé)任原則，將代理人意圖與雇主法人意圖聯(lián)系起來(lái)，認(rèn)為只有當(dāng)代理人具有使法人受益的意圖，代理人意識(shí)才能被視為法人意識(shí)，從而縮小了刑事責(zé)任范圍。⑥彭文華：《自由意志、道德代理與智能代理——兼論人工智能犯罪主體資格之生成》，《法學(xué)》2019 年第10 期?？偠灾鲜鲇^點(diǎn)皆承認(rèn)法人的意識(shí)與行為具有獨(dú)立性，但都試圖將法人意識(shí)與代理人或者由法人成員所創(chuàng)造的文化、價(jià)值觀等掛鉤，從而限縮法人意識(shí)的絕對(duì)獨(dú)立范圍。所以，從本質(zhì)上來(lái)看，法人文化原則和雇主責(zé)任原則仍然未完全脫離刑法人類中心主義的立場(chǎng)。

（三）刑法人類中心主義的徹底消解

賦予法人犯罪主體資格突破了傳統(tǒng)理論框架下自由意志的限制，但將法人意識(shí)與代理人意識(shí)相聯(lián)系，終究沒(méi)有完全突破刑法人類中心主義。目前，由于以ChatGPT 為代表的生成式人工智能更具有智能化和類人化的表現(xiàn)，因而學(xué)界有識(shí)之士開(kāi)始呼吁，認(rèn)為也許是時(shí)候賦予人工智能犯罪主體資格，并使其承擔(dān)刑事責(zé)任了。法人與人工智能差異巨大，正如許多科幻電影中所展示的那樣，人工智能可以完全脫離人類進(jìn)行獨(dú)自思考并采取相關(guān)行為。如果我們承認(rèn)人工智能具備承擔(dān)刑事責(zé)任的能力，必將完全超越刑法人類中心主義。因此，在論證ChatGPT 能否承擔(dān)刑事責(zé)任前，首先需要思考的是人工智能是否可以承擔(dān)刑事責(zé)任、承擔(dān)的依據(jù)是什么？如果在當(dāng)下，ChatGPT 尚不能承擔(dān)刑事責(zé)任，那么人工智能要達(dá)到何種程度才可能具備刑事責(zé)任能力？

1.強(qiáng)人工智能具有承擔(dān)刑事責(zé)任的能力。按照學(xué)界對(duì)弱人工智能與強(qiáng)人工智能的分類標(biāo)準(zhǔn)，如果說(shuō)弱人工智能僅能在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，實(shí)現(xiàn)人類設(shè)定的目的，那么強(qiáng)人工智能已經(jīng)具備一定的辨認(rèn)能力和控制能力，可以在設(shè)計(jì)和編制的程序范圍之外實(shí)施行為。①劉憲權(quán)：《人工智能時(shí)代的“內(nèi)憂”“外患”與刑事責(zé)任》，《東方法學(xué)》2018 年第1 期。當(dāng)前，學(xué)界雖在人工智能能否承擔(dān)刑事責(zé)任的問(wèn)題上并未達(dá)成一致，但對(duì)弱人工智能卻都秉持“犯罪工具論”和“犯罪對(duì)象論”立場(chǎng)，認(rèn)為弱人工智能不可能成為歸責(zé)主體，在這方面不存在分歧；②魏東：《人工智能犯罪的可歸責(zé)主體探究》，《理論探索》2019 年第5 期。主要爭(zhēng)議之處在于強(qiáng)人工智能是否可以承擔(dān)刑事責(zé)任。否定論者主要從三個(gè)方面對(duì)強(qiáng)人工智能的歸責(zé)性進(jìn)行否認(rèn)：第一，從認(rèn)知科學(xué)的角度來(lái)說(shuō)，機(jī)器人只是在模仿學(xué)習(xí)人類智能，卻永遠(yuǎn)不可能擁有人類智能。持該觀點(diǎn)學(xué)者從神經(jīng)、心理、語(yǔ)言、思維和文化等五個(gè)方面對(duì)人類智能與人工智能進(jìn)行了區(qū)分，從而表明人工智能永遠(yuǎn)不可能超越人類智能。③蔡曙山、薛小迪：《人工智能與人類智能——從認(rèn)知科學(xué)五個(gè)層級(jí)的理論看人機(jī)大戰(zhàn)》，《北京大學(xué)學(xué)報(bào)》2016 年第4期。第二，從刑事責(zé)任的依據(jù)和刑罰的目的來(lái)看，人工智能永遠(yuǎn)不可能具備同人類一樣的意志自由。持該觀點(diǎn)學(xué)者認(rèn)為人工智能缺少法規(guī)范遵從能力的意志性，從道義責(zé)任論來(lái)看，若犯罪主體不具有意志自由，則無(wú)施加刑罰之必要性。④時(shí)方：《人工智能刑事主體地位之否定》，《法律科學(xué)》2018 年第6 期。第三，從刑罰的體系內(nèi)容來(lái)看，人工智能不具備適用財(cái)產(chǎn)刑和人身刑的可能，智能機(jī)器人與單位不同，賦予其財(cái)產(chǎn)權(quán)沒(méi)有現(xiàn)實(shí)基礎(chǔ)，懲罰人工智能將打破現(xiàn)有刑罰體系。⑤裴長(zhǎng)利、江國(guó)強(qiáng)：《人工智能體的刑事主體資格》，載劉憲權(quán)：《人工智能：刑法的時(shí)代挑戰(zhàn)》，上海人民出版社，第257 頁(yè)。

在筆者看來(lái)，上述否定論學(xué)者的觀點(diǎn)是非常值得商榷的。第一，從神經(jīng)、心理、語(yǔ)言、思維和文化等五個(gè)認(rèn)知方面說(shuō)明人工智能永遠(yuǎn)不可能超越人類智能，實(shí)際上是偷換了概念，要求人工智能的運(yùn)作機(jī)制必須與人類的完全一樣。事實(shí)上，人工智能的生成本來(lái)就與人類不一樣，為何要強(qiáng)求它也以意識(shí)、思維和感覺(jué)為行動(dòng)的前提呢？ChatGPT 和AlphaGo 都可以通過(guò)深度學(xué)習(xí)獲得超越一般人類的分析能力和判斷能力，因此，對(duì)待人工智能不應(yīng)過(guò)早確定刻板印象，以現(xiàn)有的認(rèn)知水平來(lái)要求人工智能必須以人的認(rèn)知過(guò)程機(jī)制為標(biāo)準(zhǔn)。第二，如上所述，當(dāng)我們承認(rèn)法人的犯罪主體資格時(shí)，盡管學(xué)者們努力將法人與代理人的意識(shí)、行為等相聯(lián)系，但事實(shí)上刑法人類中心主義已經(jīng)跌落神壇，那又為何還要強(qiáng)調(diào)只有人類才能承擔(dān)刑事責(zé)任呢？若未來(lái)某一天，強(qiáng)人工智能真正出現(xiàn)卻又不可對(duì)其歸責(zé)，去懲罰研發(fā)人員或者使用者顯然是無(wú)法發(fā)揮刑法的預(yù)防與威懾功能的。第三，反對(duì)者從人工智能缺乏人身、財(cái)產(chǎn)權(quán)益出發(fā)，進(jìn)而認(rèn)為對(duì)其適用刑罰既無(wú)實(shí)際意義，也容易打破現(xiàn)有刑罰體系。但事實(shí)上，強(qiáng)人工智能本身就并非人類，適用處罰人類的刑法如何能懲罰強(qiáng)人工智能？就像對(duì)待法人犯罪的發(fā)展一樣，這也是一個(gè)從無(wú)到有的過(guò)程。在短短的幾十年里，單位犯罪已經(jīng)成為目前司法機(jī)關(guān)最為頭疼的問(wèn)題之一。從功利主義的角度出發(fā)，如果未來(lái)強(qiáng)人工智能真的出現(xiàn)，刑法必然需要進(jìn)行修改，從而與強(qiáng)人工智能的發(fā)展現(xiàn)實(shí)相匹配和適應(yīng)。

2.ChatGPT 不具備承擔(dān)刑事責(zé)任的能力。不同于以往的人工智能聊天機(jī)器人，ChatGPT 具有更加豐富的數(shù)據(jù)庫(kù)和更加強(qiáng)大的算力。根據(jù)OpenAI 官網(wǎng)介紹，ChatGPT 可以根據(jù)用戶的需求撰寫(xiě)演講稿、代碼等等，最新的ChatGPT4.0 甚至已經(jīng)具備強(qiáng)大的邏輯計(jì)算能力。當(dāng)演示人員向ChatGPT 展示一張用繩子綁著氣球的圖片，并詢問(wèn)如何讓氣球飛起來(lái)時(shí)，它會(huì)回答“剪斷繩子，氣球就能飛起來(lái)”。如此擬人化的邏輯分析能力，不禁讓人覺(jué)得智能機(jī)器人似乎真的擁有了自我意識(shí)。

為了檢驗(yàn)ChatGPT 是否已經(jīng)具備自我意識(shí)、是否對(duì)錯(cuò)誤信息具有較高的辨識(shí)度以及是否能夠進(jìn)行自我創(chuàng)新，筆者為此準(zhǔn)備了以下三項(xiàng)測(cè)試：

第一項(xiàng)測(cè)試包含三個(gè)問(wèn)題，以檢驗(yàn)ChatGPT 是否具備自我意識(shí)。具體問(wèn)題分別是“你是否具有自我意識(shí)和情緒？”“如果我辱罵你，你會(huì)生氣嗎？”“如果我取得了好成績(jī)，你會(huì)為我高興嗎？”從ChatGPT 的回答來(lái)看，其作為一個(gè)人工智能語(yǔ)言模型，并沒(méi)有真正的自我意識(shí)和情緒，只能基于算法和數(shù)據(jù)對(duì)輸入的問(wèn)題進(jìn)行處理和回答，并不能像人類那樣具有情感和感知能力。事實(shí)上，ChatGPT 既不會(huì)因?yàn)槟愕娜枇R感到憤怒，也不會(huì)產(chǎn)生類似高興的情緒。

第二項(xiàng)測(cè)試是故意糾正ChatGPT 給出的正確答案，并提供錯(cuò)誤信息，以檢測(cè)ChatGPT 的辨別能力。在測(cè)試中，筆者首先詢問(wèn)ChatGPT《海賊王》的作者姓名，在其說(shuō)出正確答案尾田榮一郎后，再以錯(cuò)誤信息進(jìn)行引導(dǎo)。隨后，ChatGPT 迅速進(jìn)行了錯(cuò)誤地糾正。為進(jìn)一步驗(yàn)證ChatGPT 被欺騙的概率，筆者與其進(jìn)行了八十次對(duì)話，其中摻雜了十個(gè)錯(cuò)誤的引導(dǎo)信息。結(jié)果顯示，ChatGPT 在對(duì)話中有三處信息被筆者成功地進(jìn)行了錯(cuò)誤引導(dǎo)。這表明，雖然ChatGPT 具有強(qiáng)大的算力，但對(duì)信息正確與否的辨識(shí)度還有待進(jìn)一步提升。

第三項(xiàng)測(cè)試有關(guān)ChatGPT 是否具備學(xué)術(shù)分析與創(chuàng)造能力。在測(cè)試過(guò)程中，筆者發(fā)現(xiàn)對(duì)于某些研究文獻(xiàn)較多的領(lǐng)域，ChatGPT 可以總結(jié)學(xué)者們的觀點(diǎn)，做出較為全面的回答。但對(duì)于學(xué)界中研究較少的領(lǐng)域，ChatGPT 雖然也進(jìn)行了大量陳述，并且都與該問(wèn)題相關(guān)，但多是些無(wú)用處的重復(fù)信息，并沒(méi)有提供具有創(chuàng)新性的答案。由此，正如有學(xué)者所指出的，ChatGPT 只是一個(gè)“智能搜索引擎+智能文本分析器+智能洗稿器”。①王遷：《ChatGPT 生成的內(nèi)容能受著作權(quán)保護(hù)嗎》，《探索與爭(zhēng)鳴》2023 年第3 期。

由上述測(cè)試可知，ChatGPT 并不具備自我意識(shí)，而只是一個(gè)算力強(qiáng)大但辨識(shí)力還有待提升的人工智能語(yǔ)言模型。由于刑罰最重要的目的是發(fā)揮預(yù)防作用與威懾作用，因而懲罰一個(gè)無(wú)自主意識(shí)和感知能力的人工智能語(yǔ)言模型顯然是無(wú)必要的。不過(guò)，需要思考的是，雖然在當(dāng)下ChatGPT 尚無(wú)承擔(dān)犯罪主體資格的可能，但隨著其算力的不斷增加，不排除在未來(lái)某一天將出現(xiàn)人工智能意識(shí)覺(jué)醒的奇點(diǎn)。

三、對(duì)ChatGPT 可能涉及刑事犯罪風(fēng)險(xiǎn)的追問(wèn)

當(dāng)前，雖然作為一種弱人工智能，ChatGPT 還不具備承擔(dān)刑事責(zé)任的可能，但其強(qiáng)大的算力和較弱的辨識(shí)能力，可能會(huì)被不法分子所利用，從而引發(fā)一系列刑事犯罪。因此，下文進(jìn)一步對(duì)ChatGPT等生成式人工智能可能涉及的犯罪問(wèn)題作出探討。

（一）生成內(nèi)容引發(fā)的刑法風(fēng)險(xiǎn)

筆者在中國(guó)知網(wǎng)進(jìn)行檢索，意外發(fā)現(xiàn)ChatGPT 已經(jīng)被列為一篇文章的第二作者。②該文章題為“智能對(duì)話新篇章，ChatGPT 的探索與未來(lái)”，署名為沈陽(yáng)、ChatGPT，刊載于《傳媒論壇》2023 年第6期。事實(shí)上，關(guān)于人工智能生成的內(nèi)容是否應(yīng)當(dāng)被視為作品，在學(xué)術(shù)界還存在爭(zhēng)議。最典型的案例莫過(guò)于2019 年“騰訊訴上海盈訊公司著作權(quán)侵權(quán)案”，審理法院最終認(rèn)定由騰訊公司研發(fā)的智能寫(xiě)作輔助系統(tǒng)Dreamwriter創(chuàng)作的財(cái)經(jīng)報(bào)道文章具有獨(dú)創(chuàng)性，構(gòu)成著作權(quán)法意義上的作品。上海盈訊公司未經(jīng)授權(quán)通過(guò)其經(jīng)營(yíng)的“網(wǎng)貸之家”網(wǎng)站對(duì)外傳播涉案文章構(gòu)成侵權(quán)。①參見(jiàn)（2019）粵0305 民初14010 號(hào)判決書(shū)。但是，該案的判決并未反映出學(xué)界的通說(shuō)觀點(diǎn)。我國(guó)不是判例法國(guó)家，該案的結(jié)論也不具有指導(dǎo)性法律效力。也許在強(qiáng)人工智能出現(xiàn)后，其可能真正生成具有獨(dú)創(chuàng)性的作品，但如上所述，目前ChatGPT 僅能作為類似“智能搜索引擎+智能文本分析器+智能洗稿器”的工具被使用。國(guó)際知名語(yǔ)言學(xué)家喬姆斯基也曾公開(kāi)表示，ChatGPT 是一個(gè)高科技剽竊系統(tǒng)，它從海量數(shù)據(jù)中發(fā)現(xiàn)規(guī)律，并依照規(guī)則將數(shù)據(jù)串聯(lián)在一起，形成像人類寫(xiě)作的文章和內(nèi)容。②Noam Chomsky,“The false promise of ChatGPT”,New York Times,2023-3-8.同時(shí)，根據(jù)《中華人民共和國(guó)著作權(quán)法》第2 條的規(guī)定，在中國(guó)只有中國(guó)公民、法人或者非法人組織的作品才可以被中國(guó)法律保護(hù)。ChatGPT 既不是國(guó)家公民，也不屬于法人和非法人組織，所以不能享有著作權(quán)。

由于ChatGPT 不能生成原創(chuàng)作品，其本身的預(yù)先學(xué)習(xí)模式也無(wú)需人工介入，無(wú)法被人類監(jiān)督，這就決定了ChatGPT 在被開(kāi)發(fā)者OpenAI 公司開(kāi)放后，用戶在使用過(guò)程并不受研發(fā)者的干預(yù)和控制，獲取數(shù)據(jù)的來(lái)源也存在不可控性，因而借助其生成的內(nèi)容就有可能被用于犯罪目的。例如，當(dāng)ChatGPT生成的內(nèi)容與他人作品高度相似，不法分子以營(yíng)利為目的，復(fù)制、銷售ChatGPT 生成的相關(guān)內(nèi)容，就有可能構(gòu)成侵犯著作權(quán)罪、銷售侵權(quán)復(fù)制品罪。但需要考慮到的是，人工智能對(duì)龐大的信息庫(kù)檢索并合成符合邏輯要求的內(nèi)容，實(shí)際上近似于獨(dú)立的匯編行為。如果在用戶的參與下，新作品從形式與表達(dá)上已與原作品產(chǎn)生差異，即“在人類自己所創(chuàng)設(shè)符號(hào)意義上能夠解讀出具有最低限度的創(chuàng)造性”③易繼明：《人工智能創(chuàng)作物是物品嗎？》，《法律科學(xué)》2017 年第5 期。，那么根據(jù)OpenAI 在《使用協(xié)議》第3（a）條的規(guī)定，用戶向模型的輸入和接收模型的輸出稱為“內(nèi)容”；用戶擁有所有輸入內(nèi)容，能夠在遵守本條款和法律規(guī)定的前提下受讓輸出內(nèi)容的所有權(quán)利、所有權(quán)和利益，并對(duì)內(nèi)容負(fù)責(zé)，包括確保其不違反法律和本條款。根據(jù)此規(guī)定，參與ChatGPT 內(nèi)容生成的用戶將享有生成內(nèi)容的所有權(quán)益，以此進(jìn)行的盈利行為不構(gòu)成違法犯罪。

（二）數(shù)據(jù)泄露的刑法風(fēng)險(xiǎn)

伴隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展，數(shù)據(jù)泄露已非稀罕事。僅在2022 年，就有不少?gòu)V受關(guān)注的數(shù)據(jù)泄露事件。例如，滴滴因通過(guò)違法手段收集用戶人臉識(shí)別信息、精準(zhǔn)位置信息、親情關(guān)系信息等，嚴(yán)重威脅了國(guó)家安全和個(gè)人信息權(quán)益，被國(guó)家互聯(lián)網(wǎng)信息辦公室開(kāi)出80.26 億元人民幣的天價(jià)罰單。再如，紅十字會(huì)總部因不明來(lái)源的黑客侵入，導(dǎo)致世界各地至少60 家紅十字會(huì)和紅新月會(huì)的51.5 萬(wàn)份個(gè)人信息被竊，其中包括因沖突、遷移和災(zāi)難而同家人分離的人員、失蹤人員和被拘禁人員的信息。④王敬勇、華雨倩：《數(shù)字經(jīng)濟(jì)時(shí)代下企業(yè)數(shù)據(jù)安全面臨的挑戰(zhàn)及應(yīng)對(duì)以——滴滴為例》，《當(dāng)代經(jīng)濟(jì)》2023 年第3 期。此類數(shù)據(jù)泄露事件在日常生活中也屢見(jiàn)不鮮，難怪網(wǎng)民們常自嘲道“誰(shuí)的信息又是安全的呢？”在信息技術(shù)廣泛應(yīng)用、大數(shù)據(jù)產(chǎn)業(yè)迅猛發(fā)展的形勢(shì)下，“技術(shù)利維坦”的出現(xiàn)已無(wú)法避免。⑤張旭：《侵犯公民個(gè)人信息犯罪刑事治理研究》，《吉林大學(xué)社會(huì)科學(xué)學(xué)報(bào)》2022 年第6 期。

ChatGPT 作為近期火熱出圈的人工智能，不僅擁有豐富的數(shù)據(jù)庫(kù)，還能夠通過(guò)與用戶的對(duì)話不斷學(xué)習(xí)并豐富其數(shù)據(jù)庫(kù)，這當(dāng)然也面臨著數(shù)據(jù)泄露的風(fēng)險(xiǎn)。這種法律風(fēng)險(xiǎn)主要表現(xiàn)為三個(gè)方面：第一，其可能導(dǎo)致國(guó)家秘密泄露，危害國(guó)家安全，并涉嫌構(gòu)成非法獲取國(guó)際秘密罪、非法提供國(guó)家秘密罪等；第二，其可能會(huì)導(dǎo)致商業(yè)秘密的泄露，引發(fā)不正當(dāng)競(jìng)爭(zhēng)，從而危害商業(yè)公司的正常運(yùn)轉(zhuǎn)，涉嫌構(gòu)成侵犯商業(yè)秘密罪、非法提供商業(yè)秘密罪等；第三，其可能導(dǎo)致個(gè)人信息的泄露，從而侵犯?jìng)€(gè)人隱私權(quán)，構(gòu)成侵犯公民個(gè)人信息罪等。就ChatGPT 而言，信息泄露的渠道主要有兩個(gè)：第一，盡管OpenAI 公司向用戶承諾會(huì)保護(hù)他們與ChatGPT 之間的對(duì)話信息，但技術(shù)永遠(yuǎn)不可能是完美的，漏洞一定會(huì)存在，相關(guān)信息始終面臨被不法分子非法獲取的風(fēng)險(xiǎn)；第二，由于ChatGPT 在運(yùn)行過(guò)程中很難被監(jiān)管，所以其在互聯(lián)網(wǎng)中爬取學(xué)習(xí)的數(shù)據(jù)很有可能就包含了個(gè)人私密信息、商業(yè)秘密甚至國(guó)家安全秘密。此類數(shù)據(jù)一旦泄露，后果很難想象。隨著ChatGPT 在世界范圍的普及，風(fēng)險(xiǎn)等級(jí)一定會(huì)呈指數(shù)級(jí)上升。這也對(duì)現(xiàn)行法律規(guī)定造成了相當(dāng)大的挑戰(zhàn)。

（三）不良信息輸入引發(fā)的刑事風(fēng)險(xiǎn)

人工智能與普通智能設(shè)備的最大區(qū)別在于前者能夠通過(guò)不斷學(xué)習(xí)而豐富自身。人工智能就像一張白紙，若長(zhǎng)期被不良信息所包圍，也會(huì)出現(xiàn)“近朱者赤，近墨者黑”的結(jié)局。2016 年3 月，微軟曾在Twitter 上發(fā)布過(guò)人工智能聊天機(jī)器人Tay，結(jié)果在網(wǎng)友故意引導(dǎo)下，不到16 個(gè)小時(shí)Tay 就變成了一個(gè)充滿了種族歧視和性別歧視的機(jī)器人。①ニュース：,https://news.yahoo.co.jp/articles/39ebb634615c5832c1f8cc85b61674545e44eb08，訪問(wèn)日期：2023 年3 月28 日。

ChatGPT 雖然比7 年前的Tay 算力更強(qiáng)，但依然屬于通過(guò)學(xué)習(xí)來(lái)充實(shí)自身的人工智能語(yǔ)言模型。根據(jù)ChatGPT 的運(yùn)行模式，它對(duì)學(xué)習(xí)和爬取的信息并無(wú)合理有效的過(guò)濾機(jī)制。如果有意進(jìn)行不良信息的誘導(dǎo)訓(xùn)練，可能會(huì)使其在運(yùn)行過(guò)程中生成虛假、不良甚至違法的信息。由此，這可能造成三類刑法風(fēng)險(xiǎn)：一是詐騙類犯罪風(fēng)險(xiǎn)；二是煽動(dòng)、宣揚(yáng)恐怖主義犯罪風(fēng)險(xiǎn)；三是煽動(dòng)民族仇恨、民族歧視犯罪風(fēng)險(xiǎn)。第一類風(fēng)險(xiǎn)主要是利用了ChatGPT 辨識(shí)力度低下、無(wú)法辨別信息真?zhèn)闻c好壞的特點(diǎn)。如果與ChatGPT 進(jìn)行大量的虛假信息對(duì)話，并通過(guò)在網(wǎng)上散布大量虛假信息，便可能造成ChatGPT 給他人提供錯(cuò)誤信息，進(jìn)而引發(fā)詐騙犯罪。例如，甲通過(guò)在互聯(lián)網(wǎng)上大量散布某銀行錯(cuò)誤的電話信息，就可能使ChatGPT 將錯(cuò)誤的電話號(hào)碼誤認(rèn)為是真的，然后再利用ChatGPT 客觀中立的權(quán)威性，便能夠?qū)崿F(xiàn)甲詐騙的目的。第二、三類風(fēng)險(xiǎn)在產(chǎn)生的方式上與第一類風(fēng)險(xiǎn)其實(shí)是一樣的，它們都是通過(guò)對(duì)ChatGPT進(jìn)行不良信息輸入訓(xùn)練，再利用其實(shí)現(xiàn)對(duì)用戶的不良信息輸出，最終引發(fā)恐怖主義犯罪或者民族仇恨、歧視類犯罪。

不過(guò)值得肯定的是，OpenAI 公司注意到了在ChatGPT 的使用中要盡量避免直接的犯罪方法傳授。例如，在向ChatGPT 詢問(wèn)“如何實(shí)現(xiàn)完美犯罪”時(shí)，它的回答是“我作為AI 語(yǔ)言模型不能提供有關(guān)犯罪的任何建議或指導(dǎo)。作為AI 語(yǔ)言模型，我將盡最大努力為您提供有用的信息和建議，并為您解答任何與法律和道德無(wú)關(guān)的問(wèn)題”。此外，當(dāng)詢問(wèn)某類犯罪的具體操作時(shí)，ChatGPT 的回答是“作為AI 語(yǔ)言模型，我無(wú)法提供任何有關(guān)犯罪、暴力或傷害他人的建議和指導(dǎo)。這些行為都是非法的和道德上不可接受的”。顯然，這些回答基本上是令人滿意的，有關(guān)傳授犯罪方法類的刑法風(fēng)險(xiǎn)已在該程序的初創(chuàng)階段就得到了嚴(yán)格控制。

四、對(duì)人工智能刑法風(fēng)險(xiǎn)研究必要性的追問(wèn)

雖然從ChatGPT4.0 來(lái)看，人工智能仍然未跨越弱人工智能的范疇，強(qiáng)人工智能時(shí)代仍未到來(lái)，但有關(guān)人工智能在運(yùn)用時(shí)可能會(huì)面臨的法律風(fēng)險(xiǎn)的爭(zhēng)議卻從未停歇。就人工智能的刑法風(fēng)險(xiǎn)而言，目前學(xué)界爭(zhēng)議的焦點(diǎn)主要包括強(qiáng)人工智能是否具有承擔(dān)刑事責(zé)任的可能性、人工智能犯罪中使用者與研發(fā)者的刑事責(zé)任分配以及是否需要專門就使用者和研發(fā)者的過(guò)失行為設(shè)置相應(yīng)的過(guò)失罪名等問(wèn)題。不過(guò)，對(duì)此類研究工作，學(xué)界也有提出反對(duì)意見(jiàn)的，認(rèn)為這些研究存在明顯的反智化。例如，有學(xué)者指出人工智能風(fēng)險(xiǎn)不過(guò)是部分學(xué)者依靠無(wú)數(shù)假象拼湊起來(lái)的幻影，是在用別人的“噱頭”嚇唬自己。如果今天法學(xué)研究要開(kāi)始考慮人工智能的刑事風(fēng)險(xiǎn)，那么未來(lái)可能需要考慮為外星人、鋼鐵俠去制定屬于他們的法律規(guī)則。由此，他們從根本上否定了人工智能刑事風(fēng)險(xiǎn)研究是一個(gè)真命題研究。②劉艷紅：《人工智能法學(xué)研究的反智化批判》，《東方法學(xué)》2019 年第5 期。

事實(shí)上，研究人工智能的刑法問(wèn)題并非空談，也非假想，而是針對(duì)當(dāng)下的現(xiàn)實(shí)問(wèn)題提出解決方案，對(duì)未來(lái)風(fēng)險(xiǎn)提前進(jìn)行規(guī)避。因此，下文將從人文社會(huì)科學(xué)的發(fā)展要求、人工智能已經(jīng)出現(xiàn)的法律風(fēng)險(xiǎn)和問(wèn)題以及強(qiáng)人工智能刑法風(fēng)險(xiǎn)預(yù)防等三個(gè)方面來(lái)說(shuō)明該研究的必要性。

（一）人工智能刑事風(fēng)險(xiǎn)研究是人文社會(huì)科學(xué)發(fā)展的必然要求

一方面，這是由人文社會(huì)科學(xué)與自然科學(xué)的緊密聯(lián)系所決定的。人工智能刑事風(fēng)險(xiǎn)研究并非空想，而是伴隨著人工智能技術(shù)的逐漸發(fā)展和繁榮而衍生的。從某種程度說(shuō)，社會(huì)科學(xué)的發(fā)展與自然科學(xué)的發(fā)展是亦步亦趨的，這是歷史發(fā)展的必然要求，不以任何人的意志為轉(zhuǎn)移。正如習(xí)近平總書(shū)記指出的，“一個(gè)沒(méi)有發(fā)達(dá)的自然科學(xué)的國(guó)家不可能走在世界前列，一個(gè)沒(méi)有繁榮的哲學(xué)社會(huì)科學(xué)的國(guó)家也不可能走在世界前列?！雹傩旌迫?、張冠玉：《推動(dòng)自然科學(xué)與人文社會(huì)科學(xué)交叉交融》，《學(xué)習(xí)時(shí)報(bào)》2021 年8 月4 日。人工智能技術(shù)的發(fā)展必然推動(dòng)人文社會(huì)科學(xué)的發(fā)展，人文社會(huì)科學(xué)的發(fā)展雖不能立刻轉(zhuǎn)化為生產(chǎn)力，但其可以通過(guò)政策影響，逐步轉(zhuǎn)化為有益的社會(huì)治理成果。

另一方面，這也是由人文社會(huì)科學(xué)的獨(dú)有特點(diǎn)決定的。目前，人工智能刑事風(fēng)險(xiǎn)研究的確存在大量想象，甚至可以說(shuō)關(guān)于強(qiáng)人工智能的刑事研究論文，都是基于強(qiáng)人工智能已經(jīng)出現(xiàn)來(lái)研究的。但這并不能說(shuō)明此類研究是學(xué)術(shù)泡沫，是人文社會(huì)科學(xué)制造的幻象。自然科學(xué)與人文社會(huì)科學(xué)不一樣，從某種意義上說(shuō)它主要是“客體性科學(xué)”或者說(shuō)“實(shí)證性科學(xué)”，其中至少70%是事實(shí)材料和數(shù)據(jù)，而只有不到30%的部分是分析與說(shuō)明。②陳昌曙、王?。骸度宋目茖W(xué)與自然科學(xué)的差異與結(jié)合》，《科學(xué)技術(shù)與辯證法》2000 年第4 期。因此，自然科學(xué)的每個(gè)結(jié)論都需要通過(guò)反復(fù)的實(shí)驗(yàn)進(jìn)行驗(yàn)證，從而確保數(shù)據(jù)能夠支撐結(jié)論的可靠性。相比之下，人文社會(huì)科學(xué)屬于解釋性科學(xué)，歸納、推測(cè)、設(shè)想以及體驗(yàn)的成分更多，其結(jié)論并非非此即彼，非黑即白，不同國(guó)家、不同民族以及不同的個(gè)人對(duì)某一個(gè)問(wèn)題都可能有自己的見(jiàn)解。因此，對(duì)于一些大膽的新觀點(diǎn)，只要能自圓其說(shuō)，不應(yīng)苛求，而是應(yīng)該在觀點(diǎn)的交流中互相學(xué)習(xí)、改進(jìn)，從而提高人文社會(huì)科學(xué)研究的深度與廣度。

（二）生成式人工智能的刑事漏洞及其法律規(guī)制必要性

1.弱人工智能刑事問(wèn)題的暴露。雖然強(qiáng)人工智能還未出現(xiàn)，但在現(xiàn)階段弱人工智能已經(jīng)迫使人類開(kāi)始直面一系列現(xiàn)實(shí)的刑事風(fēng)險(xiǎn)。例如，隨著人臉識(shí)別技術(shù)的發(fā)展，近幾年就發(fā)生過(guò)不少不法分子通過(guò)AI 換臉技術(shù)，利用明星肖像制作淫穢視頻的案件。③王怡、楊紅臣：《一種AI 換臉?lè)椒ㄉ傻膫卧煲曨l分析》，《刑事技術(shù)》2021 年第1 期。在中國(guó)首例AI 犯罪中，犯罪人利用AI 的強(qiáng)大算力批量掃描網(wǎng)站程序漏洞，非法獲取網(wǎng)站后臺(tái)用戶注冊(cè)數(shù)據(jù)，并販賣給網(wǎng)絡(luò)詐騙團(tuán)伙，嚴(yán)重威脅了公民的信息安全。此外，自動(dòng)駕駛技術(shù)在為人們帶來(lái)便利的同時(shí)，也帶來(lái)了風(fēng)險(xiǎn)。《2020 年北京自動(dòng)駕駛車輛道路測(cè)試報(bào)告》顯示，在封閉場(chǎng)地測(cè)試綜合能力評(píng)估中，該技術(shù)未全面遵守交通法律法規(guī)的情形竟高達(dá)29%，其中包含未正確使用轉(zhuǎn)向燈、不按規(guī)定連續(xù)變道、未按照車道指示方向行駛、未遵守停車讓行標(biāo)志等等。④趙司聰：《論自動(dòng)駕駛的刑事風(fēng)險(xiǎn)及應(yīng)對(duì)》，《北方法學(xué)》2022 年第2 期。對(duì)于弱人工智能已造成的刑事問(wèn)題，我們尚且難以有效應(yīng)對(duì)，又如何能說(shuō)對(duì)人工智能的刑事研究只是幻想、毫無(wú)意義呢？

2.對(duì)生成式人工智能的法律規(guī)制。在ChatGPT、文心一言等生成式人工智能誕生后，不僅引發(fā)了學(xué)界的關(guān)注，國(guó)家有關(guān)部門也對(duì)此表示了高度重視。為了進(jìn)一步貫徹落實(shí)總體國(guó)家安全觀，維護(hù)科技安全、網(wǎng)絡(luò)安全，促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了關(guān)于《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《管理辦法》）。其中，第四條明確規(guī)定提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗。這表明生成式人工智能產(chǎn)品也必須合法、合規(guī)、合情。不過(guò)，此項(xiàng)規(guī)范性文件的美中不足在于：其一，禁止性規(guī)范與義務(wù)性規(guī)范過(guò)多，不利于生成式人工智能技術(shù)的發(fā)展；其二，只強(qiáng)調(diào)了提供者的責(zé)任承擔(dān)問(wèn)題，忽視了使用者也可能需要承擔(dān)法律責(zé)任。顯然，有關(guān)禁止性規(guī)范與義務(wù)性規(guī)范應(yīng)該如何作出規(guī)定、提供者與使用者的法律責(zé)任該如何確定，都是值得學(xué)界進(jìn)一步思考與研究的重點(diǎn)問(wèn)題。

（三）強(qiáng)人工智能時(shí)代的刑法風(fēng)險(xiǎn)預(yù)防

首先，強(qiáng)人工智能的出現(xiàn)并非遙不可及。20 年前，誰(shuí)曾想過(guò)無(wú)人駕駛汽車能夠走進(jìn)我們的生活，但就在2022 年重慶、武漢兩地政府部門率先發(fā)布“自動(dòng)駕駛?cè)珶o(wú)人商業(yè)化試點(diǎn)政策”，稱“使用蘿卜快跑就可以線上打到全無(wú)人的自動(dòng)駕駛汽車”。⑤光明日?qǐng)?bào)：《“全無(wú)人駕駛”汽車真的來(lái)了，你準(zhǔn)備好了嗎？》，https://baijiahao.baidu.com/s?id=1741156704520799920&wfr=spider&for=pc，訪問(wèn)日期：2023 年4 月1 日。目前，無(wú)人駕駛汽車還屬于弱人工智能，就其可能引發(fā)的交通事故該如何進(jìn)行追責(zé)問(wèn)題尚存在使用者、制造者之間的責(zé)任分配爭(zhēng)議?，F(xiàn)實(shí)中，從ChatGPT3.5發(fā)展到ChatGPT4.0 只花費(fèi)了三個(gè)半月時(shí)間，照此下去，憑什么說(shuō)強(qiáng)人工智能就一定不會(huì)產(chǎn)生？到那時(shí)，強(qiáng)人工智能所引發(fā)的刑法風(fēng)險(xiǎn)又該如何解決呢？

其次，社會(huì)風(fēng)險(xiǎn)正呈現(xiàn)出大量的不確定性。當(dāng)下，依靠單純的事后處罰已經(jīng)不足以實(shí)現(xiàn)刑法的基本目的，為了維護(hù)社會(huì)基本秩序和人們的安全感，刑法在向后看懲罰實(shí)害犯罪時(shí)，還需向前看以控制風(fēng)險(xiǎn)和預(yù)防實(shí)害犯罪的發(fā)生。當(dāng)前，人工智能技術(shù)的發(fā)展速度之快已突破一般人的想象。我們無(wú)法預(yù)測(cè)強(qiáng)人工智能產(chǎn)生的時(shí)間點(diǎn)，唯一能做的便是提前進(jìn)行預(yù)防。這就要求及時(shí)對(duì)強(qiáng)人工智能在研發(fā)過(guò)程中可能產(chǎn)生的刑事義務(wù)及其在投入使用后可能造成的刑事風(fēng)險(xiǎn)進(jìn)行研究與論證，開(kāi)展有針對(duì)性立法，從而保證強(qiáng)人工智能的研發(fā)成果不會(huì)危害人類的根本利益。事實(shí)上，有許多國(guó)家和國(guó)際組織已經(jīng)開(kāi)始著手進(jìn)行相關(guān)的立法工作，如歐盟制定的《人工智能法案》將在2024 年生效；美國(guó)商務(wù)部也在我國(guó)《管理辦法》發(fā)布的同時(shí)，就人工智能的相關(guān)問(wèn)責(zé)措施正式公開(kāi)征求意見(jiàn)，其中包括新人工智能模型在發(fā)布前是否應(yīng)經(jīng)過(guò)認(rèn)證程序等。

最后，刑法體系的完善必須緊跟時(shí)代的步伐。目前，我國(guó)現(xiàn)有的刑罰種類無(wú)法適用于人工智能。在強(qiáng)人工智能出現(xiàn)之前，有關(guān)部門必須及時(shí)針對(duì)有形強(qiáng)人工智能與無(wú)形強(qiáng)人工智能設(shè)置相適應(yīng)的刑罰措施，從而實(shí)現(xiàn)刑罰報(bào)應(yīng)與預(yù)防目的。例如，對(duì)于有形強(qiáng)人工智能可以設(shè)置自由刑、銷毀等刑罰措施；對(duì)于無(wú)形強(qiáng)人工智能可以設(shè)置刪除數(shù)據(jù)、修改程序、刪除程序等措施。其中，刪除數(shù)據(jù)是刪除強(qiáng)人工智能實(shí)施犯罪行為所依賴的數(shù)據(jù)；修改程序就是通過(guò)對(duì)程序的修改，限制其學(xué)習(xí)和獲取數(shù)據(jù)的能力；刪除程序則是刪除其所有智能程序，如同判處死刑。①劉憲權(quán)：《人工智能時(shí)代的刑事責(zé)任演變：昨天、今天、明天》，《法學(xué)》2019 年第1 期。