□王耀彬

內容提要 自由意志作為刑事責任的根基是AI刑事主體資格論爭的關鍵要素，對其內涵的界定頗為重要，輕視或忽略對其論證均不利于學說的自洽。借鑒依靠量子力學再度興盛的現代泛心論，合成物粒子含有自由意志屬性。刑法上的自由意志包括自主選擇能力與反省控制能力兩項內容，自主選擇能力與深度學習能力相對應，反省控制能力與理性能力不謀而合。未能自主創(chuàng)設算法的初級階段的弱AI實體不具備上述要素，無法成為刑事主體；類人工智能實體具備相應程度的深度學習能力與理性能力，擁有刑法評價意義上的自由意志，具備成為刑事主體的關鍵要件。

刑事制裁施行的正當性源自于刑事責任承擔的合理性，自由意志是刑事責任的根基，即使其難以得到科學驗證，甚至于被視為一種假定，但這樣的假定合理且具有積極意義，并不違反罪刑法定原則。①刑事責任以自由意志為前提，既符合社會的要求，也符合尋求真理的正義要求。②在AI實體主體論爭的剖析過程中，自由意志應當是主要考量因素之一。③肯定論與否定論基于各自立場展開了激烈的論戰(zhàn)，雙方論爭主要集中在自由意志、刑罰可行性、社會發(fā)展的需要、刑法體系的完整性等方面。其中，自由意志作為刑事責任的根基自然引起學界關注，但近期研究④更多采用一種蜻蜓點水式的強調，要么僅僅肯定自由意志在論爭中的重要地位，卻未能針對自由意志的本質內涵展開深入剖析；要么采用避重就輕式的論證模式，如僅僅論證AI實體能否具有自由意志，論證邏輯卻偏向AI實體享有自由意志之后的弊端梳理。上述論證思路不可謂之錯誤，但顯然無法對AI實體能否具備自由意志這一根本難題進行有效闡釋。法學研究應該避免盲目跟風，⑤防止陷入想象法學之迷幻空間，需緊密結合科技與哲學知識，深入探究自由意志的本質內涵與AI實體的思維特質，并以此審視AI刑事主體資格論。

一、自由意志：AI刑事主體資格論爭的關鍵要素

意志自由，是“有意選擇行為的自由，在于它不受感官沖動或刺激的決定。”⑥作為技術創(chuàng)新，特定事件流程的數字化使得我們思考：我們的責任概念是否恰當，AI實體能否具備自由意志?！靶淌轮黧w論”者通常聚焦于理論設想基礎上的教義學分析，比如將論點支撐歸結于人工智能體與人類相比擬的“智力化程度”、“侵害行為的有體性”；⑦或者將其支撐事由歸屬于強AI實體的主觀心理可以符合刑法所規(guī)定的犯罪構成的主觀條件，⑧這樣的論述邏輯合理，但與科技本質相距較遠，難以形成有力的論據支撐。在國內，劉憲權教授是“刑事主體論”的代表人物，劉教授發(fā)表了一系列論文樹立自己的論點⑨；與之相反，“刑事主體否定論”以刑法的謙抑理念為指導，強調刑法傳統理論的穩(wěn)定性，鑒于AI實體“生命要素的缺乏”、“刑罰正當化不足”⑩、“意識無法自發(fā)生成”?，堅定認為其不具備成為刑事主體的可能性。筆者認為，諸多論爭之中，自由意志的爭論更有價值，應當提升論爭力度。

非類人型智能實體?不具有自由意志，肯定論大都認為，當下的AI技術未能“了解自己的行為并且感受到自己行為的——超出服務于程序預設目標之外的——意義”，?只有類人型智能實體才具備，兩種類型辨識的依據在于：智能實體能否自主創(chuàng)設新的算法以擺脫原有算法的控制，倘若不能，就難謂自由意志的存在，也就不能被賦予獨立的法律人格；?強AI實體能夠在自由意志指示下實施危害社會的行為，也因此能夠被視為刑事主體；?但上述論證并未對強AI實體為何具備自由意志展開深入論證。

“否定論”揪住“肯定論”上述論證漏洞進行反駁——AI實體無法具備與自然人等同評價的自由意志，即便智能實體的倫理控制系統的發(fā)展水平追平了自然人，其自由意志也無法具備，有且僅當人工智能實體能夠被社會價值認可、進行無差異交流，與人類完全無差異，才能被評價為具備自由意志，否則即使擁有“控制與辨認的能力”也不可行。?可貴的是，該論點對于AI實體能否具備自主意識進行了深入思考，他認為，受人類控制的AI實體因為獨立性缺乏無法享有刑事主體地位，脫離人類控制的AI實體無法具備成立犯罪的主觀條件，即無法具備刑法意義上的自由意志，賦予其刑事主體地位與刑法體系不協調。?該觀點的論證基點是智能實體無法對其活動的規(guī)范意義進行自主認知與選擇，原因有二：其一，即使AI實體能夠進化到具備規(guī)范認識的能力，也會出現智能識別與人類立場不一致的窘境，?其社會危害性認識不一定符合現實社會規(guī)范；其二，自由意志引起的犯罪故意、過失等是以自然人為成立基礎，智能實體不是人，不能被視為刑事主體，除非AI實體能夠進化到理解社會法律規(guī)范價值意義的層次，而此種假設是不成立的，根本不可能實現。這一論證看似密不透風，其實有陷入“循環(huán)論證”之嫌：首先，既然強AI實體能夠具備規(guī)范認識的能力，那么為什么其規(guī)范認識與人類規(guī)范不一致？這是智能算法的設計問題，也是科學技術進步的規(guī)制范疇，即使人工智能實體不具備人類靈魂的高貴特性；?退一步說，即使理由一論證成立，就能夠得出強AI實體不具有自由意志的結論嗎？顯然難以得出，此處涉及到順序的先后，刑法適用的考察范疇不會一成不變，會隨著智能社會的到來有序變革；再次，該觀點的立論即是AI實體無論發(fā)展到何種階段也無法進化到理解法律規(guī)范價值意義的程度，基于此立論當然會得出否定的答案，這是明顯的循環(huán)論證。部分“否定論”學者忽視了自由意志對于這場論爭的重要性，僅從刑罰的可行性角度展開分析，未免給人避重就輕的質疑。?針對“肯定論”將人工智能實體與單位犯罪相比擬的論證邏輯，“否定論”不以為然——二者存在根本不同的運行原理。該論點認為自然人與AI實體之間永久保持為隸屬關系，AI實體不享有自由當然無法承擔責任。此處值得商榷，一方面，其混淆了不同發(fā)展階段的AI實體；另一方面，肯定論同樣贊同單位犯罪與AI實體不可類比論證，只是將其視為打破固有責任模式的標桿，其意義在于破解傳統思維。綜上，當前“肯定論”與“否定論”均未對自由意志本質內涵展開深入分析，更未以此為綱裁定AI實體自由意志要素的有無。

AI實體能否進化到強AI實體階段？我們當前難以給出精準答案，只能根據科技變革的趨勢、目標做出價值評判，即是說我們的研究是在科學常識及基本預測背景下立足于當下基本刑法規(guī)范體系所做的可行性辨析。它能夠給我們帶來思維模式的轉變，研究價值已然呈現，單純以科學技術無法達到預期目的為由否定對方論點并不可取。當然，智能輔助刑事裁判系統的不確定風險也是“近憂”之一。不能簡單認為對于AI刑事主體資格的探究毫無意義，或者僅僅徘徊于自由意志無法驗證、科學技術發(fā)展的不確定而機械地堅持刑事主體否定論；當前學界研究迫切需要對于自由意志本質展開深入分析，并結合科技變革現狀展開價值評判。

二、自由意志本質內涵的當代審視：基于現代泛心論的二維分析

自由意志是為實現一定的社會目的而設計的歸責產物，也是后期古典學派刑法體系的標簽之一，但其本身較為抽象，單純依據刑法設定的“自主選擇能力”與“辨認控制能力”相結合的判斷標準無法給科技審視提供具體的裁量標準，需要從科技哲學領域探究自由意志的本質內涵，借以對AI實體能否具有自由意志提供可行的參考依據。

（一）現代泛心論與哲學層面的自由意志

1.泛心論的辯證審視

泛心論是一種認為一切事物均具有心智的理論，它自從意大利學者弗蘭西斯科·帕特里齊首次提出以后經歷了曲折坎坷的發(fā)展歷程，從古希臘時代的萌芽興盛過渡到啟蒙時代的落寞，再隨著量子力學的時興重回學界視野，實現了由被研究者不屑一顧到如今的大有可觀?，F代泛心論泛指20世紀之后的泛心論，以蓋倫·斯特勞森、大衛(wèi)·查默斯、威廉·西格等哲學家為代表，他們認為，由于組成任一物體的物理微粒的存在本質是等同的，整體系統是否具有意識并不完全取決于某一粒子是否擁有心智，因此，物體心智是否存在并不取決于終極物的內在特質，而是終極物構成的宏觀事物的構成關系。由此可以得出，意識的產生取決于實在物構成的整體宏觀事物的構成關系，并不會因為某些粒子沒有心智或非人類而排斥意識的存在。至于為什么要基于現代泛心論的分析視角，是因為黑格爾、康德、奧古斯丁等法哲學家對于自由意志的論證側重于必要性、重要性及其意義闡釋，未能詳細論證自由意志的內部結構，而現代泛心論為這一問題提供了哲學支撐?，F代泛心論雖然也遭到決定論者、突現論者的抨擊，但由于得到量子力學理論的支撐，且能夠有效應對“意識難”的難題，正日益受到學界的關注與認可。雖然依據泛心論的字面意思可以推導出心智是微觀單元現實存在的，但不能說所有的微觀單元組成的現實事物均擁有心智；唯有那些由微觀現實單元以“恰當的方式”構成的現實事物（即合成物）才能被認為具有心智乃至意識，而那些僅僅由微觀現實單元以聚集的方式集合組成的任何層次的現實事物（即聚合物）則不宜被視為具有心智。粒子是能夠以自由狀態(tài)存在的最小物質組成部分，普林斯頓大學的康韋教授于2006年提出了自由意志定理，并在2009年提出了該定理的加強版本，他認為如果人類擁有自由意志，則基本粒子也有。沿著上述分析脈絡，我們需要探究AI實體的組成粒子及由其組成的整體是合成物還是聚合物。

2.自主選擇能力與知覺能力是自由意志的兩大要素

知覺與自由意志并非自然人特有的觀點已經得到生物學、神經心理學實驗的證實，自然人肯定是由基本粒子組成的合成物，其合成粒子本身應具有自由意志。根據康德的自由意志定理，合成物的粒子本身具有自主選擇能力，因為基本粒子皆具有該能力，非決定性即是自由選擇性，刑法上對應自主選擇能力，比如，沒有刑責能力的精神病人的行為選擇并非受意志所控，而類似于一種隨機的情緒反射。至于合成物的粒子是否具有辨認控制能力，可以從正反兩個方向進行闡釋：其一，反向類推法，刑法確立了自由意志的統治地位，整個刑法學理論建立在行為主體具有自由意志的基礎之上。而粒子作為事物組成的最基本單位隨著人類自由意志的具備自然享有自由意志，粒子具有自由意志的結論必然包含著合成物粒子辨認控制能力的具備，反之，粒子自主選擇便淪為空談；將粒子具有自由意志反向推導，可以得出自主選擇能力與辨認控制能力應當是粒子自由意志兩大要素的結論。其二，正面解釋法。合成物粒子本身具有知覺能力，該結論絕不是空穴來風而是班班可考。首先，知覺同樣可以逐層降解，它與自由意志相仿，自然人與黏菌均有，是由繁入簡的漸變；其次，粒子具有知覺的論斷可以在布尼茨的單子論中得以印證，每個單子也都像靈魂一樣具有知覺和欲望。”粒子既然能“自主選擇”，也必定具備“知覺能力”，此二者共同組成了粒子自由意志的主要內涵。因此，自由意志的構成不僅僅包括自主選擇能力，還應包括知覺能力?！爸X能力”是“辨認控制能力”初級階段的產物，上述正反解釋均肯定了合成物粒子具有“知覺能力”的結論，因此，“自主選擇能力”與“知覺能力”是粒子自由意志的兩大要素。

（二）刑法與哲學自由意志雙重層面之內涵比對

意志是一切犯罪的根本原因，形象思維是刑法意義上自由意志形成的淵源。其內涵包括自主選擇與辨認控制，這一結論同樣得到了上述正反解釋法的支撐，正向解釋法印證了這一結論的合理性。至于為什么要確立辨認控制一詞，原因有二：第一，由犯罪故意概念可知，犯罪故意包含認知與意志控制兩大要素，兩者缺一不能構成故意犯罪；第二，刑法將其表述為自主選擇能力與反省控制能力更為妥當，有利于法規(guī)范的表述自洽。哲學上自由意志包括自主選擇能力與知覺能力，刑法意義上的自由意志與哲學上的自由意志內涵同質，其包括自主選擇能力與辨認控制能力。雙方均包含自主選擇能力，不同之處在于后者還包括知覺能力之上的反省控制能力，“知覺能力”是“辨認控制能力”初級階段的表現形式，也是單一合成物粒子自由意志的呈現形態(tài)，當合成物粒子結合為整體合成物之時，“知覺能力”的累計才可以被視為“辨認控制能力”，這也可以由上述反向類推法及現代泛心論的基本論斷推理得出。刑法意義上自由意志的源始基礎是意識的具備，并在此基礎上，體現為自主選擇能力與反省控制能力兼?zhèn)涞奶刭|。自主選擇能力通常以生物生命為載體，卻不排斥人工大腦構造的人工生命的智能實體。類人工智能實體顯然不是聚合物，其是由基本粒子整合而成的具有自主行為能力的結合體，對于AI實體能否具有刑法意義上自由意志的論斷歸結于其是否能夠具備“自主選擇能力”與“知覺能力”。

三、深度學習能力與理性能力：AI實體能否具有刑法自由意志的度量衡

邏輯與數字計算能力取決于當代人工智能實體的“深度學習能力”，形象思維是刑法意義上自由意志形成的淵源。類AI實體能否具有刑法意義上自由意志需要考量科技發(fā)展現狀及預期目標，并探究“深度學習能力”、“理性能力”的本質內涵及其與“自主選擇能力”、“自覺能力”的關系，將傳統刑法教義與科技進程緊密結合。

（一）“深度學習”的本質、發(fā)展狀況及其與“自主選擇能力”的關系

“深度學習”的概念源于人工神經網絡的研究領域，含多隱層的多層感知器就是一種深度學習結構。深度學習通過組合低層特征形成更加抽象的高層表示屬性類別或特征，以發(fā)現數據的分布式特征表示。人工智能研究的方向之一，是以所謂“專家系統”為代表的、用大量“如果—就”模式設定的、由上至下的研究路徑，即是說，AI實體的發(fā)展目標就是深度科學能力的具備。深度學習是類人型智能實體的重要能力，其本質離不開數學模型的塑造——由設計者預先設定一個運行模式，后由AI實體依據該運行模式實施行為，只是它已經突破了預先設定的編程，并能通過深度學習自主行動，是具備自主選擇能力的標志。當前智能實體普遍還未能具備相應的深度學習能力，但科技對于深度學習能力的追求程度與日俱增，并付諸于實踐。在深度學習以及數據爆炸的催化下，人工智能已經由發(fā)現時代步入了應用時代，深度學習和大數據使人工智能進入新的領域。在美國，隨著AI學習程度的加深，運用AI技術的醫(yī)療成效頗為樂觀，部分醫(yī)學家認為人工智能甚至可能取代放射科醫(yī)生。深度學習能力并非虛幻，其已經被列入當代科技重點研發(fā)計劃。

人腦普遍具備深度學習能力，進而在不受“編程、框架”約束的自由意志指導下具備自主選擇能力。在類人工智能時代，具備深度學習能力的AI實體將會擺脫人工編程的控制，產生一系列根據機器本身數據決定而出的思想、目的、意圖。清晰的學習、推理和判斷（對已知信息的應用）能力是意識的一部分，是自由意志產生的根基之一。人工智能及神經網絡專家將思維邏輯建立在人工生命的觀點之上，將AI系統作為分析手段映射人腦的思維運作及決策過程，用人腦控制器使智能實體變得更聰明。其信息加工流程體現為——人工腦通過學習能力的運用獲得記憶機能，并能通過對于周圍信息刺激的感知擁有自主選擇能力與控制能力。

一般而言，意志與思維是一對統一體，兩者并不是實體所享有的兩種官能。思維以意志為前提與存在基礎，人不可能在無意識的狀態(tài)下進行思維展示與理論創(chuàng)新，因為思維本身就是一場意志活動。深度學習能力能夠產生思維，自主選擇能力是以思維的客觀存在為基礎，兩者在理論上共通。對于非類人型智能實體而言，它只是在執(zhí)行一些數學模型的運算而已，并不能從中感受到所謂的“授之以魚，不如授之以漁”，真正具備自主選擇能力的智能實體應該是擁有自己獨特的思考方式，當認知到固定的信息數據時，能夠生成自身獨特的思維模式，而不是將人類思維邏輯進行簡單機械的模仿。深度學習能力與自主選擇能力一脈相承，是AI實體具備刑法意義上自由意志的必要條件。

（二）“理性能力”的本質、內涵及其與“知覺能力”的關系

理性是法律主體的本質特征，理性人是經過法律形式化過濾的規(guī)范主體，并排斥了情緒、興趣、情感等非理性因素的介入。在蘇格拉底看來，“人是一個對理性問題能給與理性回答的存在物”。理性思考是人的核心特征，也是AI實體能夠成為法律主體的必備能力。類人型智能實體具有“理性思考、理性行為”的顯著特征，是“自覺”與“自動”的不同存在。類人型人工智能實體能夠具備理性能力的論斷在科學界基本能夠達成一致，而理性能力是知覺能力具備的標志。

知覺能力是內部組織對于搜集而來的外界信息的加工選擇能力，其內涵窄于感覺，不僅僅囊括對于事物的認識能力，還擴展到對于外來信息的整合選擇能力。知覺能力的核心特質是對信息的加工選擇能力，這也是其區(qū)別于普通感覺的本質要素。法律意義上知覺能力離不開自主選擇能力的相輔相成，建設于自主選擇能力基礎之上的知覺能力需要AI實體能夠自主篩選價值信息并作出選擇，這一選擇過程既離不開深度學習能力，也離不開理性思維指引，否則無法成為法律上的知覺能力。雖然依據理性能力未必能推斷出辨認控制能力的具備，但推斷出具備知覺能力并非難事。類人工智能實體具備成熟的人工心理模型，這里所提到的人工心理模型，是基于心理學理論的有意識與無意識理論，引入了腦波和闕值概念，通過對人腦的思維、推理活動進行模擬，研究意識的建模及其機器實現。基于其模型的類人型智能實體能夠不斷地感知外界和自身狀態(tài)變化，具有足夠程度的認知功能，并且能夠自主產生情感波動，對自己的行為做出評價。下一代智能實體預計將遠遠超過最近機器學習在特定任務和正式結構領域的成功，具有深層次的學習能力與理性思維能力。類人工智能實體能夠實行編程設定范圍外的自主行為，依據智能準則形成自身的理性基準，并能夠依據海量數據信息在深度學習基礎之上理性分析，理性準則、理性基準與理性分析相結合預示著理性能力的具備，綜上，組成類人工智能實體的基礎粒子能夠具備“知覺能力”。

類人型人工智能實體系統的運行過程由其意識指引，并難以受到社會因素、周圍因素的制約，一定程度上可以認為，對于類人型人工智能實體而言，意識是其具備自由意志的必要充分條件，這也得益于類人型人工智能實體的擬人情感難以建立及深度學習能力的具備，使得其擺脫編程控制具有獨立思維。當我們得出類人型智能實體具有自由意識之后，即可推斷出其具有自由意志。

（三）“圖靈測試”與AI實體之自由意志裁量

此外，AI實體能夠具備自由意志也可以通過“圖靈測試”進行驗證。責任非難的依據是行為主體道德觀念上的日臻成熟，那么何謂道德上的成熟？這需要社會認同。刑法責任的認定與社會大眾的期許密不可分。類人型智能實體能否具有刑事責任能力受到民眾接受程度影響，這給我們提供了反向辯證思路——倘若民眾能夠接受智能實體與自然人類似的智力水平，就能夠從應然層面對本文論證提供有效支撐。對于自然人而言，尚且難以做出自身行為是否受到自由意志指引的結論，我們不過是根據社會第三人的判斷進行界定，對于類人型智能實體是否具備自由意志的判斷也可以以第三者的評價進行驗證。倘若對類人型智能實體進行實體化認證的話，類似于“圖靈筆記本”的提法也是可行的。當類人型AI實體能做出令人信服的反應時，就可以接受它們是具有與人類等價意識的“智能人”的現實，這里的判斷超越了可以通過圖靈測試實體的范圍——因為圖靈測試至少需要掌握人類語言。但只要類人型AI實體與自然人足夠相似，我們就能接納它們。對“沃森”進行研究的科學家無法預測出它的下一步行動，因為其程序太復雜，其機能涉及的知識面太廣，超出了人類所能掌握的范圍。人具有理性、人會使用語言、人傾向于結成社會等界說，都與“人是萬物的尺度”這一理念相關，這值得商榷。正如美國學者Ray Kurzweil 教授所言：“我相信，人類最終會接受非生物實體也是有意志的，因為最終非生物實體將擁有人類目前擁有的全部微妙的暗示、情緒，以及其它主觀體驗。如果我們相信人類具有自由意志，那么，不得不承認類人工智能實體也能具備與之等價的自由意志。

結語

法律主體的進化史已經證明了法律人格在覆蓋范圍上的彈性以及與所關聯主體的可分離性。以社會組織、法人為代表的單位形態(tài)已經在各個部門法領域獲得法律主體資格，并對傳統意義上的法律主體概念造成了強有力的沖擊。自由意志作為刑事歸責的核心要素已然成為AI刑事資格論爭的核心要素，具備深度學習能力與理性思維能力的類人型智能實體符合刑法意義上自由意志的本質內涵，具備成為刑事主體地位的關鍵條件。雖然時下還處于弱人工智能發(fā)展的初級階段，刑法的謙抑性要求刑法研究應當立足于現實國情，對于自動駕駛帶來的刑法規(guī)制問題的研究及利用智能技術實施犯罪的研究不可或缺，但對于自由意志的本質內涵及智能實體能否具有自由意志是任何智能階段都需直面的問題。對于AI實體主體資格的分析不能局限于教義學層面，需要從哲學視角探究科技實質，剖析自由意志的本質內涵，對AI實體的不同發(fā)展階段展開區(qū)別分析，否則將脫離現實成為空中樓閣。

注釋：

①張明楷：《責任論的基本問題》，《比較法研究》2018年第3期。

②Nestor Paul G.，“In Defense of Free Will：Neuroscience and Criminal Responsibility”，vol.65，International Journal of Law and Psychiatry，2019，pp.1～7.

③除了自由意志之外，還有受刑能力等要素。

④我國大陸學界對于人工智能實體法律責任的研究萌芽于2017年，在世界范圍內，該項領域研究目前也處于萌芽與爭論期。

⑤劉艷紅：《人工智能法學研究中的反智化批判》，《東方法學》2019年第5期。

⑥[德]康德：《法的形而上學原理——權利的科學》，沈叔平譯，商務印刷館2002年版，第13頁。

⑦馬治國、田小楚：《論人工智能體刑法適用之可能性》，《華中科技大學學報（社會科學版）》2018年第2期。

⑧劉憲權：《人工智能時代的“內憂”“外患”與刑事責任》，《東方法學》2018年第1期。

⑨劉憲權教授主張強人工智能產品能夠成為刑事責任主體這一觀點，代表性論文如劉憲權：《對智能機器人刑事責任主體地位否定說的回應》，《法學評論》2019年第5期；《人工智能時代的刑事責任演變》，《法學》2019年第1期；《涉人工智能犯罪刑法規(guī)制的路徑》，《現代法學》2019年第1期；《人工智能時代的刑事風險與刑法應對》，《法商研究》2018年第1期；《人工智能時代的“內憂”“外患”與刑事責任》，《東方法學》2018年第1期；劉憲權、胡荷佳：《論人工智能時代智能機器人的刑事責任能力》，《法學》2018年第1期；劉憲權、林雨佳：《人工智能時代技術風險的刑法應對》，《華東政法大學學報》2018年第5期；劉憲權：《人工智能時代刑事責任與刑罰體系的重構》，《政治與法律》2018年第3期；《人工智能時代機器人行為道德倫理與刑法規(guī)制》，《比較法研究》2018年第4期；《人工智能時代我國刑罰體系重構的法理基礎》，《法律科學》2018年第4期；《對強智能機器人刑事責任主體地位否定說的回應》，《法學評論》2019年第5期。

⑩儲陳城：《人工智能時代刑法的立場和功能》，《中國刑事法雜志》2018年第6期。

?葉良芳：《人工智能是適格的刑事責任主體嗎？》，《環(huán)球法律評論》2019年第4期。

?類人型人工智能實體具體包括強、超人工智能實體與弱人工智能高級階段的智能實體，參見王耀彬：《類人型人工智能實體的刑事責任主體資格審視》，《西安交通大學學報（社會科學版）》2019年第1期。

?蔣熙輝：《單位犯罪刑事責任探究與認定》，人民法院出版社2005年版，第225頁。

?彭誠信、陳吉棟：《論人工智能體法律人格的考量要素》，《當代法學》2019年第2期。

?劉憲權：《人工智能時代的刑事責任演變：昨天、今天、明天》，《法學》2019年第1期。

?儲陳城：《人工智能可否成為刑事責任主體》，《檢察日報》2018年4月19日。

?皮勇：《人工智能刑事法治的基本問題》，《比較法研究》2018年第5期。

?如皮勇教授舉例，科幻電影中描述的為拯救人類而殺戮的超級智能系統。

?[美]喬治·桑塔亞納：《常識中的理性》，張沛譯，北京大學出版社2008年版，第4頁。

?葉良芳、馬路瑤：《風險社會視闕下人工智能犯罪的刑法應對》，《浙江學刊》2018年第6期。