儲 琪

（北京師范大學(xué)刑事法律科學(xué)研究院，北京100875）

從西洋跳棋到“深藍”再到Alpha Go，在互聯(lián)網(wǎng)、大數(shù)據(jù)、云計算的共同驅(qū)動下，人工智能再一次作為科技最前沿進入公眾視野，迎來第三次發(fā)展熱潮。無人駕駛汽車、手術(shù)機器人的出現(xiàn)，以前所未有的方式?jīng)_擊著傳統(tǒng)社會觀念，給生產(chǎn)生活帶來更新與便利。但是，近些年來頻發(fā)的機器人殺人、公民信息泄露事件也讓人們不得不承認，人工智能雖能革新視野、改善生活，卻存在傷害倍增的效果，較典型的便是通過互聯(lián)網(wǎng)技術(shù)實施的一系列如破壞計算機系統(tǒng)、傳播虛假信息等嚴重危害網(wǎng)絡(luò)安全的犯罪事件。

信息化時代帶來的網(wǎng)絡(luò)沖擊，把社會組織結(jié)構(gòu)中每一個單元個體的社會活動范圍，以加速度的形式從物理空間擴展到網(wǎng)絡(luò)空間[1]。在人工智能迅速占領(lǐng)市場的今天，理性要求我們必須改變對網(wǎng)絡(luò)犯罪的固有認知，直面人工智能加速其異化的現(xiàn)實，基于此重新審視罪責(zé)問題。

一、人工智能與網(wǎng)絡(luò)犯罪概念初探

（一）網(wǎng)絡(luò)犯罪相關(guān)概念試析

1.網(wǎng)絡(luò)空間的定義。

網(wǎng)絡(luò)空間一詞首次出現(xiàn)在小說《神經(jīng)漫游者》中，書中的網(wǎng)絡(luò)空間是一個知覺可以擺脫身體束縛自由活動的虛擬空間。伴隨互聯(lián)網(wǎng)技術(shù)的更新，當(dāng)下的網(wǎng)絡(luò)空間該如何定義？筆者認為，網(wǎng)絡(luò)空間在技術(shù)層面表現(xiàn)為交互網(wǎng)絡(luò)，尤其是以互聯(lián)網(wǎng)為代表的通信網(wǎng)絡(luò)。它將不同地域內(nèi)的設(shè)備通過通信線路連接起來，在系統(tǒng)、軟件及通信協(xié)議的協(xié)調(diào)下實現(xiàn)資源共享和信息傳遞[2]。意即，當(dāng)下的網(wǎng)絡(luò)空間就是運用信息技術(shù)達到資源共享的計算機系統(tǒng)。

2.網(wǎng)絡(luò)犯罪的定義。

目前學(xué)界關(guān)于網(wǎng)絡(luò)犯罪的定義頗有爭議，然想要明晰事物的概念，應(yīng)從其本質(zhì)特征入手。葉良芳教授認為，網(wǎng)絡(luò)犯罪的特質(zhì)是場域特定性和數(shù)字技術(shù)的廣泛運用性[3]。故本文研究范圍內(nèi)的網(wǎng)絡(luò)犯罪，是指利用數(shù)字技術(shù)，全部或部分實行行為在網(wǎng)絡(luò)空間內(nèi)實施的各種侵害法益的行為。

（二）人工智能相關(guān)概念試析

1.人工智能并非實體機器人。

手術(shù)機器人的出現(xiàn)帶來了顛覆性改變，它將好萊塢電影中的科幻場面變成現(xiàn)實，加之各國開始先后密集發(fā)布研究實體機器人的規(guī)劃，無形中似乎樹立了一種觀念——人工智能就是實體機器人。然是否具有實體只是依據(jù)人工智能的不同形態(tài)所做的劃分，物理形體并非必備要素，依靠計算機系統(tǒng)和網(wǎng)絡(luò)技術(shù)得以運行的算法才是核心。蘋果Siri、刷臉支付等應(yīng)用已經(jīng)讓人工智能滲透進人類生活的各個方面，因此請拋開人工智能就是實體機器人的偏見，接納其已無處不在的事實。

2.人工智能的類別。

人工智能在不同標準下有不同的分類。依據(jù)發(fā)展水平高低，可分為弱人工智能、強人工智能和超人工智能。弱與強的區(qū)別在于其是否具有辨認和控制能力[4]，對于超人工智能而言，目前無人可知超越人類最高水平的智慧會表現(xiàn)為何種能力，故暫不存在明確討論的對象。

當(dāng)下正處于弱人工智能時代，人工智能主要表現(xiàn)為依賴科學(xué)技術(shù)運行的計算機信息系統(tǒng)。結(jié)合前述分析可知，當(dāng)今網(wǎng)絡(luò)空間的構(gòu)成有兩個核心要素——互聯(lián)網(wǎng)技術(shù)與計算機系統(tǒng)，這二者也是成立網(wǎng)絡(luò)犯罪的必備要件，因此，在弱人工智能時代，侵犯人工智能系統(tǒng)安全的行為以及利用人工智能實施其他侵犯法益的行為，均可納入網(wǎng)絡(luò)犯罪體系中評價，故本文將二者視為一體展開討論。因后文涉及到二者稱謂問題，特在此說明。

不難發(fā)現(xiàn)，現(xiàn)有文獻關(guān)注點集中在對強、超人工智能的刑事主體地位和責(zé)任能力的研究上，然而20世紀掀起軒然大波的克隆羊事件告訴我們，在不具備成熟穩(wěn)定法律關(guān)系的情況下，作為最后手段的刑法，理應(yīng)在狂熱的科技浪潮中保持理性?；诖?，本文試圖研究弱人工智能時代網(wǎng)絡(luò)犯罪的行為類型，嘗試在此項下探索相應(yīng)規(guī)制路徑，以期為人工智能的良性發(fā)展貢獻綿薄之力。

二、弱人工智能時代網(wǎng)絡(luò)犯罪的行為模式

（一）單純侵犯人工智能系統(tǒng)安全的犯罪

這種犯罪行為的作用對象是人工智能系統(tǒng)本身，侵犯的客體是系統(tǒng)安全。

前文提到，當(dāng)前的人工智能系統(tǒng)主要表現(xiàn)為依賴互聯(lián)網(wǎng)技術(shù)的計算機信息系統(tǒng)。因此，單純侵犯人工智能系統(tǒng)安全的犯罪，實質(zhì)上便是侵犯計算機信息系統(tǒng)的犯罪。

（二）違反人工智能安全管理義務(wù)的犯罪

一項技術(shù)從孕育到實踐，期間大致要經(jīng)歷技術(shù)研發(fā)—服務(wù)提供—技術(shù)應(yīng)用的過程。未來人工智能將普及社會化應(yīng)用，但基于種類多、專業(yè)程度高等多方面因素的考量，除了要加大監(jiān)管力度外，技術(shù)研發(fā)者與服務(wù)提供者也應(yīng)承擔(dān)起共同預(yù)防或治理人工智能犯罪的協(xié)助管理責(zé)任。除應(yīng)用者以外，研發(fā)者和服務(wù)提供者作為能夠?qū)夹g(shù)發(fā)展樣態(tài)起全部或部分決定作用的主體，應(yīng)在各自職責(zé)范圍內(nèi)對人工智能技術(shù)負有刑法意義上的安全管理義務(wù)，若違反相關(guān)規(guī)定或約定不履行上述義務(wù)，則可能構(gòu)成犯罪。

需要強調(diào)的是，只有對研發(fā)者或服務(wù)提供者應(yīng)當(dāng)履行、有能力履行卻不履行的行為及其造成的危害后果才能加以刑事追責(zé)，不得因網(wǎng)絡(luò)犯罪較傳統(tǒng)犯罪相比手段多樣、社會危害性較大便隨意將各類不法行為納入刑法處罰范疇。

（三）利用人工智能系統(tǒng)的“不智能”實施的犯罪

這種犯罪是指在人工智能并非因行為人的行為陷入錯誤狀態(tài)時，行為人利用人工智能的錯誤運行（即“不智能”）實施其他的犯罪行為。

目前人工智能的研發(fā)正處于探索階段，運行過程中出現(xiàn)技術(shù)故障的情況不在少數(shù)。以當(dāng)下最熱門的人臉識別技術(shù)為例，據(jù)新聞報道，美國某公民2011 年因人臉識別系統(tǒng)故障被無故吊銷駕照數(shù)周；英國南威爾士警方在2017 年歐冠聯(lián)賽決賽中首次使用人臉識別相機，系統(tǒng)發(fā)出的2470 次警報中有2297 次錯誤。可見，盡管人臉識別技術(shù)在諸多領(lǐng)域有舉足輕重的地位，但角度、光線、膚色乃至發(fā)型等因素嚴重影響了系統(tǒng)識別的準確性。實際上，除人臉識別外，指紋解鎖、“掃一掃”等技術(shù)在應(yīng)用過程中也是如此。由于科技發(fā)展有限，人工智能往往在不經(jīng)意間“自動”陷入錯誤狀態(tài)中，一些不法分子通常借此良機實施犯罪行為，生活中不乏利用ATM 機故障“順手牽羊”取走機器內(nèi)部大量現(xiàn)金事件，轟動一時的許霆案便是利用人工智能系統(tǒng)的“不智能”實施犯罪的典型代表。

（四）破壞人工智能系統(tǒng)實施其他犯罪行為的犯罪

該種犯罪是指，行為人通過各種技術(shù)手段對既有人工智能系統(tǒng)進行干擾，利用系統(tǒng)陷入錯誤狀態(tài)來實施其他的犯罪行為。例如，行為人A 遠程侵入被害人B 的無人駕駛系統(tǒng)秘密破壞傳感器，導(dǎo)致汽車因傳感鈍化而不能正確感知車身周圍的路況信息，發(fā)生撞死C 的交通事故；再如，行為人E 通過技術(shù)手段秘密入侵某公安局的內(nèi)部網(wǎng)絡(luò)，竊取大量居民的身份信息后轉(zhuǎn)手販賣給其他犯罪團伙，以此謀取不當(dāng)利益等。

在前述行為模式中，人工智能不再是簡單用以實施犯罪的輔助工具，更近似于連接犯罪行為與危害結(jié)果之間的媒介，破壞人工智能系統(tǒng)行為的實施實則是為后續(xù)實施其他犯罪行為服務(wù)，前一行為在整個犯罪過程中起鋪墊作用，后一行為的完成才是最終目標。

（五）利用人工智能技術(shù)實施其他犯罪行為的犯罪

技術(shù)的革新為傳統(tǒng)犯罪提供了“順風(fēng)車”，人工智能的快速發(fā)展使各類犯罪手段呈現(xiàn)智能化、高級化、冗雜化的趨勢，犯罪門檻越來越低，行為的社會危害性卻不降反升。

以詐騙行為為例，傳統(tǒng)的詐騙犯罪中，行為人與受害人之間無論是直接雙向的一對一接觸，還是途徑多道程序的一對一接觸，從欺騙行為的著手到損害結(jié)果的發(fā)生，犯罪行為實施的全過程均發(fā)生在線下，即物理空間領(lǐng)域內(nèi)；與之不同的是，在借助人工智能技術(shù)后，行為人與受害人發(fā)生接觸的場所由物理領(lǐng)域向網(wǎng)絡(luò)空間延伸，行為人不再僅憑言語交流對被害人實施欺騙，而是通過熟練掌握相關(guān)技術(shù)，例如利用專門軟件改變?nèi)寺?、識別驗證碼以偽裝身份、規(guī)避監(jiān)管，迷惑受害人使之陷入錯誤認識，為犯罪目的的達成添磚加瓦。可見，立足于人工智能技術(shù)的網(wǎng)絡(luò)詐騙犯罪利用最小成本實現(xiàn)了犯罪效益的最大化。

實際上，除詐騙行為以外，在人工智能完成由精英技術(shù)到平民技術(shù)的轉(zhuǎn)變后，各類不法行為都在前者的依托下實現(xiàn)了量變與質(zhì)變的雙重飛躍，在廣度和深度上對傳統(tǒng)犯罪的勢力范圍進行了擴張。近些年層出不窮的網(wǎng)絡(luò)詐騙、竊取公民個人信息案件表明，利用人工智能技術(shù)實施其他犯罪行為是當(dāng)前網(wǎng)絡(luò)犯罪最主要的表現(xiàn)形式。

三、弱人工時代網(wǎng)絡(luò)犯罪的規(guī)制路徑初探

（一）針對單純侵犯人工智能系統(tǒng)安全的犯罪

因該種行為本質(zhì)上與侵犯計算機信息系統(tǒng)安全并無差別，故可根據(jù)現(xiàn)有條文加以規(guī)制：若行為人違反國家規(guī)定，實施了法律所禁止的非法侵入等行為造成機器不能正常運行，情節(jié)嚴重的，可援引《刑法》第二百八十五、二百八十六條的規(guī)定，依據(jù)相應(yīng)的罪名定罪處罰。

（二）針對違反人工智能安全管理義務(wù)的犯罪

該種犯罪的行為主體涉及人工智能技術(shù)的研發(fā)者與服務(wù)提供者，故刑責(zé)承擔(dān)因處罰主體身份不同而有所區(qū)別。

對研發(fā)者而言，若因疏忽大意或過于自信違反預(yù)見義務(wù)，則承擔(dān)一般過失犯罪的刑事責(zé)任；若因科技水平限制，研發(fā)時既不可能預(yù)見危害結(jié)果的發(fā)生又盡到了安全管理義務(wù)，則按意外事件處理；若故意違反安全管理義務(wù)，或在研發(fā)過程中對危害結(jié)果的發(fā)生早有預(yù)見卻不采取措施，則認定其對犯罪行為、結(jié)果及因果關(guān)系的發(fā)生有直接或間接的犯罪故意，依據(jù)相關(guān)條文追究其不作為犯罪之刑責(zé)。

對服務(wù)提供者而言，在過失犯罪、意外事件的認定上與研發(fā)者相同，但鑒于其地位特殊，針對服務(wù)提供者故意違反安全管理義務(wù)的行為，立法者又專門設(shè)立了如拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪等罪名加以規(guī)制。從刑法條文可知，該罪被設(shè)定為情節(jié)犯，只有當(dāng)出現(xiàn)“致使違法信息大量傳播”“致使用戶信息泄露，造成嚴重后果”“致使刑事案件證據(jù)滅失，情節(jié)嚴重”或“有其他嚴重情節(jié)”四種法定情形之一時才可認定罪名成立，然而從實踐狀況來看，前述規(guī)定也存在一些問題。

例如，情形一規(guī)定為“致使違法信息大量傳播”，現(xiàn)行立法及司法解釋卻未對“大量傳播”給出明確界定致使實踐認定困難，反觀兩高在有關(guān)侵犯個人信息刑事案件的司法解釋中對于“情節(jié)嚴重”則給出了具體規(guī)定，相比之下不得不說前者存在立法遺憾；再如，情形三規(guī)定為“致使刑事案件證據(jù)滅失，情節(jié)嚴重的”，此處的刑事案件若為重罪尚可理解，若僅是致使輕罪刑事案件的證據(jù)滅失，是否還能被評價為“情節(jié)嚴重”并動用刑法規(guī)制？

鑒于篇幅所限，本文僅起拋磚引玉之勢，未來對于前述問題的解決是通過司法解釋的形式追加規(guī)定還是重新確立刑事評價體系？這值得進一步探討。

（三）針對利用人工智能的“不智能”實施的犯罪

這種模式的治理思路可分侵犯財產(chǎn)類和非財產(chǎn)類犯罪兩步走。若行為人利用系統(tǒng)的不智能實施了諸如故意傷害等侵犯非財產(chǎn)類的犯罪行為，依據(jù)相應(yīng)條文認定即可；若實施的是侵犯財產(chǎn)類犯罪例如詐騙的行為，便要探討機器可否被騙的問題。

基于詐騙罪的犯罪構(gòu)造，欺騙必須作用于被害人的大腦，而有學(xué)者認為機器本身不能被騙，但是機器背后的人可以受騙，對計算機詐騙實質(zhì)上是使計算機背后的人受了騙[5]而間接承認機器可以被騙。這種觀點值得商榷。以利用ATM 機故障取走錢款為例，依據(jù)該觀點，是行為人利用故障使機器后的工作人員產(chǎn)生了錯誤認識并支付存款，但依常識便知既然是自助取款，那么機器的運行是靠內(nèi)部算法的運轉(zhuǎn)，整個犯罪過程中與行為人發(fā)生接觸到最終支付款項的主體均是算法系統(tǒng)，而無工作人員的參與，既然不存在參與主體又何來被騙一說？

被欺騙作為一種主觀意識形態(tài)活動，存在的前提是行為主體必須具備能動意識，現(xiàn)階段的人工智能僅是佐助生產(chǎn)生活的工具，與一把刀、一支槍無本質(zhì)區(qū)別，因不可能進行任何意識形態(tài)活動而不能被騙，故對利用系統(tǒng)不智能實施的犯罪的處罰，依據(jù)相關(guān)條文認定便可。

（四）針對破壞人工智能系統(tǒng)實施其他犯罪行為的犯罪

此模式下有兩個行為，一是破壞人工智能系統(tǒng)，二是利用對系統(tǒng)的破壞進而實施其他犯罪，即破壞人工智能系統(tǒng)作為手段行為為另一犯罪的達成服務(wù)，這便是我國刑法理論中的牽連犯。刑法總則中沒有規(guī)定牽連犯的處罰原則，分則對其的處罰規(guī)定卻五花八門。除有特殊規(guī)定為數(shù)罪并罰外，學(xué)界在罪數(shù)問題上多堅持“以一罪論處”原則，反對數(shù)罪并罰，他們傾向于認為牽連犯是與數(shù)罪并罰相對應(yīng)的一組罪數(shù)形態(tài)概念中的一個，雖存在個別特殊規(guī)定，但這是基于這類行為危害性較大、數(shù)行為間的關(guān)聯(lián)度較低的考慮[6]。

上述觀點值得商榷。既然牽連犯概念設(shè)立的初衷，是從社會危害性以及行為間關(guān)聯(lián)關(guān)系強弱的角度將沒有明文規(guī)定但具有牽連關(guān)系的數(shù)行為從數(shù)罪并罰中分離出來，那么是否成立牽連犯，便應(yīng)先從社會危害性和牽連關(guān)系兩方面分別評價后再確定處罰原則。

關(guān)于社會危害性。儲槐植教授將社會危害性的評價指標分為主客觀兩方面：主觀上包括罪過、主觀惡性和人身危險性，客觀上包括行為及危害結(jié)果[7]。近些年案發(fā)情況表明，行為人依靠黑客技術(shù)肆意猖獗，涉案數(shù)額動輒上千萬，受害人數(shù)眾多，行為鏈條冗長，隱蔽性高且取證困難，對國民經(jīng)濟和社會秩序造成了巨大沖擊，目前尚且如此，隨著技術(shù)的進一步發(fā)展，行為的社會危害性實在不可小覷。

關(guān)于牽連關(guān)系的判斷，筆者認為應(yīng)堅持類型說——只有當(dāng)某種手段通常用于實施某種犯罪時才宜認定為牽連犯[8]，反之則需數(shù)罪并罰。以前文所舉的例子來看，行為人A 侵入B 的無人駕駛系統(tǒng)干擾傳感器，利用系統(tǒng)故障撞死C，車輛撞死人是常態(tài)，然而通過破壞車輛系統(tǒng)用以殺人并非常見的犯罪手段，二者間因不具備類型化的牽連關(guān)系而不能認定為牽連犯，這種情況下對行為人A 應(yīng)數(shù)罪并罰。

因此，針對破壞人工智能系統(tǒng)實施其他犯罪行為的處罰，如果遵循“個案評價”原則，在具備類型化牽連關(guān)系時可考慮從一重罪或從一重罪從重處罰，在不具備牽連關(guān)系時應(yīng)數(shù)罪并罰，既可體現(xiàn)罪責(zé)刑相適應(yīng)原則，也能一定程度上遏制犯罪白熱化現(xiàn)狀。

（五）針對利用人工智能技術(shù)實施其他犯罪行為的犯罪

《刑法》二百八十七條規(guī)定，利用計算機實施金融詐騙、盜竊等其他犯罪的，依照相關(guān)規(guī)定定罪處罰，實際上已為利用人工智能實施其他犯罪行為的制裁提供了思路，在此不做贅述。值得關(guān)注的是，大數(shù)據(jù)時代的到來，公民為了享受人工智能的服務(wù)不得不將個人信息讓渡出去，逐漸適應(yīng)了隱私權(quán)被侵犯的現(xiàn)狀。筆者在裁判文書網(wǎng)以“侵犯公民個人信息罪”為關(guān)鍵詞進行檢索，發(fā)現(xiàn)截止至2018 年9 月，判決文書由一開始的5 份增加至1408 份，可見信息共享使公民個人隱私權(quán)的刑法保護問題愈發(fā)嚴峻。當(dāng)下，借助人工智能實施侵犯個人信息的犯罪行為數(shù)量攀升，對其是否可以一律套用二百八十七條定罪處罰？未必可行。

依據(jù)刑法及司法解釋規(guī)定，侵犯公民個人信息罪的客觀行為是指向他人出售或提供，或是購買、收受等，不包含自行利用，實踐中卻不乏行為人非法獲取信息后自行非法利用的情形，譬如充斥購物網(wǎng)站的刷單行為。由于條文規(guī)制范圍的狹窄，這些游離于條文以外、卻與犯罪行為具有同等危害性的違法行為無法被納入同個罪名體系內(nèi)評價，這種情況下是否可以另辟蹊徑為其尋找刑法規(guī)制路徑？

以刷單為例，其觸犯的罪名還可能包括但不限于：非法獲取計算機信息系統(tǒng)數(shù)據(jù)罪，虛假廣告罪，損害商業(yè)信譽、商品聲譽罪等[9]。第一個罪的構(gòu)罪前提是“非法”侵入計算機系統(tǒng)，而行為人利用人工智能侵犯公民個人信息時，可能具有合法的系統(tǒng)登入權(quán)，如通信營業(yè)廳工作人員可利用職權(quán)進入系統(tǒng)攫取公民信息，這種情況便因不符合構(gòu)罪前提而不被認定。就第二、三個罪名而言，行為人刷單時難免會涉及對商品性能、質(zhì)量等內(nèi)容虛假評價，或是將獲取到的公民信息利用在給同行商家惡意刷單上，形式上與構(gòu)成要件最為貼合，在學(xué)理層面可以認定，而經(jīng)筆者在無訟案例網(wǎng)查詢，自網(wǎng)站開通以來，2018 年以兩罪名起訴的案件數(shù)量最多，但各自僅有10 件，所有案件也無一涉及網(wǎng)絡(luò)刷單行為?？梢?，實務(wù)中真正以這兩個罪名認定的案件極少，究其原因在于該類行為發(fā)生在市場交易領(lǐng)域，意思自治是市場交易的基本原則，一旦大面積規(guī)制，不利于維護交易秩序的穩(wěn)定；加之行為處于多法域管轄的交叉地帶，涉及的法律關(guān)系錯綜復(fù)雜，故只要沒有造成重大損害，買賣雙方多對此視而不見，國家層面也僅動用行政法律法規(guī)略施懲戒，如此一來使得理論與實踐背道而馳，罪名形同虛設(shè)。

由此看來，借助人工智能實施非法利用公民個人信息行為的刑法規(guī)制出現(xiàn)空缺，雖究竟是立法者的疏忽還是基于交叉法域地帶管控難度的考量不得而知，然而放任這類社會危害性較大的行為在刑法邊界之外也似乎并不恰當(dāng)。進一步是對市場領(lǐng)域的沖擊，退一步則在縱容違法行為的存在，如何妥善處理此種行為模式下衍生的多起沖突，也有待進一步探究。

四、結(jié)語

以計算機為單一犯罪對象的犯罪隨著以網(wǎng)絡(luò)為犯罪工具和空間的犯罪行為的崛起逐漸退出歷史舞臺，而人工智能技術(shù)的崛起又使得當(dāng)下的網(wǎng)絡(luò)犯罪朝著智能化與大數(shù)據(jù)的方向邁進。限于知識的貧乏與發(fā)展前景的未卜，本文只探討了弱人工智能視野下網(wǎng)絡(luò)犯罪的行為類型，試圖在現(xiàn)有刑法體系下尋找解決路徑，同時指出部分立法空白之處期以他人回應(yīng)。雖一直強調(diào)應(yīng)當(dāng)在人工智能研究的狂潮中保持理性，但這并不代表筆者對于未來的發(fā)展持消極態(tài)度，因為無論人工智能技術(shù)最終的發(fā)展前景如何，也不論法律未來是進行改良或是面臨變革，能在技術(shù)的幫助下獲取幸福，才是運用它的最終目的?！?/p>