(華南師范大學(xué) 廣東 廣州 511400)

一、人工智能主體的分類

當(dāng)前學(xué)界對(duì)人工智能的分類主要有兩種。第一種是在達(dá)特茅斯會(huì)議上將人工智能體按照智能程度的繁簡(jiǎn)進(jìn)行劃分，其判斷并預(yù)測(cè)人工智能發(fā)展將經(jīng)歷三個(gè)階段，即弱人工智能、強(qiáng)人工智能和超人工智能。第二種是以人工智能產(chǎn)品是否具有辨認(rèn)能力和控制能力進(jìn)行劃可以將人工智能產(chǎn)品劃分為弱人工智能產(chǎn)品與強(qiáng)人工智能產(chǎn)品。

我認(rèn)為人工智能的分類是以人工智能產(chǎn)品是否受控制為區(qū)分的標(biāo)準(zhǔn)進(jìn)行劃分，將其分為受人類控制的人工智能和不受人類控制的人工智能。我認(rèn)為以此觀點(diǎn)可以評(píng)價(jià)不同發(fā)展水平的人工智能，并且可以兼顧當(dāng)今利用技術(shù)的工具性進(jìn)行的犯罪與未來(lái)高水平人工智能實(shí)施的犯罪。

(一)受人類控制的人工智能

受人類控制的人工智能是指在設(shè)計(jì)和編制的程序范圍內(nèi)進(jìn)行獨(dú)立判斷并自主決策，但不具有辨認(rèn)能力和控制能力，其實(shí)現(xiàn)的知識(shí)研發(fā)者或使用者的意志。

1、本身作為工具，由人類進(jìn)行使用

受人類控制的人工智能可以在設(shè)計(jì)和編制的程序范圍內(nèi)獨(dú)立判斷并自主作出決策，但是，因其不具有辨認(rèn)能力和控制能力，且其意志完全受控或受制于人類設(shè)計(jì)和編制的程序，因此可以將受人類控制的人工智能看作人類改造世界的新型工具。其可以解放人類勞動(dòng)力，并彌補(bǔ)人類自身技能的不足。如果這一優(yōu)勢(shì)被犯罪分子所利用，就會(huì)在付出更小代價(jià)的同時(shí)，帶來(lái)更大的社會(huì)危害。但是應(yīng)當(dāng)看到，受人類控制的人工智能的工具屬性決定了其在犯罪中的地位，其不能作為犯罪主體而承擔(dān)刑事責(zé)任。

受人類控制的人工智能被他人作為工具加以利用實(shí)施嚴(yán)重危害社會(huì)的犯罪行為，可能體現(xiàn)在刑法規(guī)定的許多犯罪中。利用受人類控制的人工智能可以實(shí)施危害國(guó)家安全、國(guó)防利益、公共安全和社會(huì)管理秩序的行為。

2、有一定的智能程度但依然受人類控制和相關(guān)硬件的牽制

受人類控制的人工智能產(chǎn)品實(shí)施犯罪行為時(shí)只能是其設(shè)計(jì)者或使用者的意志支配下進(jìn)行。由于受人類控制的人工智能產(chǎn)品本身不具有辨認(rèn)和控制能力，其實(shí)施的行為本質(zhì)上是設(shè)計(jì)者或使用者行為的延伸，受人類控制的人工智能產(chǎn)品始終是作為一種工具為犯罪者所用。

受人類控制的人工智能產(chǎn)品不應(yīng)該為其實(shí)施的行為承擔(dān)責(zé)任。有以下兩方面的原因：首先，受人類控制的人工智能產(chǎn)品本身不具有辨認(rèn)和控制能力，其是在人類設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，其本身并沒(méi)有意志，實(shí)現(xiàn)的只是設(shè)計(jì)者或使用者的意志。其次，受人類控制的人工智能產(chǎn)品無(wú)法決定自己實(shí)施行為的目的，其只能按照設(shè)計(jì)和編制的程序內(nèi)的目的實(shí)施行為。

(二)不受人類控制的人工智能

1、是否存在天然的不受人類控制的人工智能

不受人類控制的人工智能和自然人存在不同，自然人是可以自主產(chǎn)生意志和實(shí)施行為，但不受人類控制的人工智能一開始是在人類設(shè)計(jì)和編制范圍內(nèi)實(shí)施活動(dòng)的，只是由于其后期的學(xué)習(xí)或者是人類行為的刺激導(dǎo)致其實(shí)施程序范圍外的活動(dòng)，導(dǎo)致了不受人類控制的后果。但其本質(zhì)上是由人類設(shè)計(jì)出來(lái)的，設(shè)計(jì)者或使用者對(duì)其具有一定的監(jiān)督和預(yù)見義務(wù)。

因此，我認(rèn)為并不存在天然的不受人類控制的人工智能，不受人類控制的人工智能也是從人類設(shè)計(jì)和編制程序范圍內(nèi)產(chǎn)生的，其只是通過(guò)后期的深入學(xué)習(xí)從而實(shí)施程序范圍外的活動(dòng)。

2、被中斷控制的人工智能的刑事責(zé)任歸屬。

盡管不受控制的人工智能能夠作為一個(gè)獨(dú)立的刑事責(zé)任主體承擔(dān)刑事責(zé)任，但設(shè)計(jì)者或使用者對(duì)此仍然具有一定的監(jiān)督和預(yù)見義務(wù)。如果設(shè)計(jì)者或使用者違反了監(jiān)督和預(yù)見義務(wù)，對(duì)此應(yīng)承擔(dān)相應(yīng)的刑事責(zé)任。但如果設(shè)計(jì)者或使用者盡到了相應(yīng)的監(jiān)督和預(yù)見義務(wù)，此為意外事件或由被中斷控制的人工智能獨(dú)立承擔(dān)刑事責(zé)任。

二、人工智能的刑事風(fēng)險(xiǎn)

(一)受人類控制的人工智能的工具風(fēng)險(xiǎn)

受人類控制的人工智能是在設(shè)計(jì)和編制的程序范圍內(nèi)進(jìn)行活動(dòng)。此時(shí)雖然受人類控制的人工智能具有學(xué)習(xí)的能力，可以獨(dú)立進(jìn)行判斷，完成在某一個(gè)領(lǐng)域內(nèi)特定的義務(wù)，但其不具有獨(dú)立的辨認(rèn)和控制能力。受控制的人工智能是在設(shè)計(jì)者和使用者設(shè)計(jì)和編制的范圍內(nèi)實(shí)施行為，其本身不具有辨認(rèn)和控制能力，其實(shí)現(xiàn)的是設(shè)計(jì)者或使用者的犯罪目的，其僅是作為不法分子的實(shí)施非法行為的“工具”。

(二)不受人類控制的人工智能的獨(dú)立危害

不受人類控制的人工智能由于是在設(shè)計(jì)者和使用者設(shè)計(jì)和編制的程序范圍外實(shí)施活動(dòng)，其本身具有獨(dú)立的意志，因而其實(shí)施的行為可能不符合設(shè)計(jì)或編制程序的目的，或者從根本上違背設(shè)計(jì)和編制程序的目的。不受人類控制的人工智能可以根據(jù)具有的自主意志獨(dú)立實(shí)施違法行為，獨(dú)立導(dǎo)致刑事危害，從而獨(dú)立承擔(dān)刑事責(zé)任。

不受人類控制的人工智能是在設(shè)計(jì)和編制的程序外實(shí)施危害行為，獨(dú)立造成危害社會(huì)的后果。刑法上的行為在狹義上是指“危害行為”。隨著人工智能時(shí)代的不斷發(fā)展，傳統(tǒng)的行為理論應(yīng)當(dāng)適應(yīng)時(shí)代的發(fā)展作出相應(yīng)調(diào)整。不受人類控制的人工智能除了不具有生命體要素外，其他的要素似乎都符合行為理論的要求。除了探討不受控制的人工智能的行為是否屬于刑法意義上的“行為”外，還需要判斷不受人類控制的人工智能是否具有辨認(rèn)和控制能力。因?yàn)樾淌仑?zé)任主體需要具有辨認(rèn)和控制能力。自然人具有辨認(rèn)和控制能力來(lái)源于生命，受到年齡等因素的影響。不受人類控制的人工智能的辨認(rèn)和控制能力來(lái)源于程序和算法。相對(duì)于自然人而言，不受控制的人工智能具有更強(qiáng)的辨認(rèn)和控制能力。

三、人工智能的刑法應(yīng)對(duì)

(一)確立研發(fā)者和使用者的嚴(yán)格責(zé)任

無(wú)論是受人類控制的人工智能，還是不受人類控制的人工智能，研發(fā)者和使用者在一定的情況下對(duì)相應(yīng)的人工智能產(chǎn)品有一定的把控能力。由于人工智能產(chǎn)品可能對(duì)社會(huì)造成很大的危害，因而我們可以考慮在刑法中確立研發(fā)者和使用者的嚴(yán)格責(zé)任。我們應(yīng)當(dāng)從以下幾方面來(lái)規(guī)定研發(fā)者和使用者的義務(wù)：首先，我們必須在研發(fā)人工智能產(chǎn)品過(guò)程中將人類社會(huì)中的法律以及道德等規(guī)范和價(jià)值嵌入相應(yīng)的系統(tǒng)內(nèi)。其次，不管是受人類控制的人工智能，還是不受控制的人工智能，其一開始實(shí)施的行為都是受人類設(shè)計(jì)和編制的程序控制的，其本質(zhì)上是由程序背后的數(shù)據(jù)所控制的，因而研發(fā)者和使用者需要在其研發(fā)和使用過(guò)程中履行數(shù)據(jù)保護(hù)義務(wù)。最后，在對(duì)人工智能設(shè)計(jì)和編制的程序范圍內(nèi)要設(shè)定出完整控制人工智能自主武器系統(tǒng)。

(二)賦予智能機(jī)器人刑事責(zé)任主體地位

通過(guò)前面的論述，我認(rèn)為人工智能完全可能成為刑法上的主體，其完全可能具有和人一樣的辨認(rèn)能力和控制能力，也完全可能在通過(guò)深入學(xué)習(xí)后在編制的程序范圍外實(shí)施危害社會(huì)的行為。當(dāng)前我國(guó)刑法規(guī)定的刑事責(zé)任能力主體只有自然人和單位，并不包括人工智能。

在行為理論的發(fā)展歷程中，具有代表性的理論階段是自然行為論、因果行為論、目的行為論、社會(huì)行為論、人格行為論，這些理論都圍繞著“人”的行為展開。這些理論中只有人才能作為刑事責(zé)任主體，只有人才能承擔(dān)刑事責(zé)任。這無(wú)疑是受到了時(shí)代的影響。在那些理論提出的同時(shí)，人工智能并不存在，不屬于人類考慮和討論的范圍。人工智能除了不具有生命體的“人”的要素外，其他要素似乎都能符合行為理論要求。因而我們應(yīng)當(dāng)在刑法中確立人工智能的刑事責(zé)任主體地位。