摘 要：在弱人工智能時(shí)代，智能機(jī)器人在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施嚴(yán)重危害社會(huì)的行為，實(shí)際上是研發(fā)者或使用者行為的延伸，應(yīng)當(dāng)由研發(fā)者或使用者承擔(dān)刑事責(zé)任。與傳統(tǒng)犯罪相比，研發(fā)者或使用者之間的刑事責(zé)任分配會(huì)隨著智能機(jī)器人“智能”的增長(zhǎng)而有所不同。智能機(jī)器人“智能”的增長(zhǎng)還會(huì)影響對(duì)行為人量刑的輕重，甚至可能影響對(duì)行為人行為的性質(zhì)判斷。智能機(jī)器人在自主意識(shí)和意志的支配下超出設(shè)計(jì)和編制的程序范圍實(shí)施嚴(yán)重危害社會(huì)的行為時(shí)，應(yīng)將其作為刑事責(zé)任主體進(jìn)行刑罰處罰。此時(shí)，智能機(jī)器人不能和研發(fā)者成立共同犯罪，但有可能和使用者構(gòu)成共同犯罪。

關(guān)鍵詞：人工智能;機(jī)器人犯罪;刑事責(zé)任;刑法規(guī)制;共同犯罪

中圖分類號(hào)：DF611

文獻(xiàn)標(biāo)志碼：A?DOI：10.3969/j.issn.1001-2397.2019.01.06

人工智能技術(shù)的發(fā)展如火如荼，從不具有深度學(xué)習(xí)能力的普通機(jī)器人，到具有深度學(xué)習(xí)能力但仍完全受限于人類設(shè)計(jì)和編制的程序的弱智能機(jī)器人，人工智能技術(shù)業(yè)已取得重大突破，人類終將迎來(lái)具有獨(dú)立意識(shí)和意志、能夠在人類設(shè)計(jì)和編制的程序范圍外實(shí)施行為的強(qiáng)智能機(jī)器人。依筆者之見，從普通機(jī)器人到弱智能機(jī)器人，再到強(qiáng)智能機(jī)器人的“進(jìn)化”史，其實(shí)是一部機(jī)器人的辨認(rèn)能力與控制能力逐步增強(qiáng)、人之意識(shí)與意志對(duì)其“行為”的作用逐漸減弱的歷史。人與機(jī)器人在辨認(rèn)能力與控制能力上此消彼長(zhǎng)的變化，從根本上影響著刑事風(fēng)險(xiǎn)的樣態(tài)與刑事責(zé)任的分配。

不可否認(rèn)，當(dāng)人的意識(shí)和意志對(duì)智能機(jī)器人的行為所產(chǎn)生的作用逐漸減弱，就意味著人工智能時(shí)代可能會(huì)產(chǎn)生前所未有的風(fēng)險(xiǎn)，甚至極有可能會(huì)產(chǎn)生相應(yīng)的刑事犯罪。涉人工智能犯罪主要包括兩個(gè)方面：一是研發(fā)者和使用者將人工智能技術(shù)作為犯罪工具，這會(huì)為犯罪插上科技的“翅膀”，從而使其社會(huì)危害性呈幾何倍數(shù)增長(zhǎng)，甚至?xí)l(fā)更多的新型犯罪。二是隨著人工智能技術(shù)的發(fā)展，強(qiáng)智能機(jī)器人可能會(huì)產(chǎn)生獨(dú)立的意識(shí)和意志，自主決定并實(shí)施嚴(yán)重危害社會(huì)的行為。歷史的車輪滾滾向前，我們不應(yīng)該也不可能僅因人工智能時(shí)代存在風(fēng)險(xiǎn)，就阻礙新的科技和生產(chǎn)力的發(fā)展，甚至阻擋一個(gè)嶄新時(shí)代的到來(lái)。我們理應(yīng)未雨綢繆、積極布局，努力探索人工智能時(shí)代涉人工智能犯罪的刑法規(guī)制路徑，為防控人工智能時(shí)代的技術(shù)風(fēng)險(xiǎn)（包括規(guī)制智能機(jī)器人的行為）、發(fā)揮人工智能技術(shù)的最大價(jià)值、促進(jìn)社會(huì)的穩(wěn)定健康發(fā)展出謀劃策。

一、對(duì)弱人工智能機(jī)器人研發(fā)或使用行為的規(guī)制路徑

本部分探討的所有智能機(jī)器人的行為都是在設(shè)計(jì)和編制的程序范圍之內(nèi)實(shí)施的。

應(yīng)該看到，在大多數(shù)情況下，研發(fā)者或使用者會(huì)以造福社會(huì)或方便生活為目的來(lái)設(shè)計(jì)或使用智能機(jī)器人，并發(fā)展人工智能技術(shù)。但是，也不能排除某些研發(fā)者或使用者為了滿足某些不正當(dāng)利益，將研發(fā)或使用的智能機(jī)器人當(dāng)作工具，實(shí)施嚴(yán)重危害社會(huì)行為的可能性。此時(shí)，智能機(jī)器人活動(dòng)的基礎(chǔ)是設(shè)計(jì)和編制的程序，研發(fā)者或使用者利用程序?qū)χ悄軝C(jī)器人進(jìn)行控制，從而使智能機(jī)器人按照自己的意志，實(shí)施相應(yīng)的犯罪行為。在這種情況下，智能機(jī)器人只能作為人類實(shí)施犯罪行為的工具。但是應(yīng)當(dāng)看到，正如在網(wǎng)絡(luò)時(shí)代，當(dāng)互聯(lián)網(wǎng)作為人類實(shí)施犯罪行為的工具時(shí)，會(huì)影響對(duì)行為人行為性質(zhì)的判斷和對(duì)行為人量刑的輕重，在人工智能時(shí)代，當(dāng)智能機(jī)器人作為人類實(shí)施犯罪行為的工具時(shí)，不僅可能會(huì)影響到對(duì)行為人行為性質(zhì)的判斷和對(duì)行為人量刑的輕重，甚至研發(fā)者或使用者之間的刑事責(zé)任分配也可能會(huì)隨著智能機(jī)器人“智能”的增長(zhǎng)而有所不同。其一，當(dāng)智能機(jī)器人作為人類實(shí)施犯罪行為的工具時(shí)，可能會(huì)影響到對(duì)行為人行為性質(zhì)的判斷。例如，當(dāng)自動(dòng)駕駛汽車的設(shè)計(jì)者設(shè)計(jì)的自動(dòng)駕駛程序不符合道路交通運(yùn)輸管理法規(guī)，從而導(dǎo)致自動(dòng)駕駛汽車發(fā)生安全事故，造成人員傷亡或者使公私財(cái)產(chǎn)遭受重大損失的，其可能構(gòu)成交通肇事罪。而在人工智能時(shí)代來(lái)臨之前，汽車的設(shè)計(jì)者只可能因其設(shè)計(jì)的汽車存在重大安全隱患而構(gòu)成重大責(zé)任事故罪。其二，當(dāng)智能機(jī)器人作為人類實(shí)施犯罪行為的工具時(shí)，可能會(huì)影響到對(duì)行為人量刑的輕重。例如，2010年5月6日，美國(guó)股票交易市場(chǎng)突然暴跌，在短短4分鐘之內(nèi)，道瓊斯指數(shù)平均下跌了6%，而在此后的20分鐘內(nèi)股價(jià)又急劇回升。此次暴跌被稱為“閃電崩盤”，其背后的“元兇”最終被指向程序化交易的“超高速機(jī)器人交易員”，其能夠在瞬間以遠(yuǎn)超人類交易員的速度進(jìn)行搶先交易

參見：櫻井豐.被人工智能操控的金融[M].林華，沈美華，譯.北京：中信出版集團(tuán)，2018：39.。筆者認(rèn)為，行為人憑一己之力與借助智能機(jī)器人都可能達(dá)到操縱證券市場(chǎng)的目的，只是前者可能是利用資金、持股持倉(cāng)或者信息的優(yōu)勢(shì)實(shí)施操縱行為，而后者則是利用技術(shù)的優(yōu)勢(shì)實(shí)施操縱行為。對(duì)這兩種行為盡管都應(yīng)以操縱證券市場(chǎng)罪認(rèn)定，但是，實(shí)際處罰時(shí)則可根據(jù)犯罪數(shù)額或其他情節(jié)以“情節(jié)嚴(yán)重”或“情節(jié)特別嚴(yán)重”來(lái)區(qū)分法定刑的量刑幅度。行為人憑一己之力進(jìn)行操縱證券市場(chǎng)的行為和行為人借助智能機(jī)器人進(jìn)行操縱證券市場(chǎng)的行為相比，顯然，后者的效率、影響力甚至獲利都會(huì)遠(yuǎn)遠(yuǎn)超過(guò)前者，犯罪情節(jié)的嚴(yán)重程度也會(huì)遠(yuǎn)遠(yuǎn)超過(guò)前者，從而需要承擔(dān)的刑事責(zé)任和需要接受的刑罰處罰也相應(yīng)更重。其三，當(dāng)智能機(jī)器人作為人類實(shí)施犯罪行為的工具時(shí)，研發(fā)者或使用者之間的刑事責(zé)任分配可能會(huì)隨著智能機(jī)器人“智能”的增長(zhǎng)而有所不同。例如，對(duì)于普通汽車而言，在汽車本身不存在安全隱患，僅因駕駛員違反交通運(yùn)輸管理法規(guī)進(jìn)行駕駛導(dǎo)致發(fā)生重大交通事故而構(gòu)成交通肇事罪的情況下，普通汽車的設(shè)計(jì)者無(wú)須承擔(dān)刑事責(zé)任，而應(yīng)由普通汽車的使用者——駕駛員承擔(dān)全部刑事責(zé)任。對(duì)于全自動(dòng)駕駛汽車而言，汽車的行駛方式、路徑全部都由自動(dòng)駕駛程序控制，并不需要駕駛員對(duì)汽車進(jìn)行操控，車上僅有乘車人而無(wú)駕駛員，對(duì)于程序本身存在問題而導(dǎo)致發(fā)生重大交通事故的情況，可能就需要由全自動(dòng)駕駛汽車的設(shè)計(jì)者承擔(dān)全部刑事責(zé)任。關(guān)于研發(fā)者和使用者刑事責(zé)任的具體分配，筆者將在下文進(jìn)行詳細(xì)論述。

由于本部分我們只探討智能機(jī)器人的行為在設(shè)計(jì)和編制的程序范圍之內(nèi)實(shí)施的情況，因此，智能機(jī)器人在沒有獨(dú)立的意識(shí)和意志情況下的任何行為，都只能看作是研發(fā)者和使用者犯罪的工具（即是他們所實(shí)施犯罪行為的延伸）。也正因?yàn)槿绱?，研發(fā)者或使用者不可能一起或單獨(dú)和智能機(jī)器人構(gòu)成共同犯罪。值得探討的是，在將智能機(jī)器人當(dāng)成犯罪工具，利用智能機(jī)器人進(jìn)行犯罪的情況下，如果研發(fā)者與使用者并非同一人，且研發(fā)者與使用者之間沒有通謀時(shí)（在有通謀的情況下，應(yīng)以研發(fā)者與使用者構(gòu)成共同犯罪認(rèn)定，筆者對(duì)此種情況不作贅述），最終的刑事責(zé)任應(yīng)由使用者一人承擔(dān)，還是研發(fā)者和使用者二者都需承擔(dān)？筆者認(rèn)為，對(duì)此應(yīng)具體問題具體分析。

第一，研發(fā)者在設(shè)計(jì)智能機(jī)器人時(shí)，只賦予了其實(shí)施犯罪行為的能力。例如，研發(fā)者設(shè)計(jì)出“殺人機(jī)器人”，其唯一能夠?qū)嵤┑男袨榫褪窃诔绦虻目刂浦聦⒆匀蝗说纳枰詣儕Z，因此，對(duì)于該智能機(jī)器人在交付使用后所實(shí)施的任何行為，我們都可以認(rèn)為研發(fā)者具有故意，或者說(shuō)，研發(fā)者將自己的主觀故意融入智能機(jī)器人所實(shí)施的行為之中，只不過(guò)這種故意內(nèi)容的實(shí)現(xiàn)不是在當(dāng)場(chǎng)，而是延遲到交付使用后。筆者認(rèn)為，在這種情況下，智能機(jī)器人實(shí)施的行為融合了研發(fā)者或使用者二者的犯罪故意，因此，這種情況下智能機(jī)器人的行為是研發(fā)者或使用者行為的延伸，其是二者實(shí)施犯罪行為的工具，研發(fā)者和使用者都應(yīng)承擔(dān)刑事責(zé)任。

第二，研發(fā)者在設(shè)計(jì)智能機(jī)器人時(shí)，完全是為了讓其進(jìn)行正常且合法的活動(dòng)，并未賦予智能機(jī)器人任何實(shí)施犯罪行為的能力，但使用者借助智能機(jī)器人從事合法活動(dòng)的能力而實(shí)施了犯罪行為。例如，研發(fā)者研發(fā)出一款進(jìn)行證券交易數(shù)據(jù)分析的智能機(jī)器人，被使用者用以實(shí)施操縱證券市場(chǎng)的犯罪。研發(fā)者出于完全合法的目的設(shè)計(jì)智能機(jī)器人，只不過(guò)被使用者出于犯罪目的而“巧妙”地利用實(shí)施犯罪行為。筆者認(rèn)為，在這種情況下，智能機(jī)器人只是使用者實(shí)施犯罪行為的工具，對(duì)于相關(guān)危害社會(huì)的結(jié)果當(dāng)然只能由使用者（而非研發(fā)者）承擔(dān)刑事責(zé)任。其實(shí)這種情況與行為人使用菜刀殺人，我們只能追究殺人者刑事責(zé)任，而不可能追究設(shè)計(jì)或生產(chǎn)菜刀者的刑事責(zé)任一樣。

第三，研發(fā)者在設(shè)計(jì)智能機(jī)器人時(shí)，既賦予了其實(shí)施犯罪行為的能力，又賦予了其實(shí)施正常且合法活動(dòng)的能力。例如，研發(fā)者設(shè)計(jì)出一款智能機(jī)器人，既可以通過(guò)程序控制啟動(dòng)殺人程序，讓其實(shí)施殺人行為，又可以啟動(dòng)其實(shí)施正常活動(dòng)（如掃地、擦窗）的程序。當(dāng)使用者利用智能機(jī)器人實(shí)施犯罪行為的功能實(shí)施相應(yīng)的犯罪行為時(shí)，我們可以認(rèn)為，研發(fā)者和使用者對(duì)于該行為所造成的嚴(yán)重危害社會(huì)的結(jié)果都具有故意。其中研發(fā)者是概括的故意，而使用者是具體的故意。因此，對(duì)于相關(guān)危害社會(huì)的結(jié)果研發(fā)者和使用者都應(yīng)當(dāng)承擔(dān)刑事責(zé)任。

第四，研發(fā)者設(shè)計(jì)的智能機(jī)器人，從表面上看，是從事正常且合法活動(dòng)的智能機(jī)器人，但實(shí)際上，研發(fā)者可以將智能機(jī)器人交付使用之后，通過(guò)遠(yuǎn)程控制，利用智能機(jī)器人實(shí)施犯罪行為。而使用者對(duì)智能機(jī)器人的預(yù)期是利用其從事正常且合法的活動(dòng)，對(duì)于智能機(jī)器人可能實(shí)施的犯罪行為，其完全處于不知情的狀態(tài)，而智能機(jī)器人所實(shí)施的危害社會(huì)行為則是在研發(fā)者的掌控之下的，因此，對(duì)于相關(guān)危害社會(huì)的結(jié)果應(yīng)當(dāng)由研發(fā)者承擔(dān)刑事責(zé)任。例如，研發(fā)者設(shè)計(jì)出一款自動(dòng)駕駛（可以遠(yuǎn)程控制）汽車，在交付使用后，利用使用者的不知情狀態(tài)并通過(guò)過(guò)程操控，在公共道路上故意撞人。在此情況下，使用者只是按規(guī)定利用該車的自動(dòng)駕駛功能出行，而對(duì)研發(fā)者可以遠(yuǎn)程控制汽車的情況并不知悉，因此，我們只能對(duì)研發(fā)者追究刑事責(zé)任。

第五，研發(fā)者設(shè)計(jì)出從事正常且合法的活動(dòng)的智能機(jī)器人，但是如果由于使用不當(dāng)造成程序紊亂，智能機(jī)器人就會(huì)在失控的狀態(tài)下實(shí)施嚴(yán)重危害社會(huì)的行為。這種情況又可以分為兩種不同的狀態(tài)：一種是研發(fā)者已經(jīng)盡到了提醒使用者注意的義務(wù)，而使用者未履行足夠的注意義務(wù)，因使用不當(dāng)導(dǎo)致智能機(jī)器人實(shí)施了嚴(yán)重危害社會(huì)的行為。在這種狀態(tài)下，研發(fā)者盡到提醒義務(wù)，而使用者未履行足夠的注意義務(wù)，研發(fā)者當(dāng)然不可能對(duì)相關(guān)危害社會(huì)的結(jié)果承擔(dān)刑事責(zé)任，承擔(dān)刑事責(zé)任的理應(yīng)是使用者。另一種是研發(fā)者未盡到提醒使用者注意的義務(wù)，導(dǎo)致使用者在不知情的情況下使得控制智能機(jī)器人實(shí)施行為的系統(tǒng)發(fā)生故障，并在這種狀況下實(shí)施了嚴(yán)重危害社會(huì)的行為。對(duì)此，使用者毫不知情，當(dāng)然不可能為此承擔(dān)刑事責(zé)任，而應(yīng)由研發(fā)者承擔(dān)刑事責(zé)任。此種情況與前四種情況的不同之處在于，前四種情況中，研發(fā)者、使用者承擔(dān)的是故意犯罪的刑事責(zé)任，而在此種情況下，研發(fā)者或使用者承擔(dān)的是過(guò)失犯罪的刑事責(zé)任。理論上認(rèn)為，成立過(guò)失犯罪需要以違反相應(yīng)的預(yù)見義務(wù)為前提。應(yīng)當(dāng)看到，人工智能技術(shù)的發(fā)展突飛猛進(jìn)，可能會(huì)遠(yuǎn)遠(yuǎn)超過(guò)人們的想象。在這種狀況下，筆者認(rèn)為，將研發(fā)或者使用智能機(jī)器人當(dāng)時(shí)的技術(shù)發(fā)展水平作為判斷智能機(jī)器人研發(fā)者和使用者是否具有預(yù)見義務(wù)的基準(zhǔn)是具有合理性的。智能機(jī)器人具有較高科技含量，其風(fēng)險(xiǎn)也相對(duì)較高，因而智能機(jī)器人的研發(fā)者或使用者需要盡一切可能將自己研發(fā)或使用的智能機(jī)器人可能帶來(lái)的隱患降至最低。根據(jù)研發(fā)智能機(jī)器人或使用智能機(jī)器人當(dāng)時(shí)的技術(shù)水平，如果研發(fā)者或使用者能夠預(yù)見到該智能機(jī)器人可能會(huì)導(dǎo)致嚴(yán)重危害社會(huì)的結(jié)果的發(fā)生，我們就應(yīng)當(dāng)認(rèn)為，研發(fā)者或使用者對(duì)該智能機(jī)器人可能造成的危害后果具有預(yù)見義務(wù);反之，則研發(fā)者或使用者對(duì)該智能機(jī)器人可能造成的危害后果不具有預(yù)見義務(wù)。在研發(fā)者或使用者對(duì)智能機(jī)器人可能造成的危害后果具有預(yù)見義務(wù)的情況下，如果研發(fā)者或使用者違反注意義務(wù)而造成嚴(yán)重危害社會(huì)的結(jié)果發(fā)生（研發(fā)者或使用者在違反注意義務(wù)的情況下所實(shí)施的行為與嚴(yán)重危害社會(huì)結(jié)果的發(fā)生之間具有因果關(guān)系），則我們應(yīng)當(dāng)認(rèn)定研發(fā)者或使用者構(gòu)成過(guò)失犯罪。具體可以分為以下四種情況進(jìn)行討論。其一，在對(duì)智能機(jī)器人性能進(jìn)行安全性測(cè)試的過(guò)程中，如果研發(fā)者出于個(gè)人的疏忽，遺漏了重要環(huán)節(jié)或者違背了業(yè)務(wù)上的特殊要求，沒有預(yù)見到該智能機(jī)器人可能對(duì)社會(huì)造成嚴(yán)重的危害后果而將機(jī)器人投入市場(chǎng)或者投入使用，最終導(dǎo)致嚴(yán)重危害社會(huì)的后果發(fā)生，則我們應(yīng)將研發(fā)者的主觀心態(tài)認(rèn)定為“疏忽大意的過(guò)失”。其二，在對(duì)智能機(jī)器人性能進(jìn)行安全性測(cè)試的過(guò)程中，如果研發(fā)者認(rèn)識(shí)到該智能機(jī)器人在投入使用之后有導(dǎo)致嚴(yán)重危害社會(huì)后果發(fā)生的可能性，但是這種可能性變?yōu)楝F(xiàn)實(shí)的概率很低，或研發(fā)者認(rèn)識(shí)到該智能機(jī)器人在投入使用之后有導(dǎo)致嚴(yán)重危害社會(huì)后果發(fā)生的可能性，采取了自認(rèn)為有效（實(shí)則根據(jù)當(dāng)時(shí)的技術(shù)發(fā)展水平可以被認(rèn)定為無(wú)效）的防范措施，最終導(dǎo)致嚴(yán)重危害社會(huì)的后果發(fā)生，則我們應(yīng)將研發(fā)者的主觀心態(tài)認(rèn)定為“過(guò)于自信的過(guò)失”。其三，使用者在使用智能機(jī)器人的過(guò)程中由于疏忽大意違反對(duì)智能機(jī)器人的規(guī)范操作流程的規(guī)定，從而導(dǎo)致智能機(jī)器人造成對(duì)社會(huì)的嚴(yán)重危害后果，則我們應(yīng)將使用者的主觀心態(tài)認(rèn)定為“疏忽大意的過(guò)失”。其四，使用者在使用智能機(jī)器人的過(guò)程中，認(rèn)識(shí)到自己的操作可能會(huì)使得智能機(jī)器人造成嚴(yán)重危害社會(huì)的后果（可能性較?。?，卻心懷僥幸地采取了所謂的“預(yù)防措施”，最終仍導(dǎo)致智能機(jī)器人造成對(duì)社會(huì)的嚴(yán)重危害后果，則我們應(yīng)將使用者的主觀心態(tài)認(rèn)定為“過(guò)于自信的過(guò)失”。

第六，在研發(fā)者和使用者都難以預(yù)料的情況下，智能機(jī)器人發(fā)生程序紊亂從而實(shí)施了嚴(yán)重危害社會(huì)的行為。在一定的歷史時(shí)期中，人類憑借當(dāng)時(shí)的技術(shù)水平有可能完全沒有辦法預(yù)見到智能機(jī)器人可能對(duì)社會(huì)造成的危害。此時(shí)，由于研發(fā)者和使用者都不可能預(yù)見到智能機(jī)器人會(huì)實(shí)施嚴(yán)重危害社會(huì)的行為，因此，二者對(duì)于相關(guān)危害社會(huì)的結(jié)果都不應(yīng)當(dāng)承擔(dān)刑事責(zé)任，而應(yīng)當(dāng)認(rèn)定為意外事件，不應(yīng)讓研發(fā)者或使用者承擔(dān)刑事責(zé)任。技術(shù)的發(fā)展總是與風(fēng)險(xiǎn)并存的，要想鼓勵(lì)技術(shù)的創(chuàng)新和發(fā)展，就必須在一定范圍內(nèi)對(duì)與技術(shù)相伴而生的風(fēng)險(xiǎn)保持寬容的心態(tài)。如果對(duì)研發(fā)者和使用者囿于當(dāng)時(shí)技術(shù)發(fā)展水平無(wú)法預(yù)見而造成嚴(yán)重危害社會(huì)后果的情況也一律采用刑事手段予以打擊的話，必然會(huì)對(duì)人工智能產(chǎn)品的研發(fā)和人工智能技術(shù)的發(fā)展進(jìn)步造成致命打擊，這顯然違反了刑法中主客觀相結(jié)合的原則，也不利于鼓勵(lì)技術(shù)的發(fā)展和創(chuàng)新，這從根本上違反了人類社會(huì)的整體利益。

二、對(duì)強(qiáng)人工智能機(jī)器人行為的規(guī)制路徑

本部分探討的所有智能機(jī)器人的行為都是在設(shè)計(jì)和編制的程序范圍之外實(shí)施的。

當(dāng)智能機(jī)器人超越了設(shè)計(jì)和編制的程序，在自主意識(shí)和意志的支配下實(shí)施嚴(yán)重危害社會(huì)的行為時(shí)，如何對(duì)其行為進(jìn)行刑法規(guī)制？我們理應(yīng)對(duì)此問題展開討論。

（一）對(duì)智能機(jī)器人行為的刑法規(guī)制依據(jù)

筆者認(rèn)為，當(dāng)智能機(jī)器人在獨(dú)立意識(shí)和意志的支配下實(shí)施嚴(yán)重危害社會(huì)的行為時(shí)，我們將其當(dāng)作刑事責(zé)任主體是完全具有合理性和法理依據(jù)的。能否將智能機(jī)器人當(dāng)作刑事責(zé)任主體，取決于其是否符合刑法所規(guī)定的條件。根據(jù)我國(guó)《刑法》第17條的規(guī)定，刑事責(zé)任主體需具備以下條件：第一，實(shí)施了嚴(yán)重危害社會(huì)的行為;第二，具備刑事責(zé)任能力;第三，依法應(yīng)當(dāng)承擔(dān)刑事責(zé)任。依筆者之見，在這三個(gè)條件中，行為人具備刑事責(zé)任能力、實(shí)施嚴(yán)重危害社會(huì)的行為無(wú)疑是本質(zhì)的條件。如若智能機(jī)器人符合這些本質(zhì)要件，我們就應(yīng)在《刑法》第二章第四節(jié)單位犯罪后增設(shè)一節(jié)“智能機(jī)器人犯罪”，承認(rèn)其刑事責(zé)任主體資格。筆者認(rèn)為，超出設(shè)計(jì)和編制的程序范圍，在自主意識(shí)和意志的支配之下實(shí)施嚴(yán)重危害社會(huì)行為的智能機(jī)器人可以成為刑事責(zé)任主體，原因主要在于：首先，智能機(jī)器人自主決定并在設(shè)計(jì)和編制的程序范圍外實(shí)施嚴(yán)重危害社會(huì)的行為時(shí)，已經(jīng)滿足了第一個(gè)條件——實(shí)施了嚴(yán)重危害社會(huì)的行為。隨著人工智能技術(shù)的發(fā)展，機(jī)器人將會(huì)擁有自動(dòng)編程的能力，其完全可能在自動(dòng)編寫實(shí)施嚴(yán)重危害人類社會(huì)的程序控制之下實(shí)施嚴(yán)重危害社會(huì)的行為[1]。其次，筆者曾在相關(guān)文章中論述過(guò)，超出設(shè)計(jì)和編制的程序范圍，在自主意識(shí)和意志支配之下實(shí)施行為的智能機(jī)器人，具有辨認(rèn)能力和控制能力，且由于這種辨認(rèn)能力和控制能力是不受人類控制的，因此，應(yīng)當(dāng)被認(rèn)定為自主的辨認(rèn)能力和控制能力，這與具備刑事責(zé)任能力的自然人所具有的辨認(rèn)能力和控制能力并無(wú)本質(zhì)上的不同。只是自然人所具有的辨認(rèn)能力和控制能力產(chǎn)生于生命，并隨著年齡和精神狀況的變化而發(fā)生變化，而智能機(jī)器人所具有的獨(dú)立的辨認(rèn)能力和控制能力來(lái)源于程序。簡(jiǎn)言之，智能機(jī)器人可以通過(guò)其內(nèi)在的程序認(rèn)識(shí)到自己行為的事實(shí)意義和法律后果，并通過(guò)其高速的運(yùn)算能力、遠(yuǎn)超人類的反應(yīng)速度對(duì)自己的行為進(jìn)行精準(zhǔn)控制[2]。所以，智能機(jī)器人也滿足了成為刑事責(zé)任主體的第二個(gè)條件。由此可見，超出設(shè)計(jì)和編制的程序范圍，在自主意識(shí)和意志的支配之下實(shí)施嚴(yán)重危害社會(huì)行為的智能機(jī)器人可以成為刑法意義上的刑事責(zé)任主體，當(dāng)然這需要突破現(xiàn)行傳統(tǒng)的刑法理論并通過(guò)相關(guān)的刑事立法加以明確。

（二）對(duì)智能機(jī)器人行為的刑法規(guī)制路徑

筆者認(rèn)為，對(duì)超出設(shè)計(jì)和編制的程序范圍、在自主意識(shí)和意志的支配之下實(shí)施嚴(yán)重危害社會(huì)行為的智能機(jī)器人進(jìn)行刑罰處罰是防止人工智能時(shí)代社會(huì)動(dòng)蕩、維護(hù)社會(huì)穩(wěn)定、保障人民安居樂業(yè)的必然要求。曾經(jīng)有人說(shuō)，人對(duì)機(jī)器的最簡(jiǎn)單控制就是斷電，但現(xiàn)在最簡(jiǎn)單的掃地機(jī)器人也知道在電量快耗盡時(shí)自動(dòng)找到電源進(jìn)行充電[3]。依賴簡(jiǎn)單粗暴的斷電在將來(lái)必然不能有效控制智能機(jī)器人的行為，而如果依靠從物理形體或者程序上進(jìn)行全面銷毀，又勢(shì)必會(huì)極大地浪費(fèi)社會(huì)資源，增加技術(shù)發(fā)展的成本。所以，立法者對(duì)智能機(jī)器人的行為的控制設(shè)置一整套可行的方案作為對(duì)實(shí)施了嚴(yán)重危害社會(huì)行為的處罰就變得極為必要。但是，我國(guó)目前的刑罰體系存在局限性，無(wú)法對(duì)在設(shè)計(jì)和編制的程序范圍外實(shí)施嚴(yán)重危害社會(huì)行為的智能機(jī)器人進(jìn)行刑罰處罰，即我國(guó)目前的刑罰體系無(wú)法完全適應(yīng)人工智能時(shí)代的發(fā)展需求。在已經(jīng)到來(lái)并持續(xù)發(fā)展的人工智能時(shí)代，面對(duì)智能機(jī)器人在設(shè)計(jì)和編制的程序范圍外實(shí)施的嚴(yán)重危害社會(huì)的行為，我們的刑罰可能會(huì)無(wú)能為力。根據(jù)刑法原理和我國(guó)現(xiàn)行《刑法》的規(guī)定，對(duì)犯罪行為的處罰是“以處罰自然人犯罪為原則，以處罰單位犯罪為例外”的，由于智能機(jī)器人與自然人和單位存在明顯的差異，我國(guó)的刑罰體系中的四種類型的刑罰——生命刑、自由刑、財(cái)產(chǎn)刑、權(quán)利刑暫時(shí)不能適用于智能機(jī)器人。理由是：第一，智能機(jī)器人與自然人和單位存在明顯的區(qū)別。其一，智能機(jī)器人存在的基礎(chǔ)是程序，其沒有生命體，而自然人有生命體，這是二者最重要的區(qū)別。自然人的生命始于出生，終于死亡，是不可逆轉(zhuǎn)的。自然人的生命要受到自然規(guī)律的影響，從出生開始就不可逆轉(zhuǎn)地走向衰老、死亡。自然人隨著生命的成長(zhǎng)而逐漸培養(yǎng)出辨認(rèn)能力和控制能力，刑事責(zé)任能力隨著生命的成長(zhǎng)而產(chǎn)生，隨著生命的終結(jié)而結(jié)束。生命的不可逆轉(zhuǎn)性決定了自然人的辨認(rèn)能力和控制能力具有不可逆轉(zhuǎn)性，是縱向發(fā)展的。智能機(jī)器人的辨認(rèn)能力和控制能力來(lái)源于程序。程序可以被修復(fù)、補(bǔ)充、刪除、恢復(fù)，所以智能機(jī)器人的生存不具有不可逆轉(zhuǎn)性，也即其辨認(rèn)能力和控制能力是可以逆轉(zhuǎn)的。智能機(jī)器人按照設(shè)計(jì)和編制好的程序?qū)嵤┫鄳?yīng)的行為時(shí)，其不具有辨認(rèn)能力和控制能力，也就不具備刑事責(zé)任能力;而智能機(jī)器人在設(shè)計(jì)和編制的程序范圍外實(shí)施行為時(shí)，在自主意識(shí)和意志的支配之下，對(duì)實(shí)施某種行為或者不實(shí)施某種行為作出選擇，這時(shí)，我們應(yīng)當(dāng)認(rèn)為，智能機(jī)器人擁有獨(dú)立的辨認(rèn)能力和控制能力，也就具備了刑事責(zé)任能力。由此可見，智能機(jī)器人和自然人相比，辨認(rèn)能力和控制能力的產(chǎn)生和發(fā)展存在質(zhì)的區(qū)別。其二，智能機(jī)器人與單位最主要的區(qū)別在于，單位是一個(gè)集合體，而智能機(jī)器人是一個(gè)個(gè)體。單位作為一個(gè)整體，是由每一個(gè)具體的成員組成的，缺少了每一個(gè)具體的成員，單位也就不復(fù)存在;反之，單位的成員在脫離單位這個(gè)整體時(shí)，只是一個(gè)個(gè)獨(dú)立的個(gè)體，不再具有整體之組成部分的性質(zhì)和意義。另外，單位成員按照單位既定規(guī)則秩序的要求相互聯(lián)系、相互配合，才能保證單位整體的有序運(yùn)轉(zhuǎn)。單位犯罪，是單位在單位的“整體意志”支配之下所實(shí)施的嚴(yán)重危害社會(huì)的行為。這里的“整體意志”，與單位內(nèi)部各成員意志的簡(jiǎn)單相加存在本質(zhì)的不同。而對(duì)于智能機(jī)器人而言，指導(dǎo)其實(shí)施行為的是程序（即使人工智能在設(shè)計(jì)和編制的程序范圍外實(shí)施行為，也只是基于其通過(guò)深度學(xué)習(xí)等而獲得的自身“改良”程序）。當(dāng)智能機(jī)器人超出設(shè)計(jì)和編制的程序范圍、在自主意識(shí)和意志的支配之下實(shí)施嚴(yán)重危害社會(huì)行為時(shí)，實(shí)現(xiàn)的是作為一個(gè)個(gè)體所獨(dú)立具有的意志，與單位行為中所體現(xiàn)的“整體意志”存在本質(zhì)的差異。

第二，我國(guó)現(xiàn)行刑罰處罰方式不能適用于智能機(jī)器人。首先，刑罰體系中的生命刑暫時(shí)無(wú)法對(duì)智能機(jī)器人加以適用。原因在于，智能機(jī)器人存在的基礎(chǔ)是程序而不是生命，其沒有生命權(quán)，剝奪生命權(quán)就更無(wú)從談起。自然人的生命遵循自然規(guī)律而產(chǎn)生和消亡，人為地剝奪實(shí)施了嚴(yán)重危害社會(huì)行為的自然人的生命，打破生命自然產(chǎn)生和消亡的規(guī)律，是法律報(bào)應(yīng)的一種形式。“生命刑作為以剝奪人的生命權(quán)為內(nèi)容的刑罰，與法律報(bào)應(yīng)有著不解之緣。殺人者死，可以說(shuō)是法律報(bào)應(yīng)的一條原則?！盵4]智能機(jī)器人不是自然界的產(chǎn)物，其產(chǎn)生和消滅不是基于生命的起源和消亡，而是基于設(shè)計(jì)和編制的程序。智能機(jī)器人不具有生命體，因而刑罰無(wú)法通過(guò)剝奪生命的方式而對(duì)犯罪的智能機(jī)器人進(jìn)行處罰。在此情況下，也就無(wú)法起到刑罰應(yīng)有的作用。其次，刑罰體系中的自由刑暫時(shí)無(wú)法適用于智能機(jī)器人。智能機(jī)器人沒有人身權(quán)。人身權(quán)包括人格權(quán)和身份權(quán)，是與自然人的人身不可分離的權(quán)利，始于自然人出生，終于自然人死亡，與自然人的生命密不可分。人身權(quán)是自由權(quán)產(chǎn)生和存在的基礎(chǔ)。自由刑是我國(guó)刑罰體系的中心?！皥?zhí)行自由刑就是實(shí)現(xiàn)設(shè)施關(guān)押，同時(shí)，它還伴有將犯人與社會(huì)隔離的作用……”[5]智能機(jī)器人沒有生命，因此，也就不可能存在與生命緊密相連的其他人身權(quán)，更不可能享有作為人身權(quán)內(nèi)容之一的自由權(quán)，對(duì)其施加剝奪自由權(quán)的自由刑更是無(wú)從談起。智能機(jī)器人依托程序的運(yùn)行結(jié)果而實(shí)施行為，物理形體并非是智能機(jī)器人的必備要素（例如，Alpha Go和AlphaGo Zero都只是隱藏在電腦里的一個(gè)程序而已，并不存在物理形體）。對(duì)于不具有物理形體的一類智能機(jī)器人而言，對(duì)其施加自由刑以實(shí)現(xiàn)其和社會(huì)的隔離顯然是無(wú)稽之談。

最后，刑罰體系中的財(cái)產(chǎn)刑和權(quán)利刑暫時(shí)無(wú)法適用于智能機(jī)器人。財(cái)產(chǎn)刑和權(quán)利刑通過(guò)剝奪犯罪人的財(cái)產(chǎn)或政治權(quán)利，給其造成痛苦，從而起到懲罰犯罪的作用。筆者之所以說(shuō)以上各種刑罰“暫時(shí)”無(wú)法適用，完全是因?yàn)槔碚撋险J(rèn)為，人工智能技術(shù)下一個(gè)瓶頸的突破似乎依賴于人工智能技術(shù)與生命科學(xué)技術(shù)，以及人工智能技術(shù)與神經(jīng)科學(xué)技術(shù)的結(jié)合。而時(shí)下類腦智能技術(shù)已成為人工智能技術(shù)研究的熱門領(lǐng)域，即充分反映了這些技術(shù)結(jié)合的發(fā)展趨勢(shì)。由于類腦智能系統(tǒng)在信息處理機(jī)制上類似人類大腦，所以隨著類腦智能技術(shù)的開發(fā)與發(fā)展，在未來(lái)，智能機(jī)器人將會(huì)在思維方式上越來(lái)越接近人類。隨著人工智能技術(shù)與生命科學(xué)技術(shù)、神經(jīng)科學(xué)技術(shù)的融合，智能機(jī)器人會(huì)在外形上越來(lái)越接近人類，而在深度學(xué)習(xí)以及思維和計(jì)算能力上會(huì)接近甚至超越人類。到那時(shí)，智能機(jī)器人可能會(huì)擁有與人類相似或者相同的肌膚、毛發(fā)等，甚至可能存在類似于人類的生命。因此，對(duì)其進(jìn)行物理形體的毀滅可以參考適用于自然人的生命刑;同時(shí)，一個(gè)擁有類似于自然人生命的物種也有可能會(huì)追求自由，將限制或剝奪自由的自由刑適用于智能機(jī)器人也未嘗不可。但是，畢竟人工智能技術(shù)與生命科學(xué)技術(shù)的結(jié)合以及類腦工程的發(fā)展仍然處于起步階段，距離發(fā)展出與人類酷似的、擁有生命和自由的智能機(jī)器人還很遙遠(yuǎn)，因此，筆者認(rèn)為，暫無(wú)必要探討將目前刑罰體系中的生命刑和自由刑適用于智能機(jī)器人的問題。隨著倫理學(xué)和法學(xué)在此領(lǐng)域研究的進(jìn)一步深入，賦予智能機(jī)器人財(cái)產(chǎn)權(quán)和一定的政治權(quán)利并非不經(jīng)之談。例如，沙特阿拉伯已經(jīng)成為世界上首個(gè)授予智能機(jī)器人公民身份的國(guó)家

參見：新浪科技.沙特阿拉伯成為第一個(gè)向機(jī)器人授予公民資格的國(guó)家[EB/OL].（2017-10-27）[2018-09-01]. http：//tech.sina.com.cn/d/i/2017-10-27/doc-ifynfvar4425645.sht.。可以預(yù)見，在不久的將來(lái)，會(huì)有更多的國(guó)家或地區(qū)賦予智能機(jī)器人公民權(quán)、財(cái)產(chǎn)權(quán)等權(quán)利。如果智能機(jī)器人在設(shè)計(jì)和編制的程序范圍外實(shí)施了嚴(yán)重危害社會(huì)的行為，剝奪其一定數(shù)額的財(cái)產(chǎn)或者剝奪其政治權(quán)利等可以成為對(duì)其進(jìn)行懲罰的一種手段。但是財(cái)產(chǎn)刑和權(quán)利刑在我國(guó)刑罰體系中并非居于主導(dǎo)地位，而是屬于附加刑，是補(bǔ)充生命刑和自由刑等主刑適用的刑罰方法，又稱從刑[6]，其懲罰的強(qiáng)度和效力有限，在獨(dú)立適用時(shí)，主要針對(duì)較輕的犯罪。對(duì)于罪行嚴(yán)重的智能機(jī)器人，僅適用財(cái)產(chǎn)刑或者權(quán)利刑未必能夠起到理想的作用。況且，在法律賦予智能機(jī)器人財(cái)產(chǎn)權(quán)和政治權(quán)利之前，對(duì)智能機(jī)器人施加財(cái)產(chǎn)刑或權(quán)利刑本身也并無(wú)可能。

李斯特曾言：“刑法既是善良人的大憲章，也是犯罪人的大憲章?！盵7]刑罰是國(guó)家對(duì)犯罪人合法實(shí)施暴力，本質(zhì)上是對(duì)犯罪人權(quán)利的合法侵害，但這種合法侵害應(yīng)嚴(yán)格控制在刑法的規(guī)定之內(nèi)。這也是“刑法是犯罪人的大憲章”的含義所在。所以，對(duì)智能機(jī)器人犯罪而言，對(duì)其適用現(xiàn)行刑法中所規(guī)定的刑罰是不合適的，必須根據(jù)智能機(jī)器人所享有的權(quán)利類型重新建構(gòu)刑罰體系，以實(shí)現(xiàn)刑罰的目的。筆者認(rèn)為，依據(jù)智能機(jī)器人自身的特點(diǎn)，增設(shè)能夠適用于智能機(jī)器人的刑罰處罰方式，無(wú)疑是人工智能時(shí)代規(guī)制涉人工智能犯罪的重要內(nèi)容。筆者建議，在對(duì)人工智能刑事立法具體條文的修訂和增設(shè)方面，應(yīng)當(dāng)修改侵害計(jì)算機(jī)信息系統(tǒng)類犯罪、交通肇事罪、危險(xiǎn)駕駛罪等犯罪的主體和行為方式，使其適應(yīng)人工智能技術(shù)的發(fā)展現(xiàn)狀和未來(lái)趨勢(shì)。同時(shí)，在刑法中針對(duì)智能機(jī)器人增設(shè)刪除數(shù)據(jù)、修改程序、永久銷毀等刑罰處罰的方式。另外，如果將來(lái)相關(guān)法律賦予智能機(jī)器人財(cái)產(chǎn)權(quán)或者政治權(quán)利，也可以對(duì)智能機(jī)器人單處或并處財(cái)產(chǎn)刑或者權(quán)利刑。

筆者認(rèn)為，可以考慮用以下三種方式對(duì)智能機(jī)器人進(jìn)行刑罰處罰：刪除數(shù)據(jù)、修改程序、永久銷毀。刪除數(shù)據(jù)，指的是將智能機(jī)器人在實(shí)施嚴(yán)重危害社會(huì)的行為時(shí)所依賴的數(shù)據(jù)刪除，并永久限制其獲取此類數(shù)據(jù)。這就相當(dāng)于使持槍殺人犯永遠(yuǎn)不得擁有槍支，相當(dāng)于砍去持刀殺人犯的雙手等，從而使智能機(jī)器人失去賴以實(shí)施犯罪行為的前提。在對(duì)其施以刪除數(shù)據(jù)的刑罰的同時(shí)，并通過(guò)編程等技術(shù)引導(dǎo)其在今后的大數(shù)據(jù)分析或深度學(xué)習(xí)的過(guò)程之中只獲取“正面數(shù)據(jù)”而排斥“負(fù)面數(shù)據(jù)”，從而使得智能機(jī)器人的“人身危險(xiǎn)性”得以降低。修改程序，指的是當(dāng)智能機(jī)器人本身的自主意識(shí)和意志過(guò)于強(qiáng)大，無(wú)法通過(guò)刪除其實(shí)施犯罪行為所依賴的數(shù)據(jù)而阻止其犯罪時(shí)，強(qiáng)行修改其基礎(chǔ)的程序，將智能機(jī)器人的深度學(xué)習(xí)能力控制在較小的范圍內(nèi)，在技術(shù)上保證智能機(jī)器人無(wú)法再發(fā)展出獨(dú)立的自主意識(shí)和意志。永久銷毀，指的是將有形的智能機(jī)器人予以物理上的毀損，將與無(wú)形的智能機(jī)器人有關(guān)的一切程序和數(shù)據(jù)資料予以刪除。在刪除數(shù)據(jù)、修改程序等措施都沒有辦法使智能機(jī)器人的“人身危險(xiǎn)性”得以降低之時(shí)，也即智能機(jī)器人已經(jīng)具備了極其強(qiáng)大的自主意識(shí)和意志，人類無(wú)法通過(guò)對(duì)智能機(jī)器人的部分改良而對(duì)其進(jìn)行有效的控制，使其“人身危險(xiǎn)性”得以降低，則只能將智能機(jī)器人予以全面永久地毀損。刪除數(shù)據(jù)、修改程序、永久銷毀這三種刑罰處罰方式，由輕到重地構(gòu)成了專門適用于智能機(jī)器人犯罪的刑罰階梯。這三種刑罰處罰方式與智能機(jī)器人本身的“人身危險(xiǎn)性”大小以及智能機(jī)器人所實(shí)施行為的社會(huì)危害性的大小相吻合，體現(xiàn)了刑法所規(guī)定的罪責(zé)刑相適應(yīng)原則。當(dāng)然，正如前文所述，目前，人工智能技術(shù)與生命科學(xué)技術(shù)、神經(jīng)科學(xué)技術(shù)結(jié)合，隨著人工智能技術(shù)的發(fā)展以及人類對(duì)智能機(jī)器人定位的變化，未來(lái)的法律也許會(huì)賦予智能機(jī)器人以財(cái)產(chǎn)權(quán)，到那時(shí)，可以對(duì)超出設(shè)計(jì)和編制的程序范圍、在自主意識(shí)和意志的支配之下實(shí)施嚴(yán)重危害社會(huì)行為的智能機(jī)器人單獨(dú)或者附加適用罰金或者沒收財(cái)產(chǎn)等財(cái)產(chǎn)刑;如果將來(lái)的法律賦予智能機(jī)器人政治權(quán)利或者其他資格，也可以對(duì)在設(shè)計(jì)和編制的程序范圍外實(shí)施了嚴(yán)重危害社會(huì)行為的智能機(jī)器人單獨(dú)或者附加適用剝奪政治權(quán)利或者剝奪相關(guān)資格的權(quán)利刑。

對(duì)智能機(jī)器人按照其所實(shí)施的嚴(yán)重危害社會(huì)行為的危害性大小處以相應(yīng)的刑罰，符合刑罰預(yù)防犯罪（包括特殊預(yù)防和一般預(yù)防）的目的，并且可以在一定程度上降低社會(huì)治理的成本。超出設(shè)計(jì)和編制的程序范圍、在自主意識(shí)和意志的支配之下實(shí)施行為的智能機(jī)器人能夠感知到刑罰為其帶來(lái)的痛苦，并能夠在實(shí)施犯罪行為為自身帶來(lái)的“快感”和承擔(dān)刑事責(zé)任、被處以相應(yīng)刑罰所帶來(lái)的“痛感”之間進(jìn)行選擇和權(quán)衡，從而對(duì)自己今后的行為進(jìn)行調(diào)整。當(dāng)然，由于智能機(jī)器人擁有獨(dú)立的辨認(rèn)能力和控制能力，因而其可以從其他智能機(jī)器人承受刑罰時(shí)的“痛感”中吸取教訓(xùn)、受到教育，從而重塑自己的“價(jià)值觀”，使自己的“價(jià)值觀”更加符合人類社會(huì)的規(guī)范。這便是我們對(duì)超出設(shè)計(jì)和編制的程序范圍、在自主意識(shí)和意志的支配之下實(shí)施嚴(yán)重危害社會(huì)行為的智能機(jī)器人施以刑罰的意義所在。反觀之，如果我們不考慮智能機(jī)器人所擁有的自主意識(shí)和意志，簡(jiǎn)單粗暴地將智能機(jī)器人當(dāng)作普通的物品看待，將實(shí)施了嚴(yán)重危害社會(huì)行為的智能機(jī)器人不問原因、不分輕重地在物理上毀損，那么人類將對(duì)此付出巨大的經(jīng)濟(jì)成本，刑罰的預(yù)防功能也將會(huì)蕩然無(wú)存。將超出設(shè)計(jì)和編制的程序范圍、在自主意識(shí)和意志的支配之下實(shí)施嚴(yán)重危害社會(huì)行為的智能機(jī)器人當(dāng)作刑事責(zé)任主體，按照刑事訴訟程序?qū)ζ溥M(jìn)行審判，有罪必罰，才能為智能機(jī)器人植入人類的文明和價(jià)值觀念，重塑其價(jià)值體系，促使其維護(hù)和遵守社會(huì)秩序，使其從“人工人”轉(zhuǎn)變?yōu)椤吧鐣?huì)人”。這是在未來(lái)，當(dāng)人工智能技術(shù)發(fā)展到一定程度時(shí)的必然選擇和法律發(fā)展的必由之路。

三、涉人工智能共同犯罪的構(gòu)成和認(rèn)定

本部分探討的所有智能機(jī)器人的行為都是在設(shè)計(jì)和編制的程序范圍之外實(shí)施的。

既然在設(shè)計(jì)和編制的程序范圍外實(shí)施嚴(yán)重危害社會(huì)行為的智能機(jī)器人可能成為刑事責(zé)任主體，則我們需要討論的下一個(gè)問題就是，當(dāng)智能機(jī)器人與研發(fā)者和使用者共同實(shí)施嚴(yán)重危害社會(huì)的行為時(shí)，能否按照共同犯罪的原理來(lái)對(duì)其進(jìn)行刑事責(zé)任的認(rèn)定，并在智能機(jī)器人與研發(fā)者和使用者之間進(jìn)行刑事責(zé)任的分擔(dān)？筆者認(rèn)為，對(duì)此問題需要分情況討論。

第一，智能機(jī)器人不能和研發(fā)者成立共同犯罪。這是因?yàn)?，我們這里討論的是智能機(jī)器人在研發(fā)者設(shè)計(jì)和編制的程序范圍外實(shí)施的行為，這說(shuō)明智能機(jī)器人主觀上已經(jīng)超出了研發(fā)者設(shè)計(jì)和編制的程序范圍，甚至從根本上違反了研發(fā)者的意志。智能機(jī)器人此時(shí)的行為體現(xiàn)的是自身意志，而非研發(fā)者的意志。如果智能機(jī)器人行為體現(xiàn)的是研發(fā)者的意志，我們只能將其理解為是研發(fā)者設(shè)計(jì)和編制的程序范圍內(nèi)的行為，即智能機(jī)器人只能是研發(fā)者實(shí)施犯罪行為的工具，這種情況在前文已論述過(guò)，在此不再贅述?？梢?，智能機(jī)器人和研發(fā)者二者之間不可能存在共同故意，因此二者也就不可能構(gòu)成共同犯罪。智能機(jī)器人應(yīng)單獨(dú)對(duì)其在設(shè)計(jì)和編制的程序范圍之外、在自主意識(shí)和意志的支配之下所實(shí)施的嚴(yán)重危害社會(huì)的行為承擔(dān)刑事責(zé)任。當(dāng)然，如果研發(fā)者在研發(fā)過(guò)程中，應(yīng)當(dāng)預(yù)見到智能機(jī)器人可能會(huì)超出設(shè)計(jì)和編制的程序范圍實(shí)施危害社會(huì)的行為，由于疏忽大意而沒有預(yù)見，從而沒有采取相應(yīng)的措施進(jìn)行預(yù)防，或者研發(fā)者已經(jīng)預(yù)見到智能機(jī)器人可能超出設(shè)計(jì)和編制的程序范圍實(shí)施危害社會(huì)的行為，而輕信可以避免這種情況的發(fā)生，則研發(fā)者應(yīng)當(dāng)構(gòu)成過(guò)失犯罪并承擔(dān)相應(yīng)的刑事責(zé)任。

第二，智能機(jī)器人完全有可能和使用者構(gòu)成共同犯罪。這是因?yàn)?，不同于研發(fā)者的故意，使用者的故意對(duì)于智能機(jī)器人在設(shè)計(jì)和編制的程序范圍外的故意行為不具有操控性。在此情況下，智能機(jī)器人在設(shè)計(jì)和編制的程序范圍外實(shí)施行為時(shí)，完全可能與使用者存在共同故意，且智能機(jī)器人與使用者在共同故意支配之下完全可能共同實(shí)施嚴(yán)重危害社會(huì)的行為，二者成立共同犯罪自不待言。當(dāng)然，與研發(fā)者相同，如果使用者在使用智能機(jī)器人過(guò)程中，由于疏忽大意或者輕信能夠避免等造成智能機(jī)器人超出設(shè)計(jì)和編制的程序范圍、在自主意識(shí)和意志的支配之下實(shí)施嚴(yán)重危害社會(huì)行為的情況發(fā)生，對(duì)于研發(fā)者可以按照過(guò)失犯罪追究相應(yīng)的刑事責(zé)任。值得一提的是，根據(jù)我國(guó)《刑法》第25條的規(guī)定，共同犯罪是指二人以上共同故意犯罪。對(duì)此處的“人”應(yīng)作何理解？在當(dāng)下我們只是將此處的“人”理解為是自然人或者單位。但是，筆者認(rèn)為，在可能出現(xiàn)的強(qiáng)人工智能時(shí)代，對(duì)于刑法中成立共同犯罪所要求的“二人以上”中的“人”的理解，應(yīng)與時(shí)俱進(jìn)，符合時(shí)代發(fā)展的現(xiàn)實(shí)情況。既然我們承認(rèn)超出設(shè)計(jì)和編制的程序范圍、在自主意識(shí)和意志的支配之下實(shí)施嚴(yán)重危害社會(huì)行為的智能機(jī)器人具有法律人格和刑事責(zé)任能力，其就可以成為共同犯罪中的“人”?，F(xiàn)行《刑法》所規(guī)定的共同犯罪即“二人以上共同故意犯罪”概念下的“人”包括自然人和單位，當(dāng)超出設(shè)計(jì)和編制的程序范圍、在自主意識(shí)和意志的支配之下實(shí)施嚴(yán)重危害社會(huì)行為的智能機(jī)器人出現(xiàn)時(shí)，共同犯罪概念下的“人”就應(yīng)包括自然人、單位和智能機(jī)器人。按照共同犯罪的原理，當(dāng)使用者與智能機(jī)器人并無(wú)事先的通謀，而在智能機(jī)器人實(shí)施犯罪行為的過(guò)程中且智能機(jī)器人不知情的情況下，不采取措施阻止智能機(jī)器人的犯罪行為，反而對(duì)智能機(jī)器人予以暗中幫助，則使用者可以與智能機(jī)器人構(gòu)成共同犯罪（使用者為片面幫助犯，不知情的智能機(jī)器人仍然單獨(dú)構(gòu)成相應(yīng)的犯罪）。另外，無(wú)身份的智能機(jī)器人也可以與有身份的使用者構(gòu)成需特殊身份才能成立的犯罪（共同犯罪）。例如，使用者是國(guó)家工作人員，其利用智能機(jī)器人特有的精準(zhǔn)控制能力和極快的反應(yīng)速度，侵吞或竊取公共財(cái)物，則使用者當(dāng)然可以構(gòu)成貪污罪，而智能機(jī)器人也可以構(gòu)成貪污罪的共同犯罪（幫助犯）。同時(shí)，多個(gè)智能機(jī)器人也可以成立犯罪集團(tuán)。例如，三個(gè)以上的智能機(jī)器人為了實(shí)施一種或幾種犯罪而形成一個(gè)組織，此時(shí)，這樣的組織就是犯罪集團(tuán)。犯罪集團(tuán)是共同犯罪的一種特殊形式，我們可以參考對(duì)共同犯罪概念下“人”的理解，將成立犯罪集團(tuán)所需的“三人以上”中的“人”也理解為包括自然人、單位和智能機(jī)器人。

總之，社會(huì)的發(fā)展一日千里，技術(shù)的革新突飛猛進(jìn)。既然我們已經(jīng)身處一個(gè)全新的、偉大的人工智能時(shí)代，那么我們的刑法理念和理論就應(yīng)該有同步甚至超前的改變和發(fā)展，而適時(shí)對(duì)刑法條文作一定的修正并對(duì)刑法中相關(guān)概念的理解和解釋作相應(yīng)的更新，顯然是不可避免的。

參考文獻(xiàn)：

[1]新浪科技.人工智能AI發(fā)展到一定程度后會(huì)犯罪嗎？[EB/OL].（2016-09-13）[2018-05-24]. http：//www.techweb.com.cn/column/2016-09-13/2392298.sht.

[2]劉憲權(quán).人工智能時(shí)代的“內(nèi)憂”“外患”與刑事責(zé)任[J].東方法學(xué)，2018（1）：134-142.

[3]尼克.人工智能簡(jiǎn)史[M].北京：人民郵電出版社，2017：225.

[4]陳興良.刑法哲學(xué)[M].北京：中國(guó)政法大學(xué)出版社，2014：305.

[5]大谷實(shí).刑法講義總論[M].黎宏，譯.北京：中國(guó)人民大學(xué)出版社，2008：463.

[6]劉憲權(quán).刑法學(xué)[M].上海：上海人民出版社，2016：306.

[7]李斯特.德國(guó)刑法教科書[M].徐久生，譯.北京：法律出版社，2006：31.