朱一瑋

（中國(guó)人民公安大學(xué)，北京 100032）

一、人工智能技術(shù)犯罪出現(xiàn)的背景

人工智能這一概念由約翰·麥卡錫（John McCarthy）、馬文·閔斯基（Marvin Minsky）、克勞德·香農(nóng)（Claude Shannon）、艾倫·紐厄爾（Allen Newell）、赫伯特·西蒙（Herbert Simon）等人于1956年在達(dá)特茅斯會(huì)議（Dartmouth Conference）中首次提出。經(jīng)過(guò)60多年的發(fā)展與沉淀，人工智能已經(jīng)成為一門廣泛交叉的前沿學(xué)科，人工智能技術(shù)主要包括計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理、圖像識(shí)別、機(jī)器學(xué)習(xí)等，具有巨大的發(fā)展價(jià)值。目前許多國(guó)家都在搶占人工智能的制高點(diǎn)，全球已經(jīng)有超過(guò)2542家人工智能企業(yè)。人類科技發(fā)展的歷史告訴我們，科技的發(fā)展是爆炸式的，其發(fā)展速度呈幾何式提升，我們必將在不久的將來(lái)進(jìn)入到人工智能N.0時(shí)代。

但是，機(jī)遇與風(fēng)險(xiǎn)總是并存，人工智能技術(shù)在快速發(fā)展的同時(shí)，帶來(lái)了貨幣的兩面效應(yīng)：一方面，技術(shù)的發(fā)展成熟減少了傳統(tǒng)事故、犯罪發(fā)生的風(fēng)險(xiǎn)，但另一方面也增加了引發(fā)新型犯罪的風(fēng)險(xiǎn)。以無(wú)人駕駛汽車為例，人工智能技術(shù)可以減少由于司機(jī)的不當(dāng)操作所引起的交通事故，但在“貨幣”的另一面，一旦人工智能自動(dòng)駕駛系統(tǒng)出現(xiàn)偏差或者被他人惡意攻擊，又會(huì)引起新類型的交通事故或者犯罪。在人工智能的深度學(xué)習(xí)技術(shù)方面，犯罪分子可以利用該技術(shù)降低犯罪的門檻，提高犯罪的效率，擴(kuò)大犯罪的影響鏈條。例如，在我國(guó)公安機(jī)關(guān)于2017年成功破獲的全國(guó)首例利用人工智能技術(shù)破解互聯(lián)網(wǎng)驗(yàn)證碼的案件中，犯罪分子利用人工智能技術(shù)打造出一條從盜號(hào)撞庫(kù)、破解驗(yàn)證碼到販賣公民信息、實(shí)施網(wǎng)絡(luò)詐騙的全鏈條黑產(chǎn)?？梢钥闯?，由于人工智能各種新技術(shù)的不斷落地，利用人工智能技術(shù)實(shí)施犯罪的不法行為開(kāi)始展露頭面。

二、“工具利用型”人工智能犯罪概念及特點(diǎn)

（一）概念探析

在厘清“工具利用型”人工智能犯罪的概念之前，需要了解什么是人工智能犯罪。首先從技術(shù)層面出發(fā)，人工智能犯罪伴隨著技術(shù)的發(fā)展會(huì)呈現(xiàn)出不同的表現(xiàn)形態(tài)。人工智能可以劃分為弱人工智能階段、強(qiáng)人工智能階段以及超人工智能階段。目前，我們?nèi)蕴幱谌跞斯ぶ悄茈A段。在弱人工智能階段，人工智能并不會(huì)產(chǎn)生獨(dú)立的思維能力和認(rèn)知能力，意味著該階段的人工智能犯罪僅僅指利用人工智能技術(shù)實(shí)施的犯罪，而不是由人工智能的仿真行為引起的犯罪。因此，高銘暄教授在弱人工智能的范疇內(nèi)，將人工智能犯罪劃分為“工具利用型”犯罪以及“產(chǎn)品缺陷型”犯罪。他認(rèn)為“工具利用型”犯罪是指行為人利用人工智能實(shí)施其他犯罪, 進(jìn)而造成嚴(yán)重危害社會(huì)的后果。在這種情形下, 由于第三方行為人才是實(shí)施犯罪行為的主導(dǎo)者, 人工智能產(chǎn)品僅因作為犯罪工具才直接作用于被害人。因此，具體來(lái)說(shuō)，“工具利用型”人工智能犯罪是指犯罪分子將人工智能技術(shù)工具化，利用人工智能技術(shù)實(shí)施相關(guān)犯罪活動(dòng)，從而達(dá)到犯罪目的，危害社會(huì)的一種新型犯罪方式。該種新類型的犯罪將傳統(tǒng)犯罪披上人工智能的外衣，把人工智能技術(shù)作為其犯罪的工具，在很大程度上增強(qiáng)了犯罪的隱蔽性、智能性、效率性。

（二）特點(diǎn)

1. 犯罪門檻降低

技術(shù)的革新會(huì)為人類社會(huì)生活帶來(lái)便利，促進(jìn)人類社會(huì)的進(jìn)步與發(fā)展，但這種便利是雙面性的。以偵查為例，偵查人員與犯罪嫌疑人處于一個(gè)相互博弈的過(guò)程，偵查手段可以通過(guò)新技術(shù)得以改進(jìn)，為偵查人員辦案提供便利。但與此同時(shí)，犯罪分子也會(huì)利用新技術(shù)更新自身的犯罪手段，降低犯罪成本，提升犯罪能力，使實(shí)施犯罪更加容易，也更難被偵查人員所防控。目前，在人工智能技術(shù)水平不斷提升的前提下，雖然出現(xiàn)了“人工智能偵查”，但是“人工智能偵查”仍然處于初步發(fā)展階段，技術(shù)應(yīng)用尚不成熟，并且許多犯罪分子已經(jīng)將人工智能技術(shù)“犯罪化”，甚至產(chǎn)生了專門利用人工智能技術(shù)提供幫助和制造技術(shù)工具的犯罪黑產(chǎn)人員，這使得初入門檻的犯罪分子可以通過(guò)僅僅購(gòu)買犯罪工具就能輕而易舉地實(shí)施犯罪。例如，曾經(jīng)火爆地下市場(chǎng)的“Black shades”程序軟件就被形象地稱為“網(wǎng)絡(luò)犯罪分子的潘多拉魔盒”, 在“Black shades”的幫助下，使用者壓根不需要懂得任何技術(shù)，用戶只需要點(diǎn)擊幾下鼠標(biāo)便可以實(shí)現(xiàn)攻擊。這款惡意軟件不僅可以輕易地讓目標(biāo)計(jì)算機(jī)感染勒索軟件，而且還能對(duì)目標(biāo)進(jìn)行視頻和音頻監(jiān)控。“工具利用型”人工智能犯罪就是借助人工智能技術(shù)，降低了犯罪的門檻，為犯罪分子打通了犯罪的簡(jiǎn)易通道，甚至任何一個(gè)有創(chuàng)造力的非專業(yè)犯罪分子都可以使用。

2. 犯罪效率提升

“君子生非異也，善假于物也”。人類發(fā)展史就是一部利用工具提升效率的革命歷史，工具的革新往往意味著效率的提升，這對(duì)于犯罪同樣適用。犯罪分子將人工智能技術(shù)作為工具，基于其強(qiáng)大的算法能力，即便是面對(duì)海量的數(shù)據(jù)，也可以在極短的時(shí)間內(nèi)完成普通人在很長(zhǎng)時(shí)間內(nèi)都無(wú)法完成的數(shù)據(jù)分析工作。以“快啊答題”打碼平臺(tái)破解互聯(lián)網(wǎng)驗(yàn)證碼為例，犯罪分子通過(guò)運(yùn)用人工智能技術(shù)訓(xùn)練機(jī)器，可以使機(jī)器本身不斷自動(dòng)學(xué)習(xí)識(shí)別驗(yàn)證碼，極大提升了單位時(shí)間內(nèi)識(shí)別驗(yàn)證碼的數(shù)量。在未使用人工智能技術(shù)以前，技能最為熟練的打碼人員識(shí)別一個(gè)驗(yàn)證碼也需要一秒鐘的時(shí)間，而將人工智能運(yùn)用于打碼，平均一秒就可以實(shí)現(xiàn)兩千次識(shí)別。由此可以看出，通過(guò)利用人工智能技術(shù)，不僅省去了高昂的人力資本，降低犯罪成本，犯罪效率也得以大幅度提升，犯罪周期得到大幅度縮短，犯罪的危害性更是呈現(xiàn)出成倍遞增的趨勢(shì)?！肮び破涫卤叵壤淦鳌?，犯罪分子將人工智能技術(shù)作為犯罪的工具，搭乘科技的順風(fēng)車，做到了“事半功倍”。

3. 新型犯罪場(chǎng)景頻出

人工智能技術(shù)已經(jīng)廣泛應(yīng)用于語(yǔ)音識(shí)別、圖像識(shí)別、自然語(yǔ)言理解等各個(gè)方面，涉及到金融、教育、醫(yī)療、旅游、物流等各行各業(yè)?？梢哉f(shuō)，人工智能正在潛移默化地影響并改變著我們的生活。但隨著人工智能技術(shù)的廣泛應(yīng)用，新的犯罪場(chǎng)景也正在頻頻出現(xiàn)：利用人工智能深度學(xué)習(xí)技術(shù)將涉黃視頻中色情演員的臉部和其他人進(jìn)行交換，不僅侵犯?jìng)€(gè)人的名譽(yù)權(quán)，如果進(jìn)行惡意傳播還會(huì)擾亂社會(huì)管理秩序；利用人工智能技術(shù)的超級(jí)計(jì)算能力代替低效率的人工識(shí)別驗(yàn)證碼方式進(jìn)行驗(yàn)證碼破解，加速了黑色產(chǎn)業(yè)鏈猖獗泛濫的態(tài)勢(shì)。新型犯罪場(chǎng)景基于人工智能技術(shù)的發(fā)展而不斷涌現(xiàn)，兩者之間在一定程度上正是“成就”與“被成就”的關(guān)系，人工智能技術(shù)運(yùn)用得越廣泛，就會(huì)出現(xiàn)越多利用人工智能技術(shù)實(shí)施犯罪的新型犯罪場(chǎng)景。

三、“工具利用型”人工智能犯罪主要類型及風(fēng)險(xiǎn)分析

（一）色情涉黃類

對(duì)于電影制造廠商來(lái)說(shuō)，“換臉術(shù)”這一名詞也許并不陌生?！栋⒎策_(dá)》《美國(guó)隊(duì)長(zhǎng)》《速度與激情》等電影均使用了這一技術(shù)幫助完成電影的拍攝，將電影中的人物通過(guò)計(jì)算機(jī)合成看起來(lái)栩栩如生。電影中的“換臉術(shù)”對(duì)技術(shù)和設(shè)備的要求非常之高，投入的人力和資金量也是非常巨大，但是在2017年出現(xiàn)的“Deepfakes”人臉交互技術(shù)徹底顛覆了人們的認(rèn)知。2017年12月，國(guó)外網(wǎng)站“Reddit”上發(fā)布了一個(gè)涉黃視頻，該段涉黃視頻的主演是“神奇女俠”的扮演者蓋爾·加朵，視頻一經(jīng)發(fā)布，立刻引起極大轟動(dòng)。后來(lái)經(jīng)過(guò)查證，該段視頻是網(wǎng)友通過(guò)利用“Deepfakes”的人臉交互技術(shù)，將蓋爾·加朵和色情演員的臉進(jìn)行了交換。而該技術(shù)正是基于人工智能的圖像識(shí)別以及深度學(xué)習(xí)技術(shù)，使得普通人通過(guò)電腦就可以將視頻人物的臉部進(jìn)行修改，替換成為其他人的臉部?！癉eepfakes”其實(shí)是“Deep machine learning”和“Fake photo”的簡(jiǎn)寫(xiě)，該技術(shù)的核心就是一個(gè)“自動(dòng)編碼器”，即一個(gè)深度神經(jīng)網(wǎng)絡(luò)，它可以通過(guò)接收數(shù)據(jù)，并對(duì)其進(jìn)行壓縮，然后在這個(gè)編碼中重新生成原始的輸入數(shù)據(jù)，并不斷進(jìn)行循環(huán)往復(fù)，模擬學(xué)習(xí)，進(jìn)而達(dá)到模仿人類學(xué)習(xí)的目的。而現(xiàn)在“Deepfakes”技術(shù)已經(jīng)在GitHub平臺(tái)上開(kāi)源，人們可以在該平臺(tái)上下載該軟件，然后軟件通過(guò)人工智能強(qiáng)大的算法對(duì)上百?gòu)埻蝗宋锏谋砬檫M(jìn)行識(shí)別學(xué)習(xí)就可以將視頻中的人物進(jìn)行換臉。

除了“Deepfakes”，還存在“Face2Face”“Headon”“paGAN”等大量換臉技術(shù)?？梢钥闯?，人臉交互技術(shù)目前已經(jīng)成為一種“平民化”技術(shù)，人人都可以利用這一技術(shù)。技術(shù)在平民化的同時(shí)也帶來(lái)了風(fēng)險(xiǎn)，犯罪分子可以輕易地利用這一技術(shù)制造他人的淫穢視頻并進(jìn)行傳播，人們很難發(fā)現(xiàn)該視頻是假造視頻，這將會(huì)影響受害人的名譽(yù)權(quán)。如果犯罪分子以牟利為目的，將假造的涉黃視頻進(jìn)行大肆傳播，可能還會(huì)影響到社會(huì)公共管理秩序。除此之外，目前國(guó)外網(wǎng)絡(luò)上已經(jīng)出現(xiàn)利用人臉交互技術(shù)形成的涉及政治人物的視頻，雖然該類型視頻在國(guó)外以調(diào)侃諷刺等目的為主，但是公安、網(wǎng)信等有關(guān)部門要提高警惕，避免該類型視頻在國(guó)內(nèi)大肆傳播，引發(fā)不良輿情事件。

（二）黑色產(chǎn)業(yè)鏈類

隨著我國(guó)互聯(lián)網(wǎng)快速發(fā)展，利用網(wǎng)絡(luò)實(shí)施的犯罪持續(xù)高發(fā)，傳統(tǒng)違法犯罪活動(dòng)日益向網(wǎng)上發(fā)展蔓延，新型網(wǎng)絡(luò)犯罪發(fā)展迅猛，犯罪手法層出不窮。目前，我國(guó)涉及網(wǎng)絡(luò)的犯罪已占犯罪總數(shù)的三分之一?；诨ヂ?lián)網(wǎng)強(qiáng)大的傳播能力，網(wǎng)絡(luò)犯罪的危害性不言而喻，尤其是在侵犯公民信息的案件中較為突顯。同時(shí)，網(wǎng)絡(luò)犯罪的產(chǎn)業(yè)化、鏈條化趨勢(shì)也日益加劇，而且各個(gè)犯罪之間不再是單鏈條相互關(guān)聯(lián)，更多的是多個(gè)上游與多個(gè)下游交叉連接。對(duì)黑色產(chǎn)業(yè)鏈條進(jìn)行分析，可以總結(jié)出三條核心鏈：信息鏈、資金鏈和技術(shù)鏈。信息鏈?zhǔn)侵干嫌畏缸锶送ㄟ^(guò)非法手段獲取大量公民信息，然后為下游犯罪提供被害對(duì)象的相關(guān)信息，以便實(shí)現(xiàn)精準(zhǔn)犯罪。資金鏈?zhǔn)侵咐玫谌街Ц兜仁侄螌ｉT轉(zhuǎn)移違法資金的鏈條。技術(shù)鏈，顧名思義，則是在黑產(chǎn)犯罪中提供技術(shù)支持的鏈條。而“工具利用型”人工智能犯罪正是處于技術(shù)鏈之中，為黑色產(chǎn)業(yè)鏈的下游犯罪提供了極大幫助。

在互聯(lián)網(wǎng)黑色產(chǎn)業(yè)中，不法分子竊取互聯(lián)網(wǎng)公司數(shù)據(jù)庫(kù)之后，需要驗(yàn)證確認(rèn)賬號(hào)和密碼之間的相對(duì)應(yīng)關(guān)系，然后篩選出有價(jià)值的數(shù)據(jù)，這在黑色產(chǎn)業(yè)中被稱為“曬密”（撞庫(kù)）。而互聯(lián)網(wǎng)公司為了保護(hù)自身數(shù)據(jù)庫(kù)，防御不法分子“曬密”，建立起了驗(yàn)證碼驗(yàn)證的安全體系，即需要正確輸入網(wǎng)站顯示的驗(yàn)證碼（包括文字、數(shù)字等）才能登陸網(wǎng)站。黑產(chǎn)人員為了反對(duì)抗驗(yàn)證碼體系，“打碼”平臺(tái)應(yīng)運(yùn)而生，并與“曬密”軟件合作者合作，建立高效率的信息反饋機(jī)制。傳統(tǒng)的“打碼”平臺(tái)采用的是人力資源型工作模式，即雇傭大量“打碼”人員通過(guò)人眼識(shí)別的方式輸入驗(yàn)證碼，在這種方式下，技能最為熟練的“打碼”人員每秒鐘可以識(shí)別一個(gè)驗(yàn)證碼。而利用人工智能的“打碼”平臺(tái)將傳統(tǒng)的“打碼”平臺(tái)的效率極大提升，黑產(chǎn)人員利用人工智能技術(shù)訓(xùn)練機(jī)器，基于其強(qiáng)大的圖文轉(zhuǎn)換技術(shù)和深度學(xué)習(xí)技術(shù)，平均一秒就可以實(shí)現(xiàn)兩千次識(shí)別。2017年，公安機(jī)關(guān)破獲了我國(guó)首例甚至世界首例運(yùn)用人工智能破解驗(yàn)證碼的案件，這是一條完整的黑色產(chǎn)業(yè)鏈犯罪。“快啊答題”人工智能“打碼”平臺(tái)在此條黑色產(chǎn)業(yè)鏈中發(fā)揮著巨大作用，該平臺(tái)通過(guò)上述犯罪機(jī)制，接入“曬密”軟件100多款，接入用戶高達(dá)一萬(wàn)余人，在2017年一季度內(nèi)破解驗(yàn)證碼259億次，累計(jì)破解驗(yàn)證碼1204億次。從2016年6月到2017年3月，短短8個(gè)月的時(shí)間平臺(tái)資金進(jìn)賬高達(dá)1650萬(wàn)元。黑色產(chǎn)業(yè)以趨利性為典型特征，高額的回報(bào)更加刺激了黑色產(chǎn)業(yè)的動(dòng)力。在該案中，共有43個(gè)犯罪團(tuán)伙被摧毀，90余人涉案被采取強(qiáng)制措施，查獲公民個(gè)人信息高達(dá)10億余條。利用人工智能實(shí)施犯罪的“打碼”平臺(tái)危害之深可見(jiàn)一斑。

人工智能“打碼”平臺(tái)與大量黑色產(chǎn)業(yè)勾連，成為數(shù)據(jù)清洗商重要的幫助工具，嚴(yán)重侵害公民的個(gè)人信息安全，其下游犯罪還會(huì)侵犯到公民的個(gè)人財(cái)產(chǎn)等其他權(quán)益。除此之外，“打碼”平臺(tái)還可應(yīng)用于刷單炒信、“薅羊毛”、“黃?！睋屘?hào)、網(wǎng)站“水軍”等需要大批量賬號(hào)登陸的違法犯罪行為。而黑色產(chǎn)業(yè)鏈中的違法犯罪行為在借用人工智能技術(shù)之后，危害性必將爆炸式倍增，呈現(xiàn)出影響擴(kuò)大化、后果嚴(yán)重化的趨勢(shì)。因此，利用人工智能的黑色產(chǎn)業(yè)鏈違法犯罪行為，其背后的犯罪風(fēng)險(xiǎn)不容忽視。

（三）電信詐騙類

在該類型犯罪中，具體可以分成兩類，一類是是黑色產(chǎn)業(yè)鏈類的下游犯罪，其預(yù)備行為是人工智能犯罪。例如，在我國(guó)首例人工智能打碼的黑色產(chǎn)業(yè)鏈犯罪中，就存在被害人因好友QQ賬號(hào)密碼被人工智能打碼平臺(tái)非法獲取后轉(zhuǎn)賣給詐騙集團(tuán)而被詐騙，進(jìn)而造成財(cái)產(chǎn)損失的情況。

第二類是在實(shí)施電信詐騙的行為過(guò)程中利用人工智能技術(shù)偽造、模擬仿真聲音。在央視播出的一檔節(jié)目中，一個(gè)智能機(jī)器人經(jīng)過(guò)訓(xùn)練就可以模仿特定人的聲音與情緒并與人交流，該智能機(jī)器人正是利用了人工智能技術(shù)中的自然語(yǔ)言理解技術(shù)和自動(dòng)語(yǔ)音識(shí)別技術(shù)。只要取得特定人一定數(shù)量的語(yǔ)音樣本，并進(jìn)行模擬學(xué)習(xí)，就可以發(fā)出特定人的聲音，以假亂真，極大縮小了自然語(yǔ)言與人類語(yǔ)言的差距。該項(xiàng)技術(shù)可以應(yīng)用于模擬親人的聲音去陪伴老人或者孩子，甚至可以讓“啞巴”重新說(shuō)話。但是其背后隱藏著巨大犯罪風(fēng)險(xiǎn)，電信詐騙的犯罪分子如果利用該項(xiàng)技術(shù)，偽裝成被害人親友的身份進(jìn)行詐騙，將在很大程度上提升詐騙的成功率。除此之外，現(xiàn)在的人工智能技術(shù)還可輕松地完成對(duì)人臉的復(fù)制，這意味著該項(xiàng)技術(shù)一旦被犯罪分子濫用，身份識(shí)別就會(huì)成為一個(gè)大問(wèn)題。目前，國(guó)外已經(jīng)公開(kāi)報(bào)道全球第一起人工智能電信詐騙案，犯罪分子通過(guò)人工智能技術(shù)偽造公司高管聲音與下屬打電話，并要求其將公司賬戶的錢款轉(zhuǎn)移至特定賬戶，導(dǎo)致公司損失22萬(wàn)歐元。雖然我國(guó)目前還沒(méi)有出現(xiàn)將人工智能技術(shù)用于偽裝身份進(jìn)行電信詐騙的案件，但我們并不能忽視人工智能技術(shù)在這一方面的風(fēng)險(xiǎn)。必須意識(shí)到，當(dāng)一兩件人工智能犯罪事件浮出水面，就意味著其背后也許成千上萬(wàn)的人已經(jīng)遭遇了同類詐騙。

四、“工具利用型”人工智能犯罪治理

“工具利用型”人工智能犯罪可以拆解為人工智能+犯罪，在弱人工智能時(shí)代，人工智能技術(shù)本身并不存在犯罪與否。因此，針對(duì)該類型犯罪，治理的重點(diǎn)并不在于人工智能技術(shù)，而是在于消除人工智能與犯罪之間的“+”，所以，要從“使用”和“管理”的博弈角度出發(fā)，將重點(diǎn)放置于“管理”上。一方面，繼續(xù)鼓勵(lì)發(fā)展和運(yùn)用人工智能，不能因?yàn)槌霈F(xiàn)利用人工智能實(shí)施犯罪的行為就單方面扼殺人工智能，這是明顯不可取的。另一方面，要著重注意對(duì)人工智能技術(shù)的合理監(jiān)管，保持好天平的平衡，最大程度控制由人工智能帶來(lái)的犯罪風(fēng)險(xiǎn)。簡(jiǎn)而言之，人工智能在作為社會(huì)治理的一項(xiàng)技術(shù)的同時(shí)，仍要將其視為社會(huì)治理的對(duì)象。對(duì)于如何做好“管理”，筆者認(rèn)為可以從以下三個(gè)方面努力。

（一）政企互動(dòng)，共創(chuàng)安全

為了預(yù)防人工智能不恰當(dāng)?shù)膽?yīng)用引發(fā)新類型犯罪或者社會(huì)問(wèn)題，應(yīng)為人工智能的研發(fā)和應(yīng)用設(shè)置邊界。首先，在國(guó)家大力提倡發(fā)展人工智能的前提下，政府和人工智能技術(shù)企業(yè)要加強(qiáng)合作，政府為技術(shù)發(fā)展提供便利，企業(yè)則要做到合法合規(guī)發(fā)展，合法合規(guī)運(yùn)用，做到核心技術(shù)不外泄，避免被別有用心分子加以利用實(shí)施犯罪；其次，政府要為人工智能的發(fā)展明確標(biāo)準(zhǔn)，配套相應(yīng)制度。除此之外，可以采用政府主導(dǎo)形式，倡議各企業(yè)聯(lián)合建立“偽造數(shù)據(jù)庫(kù)”來(lái)檢測(cè)這些“深度偽造”的產(chǎn)品。新形勢(shì)下，有必要明確人工智能技術(shù)發(fā)展的標(biāo)準(zhǔn)，為人工智能的發(fā)展配套相應(yīng)制度，建立人工智能安全監(jiān)管和評(píng)估體系，明確“可為”與“不可為”，避免人工智能“工具化”的泛濫使用。

（二）行業(yè)自律，保障發(fā)展

行業(yè)自律主要有兩個(gè)角度，一是行業(yè)對(duì)國(guó)家法律法規(guī)的貫徹與遵守，二是對(duì)行業(yè)內(nèi)部規(guī)制本行業(yè)行為的行規(guī)行約的遵守。從依靠行業(yè)自律引導(dǎo)行業(yè)發(fā)展的角度出發(fā)，就要促進(jìn)人工智能行業(yè)自律，目前而言，一是在人工智能法律層面的監(jiān)管措施需要盡快出臺(tái)，加強(qiáng)對(duì)人工智能犯罪的法律解釋工作。由于目前人工智能并未發(fā)展至強(qiáng)人工智能，所以現(xiàn)行法律體系框架對(duì)當(dāng)前“工具利用型”人工智能犯罪仍具有約束力。但是針對(duì)該種新型犯罪，現(xiàn)有的法律條文在具體運(yùn)用之時(shí)存在一定困難，主要是具體罪名的運(yùn)用，幫助犯的界定，主體責(zé)任歸屬等存在爭(zhēng)議，因此，有必要加強(qiáng)對(duì)有關(guān)人工智能犯罪的罪名的法律解釋工作，幫助公檢法機(jī)關(guān)更好地使用法律武器，加大對(duì)違反法律法規(guī)的企業(yè)的懲罰力度，加強(qiáng)法律威懾力，保證人工智能行業(yè)對(duì)法律法規(guī)的敬畏。二是要保障人工智能行業(yè)內(nèi)部自身行規(guī)行約的有效約束力。鼓勵(lì)人工智能行業(yè)組建人工智能發(fā)展協(xié)會(huì)，廣泛吸納人工智能企業(yè)入會(huì)，采取會(huì)員制度，對(duì)入會(huì)會(huì)員提供相應(yīng)的政策優(yōu)惠，并制定行業(yè)發(fā)展自律條例，要求入會(huì)企業(yè)共同遵守，并將違反行規(guī)行約的企業(yè)納入行業(yè)黑名單，采取相應(yīng)的懲罰措施。同時(shí)，還應(yīng)鼓勵(lì)企業(yè)內(nèi)部制定企業(yè)發(fā)展自律規(guī)定，并要求切實(shí)遵守。發(fā)揮行業(yè)自律在人工智能技術(shù)發(fā)展中的積極作用，對(duì)人工智能行業(yè)的正確發(fā)展具有重大意義。規(guī)范行業(yè)自律，保障行業(yè)發(fā)展，當(dāng)行業(yè)自律成為常態(tài)之時(shí)，人工智能犯罪治理就會(huì)更加輕而易舉。

（三）以“技”治“技”，治理犯罪

以“技”治“技”，就是通過(guò)人工智能技術(shù)治理人工智能犯罪。一是加強(qiáng)人工智能安全技術(shù)研發(fā)。首先從技術(shù)者的思維出發(fā)，思考研發(fā)出的技術(shù)產(chǎn)品可以運(yùn)用于哪些方面，而一旦將其運(yùn)用于此，又會(huì)帶來(lái)怎樣的風(fēng)險(xiǎn)，即從源頭思考犯罪，識(shí)別風(fēng)險(xiǎn)。以自然語(yǔ)言處理技術(shù)為例，技術(shù)者在研發(fā)之初是將其應(yīng)用于語(yǔ)音識(shí)別、智能交流等方面。但與此同時(shí)，我們應(yīng)該思考該技術(shù)是否會(huì)帶來(lái)偽裝他人聲音進(jìn)行詐騙的犯罪風(fēng)險(xiǎn)。其次，在識(shí)別風(fēng)險(xiǎn)的基礎(chǔ)之上，應(yīng)強(qiáng)化人工智能產(chǎn)品和系統(tǒng)網(wǎng)絡(luò)安全防護(hù)，政府相關(guān)部門要加大對(duì)人工智能安全管控的各項(xiàng)投入, 建立防范高科技犯罪實(shí)驗(yàn)室, 深入研究、預(yù)防此類新型犯罪，并圍繞人工智能技術(shù)產(chǎn)品潛在的不確定性和危害性，制定救濟(jì)措施，研發(fā)相應(yīng)的安全反制技術(shù)，最大程度降低“工具利用型”人工智能犯罪所帶來(lái)的犯罪風(fēng)險(xiǎn)。

二是確保人工智能安全技術(shù)應(yīng)用落地。即利用技術(shù)者的技術(shù)，主要以偵查機(jī)關(guān)為主體，以人工智能安全技術(shù)作為強(qiáng)力保障。在犯罪分子的犯罪技術(shù)不斷革新的形勢(shì)下，偵查機(jī)關(guān)治理犯罪的技術(shù)也要“順應(yīng)潮流”?！肮ぞ呃眯汀比斯ぶ悄芊缸锸菍⑷斯ぶ悄茏鳛榉缸锛夹g(shù)，而偵查機(jī)關(guān)可以將人工智能作為偵查技術(shù)以此來(lái)治理人工智能犯罪。人工智能走進(jìn)偵查已經(jīng)是必然趨勢(shì)，作為第五代偵查技術(shù)，“人工智能偵查”雖仍處于初步發(fā)展階段，但以“技”治“技”的偵查技術(shù)所帶來(lái)的效益是不可忽視的。人工智能偵查不僅可以創(chuàng)新偵查模式，而且可以豐富偵查技戰(zhàn)法，并進(jìn)一步提高偵查效率、降低偵查成本。以人工智能技術(shù)換臉為例，技術(shù)者可以研發(fā)出人工智能識(shí)別系統(tǒng)，通過(guò)人工智能技術(shù)識(shí)別一般檢測(cè)工具根本無(wú)法識(shí)別的偽造視頻。美國(guó)國(guó)防部已經(jīng)研發(fā)出“反AI變臉刑偵檢測(cè)工具”，該工具專用于檢測(cè)換臉造假技術(shù)，其工作原理是通過(guò)AI分析假視頻一般不會(huì)表現(xiàn)出眨眼、呼吸和眼球運(yùn)動(dòng)等特征，檢測(cè)出圖像或視頻中的臉是真實(shí)的還是AI生成的?？梢钥闯觯夹g(shù)本身不分“善意”還是“惡意”。針對(duì)“工具利用型”人工智能犯罪，要充分運(yùn)用人工智能技術(shù)，加強(qiáng)與人工智能企業(yè)等科技企業(yè)的合作，擴(kuò)大“人工智能偵查”所能應(yīng)用的場(chǎng)景。

利用技術(shù)者的技術(shù)，應(yīng)加強(qiáng)人工智能安全技術(shù)的研發(fā)，并由偵查機(jī)關(guān)作為實(shí)施主體，將人工智能技術(shù)作為治理犯罪的有力工具，轉(zhuǎn)被動(dòng)防御為主動(dòng)防御，不斷增強(qiáng)技術(shù)防控識(shí)別和治理能力，做到“魔高一尺，道高一丈”。

五、結(jié)語(yǔ)

如今，我們已經(jīng)處于一個(gè)即將迎來(lái)人工智能時(shí)代的節(jié)點(diǎn)時(shí)期，在這個(gè)時(shí)期，人工智能技術(shù)帶來(lái)了大量的不確定性。人工智能猶如一把槍，用在好人手里可以懲奸除惡，用在壞人手里則是為虎作倀。因此，有必要針對(duì)人工智能技術(shù)本身的應(yīng)用場(chǎng)景，對(duì)其犯罪的背后風(fēng)險(xiǎn)進(jìn)行分析判斷，提前打好“預(yù)防針”，并且采取相關(guān)措施，平穩(wěn)化解人工智能犯罪背后隱藏的風(fēng)險(xiǎn)，維護(hù)社會(huì)穩(wěn)定。