王慶德

（國(guó)家信息中心，北京 100038)

國(guó)家“十四五”規(guī)劃明確指出，把“人工智能”規(guī)劃置于需要國(guó)家重點(diǎn)扶持突破發(fā)展的九大科技前沿領(lǐng)域任務(wù)之首，要大力培育壯大人工智能產(chǎn)業(yè)。近年來(lái)，由于國(guó)內(nèi)外工業(yè)互聯(lián)網(wǎng)化與全球工業(yè)大數(shù)據(jù)產(chǎn)業(yè)的持續(xù)蓬勃高速發(fā)展，人工智能技術(shù)運(yùn)用已經(jīng)逐步成為全球社會(huì)科學(xué)技術(shù)研究的熱潮。在世界百年變局面前，如何有效利用當(dāng)前新時(shí)代我國(guó)推進(jìn)自主創(chuàng)新人工智能產(chǎn)業(yè)創(chuàng)新體系發(fā)展戰(zhàn)略的強(qiáng)大自身綜合優(yōu)勢(shì)，在推動(dòng)世界人工智能治理發(fā)展的相關(guān)領(lǐng)域的國(guó)際規(guī)則標(biāo)準(zhǔn)制定上更加占據(jù)市場(chǎng)主動(dòng)，擁有更多國(guó)際化競(jìng)爭(zhēng)的話語(yǔ)權(quán)，是加快提升我國(guó)綜合國(guó)際競(jìng)爭(zhēng)力的一項(xiàng)重要內(nèi)容，也是當(dāng)前我國(guó)積極主動(dòng)參與全球智能治理體系改革和建設(shè)，特別是推動(dòng)全球環(huán)境治理，實(shí)現(xiàn)碳達(dá)峰、碳中和目標(biāo)的重要途徑。

目前，人工智能科技在給我們帶來(lái)很多便利的同時(shí)，也有可能造成很多破壞，因此需要政府與社會(huì)各界認(rèn)真地思考并形成健全的法律制度體系。在當(dāng)代，一些西方發(fā)達(dá)國(guó)家已經(jīng)開始從經(jīng)濟(jì)政策上鼓勵(lì)逐漸地轉(zhuǎn)變成市場(chǎng)經(jīng)濟(jì)制度的應(yīng)對(duì)，如美國(guó)《人工智能管控法案》、英國(guó)《大數(shù)據(jù)保護(hù)法案》以及德國(guó)《個(gè)人信息保護(hù)法》等。在此國(guó)際潮流的影響推動(dòng)下，2017年我國(guó)也頒布實(shí)施了《新一代人工智能發(fā)展規(guī)劃》，屬于政府政策規(guī)定范疇，明確提出了工業(yè)4.0“機(jī)器人革命”及“萬(wàn)眾創(chuàng)新”等理念與想法[1]。但隨著人工智能科技日新月異的發(fā)展變化，“人類—機(jī)器人”關(guān)系問(wèn)題所引起的各類立法、經(jīng)濟(jì)政策和倫理問(wèn)題迫切地?cái)[在我們的眼前。本文將針對(duì)傳統(tǒng)法律制度進(jìn)行深刻反思，初步探索新一代人工智能法律規(guī)制問(wèn)題，提出相關(guān)建議。

1 國(guó)際研究的發(fā)展現(xiàn)狀

根據(jù)美國(guó)《人工智能未來(lái)法案》，個(gè)人隱私在發(fā)展人工智能技術(shù)的過(guò)程中得到保護(hù)，這要求立法當(dāng)局加強(qiáng)對(duì)算法設(shè)計(jì)與使用、算法透明度和用戶知情權(quán)的要求。同時(shí)，在美國(guó)刑事訴訟案件的應(yīng)用技術(shù)領(lǐng)域，算法已經(jīng)得到廣泛運(yùn)用，用來(lái)有效預(yù)知個(gè)人何時(shí)會(huì)再次犯罪，以及個(gè)人是否能夠到庭，進(jìn)而影響司法定罪、判決判刑和保釋。但關(guān)于這種算法，在計(jì)算的相對(duì)正確性、算法須考慮的不相關(guān)社會(huì)生活影響以及算法本身的正當(dāng)程序三個(gè)關(guān)鍵問(wèn)題上引起了廣泛程度的爭(zhēng)議。

歐盟的《一般數(shù)據(jù)保護(hù)條例》對(duì)用戶數(shù)據(jù)采集行為的限制則強(qiáng)調(diào)了源頭保護(hù)的理念。這一條例保護(hù)數(shù)據(jù)信息主體，使其得以避免因算法做出自動(dòng)決策。這一立法理念，直接限制信息收集者利用算法的權(quán)利，也對(duì)其濫用免責(zé)條款規(guī)避法律責(zé)任的風(fēng)險(xiǎn)進(jìn)行有效的控制。通過(guò)在根源上保留大數(shù)據(jù)分析的行為，確實(shí)能夠有效地減少了大數(shù)據(jù)過(guò)量或不合理地處理大數(shù)據(jù)分析的可能，但同時(shí)也要在保護(hù)用戶隱私和鼓勵(lì)數(shù)據(jù)收集者利用數(shù)據(jù)發(fā)展新技術(shù)之間進(jìn)行很好的權(quán)衡，在保護(hù)數(shù)據(jù)安全的基礎(chǔ)上，盡可能支持?jǐn)?shù)據(jù)收集者合理利用數(shù)據(jù)進(jìn)行技術(shù)升級(jí)。而歐盟的發(fā)展進(jìn)程也確實(shí)把握了新一代人工智能的實(shí)質(zhì)，而一切的新一代人工智能，都是構(gòu)建在算法和算力的基石之上的。歐洲在對(duì)數(shù)據(jù)分析主體實(shí)行嚴(yán)格保護(hù)的同時(shí)，實(shí)際上也從根源對(duì)新一代人工智能實(shí)行了管制。

2 國(guó)內(nèi)研究的發(fā)展現(xiàn)狀

中國(guó)的社會(huì)經(jīng)濟(jì)近年來(lái)發(fā)展迅速，科技水平不斷提升，在此背景下，中國(guó)正在逐步由“互聯(lián)網(wǎng)+”時(shí)代過(guò)渡到“人工智能+”的新時(shí)代。近幾年，中國(guó)人工智能技術(shù)發(fā)展，已經(jīng)進(jìn)入了人機(jī)互接的新階段，不僅是國(guó)民經(jīng)濟(jì)新的增長(zhǎng)引擎，也是當(dāng)前國(guó)際競(jìng)爭(zhēng)的新焦點(diǎn)[2]。

總體而言，我國(guó)目前多以行政指導(dǎo)的形式對(duì)人工智能發(fā)展進(jìn)行規(guī)范。如國(guó)務(wù)院辦公廳在2017年以《新一代人工智能發(fā)展規(guī)劃》這一文件對(duì)我國(guó)現(xiàn)階段人工智能發(fā)展戰(zhàn)略進(jìn)行了“三步走”的總體規(guī)劃，提出了面向2030年人工智能健康發(fā)展的指導(dǎo)思想、整體目標(biāo)、重點(diǎn)任務(wù)和保障措施。自此，各部委與地方單位均根據(jù)整體構(gòu)想制定了針對(duì)不同領(lǐng)域的人工智能發(fā)展戰(zhàn)略規(guī)劃，如工信部《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃(2018-2020年）》等，為人工智能的發(fā)展提供政策保障。

3 我國(guó)人工智能法律規(guī)制研究發(fā)展的問(wèn)題和挑戰(zhàn)

人工智能作為一種科學(xué)技術(shù)，不管從研發(fā)、生產(chǎn)或者運(yùn)用都必須在法律的框架下實(shí)施，并做到對(duì)人工智能的全過(guò)程監(jiān)督。由于下一代人工智能的應(yīng)用將日益普遍，它對(duì)我國(guó)現(xiàn)代立法體制的沖擊和對(duì)法律價(jià)值的影響也將愈來(lái)愈大。比如，人工智能對(duì)民事主體資格的重新確認(rèn)、專利權(quán)獲得“三性”審核問(wèn)題、與下一代人工智能有關(guān)的技術(shù)犯罪問(wèn)題、我國(guó)勞動(dòng)法市場(chǎng)主體范圍的重新劃分、在下一代人工智能應(yīng)用中導(dǎo)致侵權(quán)民事責(zé)任承擔(dān)市場(chǎng)主體的重新確定以及對(duì)下一代人工智能發(fā)展與專利的保障問(wèn)題、數(shù)據(jù)財(cái)產(chǎn)的保護(hù)問(wèn)題和人格權(quán)保護(hù)等問(wèn)題產(chǎn)生的諸多影響，現(xiàn)行的司法規(guī)范體系和爭(zhēng)端處理制度，越來(lái)越無(wú)法有效規(guī)制因新科技而產(chǎn)生的法律問(wèn)題。

人工智能的發(fā)展過(guò)程中除存在著以上法律風(fēng)險(xiǎn)外，還面臨諸多挑戰(zhàn)。從保障用戶數(shù)據(jù)隱私性保護(hù)的安全角度上出發(fā)來(lái)看，人工智能對(duì)數(shù)據(jù)技術(shù)的持續(xù)和大量的使用，使得如何妥善安全保護(hù)隱私數(shù)據(jù)也變得越來(lái)越重要。隨著目前這些新型人工智能系統(tǒng)被我們?cè)絹?lái)越快速?gòu)V泛地應(yīng)用到我們生產(chǎn)及制造、商業(yè)網(wǎng)絡(luò)與運(yùn)營(yíng)、基礎(chǔ)設(shè)備設(shè)施、社會(huì)日常生活環(huán)境中，未來(lái)其在金融、醫(yī)療、交通、購(gòu)物、娛樂(lè)、執(zhí)法以及監(jiān)察管理等各個(gè)行業(yè)主要應(yīng)用領(lǐng)域上將逐步得到越來(lái)越大規(guī)模的運(yùn)用，特別關(guān)鍵的原因是計(jì)算機(jī)與無(wú)線物聯(lián)網(wǎng)領(lǐng)域(IoT)技術(shù)和生命科學(xué)相關(guān)研究領(lǐng)域中的生物物聯(lián)網(wǎng)系統(tǒng)(Bio-IoT)之間的技術(shù)深度交融，涉及諸多個(gè)人隱私的諸如個(gè)人財(cái)物、偏好、基因、面孔等敏感數(shù)據(jù)信息都無(wú)處可以藏匿，無(wú)所不在的海量數(shù)據(jù)被捕獲處理和優(yōu)化也會(huì)對(duì)數(shù)據(jù)的隱私安全性和個(gè)人數(shù)據(jù)的安全可靠性構(gòu)成極其嚴(yán)重的潛在安全威脅。從法律倫理角度來(lái)看，人工智能涉及人權(quán)倫理、信息倫理、科技倫理和責(zé)任倫理等挑戰(zhàn)，應(yīng)進(jìn)一步通過(guò)立法對(duì)關(guān)于人工智能理論研究及各種人工智能相關(guān)技術(shù)法律、倫理規(guī)范準(zhǔn)則和各類的社會(huì)問(wèn)題等進(jìn)行比較深入細(xì)致地調(diào)查探討，為人類現(xiàn)代的智能社會(huì)規(guī)劃出一個(gè)合乎法律秩序原則和合乎倫理道德規(guī)范原則的科學(xué)邏輯邊界，讓未來(lái)的人工智能技術(shù)充分服務(wù)應(yīng)用于當(dāng)代人類社會(huì)。這可能也是我們未來(lái)的人類社會(huì)所要達(dá)成的一項(xiàng)重要社會(huì)共識(shí)。2017年初，微軟哈佛大學(xué)伯克曼克萊因互聯(lián)網(wǎng)與社會(huì)研究中心和微軟麻省理工學(xué)院媒體實(shí)驗(yàn)室合作推出成立了微軟AI倫理研究計(jì)劃公司，谷歌和微軟公司等科技行業(yè)巨頭們也開始為防范人工智能技術(shù)領(lǐng)域的高速發(fā)展及風(fēng)險(xiǎn)而先后聯(lián)手組建出了AI倫理委員會(huì)。越來(lái)越多國(guó)內(nèi)專業(yè)知名的工業(yè)機(jī)器人專家也公開發(fā)出呼吁，在企業(yè)智能機(jī)器人系統(tǒng)上和在工廠的自動(dòng)化智能設(shè)備系統(tǒng)上應(yīng)該安裝一個(gè)“道德黑匣子”的攝像頭系統(tǒng)以全面清晰地記錄這些機(jī)器上的各項(xiàng)決定信號(hào)與各種操作及行為。人們因此也應(yīng)該越來(lái)越意識(shí)到，人工智能領(lǐng)域的全面繁榮發(fā)展應(yīng)該始終以促進(jìn)人類社會(huì)環(huán)境的健康長(zhǎng)遠(yuǎn)、穩(wěn)定安全與實(shí)現(xiàn)共同社會(huì)福祉為前提。

4 推進(jìn)我國(guó)人工智能法律規(guī)制發(fā)展的政策建議

針對(duì)人工智能的高速發(fā)展和所產(chǎn)生的一系列社會(huì)問(wèn)題，政府應(yīng)當(dāng)盡早形成以全流程監(jiān)管為主導(dǎo)的、全方位的人工智能監(jiān)管體制，并圍繞人工智能對(duì)民事責(zé)任主體、侵權(quán)民事責(zé)任、知識(shí)產(chǎn)權(quán)、刑事犯罪等方面提出的法律挑戰(zhàn)問(wèn)題進(jìn)行深入研究，以實(shí)現(xiàn)人工智能在現(xiàn)代法治的架構(gòu)下正常運(yùn)作，并建立合理的監(jiān)管機(jī)制、明晰的法律責(zé)任體系，以達(dá)到對(duì)人工智能的全面科學(xué)監(jiān)督，從而更好地促進(jìn)人工智能的健康發(fā)展。具體建議如下：

1)深化頂層設(shè)計(jì)，實(shí)現(xiàn)精準(zhǔn)監(jiān)管

籌建國(guó)家人工智能領(lǐng)導(dǎo)小組，并著手組建國(guó)家人工智能研發(fā)中心。鑒于人工智能在國(guó)民經(jīng)濟(jì)發(fā)展中的重大戰(zhàn)略意義，我國(guó)政府將在中央層面構(gòu)建國(guó)家人工智能領(lǐng)導(dǎo)小組，并下設(shè)國(guó)家人工智能辦公室。國(guó)家人工智能辦公室擔(dān)負(fù)著召集、統(tǒng)籌、組織和協(xié)調(diào)領(lǐng)導(dǎo)小組的日常工作職能，同時(shí)國(guó)家人工智能領(lǐng)導(dǎo)小組還應(yīng)當(dāng)制定人工智能危機(jī)事件的應(yīng)對(duì)預(yù)案，并承擔(dān)著監(jiān)測(cè)、協(xié)調(diào)、處理有關(guān)全球范圍內(nèi)人工智能事故的重要職能，以此應(yīng)對(duì)未來(lái)人工智能事故在網(wǎng)絡(luò)作用下可能產(chǎn)生的“全局性”破壞。

2)制定監(jiān)管標(biāo)準(zhǔn)，實(shí)施規(guī)范管理

完善人工智能的行業(yè)準(zhǔn)入標(biāo)準(zhǔn)、技術(shù)安全規(guī)制標(biāo)準(zhǔn)、倫理標(biāo)準(zhǔn)、審核與評(píng)估標(biāo)準(zhǔn)等，構(gòu)建主體在統(tǒng)一的監(jiān)管體制下，依職權(quán)內(nèi)各環(huán)節(jié)對(duì)人工智能實(shí)施監(jiān)管，各個(gè)監(jiān)管主體在職權(quán)內(nèi)建立了具體的監(jiān)管機(jī)制，對(duì)人工智能實(shí)施具體管理[3]。充分理解重視運(yùn)用人工智能協(xié)調(diào)各經(jīng)濟(jì)社會(huì)利益的相關(guān)決策主體各方的基本權(quán)益關(guān)系與權(quán)利訴求，鼓勵(lì)并應(yīng)用更為多樣化創(chuàng)新的先進(jìn)人工智能技術(shù)幫助解決中國(guó)經(jīng)濟(jì)社會(huì)發(fā)展和實(shí)際治理問(wèn)題，鼓勵(lì)促進(jìn)跨國(guó)界、跨省地區(qū)、跨學(xué)科、跨行業(yè)領(lǐng)域中的各種深度智力交流融合與經(jīng)濟(jì)科技交叉合作，推動(dòng)我國(guó)形成一種具有世界廣泛認(rèn)知共識(shí)程度的全球人工智能協(xié)同治理法律框架體制和標(biāo)準(zhǔn)規(guī)范[4]。

3)重視典型案例，建立有效舉措

人工智能作為一個(gè)新的領(lǐng)域，在尚無(wú)人工智能高層次立法的情況下，該領(lǐng)域的法律爭(zhēng)議應(yīng)當(dāng)被當(dāng)作典型案例加以重視并對(duì)重點(diǎn)問(wèn)題、突出問(wèn)題、爭(zhēng)論焦點(diǎn)加以分析，從而總結(jié)經(jīng)驗(yàn)。重視總結(jié)分析典型的司法案例，不僅能為各級(jí)辦案一線法官辦案提供的一些具體參考與裁判標(biāo)準(zhǔn)，在法院一旦遇到難以處理或者類似疑難案件時(shí)都可以優(yōu)先選擇按照簡(jiǎn)易程序，按照對(duì)類似的案件給予類似的處理措施的司法原則及時(shí)作出公正判決，這樣既可以相對(duì)應(yīng)地節(jié)省大量的社會(huì)司法資源，也可以保證法院審判過(guò)程的合法公正性和保持國(guó)家法制政策的完整統(tǒng)一性；同時(shí)，還應(yīng)能夠設(shè)法使基層法官可以盡量做到避免當(dāng)事人在執(zhí)行裁判程序中受到某些具體案件的先例做法引起的種種拘束，并據(jù)此可進(jìn)一步從具體先例做法中逐步領(lǐng)悟或?qū)W習(xí)運(yùn)用到對(duì)解決社會(huì)其他同類問(wèn)題行之有效又正確適用的法律思維模式和司法裁判方法，從而做到規(guī)范司法裁量，確保司法公正獨(dú)立。

4)健全準(zhǔn)入制度，完善問(wèn)責(zé)框架

細(xì)化人工智能行業(yè)的準(zhǔn)入與退出機(jī)制，明確監(jiān)管當(dāng)局對(duì)人工智能產(chǎn)業(yè)主體的資質(zhì)頒發(fā)和安全審查的權(quán)責(zé)劃分。加強(qiáng)對(duì)強(qiáng)制披露數(shù)據(jù)安全信息、第三方安全測(cè)試等監(jiān)管手段的建設(shè)，完善針對(duì)人工智能自主行為侵權(quán)行為的法律規(guī)范，嘗試建立全社會(huì)風(fēng)險(xiǎn)分散風(fēng)險(xiǎn)共擔(dān)的保險(xiǎn)機(jī)制等[5]。人工智能產(chǎn)業(yè)發(fā)展?fàn)可娑喾嚼?，在立法和產(chǎn)業(yè)政策制定過(guò)程中需要做好平衡。一方面要堅(jiān)決保障用戶的信息安全，另一方面也要避免對(duì)產(chǎn)業(yè)主體施加過(guò)重的監(jiān)管負(fù)擔(dān)，特別是要針對(duì)保障信息安全的研發(fā)活動(dòng)進(jìn)行政策支持和資源傾斜。基于此，構(gòu)建出一個(gè)以責(zé)任保險(xiǎn)機(jī)制為核心保障的救助體制或許是最可行的處理應(yīng)對(duì)方式。