鄭戈

人工智能是一種正在給人類(lèi)社會(huì)帶來(lái)全方位深刻變革的技術(shù)，正像其他所有的技術(shù)一樣，它服務(wù)于特定的人類(lèi)目的。但機(jī)器學(xué)習(xí)（尤其是無(wú)監(jiān)督學(xué)習(xí)）結(jié)果的不可控性又使得人工智能不同于以往的技術(shù)，其中蘊(yùn)涵著更大的風(fēng)險(xiǎn)和不確定性。法律應(yīng)當(dāng)如何規(guī)制人工智能，從而在鼓勵(lì)創(chuàng)新的同時(shí)保護(hù)人類(lèi)社會(huì)的基本價(jià)值并將風(fēng)險(xiǎn)保持在可控范圍之內(nèi)？這是一個(gè)已經(jīng)引起廣泛討論和立法回應(yīng)的問(wèn)題。

必須指出的是，由于人工智能是一種通用技術(shù)，可以應(yīng)用到從農(nóng)業(yè)、制造業(yè)到法律、醫(yī)療、金融服務(wù)業(yè)的各種人類(lèi)活動(dòng)場(chǎng)景之中，而它本身正處在高速發(fā)展階段，因此，制定一部總括性的“人工智能法”在目前這個(gè)階段時(shí)機(jī)尚不成熟。實(shí)際上，是否有必要制定這樣一種法律也是一個(gè)問(wèn)題。最接近于這樣一種一般性人工智能法的立法嘗試是2016年歐洲議會(huì)向歐盟委員會(huì)提出的“機(jī)器人法”立法建議報(bào)告，但這份報(bào)告所建議的立法只針對(duì)有形的“智能機(jī)器”，包括機(jī)器人、智能家電和自動(dòng)駕駛汽車(chē)等等。對(duì)于人工智能的“智能”所在，也就是算法，其中并未提出相關(guān)的規(guī)則。其中所體現(xiàn)的思路與規(guī)制食品安全、環(huán)境和產(chǎn)品責(zé)任的既有思路并無(wú)二致。比如，首先是設(shè)立一個(gè)專(zhuān)門(mén)的規(guī)制機(jī)構(gòu)，這份報(bào)告提議設(shè)立一個(gè)“歐洲機(jī)器人和人工智能局”來(lái)統(tǒng)籌該領(lǐng)域的規(guī)則、標(biāo)準(zhǔn)制定和日常行政管理。

其次，鑒于人工智能可能在無(wú)人監(jiān)管的情況下做出“決策”并自主執(zhí)行這樣的“決策”，該報(bào)告在第50（f）項(xiàng)建議：“從長(zhǎng)遠(yuǎn)來(lái)看要?jiǎng)?chuàng)設(shè)機(jī)器人的特殊法律地位，以確保至少最復(fù)雜的自動(dòng)化機(jī)器人可以被確認(rèn)為享有電子人（electronic persons）的法律地位，有責(zé)任彌補(bǔ)自己所造成的任何損害，并且可能在機(jī)器人作出自主決策或以其他方式與第三人獨(dú)立交往的案件中適用電子人格（electronic personality）?！迸c此相類(lèi)似，沙特阿拉伯在2017年授予一家香港公司生產(chǎn)的機(jī)器人索菲亞以公民身份并向“她”發(fā)放了護(hù)照。其中的作秀色彩多于實(shí)際意義。

實(shí)際上，在如何落實(shí)這種“法律人格”所必然帶來(lái)的民事行為能力和責(zé)任能力時(shí)，歐洲議會(huì)報(bào)告并沒(méi)有提出具體的方案。如果機(jī)器人對(duì)人造成了損害，無(wú)論是適用羅馬法中的“繳出賠償”（noxoe deditio）原則（即把機(jī)器人交給受害者或其家屬處置），還是讓機(jī)器人支付賠償金或坐牢，最終承擔(dān)責(zé)任的始終是機(jī)器人的“主人”，因?yàn)闄C(jī)器人不可能有獨(dú)立的收入，限制它的“自由”則等于剝奪了其“主人”的財(cái)產(chǎn)權(quán)。由此可見(jiàn)，機(jī)器人無(wú)論以何種方式承擔(dān)責(zé)任，最終的責(zé)任承擔(dān)者都是“人”，這使得它的“法律人格”顯得多余和毫無(wú)必要。實(shí)際上，這份報(bào)告在具體的規(guī)則設(shè)計(jì)部分也自動(dòng)放棄了適用機(jī)器人“法律人格”的努力，比如，它提議制造商為他們的機(jī)器人購(gòu)買(mǎi)強(qiáng)制性保險(xiǎn)。此外，還要設(shè)立專(zhuān)門(mén)的基金來(lái)補(bǔ)充保險(xiǎn)機(jī)制，主要的出資人也是制造商、經(jīng)銷(xiāo)商和其他利益相關(guān)者。這套保險(xiǎn)機(jī)制的覆蓋范圍不僅是機(jī)器人，還包括機(jī)器管家、無(wú)人駕駛汽車(chē)和無(wú)人機(jī)等等。

更審慎、務(wù)實(shí)的立法嘗試是針對(duì)人工智能的具體應(yīng)用場(chǎng)景進(jìn)行立法。目前，這樣的立法主要針對(duì)的是自動(dòng)駕駛。2017年5月，德國(guó)聯(lián)邦議會(huì)和參議院通過(guò)了一部法案，對(duì)《道路交通法》進(jìn)行了修改，它允許高度自動(dòng)化和完全自動(dòng)化的汽車(chē)作為交通工具上路。但為了符合1968年《維也納道路交通公約》第八條“每一部車(chē)輛在行駛時(shí)都必須有駕駛員在位”的規(guī)定，它沒(méi)有允許自動(dòng)駕駛汽車(chē)變成“無(wú)人駕駛”汽車(chē)。它規(guī)定，當(dāng)自動(dòng)駕駛系統(tǒng)啟動(dòng)之后，司機(jī)可以轉(zhuǎn)移注意力，比如去讀書(shū)或上網(wǎng)，但她必須保持足夠的警覺(jué)，以便在系統(tǒng)發(fā)出請(qǐng)求時(shí)恢復(fù)人工控制。它還要求高度或完全自動(dòng)化汽車(chē)安裝記錄駕駛過(guò)程的黑匣子，在沒(méi)有卷入交通事故的情況下，黑匣子信息必須保存半年。如果自動(dòng)駕駛模式正在運(yùn)行過(guò)程中發(fā)生了事故，責(zé)任在于汽車(chē)制造商；但如果自動(dòng)駕駛系統(tǒng)已經(jīng)發(fā)出了請(qǐng)求人工控制的信號(hào)，責(zé)任便轉(zhuǎn)移到了汽車(chē)上的駕駛?cè)藛T身上。

德國(guó)的這部法律受到業(yè)界的猛烈批評(píng)。有人指出，在新法下，司機(jī)不知道該怎樣做才能避免法律責(zé)任，自動(dòng)駕駛汽車(chē)無(wú)法實(shí)現(xiàn)真正的“無(wú)人駕駛”，也就是車(chē)上只有乘客而沒(méi)有駕駛員，阻礙了自動(dòng)駕駛汽車(chē)的商業(yè)化發(fā)展。試想，如果一個(gè)人花比傳統(tǒng)汽車(chē)貴得多的價(jià)錢(qián)購(gòu)買(mǎi)了自動(dòng)駕駛汽車(chē)，卻時(shí)刻必須保持警覺(jué)，而且要在自動(dòng)駕駛系統(tǒng)控制汽車(chē)操作一段時(shí)間后瞬間介入，應(yīng)付緊急情況，這實(shí)際上對(duì)駕駛員提出了更高的要求。新法把自動(dòng)駕駛汽車(chē)造成人身傷亡的最高賠償額度提高到1000萬(wàn)歐元，比原來(lái)的最高賠償額度增加了一倍。雖然這筆賠償在多數(shù)情況下將由保險(xiǎn)公司支付，但保險(xiǎn)公司無(wú)疑會(huì)提高保費(fèi)，這也增加了自動(dòng)駕駛汽車(chē)車(chē)主的負(fù)擔(dān)。此外，黑匣子信息保留半年的規(guī)定也增加了個(gè)人數(shù)據(jù)和隱私被濫用的風(fēng)險(xiǎn)，因?yàn)樽詣?dòng)駕駛汽車(chē)上遍布的傳感器和攝像頭會(huì)記錄下非常多的個(gè)人私密信息。

與德國(guó)立法模式相對(duì)照，2017年9月在美國(guó)眾議院通過(guò)的《自動(dòng)駕駛法》（Self Drive Act）則采取了一種完全不同的思路。它沒(méi)有改變現(xiàn)有的道路交通規(guī)則和與事故責(zé)任相關(guān)的侵權(quán)法規(guī)則，而是用憲法和行政法的思維方式劃分了聯(lián)邦與各州之間在規(guī)制自動(dòng)駕駛汽車(chē)方面的責(zé)任，明確了交通部在確立自動(dòng)駕駛汽車(chē)硬件安全標(biāo)準(zhǔn)、網(wǎng)絡(luò)安全標(biāo)準(zhǔn)、公眾知情標(biāo)準(zhǔn)等方面的具體義務(wù)和履行時(shí)間表。其中第12條強(qiáng)化了隱私權(quán)保護(hù)，要求制造商和經(jīng)銷(xiāo)商只有在提出了滿足一系列具體要求的“隱私權(quán)保障計(jì)劃”的前提下才可以供應(yīng)、銷(xiāo)售或進(jìn)口自動(dòng)駕駛汽車(chē)。這些要求旨在確保自動(dòng)駕駛汽車(chē)的車(chē)主和使用者對(duì)自己的個(gè)人數(shù)據(jù)和隱私有充分的控制能力，使其不至于在自己不知情的情況下任由制造商或程序設(shè)計(jì)者使用自己的個(gè)人數(shù)據(jù)。

我國(guó)目前也正在進(jìn)行自動(dòng)駕駛車(chē)輛測(cè)試方面的管理規(guī)范。2017年9月，工業(yè)和信息化部開(kāi)始就《智能網(wǎng)聯(lián)汽車(chē)公共道路適應(yīng)性驗(yàn)證管理規(guī)范（試行）》初稿組織業(yè)界和專(zhuān)家討論。2017年12月，北京市交通委、公安交管局和經(jīng)濟(jì)信息化委三部門(mén)聯(lián)合發(fā)布了《北京市關(guān)于加快推進(jìn)自動(dòng)駕駛車(chē)輛道路測(cè)試有關(guān)工作的指導(dǎo)意見(jiàn)（試行）》和《北京市自動(dòng)駕駛車(chē)輛道路測(cè)試管理實(shí)施細(xì)則（試行）》，設(shè)立了北京市自動(dòng)駕駛測(cè)試的管理機(jī)構(gòu)，即北京市自動(dòng)駕駛測(cè)試管理聯(lián)席工作小組，明確了測(cè)試主體、測(cè)試車(chē)輛和測(cè)試駕駛員應(yīng)當(dāng)具備的條件，并且規(guī)定了測(cè)試申請(qǐng)程序和違規(guī)操作責(zé)任。

與此同時(shí)，在我國(guó)的許多地方，自動(dòng)駕駛車(chē)輛正在“無(wú)法可依”的情況下上路，有時(shí)甚至是“高調(diào)”上路。比如，2017年12月2日，四輛裝備著華為開(kāi)發(fā)的“阿爾法巴-智能駕駛公交系統(tǒng)”的無(wú)人駕駛公交車(chē)在深圳福田保稅區(qū)正式上路，這是世界首例在開(kāi)放道路上行駛的無(wú)人駕駛公交車(chē)。這并不是深圳獨(dú)有的現(xiàn)象。由于業(yè)界普遍預(yù)測(cè)自動(dòng)駕駛汽車(chē)是未來(lái)汽車(chē)業(yè)的總體趨勢(shì)，能夠帶來(lái)萬(wàn)億級(jí)的利潤(rùn)，所以一國(guó)之內(nèi)各個(gè)地方之間以及各國(guó)之間有時(shí)會(huì)以寬松的法律環(huán)境（即允許自動(dòng)駕駛汽車(chē)上路而又不去立法進(jìn)行規(guī)制）來(lái)吸引相關(guān)投資或測(cè)試。比較明顯的例子包括美國(guó)的亞利桑那州和英國(guó)。2016年5月18日，英國(guó)女王伊麗莎白二世在英國(guó)議會(huì)年度開(kāi)幕大典上發(fā)表演說(shuō)：“議會(huì)將通過(guò)新的立法來(lái)提升英國(guó)的競(jìng)爭(zhēng)力，使英國(guó)成為數(shù)字經(jīng)濟(jì)時(shí)代的世界領(lǐng)導(dǎo)者。我的大臣們將確保英國(guó)在新式交通科技、包括自動(dòng)駕駛汽車(chē)和電動(dòng)汽車(chē)方面處在世界前沿。”在此之前，英國(guó)交通部研究了自動(dòng)駕駛汽車(chē)在英國(guó)上路可能遇到的法律障礙，并在其報(bào)告《通往無(wú)人駕駛汽車(chē)之路》上宣稱(chēng)：英國(guó)法律中不存在禁止自動(dòng)駕駛汽車(chē)上路的因素；英國(guó)沒(méi)有簽署《維也納道路交通公約》，因此不存在直接讓自動(dòng)化程度最高的無(wú)人駕駛汽車(chē)上路的法律障礙。

我國(guó)在人工智能方面的總體政策在國(guó)務(wù)院于2017年7月發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中得到了系統(tǒng)表述。該文件一開(kāi)始便強(qiáng)調(diào)制定規(guī)劃的目的在于“搶抓人工智能發(fā)展的重大戰(zhàn)略機(jī)遇，構(gòu)筑我國(guó)人工智能發(fā)展的先發(fā)優(yōu)勢(shì)”，明確了“發(fā)展為主、控制潛在風(fēng)險(xiǎn)為輔”的戰(zhàn)略布局。在“分三步走”循序漸進(jìn)實(shí)現(xiàn)具體戰(zhàn)略目標(biāo)的安排中，到2020年為止的第一步主要側(cè)重于理論和技術(shù)發(fā)展、確保人工智能產(chǎn)業(yè)競(jìng)爭(zhēng)力進(jìn)入國(guó)際第一方陣和人才培養(yǎng)，而對(duì)人工智能倫理規(guī)范和政策法規(guī)的要求只是在部分領(lǐng)域初步建立。在2021-2025年的第二階段，人工智能法律法規(guī)、倫理規(guī)范和政策才將有體系化的建構(gòu)，但這個(gè)體系也只是“初步建立”。在2026-2030年的第三階段，方才可能“建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系”。

由此可見(jiàn)，在目前這個(gè)階段，我國(guó)不會(huì)針對(duì)人工智能進(jìn)行體系化的立法，試圖為技術(shù)發(fā)展留下足夠廣闊的想象力空間。只有在自動(dòng)駕駛等技術(shù)發(fā)展已經(jīng)相對(duì)成熟、產(chǎn)品亟待進(jìn)入市場(chǎng)的應(yīng)用領(lǐng)域，才會(huì)嘗試進(jìn)行地方性、試驗(yàn)性的立法。