【摘 要】 人工智能的發(fā)展是第四次工業(yè)革命的重要分支，理論上對人工智能的發(fā)展分為弱、類、強(qiáng)、超幾個階段，以超級人工智能的出現(xiàn)為分界線，此前人工智能通常是用普通計算機(jī)程序的手段實現(xiàn)的類人智能技術(shù)，此后的人工智能擁有幾乎在所有領(lǐng)域遠(yuǎn)遠(yuǎn)超過人類的認(rèn)知能力，這意味該技術(shù)將為人類社會帶來巨大風(fēng)險。本文擬在理解人工智能發(fā)展路徑的基礎(chǔ)上，根據(jù)其階段性特點，探討法律規(guī)制的必要性，進(jìn)一步設(shè)計規(guī)制框架，發(fā)揮立法的能動作用，以期達(dá)到既促進(jìn)發(fā)展，又規(guī)制風(fēng)險的目的。

【關(guān)鍵詞】 人工智能 超級人工智能 法律規(guī)制

一、人工智能的發(fā)展路徑

當(dāng)前人工智能在許多領(lǐng)域取得了令人矚目的成果，使人們對該項技術(shù)的前景充滿期待。機(jī)器智能一路發(fā)展，必定會逐漸接近并達(dá)到人類智能的水平，最終很可能會大大超越人類智能，從而帶來控制問題的隱憂。這樣的擔(dān)憂由來已久，早在1956年的達(dá)特茅斯學(xué)院夏季項目中，研究人員就提出了要“嘗試發(fā)現(xiàn)機(jī)器是如何使用語言、形成抽象思維與概念、解決人類所面臨的問題以及學(xué)會自我改良的?！逼淠康木驮谟趧?chuàng)造出具有人類智能甚至超越人類智能的機(jī)器。六十多年過去了，人工智能的發(fā)展起起落落，近年來在很多領(lǐng)域取得了超越人類的成就，如曾經(jīng)被認(rèn)為人類不可能被機(jī)器超越的圍棋領(lǐng)域，谷歌研發(fā)的AlphaGo系統(tǒng)連勝人類頂尖棋手，給世人帶來震撼。但是目前為止的人工智能仍沒有全面達(dá)到人類認(rèn)知能力的水平，更不用說超過人類。這與機(jī)器終有一天會獲得超級智能并不矛盾，科學(xué)界歸納出的可能實現(xiàn)路徑有以下幾種：

1、學(xué)習(xí)模式，阿蘭·圖靈首先提出了“兒童思維機(jī)器”的概念，即通過模擬兒童習(xí)得知識的過程編寫程序，使之在不斷學(xué)習(xí)中達(dá)到成人的智能水平。該理論激發(fā)了“種子人工智能”的靈感，“兒童思維機(jī)器”只能通過積累內(nèi)容來發(fā)展內(nèi)在潛力，“種子人工智能“則可以改良自己的結(jié)構(gòu)。谷歌公司AlphaGo系統(tǒng)使用的神經(jīng)網(wǎng)絡(luò)就是一種機(jī)器學(xué)習(xí)的方法，神經(jīng)網(wǎng)絡(luò)能夠從經(jīng)驗中學(xué)習(xí)，也可以從樣本中找到最自然的概括路徑以及所輸入數(shù)據(jù)隱含的統(tǒng)計規(guī)律。但是進(jìn)一步提升機(jī)器的學(xué)習(xí)能力還需要理論上的進(jìn)步，如構(gòu)造人工智能系統(tǒng)的獲知能力及處理不確定性和概率信息的能力，這些還需要研究信息傳遞的過程以及人腦內(nèi)部的構(gòu)造。

2、模擬進(jìn)化，該路徑是為了獲得成熟的“兒童思維機(jī)器”。通過人為模擬進(jìn)化過程，提高正向選擇的效率，比如在足夠快的計算機(jī)上運行遺傳算法以得到類似生物進(jìn)化的結(jié)果。但是該路徑要求制造出運算能力足以處理龐大的生物進(jìn)化數(shù)據(jù)的超強(qiáng)計算機(jī)。

3、全腦仿真，以人類大腦作為機(jī)器智能的模板 。實現(xiàn)全腦仿真需要完成以下步驟：第一，精細(xì)掃描人類大腦;第二，將掃描過的原始數(shù)據(jù)輸入計算機(jī)，由自動圖像處理重建在原先大腦中負(fù)責(zé)認(rèn)知的三維神經(jīng)網(wǎng)絡(luò);第三，在一個運算能力足夠強(qiáng)大的計算機(jī)上輸出神經(jīng)計算結(jié)構(gòu)。 如果完全成功，將生成具有記憶和完整人格的初始智能，仿真得到的人類思維便作為軟件存在于一臺計算機(jī)中了。要成功進(jìn)行全腦仿真并不需要概念或理論上的突破，但需要一些非常先進(jìn)的技術(shù)，如需要有足夠高的分辨率和相關(guān)檢測性能的高通量顯微鏡，才能進(jìn)行自動圖像分析，將原始掃描數(shù)據(jù)翻譯成對一種神經(jīng)計算元素相關(guān)的三維模型的闡釋，然后模擬出得到的計算結(jié)構(gòu)的強(qiáng)大硬件。[1]

4、借助高級智能，該路徑是通過提高作為機(jī)器智能研究主體的人類的智能來間接達(dá)到實現(xiàn)機(jī)器智能的目的。通過優(yōu)生計劃、生物醫(yī)藥、基因操縱等方式可以實現(xiàn)，但是該路徑面臨著巨大的政治和道德風(fēng)險。

二、人工智能帶來的風(fēng)險

從人工智能發(fā)展的階段性特征來看，關(guān)于機(jī)器智能的前景有技術(shù)“奇點”和“智能爆發(fā)”等術(shù)語，表述的是機(jī)器智能在發(fā)展到一定程度后轉(zhuǎn)化的生產(chǎn)力使得世界GDP飛速發(fā)展，以至于工業(yè)革命以后快速發(fā)展的歷史較之也遜色不少。但要想達(dá)到“奇點”和“智能爆發(fā)”后的超級智能的程度，必須攻克上述理論上和技術(shù)條件上的難題，可以說，該過程需要相當(dāng)長的時間。在超級人工智能到來之前，相對低水平的、專注于某個領(lǐng)域的人工智能方法正逐漸獲得廣泛應(yīng)用。這些已經(jīng)在應(yīng)用中的人工智能技術(shù)，對于超級智能的進(jìn)一步研究過程中將出現(xiàn)的新技術(shù)，以及將來會出現(xiàn)的超級智能本身，都會對人類生活產(chǎn)生顛覆性的、持續(xù)性的影響。

其影響是矛盾的，在降低一些風(fēng)險的同時會增加另一些。就已經(jīng)或者即將獲得廣泛應(yīng)用的人工智能技術(shù)來說，它們在提高人類生活水平的同時，對現(xiàn)有的人類社會秩序也帶來了沖擊。包括：（1）倫理風(fēng)險，如機(jī)器人在行動中如何維持人類基本倫理秩序，人與機(jī)器人的關(guān)系倫理，智能機(jī)器人對以人為中心的世界觀的沖擊，以及人工智能的廣泛應(yīng)用可能帶來的“數(shù)字鴻溝”，貧富差距進(jìn)一步加大等。（2）法律風(fēng)險：如人工智能更體現(xiàn)“技術(shù)黑箱”，在民事侵權(quán)中判定相關(guān)主體責(zé)任，對機(jī)器人主體資格的認(rèn)定，人工智能創(chuàng)造出的產(chǎn)品知識產(chǎn)權(quán)問題，在更加依賴大數(shù)據(jù)的人工智能時代隱私權(quán)的界定和保護(hù)，以及人工智能應(yīng)用造成的勞動力就業(yè)市場萎縮等[2]。

就相對遙遠(yuǎn)的超級智能來說，它會降低很多既存風(fēng)險，如由自然帶來的威脅，但也會帶來巨大的存在性風(fēng)險[3]。如果一個機(jī)器智能項目在競爭中遠(yuǎn)遠(yuǎn)領(lǐng)先，很可能獲得決定性戰(zhàn)略優(yōu)勢[4]，從而沒有其他機(jī)器智能能夠與之抗衡。發(fā)展到這一步的人工智能，人類如果不小心把握其動機(jī)與能力都可能造成存在性風(fēng)險。相比于人類動機(jī)，人工智能往往只擁有簡單的目標(biāo)，但因為工具性目標(biāo)[5]的存在，如追求自我保護(hù)、認(rèn)知提升、技術(shù)完善、資源獲取，人工智能很可能將能實現(xiàn)最終目標(biāo)之外的多余智能用來不斷追求工具性目標(biāo)，然后用違背人類常理的方式毀滅人類。

三、法律規(guī)制的目的

人工智能的發(fā)展屬于當(dāng)前正在進(jìn)行中的第四次技術(shù)革命的一支，將與其他技術(shù)革新一起，在速度、深度、廣度上對社會造成前所未有的影響，甚至改變?nèi)祟愇拿餍螒B(tài)。這樣的變革對于發(fā)達(dá)國家或欠發(fā)達(dá)國家而言都是必須牢牢把握的時代機(jī)遇，前者可以借此鞏固技術(shù)優(yōu)勢，后者則可能實現(xiàn)“彎道超車”。盡管對于發(fā)展人工智能可能帶來的短期和長期風(fēng)險，有識之士早已提出警告，但是停止發(fā)展甚至限制發(fā)展都是不可能的，即使超級人工智能的到來真的有可能是人類自掘墳?zāi)?，各個國家也都希望掘墓人是自己而不是其他人，更何況現(xiàn)階段看來風(fēng)險是概率事件，收益卻是實際存在的。目前各個國家都逐步開始了對相關(guān)技術(shù)的規(guī)制，如德國《聯(lián)邦數(shù)據(jù)保護(hù)法》，加拿大《個人信息保護(hù)法案》，法國《數(shù)字共和國》，英國《2017年數(shù)據(jù)保護(hù)法案（草案）》，歐盟《通用數(shù)據(jù)保護(hù)條例》等等。我國也已頒布了《網(wǎng)絡(luò)安全法》，并先后發(fā)布了《國家信息化發(fā)展戰(zhàn)略綱要》《新一代人工智能發(fā)展規(guī)劃》《智能制造發(fā)展規(guī)劃（2016-2020年）》《高等學(xué)校人工智能創(chuàng)新行動計劃》等等戰(zhàn)略規(guī)劃，相關(guān)立法勢在

必行。

因此，人工智能的發(fā)展是一件已經(jīng)在進(jìn)行并且會持續(xù)發(fā)生的事情，法律所能做的就是提供合理的規(guī)制手段，達(dá)到以下目的：在目前處于弱、類人工智能的水平上，促進(jìn)技術(shù)和理論發(fā)展;盡量保證發(fā)展過程的可控，以免小部分研究人員和投資者掌控具有決定性戰(zhàn)略優(yōu)勢的超級智能并由此獲利，全體社會成員只能被動承擔(dān)風(fēng)險。

四、法律規(guī)制的方法

（一）促進(jìn)發(fā)展

國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中已經(jīng)為鼓勵發(fā)展技術(shù)確定了大的戰(zhàn)略布局，立法應(yīng)當(dāng)對此作出反應(yīng)。

企業(yè)、高校、科研機(jī)構(gòu)是具體人工智能項目的主要研究者和控制者，政府在這個過程中擔(dān)任調(diào)控者和監(jiān)督者的角色。前者享有獲取政府資金和政策支持的權(quán)利，負(fù)有合理利用政府提供的資源進(jìn)行研究，將研究成果按法律規(guī)定進(jìn)行轉(zhuǎn)化，配合政府制定相關(guān)規(guī)范等義務(wù)。后者負(fù)有為人工智能發(fā)展提供財政支持、創(chuàng)造條件的義務(wù)，享有對人工智能研究、生產(chǎn)活動進(jìn)行調(diào)整、監(jiān)控、處罰等權(quán)利。

立法需將相關(guān)主體的權(quán)利及義務(wù)落實成法律規(guī)范，明確企業(yè)、高校、科研團(tuán)隊等能夠申請國家的財政投資，建議政府完善保障措施，要求提高網(wǎng)絡(luò)基礎(chǔ)設(shè)施、大數(shù)據(jù)基礎(chǔ)設(shè)施、高效能計算機(jī)基礎(chǔ)設(shè)施的建設(shè)水平，企業(yè)在符合條件的情況下享受稅收等政策優(yōu)惠。在建立人工智能標(biāo)準(zhǔn)的問題上，明確上述主體配合政府就必要的準(zhǔn)入、安全問題參與討論，為國家層面制定研究和生產(chǎn)標(biāo)準(zhǔn)提供智力資源，使得研究、生產(chǎn)規(guī)范化，并積極參與國際標(biāo)準(zhǔn)制定，在新一輪科技革命中掌握主動權(quán)。

在具體實施過程中，政府需要為上述主體權(quán)利的實現(xiàn)提供必要基礎(chǔ)設(shè)施，以及配套政策保證立法目的實現(xiàn)。包括以立法的形式明確主要責(zé)任部門及其職權(quán)職責(zé)，必要時設(shè)立一個專門機(jī)構(gòu)負(fù)責(zé)人工智能的發(fā)展規(guī)劃、財政劃撥、風(fēng)險監(jiān)控、國際合作等事宜，當(dāng)前我國負(fù)責(zé)科學(xué)技術(shù)發(fā)展的科技部可以通過成立專門辦事處、委員會的方式來開展工作。此外，擴(kuò)大和維持人才隊伍，將資金投向企業(yè)不愿意進(jìn)入的領(lǐng)域，解決私營企業(yè)不從事的重要社會問題、高度加強(qiáng)對其他國家人工智能發(fā)展的關(guān)注等，也是政府應(yīng)當(dāng)承擔(dān)的義務(wù)。

在促進(jìn)與監(jiān)管之后，立法需要從知識產(chǎn)權(quán)保護(hù)的角度出發(fā)，激勵創(chuàng)新，結(jié)合人工智能相關(guān)技術(shù)的特點設(shè)置權(quán)利保護(hù)、權(quán)利交易、權(quán)利限制等制度，保障權(quán)利主體合法有序地獲得資金支持，加快智力成果轉(zhuǎn)化，促進(jìn)新興產(chǎn)業(yè)發(fā)展。

（二）規(guī)制風(fēng)險

人工智能的發(fā)展可能帶來許多新風(fēng)險，規(guī)制風(fēng)險要與現(xiàn)有法律做好立法銜接工作，在人工智能的專門立法出臺之前，解決好新技術(shù)對原有法律制度造成的沖擊，填補(bǔ)法律漏洞。

對即將到來的新立法，要在宏觀層面樹立風(fēng)險社會的法律理念。享受技術(shù)革新帶來的紅利時，不忘風(fēng)險如影隨形，如此前工業(yè)革命帶來的環(huán)境污染、基因技術(shù)、超級細(xì)菌等等。擁抱人工智能技術(shù)，要確立風(fēng)險社會的立法理念，追求效益價值的同時，保障安全價值的實現(xiàn)。實現(xiàn)效益價值要求激發(fā)人工智能技術(shù)的創(chuàng)新活力，促進(jìn)新技術(shù)的轉(zhuǎn)化適用，也就是前述的以立法促進(jìn)發(fā)展。而實現(xiàn)安全價值，要在風(fēng)險社會理論指引下，從事先預(yù)防出發(fā)，在整個研發(fā)和應(yīng)用的過程中落實責(zé)任制度，保障技術(shù)信息適度公開。

做到事先預(yù)防必須完善人工智能研究和生產(chǎn)的準(zhǔn)入機(jī)制和風(fēng)險評估制度，立法需要對相關(guān)主體資格做出限制，對具體項目內(nèi)容進(jìn)行審批。有可能造成重大風(fēng)險的人工智能技術(shù)，在著手研究或生產(chǎn)之前，組織相關(guān)領(lǐng)域?qū)＜以敱M論證可行性，必要情況下引入公眾意見。對于無法預(yù)防或突然發(fā)生的風(fēng)險，要及時反應(yīng)，這就要求建立人工智能監(jiān)測制度。對于企業(yè)、高校、科研團(tuán)隊等，可以財政投資為條件，要求其定期匯報研究進(jìn)展。對人工智能研究成果的商品化、產(chǎn)業(yè)化附以備案登記的程序。對投入使用的人工智能產(chǎn)品，由地方各級政府部門在發(fā)現(xiàn)其造成威脅或?qū)嵑r向責(zé)任部門上報。由來自政府、企業(yè)、高校、科研團(tuán)隊以及社會公眾聘請的專家組成風(fēng)險評估小組，對于特定項目進(jìn)行評估，并向社會公布。責(zé)任制度的落實，可能因為人工智能技術(shù)的復(fù)雜性及其相當(dāng)程度上的智能性更加困難（如無人駕駛汽車侵權(quán)究竟是由設(shè)計者、生產(chǎn)者還是所有者、使用者承擔(dān)責(zé)任？）侵權(quán)法必須對這樣的新型法律關(guān)系作出回應(yīng)。

五、結(jié)語

人工智能技術(shù)有著誘人的發(fā)展前景，人類認(rèn)識世界改造世界的過程是一個主體和客體互動的過程，主體從客體獲取信息，對信息進(jìn)行加工處理，做出判斷以及策略，再施加于客體，以達(dá)到主觀目的。在這個過程中，人工智能相關(guān)技術(shù)不斷逼近向全領(lǐng)域、全方位發(fā)揮作用。相關(guān)科學(xué)家預(yù)測，人工智能超越人類智能之后，能夠以不同于人類的方式高效完成這一認(rèn)識世界、改造世界的過程。許多人類目前受制于物理上的限制或精神上的限制無法解決的問題，例如對于人本身的認(rèn)識，對于人類所追求的價值的探究，都將以超越人類智慧的方式得到解決。

當(dāng)前國際間的競爭態(tài)勢使任何一個謀求人民幸福與國際尊重的國家在把握這一時代機(jī)遇的時候都不甘落于人后。盡管許多專業(yè)人士未雨綢繆地敲響警鐘，依然無法阻擋人們對技術(shù)革新的渴望，畢竟歷史演進(jìn)的過程說明，新技術(shù)是“雙刃劍”，且往往利遠(yuǎn)遠(yuǎn)大于弊。盡管本文在抽象意義上討論了法律如何應(yīng)對這樣的挑戰(zhàn)，但在具體的制度設(shè)計以及配套政策制定上還有很多問題留待解決。

注釋

[1] 尼克·波斯特洛姆：《超級智能——路線圖、危險性與應(yīng)對策略》，中信出版社，2015年2月第1版，第38頁。

[2] 吳漢東：《人工智能時代的制度安排與法律規(guī)制》，《社會科學(xué)文摘》，2017年第12期。

[3] 指威脅到人類生存的風(fēng)險，在無法控制超級智能的情況下會出現(xiàn)。

[4] 指在技術(shù)方面和其他方面獲得足夠的優(yōu)勢，使其能夠取得全球統(tǒng)治地位。

[5] 指那些任何超級智能體都會去追求的，對于所有最終目標(biāo)都是有用的中間目標(biāo)。

【參考文獻(xiàn)】

[1] 尼克·波斯特洛姆：《超級智能——路線圖、危險性與應(yīng)對策略》，中信出版社，2015年2月第1版。

[2] 克勞斯·施瓦布：《第四次工業(yè)革命——轉(zhuǎn)型的力量》，中信出版社，2016年6月第1版。

[3] Matthew U.Scherer： Regulating Artificial Intelligence Systems： Risks， Challenges， Competencies， And Strategies， Harvard Journal of Law&technologu， Volume 29，Number 2 Spring 2016.

[4] 何哲：《通向人工智能時代——兼論美國人工智能戰(zhàn)略方向及對中國人工智能戰(zhàn)略的借鑒》，《電子政務(wù)》，2016年12期。

[5] 鐘義信：《人工智能：概念·方法·機(jī)遇》，《科學(xué)通報》，2017年22期。

[6] 吳漢東：《人工智能時代的制度安排與法律規(guī)制》，《社會科學(xué)文摘》，2017年第12期。

[7] 馬長山：《人工智能的社會風(fēng)險及其法律規(guī)制》，《法律科學(xué)（西北政法大學(xué)學(xué)報）》，2018年第6期。

作者簡介：郭曄（1994-），女，碩士在讀，中南財經(jīng)政法大學(xué)，430000，研究方向：法理學(xué)。