摘 要 隨著科學(xué)技術(shù)的進(jìn)步與全球化進(jìn)程的深化,進(jìn)入21世紀(jì)以來,人類進(jìn)入了一個(gè)以互聯(lián)網(wǎng)產(chǎn)業(yè)化、工業(yè)智能化、工業(yè)一體化為代表的,以人工智能、清潔能源、無人控制技術(shù)、量子信息技術(shù)、虛擬現(xiàn)實(shí)以及生物技術(shù)為主的全新的第四次工業(yè)革命的時(shí)代。人工智能在給我們的生活帶來極大便利的同時(shí),也對(duì)我們傳統(tǒng)的制度特別是法律方面帶來了極大的挑戰(zhàn)。新型的機(jī)器人類能否成為法律意義上的主體?能否賦予擬制人格?能否獨(dú)立成為法律責(zé)任的承受主體?等一系列法律問題值得我們深入研究。
關(guān)鍵詞 人工智能 法律挑戰(zhàn) 法律制度
作者簡(jiǎn)介:黃碧輝,上海震亞律師事務(wù)所,研究方向:刑辯、公司法相關(guān)、婚姻家庭財(cái)產(chǎn)規(guī)劃工作。
中圖分類號(hào):D920.4 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?文獻(xiàn)標(biāo)識(shí)碼:A ? ? ? ? ? ?? ? ? ? ? ?DOI:10.19387/j.cnki.1009-0592.2019.10.009
隨著人工智能技術(shù)的迅猛發(fā)展,除傳統(tǒng)工廠中的工廠機(jī)械手外,人們的日常生活中已經(jīng)有大量的AI技術(shù)滲透。作為社會(huì)規(guī)則的法律總是滯后于社會(huì)技術(shù)與經(jīng)濟(jì)的發(fā)展,面對(duì)越來越成熟的人工智能技術(shù),越來越高級(jí)的機(jī)器人類,法律該如何去規(guī)制與應(yīng)對(duì)?機(jī)器人類所帶給人類的風(fēng)險(xiǎn)又該如何掌控?對(duì)這些問題的深度剖析不僅能推動(dòng)現(xiàn)行法律的進(jìn)步還能對(duì)未來的社會(huì)規(guī)則加以必要的探索。
人工智能(Artificial Intelligence,簡(jiǎn)稱AI)源于美國,于1956年在達(dá)特茅斯學(xué)院由麥卡錫、明斯基等科學(xué)家首次提出。并經(jīng)歷了幾次起伏才發(fā)展至今天的狀態(tài)。1958年在美國卡耐基梅隆大學(xué)首次展示了第一個(gè)人工智能軟件,并且預(yù)測(cè)人工智能將會(huì)在未來10年蓬勃發(fā)展,但是,直到20世紀(jì)90年代中期,人工智能卻一直處于低迷發(fā)展中,歸根結(jié)底是人工智能的自主學(xué)習(xí)能力不強(qiáng),獲得知識(shí)面范圍過窄以及信息處理技術(shù)未達(dá)到預(yù)期要求等原因。而在這三十年人工智能工作者們的努力下,促進(jìn)人工智能技術(shù)不斷完善、實(shí)現(xiàn)生物神經(jīng)元的重大突破,使得人工智能再次得到飛速發(fā)展。
進(jìn)入21世紀(jì)第2個(gè)十年人類進(jìn)入了大數(shù)據(jù)時(shí)代,而人工智能以大數(shù)據(jù)為依托,生物神經(jīng)元為紐帶實(shí)現(xiàn)了真正的超越人類智慧的預(yù)想,阿爾法狗戰(zhàn)勝柯潔,IBM的沃森在比賽中獲勝,充分體現(xiàn)了人工智能在技術(shù)層面的成功,也催生了機(jī)器人類的概念。人類一方面因能創(chuàng)造出如此高科技的產(chǎn)品而沾沾自喜,另一方面又因智能人類強(qiáng)大的大腦而惴惴不安。
目前人工智能革命分為四波浪潮:互聯(lián)網(wǎng)智能化(internet AI)、商業(yè)智能化(business AI)、實(shí)體世界智能化(perception AI)和自主智能化(autonomous AI)。
每一個(gè)浪潮都會(huì)以不同的方式改變著人類的生活、生產(chǎn),讓人工智能技術(shù)更加融入到我們的生活中。第一個(gè)和第二個(gè)浪潮已經(jīng)在我們身邊正改變著我們的生活,互聯(lián)網(wǎng)技術(shù)已經(jīng)與人類生活密不可分,淘寶能夠準(zhǔn)確的推薦你想要的產(chǎn)品,這就是大數(shù)據(jù)時(shí)代下的互聯(lián)網(wǎng)智能和商業(yè)智能。而第三個(gè)浪潮也在生活中逐漸顯現(xiàn),人臉支付技術(shù)逐漸出現(xiàn)在我們生活中,人工智能已經(jīng)開始模糊數(shù)字世界和真實(shí)世界的界限。第四個(gè)浪潮是以自動(dòng)駕駛汽車技術(shù)進(jìn)入我們的生活,未來人工智能技術(shù)將會(huì)使得越來越多的方面帶來智能化的改變。人工智能領(lǐng)域飛速發(fā)展,人類在充滿擔(dān)憂的同時(shí)也在努力尋求解決辦法。
(一)社會(huì)方面
1.倫理上
霍布斯曾經(jīng)說過,自我保存是第一自然法。由于人性本惡,在自然狀態(tài)中人對(duì)人就像狼對(duì)狼一樣,人類通常在保護(hù)自己和勿害他人中選擇前者。那么作為擁有高智慧的機(jī)器人類的選擇又是如何,是人們非常擔(dān)心的問題。機(jī)器人類是否真的會(huì)像科幻電影中那樣生出獨(dú)立的思維并且傷害人類乃至進(jìn)一步取代人類?這是源自于人類種族基因中對(duì)未知事物的恐懼。
1942年,美國的科學(xué)家、科幻小說家伊薩克·阿西莫夫,首次在其撰寫的短篇小說《轉(zhuǎn)圈圈》中提出第一個(gè)針對(duì)機(jī)器人道德約束的律法,其旨在保護(hù)人類的絕對(duì)安全,并在一定程度上使得機(jī)器人也擁有了相應(yīng)的保護(hù)自己的權(quán)利。而這一律法在之后的100年的時(shí)間里,仍然是科幻小說家、科幻電影以及現(xiàn)代人工智能機(jī)器人發(fā)展的一個(gè)基礎(chǔ)道德框架。大約在100年前科學(xué)家們就已經(jīng)考慮到機(jī)器人類的倫理問題,雖然三條律法略顯簡(jiǎn)單,卻對(duì)現(xiàn)今制度的設(shè)定起到了很好的引導(dǎo)作用。
2.就業(yè)上
伴隨著大數(shù)據(jù)成長(zhǎng)起來的機(jī)器人類,比傳統(tǒng)的機(jī)械手臂能夠吸收更多的知識(shí),能夠更好的融合知識(shí)并為之所用。這樣的發(fā)展現(xiàn)狀不僅給藍(lán)領(lǐng)工人的就業(yè)環(huán)境造成了威脅,連社會(huì)中重復(fù)性強(qiáng),專業(yè)性要求不高,可替代性強(qiáng)的白領(lǐng)工人也帶來了挑戰(zhàn)。面對(duì)新型的機(jī)器人類強(qiáng)大的學(xué)習(xí)能力,大量的藍(lán)領(lǐng)、白領(lǐng)工人陷入恐慌,懼怕被機(jī)器人所取代并進(jìn)而被社會(huì)所淘汰。
在第二次工業(yè)革命中,當(dāng)時(shí)大量的英國工人也同樣考慮著電氣時(shí)代所帶來的大機(jī)器生產(chǎn)會(huì)將大批量的工人所淘汰,導(dǎo)致大量失業(yè)的問題。而最終我們都知道,隨著第二次工業(yè)革命的發(fā)展,雖然有部分工人失業(yè),但是因第二次工業(yè)革命帶來了大量的新興產(chǎn)業(yè),卻又創(chuàng)造了更多的工作崗位。而我們目前所面臨的問題,正如一個(gè)多世紀(jì)以前英國人面臨的問題,在可能進(jìn)入的機(jī)器人類部分取代人類工作的未來,人類可以從事更需要內(nèi)心關(guān)懷的職業(yè),譬如養(yǎng)老院的陪護(hù)員、幼兒園教師等職業(yè)。就像是在我們使用3G手機(jī)的時(shí)代,面對(duì)即將到來的4G時(shí),我們只能猜測(cè)速度會(huì)變快,支付可能會(huì)快捷,但是誰又能想到4G開啟了全民網(wǎng)絡(luò)時(shí)代,全民線上支付轉(zhuǎn)賬。就像我們期待5G那樣,共同期待人工智能技術(shù)帶給社會(huì)的改變。
3.貧富差距的拉大和經(jīng)濟(jì)發(fā)展的更加不平衡
人工智能在商業(yè)領(lǐng)域來說是一個(gè)強(qiáng)大的助力,經(jīng)濟(jì)學(xué)家預(yù)測(cè),人工智能技術(shù)將會(huì)給我們的經(jīng)濟(jì)帶來約15.7萬億美元的財(cái)富。而這些財(cái)富的來源大多數(shù)是人工智能技術(shù)的發(fā)展所帶來自動(dòng)化產(chǎn)業(yè)的迅猛發(fā)展,從而淘汰大量人工勞動(dòng)力的后果。由此引發(fā)的直接大面積失業(yè)將會(huì)導(dǎo)致各國經(jīng)濟(jì)發(fā)展的更加不平衡,對(duì)于發(fā)展中國家來說更是一個(gè)致命的打擊,至此不會(huì)再出現(xiàn)像曾經(jīng)中國這樣的發(fā)展中國家,以人口為優(yōu)勢(shì)做加工而發(fā)展起來的國家。而因存在大量青壯年的國家也會(huì)存在巨大的潛在隱患。即使是發(fā)達(dá)國家,人工智能也會(huì)將貧富差距進(jìn)一步拉大。人工智能天然趨于壟斷,致使小型企業(yè)被迫關(guān)門,經(jīng)濟(jì)權(quán)力越來越集中在少數(shù)人手中。如果不加以規(guī)制,人工智能必將會(huì)對(duì)社會(huì)各個(gè)方面帶來更大的沖擊。
(二)法律方面
1.法律主體
隨著人工智能技術(shù)的發(fā)展,例如阿爾法狗戰(zhàn)勝柯潔的例子比比皆是,機(jī)器人類的“大腦”確實(shí)已經(jīng)超越了我們部分人類的智慧。更有美國的未來科學(xué)家預(yù)測(cè),在未來機(jī)器人類將擁有生物大腦甚至可以和人類的大腦的神經(jīng)元數(shù)量相媲美,更有可能這種機(jī)器人類的生物大腦將10億倍于今天所有人的智慧。面對(duì)這樣的未來,我們不得不考慮是否賦予機(jī)器人類以法律意義上的“人”的地位以及權(quán)利與義務(wù)。歐盟與美國已經(jīng)開始著手設(shè)立有關(guān)機(jī)器人類的繼承、侵權(quán)、勞動(dòng)保障的相關(guān)立法,如果相關(guān)立法真的成功,對(duì)現(xiàn)今民事法律主體制度的基礎(chǔ)必然產(chǎn)生動(dòng)搖。
法律關(guān)系主體,簡(jiǎn)稱為法律主體,是指法律關(guān)系中享有權(quán)利和履行義務(wù)的人。法律主體是法律關(guān)系中的主導(dǎo)性因素。在一個(gè)法律國家中,什么樣的個(gè)人或組織能夠成為法律關(guān)系的主體取決于該國法律的規(guī)定,在世界范圍內(nèi)大多數(shù)國家已經(jīng)形成了自然人與法人兩個(gè)大類的法律主體。歐美部分學(xué)者將機(jī)器人類看成如同法人一樣的擬制人來看待的觀點(diǎn)。認(rèn)為機(jī)器人類也同樣具有權(quán)利能力與行為能力,機(jī)器人類權(quán)利能力中的權(quán)利來自于正在討論中的機(jī)器人類應(yīng)該享有的勞動(dòng)權(quán)利、生存權(quán)利等基本權(quán)利,其他特殊的人格性的權(quán)利還有待考慮。而機(jī)器人類的義務(wù)即生產(chǎn)創(chuàng)造出機(jī)器人類時(shí)生產(chǎn)商所賦予的機(jī)器人類必須遵守的義務(wù)。按照上述觀點(diǎn),就會(huì)出現(xiàn)一個(gè)悖論,作為法律意義上的人必須是一個(gè)獨(dú)立的個(gè)體,而機(jī)器人類因出廠設(shè)置時(shí)已經(jīng)被設(shè)定了相關(guān)的義務(wù),其不能夠成為一個(gè)獨(dú)立的個(gè)體,更像是創(chuàng)造者人格的延伸。雖然機(jī)器人類要比我們?nèi)粘5南匆聶C(jī),電飯鍋要智能、高端不知多少倍,但是在本質(zhì)上還是一樣的,他們都被人類所生產(chǎn)服務(wù)于人類,并且也是最重要的它們并不具有獨(dú)立的人格。目前來說,賦予機(jī)器人類法律主體地位還為時(shí)尚早,未來是否賦予機(jī)器人類法律地位還需要結(jié)合人工智能技術(shù)的發(fā)展進(jìn)一步做更詳實(shí)的考慮。
現(xiàn)代民法上的繼承特指財(cái)產(chǎn)繼承,是指將自然人死亡后遺留的個(gè)人合法財(cái)產(chǎn)依照死者所立遺囑的指定或是根據(jù)法律的規(guī)定轉(zhuǎn)歸有權(quán)取得該項(xiàng)財(cái)產(chǎn)的人所有的法律制度。在此,我們對(duì)機(jī)器人類作為被繼承人的法律問題不做討論,畢竟被繼承人依然是自然人這一基礎(chǔ)法理在現(xiàn)行法律中是很難被撼動(dòng)的,我們只討論機(jī)器人類能否作為繼承者繼承自然人的遺產(chǎn)。美國的繼承法中動(dòng)物已經(jīng)可以作為繼承人的主體來繼承被繼承人的遺產(chǎn),這為機(jī)器人類是否可以作為繼承人提供了一個(gè)非常好的思路。在不遠(yuǎn)的將來,當(dāng)類似于動(dòng)物的智能機(jī)器人給人類更多陪伴的時(shí)候,人類是否可以將自己的遺產(chǎn)贈(zèng)予給機(jī)器人類的問題值得思考。
當(dāng)代新型的機(jī)器人類在吸收大量知識(shí)的基礎(chǔ)之上,運(yùn)用神經(jīng)元網(wǎng)絡(luò)自己進(jìn)行分析,加工再創(chuàng)造的過程中得出的作品是否賦予其著作權(quán),是當(dāng)下面臨的重要問題。例如,阿爾法狗在程序員輸入上千個(gè)棋譜后經(jīng)過深度學(xué)習(xí)在與柯潔的對(duì)抗賽中贏得連續(xù)36個(gè)月未有個(gè)敗績(jī)的世界級(jí)九段圍棋高手。阿爾法狗的故事不僅在圍棋上演,還在音樂、美術(shù)、文學(xué)等等方面進(jìn)行著學(xué)習(xí)、突破乃至再創(chuàng)造,那么在我們面對(duì)這些由人工智能創(chuàng)造出來的文學(xué)作品、藝術(shù)作品等等時(shí),是否賦予同人類一樣的著作權(quán)利呢。搞清楚這個(gè)問題首先要明確,創(chuàng)造出這些作品的機(jī)器人類,是否真的由它所作?還是由其背后的人工智能科學(xué)家或是程序員所作?人工智能首先是由程序員們對(duì)其進(jìn)行原始數(shù)據(jù)的輸入,編輯算法和路徑,這些都是由人工智能背后的人類所操作的,也就是說,機(jī)器人類所生出的作品與其說是人工智能所創(chuàng)造不如說是由其背后的人類所掌控著它來創(chuàng)造。從這點(diǎn)上看人工智能的創(chuàng)造和其開發(fā)者的關(guān)系更像是著作權(quán)上的職務(wù)發(fā)明,發(fā)明者本身并不享有專利權(quán),其單位即開發(fā)者享有著作權(quán),人工智能只享有署名權(quán)、標(biāo)記權(quán)及獲得報(bào)酬的權(quán)利。但是這一法理的推演并不嚴(yán)密,目前我們不承認(rèn)機(jī)器人類的著作權(quán)是基于人工智能的智能化依然有待于提升,高等的人工智能在日常生活中并沒有真正普及。在未來人工智能化的時(shí)代到來時(shí),機(jī)器人類同普通人類一樣時(shí),關(guān)于人工智能的著作權(quán)必然將會(huì)有所改變。
2.法律責(zé)任
據(jù)報(bào)道,美國多地因運(yùn)用手術(shù)機(jī)器人操作致使患者造成燒傷、感染等不同程度損害的醫(yī)療事故達(dá)200多起,現(xiàn)代機(jī)器人類不同于傳統(tǒng)的工廠機(jī)械手臂,其具有更高的智慧以及行動(dòng)能力。并且在未來可能與人類共存這一前景下,在民事交往生活的過程中,出現(xiàn)侵權(quán)事件是不可夠避免的,那么機(jī)器人類在侵權(quán)行為中的權(quán)利該如何保障,義務(wù)該如何承擔(dān)?
首先,討論機(jī)器人類作為侵權(quán)事件中的侵權(quán)者一方該如何承擔(dān)義務(wù)。第一種觀點(diǎn)認(rèn)為,機(jī)器人類更像是開發(fā)者的雇員一樣的存在,權(quán)利義務(wù)的承擔(dān)類似于上文所提到的著作權(quán),承擔(dān)的是產(chǎn)品侵權(quán)責(zé)任,將人工智能的侵害看作是產(chǎn)品缺陷,開發(fā)者需承擔(dān)因人工智能侵權(quán)所帶來的損失。這種觀點(diǎn)是將機(jī)器人類與開發(fā)者看成一個(gè)主體,但這顯然在逐漸發(fā)展起來的人工智能技術(shù)上看來,對(duì)開發(fā)者是不公平的。開發(fā)者在輸入算法及其他知識(shí)后,人工智能自己進(jìn)行學(xué)習(xí)及進(jìn)行行動(dòng)判斷所造成的損失,并不在開發(fā)者所預(yù)測(cè)的范圍內(nèi)。
因此,為了在一定程度上保護(hù)開發(fā)者的權(quán)利,我們提出了基于技術(shù)中立原則所衍生的替代責(zé)任。技術(shù)中立原則,即產(chǎn)品被廣泛的應(yīng)用在合法的領(lǐng)域,即使其生產(chǎn)者或銷售者知道該產(chǎn)品可能會(huì)成為侵權(quán)工具使用,其也不構(gòu)成侵權(quán)或是侵權(quán)的幫助犯。這就說明對(duì)于機(jī)器人類的制造者來說,其本身不可以非法的目的去生產(chǎn)該人工智能產(chǎn)品,并且不能主觀的制造侵犯其他人的人身權(quán)利或財(cái)產(chǎn)權(quán)利的產(chǎn)品或是給機(jī)器人類輸入類似算法導(dǎo)致機(jī)器人類對(duì)其他人的侵權(quán)。在未來人工智能廣泛應(yīng)用,如果制造商在制造之初并沒有侵害某個(gè)人或多數(shù)人的主觀意愿或是客觀行為造成的侵權(quán),開發(fā)者不承擔(dān)侵權(quán)責(zé)任。
人工智能的迅速發(fā)展在便利生活的同時(shí)對(duì)社會(huì)也同樣帶來了巨大的挑戰(zhàn)。面對(duì)這樣的挑戰(zhàn),人類在不斷完善自己進(jìn)步的同時(shí),社會(huì)制度也應(yīng)對(duì)此進(jìn)行必要的調(diào)整,以規(guī)制已經(jīng)存在的社會(huì)問題,和規(guī)避將來可能出現(xiàn)的問題。而法律作為社會(huì)規(guī)范的手段,在這一過程中的作用更是不言而喻,但是由于法律本身的滯后性的特點(diǎn),我們?cè)谥贫ǔ龀晌牡姆芍斑€需要社會(huì)制度和社會(huì)道德來加以約束。
(一)以倫理道德為先導(dǎo)
許多人工智能科學(xué)家們基于高速發(fā)展的近十年的深度學(xué)習(xí),來預(yù)測(cè)未來,認(rèn)為計(jì)算機(jī)智能會(huì)以不可阻擋的滾雪球的方式呈現(xiàn)指數(shù)式增長(zhǎng)。深度學(xué)習(xí)代表了機(jī)器學(xué)習(xí)的一個(gè)重要升級(jí),但沒有證據(jù)證明,這樣的升級(jí)代表了強(qiáng)人工智能快速發(fā)展的開始。科學(xué)研究并不是容易的事情,但是并不能完全否定人工智能的指數(shù)式增長(zhǎng)不能成為真實(shí)。我們現(xiàn)在做的并不應(yīng)該是盲目的恐懼,更應(yīng)該是迎難而上、知難而進(jìn),去制造更好的制度,去創(chuàng)造更美好的明天。
基于現(xiàn)在的技術(shù),我們顯然已經(jīng)清楚人工智能比我們?nèi)祟惖拇竽X要更加聰明,存儲(chǔ)信息量更大,基礎(chǔ)性工作能力更強(qiáng)。這使我們的藍(lán)領(lǐng)、白領(lǐng)們的壓力非常大,這種壓力是人工智能技術(shù)發(fā)展的必然,而我們又要反問,我們?nèi)祟惖降妆热斯ぶ悄芤獜?qiáng)在什么地方?是“愛”。人類擁有愛人與被愛的能力,就是這種能力讓人類擺脫愚昧,讓人類看重這一整體,也讓人類彼此息息相關(guān),心心相惜。
人工智能的發(fā)展讓人類驚嘆也促使人類去尋求解決辦法,大概一個(gè)世紀(jì)以前美國的科學(xué)家、科幻小說家伊薩克·阿西莫夫提出“機(jī)器人三大律法”,這是首次人類直面機(jī)器人可能存在的威脅。在道德層面上阿西莫夫提出的律法為我們今天在道德上規(guī)制機(jī)器人類提供了基礎(chǔ)的框架,應(yīng)該在這一框架的基礎(chǔ)之上建構(gòu)一個(gè)更加周延的體系,對(duì)現(xiàn)代人工智能的發(fā)展給予一個(gè)道德上的指引和道德標(biāo)準(zhǔn)。
(二)以法律制度為保障
首先,是人工智能的安全問題。人工智能是基于大數(shù)據(jù)而發(fā)展起來的產(chǎn)物,其中存在大量的與我們生活相關(guān)的數(shù)據(jù)或是我們自身的數(shù)據(jù)信息,那么如何保障信息安全是一個(gè)重大的問題?,F(xiàn)階段,最好對(duì)人工智能的開發(fā)者責(zé)任加以嚴(yán)格的限制,通過開發(fā)者這一源頭切斷信息泄露風(fēng)險(xiǎn)。
其次,在人工智能急速發(fā)展的中國,雖然已經(jīng)全面的論述了人工智能的發(fā)展,但是還沒有上升到國家戰(zhàn)略層面。美、日、韓、歐盟等已經(jīng)將人工智能技術(shù)的發(fā)展列入國家戰(zhàn)略中,中國也應(yīng)緊隨其后,為國內(nèi)迅猛發(fā)展的人工智能產(chǎn)業(yè)提供一個(gè)整體的道德指引、法律基礎(chǔ)和發(fā)展前景的概括性規(guī)劃。
最后,規(guī)范人工智能在法律中主體地位。是統(tǒng)一適用一個(gè)標(biāo)準(zhǔn),還是在不同的法律關(guān)系中做不同的考量,固定下來的制度更有利于人工智能的發(fā)展。人類與人工智能的法律關(guān)系與法律地位需要立法者對(duì)這一問題加以考量與研究,為未來的人工智能發(fā)展的法律規(guī)制做好未雨綢繆。
在人工智能這個(gè)橫沖直撞、撲面而來的未來面前,人類會(huì)遭遇前所未有的挑戰(zhàn)。但人類不正是從各種挑戰(zhàn)中一路走來,掙扎奮起的嗎?人工智能的大腦確實(shí)比人類強(qiáng)大,但相比于人工智能,人類最大的優(yōu)勢(shì)在于創(chuàng)造力和同情心,讓人工智能做它所擅長(zhǎng)的,也讓我們?nèi)氖赂喔挥型樾牡墓ぷ?。未來并不是充滿恐懼,以法律為基礎(chǔ),以道德為指引去規(guī)制人工智能所帶來的問題,敢于直面未來!
參考文獻(xiàn):
[1]吳漢東.人工智能時(shí)代的制度安排與法律規(guī)制[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2017,35(5):128-136.
[2]郭明瑞,房紹坤.民法(第四版)[M].北京:高等教育出版社,2017.
[3]喬雪吟.人工智能時(shí)代的制度安排與法律規(guī)制[J].法制博覽,2019(8):251.