陳 蓉

(廣西師范大學，廣西 桂林 541000)

隨著技術發(fā)展的突飛猛進，人工智能愈發(fā)趨同于人類，對以人為核心的社會關系提出新的挑戰(zhàn)?；艚鹪A言人工智能給人類帶來的災難是毀滅性的，現階段引發(fā)的恐懼和種種討論使得我們不得不重新審視人工智能(1)的定位及未來發(fā)展方向?！缎乱淮斯ぶ悄馨l(fā)展規(guī)劃》提出為確保人工智能健康發(fā)展，應制定與之配套的法律法規(guī)和倫理道德框架，同時應有專業(yè)團隊進行安全評估和監(jiān)管。目前我們正處于弱人工智能階段，人工智能的發(fā)展還在可控范圍內。2017年阿西洛馬會議達成了人工智能發(fā)展原則，這23項原則強調人工智能發(fā)展的安全問題，明確規(guī)定開發(fā)者的職責，在人工智能長期發(fā)展過程中要保證人類的控制權，實現風險可控。該原則還提出人工智能的不斷改進和超級智能的發(fā)展始終以服務全人類的共同倫理理想和共同利益為目的[1]。

人工智能是科技發(fā)展的一項技術成果，科技發(fā)展以服務人類為目的，任何技術的開發(fā)均需秉持以人為本、以人為中心的理念，以滿足人的愿望和生活需求為目標，在道德、價值、倫理的框架內和諧發(fā)展。目前人工智能的運用已較為普及，隨著“智慧城市”建設的步伐，社會智能化程度已成為衡量一個國家、地區(qū)發(fā)展水平的關鍵因素。因此確立人工智能發(fā)展規(guī)劃、對人工智能的研發(fā)和應用進行道德規(guī)范，使人工智能的發(fā)展在倫理道德、法律、價值的框架內和諧發(fā)展，已經具有急迫性和必要性[2]。在解決上述問題之前，明確人工智能在法律體系中的定位尤為重要。

一、我國法律主體概述

目前我國民法承認的人格概念有自然人格和擬制人格。

(一)自然人格

自然人格，即自然人的人格。自然人是指有生命的、個體意義上的人，包括本國公民、外國公民和無國籍人[3]。現代民法中以“自然人”為核心的主客二分法(2)[4]體系飽受爭議。隨著追求人與大自然和諧相處的步伐，環(huán)境法學界對動物主體資格的爭議不斷。動物作為大自然的一部分，與傳統的物有所差別，不能簡單的將其納入民法上“物”的范疇，普通民法上對物的保護已經不能滿足人類的情感需求。動物具有生命、具有情感，特別是近年來飼養(yǎng)寵物盛行，由此產生的感情依賴關系難以在法律上找到支撐。動物不具有法律認可的意思表示，不能要求人類為他們做什么、不做什么，面對人類給予的福利只能被動地接受，不能主動索取。動物的被動性說明其只能作為人類支配、管理的對象，在法律上只能作為客體[5]?！兜聡穹ǖ洹分忻鞔_規(guī)定“動物不是物”，將動物確定為特殊物對待。這一規(guī)定仍然將動物置于法律客體的范疇，并沒有撼動以“自然人”為中心的民事主體法律制度[6]。

(二)擬制人格

擬制人格是隨著社會發(fā)展賦予法人的民法上的地位，與自然人相對應。法人是眾多自然人基于特定目的有意識的組織起來的群體，包括三類：企業(yè)、事業(yè)單位；政黨、社會團體；國家機關[3]。賦予法人民事主體的地位是基于經濟生活的需求，使他們享有同自然人一樣的法律地位，其實質還是對法人背后自然人的保護。

從歷史發(fā)展進程看，民事主體的變化整體呈現擴張趨勢。從家父、家子、黑奴、婦女、再到所有自然人，甚至是尚未出生的胎兒。正是這種擴張趨勢，導致有學者認為動物作為特殊存在，理應被賦予法律主體資格。人工智能作為科技發(fā)展的產物，現在表現出趨同于人類的特點，甚至有學者主張給予其法律主體上的承認。立法應當具有前瞻性，對未來社會有合理的預期，隨著社會科技的發(fā)展，法律主體不應固守在現有的法律主體范圍內，但作為調整社會整體運行方向的價值規(guī)范，在確定新型民事主體之前，應進行多方考證，探尋建立新主體的必要性和可行性，特別是建立后能否與現行法律規(guī)范相適應。人工智能隨著科技的進步已具備自然人的很多能力，如思維、表達、辨別、自主決策，但它的這些能力都是有限的，都是為了一定的目的進行某一特定活動?；谝陨咸攸c，對是否賦予人工智能體法律主體地位的問題，我們應當透過現象觀察人工智能體的本質特征及若將其確定為法律主體，后續(xù)產生的權利、義務和責任承擔問題又如何解決。

二、國內有關人工智能體法律主體研究的總結與反思

目前學界對人工智能的法律主體地位問題探討主要有三種觀點：電子人格說、有限人格說和人工類人格說。

(一)電子人格說

2016年，歐盟收到建議將機器人定義為“電子人”的法案。法案中提出對機器人進行身份登記，開設資金賬戶，投保責任險。機器人享有特定的權利和義務，如享有著作權、勞動權、依法納稅，資金賬戶的設立便于進行交易、領取養(yǎng)老金。該法案于2017年2月通過，明確最精密的自主機器人才能獲得“電子人”地位[7]。郭少華先生認為應該賦予人工智能“電子人”的身份用來表征人工智能機器和系統，設立基礎和依據正在生成并逐步強化，并且在經濟、社會、文化、倫理影響及哲學上的沖擊促使人工智能主體地位的轉換。日本授予寵物機器人帕羅戶籍；美國聯邦法律規(guī)定自動駕駛系統可視為“駕駛員”；沙特授予索菲亞公民身份均為人工智能獲得“電子人”身份提供實踐基礎。法律主體范圍從羅馬法開始逐漸擴張以及對一些寺廟、建筑、河流等無生命體法律主體地位的給予為“電子人”創(chuàng)造了制度空間。人工智能機器或系統本身的自主性、主動性表明與傳統法律客體的區(qū)別，在承擔責任風險時，人工智能風險之大導致單個的主體不具備承擔責任的能力，“電子人”保險制度便可發(fā)揮作用[8]。

以上基于人工智能機器和系統的自主性和主動性、通過保險制度有效分擔責任而設立“電子人”主體地位，表面上看可以有效解決目前弱人工智能時代面臨的種種問題，但一項新主體的設立需要進行多方面的考證。人類可以基于理性、感性控制自己的行為，現階段的人工智能還未達到這一水平，甚至將來也無法達到。我們應該從人工智能機器以及系統的本質屬性和特征分析授予人工智能“電子人”的主體地位是否有必要，以及通過保險制度能否有效解決后續(xù)產生的責任承擔等一系列問題。

(二)有限人格說

楊清望先生、張磊先生和袁曾先生認為人工智能智能作為特殊的法律主體，承擔有限法律責任。楊先生、張先生牢牢把握人工智能是作為輔助工具為人類服務的定位，主張賦予人工智能擬制人格，只能享有部分權利，承擔部分責任，位于自然人、法人和非法人組織之后。對人工智能實行備案登記，通過責任分擔的方式將對外責任、對內責任、結果責任和最終責任合理分擔[9]。袁先生主張人工智能現階段已具備行為能力，具備享受權利和承擔義務的資格，應當賦予法律主體資格，但是人工智能享受權利、承擔義務、責任的能力有限，只能賦予有限的法律主體資格。袁先生提出人工智能對人類的影響分為短期影響和長期影響。短期影響就是現階段面對的人工智能應當由誰控制的問題，長期影響是指隨著人工智能智能水平的提高，人類能否在任何時候都有效控制其行為。因此針對人工智能發(fā)展，為確保受害人得到有效救濟應當強制人工智能投保責任險，建立完備的專家監(jiān)管體系，引導人工智能良性發(fā)展[10]。

以上幾位學者的觀點從整體來看，均認為人工智能雖然有獨立思考的能力，但這一思考能力是基于輸入的程序、算法，在有限范圍內的思考，且人工智能在人類社會中仍是作為工具存在，與人類有本質區(qū)別，因此賦予有限法律人格?！栋⑽髀羼R人工智能原則》第23條規(guī)定人工智能的應用必須堅持以人為本，規(guī)制人工智能的法律也應當將人類利益放在首位[1]。有限法律人格的賦予看似能解決目前面臨的一些問題，但是有限法律人格是否屬于法律人格？既然設立這一有限人格后仍需要人類承擔最終責任，按照現有法律規(guī)定將人工智能歸于客體，投保責任險后，人類在保險之外承擔補充責任也有明確依據。那這一設立是否還有必要？值得深思。

(三)人工類人格說

楊立新先生認為人工智能的法律地位應當概括為人工類人格。人工智能是一系列元器件組合的結果，不具有生命，這是相比于自然人最本質的區(qū)別。即使其在人類賦予一定的意識能力之后可以承擔一定的社會角色，也不能將其作為民事主體參與到社會關系中，因為人工智能在特定領域、基于特定目的做出的行為與人類根據自我意識，在理性和感性的驅動下做出的民事行為存在本質區(qū)別。人工智能不是人，不能作為法律主體，即使人工智能發(fā)展得再有智慧，甚至是所謂的超級人工智能時代真的實現，其也不能具有民事主體資格。人工智能屬于人工產物，它可能在制造過程中培育出了某種意志，能夠通過機器學習產生更高的智慧，承擔一定的社會角色，無限的接近于自然人，但無論其如何發(fā)展，始終無法獨立的活動，承擔法律責任。人工類人格仍屬于物的范疇，處于物格中的最高地位，這一名稱能夠更清楚的區(qū)分人工智能與其他物的區(qū)別。賦予人工智能這一法律地位后，由人工智能引發(fā)的責任承擔通過現有的法律就能有效解決，避免了在技術發(fā)展尚不成熟的情況下大肆修改法律，影響法律的穩(wěn)定性[6]。

以上楊先生的觀點既沒有撼動傳統主客二分法的法律信條，還有效解決民事責任承擔問題，是目前處理人工智能法律問題較為科學的一種方式。劉洪華先生提出將人工智能作為特殊物對待，與楊先生的觀點有異曲同工之妙。劉先生認為人工智能僅是模擬人類看得見的智慧，通過信息獲取、知識提煉、深度學習等操作行為，達到解決特定問題的目標。它解決問題的路徑僅是通過對海量數據進行計算，生成特定算法解決特定問題，與人類基于豐富的閱歷，從理性、感性等多方面因素結合作出決定的路徑存在本質區(qū)別。將人工智能置于法律客體的范疇，既能避免法律體系的動蕩，又能更好地規(guī)制人工智能，也是目前解決人工智能面臨法律爭議的有效方法[11]。

三、弱人工智能的本質特征

(一)不是生物學上的自然人

曹新明先生在一次講座中談到人類全部活動的終極目的是繁衍、生存、發(fā)展。人工智能作為科技領域的一項技術成果，屬于人類共同智力勞動成果。人類自身能力有限，為了生存發(fā)展，必須創(chuàng)造一些能夠起輔助作用的工具來擴展人類的體能和智能，人工智能便是這樣一種工具。人工智能是由一系列電路和元器件組成，具有可預見性、可復制性、可替代性，其不能通過繁衍產生自己的后代，而人體是由細胞構成，可以通過繁衍產生后代，進行自我創(chuàng)造，具有不可預知性、不可替代性。

(二)缺乏獨立的意識

人工智能要想具有意識，必須首先具有理性能力?？档绿岢鲎鳛榉芍黧w的自然人應當具備理論理性和實踐理性。理論理性是指認識客觀世界的能力；實踐理性是指在道德秩序和法律秩序的框架內進行活動，在活動過程中存在基本的判斷能力。而人工智能在運作過程中完全排除情感、欲望等的影響，只服從于人類的指令，而人類在活動過程中是整個心智在運作，有邏輯推理，有情感、欲望的影響，是綜合作用的結果[12]。因此人工智能并不具有成為自然人法律主體所需具備的理性。人工智能的意識來自人類賦予，根據輸入的算法和程序，通過整理、提煉、深度學習，最終根據學習成果在人類可預想的結果范圍內做出行為，可以認為其具有一定的獨立意識，但這一獨立意識產生的行為在人類可控范圍內。黑格爾比喻人的意志對于人的意義就像重量對于物一樣，二者是密不可分的。沒有自由意志的人僅是生物學上的一個生命，不會作為主體參與到社會生活中[13]。AlphaGo通過對許多圍棋高手下棋思路的深度學習可以算出下棋點的概率，并挑選概率最大的地方落子，這是AlphaGo戰(zhàn)勝世界圍棋高手原理。若對弈者采用新的思路布棋，AlphaGo就不會贏[14]。

人類可以基于生物性和智慧實現不同目的的行為，而人工智能只能根據人的指令、設備和計算機處理系統做出特定行為[15]。因此人工智能在人類設定范圍內表現出一定的獨立意識，但與人類所擁有的完全獨立意識還存在差別，即人工智能無論多么強大，其僅表現在對規(guī)則的理性推理方面，它始終無法像人類一樣去運用超越規(guī)則之上的價值判斷[16]。

(三)社會角色不突出

民事法律關系的調整對象是人與人之間的社會關系[3]。每個人都能根據自己的意識與他人交往，成立獨立的社會角色，在這一交往中摻雜個人情感，人與人之間的情感聯結促進法律關系的進一步產生。而處于弱人工智能時代的人工智能明顯還不具備情感要素，沙特公民索菲亞的出現看似是一個獨立的社會角色，對記者提問對答如流，但她僅是現階段人工智能出現的一個特例，目前人工智能發(fā)展還未達到類似索菲亞一樣的機器人普及的程度[6]。因此就目前來看人工智能會承擔一定的社會角色，但這一角色地位并不突出。

(四)不具備獨立承擔責任的能力

“電子人說”提出為人工智能設立資金賬戶，投保責任險。思考發(fā)現其背后的管理人還是自然人，且若人工智能責任險和資金賬戶無法完全承擔賠償責任，受害人的權利就得不到有效救濟。目前的法律規(guī)定中并沒有賦予人工智能可以獨立進行民事活動，其大多是作為輔助人類的工具存在，相當于民事法律規(guī)范中的產品。如2015年德國大眾汽車制造廠機器人致人死亡，賠償責任由機器人的“所有人”承擔[17]。

人工智能不能進行觀察、思考、判斷、選擇等復雜行為，沒有獨立財產，沒有獨立承擔責任的能力，因此很難在法律框架中將其作為獨立的責任主體看待，也無法通過追究人工智能體的民事責任、行政責任和刑事責任來有效保護自然人的合法權益[18]。因此我們應當考慮如何有效救濟人工智能帶來的侵害，即使為人工智能確立一定的法律主體地位，由于其沒有獨立財產、沒有能力承擔責任，最終責任還是要落到自然人，那為其設立主體地位也就沒有法律意義[19]。

四、人工智能法律地位是人工智能體

通過前文分析，人工智能作為一項技術成果、作為輔助人類行為的工具，我們應當在法律客體的范圍內對其進行保護，但由于其具有一部分獨立意識、可以承擔一定的社會角色，與傳統民法意義上的物存在本質區(qū)別，因此可以將其定義為“人工智能體”，按照不同的用途將其分類，在現有的法律體系框架內進行保護和責任分配。

首先，人工智能雖有部分人類的特征，但是其源于人類制造，根據制造目的其應當歸屬于物的范疇，與自然人之間界限明確且不可逾越。采用“人工智能體”這一名稱，原因有二：第一“人工智能體”能清晰表達其本質特點，人工智能體是由人工智能系統組成的一種設備或系統，構成物的實體存在。第二運用人工智能體這一概念能有效區(qū)分其與其他物的界限且辨識度高，能夠被普通大眾所理解。

其次，賦予人工智能特定名稱，有助于區(qū)分其與其他物且有助于提高定位，即在物格中處于較高位階。類似于對動物的保護也是將其定位為特殊物，進行特殊保護，有特殊規(guī)定的按特殊規(guī)定處理，沒有特殊規(guī)定的按照傳統民法中的物對待[6]。對待人工智能采取同樣的保護方式，但我認為基于人工智能不斷發(fā)展的現狀，對人工智能體的法律物格應當高于動物。分別在倫理道德、發(fā)展方向和責任分配等方面均作出詳細規(guī)定。

最后，人工智能體雖是冷冰冰的技術堆砌的結果，但其作用是輔助人類追求更高質量的生活水平，滲透于人類生活的各方面，因此對其保護應充滿人文主義關懷，使得人類與人工智能體能夠和諧共存。韓國制定的《機器人基本法案》中規(guī)定在特殊情況下，機器人可以有條件地取得法律主體資格以提升對于人工智能的倫理關懷。機器人在設計、制造、使用過程中都應當遵守機器人倫理規(guī)則[10]。因此我們應當借鑒國外先進經驗，立法時注意以下幾點：

第一：維護現代社會倫理道德關系；

第二，監(jiān)管人工智能發(fā)展方向，確保其朝著有利于人類進步的方向發(fā)展；

第三，對人工智能發(fā)展持寬容審慎的態(tài)度；

第四，立法應有利于促進人工智能的發(fā)展[20]。

阿西莫夫提出的機器人學三大法則一直是研究人工智能學者的標桿，人工智能不應該傷害人類、也應當防止人類受到外來侵害，在這一前提之下保護自身不受傷害[21]。對人工智能體產生的侵害問題通過現有法律體系中的產品責任就能有效解決，在目前人工智能體還不具備成熟的承擔責任機制的前提下只能將最終責任歸屬于背后的自然人以保護受害人得到合理、及時的救濟。

由于人工智能體開發(fā)前期就需要大量資金投入，若再將后期產生的責任歸于人工智能體背后的設計者、制造者承擔，不可避免的會阻礙人工智能體研究進程。因此可以根據用途不同為人工智能體投保責任險。弱人工智能時代的人工智能體分為家用智能化產品和高度自主人工智能產品。家用智能化產品主要包括家用掃地機、智能音箱等作為生活輔助工具的低端人工智能產品，對由它們產生的侵權責任適用傳統的產品責任解決即可，不用投保責任險。專用人工智能產品主要包括機器人保姆、醫(yī)用機器人等實際參與、影響人類生活高度自主人工智能產品，其造成的風險是無法估量的。因此在投入使用前應經過嚴格審查、層層把關，通過投保責任險分擔責任的同時為受害人也提供保障。產品侵權責任中有一項原則是，針對投入流通時依據當時技術水平無法發(fā)現的缺陷造成的損害可以免除適用，這一原則不能想當然適用于人工智能體。由于人工智能體的特殊性，特別是專用人工智能體，其行為后果的風險并不是使用者能全部規(guī)避或承擔的，制造商應當負有追蹤審查的義務，確保在可控弄范圍內運行，一旦發(fā)現缺陷應立即召回[18]。

五、結論

科技發(fā)展給人類帶來便利的同時也引起人們的恐慌。人工智能作為新興領域的科技產物，對其類人特征應嚴謹對待，審慎分析。在倫理道德、價值追求的框架內尋求合理的保護途徑。將人工智能作為民法上物的最高格，命名為“人工智能體”予以保護，既能有效解決產品侵權責任，又能有效規(guī)制風險，是目前較為正確的、科學的選擇。通過法律的規(guī)制讓人工智能體作為人類的輔助工具捍衛(wèi)人類權利，造福人類。

[注釋]

(1)本文所討論的人工智能是處于弱人工智能時代，由人類制造的可以獨立行動的人工智能個體。

(2)主客二分法是指主體和客體之間有明確的界限，蔡守秋先生認為僵化的“主客二分法”產生了一系列脫離現實、違背常理、違反科學、不合邏輯、自相矛盾的弊病，于是他提出了主客一體化的觀念，是指人和物的主體地位或客體地位不是絕對的，而是相對的、有條件的、可以相互轉換的。