程承坪

(武漢大學經(jīng)濟與管理學院，武漢 430072)

出于兩個方面的原因需要思考人工智能是否具有自主性的問題： 一是哲學，二是現(xiàn)實。從哲學角度而言，隨著人工智能技術的不斷發(fā)展，人工智能不但擁有了越來越多的智能，而且還逐漸擁有了情能，(1)程承坪.大力開發(fā)服務型人工智能的情能[J].武漢科技大學學報(社會科學版)，2020，21(4)： 449-455.能夠自主決策，這促使人們思考人工智能是否具有自主性。(2)李仁涵.人工智能技術屬性及其社會屬性[J].上海交通大學學報(哲學社會科學版)，2020，28(4)： 19-22.如果人工智能具有自主性，那么它是否會挑戰(zhàn)人類獨一無二的尊嚴地位？這可能會促使人們重新思考人的本質(zhì)以及人類的未來等問題。如從現(xiàn)實角度而言，如果人工智能具有自主性，那么它能否成為勞動力、公民、人類的朋友甚至于敵人，如果人工智能違反了法律法規(guī)或倫理道德，那么人們該如何處罰它，等等。

因此，研究人工智能是否具有自主性的問題，既具有重要的理論價值，也具有重要的現(xiàn)實意義?；卮鹑斯ぶ悄苁欠窬哂凶灾餍缘膯栴}，需要結合人工智能的技術特點和哲學社會科學理論綜合論證。本文首先從自主性概念出發(fā)，討論什么是自主性。然后，根據(jù)人工智能的技術特點，對標自主性概念，得出人工智能是否具有自主性的結論。研究結果表明，人工智能可以具有弱自主性。

一、 什么是自主性

自主性(autonomy)是指行為主體按照既定的目標，管理、控制自己的行為導向目標的特性。(3)叢杭青，王曉梅.何謂Autonomy[J].哲學研究，2013(1)： 108-115；王曉梅，叢杭青.自主性與道德[J].哲學研究，2014(2)： 86-92，128.行為“不受外來力量的操控”是自主性的前提，因而自主性意味著行為主體具有自由意志。而自我意識是自由意志的前提，自由意志的行使要受到道德的約束或影響。正如美國政治哲學家、倫理學家約翰·羅爾斯(John Rawls)所指出的，“所謂‘自主的行為’，就是我們依據(jù)自己作為自由、平等的理性生命愿意接受的那些原則而從事的行為”。(4)Rawls J. A Theory of Justice [M]. Boston： Belknap Press of Harvard University Press， 1971： 516.根據(jù)羅爾斯的論述，道德意識是構成自主性的必要條件。

一般而言，自主性包含自我管理和自我立法兩種含義。自我管理是指對自我行為的管理，自我立法是指行為主體“服從自己制定的道德法則”。(5)Kant I. Groundwork of the Metaphysic of Morals [M]. New York： Harper & Row， 1958： 57-58.康德(Immanuel Kant)和密爾(John Stuart Mill)認為，自我意識、自由意志和道德責任是構成自主性的三個基本要件。(6)陳化.論AI的自主性及其限度[J].中國醫(yī)學倫理學，2020(7)： 815-820.

自我意識(self-conscious)是指“以自我為思考對象的行為”。(7)埃利奧特·阿倫森.社會心理學[M].侯玉波，譯.北京： 中國輕工業(yè)出版社，2007： 110.對自我意識通常采用“鏡子測試”(mirror test)的科學方法。(8)1970年，心理學者戈登·蓋洛普(Gordon Gallup)設計了“鏡子測試”： 給動物臉上貼一個標簽，如果動物能區(qū)分標簽在哪一邊，就意味著它能區(qū)分“我”和“非我”；如果它不能區(qū)分標簽在哪一邊，那么它就沒有基本的自我意識。采用這一測試方法發(fā)現(xiàn)，只有黑猩猩和獼猴等少數(shù)幾種動物以及人類具有自我意識。(9)高申春，董雪.時間、自我與意識： 現(xiàn)象學視域下人類意識的獨特性[J].河南師范大學學報(哲學社會科學版)，2015(2)： 84-88.

一般認為，自我意識不僅存在“有沒有”的問題，而且存在“強與弱”的問題。黑猩猩和獼猴等少數(shù)幾種動物以及幼兒的自我意識較弱，正常的成年人的自我意識較強，并且正常的成年人的自我意識也存在個體的差別。自我意識的強弱表現(xiàn)在客觀地評價自我、反思自我的能力的強弱。正如黑格爾(Friedrich Hegel)所指出的，相對于動物而言，人的自我意識較強，只有人可以意識到自由精神。(10)黑格爾.精神現(xiàn)象學： 上卷[M].賀麟，王玖興，譯.北京： 商務印書館，1987： 11.

自由意志(free will)是指行為主體根據(jù)自身的意愿或需要做出選擇的能力。通常采用兩個標準來衡量自由意志： 一是選擇性標準，即行為主體根據(jù)自身的意愿或需要進行行為選擇的能力；二是內(nèi)生性標準，即行為主體不受外部約束獨立做出行為選擇的能力。(11)駱正言.從自由意志談人工智能的法律主體資格[J].湖南社會科學，2020(2)： 43-50.

按照上述兩個標準，研究表明，只有人類具有自由意志，而除人之外的動物不具有自由意志。(12)少數(shù)動物具有非常弱的自由意志，因此常常被人們忽略。參見保羅·R·埃力克.人類的天性： 基因、文化與人類前景[M].李向慈，洪佼宜，譯.北京： 金城出版社，2014： 147.研究表明，雖然黑猩猩和獼猴等少數(shù)幾種動物具有自我意識，但它們的自我意識通常表現(xiàn)為一種潛意識(subconscious)，它們根據(jù)自己的生物本能對外界的刺激做出反應。雖然這些動物能夠通過“鏡子測試”，但它們無法擺脫自然束縛，更不可能改造自然，它們屬于自在的、不自由的意識主體，它們沒有自由意志。而人類不但能夠在一定程度上擺脫自然束縛，而且能改造世界，為自己設計行為規(guī)范和目標，意識到自由精神，因此，人類是一種自為的、自由的意識主體，具有自由意志。自由意志蘊含了對現(xiàn)實的否定性和超越性，意味著人類思想的無限性和開放性，它是人類不竭創(chuàng)造力的源泉。(13)李豐.人工智能與藝術創(chuàng)作： 人工智能能夠取代藝術家嗎[J]. 現(xiàn)代哲學，2018(6)： 95-100.同樣，自由意志也存在強弱之分，由弱到強可以依次形成自由意志的光譜帶。

自我意識是自由意志的基礎或必要條件，沒有自我意識就不可能發(fā)展出自由意志，但自由意志又反作用于自我意識。

所謂道德責任(moral responsibility)，是指行為主體依據(jù)自由意志，對自己的行為造成的后果承擔道義上的責任。(14)赫伯特·哈特(Herbert Hart)將責任劃分為四種類型： 角色責任(role responsibility)、因果責任(causal responsibility)、義務責任(liability responsibility)和能力責任(capacity responsibility)。參見Hart H. Punishment and Responsibility： Essays in the Philosophy of Low(Second Edition)[M]. London： Oxford University Press， 2008： 210-237. 本文所謂的道德責任可歸屬于哈特所說的義務責任。所謂義務責任，是指責任人按照法律法規(guī)和道德規(guī)范等應當承擔的代價。倫理學研究表明，自由意志是道德責任的前提，沒有自由意志就沒有道德責任，但道德責任對自由意志又有反作用。(15)宋尚瑋的研究認為，某種特殊條件下被剝奪了或喪失了自由意志的人也要承擔道德責任。參見宋尚瑋.論自由意志并非道德責任的必要條件[J]. 哲學分析，2019(4)： 161-168，199。但是這并沒有否定自由意志對道德責任的作用，譬如沒有自由意志的動物是不可能承擔道德責任的。動物沒有自由意志，因而沒有道德責任；人類具有自由意志，因而具有道德責任。

綜上所述，自我意識、自由意志和道德責任是構成自主性的三個基本要件，其中自由意志是核心要件，沒有自由意志就不可能發(fā)展出道德責任，自由意志會反作用于自我意識，缺乏自由意志也會削弱自我意識的發(fā)展。具有自我意識才能發(fā)展出自由意志，具有自由意志才能發(fā)展出道德責任，道德責任會反作用于自由意志。自我意識、自由意志和道德責任三者之間的關系如圖1所示。人類既具有自我意識，也具有自由意志和道德責任，因而人類具有自主性。而大多數(shù)動物不具有自主性，只有少數(shù)幾種動物具有較弱的自我意識，但它們不具有自由意志和道德責任。因此，按照自主性標準衡量，動物不具有自主性。

二、 人工智能可以具有弱自主性

自主性的三個構成要件是判斷人工智能是否具有自主性的標準。

第一，對照自我意識概念及其存在的基礎，判斷人工智能是否具有自我意識。當前“鏡子測試”是衡量人或動物是否具有自我意識的常用科學方法。目前科學家已經(jīng)開發(fā)出能夠通過“鏡子測試”的人工智能機器人。譬如，耶魯大學開發(fā)的人工智能機器人尼科(Nico)，通過了“鏡子測試”；紐約倫斯勒人工智能和推理實驗室開發(fā)的人工智能機器人納歐(Nao)，不但通過了“鏡子測試”，還通過了“智者難題測試”(Wise Man Puzzle Test)。這意味著人工智能可以擁有自我意識。(16)駱正言.從自由意志談人工智能的法律主體資格[J].湖南社會科學，2020(2)： 43-50.

盡管人工智能通過了“鏡子測試”，但是學術界仍然有許多學者并不承認人工智能真正具有自我意識。譬如，吳冠軍認為，人工智能通過了“鏡子測試”，只能表明人工智能看上去具有自我意識，但實際上它并不真正具有自我意識。(17)吳冠軍.神圣人、機器人與“人類學機器”： 20世紀大屠殺與當代人工智能討論的政治哲學反思[J].上海師范大學學報(哲學社會科學版)，2018(6)： 42-53.看上去具有自我意識，意味著如果人工智能機器人混雜在人群中，那么人們很難把它與人區(qū)別開來?！翱瓷先ゾ哂凶晕乙庾R”(后文簡稱“形式自我意識”)與“真實具有自我意識”(后文簡稱“實質(zhì)自我意識”)是有本質(zhì)區(qū)別的。本質(zhì)區(qū)別在于，前者是被人類賦予的自我意識，屬于技術性行為，它只擁有“語法”而刪除了“語義”，后者既擁有“語法”又擁有“語義”，屬于生物行為和社會行為，它是人類認知進化和社會化的結果，無法通過模擬獲得。(18)塞爾(Searle J)指出：“計算機程序永不可能替代人心，其理由很簡單： 計算機的程序只是語法的，而心不僅僅是語法的。心是語義的，就是說，人心不僅僅是一個形式結構，它是有內(nèi)容的?！眳⒁姡?塞爾.心、腦與科學[M].楊音萊，譯.上海： 上海譯文出版社，2006： 23.

現(xiàn)代神經(jīng)生理學認為，生命是自我意識的前提，自我意識是由巧妙組織起來的復雜神經(jīng)元系統(tǒng)“涌現(xiàn)”的結果。認知和計算機科學專家瑪格麗特·博登(Margaret Boden)指出，生命的本質(zhì)特征是新陳代謝，由無機物構成的人工智能，無論發(fā)展到什么程度都不可能具有新陳代謝能力。(19)博登.AI： 人工智能的本質(zhì)與未來[M].孫詩惠，譯.北京： 中國人民大學出版社，2017： 168-169.根據(jù)同樣的認識，心理學家和計算機專家蘇珊·布萊克摩爾(Susan Blackmore)認為，“人工意識不可實現(xiàn)”。(20)Blackmore S.人的意識[M].耿海燕，李奇，等，譯.北京： 中國輕工業(yè)出版社，2008： 183.這就是說，人工智能不可能擁有實質(zhì)自我意識。根據(jù)自主性的發(fā)展邏輯，人工智能自我意識不足，就難以生成較強的自由意志。

第二，對照自由意志概念，判斷人工智能是否具有自由意志。美國喬治城大學教授大衛(wèi)·弗拉德克(David Vladeck)指出，為了完成人類交給的任務，人工智能可以自主地獲取數(shù)據(jù)、分析數(shù)據(jù)，并根據(jù)環(huán)境變化自主采取行動。(21)Vladeck D C. Machines Without Principals： Liability Rules and Artificial Intelligence [J]. Washington Law Review, 2014， 89(1)： 117-150.美國圣母大學教授弗雷德里克·克羅森(Frederick Crosson)指出，部分人工智能裝有隨機發(fā)生器(Randomiser)，導致人工智能的行為具有一定的不確定性和不可預測性。(22)Masahiro Morioka. Artificial Intelligence and Contemporary Philosophy[J]. Philosophy, 2019(70): 51-68.計算機專家阿米爾·侯賽因(Amir Hussein)指出，有些人工智能機器人不但可以按照人類的指令完成任務，而且可以“為自己設定行為目標”。(23)侯賽因.終極智能： 感知機器與人工智能的未來[M].賽迪研究院專家組，譯. 北京： 中信出版社，2018： 36.這就意味著人工智能既可以滿足自由意志的選擇性標準，也可以滿足自由意志的內(nèi)生性標準，從而判斷它具有自由意志。

但是，如果我們比較人類的自由意志與所謂的人工智能自由意志，就會發(fā)現(xiàn)兩者存在較大的差別。差別具體表現(xiàn)在，在相同的約束條件下，人工智能只會做出相同的行為選擇，而人類可能會做出不同的選擇，這是人類能動性的自由意志的表現(xiàn)，也是人類創(chuàng)造性(24)美國人工智能專家侯世達(Douglas Hofstadter)認為，對創(chuàng)造性有不同的理解，譬如人工智能發(fā)現(xiàn)游戲里面特別的玩法和技巧，或者找到以前一直沒有找到的數(shù)學公式，這也可以認為具有一定的創(chuàng)造性，但這種創(chuàng)造性不是基于程序的創(chuàng)新想法、創(chuàng)新意愿或者創(chuàng)新熱情驅動的。參見劉彥聲.人工智能的表象與本質(zhì)： 侯世達教授專訪[J].清華管理評論，2018(4)： 5-8.本文對創(chuàng)造性做這樣的界定： 創(chuàng)造性是指能夠無中生有，超越既有經(jīng)驗產(chǎn)生出了新思想或新事物。按照這一界定，那么人工智能發(fā)現(xiàn)游戲里面特別的玩法和技巧，或者找到以前一直沒有找到的數(shù)學公式，就不能被認定為具有創(chuàng)造性。同樣，微軟智能機器人“小冰”寫作詩集《陽光失了玻璃窗》，也不能被認定為具有創(chuàng)造性。的源泉。人工智能是由大數(shù)據(jù)驅動的，其行為是由其設計者事先通過植入的程序驅動的。(25)程承坪.人工智能的工作機理及其局限性[J].學術界，2021(1)： 189-196.人工智能的行為功能不是其內(nèi)在物理屬性的表現(xiàn)，而是由人工智能專家從外部賦予它的。(26)Searle J. Mind， Language and Society [M]. New York： Basic Books， 1998： 121-122.因此，人工智能可視為決定論世界中的能動者。(27)Van I P. An Essay on Free Will [M]. Oxford： Clarendon Press， 1983： 3.瑪麗亞·布朗克(Maria Brincker)指出，人類的自主性來源于人的具身性，它是從不同的自主體的互動中“涌現(xiàn)”的結果。(28)Brincker M. Dynamics of Perceptible Agency： The Case of Social Robots [J]. Mind and Machines， 2016， 26(4)： 441-466.因此，人類的自由意志與人工智能的自由意志既有能動性上的區(qū)別，也有來源的差別。

由于人類具有能動性的自由意志，而人工智能只具有決定論條件下的自由意志，與人類相比較，人工智能只具有弱自由意志。(29)關于自由意志，有四種代表性的觀點： 自由意志論、融貫論、理性回應論和推理回應論。自由意志論認為，如果一個決定可以被其他的決定替代的話，那么這個決定就是自主的。如果按照此定義，那么可以判斷人工智能不具有自由意志。但理性回應論認為，如果一個有理性的人按照自己的理性做出決定，那么他就具有自由意志。如果按照此定義，那么可以判斷人工智能具有自由意志。按照上述四種不同的觀點，人工智能或具備或部分具備甚至于不具備自由意志。參見鄔桑.人工智能的自主性與責任[J].哲學分析，2018(4)： 125-134，198.本文主要根據(jù)理性回應論對人工智能是否具有自由意志做出判斷。根據(jù)自主性的發(fā)展邏輯，人工智能自由意志不足，就難以反作用于自我意識生成較強的自我意識，也難以生成獨立的道德責任。

第三，對照道德責任概念，判斷人工智能是否具有道德責任?？梢酝ㄟ^把法律法規(guī)和道德準則規(guī)范化、符號化、算法化，賦予人工智能道德行為。人工智能專家已經(jīng)開發(fā)出一款人工智能手術機器人，它能夠按照醫(yī)療法律規(guī)范和道德準則處理與患者的關系，自覺遵守法律法規(guī)和道德規(guī)范。(30)Wallach W， Allen C. Moral Machines： Teaching Robots Right from Wrong [M]. Oxford： Oxford University Press， 2009： 197-214.仿照“圖靈測試”(The Turing Test)，柯林·艾倫(Colin Allen)、加里·瓦爾納(Gary Varner) 和杰森·辛瑟(Jason Zinser)構造了“道德圖靈測試” (The Moral Turing Test)來判斷人工智能是否具有道德能力。(31)Allen C， Varner G， Zinser J. Prolegomena to Any Future Artificial Moral Agent [J]. Journal of Experimental and Theoretical Artificial Intelligence， 2000， 12(3)： 251-261.2014年，俄羅斯人工智能專家弗拉基米爾·維塞羅夫(Vladimir Veselov)等人研發(fā)的聊天機器人尤金·古斯特曼(Eugene Goostman)在歷史上首次通過了“圖靈測試”，這表明“圖靈測試”并不是人工智能不可逾越的障礙。雖然目前我們還沒有看到人工智能通過“道德圖靈測試”的相關報道，但由于“道德圖靈測試”的原理與“圖靈測試”的原理是基本相同的，因此，可以推斷人工智能是可以通過“道德圖靈測試”的。這意味著人工智能可以具有道德能力。

但即使人工智能具有道德能力，也并不意味著人工智能能夠獨立承擔道德責任，因為道德能力只是道德責任的必要而非充分的條件。承擔道德責任必須具備理解道德行為與道德準則之間的關系的能力。人工智能并不具備理解自身的道德行為與道德準則之間的關系的能力。(32)由于人工智能缺乏能動性的自由意志，當存在多道德目標選擇且道德目標之間存在沖突的時候，人工智能就會陷入道德選擇的困境。這表明，賦予人工智能多道德目標的道德規(guī)則的做法是行不通的。參見瓦拉赫，艾倫. 道德機器： 如何讓機器人明辨是非[M].王小紅，譯.北京： 北京大學出版社，2017： 78-84.事實上，只有精神健康的成年人才具備這種能力。(33)神經(jīng)科學和遺傳學家、哲學家帕特里夏·丘奇蘭德(Partricia Churchland)指出，道德有其生物學基礎，沒有生物學基礎就不可能有真正的道德認知。參見Churchland P S. Braintrust： What Neuroscience Tells Us about Morality [M]. Princeton， New Jersey： Princeton University Press， 2011： 191-192.當前，法學界和倫理學界普遍認為，人工智能不具備獨立承擔道德責任的能力。(34)鄔桑.人工智能的自主性與責任[J].哲學分析，2018 (4)： 125-134，198；成素梅，高詩宇.智能機器人應有法律主體資格嗎[J].西安交通大學學報(社會科學版)，2020(1)： 115-122.根據(jù)自主性的發(fā)展邏輯，人工智能不能獨立承擔道德責任，就難以反作用于自由意志生成較強的自由意志。

綜上所述，人工智能可以具有形式自我意識、弱自由意志和道德能力，不大可能具有實質(zhì)自我意識，也不能獨立承擔道德責任。根據(jù)構成自主性的三個要件衡量，人工智能可以具有弱自主性。

三、 對人工智能可以具有弱自主性的思考

人工智能可以具有弱自主性至少可以帶給人們以下四個方面的思考。

第一，具有弱自主性的人工智能能否充當勞動力。當前我國正面臨人口老齡化加速，勞動年齡人口不斷減少，勞動力成本持續(xù)上升的困境。(35)賀丹.人工智能對勞動就業(yè)的影響[J].上海交通大學學報(哲學社會科學版)，2020，28(4)： 23-26.面對這一困境，政府正在積極調(diào)研，著手修改和完善現(xiàn)行退休政策、生育政策和社會保障制度等政策措施，但這些政策措施涉及面較廣、涉及問題較為復雜，政策措施實施的效果具有不確定性，因此政府出臺這些政策措施時特別慎重。由于人工智能具有無限供給且制造成本可以不斷降低的特點，如果人工智能能夠充當勞動力，那么中國依靠大量的人工智能勞動力，就能有效地擺脫上述困境。從勞動關系角度而言，人工智能勞動力與人類勞動力存在競爭關系、互補關系和獨立關系，特別是兩者之間的競爭關系可能導致勞動就業(yè)問題，但依靠制度創(chuàng)新，人類有能力把勞動就業(yè)問題降低到人們可承受的程度。因此，大力發(fā)展人工智能技術，使更多的人工智能具備勞動能力，這既有助于擺脫勞動力供給不足的困境，也有助于防止中國產(chǎn)業(yè)鏈因勞動力供給不足而斷裂。

第二，重新思考人的本質(zhì)特征和人類的未來。以往人們認為只有人類才具有自主性，這也是人類自詡為自然界最高等動物的理據(jù)。但現(xiàn)在人工智能逐漸也具有了一定程度的自主性，并且其智力的許多方面超過了人類，人類還能不能依憑自主性強調(diào)人是世界的尺度、以人類為中心以及自主性是人的本質(zhì)特征等主張，是否需要重新尋找人類不同于其他動物或物體的本質(zhì)特征？(36)成素梅.智能社會的變革與展望[J].上海交通大學學報(哲學社會科學版)，2020，28(4)： 9-13.目前人工智能具有弱自主性，但不排除人工智能自主性可能會不斷地增強，甚至于超過人類。此外，還有一種可能性，即人工智能發(fā)展出與人類不一樣的自主性，這種差異，不是表現(xiàn)在自主性的內(nèi)涵上，而是說兩者的自主性具有不同的結構優(yōu)勢。因此，人類與同樣具有自主性的人工智能將存在三種關系： 一是競爭關系，二是互補關系，三是獨立關系。從競爭關系角度而言，存在兩種結果： 一是人類控制人工智能，二是人類被人工智能控制。人類控制人工智能，讓人工智能為人類謀福祉，這是最好的結局。但是，如果人類被人工智能控制，由于人類是一種欲望不斷膨脹的動物，這意味著人類的欲望將被遏制，人類將失去自由，處于被奴役的狀態(tài)，甚至于被消滅。從互補關系角度而言，人類與人工智能可以和平共處、相互包容、相互依存，相互賦智和賦能，共同發(fā)展。從相互獨立關系而言，人類與人工智能可以相互獨立地發(fā)展。但這種獨立關系將是十分有限的，因為生存的空間是有限的，而且人類的欲望是無限的，人類與人工智能遲早將會發(fā)生競爭，其結果不是人類控制人工智能，就是人工智能控制人類，兩者必居其一。(37)發(fā)生人工智能與人類進行生存競爭，必須同時具備兩個條件： 一是人工智能擁有不同于人類的價值觀，二是人工智能具有繁殖能力。參見夏永紅，李建會.后奇點時代： 人工智能會超越并取代人類嗎？[J].教學與研究，2018(8)： 64-71. 我們認為，人工智能不可能同時滿足這兩個條件。因此，不會發(fā)生人工智能與人類進行生存競爭的問題。但是如果人機結合，那么人機結合體可以同時滿足這兩個條件，人機結合體有可能發(fā)生與現(xiàn)有人類的生存競爭問題。人類的未來可能因人工智能的發(fā)展而改變，需要人類早做謀劃。

第三，重新思考自主性的含義、特點、構成、來源、衡量方法、實踐價值等。過去人們往往是從人類與非人類動物的區(qū)別角度來界定、思考自主性的，而今不屬于動物的人工智能具有了弱自主性，而且人工智能自主性的許多特點與人類不同，因此現(xiàn)在人們可能需要重新思考自主性的內(nèi)涵、外延、構成、來源等問題。過去人們對自主性的討論往往是基于形而上學的視角，人工智能具有弱自主性，這就提出了一系列的新問題，譬如人工智能的弱自主性究竟弱到怎樣的程度，以及自主性需要強到怎樣的程度才能具備像正常人一樣的自主性，構成自主性的三個要件之間是如何相互轉化、相互促進等問題，就需要發(fā)展科學方法來解決。進一步言之，還需要思考自主性的實踐價值，思考實踐價值不僅有助于提高人工智能的自主性，也有助于完善人類的自主性。譬如，自由意志是人類創(chuàng)造性的源泉，而且只有具備了相當程度的自由意志才能發(fā)展出道德責任，并且道德責任對自由意志具有反作用，這就要求不斷地進行制度變革，創(chuàng)造出更多的促使人們對自己的行為負責的制度安排，從而使人們具有更多的道德責任感，這有助于提高自由意志能力和創(chuàng)造能力。

第四，人類與具有弱自主性的人工智能的關系。以往人類制造的勞動工具都不具有智力，更不具有自主性，因此人們把這些勞動工具僅僅視為一種無生命的工具，它不可能擁有與人類平等的地位。但現(xiàn)在人工智能不但具有了體力和智力，而且還具有了弱自主性，由于它與以往任何一種勞動工具都具有顯著的區(qū)別，它的地位是不是也應該與以往的勞動工具有所不同?具有弱自主性能否成為與人類具有平等地位的依據(jù)，如果不能，那么要取得與人類平等的地位需要具備什么條件？2017年沙特授予人工智能機器人“索菲亞”以公民身份，這表明人類需要平等地對待新的公民成員。可以預言，將來會有越來越多的“索菲亞”，而且“索菲亞”不僅會成為人們的同事，還可能會成為家庭成員，甚至于當一個部門的領導人。人類與“索菲亞”們?nèi)绾蜗嗵帉⑹且粋€需要認真思考的大問題。最主要的問題在于，如何改革現(xiàn)行的制度以適應具有弱自主性的人工智能廣泛地加入人類社會。譬如，現(xiàn)行的法律制度主要調(diào)整人與人之間的社會關系，但隨著具有弱自主性的人工智能與人類一同生產(chǎn)、生活成為常態(tài)，那么改革現(xiàn)行的法律制度就勢在必行。法律制度既要調(diào)整人與人之間的社會關系，也要擴展到調(diào)整人與具有弱自主性的人工智能之間的關系，還要調(diào)整具有弱自主性的人工智能之間的關系等。(38)本文的研究認為，人工智能具有弱自主性，這可為朱程斌和李龍等人的觀點提供新的研究視角。參見朱程斌，李龍.人工智能作為法律擬制物無法擁有生物人的專屬性[J].上海交通大學學報(哲學社會科學版)，2018(6)： 56-64.

四、 結 語

本文根據(jù)現(xiàn)有人工智能的技術特點，對照構成自主性的三個要件——自我意識、自由意志和道德責任，論證了人工智能可以具有弱自主性。具有弱自主性的人工智能至少可以帶給人們四個方面的思考： 一是具有弱自主性的人工智能能否充當勞動力；二是人的本質(zhì)特征究竟是什么、人類的未來前景如何；三是需要重新思考自主性的含義、特點、構成、來源、衡量方法、實踐價值；四是人類與具有弱自主性的人工智能的關系。

本文的研究結果表明，人類已經(jīng)能夠創(chuàng)造出具有弱自主性的人工智能。由于技術演化的速度呈現(xiàn)出指數(shù)級增長的態(tài)勢，我們沒有理由認為人工智能自主性程度會就此停止發(fā)展，在不久的將來，人工智能很有可能會發(fā)展出像人類一樣的自主性，或者發(fā)展出不同于人類的另一種形式的自主性。人類之所以能夠主宰世界，是因為人類演化出了自主性。(39)朱曉農(nóng)認為，人類主宰世界是因為人類進化出了語言能力，人工智能語言是一種新語言，它將加速人類社會的演化。他論證的理論基礎是維特根斯坦(Ludwig Wittgenstein)的“語言決定思維論”。參見朱曉農(nóng).語言作為文化史分期標準： 人類語思認知的五次突破[J].華東師范大學學報(哲學社會科學版)，2020(6)： 76-90，180.但我們不完全同意語言決定思維論，我們認為語言與思維相互影響，更為根本性的問題是，我們認為人類主宰世界是因為人類進化出了自主性，特別是進化出了能動性的自由意志能力。目前人工智能已經(jīng)表現(xiàn)出了弱自主性，如果人工智能進一步地發(fā)展出了像人類一樣的自主性，或者發(fā)展出了不同于人類的另一種形式的自主性，那么人類能否繼續(xù)主宰世界就是一個大問題。因為在人類沒有演化出自主性之前，人類的演化也像其他生物一樣遵循達爾文的自然進化規(guī)律，人類不能主宰世界。但是人類一旦演化出自主性以后，基于基因的自然進化就退居次要地位，讓位于文化演化，而且文化演化的速度遠遠快于自然進化的速度。如果人工智能具有了自主性，那么人工智能就可能發(fā)展出“人工智能演化”。人類的文化演化速度會大大低于人工智能演化的速度，因為人工智能演化將遵循類似摩爾定律的演化規(guī)律，其演化的速度將會呈現(xiàn)出指數(shù)級的變化。人類文化演化的速度雖然快于自然進化，但文化演化的速度受人類心理學因素的制約。而人工智能演化則完全擺脫了心理學因素的制約，其演化的速度可能會像脫韁之馬，難以控制。盡管后人文主義者反對人是“萬物的尺度”和“中心”的觀點，但是把人類降低到受奴役、受控制，甚至于被隨意殺戮的地位，恐怕也不是大多數(shù)后人文主義者愿意看到的結局。

為了應對人工智能具有自主性帶來的挑戰(zhàn)，弗里德里?！つ岵?Friedrich W. Nietzsche)提出了“大政治”的設想，(40)尼采.尼采著作全集： 第13卷 1887～1889年遺稿[M].孫周興，譯.北京： 商務印書館，2010： 760.費利克斯·加塔利(Félix Guattari)提出了“游牧論策略”，當娜·哈拉維(Donna J. Harawa)提出了“賽博格策略”，(41)藍江.走出人類世： 人文主義的終結和后人類的降臨[J].內(nèi)蒙古社會科學，2021(1)： 35-43.陳世丹提出了“尊重策略”。(42)陳世丹認為，人類應當尊重和關愛包括人工智能在內(nèi)的非人類，建構多元物種和諧共生的后人類社會。參見陳世丹.后人文主義： 反思人在世界中的地位[N].社會科學報，2021-01-07(5).我們認為，只要人工智能不具有能動性的自由意志能力，即使它的能力再強，它也在人類的掌控之中；但是一旦人工智能發(fā)展出能動性的自由意志，(43)趙汀陽說：“法力高超又殺不死的孫悟空造反了，眾神一籌莫展，即使被壓在五指山下也仍然是個隱患，最后還是通過讓孫悟空自己‘覺悟成佛’，無欲無情，四大皆空，這才解決了問題。”參見趙汀陽.人工智能的自我意識何以可能[J].自然辯證法通訊，2019(1)： 1-8.但人類很難讓人工智能“覺悟成佛”，因此只能在技術上限制人工智能發(fā)展出能動性的自由意志，從技術上阻止人工智能禍害人類的可能性。那么它必然不會受制于人類，人類的任何應對策略都將顯得無能為力。(44)一旦人工智能擁有了能動性的自由意志能力，那么就會出現(xiàn)孫周興所擔憂的局面。孫周興說：“在今天，因為技術統(tǒng)治時代的到來，技術文明已經(jīng)失控，也即失去了自然人類的控制，成為一種高風險文明，這也就意味著我們對現(xiàn)代技術的綜觀和掌控成為不可能的，但也正因為這樣，對未來文明的思慮和預期已成當務之急?！眳⒁妼O周興.人類世的哲學[M].北京： 商務印書館，2020： 287.

因此，我們提倡大力發(fā)展人工智能的自主性，但是決不能讓它擁有能動性的自由意志能力。為了阻止人工智能擁有能動性的自由意志能力，需要借鑒尼采的“大政治”思想資源，結合時代的要求，本著人類命運共同體的理念，構建世界“大政治”制度，樹立世界“大道德”觀念，對人工智能科技研發(fā)行為進行約束和規(guī)范。