孫偉平 李 揚(yáng)

我們正處在一個(gè)社會(huì)全方位急劇變革的偉大時(shí)代。繼工業(yè)化、信息化之后，智能化已經(jīng)成為時(shí)代強(qiáng)音，成為“現(xiàn)代化”的最新表征，成為一個(gè)國家和地區(qū)發(fā)展水平的標(biāo)志。智能時(shí)代標(biāo)志性的高新科技——人工智能——究竟會(huì)如何發(fā)展，可能導(dǎo)致哪些倫理后果，可能推動(dòng)人與社會(huì)走向何方？這些問題的重要性越來越凸顯出來?；蛟S人們觀察和思考這些問題的視角不同，認(rèn)知也不一，短時(shí)間內(nèi)難以取得基本共識(shí)，但人工智能作為一種開放性、革命性、顛覆性的高新科學(xué)技術(shù)，確實(shí)已經(jīng)引發(fā)了大量的倫理問題和倫理沖突。如何立足智能科技的發(fā)展和社會(huì)的智能化趨勢，準(zhǔn)確研判其倫理后果，提出合理的、整體性的、具有前瞻性的倫理原則體系，對(duì)人工智能的發(fā)展予以必要的引導(dǎo)、規(guī)制和支持，是不容回避的重大理論和現(xiàn)實(shí)課 題。

一、事實(shí)判斷：人工智能之所“是”

顯而易見，提出關(guān)于人工智能研發(fā)、應(yīng)用的具有前瞻性的倫理原則體系屬于價(jià)值判斷的范疇。正如休謨?cè)凇度诵哉摗芬粫兴沂镜摹皯?yīng)該”必須以“是”為基礎(chǔ)一樣，合理的價(jià)值判斷也必須以事實(shí)判斷為基礎(chǔ)。只有回答了“人工智能是什么”“人工智能存在一些什么樣的發(fā)展可能性”“人工智能可能給人與社會(huì)帶來哪些改變”等問題，才能提出人工智能發(fā)展的合理的價(jià)值原則（體系）。這正如海德格爾所說，“揭示發(fā)生之處，才有真實(shí)的東西”。

人工智能是以基于大數(shù)據(jù)的復(fù)雜算法為核心，以對(duì)人類智能的模擬、延伸和超越為目標(biāo)的高新科學(xué)技術(shù)。它比人類歷史上所發(fā)明的任何科學(xué)技術(shù)都更具革命性和顛覆性。究竟應(yīng)該如何給人工智能下一個(gè)定義？這是一個(gè)令所有人都感到頭痛、迄今仍然莫衷一是的問題。囿于當(dāng)前人工智能的發(fā)展現(xiàn)狀，特別是遠(yuǎn)未定型的事實(shí)，或許任何匆忙的定義都是不明智的。不過，無論“人工智能是什么”的問題具有怎樣的開放性、革命性和顛覆性，我們都應(yīng)該清醒地意識(shí)到：它仍然是人類所創(chuàng)造并一直服務(wù)于人類的一種高新科學(xué)技術(shù)；或者說，人工智能與其他任何“屬人的”科學(xué)技術(shù)一樣，都植根于人類生活實(shí)踐活動(dòng)的需要，都服務(wù)于人的解放、自由全面發(fā)展的價(jià)值目 標(biāo)。

在人類早期的社會(huì)實(shí)踐活動(dòng)中，人是具體社會(huì)實(shí)踐的發(fā)起者與評(píng)價(jià)者，是實(shí)踐工具的制造者和操控者，是社會(huì)協(xié)作的組織者和參與者，是實(shí)踐動(dòng)力的提供者和實(shí)踐后果的承擔(dān)者。在原始的漁獵、采集活動(dòng)，以及農(nóng)耕、家庭手工業(yè)活動(dòng)中，人不僅需要承擔(dān)大量的體力勞動(dòng)，而且?guī)缀醢鼣埩巳康哪X力勞動(dòng)。以蒸汽機(jī)為標(biāo)志性成果的第一次科技革命和以內(nèi)燃機(jī)、發(fā)電機(jī)為標(biāo)志性成果的第二次科技革命，通過機(jī)器代替人承擔(dān)社會(huì)實(shí)踐所需的大部分動(dòng)力，承擔(dān)越來越多的體力勞動(dòng)，大幅提升了人類活動(dòng)的能力和效率。機(jī)器在發(fā)展過程中，還通過“生產(chǎn)流水線”這一協(xié)作方式，將包括教育、文化在內(nèi)的各項(xiàng)生產(chǎn)活動(dòng)高效地組織起來。在“生產(chǎn)流水線”上，既有機(jī)器之間的，也有人與人、人與機(jī)器之間的分工與協(xié)作。隨著大機(jī)器生產(chǎn)的應(yīng)用和普及，個(gè)體的人日益成為“生產(chǎn)流水線”的一部分。具體的社會(huì)實(shí)踐不再僅僅由人發(fā)起，機(jī)器開始“承擔(dān)”部分的腦力勞動(dòng)，“接管”一部分職責(zé)和權(quán)力?！吧a(chǎn)流水線”外化、固化了人的“生產(chǎn)思維過程”。每一步生產(chǎn)加工什么？怎么進(jìn)行生產(chǎn)加工？各個(gè)生產(chǎn)加工步驟如何銜接？……這些原本人腦思維過程之中的內(nèi)容使用“生產(chǎn)流水線”“表達(dá)”、固定下來了。當(dāng)然，生產(chǎn)流水線般對(duì)人腦思維過程的外化、固化不僅是片段的，而且缺乏對(duì)思維過程的變動(dòng)性處理，省略了作為思維過程背景的知識(shí)體系，造成了實(shí)踐過程的“程式化”和“機(jī)械化”，產(chǎn)生了一系列非人性、異化勞動(dòng)者自身的后果。對(duì)此，以馬克思、馬爾庫塞、海德格爾為代表的思想家們進(jìn)行過深刻的揭露和批 判。

第三次科技革命不同凡響，出現(xiàn)了模擬人的大腦和智能，并以“像人一樣思考、像人一樣行動(dòng)”為目標(biāo)的人工智能。這導(dǎo)致人類生活實(shí)踐的內(nèi)容和形式正在發(fā)生重大變革。人工智能是以互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算等為基礎(chǔ)的現(xiàn)代高新科學(xué)技術(shù)。它基于強(qiáng)大的數(shù)據(jù)采集能力、處理能力和大數(shù)據(jù)，彌補(bǔ)了生產(chǎn)流水線所欠缺的作為思維過程背景的知識(shí)體系的不足；它以算法為核心，不僅外化了人的思維過程，也可以對(duì)思維過程進(jìn)行變動(dòng)性處理，實(shí)現(xiàn)了機(jī)器在“思維”“理性”方面的躍升。無論是“弱人工智能”還是“強(qiáng)人工智能”，都能夠在一定意義上“發(fā)起”具體的社會(huì)實(shí)踐活動(dòng)，實(shí)現(xiàn)對(duì)實(shí)踐工具的操控，組織人與機(jī)器的社會(huì)協(xié)作，并對(duì)實(shí)踐過程適時(shí)進(jìn)行評(píng)價(jià)和調(diào)整。作為“人造物”的人工智能甚至日益接近突破“圖靈奇點(diǎn)”，在人類歷史上第一次接近成為像人一樣的“主體”，從而前所未有地取代人的工作，將人從各種繁重、單調(diào)的強(qiáng)迫勞動(dòng)中解放出 來。

人工智能突飛猛進(jìn)的發(fā)展和在生活實(shí)踐中的廣泛應(yīng)用，特別是日益接近突破“圖靈奇點(diǎn)”，日益接近成為“主體”，不可避免地給人和社會(huì)帶來巨大的、全方位的變化。這種變化不僅體現(xiàn)在智能科技日益成為整個(gè)社會(huì)的基本技術(shù)支撐，智能機(jī)器人在一定意義上日益成為“人”（如2018年沙特阿拉伯授予漢森機(jī)器人技術(shù)公司研制的類人機(jī)器人索菲亞“公民”身份），而且促使社會(huì)的方方面面經(jīng)受無孔不入的“智能化洗禮”，導(dǎo)致我們身邊的一切快速信息化、智能化，以至于“世界每天都是新 的”。

首先，智能科技的發(fā)展和應(yīng)用重塑了社會(huì)生產(chǎn)方式，使經(jīng)濟(jì)活動(dòng)日益信息化、自動(dòng)化和智能化。這不僅極大提高了勞動(dòng)能力和勞動(dòng)生產(chǎn)率，導(dǎo)致物質(zhì)財(cái)富前所未有地豐富，而且令信息和知識(shí)成為最重要的經(jīng)濟(jì)和社會(huì)資源?！霸?1世紀(jì)的數(shù)據(jù)驅(qū)動(dòng)型社會(huì)中，經(jīng)濟(jì)活動(dòng)最重要的‘食糧’是優(yōu)質(zhì)、最新且豐富的‘實(shí)際數(shù)據(jù)’。數(shù)據(jù)本身擁有極其重要的價(jià)值，對(duì)數(shù)據(jù)領(lǐng)域的控制決定著企業(yè)的優(yōu)劣?！毙畔ⅰ⒅R(shí)具有可共享性、主體依附性、價(jià)值增益等與土地、資本、自然資源完全不同的自然稟賦，這種與源自資源的自然稟賦之不同正在深刻地改變經(jīng)濟(jì)活動(dòng)，改變?nèi)伺c人之間的經(jīng)濟(jì)和社會(huì)關(guān)系——例如，催生知識(shí)經(jīng)濟(jì)、智能產(chǎn)業(yè)快速崛起，將知識(shí)勞動(dòng)者置于經(jīng)濟(jì)活動(dòng)中的核心位 置。

其次，伴隨智能產(chǎn)業(yè)的崛起和傳統(tǒng)產(chǎn)業(yè)的智能化，一種前所未有的社會(huì)分工體系正在形成。人工智能的發(fā)展給以往“機(jī)械”“呆板”的機(jī)器裝上了聰明的“大腦”。智能機(jī)器不僅能夠自己“看”和“聽”，也能對(duì)生產(chǎn)過程進(jìn)行“思考”，從而“自主”地運(yùn)轉(zhuǎn)起來，開展靈活多樣的“訂制型生產(chǎn)”。人們所從事的大量重復(fù)、單調(diào)、繁重的體力勞動(dòng)，以及越來越多的腦力勞動(dòng)，正被一批又一批地交給智能機(jī)器去做。在信息化、自動(dòng)化、智能化背景下，人與機(jī)器之間正在重新分工，傳統(tǒng)的“人機(jī)關(guān)系”在轟轟烈烈的解構(gòu)中重建。在這種新型的社會(huì)分工體系中，“知識(shí)勞動(dòng)者”以其自身掌握的信息和知識(shí)，特別是科學(xué)研究和技術(shù)開發(fā)，成為社會(huì)生產(chǎn)、服務(wù)、管理的主體；各種智能系統(tǒng)“滲透”到社會(huì)的各行各業(yè)，承擔(dān)越來越多、越來越重要的勞動(dòng)任務(wù)和工作職責(zé)；一種人機(jī)協(xié)作、人機(jī)一體化的新型分工體系正在形 成。

再次，社會(huì)上層建筑正在“重筑”，信息化、智能化的組織方式和治理方式漸成主流。與農(nóng)業(yè)時(shí)代、工業(yè)時(shí)代依靠土地、工廠組織社會(huì)生產(chǎn)和生活不同，人工智能帶來的技術(shù)基礎(chǔ)設(shè)施和經(jīng)濟(jì)、社會(huì)資源的轉(zhuǎn)向，使得人們的生產(chǎn)和生活日益出現(xiàn)擺脫地域限制的趨向，虛擬銀行、虛擬企業(yè)、虛擬車間、虛擬商店、虛擬博物館、虛擬法庭、虛擬學(xué)校、虛擬醫(yī)院、虛擬社區(qū)、虛擬家庭等新興社會(huì)組織方式大量出現(xiàn)。新興社會(huì)組織方式以其數(shù)字化、虛擬化、智能化特點(diǎn)，呼喚社會(huì)治理方式進(jìn)行相應(yīng)的調(diào)整和變革。在信息科技，特別是人工智能的“加持”下，社會(huì)治理和社會(huì)服務(wù)變得更為敏捷，更加多樣化，與此同時(shí)，金字塔式的科層組織管理結(jié)構(gòu)日益顯現(xiàn)出自身的弊端，組織管理結(jié)構(gòu)出現(xiàn)了扁平化、分權(quán)式之類的趨 向。

最后，在生產(chǎn)方式、社會(huì)分工、社會(huì)組織方式、社會(huì)治理方式變遷的基礎(chǔ)之上，思想文化領(lǐng)域也必然發(fā)生相應(yīng)的變化?；谥悄芙?jīng)濟(jì)、智能社會(huì)而產(chǎn)生的各種新思想、新文化，基于智能算法推送的各種公共信息、文化服務(wù)和商業(yè)廣告，可以越來越及時(shí)、精準(zhǔn)地傳遞給受眾。思想文化的生產(chǎn)、傳播、消費(fèi)在人工智能的“加持”下日益信息化、智能化。同時(shí)，隨著信息、知識(shí)轉(zhuǎn)變?yōu)樽钪匾慕?jīng)濟(jì)和社會(huì)資源，隨著社會(huì)組織方式和組織結(jié)構(gòu)的變遷，農(nóng)業(yè)時(shí)代、工業(yè)時(shí)代產(chǎn)生的意識(shí)形態(tài)、價(jià)值觀念、倫理道德正在遭受猛烈的沖擊。與全新的社會(huì)生活實(shí)踐相適應(yīng)，一種新型的具有智能時(shí)代特質(zhì)的思想文化體系正在孕育、生 成。

毋庸置疑，目前人工智能的發(fā)展仍然處于早期，遠(yuǎn)未成熟、定型，它對(duì)人與社會(huì)的變革、塑造仍然是初步的。未來人工智能將如何發(fā)展，并以此為基礎(chǔ)如何變革、塑造人與社會(huì)，仍然有待冷靜觀察。但非常明顯的是，正在發(fā)生的變革與塑造之快速、廣泛與深刻，是以往一切科技革命無法比擬的。事實(shí)上，人類正處在一場波瀾壯闊的生存、活動(dòng)革命之 中。

二、關(guān)系判斷：人工智能導(dǎo)致的倫理后果

倫理道德作為人與動(dòng)物相揖別、“調(diào)節(jié)人與人之間社會(huì)關(guān)系的一種價(jià)值體系”，植根于人們的社會(huì)生活實(shí)踐之中，且隨著社會(huì)生活實(shí)踐的發(fā)展而發(fā)展。人工智能作為一種深刻改變世界、對(duì)社會(huì)“再結(jié)構(gòu)”的高新科學(xué)技術(shù)，正在全方位、深刻地影響人們的社會(huì)生活實(shí)踐，影響人與人之間的社會(huì)關(guān)系和倫理道德關(guān) 系。

（一） 人工智能的自主程度日益增強(qiáng)，在經(jīng)濟(jì)和社會(huì)領(lǐng)域越來越活躍，對(duì)人作為唯一道德主體的地位提出了嚴(yán)峻的挑 戰(zhàn)。

倫理道德曾被認(rèn)為是專屬于人的哲學(xué)范疇。從傳統(tǒng)倫理學(xué)的視角看，人因其有理性、會(huì)思維，能夠根據(jù)自主意識(shí)開展活動(dòng)，而被認(rèn)為是“宇宙之精華，萬物之靈長”，被設(shè)定為唯一具有自主性的道德主體。如果說人工智能作為“人造物”日益接近突破“圖靈奇點(diǎn)”，在人類歷史上第一次接近成為“主體”，那么，它是否可能成為“道德主體”？這引發(fā)了持不同立場的學(xué)者之間的激烈爭 論。

弗洛里迪（L. Floridi）和桑德斯（J. Sanders）提出了判斷X是否為道德主體的標(biāo)準(zhǔn)：只有X在能夠起作用，例如對(duì)世界產(chǎn)生重要的道德影響的前提下，并且具有交互性、自主性和適應(yīng)性，它才是道德主體。即是說，只有X能夠與其環(huán)境發(fā)生交互作用；能夠在不受外部環(huán)境刺激的情況下，具有改變其自身狀態(tài)的能力；能夠在與環(huán)境發(fā)生交互作用中改變規(guī)則，才是道德主體。 L. Floridi & J. Sanders， “On the Morality of Artificial Agent”， ， Vol. 14， No. 3， 2004，pp. 349—379.顯而易見，智能系統(tǒng)能夠符合上述各項(xiàng)標(biāo)準(zhǔn)，弗洛里迪和桑德斯由此直接承認(rèn)了智能系統(tǒng)的道德主體地 位。

而與此相對(duì)照，不少學(xué)者則表示質(zhì)疑，拒絕承認(rèn)智能系統(tǒng)的主體地位，最多只給予其“準(zhǔn)道德主體”的地位。有些學(xué)者引用泰勒（P. Taylor）1984年提出的判斷道德主體地位的五條標(biāo)準(zhǔn)：“第一，具有認(rèn)識(shí)善惡的能力；第二，具有在道德選擇中作出道德判斷的能力；第三，具有依據(jù)上述道德判斷作出行為決定的能力；第四，具有實(shí)現(xiàn)上述決定的能力與意志；第五，為自己那些未能履行義務(wù)的行為作出解釋的能力” P. Taylor， ：， Princeton： Princeton University Press， 1984， p. 14.，據(jù)此質(zhì)疑、否定今天智能系統(tǒng)的道德主體地位。例如，布瑞（P. Bery）用道德主體應(yīng)該具備的三個(gè)特征，即“有能力對(duì)善惡進(jìn)行推理、判斷和行動(dòng)的生物；自身的行動(dòng)應(yīng)當(dāng)遵循道德；對(duì)自己的行動(dòng)及其后果負(fù)責(zé)” P. Bery， “From Moral Agents to Moral Factors： The Structural Ethics Approach”， ，Dordrecht： Springer Press， 2014， pp. 125—142.，來否定智能系統(tǒng)的道德主體地位。然而，如果我們深入地進(jìn)行分析，那么不難發(fā)現(xiàn)，上述判定標(biāo)準(zhǔn)存在兩個(gè)不容忽視的問題：其一，判定標(biāo)準(zhǔn)，特別是其中“意志”“生物”等用語，直接顯示了標(biāo)準(zhǔn)提出者的“人類中心主義”思路，明顯是以人為參照物來衡量人工智能的道德主體地位；其二，根據(jù)上述判定標(biāo)準(zhǔn)得出人工智能僅具有“準(zhǔn)道德主體”地位的結(jié)論，顯示其理論視野僅僅局限于弱人工智能，而沒有考慮到突破“圖靈奇點(diǎn)”之后的強(qiáng)人工智能或超級(jí)智能。但無論學(xué)術(shù)界具體認(rèn)定的標(biāo)準(zhǔn)是什么，無論不同學(xué)者站在不同立場上得出什么樣的結(jié)論，激烈的爭論本身就表明，人工智能的橫空出世與快速發(fā)展已經(jīng)對(duì)人作為唯一道德主體的地位提出了嚴(yán)峻挑 戰(zhàn)。

如果說肯定純粹由人所制造的智能系統(tǒng)擁有道德主體地位還存在難度，一時(shí)難以被學(xué)術(shù)界和社會(huì)公眾所認(rèn)同，那么，說生物智能與人工智能的混合體將擁有道德主體地位，則明顯比較容易被認(rèn)可和接受。因?yàn)?，否定人工智能具有道德主體地位的關(guān)鍵就在于，人工智能并不擁有真正意義上的“心靈”，而“心靈”則是獨(dú)屬于人的。隨著生物技術(shù)的發(fā)展，特別是生物技術(shù)與智能技術(shù)的綜合發(fā)展，人的自然軀體一直在被修補(bǔ)、被改造。雖然這種修補(bǔ)和改造目前還是初步的，還停留在物質(zhì)性的軀干部分（如假肢對(duì)手或腿的修補(bǔ)、冠狀動(dòng)脈支架對(duì)血管的改造），還沒有深入到對(duì)人腦及其智能的修補(bǔ)和改造，但是，“生物智能必將與我們正在創(chuàng)造的非生物智能緊密結(jié)合”，人機(jī)互補(bǔ)、人機(jī)一體顯然處于技術(shù)發(fā)展的邏輯進(jìn)程之中。人工智能所具有的強(qiáng)大感知能力、記憶能力、計(jì)算能力、快速反應(yīng)能力等，正是人的自然軀體所缺乏或存在嚴(yán)重局限的智能和技能?？苹眯≌f中所描繪的在人腦中植入特定的芯片，輔助人腦承擔(dān)感知、記憶、判斷、表達(dá)等功能，創(chuàng)造出打破技術(shù)與人的傳統(tǒng)界限的新生事物，都很有可能變成現(xiàn)實(shí)。在智能化進(jìn)程中，無論在何種程度上否定這種生物智能和人工智能“共生體”的道德主體地位，將會(huì)直接導(dǎo)致對(duì)人的道德主體地位的否定?？梢?，人作為唯一的道德主體的地位遭遇到人工智能強(qiáng)有力的挑 戰(zhàn)。

人工智能在挑戰(zhàn)“人的唯一道德主體地位”的同時(shí)，還通過所擁有的越來越強(qiáng)大的勞動(dòng)能力，以及對(duì)人所占據(jù)的勞動(dòng)崗位的排擠，令人的生存、生活環(huán)境變得惡劣。人工智能的自主程度正在日益增強(qiáng)，在生產(chǎn)、生活的諸多領(lǐng)域展現(xiàn)出相對(duì)于自然人的優(yōu)勢。它們不僅能夠代替人從事各種危險(xiǎn)或有毒有害環(huán)境中的工作，而且開始向曾經(jīng)“專屬于人的工作崗位”發(fā)起挑戰(zhàn)。例如，在復(fù)雜的城鄉(xiāng)道路上開車曾經(jīng)一直是人的“專利”，而無人駕駛汽車正在興起；寫出自己所感、所想，引起他人共鳴，一直是作家引以為傲的資本，“薇你寫詩”之類智能程序也可以做到；繪畫、書法、作曲、彈琴、舞臺(tái)表演一直是高雅的人類藝術(shù)，相應(yīng)的智能系統(tǒng)正在向這些領(lǐng)域快速進(jìn)軍……在智能技術(shù)指數(shù)級(jí)進(jìn)步速度的襯托下，人（特別是“數(shù)字貧困者”之類普通勞動(dòng)者）的進(jìn)步速度顯得過于緩慢，遠(yuǎn)遠(yuǎn)跟不上智能機(jī)器進(jìn)化的速度；加之現(xiàn)實(shí)社會(huì)中原本就存在的貧富差距、技術(shù)差距和“數(shù)字鴻溝”，“數(shù)字貧困者”之類普通勞動(dòng)者在這場智能革命中很可能徹底喪失勞動(dòng)的價(jià)值、工作的權(quán)利，從而被經(jīng)濟(jì)和社會(huì)發(fā)展體系排斥在外，淪為“無用階層”或“多余的人”。在社會(huì)快速信息化、智能化進(jìn)程中，這種不公正、不人道的“社會(huì)排斥”現(xiàn)象可能愈演愈烈，越來越多的人因?yàn)閱适趧?dòng)價(jià)值、喪失工作機(jī)會(huì)，從而令自己在生活實(shí)踐中的主體地位遭遇危機(jī)，令自己的存在看上去變得可笑和荒謬。

（二） 人工智能不僅重構(gòu)了社會(huì)基礎(chǔ)設(shè)施，而且滲透到人類社會(huì)生活的各個(gè)領(lǐng)域和方面，發(fā)揮的作用也越來越大，傳統(tǒng)社會(huì)的倫理道德關(guān)系面臨越來越多、越來越大的挑 戰(zhàn)。

首先，“人—智能系統(tǒng)”的道德關(guān)系已經(jīng)引發(fā)憂慮與不解。人工智能既是人類所創(chuàng)造的一種工具，又絕非一般性工具，它具有成為“主體”的潛質(zhì)。它劇烈地沖擊、解構(gòu)著傳統(tǒng)的“人機(jī)關(guān)系”，引發(fā)了學(xué)術(shù)界關(guān)于“人—智能系統(tǒng)”的道德關(guān)系的熱烈討論。目前學(xué)者們的立場和觀點(diǎn)越來越分裂，達(dá)成普遍共識(shí)的難度越來越大。有些科學(xué)家和學(xué)者甚至充滿憂慮地提出，“強(qiáng)人工智能”或者“超級(jí)智能”是否會(huì)失控、異化，反過來統(tǒng)治、虐待、奴役人類。如阿庫達(dá)斯（Arkoudas）和布林斯約德（Bringsjord）在為《劍橋人工智能手冊(cè)》 （）所供稿件中認(rèn)為，人工智能不會(huì)僅僅滿足于模仿智能或是產(chǎn)生一些聰明的假象，成為真正的主體是技術(shù)發(fā)展的邏輯追求。 K. Frankish & W. Ramsey， ， Cambridge： Cambridge University Press， 2014， p. 35.庫茲韋爾甚至預(yù)言：“（有意識(shí)的）非生物體將首次出現(xiàn)在2029年，并于21世紀(jì)30年代成為常態(tài)?！边@種超越其設(shè)計(jì)者的“強(qiáng)人工智能”自我學(xué)習(xí)、自主創(chuàng)新、彼此聯(lián)系，是否會(huì)超出原先設(shè)計(jì)者對(duì)其職能邊界的設(shè)定而走向“失控”，成為統(tǒng)治、虐待、奴役人類的“超級(jí)智能”？這種“強(qiáng)人工智能”或“超級(jí)智能”是否會(huì)基于自身的強(qiáng)大，判定人類“沒有什么用”，并且“浪費(fèi)資源”，從而怠慢“數(shù)字貧困者”之類弱勢群體，進(jìn)而漫不經(jīng)心地滅絕人 類？

其次，人工智能對(duì)現(xiàn)有的“人—人”之間的道德關(guān)系帶來了沖擊。人工智能作為一種尚未成熟、定型的通用型技術(shù)，已經(jīng)展現(xiàn)出自身強(qiáng)大的威力，開始改變?nèi)伺c人之間的社會(huì)關(guān)系，已經(jīng)并正在造成一系列嚴(yán)重的倫理后果。例如，在歷史與現(xiàn)實(shí)中，人與人之間本來存在一定的自然能力差距、貧富差距、城鄉(xiāng)和地區(qū)差別、社會(huì)分化等現(xiàn)象，這種不平等的現(xiàn)實(shí)往往令弱勢群體感到憤憤不平，而在死亡面前的“終極平等”又構(gòu)成了人類社會(huì)最基本，甚至是最重要的平等。或許正是因?yàn)椤八劳雒媲叭巳似降取保伺c人之間的一切不平等都變成了有限的不平等。而隨著人工智能的發(fā)展，特別是生物技術(shù)與智能技術(shù)的綜合發(fā)展，一些原本處于優(yōu)勢地位的人可能更有條件實(shí)現(xiàn)“智能+”，更好地享用先進(jìn)的科技成果，人與人之間的分化可能以知識(shí)、智慧為突破口而不斷拓展，“數(shù)字貧困者”之類弱勢群體可能處于更加無助、無奈的地位。醫(yī)療技術(shù)、生物技術(shù)與智能技術(shù)的綜合發(fā)展，還可能對(duì)人的基因進(jìn)行重新編輯，通過基因增強(qiáng)大大改善人的健康狀況，大幅延長人的壽命；通過“思維上傳”實(shí)現(xiàn)“精神不死”，甚至成了一些精英群體現(xiàn)在就開始討論的話題。如果基因增強(qiáng)等技術(shù)真的能夠?qū)崿F(xiàn)，原本處于優(yōu)勢地位的精英群體自然更有可能受益，可能優(yōu)先獲得弱勢群體渴望而不得的提升機(jī)會(huì)。這將直接瓦解“死亡面前人人平等”的自然鐵律，令既有的社會(huì)不平等得以長期延續(xù)，甚至變本加 厲。

再次，基于人工智能的研發(fā)和應(yīng)用，可能產(chǎn)生難以計(jì)數(shù)的道德問題。例如，在具體的道德關(guān)系中，如何確定智能系統(tǒng)的道德責(zé)任就是當(dāng)前困擾人們的一個(gè)道德難題。正處于測試階段的智能無人駕駛汽車如果獲準(zhǔn)上路，馬上就顛覆了傳統(tǒng)的駕駛員與其他道路交通參與者之間的關(guān)系。智能無人駕駛固然可能更便捷、更安全、更高效，可以減少交通事故的發(fā)生，但它顯然并不能完全消滅交通事故。而一旦發(fā)生交通事故，傳統(tǒng)的以駕駛員為中心的責(zé)任體系已經(jīng)土崩瓦解，智能無人駕駛系統(tǒng)的設(shè)計(jì)者、生產(chǎn)者、擁有者、使用者等之間難以避免相互間的責(zé)任推諉。此外，智能無人駕駛系統(tǒng)本身還會(huì)加劇原有的一些“道德兩難”問題。如義務(wù)論和功利論爭論不休的“電車難題”并非沒有根據(jù)的理論設(shè)想，完全可能出現(xiàn)在發(fā)達(dá)的智能時(shí)代。例如：一輛載有大量乘客的智能無人駕駛汽車突遇橫穿馬路的行人，在剎車不足以避免相撞的情況下，緊急轉(zhuǎn)向可能導(dǎo)致車輛側(cè)翻，造成乘客傷亡，而不轉(zhuǎn)向、僅剎車則可能造成行人傷亡。面臨兩難情形，如果駕駛員是自然人，憑借自身的道德直覺所作的決定往往能夠得到人們的理解；而如果是算法主導(dǎo)的智能無人駕駛，則很難逃脫義務(wù)論者或者功利論者的苛責(zé)，以及沒完沒了的追 責(zé)。

人工智能的研發(fā)和應(yīng)用可能導(dǎo)致的倫理道德挑戰(zhàn)還有很多，比如近年來人們熱衷討論的虛擬對(duì)真實(shí)的挑戰(zhàn)、大數(shù)據(jù)與隱私權(quán)問題、算法可能內(nèi)嵌的歧視問題、智能推送加劇人的單向發(fā)展問題、人形智能機(jī)器人對(duì)人際關(guān)系（特別是婚戀家庭關(guān)系）的挑戰(zhàn)、殺人機(jī)器人的研制和應(yīng)用問題，等等。我們可以肯定，更多的新問題、新挑戰(zhàn)還將隨著時(shí)間的推移不斷地顯現(xiàn)出來。所有這些新問題、新挑戰(zhàn)對(duì)智能時(shí)代的倫理建構(gòu)和道德治理提出了新的要求，呼喚我們基于新的倫理原則體系重建新的倫理秩序，建設(shè)更加合乎人性、人們的幸福指數(shù)更高、社會(huì)也更加公正的新型智能文 明。

三、價(jià)值判斷：人工智能發(fā)展的倫理原則體系

直面人工智能的快速發(fā)展和對(duì)世界的變革，以及所產(chǎn)生的新的倫理問題和挑戰(zhàn)，社會(huì)各界對(duì)此都極其關(guān)注。不少組織機(jī)構(gòu)提出了人工智能發(fā)展的倫理原則和道德規(guī)范。例如，微軟公司將“公平、包容、透明、負(fù)責(zé)、可靠與安全、隱私與保密”作為人工智能的六個(gè)基本道德準(zhǔn)則；騰訊研究院從“技術(shù)信任”“個(gè)體幸?！薄吧鐣?huì)可持續(xù)”三個(gè)層面提出若干道德原則；歐盟將“人的能動(dòng)性和監(jiān)督能力、安全性、隱私數(shù)據(jù)管理、透明度、包容性、社會(huì)福祉、問責(zé)機(jī)制”作為“可信賴人工智能”的七個(gè)關(guān)鍵性條件。喬賓（Anna Jobin）等人從美英等國84份關(guān)于人工智能倫理指南的資料中，按出現(xiàn)頻率的高低，將人工智能的倫理原則歸納列舉如下：“透明、公正和公平、不傷害、責(zé)任、隱私、有益、自由和自主、信任、尊嚴(yán)、持續(xù)性、團(tuán)結(jié)” A. Jobin， M. Ienca， E. Vayena， “The Global Landscape of AI Ethics Guidelines”， e，Vol. 1， 2019， pp. 389—399.。還有不少國內(nèi)外學(xué)者從不同的理論視域提出和論證了“透明” E. Bertino， A. Kundu， Z. Sura， “Data Transparency with Blockchain and AI Ethics”， ， Vol. 11， Issue 4， 2019， pp. 1—8.“責(zé)任” K. Martin， “Ethical Implications and Accountability of Algorithms”， ， Vol. 160， 2019，pp. 835—850.“問責(zé)” L. Fell?nder-Tsai， “AI Ethics， Accountability， and Sustainability： Revisiting the Hippocratic Oath”， ， Vol. 91， No. 1， 2020， pp. 1—2.等人工智能的倫理原則，要求智能系統(tǒng)具有一顆“良芯”的呼聲此起彼 伏。

然而，細(xì)致思考既有的各種倫理主張，以及所提出的各種倫理原則，我們不難發(fā)現(xiàn)，其中或隱或顯地存在著兩個(gè)嚴(yán)重的缺陷：其一，誠如有些科學(xué)家所說，面對(duì)人工智能對(duì)世界的全方位改造和對(duì)社會(huì)生活的整體性參與，這些倫理原則彼此之間缺乏有機(jī)聯(lián)系，并沒有針對(duì)新的問題和挑戰(zhàn)提供整體性的解決方案；其二，這些彼此之間缺乏有機(jī)聯(lián)系的倫理原則更多是對(duì)人工智能發(fā)展的消極預(yù)防或限制，而很少顧及對(duì)于人工智能發(fā)展的積極倫理支持。無論是從智能科技的良性發(fā)展而言，還是從智能社會(huì)的倫理建構(gòu)來說，這兩個(gè)嚴(yán)重的缺陷都是不容回避的，應(yīng)該得到關(guān)注和解 決。

基于人工智能的快速發(fā)展和廣泛應(yīng)用，建構(gòu)能夠整體性回應(yīng)人工智能對(duì)現(xiàn)實(shí)社會(huì)的眾多問題和挑戰(zhàn)，并包含對(duì)人工智能的發(fā)展給予必要規(guī)制和積極支持的倫理原則體系，必須尋找一個(gè)類似“阿基米德支點(diǎn)”的“基點(diǎn)”。這個(gè)“基點(diǎn)”，也就是人工智能研發(fā)、應(yīng)用的最高倫理原 則。

這樣的“基點(diǎn)”或最高倫理原則只能從“從事實(shí)際活動(dòng)的人”出發(fā)，立足人自身的立場去尋找。眾所周知，無論是倫理道德，還是人工智能等高新科學(xué)技術(shù)，都是“屬人的”創(chuàng)造物，都是為人類的根本目的和利益服務(wù)的。任何科技活動(dòng)（包括技術(shù)的應(yīng)用）本質(zhì)上都屬于人類實(shí)踐活動(dòng)的范疇，是“人為的”且“為人的”價(jià)值創(chuàng)造活動(dòng)。這類活動(dòng)必須遵循“人是目的”，以人作為“萬物的尺度”的原則。因此，無論人工智能體多么接近突破“圖靈奇點(diǎn)”，多么接近成為具有自主意識(shí)的“主體”，都不可能也不應(yīng)該改變其“屬人性”?！叭恕笔俏覀?cè)谶@里看待一切問題的出發(fā)點(diǎn)，“人本原則”是人工智能研發(fā)、應(yīng)用的倫理原則體系的“基點(diǎn)”和最高原 則。

當(dāng)然，“人本原則”是既抽象又含混的，學(xué)者們對(duì)其內(nèi)涵與外延的爭議頗多，聚訟不斷。但刪繁就簡，它至少應(yīng)該包含以下三重含義：首先，在技術(shù)的倫理價(jià)值取向方面，人工智能的研發(fā)、應(yīng)用必須“以人為中心”，始終堅(jiān)持“人是目的”，尊重人的人格和尊嚴(yán)，維護(hù)人在世界上的主導(dǎo)性地位。其次，積極推進(jìn)人工智能的發(fā)展和應(yīng)用，為人類提供更好的產(chǎn)品和服務(wù)，更好地滿足人類的需要，同時(shí)在技術(shù)研發(fā)、應(yīng)用的方向上，防止它朝著蔑視人類，甚至危害人類的方向發(fā)展。再次，就具體的風(fēng)險(xiǎn)防控而言，不能放任人工智能“隨心所欲”地發(fā)展，不能對(duì)任何可疑的技術(shù)風(fēng)險(xiǎn)和負(fù)面社會(huì)效應(yīng)聽之任之；相反，正如稍后提到的責(zé)任原則將要論及的，必須強(qiáng)化相關(guān)人員的責(zé)任意識(shí)，對(duì)一切不負(fù)責(zé)任的行為問責(zé)、追責(zé)。邁入智能時(shí)代，面對(duì)越來越智能、越來越強(qiáng)大的人工智能，人類自身的不完滿、局限性和缺陷正在被不斷放大。但是，不完滿、有局限性和缺陷的人依然是一切社會(huì)實(shí)踐活動(dòng)的主體，依然是倫理道德或“人機(jī)（智能系統(tǒng)）道德關(guān)系”的主體，依然是一切科技、人文活動(dòng)的目的和宗旨之所在。各種智能系統(tǒng)雖然可能在體力甚至腦力活動(dòng)方面超過人，卻始終只是人的工具、助手和伙伴。任何算法都不能忽視人類的生存和發(fā)展、人格和尊嚴(yán)，任何不直接受人控制的智能系統(tǒng)，例如“智能殺人武器”，都不應(yīng)該被研發(fā)和應(yīng)用，任何智能系統(tǒng)都不應(yīng)在能夠救人于危難時(shí)袖手旁 觀。

作為人工智能發(fā)展的最高倫理原則，“人本原則”是所有的、各個(gè)層級(jí)的倫理原則的“基點(diǎn)”和“統(tǒng)領(lǐng)”。即是說，其他各項(xiàng)倫理原則都可以從“人本原則”中推導(dǎo)出來，并基于“人本原則”得到合理的解 釋。

“公正”是亞里士多德所謂的“德性之首”，是“人本原則”在現(xiàn)實(shí)社會(huì)最為基本的價(jià)值訴求。公正作為人們被平等相待、得所當(dāng)?shù)玫牡赖轮庇X和期待，是社會(huì)共同體得以長久維系的重要保障；公正作為一種對(duì)當(dāng)事人的利益互相認(rèn)可并予以保障的理性約定，更是社會(huì)共同體制度安排、“人—人”的道德關(guān)系、確定主體和“類主體”道德責(zé)任最為基本的倫理原則。當(dāng)然，對(duì)于公正是什么、公正怎樣闡釋才是合理的這類問題，自古以來人們一直爭論不休。如何在現(xiàn)實(shí)社會(huì)實(shí)現(xiàn)公正，特別是解決一直存在的不公正現(xiàn)象，并沒有一勞永逸的萬能方法?；蛟S應(yīng)該說，公正的理解和實(shí)現(xiàn)都是歷史的，人們永遠(yuǎn)只能在社會(huì)發(fā)展過程中踉蹌前行。在促進(jìn)人工智能快速發(fā)展和廣泛應(yīng)用，并對(duì)人與社會(huì)帶來革命性、顛覆性的改變時(shí)，我們需要“以人為中心”進(jìn)行“公正的制度設(shè)計(jì)”，既遏制“資本的邏輯”之貪婪成性和為所欲為，也防止“技術(shù)的邏輯”的漠視人性與橫沖直撞，從而讓每一個(gè)人都擁有平等的接觸、應(yīng)用人工智能的機(jī)會(huì)，都可以按意愿使用人工智能產(chǎn)品，并與人工智能相融合，都能夠從這一場前所未有的科技革命中受益；我們需要不斷完善相應(yīng)的勞動(dòng)時(shí)間、社會(huì)財(cái)富的公正分配體制，采取有效措施消除數(shù)字鴻溝和“信息貧富差距”，消除經(jīng)濟(jì)不平等、社會(huì)貧富分化和“社會(huì)排斥”現(xiàn)象，維護(hù)“數(shù)字貧困者”等弱勢群體的人格、尊嚴(yán)和合法權(quán) 益。

責(zé)任是人工智能研發(fā)、應(yīng)用過程中最基本的倫理原則，也是“人本原則”的邏輯延伸。如果說公正原則更多關(guān)注的是社會(huì)整體，那么責(zé)任原則更多指向的則是個(gè)體。人工智能的研發(fā)畢竟是由科研人員進(jìn)行的，他們往往是處在人類知識(shí)邊緣的直接評(píng)價(jià)者和具體決策者，他們的所思所想、所作所為往往決定著人工智能及相關(guān)產(chǎn)品、服務(wù)的社會(huì)影響，因而肩負(fù)著神圣的、不容推卸的道義責(zé)任。人工智能的研發(fā)人員不僅要關(guān)心技術(shù)的進(jìn)步，以及技術(shù)的應(yīng)用可能給人類帶來的福祉，也要關(guān)注技術(shù)本身的倫理后果、技術(shù)應(yīng)用的負(fù)面社會(huì)效應(yīng)。這正如科學(xué)巨擘愛因斯坦對(duì)科學(xué)工作者的諄諄告誡：“如果你們想使你們一生的工作有益于人類，那么，你們只懂得應(yīng)用科學(xué)本身是不夠的。關(guān)心人的本身，應(yīng)當(dāng)始終成為一切技術(shù)上奮斗的主要目標(biāo)；關(guān)心怎樣組織人的勞動(dòng)和產(chǎn)品分配這樣一些尚未解決的重大問題，用以保證我們科學(xué)思想的成果會(huì)造福于人類，而不致成為禍害?！必?zé)任原則絕不僅僅局限在人工智能的研發(fā)領(lǐng)域，它同樣也是對(duì)生產(chǎn)者、所有者、使用者的道德要求。它不僅是確定智能系統(tǒng)的道德責(zé)任的倫理原則，而且是在受人工智能影響的“人—人”道德關(guān)系中確定相應(yīng)主體道德責(zé)任的倫理原則。在人工智能的研發(fā)、應(yīng)用過程中，研究者、生產(chǎn)者、所有者與使用者都應(yīng)該對(duì)人工智能的技術(shù)邊界有著清晰的界定，應(yīng)該讓人工智能“可靠”地為人類服務(wù)；一旦出現(xiàn)問題，則可以及時(shí)、有效地追責(zé)；從而確保信息化、智能化發(fā)展的正確方向，實(shí)現(xiàn)為人類謀福利，促進(jìn)人類自由、全面發(fā)展的偉大目 標(biāo)。

總而言之，以“人本原則”為“基點(diǎn)”和“統(tǒng)領(lǐng)”，以公正原則和責(zé)任原則為主干，這就構(gòu)成了人工智能發(fā)展的整體性的倫理原則體系。這一原則體系在邏輯上是提綱挈領(lǐng)、一以貫之的，是一個(gè)有主有次、層次分明的有機(jī)整體。它既涵蓋了對(duì)人工智能可能導(dǎo)致的負(fù)面后果進(jìn)行必要的倫理規(guī)制的內(nèi)容，也能夠?qū)θ斯ぶ悄艿难邪l(fā)、應(yīng)用提供積極的倫理支持。同時(shí)，人們經(jīng)常討論的諸如公開、透明、可控、可靠等次級(jí)倫理原則，或者更為具體、更為細(xì)致的倫理實(shí)施細(xì)則，完全可以結(jié)合相應(yīng)的生活實(shí)踐領(lǐng)域，以上述三個(gè)基本原則為基礎(chǔ)加以解釋，從而被納入人工智能發(fā)展的倫理原則體系之中，實(shí)現(xiàn)對(duì)由人工智能引發(fā)的諸多問題和挑戰(zhàn)的整體性回應(yīng)。當(dāng)然，在時(shí)代和社會(huì)急劇變遷過程中，以上人工智能研發(fā)、應(yīng)用的整體性的倫理原則體系是否合理、是否有效，我們必須堅(jiān)持辯證的、歷史的觀點(diǎn)和方法，將其具體地應(yīng)用于解決問題、應(yīng)對(duì)挑戰(zhàn)，使之在智能時(shí)代的社會(huì)生活實(shí)踐中不斷得到檢驗(yàn)、豐富、完善和發(fā) 展。