余成峰

在傳統(tǒng)農(nóng)業(yè)時(shí)代，技術(shù)只是輔助人力零星地使用，技術(shù)倫理問(wèn)題不足以成為思想家的核心議題。至少要到十八世紀(jì)工業(yè)資本主義興起，當(dāng)大規(guī)模技術(shù)設(shè)施、技術(shù)裝置和技術(shù)工程逐步推廣時(shí)，才產(chǎn)生了所謂的技術(shù)倫理問(wèn)題。

而在這個(gè)時(shí)代，處于支配地位的道德哲學(xué)、社會(huì)哲學(xué)與法律哲學(xué)，乃是古典自由主義理論，即由康德、密爾、洛克等思想家為代表的自由主義倫理。由于這樣一種特定的歷史親和關(guān)系，近代以降的技術(shù)倫理，也就自然繼承了自由主義的一系列基本原理。換言之，古典自由主義塑造了現(xiàn)代技術(shù)倫理的原則。但是，晚近信息技術(shù)發(fā)展對(duì)自由主義技術(shù)倫理帶來(lái)了深刻的挑戰(zhàn)，如何回應(yīng)這些挑戰(zhàn)？這就需要我們思索未來(lái)新的技術(shù)倫理原則框架。

一

塑造現(xiàn)代技術(shù)倫理的首先是康德的自主原則（RespectforAutonomy）。在康德看來(lái)，每個(gè)理性人都具有運(yùn)用理性自主承擔(dān)行動(dòng)責(zé)任的能力，“要有勇氣運(yùn)用你自己的理智”。理性主體擁有自主選擇的權(quán)利，因?yàn)檫@事關(guān)他的道德尊嚴(yán)。即使這樣的選擇對(duì)其不利，但若非經(jīng)由他們同意，也不能對(duì)他們的行動(dòng)進(jìn)行干涉或替代他們做出選擇。落實(shí)于技術(shù)倫理領(lǐng)域，康德原則就尤其強(qiáng)調(diào)“個(gè)人自主權(quán)”及“知情同意權(quán)”。

由于技術(shù)應(yīng)用可能使他人陷入不利局面，所以有必要事先征求同意（或意見(jiàn)）。因此，所有現(xiàn)代醫(yī)學(xué)倫理和實(shí)驗(yàn)倫理，都主張必須在手術(shù)及科學(xué)研究開(kāi)展前，事先取得患者或受試者的知情同意?；颊呋蚴茉囌呓?jīng)由知情同意，基于自己的理性判斷做出決策，自主承擔(dān)責(zé)任，自愿接受由此可能帶來(lái)的風(fēng)險(xiǎn)。一九一四年美國(guó)的舒?zhèn)惗喾蛟V紐約醫(yī)院協(xié)會(huì)案是知情同意原則發(fā)展史上具有里程碑意義的案件。著名的卡多佐法官（Benjamin Nathan Cardozo）審理了此案，在判決書中做出了經(jīng)典的判詞，奠定了知情同意原則的基石?？ǘ嘧舴ü賹懙溃骸懊恳粋€(gè)成年的心智健全的人都有權(quán)利自主決定如何處置自己的身體，醫(yī)生未經(jīng)患者同意就進(jìn)行手術(shù)構(gòu)成企圖傷害，并應(yīng)因此負(fù)賠償責(zé)任?！?/p>

究其實(shí)質(zhì)，康德的自主原則實(shí)現(xiàn)了對(duì)技術(shù)風(fēng)險(xiǎn)和相應(yīng)法律責(zé)任的一種理性配置。根據(jù)知情同意原則，患者或受試者自主做出同意的決策，因而不再把責(zé)任施加于醫(yī)方或研究者，這樣就實(shí)現(xiàn)了技術(shù)風(fēng)險(xiǎn)的有效轉(zhuǎn)移和合理分配，順利推動(dòng)了各種醫(yī)療診治和科學(xué)實(shí)驗(yàn)活動(dòng)的展開(kāi)。技術(shù)倫理不只是形而上學(xué)的高蹈理想，而必須鑲嵌到整個(gè)現(xiàn)代社會(huì)功能系統(tǒng)的分化與演化，以及工業(yè)時(shí)代的經(jīng)濟(jì)和社會(huì)的基本制度安排邏輯中予以理解。

事實(shí)上，康德自主原則這一主要作為工業(yè)世界技術(shù)倫理與技術(shù)風(fēng)險(xiǎn)分配的機(jī)制，也同樣延伸到了網(wǎng)絡(luò)世界。在今天的互聯(lián)網(wǎng)領(lǐng)域，例如涉及隱私與個(gè)人信息保護(hù)問(wèn)題，也都廣泛采用了主要基于康德主義的“知情—同意原則”?！啊嬷x擇被內(nèi)建為數(shù)據(jù)控制者和數(shù)據(jù)主體的基礎(chǔ)法律關(guān)系?！奔矗灰ヂ?lián)網(wǎng)平臺(tái)（或相應(yīng)APP）事先告知了相關(guān)的隱私政策，就代表你已經(jīng)明示或默示做出了自主同意，那么，此后平臺(tái)（APP）進(jìn)行的各種信息收集、處理、存儲(chǔ)和傳播行為，也就具有了基于自主原則的技術(shù)正當(dāng)性。

其次是密爾在《論自由》一書中提出的著名的傷害原則（HarmPrinciple）。只要不造成傷害，行動(dòng)就是自由的。這也被稱為“不干涉原則”：“對(duì)于文明群體中的任何一個(gè)成員，之所以能夠使用一種權(quán)力反對(duì)其意志又不失為正當(dāng)，唯一目的只能是防止傷害到他人。”

密爾的傷害原則對(duì)應(yīng)于技術(shù)倫理領(lǐng)域，其含義即為：在盡到合理的注意義務(wù)和信義義務(wù)之后，除非對(duì)人造成明確的傷害，或有明確傷害的危險(xiǎn)，技術(shù)實(shí)踐就應(yīng)是自由的。在早期工業(yè)資本主義發(fā)展階段，密爾原則通過(guò)緊密配合民事侵權(quán)領(lǐng)域的過(guò)錯(cuò)賠償原則，為早期工業(yè)化的技術(shù)發(fā)展與市場(chǎng)開(kāi)拓提供了充足的自由空間。直到二十世紀(jì)之后，伴隨福利國(guó)家制度與商業(yè)保險(xiǎn)技術(shù)的興起，侵權(quán)領(lǐng)域的過(guò)錯(cuò)原則才被無(wú)過(guò)錯(cuò)原則和嚴(yán)格責(zé)任原則（Strict Liability）取代，技術(shù)倫理的天平開(kāi)始從工業(yè)企業(yè)發(fā)明家與資本家一方，逐漸傾向作為弱勢(shì)群體的普通公民和消費(fèi)者一方。特別是在歐盟，晚近以來(lái)，密爾的傷害原則逐漸被風(fēng)險(xiǎn)預(yù)防原則（Precautionary Principle. 即，只要風(fēng)險(xiǎn)存在，公共機(jī)構(gòu)就可以采取預(yù)先保護(hù)措施，而無(wú)須等到風(fēng)險(xiǎn)的事實(shí)和嚴(yán)重性明顯時(shí)才開(kāi)始行動(dòng)）取代，后者成為技術(shù)倫理的首要標(biāo)準(zhǔn)。

而傳統(tǒng)互聯(lián)網(wǎng)世界在眾多領(lǐng)域都沿用了密爾的傷害原則，即只要不造成“傷害”，互聯(lián)網(wǎng)的各種信息實(shí)踐就應(yīng)是自由的，這成為約翰·巴洛（JohnBarlow）筆下賽博空間野蠻生長(zhǎng)的重要倫理依據(jù)。以網(wǎng)絡(luò)色情為例：據(jù)報(bào)道，美國(guó)境內(nèi)服務(wù)器的色情網(wǎng)頁(yè)在二00六年就達(dá)2.45億個(gè)，占全球色情網(wǎng)頁(yè)總數(shù)的89%。而美國(guó)政府之所以未能“掃黃”，很大程度上就是因?yàn)槊绹?guó)憲法第一修正案的表達(dá)自由條款。在“不雅”（Indecent）、“色情”（Pornography）與“淫穢”（Obscene）的區(qū)分上，司法者往往采取較為彈性的標(biāo)準(zhǔn)，只要不構(gòu)成嚴(yán)重的下流（Lewd）、猥褻（Lascivious）、骯臟（Filthy），通常將其作為“一般色情”而非“傷害”處理。

當(dāng)然，“傷害”概念的辨析往往成為技術(shù)公共政策討論的焦點(diǎn)，在不同時(shí)代和不同社會(huì)群體之間會(huì)形成相當(dāng)不同的理解，由此也成為社會(huì)集團(tuán)角力的核心戰(zhàn)場(chǎng)。例如，歷史上色情文學(xué)出版商與反色情的女權(quán)主義者（Anti-Pornography Feminism）圍繞色情作品的法律政策有過(guò)長(zhǎng)期的爭(zhēng)論。同樣的道理，在兒童福利保護(hù)思潮興起之后，傳播有關(guān)猥褻兒童的照片，也不再屬于自由言論的保護(hù)范圍。在今天，基于密爾傷害原則，以及通過(guò)對(duì)“傷害”概念的憲法擴(kuò)張解釋，已在互聯(lián)網(wǎng)領(lǐng)域形成一系列新的倫理審查標(biāo)準(zhǔn)。例如，YouTube 的社區(qū)準(zhǔn)則，就禁止發(fā)布色情圖片、仇恨言論，以及“虐待動(dòng)物、濫用藥物、未成年人飲酒吸煙或制作炸彈等不良內(nèi)容”。但是，由于“傷害”概念本身的模糊性，密爾原則具體落實(shí)的狀況，仍然取決于利益集團(tuán)實(shí)力博弈的結(jié)果。

技術(shù)倫理第三個(gè)核心原則源于洛克的個(gè)人主義（PrincipleofIndividuation）。在此原則下，個(gè)人被視為社會(huì)的邏輯起點(diǎn)，只有個(gè)人才是真實(shí)的。在“唯名論”視野下，“社會(huì)”概念是多余的，“社會(huì)”無(wú)法為自身主張權(quán)益，因此必須采取個(gè)體化策略形成個(gè)案性的法益保護(hù)機(jī)制，通過(guò)私人訴訟機(jī)制來(lái)對(duì)抗外部技術(shù)風(fēng)險(xiǎn)。技術(shù)倫理的正當(dāng)性基點(diǎn)乃是個(gè)人，法律首先是保護(hù)“個(gè)人”的權(quán)益。正是基于這一原則，當(dāng)代的信息隱私保護(hù)，也都首先強(qiáng)調(diào)保護(hù)個(gè)人信息和個(gè)人隱私，法律保護(hù)的并非是所有信息類型，而是個(gè)人識(shí)別信息（PersonallyIdentifiableInformation），即與身份已識(shí)別或可識(shí)別的自然人（“數(shù)據(jù)主體”）有關(guān)的信息，從而排除非個(gè)人信息、公共信息與匿名信息。只要無(wú)法被識(shí)別到“個(gè)人”，相關(guān)信息就不受法律保護(hù)。概言之，隱私保護(hù)采取了嚴(yán)格的方法論個(gè)人主義，以個(gè)人為中心和本位，通過(guò)個(gè)體化策略進(jìn)行權(quán)利的解釋與適用。

因此，在做出知情同意之前，個(gè)人是否有義務(wù)全面考慮此一同意將對(duì)與其相關(guān)的主體帶來(lái)的潛在影響？而此種個(gè)人—群組同意會(huì)產(chǎn)生諸多新的倫理難題，即：個(gè)體在知識(shí)和資源上如何獲得足夠支持去做出理性判斷，個(gè)體是否具有判斷因?yàn)樽陨硇袨楹蜎Q策將受到影響的主體范圍及其相關(guān)利益的能力？他是否足以承擔(dān)此種復(fù)雜的認(rèn)知任務(wù)和責(zé)任負(fù)擔(dān)？具吊詭意味的是，正是由于個(gè)人—社會(huì)二元論假設(shè)的崩塌，以及由此種崩塌帶來(lái)的傳統(tǒng)法律歸因機(jī)制和歸責(zé)機(jī)制的失效，反而有可能進(jìn)一步促成技術(shù)風(fēng)險(xiǎn)通過(guò)黑箱化的算法機(jī)制進(jìn)行轉(zhuǎn)移與釋放。

三

新的技術(shù)時(shí)代，傳統(tǒng)的自由主義技術(shù)倫理已不足以應(yīng)對(duì)，無(wú)論是自主原則、傷害原則抑或個(gè)人原則，都出現(xiàn)各種不適癥狀。傳統(tǒng)技術(shù)倫理在工業(yè)時(shí)代背景之下，是相對(duì)可行的，但在經(jīng)歷從工業(yè)時(shí)代的原子世界到信息時(shí)代的比特世界變遷之后，技術(shù)系統(tǒng)的總體運(yùn)行邏輯發(fā)生了重大轉(zhuǎn)變，其相應(yīng)的技術(shù)倫理和法律框架也面臨重構(gòu)的需要。在今天，時(shí)代迫切需要新的技術(shù)倫理，一種超越傳統(tǒng)自由主義的技術(shù)倫理。限于篇幅，這里僅對(duì)應(yīng)傳統(tǒng)技術(shù)倫理，即自主原則、傷害原則與個(gè)人原則，提出技術(shù)設(shè)計(jì)保護(hù)、風(fēng)險(xiǎn)學(xué)習(xí)治理與社會(huì)一體多元三項(xiàng)原則，作為新技術(shù)時(shí)代的倫理參考框架。

技術(shù)設(shè)計(jì)保護(hù)原則突破了康德的自主原則，在新的技術(shù)背景下，僅僅依靠人類的自主理性已不足以對(duì)抗技術(shù)系統(tǒng)的過(guò)度擴(kuò)張，有必要通過(guò)技術(shù)對(duì)抗技術(shù)，通過(guò)將相關(guān)價(jià)值理念落實(shí)到基于技術(shù)設(shè)計(jì)的內(nèi)嵌保護(hù)，借助技術(shù)來(lái)捍衛(wèi)自由主義的人文價(jià)值。

技術(shù)社會(huì)學(xué)在傳統(tǒng)上有三大流派，即技術(shù)決定論（TechnologyDeterminism）、技術(shù)中立論（TechnologyNeutrality）與技術(shù)現(xiàn)實(shí)主義（TechnologyRealism）。技術(shù)中立論最有影響力，其認(rèn)為技術(shù)只是人類的工具和手段，隸屬于人類的主導(dǎo)與控制。技術(shù)本身無(wú)善惡，關(guān)鍵是使用技術(shù)的人類主體的目的和選擇。而以雅克·埃呂爾（JacquesEllul）、阿倫特、芒福德、馬爾庫(kù)塞為代表的技術(shù)決定論則深刻意識(shí)到現(xiàn)代技術(shù)的自主演化邏輯，技術(shù)發(fā)展正愈益凸顯其自身的封閉法則，甚至利用人性的欲望與弱點(diǎn)來(lái)推動(dòng)技術(shù)系統(tǒng)的無(wú)限擴(kuò)張。綜合以上兩大流派，技術(shù)現(xiàn)實(shí)主義洞察到當(dāng)代技術(shù)發(fā)展與政治、經(jīng)濟(jì)及社會(huì)結(jié)構(gòu)之間的動(dòng)態(tài)關(guān)系，意識(shí)到在這種復(fù)雜的結(jié)構(gòu)耦合關(guān)系中，單純依靠個(gè)人自主理性，甚至政治與法律系統(tǒng)的外部干預(yù)，都已無(wú)法對(duì)技術(shù)形成有效控制能力。相反，需要在技術(shù)內(nèi)部建立類似“分權(quán)制衡”（CheckandBalance）的機(jī)制，將各種道德與法律價(jià)值轉(zhuǎn)譯為可被機(jī)器識(shí)別和執(zhí)行的“代碼”，刺激“因果性閉合”的技術(shù)開(kāi)發(fā)新的工程學(xué)方向，通過(guò)例如源代碼開(kāi)放（OpenSource）、數(shù)據(jù)失真（DataDistortion）、人工智能對(duì)抗攻擊（AIAdversarialAttacks）、隱私計(jì)算（PrivacyComputing）、沙盒（Sandbox）機(jī)制等技術(shù)設(shè)計(jì)，形成對(duì)人類身心秩序的更好保護(hù)。

風(fēng)險(xiǎn)學(xué)習(xí)治理原則修正了密爾的傷害原則。在新的技術(shù)條件下，僅僅通過(guò)事后對(duì)直接或間接傷害的甄別與計(jì)算，已無(wú)法有效保護(hù)個(gè)人法益，有必要擴(kuò)大對(duì)相應(yīng)決策行為的事物、社會(huì)和時(shí)間維度的全方位考察，通過(guò)加強(qiáng)法律機(jī)制的學(xué)習(xí)能力與反思能力，強(qiáng)化對(duì)各類技術(shù)風(fēng)險(xiǎn)的追蹤和治理。密爾原則試圖客觀計(jì)算并精準(zhǔn)定位外部危險(xiǎn)與損害事實(shí)，而當(dāng)代技術(shù)風(fēng)險(xiǎn)卻呈現(xiàn)全方位的不確定性，無(wú)論是技術(shù)風(fēng)險(xiǎn)的事實(shí)形態(tài)、技術(shù)風(fēng)險(xiǎn)波及的群體范圍，以及技術(shù)風(fēng)險(xiǎn)在時(shí)間上的呈現(xiàn)效果，都無(wú)法事先就予以明確的預(yù)期和規(guī)范。技術(shù)風(fēng)險(xiǎn)的產(chǎn)生本身就與人類持續(xù)的干預(yù)行動(dòng)與治理決策相關(guān)，為了應(yīng)對(duì)技術(shù)風(fēng)險(xiǎn)制定的各種法律和技術(shù)舉措，其本身就可能引發(fā)新的社會(huì)風(fēng)險(xiǎn)。這就要求法律不再只是簡(jiǎn)單通過(guò)“令行禁止”的方式進(jìn)行規(guī)范，而需要法律自身從外在客觀的“治理者”視角轉(zhuǎn)變?yōu)閮?nèi)在觀察的“共振者”（Resonance）視角，提取更長(zhǎng)的時(shí)間維度，靈活運(yùn)用各種標(biāo)準(zhǔn)（Standard）、輕推（Nudge）、實(shí)驗(yàn)性規(guī)制（ExperimentalRegulation）手段，展開(kāi)具有學(xué)習(xí)性、反思性特征的技術(shù)風(fēng)險(xiǎn)治理。

而社會(huì)一體多元原則則超越了洛克的個(gè)人原則，它意識(shí)到在新的信息社會(huì)時(shí)代，技術(shù)風(fēng)險(xiǎn)已經(jīng)高度網(wǎng)絡(luò)化與系統(tǒng)化，不僅影響特定個(gè)體，也影響到整個(gè)社會(huì)。必須突破簡(jiǎn)單的個(gè)人/社會(huì)二元圖式，采取生態(tài)主義的多方利益攸關(guān)者（Stakeholder）視角，改變單向度的經(jīng)濟(jì)主義和技術(shù)主義思維對(duì)生活世界的殖民化。

“基于對(duì)未來(lái)的恐懼，人類行動(dòng)就不會(huì)魯莽，而會(huì)謹(jǐn)慎行事，肩負(fù)人的世界責(zé)任?！睗h斯·約納斯（Hans Jonas）早就先知一般地呼吁責(zé)任倫理對(duì)傳統(tǒng)倫理的革新：在現(xiàn)代技術(shù)權(quán)力面前，需要從“鄰人倫理”轉(zhuǎn)向關(guān)注未來(lái)“總體狀況”的倫理，從私人倫理轉(zhuǎn)向超個(gè)人的公共倫理。在此意義上，以上三項(xiàng)原則正是對(duì)約納斯責(zé)任倫理的重新演繹，或可作為討論未來(lái)新的技術(shù)倫理框架的基礎(chǔ)。