于 雪 金琪雨

1 什么是倫理即服務(wù)

1.1 倫理即服務(wù)概念的提出

近年來,隨著智能算法與智能系統(tǒng)的廣泛應用，越來越多的技術(shù)倫理問題暴露出來。輿論關(guān)注度的上升與相關(guān)政策和倫理標準的出臺，促進了技術(shù)倫理審查與規(guī)范活動的開展，但同時也凸顯了技術(shù)倫理需求與技術(shù)發(fā)展需求之間的不協(xié)調(diào)：一方面，部分中小科技企業(yè)缺乏專業(yè)性的科技倫理知識，不具有組織與展開自我倫理審查活動的能力；另一方面，各類抽象倫理原則難以有效指導實際的技術(shù)研發(fā)活動，研發(fā)者難以通過有效的技術(shù)手段實現(xiàn)道德的訴求。面對上述問題，倫理即服務(wù)(ethics as a service,EaaS)的概念應運而生。這一概念當前主要在兩種意義上被使用：其一指由谷歌等技術(shù)公司所提供的技術(shù)倫理審查服務(wù)，即由科技公司作為服務(wù)提供者，通過課程培訓、倫理建議、技術(shù)審查等一系列手段發(fā)現(xiàn)并解決客戶算法軟件中潛在道德風險的服務(wù)形式；其二是Morley等[1]所提出并倡導的Eaas框架，要求拋棄傳統(tǒng)的一次性道德審查模式，在抽象的道德原則與具體的實踐措施間達成妥協(xié)，基于平臺即服務(wù)(platform as a service,PaaS)框架構(gòu)建服務(wù)化的倫理轉(zhuǎn)譯工具，最終實現(xiàn)有效的、全流程的AI倫理嵌入。本文所依托與探討的EaaS概念主要基于后者，即意在探討一種新型的倫理設(shè)計活動構(gòu)架，而非具體的商業(yè)活動。

1.2 EaaS的云服務(wù)框架

“EaaS”這一表述來源于三種常見的云服務(wù)模式，即基礎(chǔ)設(shè)施即服務(wù)(infrastructure as a service,IaaS)、PaaS與軟件即服務(wù)(software as a service,SaaS)。其中IaaS指將服務(wù)器、算力和流量等基礎(chǔ)網(wǎng)絡(luò)資源作為服務(wù)提供給使用者，由提供者進行硬件設(shè)施維護的模式；PaaS指通過網(wǎng)絡(luò)將開發(fā)框架、工具包與部署環(huán)境作為服務(wù)提供給使用者，由提供者進行基礎(chǔ)工具研發(fā)與架構(gòu)維護穩(wěn)定的模式；SaaS則指通過網(wǎng)絡(luò)將具體應用及其功能提供給使用者，由提供者進行軟件功能、安全等方面維護工作的模式[2]。三種模式間的層層遞進同時也意味著使用者的自主性逐步降低，并將風險與成本轉(zhuǎn)移到提供者一方。

基于對上述三種云服務(wù)的各自特征，Morley等[1]將Eaas所類比的云服務(wù)框架基礎(chǔ)定位在PaaS層面。其所給出的論證在于：IaaS反映了一個過于靈活的倫理治理模式，人工智能設(shè)計者需要自行對抽象的道德準則給予依據(jù)具體情境的理解與定義，并選擇與之相對應的倫理轉(zhuǎn)化工具，從而給設(shè)計者帶來了過大的權(quán)限與壓力，也使得外部利益相關(guān)者的立場與責任不能得到良好的體現(xiàn)。與之相對應，SaaS反映了一個過于嚴格的倫理治理模式，由倫理學家、政策制定者等第三方完全承擔制定倫理標準與流程的責任，而人工智能治理者的責任被簡單確定為根據(jù)上述流程行事。在具體實踐中，流程制定者往往并不能囊括所有具體利益相關(guān)者的意見，而人工智能設(shè)計者同樣經(jīng)由這一流程免責，在實際的應用活動中，容易造成無人負責的尷尬局面。相比之下，Morley等[1]認為PaaS是一個較為適當?shù)闹卫砟Ｊ剑诖嘶A(chǔ)上的EaaS框架可以包括一個獨立的多學科倫理委員會、一個合作開發(fā)的倫理守則以及人工智能從業(yè)者等多個部分，并通過各部分間的良好協(xié)作與責任分配實現(xiàn)技術(shù)倫理的有效治理。

1.3 EaaS的內(nèi)涵特征

基于PaaS的EaaS框架的根本特征在于其平衡性：它旨在達成嚴格與靈活的倫理標準之間的平衡(按照信息倫理學的表達方式，就是將倫理標準維持在適當?shù)某橄髮哟蝃3])，以及過于分散與過于集中的倫理責任之間的平衡。而平衡性進一步要求EaaS框架拋棄以往片面?zhèn)戎厥虑邦A測和一次性倫理審查的行為模式。Morley等[1]指出，由于倫理準則的地域差異性與時間變化性等原因，任何倫理設(shè)計都不能被視為一旦運作就只產(chǎn)生期望性結(jié)果的靜態(tài)產(chǎn)品，而應被視為人類和非人類行為者的集合體，并受到各類非確定性因素的影響。智能系統(tǒng)的倫理實踐應被視為一個反思性的發(fā)展過程，其目的也是幫助參與者了解他們在特定環(huán)境下的主觀性與偏見[4]。在這一理解方式引導下展開的EaaS活動，必然具有動態(tài)性與未完成性。作為互聯(lián)網(wǎng)服務(wù)框架的倫理應用，Eaas同樣具有開放性，其框架并不完全確定倫理設(shè)計參與者的數(shù)量或參與方式，而是包容多樣的利益相關(guān)者以不同層級或參與度的組織方式被納入到倫理設(shè)計的決策環(huán)節(jié)之中。

1.4 EaaS與護理機器人倫理設(shè)計

Morley等[1]所提出的EaaS框架首先著眼于人工智能領(lǐng)域，本文認為這一框架在護理機器人的倫理設(shè)計領(lǐng)域同樣具有其重要性和可行性。一方面，護理機器人的應用場景多為開放性場景，需要與人類在社會交往中相互協(xié)作，這是一種非確定性系統(tǒng)的表現(xiàn)形式，其中涉及的倫理問題應當以服務(wù)工具的方式嵌入護理機器人的全生命周期，這正是EaaS的核心作用。另一方面，在當前的醫(yī)療服務(wù)采購中，各種護理機器人的應用更多采用了一種“SaaS+”模式，即在面向使用者SaaS平臺的基礎(chǔ)上，派出專人維護后臺系統(tǒng)以解決使用中各類意外問題或需要。這一模式提供了基于SaaS等云服務(wù)框架的信息收集、分析與反饋服務(wù)，但缺陷在于將倫理治理置于服務(wù)之外，通過第三方的形式來制定護理機器人的倫理標準，這很有可能導致因為未能囊括所有利益相關(guān)者的考量而造成無人負責的局面。因此，將EaaS框架用于護理機器人的倫理設(shè)計中，可以將護理機器人的倫理訴求視為一個全生命周期，可以通過設(shè)置獨立的倫理委員會、合作開發(fā)的倫理守則以及具體的倫理服務(wù)措施而克服上述缺陷。

2 護理機器人倫理設(shè)計中的現(xiàn)存不足

2.1 倫理服務(wù)者的定位模糊

當前護理機器人倫理設(shè)計的不足首先在于對設(shè)備所服務(wù)的倫理對象認知不明確。一方面，護理機器人的倫理影響范圍并不僅局限于被護理者本身，而社會影響應當在何種程度上被納入護理機器人的倫理考量范圍也值得商榷，因為這種考量范圍難以通過事前預測的方式得到有效地劃定。例如，護理機器人女性化特征所帶來的歧視憂慮與老年使用者對女性化護理機器人實際偏好之間的矛盾[5]，這無疑要求對護理機器人倫理性質(zhì)的進一步認識。另一方面，護理機器人的直接護理對象往往是老人、兒童、殘疾人等易在經(jīng)濟、社會關(guān)系等方面依賴他人的群體，首先參與到市場活動中的護理機器人也因此一定程度上存在迎合付費者倫理傾向的客觀需要。近年來，家用攝像頭、防走丟手環(huán)等智能設(shè)備所引起的倫理爭議就是對經(jīng)濟與社會關(guān)系影響的深刻揭示。相比之下，護理機器人因其技術(shù)屬性與維護需求所產(chǎn)生的倫理關(guān)系更為復雜，更需要對主體間關(guān)系進行有效辨析與針對性處理。

2.2 倫理設(shè)計的簡單化問題

倫理服務(wù)對象的錯位也進一步揭示了當前護理機器人倫理設(shè)計活動的簡單化問題：倫理設(shè)計往往容易被簡化為外觀設(shè)計，例如，在外形設(shè)計上等同于擬人、擬動物；在運動方式上等同于緩慢而非柔和；在表達方式上等同于字大、聲音大、女性化等。簡單化所暴露出的問題不外乎倫理設(shè)計投入的不足與倫理轉(zhuǎn)譯工具的缺乏，如上文所提到的，護理機器人不僅直接為護理者提供服務(wù)，更是護理者與其他護理人或社會個體之間的聯(lián)結(jié)者，這種關(guān)系作為技術(shù)“居間調(diào)解”作用的典型發(fā)揮應當受到進一步的重視，而過分的擬人化等倫理設(shè)計方式，反而可能抑制護理機器人的聯(lián)結(jié)作用，使護理機器人作為突兀的個體形成與其他護理者之間的割裂與反差，不利于整體護理環(huán)境的維持。

倫理設(shè)計活動的簡單化還體現(xiàn)為偏重事前預測與一次性倫理檢驗的設(shè)計思路。雖然以維貝克[6]及其道德物化思想為代表的倫理設(shè)計理論也強調(diào)道德設(shè)計是“具有實驗性質(zhì)的活動，不是控制人類行為的高度控制性的事情”，但其所倡導的倫理設(shè)計方法論很難被視為是對這種不斷發(fā)展的實驗性活動的鼓勵：面對護理機器人投產(chǎn)后在實際使用中所表現(xiàn)出的倫理問題，事前周密的倫理設(shè)計與想象活動仍舊被視為設(shè)計者得以逃避責任的擋箭牌，而使用者則被要求貫徹設(shè)計中過于理想化的倫理情境。而對于相對隱蔽的使用風險與倫理問題，重新貫徹倫理流程的壓力也會給研發(fā)者帶來惰性，從而不利于護理機器人道德的持續(xù)更新與發(fā)展。

2.3 倫理設(shè)計的智能化誤區(qū)

此外，另一個對護理機器人倫理設(shè)計的誤區(qū)在于對護理機器人集成度、智能化等指標的盲信：使用者是否需要一個“護理機器人”來統(tǒng)一性地解決多個護理需求，這一基礎(chǔ)性問題本身是甚少引起反思的。對于部分被護理者而言，讓護理機器人維持其傳統(tǒng)的工具特征同樣是一種符合倫理的設(shè)計。傳統(tǒng)技術(shù)設(shè)計理論的預測與分析活動著重構(gòu)建理想化的道德環(huán)境并給出相應的解決方案，其最終結(jié)果往往是高度集成的“專業(yè)機器人”。無論這種護理機器人通過何種方式增加其活動可讀性，對于具體被護理者而言終歸難以與其所熟悉的傳統(tǒng)模式相匹敵，尤其對于面向個人和家庭等復雜情境的智能機器人，事前設(shè)計所能夠考慮和顧及的因素無疑是有限的。與顯見的護理與養(yǎng)老困境相對應的，是護理成本的持續(xù)高昂，智能化護理如不能降低護理成本或提供更有效的護理條件，就反而陷入了倫理設(shè)計智能化的誤區(qū)。

2.4 倫理場景的標準化困境

《“十四五”機器人產(chǎn)業(yè)發(fā)展規(guī)劃》指出，2020年，我國服務(wù)機器人在教育娛樂，醫(yī)療康復等領(lǐng)域?qū)崿F(xiàn)規(guī)模化應用[7]。值得注意的是，實用化的護理機器人首先進入的是醫(yī)院、養(yǎng)老院等標準化、流程化較強的應用場景，其部分原因是倫理轉(zhuǎn)譯的困難性在面對家庭等復雜場景時將會被進一步放大。如果不能破解家庭倫理情境的復雜性問題，勢必會對護理機器人的長遠發(fā)展與社會融入造成困難?，F(xiàn)有場景中的標準化倫理情境同樣應當受到進一步的考量和定期的評估，以確保此類相對穩(wěn)定的倫理情境具有標準化的可復制性，同時也應當注重被護理者的多樣性及自身的特殊性訴求對于場景標準化的挑戰(zhàn)。

3 EaaS對護理機器人倫理設(shè)計的可能改良

3.1 構(gòu)建多方協(xié)調(diào)的倫理準則

針對倫理服務(wù)者定位模糊的問題，可以建構(gòu)基于EaaS框架的多學科倫理委員會，廣泛吸收護理者、被護理者、倫理學家、社會學家、機器人工程師等多方面的利益相關(guān)者，對同一類別的護理機器人倫理設(shè)計提供合作構(gòu)建的倫理守則。該倫理委員會需要直接參與到護理機器人倫理設(shè)計的流程制定當中，并根據(jù)護理機器人的實際應用情境協(xié)商定義各條抽象倫理準則的具體含義并提供一系列有效的倫理轉(zhuǎn)化工具。該倫理委員會應當制定與此相對應的中止機制并有能力介入違反相關(guān)原則后的糾錯流程。

在EaaS的框架下，這一過程所實際產(chǎn)出的倫理準則具有積極的、發(fā)展的可能性，其成果不能以絕對倫理的或非倫理的二元思維加以衡量，但能夠根據(jù)與準則制定前的倫理狀態(tài)或準則迭代中倫理變化的比較來探討其相對的倫理意義，即準則應當是越來越合倫理的而非確定合倫理的，這再次體現(xiàn)了信息倫理學對EaaS框架的基礎(chǔ)性影響。須注意的是，除非符合知情同意的豁免要求[8]，倫理準則發(fā)展的動態(tài)屬性不能以實際使用者的知情同意為代價，倫理設(shè)計者與工程研發(fā)人員有義務(wù)在這一過程中保持使用者對整體發(fā)展情況的感知。

3.2 實現(xiàn)多抽象層次的倫理設(shè)計審查

針對倫理設(shè)計的簡單化問題，應當基于EaaS框架與信息倫理學，在多個抽象層次上展開對護理機器人倫理特征的識別與評估工作，從而保證倫理設(shè)計與轉(zhuǎn)化程序具有合倫理性。包括但不限于：護理機器人倫理設(shè)計思路的合倫理性、護理機器人智能系統(tǒng)結(jié)構(gòu)的合倫理性、護理機器人實現(xiàn)代碼的合倫理性、護理機器人自身實踐行為的合倫理性與護理機器人社會關(guān)系的合倫理性等。具體而言，多層次的倫理監(jiān)控活動要求護理機器人的倫理設(shè)計不能僅停留于實踐層面的可用性，還必須保證算法層面的可解釋性，應盡量控制人工智能與深度學習算法等具有黑箱性質(zhì)的技術(shù)因素，從而消減護理機器人倫理活動的潛在非確定性。只有當護理機器人的倫理設(shè)計內(nèi)容在多個層次上展現(xiàn)出合倫理性時，此種設(shè)計才應當被視為是可行的，反之則要審查其倫理特征在實踐流程中的缺失。通過循環(huán)式的層次審查與優(yōu)化活動，倫理委員會得以保持其自身及護理機器人倫理活動處于一個動態(tài)的長效發(fā)展過程當中，改良以往一次性倫理審查中的局限性，同時提升倫理設(shè)計活動的有效性與可用性。

3.3 構(gòu)建模塊化的倫理情境

針對倫理設(shè)計的智能化誤區(qū)，應當視具體情況摒棄單體式、集成化的解決方案，采用分布式的微服務(wù)，發(fā)揮其高可用性與可伸縮性特點[9]，由相對平行且獨立的小型團隊分別解決各種具體應用的需求。但在服務(wù)化的業(yè)務(wù)流程中，具體需求往往是倫理無涉的，業(yè)務(wù)整體的倫理特征也不能等同于用戶在實際使用活動中所接觸到的倫理情況。針對此類具有去倫理化風險的解決方式，EaaS框架可以依托信息倫理學的基本觀念，從信息域的構(gòu)建與權(quán)限管理入手模塊化地構(gòu)建具體倫理情境，從而保證各類智能設(shè)備的倫理統(tǒng)籌性。就其成果而言，具體護理機器的倫理特征應與EaaS的框架特征相對一致，即可以通過多個模塊化護理設(shè)備的協(xié)作實現(xiàn)倫理情境的構(gòu)建與設(shè)備倫理內(nèi)涵的升級，從非倫理化的單一護理儀器整合為具有顯見倫理特征的護理環(huán)境。

3.4 開展自發(fā)性的倫理定制服務(wù)

針對倫理場景的標準化困境，EaaS框架提供了一個更為開放、更為包容、更易使用的倫理設(shè)計平臺，有能力通過倫理工具的開發(fā)與下放實現(xiàn)廣泛參與的倫理體系的構(gòu)建。有特殊倫理需求的用戶群體，能夠自行組合成為倫理參與者群體，依托于行業(yè)內(nèi)倫理委員會所公開的簡明倫理工具包與以往倫理設(shè)計經(jīng)驗，具有針對性地自我解決或外包相關(guān)倫理設(shè)計需求，形成具有活力的開源倫理設(shè)計社區(qū)，按需定制特種倫理場景下的護理機器人。通過有條件地擴大倫理設(shè)計活動參與群體，實現(xiàn)倫理活動與要求的細分。充分發(fā)揮互聯(lián)網(wǎng)背景下的共享精神[10]，實現(xiàn)倫理設(shè)計活動的開放化，最大程度地發(fā)揮EaaS框架所具有的內(nèi)在活力。

4 結(jié)語

EaaS為倫理設(shè)計領(lǐng)域提供了一個更為開放和動態(tài)的合作平臺架構(gòu)，從而有望以更高效和更具有針對性的方式解決當前護理機器人倫理設(shè)計活動中的諸多不足。然而，以EaaS框架來實現(xiàn)護理機器人的倫理設(shè)計還存在著一定的局限性，例如，倫理轉(zhuǎn)譯的工具和方法大多不具有強檢驗性、既存的轉(zhuǎn)譯工具和方法注重分析判斷而非規(guī)范確定從而欠缺實效性、倫理轉(zhuǎn)譯工具只被開發(fā)者用于完成一次性測試等[11]。

將EaaS框架用以實現(xiàn)護理機器人的倫理設(shè)計是一種合理的嘗試，相對于當前實踐中嚴格地使用條例和與之相對應的寬泛免責條款，EaaS能夠更好地平衡各方責任，并且能夠在加強對倫理不足或倫理錯誤的辨識能力的同時，也能夠明確區(qū)分可確認的錯誤與應承擔的責任，這可以為實際的倫理準則賦予面向社會的可探討性與可辯護性提供解決思路。因此，EaaS框架有可能成為一個切實可行的倫理活動方式，為護理機器人的倫理設(shè)計提供有效的支撐策略。