肖紅軍

中國社會科學(xué)院 工業(yè)經(jīng)濟研究所,北京 100006

2021年3月召開的中央財經(jīng)委員會第九次會議指出,平臺經(jīng)濟“在經(jīng)濟社會發(fā)展全局中的地位和作用日益突顯”,但發(fā)展中也存在一些突出問題,包括“不規(guī)范、存在風(fēng)險”“不充分、存在短板”。特別是,作為平臺經(jīng)濟底層的核心技術(shù)支撐,平臺算法對于智能平臺積極功能發(fā)揮、平臺經(jīng)濟規(guī)范健康持續(xù)發(fā)展至為關(guān)鍵,但現(xiàn)實中卻出現(xiàn)了諸多平臺算法“不規(guī)范、存在風(fēng)險”的問題,平臺算法失當(dāng)現(xiàn)象和不負責(zé)任行為屢見不鮮。智能信息流平臺、社交平臺往往采用基于內(nèi)容的算法推薦、基于用戶的協(xié)同過濾、基于模型的算法推薦[1],容易引發(fā)顯著的過濾氣泡、信息繭房、數(shù)字圓形監(jiān)獄、回聲室效應(yīng)等現(xiàn)象;電商平臺通過歧視性算法實施“大數(shù)據(jù)殺熟”,既包括“熟客賣高價”的第一代大數(shù)據(jù)殺熟,也包括“千人千面”與“千人千價”之下的第二代大數(shù)據(jù)殺熟;外賣平臺通過斯德哥爾摩效應(yīng)式的算法規(guī)訓(xùn)將外賣騎手“困在系統(tǒng)里”,形成對外賣騎手的算法操縱;網(wǎng)絡(luò)游戲平臺通過不區(qū)分群體的算法系統(tǒng),誘導(dǎo)青少年沉溺于游戲之中。此外,各類智能平臺普遍存在“真實黑箱”(real secrecy)、“法律黑箱”(legal secrecy)和“制造混淆”(obfuscation)等算法黑箱問題[2]6;許多平臺的算法自動決策傾向于過度收集消費者數(shù)據(jù)信息并不當(dāng)使用,造成對個人隱私的隱性侵犯;頭部平臺企業(yè)依托算法可能實施信使型共謀(messenger)、軸輻型共謀(hub and spoke)、預(yù)測型共謀(predictable agent)、自主型共謀(autonomous machine)等算法共謀行為[3],并出現(xiàn)更為隱蔽的算法壟斷現(xiàn)象。

平臺經(jīng)濟領(lǐng)域存在的平臺算法失當(dāng)現(xiàn)象和社會責(zé)任缺失問題引發(fā)社會高度關(guān)注。2021年10月習(xí)近平總書記在中共中央政治局第三十四次集體學(xué)習(xí)時指出,“要糾正和規(guī)范發(fā)展過程中損害群眾利益、妨礙公平競爭的行為和做法,防止平臺壟斷和資本無序擴張,依法查處壟斷和不正當(dāng)競爭行為”“要保護平臺從業(yè)人員和消費者合法權(quán)益”。與此同時,平臺治理尤其是平臺算法治理的一系列制度供給開始出現(xiàn),2019年8月《國務(wù)院辦公廳關(guān)于促進平臺經(jīng)濟規(guī)范健康發(fā)展的指導(dǎo)意見》(國辦發(fā)〔2019〕38號)、2021年2月《國務(wù)院反壟斷委員會關(guān)于平臺經(jīng)濟領(lǐng)域的反壟斷指南》(國反壟發(fā)〔2021〕1號)相繼印發(fā),2021年8月通過的《中華人民共和國個人信息保護法》對提供重要互聯(lián)網(wǎng)平臺服務(wù)、用戶數(shù)量巨大、業(yè)務(wù)類型復(fù)雜的個人信息處理者提出了明確的個人信息保護要求。更具針對性的是,2021年7月,人力資源和社會保障部等八部門共同印發(fā)《關(guān)于維護新就業(yè)形態(tài)勞動者勞動保障權(quán)益的指導(dǎo)意見》(人社部發(fā)〔2021〕56號),督促企業(yè)修訂平臺算法,維護新就業(yè)形態(tài)勞動者權(quán)益;同月,市場監(jiān)督管理總局等七部門聯(lián)合印發(fā)《關(guān)于落實網(wǎng)絡(luò)餐飲平臺責(zé)任切實維護外賣送餐員權(quán)益的指導(dǎo)意見》(國市監(jiān)網(wǎng)監(jiān)發(fā)〔2021〕38號),要求網(wǎng)絡(luò)餐飲平臺優(yōu)化算法規(guī)則,采用“算法取中”而非“最嚴算法”。2021年8月,國家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見稿)》;9月,國家互聯(lián)網(wǎng)信息辦公室等九部門聯(lián)合印發(fā)《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》(國信辦發(fā)文〔2021〕7號),對包括平臺算法在內(nèi)的互聯(lián)網(wǎng)信息服務(wù)算法進行規(guī)范,試圖推動互聯(lián)網(wǎng)信息服務(wù)算法對社會負責(zé)任;10月,國家市場監(jiān)督管理總局公布《互聯(lián)網(wǎng)平臺落實主體責(zé)任指南(征求意見稿)》,專門明確互聯(lián)網(wǎng)平臺經(jīng)營者的算法規(guī)制義務(wù)。然而,與制度供給和平臺算法治理實踐不相適應(yīng)的是,目前關(guān)于負責(zé)任的平臺算法嚴重缺乏理論探索,系統(tǒng)性研究更是難以言及,因此亟需予以突破,這是本文開展探索性研究的重要動因和核心目的。

一、構(gòu)建“負責(zé)任的平臺算法”的三重邏輯意涵

平臺經(jīng)濟作為新經(jīng)濟的重要形態(tài),其發(fā)展已經(jīng)遠遠超越經(jīng)濟范疇與技術(shù)邊界,深刻嵌入社會之中,與社會形態(tài)和社會結(jié)構(gòu)的演變緊密嵌套在一起。與此相適應(yīng),平臺算法不僅具有技術(shù)屬性和經(jīng)濟屬性,更表現(xiàn)出強烈的社會屬性,其開發(fā)與應(yīng)用必須合乎社會責(zé)任要求。無論是基于理論邏輯還是歷史邏輯,抑或?qū)嵺`邏輯,構(gòu)建負責(zé)任的平臺算法都有其必然性、必要性和合意性,也就是說,構(gòu)建負責(zé)任的平臺算法是理論邏輯、歷史邏輯和實踐邏輯的有機統(tǒng)一。

(一)理論邏輯:深化平臺企業(yè)社會責(zé)任理論的必然要求

平臺企業(yè)應(yīng)當(dāng)履行社會責(zé)任已經(jīng)成為社會的基本共識,平臺企業(yè)社會責(zé)任的生成邏輯、內(nèi)容邊界、治理范式和實現(xiàn)機制成為新的研究熱點。從生成邏輯來看,平臺企業(yè)社會責(zé)任之所以出現(xiàn),其邏輯起點在于對平臺企業(yè)本質(zhì)屬性的認知,即平臺企業(yè)是經(jīng)濟屬性與社會屬性密不可分且相互融合的組織,是私人屬性與公共屬性的耦合體[4]。從內(nèi)容邊界來看,平臺企業(yè)社會責(zé)任的內(nèi)容確定既有利益相關(guān)方模式在平臺情境的具體應(yīng)用,進而形成由員工和雙邊用戶構(gòu)成的杠桿天平模型[5],也有將平臺企業(yè)個體社會責(zé)任行為和搭建網(wǎng)絡(luò)化履責(zé)平臺進行區(qū)分[6],構(gòu)建獨立運營主體社會責(zé)任和商業(yè)運營主體社會責(zé)任的細化維度[7],更有透視平臺企業(yè)作用于社會的兩條路徑,即“企業(yè)個體→社會”和“企業(yè)個體→平臺商業(yè)生態(tài)圈→社會”,從而形成平臺企業(yè)作為獨立運營主體、商業(yè)運作平臺、社會資源配置平臺三個層次的社會責(zé)任內(nèi)容邊界[8]。從治理范式來看,雙邊市場理論、商業(yè)生態(tài)圈視角、公共治理理論等不同視角下平臺企業(yè)社會責(zé)任的治理類型不盡相同[9],既可以從治理邏輯差異上將生態(tài)化治理和“主體—路徑”多中心協(xié)同治理作為主導(dǎo)性范式[8,10],又可以從平臺領(lǐng)導(dǎo)角度區(qū)分為盡責(zé)型自治模式、督責(zé)型互治模式和拓責(zé)型共治模式[11],還可以基于“情境選擇—戰(zhàn)略導(dǎo)向—平臺基礎(chǔ)”劃分為平臺嵌入式、平臺嫁接式、平臺撬動式和平臺新創(chuàng)式[4]。從實現(xiàn)機制來看,平臺企業(yè)社會責(zé)任的落地需要推動在企業(yè)個體和平臺商業(yè)生態(tài)圈兩個層面的社會責(zé)任融入,前者是要構(gòu)建平臺企業(yè)的社會責(zé)任管理機制,后者則是要形成責(zé)任型審核與過濾機制、責(zé)任愿景認同卷入機制、責(zé)任型運行規(guī)則與程序、責(zé)任型評價與聲譽機制、責(zé)任型監(jiān)督與懲戒機制[8]。

顯然,平臺企業(yè)社會責(zé)任的已有理論研究主要聚焦于組織層面或生態(tài)層面,將平臺作為一個連接雙邊用戶的“黑箱”,沒有進一步深入到平臺的核心即平臺算法,因此缺乏從平臺算法層面深度透視平臺企業(yè)社會責(zé)任。然而,平臺功能的發(fā)揮是由平臺算法來實現(xiàn)的,平臺企業(yè)通過平臺作用于雙邊或多邊用戶實際上也是由平臺算法來執(zhí)行的,這意味著平臺算法在很多情境下是平臺企業(yè)的“代理者”。相應(yīng)地,平臺企業(yè)嵌入社會的路徑將會得到延拓,即“企業(yè)個體→社會”轉(zhuǎn)變?yōu)椤捌脚_企業(yè)個體→平臺算法→社會”,“企業(yè)個體→平臺商業(yè)生態(tài)圈→社會”轉(zhuǎn)化為“平臺企業(yè)個體→平臺算法→平臺商業(yè)生態(tài)圈→社會”。平臺企業(yè)鏈接于社會的路徑延拓導(dǎo)致對平臺企業(yè)社會責(zé)任的認知與理解需要深入到平臺算法層面,平臺企業(yè)社會責(zé)任的內(nèi)容邊界、治理范式和實現(xiàn)機制都應(yīng)當(dāng)考慮平臺算法對利益相關(guān)方和社會的影響,構(gòu)建負責(zé)任的平臺算法是落實平臺企業(yè)社會責(zé)任的必然要求。從另外一個角度來看,平臺企業(yè)社會責(zé)任的落地關(guān)鍵是推動社會責(zé)任的全面融入,這在平臺企業(yè)個體層面要求將社會責(zé)任全方位融入到使命戰(zhàn)略、業(yè)務(wù)運營和企業(yè)管理,而平臺企業(yè)業(yè)務(wù)運營的重要構(gòu)成和核心實現(xiàn)方式是開發(fā)、創(chuàng)新、應(yīng)用平臺算法,因此需要將社會責(zé)任融入平臺算法的開發(fā)、創(chuàng)新和應(yīng)用,構(gòu)建具有社會責(zé)任感的平臺算法。此外,責(zé)任型審核與過濾機制、責(zé)任愿景認同卷入機制、責(zé)任型運行規(guī)則與程序、責(zé)任型評價與聲譽機制、責(zé)任型監(jiān)督與懲戒機制都通過負責(zé)任的平臺算法來實現(xiàn),本質(zhì)上是社會責(zé)任融入“構(gòu)建平臺商業(yè)生態(tài)圈的平臺算法”的顯性結(jié)果。由此可見,平臺企業(yè)社會責(zé)任的深化,需要將構(gòu)建負責(zé)任的平臺算法作為重要方向。

(二)歷史邏輯:技術(shù)中立向科技向善轉(zhuǎn)變的趨勢使然

平臺算法在更寬泛的范疇屬于技術(shù)領(lǐng)域或科技領(lǐng)域,其是否應(yīng)當(dāng)對社會負責(zé)任與對技術(shù)的價值中立或非中立認知密切相關(guān)。從歷史演變來看,技術(shù)領(lǐng)域經(jīng)歷了價值中立、技術(shù)中立轉(zhuǎn)向科技倫理、科技向善的變化。技術(shù)中立包括功能中立、責(zé)任中立和價值中立,但最終都指向技術(shù)的價值維度,即技術(shù)價值中立[12]。技術(shù)價值中立思想古而有之,亞里士多德將技藝看作其目的存在于自身之外的工具性活動就是這一思想的體現(xiàn)。對技術(shù)價值中立思想較早做出系統(tǒng)深刻闡釋的當(dāng)屬韋伯,他在區(qū)分“價值判斷”與“價值關(guān)聯(lián)”的基礎(chǔ)上,提出價值中立(value-neutrality)或價值無涉(value-freedom)主張,劃界出“科學(xué)外”價值立場和“科學(xué)內(nèi)”價值立場,將現(xiàn)代技術(shù)看作本質(zhì)上是一種工具理性、形式合理性。盡管馬爾庫塞和哈貝馬斯等法蘭克福學(xué)派對韋伯的價值中立觀點進行了猛烈批判,最新的后現(xiàn)代主義和建構(gòu)主義都對價值中立、技術(shù)中立觀點開展了技術(shù)批判[13],但技術(shù)中立思想的影響卻長期存在。技術(shù)中立逐步由科技哲學(xué)領(lǐng)域走向司法領(lǐng)域。1984年美國環(huán)球影片公司訴索尼公司案對技術(shù)中立原則的確立具有實質(zhì)性意義。美國在20世紀(jì)末頒布的《數(shù)字千年版權(quán)法》中提出的“避風(fēng)港原則”進一步強化了技術(shù)中立原則,而2016年發(fā)生的“快播案”則引發(fā)對技術(shù)中立原則的激烈爭論。然而,隨著現(xiàn)代技術(shù)活動日益呈現(xiàn)出顯著的消極社會后果和表現(xiàn)出對社會倫理的挑戰(zhàn),人們對技術(shù)中立觀點的反思愈加強烈,技術(shù)倫理和科學(xué)倫理思想逐步興起。進入21世紀(jì)以來,科技哲學(xué)出現(xiàn)倫理轉(zhuǎn)向與倫理學(xué)出現(xiàn)科技轉(zhuǎn)向相互交匯,尤其是當(dāng)代技術(shù)倫理實現(xiàn)范式由“外在進路”(externalist approach)轉(zhuǎn)向“內(nèi)在進路”(internalist approach)[14],技術(shù)中立觀點加速退出,秉持價值非中立思想的科技向善觀點日益盛行?？萍枷蛏埔馕吨茖W(xué)技術(shù)應(yīng)當(dāng)創(chuàng)造有利于人類社會發(fā)展和文明進步的正向價值[15],符合社會倫理要求,做到對社會負責(zé)任。

技術(shù)中立觀點向科技向善觀點的轉(zhuǎn)變,直接推動人們對算法認知的改變,以技術(shù)中立的“菜刀理論”為基礎(chǔ)、認為“算法本身是無關(guān)好壞選擇的價值中立”[16]的算法中立觀點逐漸被顛覆,取而代之的是算法倫理觀的興起。算法最早被認為僅僅是自然的技術(shù)中介,強調(diào)的是其技術(shù)性,之后演變?yōu)閷⑵淇醋髑度胗谏鐣Y(jié)構(gòu)的存在物甚至社會技術(shù)實體,擁有技術(shù)性與社會性的雙重屬性。相應(yīng)地,算法被認為其本身就內(nèi)含了基本價值判斷[17],是具有載荷價值的決策行動者[18],算法決策應(yīng)當(dāng)滿足社會倫理符合性。從算法倫理關(guān)注內(nèi)容來看,六種關(guān)切(concerns)共同構(gòu)成了“算法倫理地圖”,它們分別是三種認知(epistemic)關(guān)切即不足信的證據(jù)(inconclusive evidence)、難以理解的證據(jù)(inscrutable evidence)和錯誤的證據(jù)(misguided evidence),兩種規(guī)范(normative)關(guān)切即不公正的結(jié)果(unfair outcomes)和轉(zhuǎn)化效應(yīng)(transformative effects),以及可追溯性(traceability)[19]。算法倫理觀的代表性觀點是道德算法和負責(zé)任的算法,前者是“在道德上可接受的算法或合乎倫理的算法”[20],后者則是能夠為社會創(chuàng)造最大化綜合價值、最大限度增進社會福利的算法。道德算法既可以是“自上而下”(top-down)的倫理規(guī)范和道德標(biāo)準(zhǔn)嵌入算法,也可以是“自下而上”(bottom-up)的算法道德學(xué)習(xí)和道德行為探索,還可以采用“自上而下”與“自下而上”相結(jié)合的“混合型”(hybrid)方式[21]79-81。負責(zé)任的算法除了要求合乎道德倫理外,更強調(diào)算法決策的社會視角和利益相關(guān)方視角,突出算法對可持續(xù)發(fā)展的貢獻。進一步,順應(yīng)算法中立觀點轉(zhuǎn)向算法倫理觀、算法向善認知的變化趨勢,平臺算法應(yīng)當(dāng)成為道德算法和負責(zé)任的算法,構(gòu)建負責(zé)任的平臺算法成為趨勢使然。

(三)實踐邏輯:平臺監(jiān)管強化與算法規(guī)制興起的重要取向

隨著平臺經(jīng)濟規(guī)模的迅速增長、平臺對經(jīng)濟社會發(fā)展影響力的日益增強和平臺經(jīng)濟發(fā)展中不規(guī)范現(xiàn)象的不斷增多,全球范圍內(nèi)對平臺監(jiān)管的強化正在成為一種顯著趨勢,平臺經(jīng)濟強監(jiān)管模式逐步被許多國家或地區(qū)所推崇和采用。從國外來看,歐盟是平臺經(jīng)濟嚴格管制的代表,不僅于2020年12月公布了聚焦于非法內(nèi)容的《數(shù)字服務(wù)法》(Digital Services Act,DSA)和聚焦于反競爭行為的《數(shù)字市場法》(Digital Markets Act,DMA)兩個草案,而且自2018年以來對Google、Facebook、Amazon等多家平臺企業(yè)實施了高額反壟斷處罰或違反數(shù)據(jù)隱私罰款。即使是對平臺經(jīng)濟采取審慎規(guī)制策略的美國[22],近兩年來也不斷加大對平臺企業(yè)的監(jiān)管力度。2020年10月發(fā)布的《數(shù)字市場競爭調(diào)查報告》及其后對Google和Facebook發(fā)起的反壟斷訴訟,以及2021年2月正式提出的《競爭和反壟斷執(zhí)法改革法案》,都意味著美國實施寬松平臺監(jiān)管的態(tài)度正在發(fā)生逆轉(zhuǎn)[23]。從國內(nèi)來看,針對平臺經(jīng)濟迅猛發(fā)展中的資本無序擴張和違規(guī)失范現(xiàn)象,政府對平臺企業(yè)的監(jiān)管呈現(xiàn)由包容審慎轉(zhuǎn)向嚴格監(jiān)管的演變趨勢。一方面,加快推進平臺監(jiān)管的制度創(chuàng)新改革,2021年2月和3月先后正式印發(fā)了《國務(wù)院反壟斷委員會關(guān)于平臺經(jīng)濟領(lǐng)域的反壟斷指南》和《網(wǎng)絡(luò)交易監(jiān)督管理辦法》;另一方面,加大對平臺企業(yè)違規(guī)失范行為監(jiān)管的執(zhí)法力度,2021年先后對阿里巴巴和美團實施的“二選一”壟斷行為開出巨額罰單,國家七部門聯(lián)合進駐滴滴對其進行網(wǎng)絡(luò)安全審查,要求騰訊音樂解除獨家版權(quán)協(xié)議。國內(nèi)外對平臺監(jiān)管的強化不僅涉及平臺企業(yè)的經(jīng)濟行為,還日益擴展至其在社會領(lǐng)域的社會影響,目的是通過將“達摩克利斯之劍”懸于平臺企業(yè)頭上,推動平臺企業(yè)實施對社會負責(zé)任的行為,打造富有社會責(zé)任感、對社會負責(zé)任的平臺企業(yè)。實際上,平臺企業(yè)的諸多行為均依托平臺算法實施,強化平臺監(jiān)管和構(gòu)建負責(zé)任的平臺企業(yè)必然都要求深入到平臺算法,即要求構(gòu)建負責(zé)任的平臺算法。

數(shù)字經(jīng)濟治理除了針對不同類型數(shù)字企業(yè)如平臺企業(yè)的監(jiān)管這一進路外,另一條邏輯進路則是對競爭、數(shù)據(jù)、算法、內(nèi)容等數(shù)字經(jīng)濟核心構(gòu)成要素的專業(yè)規(guī)制,其中近年來才興起的算法規(guī)制成為數(shù)字經(jīng)濟治理的新內(nèi)容和新方式。從國外實踐來看,雖然歐美國家在算法規(guī)制范式上不盡相同,歐盟主要采取個體賦權(quán)的算法治理方式,美國則更強調(diào)以算法問責(zé)制為主的算法治理[24],但不斷加強對算法的規(guī)制卻是共同的趨勢。對于前者,2018年5月正式生效的歐盟《通用數(shù)據(jù)保護條例》(GDPR)將多項新型算法權(quán)利賦予數(shù)據(jù)主體,2019年4月歐洲議會研究服務(wù)機構(gòu)發(fā)布的《算法問責(zé)制和透明治理框架》針對算法提出了系統(tǒng)全面的治理框架。對于后者,2017年12月紐約市出臺了美國首個公用事業(yè)領(lǐng)域的算法問責(zé)法,2019年2月華盛頓州就算法問責(zé)法案舉辦了聽證會,10月《算法問責(zé)法2019(草案)》進入美國國會的立法程序,2020年6月范圍更廣的《數(shù)據(jù)問責(zé)和透明度法》討論稿發(fā)布,2021年5月美國參議院引入《2021年算法公平和在線平臺透明度法案》。從國內(nèi)實踐來看,算法規(guī)制已經(jīng)成為互聯(lián)網(wǎng)治理關(guān)注的新焦點,算法規(guī)制的制度探索開始起步。2021年8月發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見稿)》對算法推薦服務(wù)提出具體的規(guī)范要求,9月印發(fā)的《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》對健全算法安全治理機制、構(gòu)建算法安全監(jiān)管體系、促進算法生態(tài)規(guī)范發(fā)展做出了明確和細化的規(guī)定。無論是國外還是國內(nèi),算法規(guī)制興起的著眼點是推動算法研究、開發(fā)、設(shè)計、部署、應(yīng)用活動的規(guī)范化,形成符合社會規(guī)范要求、對社會負責(zé)任的算法。特別是,國內(nèi)算法規(guī)制的需求和重點主要是平臺經(jīng)濟領(lǐng)域,并初步形成設(shè)定平臺算法義務(wù)為主、賦予個體權(quán)利為輔的復(fù)合型算法治理路徑[24],這意味著構(gòu)建負責(zé)任的平臺算法是國內(nèi)算法規(guī)制的重要目標(biāo)取向,也是算法規(guī)制的高階實現(xiàn)路徑。

二、“負責(zé)任的平臺算法”的系統(tǒng)刻畫

構(gòu)建“負責(zé)任的平臺算法”的首要前提是要對負責(zé)任的平臺算法進行概念界定,廓清負責(zé)任的平臺算法范疇邊界,刻畫出負責(zé)任的平臺算法是一種什么樣的平臺算法。這意味著需要對負責(zé)任的平臺算法開展構(gòu)造分析,解構(gòu)負責(zé)任的平臺算法構(gòu)成要件,理清不同構(gòu)成要件之間的邏輯關(guān)系,從整體上建立負責(zé)任的平臺算法的構(gòu)造系統(tǒng)架構(gòu)。

(一)對“負責(zé)任的平臺算法”的理解

算法可以做狹義、廣義和中義三種理解[25]。狹義的算法被看作技術(shù)性解決方案,在計算機領(lǐng)域通常指的是一系列的自動化程序或指令;廣義的算法被寬泛地認為是技術(shù)性和社會性解決方案,指的是所有決策程序或者步驟;中義的算法認知處于廣義理解與狹義理解之間,指的是人機交互的決策機制。具體到平臺情境,平臺算法是平臺功能得以實現(xiàn)的技術(shù)載體,但它也承載著平臺企業(yè)的決策意圖,因此在平臺企業(yè)、平臺和雙邊用戶的人機交互中,兼具人的決策和算法的自動化判斷,這意味著中義的算法認知更適合對平臺算法的理解。平臺經(jīng)濟的快速發(fā)展,本質(zhì)上得益于以新一代信息技術(shù)為基礎(chǔ)的平臺算法迭代創(chuàng)新,是平臺領(lǐng)域人機交互技術(shù)與決策機制高級化的結(jié)果。從這種意義上來說,平臺算法是技術(shù)屬性與社會屬性相交融的混合體,相對一般化的算法,具有更強的價值載荷。特別是在平臺企業(yè)與社會關(guān)系的兩條路徑即“平臺企業(yè)個體→平臺算法→社會”和“平臺企業(yè)個體→平臺算法→平臺商業(yè)生態(tài)圈→社會”中,平臺算法成為平臺企業(yè)的“代理者”與社會發(fā)生交互,因此平臺算法對社會施加影響的性質(zhì)與強度相當(dāng)程度上反映出平臺企業(yè)對社會負責(zé)任的表現(xiàn)水平。也就是說,平臺算法作為平臺企業(yè)與社會交互的決策機制或輔助決策機制,其嵌入的價值判斷和社會責(zé)任符合性對于平臺企業(yè)或平臺實現(xiàn)有益的社會功能至為關(guān)鍵。

對于負責(zé)任的平臺算法,其可以認為是負責(zé)任的算法這一概念在平臺領(lǐng)域的應(yīng)用。然而,目前對負責(zé)任的算法主要是從問責(zé)制(accountability)角度予以界定的,更多指的是accountable algorithms[26-27],強調(diào)對算法的社會影響進行責(zé)任認定與分配,以及算法在其中應(yīng)當(dāng)承擔(dān)的責(zé)任份額,由此負責(zé)任的算法被認為是能夠承擔(dān)主體責(zé)任事項的算法。顯然,負責(zé)任的平臺算法超越了問責(zé)制視角的“負責(zé)任的算法”概念,意指responsible algorithms而非accountable algorithms。一方面,從中義的算法概念可知,平臺算法作為人機交互的決策機制,更加關(guān)注的是平臺算法決策對作用對象、利益相關(guān)方和社會產(chǎn)生的影響,負責(zé)任的平臺算法應(yīng)當(dāng)考慮和處置這些影響,而非僅僅在不當(dāng)影響發(fā)生后的責(zé)任認定、分配和承擔(dān)問題;另一方面,平臺算法在本質(zhì)上具有弱人工智能屬性,在Moor界定的四類人工道德行動體[28]中,更多的屬于倫理影響型道德行動體或隱性道德行動體,最大邊界也只能觸及顯性道德行動體,因此算法問責(zé)制中的責(zé)任認定與分配重點在于作為平臺算法開發(fā)設(shè)計者和部署應(yīng)用者的平臺企業(yè)。鑒于平臺算法作為平臺企業(yè)作用于利益相關(guān)方和社會的“代理者”角色,對負責(zé)任的平臺算法應(yīng)當(dāng)置于平臺企業(yè)社會責(zé)任整體中予以理解,即從社會責(zé)任融入整個平臺企業(yè)的角度認識負責(zé)任的平臺算法,將其看作構(gòu)建負責(zé)任的平臺企業(yè)所必需的深層次關(guān)鍵內(nèi)容。

社會責(zé)任融入整個平臺企業(yè)必然要求將社會責(zé)任融入平臺算法,推動平臺企業(yè)發(fā)揮核心社會功能的核心載體即平臺算法對社會負責(zé)任。從平臺企業(yè)的平臺算法活動來看,大致包括平臺算法開發(fā)設(shè)計與部署應(yīng)用、平臺算法本體構(gòu)造、平臺算法決策三項內(nèi)容。社會責(zé)任融入平臺算法就是要將社會責(zé)任融入平臺算法開發(fā)設(shè)計與部署應(yīng)用、平臺算法本體構(gòu)造、平臺算法決策,推動形成負責(zé)任的平臺算法開發(fā)設(shè)計與部署應(yīng)用、平臺算法本體具有社會責(zé)任符合性、平臺算法決策結(jié)果對社會負責(zé)任,這三者共同構(gòu)成負責(zé)任的平臺算法。也就是說,負責(zé)任的平臺算法應(yīng)從本體、過程和結(jié)果三個維度綜合理解,如圖1所示。本體維度是指平臺算法本身可以看作平臺功能實現(xiàn)的“物化”載體,類似于一個數(shù)字化系統(tǒng),負責(zé)任的平臺算法首先應(yīng)當(dāng)是平臺算法本身是符合社會責(zé)任要求的。過程維度是指平臺企業(yè)對平臺算法的開發(fā)、設(shè)計、部署、應(yīng)用全過程,這一過程不僅直接關(guān)系到會形成什么樣的平臺算法本體、平臺算法決策功能發(fā)揮效果如何,而且也會涉及與平臺算法利益相關(guān)方和社會的互動,因此負責(zé)任的平臺算法應(yīng)當(dāng)具備負責(zé)任的平臺算法開發(fā)設(shè)計與部署應(yīng)用過程。結(jié)果維度是指平臺算法不同于一般的“物化”載體,具有自主決策或輔助決策功能,決策結(jié)果對于作用對象和社會具有重要影響,負責(zé)任的平臺算法應(yīng)當(dāng)是決策結(jié)果的消極影響最小化、積極影響最大化,即平臺算法決策結(jié)果是對社會負責(zé)任的。

圖1 負責(zé)任的平臺算法三維解構(gòu)

(二)“負責(zé)任的平臺算法”三個維度的具象化

對負責(zé)任的平臺算法進行深度解構(gòu)與再建構(gòu),核心是要對“負責(zé)任”進行具象化,即將一般化的、具體的社會責(zé)任理念和要求與負責(zé)任的平臺算法三個維度結(jié)合起來,考慮平臺特殊性和算法特殊性,析出在每個維度上“負責(zé)任”的具體表現(xiàn)與要求。從一般化的社會責(zé)任理念和要求來看,它是組織以透明和道德的方式管理自身運營對社會、利益相關(guān)方、自然環(huán)境的影響[29],包括“元層次”思維的外部視野、底線思維、可持續(xù)性原則和行為規(guī)范層面的社會與環(huán)境風(fēng)險防范、綜合價值創(chuàng)造、透明溝通、利益相關(guān)方合作、社會資源整合與優(yōu)化配置[30]。對于負責(zé)任的平臺算法三個維度,一般化的社會責(zé)任理念和要求應(yīng)用其中具有不同的側(cè)重點與具體表現(xiàn),需要分別予以識別和界定。

從應(yīng)用于本體維度來看,平臺算法本身具有社會責(zé)任符合性關(guān)注的重點在于“元層次”思維的外部視野、底線思維、可持續(xù)性原則和行為規(guī)范層面的透明溝通。外部視野要求平臺算法不能僅僅關(guān)心算法的程序代碼本身,而是要更大程度地服務(wù)于其核心社會功能,即更優(yōu)地實現(xiàn)鏈接雙邊市場的“平臺功能”,推動平臺算法的功能性滿足利益相關(guān)方和社會需要。底線思維要求平臺算法所遵循的規(guī)則必須是合規(guī)的和滿足道德底線,平臺算法應(yīng)當(dāng)將相關(guān)的法律法規(guī)要求和道德底線要求內(nèi)嵌其中,確保平臺算法所支撐和生成的平臺功能不跨越底線。可持續(xù)性原則要求平臺算法著眼于平臺服務(wù)和功能發(fā)揮的可持續(xù),確保算法足夠安全、可靠和穩(wěn)健,能夠?qū)ζ脚_運行中出現(xiàn)的錯誤或不一致進行有效處理,即平臺算法應(yīng)當(dāng)具有穩(wěn)健性和安全性。透明溝通要求平臺算法超越“算法黑箱”,增強算法透明度,但完全公開算法運行規(guī)則和創(chuàng)建與驗證過程的算法透明即完美的、理想的算法透明具有多個方面的局限性[31],因此取而代之的應(yīng)當(dāng)是“有意義的算法透明”,即擁有對算法表現(xiàn)做出贊成或反對判斷的足夠知識[32]。平臺算法透明并不要求算法代碼的直接公開,而是要求算法具有可解釋性、底層數(shù)據(jù)具有可訪性或得到描述、算法合規(guī)性可以被評估和檢驗。

從過程維度來看,平臺算法的開發(fā)、設(shè)計、部署和應(yīng)用屬于主體行為,通常是平臺企業(yè)實施的經(jīng)營活動,這意味著負責(zé)任的平臺算法開發(fā)設(shè)計與部署應(yīng)用應(yīng)當(dāng)全面涵蓋社會責(zé)任三個方面的“元層次”思維和五個層次的行為規(guī)范?？紤]到平臺算法的開發(fā)、設(shè)計、部署和應(yīng)用在很多情形下被看作平臺企業(yè)的研究與創(chuàng)新活動,因此可以結(jié)合負責(zé)任的研究與創(chuàng)新理論對其進行深度分析。負責(zé)任的研究與創(chuàng)新強調(diào)創(chuàng)新過程符合(倫理)可接受性、可持續(xù)性和社會發(fā)展進步的要求[33],通常包括預(yù)期性、自反性、包容性、回應(yīng)性四個維度[34]。對于負責(zé)任的平臺算法開發(fā)設(shè)計與部署應(yīng)用,外部視野、社會與環(huán)境風(fēng)險防范、綜合價值創(chuàng)造意味著平臺算法開發(fā)設(shè)計與部署應(yīng)用應(yīng)當(dāng)滿足預(yù)期性要求,即對其可能產(chǎn)生的社會、環(huán)境、道德影響進行描述、分析和預(yù)測;透明溝通、利益相關(guān)方合作、社會資源整合與優(yōu)化配置意味著平臺算法開發(fā)設(shè)計與部署應(yīng)用應(yīng)當(dāng)符合包容性要求,即保持過程開放性讓不同利益相關(guān)方群體和社會主體參與其中;底線思維意味著平臺算法開發(fā)設(shè)計與部署應(yīng)用應(yīng)當(dāng)具有合規(guī)性和滿足道德底線要求,即其過程不能違反法律法規(guī)和越過社會基本道德規(guī)范;可持續(xù)性原則意味著平臺算法開發(fā)設(shè)計與部署應(yīng)用應(yīng)當(dāng)符合自反性和回應(yīng)性要求,即通過反復(fù)自省和動態(tài)調(diào)整行為模式確保其過程持續(xù)對社會負責(zé)任。

從結(jié)果維度來看,平臺算法決策結(jié)果對社會負責(zé)任要求關(guān)注決策結(jié)果對利益相關(guān)方和社會的影響,強調(diào)這一影響重點符合“元層次”思維的底線思維、可持續(xù)性原則和行為規(guī)范層面的社會與環(huán)境風(fēng)險防范、綜合價值創(chuàng)造、透明溝通等要求。底線思維意味著平臺算法決策結(jié)果應(yīng)當(dāng)滿足對利益相關(guān)方和社會的法律義務(wù)與道德義務(wù),社會與環(huán)境風(fēng)險防范意味著平臺算法決策結(jié)果應(yīng)當(dāng)最小化其可能對利益相關(guān)方、社會和環(huán)境帶來的消極影響,綜合價值創(chuàng)造意味著平臺算法決策結(jié)果應(yīng)當(dāng)最大限度增進其對利益相關(guān)方、社會和環(huán)境帶來的積極影響,透明溝通意味著平臺算法決策結(jié)果需要向利益相關(guān)方和社會披露與解釋,可持續(xù)性原則意味著平臺算法決策結(jié)果不應(yīng)對利益相關(guān)方、社會和環(huán)境產(chǎn)生次生消極影響,而是在長期來看能夠可持續(xù)地對社會負責(zé)任。

綜上分析,負責(zé)任的平臺算法在三個維度上的重點內(nèi)容和要求如表1所示。

表1 負責(zé)任的平臺算法在三個維度上的具體內(nèi)容

(三)“負責(zé)任的平臺算法”構(gòu)造系統(tǒng)的建構(gòu)

綜合負責(zé)任的平臺算法在本體維度、過程維度和結(jié)果維度上的具體內(nèi)容,可以對這些內(nèi)容進行重新組合和再定義,形成對負責(zé)任的平臺算法更加系統(tǒng)的構(gòu)成要件。在此基礎(chǔ)上,依據(jù)要件間的層次和邏輯關(guān)系即可對“負責(zé)任的平臺算法”構(gòu)造系統(tǒng)進行建構(gòu),形成對負責(zé)任的平臺算法更加清晰的刻畫。首先,社會責(zé)任的具體理念和要求在本體、過程、結(jié)果三個維度的應(yīng)用與融入,使得三個維度都要求滿足合規(guī)性和道德底線或道德義務(wù)的要求,因此“合規(guī)與合乎道德”應(yīng)當(dāng)是負責(zé)任的平臺算法構(gòu)成要件。其次,社會責(zé)任的具體理念和要求在本體維度的應(yīng)用與融入,一方面要求平臺算法本身在技術(shù)上具有穩(wěn)健性、魯棒性、安全性和抗干擾性,保證平臺算法能夠穩(wěn)定運行;另一方面要求平臺算法所生成的“平臺功能”能夠更優(yōu)實現(xiàn),符合用戶和社會需要,這兩個方面意味著“穩(wěn)健安全”和“功能合意”都應(yīng)成為負責(zé)任的平臺算法構(gòu)成要件。再次,社會責(zé)任的具體理念和要求在過程、結(jié)果兩個維度的應(yīng)用與融入,不僅要求平臺算法決策結(jié)果對利益相關(guān)方、社會、環(huán)境的消極影響最小化和積極影響最大化,確保決策結(jié)果產(chǎn)生的社會與環(huán)境福祉可持續(xù),而且要求平臺算法開發(fā)設(shè)計與部署應(yīng)用過程具有對社會、環(huán)境、道德影響進行分析預(yù)測的預(yù)期性,它們可以統(tǒng)一歸結(jié)為負責(zé)任的平臺算法構(gòu)成要件“社會與環(huán)境福祉”。另外,社會責(zé)任的具體理念和要求在本體、過程、結(jié)果三個維度的應(yīng)用與融入,分別要求平臺算法面向利益相關(guān)方和社會展現(xiàn)出技術(shù)透明(有意義的算法透明)、過程透明(包容性)和結(jié)果透明,其中包括包容性所要求的多元利益相關(guān)方和社會主體參與,它們共同形成負責(zé)任的平臺算法構(gòu)成要件“透明開放”。最后,社會責(zé)任的具體理念和要求在過程維度的應(yīng)用與融入,要求平臺算法開發(fā)設(shè)計與部署應(yīng)用具有自反性和回應(yīng)性,這實際上是對平臺算法及其形成過程提出自我反思、自我修正、自我迭代、自我優(yōu)化的要求,本質(zhì)上是一種敏捷治理,即“敏捷治理”應(yīng)成為負責(zé)任的平臺算法構(gòu)成要件。

進一步來看,在負責(zé)任的平臺算法六個構(gòu)成要件中,合規(guī)與合乎道德、穩(wěn)健安全是平臺算法必須滿足的底線要求,屬于底線層次的構(gòu)成要件;功能合意、社會與環(huán)境福祉反映出平臺算法應(yīng)當(dāng)達到的核心社會功能狀態(tài),及其對經(jīng)濟發(fā)展、社會進步、環(huán)境優(yōu)化帶來的積極增進效果,屬于價值層次的構(gòu)成要件;透明開放、敏捷治理是平臺算法需要滿足利益相關(guān)方和社會的知情權(quán)、監(jiān)督權(quán)與參與權(quán),推動平臺算法及其形成過程的動態(tài)糾偏與優(yōu)化,屬于治理層次的構(gòu)成要件。底線層、價值層、治理層的構(gòu)成要件形成三個同心圓,結(jié)合負責(zé)任的平臺算法三個維度構(gòu)成的三角形,可以構(gòu)建起“負責(zé)任的平臺算法”的完整構(gòu)造系統(tǒng),如圖2所示。

圖2 “負責(zé)任的平臺算法”的完整構(gòu)造系統(tǒng)

三、構(gòu)建“負責(zé)任的平臺算法”的實現(xiàn)進路

“平臺企業(yè)個體→平臺算法→社會”和“平臺企業(yè)個體→平臺算法→平臺商業(yè)生態(tài)圈→社會”的平臺企業(yè)與社會兩條鏈接路徑表明,構(gòu)建負責(zé)任的平臺算法涉及平臺企業(yè)、平臺算法自身、平臺商業(yè)生態(tài)圈和社會四個要素,它們分別從算法主體、算法技術(shù)、算法生態(tài)和算法制度四個方面對構(gòu)建負責(zé)任的平臺算法形成影響。相應(yīng)地,算法主體自覺盡責(zé)、算法技術(shù)價值嵌入、算法生態(tài)互動治理和算法監(jiān)管問責(zé)強化成為構(gòu)建“負責(zé)任的平臺算法”的實現(xiàn)進路。

(一)算法主體自覺盡責(zé)

平臺算法在相當(dāng)程度上是平臺企業(yè)主觀意圖的反映,載荷著平臺企業(yè)的價值理念,平臺企業(yè)的意愿和行為從根本上決定了平臺算法本身、平臺算法開發(fā)設(shè)計與部署應(yīng)用過程、平臺算法決策結(jié)果的社會責(zé)任符合性,因此,構(gòu)建負責(zé)任的平臺算法首先要求平臺算法主體即平臺企業(yè)自覺盡責(zé)。2021年10月,國家市場監(jiān)督管理總局公布的《互聯(lián)網(wǎng)平臺落實主體責(zé)任指南(征求意見稿)》就要求平臺企業(yè)落實算法規(guī)制的主體責(zé)任,平臺企業(yè)自覺盡責(zé)是從系統(tǒng)上、根源上推動負責(zé)任的平臺算法得以構(gòu)建的必然要求。平臺企業(yè)自覺盡責(zé)要求平臺企業(yè)樹立科學(xué)的、適宜的社會責(zé)任觀,內(nèi)生出自覺自主履行社會責(zé)任的動力與意愿,全面增強社會責(zé)任管理與實踐能力,高階耦合和綜合運用社會責(zé)任根植模式與議題嵌入模式[30],推動社會責(zé)任成為全員和整個組織的自覺行為與自身工作。特別是,平臺企業(yè)需要立足更高站位深刻認識自身的價值使命,回歸平臺設(shè)立的社會“初心”和本真功能,超越純粹經(jīng)濟價值目標(biāo)與市場邏輯主導(dǎo),培育和增強共益型企業(yè)家精神,變革組織形態(tài)以打造形成共益企業(yè),這對超級平臺和大型平臺尤為重要。平臺企業(yè)自覺盡責(zé)除了自身對利益相關(guān)方和社會盡責(zé)之外,還需要通過履責(zé)價值導(dǎo)向和賦能支持推動平臺生態(tài)圈成員開展自覺盡責(zé)[11],如《互聯(lián)網(wǎng)平臺落實主體責(zé)任指南(征求意見稿)》要求平臺企業(yè)落實平臺內(nèi)用戶管理、平臺內(nèi)容管理、禁限售管控、信用評價等主體責(zé)任。

平臺企業(yè)自覺盡責(zé)必然會延拓和深入到平臺算法層面,需要推動社會責(zé)任融入于平臺算法活動。一方面,平臺企業(yè)要深化對平臺算法雙重屬性的認識,增強平臺算法價值載荷與對社會負責(zé)任義務(wù)的意識,加強對平臺算法運行規(guī)律的把握,培養(yǎng)和提升負責(zé)任的算法設(shè)計能力,切實形成構(gòu)建負責(zé)任的平臺算法理念和能力。另一方面,平臺企業(yè)要按照構(gòu)建負責(zé)任的平臺算法要求,對平臺算法的開發(fā)設(shè)計與部署應(yīng)用進行流程優(yōu)化,增加社會責(zé)任融入點和審查環(huán)節(jié),建立對平臺算法合乎社會責(zé)任的內(nèi)部管控制度。對于超級平臺和大型平臺,應(yīng)在企業(yè)內(nèi)部建立形成算法影響評估制度(algorithmic impact assessment)。算法影響評估制度是采取全生命周期視角,依據(jù)確定的一套標(biāo)準(zhǔn)對算法的應(yīng)用過程、數(shù)據(jù)使用和系統(tǒng)設(shè)計等開展全面評估,考察其對利益相關(guān)方和社會經(jīng)濟的影響性質(zhì)、影響水平與風(fēng)險等級。算法影響評估制度通常由中立、專業(yè)、可信的外部評估主體予以開展[35],能夠?qū)λ惴赡墚a(chǎn)生的不良經(jīng)濟、社會、環(huán)境影響做出預(yù)測性評判和動態(tài)評估,形成應(yīng)對預(yù)案或糾偏方案,增強算法透明度、可追溯性、穩(wěn)健性、可控性、適用性和接受性。平臺企業(yè)針對平臺算法開展影響評估,可以采取內(nèi)部機構(gòu)評估的方式,但對于具有重大意義的算法或者方向難以把握的算法,應(yīng)聘請中立、專業(yè)、可信的第三方機構(gòu)予以實施。

(二)算法技術(shù)價值嵌入

平臺算法兼具技術(shù)屬性與社會屬性意味著除了社會手段外,技術(shù)手段也是構(gòu)建負責(zé)任的平臺算法重要方式。而且,平臺算法依托于機器學(xué)習(xí)甚至深度學(xué)習(xí),具有自動決策功能,其決策過程和決策結(jié)果可能超出算法設(shè)計者的預(yù)期,因此在某些場景下確保平臺算法對社會負責(zé)任將有賴于“技術(shù)對技術(shù)”的治理。與負責(zé)任的平臺算法相關(guān)的技術(shù)主要有兩類:價值嵌入的算法設(shè)計技術(shù)和價值偏離的算法矯正技術(shù)。價值嵌入的算法設(shè)計技術(shù)屬于一種內(nèi)在進路,即將“負責(zé)任”的規(guī)范和標(biāo)準(zhǔn)嵌入于算法之中,讓平臺算法按照這些規(guī)范和標(biāo)準(zhǔn)進行自動決策,以使決策結(jié)果對社會負責(zé)任。價值嵌入的算法設(shè)計技術(shù)本質(zhì)上是價值敏感設(shè)計(value sensitive design)在算法領(lǐng)域的應(yīng)用,以前攝性地對算法設(shè)計進行影響,使其在早期階段解決價值倫理問題,而不是僅僅在算法設(shè)計完成之后的事后反應(yīng)。價值敏感設(shè)計通?？紤]道德價值、實用價值、公約和個人品味等傳統(tǒng)價值或非傳統(tǒng)價值[36],因此價值嵌入的算法設(shè)計技術(shù)重點是要將合規(guī)與合乎道德、社會與環(huán)境福祉、功能合意的具體要求嵌入算法,充分考慮不同利益相關(guān)方群體的道德感受和價值訴求。價值嵌入的算法設(shè)計技術(shù)將“負責(zé)任”的規(guī)范和標(biāo)準(zhǔn)預(yù)設(shè)于算法設(shè)計之中,能夠有效避免、檢驗、解決算法設(shè)計與應(yīng)用過程中可能面臨的價值沖突、責(zé)任不確定性問題。

價值偏離的算法矯正技術(shù)是對平臺算法自動決策可能存在的潛在價值偏離或已經(jīng)出現(xiàn)的責(zé)任違背進行揭示與矯正的技術(shù),可以認為是平臺算法的“敏捷治理”技術(shù)。從平臺算法運行的過程即“數(shù)據(jù)輸入—機器學(xué)習(xí)—算法模型—結(jié)果輸出”來看,引致價值偏離或責(zé)任違背可能源于輸入端、算法本身和輸出端,相應(yīng)的矯正技術(shù)也可以區(qū)分為這三類。從輸入端來看,可以運用數(shù)據(jù)挖掘技術(shù)對訓(xùn)練數(shù)據(jù)或輸入數(shù)據(jù)中可能隱藏的價值偏離(如偏見或歧視)揭示出來,并對數(shù)據(jù)收集、選擇和運用進行修正。從算法本身來看,鑒于“算法黑箱”特別是技術(shù)黑箱的存在,可以考慮設(shè)計監(jiān)督算法的算法,即在操作算法之外另外再單獨設(shè)計一套監(jiān)督算法[37]。這一算法以“負責(zé)任”規(guī)范和標(biāo)準(zhǔn)為參考予以設(shè)計,在平臺算法出現(xiàn)價值偏離或責(zé)任違背時及時進行糾正或終止,最大限度避免或以一種更優(yōu)的方式應(yīng)對平臺算法帶來的社會風(fēng)險。從輸出端來看,可以通過采取算法審計(algorithm audit)技術(shù)來測試或?qū)彶槠脚_算法是否存在盲點或偏見,洞察平臺算法是否存在價值偏離。在具體操作中,應(yīng)按照公共利益原則、介入無害原則、最小必要原則、情境理解原則,采取依托平臺、依托用戶或兩者相結(jié)合的算法審計路徑予以實施[38],以發(fā)現(xiàn)平臺算法可能或已經(jīng)出現(xiàn)的價值偏離和責(zé)任違背問題并糾偏。

(三)算法生態(tài)互動治理

平臺企業(yè)在平臺商業(yè)生態(tài)圈中與生態(tài)位成員的互動主要通過平臺算法來實現(xiàn),特別是平臺企業(yè)與雙邊或多邊用戶之間、雙邊或多邊用戶之間的多種形式交互,都是以平臺算法為中介予以開展的。這意味著平臺算法內(nèi)嵌于平臺商業(yè)生態(tài)圈,生態(tài)治理中不僅存在“平臺企業(yè)→平臺算法→平臺用戶”的正向路徑,而且應(yīng)當(dāng)存在“平臺用戶→平臺算法→平臺企業(yè)”的逆向路徑,即平臺用戶對平臺算法的設(shè)計和應(yīng)用能夠產(chǎn)生影響。構(gòu)建負責(zé)任的平臺算法,可以和需要發(fā)揮平臺用戶的反向治理功能,通過用戶賦權(quán)和用戶參與兩種方式,對平臺算法的價值偏離傾向進行抑制,促進平臺算法的積極價值創(chuàng)造效應(yīng)。從用戶賦權(quán)來看,面對平臺算法的高度專業(yè)化和自動化決策,用戶往往處于相對的“弱勢”地位,以立法方式賦予用戶新型數(shù)據(jù)權(quán)利、算法解釋權(quán)、免受僅僅依賴算法自動化決策結(jié)果制約的權(quán)利[24-25],能夠?qū)σ?guī)范平臺算法的開發(fā)設(shè)計與部署應(yīng)用、推動平臺算法對用戶負責(zé)任形成約束。2018年5月正式生效的歐盟《通用數(shù)據(jù)保護條例》(GDPR)和2021年11月正式實施的《中華人民共和國個人信息保護法》都對賦予個體相關(guān)數(shù)據(jù)權(quán)利和處理算法自動化決策權(quán)利做出了具體的規(guī)定。此外,也可以通過平臺企業(yè)運營政策的調(diào)整賦予用戶更多權(quán)利,如蘋果公司于2021年4月正式強制執(zhí)行調(diào)整后的隱私新政策,推行手機軟件應(yīng)用追蹤透明度(app tracking transparency,ATT)功能,將隱私權(quán)還給用戶,即規(guī)定應(yīng)用開發(fā)商只有事先征得用戶許可,才能夠?qū)τ脩暨M行跟蹤或訪問其設(shè)備的廣告標(biāo)識符(identifier for advertising,IDFA)。

從用戶參與來看,一方面,算法系統(tǒng)所實現(xiàn)的特定功能與用戶對特定功能的解釋可能出現(xiàn)錯位[39],用戶參與可以避免和矯正這些錯位;另一方面,算法設(shè)計的價值嵌入往往涉及用戶和社會公眾對一些社會問題的共識,算法系統(tǒng)與社會共識(社會判斷)的結(jié)合能夠增進用戶和社會公眾與算法之間達成某種契約,推動“人機回圈”(human-in-the-loop)和“社機回圈”(society-in-the-loop)的實現(xiàn)[40],這需要用戶參與。對于平臺算法,用戶參與主要包括過程參與和監(jiān)督參與兩個方面。過程參與是指推動用戶參與到平臺算法的開發(fā)設(shè)計和部署應(yīng)用過程中,讓用戶表達價值訴求和社會關(guān)切,貢獻用戶的使用經(jīng)驗和一線體驗,使用戶與平臺企業(yè)能夠就算法可能產(chǎn)生的影響進行溝通互動,這樣既可以促使平臺算法開發(fā)設(shè)計和部署應(yīng)用更加符合用戶需要和社會需要,增進平臺算法對更多社會因素和社會規(guī)范的考慮,也可以增強平臺算法對于用戶的可解釋性,緩解“算法黑箱”問題。監(jiān)督參與是指用戶基于法律賦予的算法相關(guān)的新型權(quán)利,或者依據(jù)社會倫理和道德規(guī)范,對平臺算法活動的價值偏離尤其是平臺算法決策結(jié)果的社會責(zé)任符合性進行監(jiān)督,并以用手投票、用腳投票、投訴建議、社會曝光等多種方式促使平臺算法對社會負責(zé)任。進一步來看,無論是過程參與還是監(jiān)督參與,最為重要的是推動形成用戶參與意愿和增強用戶參與能力,前者要求建立用戶參與的促進機制,后者則要求提升用戶的算法素養(yǎng)。

(四)算法監(jiān)管問責(zé)強化

平臺算法在經(jīng)濟社會中與日俱增的影響力和不斷出現(xiàn)的算法失當(dāng)現(xiàn)象,要求政府將平臺監(jiān)管觸角穿透到平臺算法層面,算法監(jiān)管可以對算法主體形成威懾性的約束,推動算法主體以負責(zé)任的方式構(gòu)建平臺算法。由于平臺算法的復(fù)雜性、迭代性和新興性,目前算法監(jiān)管尚存在監(jiān)管思維、監(jiān)管對象、監(jiān)管主體、監(jiān)管工具和法律關(guān)系等方面的不足[41],算法監(jiān)管總體上滯后于平臺算法技術(shù)發(fā)展,因此亟需強化。強化平臺算法監(jiān)管需要從加大制度供給、創(chuàng)新監(jiān)管方式和聚焦監(jiān)管重點三個方面發(fā)力,構(gòu)建多維系統(tǒng)的算法監(jiān)管譜系。從制度供給來看,需要將“硬法”和“軟法”結(jié)合起來,通過法律法規(guī)、標(biāo)準(zhǔn)規(guī)范、準(zhǔn)則規(guī)則等方式構(gòu)建針對平臺算法要求的制度體系,特別是要將負責(zé)任的平臺算法六個構(gòu)成要件納入強制性制度,為算法監(jiān)管提供制度依據(jù)。從創(chuàng)新監(jiān)管方式來看,算法監(jiān)管應(yīng)建立事前、事中、事后全流程的動態(tài)監(jiān)管機制,包括對平臺算法開發(fā)設(shè)計者和部署應(yīng)用者、平臺算法本身的雙重審查,引入零知識證明(zero-knowledge proofs)制度,推動平臺算法影響的外部評估及相應(yīng)的分級算法監(jiān)管,推行平臺算法應(yīng)用登記與備案,逐步建立平臺算法的認證機制,對平臺算法決策結(jié)果的不良影響實施追責(zé)。從監(jiān)管重點來看,算法監(jiān)管關(guān)注的重點不在于平臺算法技術(shù)本身,而是其對利益相關(guān)方和社會產(chǎn)生的影響,尤其是對利益相關(guān)方權(quán)利滿足和社會道德遵循的關(guān)注。

與強化算法監(jiān)管相適應(yīng)的是要構(gòu)建平臺算法問責(zé)制,通過問責(zé)懲戒推動算法主體對平臺算法失當(dāng)問題進行整改,促使平臺算法沿著負責(zé)任的方向不斷改進,從而破解缺乏主觀過錯認定機制下的平臺監(jiān)管困境。算法問責(zé)制不僅涉及平臺算法對利益相關(guān)方和社會產(chǎn)生影響的責(zé)任分配,而且還包括在算法決策造成傷害后的救濟機制,其核心邏輯在于超越傳統(tǒng)“主體—行為—責(zé)任”鏈條下的“責(zé)任鴻溝”,依據(jù)主客觀相一致的算法責(zé)任原則,對算法主體的主觀過錯予以認定和問責(zé)[42]。平臺算法問責(zé)的基礎(chǔ)是問責(zé)點的設(shè)置,按照平臺監(jiān)管的全過程要求,問責(zé)點應(yīng)當(dāng)覆蓋平臺算法開發(fā)、設(shè)計、部署、應(yīng)用和結(jié)果輸出的全生命周期[43],而不只是局限于結(jié)果輸出的事后環(huán)節(jié)。平臺算法問責(zé)的強度需要考慮多個方面的因素,其中一個重要因素是平臺算法影響評估結(jié)果即算法風(fēng)險等級[43],對于低風(fēng)險算法和高風(fēng)險算法應(yīng)當(dāng)建立差異化的問責(zé)強度。此外,平臺算法問責(zé)制的構(gòu)建還應(yīng)當(dāng)設(shè)立專門的問責(zé)機構(gòu),如算法問責(zé)委員會,同時制定更加全面、細化的救濟措施。