李立 張雨睿
〔摘要〕
當(dāng)下算法技術(shù)已被廣泛應(yīng)用于社會各個領(lǐng)域,給當(dāng)代社會結(jié)構(gòu)和政府組織帶來了巨大變革,進而深刻影響了“國家-社會”關(guān)系和社會治理的基本樣態(tài)。本文首先從國家與社會二分的角度出發(fā),系統(tǒng)梳理了算法對社會結(jié)構(gòu)和政府組織的影響和改變,繼而論證算法時代的社會治理特征。對于社會結(jié)構(gòu)而言,算法偏見改變了傳統(tǒng)的信息獲取和人際交往方式,使公民權(quán)呈現(xiàn)序數(shù)化特征,重塑了公民、市場與國家間的生產(chǎn)關(guān)系和權(quán)利關(guān)系。對政府組織來說,算法為政府提供了一種效率導(dǎo)向的決策方式,塑造了數(shù)據(jù)控制的運作流程和組織結(jié)構(gòu),重新定義了科層官僚的自由裁量權(quán)?;谏鲜鲎兓?,算法在“國家-社會”關(guān)系的共識基礎(chǔ)、雙重序數(shù)化的價值選擇、偏見與透明的問責(zé)機制上深刻影響著傳統(tǒng)的社會治理模式,為信息時代的中國式現(xiàn)代化道路提供了技術(shù)基礎(chǔ)。
〔關(guān)鍵詞〕
算法;社會結(jié)構(gòu);政府組織;社會治理;序數(shù)化
〔中圖分類號〕D082 〔文獻標(biāo)識碼〕A 〔文章編號〕2095-8048-(2024)03-0033-12
一、序言
進入21世紀(jì),數(shù)字技術(shù)成為政府治理面臨的最大變量之一。討論數(shù)字技術(shù)如何影響政府治理的電子政務(wù)、數(shù)字政府、數(shù)字治理先后成為學(xué)界熱點話題。早期研究更側(cè)重于描述與歸納數(shù)字技術(shù)對于政府的影響和政府對此的應(yīng)對〔1〕,近年則更多地嘗試從理論層面廓清技術(shù)的本質(zhì)和其在組織、政治等基礎(chǔ)層面帶來的變化,“集中于數(shù)據(jù)治理、人工智能在公共部門的應(yīng)用、數(shù)字時代的政府組織新形態(tài),以及數(shù)字政府建設(shè)對公共治理的影響”〔2〕。
然而,當(dāng)前關(guān)于數(shù)字技術(shù)對治理影響的研究更多是聚焦到了數(shù)字技術(shù)中的“數(shù)字”一面。數(shù)據(jù)結(jié)構(gòu)是靜態(tài)的一種組織數(shù)據(jù)的方式,如果不通過技術(shù)化的“操作方案”處理數(shù)據(jù)就無法完成人為設(shè)定的目標(biāo)。簡單而言,數(shù)據(jù)結(jié)構(gòu)就如雜亂堆放的“磚頭”,如果沒有人為設(shè)計的“操作方案”,則無法達(dá)到其“造房”的目的。在技術(shù)實踐中,所謂的“操作方案”就是算法。算法是運用數(shù)據(jù)以解決實際問題的工具,在數(shù)據(jù)結(jié)構(gòu)基礎(chǔ)上進行算法設(shè)計從而實現(xiàn)相應(yīng)的技術(shù)目標(biāo)。因此,“算法”受到學(xué)界和實踐界的共同關(guān)注。在計算機科學(xué)領(lǐng)域,學(xué)者將算法定義為“解決特定問題的一系列精確定義的指令,這些指令可以以有限的時間和空間在計算機上執(zhí)行”〔3〕。這個定義強調(diào)了算法的兩個重要方面。一方面,算法是一系列指令或操作,這些指令描述了解決問題的步驟和規(guī)則。另一方面,算法必須具備確定性,即:對于給定的輸入,算法的執(zhí)行過程和結(jié)果是精確定義的。此外,算法的執(zhí)行時間和空間應(yīng)該是有限的,這意味著算法應(yīng)該在合理的時間內(nèi)完成,并且不會占用過多的計算資源。算法是問題解決的核心,其他計算機技術(shù)是實現(xiàn)算法的工具和手段。算法的設(shè)計和分析是計算機科學(xué)的基礎(chǔ),其他技術(shù)則是將算法轉(zhuǎn)化為可執(zhí)行的代碼或程序的具體實現(xiàn)〔4〕。算法在當(dāng)代社會有許多應(yīng)用,比如搜索引擎、機器學(xué)習(xí)和人工智能、數(shù)據(jù)挖掘、圖像和視頻處理、自然語言處理等。
算法與社會、政府之間的關(guān)系也日益緊密地聯(lián)系交織。一方面,我國圍繞算法管理發(fā)布了一系列法規(guī)文件,逐步規(guī)范社會層面與市場領(lǐng)域的算法使用。2020年12月,中共中央印發(fā)了《法治社會建設(shè)實施綱要(2020-2025年)》指出,要完善網(wǎng)絡(luò)法律制度,“制定完善對網(wǎng)絡(luò)直播、自媒體、知識社區(qū)問答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。另一方面,我國也在推動算法技術(shù)與社會治理的深度融合。2021年9月,國家互聯(lián)網(wǎng)信息辦公室等九部門聯(lián)合發(fā)布《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》,提出“利用三年左右時間,逐步建立治理機制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局”。目前,算法技術(shù)已逐漸嵌入我國社會治理的各個方面,從主體結(jié)構(gòu)、理念、方式等方面給社會治理帶來新的變革。
總體來說,算法重塑了社會結(jié)構(gòu)與鏈接方式,同時也取代有形的公共管理者成為公共決策主體,業(yè)已成為優(yōu)化政府權(quán)力結(jié)構(gòu)和推動政策過程的重要工具〔5〕〔6〕,甚至催生了公共管理研究的范式革命〔7〕。可以說,算法是人工智能技術(shù)設(shè)計、應(yīng)用的過程中切入數(shù)字社會的技術(shù)核心〔8〕。在此背景下,需要將算法置于公共管理研究的重要位置,探究算法對于社會治理實踐的改變。要理解這一議題,本文需要從國家與社會二分的角度出發(fā),分別討論算法對社會結(jié)構(gòu)和政府組織的影響和改變,繼而論證算法時代的社會治理特征。同時,根據(jù)以上研究進路系統(tǒng)地梳理近年來公共管理領(lǐng)域的算法研究。
二、算法偏見、數(shù)字控制和序數(shù)權(quán):算法對社會結(jié)構(gòu)的影響
社會治理位于國家與社會關(guān)系之間的交匯點上,以社會為治理的對象,探討算法對社會治理的影響的起點是研究算法會帶來何種社會關(guān)系的變化。因此,本文需要優(yōu)先討論算法對社會結(jié)構(gòu)的影響。概括起來,算法對社會結(jié)構(gòu)的影響主要包括三部分。一是算法作為一種高效率但帶有偏見的算法技術(shù)的計算和決策方式,改變了傳統(tǒng)的信息獲取和人際交往方式,進而帶來了社會經(jīng)濟活動的變革。二是算法社會的技術(shù)拜物教使公民權(quán)呈現(xiàn)序數(shù)化特征,替代了傳統(tǒng)社會之中以政治權(quán)利和社會福利主導(dǎo)的公民權(quán)主題。三是算法隱蔽的社會建構(gòu)模式和不透明的特性本身所帶來的社會沖擊,掩蓋了生產(chǎn)政治之中的勞動控制,甚至重塑了公民、市場與國家間的生產(chǎn)關(guān)系和權(quán)利關(guān)系。
高效率但帶有偏見的算法技術(shù)改變了人們信息獲取和人際交往的方式。搜索引擎和推薦算法可以幫助人們快速找到所需的信息,平臺算法也可以進行個性化內(nèi)容推薦。在經(jīng)濟領(lǐng)域,電子商務(wù)平臺的推薦算法可以改變購物行為和市場結(jié)構(gòu),廣告推薦算法可以提高廣告投放的精準(zhǔn)度和效果,優(yōu)化算法可以提高生產(chǎn)和物流效率,掌握算法推薦權(quán)的平臺企業(yè)成為新的巨頭。在社會層面,算法改變了社交網(wǎng)絡(luò)的信息傳播方式,可以塑造用戶的社交圈子和信息流,影響人們的社交互動和人際關(guān)系。就個人而言,算法可能導(dǎo)致信息的過濾,加強極化效應(yīng)。有學(xué)者使用實驗和逆向工程方法,揭示平臺會通過捕捉和預(yù)測用戶的偏好,嘗試滿足和強化個體偏好,在信息語義維度強化了過濾氣泡效應(yīng)。算法雖然帶來了信息收集的高效率,但是卻因數(shù)據(jù)集構(gòu)建、目標(biāo)制定與特征選取、數(shù)據(jù)標(biāo)注形成了算法的偏見。〔9〕算法的偏見是由其底層技術(shù)——機器學(xué)習(xí)決定的。其一,數(shù)據(jù)集是機器學(xué)習(xí)的基礎(chǔ),出于信息采集的便利性,數(shù)據(jù)收集者往往會傾向獲得所謂多數(shù)群體的“主流”數(shù)據(jù),而對于位于旁支的少數(shù)群體的“非主流”數(shù)據(jù),則相對忽視。這意味著以此訓(xùn)練的算法可能會對少數(shù)群體的社會信息處理和識別缺乏精準(zhǔn)性。①其二,工程師作為算法的設(shè)計者全過程地參與到了目標(biāo)設(shè)定、模型設(shè)計和數(shù)據(jù)處理的整個系統(tǒng)之中,不恰當(dāng)?shù)哪繕?biāo)設(shè)定、數(shù)據(jù)標(biāo)簽決定了算法學(xué)習(xí)該數(shù)據(jù)集的內(nèi)容導(dǎo)向和模型生成,進而使得算法將對一些特定的目的、標(biāo)簽形成偏見。例如工程師在電商系統(tǒng)中會常見地將品牌設(shè)定為關(guān)鍵標(biāo)簽,因而在學(xué)習(xí)推送規(guī)則時算法會識別一些特定屬性并構(gòu)建“有偏見”的模型。其三,算法無法直接對非結(jié)構(gòu)化的數(shù)據(jù)(圖片、視頻)進行直接分析,需要人工為數(shù)據(jù)進行標(biāo)注實現(xiàn)結(jié)構(gòu)化處理。貼標(biāo)簽者因個人成長生活、種族文化的不同帶來的主觀性價值判斷差異,也是算法偏見的來源之一。更重要的是,算法偏見不僅重塑了社會中的行動者之間的關(guān)系,也影響了內(nèi)容提供者的行動偏好。諸多關(guān)于美國社交媒體與極化實證研究也表明,出于博取公眾注意力的考量,新聞報道往往會更加極化,這種充斥著激進情緒的報道經(jīng)由算法被推薦給贊同的人群,會加劇公眾的政治極化,削弱民眾對包容、寬容和相互尊重等原則的信奉,同時也降低了民眾對政治進程的信任〔10〕。
算法社會的技術(shù)拜物教使公民權(quán)力呈現(xiàn)序數(shù)化特征?!八惴ā迸c“社會”兩個詞之所以能被組合,是因為算法技術(shù)已經(jīng)嵌入當(dāng)前人類生產(chǎn)生活的結(jié)構(gòu)之中了,構(gòu)筑起一個完全覆蓋、無所不包的全景式控制社會。算法社會和以往社會最大的區(qū)別則在于,作為核心技術(shù)的算法使得技術(shù)支配性地位提升的同時也令技術(shù)進一步黑箱化,導(dǎo)致技術(shù)難以把握和捉摸,技術(shù)具有了支配人類和社會命運的神秘屬性。上述變化使得公民的行為規(guī)則和權(quán)利特征也隨之變化。在算法時代到來之前,現(xiàn)代公民權(quán)表現(xiàn)為三個方面的權(quán)力,即經(jīng)濟權(quán)力、政治權(quán)力和社會權(quán)力,主要體現(xiàn)于公民的人身自由權(quán)、選舉權(quán)、財產(chǎn)權(quán)等;而算法社會則希望將決策自動化,排除其中的人類參與的程度以提升效率并維持中立。分類化、排序化的數(shù)據(jù)是這一決策系統(tǒng)的核心,即算法通過對大量數(shù)據(jù)的分析對商家和公民各類活動進行排序,形成有序的數(shù)據(jù)組合,并以此為原則進行決策選擇〔11〕〔12〕。進而,凡是在算法社會之中,越來越多的人被卷入到算法制定的序數(shù)化關(guān)系之中,形成了一套例如征信系統(tǒng)的依托算法的等級制和分類制〔13〕。
回到算法本身,盡管算法看似技術(shù)中立,實則卻是擁有極強的隱蔽性、不透明性和規(guī)模性的黑箱,以數(shù)字控制掩蓋了社會的生產(chǎn)關(guān)系和權(quán)利關(guān)系。甚至一些學(xué)者認(rèn)為,算法對現(xiàn)代社會存在破壞性,重塑了社會的權(quán)利關(guān)系與權(quán)力結(jié)構(gòu),是一種 “數(shù)學(xué)毀滅性武器”(Weapons of math destruction)〔14〕。就權(quán)力關(guān)系而言,算法越來越多地出現(xiàn)在主流媒體和公眾話語中,但這并沒有改變算法的高技術(shù)門檻,由此形成并固化新的權(quán)力分配格局。Burrell區(qū)分了三種形式的不透明:一是作為有意的公司或國家保密的不透明,二是作為技術(shù)文盲(technical illiteracy)的不透明,三是由于機器學(xué)習(xí)算法的特征以及有效應(yīng)用它們所需的規(guī)模而產(chǎn)生的不透明性。〔15〕這三種不透明性使得算法難以被監(jiān)管和約束,算法對于社會的影響也難以衡量,從而可能在一次次用指標(biāo)來抽象、衡量和計算社會現(xiàn)實時加強某種偏見與歧視。同時,作為技術(shù)-社會實踐過程,算法需要有人工規(guī)則、策略去設(shè)計、定義和評估〔16〕,不透明性使得這一過程逐漸形成可稱之為“算法精英”(coding elite)的新職業(yè)階層〔17〕。這一群體通過對數(shù)字化生產(chǎn)手段的技術(shù)控制,即“數(shù)字控制”,以及從新近被邊緣化或無報酬的勞動力身上榨取財富,鞏固了自身的社會權(quán)力。在數(shù)字控制的算法黑箱下,社會分層格局的改變顯得更加困難。就生產(chǎn)關(guān)系而言,不同于傳統(tǒng)資本主義社會的工廠政治,當(dāng)下平臺經(jīng)濟,例如網(wǎng)約車、外賣等,勞動力的分布呈現(xiàn)分散而非集聚特點,強化了勞動力之間的競爭并難以形成集體身份認(rèn)同〔18〕,同時序數(shù)權(quán)也令人們服從于算法設(shè)定的秩序〔19〕。也就是說,平臺系統(tǒng)通過算法潛移默化地收集、分析勞動者數(shù)據(jù)并將數(shù)據(jù)結(jié)果反作用于勞動者,而使不平等的勞動秩序成為可能。同時,生產(chǎn)關(guān)系的監(jiān)管更為困難。由于勞資之間的剝削與被剝削關(guān)系變得更為隱蔽,國家對于勞資之間關(guān)系的調(diào)控和對勞動者的保護變得更艱難。這種變化需要國家通過理解和掌握算法技術(shù),進而揭開算法黑箱從而重塑對市場與社會的控制和管理〔20〕。
三、效率決策、科層控制和重構(gòu)自主性:算法對政府組織的影響
政府是社會治理的核心主體與決策者,可看作國家在社會治理過程中的代理人。算法不僅帶來了社會新特征,并且在組織層面重構(gòu)了政府的結(jié)構(gòu)與運作流程,進而影響著政府所主導(dǎo)的社會治理形態(tài)。政府組織為實現(xiàn)對社會的有效治理需要處理來自上級部門或社會層面的機構(gòu)海量數(shù)據(jù),算法的使用可以自動化解繁瑣的日常任務(wù),對海量數(shù)據(jù)進行快速分析,并建立模型以提供預(yù)測和決策支持。算法還可以幫助政府部門提供更高效和個性化的公共服務(wù)。例如,通過自然語言處理和機器學(xué)習(xí),政府可以憑借算法技術(shù)自主回答公眾的問題,提供更快速和準(zhǔn)確的服務(wù)〔21〕。從組織學(xué)角度來看,算法對政府組織的影響包含三個部分:在政府決策層面,算法為政府提供了一種效率導(dǎo)向的自主決策系統(tǒng)并為政府決策提供參考和導(dǎo)引;在組織結(jié)構(gòu)層面,算法技術(shù)使得從傳統(tǒng)垂直管理結(jié)構(gòu)轉(zhuǎn)向更加扁平靈活結(jié)構(gòu),部門合作、政企合作被充分帶進科層體系;在官僚主體層面,算法技術(shù)重新定義了官僚掌握的自由裁量權(quán)(參見表1)。
(一)政府決策:效率還是民主?
決策是行政行為的核心。有關(guān)算法的早期研究強調(diào)算法對公共決策的影響〔22〕〔23〕,研究主題包括算法如何影響政府決策效率、如何改變政府決策結(jié)果以及如何影響民主化進程。由于源起西方的公共行政學(xué)自興起之時就存在著效率和民主兩條路徑,算法引入后將如何影響公共部門的討論也不可避免地從此開始。
那么,如何定義算法決策?計算機學(xué)界一般認(rèn)為算法決策指的是一種機器學(xué)習(xí)和深度學(xué)習(xí)方法為核心的數(shù)據(jù)處理導(dǎo)向的自主決策系統(tǒng)〔24〕。對技術(shù)持積極態(tài)度的學(xué)者認(rèn)為,算法可以幫助政府部門提高工作效率和自動化程度〔25〕,算法提供了客觀、數(shù)據(jù)驅(qū)動的決策因素,減少主觀因素的影響,從而在提升決策的科學(xué)性的同時增強決策的公正性和透明度。持消極態(tài)度的學(xué)者則強調(diào),算法在自動化運作的同時,也可能增多政府內(nèi)部無用的數(shù)字工作,增加工作人員負(fù)擔(dān)而降低效率。更重要的是,算法決策可能會削弱決策民主性,導(dǎo)致偏見與不公正,加劇社會的不平等〔26〕。
算法在政府決策中提升效率的應(yīng)用潛力來自兩大基本能力,分別是對大數(shù)據(jù)的高效處理功能和機器學(xué)習(xí)算法的預(yù)測分析能力〔27〕。大數(shù)據(jù)的高效處理功能體現(xiàn)為機器學(xué)習(xí)和深度學(xué)習(xí)的算法憑借文本挖掘、知識庫自動構(gòu)建、自然語言處理等技術(shù)處理含義模糊的非結(jié)構(gòu)化數(shù)據(jù)(政策本文),并對政策內(nèi)容進行分類〔28〕。機器學(xué)習(xí)算法的預(yù)測分析能力體現(xiàn)為算法驅(qū)動的高緯數(shù)據(jù)篩選預(yù)測決策,是以非線性和高度交互的預(yù)測模型為基礎(chǔ),能夠高精度預(yù)測高度復(fù)雜現(xiàn)象與數(shù)據(jù)間關(guān)系,相對于人腦判斷而言,算法決策有著顯著優(yōu)勢〔29〕?;谝陨蟽深惢灸芰Γ惴夹g(shù)由淺至深地參與到政府決策的過程之中,包括議程設(shè)定、政策制定、政策執(zhí)行等方面,充分提升了政府決策的效率。
在議程設(shè)定層面,算法將處理公共輿論大數(shù)據(jù)成為可能,決策者可以通過自然語言處理、文本情感分析等算法洞察社會輿論的動向和變化,并及時進行政策問題界定,協(xié)助決策者設(shè)定政策議程。也就是說,算法技術(shù)有效地強化了國家的“信息能力”,提升了國家對社會信息的“可讀性”〔30〕。在政策制定層面,當(dāng)前算法決策主要體現(xiàn)為參考性功能,算法決策強大的預(yù)測能力可以精準(zhǔn)預(yù)測政策方案的實施效果,并且算法對于成本收益的預(yù)測效果也優(yōu)于傳統(tǒng)的成本收益分析,能夠指導(dǎo)政策方案的選擇。在政策執(zhí)行層面,算法技術(shù)打通了政策信息上傳下達(dá)之中因?qū)蛹壖軜?gòu)而形成的信息不對稱,消解下級政府的政策執(zhí)行波動和“上下共謀”行為〔31〕。然而,算法技術(shù)在提升政府決策效率的同時,也影響了政府決策的民主性。一方面,算法技術(shù)在收集和處理社會信息上能夠?qū)妼τ谡叻桨傅慕ㄗh提供更為全面和深入的研判,識別不同的政策偏好,進而強化公共決策的民主性〔32〕。另一方面,如果公共決策中依仗的算法和數(shù)據(jù)本身具有“偏見”,難免導(dǎo)致政策指定的結(jié)果對于被算法忽視的社會群體也是有“偏見”的,從而削弱了公共決策的民主性〔33〕。
(二)組織結(jié)構(gòu):分權(quán)還是控制?
隨著世界上越來越多的政府采納算法技術(shù)并在公共行政實踐中呈現(xiàn)出不同的應(yīng)用形態(tài),公共部門關(guān)于算法的科學(xué)辯論逐漸從算法本身拓展到組織維度,關(guān)注算法對組織結(jié)構(gòu)、組織關(guān)系的影響。Meijer 與Wessels指出,算法包括技術(shù)、專業(yè)知識、信息關(guān)系、組織結(jié)構(gòu)、組織政策、監(jiān)控和評估六大核心特征,公共部門將圍繞算法重新安排他們的工作程序,并將此過程稱為“算法化”,即:“一個組織圍繞使用算法進行行動和決策重新安排其工作程序的過程”,強調(diào)“工作程序”而非“組織行為與決策”〔34〕。
公共部門引入算法將對其組織形態(tài)可能產(chǎn)生多方面的影響,包括內(nèi)部組織結(jié)構(gòu)、部門間關(guān)系和外部與企業(yè)的關(guān)系。在組織層面,算法化的張力在于,算法的應(yīng)用需求要求公共部門從傳統(tǒng)垂直管理結(jié)構(gòu)轉(zhuǎn)向更加扁平和靈活的結(jié)構(gòu),但是算法作為一種集中、規(guī)?;牧炕夹g(shù),又很可能強化科層控制、標(biāo)準(zhǔn)化和正規(guī)化。那么,在算法技術(shù)的加持下,政府作為典型科層組織的代表,究竟會變得更加扁平還是集中?政府會在標(biāo)準(zhǔn)化算法的影響下向“組織鐵律”趨同還是因算法帶來的靈活性而趨異?政府內(nèi)不同部門之間會在算法的幫助下更容易實現(xiàn)協(xié)同,還是會對這一新興領(lǐng)域進行爭奪而加劇割據(jù)態(tài)勢?政府和企業(yè)之間、和專業(yè)技術(shù)人員之間的關(guān)系又會如何?
首先,在內(nèi)部組織結(jié)構(gòu)方面,引入算法可能導(dǎo)致公共部門的內(nèi)部組織結(jié)構(gòu)發(fā)生變化。傳統(tǒng)的垂直管理結(jié)構(gòu)可能需要調(diào)整為更加扁平和靈活的結(jié)構(gòu),以適應(yīng)算法的應(yīng)用需求〔35〕。與此相對,也有學(xué)者認(rèn)為,算法的引入可能導(dǎo)致組織的集中化,可能強化對標(biāo)準(zhǔn)化、正規(guī)化和集中化的壓力〔36〕,對于算法的一系列實證研究支持了這一觀點。但是,也有研究認(rèn)為,公共部門的算法化過程是不確定的,組織文化會在很大程度上影響公共部門的算法化形態(tài),即使是采納相似甚至相同的系統(tǒng),也可能會因組織文化的差異而強化完全相反的組織形式〔37〕。
其次,在部門間關(guān)系維度,算法的引入可能改變不同部門之間的關(guān)系和合作方式。協(xié)同論觀點認(rèn)為,算法的引入可以加強部門間的協(xié)同合作,可以促進政府之間的信息交流和協(xié)作,從而使得部門更好地協(xié)同解決復(fù)雜問題,提升整體績效〔38〕。但是,也有研究指出,算法的引入可能重新定義政府部門的權(quán)力和職責(zé)關(guān)系,例如,某些任務(wù)和決策可能被算法自動化,導(dǎo)致部門間的職責(zé)重組和重新分配;也可能加劇政府部門間的競爭和沖突,政府部門采用不同算法而得出的決策結(jié)果可能相互沖突。
最后,在外部關(guān)系上,政府部門引入算法可能對其與企業(yè)的關(guān)系產(chǎn)生影響。政企關(guān)系內(nèi)生于現(xiàn)代數(shù)字政府的治理過程中〔39〕,由于算法的規(guī)模性,政府自身很難獨立進行算法的構(gòu)建和運行,相較于傳統(tǒng)的信息化和電子政務(wù)過程,在公共部門算法化的過程中,企業(yè)以前所未有的深度和廣度嵌入到政府治理過程之中,政企合作模式也發(fā)生變化。政府不再簡單地為企業(yè)提供優(yōu)惠政策或資源,而是更多地以項目形式在技術(shù)層面與企業(yè)開展合作,依托企業(yè)的數(shù)據(jù)和技術(shù)來開發(fā)和實施算法。換言之,企業(yè)也在一定程度上被納入政府的“項目制”〔40〕。為有效建立更緊密的合作伙伴關(guān)系,除嘗試制定合適的合作協(xié)議和數(shù)據(jù)共享政策之外,政府和企業(yè)的組織結(jié)構(gòu)與運作方式也發(fā)生了變化。平臺頭部企業(yè)呈現(xiàn)出政府事務(wù)部門專門化的特征,廣泛建立了多種層次的專門化政府事務(wù)部門以強化與政府的對接〔41〕。
(三)科層官僚:照章辦事還是自由裁量?
政府的算法化過程對公共部門內(nèi)部各級工作人員的影響主要體現(xiàn)在工作方式的變革上,并由此衍生出自由裁量權(quán)界定,以及是否遵從以往科層權(quán)力分配行動等傳統(tǒng)問題的新討論。
傳統(tǒng)組織學(xué)認(rèn)為,科層內(nèi)官僚主要負(fù)責(zé)處理文件、辦理手續(xù)和執(zhí)行政策等事務(wù)性工作。而引入算法后,一些重復(fù)性和機械性的工作可以通過自動化和智能化的方式完成,使官僚成員能夠更專注于復(fù)雜的決策和問題解決。官僚成員需要適應(yīng)新的工作方式,學(xué)習(xí)和掌握相關(guān)的技術(shù)和工具,提高數(shù)據(jù)分析和算法應(yīng)用的能力。同時,算法的引入將提高官僚成員的決策能力和效率。算法可以通過大數(shù)據(jù)分析和模型建立,提供決策支持和預(yù)測能力,算法本身也越來越多地做出過去由人做出的決策〔42〕。因此,官僚成員可以利用算法的結(jié)果和分析,更準(zhǔn)確地制定政策和規(guī)劃,優(yōu)化資源分配,提高工作效率和決策的準(zhǔn)確性。官僚成員需要具備數(shù)據(jù)驅(qū)動的思維和分析能力,能夠理解和應(yīng)用算法的結(jié)果,從而更好地履行職責(zé)和使命。
上述過程帶來的新問題在于:如果算法可以決策,官僚成員會如何使用算法給予的決策?更進一步,這將如何影響官僚成員,特別是位于基層治理情境之中街頭官僚的自由裁量權(quán)?社會心理學(xué)文獻指出,算法看似中立而客觀,人們似乎對算法給出的解決方案過于自信〔43〕,存在無視其他來源的矛盾信息或不再徹底地搜尋更多信息,而盲目遵從自動化系統(tǒng)結(jié)論的傾向〔44〕。為避免這種偏見,近期越來越多討論嘗試使用實驗方法來探究官僚成員使用算法時的行為邏輯。Janssen等學(xué)者通過實驗和調(diào)查問卷發(fā)現(xiàn),決策者的經(jīng)驗水平和算法的可解釋性對決策者的自由裁量權(quán)具有重要影響。具有更高經(jīng)驗水平的決策者在使用人工智能支持決策時更傾向于依賴算法的建議,而較低經(jīng)驗水平的決策者則更傾向于依賴自己的判斷。此外,算法的可解釋性也對決策者的自由裁量權(quán)產(chǎn)生影響。當(dāng)算法能夠提供清晰的解釋和理由時,決策者更容易接受算法的建議,從而降低了他們的自由裁量權(quán)〔45〕。Alon-Barkat與Busuioc則提供了相反的證據(jù)。他們的實驗結(jié)果顯示,將算法工具引入決策過程并沒有取代人類決策者的自由裁量權(quán)和判斷力;同時,人類建議和算法建議都會帶來選擇性依從,算法并未加劇此類偏見〔46〕。
除算法直接給出決策之外,算法也在數(shù)據(jù)和信息方面改變了官僚成員的工作方式,使得官僚成員所面對的信息與訴求更加文本化、數(shù)據(jù)化和標(biāo)準(zhǔn)化,其碎片化程度也在加深。L?berg通過溯因分析,發(fā)現(xiàn)由于公民的信息被標(biāo)準(zhǔn)化和簡化,即基層官僚需要在工作中走“彎路”,來彌補碎片化信息的局限性,提供回應(yīng)式服務(wù)〔47〕。
總體來看,技術(shù)治理的早期研究傾向于認(rèn)為算法會大幅度削弱官僚成員的自主性。比如,Bovens與Zouridis提出,信息技術(shù)的引入會使得具有自由裁量權(quán)的街頭官僚轉(zhuǎn)變?yōu)榕袛嗍欠窠邮苡嬎銠C決策的“屏幕官僚”(screen-level bureaucracy),再進一步轉(zhuǎn)向維護和完善計算機網(wǎng)絡(luò)的“系統(tǒng)官僚”(system-level bureaucracy)〔48〕。但隨著研究的深入,學(xué)者們逐漸意識到算法對于官僚自由裁量權(quán)的影響并不完全遵循上述的單一路徑,實際情況往往更加復(fù)雜且隨情景而變,在此方面,仍需要更多探索性的實證研究〔49〕。
四、算法對社會治理的影響
算法作為新的技術(shù)變量,本身既是治理對象,又是治理工具;既已改變了社會聯(lián)結(jié)和運作的方式,也深度嵌入到政府工作的方方面面,使得兩者都呈現(xiàn)出新的形態(tài)〔50〕。毫無疑問,算法對社會治理提出了新的要求,使得社會治理呈現(xiàn)出不同的形態(tài)。上文之中,我們分別從國家與社會二分的角度出發(fā),分別討論算法對社會結(jié)構(gòu)和政府組織的影響和改變,在本部分中我們將基于以上分析討論算法時代的社會治理特征(見圖1)。
(一) 共識基礎(chǔ):國家與社會邊界的重新界定
算法已經(jīng)并將進一步形塑新的國家與社會關(guān)系,為社會治理提供新的基礎(chǔ)。國家與社會關(guān)系將決定政府的職權(quán)邊界和合法性的社會共識,是國家與社會在互動過程中所形成的共識,可簡單分為國家層面對社會的讀取、動員或控制,以及社會層面的自我聯(lián)結(jié)和集體行動。算法作為新型技術(shù)形成了大量未達(dá)成共識的技術(shù)空間,使得科技巨頭與技術(shù)專家稱為“國家-社會”關(guān)系中一個不可忽視的新型主體〔51〕,相關(guān)的各方主體的職責(zé)、邊界逐漸模糊且尚未達(dá)到共識。同時,數(shù)據(jù)的匯集和算法的應(yīng)用是跨國的,這使得這一空間內(nèi)的主體互動和權(quán)責(zé)界定更為復(fù)雜。在更微觀的層面上,算法改變了國家與社會獲取和解讀信息的方式。
對于國家來說,社會變得可讀,行動在一定程度上可被預(yù)測〔52〕,這可能強化國家對社會的控制〔53〕,也為中央提供了更多的地方信息用于層級管理和問責(zé)〔54〕。但是對于社會中的個體而言,盡管算法推薦存在將關(guān)注點和偏好相同的人組織起來,但各類商業(yè)算法通過個人化推薦和過濾機制,僅呈現(xiàn)符合其興趣和偏好的信息,可能會導(dǎo)致信息的過濾和篩選,使用戶只接觸到與其立場相符的觀點,從而形成信息的“過濾泡”,限制了用戶對多樣觀點的接觸和了解〔55〕,消解社會共識的達(dá)成,社會聯(lián)結(jié)與社會行動變得更加困難。同時,算法定向推薦也更有可能被政治團體使用,影響公民的社會參與和行為偏好〔56〕。總體來看,由于算法本身對知識、規(guī)模和數(shù)據(jù)有較高的要求,它的廣泛應(yīng)用可能進一步強化國家、科技巨頭等強實體的力量,同時使得個人更加原子化。
(二) 價值追求:社會與政府的雙重序數(shù)化
在國家與社會關(guān)系變化的背景下,算法隱含的序數(shù)化的價值傾向以隱而不顯的方式同時嵌入了社會與政府,成為當(dāng)代主導(dǎo)的價值追求之一。如上所述,市場出于對利益的追求,會使用多維度數(shù)據(jù)對公民進行序數(shù)化的分類,進而依據(jù)此排序為顧客提供差異化的商品、對雇員進行差別化的管理。這一過程實現(xiàn)了市場與社會的序數(shù)化,社會中鮮活的個體被抽象化為數(shù)據(jù)條目,以數(shù)量、數(shù)值大小為標(biāo)簽進行比較,數(shù)量占比大的群體或個體中數(shù)值最為突出的方面會占據(jù)最多的關(guān)注,數(shù)據(jù)層面的“少數(shù)群體”則會被忽視,成為數(shù)據(jù)盲點。
政府的序數(shù)化則體現(xiàn)在,政府的治理成果更多地以數(shù)值化的形式呈現(xiàn)并進行排序考核?!澳繕?biāo)治理”是我國治理的一大特點,從宏觀的五年計劃到各具體政策的執(zhí)行,都傾向于將行政總目標(biāo)分解形成一套績效目標(biāo)和指標(biāo)體系,并依此進行考核〔57〕。算法自動化的數(shù)據(jù)分析與排序無疑強化了政府內(nèi)部的目標(biāo)管理過程,越來越多難以量化的、模糊性的治理任務(wù)得以通過大量的過程性數(shù)據(jù)進行數(shù)值排序與考核。與此同時,政府的績效成果也會以數(shù)值的形式被定向地推送至公民,公民對于治理績效的感知、評價可能進一步增強,且這種感知多是基于規(guī)范化的數(shù)值比較的。需要警惕的是,正如傳統(tǒng)的目標(biāo)管理可能會誘發(fā)諸多目標(biāo)扭曲的博弈策略〔58〕,算法帶來的強考核也可能會強化選擇性執(zhí)行與變通執(zhí)行,政策執(zhí)行者可能有意或無意地操縱算法的輸入數(shù)據(jù)、權(quán)重設(shè)置或結(jié)果解釋,以符合其特定的政治目標(biāo)或利益。
(三) 技術(shù)問責(zé):透明與安全的權(quán)衡
如上所述,算法作為治理工具,使得社會呈現(xiàn)出序數(shù)化和高效率的價值追求,但這實際上在一定程度上消解了民主價值??赡軉栴}在于,算法看似吸納了大量的社會數(shù)據(jù),足以代表多數(shù)人的民主,但其技術(shù)邏輯內(nèi)部卻往往隱藏著一系列偏見,性別、種族、階層等種種偏見會在程序員看似中立的編碼過程中進入到算法系統(tǒng)之中〔59〕,而政府對算法的使用實際上賦予了算法在部分決策上的自由裁量權(quán)。在序數(shù)化分類和算法隱含偏見的加持下,社會治理內(nèi)的不平等可能被進一步加劇。應(yīng)對不平等的傳統(tǒng)問責(zé)方案包括機構(gòu)間相互約束、向公眾負(fù)責(zé)的政治問責(zé)和機構(gòu)內(nèi)針對政策執(zhí)行效果的行政問責(zé)〔60〕〔61〕。這些問責(zé)方式在當(dāng)下所面臨困境在于,算法的不透明性使得其內(nèi)部的偏見很難被觀察到,其實際的過程難以被解讀。為了有效應(yīng)對這一難題,需要基于算法的技術(shù)特征重新探索新的問責(zé)和監(jiān)督方案。
公開算法成為對此技術(shù)進行問責(zé)監(jiān)督的前提,一些學(xué)者主張政府使用算法應(yīng)該具有高度透明性和公開性。政府應(yīng)該向公眾解釋算法的工作原理、數(shù)據(jù)來源和決策過程,以確保算法的可理解性和可控性,增加公眾對于算法決策的信任〔62〕。但是,如何在透明度和保密度之間進行平衡,仍未有明確答案。某些算法的工作原理和數(shù)據(jù)可能涉及國家安全、隱私或商業(yè)機密等敏感信息,其間的平衡點仍待探尋。比如,若涉及到福利決策的算法被完整公開,那么公民有可能有針對性地進行欺詐或隱瞞〔63〕。對算法的問責(zé)究竟應(yīng)當(dāng)由政府來開展嚴(yán)厲強制的監(jiān)管,還是堅持行業(yè)自我監(jiān)管,抑或是發(fā)展可追溯和驗證的技術(shù)路徑〔64〕,仍待進一步探索。
五、討論
近年來,越來越多的學(xué)者正在重新界定公共行政研究的治理方法和治理形態(tài)〔65〕〔66〕。本文重申算法對治理影響的原因在于,當(dāng)前關(guān)于數(shù)字技術(shù)對治理影響的研究更多是關(guān)注“數(shù)字”而非“技術(shù)”,關(guān)注算法技術(shù)如何解決實際問題,從而實現(xiàn)相應(yīng)的技術(shù)目標(biāo)似乎大有裨益。本文首先探討了算法在當(dāng)代社會發(fā)揮著越來越重要的作用,對社會結(jié)構(gòu)和政府組織產(chǎn)生了深遠(yuǎn)的影響。對于社會結(jié)構(gòu)而言,算法作為一種高效率但帶有偏見的算法技術(shù)的計算和決策方式,直接改變了傳統(tǒng)的信息獲得和人際交往方式,隨之而來的技術(shù)拜物教使公民權(quán)呈現(xiàn)序數(shù)化特征,且其不透明的特性掩蓋了生產(chǎn)政治之中的勞動控制并形成了新的生產(chǎn)關(guān)系。對于政府組織而言,算法提升了政府運作的效率,但挑戰(zhàn)了此過程的民主性;改變了傳統(tǒng)的部門職責(zé)分工,部門、政企合作被充分帶進科層體系;重新定義了官僚的自主性和自由裁量權(quán)。
隨著首部聚焦算法治理的部門規(guī)章《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》發(fā)布,我國實踐已從應(yīng)用算法轉(zhuǎn)向治理算法。未來為進一步應(yīng)對算法帶來的社會治理變化,仍需在明晰算法技術(shù)邏輯與運作模式的基礎(chǔ)上,將其納入社會治理的整體框架之下,以政府為主導(dǎo)動員社會主體參與,形成算法的協(xié)同治理模式。首先,在價值層面,應(yīng)明確社會治理中效率與公平的價值平衡,警惕算法背后隱藏的序數(shù)化。其次,通過教育等方式提升各主體的算法能力,明確并公開算法背后的技術(shù)邏輯,在安全允許的前提下部分破除算法的不透明與黑箱,是治理與監(jiān)管算法的基礎(chǔ)。最后,由于算法本身涉及提供算法技術(shù)的市場企業(yè)、使用算法技術(shù)的政府與提供數(shù)據(jù)支撐的社會等多元主體,由政府動員聯(lián)結(jié)進而形成多元主體的協(xié)同治理在此過程中更為重要。
目前,已有一定的中英文文獻嘗試討論算法的技術(shù)特質(zhì)帶來的治理變革,但仍有諸多基本的議題需要探索:在規(guī)范層面,算法時代的政府邊界如何?政府應(yīng)當(dāng)如何平衡算法透明與安全之間的關(guān)系?技術(shù)應(yīng)當(dāng)在何種程度上受到監(jiān)管?在實踐層面,當(dāng)下序數(shù)化的社會有哪些新特征?政府已經(jīng)在何種程度和哪些方面使用了算法?圍繞算法的政企項目合作如何展開,政企關(guān)系又走向何方?總體而言,算法既是治理對象,又是治理工具,它既在根本上改變了社會、政府的運作方式和兩者間的互動形式,也為未來的治理實踐提供了更多可能,更為學(xué)術(shù)研究提供了新的想象力,亟待更深入、細(xì)致的規(guī)范和理論研究填補空缺。
〔參考文獻〕
〔1〕戴長征,鮑靜. 數(shù)字政府治理——基于社會形態(tài)演變進程的考察〔J〕. 中國行政管理,2017,(9).
〔2〕高翔,胡亞博. 國外學(xué)者論人工智能與數(shù)字政府建設(shè)〔J〕. 國外理論動態(tài),2023,(2).
〔3〕Cormen, T. H., Leiserson, C. E., Rivest, R. L., & Stein, C. Introduction to Algorithms (3rd ed.)〔M〕. MIT Press,2009.
〔4〕Knuth, D. E. The Art of Computer Programming (Vol. 3)〔M〕. Reading, MA: Addison-Wesley,1973.
〔5〕高奇琦. 國家數(shù)字能力:數(shù)字革命中的國家治理能力建設(shè)〔J〕. 中國社會科學(xué),2023,(1).
〔6〕孟天廣. 政府?dāng)?shù)字化轉(zhuǎn)型的要素、機制與路徑——兼論“技術(shù)賦能”與“技術(shù)賦權(quán)”的雙向驅(qū)動〔J〕. 治理研究,2021,(1).
〔7〕〔20〕郁建興,高翔,王詩宗等. 數(shù)字時代的公共管理研究范式革命〔J〕. 管理世界,2023,(1).
〔8〕邱澤奇. 算法向善選擇背后的權(quán)衡與博弈〔J〕. 人民論壇,2021,(Z1).
〔9〕劉河慶,梁玉成. 透視算法黑箱:數(shù)字平臺的算法規(guī)制與信息推送異質(zhì)性〔J〕. 社會學(xué)研究,2023,(2).
〔10〕Webster S W, Albertson B. Emotion and politics: Noncognitive psychological biases in public opinion〔J〕. Annual Review of Political Science, 2022, 25: 401-418.
〔11〕Fourcade, M. Ordinalization〔J〕. Sociological Theory, 2016, 34: 175-195.
〔12〕〔17〕〔59〕Burrell, J., & Fourcade, M. The society of algorithms〔J〕. Annual Review of Sociology, 2021, 47: 213-237.
〔13〕Fourcade M, Healy K. Classification situations: Life-chances in the neoliberal era〔J〕. Accounting, Organizations and Society, 2013, 38(8): 559-572.
〔14〕Mateen H. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy〔J〕. Berkeley Journal of Employment and Labor Law, 2018, 39(1): 285-292.
〔15〕〔63〕Burrell J.How the machine ‘thinks: Understanding opacity in machine learning algorithms〔J〕. Big Data & Society, 2016, 3(1): 2053951715622512.
〔16〕趙璐. 算法實踐的社會建構(gòu)——以某信息分發(fā)平臺為例〔J〕. 社會學(xué)研究, 2022,(4).
〔18〕Lei Y W. Delivering solidarity: Platform architecture and collective contention in Chinas platform economy〔J〕. American Sociological Review, 2021, 86(2): 279-309.
〔19〕陳龍. “數(shù)字控制”下的勞動秩序——外賣騎手的勞動控制研究〔J〕. 社會學(xué)研究, 2020,(6).
〔21〕Engstrom D F, Ho D E, Sharkey C M, et al. Government by algorithm: Artificial intelligence in federal administrative agencies〔J〕. NYU School of Law, Public Law Research Paper, 2020 :20-54.
〔22〕Fink K. Opening the governments black boxes: freedom of information and algorithmic accountability〔J〕. Information, Communication & Society, 2018, 21(10): 1453-1471.
〔23〕Janssen M, Kuk G. The challenges and limits of big data algorithms in technocratic governance〔J〕. Government Information Quarterly, 2016, 33(3): 371-377.
〔24〕Zouridis S, Van Eck M, Bovens M. Automated discretion〔J〕. Discretion and the quest for controlled freedom, 2020: 313-329.
〔25〕Ojo A, Mellouli S, Ahmadi Zeleti F. A realist perspective on AI-era public management〔A〕. Proceedings of the 20th Annual International Conference on Digital Government Research〔C〕, 2019: 159-170.
〔26〕于文軒. 大數(shù)據(jù)之殤:對人文、倫理和民主的挑戰(zhàn)〔J〕. 電子政務(wù), 2017, (11).
〔27〕吳進進, 符陽. 算法決策:人工智能驅(qū)動的公共決策及其風(fēng)險〔J〕. 開放時代, 2021,(5).
〔28〕Rice D R, Zorn C. Corpus-based dictionaries for sentiment analysis of specialized vocabularies〔J〕. Political Science Research and Methods, 2021, 9(1): 20-35.
〔29〕Mullainathan S, Spiess J. Machine learning: an applied econometric approach〔J〕. Journal of Economic Perspectives, 2017, 31(2): 87-106.
〔30〕唐世平, 高嶺, 李立等. 國家能力:走出理論荒野〔J〕. 學(xué)術(shù)月刊, 2022,(11).
〔31〕何艷玲, 肖蕓. 問責(zé)總領(lǐng):模糊性任務(wù)的完成與央地關(guān)系新內(nèi)涵〔J〕. 政治學(xué)研究, 2021, (3).
〔32〕Kamateri, E. et al. 2015. Comparative Analysis of Tools and Technologies for Policy Making〔A〕//Janssen, M., M. A. Wimmer, & A. Deljoo (eds.).Policy Practice and Digital Science: Integrating Complex Systems, Social Simulation and Public Administration in Policy Research〔C〕. Cham: Springer International Publishing Switzerland, 2015.125-156.
〔33〕Webster S W, Albertson B. Emotion and politics: Noncognitive psychological biases in public opinion〔J〕. Annual Review of Political Science, 2022, 25: 401-418.
〔34〕〔37〕〔49〕Meijer A, Lorenz L, Wessels M. Algorithmization of bureaucratic organizations: Using a practice lens to study how context shapes predictive policing systems〔J〕. Public Administration Review, 2021, 81(5): 837-846.
〔35〕Kretschmer T, Khashabi P. Digital transformation and organization design: An integrated approach〔J〕. California Management Review, 2020, 62(4): 86-104.
〔36〕〔48〕Bovens M, Zouridis S.2002.From street‐level to system‐level bureaucracies: how information and communication technology is transforming administrative discretion and constitutional control〔J〕. Public Administration Review, 62(2): 174-184.
〔38〕Engin Z, Treleaven P. Algorithmic government: Automating public services and supporting civil servants in using data science technologies〔J〕. The Computer Journal, 2019, 62(3): 448-460.
〔39〕于君博,戴鵬飛. 中國地方政府?dāng)?shù)字治理的“過程”與“組織”〔J〕. 公共管理學(xué)報, 2023,(1).
〔40〕蔡聰裕. 地方數(shù)字政府建設(shè)的政企合作實踐樣態(tài)與運行機制——基于廣東省“粵省事”平臺的扎根理論研究〔J〕. 電子政務(wù), 2023,(11).
〔41〕黃冬婭,杜楠楠. 平臺企業(yè)政府事務(wù)部門專門化與政企關(guān)系發(fā)展——基于國家制度環(huán)境的分析〔J〕. 社會學(xué)研究, 2022, (6).
〔42〕Hong S, Lee S. Adaptive governance, status quo bias, and political competition: Why the sharing economy is welcome in some cities but not in others〔J〕. Government Information Quarterly, 2018, 35(2): 283-290.
〔43〕Diesner J. Small decisions with big impact on data analytics〔J〕. Big Data & Society, 2015, 2(2): 2053951715617185.
〔44〕Cummings M L. Automation and accountability in decision support system interface design〔J/OL〕.DOI:10.21061/jots.v32i1.a.4.
〔45〕Janssen M, Hartog M, Matheus R, et al. Will algorithms blind people? The effect of explainable AI and decision-makers experience on AI-supported decision-making in government〔J〕. Social Science Computer Review, 2022, 40(2): 478-493.
〔46〕Alon-Barkat S, Busuioc M. Human–AI interactions in public sector decision making:“automation bias” and “selective adherence” to algorithmic advice〔J〕. Journal of Public Administration Research and Theory, 2023, 33(1): 153-169.
〔47〕L?berg I B. Assessments of Digital Client Representations: How Frontline Workers Reconstruct Client Narratives from Fragmented Information〔J〕. Journal of Public Administration Research and Theory, 2023, 33(1): 19-29.
〔50〕梁正,王尚瑞. 人工智能與公共治理實證研究前沿:一項文獻綜述〔J〕. 公共管理評論, 2023, (3).
〔51〕Whittaker J P. Tech Giants, Artificial Intelligence and the Future of Journalism〔M〕. Taylor & Francis, 2019.
〔52〕King G, Pan J, Roberts M E. How censorship in China allows government criticism but silences collective expression〔J〕. American political science Review, 2013, 107(2): 326-343.
〔53〕Stockmann D, Gallagher M E. Remote control: How the media sustain authoritarian rule in China〔J〕. Comparative Political Studies, 2011, 44(4): 436-467.
〔54〕Qin B, Str?mberg D, Wu Y. Why does China allow freer social media? Protests versus surveillance and propaganda〔J〕. Journal of Economic Perspectives, 2017, 31(1): 117-140.
〔55〕Pariser E. The Filter Bubble: What the Internet is Hiding from You〔M〕. Penguin UK, 2011.
〔56〕Bimber, B., Davis, R. Campaigning Online: The Internet in US Elections〔M〕. Oxford University Press, 2003.
〔57〕王漢生,王一鴿. 目標(biāo)管理責(zé)任制:農(nóng)村基層政權(quán)的實踐邏輯〔J〕. 社會學(xué)研究, 2009, (2).
〔58〕馬亮. 目標(biāo)治國、績效差距與政府行為:研究述評與理論展望〔J〕. 公共管理與政策評論, 2017, (2).
〔60〕Persson T, Roland G, Tabellini G. Separation of powers and political accountability〔J〕. The Quarterly Journal of Economics, 1997, 112(4): 1163-1202.
〔61〕梅賜琪,劉志林. 行政問責(zé)與政策行為從眾:“十一五”節(jié)能目標(biāo)實施進度地區(qū)間差異考察〔J〕. 中國人口·資源與環(huán)境, 2012, (12).
〔62〕Grimmelikhuijsen S. Explaining why the computer says no: Algorithmic transparency affects the perceived trustworthiness of automated decision‐making〔J〕. Public Administration Review, 2023, 83(2): 241-262.
〔64〕Culnan M J. Protecting privacy online: Is self-regulation working?〔J〕. Journal of Public Policy & Marketing, 2000, 19(1): 20-26.
〔65〕范如國. 公共管理研究基于大數(shù)據(jù)與社會計算的方法論革命〔J〕. 中國社會科學(xué), 2018, (9).
〔66〕薛瀾,趙靜.走向敏捷治理:新興產(chǎn)業(yè)發(fā)展與監(jiān)管模式探究〔J〕.中國行政管理,2019,(8).
【責(zé)任編輯:劉彥武】