張紅春 章知連

摘要：在大數(shù)據(jù)和人工智能時(shí)代，依循算法的政府算法治理模式日漸興起，它讓政府治理日益自動(dòng)化、智能化和精準(zhǔn)化，但也帶來(lái)了揮之不去的算法黑箱問(wèn)題。算法黑箱緣何形成，又如何破解，這是政府算法治理必須解決的重大理論與實(shí)踐問(wèn)題。研究發(fā)現(xiàn)，政府算法的低透明度是算法技術(shù)自身特質(zhì)和政府使用算法技術(shù)的制度方式耦合的產(chǎn)物，與政府治理的公共性、公開(kāi)性、有效性訴求本質(zhì)悖逆，必然要求從算法黑箱向算法透明轉(zhuǎn)軌。其轉(zhuǎn)軌的方向是構(gòu)建算法決策、研發(fā)、應(yīng)用、監(jiān)督全過(guò)程透明化的政府算法治理體系，在其實(shí)現(xiàn)路徑上則依賴政府與公眾各自的透明責(zé)任與行動(dòng)義務(wù)的雙向構(gòu)建。

關(guān)鍵詞：算法治理;算法透明;算法公開(kāi);算法參與;透明政府;人工智能;大數(shù)據(jù)

中圖分類號(hào)：C93-03

文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1000-5099（2022）04-0065-10

時(shí)至今日，算法已經(jīng)廣泛分布于人們的公共和商業(yè)生活。從概念上來(lái)看，算法指一種有限、確定、有效的并適合用計(jì)算機(jī)程序來(lái)實(shí)現(xiàn)解決問(wèn)題的方法。從表現(xiàn)形式來(lái)看，它是數(shù)據(jù)算料的輸入到輸出信息指令的自動(dòng)決策過(guò)程。作為人工智能技術(shù)的核心精髓，算法技術(shù)日益在社會(huì)各個(gè)領(lǐng)域得到廣泛應(yīng)用，現(xiàn)如今政府也經(jīng)常性地利用算法進(jìn)行公共決策和管理。2017 年，《新一代人工智能發(fā)展規(guī)劃》發(fā)布，提出要在教育、醫(yī)療、養(yǎng)老以及行政管理、司法管理、城市管理、環(huán)境保護(hù)等社會(huì)治理的熱點(diǎn)難點(diǎn)問(wèn)題上加快人工智能創(chuàng)新應(yīng)用，提高政府治理現(xiàn)代化水平。在頂層規(guī)劃的推動(dòng)之下，算法在精準(zhǔn)扶貧、疫情防控、偵破案件、教育管理、城市管理、社區(qū)治理、警務(wù)決策、司法審判等政府治理領(lǐng)域中應(yīng)用如雨后春筍勃興。譬如，在杭州的城市大腦建設(shè)中，算法根據(jù)相關(guān)路段實(shí)際車輛數(shù)量等情況合理規(guī)劃紅綠燈時(shí)間，大幅度地提升了交通暢通度，正是強(qiáng)大的算法和算力構(gòu)成智慧城市建設(shè)的核心。再如，在政務(wù)服務(wù)領(lǐng)域中的人工智能應(yīng)用，一些地方已經(jīng)實(shí)現(xiàn)了智能問(wèn)答、智能填單、智能審批等自動(dòng)化功能，實(shí)現(xiàn)政務(wù)服務(wù)效能提升。

隨著人工智能技術(shù)與政府治理的深度融嵌，一種新的政府算法治理樣態(tài)呼之欲出。所謂算法治理，是指以算法決策為核心的一種治理模式。算法治理是人工智能技術(shù)與政府治理日益融合的必然產(chǎn)物，它以算法技術(shù)為內(nèi)核，以大數(shù)據(jù)、人工智能、云計(jì)算為支撐技術(shù)，對(duì)公共事務(wù)實(shí)施算法驅(qū)動(dòng)的自動(dòng)化、智能化的管理和服務(wù)模式。就其內(nèi)涵而言，算法治理是一種技術(shù)治理，它對(duì)以算法為代表的新型信息技術(shù)予以系統(tǒng)化和集成化利用。就其外延來(lái)說(shuō)，算法治理又是算法技術(shù)嵌入并重構(gòu)政府治理場(chǎng)域的主體結(jié)構(gòu)、事務(wù)流程、目標(biāo)結(jié)果的總和樣態(tài)。從治理目標(biāo)來(lái)看，無(wú)論是在理論界還是實(shí)踐領(lǐng)域，算法治理被寄予提高政府治理能力，促使固有的傳統(tǒng)政府治理模式向自動(dòng)化、精準(zhǔn)化、智能化、智慧化的治理形態(tài)轉(zhuǎn)軌的作用期許。

然而，正如新興事物都具有兩面性一樣，算法技術(shù)在給政府治理帶來(lái)精準(zhǔn)、高效、智能的治理勢(shì)能之外，也滋生了諸多治理風(fēng)險(xiǎn)。這其中，算法黑箱問(wèn)題首當(dāng)其沖，算法的不透明性被視為算法治理的最大挑戰(zhàn)。作為一種隱喻，黑箱術(shù)語(yǔ)最早起源于控制論中，后來(lái)被用來(lái)指代那些不為人知、不能從外部直接觀察其內(nèi)部狀態(tài)的政策、技術(shù)與管理系統(tǒng)。隨著算法技術(shù)的崛起和技術(shù)黑箱問(wèn)題的顯現(xiàn)，人們用算法黑箱來(lái)特指代算法的不透明性。弗蘭克·帕斯奎爾（Frank Pasquale）在《黑箱社會(huì)》中最早使用算法黑箱隱喻，認(rèn)為美國(guó)社會(huì)正陷入被金融和科技行業(yè)的秘密算法所操控的、令人難以理解的黑箱社會(huì)狀態(tài)，在這個(gè)社會(huì)中，算法編碼規(guī)則所設(shè)定的值和特權(quán)隱藏在黑箱里，形成了算法黑箱（Black Box Algorithms）。從概念上來(lái)看，算法黑箱是算法系統(tǒng)從輸入到輸出之間的不公開(kāi)和不透明狀態(tài)。就其本質(zhì)而言，算法黑箱本質(zhì)上是算法產(chǎn)品的使用者對(duì)算法系統(tǒng)的不知情。廣為人知的是，不論是商業(yè)算法還是政府算法，都未能逃脫算法黑箱的窠臼。研究指出，雖然社會(huì)廣泛應(yīng)用算法，但是算法的透明度卻有限。尤其是在公共治理當(dāng)中，政府正在大量使用自動(dòng)決策系統(tǒng)替代或者輔助公共管理者進(jìn)行自動(dòng)化行政決策，但是公眾卻又無(wú)法觀察和理解“黑箱”內(nèi)的邏輯或決策機(jī)制，算法治理黑箱化的趨勢(shì)日益凸顯。如果說(shuō)商業(yè)領(lǐng)域的算法黑箱因其私人領(lǐng)域的私密性特質(zhì)護(hù)持而具有一定合理性依據(jù)的話，而政府治理中的算法黑箱則和公共場(chǎng)域的公共性與公開(kāi)性特質(zhì)格格不入。算法黑箱在挑戰(zhàn)公民對(duì)于政府決策的知情權(quán)，影響到政府決策的合法性，它也由此成為政府算法治理亟待解決的一個(gè)重大問(wèn)題。

可喜的是，實(shí)踐和學(xué)術(shù)領(lǐng)域已經(jīng)對(duì)算法黑箱問(wèn)題共同展開(kāi)了關(guān)注和討論。2019年發(fā)布的《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》指南中，提出人工智能系統(tǒng)應(yīng)堅(jiān)持開(kāi)放包容原則，不斷提升透明性。2022年，國(guó)家互聯(lián)網(wǎng)信息辦公室等部委頒布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，指出算法推薦服務(wù)應(yīng)堅(jiān)持公開(kāi)透明的原則。然而，頗為悖謬的是，學(xué)術(shù)研究中關(guān)于算法是否要透明仍存爭(zhēng)議。就算法透明而言，并非所有學(xué)者都持肯定態(tài)度。有的法律學(xué)者以算法透明的規(guī)制效力有限為由，指出算法透明原則通常既不可行，也無(wú)必要。還有研究以算法透明的法律缺失為由，認(rèn)為在沒(méi)有法律明確哪些算法應(yīng)該公開(kāi)以及如何公開(kāi)的情況下，算法的不公開(kāi)是原則，公開(kāi)是例外的觀點(diǎn)。這顯然是默許了算法黑箱常態(tài)。但在這些算法黑箱擁躉者對(duì)立面，也出現(xiàn)了對(duì)算法透明的支持者，并從多個(gè)視角提出了算法黑箱治理對(duì)策。代表性的觀點(diǎn)有：吳椒軍分析了算法黑箱帶來(lái)的危機(jī)，主張從技術(shù)角度、法律角度與倫理角度對(duì)算法黑箱進(jìn)行法治化管理，姜野等提出通過(guò)算法解釋權(quán)來(lái)破解算法黑箱，等等。不難看出，雖然算法黑箱問(wèn)題已受到學(xué)界關(guān)注，但是已有研究以法學(xué)視角的研究為主，且研究共識(shí)嚴(yán)重不足。而且，已有研究似乎模糊了一個(gè)算法透明問(wèn)題的場(chǎng)景因素，即公共算法和商業(yè)算法在透明原則的適用上應(yīng)該是不一樣的。

作為一種技術(shù)，算法本身沒(méi)有權(quán)力屬性，但是算法一旦應(yīng)用于公共領(lǐng)域，就會(huì)帶有公共權(quán)力色彩，并應(yīng)接受公共場(chǎng)域倫理的規(guī)約?；诖?，本文開(kāi)宗明義地提出以下論點(diǎn)：如果說(shuō)公開(kāi)性是公共場(chǎng)域內(nèi)公共事務(wù)治理的準(zhǔn)則，那么嵌入其中的算法技術(shù)也應(yīng)秉持透明性原則。本文接下來(lái)的論證分三部分，我們首先從學(xué)理層面分析政府算法黑箱問(wèn)題是如何形成的;其次，從透明性的治理價(jià)值和工具功效入手，論證算法透明原則的嵌入邏輯;最后，文章提出了政府算法治理透明化的實(shí)現(xiàn)路徑。

一、政府算法黑箱的生成：技術(shù)與制度的雙重解釋

是何種因素引致了政府算法黑箱？筆者認(rèn)為，政府算法的低透明度是算法技術(shù)自身特質(zhì)和政府使用算法技術(shù)的制度方式耦合的產(chǎn)物。

從技術(shù)本身來(lái)看，技術(shù)天生帶有了不透明的特性。抽象意義的技術(shù)是實(shí)現(xiàn)人的目的的一種手段，它表現(xiàn)為各種工具、裝置及其集合。不同于先天之物，技術(shù)是人類發(fā)明創(chuàng)造的產(chǎn)物。然而，隨著技術(shù)的發(fā)明、擴(kuò)散與應(yīng)用造成了技術(shù)發(fā)明者和技術(shù)使用者的分離，兩者之間的技術(shù)信息與知識(shí)的不對(duì)稱越發(fā)嚴(yán)重，可以說(shuō)，技術(shù)使用者相對(duì)技術(shù)發(fā)明者而言面臨著天然的技術(shù)黑箱問(wèn)題。算法作為科技革命以來(lái)的最前沿成果，其復(fù)雜性和自主性的技術(shù)特質(zhì)將技術(shù)不對(duì)稱問(wèn)題發(fā)展到了極致。

人工智能算法技術(shù)是一種典型的復(fù)雜性技術(shù)。技術(shù)按照其運(yùn)行機(jī)理和目的難度可以劃分為簡(jiǎn)單性技術(shù)和復(fù)雜性技術(shù)，算法技術(shù)顯然屬于后者。有效的算法離不開(kāi)算料、算法、算力的協(xié)同，這依賴大數(shù)據(jù)、云計(jì)算等復(fù)雜技術(shù)系統(tǒng)的支撐。人工智能算法系統(tǒng)內(nèi)部、系統(tǒng)之間的互動(dòng)關(guān)系變得復(fù)雜而高深莫測(cè)，甚至連設(shè)計(jì)者都難以理解算法機(jī)制，更何況普羅大眾。在技術(shù)目的上，人工智能以模擬和逼近人類的復(fù)雜認(rèn)知與行動(dòng)為目標(biāo)，這也就決定算法技術(shù)的目的是朝向復(fù)雜適應(yīng)性轉(zhuǎn)變的。為了提高算法的準(zhǔn)確性，算法的復(fù)雜性必然會(huì)加強(qiáng)。算法解決的問(wèn)題越復(fù)雜，算法代碼的需求就會(huì)增加幾倍。不難看出，算法技術(shù)系統(tǒng)的復(fù)雜性是社會(huì)公眾認(rèn)知和理解政府算法難以逾越的、堅(jiān)固的專業(yè)壁壘。

除了算法復(fù)雜性的專業(yè)鴻溝，算法技術(shù)的自主性特征也在加劇其封閉性技術(shù)空間的建構(gòu)。算法技術(shù)以模擬甚至代替人類的認(rèn)知和決策為使命，它是具有技術(shù)自主性抱負(fù)的。機(jī)器學(xué)習(xí)是算法生成和計(jì)算機(jī)擁有智能的根本途徑，機(jī)器學(xué)習(xí)能夠從海量人類數(shù)據(jù)集中自主學(xué)習(xí)人類的模式和規(guī)律，并且生成精準(zhǔn)的判斷、預(yù)測(cè)、決策與行動(dòng)。根據(jù)人類對(duì)算法生成的干預(yù)和控制程度，機(jī)器學(xué)習(xí)可以分為有監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、無(wú)監(jiān)督學(xué)習(xí)。無(wú)監(jiān)督學(xué)習(xí)也叫深度學(xué)習(xí)，即無(wú)須人為設(shè)計(jì)特征提取，特征從數(shù)據(jù)中學(xué)習(xí)而來(lái)。從算法技術(shù)的演化趨勢(shì)來(lái)看，以深度學(xué)習(xí)為標(biāo)志的自主性人工智能算法的日漸興起，標(biāo)志著算法自主性達(dá)到了一個(gè)新高度。其帶來(lái)的必然結(jié)果就是人類對(duì)算法技術(shù)的控制減少乃至缺失，算法無(wú)師自通的自主認(rèn)知、決策和行動(dòng)更加普遍。機(jī)器學(xué)習(xí)讓算法從 “輸入”到 “輸出”的中間環(huán)節(jié)逐漸成為人類社會(huì)無(wú)法掌控的 “黑箱”，而無(wú)監(jiān)督的深度學(xué)習(xí)技術(shù)對(duì)應(yīng)的是算法黑箱的高級(jí)形態(tài)。隨著深度學(xué)習(xí)日益成為人工智能算法的未來(lái)主流趨勢(shì)，政府人工智能由弱人工智能向強(qiáng)人工智能的轉(zhuǎn)變下，機(jī)器學(xué)習(xí)越來(lái)越朝著深度化、自動(dòng)化、擬人化的方向發(fā)展，算法驅(qū)動(dòng)的公共管理和決策的自主優(yōu)化和自主決策特性日漸增強(qiáng)，政府算法的認(rèn)知和決策黑箱特征因而越來(lái)越明顯。

如果說(shuō)技術(shù)因素是算法黑箱的先天因素，政府將算法引入到公共場(chǎng)域當(dāng)中的制度方式則是其問(wèn)題的后天變量。從算法技術(shù)導(dǎo)入政府部門的方式來(lái)看，市場(chǎng)化和管理主義的算法治理制度設(shè)計(jì)不僅沒(méi)有有效打開(kāi)算法黑箱，反而降低了算法透明度。

一個(gè)明顯的常識(shí)是，政府并不擅長(zhǎng)算法技術(shù)的發(fā)明和創(chuàng)制，政府采納算法技術(shù)必須求助于企業(yè)和市場(chǎng)機(jī)制。在政府采購(gòu)、政府購(gòu)買服務(wù)、合同外包等市場(chǎng)化制度安排之下，政府使用的人工智能系統(tǒng)更經(jīng)常的是要么在市場(chǎng)上采購(gòu)人工智能系統(tǒng)，要么將人工智能產(chǎn)品和服務(wù)的研發(fā)外包給更為專業(yè)的科技公司。例如，杭州市的智慧城市建設(shè)項(xiàng)目由阿里巴巴提供技術(shù)解決方案，廣東省的“粵省事”移動(dòng)辦公平臺(tái)則由騰訊云幫助搭建。科技企業(yè)引入算法治理中可以彌補(bǔ)政府在算法技術(shù)上的短板，但是政府也部分甚至全部讓渡了對(duì)算法黑箱的控制和改造權(quán)利?？萍计髽I(yè)通過(guò)算法人才控制、算法專利控制等一系列知識(shí)保護(hù)機(jī)制將算法資本化、商業(yè)化和專有化?？萍计髽I(yè)與政府部門簽訂的算法研發(fā)合同勢(shì)必固化和強(qiáng)化其算法的資產(chǎn)專用性，指望以算法為營(yíng)生的科技企業(yè)公開(kāi)其算法無(wú)異于與虎謀皮?？萍脊就ǔ?qiáng)調(diào)算法的產(chǎn)權(quán)，由于其營(yíng)利性和排他性商業(yè)政策，科技公司不愿公開(kāi)算法和數(shù)據(jù)也就不難理解了，公眾被再次排外?？梢?jiàn)，在市場(chǎng)化的算法應(yīng)用制度之下，在政府和公眾之間制造了營(yíng)利性、封閉性的市場(chǎng)主體，使得政府算法移植保持了商業(yè)算法固有的黑箱特征。

政府算法應(yīng)用的管理主義的制度范式則進(jìn)一步固化、維持了算法黑箱。以深度學(xué)習(xí)為代表的人工智能算法盡管具有突破性特征，但其在政府部門中的應(yīng)用依然是嵌入式的。算法進(jìn)入政府科層結(jié)構(gòu)當(dāng)中，成為政府行政決策、行政規(guī)則制定、權(quán)力運(yùn)行的技術(shù)工具，因而算法是否透明不僅取決于算法研發(fā)者、算法本身的可觀察性，還取決于工具使用主體，也即政府的透明度。政府應(yīng)用算法技術(shù)并沒(méi)有促使政府行政流程和運(yùn)行機(jī)制走向開(kāi)放，而是存在技術(shù)行政化、技術(shù)內(nèi)卷化的傾向。政府引入人工智能算法技術(shù)的決策封閉，政府算法研發(fā)設(shè)計(jì)的過(guò)程對(duì)外封閉，政府算法的生成和應(yīng)用的全流程由政府和科技企業(yè)主導(dǎo)，缺乏有效的公眾參與?？梢哉f(shuō)，人工智能算法技術(shù)的廣泛應(yīng)用，并沒(méi)有顯著提升政府管理全過(guò)程的透明性。

以上分析表明，政府算法黑箱式的應(yīng)用是技術(shù)與制度耦合的產(chǎn)物。算法的技術(shù)特質(zhì)使其具有了天然的不易理解性、不易參與性，而政府算法制度的市場(chǎng)化和管理主義特征又進(jìn)一步固化了其封閉性和排斥性特征。當(dāng)公眾缺乏理解算法所需的專業(yè)知識(shí)，當(dāng)公眾缺乏接觸和了解算法過(guò)程的機(jī)會(huì)時(shí)，公眾面臨的顯然是一個(gè)不折不扣的技術(shù)黑箱和治理黑箱。

算法黑箱的理論基因是技治主義和管理主義，其現(xiàn)實(shí)表現(xiàn)是政府算法成為官僚制組織的內(nèi)部行政與控制工具，而未能成為政府包容和吸納公眾參與政府治理的治理平臺(tái)與工具，并由此而產(chǎn)生一系列威脅政府治理有效性的延伸問(wèn)題。一是算法黑箱侵蝕了公眾對(duì)政府算法治理知情權(quán)。當(dāng)算法技術(shù)進(jìn)入政府治理場(chǎng)域的全流程都處于“黑箱”密閉狀態(tài)時(shí)，政府算法治理勢(shì)必形成公共決策黑箱、監(jiān)管黑箱、服務(wù)黑箱等新問(wèn)題，這將嚴(yán)重制約在人工智能時(shí)代下公眾對(duì)政府治理的知情程度。二是算法黑箱阻礙公眾參與政府治理。算法黑箱所構(gòu)筑的技術(shù)壁壘、制度藩籬和信息隔閡都在排斥而不是吸納公眾參與，而公眾自身的參與意識(shí)、算法知識(shí)和素養(yǎng)的缺失又加劇了公眾對(duì)算法的冷漠。低效參與使得公眾在政府算法治理中被動(dòng)地充當(dāng)人工智能公共產(chǎn)品服務(wù)的接受者。三是黑箱算法易侵蝕公眾隱私權(quán)。個(gè)人隱私受到國(guó)家相關(guān)法律法規(guī)的保護(hù)。但是算法的形成都依賴大量的用戶特征、屬性、行為數(shù)據(jù)的輸入和分析，政府算法生成也不例外。在算法市場(chǎng)化制度之下，政府算法研發(fā)過(guò)程中政府不得不將政府掌握的大量公共數(shù)據(jù)使用權(quán)授權(quán)給技術(shù)公司，如果存在數(shù)據(jù)存儲(chǔ)不安全、算法安全漏洞、私人利益等問(wèn)題，個(gè)人信息可能會(huì)存在被泄漏、篡改和挪作他用，給公民隱私、人身、財(cái)產(chǎn)、職業(yè)等造成數(shù)據(jù)安全風(fēng)險(xiǎn)。最后，黑箱算法降低了政府算法治理的整體有效性。尤其是，鑒于政府與技術(shù)公司之間的信息不對(duì)稱性，算法“黑箱”的存在直接導(dǎo)致了公共利益被私人利益俘獲、資本支配公權(quán)力等風(fēng)險(xiǎn)的產(chǎn)生。政府算法技術(shù)在研發(fā)過(guò)程難免會(huì)受到資本裹挾而發(fā)生價(jià)值扭曲，還可能導(dǎo)致算法與資本或權(quán)力相連接，算法成為“損害個(gè)人權(quán)益和社會(huì)福利的工具”。但正是因?yàn)檎惴ê谙涞拇嬖?，算法黑箱一方面成為滋生算法?wèn)題的溫床，另一方面算法黑箱使得公共算法缺乏有效的監(jiān)督機(jī)制，使得問(wèn)題的識(shí)別、暴露和解決變得遲緩，最終損失公共利益，降低算法治理的公信力。

歸納起來(lái)，政府算法黑箱是技術(shù)理性主導(dǎo)下的制度異化產(chǎn)物，雖然它展現(xiàn)了技術(shù)的精準(zhǔn)性、效率性的工具理性價(jià)值，但是卻與政府治理所處公共場(chǎng)域的多元公共價(jià)值訴求格格不入。算法黑箱損失了政府治理應(yīng)有的透明性價(jià)值，還連貫損失了參與性、責(zé)任性、回應(yīng)性的治理價(jià)值標(biāo)準(zhǔn)，進(jìn)而反噬政府算法治理的有效性和合法性。正是因?yàn)樗惴ê谙渌碌乃惴ㄖ卫砝Ь?，使得將透明機(jī)制引入政府算法應(yīng)用當(dāng)中應(yīng)受到格外的重視。

二、破解政府算法黑箱：透明性的嵌入邏輯

透明性是公共治理領(lǐng)域中廣為接受一個(gè)價(jià)值準(zhǔn)則。政治學(xué)家漢娜·阿倫特（Hannal Arendt）在區(qū)別公共領(lǐng)域和私人領(lǐng)域時(shí)指出，公共首先意味著出現(xiàn)于公共場(chǎng)合的東西能夠?yàn)槊總€(gè)人所看見(jiàn)和聽(tīng)見(jiàn)，具有最廣泛的公開(kāi)性。政府作為核心的公共治理主體，其治理主體、方式、過(guò)程和結(jié)果的強(qiáng)公共性使其應(yīng)當(dāng)堅(jiān)持公開(kāi)透明原則。故而，進(jìn)入現(xiàn)代社會(huì)以來(lái)，透明原則日益成為國(guó)內(nèi)外政府治理的基本原則。西方國(guó)家紛紛頒布信息公開(kāi)與自由方面的法律，我國(guó)也于2007年首次通過(guò)《政府信息公開(kāi)條例》，2018年該條例修訂后繼續(xù)實(shí)施，政府公開(kāi)透明日益邁向制度深化時(shí)期。

字面意義上的透明隱喻物體在視線上的通透性，而在學(xué)術(shù)意義的透明意指對(duì)象具備可觀察性，即公眾能從外部了解觀察對(duì)象的結(jié)構(gòu)與運(yùn)行?？梢?jiàn)，政府透明是一個(gè)雙向度的概念，高質(zhì)量的透明政府需要政府和公眾之間有效互動(dòng)，它一方面仰賴政府組織的公開(kāi)性，另一方面需要公眾的積極參與政府公開(kāi)內(nèi)容的學(xué)習(xí)。

透明性之所以能成為現(xiàn)代政府治理的目標(biāo)愿景，根源于透明性的巨大治理作用。從治理理論來(lái)看，透明不僅是一種治理目標(biāo)所系，還是一種實(shí)現(xiàn)其他公共價(jià)值的治理工具。從治理目標(biāo)來(lái)看，國(guó)內(nèi)外治理學(xué)者都認(rèn)為透明性也被視為一個(gè)政府善治與否的重要價(jià)值標(biāo)準(zhǔn)。在公共價(jià)值研究文獻(xiàn)中，已有研究所歸納的公共價(jià)值清單中也包含公開(kāi)性價(jià)值，意指公共行政應(yīng)當(dāng)是透明的。其理論緣由根源于公共場(chǎng)域的公共性和公開(kāi)性的內(nèi)在訴求。為此，政府透明經(jīng)常性被作為政府善治的衡量指標(biāo)，例如，俞可平教授開(kāi)發(fā)的中國(guó)國(guó)家治理評(píng)估指數(shù)中就包含公開(kāi)透明性的指標(biāo)。從治理工具來(lái)看，透明性還是政府實(shí)現(xiàn)其他善治價(jià)值和公共價(jià)值的橋梁，是政府治理邁向系統(tǒng)性善治的催化劑。這是因?yàn)橥该饕馕吨袨楹徒Y(jié)果信息的充分披露，它可以保障公眾對(duì)政府的知情權(quán)。而公眾的知情權(quán)又是公眾實(shí)現(xiàn)參與權(quán)、表達(dá)權(quán)和監(jiān)督權(quán)的一種方式。由此而論，透明政府還是政府實(shí)現(xiàn)責(zé)任性、回應(yīng)性、法治性、合法性等其他治理價(jià)值的有效工具。

在大數(shù)據(jù)和人工智能時(shí)代，政府透明具有了新的公開(kāi)對(duì)象，算法透明成為透明政府建設(shè)的最新途徑。在信息化早期，政府可供公開(kāi)的透明媒介資源還不豐富，由政府加工和生產(chǎn)的政府信息因而被視為公眾觀察政府的唯一媒介，政府信息公開(kāi)成為政府透明的唯一路徑選擇，政府通過(guò)出版物和網(wǎng)站來(lái)披露政府信息，保障公眾對(duì)公共事務(wù)的知情權(quán)。但是以政府信息來(lái)實(shí)現(xiàn)透明政府的效力存在天然缺陷，因?yàn)樗菃蜗蚨鹊男畔鬟f與行政告知，公眾無(wú)從考證和質(zhì)疑信息的真實(shí)性。隨著人類世界和物理世界的數(shù)據(jù)化、信息化程度提高，多源、異構(gòu)、海量的復(fù)雜性大數(shù)據(jù)資源不斷生成。隨著大數(shù)據(jù)技術(shù)嵌入行政過(guò)程，政府積累的數(shù)據(jù)資源越來(lái)越豐富，海量數(shù)據(jù)資源不僅能夠讓政府決策更加客觀和科學(xué)，也提供了讓社會(huì)公眾回溯和觀察政府行政行為與結(jié)果的客觀證據(jù)。為此，學(xué)界提出了從政府信息公開(kāi)到政府?dāng)?shù)據(jù)開(kāi)放的路徑嬗變，以此提高政府透明度的深度和質(zhì)量。從海量數(shù)據(jù)資源提取有價(jià)值的信息并支撐管理決策是大數(shù)據(jù)時(shí)代海量數(shù)據(jù)資源根本使命，而人工智能算法技術(shù)應(yīng)運(yùn)而生成為幫助政府實(shí)現(xiàn)自動(dòng)化、智能化、智慧化的決策、監(jiān)管和服務(wù)利器。在人工智能時(shí)代，政府應(yīng)用人工智能技術(shù)進(jìn)行政府治理時(shí)，對(duì)透明政府和責(zé)任政府的追求在某種程度上已經(jīng)開(kāi)始遷移至對(duì)技術(shù)透明度的理解和對(duì)技術(shù)責(zé)任的承擔(dān)。換言之，在人工智能時(shí)代，隨著政府行政的智能化和算法化，算法系統(tǒng)已經(jīng)成為公眾認(rèn)知政府行政方式與結(jié)果的最精華載體。而從現(xiàn)實(shí)來(lái)看，算法黑箱已然成為人工智能時(shí)代政府透明的羈絆，用透明性的價(jià)值重構(gòu)算法黑箱系統(tǒng)具有必然性。

從理論層面來(lái)看，用透明性價(jià)值破解算法黑箱之后，政府算法治理的價(jià)值和功能系統(tǒng)得以重塑，其積極的治理效果體現(xiàn)在：其一，算法透明促使政府算法治理回歸公共性的本質(zhì)要求。不同于商業(yè)算法應(yīng)用領(lǐng)域的私有性、排他性和秘密性，政府算法廣泛應(yīng)用在公共服務(wù)、社會(huì)治理等公共領(lǐng)域當(dāng)中。透明算法將促使政府算法從私有性、排他性和秘密性走向公有性、包容性和開(kāi)放性。其二，算法透明促進(jìn)公眾參與政府算法治理。為了讓公眾參與算法治理，必須讓公眾接觸和了解算法，這反過(guò)來(lái)又要求政府算法治理保持高度的開(kāi)放性與透明性。算法透明建構(gòu)開(kāi)放性的數(shù)據(jù)—算法—信息生態(tài)體系可以賦予公眾在算法信息和知識(shí)上的能力優(yōu)勢(shì)，為吸納公眾參與算法治理提供了前提條件。其三，算法透明可以促進(jìn)政府算法治理的法治化。算法黑箱容易引發(fā)算法歧視、算法殺熟、算法濫用的技術(shù)風(fēng)險(xiǎn)，容易導(dǎo)致公共利益被私人利益俘獲、資本支配公權(quán)力等治理風(fēng)險(xiǎn)的產(chǎn)生。陽(yáng)光是最好的防腐劑，算法透明可以成為治理算法失靈的利器。這是因?yàn)樗惴ǖ墓_(kāi)透明提供了社會(huì)監(jiān)督介入的可能性，可以讓社會(huì)公眾監(jiān)督政府算法應(yīng)用中的安全、隱私、倫理問(wèn)題和其他風(fēng)險(xiǎn)，防止算法的濫用和誤用。其四，算法透明增進(jìn)公眾對(duì)算法治理的信任感，提高政府算法治理的公信力。算法黑箱的不透明狀態(tài)容易引起公眾對(duì)算法的猜疑，降低對(duì)政府算法決策與執(zhí)行的認(rèn)同感。反之，通過(guò)及時(shí)披露算法治理中的數(shù)據(jù)信息，不僅可以促進(jìn)算法治理的規(guī)范性，也有利于消除社會(huì)公眾對(duì)算法的恐懼與疑惑，提高政府算法治理的社會(huì)認(rèn)同度與公信力。一言以蔽之，之所以將透明價(jià)值融入算法，是因?yàn)樗梢园l(fā)揮治理目標(biāo)引領(lǐng)和治理工具的雙導(dǎo)效應(yīng)。

三、邁向透明化的政府算法治理：形態(tài)與路徑構(gòu)建

通過(guò)前面的討論，不難看出算法透明既能夠提升政府算法自身的公開(kāi)性，讓社會(huì)公眾觀察和監(jiān)督政府算法治理方向、過(guò)程與結(jié)果，還能夠借此讓公眾參與、問(wèn)責(zé)和監(jiān)督政府算法治理體系。因循算法透明邏輯，政府算法治理體系也最終向透明化系統(tǒng)性轉(zhuǎn)軌。那么透明化的政府算法治理的衡量標(biāo)準(zhǔn)是什么，又如何有效實(shí)現(xiàn)這一算法治理目標(biāo)呢？本部分首先按照全過(guò)程透明原則，描述透明化的政府算法治理形態(tài)與標(biāo)準(zhǔn)，然后從政民互動(dòng)的雙向透明性建構(gòu)視角出發(fā)，分別構(gòu)建政府與公眾各自的透明責(zé)任與行動(dòng)義務(wù)。

1.透明化的政府算法治理形態(tài)建構(gòu)：全過(guò)程的算法透明

從過(guò)程視角來(lái)，算法技術(shù)嵌入政府組織必然是一個(gè)持續(xù)動(dòng)態(tài)的治理過(guò)程，算法透明及其透明化的政府算法治理形態(tài)可以按階段分別予以描述：

第一，政府算法治理決策的透明化。算法技術(shù)嵌入政府治理場(chǎng)景是一項(xiàng)涉及公共利益的重大公共決策，算法治理決策的透明化是算法公開(kāi)的首位要素。具體來(lái)說(shuō)，它包括：一是政府算法治理的政策公開(kāi)。人工智能算法技術(shù)嵌入政府治理勢(shì)必會(huì)改變已有的行政流程和服務(wù)樣態(tài)，勢(shì)必會(huì)產(chǎn)生諸多新現(xiàn)象、新事務(wù)和新風(fēng)險(xiǎn)。因而，制定人工智能算法的應(yīng)用規(guī)則是政府算法治理制度化、規(guī)范化的首要任務(wù)。將透明性的價(jià)值嵌入政府算法治理政策與制度設(shè)計(jì)環(huán)節(jié)，需要政府主動(dòng)公開(kāi)關(guān)于算法治理政策制定過(guò)程及其政策文件成果，讓利益相關(guān)主體認(rèn)知算法治理中應(yīng)遵守的權(quán)責(zé)規(guī)范。二是算法技術(shù)的場(chǎng)景引入決策公開(kāi)。算法技術(shù)的應(yīng)用是面向場(chǎng)景和問(wèn)題的，一個(gè)治理場(chǎng)景和問(wèn)題是否要引入人工智能算法是一項(xiàng)關(guān)切社會(huì)利益的重大決策。因此，政府應(yīng)向社會(huì)披露在具體公共事務(wù)場(chǎng)域中引入算法的決策緣由、決策主體、決策過(guò)程、決策依據(jù)、決策結(jié)果等重大決策信息。三是算法技術(shù)委托決策公開(kāi)。政府算法的專業(yè)性使得政府算法設(shè)計(jì)開(kāi)發(fā)必須委托給技術(shù)公司，政府將算法委托給科技企業(yè)的決策過(guò)程應(yīng)予公開(kāi)透明，政府應(yīng)主動(dòng)公開(kāi)人工智能算法技術(shù)與平臺(tái)的采購(gòu)或者招投標(biāo)信息，向社會(huì)披露中標(biāo)企業(yè)技術(shù)公司名稱、資質(zhì)、合同任務(wù)，增加公眾對(duì)所委托的算法技術(shù)公司的了解和監(jiān)督。

第二，政府算法的研發(fā)透明化。算法研發(fā)是政府算法生成全過(guò)程中的核心技術(shù)環(huán)節(jié)，而且算法研發(fā)固有的專業(yè)性、自主性使其最容易成為一個(gè)技術(shù)黑箱，也成為算法透明的難點(diǎn)之處。在透明化的政府算法治理理念之下，必須用透明性原則重塑算法研發(fā)過(guò)程，形成可觀察、可追溯、可監(jiān)督的政府算法研發(fā)。從技術(shù)應(yīng)用過(guò)程來(lái)看，算法研發(fā)一般包括算法設(shè)計(jì)、算料采集和算法訓(xùn)練等技術(shù)過(guò)程，算法研發(fā)透明化也可按算法形成過(guò)程鏈條漸次展開(kāi)。一是，政府算法的設(shè)計(jì)公開(kāi)。算法設(shè)計(jì)是對(duì)算法過(guò)程的規(guī)劃，表現(xiàn)為算法研發(fā)的主體、目的、流程、結(jié)果預(yù)期等，公開(kāi)這些設(shè)計(jì)信息要素有利于社會(huì)公眾了解和監(jiān)督算法研發(fā)主體的算法研發(fā)目的、計(jì)劃和行為。二是，政府算法研發(fā)的算料公開(kāi)。算法是將數(shù)據(jù)進(jìn)行轉(zhuǎn)換形成有價(jià)值的信息、知識(shí)與行動(dòng)工具的程序模型，政府算法研發(fā)也離不開(kāi)海量公眾數(shù)據(jù)的輸入。政府要保障公眾對(duì)自身數(shù)據(jù)被算法如何利用的知情權(quán)，向社會(huì)公開(kāi)具體算法應(yīng)用的數(shù)據(jù)來(lái)源、數(shù)據(jù)類型及其數(shù)據(jù)安全規(guī)范。在保障國(guó)家安全、數(shù)據(jù)安全和公民個(gè)人合法權(quán)益的前提條件下，應(yīng)將政府算法輸入的公共數(shù)據(jù)算料開(kāi)源給社會(huì)大眾，通過(guò)數(shù)據(jù)開(kāi)放、算料開(kāi)源提升政府算料透明度。三是，政府算法訓(xùn)練規(guī)則公開(kāi)。雖然算法訓(xùn)練過(guò)程具有自主性特征，但是選用何種算法訓(xùn)練方法的規(guī)則是需要人類輸入的，算法規(guī)則的選擇會(huì)極大地影響算法結(jié)果的走向。因此，政府應(yīng)指導(dǎo)算法企業(yè)向社會(huì)公開(kāi)算法規(guī)則，有利于公眾知曉和監(jiān)督算法結(jié)果形成機(jī)理，提高社會(huì)公眾對(duì)算法的理解能力?？偠灾岣咚惴ㄑ邪l(fā)的透明度可以讓社會(huì)公眾了解算法設(shè)計(jì)的目的意圖、基本原理和主要運(yùn)行機(jī)制，而公眾的監(jiān)督可以有效地規(guī)避算法研發(fā)企業(yè)的機(jī)會(huì)主義動(dòng)機(jī)與行為，保證算法利益的公共性。

第三，政府算法應(yīng)用的透明化。政府算法應(yīng)用是算法技術(shù)嵌入具體公共領(lǐng)域和公共事務(wù)的實(shí)踐，表現(xiàn)為人工智能公共產(chǎn)品和公共服務(wù)供給和消費(fèi)。在算法應(yīng)用環(huán)節(jié)，政府要保障人工智能產(chǎn)品和服務(wù)的消費(fèi)知情權(quán)，告知算法驅(qū)動(dòng)的產(chǎn)品與服務(wù)的背景、目的、方式和結(jié)果。具體來(lái)說(shuō)，算法應(yīng)用的透明度可以從以下兩個(gè)方面構(gòu)建：一方面要公開(kāi)政府算法場(chǎng)景應(yīng)用的服務(wù)主體信息。算法技術(shù)嵌入稅收、警務(wù)、交通、健康、教育等領(lǐng)域中表現(xiàn)為一個(gè)個(gè)在地化的場(chǎng)景，算法應(yīng)用場(chǎng)景包括行政主體、服務(wù)對(duì)象、人工智能算法技術(shù)設(shè)備、事務(wù)、流程等要素。這些人工智能服務(wù)的主體、設(shè)備、流程、規(guī)則、技術(shù)標(biāo)準(zhǔn)應(yīng)充分公開(kāi)，讓社會(huì)公眾充分知情算法應(yīng)用的規(guī)范，讓社會(huì)公眾知道誰(shuí)在為他們服務(wù)、如何服務(wù)，并了解算法可能對(duì)自己的生活產(chǎn)生的影響。另一方面，政府算法應(yīng)用的結(jié)果公開(kāi)。人工智能算法所做出的行政決策和服務(wù)結(jié)果應(yīng)當(dāng)向算法行政相對(duì)人公開(kāi)，保障其知情權(quán)。同時(shí)，算法應(yīng)用結(jié)果還應(yīng)向社會(huì)公眾以脫敏和匯總方式公開(kāi)，告知社會(huì)大眾算法技術(shù)應(yīng)用整體成果與發(fā)展態(tài)勢(shì)。

第四，政府算法監(jiān)督的透明化。規(guī)范化、法治化的政府算法治理離不開(kāi)嚴(yán)密的監(jiān)督體系，政府應(yīng)構(gòu)建針對(duì)人工智能算法的安全與風(fēng)險(xiǎn)評(píng)估、算法設(shè)計(jì)、產(chǎn)品開(kāi)發(fā)和成果應(yīng)用等全流程予以監(jiān)管，并將算法監(jiān)督過(guò)程和結(jié)果公開(kāi)透明。其一，公開(kāi)算法監(jiān)督渠道。政府要提供公眾反饋算法問(wèn)題、算法風(fēng)險(xiǎn)的線上線下渠道。保持算法系統(tǒng)的可訪問(wèn)性和開(kāi)放性，便于外部審計(jì)代理或機(jī)構(gòu)可以訪問(wèn)算法來(lái)評(píng)估算法研發(fā)者、算法設(shè)計(jì)者的道德倫理以及對(duì)法規(guī)的遵守。其二，算法影響評(píng)估結(jié)果公開(kāi)。算法影響評(píng)估是算法導(dǎo)入政府治理場(chǎng)景的一項(xiàng)事前評(píng)估制度，它由專業(yè)評(píng)估結(jié)構(gòu)對(duì)算法技術(shù)的潛在風(fēng)險(xiǎn)點(diǎn)、風(fēng)險(xiǎn)后果、風(fēng)險(xiǎn)預(yù)警、風(fēng)險(xiǎn)治理做出的專業(yè)評(píng)估和建議，是算法應(yīng)用的事前監(jiān)督機(jī)制。通過(guò)引入算法風(fēng)險(xiǎn)評(píng)估制度并公開(kāi)算法風(fēng)險(xiǎn)評(píng)估結(jié)果，可以告知社會(huì)公眾算法的潛在后果，并吸引社會(huì)公眾監(jiān)督算法風(fēng)險(xiǎn)。其三，算法績(jī)效評(píng)估結(jié)果公開(kāi)。算法技術(shù)在具體行政領(lǐng)域的應(yīng)用效果如何，是否遵循相應(yīng)規(guī)則，是否實(shí)現(xiàn)了預(yù)期的治理目標(biāo)，是否展現(xiàn)了相應(yīng)的公共價(jià)值，為了回答這些問(wèn)題應(yīng)該對(duì)算法技術(shù)的應(yīng)用績(jī)效進(jìn)行系統(tǒng)評(píng)價(jià)，并將算法績(jī)效評(píng)估結(jié)果向社會(huì)公布，讓社會(huì)監(jiān)督政府算法治理的效能。

2.實(shí)現(xiàn)透明化算法治理的政府責(zé)任與路徑：算法公開(kāi)

算法黑箱的關(guān)鍵問(wèn)題就在于公眾無(wú)法觀察和理解算法，破解算法黑箱首先要求的就是打開(kāi)算法黑箱、推進(jìn)算法透明。而政府作為算法治理的主體，是算法技術(shù)的引入、應(yīng)用、管理和監(jiān)督的主體，其承擔(dān)算法治理的主體責(zé)任，并掌握算法治理的全面信息。因此，政府應(yīng)以算法公開(kāi)為透明化算法治理的責(zé)任定位。

政府應(yīng)構(gòu)建有效的算法公開(kāi)機(jī)制，以改善公眾對(duì)算法信息獲取、認(rèn)知與學(xué)習(xí)體驗(yàn)，完善公眾需求導(dǎo)向的政府算法信息提供機(jī)制，構(gòu)建算法要素全面公開(kāi)體系。具體來(lái)說(shuō)：

第一，實(shí)施算法全要素公開(kāi)制度。從形式上來(lái)講，算法是輸入和輸出系統(tǒng)，全面的算法透明需要政府將算法要素安全地、系統(tǒng)地、制度化地向公眾開(kāi)放。一是構(gòu)建算法制度公開(kāi)機(jī)制。算法制度是政府引入人工智能算法的規(guī)則，包括制定的相關(guān)政策、法律法規(guī)、倫理道德規(guī)范、算法行業(yè)技術(shù)標(biāo)準(zhǔn)。算法制度規(guī)定了算法設(shè)計(jì)者、算法使用者等相關(guān)利益主體的權(quán)力和應(yīng)該履行的法律義務(wù)，對(duì)算法法律責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護(hù)、信息安全利用等有重要作用。算法制度公開(kāi)可以賦予算法用戶對(duì)算法設(shè)計(jì)者、決策者提出合理性質(zhì)疑權(quán)利。二是構(gòu)建算料開(kāi)源機(jī)制，也即是數(shù)據(jù)開(kāi)放。算料開(kāi)源是指在保障國(guó)家安全、數(shù)據(jù)安全和公民個(gè)人合法權(quán)益的條件下，算料收集的數(shù)據(jù)來(lái)源主體、數(shù)據(jù)類型、數(shù)據(jù)庫(kù)安全技術(shù)、用前脫敏技術(shù)等要通過(guò)數(shù)據(jù)開(kāi)放平臺(tái)向社會(huì)公眾公開(kāi)，以便公眾知道數(shù)據(jù)來(lái)源、數(shù)據(jù)運(yùn)用以及數(shù)據(jù)安全保障情況。三是構(gòu)建算法規(guī)則公開(kāi)機(jī)制。算法規(guī)則是算法處理數(shù)據(jù)和樣本的策略與方法，表現(xiàn)為句法、表征、符號(hào)等計(jì)算機(jī)技術(shù)語(yǔ)言構(gòu)成的算法代碼。根據(jù)算法的功能可以將算法分為分類算法、排序算法，等等，采用何種方法來(lái)排序決定最終的算法結(jié)果。針對(duì)每一項(xiàng)智能化的公共決策和服務(wù)產(chǎn)品，政府都應(yīng)當(dāng)公開(kāi)其算法規(guī)則及其背后的算法方法，讓社會(huì)公眾知曉算法的運(yùn)行邏輯及其結(jié)果。

第二，構(gòu)建多渠道的算法公開(kāi)途徑。多維算法要素以什么方式向社會(huì)公眾交付是決定算法公開(kāi)有效性的關(guān)鍵變量。針對(duì)算法系統(tǒng)的多樣性要素，采用不同的信息技術(shù)實(shí)現(xiàn)算法要素的無(wú)縫傳遞。一是，利用政府網(wǎng)站和新媒體及時(shí)公開(kāi)算法應(yīng)用的政策、運(yùn)行和效果信息。在信息化時(shí)代，算法類信息公開(kāi)渠道不僅包括傳統(tǒng)政府信息門戶網(wǎng)站，還包括政務(wù)微博、政務(wù)微信、抖音號(hào)等新型信息傳播方式，這些渠道都成為讓社會(huì)公眾接觸算法制度、產(chǎn)品和服務(wù)信息的便捷渠道;二是，構(gòu)建算法開(kāi)源平臺(tái)。集聚政府算法生成和應(yīng)用中的數(shù)據(jù)資源、算法資源等算料要素，構(gòu)建在線、持續(xù)供給的數(shù)據(jù)開(kāi)放與算法代碼公開(kāi)，在提升算法透明度的同時(shí)，也有利于吸收社會(huì)公眾的力量參與算法反饋并反哺算法本身的迭代升級(jí)。三是，構(gòu)建公眾參與政府算法治理的機(jī)制。政府要利用線上、線下渠道，通過(guò)聽(tīng)證會(huì)、公眾調(diào)查、專家咨詢等多渠道吸納社會(huì)公眾參與算法制度設(shè)計(jì)、算法設(shè)計(jì)、算法評(píng)估和算法優(yōu)化等算法流程，讓公眾在算法參與中實(shí)現(xiàn)知情知曉，提高公眾算法參與和知情的實(shí)效性。

第三，構(gòu)建政府算法解釋機(jī)制。算法的專業(yè)性提高了社會(huì)公眾理解算法的障礙，而算法解釋有助于公眾理解算法技術(shù)是什么以及它是如何形成的。算法解釋可認(rèn)為是以一種可接受、可被普遍理解的形式對(duì)特定結(jié)論的決策過(guò)程出具算法解釋報(bào)告，切實(shí)解決決策相關(guān)者對(duì)于最終結(jié)果的疑惑。如今，算法解釋正在成為算法應(yīng)用的一項(xiàng)基本倫理準(zhǔn)則。美國(guó)計(jì)算機(jī)協(xié)會(huì)在2017年發(fā)布《關(guān)于算法透明性和可問(wèn)責(zé)性的聲明》的七條原則中第四條是算法解釋原則，鼓勵(lì)使用算法決策的組織和機(jī)構(gòu)對(duì)算法所遵循的程序和所做出的具體決策提供解釋。對(duì)于政府算法而言，算法解釋是解決社會(huì)公眾與算法規(guī)則之間技術(shù)鴻溝的橋梁，是實(shí)現(xiàn)政府治理主體與社會(huì)公眾之間有效溝通的工具，因而，算法解釋是用一種可被理解的方式來(lái)提高算法的透明度的救濟(jì)機(jī)制。在算法解釋機(jī)制的構(gòu)建過(guò)程中，政府要遵循真實(shí)性、可接受性的算法解釋原則，利用算法宣傳、科普、培訓(xùn)等多重宣貫手段，努力消除公眾算法理解中的疑惑，說(shuō)明算法規(guī)則背后的理由，取得公眾對(duì)算法的理解和信任。

3.實(shí)現(xiàn)透明化算法治理的公眾責(zé)任與路徑：算法參與

按照政民互動(dòng)的透明度生成邏輯，創(chuàng)造透明政府需要公眾貢獻(xiàn)時(shí)間、精力與能力并承擔(dān)責(zé)任。這是因?yàn)橥该髡谋举|(zhì)是公眾知情，缺乏公眾參與就不會(huì)形成對(duì)政府運(yùn)行的實(shí)質(zhì)理解。同樣，對(duì)政府算法而言，如果算法應(yīng)用缺乏公眾參與，那仍然是單向度的政府算法公開(kāi)，無(wú)法實(shí)現(xiàn)公眾對(duì)算法嵌入公共事務(wù)的實(shí)質(zhì)知情。相反，公眾參與算法全流程中，不僅可以讓公眾表達(dá)對(duì)算法的需求信息以實(shí)現(xiàn)回應(yīng)性和民主性的算法設(shè)計(jì)和應(yīng)用，公眾還能在參與過(guò)程中直接觀察、見(jiàn)證算法的運(yùn)行流程，通過(guò)算法要素生成、學(xué)習(xí)形成對(duì)政府算法的實(shí)質(zhì)理解?？梢?jiàn)，公眾算法參與是實(shí)現(xiàn)透明化算法治理的必要條件和有效機(jī)制。

通過(guò)公眾參與算法，創(chuàng)造公眾接觸并了解算法，排除公眾對(duì)算法的恐懼，同時(shí)也為公眾提供了算法教育和培訓(xùn)的機(jī)會(huì)，提高公眾算法素養(yǎng)，減少公眾的算法不對(duì)稱，從而提高算法的透明度。為了提高公眾算法知情效果，提高公眾參與政府算法治理效能，公眾的算法參與責(zé)任機(jī)制包括：

第一，提高公眾算法素養(yǎng)，增進(jìn)算法知情和參與能力。透明性原則的核心是通過(guò)公眾的知曉和理解來(lái)防止決策的失誤和不公正，看懂和理解則是公眾監(jiān)督的前提。而對(duì)算法的理解離不開(kāi)算法素養(yǎng)。算法素養(yǎng)是公眾所具備的認(rèn)識(shí)、評(píng)價(jià)、運(yùn)用算法的態(tài)度、知識(shí)和能力。研究指出，算法素養(yǎng)包括三個(gè)層次：一是態(tài)度層面，指對(duì)算法的設(shè)計(jì)和運(yùn)行原理有一定的認(rèn)識(shí)，對(duì)算法本身及其結(jié)論的得出持批判態(tài)度;二是能力層面，掌握常見(jiàn)算法的設(shè)計(jì)能力，對(duì)試驗(yàn)數(shù)據(jù)、算法設(shè)計(jì)、結(jié)果輸出有一定的辨別、判斷和解釋能力;三是規(guī)范層面，算法應(yīng)用合理、合法，遵循專業(yè)規(guī)范和社會(huì)規(guī)范。隨著大數(shù)據(jù)和人工智能時(shí)代的到來(lái)，算法素養(yǎng)是未來(lái)公民的基本素質(zhì)，也是公民參與政府算法治理的能力基礎(chǔ)。為了有效提升公眾對(duì)政府算法治理的知情度，公眾可通過(guò)培育算法態(tài)度、學(xué)習(xí)算法知識(shí)、掌握算法技能三個(gè)層面來(lái)提高公眾的算法素養(yǎng)，彌合算法鴻溝。在提升公眾算法態(tài)度層面，公眾應(yīng)當(dāng)培育對(duì)人工智能算法的價(jià)值感知和偏好，消除算法偏見(jiàn)和恐懼，培育對(duì)算法的理性認(rèn)同度。在提升公眾算法理解能力層面，公眾要想理解算法，就必須具備相應(yīng)的知識(shí)體系和認(rèn)知能力。因此，公眾必須學(xué)習(xí)和掌握相應(yīng)的算法基本知識(shí)，對(duì)算法的基礎(chǔ)知識(shí)、數(shù)據(jù)結(jié)構(gòu)、經(jīng)典算法等知識(shí)進(jìn)行學(xué)習(xí)，為能識(shí)別、理解算法提供知識(shí)基礎(chǔ)。在算法應(yīng)用能力方面，具有一定算法專業(yè)技術(shù)的社會(huì)大眾應(yīng)優(yōu)先培育其對(duì)政府算法設(shè)計(jì)、檢測(cè)的能力，進(jìn)而用專業(yè)知識(shí)來(lái)檢驗(yàn)、重測(cè)和輔助優(yōu)化政府算法?？梢哉f(shuō)，提升公眾算法素養(yǎng)是公眾認(rèn)知政府算法、參與政府算法、監(jiān)督政府參與的信息資本、知識(shí)資本，至關(guān)重要。

第二，積極參與政府算法的學(xué)習(xí)和體驗(yàn)，生成算法透明度。從知情的角度定義的政府算法透明度，它離不開(kāi)社會(huì)公眾對(duì)算法制度、數(shù)據(jù)算料、算法規(guī)則、算法結(jié)果等方方面面算法要素的學(xué)習(xí)。可以說(shuō)，只有通過(guò)積極參與政府算法學(xué)習(xí)，才會(huì)增加公眾對(duì)算法的知情程度。為此，一方面，社會(huì)公眾要積極參與體驗(yàn)政府供給的人工智能公共產(chǎn)品和公共服務(wù)，獲取和學(xué)習(xí)蘊(yùn)含其中的相關(guān)算法信息，通過(guò)算法體驗(yàn)來(lái)學(xué)習(xí)、判斷、反饋政府算法的有效性。另一方面，社會(huì)公眾要主動(dòng)獲取政府公開(kāi)的各類算法信息，通過(guò)算法制度、產(chǎn)品、服務(wù)等要素的搜尋、整理、學(xué)習(xí)和利用才能轉(zhuǎn)化為自身對(duì)政府算法治理全過(guò)程的實(shí)質(zhì)性知情。

第三，積極參與政府算法治理的決策、執(zhí)行和監(jiān)督的全過(guò)程環(huán)節(jié)，實(shí)現(xiàn)對(duì)政府算法治理的全過(guò)程知情和反饋優(yōu)化。公眾參與提升政府透明度的機(jī)理在于，公眾參與政府治理的決策、執(zhí)行和監(jiān)督意味著公眾能夠直接參與政府信息的生成，見(jiàn)證政府治理決策、執(zhí)行和監(jiān)督的事實(shí)，提高了政府透明度的親身性。為此，在算法治理當(dāng)中，政府應(yīng)廣泛吸納民眾積極參與到政府算法治理的決策、研發(fā)、應(yīng)用和監(jiān)督全過(guò)程。在政府算法治理決策環(huán)節(jié)，因?yàn)樗惴ㄒ氲秸卫韴?chǎng)域涉及公共利益的重大調(diào)整，政府可以引入算法聽(tīng)證、公眾意見(jiàn)征集等方式吸納公眾參與政府算法治理技術(shù)嵌入決策、算法治理制度設(shè)計(jì)決策，提高政府算法治理決策的開(kāi)放性和公開(kāi)性。在政府算法的研發(fā)階段，政府算料生成和采集、算法設(shè)計(jì)等研發(fā)環(huán)節(jié)可以引入公眾數(shù)據(jù)眾籌、算料公示、多元專家參與算法選擇等參與方式，促進(jìn)算法設(shè)計(jì)、算料采集、算法規(guī)訓(xùn)的每個(gè)步驟符合公共價(jià)值要求，保障公眾的公共權(quán)益。在政府算法治理應(yīng)用階段，政府應(yīng)保證算法產(chǎn)品與服務(wù)使用者的知情權(quán)，在公民使用人工智能產(chǎn)品與服務(wù)的事前、事中、事后全過(guò)程及時(shí)向公眾披露服務(wù)主體、方式與后果信息，提高政府算法治理應(yīng)用透明度。在政府算法治理監(jiān)督方面，政府可以在算法風(fēng)險(xiǎn)評(píng)估、算法績(jī)效評(píng)估等環(huán)節(jié)廣泛引入公眾調(diào)查工具。例如，政府通過(guò)對(duì)一定規(guī)模的公眾進(jìn)行問(wèn)卷調(diào)查或訪談，向公眾收集人工智能產(chǎn)品和服務(wù)的風(fēng)險(xiǎn)感知信息、質(zhì)量評(píng)價(jià)信息，獲取公眾對(duì)算法應(yīng)用的感知度、體驗(yàn)度、滿意度，幫助政府算法的優(yōu)化?？偠灾?dāng)政府打開(kāi)算法公開(kāi)、算法開(kāi)放和算法參與的渠道之后，社會(huì)公眾應(yīng)當(dāng)積極履行參與責(zé)任，幫助政府的算法應(yīng)用產(chǎn)品和服務(wù)的持續(xù)改進(jìn)。

四、結(jié)語(yǔ)

在人工智能技術(shù)快速蔓延至政府治理場(chǎng)景的背景下，依算法而治理的算法治理模式正成為政府治理創(chuàng)新的前沿。算法黑箱問(wèn)題由來(lái)已久，并且由于其問(wèn)題的根本性和復(fù)雜性，其問(wèn)題表征還將持續(xù)下去。毋庸置疑的是，人工智能算法技術(shù)嵌入公共場(chǎng)域應(yīng)進(jìn)行公共性的重構(gòu)，實(shí)現(xiàn)價(jià)值理性與技術(shù)理性的平衡，而對(duì)政府算法進(jìn)行公共性和透明性的重構(gòu)是其必然選擇。本文從學(xué)理層面論證了從算法黑箱到算法透明轉(zhuǎn)軌的理論邏輯，并嘗試設(shè)計(jì)了一個(gè)透明化政府算法治理的樣態(tài)和實(shí)現(xiàn)路徑。顯然，這對(duì)于解決公共場(chǎng)域的算法黑箱問(wèn)題還是不足的，未來(lái)研究還需要更多理論和經(jīng)驗(yàn)研究對(duì)政府算法問(wèn)題的因果機(jī)制展開(kāi)深入探究，而本文權(quán)做拋磚引玉。

參考文獻(xiàn)：

[1]SEDGEWICK R，WAYNE K.算法：第四版[M].謝路云，譯.北京：人民郵電出版社，2012：1.

[2]本清松，彭小兵.人工智能應(yīng)用嵌入政府治理：實(shí)踐、機(jī)制與風(fēng)險(xiǎn)架構(gòu)：以杭州城市大腦為例[J].甘肅行政學(xué)院學(xué)報(bào)，2020（3）：29-42+125.

[3]孟慶國(guó)，鞠京芮.人工智能支撐的平臺(tái)型政府：技術(shù)框架與實(shí)踐路徑[J].電子政務(wù)，2021（9）：37-46.

[4]孫慶春，賈煥銀.算法治理與治理算法[J].重慶大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2019：1-10.

[5]丁曉東.論算法的法律規(guī)制[J].中國(guó)社會(huì)科學(xué)，2020（12）：138-159+203.

[6]PASQUALE F.The Black Box Society：the Secret Algorithms That Control Money and Information[M].Cambridge，MA：Harvard University Press，2015：1-8.

[7]BURRELL J.How the Machine “Thinks”：understanding Opacity in Machine Learning Algorithms[J].Big data & society，2015，3（1）：1-12.

[8]宋鍇業(yè).“算法”與國(guó)家治理創(chuàng)新：數(shù)據(jù)、算法與權(quán)力的知識(shí)生產(chǎn)與邏輯呈現(xiàn)[J].科學(xué)學(xué)研究，2021：1-13.

[9]張愛(ài)軍.“算法利維坦”的風(fēng)險(xiǎn)及其規(guī)制[J].探索與爭(zhēng)鳴，2021（1）：95-102+179.

[10]魏遠(yuǎn)山.算法透明的迷失與回歸：功能定位與實(shí)現(xiàn)路徑[J].北方法學(xué)，2021，15（1）：151-160.

[11]沈偉偉.算法透明原則的迷思：算法規(guī)制理論的批判[J].環(huán)球法律評(píng)論，2019，41（6）：20-39.

[12]徐鳳.人工智能算法黑箱的法律規(guī)制：以智能投顧為例展開(kāi)[J].東方法學(xué)，2019（6）：78-86.

[13]吳椒軍，郭婉兒.人工智能時(shí)代算法黑箱的法治化治理[J].科技與法律（中英文），2021（1）：19-28.

[14]姜野，李擁軍.破解算法黑箱：算法解釋權(quán)的功能證成與適用路徑：以社會(huì)信用體系建設(shè)為場(chǎng)景[J].福建師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2019（4）：84-92.

[15]布萊恩·阿瑟.技術(shù)的本質(zhì)[M].曹東溟，王健，譯.杭州：浙江人民出版社，2014.

[16]栗崢.人工智能與事實(shí)認(rèn)定[J].法學(xué)研究，2020，42（1）：117-133.

[17]馬世龍，烏尼日其其格，李小平.大數(shù)據(jù)與深度學(xué)習(xí)綜述[J].智能系統(tǒng)學(xué)報(bào)，2016，11（6）：728-742.

[18]KNIGHT W.The Dark Secret at the Heart of AI[J].Technology Review，2017，120（3）：1-22.

[19]MAGER A.Algorithmic Ideology：how Capitalist Society Shapes Search Engines[J].Information，Communication&Society，2012，5（15）.

[20]張淑玲.破解黑箱：智媒時(shí)代的算法權(quán)力規(guī)制與透明實(shí)現(xiàn)機(jī)制[J].中國(guó)出版，2018（7）：49-53.

[21]陳鵬.智能治理時(shí)代的政府：風(fēng)險(xiǎn)防范和能力提升[J].寧夏社會(huì)科學(xué)，2019（1）：74-78.

[22]張會(huì)平.算法嵌入政府科層制的路徑、影響與風(fēng)險(xiǎn)應(yīng)對(duì)[J].廣西師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2021，57（3）：52-63.

[23]譚九生，范曉韻.算法“黑箱”的成因、風(fēng)險(xiǎn)及其治理[J].湖南科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2020，23（6）：92-99.

[24]肖唐鏢.中國(guó)技術(shù)型治理的形成及其風(fēng)險(xiǎn)[J].學(xué)海，2020（2）：76-82.

[25]杜小奇.多元協(xié)作框架下算法的規(guī)制[J].河北法學(xué)，2019，37（12）：176-190.

[26]漢娜·阿倫特.公共領(lǐng)域和私人領(lǐng)域[M]//汪暉，陳燕谷.文化與公共性.北京：生活·讀書(shū)·新知三聯(lián)書(shū)店，1998：81.

[27]BERNSTEIN E S.The Transparency Paradox：a Role for Privacy Inorganizational Learning and Operational Control[J].Administrative Science Quarterly，2012，57：181-216.

[28]BALL C.What Is Transparency？[J].Public Integrity，2009，11（4）.

[29]俞可平.治理與善治[M].北京：社會(huì)科學(xué)文獻(xiàn)出版社，2000：3-10.

[30]JORGENSEN T B，BOZEMAN B.Public Values：an Inventory[J].Administration & Society，2007，39（3）：354-381.

[31]張紅春.政府績(jī)效生成的復(fù)雜性與績(jī)效評(píng)估因應(yīng)[J].求實(shí)，2021（6）：25-40.

[32]胡小明.從政府信息公開(kāi)到政府?dāng)?shù)據(jù)開(kāi)放[J].電子政務(wù)，2015（1）：67-72.

[33]王張華，顏佳華.人工智能驅(qū)動(dòng)政府治理變革：技術(shù)邏輯、價(jià)值準(zhǔn)則和目標(biāo)指向[J].天津行政學(xué)院學(xué)報(bào)，2020，22（6）：3-11.

[34]GARFINKEL S，MATTHEWS J，SHAPIRO S S，et al.Toward Algorithmic Transparency and Accountability[J].Communications of the ACM，2017，60（9）：5-5.

[35]鄭智航.人工智能算法的倫理危機(jī)與法律規(guī)制[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2021，39（1）：14-26.

[36]張超.新聞生產(chǎn)中的算法風(fēng)險(xiǎn)：成因、類型與對(duì)策[J].中國(guó)出版，2018（13）：38-42.

（責(zé)任編輯：楊 洋）

From Algorithm Black Box to Algorithm Transparency： the Transition?Logic and Path of Algorithm Governance by the Government

ZHANG Hongchun，ZHANG Zhilian

（School of Public Administration，Guizhou University，Guiyang，Guizhou，China，550025）

Abstract：In the era of big data and artificial intelligence，the algorithm-based government governance model is rising.It makes government governance increasingly automated，intelligent and precise，but it also brings major theoretical and practical problems.The source of algorithm black box as well as its solution is of significant as theoretical and practical problems of government governance.This study found that the low transparency of government algorithms is the result of the characteristics of algorithm technology itself combining with the institutional way the government uses algorithm technology，which is the opposite of the essence of the requirements of publicity，openness and effectiveness，and therefore，the transition to algorithm is necessary.The direction of its transition is to build a fully transparent government algorithm governance system，which is composed of algorithm decision-making，research and development，application，and supervision.Its realization path relies on the two-way construction of transparency responsibility and action obligation by the government and the public respectively.

Key words：algorithmic governance; algorithmic transparency; algorithmic disclosure; algorithmic participation; transparent government; artificial intelligence; big data