陳 鵬

(安徽師范大學(xué) 法學(xué)院,安徽 蕪湖241002； 華東政法大學(xué) 政治學(xué)與公共管理學(xué)院,上海201620)

國(guó)家是人類社會(huì)發(fā)展到一定歷史階段的產(chǎn)物,實(shí)現(xiàn)國(guó)家和社會(huì)的有序治理是政治權(quán)力配置和運(yùn)行的基本目標(biāo)。長(zhǎng)期以來(lái),政府一直居于國(guó)家治理體系的中心地位。伴隨移動(dòng)互聯(lián)技術(shù)的快速發(fā)展、大數(shù)據(jù)的興起和人工智能技術(shù)的日漸成熟,人類的交往方式和生存形式發(fā)生著劇烈變革,我們正步入算法時(shí)代[1]214。算法時(shí)代的到來(lái),使得深度學(xué)習(xí)算法在國(guó)家治理和社會(huì)治理中的應(yīng)用場(chǎng)景不斷拓展,正在對(duì)延續(xù)千年之久的由政府權(quán)力主導(dǎo)的國(guó)家治理格局產(chǎn)生重大影響,一種與政府權(quán)力并行的權(quán)力形式——算法權(quán)力正迅速崛起。算法的應(yīng)用在很大程度上推動(dòng)著國(guó)家治理體系的漸趨完善和治理能力的不斷提升,但也給政府在國(guó)家治理體系中的中心地位帶來(lái)強(qiáng)烈的沖擊,擁有算法和數(shù)據(jù)優(yōu)勢(shì)的巨型企業(yè)有成為“超級(jí)政府”的可能[2]。如何利用好權(quán)力的算法來(lái)規(guī)制算法的權(quán)力,已經(jīng)成為算法時(shí)代國(guó)家治理必須要面對(duì)的現(xiàn)實(shí)問(wèn)題。

1 算法權(quán)力：一種新型的權(quán)力形態(tài)

有關(guān)權(quán)力問(wèn)題的探究,通常會(huì)與政治聯(lián)系起來(lái),政治權(quán)力、國(guó)家權(quán)力、政府權(quán)力等都屬于權(quán)力的范疇。伴隨經(jīng)濟(jì)全球化浪潮的不斷演進(jìn),資本權(quán)力作為一種新的權(quán)力形式開始在全球空間范圍內(nèi)不斷地進(jìn)行資源和要素的配置,完成了對(duì)全球空間的生產(chǎn)和再生產(chǎn),民族國(guó)家的主權(quán)受到資本很大的沖擊,全球治理秩序發(fā)生著深刻變革。在資本權(quán)力與民族國(guó)家主權(quán)的博弈過(guò)程中,資本權(quán)力雖日漸強(qiáng)盛,但仍面臨民族國(guó)家法律和現(xiàn)有以聯(lián)合國(guó)為中心的國(guó)際組織和國(guó)際法等構(gòu)成的國(guó)際治理秩序的規(guī)制,尚不能構(gòu)成對(duì)民族國(guó)家主權(quán)的顛覆性沖擊。但是,伴隨深度學(xué)習(xí)算法的突破、大數(shù)據(jù)時(shí)代的來(lái)臨和計(jì)算機(jī)算力的飛躍,人類社會(huì)逐漸步入到以數(shù)據(jù)和算法為兩大基石的人工智能時(shí)代。人工智能簡(jiǎn)稱AI,是英文Artificial Intelligence 的縮寫,具有類似于人類的獨(dú)立思考與深度學(xué)習(xí)的能力是人工智能與其他科技最大的差異[3]。當(dāng)前,作為人工智能兩大基石之一的算法正日漸成為新的權(quán)力形式,算法的權(quán)力推動(dòng)著傳統(tǒng)政府治理模式發(fā)生著積極的變革,政府權(quán)力與資本權(quán)力博弈的格局也開始出現(xiàn)微妙的變化。

算法是一個(gè)計(jì)算機(jī)學(xué)科領(lǐng)域的概念,用來(lái)指代人類設(shè)計(jì)出的用于完成某項(xiàng)特定任務(wù)的計(jì)算機(jī)指令,是“一種有限、確定、有效并適合用計(jì)算機(jī)程序來(lái)實(shí)現(xiàn)的解決問(wèn)題的方法,是計(jì)算機(jī)科學(xué)的基礎(chǔ)”[4]6。在人工智能時(shí)代,數(shù)據(jù)成為重要的蘊(yùn)藏著巨大價(jià)值的戰(zhàn)略資源,算法決定了人工智能技術(shù)平臺(tái)應(yīng)用的深度和功效,政府權(quán)力的運(yùn)行已經(jīng)在很大程度上依賴于算法的研發(fā)和運(yùn)用,部分掌握了人工智能核心算法和海量數(shù)據(jù)的資本開始擁有了相對(duì)于政府的明顯的技術(shù)優(yōu)勢(shì),算法權(quán)力開始逐漸成型并在國(guó)家治理中發(fā)揮著愈發(fā)重要的功效。算法權(quán)力是一種人工智能技術(shù)平臺(tái)的控制者,憑借自身?yè)碛械乃惴夹g(shù)優(yōu)勢(shì)而在人工智能應(yīng)用過(guò)程中產(chǎn)生的對(duì)政府、社會(huì)組織和公民個(gè)人等對(duì)象的技術(shù)權(quán)力。通過(guò)此項(xiàng)權(quán)力,算法權(quán)力的擁有者可以以較為隱蔽的技術(shù)手段來(lái)比較輕易地實(shí)現(xiàn)其想要達(dá)到的目標(biāo)。算法權(quán)力在實(shí)際應(yīng)用過(guò)程中的具體表象是政府、社會(huì)組織和公民個(gè)人在決策和行為等方面對(duì)算法的深度依賴。目前,算法權(quán)力作為一種新型的權(quán)力形式,尚未完全被學(xué)界接納,但這不妨礙我們對(duì)其內(nèi)涵和特征進(jìn)行探討。

第一,算法權(quán)力是一種技術(shù)權(quán)力。權(quán)力與權(quán)利是相對(duì)應(yīng)的,面對(duì)行政國(guó)家的興起,如何規(guī)制政府日益擴(kuò)張的權(quán)力,保障公民的權(quán)利成為國(guó)家治理的重要任務(wù)。政府權(quán)力之所以具有強(qiáng)制性,除了具備一定程度的合法性外,警察、法院、軍隊(duì)等對(duì)不服從政府權(quán)力的群體和個(gè)人構(gòu)成了強(qiáng)大的威懾力。算法權(quán)力與政府權(quán)力不同,它本身不一定具備法律、法規(guī)等法律規(guī)范賦予的合法性,也缺乏警察、法院、軍隊(duì)等暴力機(jī)關(guān)作為后盾,不具備政府權(quán)力擁有的天然強(qiáng)制性。從權(quán)力屬性來(lái)說(shuō),算法權(quán)力作為權(quán)力的新形態(tài),是一種技術(shù)權(quán)力,這種權(quán)力雖不具備天然的強(qiáng)制性,但是隨著政府、社會(huì)組織、企業(yè)和公民個(gè)體等對(duì)其應(yīng)用的依賴程度不斷加深,算法逐漸擁有了對(duì)政府、社會(huì)組織、企業(yè)和公民個(gè)體等對(duì)象的某種技術(shù)上的強(qiáng)制力,算法權(quán)力的擁有者可以憑借這種技術(shù)權(quán)力來(lái)完成對(duì)特定對(duì)象的控制。同時(shí),隨著人工智能技術(shù)應(yīng)用領(lǐng)域的拓展和深化,算法擁有的這種技術(shù)上的強(qiáng)制力不但不會(huì)減弱,反而會(huì)不斷增強(qiáng),并且會(huì)呈現(xiàn)出權(quán)力向少數(shù)主體集聚的態(tài)勢(shì)。如果核心算法技術(shù)僅僅被少數(shù)幾家企業(yè)掌握,那么就可能會(huì)出現(xiàn)部分學(xué)者擔(dān)心的算法獨(dú)裁的問(wèn)題[5]。

第二,算法權(quán)力包含算法本身的權(quán)力和數(shù)據(jù)的權(quán)力。其中算法是主權(quán)力,數(shù)據(jù)屬于附屬權(quán)力。算法、數(shù)據(jù)和算力是人工智能的基本構(gòu)成要素。進(jìn)入21 世紀(jì)后,深度學(xué)習(xí)算法的突破、大數(shù)據(jù)時(shí)代的到來(lái)和具備強(qiáng)大計(jì)算能力的計(jì)算機(jī)系統(tǒng)的出現(xiàn),使得人工智能技術(shù)在經(jīng)濟(jì)社會(huì)發(fā)展和政府治理的各個(gè)領(lǐng)域的應(yīng)用前景被打開,“人類正在進(jìn)入一切皆可計(jì)算的時(shí)代”[6]323,算法權(quán)力隨之日漸凸顯。但是,離開了大數(shù)據(jù)和具備強(qiáng)大計(jì)算功能的計(jì)算機(jī),算法權(quán)力也將難以體現(xiàn)。因此,算法權(quán)力從內(nèi)容上來(lái)說(shuō)應(yīng)該包括兩個(gè)部分：算法本身的權(quán)力和數(shù)據(jù)的權(quán)力?！按髷?shù)據(jù)是指大量、多元、高速、復(fù)雜、多變的數(shù)據(jù),需要用先進(jìn)的計(jì)算方法和技術(shù)實(shí)現(xiàn)信息的采集、存儲(chǔ)、分析和應(yīng)用”[7]。大數(shù)據(jù)時(shí)代的到來(lái)改變著人類的交往方式,“在廣大浩瀚的宇宙中,數(shù)字化生存能使每個(gè)人變得更容易接近,讓弱小孤寂者也能發(fā)出他們的心聲”[8]55。在現(xiàn)實(shí)生活中,我們每時(shí)每刻都在生產(chǎn)著數(shù)據(jù),例如我們隨身攜帶的穿戴設(shè)備會(huì)將我們身體的心跳、行動(dòng)軌跡等數(shù)據(jù)實(shí)時(shí)地傳遞到各類應(yīng)用平臺(tái),并存儲(chǔ)在云端。在大數(shù)據(jù)時(shí)代,“大數(shù)據(jù)掌控者們借助越來(lái)越智能化的算法分析和利用著我們的數(shù)據(jù),開發(fā)著靠數(shù)據(jù)化的人類經(jīng)驗(yàn)喂養(yǎng)的人工智能產(chǎn)品,在為我們的生活提供越來(lái)越多便利的同時(shí)影響著我們的選擇和決策,并在此過(guò)程中積累起日益膨脹的財(cái)富、技術(shù)和人力資源”[9]。但是,孤立的數(shù)據(jù)是雜亂的,本身并沒有什么價(jià)值,只有經(jīng)過(guò)算法的深度挖掘,數(shù)據(jù)的價(jià)值才會(huì)顯現(xiàn)。因此,數(shù)據(jù)的權(quán)力是附屬于算法權(quán)力的,掌握了大量數(shù)據(jù)的主體如果沒有掌握核心算法,也是難以獲得和利用算法權(quán)力的。

第三,算法權(quán)力的表面行使者和算法權(quán)力的真正擁有者大多是分離的。算法權(quán)力作為一種技術(shù)權(quán)力,它主要是通過(guò)對(duì)大數(shù)據(jù)的分析和整理來(lái)利用數(shù)據(jù)的價(jià)值進(jìn)而實(shí)現(xiàn)特定的目的。但是算法權(quán)力的表面行使者和真正的擁有者之間并非完全重合,二者在絕大多數(shù)場(chǎng)合下是分離的,算法的使用者通常并非是算法的研制者。表面來(lái)看,算法權(quán)力是屬于使用以特定算法作為技術(shù)支撐的人工智能技術(shù)平臺(tái)的主體,通過(guò)使用該算法可以幫助主體完成特定的任務(wù)和實(shí)現(xiàn)既定的目標(biāo)。但實(shí)際上,算法的設(shè)計(jì)過(guò)程是封閉的,算法設(shè)計(jì)的原理也是不可解釋的。算法權(quán)力在幫助使用主體完成任務(wù)和實(shí)現(xiàn)目標(biāo)的同時(shí),算法的設(shè)計(jì)者和研發(fā)者已經(jīng)漸漸完成了對(duì)使用者的技術(shù)占領(lǐng),并且在不經(jīng)意間幫助算法的設(shè)計(jì)者和研發(fā)者完成了其最初設(shè)計(jì)算法的目的和意圖。因此,算法權(quán)力的真正擁有者通常不是算法的使用者,而是算法的研發(fā)者。如果算法的使用者和算法的研發(fā)者能合二為一,對(duì)使用者來(lái)說(shuō)不存在安全風(fēng)險(xiǎn),但是如果算法的使用者并不掌握算法的設(shè)計(jì)技術(shù),那將會(huì)對(duì)使用者的隱私、數(shù)據(jù)安全甚至是人身、財(cái)產(chǎn)安全構(gòu)成巨大隱患,而這正是我們需要認(rèn)真設(shè)計(jì)政府權(quán)力算法的必要性和緊迫性所在,要用權(quán)力的算法來(lái)規(guī)制算法的算力。同時(shí),我們需要的不僅僅是規(guī)制算法,而且還需要規(guī)制算法的設(shè)計(jì)者,要公開算法的設(shè)計(jì)目的、設(shè)計(jì)原理和設(shè)計(jì)過(guò)程,做到算法的編制及其運(yùn)行過(guò)程是透明的。

第四,算法設(shè)計(jì)者的意圖在很大程度上決定了算法權(quán)力運(yùn)行的結(jié)果。算法權(quán)力運(yùn)行的過(guò)程是人工智能技術(shù)平臺(tái)在接入一定的數(shù)據(jù)平臺(tái)后自動(dòng)運(yùn)行的過(guò)程,表面來(lái)看,其是在獨(dú)立運(yùn)行的,不受任何人為的干預(yù)和影響,比政府權(quán)力的運(yùn)行過(guò)程更加客觀公正,且不易受人的情感波動(dòng)和價(jià)值取向的干擾。但這只是表象,“算法及其決策程序是由它們的研發(fā)者塑造的,在細(xì)節(jié)上滲透著研發(fā)者的主觀特質(zhì)”[10]。一個(gè)算法在投入到人工智能技術(shù)平臺(tái)中應(yīng)用之前,設(shè)計(jì)者已經(jīng)完成了編制工作,設(shè)計(jì)者的利益意圖、價(jià)值取向甚至是意識(shí)形態(tài)導(dǎo)向等已經(jīng)被植入到算法之中,算法的運(yùn)行過(guò)程不僅僅是智能技術(shù)運(yùn)用的過(guò)程,在其技術(shù)的背后體現(xiàn)的是設(shè)計(jì)者的意志,在其工具的外表下暗藏的是權(quán)力的歸屬。因此,算法在經(jīng)濟(jì)和社會(huì)發(fā)展中運(yùn)用的結(jié)果如何,主要取決于算法設(shè)計(jì)者的意圖。一方面可以利用算法來(lái)為政府治理和法律執(zhí)行提供很好的便利。比如,人工智能的深度學(xué)習(xí)算法可以通過(guò)對(duì)法院公布的失信人在網(wǎng)上的消費(fèi)記錄進(jìn)行跟蹤,來(lái)判定其所在的地理位置及相關(guān)賬戶交易信息,據(jù)此法院可以隨時(shí)凍結(jié)失信人的銀行賬戶并限制其在部分平臺(tái)的交易行為,從而達(dá)到強(qiáng)制執(zhí)行的目的。另一方面可以利用智能算法來(lái)從事一些不太正當(dāng)或者不道德的營(yíng)利行為,例如,現(xiàn)在社會(huì)中已經(jīng)出現(xiàn)的“大數(shù)據(jù)殺熟”問(wèn)題,實(shí)際上數(shù)據(jù)是沒有生命力的,不會(huì)對(duì)熟客有什么不當(dāng)行為,殺熟的正是操控算法的設(shè)計(jì)者或使用者,他們通過(guò)算法對(duì)特定消費(fèi)群體消費(fèi)數(shù)據(jù)的分析結(jié)果,可以準(zhǔn)確地判定其消費(fèi)偏好,然后對(duì)其進(jìn)行有針對(duì)性的消費(fèi)欺詐。

2 算法的權(quán)力：算法權(quán)力在政府治理中的擴(kuò)張

隨著算法研發(fā)技術(shù)的不斷演進(jìn),算法在生產(chǎn)、生活中的應(yīng)用空間不斷拓展,算法已經(jīng)成為人工智能機(jī)器的核心技術(shù),人工智能機(jī)器自身具備的算法的先進(jìn)程度決定了其功能發(fā)揮的程度。機(jī)器學(xué)習(xí)算法的過(guò)程被稱為機(jī)器學(xué)習(xí),按照其發(fā)展的階段可以分為監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)和深度學(xué)習(xí)等類型。其中,深度學(xué)習(xí)算法是一種基于多層神經(jīng)網(wǎng)絡(luò)技術(shù)的高級(jí)機(jī)器學(xué)習(xí)算法。深度學(xué)習(xí)算法的出現(xiàn),推動(dòng)了機(jī)器學(xué)習(xí)算法的巨大變革,加速了弱人工智能向強(qiáng)人工智能時(shí)代轉(zhuǎn)變的進(jìn)程。深度學(xué)習(xí)不同于一般的監(jiān)督學(xué)習(xí)和半監(jiān)督學(xué)習(xí),機(jī)器可以依據(jù)一定的數(shù)據(jù),通過(guò)多層神經(jīng)網(wǎng)絡(luò)技術(shù)來(lái)不斷地嘗試各種可以達(dá)到特定目標(biāo)的參數(shù)設(shè)置,直到實(shí)現(xiàn)目標(biāo)為止。同時(shí),算法權(quán)力的發(fā)揮需要數(shù)據(jù)的支撐。雖然“人不是數(shù)據(jù),更不是電子痕跡的匯總,但技術(shù)正在使數(shù)據(jù)得到處理和整合,形成各種各樣的自動(dòng)化區(qū)分、評(píng)分、排序和決策,這些活動(dòng)反過(guò)來(lái)使我們的‘真實(shí)自我’在社會(huì)層面變得無(wú)關(guān)緊要。我們進(jìn)入所謂‘微粒社會(huì)’,我們都成為數(shù)據(jù),并最終成為被算法所定義的人。算法權(quán)力(algorithmic power)這種新興的權(quán)力并不把我們當(dāng)成‘主體’來(lái)對(duì)待,而是作為可計(jì)算、可預(yù)測(cè)、可控制的客體”[9]。目前,人類社會(huì)數(shù)據(jù)化的存在狀態(tài)正給算法的權(quán)力以充分的發(fā)揮空間。

2.1 算法營(yíng)造公眾輿論的權(quán)力

由于新聞?shì)浾撛诒O(jiān)督政府運(yùn)行、塑造公共政策議程、推動(dòng)政府行為變革和利益團(tuán)體之間的利益博弈等方面的重要影響力,被習(xí)慣性稱為“第四權(quán)力”。鑒于新聞?shì)浾摰闹匾?各政黨和利益團(tuán)體都非常重視對(duì)新聞媒體發(fā)揮積極影響并希望對(duì)其施以有效控制,利用新聞?shì)浾摖I(yíng)造對(duì)自身有利的公眾輿論已經(jīng)成為政黨贏得競(jìng)選和利益團(tuán)體期望政府出臺(tái)對(duì)其有利的公共政策的重要手段。在傳統(tǒng)媒體時(shí)代,要掌握輿論的主動(dòng),要營(yíng)造對(duì)自身有利的公共輿論,掌握必要的媒體資源是基本的前提。進(jìn)入移動(dòng)互聯(lián)網(wǎng)時(shí)代后,自媒體愈加發(fā)達(dá),每個(gè)人都成為信息發(fā)布的平臺(tái),QQ、微信、微博、客戶端等媒介隨時(shí)可以向外界推送信息,一個(gè)政黨或利益團(tuán)體越來(lái)越難以通過(guò)控制媒體來(lái)達(dá)到有利于自身的公共輿論營(yíng)造的目的。但是,一些擁有人工智能技術(shù)優(yōu)勢(shì)的企業(yè)可以通過(guò)自身設(shè)計(jì)的算法來(lái)完成特定輿論的營(yíng)造任務(wù)。為了達(dá)到營(yíng)造公眾輿論的目的,擁有先進(jìn)深度學(xué)習(xí)算法的人工智能技術(shù)平臺(tái),可以從海量的大數(shù)據(jù)中有效提取特定的目標(biāo)群體,然后將編制好的信息和帶有鮮明導(dǎo)向的評(píng)論向這些目標(biāo)群體進(jìn)行定點(diǎn)定時(shí)的推送,這樣就可以在較短時(shí)間內(nèi)激發(fā)社會(huì)公眾對(duì)于某個(gè)新聞事件的關(guān)注,進(jìn)而達(dá)到營(yíng)造公共輿論的目的。

同時(shí),進(jìn)入到移動(dòng)互聯(lián)網(wǎng)時(shí)代后,人類的閱讀習(xí)慣已經(jīng)發(fā)生了徹底的變化,各種微信公眾號(hào)和新聞客戶端等推送的文章、新聞成為人們閱讀的主要內(nèi)容。長(zhǎng)期閱讀相似的信息內(nèi)容,會(huì)對(duì)一個(gè)人的價(jià)值觀和思維認(rèn)知產(chǎn)生很大影響。當(dāng)前,人類在閱讀內(nèi)容的選擇上看似是自由的,實(shí)際上只是在微信公眾號(hào)和新聞客戶端推送的信息中做出有限的選擇而已。而向誰(shuí)推送、何時(shí)推送、推送什么信息內(nèi)容的背后都潛藏著算法的軌跡,算法已經(jīng)在很大程度上擁有了改變和固化人們思維、營(yíng)造新聞?shì)浾摰臋?quán)力,“憑借垂直領(lǐng)域開放平臺(tái)的接口或平臺(tái)授權(quán),算法在龐大的數(shù)據(jù)支持下精確迅捷地抓取、生成、發(fā)布和推送資訊,最終實(shí)現(xiàn)對(duì)新聞內(nèi)容生產(chǎn)環(huán)節(jié)和分發(fā)環(huán)節(jié)的再造和變革”[11]。

2.2 算法主導(dǎo)政策議程的權(quán)力

制定公共政策是政府的權(quán)力和職責(zé),也是政府管理和控制經(jīng)濟(jì)、社會(huì)等領(lǐng)域的重要手段。在傳統(tǒng)的公共政策議程中,政府作為政策主體在社會(huì)問(wèn)題的感知、社會(huì)問(wèn)題向政策問(wèn)題的轉(zhuǎn)化和政策問(wèn)題的界定等環(huán)節(jié)上具有完全的主導(dǎo)地位,政策方案通常也是由行政首長(zhǎng)依據(jù)一定的價(jià)值判斷和基于一定的利益考量做出選擇的結(jié)果。隨著移動(dòng)互聯(lián)時(shí)代的到來(lái)以及云存儲(chǔ)和云計(jì)算技術(shù)的突破,人類的存在和交往形式正逐漸數(shù)據(jù)化,我們?nèi)粘５男袨楹徒煌涗洷灰愿鞣N各樣的圖片、運(yùn)行軌跡、數(shù)字、文字、音頻、視頻等數(shù)據(jù)形式存儲(chǔ)下來(lái),社會(huì)每天產(chǎn)生的數(shù)據(jù)量以驚人的速度增長(zhǎng),為深度學(xué)習(xí)算法的不斷演進(jìn)提供了強(qiáng)大的學(xué)習(xí)素材。通過(guò)“對(duì)這些數(shù)據(jù)進(jìn)行系統(tǒng)地加工并且正確地闡釋,使得人們可以通過(guò)這些數(shù)據(jù)對(duì)個(gè)人或者群體及其行為進(jìn)行深入的推斷”[12]9,算法主導(dǎo)公共政策議程的權(quán)力也隨之不斷增強(qiáng),公共政策的制定權(quán)正逐漸“從人手中轉(zhuǎn)移到算法手中”[13]197。

政策問(wèn)題是公共政策議程的起點(diǎn),“決定哪些問(wèn)題成為政策問(wèn)題,甚至比決定這些問(wèn)題的解決辦法更為重要”[14]28。政策制定以政策問(wèn)題的有效識(shí)別和準(zhǔn)確界定為前提,而與政策問(wèn)題相關(guān)的數(shù)據(jù)和信息的獲取程度對(duì)政策問(wèn)題的界定非常關(guān)鍵。具備深度學(xué)習(xí)功能的人工智能技術(shù)平臺(tái),可以通過(guò)對(duì)數(shù)據(jù)的智能提取和分析,給政策主體提供其想要獲取的信息,作為對(duì)社會(huì)問(wèn)題感知和將哪些社會(huì)問(wèn)題轉(zhuǎn)變?yōu)檎邌?wèn)題的依據(jù)。在政策方案的設(shè)計(jì)和選擇環(huán)節(jié),人工智能技術(shù)平臺(tái)提供了各種政策備選方案以及對(duì)各種方案的成本、收益的估算分析,給政策制定主體選擇方案提供了重要的參考,人工智能算法在政策制定中的功能正愈發(fā)強(qiáng)大。目前,“不少國(guó)外企業(yè)已經(jīng)搭建完成了人工智能底層模塊,這個(gè)模塊類似于智能手機(jī)的操作系統(tǒng),任何應(yīng)用和計(jì)算都基于底層模塊而產(chǎn)生。這些企業(yè)會(huì)伴隨使用底層模塊應(yīng)用的增多而獲取大量數(shù)據(jù),這些數(shù)據(jù)不僅限于一個(gè)國(guó)家或一個(gè)區(qū)域,而可能是全球性的,企業(yè)完全可以利用這些數(shù)據(jù)做利于企業(yè)自身甚至本國(guó)政府的事情,從而成為跨越國(guó)界的超級(jí)‘政府’”[2]。

隨著人工智能算法在政策制定中的功效的日漸凸顯,政策制定主體對(duì)人工智能的認(rèn)知也由傳統(tǒng)的運(yùn)用人工智能輔助決策轉(zhuǎn)變?yōu)橐蕾嚾斯ぶ悄軟Q策,決策主體與人工智能算法在公共政策議程中的角色正發(fā)生著深刻的變革。政策制定主體對(duì)人工智能技術(shù)的依賴程度越深,人工智能算法主導(dǎo)公共政策議程的權(quán)力就愈發(fā)凸顯,只是算法權(quán)力在公共政策議程中的強(qiáng)勢(shì)支配地位比較隱蔽罷了。表面上看,政策制定主體的領(lǐng)導(dǎo)和工作人員控制著公共政策制定的全過(guò)程,實(shí)際上他們的決策大多是依據(jù)人工智能算法的運(yùn)行結(jié)果來(lái)作為依據(jù)的,而那些設(shè)計(jì)和掌握人工智能核心算法的企業(yè)正成為算法權(quán)力的擁有者和支配者,特別是那些算法優(yōu)勢(shì)明顯的超級(jí)企業(yè)。因此,與傳統(tǒng)權(quán)力不一樣,算法權(quán)力的運(yùn)行過(guò)程看似公開透明,但由于算法設(shè)計(jì)過(guò)程是封閉的且充分體現(xiàn)了算法設(shè)計(jì)者的利益意圖和價(jià)值判定標(biāo)準(zhǔn),因而人類對(duì)算法權(quán)力的規(guī)制和監(jiān)管要比對(duì)政府權(quán)力的監(jiān)督更加復(fù)雜而艱難。在算法時(shí)代,可以說(shuō)誰(shuí)“掌握了數(shù)據(jù)就意味著掌握了資本和財(cái)富,掌握了算法就意味著掌握了話語(yǔ)權(quán)和規(guī)制權(quán)”[15]。

2.3 算法控制政策執(zhí)行的權(quán)力

由于受到政府行政編制、行政運(yùn)行經(jīng)費(fèi)和工作時(shí)間有限以及政策執(zhí)行環(huán)節(jié)較多等多種因素的限制,政策執(zhí)行者在目標(biāo)群體的篩選和精準(zhǔn)識(shí)別、不同群體的具體特征和特殊情況的掌握等方面存在信息不完全的困境,政策執(zhí)行效果隨之受到很大影響。大數(shù)據(jù)時(shí)代的到來(lái)和深度學(xué)習(xí)算法的不斷成熟,為人工智能在政策執(zhí)行領(lǐng)域中的深度應(yīng)用提供了可能。在政府治理實(shí)踐中,各級(jí)政府可以“通過(guò)人工智能,可以有效識(shí)別行政流程中的冗余環(huán)節(jié),并以遠(yuǎn)超人力的形式形成公文流轉(zhuǎn)過(guò)程,從而提高整個(gè)政府內(nèi)部的行政流程效率”[16]。

人工智能技術(shù)在政策執(zhí)行環(huán)節(jié)中的深度應(yīng)用,在有效提升政策執(zhí)行績(jī)效的同時(shí)也引發(fā)了政府部門及其工作人員對(duì)人工智能技術(shù)的依賴問(wèn)題,很多政策執(zhí)行環(huán)節(jié)已經(jīng)部分或者完全交由人工智能技術(shù)平臺(tái)來(lái)完成,越來(lái)越多的政策執(zhí)行主體及其工作人員已經(jīng)將人工智能技術(shù)平臺(tái)作為政策執(zhí)行的主要依靠工具。目前,越來(lái)越多的地方政府已經(jīng)或正在聯(lián)合人工智能技術(shù)供應(yīng)商開發(fā)各種類型的智能政務(wù)平臺(tái),這些平臺(tái)的核心技術(shù)就是算法,而支撐這些平臺(tái)有效運(yùn)行的算法絕大多數(shù)是由少數(shù)大企業(yè)掌握的。同時(shí),在平臺(tái)運(yùn)行過(guò)程中大企業(yè)也獲得了許多單位價(jià)值密度較高的政務(wù)數(shù)據(jù),數(shù)據(jù)優(yōu)勢(shì)和算法優(yōu)勢(shì)的疊加更加強(qiáng)化了企業(yè)的技術(shù)優(yōu)勢(shì),政府對(duì)算法的依賴程度更深。例如,浙江省杭州市聯(lián)合阿里巴巴公司發(fā)布的城市大腦系統(tǒng)。該系統(tǒng)通過(guò)阿里云開發(fā)的視頻識(shí)別算法,使城市大腦能夠感知復(fù)雜道路下車輛的運(yùn)行軌跡,準(zhǔn)確率達(dá)99%以上,在此基礎(chǔ)上城市大腦可在一個(gè)虛擬的數(shù)字城市中構(gòu)建算法模型,通過(guò)機(jī)器學(xué)習(xí)不斷迭代優(yōu)化,計(jì)算出更“聰明”的方案[17]。

與傳統(tǒng)的技術(shù)手段在政府治理中扮演的輔助決策和輔助執(zhí)行角色不同,人工智能技術(shù)在政府治理中的深度應(yīng)用已經(jīng)使人與技術(shù)手段的關(guān)系發(fā)生反轉(zhuǎn),人是技術(shù)的主體變成了人成為技術(shù)指令的接受者,技術(shù)開始成為人類的主宰。算法是人工智能技術(shù)的基石之一,向人類下達(dá)指令的人工智能算法是由特定的技術(shù)主體研發(fā)的,因此,人工智能技術(shù)平臺(tái)的研發(fā)者也是真正意義上的指令下達(dá)者,他們已經(jīng)在一定程度上成為政府權(quán)力的實(shí)際擁有者。例如,城市大腦系統(tǒng)在投入使用后,實(shí)現(xiàn)了城市交通管理的智能化,但是交警也成為阿里云視頻識(shí)別算法的指揮對(duì)象,政策執(zhí)行主體變成了算法權(quán)力的執(zhí)行者。

2.4 算法影響政策績(jī)效評(píng)估的權(quán)力

政策績(jī)效評(píng)估是公共政策議程的關(guān)鍵環(huán)節(jié)之一,是政策績(jī)效評(píng)估主體依據(jù)一定的公共政策績(jī)效評(píng)估標(biāo)準(zhǔn)和評(píng)估指標(biāo),運(yùn)用一定的評(píng)估方法和手段,對(duì)特定的公共政策執(zhí)行后的業(yè)績(jī)和效果進(jìn)行評(píng)估的過(guò)程和結(jié)果。政策績(jī)效評(píng)估是衡量政策制定質(zhì)量和政策執(zhí)行水平的重要指標(biāo),執(zhí)行績(jī)效相關(guān)數(shù)據(jù)的收集和客觀公正的評(píng)價(jià)是做好政策績(jī)效評(píng)估的關(guān)鍵。傳統(tǒng)的政策績(jī)效評(píng)估,由于依據(jù)的是有限的數(shù)據(jù)和主觀選擇的樣本,加之政策績(jī)效評(píng)估主體的認(rèn)知局限,使得評(píng)估主體難以做到對(duì)政策績(jī)效進(jìn)行精準(zhǔn)的評(píng)估。而進(jìn)入大數(shù)據(jù)和人工智能時(shí)代后,政策制定和政策執(zhí)行的過(guò)程及其結(jié)果以數(shù)據(jù)化的狀態(tài)呈現(xiàn)出來(lái),深度學(xué)習(xí)算法可以有效地識(shí)別與績(jī)效評(píng)估指標(biāo)相關(guān)的數(shù)據(jù),并據(jù)此作出較為準(zhǔn)確的評(píng)估結(jié)果。人工智能技術(shù)在政策績(jī)效評(píng)估環(huán)節(jié)的應(yīng)用,大幅提高了政策績(jī)效評(píng)估的效率和評(píng)估結(jié)果的準(zhǔn)確性。目前,我國(guó)很多地方政府已經(jīng)開始依靠人工智能技術(shù)平臺(tái)來(lái)監(jiān)控和評(píng)價(jià)政府部門及其工作人員的行為績(jī)效。

算法作為計(jì)算機(jī)程序之一,也存在隱蔽性的特征。“多項(xiàng)研究均顯示,軟件產(chǎn)品具有隱蔽性的特征,特定的權(quán)力結(jié)構(gòu)、價(jià)值觀和意識(shí)形態(tài)已經(jīng)事先被嵌入其中?！盵11]在人工智能介入政策績(jī)效評(píng)估的過(guò)程中,存在一定程度的黑箱操作的可能。由于算法的編制基本上是由企業(yè)在封閉的環(huán)境下獨(dú)立完成的,大多數(shù)算法是不可解釋的,政府及其相關(guān)部門無(wú)法掌握算法設(shè)計(jì)者的意圖和設(shè)計(jì)原理,因此依據(jù)人工智能系統(tǒng)來(lái)進(jìn)行政策績(jī)效評(píng)估也就存在黑箱操作的可能性,看似公正的政策績(jī)效評(píng)估結(jié)果的背后可能隱藏著特定的利益訴求和價(jià)值偏好。如果政府部門將政策績(jī)效評(píng)估的工作完全交由人工智能系統(tǒng)來(lái)完成的話,研發(fā)算法的企業(yè)無(wú)疑將成為政策績(jī)效評(píng)估權(quán)力的真正擁有者。

作為一種新型的權(quán)力形態(tài),算法權(quán)力的出現(xiàn)及其發(fā)展,對(duì)于現(xiàn)代國(guó)家治理來(lái)說(shuō)既是機(jī)遇也是挑戰(zhàn)。從國(guó)家與社會(huì)的關(guān)系來(lái)看,算法權(quán)力給傳統(tǒng)上由政府主導(dǎo)的國(guó)家治理秩序帶來(lái)了沖擊,使得人類找到了一種利用技術(shù)來(lái)防止國(guó)家權(quán)力被濫用、抑制國(guó)家公職人員利用權(quán)力進(jìn)行腐敗并控制國(guó)家機(jī)器的有效路徑,有利于提升公權(quán)力運(yùn)行的透明度。但同時(shí),算法權(quán)力的背后也潛藏著資本的力量,資本對(duì)算法技術(shù)的壟斷及其在數(shù)據(jù)處理和應(yīng)用上的優(yōu)勢(shì),正在助推資本對(duì)國(guó)家權(quán)力優(yōu)勢(shì)的形成,這也正是我們對(duì)于算法權(quán)力要保持高度警惕的原因所在。

3 權(quán)力的算法：用權(quán)力的算法來(lái)規(guī)制算法的權(quán)力

先進(jìn)的技術(shù)是一把雙刃劍,“技術(shù)上最偉大的勝利與最大的災(zāi)難幾乎并列”[18]16。人工智能技術(shù)應(yīng)用場(chǎng)景的不斷拓展,“徹底改變了人際交往機(jī)制,社會(huì)政治力量之間的關(guān)系潛藏在數(shù)據(jù)、算法之后,新型關(guān)系模式?jīng)_擊著權(quán)力結(jié)構(gòu)邊界、權(quán)利行動(dòng)的范圍以及原有的社會(huì)規(guī)范”[19]。算法權(quán)力作為一種新型的權(quán)力形態(tài),其技術(shù)性的表象隱藏了權(quán)力的強(qiáng)制性特征,導(dǎo)致算法權(quán)力在國(guó)家政治生活和經(jīng)濟(jì)社會(huì)發(fā)展中的擴(kuò)張不易被人察覺。而正是在這種背景下,算法權(quán)力正在逐步建構(gòu)起技術(shù)權(quán)力對(duì)政治權(quán)力的優(yōu)勢(shì),使得傳統(tǒng)的由政府權(quán)力建構(gòu)的治理秩序面臨深刻的變革?！凹夹g(shù)在政治的、軍事的領(lǐng)域中與技術(shù)在經(jīng)濟(jì)生產(chǎn)領(lǐng)域中具有明顯的相似之處,它像經(jīng)濟(jì)上的工具和機(jī)器一樣具體和物質(zhì)”[20]45,技術(shù)的擁有者和使用者有利用技術(shù)對(duì)既有的政治秩序發(fā)起沖擊的能力和可能。目前,擁有算法和數(shù)據(jù)優(yōu)勢(shì)的人工智能企業(yè)“是否對(duì)國(guó)家治理構(gòu)成挑戰(zhàn),關(guān)鍵不在于一個(gè)組織是否有意愿成為超國(guó)家組織,而在于其是否有能力成為超國(guó)家組織。如‘劍橋分析’等一些大型互聯(lián)網(wǎng)企業(yè),由于掌握了海量數(shù)據(jù),對(duì)民眾的影響力甚至比普通國(guó)家機(jī)器還要大。公司、社會(huì)組織、非營(yíng)利組織等非政府玩家,掌握過(guò)多數(shù)據(jù),將會(huì)形成不對(duì)稱權(quán)力,或?qū)?duì)國(guó)家和社會(huì)治理構(gòu)成挑戰(zhàn)”[2]。面對(duì)算法的權(quán)力,一方面我們不能因其導(dǎo)致的現(xiàn)實(shí)和潛藏的風(fēng)險(xiǎn)就束縛其發(fā)展,另一方面也不能放松對(duì)算法權(quán)力給國(guó)家治理秩序可能帶來(lái)的沖擊的警惕,用權(quán)力的算法來(lái)規(guī)制算法的權(quán)力,是主權(quán)國(guó)家和政府面對(duì)算法權(quán)力不斷擴(kuò)張的必由之路。

權(quán)力的算法是指在算法時(shí)代決定權(quán)力運(yùn)行方式和主導(dǎo)權(quán)力運(yùn)行過(guò)程的算法。權(quán)力的算法包括權(quán)力算法的設(shè)計(jì)和權(quán)力算法的運(yùn)行兩個(gè)方面。伴隨人工智能技術(shù)的日漸成熟和算法時(shí)代的到來(lái),政府治理模式正發(fā)生著深刻的變革,智能治理作為一種新型的治理形態(tài)正日漸成熟[21]。在智能治理時(shí)代,政府權(quán)力運(yùn)行的算法化趨勢(shì)不斷強(qiáng)化,政府治理實(shí)際上就是政府通過(guò)算法來(lái)實(shí)施治理。政府權(quán)力的算法不同于一般企業(yè)研發(fā)的商業(yè)用途的算法,政府權(quán)力算法的設(shè)計(jì)不僅要著眼于提高行政效率,也要注重多元價(jià)值的平衡,體現(xiàn)出公平公正性。因此,在權(quán)力算法的設(shè)計(jì)方面,面對(duì)由少數(shù)超級(jí)企業(yè)主導(dǎo)的算法權(quán)力及其可能給主權(quán)國(guó)家治理秩序帶來(lái)的隱憂,政府要主導(dǎo)權(quán)力算法的設(shè)計(jì)標(biāo)準(zhǔn)和設(shè)計(jì)過(guò)程。同時(shí),在權(quán)力算法的運(yùn)行方面,針對(duì)政府治理日益由人工智能算法主導(dǎo)的趨勢(shì),政府要通過(guò)構(gòu)建由其主導(dǎo)的智能政務(wù)系統(tǒng)、大數(shù)據(jù)系統(tǒng)、透明化的算法運(yùn)行機(jī)制和人工智能自我終結(jié)機(jī)制等來(lái)確保其在智能治理時(shí)代國(guó)家治理體系中的主導(dǎo)地位,以有效地防范、控制和化解算法權(quán)力給政府權(quán)力運(yùn)行帶來(lái)的各種現(xiàn)實(shí)的和潛在的風(fēng)險(xiǎn)。

3.1 政府主導(dǎo)智能政務(wù)系統(tǒng)核心算法的標(biāo)準(zhǔn)制定和研發(fā)過(guò)程

人工智能時(shí)代的到來(lái),權(quán)力技術(shù)化特征日漸明顯,數(shù)據(jù)和算法成為不同主體之間競(jìng)爭(zhēng)和博弈的核心籌碼,誰(shuí)掌握了海量精準(zhǔn)并實(shí)時(shí)更新的數(shù)據(jù)、誰(shuí)擁有強(qiáng)大的算法研發(fā)能力,誰(shuí)就能在權(quán)力的角逐中贏得優(yōu)勢(shì)并取得勝利。從目前人工智能技術(shù)發(fā)展的現(xiàn)狀來(lái)看,政府在數(shù)據(jù)和算法上都不占優(yōu)勢(shì)。相形之下,少數(shù)互聯(lián)網(wǎng)巨頭企業(yè)憑借其開發(fā)的用戶量巨大的社交、消費(fèi)、工作和學(xué)習(xí)等應(yīng)用平臺(tái),可以很輕松且免費(fèi)地獲取海量的數(shù)據(jù)信息,然后再通過(guò)其自身研發(fā)的深度學(xué)習(xí)算法完成對(duì)數(shù)據(jù)價(jià)值的深度挖掘和最大程度的利用,進(jìn)而樹立起對(duì)政府權(quán)力的技術(shù)優(yōu)勢(shì)。目前,我國(guó)各級(jí)政府正在大力推動(dòng)利用智能政務(wù)平臺(tái)來(lái)處理政務(wù),不見面審批等已成為現(xiàn)實(shí)。智能政務(wù)平臺(tái)的利用在方便民眾辦事、降低行政運(yùn)行成本和提高行政效率的同時(shí),也使得政府與民眾的面對(duì)面交流越來(lái)越少,政府對(duì)設(shè)計(jì)算法的企業(yè)的技術(shù)依賴程度越來(lái)越深。我國(guó)現(xiàn)有的智能政務(wù)平臺(tái)基本上都是由少數(shù)幾家大企業(yè)提供的,政府獨(dú)立研發(fā)的很少。為此,我們需要抓緊推動(dòng)政府信息主管部門與國(guó)有控股的信息技術(shù)企業(yè)等主體之間的技術(shù)合作,建立起由政府掌握的算法設(shè)計(jì)和研發(fā)機(jī)構(gòu),確保核心智能政務(wù)系統(tǒng)的算法由政府自身掌握,打破政府對(duì)少數(shù)企業(yè)的算法依賴,保證智能政務(wù)平臺(tái)運(yùn)行的安全。同時(shí),“政府需加快發(fā)展包括算法和數(shù)據(jù)分析在內(nèi)的多項(xiàng)技術(shù),增強(qiáng)自身使用人工智能進(jìn)行分析和決策的能力,使政府在人工智能領(lǐng)域處于領(lǐng)導(dǎo)地位”[2]。

3.2 建立由政府主導(dǎo)的國(guó)家大數(shù)據(jù)系統(tǒng)

算法權(quán)力作為技術(shù)性權(quán)力形態(tài),其作用的發(fā)揮需要一定的數(shù)據(jù)作為支撐。在人工智能時(shí)代,“隨著大數(shù)據(jù)技術(shù)的不斷演進(jìn)和應(yīng)用持續(xù)深化,以數(shù)據(jù)為核心的大數(shù)據(jù)產(chǎn)業(yè)生態(tài)正在加速構(gòu)建”[22]。近些年來(lái),我國(guó)各級(jí)政府非常重視大數(shù)據(jù)的應(yīng)用,并積極推動(dòng)大數(shù)據(jù)產(chǎn)業(yè)的發(fā)展。為此,國(guó)務(wù)院于2015年8月專門出臺(tái)了《國(guó)務(wù)院關(guān)于印發(fā)促進(jìn)大數(shù)據(jù)發(fā)展行動(dòng)綱要的通知》(國(guó)發(fā)〔2015〕50 號(hào)),為今后很長(zhǎng)一段時(shí)期內(nèi)我國(guó)大數(shù)據(jù)產(chǎn)業(yè)的發(fā)展指明了方向。與此同時(shí),我國(guó)的很多地方政府也成立了專門的大數(shù)據(jù)管理機(jī)構(gòu),截至2018年1月底,全國(guó)至少已有10 多個(gè)省份成立了超20 家地市級(jí)以上的大數(shù)據(jù)管理機(jī)構(gòu)[23]。數(shù)據(jù)權(quán)力是算法權(quán)力的附屬權(quán)力,也是算法權(quán)力的重要支撐,離開了大數(shù)據(jù)的供給,再先進(jìn)的人工智能算法也因沒有訓(xùn)練素材而導(dǎo)致機(jī)器功能難以有效提升,算法的權(quán)力將無(wú)法表現(xiàn)出來(lái)。目前,從全社會(huì)數(shù)據(jù)的分配格局來(lái)看,政府雖然掌握了主要的數(shù)據(jù),但是由于政府“不同部門的數(shù)據(jù)儲(chǔ)存在不同地方,格式也不一樣,這就使得數(shù)據(jù)整合起來(lái)出現(xiàn)困難”[24],政府掌握的數(shù)據(jù)的價(jià)值并沒有充分發(fā)揮出來(lái)。在人工智能時(shí)代,面對(duì)已經(jīng)擁有一定數(shù)據(jù)存儲(chǔ)和處理技術(shù)優(yōu)勢(shì)的大企業(yè),在大數(shù)據(jù)存儲(chǔ)和處理技術(shù)上處于弱勢(shì)地位的政府應(yīng)該努力掌握大數(shù)據(jù)的主導(dǎo)權(quán),以實(shí)現(xiàn)有效防范算法獨(dú)裁風(fēng)險(xiǎn)和引導(dǎo)人工智能技術(shù)積極發(fā)展的目的。目前,“我們正走進(jìn)包含著大數(shù)據(jù)的時(shí)代,大數(shù)據(jù)已經(jīng)開始影響我們社會(huì)生產(chǎn)和生活的各個(gè)方面,然而,與這個(gè)時(shí)代相適應(yīng)的真正的大數(shù)據(jù)思維尚未建立”[25]。為此,我們需要抓緊建立由政府統(tǒng)計(jì)部門和大數(shù)據(jù)管理機(jī)構(gòu)共同主導(dǎo)的國(guó)家大數(shù)據(jù)系統(tǒng),統(tǒng)一大數(shù)據(jù)的統(tǒng)計(jì)口徑、傳遞方式和提取使用標(biāo)準(zhǔn),各智能應(yīng)用平臺(tái)運(yùn)行過(guò)程中產(chǎn)生的數(shù)據(jù)要與國(guó)家大數(shù)據(jù)系統(tǒng)進(jìn)行有效對(duì)接,確保全社會(huì)數(shù)據(jù)的互聯(lián)和共享。當(dāng)前,“面對(duì)大數(shù)據(jù)對(duì)個(gè)人隱私潛在的威脅,我們必須重視智能革命時(shí)代隱私權(quán)的保護(hù)”[26],而國(guó)家大數(shù)據(jù)系統(tǒng)的建立,一方面可以有效推動(dòng)數(shù)據(jù)價(jià)值得到最大程度的發(fā)揮,另一方面使得政府也可以有效監(jiān)控各平臺(tái)企業(yè)對(duì)數(shù)據(jù)的提取和利用情況,防止數(shù)據(jù)霸權(quán)的出現(xiàn),從而實(shí)現(xiàn)有效抑制算法權(quán)力的目的。

3.3 建立透明化的算法運(yùn)行機(jī)制來(lái)破除算法黑箱

算法權(quán)力與傳統(tǒng)政府權(quán)力不同,政府權(quán)力從法理上來(lái)源于人民的賦權(quán),人民的同意和認(rèn)可是政府權(quán)力獲得并使合法性得以維系的前提,其自身的運(yùn)行存在內(nèi)部自律和外部監(jiān)督機(jī)制的規(guī)制,對(duì)權(quán)力運(yùn)行有效性的考量以及官員連任和晉升的壓力構(gòu)成了政府權(quán)力運(yùn)行的內(nèi)在約束機(jī)制。政府權(quán)力的行使者必須要積極回應(yīng)社會(huì)公眾的關(guān)切,推動(dòng)透明政府、回應(yīng)性政府建設(shè)。而算法權(quán)力作為一種技術(shù)權(quán)力,是一種事實(shí)性的存在,本身不存在權(quán)力的合法性和有效性的問(wèn)題。由于算法的設(shè)計(jì)過(guò)程是不透明的,算法設(shè)計(jì)充分體現(xiàn)了算法設(shè)計(jì)者的意圖和目的,算法的研發(fā)過(guò)程中存在黑箱操作的空間和可能,人們?cè)诤艽蟪潭壬现荒鼙粍?dòng)接受算法運(yùn)行的結(jié)果。例如,美國(guó)學(xué)者的研究結(jié)果表明,在對(duì)特定群體犯罪風(fēng)險(xiǎn)的評(píng)估上,算法傾向于認(rèn)定黑人犯罪的風(fēng)險(xiǎn)要高于白人[27]。正是因?yàn)樗惴ㄔO(shè)計(jì)存在黑箱運(yùn)作的風(fēng)險(xiǎn),國(guó)家需要加強(qiáng)對(duì)算法研制方面的立法,加大有關(guān)推動(dòng)算法可解釋性的政策供給力度,增加算法的可解釋性,確保算法設(shè)計(jì)回應(yīng)社會(huì)的關(guān)切和民眾的需求,建立透明化的算法運(yùn)行機(jī)制,讓“那些對(duì)結(jié)果抱有懷疑的人可以掀開‘引擎蓋子’看個(gè)究竟”[28]262。同時(shí),國(guó)家也需要大力推動(dòng)擁有核心算法優(yōu)勢(shì)的算法研制企業(yè)開源自己的人工智能算法平臺(tái),盡可能降低算法領(lǐng)域的技術(shù)壁壘,推動(dòng)算法技術(shù)的共享,有效抑制算法獨(dú)裁的空間,讓更多的主體可以分享到人工智能技術(shù)應(yīng)用帶來(lái)的福利。

3.4 建立人工智能自我終結(jié)機(jī)制來(lái)防范由算法運(yùn)行帶來(lái)的公共安全風(fēng)險(xiǎn)

伴隨算法時(shí)代的到來(lái),算法等“新技術(shù)重塑著‘國(guó)家—社會(huì)’關(guān)系,在新技術(shù)環(huán)境下,巨大的‘利維坦’與更多新人群、新組織、新社會(huì)力量的關(guān)系,將變得陌生起來(lái),社會(huì)權(quán)力的無(wú)序運(yùn)行對(duì)國(guó)家政治安全施加了嚴(yán)峻考驗(yàn)”[29]。特別是深度學(xué)習(xí)算法的出現(xiàn)和不斷成熟,在推動(dòng)人工智能應(yīng)用場(chǎng)景不斷擴(kuò)大和應(yīng)用程度不斷加深的同時(shí),也給公共安全帶來(lái)很多不確定性的風(fēng)險(xiǎn),甚至危及到整個(gè)人類的安全。部分學(xué)者認(rèn)為算法的應(yīng)用,有可能會(huì)在不久的將來(lái)引發(fā)“算法戰(zhàn)爭(zhēng)”[30]。雖然這種預(yù)測(cè)未必會(huì)成真,但是由于算法設(shè)計(jì)都具備一定的意圖和目的,算法運(yùn)行的風(fēng)險(xiǎn)不能忽視。為此,我們需要從法律規(guī)制、倫理教育和技術(shù)規(guī)范等方面來(lái)建立和完善算法監(jiān)管機(jī)制。在法律規(guī)制上,要將不危害人類生命、公共安全和不侵害公共利益作為算法設(shè)計(jì)的準(zhǔn)則。在倫理教育上,要將不侵犯?jìng)€(gè)人隱私、不違反公序良俗等作為算法設(shè)計(jì)和運(yùn)行的倫理規(guī)范。在技術(shù)規(guī)范上,要引入人工智能自我終結(jié)機(jī)制,一旦人工智能算法脫離了人類掌控,將啟動(dòng)人工智能自我終結(jié)程序,以確保算法運(yùn)行始終處于人類可控范圍之內(nèi),將維系人類生命安全作為人工智能算法研發(fā)和應(yīng)用的底線,防范算法權(quán)力對(duì)人類生存構(gòu)成的威脅。

4 推動(dòng)算法權(quán)力與政府權(quán)力從博弈走向融合：迎接智能治理時(shí)代的到來(lái)

算法和數(shù)據(jù)是人工智能的兩大基石。人工智能深度學(xué)習(xí)算法的突破,使得人工智能技術(shù)的發(fā)展取得了巨大變革,推動(dòng)了人工智能技術(shù)從單純執(zhí)行人類設(shè)計(jì)指令的弱人工智能時(shí)代向具備自主行為能力的強(qiáng)人工智能時(shí)代的轉(zhuǎn)變。同時(shí),大數(shù)據(jù)時(shí)代的來(lái)臨,進(jìn)一步加速了弱人工智能向強(qiáng)人工智能轉(zhuǎn)變的進(jìn)程,使得人類社會(huì)的生產(chǎn)方式、生活方式和國(guó)家治理方式等發(fā)生了深刻的變革,引發(fā)了算法權(quán)力與政府權(quán)力之間的博弈。但是,我們也要看到,技術(shù)變革既可以帶給政府治理手段的創(chuàng)新,也可能推動(dòng)治理機(jī)制的創(chuàng)新,最終變革政府治理范式[31]?！皣?guó)家治理是人類有史以來(lái)最為復(fù)雜的社會(huì)活動(dòng)。這不僅因?yàn)閲?guó)家是人類所形成的最大的正式組織結(jié)構(gòu),還因?yàn)閲?guó)家治理覆蓋了國(guó)家范圍內(nèi)幾乎所有的社會(huì)行為?！盵32]我們?cè)诶脵?quán)力的算法來(lái)規(guī)制算法的權(quán)力、防范和化解算法權(quán)力對(duì)政府權(quán)力帶來(lái)的沖擊的同時(shí),也要積極適應(yīng)人工智能算法發(fā)展的趨勢(shì),積極利用算法來(lái)為國(guó)家治理服務(wù),推動(dòng)算法權(quán)力與政府權(quán)力從博弈走向融合,做好技術(shù)理性和價(jià)值理性的平衡,迎接智能治理時(shí)代的到來(lái)。

第一,積極發(fā)揮算法在政府治理中的作用,推動(dòng)政府治理從傳統(tǒng)治理范式向智能治理范式轉(zhuǎn)變。智能治理作為一種新型的治理模式,是以擁有先進(jìn)算法和強(qiáng)大計(jì)算能力的人工智能技術(shù)平臺(tái)為支撐,通過(guò)對(duì)大數(shù)據(jù)的提取和分析,由人工智能技術(shù)平臺(tái)來(lái)自主完成特定治理任務(wù)的治理模式[21]。其中,數(shù)據(jù)是智能治理的依據(jù),算法是智能治理的核心,算法權(quán)力是智能治理的支撐。算法權(quán)力是一種技術(shù)形態(tài)的權(quán)力,算法權(quán)力如何行使及其引發(fā)的后果如何,取決于設(shè)計(jì)算法和實(shí)際掌握算法的主體。在政府自主研發(fā)和保障智能政務(wù)平臺(tái)算法安全的前提下,作為技術(shù)的算法本身并不會(huì)對(duì)政府權(quán)力構(gòu)成沖擊,反而會(huì)對(duì)政府治理體系的完善和治理能力的提升起到很大的推動(dòng)作用。目前,處于復(fù)雜社會(huì)中的現(xiàn)代政府,面臨的治理任務(wù)日漸增多,治理難度不斷增大,治理風(fēng)險(xiǎn)高度集聚,必須要借助于擁有深度學(xué)習(xí)算法的人工智能等技術(shù)手段來(lái)實(shí)現(xiàn)政府治理成本降低和政府治理能力提升的目標(biāo)。因此,政府需要在保障政府權(quán)力運(yùn)行安全的前提下,積極發(fā)揮算法在政府治理中的作用,推動(dòng)算法權(quán)力與政府權(quán)力從博弈走向融合,推動(dòng)政府治理從傳統(tǒng)治理范式向智能治理范式的轉(zhuǎn)變。

第二,注重技術(shù)理性和價(jià)值理性的平衡,確立政府主導(dǎo)和算法輔助的政府治理格局。智能治理作為一種新型的治理形態(tài),已經(jīng)在很多地方政府的治理實(shí)踐中初露端倪,智能治理時(shí)代的到來(lái)可能就在不久的未來(lái)。政府借助于先進(jìn)的智能技術(shù)平臺(tái)可以大大地減輕治理的負(fù)擔(dān),提高治理的精準(zhǔn)性,實(shí)現(xiàn)精細(xì)化治理的目標(biāo)。但是,伴隨具有深度學(xué)習(xí)算法的人工智能技術(shù)平臺(tái)在政府治理中應(yīng)用場(chǎng)景的不斷拓展,政府治理對(duì)于人工智能技術(shù)的依賴性越來(lái)越大,政府的工作人員逐漸喪失了在政府治理中的主動(dòng)性,治理的主體在人工智能算法面前逐漸變成了聽命于智能機(jī)器下達(dá)指令的執(zhí)行者。對(duì)此,我們需要進(jìn)行深刻的反思。政府治理面臨的問(wèn)題不僅繁雜,而且充滿了不同主體之間價(jià)值的分歧和利益的分化,既需要先進(jìn)的算法等技術(shù)手段的驅(qū)動(dòng),但更需要價(jià)值理性的指引,充分發(fā)揮政府工作人員在政府治理中的主動(dòng)性和積極性。由于隱藏在算法權(quán)力的技術(shù)表象之下的是算法設(shè)計(jì)者和算法擁有者的特定的價(jià)值取向和利益訴求,將政府治理任務(wù)完全交由人工智能算法來(lái)完成不僅不現(xiàn)實(shí),可能還會(huì)帶來(lái)巨大的價(jià)值分歧和利益沖突。而且,“在實(shí)踐過(guò)程中,技術(shù)治理存在著與科學(xué)技術(shù)有關(guān)的社會(huì)風(fēng)險(xiǎn)”[33]。因此,在可能會(huì)出現(xiàn)的智能治理時(shí)代,政府要充分發(fā)揮在智能治理中的主導(dǎo)權(quán),擁有先進(jìn)算法的智能機(jī)器只能是輔助政府及其工作人員進(jìn)行有效治理的手段。同時(shí),在注重技術(shù)理性的同時(shí),也要做好價(jià)值理性的培育,做到技術(shù)理性和價(jià)值理性的平衡,確立政府主導(dǎo)和算法輔助的政府治理格局。

5 結(jié)語(yǔ)

國(guó)家治理技術(shù)的變革和創(chuàng)新,是國(guó)家治理能力不斷提升和治理績(jī)效持續(xù)改進(jìn)的強(qiáng)大動(dòng)力。算法時(shí)代的到來(lái),推動(dòng)著算法技術(shù)在國(guó)家治理中應(yīng)用場(chǎng)景的不斷拓展和應(yīng)用程度的不斷加深,為國(guó)家治理難度和治理成本的降低以及國(guó)家治理能力和治理水平的提升帶來(lái)了難得的契機(jī)。同時(shí),伴隨算法技術(shù)在國(guó)家治理中嵌入程度的不斷加深,政府權(quán)力運(yùn)行的技術(shù)化趨勢(shì)和治理技術(shù)運(yùn)行的權(quán)力化特征相互強(qiáng)化,算法技術(shù)的權(quán)力特性開始凸顯。作為一種新型的權(quán)力形態(tài),算法權(quán)力是一把雙刃劍。算法權(quán)力的出現(xiàn),使得政府權(quán)力的運(yùn)行更加透明,政府運(yùn)行流程也更加優(yōu)化,為社會(huì)提供了一個(gè)有效規(guī)制國(guó)家權(quán)力運(yùn)行過(guò)程和防止國(guó)家公職人員濫用權(quán)力的技術(shù)路徑,推動(dòng)著國(guó)家與社會(huì)關(guān)系發(fā)生著積極的變化。但是,我們也要清醒地看到,算法權(quán)力的背后潛藏著控制算法設(shè)計(jì)目的和主導(dǎo)算法運(yùn)行過(guò)程的資本的影子。伴隨國(guó)家治理對(duì)算法技術(shù)依賴的日漸加深,擁有數(shù)據(jù)和算法技術(shù)優(yōu)勢(shì)的資本對(duì)國(guó)家和社會(huì)的影響力和控制力不斷增強(qiáng),推動(dòng)著算法時(shí)代的資本與國(guó)家、資本與社會(huì)的關(guān)系發(fā)生著深刻地變革。面對(duì)日漸強(qiáng)勢(shì)的由資本主導(dǎo)的算法權(quán)力,各主權(quán)國(guó)家在積極推動(dòng)利用算法技術(shù)為國(guó)家治理的能力提升和績(jī)效改進(jìn)服務(wù)的同時(shí),也要注意設(shè)計(jì)好權(quán)力的算法,從法律、技術(shù)、倫理等層面強(qiáng)化對(duì)算法權(quán)力及其背后的資本的規(guī)制,以確保算法嵌入下的國(guó)家治理秩序的穩(wěn)定和全球治理格局的有序。