梅立潤

(武漢大學(xué)馬克思主義學(xué)院,湖北 武漢 430072)

人類社會漫長的政治發(fā)展進(jìn)程中充滿了權(quán)力生產(chǎn)與權(quán)力轉(zhuǎn)移現(xiàn)象。自國家產(chǎn)生以來,國家與權(quán)力就形成了一體兩面的關(guān)系,國家是權(quán)力的主要代名詞,權(quán)力是國家的核心象征?；旧蠜]有人會質(zhì)疑國家擁有最廣泛和最正當(dāng)?shù)臋?quán)力,也基本上不存在能夠與國家相媲美的權(quán)力主體。出于發(fā)展和治理的需要,國家雖然會在部門體系內(nèi)部實行分權(quán),或?qū)⒉糠謾?quán)力授予國家部門體系之外的其他主體,但國家始終是權(quán)力的核心,權(quán)力配置的主動權(quán)依然牢牢掌握在國家手中。隨著人工智能專項戰(zhàn)略的密集出臺、新創(chuàng)人工智能企業(yè)的不斷出現(xiàn)、人工智能領(lǐng)域投融資的持續(xù)火熱以及人工智能應(yīng)用場景的日益豐富,人類社會開始邁入人工智能時代。在人工智能時代,作為人工智能技術(shù)關(guān)鍵成分的數(shù)據(jù)與算法,逐漸成為權(quán)力生產(chǎn)的新要素,誰掌握更充分的數(shù)據(jù)和更先進(jìn)的算法,誰就可能擁有更多或更大的權(quán)力,技術(shù)的賦權(quán)效應(yīng)得以彰顯。技術(shù)賦權(quán)可能催生與國家競爭的新權(quán)力主體,權(quán)力轉(zhuǎn)移現(xiàn)象可能再度發(fā)生。

一、數(shù)據(jù)與算法：人工智能時代權(quán)力的新來源

人類社會的發(fā)展與權(quán)力有著天生的粘連。在人類社會漫長的發(fā)展進(jìn)程中,構(gòu)成權(quán)力生產(chǎn)的要素不斷地發(fā)生變化,權(quán)力不停地流轉(zhuǎn),這意味著,并不是誰獲得了權(quán)力,就將永遠(yuǎn)坐擁權(quán)力。生活在一個技術(shù)色彩濃厚的時代,人們對技術(shù)及其關(guān)鍵成分作為一種重要的權(quán)力生產(chǎn)要素或者說對技術(shù)的賦權(quán)效應(yīng),早已司空見慣。在人工智能時代,權(quán)力生產(chǎn)的要素將再次迎來轉(zhuǎn)變,技術(shù)的賦權(quán)效應(yīng)將再次彰顯,權(quán)力也將再次發(fā)生轉(zhuǎn)移。

人類社會充滿了權(quán)力現(xiàn)象。雖然權(quán)力是一個頗為古老且使用頻率很高的概念,但也是一個“在本質(zhì)上可爭議”的概念,想要得到?jīng)]有爭議的理解權(quán)力的方式充滿難度[1]?！盁o論中西,權(quán)力的詞源含義說到底都是指影響,表示一個人影響他人的能力和力量。”[2]將權(quán)力視為某種影響力是權(quán)力界定的慣常用法,實際上,“慣常用法也構(gòu)成了一種真正的限制,完全背離慣常用法的界定只會成為孤芳自賞的純粹私人語言?！盵3]以慣常用法來看待權(quán)力,將權(quán)力視為某種影響力,緊接而來的問題是,什么可以帶來“影響力”?莫里斯·迪韋爾熱曾指出,“影響是建立在各種不同因素之上的,如物質(zhì)力量、進(jìn)行獎懲的可能條件、財產(chǎn)、威望、擁戴、標(biāo)準(zhǔn)、價值等等?！盵4]丹尼斯·朗則意識到,資源是權(quán)力的基礎(chǔ)[5],而達(dá)爾列舉出了更為具體的可供權(quán)力生產(chǎn)的“資源清單”,包括：個人自己的時間;獲取金錢、借貸和財富的機(jī)會;對工作機(jī)會的掌控;對信息的控制;自尊或社會地位;擁有個人魅力、知名度、合理性、合法性;與公職相稱的權(quán)利;作為社會某個階層的成員博得他人支持的能力;在職業(yè)、社會地位、宗教、種族血統(tǒng)等方面的相似性[6]。

雖然許多要素都單獨或組合地成為過權(quán)力的重要來源,但在不同時期,權(quán)力的來源會因時而變,不同要素對權(quán)力生產(chǎn)的貢獻(xiàn)率也會有所不同?！霸诙?zhàn)時期,我們認(rèn)為鋼鐵、輪船和飛機(jī)是權(quán)力的源泉。在核武時代,我們也是如此。如今在信息時代,我們開始重新確認(rèn)權(quán)力的來源?！盵7]“一個比黃金、貨幣和土地更靈活的無形的財富和權(quán)力基礎(chǔ)正在形成。這個新基礎(chǔ)以思想、技術(shù)和通訊占優(yōu)勢為標(biāo)志,一句話,以‘信息’為標(biāo)志?！盵8]換言之,信息的權(quán)力屬性在人類步入信息社會后愈發(fā)明顯[9],甚至在21世紀(jì)將成為權(quán)力最重要的來源[10]。隨著人工智能時代的到來,權(quán)力生產(chǎn)要素將再次發(fā)生轉(zhuǎn)變,“智能技術(shù)將成為重要的‘權(quán)力’元素”[11]。

數(shù)據(jù)是人工智能的根基。“如果說人工智能是嬰孩,大數(shù)據(jù)就是奶粉。人工智能的核心在于數(shù)據(jù)支持,人工智能的發(fā)展需要學(xué)習(xí)大量知識和經(jīng)驗,這些知識和經(jīng)驗其實就是數(shù)據(jù),人工智能越是深度發(fā)展,所需要學(xué)習(xí)的數(shù)據(jù)量就越大、越具體?！盵12]新一輪人工智能發(fā)展浪潮的興起在很大程度上正是得益于數(shù)據(jù)基礎(chǔ)的改善,移動互聯(lián)時代的到來,使得來自網(wǎng)絡(luò)搜索、電子商務(wù)、社會媒體、科學(xué)研究等不同領(lǐng)域的海量數(shù)據(jù)迅速累積,為人工智能的飛躍提供了充足的養(yǎng)分[13]。正因如此,數(shù)據(jù)的價值和重要性開始飆升。早在2006年,就有學(xué)者意識到“數(shù)據(jù)是新石油”[14]。近些年,這種認(rèn)知得到了更為廣泛的支持,比如《經(jīng)濟(jì)學(xué)人》2017年刊出的一篇文章就指出,“世界上最寶貴的資源不再是石油,而是數(shù)據(jù)”[15]。有人甚至認(rèn)為,隨著數(shù)據(jù)的新用途被不斷提出,數(shù)據(jù)已經(jīng)成為實現(xiàn)人們夢想的“萬靈藥”[16]?？梢哉f,誰擁有更充分和更優(yōu)質(zhì)的數(shù)據(jù),誰就可能在人工智能時代擁有更大的影響力或權(quán)力。數(shù)據(jù)成了人工智能時代權(quán)力生產(chǎn)的要素之一,“我們完全有理由說,數(shù)據(jù)不僅僅是新時代的原油、火藥,數(shù)據(jù)就是權(quán)力。”[17]

“從技術(shù)的角度來看,算法本質(zhì)上是基于特定的數(shù)學(xué)模型,將輸入轉(zhuǎn)化為輸出結(jié)果的系列計算步驟,也就是說,它本質(zhì)上是一種復(fù)雜的計算結(jié)構(gòu)與計算過程?！盵18]如果說數(shù)據(jù)是人工智能的基礎(chǔ),那么算法就是人工智能的“靈魂”[19],算法控制著數(shù)據(jù)的流動并實現(xiàn)所謂的“智能”[20],算法讓數(shù)據(jù)的價值得以彰顯。如果將數(shù)據(jù)視為“金礦石”,那么算法就是“煉金術(shù)”。更為關(guān)鍵的是,在人工智能時代,萬事萬物皆可數(shù)據(jù)化,數(shù)據(jù)成為信息與社會利益的載體,社會資源的分配往往需要基于對海量數(shù)據(jù)的分析,而分析海量數(shù)據(jù)又需要依賴于算法,這使得社會資源的分配權(quán)力不得不逐漸讓位于算法,算法由此逐漸脫離數(shù)學(xué)工具的角色,并發(fā)展成為一種重要的新興社會力量[21]。這種“新興社會力量”在選擇、判斷和決策方面具有獨特的優(yōu)勢,對現(xiàn)實生活的諸多方面都會產(chǎn)生顯著影響。“一種比‘代碼(算法)是法律’更具有啟發(fā)性的表達(dá)是‘代碼(算法)就是權(quán)力’：它能讓我們?nèi)プ鲋挥形淞?、?qiáng)制、影響力和操縱才會讓我們就范的事情”[22]。這也意味著,在人工智能時代,誰掌握更先進(jìn)和更高級的算法,誰就可能擁有更大的影響力或權(quán)力,算法同樣成為人工智能時代權(quán)力生產(chǎn)的要素之一。

二、技術(shù)優(yōu)勢與輔助治理：人工智能企業(yè)的權(quán)力生產(chǎn)

數(shù)據(jù)與算法在人工智能時代成為權(quán)力生產(chǎn)的新要素。問題在于,作為人工智能技術(shù)關(guān)鍵成分的數(shù)據(jù)與算法,并不會均衡地被不同主體所掌握。一方面,獲取海量、優(yōu)質(zhì)的數(shù)據(jù)往往是絕大多數(shù)人無法做到的;另一方面,設(shè)計先進(jìn)、高級的算法或者利用優(yōu)秀的算法對龐大的數(shù)據(jù)集進(jìn)行充分的價值挖掘,絕大多數(shù)人同樣也無法做到。換言之,在人工智能時代,由于數(shù)據(jù)獲取與數(shù)據(jù)處理能力的不均衡,只有少數(shù)更有能力獲取和分析數(shù)據(jù)的人,才會享受到人工智能的技術(shù)賦權(quán)紅利。

從理論上來說,“人工智能技術(shù)十分復(fù)雜、投資巨大,需要巨大數(shù)量的數(shù)據(jù)集合來創(chuàng)建人工智能場景應(yīng)用,只有政府或者大的科技型公司才有能力壟斷資源、壟斷數(shù)據(jù)?！盵11]然而現(xiàn)實情況是,“政府相對于某些巨頭科技公司來說,在大數(shù)據(jù)研發(fā)、應(yīng)用和人才方面都略遜一籌?！盵23]因為“現(xiàn)有人類社會大數(shù)據(jù)的生產(chǎn)主要來自各類應(yīng)用平臺,人們的工作和生活、學(xué)習(xí)、娛樂等消費記錄都通過各類應(yīng)用平臺傳遞到云端,而這些應(yīng)用平臺的研發(fā)者和運(yùn)行者屬于少數(shù)互聯(lián)網(wǎng)企業(yè)?！盵24]即是說,雖然政府在理論上有能力“壟斷數(shù)據(jù)”,但實際上,是大型科技公司或少數(shù)互聯(lián)網(wǎng)企業(yè),而不是國家和政府掌握著“更多的數(shù)據(jù)”。恰如有的研究者所言,“作為新時代的原油、火藥、權(quán)力基礎(chǔ),一部分?jǐn)?shù)據(jù)掌握在國家相關(guān)機(jī)構(gòu)手中,但更多的、每時每刻都在更新的數(shù)據(jù)掌握在少數(shù)網(wǎng)絡(luò)科技巨頭的手中”[17]。另外,算法研發(fā)的門檻偏高,要想設(shè)計出優(yōu)秀的算法,需要巨大的資金投入、專業(yè)的研究團(tuán)隊、扎實的前期技術(shù)基礎(chǔ)等支撐,只有少數(shù)大型科技公司和互聯(lián)網(wǎng)企業(yè)才有這樣足夠的“動機(jī)”和“實力”,將巨量資源投入到算法設(shè)計。因此,許多優(yōu)秀算法也主要掌握在少數(shù)大型科技公司和互聯(lián)網(wǎng)企業(yè)手中。

算法是人工智能的“靈魂”,是人工智能的技術(shù)內(nèi)核。隨著人工智能時代不斷從概念走向?qū)嵺`,“算法在現(xiàn)代社會愈發(fā)重要,通過挖掘分析和創(chuàng)新使數(shù)據(jù)產(chǎn)生了更大價值,提高了企業(yè)的運(yùn)行效率,優(yōu)化了產(chǎn)品和服務(wù)的質(zhì)量,提高了現(xiàn)代社會的自動化程度,影響著社會生活的各個方面,顯著提高了社會的運(yùn)轉(zhuǎn)效率和人們智能化生活的水平,甚至通過預(yù)測和輔助決策等功能決定著人類社會未來的走向。”[25]不可否認(rèn),當(dāng)前的人工智能應(yīng)用或算法應(yīng)用主要集中于經(jīng)濟(jì)領(lǐng)域和社會領(lǐng)域,或用來促進(jìn)一系列產(chǎn)業(yè)的轉(zhuǎn)型與升級,或用來為社會大眾提供方便適宜、體驗優(yōu)良的各種生活服務(wù)。不過在“算法統(tǒng)治的世界”[26],算法的作用最終會從經(jīng)濟(jì)、社會領(lǐng)域逐漸擴(kuò)散乃至滲透到國家治理領(lǐng)域。一方面,這符合歷次科技革命中標(biāo)志性技術(shù)作用擴(kuò)散的軌跡規(guī)律。鑒于治理的廣泛關(guān)聯(lián)性影響,國家在決定是否將新技術(shù)應(yīng)用于治理事務(wù)中時會更審慎。這雖在一定程度上延緩了新技術(shù)的治理應(yīng)用進(jìn)程,但并不至于完全封阻這種進(jìn)程。另一方面,這也契合現(xiàn)代國家治理的回應(yīng)性特征。畢竟當(dāng)人工智能帶來更佳的生產(chǎn)與生活體驗之后,社會大眾可能出現(xiàn)期待轉(zhuǎn)移,開始期待國家利用人工智能提供同樣的治理體驗和公共服務(wù)體驗。而且,社會大眾的心理預(yù)期會隨之水漲船高,一旦國家達(dá)成了民眾的期待,就只能按照“百尺竿頭更進(jìn)一步”的邏輯,繼續(xù)努力提供比之前更好的治理體驗和公共服務(wù)體驗。在國家治理越來越注重回應(yīng)社會期待與關(guān)切的環(huán)境中,這種期待轉(zhuǎn)移在某種程度上會倒逼國家不斷擴(kuò)大人工智能在國家治理領(lǐng)域中的應(yīng)用范圍。實際上,算法與國家治理的結(jié)合已經(jīng)日益成為一種潮流。不管是在中國還是其他國家,“機(jī)器學(xué)習(xí)在公共管理部門的使用似乎越來越普遍。各級政府實體越來越多地使用自動化系統(tǒng)和增強(qiáng)系統(tǒng)來提高公共管理部門業(yè)務(wù)的效率,或為更復(fù)雜的政策問題和方案決策提供技術(shù)支持?！盵27]

算法嵌入國家治理是大勢所趨,也是提升國家治理效度的科學(xué)嘗試。利用算法為治理決策提供新鮮全面的信息支持,識別政策問題并模擬解決方案,監(jiān)測社會問題,預(yù)判社會風(fēng)險等事例都已經(jīng)屢見不鮮。“借助于海量的大數(shù)據(jù)和具備強(qiáng)大計算能力的硬件設(shè)備,擁有深度學(xué)習(xí)算法的人工智能機(jī)器可以通過自主學(xué)習(xí)和強(qiáng)化訓(xùn)練來不斷提升自身的能力,解決很多人類難以有效應(yīng)對的治理難題?！盵28]由于人工智能企業(yè)在數(shù)據(jù)與算法方面擁有獨特優(yōu)勢,國家在解決社會公共問題時往往需要人工智能企業(yè)提供技術(shù)支持或技術(shù)輔助,人工智能企業(yè)因此成為國家治理需要依靠的重要力量。有人甚至認(rèn)為,在人工智能時代,“政府在理論上仍然是最大的‘公共性’組織,但是實現(xiàn)公共任務(wù)的技術(shù)路線和工具,將更多依賴于廣泛的協(xié)同合作……隨著數(shù)字革命和人工智能技術(shù)的進(jìn)步,未來可能有更多政府職能將被新技術(shù)方案或新技術(shù)機(jī)構(gòu)革新或替代?！盵29]其實,人工智能企業(yè)為國家治理提供技術(shù)支持或技術(shù)輔助的例子不在少數(shù)。比如,2020年6月,北京百分點信息科技有限公司自主研發(fā)的“智能政府決策系統(tǒng)(Deep Governor)”在中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上全新發(fā)布。該系統(tǒng)的核心功能包括數(shù)據(jù)融合治理、全局態(tài)勢感知、自由數(shù)據(jù)探索分析、預(yù)測預(yù)警和數(shù)據(jù)共享,能夠支持智能交互式增強(qiáng)分析以及實現(xiàn)對決策業(yè)務(wù)的事前判斷、事中控制和事后反饋,為提高國家科學(xué)決策水平,助推數(shù)字政府建設(shè)和“數(shù)據(jù)治國”提供了堅實的技術(shù)支撐。還比如,阿里云、浪潮集團(tuán)等云計算和人工智能科技公司,通過輔助建設(shè)城市大腦提高了眾多城市治理的精細(xì)化與智慧化水平。

總的來說,在人工智能時代,數(shù)據(jù)與算法成為權(quán)力生產(chǎn)的新要素。少數(shù)大型科技公司和互聯(lián)網(wǎng)企業(yè)在數(shù)據(jù)與算法方面擁有獨特的技術(shù)優(yōu)勢,實際上就等于掌握著獨特的技術(shù)型權(quán)力,即數(shù)據(jù)權(quán)力和算法權(quán)力,而且這是一種內(nèi)生型權(quán)力。由于少數(shù)大型科技公司和互聯(lián)網(wǎng)企業(yè)已經(jīng)搖身一變成為人工智能企業(yè),因此也可以說,人工智能的技術(shù)賦權(quán)紅利最終被各種各樣的人工智能企業(yè)所吸納。另外,在人工智能時代,許多社會公共問題雖然表面上是由國家運(yùn)用權(quán)力予以解決,但實際上越來越需要人工智能企業(yè)提供數(shù)據(jù)和算法支撐,人工智能企業(yè)在某種意義上成為國家治理的“幕后操作手”。在為國家治理提供技術(shù)支持或技術(shù)輔助的過程中,人工智能企業(yè)在某種程度上也獲得了國家“委托”的部分權(quán)力,開始憑借先進(jìn)的技術(shù)逐漸介入眾多公共事務(wù),并發(fā)展成為重要的公共治理主體。不過,人工智能企業(yè)這種因為輔助國家治理而獲得的權(quán)力帶有明顯的條件限制,是一種典型的外獲型權(quán)力。

三、人工智能企業(yè)權(quán)力增長的政治影響

穩(wěn)定的技術(shù)優(yōu)勢和滾滾向前的時代趨勢還可能使人工智能企業(yè)不斷獲得更多的內(nèi)生型權(quán)力與外獲型權(quán)力,人工智能企業(yè)權(quán)力的不斷增長會帶來什么影響?這是人工智能時代國家治理需要敏捷預(yù)判的問題。

1.從單中心到多中心：國家治理權(quán)力結(jié)構(gòu)的變化

從人類社會發(fā)展的漫長歷史事實來看,權(quán)力是比國家更早出現(xiàn)的現(xiàn)象,不過在國家產(chǎn)生之后,權(quán)力似乎就成了國家的天然標(biāo)簽,國家也成了權(quán)力的代名詞,這一點從諸多關(guān)于國家起源的論證中可以得到證明。在諸多論者看來,源于特定的需要,國家的存在總是與完成某種任務(wù)、解決某種問題、實現(xiàn)某種目的息息相關(guān)。不是為了幫助每個人過上自足優(yōu)良的生活,就是為了克服自然弊端或緩和社會矛盾,以避免在無謂斗爭中把自己和社會消滅。正是在承擔(dān)特定責(zé)任或者說在完成特定任務(wù)、解決特定問題、實現(xiàn)特定目的的過程中,國家才實現(xiàn)了對權(quán)力的獲取,與此同時也成了權(quán)力中心。隨著社會發(fā)展,社會公共事務(wù)和社會問題也變得更為多樣、多變和復(fù)雜,由于沒有任何其他主體能夠比國家更全面有效地處理這些事務(wù),因此國家長期以來甚至一直以來都是絕對權(quán)力中心,沒有任何其他主體能夠擁有與國家相媲美的治理權(quán)力。換言之,人類社會的國家治理權(quán)力結(jié)構(gòu)長期處于單中心狀態(tài)。

治理浪潮的興起曾一度在理念與實踐雙向?qū)用?對國家的絕對權(quán)力中心地位產(chǎn)生了沖擊。正如王浦劬所說,西方學(xué)者在20世紀(jì)末賦予治理以新的含義時,帶有明顯的弱化政治權(quán)力甚至是去除政治權(quán)威的傾向,大多主張通過向社會授權(quán)或者說放權(quán)于社會來實現(xiàn)國家與社會多元共治以及社會的多元自我治理,雖然西方治理理論發(fā)展至今已形成多個流派,但是立足于社會中心主義,取向于多中心社會自我治理,主張去除或者弱化國家權(quán)威,卻是其基本政治主張和傾向[30]。然而國家治理概念的盛行,似乎意味著國家的絕對權(quán)力中心地位再次得到了鞏固,因為“在治理前面加一個主語‘國家’,它跟一般講的治理有很大的區(qū)別,它避免單純講治理產(chǎn)生的去國家化、去政黨化、去政府化的傾向。”[31]如果治理強(qiáng)調(diào)的是國家在多維度上的后退,那么國家治理強(qiáng)調(diào)的就是向國家回退,就是再次看到了國家在處理多樣多變以及復(fù)雜的社會公共事務(wù)和社會問題中的作用。盡管隨著國家治理體系的日益開放,不少國家之外的其他主體也能夠參與處理這些事務(wù),或者說獲得了部分國家治理權(quán)力,但是都還不足以作為獨立的治理權(quán)力中心而存在。

然而,隨著人工智能時代的到來,人工智能企業(yè)可以憑借其擁有的數(shù)據(jù)與算法優(yōu)勢自行進(jìn)行權(quán)力生產(chǎn),以及在輔助國家治理的過程中另獲部分權(quán)力,從而有可能成為新權(quán)力中心,這會對傳統(tǒng)的國家單中心式治理權(quán)力結(jié)構(gòu)產(chǎn)生沖擊。有人就意識到,“隨著大數(shù)據(jù)技術(shù)在政府治理方面嵌入程度的不斷加深,政府將更加依賴這些巨頭公司,政府在利用企業(yè)開發(fā)的智能平臺處理政務(wù)時,后臺產(chǎn)生的大量數(shù)據(jù)也會被企業(yè)所俘獲,從而進(jìn)一步加劇權(quán)力結(jié)構(gòu)的不對稱性。因此,在人工智能時代,表面上看政府依舊是權(quán)力的行使者,但實際上其權(quán)力地位正在遭受來自互聯(lián)網(wǎng)巨頭的嚴(yán)重挑戰(zhàn)。”[23]雖說人工智能企業(yè)可能會挑戰(zhàn)或弱化國家的權(quán)力中心地位,但這并不代表國家權(quán)力中心地位會徹底消逝。換言之,在人工智能時代,國家治理權(quán)力中心的變化并不是非此即彼的單項選擇題,即A是權(quán)力中心,B就不是權(quán)力中心,而是一個多項選擇題,即A可以是權(quán)力中心,B也可以是權(quán)力中心,C還可以是權(quán)力中心。概言之,在人工智能時代的國家治理事業(yè)中,國家作為治理權(quán)力中心的傳統(tǒng)地位雖經(jīng)受沖擊,但是并未完全垮掉。一些代表性的人工智能企業(yè)可以成為新權(quán)力中心,國家治理權(quán)力結(jié)構(gòu)從國家單中心式結(jié)構(gòu)轉(zhuǎn)變?yōu)槎嘀行慕Y(jié)構(gòu)。

人類社會對權(quán)力的警惕由來已久,權(quán)力有作惡以及濫用的自然本性這一認(rèn)知被廣為接受。如果在人工智能時代到來之前,人們警惕的是實實在在的國家及其權(quán)力,那么在人工智能時代,人們需要警惕的則是人工智能企業(yè)及其權(quán)力。畢竟連具有獨特使命與責(zé)任的國家都需要被警惕,更何況是以追求利潤為根本目標(biāo)的人工智能企業(yè)呢?如果人工智能企業(yè)在提供技術(shù)輔助時,在設(shè)計算法環(huán)節(jié)嵌入企業(yè)私利的考慮,那么依賴于該算法的特定國家治理行動就可能難以達(dá)致預(yù)期效果。如果說在人工智能時代到來之前,人們常見的權(quán)力尋租形式是國家向社會、市場、企業(yè)、個人尋租,那么在人工智能時代,權(quán)力尋租形式可能變?yōu)槿斯ぶ悄芷髽I(yè)向國家、其他企業(yè)、個人尋租。

2.從權(quán)責(zé)同體到權(quán)責(zé)分離：國家治理問責(zé)難題的出現(xiàn)

通過分工劃定不同主體的職權(quán)范圍,并且對特定主體履職不當(dāng)、用權(quán)不力進(jìn)行問責(zé)是一個政治體系健康運(yùn)行的基礎(chǔ)。國家治理是一項頗為繁瑣復(fù)雜的工程,國家治理的展開既需要各種國家部門履行好各自職權(quán),也需要對國家部門的過錯行為進(jìn)行問責(zé)。權(quán)責(zé)同體或者說讓擁有特定職權(quán)的主體承擔(dān)履職不當(dāng)、用權(quán)不力的責(zé)任,是現(xiàn)代社會通行的基本政治規(guī)則。長期以來,通過明確劃定職權(quán)邊界以及建立健全一系列與履職用權(quán)責(zé)任認(rèn)定或追究相關(guān)的制度、規(guī)則、標(biāo)準(zhǔn)、程序,國家各種部門總體上能夠有序有效履職用權(quán),國家也能夠在其出現(xiàn)過錯時及時清晰鎖定責(zé)任對象,權(quán)責(zé)同體的基本政治規(guī)則得以普遍遵循。

隨著人工智能技術(shù)發(fā)展段位的不斷提高和應(yīng)用范圍的不斷擴(kuò)大,國家治理的數(shù)字化轉(zhuǎn)型和智能化轉(zhuǎn)型進(jìn)程也不斷加快,“循數(shù)治國”和“算法治理”日趨成為備受理論與實踐雙向推崇的治理樣態(tài)。在此過程中,許多國家部門的行動越來越注重遵循算法的指示,“行政決策中人類形式上的參與無法掩蓋算法作出實質(zhì)決策的真相”[21]。不過算法也可能產(chǎn)生不可預(yù)測的后果。一方面,算法是為解決問題而生的,隨著社會問題越來越多且越來越復(fù)雜,算法設(shè)計的難度也在不斷增加。過去由幾百行、幾千行或幾萬行代碼組成的算法就可以解決問題,而如今可能需要幾十萬行、幾百萬行甚至上億行代碼,在此過程中難免會有所疏漏,從而使算法產(chǎn)生一些不可預(yù)測的后果。另一方面,算法畢竟是由人設(shè)計的,算法的優(yōu)劣很大程度上取決于算法設(shè)計者的認(rèn)知能力、知識水平。然而,人的能力是有限的,算法設(shè)計者很難掌握與特定問題相關(guān)的所有知識,因此在算法設(shè)計過程中很可能出現(xiàn)某些偏差,最終使得算法后果不堪設(shè)想。再者,針對特定問題而設(shè)計出來的算法帶有一定的穩(wěn)定性,但是特定問題的發(fā)展態(tài)勢會受各種自然和社會環(huán)境因素變化的影響,而算法設(shè)計者很難全面了解和控制環(huán)境的變化,因此設(shè)計出來的算法可能難以解決已經(jīng)發(fā)生了變化的問題,“強(qiáng)行匹配”只會使得算法的后果不可預(yù)測[32]。換言之,由于算法本身的復(fù)雜程度日益提高、算法設(shè)計者的認(rèn)知局限以及環(huán)境的動態(tài)變化,算法可能出現(xiàn)失誤,從而造成不可預(yù)測的后果。雖然算法失誤并不是新鮮事,但關(guān)鍵問題是,依據(jù)算法指示而行動的國家部門可能也會因此出現(xiàn)失誤,從而造成影響更為廣泛的負(fù)面后果。

國家治理影響廣泛的特性使得國家治理更不容有失,嚴(yán)肅問責(zé)可以倒逼國家部門盡職履責(zé),盡可能減少治理失誤。問題在于,當(dāng)治理失誤是由算法失誤導(dǎo)致時,到底該向誰問責(zé)?從理論上來說,應(yīng)該直接問責(zé)于相關(guān)國家部門,但由于國家在解決社會公共問題時已將部分權(quán)力“委托”給人工智能企業(yè),而且企業(yè)的這部分“授權(quán)”會隨國家治理算法依賴程度的加深而不斷增長,因此,責(zé)任似乎更應(yīng)歸咎于人工智能企業(yè)。然而,由于算法可以自我學(xué)習(xí)與升級,因此即使是人工智能企業(yè)或算法設(shè)計者本身有時都無法完全清楚算法為何那般決策。即是說,在數(shù)據(jù)輸入與結(jié)果輸出之間,人們明知存在一個計算環(huán)節(jié),然而卻無法洞悉計算的邏輯與過程,這就形成了所謂的“算法黑箱”。恰如有的研究者所言,“算法的使用在實際傳播中形成了一道認(rèn)知門檻,使得普通公眾無法清晰了解其中的運(yùn)作流程,好像是在面對一個無法看到內(nèi)部的黑洞?！盵33]“算法黑箱”的存在,同樣使得人工智能企業(yè)或算法設(shè)計者可以找到卸責(zé)的理由。隨著卸責(zé)鏈條的拉長,最終導(dǎo)致無法找到合適的對象來為算法失誤的后果負(fù)責(zé)。權(quán)責(zé)分離或者說責(zé)任模糊,使得問責(zé)的大棒高高舉起卻又難以揮下,國家治理陷入問責(zé)難題。有學(xué)者意識到,“即使因算法缺陷導(dǎo)致決策失誤,或者公眾對算法決策的結(jié)果不滿意,行政人員往往傾向于把責(zé)任諉過算法或算法開發(fā)公司,而對算法或算法開發(fā)公司又難以司法審查,責(zé)任主體模糊往往使得算法決策陷入審查難、問責(zé)難的窘境?！盵34]強(qiáng)行問責(zé)是許多人想到的解決辦法,不過結(jié)果可能得不償失,因為強(qiáng)行問責(zé)相關(guān)國家部門,容易抑制國家部門采用新技術(shù)的動力,強(qiáng)行問責(zé)人工智能企業(yè)或算法設(shè)計者,又容易消解市場與國家進(jìn)行技術(shù)合作的信心。

總體而言,以特定職權(quán)作為各種國家部門行動的方向指引,以問責(zé)糾偏來校正各種國家部門的行動選擇,是保證國家治理有力有序有效的重要機(jī)制支撐。不過在國家治理走向算法化的時代,當(dāng)出現(xiàn)治理失誤時,“算法黑箱”和卸責(zé)鏈條的存在會使得責(zé)任歸屬模糊化或使權(quán)責(zé)同體的基本政治規(guī)則遭受沖擊,本應(yīng)為治理失誤負(fù)責(zé)的職權(quán)主體,很可能找到卸責(zé)理由而僥幸避責(zé),出現(xiàn)權(quán)責(zé)分離或問責(zé)空轉(zhuǎn)現(xiàn)象。誰的責(zé)任,誰來負(fù)責(zé),問責(zé)于誰將成為一個難題。

四、結(jié)論與思考

人類社會充滿了技術(shù)與權(quán)力的身影,技術(shù)發(fā)展與權(quán)力生產(chǎn)之間有著千絲萬縷的聯(lián)系。人工智能時代的到來,使得數(shù)據(jù)與算法成為新的權(quán)力生產(chǎn)要素,人工智能企業(yè)因為在數(shù)據(jù)與算法方面占有獨特優(yōu)勢而內(nèi)生出部分技術(shù)型權(quán)力,加之這些企業(yè)受國家治理倚重而另獲國家“委托”的部分權(quán)力,由此可能會形成國家與人工智能企業(yè)聯(lián)合治理的局面。隨著人工智能技術(shù)不斷發(fā)展升級,以及在國家治理算法依賴程度不斷加深的情況下,人工智能企業(yè)的權(quán)力有可能會繼續(xù)增長,這就意味著其介入國家治理事務(wù)的范圍會不斷擴(kuò)大,可能會成為除國家之外的新權(quán)力中心。這必然會改變傳統(tǒng)的國家治理權(quán)力結(jié)構(gòu),使之從國家單中心式結(jié)構(gòu)轉(zhuǎn)變?yōu)槎嘀行慕Y(jié)構(gòu)。然而,鑒于算法可能出現(xiàn)失誤以及“算法黑箱”和卸責(zé)鏈條的存在,人工智能企業(yè)權(quán)力的不斷增長還可能使權(quán)責(zé)同體的基本政治規(guī)則遭到破壞,催生權(quán)責(zé)分離現(xiàn)象或引發(fā)問責(zé)難題。當(dāng)然,除了促使國家治理權(quán)力結(jié)構(gòu)改變和催生權(quán)責(zé)分離現(xiàn)象,人工智能企業(yè)權(quán)力的不斷增長還會產(chǎn)生其他政治影響,只不過上述影響更為明顯且直接。這意味著,人工智能企業(yè)權(quán)力增長的政治影響還有潛在的學(xué)術(shù)挖掘空間,有待持續(xù)細(xì)致的實踐觀察。

新權(quán)力中心在多大概率上會出現(xiàn),既取決于國家與人工智能企業(yè)的技術(shù)實力對比,也取決于國家治理對人工智能企業(yè)的技術(shù)依賴程度。如果人工智能企業(yè)在數(shù)據(jù)與算法方面擁有更顯著的技術(shù)優(yōu)勢,國家治理對人工智能企業(yè)的技術(shù)依賴程度較高,那么其就會有更多的機(jī)會與空間實現(xiàn)權(quán)力獲取,新權(quán)力中心就很有可能出現(xiàn);相反,如果國家在數(shù)據(jù)與算法方面擁有不輸于人工智能企業(yè)的實力,或者只是小范圍、低程度地依賴人工智能企業(yè)的技術(shù)支持或技術(shù)輔助,那么新權(quán)力中心出現(xiàn)的可能性就會低很多。在此意義上,國家在應(yīng)對新權(quán)力中心出現(xiàn)方面具有較大的進(jìn)退空間,因為國家可以張弛有度地推進(jìn)技術(shù)研發(fā),以增強(qiáng)技術(shù)相對優(yōu)勢,也可以幅度自控地減少對人工智能企業(yè)的技術(shù)依賴。雖說如此,但也需要未雨綢繆,對人工智能企業(yè)輔助國家治理“做好最壞的打算”,因為“公共管理部門人工智能系統(tǒng)的部署和應(yīng)用所帶來的問題,很多是高度政治性和飽含主觀價值偏載的,因此在這些技術(shù)擴(kuò)展所涉及的各個領(lǐng)域,我們都應(yīng)當(dāng)特別注意”[27],畢竟企業(yè)逐利的本性加上龐大的權(quán)力讓人“不得不防”。盡管有人不情愿以某種不好的預(yù)設(shè)去假想人工智能企業(yè)在輔助國家治理時可能發(fā)生的事情,不過國家治理的廣泛關(guān)聯(lián)性已經(jīng)超越了情不情愿的問題。以“無賴假設(shè)”推測人工智能企業(yè)有助于國家在與人工智能企業(yè)展開治理合作時提高警惕,以更周全的方案推動人工智能企業(yè)輔助國家治理,避免國家面對“出乎意料”的情況時手足無措、自亂陣腳。

相對于應(yīng)對新權(quán)力中心所具有的較大進(jìn)退空間,國家在應(yīng)對問責(zé)難題時就沒有多少回旋余地,只要人工智能企業(yè)介入國家治理,就一定要注意可能由“算法黑箱”和卸責(zé)鏈條引發(fā)的權(quán)責(zé)分離現(xiàn)象。換言之,國家對新權(quán)力中心是否會出現(xiàn)可以選擇性地關(guān)注,對權(quán)責(zé)分離現(xiàn)象或問責(zé)難題卻是一定要關(guān)注。應(yīng)對人工智能時代的權(quán)責(zé)分離現(xiàn)象或問責(zé)難題,治本之法就是規(guī)避算法失誤,因為規(guī)避算法失誤就等于規(guī)避了治理失誤,從源頭上掐斷了卸責(zé)的鏈條。規(guī)避算法失誤,促使人工智能企業(yè)高度自律,是最為節(jié)約成本的方式。人工智能企業(yè)高度自律指的是人工智能企業(yè)在設(shè)計相關(guān)算法時主動精益求精,不刻意設(shè)計存有漏洞的算法,而要促使人工智能企業(yè)形成高度自律,國家還需要匹配系列制度。一是備案與試點制。任何人工智能企業(yè)在為國家提供治理算法支持時,都需要將算法的核心設(shè)計精神、關(guān)鍵代碼等向國家相關(guān)機(jī)構(gòu)備案說明,并且盡可能在小范圍內(nèi)先進(jìn)行使用試驗。備案說明既是一種承諾壓力,也是提供責(zé)任認(rèn)定的線索與證據(jù)。二是隨機(jī)抽查檢驗制。針對人工智能企業(yè)為國家治理提供的特定算法,國家需要不定時進(jìn)行算法抽查檢驗,這樣既能防止人工智能企業(yè)“備用分離”,單方面擅自調(diào)整算法,也能防止算法在自我學(xué)習(xí)過程中“變壞”而無人知曉。三是服務(wù)積分制。對于輔助國家治理效果非常好、一般、不好、很差的算法及企業(yè),國家可以考慮記不同分?jǐn)?shù),經(jīng)過多輪合作之后形成一個動態(tài)積分榜。國家定期統(tǒng)計積分,對于積分低的人工智能企業(yè),國家要壓縮其技術(shù)支持的空間和機(jī)會,甚至“一票否決”,對于積分高的人工智能企業(yè),國家可以考慮增進(jìn)與其合作的頻率。