龐 洋

(東北師范大學(xué) 馬克思主義學(xué)院,長春 130024;哈爾濱職業(yè)技術(shù)學(xué)院 馬克思主義學(xué)院,哈爾濱 150081)

黨的十九屆四中全會提出“建立健全運(yùn)用互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等技術(shù)手段進(jìn)行行政管理的制度規(guī)則”,而數(shù)字政府建設(shè)的持續(xù)推進(jìn)需要不斷利用新的技術(shù)革命成果。繼2022年11月美國OpenAI公司推出聊天機(jī)器人程序ChatGPT(Chat Generative Pre-trained Transformer)之后,國內(nèi)多家互聯(lián)網(wǎng)科技公司也陸續(xù)推出了更多的生成式人工智能產(chǎn)品,例如百度的文心一言、阿里巴巴的通義千問、華為的盤古大模型等。這些產(chǎn)品的核心技術(shù)支撐被統(tǒng)稱為生成式人工智能。按照國家互聯(lián)網(wǎng)信息辦公室2023年4月11日發(fā)布的《生成式人工智能服務(wù)管理辦法(征求意見稿)》第二條的表述,生成式人工智能是指“基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)”;2023年7月10日正式出臺的《生成式人工智能服務(wù)管理暫行辦法》則在附則中說明,生成式人工智能技術(shù)是指“具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)”。

目前學(xué)界對生成式人工智能的探討主要關(guān)注兩大方面:一是生成式人工智能在各行各業(yè)的應(yīng)用前景,其中討論最多的是生成式人工智能為教育領(lǐng)域革新創(chuàng)造的機(jī)遇[1-3];二是生成式人工智能的應(yīng)用可能引發(fā)的風(fēng)險(xiǎn),備受關(guān)注的大致包括著作權(quán)風(fēng)險(xiǎn)[4]16-33、國家安全風(fēng)險(xiǎn)[5]、法律規(guī)制風(fēng)險(xiǎn)[4]16-33;[6]等?？傮w來看,目前關(guān)于生成式人工智能的研究主要還是以ChatGPT為核心而展開的,且鮮少涉及數(shù)字政府建設(shè)領(lǐng)域(1)盡管也有學(xué)者對生成式人工智能在數(shù)字政府建設(shè)領(lǐng)域的應(yīng)用展開了初步探討,但他們也主要是圍繞ChatGPT來展開的。其中,比較具有代表性的論文主要有兩篇:周智博.ChatGPT模型引入我國數(shù)字政府建設(shè):功能、風(fēng)險(xiǎn)及其規(guī)制[J].山東大學(xué)學(xué)報(bào)(哲學(xué)社會科學(xué)版),2023(3):144-154;張夏恒.類ChatGPT人工智能技術(shù)嵌入數(shù)字政府治理:價(jià)值、風(fēng)險(xiǎn)及其防控[J].電子政務(wù),2023(4):45-56.。但事實(shí)上,ChatGPT并不對中國用戶開放,從嚴(yán)格意義上講,“將ChatGPT運(yùn)用到我國數(shù)字政府建設(shè)中”可能并不切合實(shí)際。不過,以ChatGPT為基礎(chǔ)原型,越來越多的生成式人工智能產(chǎn)品開始涌現(xiàn),因而,生成式人工智能進(jìn)入我國數(shù)字政府建設(shè)中不僅是大勢所趨,更是數(shù)字政府建設(shè)本身技術(shù)革新的需求所在。因此,我國數(shù)字政府建設(shè)的技術(shù)突破應(yīng)當(dāng)著眼于ChatGPT之后衍生的一系列生成式人工智能產(chǎn)品?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》的出臺也從側(cè)面說明了國家對生成式人工智能發(fā)展“支持和鼓勵”的主基調(diào)。在此背景下,探討如何利用生成式人工智能技術(shù)來推進(jìn)數(shù)字政府建設(shè),從而為新時(shí)代國家治理現(xiàn)代化提供最新的技術(shù)驅(qū)動,就具有重要意義。

一、數(shù)字政府的技術(shù)迭代與能力攀升——生成式人工智能的現(xiàn)實(shí)作用

生成式人工智能在自然語言理解和處理、內(nèi)容生成、知識更新三個(gè)方面實(shí)現(xiàn)了較大跨度的技術(shù)升級。將生成式人工智能運(yùn)用到數(shù)字政府建設(shè)中,能夠克服以往人工智能的諸多弊端,促進(jìn)政府服務(wù)能力的提升,從而更高效地實(shí)現(xiàn)社會治理目標(biāo)。

(一)“身臨其境”——數(shù)字政府借助生成式人工智能實(shí)現(xiàn)溝通升級

在以往人工智能技術(shù)的運(yùn)用中,存在一個(gè)很明顯的缺陷,即機(jī)器算法僅能夠根據(jù)對話者的提問而從已有的答案數(shù)據(jù)庫當(dāng)中提取相關(guān)回答,這些回答是由設(shè)計(jì)者根據(jù)各種可能的情境而提前設(shè)置好并內(nèi)嵌于智能算法之內(nèi)的,其問題在于:一方面,這種弱人工智能往往并不能真正有效地理解對話者提出的問題,可能產(chǎn)生錯(cuò)誤理解;另一方面,對話者提出的個(gè)性化問題往往并不能得到解決,凸顯出“人工智能不智能”的窘境。而生成式人工智能通過“基于人類反饋的強(qiáng)化學(xué)習(xí)技術(shù)”(Reinforcement Learning with Human Feedback,RLHF),在對自然語言的理解和處理上實(shí)現(xiàn)了技術(shù)躍遷。RLHF技術(shù)一方面使得人工智能算法能夠清晰地理解用戶的提問,另一方面通過模仿人類思維的聯(lián)想和關(guān)注機(jī)制而使得生成式人工智能作出的回答能夠與人類思維一致,不僅能夠回應(yīng)一般性問題,還能有效解決對話者提出的個(gè)性化問題。生成式人工智能的這種技術(shù)躍遷在數(shù)字政府建設(shè)的內(nèi)、外兩個(gè)層面上都能有效輔助政府提供公共服務(wù)。

在數(shù)字政府建設(shè)的內(nèi)部層面上,生成式人工智能的自然語言理解能力和處理能力的提升有助于政府內(nèi)部不同部門之間協(xié)調(diào)溝通,破除“部門孤島”和“數(shù)據(jù)孤島”現(xiàn)象。數(shù)字政府建設(shè)的一大特征在于政府部門之間公共數(shù)據(jù)開放共享,由數(shù)據(jù)驅(qū)動部門間協(xié)調(diào)能力的提升,從而更好地為公眾提供服務(wù)。但在數(shù)字政府建設(shè)初期,“數(shù)據(jù)孤島”問題給部門間數(shù)據(jù)溝通和協(xié)調(diào)造成了較大困擾[7]。利用生成式人工智能,不僅可實(shí)現(xiàn)各個(gè)部門之間的數(shù)據(jù)聯(lián)結(jié),還能以自然語言方式向有使用需求的其他部門人員闡明專業(yè)性部門的數(shù)據(jù),從而打破不同部門工作人員之間的專業(yè)知識壁壘和專業(yè)語言壁壘。

在數(shù)字政府建設(shè)的外部層面上,生成式人工智能的自然語言理解和處理能力有助于節(jié)省政府人力成本,有效提升政府對外公共服務(wù)效能。其一,如上所述,囿于弱人工智能的技術(shù)限制,當(dāng)前很多地區(qū)的數(shù)字政府服務(wù)存在“人工智能不智能”的問題。面對公眾復(fù)雜的公共服務(wù)需求,原有的智能算法技術(shù)并不能有效地理解人類語言,這就限制了智能技術(shù)參與公共服務(wù)的覆蓋面的擴(kuò)展。而生成式人工智能則可以憑借自身超強(qiáng)的自然語言理解能力和生成能力,克服當(dāng)前數(shù)字政府中機(jī)器翻譯、自動問答、智能服務(wù)等數(shù)字化政務(wù)服務(wù)項(xiàng)目對語言的理解能力的局限,從而提升智能化政務(wù)服務(wù)的質(zhì)量和效率。其二,面對公眾個(gè)性化的服務(wù)需求,生成式人工智能基于RLHF技術(shù),能夠輕松應(yīng)對。譬如,在個(gè)人稅務(wù)辦理服務(wù)中,每個(gè)主體的專項(xiàng)扣除、專項(xiàng)附加扣除以及依法確定的其他扣除金額都不一樣,呈現(xiàn)出極大的個(gè)體化差異,而一般公眾又欠缺稅法知識和稅法運(yùn)用能力,難以明晰自己的應(yīng)扣除金額,部分情況下甚至因?yàn)閷Ψ蓷l文的不理解而放棄自己的專項(xiàng)附加扣除,減損了法律賦予納稅人的權(quán)益。生成式人工智能有助于解決公共服務(wù)中的這種個(gè)性化問題,通過與用戶的對話來不斷強(qiáng)化學(xué)習(xí),并根據(jù)前后對話背景等給出有效反饋,從而促進(jìn)數(shù)字政府從“對話智能體”(conversational agent)向“涉身對話智能”(embodied conversational agent)的轉(zhuǎn)型[8]145。

(二)量變質(zhì)變——數(shù)字政府借助生成式人工智能實(shí)現(xiàn)效率進(jìn)化

有研究發(fā)現(xiàn),ChatGPT在文本理解和生成等自然語言處理任務(wù)上有較大的進(jìn)步,如在文本修正能力、長文本輸出能力、生成內(nèi)容個(gè)性化和輸出形式多元化等方面實(shí)現(xiàn)了技術(shù)的躍遷。從技術(shù)層面分析,這得益于深度神經(jīng)網(wǎng)絡(luò)、大型語言研究模型的不斷發(fā)展,即海量數(shù)據(jù)加上巨大的算力催生了這樣一個(gè)大型語言模型。在一定程度上,也正是因?yàn)槲谋旧赡芰Φ能S遷,生成式人工智能對于促進(jìn)數(shù)字政府建設(shè)、提升公共服務(wù)效果的積極作用更加顯著,其具體表現(xiàn)至少有以下四個(gè)方面:

第一,文本生成能力的躍遷有利于提高數(shù)字政府的治理效率。政府治理效率是指政府治理中產(chǎn)出與投入的比率。隨著我國行政體制的不斷改革,政府的行政管理效率不斷提高,但毋庸諱言,與民眾對政府效率的期待相比仍有差距,黨的二十大報(bào)告也提出要“提高行政效率”。如何更有效地提高政府治理效率,是我們必須面對的問題。實(shí)際上,生成式人工智能的應(yīng)用便有利于促進(jìn)上述需求的滿足和目標(biāo)的實(shí)現(xiàn)。這是因?yàn)?以ChatGPT為代表的生成式人工智能為數(shù)字政府治理提供了新的工具,能夠讓公職人員較為輕松快速地展開工作、履行職能。在公職人員輸入工作需求后,系統(tǒng)能直接替他們進(jìn)行資料總結(jié)甚至完成初稿寫作,把他們從煩瑣的文字工作中解放出來。當(dāng)前,美國、英國、日本和新加坡等國政府部門已經(jīng)明確發(fā)出了與ChatGPT合作的信號。以新加坡為例,政府正在開發(fā)一套類似于ChatGPT的系統(tǒng),以輔助公職人員草擬報(bào)告和演講稿等一系列政務(wù)文檔。這不僅可以有效提升政府部門工作效率,還能解決相關(guān)工作人員能力不足等問題。

第二,文本生成能力的躍遷有利于降低數(shù)字政府的管理成本。誠如學(xué)者所言:“政府治理成本反映在政府治理體系運(yùn)行的方方面面,又以政府運(yùn)行成本、資源配置成本及社會摩擦成本為主。政府治理成本支出的高效化是政府治理的核心,是公眾滿意的必要條件。”[9]48具體而言,管理成本因文本生成能力躍遷而降低的表現(xiàn)有以下幾方面:一是降低學(xué)習(xí)成本。ChatGPT等生成式人工智能具有強(qiáng)大的文本生成能力,可以幫助行政機(jī)關(guān)更加輕松地獲取行政程序中所需要的相關(guān)文本和內(nèi)容,而不需要再投入人力、物力、財(cái)力對行政人員進(jìn)行某些專門培訓(xùn)。二是降低組織成本。實(shí)際上,上文所言的治理效率的提升與組織成本的降低是事物的一體兩面,在效率明顯提高之后,自然就意味著人員和組織體系的精簡,就能夠大幅度降低政府組織成本和運(yùn)行成本。三是降低維護(hù)成本。文本生成能力的自主自發(fā)性更強(qiáng)了,則學(xué)習(xí)過程無須人的介入就能靈活應(yīng)用所學(xué)知識解決實(shí)際問題[10]。因此,并不需要再投入過多的成本來實(shí)現(xiàn)對文字生成能力的維護(hù)。而且,基于系統(tǒng)的高度智能化,還能降低行政管理過程中發(fā)生低級錯(cuò)誤的概率,這也是降低維護(hù)成本的一大表現(xiàn)。

第三,文本生成能力的躍遷有利于增進(jìn)數(shù)字政務(wù)的精細(xì)化。黨的二十大報(bào)告提出完善“精細(xì)化服務(wù)”。我國目前正處于全面深化改革的關(guān)鍵時(shí)期,人民的個(gè)性化需求不斷增多,這就要求我們轉(zhuǎn)變法治政府的治理思路,實(shí)現(xiàn)數(shù)字政府的精細(xì)化治理。實(shí)際上,人工智能文本生成能力的躍遷對于數(shù)字政府的精細(xì)化治理就大有裨益?！暗烷T檻、多元化、智能化始終是ChatGPT模型的最大優(yōu)勢,強(qiáng)大的語言算法系統(tǒng),能夠讓ChatGPT模型全方位了解不同學(xué)歷背景、不同年齡階段、不同專業(yè)能力的行政相對人需求?！盵8]147也就是說,生成式人工智能可在充分兼顧不同主體特征和需求的基礎(chǔ)上,根據(jù)提問者的不同問題和要求,智能化地生成相應(yīng)文本內(nèi)容。舉例而言,在數(shù)字政府行政過程中,生成式人工智能會在有效理解行政相對人和具體事實(shí)等個(gè)性化因素的基礎(chǔ)上生成規(guī)則與事實(shí)相融合的說理性文書內(nèi)容,提升文書的說理性和精細(xì)化程度。此外,生成式人工智能融入數(shù)字政府后,文書的準(zhǔn)確性和內(nèi)容豐富性隨之增強(qiáng),從而使政府的思路更為開闊,這也為數(shù)字政府的精細(xì)化奠定了重要基礎(chǔ)。

第四,文本生成能力的躍遷有利于控制數(shù)字政府的規(guī)模。政府規(guī)模是指各級政府和各個(gè)部門數(shù)量的總和?！皵?shù)字政府規(guī)模取決于數(shù)字政府對治理范圍、數(shù)量的界定及其政務(wù)的復(fù)雜程度,又與各級政府及各個(gè)部門在具體運(yùn)行中涉及數(shù)據(jù)的分析與把握存在顯著的關(guān)聯(lián)?！盵9]46在數(shù)字政府構(gòu)建過程中,要注重對數(shù)字政府規(guī)模的控制,防止形成結(jié)構(gòu)過于精簡或過于龐大的數(shù)字政府。實(shí)際上,文本生成能力是有效控制數(shù)字政府規(guī)模的重要技術(shù)支撐。這是因?yàn)?生成式人工智能可為數(shù)字政府提供以下方面的幫助:一是輔助性的資料收集、信息發(fā)布、行政問詢等政務(wù)工作可由生成式人工智能予以替代;二是諸多簡單的文書寫作工作可由生成式人工智能完成,如寫一些簡單的文件、方案、發(fā)言稿、匯報(bào)材料、總結(jié)材料等常規(guī)文稿不需要再由人工進(jìn)行。當(dāng)這些工作由生成式人工智能替代時(shí),治理主體就可以從簡單事務(wù)中解放出來,繼而可以減少部分編制和工作人員數(shù)量,進(jìn)一步實(shí)現(xiàn)行政機(jī)構(gòu)的精簡化。

(三)知識升級——數(shù)字政府借助生成式人工智能實(shí)現(xiàn)認(rèn)知躍遷

數(shù)字政府建設(shè)需要緊跟技術(shù)應(yīng)用的發(fā)展,并借助新技術(shù)來及時(shí)應(yīng)對新知識和新問題。傳統(tǒng)人工智能技術(shù)由于缺乏自主學(xué)習(xí)能力,在應(yīng)對新的社會領(lǐng)域和問題時(shí)存在困難。而生成式人工智能在知識更新方面具有顯著優(yōu)勢,可在數(shù)字政府建設(shè)中助力應(yīng)對新知識、新技術(shù)和新問題所帶來的挑戰(zhàn)。

首先,生成式人工智能的知識更新能力集中體現(xiàn)于其參數(shù)量的高速膨脹。這對于數(shù)字政府建設(shè)具有重要意義,因?yàn)檫@種知識更新能力有助于行政機(jī)關(guān)及時(shí)了解和學(xué)習(xí)新知識。以ChatGPT為例,其前身是2018年OpenAI公司發(fā)布的第一個(gè)GPT模型,它被稱為GPT-1。隨后的GPT-2、GPT-3、InstructGPT分別在2019年、2020年和2022年3月發(fā)布。每一代技術(shù)更新都帶來了不同的功能,從最初基于文本的回答逐漸升級到能夠回答基于圖像的問題。與技術(shù)更新相伴的是參數(shù)量的劇增,從GPT-1的1.17億個(gè)參數(shù)迅速膨脹到GPT-3的1 750億個(gè)參數(shù)。目前,ChatGPT使用了全球互聯(lián)網(wǎng)三分之二的數(shù)據(jù)來進(jìn)行訓(xùn)練,并且隨著知識的更新而不斷擴(kuò)大數(shù)據(jù)范圍。除此之外,與傳統(tǒng)人工智能技術(shù)相比,生成式人工智能通過利用持續(xù)輸入的大量數(shù)據(jù)來獲取豐富的知識,不需要研究人員進(jìn)行先期編程,而是通過使用合成的新數(shù)據(jù)來進(jìn)行迭代訓(xùn)練,從而改進(jìn)模型的性能。這就意味著生成式人工智能能夠不斷升級自身,并以高效及時(shí)的方式進(jìn)行知識的分析、歸納和輸出,從而滿足數(shù)字政府建設(shè)對新知識的需求。

其次,生成式人工智能的知識更新能力躍遷體現(xiàn)在其類比推理能力上。這一能力對數(shù)字政府建設(shè)具有重要意義,因?yàn)轭惐韧评砟軌驇椭姓C(jī)關(guān)提升對新技術(shù)的運(yùn)用和應(yīng)對能力。生成式人工智能的類比推理能力是指其強(qiáng)大的抽象、歸納和拓展數(shù)據(jù)的能力。在缺乏一致性標(biāo)準(zhǔn)答案的情況下,通過這種類比推理可得出相應(yīng)的結(jié)論。研究表明,生成式人工智能的類比推理通過整體計(jì)算的方式來解決問題,其能力源于訓(xùn)練數(shù)據(jù)的海量規(guī)模和多樣性[11]。因此,行政機(jī)關(guān)面臨新技術(shù)的利益最大化與風(fēng)險(xiǎn)規(guī)避之間的權(quán)衡且無法根據(jù)現(xiàn)有經(jīng)驗(yàn)得出確定性結(jié)論時(shí),可以運(yùn)用生成式人工智能的類比推理能力,在智能社會治理中探索新技術(shù)的利用方式和規(guī)制方法。

最后,生成式人工智能的知識更新能力體現(xiàn)在其泛化能力上。這一能力對數(shù)字政府建設(shè)也有重要意義,因?yàn)檫@種泛化可幫助行政機(jī)關(guān)增強(qiáng)解決新問題的能力。生成式人工智能的“泛化能力”[12]是指其在新的數(shù)據(jù)和任務(wù)上的優(yōu)異表現(xiàn),即能通過普適性、廣泛性和通用性的應(yīng)用來實(shí)現(xiàn)多樣的任務(wù)。這意味著,在數(shù)字政府的實(shí)際應(yīng)用中,生成式人工智能可依靠其泛化能力來應(yīng)對復(fù)雜社會中的新問題,并借助學(xué)習(xí)和應(yīng)用場景的遷移,在智能涌現(xiàn)的基礎(chǔ)上靈活應(yīng)變,以應(yīng)對不斷變化的情境。

二、數(shù)字政府運(yùn)用生成式人工智能的前置基礎(chǔ)和倫理限制

為了確保生成式人工智能在數(shù)字政府建設(shè)中的技術(shù)賦能不偏離正確方向,必須明確生成式人工智能參與數(shù)字政府建設(shè)的目標(biāo)導(dǎo)向。只有當(dāng)生成式人工智能的實(shí)際應(yīng)用與數(shù)字政府建設(shè)的目標(biāo)導(dǎo)向一致時(shí),才能確保技術(shù)的應(yīng)用不會削弱人和國家的自主性。在數(shù)字政府建設(shè)中運(yùn)用生成式人工智能技術(shù)的根本目標(biāo)是建設(shè)人文數(shù)字政府,直接目標(biāo)是實(shí)現(xiàn)高效的數(shù)字政府,而最終的長期目標(biāo)則是構(gòu)建智慧型數(shù)字政府。

(一)人民中心——數(shù)字政府與人文政府的交匯

目前,有關(guān)生成式人工智能對數(shù)字政府建設(shè)的作用的討論主要集中在提升政府效率上,包括提高決策效率、治理效率、服務(wù)效率和監(jiān)督效率[9]47-49。有學(xué)者指出:“利用數(shù)字化提升組織效率、擴(kuò)展競爭機(jī)會雖然不錯(cuò),但是遠(yuǎn)遠(yuǎn)不夠。數(shù)字化建設(shè)應(yīng)指向更廣的經(jīng)濟(jì)和社會建設(shè)目標(biāo),服務(wù)于企業(yè)、居民及其經(jīng)濟(jì)和社會問題解決,把人的創(chuàng)造性從被動的受控中釋放出來?！盵13]

黨的二十大報(bào)告強(qiáng)調(diào)必須堅(jiān)持人民至上,“站穩(wěn)人民立場、把握人民愿望、尊重人民創(chuàng)造、集中人民智慧”。這意味著,數(shù)字政府建設(shè)的根本目標(biāo)是為人民群眾追求和向往美好生活服務(wù),而實(shí)現(xiàn)這一目標(biāo)的路徑在于堅(jiān)持以人民為中心的發(fā)展理念,利用數(shù)字技術(shù)實(shí)現(xiàn)人的主體性、創(chuàng)造性和自主價(jià)值。通過建設(shè)人文數(shù)字政府,我們可以實(shí)現(xiàn)民眾參與、權(quán)益保障、社會公正和民生福祉的提升。

一方面,建設(shè)人文數(shù)字政府意味著人的價(jià)值在效率價(jià)值中占據(jù)優(yōu)勢地位。生成式人工智能參與數(shù)字政府建設(shè)的一個(gè)重要意義在于提升政府的工作效率。然而,在這一過程中,存在著人的尊嚴(yán)價(jià)值、隱私價(jià)值、自主意志與效率價(jià)值之間的張力。例如,作為一個(gè)大語言模型,ChatGPT的高效智能展現(xiàn)(scale up)離不開海量數(shù)據(jù),而這些數(shù)據(jù)中不可避免地包含著未經(jīng)同意而收集的大量個(gè)人敏感信息。在未經(jīng)同意的情況下大量收集個(gè)人敏感信息嚴(yán)重侵犯了人的尊嚴(yán)價(jià)值。同時(shí),生成式人工智能的回答質(zhì)量與提問者提供的具體背景知識數(shù)量以及任務(wù)準(zhǔn)確度之間存在著正相關(guān)關(guān)系。提問者提供的背景知識多、任務(wù)準(zhǔn)確度高,生成式人工智能就能生成更高質(zhì)量的答案。這意味著,生成式人工智能的效率價(jià)值往往是以犧牲人的隱私價(jià)值為代價(jià)的。在生成式人工智能參與數(shù)字政府建設(shè)的過程中,當(dāng)與人相關(guān)的價(jià)值跟效率價(jià)值發(fā)生沖突,并且必須在二者之間作出選擇時(shí),我們務(wù)必堅(jiān)持“人的價(jià)值優(yōu)先”原則。此外,生成式人工智能的“智能”是基于大型模型的“涌現(xiàn)”,但是,“為何能夠涌現(xiàn),其涌現(xiàn)的相變點(diǎn)受哪些因素影響,目前均為未知”[14]。在“涌現(xiàn)”原理未知且算法不可解釋的情況下,“數(shù)據(jù)偏差”“算法黑箱”等傳統(tǒng)問題仍然對人的尊嚴(yán)價(jià)值構(gòu)成威脅。

另一方面,建設(shè)人文數(shù)字政府意味著公共倫理在技術(shù)資本運(yùn)行邏輯中占據(jù)優(yōu)勢。目前,由于成本高昂,生成式人工智能產(chǎn)品主要是由微軟、谷歌、Meta、百度、阿里巴巴等國內(nèi)外科技資本巨頭開發(fā)的。由于技術(shù)資本的邏輯與數(shù)字政府的人本建設(shè)邏輯、公共行政屬性和公共倫理價(jià)值追求之間存在緊張關(guān)系,生成式人工智能參與數(shù)字政府建設(shè)不可避免地面臨技術(shù)資本侵入的風(fēng)險(xiǎn)。一旦作為數(shù)字技術(shù)成果的生成式人工智能借助數(shù)字政府的公共權(quán)力平臺來為資本力量、資本增值服務(wù),就會從根本上破壞數(shù)字政府建設(shè)的公共倫理,使得數(shù)字政府成為資本“俘獲”國家權(quán)力的橋梁,導(dǎo)致資本的價(jià)值取代人的價(jià)值。因此,生成式人工智能參與數(shù)字政府建設(shè)必須在“消除技術(shù)資本侵蝕公共倫理的風(fēng)險(xiǎn)”這一前提性基礎(chǔ)之上進(jìn)行。

(二)效率優(yōu)化——數(shù)字政府與傳統(tǒng)政府的分離點(diǎn)

效率始終是現(xiàn)代國家治理追求的主要目標(biāo)之一,也是現(xiàn)代數(shù)字科技賦能數(shù)字政府建設(shè)最為重要的領(lǐng)域。我國在數(shù)字政府建設(shè)歷程中,始終高度重視利用最新的數(shù)字科技成果來提升政府效率。就生成式人工智能而言,與以往的人工智能技術(shù)相比,其生成文本、圖片、音頻、視頻、PPT、算法等內(nèi)容的強(qiáng)大能力優(yōu)勢可大幅度優(yōu)化數(shù)字政府的工作模式,以前所未有的力度促進(jìn)數(shù)字政府的效率提升。因此,助力高效數(shù)字政府建設(shè)是生成式人工智能參與數(shù)字政府建設(shè)的直接目標(biāo)和工作重心。具體來說,生成式人工智能的不同生成內(nèi)容在不同領(lǐng)域有助于政府工作模式的優(yōu)化,從而促成高效數(shù)字政府建設(shè)目標(biāo)的實(shí)現(xiàn)。

第一,生成式人工智能促進(jìn)數(shù)字政府文本生成效率提升。生成式人工智能的文本生成能力助力高效數(shù)字政府建設(shè)主要體現(xiàn)于優(yōu)化政府內(nèi)部文書工作模式和優(yōu)化政務(wù)服務(wù)對象政務(wù)文書填寫模式兩方面。一方面,優(yōu)化政府內(nèi)部文書工作模式[15],提升文書生成和處理的效率。文書是行政信息的基本載體,行政信息的精準(zhǔn)上傳下達(dá)都高度依賴于文書的生成效率和文字質(zhì)量。其一,如果文書不能高效生成,就會導(dǎo)致行政信息傳輸?shù)倪t滯,影響行政目標(biāo)的實(shí)現(xiàn)。將生成式人工智能引入政務(wù)文書撰寫流程,使之成為政府內(nèi)部文書工作模式的組成部分,能夠有效提升文書生成效率。具體來說,在政府內(nèi)部文書工作模式中,可以區(qū)分高度模式化的文書工作和個(gè)性化的文書工作。對于高度模式化文書的生成,可以充分發(fā)揮生成式人工智能的模式化文字生成能力優(yōu)勢,采取向生成式人工智能輸入基本信息而由生成式人工智能批量生成初稿的操作方式;對于個(gè)性化文書的生成,則仍然主要依靠傳統(tǒng)的文書撰寫模式。其二,如果文書不能精準(zhǔn)表達(dá)需要承載的信息,就可能導(dǎo)致向上傳遞的行政信息被扭曲而對依賴精準(zhǔn)信息來作出的行政決策造成負(fù)面影響,或者向下傳遞的行政信息被誤讀而使上層行政決策的意志無法得到準(zhǔn)確貫徹。為了解決這一問題,行政機(jī)關(guān)內(nèi)部文書工作模式中通常設(shè)置了人工校對環(huán)節(jié)。今后如將具有強(qiáng)大文字糾錯(cuò)能力的生成式人工智能引入政務(wù)文書校對流程,作為文書校對的首道流程,顯然有助于提升政務(wù)文書的校對效率。另一方面,優(yōu)化政務(wù)服務(wù)對象政務(wù)文書填寫模式,提升辦事效率和政務(wù)服務(wù)效率。在政務(wù)服務(wù)中,服務(wù)對象通常需要通過文書方式向行政機(jī)關(guān)表達(dá)訴求。因此,政務(wù)服務(wù)對象也存在著了解政務(wù)文書撰寫要求、實(shí)際撰寫政務(wù)文書的需求。把掌握了海量信息的生成式人工智能以線上方式引入政務(wù)服務(wù)對象“了解政務(wù)文書撰寫要求”的環(huán)節(jié),能夠有效幫助政務(wù)服務(wù)對象隨時(shí)隨地迅速了解政務(wù)文書撰寫要求,以便及時(shí)準(zhǔn)備好相應(yīng)的材料,減少在此階段的溝通成本和交通成本。政務(wù)服務(wù)對象撰寫的政務(wù)文書中,模式化文書的比例較高,行政機(jī)關(guān)可以充分發(fā)揮生成式人工智能在模式化文字生成領(lǐng)域的優(yōu)勢,提供生成式人工智能輔助政務(wù)服務(wù)對象撰寫政務(wù)文書的技術(shù)性服務(wù)。

第二,生成式人工智能促進(jìn)數(shù)字政府圖片、音頻、視頻、PPT生成效率提升。行政機(jī)關(guān)的政務(wù)信息載體是隨著新技術(shù)的發(fā)明而不斷擴(kuò)展的。隨著照相機(jī)、電子音響、電影、電視、電腦、投影儀的陸續(xù)發(fā)明和普及應(yīng)用,無論是在行政機(jī)關(guān)內(nèi)部的行政流程中,還是在行政信息的外部傳達(dá)中,圖片、音頻、視頻和PPT都逐漸成為重要的信息載體。行政機(jī)關(guān)需要的圖片、音頻、視頻等素材可以分為原始素材和加工素材。原始素材的形成較為簡單,往往由行政機(jī)關(guān)內(nèi)部工作人員運(yùn)用相關(guān)設(shè)備直接生成,或者以民眾提供素材的方式獲取。而在原始素材基礎(chǔ)上通過加工得到的素材往往由行政機(jī)關(guān)的專門部門進(jìn)行加工制作,或者由行政機(jī)關(guān)委托第三方進(jìn)行制作。將具有強(qiáng)大的圖片、音頻、視頻、PPT生成能力的生成式人工智能引入數(shù)字政府建設(shè),能夠優(yōu)化圖片、音頻、視頻、PPT的加工模式。一方面,行政機(jī)關(guān)的一般工作人員可以利用生成式人工智能進(jìn)行圖片、音頻、視頻、PPT的初步加工,這就意味著一些原本由行政機(jī)關(guān)專門部門負(fù)責(zé)的圖片、音頻、視頻、PPT處理工作能夠由行政機(jī)關(guān)的一般工作人員完成,從而有效提升此類素材加工的效率。另一方面,原本委托第三方機(jī)構(gòu)或個(gè)人加工制作的素材,在生成式人工智能的幫助下也可轉(zhuǎn)由行政機(jī)關(guān)專門部門制作,從而降低行政機(jī)關(guān)采購第三方服務(wù)的經(jīng)濟(jì)成本和與第三方進(jìn)行溝通的時(shí)間成本。概言之,把生成式人工智能引入行政機(jī)關(guān)的圖片、音頻、視頻、PPT制作中,會改變傳統(tǒng)的以“專門部門+委托第三方”為主的工作模式,形成以“一般工作人員+專門部門”為主的新工作模式,只需把超出生成式人工智能處理能力的少數(shù)復(fù)雜工作委托第三方制作。

第三,生成式人工智能促進(jìn)數(shù)字政府算法生成效率提升。數(shù)字政府建設(shè)進(jìn)入智能時(shí)代以后,利用算法技術(shù)生成的程序或軟件來優(yōu)化政府組織內(nèi)部工作形態(tài)、增強(qiáng)公共服務(wù)便利性越來越重要,各地行政機(jī)關(guān)及其工作部門開發(fā)了大量的政務(wù)App或政務(wù)小程序,供內(nèi)部和外部使用。由于行政機(jī)關(guān)缺乏算法生成能力,這些政務(wù)App或政務(wù)小程序主要是以行政機(jī)關(guān)采購第三方服務(wù)的方式進(jìn)行建設(shè)的,甚至這些政務(wù)App或政務(wù)小程序的日常運(yùn)營和維護(hù)工作都是由第三方服務(wù)商提供的,行政機(jī)關(guān)主要通過提出技術(shù)目標(biāo)、進(jìn)行風(fēng)險(xiǎn)監(jiān)管的方式參與到政務(wù)App或政務(wù)小程序建設(shè)之中。生成式人工智能具有算法生成和算法檢查的強(qiáng)大能力,這就意味著一些簡單的算法可由行政機(jī)關(guān)的工作人員運(yùn)用生成式人工智能直接生成。將生成式人工智能引入數(shù)字政府算法工作模式中,能夠有效增強(qiáng)行政機(jī)關(guān)直接生成政務(wù)工作所需算法和檢查第三方服務(wù)商提供的算法的能力。這將改變傳統(tǒng)的“第三方建設(shè)+政府監(jiān)督”的數(shù)字政府算法工作模式,政府借助生成式人工智能技術(shù)而具有了直接的初步算法生成能力。

(三)智慧決策——數(shù)字政府與新型政府的立足點(diǎn)

利用數(shù)字技術(shù)來輔助政務(wù)決策的“智慧數(shù)字政府”是數(shù)字政府建設(shè)的重要目標(biāo)。盡管生成式人工智能技術(shù)取得了巨大的技術(shù)躍遷,但目前的人工智能技術(shù)還將在較長時(shí)期內(nèi)處于弱人工智能階段,生成式人工智能在參與政府決策的過程中仍然只能扮演輔助性的角色。生成式人工智能通過賦能于民主決策、科學(xué)決策來造就智慧數(shù)字政府,這仍然是生成式人工智能參與數(shù)字政府建設(shè)的長期目標(biāo)。智慧數(shù)字政府建設(shè)的長期目標(biāo)對生成式人工智能參與數(shù)字政府建設(shè)發(fā)揮著指引作用。

一方面,正確的政務(wù)決策的作出依賴于對信息的充分、精準(zhǔn)掌握。我國在20世紀(jì)90年代啟動電子政務(wù)建設(shè)的目的之一,就在于利用現(xiàn)代信息技術(shù)打破中央政府與地方政府之間、地方上級政府與下級政府之間的信息壁壘,使得上級政府能夠根據(jù)真實(shí)的信息作出科學(xué)決策。生成式人工智能具有強(qiáng)大的信息自主檢索和自主收集能力,能夠在傳統(tǒng)科層制由下至上傳遞信息的基礎(chǔ)上,從互聯(lián)網(wǎng)中更加全面地收集來自社會的可供決策參考的信息。在這個(gè)意義上,生成式人工智能具有從根本上打破行政科層制中不同級別間的信息壁壘、突破信息收集中的視野局限的可能性。生成式人工智能在參與智慧數(shù)字政府建設(shè)的過程中具有獨(dú)特的社情民意反饋優(yōu)勢,使民主決策獲得技術(shù)助力。因此,強(qiáng)化信息檢索和信息收集能力是未來生成式人工智能參與智慧數(shù)字政府建設(shè)、賦能科學(xué)決策的最為重要的方向。

另一方面,正確的政務(wù)決策的作出還依賴于對實(shí)際情況的科學(xué)分析和判斷。如前所述,目前的生成式人工智能技術(shù)所生成的結(jié)論是由大模型“涌現(xiàn)”的,而“涌現(xiàn)”的機(jī)理尚不明確。這就意味著傳統(tǒng)人工智能參與政務(wù)決策時(shí)面臨的“算法黑箱”“算法歧視”等問題在生成式人工智能參與政務(wù)決策的過程中依舊存在。除此之外,生成式人工智能所給結(jié)論的可信性仍然無法保障,在受到錯(cuò)誤指引的情況下尤其如此。例如,ChatGPT作出的回復(fù)常常是“一本正經(jīng)的胡說八道”,其回答的語句看似通暢、合理,但其回答的結(jié)論往往與實(shí)際情況大相徑庭。概言之,目前的大模型還不能提供合理的證據(jù)來進(jìn)行可信性的驗(yàn)證。這就導(dǎo)致生成式人工智能在賦能政務(wù)決策的過程中給出的結(jié)論難以滿足政務(wù)決策的科學(xué)性要求,難以通過政務(wù)決策的科學(xué)性檢驗(yàn)。在現(xiàn)有的技術(shù)發(fā)展水平下,生成式人工智能無法實(shí)質(zhì)性地參與到政務(wù)決策的分析判斷和結(jié)論生成環(huán)節(jié),其分析結(jié)論僅供政務(wù)決策者參考,決策者應(yīng)謹(jǐn)慎對待。

因此,在當(dāng)前和今后相當(dāng)長一段時(shí)間內(nèi)的技術(shù)條件下,生成式人工智能通過賦能政務(wù)決策來實(shí)現(xiàn)推動智慧數(shù)字政府建設(shè)的目標(biāo),其主要的作用領(lǐng)域是政務(wù)決策的信息檢索和信息收集環(huán)節(jié),即為決策者提供豐富、全面的決策信息。

三、數(shù)字政府借助生成式人工智能的可行路徑和制度方案

生成式人工智能參與數(shù)字政府建設(shè)雖然尚未真正進(jìn)入實(shí)踐階段,但在我國技術(shù)驅(qū)動數(shù)字政府建設(shè)的數(shù)字政府發(fā)展邏輯下,在生成式人工智能理想目標(biāo)的牽引下,前景是十分廣闊的。目前,生成式人工智能從理想目標(biāo)落實(shí)到應(yīng)用實(shí)踐還面臨著諸多困難和風(fēng)險(xiǎn)。因此,需要探索生成式人工智能參與數(shù)字政府建設(shè)的切實(shí)有效的可行路徑,以期人工智能參與數(shù)字政府建設(shè)的理想目標(biāo)早日實(shí)現(xiàn)。

(一)權(quán)利確認(rèn)與權(quán)利保障——人文數(shù)字政府的應(yīng)有之義

我國數(shù)字政府建設(shè)的顯著特征在于強(qiáng)調(diào)人在數(shù)字政府建設(shè)中的根本價(jià)值和核心地位,即數(shù)字政府建設(shè)的落腳點(diǎn)在于通過數(shù)字技術(shù)而在治理中更好地實(shí)現(xiàn)民眾的主體性,充分滿足人民群眾對未來美好生活的向往。因此,在生成式人工智能參與數(shù)字政府建設(shè)的過程中必須將保障人民各項(xiàng)權(quán)利置于首位,要圍繞民眾權(quán)利的充分實(shí)現(xiàn)設(shè)計(jì)生成式人工智能參與數(shù)字政府建設(shè)的主要路徑。國家網(wǎng)信辦聯(lián)合國家發(fā)改委、教育部、科技部、工信部、公安部、廣電總局公布的《生成式人工智能服務(wù)管理暫行辦法》在第四條中規(guī)定了生成式人工智能服務(wù)應(yīng)當(dāng)保障的民眾權(quán)利,主要包括平等權(quán)、知識產(chǎn)權(quán)、人格權(quán)和個(gè)人信息權(quán)益。而生成式人工智能參與數(shù)字政府建設(shè)主要涉及這四類權(quán)利中的平等權(quán)、人格權(quán)和個(gè)人信息權(quán)益。我們很有必要按照《生成式人工智能服務(wù)管理暫行辦法》的要求,結(jié)合生成式人工智能參與數(shù)字政府建設(shè)的目標(biāo)和生成式人工智能的技術(shù)特點(diǎn),深入探究生成式人工智能參與數(shù)字政府建設(shè)的權(quán)利保障路徑。

一方面,在生成式人工智能參與數(shù)字政府建設(shè)的過程中,應(yīng)當(dāng)有效保障民眾的人格權(quán)和個(gè)人信息權(quán)益。其一,要在生成式人工智能的訓(xùn)練過程中有效保障民眾的人格權(quán)和個(gè)人信息權(quán)益。生成式人工智能需要經(jīng)過海量數(shù)據(jù)的訓(xùn)練,才能夠?qū)崿F(xiàn)智能“涌現(xiàn)”。生成式人工智能訓(xùn)練中所用的海量數(shù)據(jù)必然包含著一些應(yīng)當(dāng)通過知情、同意才能夠獲取的敏感信息。而訓(xùn)練專門應(yīng)用于數(shù)字政府建設(shè)的大模型時(shí),往往需要使用政府?dāng)?shù)據(jù)庫中掌握的包括個(gè)人肖像、家庭住址、血型等人格信息和敏感個(gè)人信息在內(nèi)的海量數(shù)據(jù)。根據(jù)《個(gè)人信息保護(hù)法》中個(gè)人信息處理一般規(guī)則的規(guī)定,在利用這些信息來訓(xùn)練生成式人工智能的過程中,要確保這些信息只能用于公共利益目的,而且需要在經(jīng)過脫敏處理的基礎(chǔ)上使用。其二,在生成式人工智能提供政務(wù)服務(wù)的過程中,要按照《個(gè)人信息保護(hù)法》中國家機(jī)關(guān)處理個(gè)人信息的一般規(guī)定和特別規(guī)定,充分保障民眾的個(gè)人信息權(quán)益。生成式人工智能在服務(wù)過程中會難以避免地自動收集提問信息并向服務(wù)器傳輸,對此,應(yīng)當(dāng)將其智能收集個(gè)人信息的內(nèi)容和范圍充分告知應(yīng)用該服務(wù)的民眾,防止民眾在提問中不慎泄露敏感個(gè)人信息而被生成式人工智能掌握個(gè)人秘密或隱私。要對應(yīng)用于政務(wù)服務(wù)的生成式人工智能收集信息的程序和范圍進(jìn)行限度設(shè)置,使生成式人工智能嚴(yán)格遵守法律、行政法規(guī)所規(guī)定的權(quán)限和程序,在履行法定職責(zé)所必需的范圍和限度內(nèi)收集信息。

另一方面,在生成式人工智能參與數(shù)字政府建設(shè)的過程中,應(yīng)當(dāng)充分保障民眾的平等權(quán)利?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》第四條中“在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中,采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視”的規(guī)定同樣適用于行政機(jī)關(guān)。與生成式人工智能服務(wù)的一般提供者相比,行政機(jī)關(guān)以公共利益為導(dǎo)向、以實(shí)現(xiàn)人的主體性為價(jià)值目標(biāo)而開展生成式人工智能的應(yīng)用,理所當(dāng)然地要采取更為嚴(yán)格的措施來保障民眾的平等權(quán)利。其一,要在專門應(yīng)用于數(shù)字政府建設(shè)的生成式人工智能的訓(xùn)練過程中,建立更為嚴(yán)格的訓(xùn)練數(shù)據(jù)篩選和審核機(jī)制,將具有歧視傾向、違背社會主義核心價(jià)值觀的數(shù)據(jù)及時(shí)排除,從數(shù)據(jù)根源上盡可能消除生成式人工智能生成歧視性內(nèi)容的可能。其二,投入政務(wù)應(yīng)用前,對參與政務(wù)服務(wù)的生成式人工智能的模型生成和優(yōu)化過程進(jìn)行審查、備案。如果審查發(fā)現(xiàn)模型算法及其優(yōu)化過程中存在歧視風(fēng)險(xiǎn),則禁止將該模型投入政務(wù)應(yīng)用;如果暫未發(fā)現(xiàn)歧視風(fēng)險(xiǎn),則對該模型的算法進(jìn)行備案。其三,在生成式人工智能應(yīng)用于政務(wù)服務(wù)后,如果其生成了歧視性的內(nèi)容,則應(yīng)當(dāng)?shù)谝粫r(shí)間暫停其政務(wù)應(yīng)用,并結(jié)合備案的模型算法對該模型加以有效的修改。

(二)效率優(yōu)化與責(zé)任分配——傳統(tǒng)數(shù)字政府的迭代方向

生成式人工智能作為數(shù)字政府建設(shè)的有效手段,雖然提升了政府工作效率,但由于技術(shù)發(fā)展水平的限制,在實(shí)際操作中仍然存在發(fā)生運(yùn)算錯(cuò)誤的可能。因此,在數(shù)字政府建設(shè)的大背景下,既要充分利用數(shù)字計(jì)算能力來實(shí)現(xiàn)政府服務(wù)效率的提升,又要確保數(shù)字算法的準(zhǔn)確性。為此,如何規(guī)避生成式人工智能可能產(chǎn)生的錯(cuò)誤以及當(dāng)錯(cuò)誤發(fā)生時(shí)如何進(jìn)行責(zé)任分配等問題也是我們要關(guān)注的內(nèi)容。

一方面,從生成式人工智能的運(yùn)行機(jī)制出發(fā),其結(jié)論的作出依賴于以現(xiàn)實(shí)素材數(shù)據(jù)的收集為基礎(chǔ)而展開的算法邏輯推演。由于生成式人工智能的發(fā)展仍處于初期階段,其數(shù)據(jù)庫不可能充分收集并掌握人類所有領(lǐng)域的所有知識。即便其收集了足夠的數(shù)據(jù)信息,也仍然面臨“大模型預(yù)訓(xùn)練所需要的天文級數(shù)據(jù),不可能全部進(jìn)行準(zhǔn)確性驗(yàn)證,而如果數(shù)據(jù)不準(zhǔn)確或缺失,必然影響到結(jié)果的可靠性”[16]的問題。與此同時(shí),生成式人工智能的算法邏輯也尚未經(jīng)受市場和實(shí)踐的充分考驗(yàn),因此,對于一些冷門的或者具有較強(qiáng)專業(yè)性的話題,生成式人工智能在實(shí)踐運(yùn)用中往往會出現(xiàn)邏輯和內(nèi)容上的錯(cuò)誤。政府事務(wù)具有公共性,其服務(wù)對象具有普遍性,一旦生成式人工智能系統(tǒng)的運(yùn)算結(jié)果存在問題,則既會在社會上造成普遍性的嚴(yán)重后果,又會對政府的公信力產(chǎn)生沖擊。因此,充分利用人工智能系統(tǒng)的高效算力,同時(shí)保證運(yùn)算結(jié)論的正確性,是數(shù)字政府建設(shè)順利開展的兩個(gè)重要方面。與運(yùn)算程序的專業(yè)性、抽象性和隱蔽性相比,運(yùn)算結(jié)論更為直接、可察,因此,政府應(yīng)當(dāng)建立對生成式人工智能系統(tǒng)所給答案的人工審核機(jī)制,進(jìn)行實(shí)質(zhì)性審核,確保政務(wù)的順利展開。

另一方面,人工智能對政府事務(wù)的處理改變了傳統(tǒng)的人與人互相交接的政務(wù)工作模式,當(dāng)這種算法科技運(yùn)行出現(xiàn)錯(cuò)誤并導(dǎo)致危害結(jié)果發(fā)生時(shí),在責(zé)任的認(rèn)定和承擔(dān)上就涉及生產(chǎn)、銷售和使用等不同流程的多方主體。由生成式人工智能引致的社會風(fēng)險(xiǎn)“具有極強(qiáng)的不確定性、無邊界性和規(guī)模化效應(yīng),其絕非人類個(gè)體用戶或社交網(wǎng)絡(luò)平臺所能防范和處置的,強(qiáng)有力的法律監(jiān)管更為必要”[17]。對生成式人工智能的監(jiān)督管理的落實(shí)離不開政府的主體性優(yōu)勢,“監(jiān)管機(jī)構(gòu)應(yīng)加強(qiáng)事前、事中、事后全鏈條監(jiān)管,保障生成式人工智能技術(shù)的發(fā)展和安全”[18]。具體而言,在生成式人工智能系統(tǒng)的生產(chǎn)環(huán)節(jié),政府部門應(yīng)當(dāng)對其生產(chǎn)主體、運(yùn)算邏輯等各方面實(shí)施規(guī)范化管理,例如可以通過準(zhǔn)入制度對生產(chǎn)廠家的資質(zhì)進(jìn)行規(guī)范審查,以避免智能系統(tǒng)出現(xiàn)政治立場、算法偏見等問題。在智能系統(tǒng)的使用環(huán)節(jié),應(yīng)當(dāng)對智能系統(tǒng)實(shí)行定期檢查評估,建立起多方主體在多環(huán)節(jié)的共同監(jiān)督機(jī)制,確保運(yùn)算程序所涉及的政府、社會、個(gè)人信息的安全。在事后環(huán)節(jié),應(yīng)當(dāng)完善和細(xì)化追責(zé)機(jī)制,對可能出現(xiàn)的損害后果根據(jù)不同責(zé)任主體的參與程度進(jìn)行明確的責(zé)任劃分,確保事事留痕,事事可追查。

(三)助力發(fā)展與維護(hù)安全——新型數(shù)字政府的均衡導(dǎo)向

我國政府的服務(wù)對象是全國人民,政府職能涉及國家、社會和個(gè)人發(fā)展的各種細(xì)枝末節(jié)。為了實(shí)現(xiàn)政府治理的有效性和效率性,政府的數(shù)字化建設(shè)必然涉及對相關(guān)數(shù)據(jù)信息的抓取和分析。如果政府的數(shù)據(jù)安全發(fā)生問題,則整個(gè)國家和社會的運(yùn)行乃至個(gè)人的生活都將透明地暴露在敵對勢力的觀察之下,給國家安全造成嚴(yán)重威脅。生成式人工智能的應(yīng)用“對于國家數(shù)據(jù)所可能帶來的法律風(fēng)險(xiǎn),應(yīng)該基于總體國家安全觀的理念進(jìn)行統(tǒng)籌規(guī)劃”[19]。

從宏觀層面而言,政府在數(shù)字化建設(shè)中的數(shù)據(jù)安全問題主要涉及兩個(gè)方面:一方面是以“技術(shù)中立”為外衣而隱藏著的算法偏見風(fēng)險(xiǎn)。算法偏見具有一定的隱蔽性,其對公眾認(rèn)知的引導(dǎo)也是潛移默化的。“在國家層面,以ChatGPT為代表的生成式人工智能基于西方價(jià)值觀和思維導(dǎo)向建立,其回答也通常迎合西方立場和喜好……可以說,ChatGPT具備明顯的偏見,并會潛移默化影響用戶,動搖國民意識形態(tài),形成新的國家安全風(fēng)險(xiǎn)?！盵20]6為了規(guī)避算法偏見可能導(dǎo)致的不良后果,我們就不能在政府的數(shù)字化建設(shè)中實(shí)行徹底的技術(shù)“拿來主義”?！皯?yīng)該從根本上入手,在軟硬件關(guān)鍵技術(shù)上實(shí)現(xiàn)突破,奪取技術(shù)的制高點(diǎn)?！盵21]另一方面是數(shù)字政府的數(shù)據(jù)泄露風(fēng)險(xiǎn)。生成式人工智能的數(shù)據(jù)具有流動性特點(diǎn),不受國境和地區(qū)邊界的限制,而數(shù)據(jù)在流動中就會有泄露的風(fēng)險(xiǎn)。“為滿足我國數(shù)據(jù)跨境流動國家安全的要求,生成式人工智能必須明確數(shù)據(jù)跨境流動的原則,確保對一般數(shù)據(jù)和敏感數(shù)據(jù)進(jìn)行區(qū)分,且重要數(shù)據(jù)的流動應(yīng)按照要求進(jìn)行審批?！盵20]14-15通過算法邏輯的內(nèi)在監(jiān)督和政府對數(shù)據(jù)流動的外在監(jiān)管,才能保證生成式人工智能對政府?dāng)?shù)字化轉(zhuǎn)型的正向推動作用。

在具體操作層面,由于相關(guān)企業(yè)在數(shù)字科技上的技術(shù)優(yōu)勢,當(dāng)前我國的政府?dāng)?shù)字化轉(zhuǎn)型是以政府引導(dǎo)、企業(yè)主導(dǎo)、公眾參與的模式展開的。不同主體在政府?dāng)?shù)字化建設(shè)中有各自的優(yōu)勢和缺點(diǎn):政府具有強(qiáng)大的組織和執(zhí)行能力,能夠保證數(shù)字安全監(jiān)管及處罰活動的順利開展,但在數(shù)字技術(shù)的專業(yè)性上卻存在欠缺;社會相關(guān)企業(yè)作為政府?dāng)?shù)字化轉(zhuǎn)型的主導(dǎo)者,具有技術(shù)上的優(yōu)勢和話語權(quán),但由于企業(yè)的營利本性,企業(yè)私利與公共利益之間難免存在一定程度的張力;人民群眾盡管不具有政府和企業(yè)的上述優(yōu)勢,但卻是政府?dāng)?shù)字化轉(zhuǎn)型的最直接的體驗(yàn)者,其樸素的價(jià)值觀是衡量生成式人工智能系統(tǒng)運(yùn)算邏輯正義與否、結(jié)論合理與否的最直接依據(jù)。因此,政府?dāng)?shù)字化轉(zhuǎn)型中的安全保障就要依托不同主體的優(yōu)勢,構(gòu)建一種互相聯(lián)結(jié)的多元共治體系。既要“構(gòu)建科技企業(yè)自我規(guī)制與政府監(jiān)管的銜接互動機(jī)制”[22]118,又要“為專業(yè)性非營利組織和用戶社群參與人工智能治理創(chuàng)造制度環(huán)境,探索符合我國發(fā)展特點(diǎn)的協(xié)同治理范式,促進(jìn)社會監(jiān)督與政府監(jiān)管的協(xié)同聯(lián)動”[22]118,從而促進(jìn)不同主體監(jiān)督監(jiān)管優(yōu)勢的互補(bǔ)。通過對數(shù)字政府建設(shè)的不同環(huán)節(jié)中的各類主體進(jìn)行相應(yīng)的權(quán)責(zé)規(guī)制,積極聽取不同群體的不同訴求,才能夠最大化地保證數(shù)字政府建設(shè)的安全和均衡。

四、結(jié)束語

高度便捷的生成式人工智能的出現(xiàn)和爆火讓人們看到了強(qiáng)人工智能時(shí)代到來的可能,然而,技術(shù)的發(fā)展離不開倫理的反思,即便該項(xiàng)技術(shù)是具有高度革新意義的。有鑒于此,必須加強(qiáng)數(shù)字政府的人文傾向和發(fā)展路徑研究?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》的出臺不僅代表著我國已然對生成式人工智能的應(yīng)用和發(fā)展產(chǎn)生警惕,同時(shí)也意味著我國對這項(xiàng)人工智能技術(shù)的發(fā)展持樂觀態(tài)度。因而,應(yīng)當(dāng)將生成式人工智能納入數(shù)字政府建設(shè)和發(fā)展的框架之中?？梢灶A(yù)見的是,未來部署于政府中的人工智能技術(shù)和應(yīng)用于社會中的人工智能技術(shù)之間會存在較大的樣態(tài)差異,二者應(yīng)當(dāng)區(qū)別看待、分別規(guī)制,其中,對前者的倫理限制應(yīng)當(dāng)更為充分、提前。