廖飛

前不久召開(kāi)的中央全面深化改革委員會(huì)第二十五次會(huì)議，審議通過(guò)了《關(guān)于加強(qiáng)數(shù)字政府建設(shè)的指導(dǎo)意見(jiàn)》，明確要求“全面貫徹網(wǎng)絡(luò)強(qiáng)國(guó)戰(zhàn)略，把數(shù)字技術(shù)廣泛應(yīng)用于政府管理服務(wù)，推動(dòng)政府?dāng)?shù)字化、智能化運(yùn)行，為推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化提供有力支撐”。2021年8月，《江蘇省“十四五”數(shù)字政府建設(shè)規(guī)劃》發(fā)布，今年4月初印發(fā)的《關(guān)于加快統(tǒng)籌推進(jìn)數(shù)字政府高質(zhì)量建設(shè)的實(shí)施意見(jiàn)》提出，到2025年基本建成服務(wù)便捷、治理精準(zhǔn)、運(yùn)行高效、開(kāi)放透明、公平普惠、安全可控的數(shù)字政府。算法以及包含算法的自動(dòng)決策系統(tǒng)與決策輔助系統(tǒng)是政府?dāng)?shù)字化、智能化運(yùn)行的核心要素，規(guī)范算法應(yīng)用是全面推進(jìn)數(shù)字政府高質(zhì)量建設(shè)的內(nèi)生要求。要進(jìn)一步加強(qiáng)對(duì)算法的認(rèn)識(shí)，規(guī)范算法應(yīng)用，為數(shù)字政府建設(shè)提供支撐。

數(shù)字政府建設(shè)中算法應(yīng)用的技術(shù)與制度內(nèi)涵

算法是一種計(jì)算技術(shù)，具有呈現(xiàn)、使用、存儲(chǔ)、檢索和傳輸信息的能力，可以支持、處理、建?；蚰M各類(lèi)事務(wù)、場(chǎng)景。從計(jì)算和編程角度來(lái)看，算法主要包含了邏輯與控制組件，前者定義需要做什么，后者定義應(yīng)該如何做。這其中存在兩種轉(zhuǎn)化過(guò)程，首先將任務(wù)或問(wèn)題轉(zhuǎn)化為結(jié)構(gòu)化公式和相關(guān)規(guī)則集，然后將公式和規(guī)則集轉(zhuǎn)化為機(jī)器可以運(yùn)行的用以執(zhí)行任務(wù)或解決問(wèn)題的源代碼。

當(dāng)前正在推進(jìn)的智能審批是算法應(yīng)用的常見(jiàn)場(chǎng)景，以個(gè)人綜合所得年度匯算之后的退稅辦理為例，在國(guó)家稅務(wù)總局主辦的個(gè)人所得稅平臺(tái)全面啟用之前，這項(xiàng)工作程序復(fù)雜、工作量巨大，覆蓋面有限。數(shù)字化以后，稅務(wù)部門(mén)根據(jù)法律規(guī)定建立了收入?yún)R總、免稅收入、減除費(fèi)用、專(zhuān)項(xiàng)扣除、應(yīng)納稅所得額、應(yīng)納稅額、已繳稅額、退稅額度等項(xiàng)目的結(jié)構(gòu)化公式和規(guī)則集，經(jīng)編碼之后形成了在線核算、申請(qǐng)、審核、處理的自動(dòng)化流程。再比如，民生補(bǔ)貼資金自動(dòng)審核發(fā)放中的算法應(yīng)用。以往過(guò)程中，要判斷補(bǔ)貼對(duì)象是否符合補(bǔ)助標(biāo)準(zhǔn)，然后提出申請(qǐng)，等待職能部門(mén)審批，再劃撥到個(gè)人賬戶(hù)中。當(dāng)前正在探索的思路是，根據(jù)補(bǔ)貼政策規(guī)定生成算法，然后運(yùn)用算法來(lái)甄別符合條件的對(duì)象，實(shí)現(xiàn)自動(dòng)審批，甚至主動(dòng)推送符合條件的補(bǔ)助對(duì)象。再比如，對(duì)各類(lèi)違法違規(guī)違紀(jì)行為的判定，公安交通管理部門(mén)已在運(yùn)用算法自動(dòng)識(shí)別車(chē)輛交通違法行為，為審核人員提供判罰建議。證券監(jiān)管部門(mén)運(yùn)用算法識(shí)別違規(guī)交易行為，自然資源與生態(tài)環(huán)境部門(mén)則運(yùn)用算法識(shí)別土地違法使用、污染違法排放等。

在技術(shù)之外，政府領(lǐng)域算法應(yīng)用有著深刻的制度內(nèi)涵。首先，算法應(yīng)用是在制度安排的結(jié)構(gòu)中實(shí)現(xiàn)的，政府依法行政是算法應(yīng)用的內(nèi)生要求。算法的應(yīng)用決策，包括在什么情況下用、誰(shuí)來(lái)用、運(yùn)用什么算法、運(yùn)用對(duì)象是誰(shuí)等，均應(yīng)在制度約束下作出，充分遵循法制精神。其次，隨著算法在制度與政策制定執(zhí)行、公共行政運(yùn)行中的廣泛應(yīng)用，算法本身成為規(guī)則的載體，這被稱(chēng)為制度算法化、政策算法化、行政算法化。第三，算法應(yīng)用可以推動(dòng)深化改革。全面推進(jìn)數(shù)字化改革，成為新發(fā)展階段全面深化改革的重要抓手。為了科學(xué)合理高效地建設(shè)數(shù)字政府，有必要對(duì)現(xiàn)行制度政策中不適應(yīng)要求的地方進(jìn)行修訂，倒逼改革進(jìn)程。

數(shù)字政府建設(shè)中算法應(yīng)用存在的潛在風(fēng)險(xiǎn)

借助包含算法的自動(dòng)決策系統(tǒng)與決策輔助系統(tǒng)，可以促使政府部門(mén)改進(jìn)決策水平、提高工作效率、提升治理效能。但同時(shí)，也要審慎對(duì)待其中的風(fēng)險(xiǎn)。

合規(guī)風(fēng)險(xiǎn)。依法行政是依法治國(guó)、依法執(zhí)政的必然要求，是政府工作的生命線。數(shù)據(jù)（個(gè)人信息）處理的每一個(gè)環(huán)節(jié)，都必須遵循《數(shù)據(jù)安全法》和《個(gè)人信息保護(hù)法》以及本地的數(shù)據(jù)條例。涉及到政務(wù)數(shù)據(jù)的，要遵循相應(yīng)的條例辦法?！蛾P(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的出臺(tái)，讓市場(chǎng)化算法設(shè)計(jì)、開(kāi)發(fā)與運(yùn)用處于法律監(jiān)管之下。政府部門(mén)在應(yīng)用算法時(shí)要嚴(yán)格遵守各項(xiàng)制度法規(guī)約束，確保算法應(yīng)用符合要求。

倫理風(fēng)險(xiǎn)。在理想狀態(tài)下，基于算法的自動(dòng)或輔助決策，會(huì)合理約束人的自由裁量權(quán)，提升效率效果。挑戰(zhàn)在于，算法本身可能存在局限性和缺陷，如果人的行為影響了算法或者不恰當(dāng)?shù)厥褂盟惴ǎ蜁?huì)直接影響決策結(jié)果。一方面，公職人員的自由裁量權(quán)可能被侵蝕，甚至公職人員自身就處于算法控制之下，這會(huì)對(duì)行政倫理造成沖擊。另一方面，政府通過(guò)算法來(lái)行使公權(quán)力，一旦算法應(yīng)用存在不公平不公正時(shí)，群眾福祉會(huì)受到廣泛影響。

信任風(fēng)險(xiǎn)。安全信任是數(shù)字政府高質(zhì)量建設(shè)的基石，算法應(yīng)用直接關(guān)系到政府公信力。人、機(jī)構(gòu)、制度、算法，都面臨信任這一重大問(wèn)題。算法應(yīng)用是否可信是值得研究的重大課題，打開(kāi)“算法黑箱”，提升算法的可解釋性、可理解性、透明性是討論的焦點(diǎn)。這一點(diǎn)對(duì)于政府而言更為重要。如果存在“算法黑箱”，就會(huì)直接影響民眾對(duì)政府的信任。因此，構(gòu)建公平可信的算法至關(guān)重要。

有效規(guī)范和約束算法權(quán)力

基于算法的智能技術(shù)應(yīng)用是國(guó)家治理體系現(xiàn)代化的有力支撐，政府算法應(yīng)用的風(fēng)險(xiǎn)防范已成為治理現(xiàn)代化的重要命題。當(dāng)前，各地正在推進(jìn)數(shù)字政府高質(zhì)量建設(shè)，應(yīng)該優(yōu)化政府工作流程，規(guī)避算法中可能蘊(yùn)含的風(fēng)險(xiǎn)，推動(dòng)算法應(yīng)用規(guī)范化。

堅(jiān)持抓住領(lǐng)導(dǎo)干部這個(gè)“關(guān)鍵少數(shù)”，提升干部算法素養(yǎng)。算法決策是提升決策水平的重要途徑，是數(shù)字化背景下領(lǐng)導(dǎo)干部能力素養(yǎng)的重要內(nèi)容。算法運(yùn)用的合規(guī)、倫理、信任與失控風(fēng)險(xiǎn)，可能不利于數(shù)字化時(shí)代的權(quán)力規(guī)范運(yùn)行和政府公信力提升，應(yīng)確保政府領(lǐng)域算法運(yùn)用做到合法合規(guī)、公平公正可信，有效規(guī)范和約束算法權(quán)力。領(lǐng)導(dǎo)干部要有“底線思維”，重視算法風(fēng)險(xiǎn)的全過(guò)程防控，建立算法責(zé)任機(jī)制。

全面加強(qiáng)政府自身的科技能力建設(shè)，盡快形成算法應(yīng)用相應(yīng)機(jī)制。各地已經(jīng)設(shè)立了大數(shù)據(jù)局、政務(wù)數(shù)據(jù)中心等機(jī)構(gòu)，一些地方已組建或正在籌建大數(shù)據(jù)集團(tuán)公司。在加強(qiáng)科技能力數(shù)字能力建設(shè)之外，政府還應(yīng)盡快探索形成算法應(yīng)用管控機(jī)制，加強(qiáng)政府、企業(yè)、科研機(jī)構(gòu)等多方跨邊界協(xié)作機(jī)制，形成對(duì)算法風(fēng)險(xiǎn)的全過(guò)程治理。政府領(lǐng)域算法運(yùn)用涉及到幾乎所有的政治、經(jīng)濟(jì)、社會(huì)、科技等領(lǐng)域的各方面，牽扯到諸多利益相關(guān)者，形成有效的協(xié)同治理是必然的路徑。

加快制定規(guī)范政府算法應(yīng)用的政策法規(guī)。針對(duì)政府領(lǐng)域算法運(yùn)用，研究者已從公共行政、法律等角度做了廣泛研究，提出了諸多觀點(diǎn)，包括算法權(quán)力、算法行政、算法政府、算法責(zé)任等，加強(qiáng)政府算法運(yùn)用立法已是共識(shí)。政府?dāng)?shù)字化改革全面深入，有必要加強(qiáng)研究，盡快出臺(tái)政策法規(guī)以規(guī)范政府算法應(yīng)用。

（作者單位：南京審計(jì)大學(xué)）

責(zé)任編輯：李佳婧