劉佳明

(浙江財(cái)經(jīng)大學(xué)，浙江 杭州 310018)

在行政法學(xué)領(lǐng)域，有關(guān)算法的研究側(cè)重于討論算法決策與社會(huì)治理之間的內(nèi)在聯(lián)系，或認(rèn)為隨著算法不斷融入社會(huì)治理領(lǐng)域，傳統(tǒng)法律治理形式正面臨著“革命性”挑戰(zhàn)和轉(zhuǎn)型升級的發(fā)展境遇[1]，或認(rèn)為在算法沖擊之下，傳統(tǒng)法律治理形式正逐漸喪失其獨(dú)立于社會(huì)系統(tǒng)存在的功能正當(dāng)性，甚至趨向“消亡”[2]。而在算法治理規(guī)制方法中，研究也主要主張運(yùn)用傳統(tǒng)行政法治的一般原理來對算法主體予以控制。這些觀點(diǎn)對于研究和分析數(shù)字化背景下國家治理技術(shù)與價(jià)值維度的轉(zhuǎn)型具有重要啟發(fā)意義，但對于一些具有公共性質(zhì)的決策算法，尤其是當(dāng)這些算法的程序設(shè)計(jì)是由私營主體主導(dǎo)、控制之時(shí)，能否直接套用行政法治的一般原理來對其予以規(guī)制？如何規(guī)制？這些都值得去反思。而當(dāng)不受監(jiān)督、不對人民負(fù)責(zé)以及堅(jiān)持利益至上的私營主體通過控制算法來攝取國家權(quán)力之時(shí)，更有可能引發(fā)算法尋租、算法濫用等社會(huì)問題。面對算法決策給傳統(tǒng)治理模式帶來的沖擊，以及私營主體對公共算法程序的壟斷和控制，我們需要理性分析算法行政過程中所面臨的私營化問題，進(jìn)而主張將算法程序的私營設(shè)計(jì)主體納入公法的規(guī)范和限制范圍之內(nèi)。

一、算法行政私營化的表現(xiàn)形式

算法行政的出現(xiàn)與數(shù)字技術(shù)的進(jìn)步密切相關(guān)。數(shù)字技術(shù)的進(jìn)步以及數(shù)字化生活程度的提升，極大增強(qiáng)了以信息為基礎(chǔ)的規(guī)制活動(dòng)和處理復(fù)雜問題的能力。在數(shù)據(jù)挖掘技術(shù)的指導(dǎo)下，關(guān)于社會(huì)主體意圖、傾向、偏好、風(fēng)險(xiǎn)和機(jī)會(huì)的概率知識，都由算法參與主導(dǎo)并執(zhí)行。在此基礎(chǔ)上，“算法行政”被認(rèn)為是一種建立在自動(dòng)收集、整理和分析大數(shù)據(jù)基礎(chǔ)上的某種類型的規(guī)范性或政治理性，并以建模、預(yù)測和先發(fā)制人的方式來影響可能行為[3]，即行政機(jī)關(guān)在借助算法對行政工作進(jìn)行自動(dòng)化處理的過程中，基于算法產(chǎn)生的權(quán)力機(jī)制而形成的一種全新社會(huì)治理模式。在這種特殊治理模式中，行政機(jī)關(guān)能夠利用數(shù)據(jù)處理和深度學(xué)習(xí)的技術(shù)優(yōu)勢，不斷提升自身決策能力和決策水平，以此來強(qiáng)化對社會(huì)的影響和控制。但是，作為一種新的社會(huì)治理形式，算法行政程序的設(shè)計(jì)理應(yīng)由有權(quán)機(jī)關(guān)依據(jù)特定的職權(quán)進(jìn)行，這種職權(quán)必須有直接或明確的法律授權(quán)或委托依據(jù)，其中既包括國家層面的行政主體，也包括地方層面的行政主體。但是，受制于算法技術(shù)的專業(yè)性和特殊性，算法行政往往由私營主體控制，從而導(dǎo)致算法行政產(chǎn)生了私營化的現(xiàn)象。

(一)算法程序的私營化

在人工智能算法與行政法治關(guān)系的研究中，一些學(xué)者很早就注意到了當(dāng)下算法影子官僚的現(xiàn)象，并對其進(jìn)行了專門的研究。算法影子官僚的產(chǎn)生與算法行政的私營化有關(guān)，私營主體可以通過控制公共算法程序的開發(fā)和設(shè)計(jì)而發(fā)展成為行政管理關(guān)系中的非正式官僚組織。換言之，從技術(shù)邏輯上分析，算法行政的應(yīng)用與平臺的應(yīng)用具有緊密的聯(lián)系，算法通過與大數(shù)據(jù)、互聯(lián)網(wǎng)平臺融合，從而實(shí)現(xiàn)與整個(gè)社會(huì)關(guān)系的融合。對于現(xiàn)代社會(huì)治理而言，平臺作為私營主體，可以利用自身的資本優(yōu)勢和技術(shù)優(yōu)勢有針對性地收集各類用戶數(shù)據(jù)，以此促進(jìn)算法技術(shù)的不斷成長，而擁有公共權(quán)力和公共資源的政府部門利用平臺收集的數(shù)據(jù)和開發(fā)的應(yīng)用程序，可以對社會(huì)實(shí)現(xiàn)精準(zhǔn)化治理。二者的有效結(jié)合，能為平臺嵌入公共治理領(lǐng)域提供極大便利。具體表現(xiàn)為：其一，平臺能夠?yàn)檎峁┗A(chǔ)數(shù)字支持，政府借助平臺可以提升國家權(quán)力的效能并延伸治理觸角；其二，平臺能夠?yàn)檎褂玫乃惴ǔ绦?、架?gòu)設(shè)計(jì)等基礎(chǔ)設(shè)施的建設(shè)創(chuàng)造技術(shù)物質(zhì)條件。例如，中國平安集團(tuán)開發(fā)的“智慧財(cái)政”一體化管理平臺，充分運(yùn)用信息化手段打造出符合現(xiàn)代化預(yù)算管理要求的財(cái)政全流程業(yè)務(wù)系統(tǒng)，可以大幅度提升政府的財(cái)政管理能力；在廣東省數(shù)字政府的建設(shè)過程中，騰訊云幫助廣東省發(fā)布了移動(dòng)服務(wù)平臺“粵省事”，為實(shí)現(xiàn)民生服務(wù)一站式辦理提供了強(qiáng)大的技術(shù)支持[4]。這些都是私營主體參與算法程序設(shè)計(jì)的具體表現(xiàn)。

(二)算法決策的私營化

網(wǎng)絡(luò)化、數(shù)字化的交流方式不僅在治理主體上改變了原先政府壟斷國家權(quán)力的狀況，使國家治理主體呈現(xiàn)多元化的發(fā)展趨勢，還使社會(huì)運(yùn)行機(jī)制和構(gòu)成方式實(shí)現(xiàn)了從單一型向合作型的現(xiàn)代化方向轉(zhuǎn)變。傳統(tǒng)上，公共管理組織作為執(zhí)行公共任務(wù)的專門主體，職責(zé)范圍一般限于保障實(shí)施社會(huì)生活的正當(dāng)行為規(guī)則以及向社會(huì)提供公共服務(wù)[5]。隨著社會(huì)和市場的逐漸平臺化，越來越多的社會(huì)交往與交易行為通過平臺進(jìn)行并在一定程度上受到平臺的控制和約束。例如，平臺雖由私人組織運(yùn)營，卻在事實(shí)上成為大眾參與公共活動(dòng)的重要場所，并與公共利益密切相關(guān)[6]。隨著技術(shù)賦能和法定義務(wù)不斷增加，平臺不再是純粹的信息傳輸管道，其實(shí)質(zhì)功能已經(jīng)發(fā)生變化。它不僅僅是普通意義上的私權(quán)利主體，而且是具有公共管理性質(zhì)的私權(quán)力主體，并對社會(huì)個(gè)體施加不亞于國家權(quán)力機(jī)關(guān)的影響力和控制力。尤其是在人工智能算法時(shí)代，平臺因高度聚合性和強(qiáng)自動(dòng)化的經(jīng)營特征，而能夠輻射網(wǎng)絡(luò)虛擬空間和現(xiàn)實(shí)物理空間，呈現(xiàn)出“去結(jié)構(gòu)化”和“強(qiáng)組織化”疊加的特性[7](p.59)。例如，著作權(quán)領(lǐng)域法律的算法實(shí)施就為平臺參與算法行政的應(yīng)用提供了一個(gè)有益的觀察視角，平臺可以自發(fā)采用侵權(quán)檢測算法規(guī)則，并通過確立新的立法原則來強(qiáng)化對在線用戶分享內(nèi)容的事前審查，從而對網(wǎng)絡(luò)空間中著作權(quán)法的算法實(shí)施機(jī)制和規(guī)制的創(chuàng)新與發(fā)展形成激勵(lì)作用[8]。

(三)算法規(guī)制的私法化

在算法行政的法律規(guī)制領(lǐng)域，有關(guān)算法程序的設(shè)計(jì)主體和使用主體尚未明確區(qū)分，同時(shí)也缺乏必要的公法規(guī)制手段對算法行政的私營主體予以規(guī)范和控制。例如，對于如何規(guī)制公共管理領(lǐng)域中的算法“黑箱”問題，主流觀點(diǎn)提出的辦法主要是算法解釋、算法問責(zé)和算法信任，即將算法自動(dòng)化決策和輔助決策都納入可解釋、可問責(zé)和可信任的情形之內(nèi)，但是，可解釋、可問責(zé)和可信任的主體仍然限于數(shù)據(jù)代理商或自動(dòng)化決策算法公司等私營主體，而我國目前法律中有關(guān)規(guī)制算法主體行為的規(guī)定也主要散見于《刑法》《消費(fèi)者權(quán)益保護(hù)法》《電子商務(wù)法》《網(wǎng)絡(luò)安全法》《征信業(yè)條例》《網(wǎng)絡(luò)交易管理辦法》等相關(guān)法律條文中，其內(nèi)容也主要側(cè)重于對公民個(gè)人信息和個(gè)人隱私的保護(hù)。例如，我國《電子商務(wù)法》在規(guī)范電子商務(wù)平臺的行為之時(shí)就專門將其作為一類獨(dú)立主體，并對其系統(tǒng)地設(shè)定了相應(yīng)的管理要求以防止“私權(quán)力”濫用。因此，面對智能時(shí)代自動(dòng)化決策技術(shù)對國家治理和機(jī)制帶來的巨大沖擊，現(xiàn)行法律制度在規(guī)范和調(diào)整算法行政的私營主體上往往顯得捉襟見肘，力不從心。尤其是缺乏一部專門化、精細(xì)化的規(guī)范和限制算法行政私營化、防止公民權(quán)利遭受不法侵害的法律，而一旦對算法行政程序設(shè)計(jì)的限制和約束不當(dāng)，勢必造成難以挽回的惡果。

二、算法行政私營化的問題

算法行政作為智能時(shí)代社會(huì)轉(zhuǎn)型的客觀產(chǎn)物，對推動(dòng)國家治理轉(zhuǎn)型升級具有重要的現(xiàn)實(shí)意義，但是，算法行政如同傳統(tǒng)行政一樣容易遭到濫用，并且算法行政的私營化程度越高，非權(quán)力化手段介入越強(qiáng)，其權(quán)力濫用的機(jī)會(huì)就越大。而在算法行政的私法規(guī)制關(guān)系中，完全的平等協(xié)商與意思自治只是一種理想狀態(tài)。如果將公共關(guān)系的法律調(diào)整完全交給平等協(xié)商和意思自治，則被消滅的將不再是權(quán)威和規(guī)訓(xùn)本身，而是其賴以產(chǎn)生的社會(huì)關(guān)系[9]。由于算法程序的設(shè)計(jì)以及數(shù)據(jù)的收集往往都在平臺上進(jìn)行，而個(gè)體通常只關(guān)心手段和效用，無法解決社會(huì)內(nèi)在的公平性和合理性問題，因此，作為私營主體的平臺難以避免主觀隱含的功利主義價(jià)值導(dǎo)向。而一旦對公民行為的控制和影響越來越多地需要借助于算法形式來予以表達(dá)之時(shí)，對算法技術(shù)的壟斷控制將成為社會(huì)主體獲取競爭優(yōu)勢的普遍特征，商業(yè)巨頭、政府部門以及超級網(wǎng)絡(luò)平臺公司將成為獲取算法工具的主要競爭主體。借助技術(shù)優(yōu)勢和平臺優(yōu)勢，除了在引導(dǎo)輿論、妨礙競爭、破壞市場公平等私人領(lǐng)域造成影響之外，私營主體在行政法治領(lǐng)域所引發(fā)的社會(huì)問題尤為值得關(guān)注。

(一)算法程序設(shè)計(jì)的私營性容易誘發(fā)算法尋租

當(dāng)前，算法與紛繁復(fù)雜的平臺應(yīng)用相結(jié)合，深入且廣泛地融入我們的生活中并不斷拓展，這些看似理性的算法卻引發(fā)了一系列算法危機(jī)，“算法歧視”“算法合謀”“算法霸權(quán)”“算法黑箱”“算法短視”等問題層出不窮。私營主體作為非權(quán)威的權(quán)力與秩序組織，雖然能夠?qū)⑺莆盏募夹g(shù)知識、方法運(yùn)用于算法決策或政府智能化決策平臺、網(wǎng)絡(luò)架構(gòu)的基礎(chǔ)設(shè)施建設(shè)之中，從而實(shí)現(xiàn)公共利益和個(gè)人利益雙贏，但算法不等于抽象的數(shù)學(xué)，任何算法都包含著特定群體的價(jià)值判斷，這種價(jià)值判斷必然受到諸多現(xiàn)實(shí)利益的影響[10]。從算法運(yùn)行的邏輯基礎(chǔ)分析，幾乎所有的算法行政都依托平臺而展開，而算法的開發(fā)、運(yùn)行和迭代，不可避免要涉及平臺對用戶數(shù)據(jù)的收集、加工與處理。由此可知，作為足以對社會(huì)主體行為進(jìn)行引導(dǎo)和操縱的算法并非完全是中立、可信的，事實(shí)上，算法很有可能成為裹挾著資本甚至政治動(dòng)機(jī)的私人利益工具。例如，公民在新聞信息獲取環(huán)節(jié)便受制于平臺的算法推薦機(jī)制，即公民可以看到的新聞內(nèi)容要經(jīng)過平臺的篩選和過濾，而具有相似情感和價(jià)值傾向的公民又通過協(xié)同過濾算法機(jī)制聚集到了同一話語空間[11]。這些都可以被平臺操縱并用于實(shí)現(xiàn)自己的商業(yè)目的。因此，在算法行政應(yīng)用中，一旦對算法程序設(shè)計(jì)的監(jiān)管不當(dāng)，平臺就可以在數(shù)據(jù)篩選和程序設(shè)計(jì)環(huán)節(jié)對算法決策的形成產(chǎn)生實(shí)質(zhì)性影響，從而使行政行為偏離公共意志和公共利益的法治軌道。

(二)算法決策的功利主義價(jià)值導(dǎo)向容易產(chǎn)生社會(huì)偏見

隨著技術(shù)的不斷更新、迭代，對技術(shù)的崇拜使得理性越來越工具化，以效率與效益為追逐目標(biāo)的功利主義價(jià)值導(dǎo)向使算法越來越成為人們獲利的主要方式。盡管效率優(yōu)先的價(jià)值選擇是算法升級進(jìn)化的重要助推力，但同時(shí)也會(huì)成為影響公共利益、侵害公民權(quán)利的關(guān)鍵性因素。因?yàn)榧僭O(shè)算法主體是理性人并且總是偏好更高收益的結(jié)果，那么算法決策總是會(huì)采取嚴(yán)格占優(yōu)策略且總是不選擇任何劣勢策略[12](p.11)。因此，算法雖然有助于提升社會(huì)治理效率并降低社會(huì)監(jiān)管成本，但也不可避免地會(huì)復(fù)制并延續(xù)當(dāng)前社會(huì)的既有格局與特征，人類社會(huì)既有的“數(shù)據(jù)鴻溝”可能導(dǎo)致部分人群的數(shù)據(jù)缺失，并使他們進(jìn)一步被隔離在“算法社會(huì)”之外[13]。例如，在現(xiàn)實(shí)生活中，某些群體可能因其不同的身份而遭受到社會(huì)的不公平對待，那么將數(shù)據(jù)化分析作為“決策”考量因素的算法行政則會(huì)進(jìn)一步加劇原有的不平等現(xiàn)象，從而引發(fā)偏見累積效應(yīng)，并誘發(fā)“二階性偏見”現(xiàn)象。

(三)算法規(guī)制的私法化難以有效調(diào)整公共關(guān)系

從調(diào)控方式來看，公法和私法雖然具有一定的相似性，但仍存在著本質(zhì)上的不同。公法是關(guān)于私法之保障和職權(quán)運(yùn)行的行為規(guī)范，調(diào)整的是不同主體之間的縱向法律關(guān)系，因而決定其采取的調(diào)控方式是以控制與被控制為主。相反，私法所調(diào)整的是平等主體之間的橫向法律關(guān)系，因而決定其采用的調(diào)控方式是以協(xié)商和放任為主，而不是遵循控制與被控制的邏輯。如果采取協(xié)商和放任的方式來調(diào)控具有公共管理性質(zhì)的算法行政，那么這種調(diào)控方式被證明在很多時(shí)候往往是無效的。因?yàn)椋ǖ氖滓康氖潜Ｕ蠈?shí)施社會(huì)生活的正當(dāng)行為規(guī)則。假如沒有一個(gè)強(qiáng)調(diào)“服從”的權(quán)威機(jī)構(gòu)來執(zhí)法或者作為后盾，單純依靠沖突當(dāng)事人自己協(xié)商解決，無論是對整個(gè)社會(huì)的資源配置還是對當(dāng)事人的福利來說都會(huì)是低效率的[14]。況且，在我國現(xiàn)行的法律制度體系之下，幾乎所有的公法領(lǐng)域?qū)φ?dāng)程序都有明確的規(guī)定，并且對公共權(quán)力的行使和監(jiān)督有著嚴(yán)格的程序限定。而在算法行政產(chǎn)生、運(yùn)用的實(shí)踐過程中，數(shù)據(jù)的收集、算法的設(shè)計(jì)、運(yùn)營與部署都必然地會(huì)夾雜著平臺的私意，這些都有可能侵犯公共秩序、私人權(quán)益以及第三方權(quán)益，而這種私意在很大程度上都不是公法規(guī)范所能容忍的。因此，當(dāng)不受監(jiān)督、不對人民負(fù)責(zé)、堅(jiān)持利益至上的非政府主體掌握決策數(shù)據(jù)以及算法行政程序的設(shè)計(jì)和運(yùn)行之時(shí)，人們便有理由懷疑其可責(zé)性[15](p.5)。這就表明如何在公法領(lǐng)域框架克服算法行政的私法化傾向，是一個(gè)需要被認(rèn)真對待并亟待解決的現(xiàn)實(shí)問題。

三、算法行政私營化的公法規(guī)制

行政機(jī)關(guān)需要借助私營主體開發(fā)和設(shè)計(jì)的算法程序來實(shí)現(xiàn)政策制定與社會(huì)治理的公共目的，但是，在數(shù)據(jù)的收集、加工與處理以及算法程序的設(shè)計(jì)、開發(fā)和運(yùn)行的過程中，算法行政的私營化發(fā)展難以避免。我們需要做的是盡可能地從公法的原理和價(jià)值角度對其進(jìn)行有效規(guī)制，從而降低算法行政私營化帶來的潛在風(fēng)險(xiǎn)。事實(shí)上，算法行政私營化問題所涉及的面向相當(dāng)之多，因而，對其進(jìn)行有效規(guī)制也是一項(xiàng)需要多領(lǐng)域、多層次通力合作的系統(tǒng)化工程。為了更好地實(shí)現(xiàn)私營主體的公共性，除了在最大程度上發(fā)揮好私法的功能之外，最終還是要從公法層面出發(fā)，通過科學(xué)建構(gòu)防止私營主體濫用算法技術(shù)和算法權(quán)力的制度規(guī)范體系，更好地實(shí)現(xiàn)對算法行政的有效規(guī)制。當(dāng)然，如何把公法的規(guī)范力適度地延伸到私法關(guān)系中，以調(diào)和現(xiàn)代社會(huì)管制與自治的矛盾，是對依賴體系思考而傳統(tǒng)上又以公私法的區(qū)隔為基本體系架構(gòu)的大陸法法系國家的一項(xiàng)重大考驗(yàn)[16]。

(一) 通過法律優(yōu)先和法律保留限定算法行政的私營化范圍

法律優(yōu)先和法律保留原則作為依法行政的重要內(nèi)容，決定了行政機(jī)關(guān)權(quán)力行使的邊界和范圍。隨著社會(huì)的逐漸發(fā)展變化，民間組織參與公共管理的事務(wù)越來越多，與國家權(quán)力的聯(lián)系也越來越緊密。因此，法律保留作為依法行政的核心內(nèi)容逐漸擴(kuò)展至私人領(lǐng)域，成為劃分公共服務(wù)私營化的邊界和范圍，以及明晰政府和私人權(quán)責(zé)的一項(xiàng)重要原則。具體到算法行政領(lǐng)域則表現(xiàn)為：對于行政機(jī)關(guān)而言，哪些算法程序設(shè)計(jì)的環(huán)節(jié)應(yīng)當(dāng)由私營主體承擔(dān)？私營主體是否受到公法規(guī)范的限制和約束？這些都在法律保留原則的討論范圍之內(nèi)。

智能科技企業(yè)和平臺公司在智能社會(huì)治理方面有其不可替代的內(nèi)生動(dòng)力和天然優(yōu)勢[17]，作為現(xiàn)代算法技術(shù)的創(chuàng)造者和引領(lǐng)者，私營主體以其得天獨(dú)厚的平臺優(yōu)勢和技術(shù)優(yōu)勢成為推動(dòng)數(shù)字社會(huì)轉(zhuǎn)型升級的中堅(jiān)力量。鑒于私營主體在算法行政中發(fā)揮著較為明顯的作用，對算法行政的規(guī)制就不應(yīng)當(dāng)僅僅限于國家層面的公權(quán)力主體，同時(shí)也應(yīng)包括社會(huì)層面的私權(quán)力主體。私營主體能夠?qū)袷┘硬粊営谡挠绊懥涂刂屏?，因而從法律層面對私營主體進(jìn)行控制和約束也就顯得更為重要。但是，算法行政涉及面廣且關(guān)系復(fù)雜，在適用法律保留原則上需要根據(jù)私營主體在算法程序設(shè)計(jì)中所承擔(dān)角色的不同予以明確區(qū)分。一方面，對于社會(huì)發(fā)展變化較快且需要國家快速應(yīng)對的事項(xiàng)領(lǐng)域，私營主體相較于行政機(jī)關(guān)具有更強(qiáng)的專業(yè)性和快速反應(yīng)能力，尤其是在人工智能技術(shù)得到廣泛運(yùn)用的當(dāng)下，從算法的基礎(chǔ)認(rèn)知、實(shí)際運(yùn)用再到反饋修正，需要跨學(xué)科知識和編碼技術(shù)，這些事項(xiàng)因不具有規(guī)范的可能性應(yīng)當(dāng)被排除在法律保留的范圍之外，應(yīng)被納入私法領(lǐng)域的規(guī)范范疇。例如，凡是在特別專業(yè)的事務(wù)領(lǐng)域，私營主體可以為算法程序設(shè)計(jì)相應(yīng)的專業(yè)標(biāo)準(zhǔn)與技術(shù)規(guī)范，這些標(biāo)準(zhǔn)和規(guī)范對于算法程序的開發(fā)與運(yùn)行而言，具有普遍的指導(dǎo)和強(qiáng)制作用。另一方面，即使私營主體在算法行政程序設(shè)計(jì)中發(fā)揮的作用比較明顯，但對于一些涉及公民權(quán)利核心問題的重要事項(xiàng)，且只能由行政機(jī)關(guān)來履行算法程序設(shè)計(jì)的領(lǐng)域，仍應(yīng)當(dāng)由行政機(jī)關(guān)履行，這些事項(xiàng)具有規(guī)范的可能性，應(yīng)當(dāng)被納入法律保留原則的范圍之內(nèi)，并被納入公法領(lǐng)域的范疇。例如，在算法程序的設(shè)計(jì)過程中，一些核心數(shù)據(jù)的輸入以及涉及公民個(gè)人權(quán)利、商業(yè)秘密和國家機(jī)密等重要程序的核心功能部分應(yīng)當(dāng)由行政機(jī)關(guān)控制產(chǎn)生，這些屬于法律絕對保留的事項(xiàng)。而對于哪些算法程序的設(shè)計(jì)內(nèi)容能夠私營化，或者應(yīng)當(dāng)如何實(shí)行私營化，則必須由立法部門專門決定，其通過法律授權(quán)的方式來對算法行政私營化進(jìn)行限制和約束，行政機(jī)關(guān)不能簡單地通過制定法規(guī)條例的方式作出決定，從而擅自將算法行政程序的設(shè)計(jì)完全外包給私營主體或機(jī)構(gòu)。因此，對社會(huì)整體福利或公民的實(shí)質(zhì)權(quán)利產(chǎn)生比較廣泛影響的算法程序設(shè)計(jì)，應(yīng)當(dāng)要用相對適用的法律進(jìn)行絕對保留，以防止公權(quán)力行使主體權(quán)責(zé)的轉(zhuǎn)移；而對于一些技術(shù)性、專業(yè)性較強(qiáng)的算法程序設(shè)計(jì)，應(yīng)當(dāng)要相對保留或?qū)⑵渑懦诜杀Ａ粼瓌t的適用范圍之外。

(二)算法行政私營化的立法再規(guī)范

算法行政私營化的行政監(jiān)管旨在從應(yīng)然層面來探討行政監(jiān)管部門如何在具體的實(shí)踐過程中規(guī)范私營主體的算法程序設(shè)計(jì)行為，而這不僅需要通過國家制定具體的法律法規(guī)來進(jìn)行專門指引，還需要建立專業(yè)的算法規(guī)制主體來對程序設(shè)計(jì)進(jìn)行審查，以確保私營主體的可問責(zé)性。

1.制定統(tǒng)一的算法私營化法典或公共算法程序設(shè)計(jì)管理法

事實(shí)上，無論是立法、司法還是執(zhí)法層面，算法決策對社會(huì)的滲透和影響無處不在，其背后都會(huì)不自覺地觸碰到私營主體利用算法技術(shù)俘獲或強(qiáng)勢入侵國家公權(quán)力的問題。面對私營主體通過代碼和架構(gòu)在算法行政程序設(shè)計(jì)中以直接或者間接方式滲透其價(jià)值偏好和利益選擇，無論是行政法規(guī)還是部門規(guī)章可能對此都會(huì)招架不住，尤其是就算法行政這一新的治理機(jī)制而言，法律優(yōu)先和法律保留原則作為對這一問題解決的首要原則，其有效性和實(shí)效性也就顯得不容樂觀，并值得商榷。對此，迫切需要對算法進(jìn)行立法，尤其是針對行政管理領(lǐng)域中具有立法性質(zhì)的公共決策算法進(jìn)行立法，從而使算法行政的產(chǎn)生和運(yùn)行以及相應(yīng)的監(jiān)督和管理機(jī)制得以有效形成。從制度層面來看，對算法行政私營化現(xiàn)象進(jìn)行立法，首先需要立法機(jī)關(guān)制定一部統(tǒng)一的算法私營化法典。為保障私營主體參與算法行政程序設(shè)計(jì)的合法性和正當(dāng)性，以及保證私營主體在參與算法程序設(shè)計(jì)過程中的公開透明，亟須在法典中明確私營主體參與算法行政程序設(shè)計(jì)的合法地位。一些涉及社會(huì)公共福利和公民權(quán)利等的重要核心程序的開發(fā)以及基礎(chǔ)設(shè)施的部署應(yīng)當(dāng)嚴(yán)格規(guī)定由行政機(jī)關(guān)進(jìn)行，而其他一般性事項(xiàng)則由私營主體進(jìn)行。

此外，制定完備的算法私營化法典還需要立法機(jī)關(guān)制定一部專門的公共算法程序設(shè)計(jì)管理法，從而為算法行政的程序設(shè)計(jì)提供標(biāo)準(zhǔn)化的行為規(guī)范和操作指南。在美國，對公共決策算法的治理大量發(fā)生在州和地方政府一級，它們正積極通過立法來規(guī)范公共算法在各種社會(huì)治理場景中的應(yīng)用。例如，佛羅里達(dá)州的iBud-get系統(tǒng)就是一種基于算法的服務(wù)，它允許殘疾人選擇對他們很重要的個(gè)性化服務(wù)，同時(shí)也幫助行政機(jī)關(guān)遵守相關(guān)聯(lián)邦和州的法律，此外，針對其他算法程序設(shè)計(jì)和使用的規(guī)制還在一些判例當(dāng)中得到明確確認(rèn)[18]。在我國，目前規(guī)制算法程序設(shè)計(jì)的規(guī)定主要散見于一些行政法規(guī)或部門規(guī)章當(dāng)中，如國務(wù)院1999年制定的《商用密碼管理?xiàng)l例》、工信部的《移動(dòng)智能終端應(yīng)用軟件預(yù)置和分發(fā)管理暫行規(guī)定》、住房和城鄉(xiāng)建設(shè)部的《建筑智能化系統(tǒng)運(yùn)行維護(hù)技術(shù)規(guī)范》和國家密碼管理局的《密碼模塊安全檢測要求》等。這些對算法程序的設(shè)計(jì)都有所涉及，但我國仍然缺少針對算法程序設(shè)計(jì)問題的專門性法律法規(guī)。制定一部統(tǒng)一的涉及公共算法程序設(shè)計(jì)問題的法律法規(guī)，不僅能夠?yàn)樗惴ㄐ姓绦虻脑O(shè)計(jì)提供法律依據(jù)，同時(shí)還能夠?yàn)槿珖鞯厮惴ㄐ姓绦虻脑O(shè)計(jì)提供統(tǒng)一的性能標(biāo)準(zhǔn)、設(shè)計(jì)標(biāo)準(zhǔn)以及責(zé)任標(biāo)準(zhǔn)，保障程序設(shè)計(jì)遵循程序化、標(biāo)準(zhǔn)化的操作，從而達(dá)到規(guī)范算法在公共決策領(lǐng)域使用的預(yù)期效果。

即使在公共行政領(lǐng)域，由于算法在不同行政場景下所涉及的程序、架構(gòu)、目的、風(fēng)險(xiǎn)以及影響范圍都有所差異，一部統(tǒng)一的算法私營化法典或公共算法程序設(shè)計(jì)管理法，可能會(huì)與算法運(yùn)行和應(yīng)用的實(shí)際機(jī)理相悖，甚至在應(yīng)對算法行政私營化問題上的作用十分有限。因此，無論是從節(jié)約治理成本還是從追求治理效果出發(fā)，抑或是從推動(dòng)民主進(jìn)程、轉(zhuǎn)變治理思維以及保障基本人權(quán)的規(guī)范性要求出發(fā)，推動(dòng)數(shù)字時(shí)代背景下國家治理的技術(shù)維度和價(jià)值維度的轉(zhuǎn)變，除了需要強(qiáng)化制度構(gòu)建和政府管制之外，還應(yīng)當(dāng)引導(dǎo)社會(huì)治理模式從單純的政府監(jiān)管向社會(huì)自治轉(zhuǎn)變。通過重構(gòu)國家與市民社會(huì)的關(guān)系，確立多元權(quán)利基礎(chǔ)、公權(quán)力權(quán)威和良法之治，從而實(shí)現(xiàn)依法治國與市民社會(huì)理性規(guī)則秩序的契合[19]。

2.明確私營主體的公法責(zé)任

由于算法行政程序設(shè)計(jì)具有極端重要性，尤其是私營主體所設(shè)計(jì)的算法程序會(huì)對公民的權(quán)利義務(wù)產(chǎn)生實(shí)質(zhì)性影響，建立專門的算法監(jiān)督和算法問責(zé)機(jī)制是必不可少的。但是，現(xiàn)有法律制度使得私營主體利用算法設(shè)計(jì)開發(fā)的商業(yè)模式有監(jiān)管套利之嫌，設(shè)計(jì)者往往以算法的發(fā)展和最終損害可能有多個(gè)潛在的責(zé)任方，以及設(shè)計(jì)行為是智力創(chuàng)造過程不應(yīng)受到法律的規(guī)制為由，對算法的監(jiān)管行為進(jìn)行完美規(guī)避[20]。因此，基于我國目前缺乏一套有效的社會(huì)治理體系將算法違法的成本內(nèi)部化，以及面對算法程序所帶來的危害和算法歸責(zé)上的困難，立法者需要在明晰算法系統(tǒng)的內(nèi)部運(yùn)行邏輯和外部作用方式基礎(chǔ)之上來創(chuàng)新現(xiàn)有法律責(zé)任歸責(zé)體系，創(chuàng)造出符合算法技術(shù)特征的責(zé)任規(guī)則，從而明確算法程序設(shè)計(jì)者和使用者之間的權(quán)責(zé)分工標(biāo)準(zhǔn)。

既然私營主體在事實(shí)上行使公共管理職權(quán)并提供公共服務(wù)，相應(yīng)地也就應(yīng)當(dāng)積極履行應(yīng)有的法律義務(wù)和承擔(dān)公共責(zé)任，從而實(shí)現(xiàn)個(gè)人利益與公共利益的有機(jī)統(tǒng)一。而在算法責(zé)任問題的研究上，國內(nèi)有研究者主張將算法責(zé)任視為一種嚴(yán)格責(zé)任，即“一旦算法在應(yīng)用過程中產(chǎn)生任何風(fēng)險(xiǎn)或造成任何實(shí)際損害，算法的研發(fā)者和應(yīng)用者都有義務(wù)承擔(dān)算法責(zé)任，即便事先已取得利益相關(guān)者的知情同意或純粹的技術(shù)缺陷也不足以阻卻相關(guān)主體所應(yīng)承擔(dān)的算法責(zé)任”[7](p.65)。在算法責(zé)任的類型上，有學(xué)者根據(jù)現(xiàn)代政府治理所蘊(yùn)含的權(quán)力關(guān)系、法律關(guān)系與道德關(guān)系，進(jìn)一步主張將算法責(zé)任分為政治、法律與道德三種類型，其中算法的法律責(zé)任包括憲法、法律與行政法規(guī)等所明確確立的政治責(zé)任與道德責(zé)任，主要涉及治理部門內(nèi)部的角色設(shè)置與責(zé)任分配[15](p.10)。而在對私營主體主觀過錯(cuò)的認(rèn)定上，還有學(xué)者認(rèn)為通過設(shè)置算法評估制度和算法備案制度作為事前固定問責(zé)點(diǎn)，事后根據(jù)備案內(nèi)容做出算法解釋，并結(jié)合客觀損害結(jié)果來對其予以歸責(zé)[21]。這些為算法責(zé)任的研究提供了可供參考的經(jīng)驗(yàn)。因此，通過對現(xiàn)行行政法律責(zé)任體系進(jìn)行改革，將參與算法行政程序設(shè)計(jì)的私營主體擴(kuò)充為行政責(zé)任主體的類型，并補(bǔ)充相應(yīng)的算法責(zé)任內(nèi)容，從而使私營主體在享有一定權(quán)力的同時(shí)又必須承擔(dān)相應(yīng)的公共責(zé)任，這既是規(guī)制算法行政私營化的應(yīng)有之義，也是智能時(shí)代法律變革的必然趨勢。

當(dāng)然，雖然私營主體在算法行政產(chǎn)生過程中發(fā)揮著重要的作用，但考慮到其畢竟不是真正意義上的公共管理者，如果對其苛以過高的義務(wù)要求和責(zé)任負(fù)擔(dān)，私營主體將不堪重負(fù)，這將會(huì)抑制私營主體參與算法行政程序設(shè)計(jì)的積極性，同時(shí)也可能會(huì)為掌握實(shí)質(zhì)性決策權(quán)力的行政主體實(shí)施責(zé)任轉(zhuǎn)移提供充分的借口和理由。故而，私營主體承擔(dān)的責(zé)任應(yīng)當(dāng)被控制在必要的限度范圍之內(nèi)，算法行政責(zé)任的最終承擔(dān)主體仍應(yīng)以行政主體為主。

3.建立獨(dú)立的算法審查規(guī)制主體

由于算法通常涉及的專業(yè)性知識較強(qiáng)，結(jié)構(gòu)較為復(fù)雜，因而為了對算法程序的設(shè)計(jì)進(jìn)行有效監(jiān)管，并確保算法程序設(shè)計(jì)的法律責(zé)任能夠落到實(shí)處，需要設(shè)立專業(yè)、獨(dú)立的算法審查部門來對算法進(jìn)行專門審查監(jiān)管。來自美國公用事業(yè)規(guī)制的基本經(jīng)驗(yàn)表明，“復(fù)雜的現(xiàn)代社會(huì)需要專業(yè)化的、獨(dú)立的、靈活的和可持續(xù)的規(guī)制模式。大量的介乎于立法機(jī)關(guān)、司法機(jī)關(guān)和行政機(jī)關(guān)之間的獨(dú)立管制機(jī)構(gòu)的存在即是上述模式的典型特征”[22]。例如，在對算法的監(jiān)管上，美國、英國等發(fā)達(dá)國家都設(shè)有專業(yè)、獨(dú)立的審查機(jī)構(gòu)。在美國，《算法問責(zé)法(草案)》將聯(lián)邦貿(mào)易委員會(huì)(Federal Trade Commission，F(xiàn)TC)作為獨(dú)立的算法監(jiān)管機(jī)構(gòu)，對自動(dòng)化算法決策進(jìn)行立法、監(jiān)管以及采取強(qiáng)制措施[23]。此外，英國也設(shè)立了非政府部門公共機(jī)構(gòu)英國信息專員辦公室(Information Commissioner’s Office, ICO)，其擁有獨(dú)立的監(jiān)督和審查，以及命令糾正錯(cuò)誤行為和實(shí)施罰款的權(quán)力。就我國算法行政私法化問題的監(jiān)管而言，可以在借鑒國外有效經(jīng)驗(yàn)的基礎(chǔ)之上，來創(chuàng)設(shè)符合我國國情的獨(dú)立、專業(yè)的算法審查規(guī)制主體，從而強(qiáng)化對算法程序設(shè)計(jì)的監(jiān)督和管理，并賦予其相應(yīng)的國家權(quán)力。

為了保證算法審查部門的獨(dú)立運(yùn)行，算法審查規(guī)制主體應(yīng)當(dāng)包含以下特征：專業(yè)性，即算法審查機(jī)構(gòu)的人員應(yīng)當(dāng)由包含不同學(xué)科知識背景的專家組成，以保證算法審查的專業(yè)化；獨(dú)立性，即算法審查應(yīng)當(dāng)與政府部門和私營主體分離，不受其他部門的干涉，以確保審查結(jié)果的公正可靠；合法性，即算法審查規(guī)制主體的設(shè)立必須由法律授權(quán)產(chǎn)生，其職責(zé)范圍由法律明確規(guī)定；公平性，即算法審查規(guī)制主體應(yīng)當(dāng)依照法定的要求和程序?qū)λ惴ㄟM(jìn)行審查，以確保審查結(jié)果的公平、正當(dāng)。

(三)算法行政私營化的程序性要求

公共行政民營化成敗的關(guān)鍵在于法律程序的公正與否，唯有通過正當(dāng)?shù)男姓绦虿拍鼙Ｕ厦駹I化的順利推行[24]。無論是算法程序的設(shè)計(jì)主體還是使用主體，遵循程序正義是防止其以權(quán)謀私和濫用權(quán)力的有效舉措，也是保障權(quán)力得以有效實(shí)施和運(yùn)行的關(guān)鍵步驟。在美國，有研究者在順應(yīng)人工智能嵌入社會(huì)治理領(lǐng)域發(fā)展變化的需求之下，創(chuàng)造性地提出了“技術(shù)正當(dāng)程序”的概念，并倡導(dǎo)人工智能的開發(fā)和運(yùn)行要遵循透明性、準(zhǔn)確性、問責(zé)制、參與性和公平性等基本原則[25]。這些建議對我國算法行政私營化的程序性規(guī)制具有重要的啟發(fā)作用。具體而言，應(yīng)從信息公開、招投標(biāo)制度、聽證、公眾參與和專家輔助等方面來對算法行政私營化過程進(jìn)行全面的規(guī)范和限制，并輔之以必要的算法解釋權(quán)作為事后的權(quán)利救濟(jì)和監(jiān)督手段。

算法行政程序的設(shè)計(jì)事關(guān)公民的基本權(quán)利和社會(huì)公共利益，私營主體在設(shè)計(jì)算法程序之時(shí)，應(yīng)當(dāng)及時(shí)披露相關(guān)信息以確保算法程序設(shè)計(jì)的公開透明，尤其需要披露據(jù)以設(shè)計(jì)的相關(guān)算法規(guī)則，如正在優(yōu)化的目標(biāo)函數(shù)、用于優(yōu)化的方法以及算法的輸入變量以及源代碼等，這些有利于公眾及時(shí)了解算法程序設(shè)計(jì)的相關(guān)信息。而要克服私營化立項(xiàng)的隨意性，算法程序的設(shè)計(jì)主體除了必須得到法律授權(quán)外，還必須嚴(yán)格執(zhí)行招投標(biāo)制度。此外，為了保證算法程序設(shè)計(jì)的民主性和科學(xué)性，對于一些涉及重大事項(xiàng)的算法程序設(shè)計(jì)，還需要廣泛征求各方面意見，包括采取專家座談會(huì)、聽證會(huì)、論證會(huì)以及向社會(huì)公布算法程序、公開征求意見等多種形式，最終該算法程序才能進(jìn)入正式設(shè)計(jì)過程。通過以上一些程序性規(guī)定對涉及公民重大權(quán)利事項(xiàng)的算法程序設(shè)計(jì)進(jìn)行監(jiān)督和限制，能夠?yàn)楣妳⑴c算法程序設(shè)計(jì)的全過程提供必要的途徑，并為其監(jiān)督算法的立法性使用提供一種可能。

事實(shí)上，受制于公眾知識和精力上的有限性，程序在規(guī)范和限制算法行政私營化的實(shí)踐效果上并不明顯，且容易遭受質(zhì)疑。例如，早在紐約市的《算法問責(zé)法(草案)》中就有類似的專門規(guī)定，但在實(shí)踐過程中，由于公眾參與算法問責(zé)和算法設(shè)計(jì)的能力十分有限且激勵(lì)不足，該規(guī)定最終流于形式。為此，可以通過引入“交流型專家”來協(xié)助公眾審查和監(jiān)督技術(shù)的內(nèi)核部分，并對算法程序的設(shè)計(jì)提出專業(yè)性的意見和建議，從而保障公眾的實(shí)質(zhì)參與。當(dāng)然，對于一些專業(yè)性較強(qiáng)的核心程序，即使專家，也難以知曉并參與到算法程序設(shè)計(jì)的全過程，因此，通過算法解釋來強(qiáng)化公民對算法行政的事后監(jiān)督以及權(quán)利補(bǔ)救，也不失為一條有效途徑。但與一般算法解釋要求不同的是，對算法行政的解釋在程序上應(yīng)當(dāng)要求更高，并保證其能與傳統(tǒng)行政中的信息公開、理由說明等法律制度保持銜接。

四、結(jié)語

隨著現(xiàn)代計(jì)算機(jī)運(yùn)算能力以“指數(shù)”級速度增長，人類社會(huì)正逐漸從信息時(shí)代邁向算法時(shí)代。在行政管理領(lǐng)域，從風(fēng)險(xiǎn)評估到行為識別，從公共安全到社會(huì)服務(wù)，由大量數(shù)據(jù)驅(qū)動(dòng)的算法已經(jīng)成為新型權(quán)力中介，或?qū)θ藗兊男袨楹捅憩F(xiàn)進(jìn)行預(yù)測和評估，或?qū)Ω鞣N資源和福利分配進(jìn)行排序。這些決策與各種平臺應(yīng)用有機(jī)結(jié)合，不斷顛覆人類的傳統(tǒng)認(rèn)知和現(xiàn)有的社會(huì)秩序格局[26]。在算法研究領(lǐng)域，研究者提出“算法法律化”“算法規(guī)則化”等諸多有價(jià)值的命題，并且提供了極富解釋力的說明和嚴(yán)密的邏輯推理。不過，算法具有自己的特殊性，在不同社會(huì)層面，算法所呈現(xiàn)的面貌也有所不同。但是，在面對算法給傳統(tǒng)社會(huì)秩序和法律秩序帶來的深刻影響和沖擊上，人們的認(rèn)識具有重疊性，即如何將算法程序的設(shè)計(jì)和使用納入法治軌道，并確保對算法的使用者和創(chuàng)造者進(jìn)行有效規(guī)范，是亟待研究并予以解決的現(xiàn)實(shí)問題。而在涉及算法行政公共政策的制定過程中，需要廣泛進(jìn)行話題辯論,鼓勵(lì)社會(huì)公眾參與，在爭議較大的核心問題上聽取公眾意見，充分保障公眾在公共政策制定上的參與權(quán)與知情權(quán)[27]。