蔡星月

一、算法規(guī)制的深層問題

任何一種規(guī)制如果失去了對規(guī)制對象的作用力就難以維系,規(guī)制必須在規(guī)制對象身上發(fā)生如化學(xué)反應(yīng)一樣的“規(guī)范反應(yīng)”。規(guī)制是規(guī)范反應(yīng)的函數(shù),為了展開這一函數(shù)表達式,規(guī)制需要對規(guī)制對象進行拆解,拆分出用以適用規(guī)范、構(gòu)造規(guī)制的諸要素或要件。這一環(huán)節(jié)構(gòu)成了規(guī)制的結(jié)構(gòu)性前提,越是有效的規(guī)制,對規(guī)制對象的拆解越徹底。規(guī)制對象被拆解的是客體的本體,一旦被拆解,就變成以規(guī)范要件為元素組合生成的“新客體”,換言之,變成被規(guī)范重塑結(jié)構(gòu)的對象體,成為真正的規(guī)制客體。規(guī)制的威力就在于將自主客體拆解組裝成符合規(guī)制的自為客體,它是把規(guī)制對象轉(zhuǎn)換為被規(guī)范解構(gòu)并建構(gòu)的可規(guī)制的對象來實現(xiàn)規(guī)制的。

規(guī)制的這種操作可以覆蓋幾乎所有領(lǐng)域:人的行為、市場活動、社會現(xiàn)象、群體沖突等。其秘密在于,世界可被語言描述,語言能夠與世界對應(yīng),語言孕育出概念,概念是規(guī)范的載體,規(guī)范通過運用概念就可以影射整個對象世界,通過駕馭概念這個常量就可以駕馭對象世界這個變量。但算法不是概念,而且算法也不是“語言”,準(zhǔn)確地說,算法不是人類的文字語言,而是數(shù)字語言。數(shù)字語言不生成概念,進言之,不生成人類思維形式的“物”的概念,或者說它生成的是數(shù)字與數(shù)學(xué)聚合的“數(shù)”的概念。每一種語言都有自身的邏輯,語言不同,邏輯不同,算法的語言邏輯是數(shù)理邏輯,規(guī)范的語言邏輯是人文邏輯,這完全是不相干的兩種邏輯,不相干也無以相干。算法是工具理性的直接表達,而規(guī)范則是工具理性與價值理性的統(tǒng)一之存在,帶有相當(dāng)?shù)膹椥耘c解釋性,其中包含諸多顯在或潛在的價值判斷。這意味著算法與規(guī)范并不具有對等性:一方面,數(shù)字與文字之間沒有通約性;另一方面,數(shù)理邏輯與語言邏輯之間也沒有當(dāng)然的切換關(guān)系。數(shù)字與文字間、數(shù)理邏輯與語言邏輯間這些客觀存在的天然局限使得算法難以“等比例還原”出規(guī)范體系的復(fù)雜性,難以有效對應(yīng)出規(guī)范系統(tǒng)中的諸多深層次意涵。這帶來了對算法進行規(guī)制的一個根本性問題:規(guī)制需要拆解規(guī)制對象,而打開算法,全是數(shù)學(xué)表達式,數(shù)學(xué)表達式無法被拆解,因為文字是不能對數(shù)字進行拆解的,再正確的世間道理也不能拆成一項或幾項數(shù)學(xué)公式。數(shù)理邏輯表達既定的、可普遍適用的形式邏輯,其內(nèi)在邏輯的堅硬性阻止了規(guī)范的腳步,使規(guī)制無法下手。所以,從嚴格意義上說,法律規(guī)制對算法很難有直接解,同時也反向表明,算法會在相當(dāng)程度上抑制規(guī)范本身作用的發(fā)揮。

不過,一個問題總有兩個面。算法的數(shù)理堅硬性成就了算法對規(guī)制的天然抗拒,使算法保持著先天的不相容優(yōu)勢。然而與此同時,這一優(yōu)勢卻很可能被利用,算法的堅硬性來自它自身的數(shù)字基因,但它的脆弱性也因此而生。算法發(fā)展至今,尚不能獨立應(yīng)用,它需要人去設(shè)計,加載在某些軟件或硬件設(shè)施上,也需要被不同程度地“操作”。數(shù)字不會說話,但“操作”數(shù)字就能使數(shù)字說話 ,如深度偽造技術(shù)帶來的“后真相社會”[1]。進言之,算法本身具有對抗規(guī)制的堅硬性,但算法需要背后的力量推動,這一背后力量的不確定性決定了算法對規(guī)制的某種脆弱性的可能,這使得算法并不必然呈現(xiàn)它的堅硬性。

算法看上去是一群數(shù)字表達式,但其背后是一系列程序指令。存在指令,就存在發(fā)號施令;存在發(fā)號施令,就存在恣意的、隱蔽的、無理的、不公正的發(fā)號施令風(fēng)險,而這些都不是算法的風(fēng)險,是打著“算法風(fēng)險”旗號的、在算法之外卻潛入算法之中的風(fēng)險。在此,我們觸碰到了算法規(guī)制的深層次問題:第一層是算法的數(shù)理堅硬性給規(guī)范規(guī)制算法帶來的難題,在此之上,算法獨立表達了自動化智能部分的不可知性。更可怕的是,算法背后的力量把算法推向前臺,自己卻躲藏在幕后指揮算法,借助算法不可知性的力量摻入某些非公正、不合理的欲求與企圖,而以算法的數(shù)理堅硬性為外衣。為此,我們很可能無法甄別,無從辨認,更無以規(guī)制。也就是說,真正的問題是:當(dāng)算法幕后力量將算法傀儡化,卻通過技術(shù)化的指令混入復(fù)雜算法運算,以算法的理性掩蓋某種非理性時,我們該如何有效發(fā)現(xiàn)問題,設(shè)定規(guī)制,有力規(guī)避或阻止。實際上,規(guī)制的真正對象不應(yīng)落腳于算法,而應(yīng)揭開算法的面紗,穿透算法去規(guī)制算法背后的種種力量,那個指揮算法的主體才是規(guī)制的靶心。規(guī)制就是要擊穿這個不可見的靶心,觀測并約束算法層層幕簾后的隱蔽力量。

二、規(guī)制算法的后臺

任何一項新形態(tài)在未成熟之前都隱含著某些舊模式,算法是一項新技術(shù),新技術(shù)的發(fā)展除了智力也需要資本,商業(yè)化也是算法進化的重要環(huán)境。這就導(dǎo)致了算法作為一項新技術(shù),內(nèi)部卻隱藏著若干商業(yè)化的基因或模式[2]。算法內(nèi)含著一種自我解構(gòu)的能力,它在建構(gòu)算法的同時也在悄然消解著算法的正當(dāng)性,攻擊著算法的漏洞與薄弱之處。當(dāng)下,算法沒有我們想象的那么成熟,它仍然須面對內(nèi)外交加的制約因素。

算法的“后臺”就是隱蔽在算法中的那個自我解構(gòu)之力。這里所說的算法的后臺是指在算法理性外衣的包裹下實際操作控制算法,或者為算法注入特定指令,進而影響甚至左右算法的計算取向或合理度,人為干預(yù)算法智能生成的一種隱蔽性力量。當(dāng)下,算法的后臺不是針對某一算法的設(shè)計者、程序員或者個別算法公司、平臺等,主要是指某種具有支配性影響力的指令生成與操作系統(tǒng)。這個強大系統(tǒng)以技術(shù)的方式改變算法原初的運行軌道,或者從一開始就設(shè)置了帶有強烈傾向性與非正當(dāng)欲望的運行軌道,由此產(chǎn)生了攜帶強大商業(yè)目的、集團利益、投入資本、非法意圖等因素,看上去卻充滿公益性、公共性、服務(wù)性、規(guī)范性的“劣算法”,代替了本該在公共領(lǐng)域或社會服務(wù)空間中發(fā)揮人工智能應(yīng)有效能的本真算法。一旦劣算法以良算法的面目出現(xiàn)并占據(jù)本真算法的位置,就會導(dǎo)致“劣幣驅(qū)逐良幣”的效應(yīng),進而以劣算法驅(qū)逐良算法的方式反算法。這種算法變質(zhì)之所以可能,是因為算法對算法后臺沒有抵抗力,很可能從算法被設(shè)計誕生之日起,其內(nèi)部運算就已經(jīng)被植入了某種后臺指令,這一后臺指令隱含在算法紛繁復(fù)雜的眾多指令之中,構(gòu)成算法自身的一部分。

劣算法有著良算法公正合理、規(guī)范理性的外衣,因此很難通過肉眼、直覺、經(jīng)驗等常規(guī)方法識別。在法律對技術(shù)的傳統(tǒng)規(guī)制路徑中,規(guī)制目標(biāo)的實現(xiàn)主要依賴于對經(jīng)濟與社會場域中主體行為的辨識與限制,此種辨識與限制是通過對主體行為的要件分解、進而通過規(guī)范對分解后要件的函攝來完成的。但這一傳統(tǒng)規(guī)制方法對算法卻難以奏效,我們難以理解數(shù)學(xué)公式、計算機語言、符號指令等,在這些強專業(yè)性的規(guī)制素材之上,我們分辨不出真?zhèn)?概括不出概念,確定不了意義,尤其是覆蓋在算法之下更是良莠難辨。也就是說,雜糅在算法自身結(jié)構(gòu)之內(nèi)的微觀“病毒”超出了宏觀世界里規(guī)制的尺度。如果不借助于技術(shù)的顯微鏡,我們很難發(fā)現(xiàn)它;即使發(fā)現(xiàn),它與良性細胞也幾乎無異,我們難以判定它發(fā)揮了怎樣的作用,怎樣被計算入程序而成為智能的一部分;它甚至具有合法的計算轉(zhuǎn)基因,滿足算法的某種計算需求。數(shù)字時代,由于算法被適用于人類生活的幾乎方方面面,所有應(yīng)用算法的生活空間都可能成為劣算法的舞臺,當(dāng)算法的后臺存續(xù)足夠的惡意,那么算法應(yīng)用所帶來的弊就遠大于利,劣算法就會最終走向反算法。

算法正在掀起一場時代生活的革命,它正以前所未有的方式改變?nèi)说纳嬷刃騕3]。這一前所未有的方式表現(xiàn)為超越人類理解尺度的信息聚合生成能力,海量的數(shù)據(jù)被以人類大腦難以企及的神奇組織方法聚攏后形成一個結(jié)果,算法實現(xiàn)了人腦無法實現(xiàn)的“萬物疊加態(tài)”,即匯總高維度的眾多信息,計算并給出答案。這個答案究其本質(zhì)是多維復(fù)數(shù)形態(tài)的,其合理性超出人類認知區(qū)間上的合理性。對于這個答案,我們只有接受或不接受,卻沒有對話辯論的資本與渠道。于是,面對萬物疊加態(tài)的答案對人的作用力,人卻沒有了反作用力,我們失去了約束其他事物那樣的規(guī)制力量。高維對低維的作用力是“降維打擊”,對此,低維卻很難對高維做出反擊。輸出萬物疊加態(tài)的答案本身就是這樣的作用力,這種作用力高度綜合卻表現(xiàn)得并不復(fù)雜。比如,算法推送了一家餐館,這看似只是在幫你解決一頓飯的選擇困惑,但實際上,它是依據(jù)你生活方方面面的數(shù)據(jù)計算推導(dǎo)出來的,是對你的行為軌跡、消費喜好、口味偏好、人際交往、言談、信仰、興趣等的深度綜合把握做出的結(jié)論,并且這一導(dǎo)向性推送包含的不僅僅是美食,還內(nèi)含文化、宗教、習(xí)俗、價值觀、世界觀的輸出。這家餐館只是一個簡單的計算結(jié)論,背后隱藏的是對你的大數(shù)據(jù)畫像、生活狀況的計算把控、帶有潛在導(dǎo)向的暗示、附著商業(yè)意圖的影響與控制,等等。當(dāng)人們欣然接受這家被推送的餐館時,會自覺不自覺地認同這一算法推送服務(wù)的便利與貼心,感受到被切中心意的驚喜與便捷,而這背后卻是算法全面掌控人言人行與人欲人心的可怕事實。越能切中人欲,越能控制人心。當(dāng)人言人行甚至人欲人心都成為算法的對象時,高維的算法就構(gòu)成了對低維的人的威脅。當(dāng)偽裝成服務(wù)的算法推送在餐館選擇問題上成功對個體造成影響時,一個人可能會認為這只是算法對自己的服務(wù),但實際上,算法借此改變了這個人的“一小步”:從不知此餐館到習(xí)慣于接受此餐館的菜肴,進而有可能喜歡上此餐館。算法正是以此微妙的不被察覺的方式塑造這個人的生活,改造這個人的喜好,進而重塑了這個人本身。

當(dāng)類似的推送算法在個體身上反復(fù)應(yīng)用以及在社會群體面廣泛適用時,算法就于無聲處占據(jù)了社會生活的優(yōu)勢地位甚至主導(dǎo)地位,我們的意識不過是被推送的意識,我們的行為不過是被計算的行為,我們的心思不過是被測試的心思。不僅如此,更大的問題在于,算法獲知多少,算法的后臺就會掌控多少,劣算法也就會入侵多少。當(dāng)算法的后臺利用獲知的信息操縱算法,將某種無以言明的“私欲”以服務(wù)的方式推送給人們并被人們欣然接受時,算法的后臺就在公共領(lǐng)域中制造了“惡”。這才是規(guī)制需要真正應(yīng)對的。

那么,算法的后臺究竟是什么?在筆者看來,當(dāng)代科技已經(jīng)匯合發(fā)展出干預(yù)算法的技術(shù)條件[4],以全球金融資本、互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、區(qū)塊鏈、大數(shù)據(jù)、云計算等新興技術(shù)以及新媒體、社交媒介、移動軟件等新平臺或壟斷行業(yè)聚合而成的綜合資本權(quán)力系統(tǒng)成為操盤算法的真正后臺。這是資本注入新興技術(shù)所產(chǎn)生的新型權(quán)力,是偽裝成商業(yè)服務(wù)的巨大影響性權(quán)力,它不是一兩個個體或公司的單兵作戰(zhàn),而是不斷復(fù)加匯集各種金融資本、社會資本、人力資本等,植入人工智能、大數(shù)據(jù)、區(qū)塊鏈、云計算等技術(shù)的各方面與各層面,占據(jù)互聯(lián)網(wǎng)平臺、移動通信平臺、消費市場,而形成的集利益、資本、技術(shù)、傳媒、權(quán)力為一體的巨大力量集合,成為具有統(tǒng)一最強資本、最大傳播力、最新科技的巨型系統(tǒng)權(quán)力,并在經(jīng)濟活動、社會交往、制度運行、生產(chǎn)生活的各領(lǐng)域潛在運轉(zhuǎn)。它超越了傳統(tǒng)意義上的一般資本與權(quán)力,無法以既有的資本或權(quán)力的概念加以界分[5]。實際上,它在很大程度上擺脫了常規(guī)資本與權(quán)力的外形,披上算法新智能的外衣,以人工智能的表達方式傳遞著某些人類智能的實質(zhì)內(nèi)容,以看似技術(shù)中立的理性狀態(tài)暗藏著若干人為價值導(dǎo)向與利益關(guān)聯(lián)的匿名動機,以這樣的出場方式,它超越了傳統(tǒng)規(guī)制的約束邊界而獲得難以察覺、不易證明、無法控制的極大自由,從單一力量匯聚演變成為綜合的新型資本權(quán)力系統(tǒng)。

土地利用與土地覆蓋變化能把人類活動與自然環(huán)境的相互作用關(guān)系最直接地表現(xiàn)出來［1］。因此，土地利用與土地覆蓋變化是研究人地矛盾的關(guān)鍵。建立模型對土地利用變化過程進行研究，不僅是深入了解土地利用變化成因、過程的重要途徑和手段，還能揭示土地利用對人類活動程度的響應(yīng)。

更重要的是,這種新型綜合資本權(quán)力系統(tǒng)從未表現(xiàn)出它的控制欲與控制力[6],它總是表現(xiàn)為以算法提供高品質(zhì)市場服務(wù)的樣貌。當(dāng)安排一種足夠貼近用戶需求的服務(wù)時,沒有人會感覺到資本的強勢與權(quán)力的壓力,而這種精致美好的用戶體驗會使用戶對算法及算法后臺產(chǎn)生高度的依賴,進而在經(jīng)濟上、生活上、心理上等各方面形成全面依賴。每個人都樂于接受觸手可得的高質(zhì)量市場服務(wù),卻不會感受到這種服務(wù)所具有的對個體的反塑造功能,人們的生活仍在展開,卻從未覺察這種展開已經(jīng)是在算法及其后臺的潛在設(shè)計下進行的。這是一種不知不覺偏離人們自主選擇軌道的展開,是越來越?jīng)_著算法后臺所希望的方向展開?？梢哉f,通過提供潛在高品質(zhì)市場服務(wù)的端口,算法的后臺正無孔不入地嵌入國家發(fā)展、社會生活、人際交往的每一個角落[7],它以無形之手消解了每一個個體自由思考、自主判斷、自我行動的天然邏輯,以看似“無傷大雅”的技術(shù)手段完成了統(tǒng)治人的目的,將資本權(quán)力的威力以慢性毒藥的形式注射給了社會每一個個體,殺人于無形,而算法就成了借來的那把“刀” 。

所以,我們必須擦亮眼睛,看清算法本身的無害性與算法后臺的有害性,將規(guī)制的劍鋒從算法調(diào)整對準(zhǔn)到算法的后臺。這需要規(guī)制穿越算法的外衣,直達算法的深處,從最黑暗處摸清算法后臺的操縱軌跡,以更有利的方式控制綜合資本權(quán)力系統(tǒng),防止其恣意妄為及可能的恣意妄為,以法律規(guī)范的力量抵抗、化解資本權(quán)力的破壞,恢復(fù)算法背后的應(yīng)有邏輯,實現(xiàn)算法背影里的治理,才是算法規(guī)制的應(yīng)然路徑。

三、規(guī)范難以直接擊穿算法的外衣

規(guī)制如何能夠穿透算法的外衣,抵達算法的后臺,實施對算法后臺的有效約束?回答這個問題,首先要過“算法外衣”這道坎兒,因為擊穿算法對規(guī)范而言是個系列難題。

難題一:算法是算法,法是法。算法是一種技術(shù),而法首先是一種價值。價值是主觀的,而技術(shù)是客觀的。作為客觀的算法,它只代表一種計算的操作,就計算操作本身而言,它沒有好壞善惡的價值,它只是一個工具,只通過計算合理性來表達一種工具理性[8]。而法是價值的承載方式,規(guī)制首先是以法律價值為原則導(dǎo)向的,規(guī)制的目的正是經(jīng)由規(guī)制完成價值理性的確立。算法是“無主體”的匿名程序,其深處是無法溯源的計算事實,它可以成為用以描述現(xiàn)象的手段,用運算模型來模擬社會事實。但這種描述帶有數(shù)字化的形而上的顯著特征,我們無法從中探究其根據(jù)與理由,它不能提供法理上的解釋,因而,它整體上表現(xiàn)為一種不可抗拒的“盲目”力量、不可透析的智能存在。而規(guī)制內(nèi)含社會性根源,它是主體對客體的規(guī)范投射,規(guī)制主體用法律裝置來重塑規(guī)制客體,在主體與客體間的脈沖反饋中構(gòu)造法律關(guān)系,注入法律價值。這兩者處于平行狀態(tài),各自在工具理性與價值理性的軌道上運行。如果融合兩者,必須設(shè)置充分的嫁接軌道,解決兩者語言交流(文字與數(shù)字)上的障礙,打通相互切換的邏輯,而這一點目前并無更多進展。當(dāng)然,算法的結(jié)果會暗含價值,這并非算法本身具備的,而是被賦予的,正是這種后天賦予才使算法成為一種被利用的工具,當(dāng)它以計算的函數(shù)形式表達出人文價值時,就需要格外謹慎。

難題二:算法無法解釋正義,但正義卻要解釋算法,或者說,算法很難被證成合法,但它卻需要具備合法性。人文社會領(lǐng)域無法達到數(shù)學(xué)領(lǐng)域內(nèi)的真理覆蓋面。人文社會領(lǐng)域中的一個道理即使很有道理,也難以合理、精確到數(shù)學(xué)公理的層級,給定一個事實,從它本身推不出價值,算法就是類似如此的事實。不僅如此,它還是被形式數(shù)字高度抽象化的普適性事實,從一個事實表達無法論證出其正當(dāng)性,它的正當(dāng)性一定需要被賦予,也就是說,算法自身無以表達它的正當(dāng)性,它是否正當(dāng)需要外力追加。這意味著當(dāng)缺乏環(huán)境或外力的情況下,算法不僅無法證成計算結(jié)論的合法性,而且無法證成自身的合法性。于是,它變成了一個需要被證明的對象,即對算法的證成。因此,算法在證成某一輸出結(jié)論后,仍然需要外在的證成。這種證成就是賦予它合法性意義,使它的證成確證為正當(dāng)?shù)淖C成。但問題是,對算法的證成是價值求證,即社會人文性求證,準(zhǔn)確地說,這是很難證成的。因為價值是多元的,一種價值的證明永遠在路上,難以徹底證成,所以算法面臨著持續(xù)地被證明其合法的境遇。概括而言,算法無法解釋正義,正義卻要解釋算法,但正義如何解釋算法尚無有效解。

難題三:區(qū)分人為與算法為。算法誕生于人為,正是人的設(shè)計創(chuàng)造架構(gòu)出了算法的胚胎。算法在人為胚胎里孕育發(fā)酵,通過足夠多層的人為助力,逐步確立起自主計算。所以,從這個意義上說,算法為的前提是人為,人為因素必然是算法與生俱來的先天基因。但算法又不全是人為,如果全是人為,算法就不是一種智能,而只是計算器[9]。算法的神奇在于它的自主計算,通過自主計算得出一個神奇的人力所不及的結(jié)論,以輔助于人。這一部分就是算法為。從概念上,兩者是清晰的,但現(xiàn)在的問題是人為與算法為混雜交織,糾纏難辨,為人力所難以區(qū)分。之所以需要區(qū)分人為與算法為,原因在于人為有善意與惡意、公益與私欲、合法與非法之別,我們需要找出其中的惡意、私欲與非法并加以規(guī)訓(xùn)。規(guī)訓(xùn)適用的前提之一是規(guī)訓(xùn)對象可被感知,比如人類行為,是可視、可感、可比較的,但算法之內(nèi)的人為與算法為均是難以感知的,無以感知便無以分辨,無以分辨便無以判定,進而無以規(guī)訓(xùn)。這是一個技術(shù)難題。

從上述系列難題中,我們不難發(fā)現(xiàn),規(guī)范難以直接擊穿算法的外衣,其根本原因在于,規(guī)訓(xùn)本質(zhì)上乃是規(guī)范之于被規(guī)制對象的一種關(guān)涉行動,它要求規(guī)訓(xùn)主體與規(guī)訓(xùn)客體之間的內(nèi)在同質(zhì)性,唯此其有效性才能得以確保,即這種有效只在一種對稱映射關(guān)系的框架中才有可能。但規(guī)范之于算法顯然處于兩個平行世界之中,因此強硬的強制并不會太奏效。同時,基于上述分析,不難發(fā)現(xiàn)潛藏在算法背后的資本權(quán)力系統(tǒng),以算法為“外衣”借用技術(shù)進行自我裝飾,表現(xiàn)出極強的隱蔽性,對此,人類理性尚難以直觀發(fā)覺并作出判斷。這些都不斷表明,我們需要尋找到一個更為巧妙且有效的方法,有一種更具優(yōu)勢的方式揭開這種“偽裝”,精準(zhǔn)識別和擊中可能的“惡”,而真正達到實質(zhì)意義上的算法治理。鑒于此,筆者提出一個新觀點:以其人之道還治其人之身,以算法規(guī)制算法。如黑格爾所說,真的反駁應(yīng)該深入對手的內(nèi)部,而非在對手“以外的地方去攻擊他,在他不在的地方去主張權(quán)利 ”[10]。這種內(nèi)在規(guī)制只有在引入算法、實現(xiàn)此算法與彼算法之間的技術(shù)對抗時才可能實現(xiàn)。就此而言,算法正可以為這樣的運作提供同質(zhì)化的、同等力度的技術(shù)支持,或者說,算法本身暗含著超越自我的可能空間。之所以尋求“算法”作為“終極武器”來治理算法,原因在于我們目前尚無法找到超越算法的更高級的技術(shù)工具來駕馭算法的復(fù)雜性,當(dāng)治理對象已達到超越人類常識思維所能思考的維度時,治理工具本身必須具有超越治理對象復(fù)雜性的更高階的能力,而算法已經(jīng)是當(dāng)代技術(shù)的最前端了,唯有依靠同樣能力與力量的算法,才能實現(xiàn)同等量級上的有效治理,這既是一種明智之舉,也是一種無奈之選。

當(dāng)然,從另一個角度看,這未嘗不是一次對算法的法律開拓。事實上,我們總是在嘗試把算法作為規(guī)范的對象,卻從來沒有嘗試把規(guī)范作為算法的對象,換句話說,把規(guī)范算法化,變成一種“規(guī)范算法”,并運行這種“規(guī)范算法”去檢驗其他諸算法,以算法自身的力量來解決算法自身的問題,用算法的自身批判與檢省來重塑規(guī)制的理性。唯有如此,才能走出規(guī)范之于算法的種種難題困境,內(nèi)在地給出可以有效規(guī)制算法的妥當(dāng)答案。

四、如何以算法規(guī)制算法

如何能夠透過算法揭開“偽裝”,精準(zhǔn)識別和擊中可能的“惡”,而真正達到實質(zhì)意義上的算法治理呢?這是算法規(guī)制必須面對的首要問題。從上述分析可見,我們必須鞏固算法與規(guī)范間的共生機理,通過彼此雙向調(diào)適來化解內(nèi)部的張力。這需要構(gòu)建同構(gòu)關(guān)系的調(diào)適框架,立足從政府適用規(guī)范到作用于算法后臺的全鏈條規(guī)制系統(tǒng),將規(guī)范注入算法,把規(guī)范秩序接入到技術(shù)秩序之中,促成一種算法規(guī)制的“生產(chǎn)”與“再生產(chǎn)”動態(tài)循環(huán)再生組織,實現(xiàn)算法合理性與算法后臺合法性的維系。筆者認為,這一邏輯框架可分解為如下幾步。

其一,政府適用規(guī)范,通過立法將規(guī)制的意向與精義轉(zhuǎn)化為法律原則與規(guī)則,這是法治的常規(guī)操作,不在此贅述。

其二,將規(guī)范算法化,轉(zhuǎn)化為一種“規(guī)范算法”。也就是說,把規(guī)則代碼化,以代碼表達規(guī)制,用計算機語言“轉(zhuǎn)寫”法律規(guī)則。通過開發(fā)技術(shù)系統(tǒng)的源代碼、編碼法律規(guī)制的計算機程序、建立數(shù)學(xué)表達模型、適用自然語言處理系統(tǒng)復(fù)寫規(guī)范的內(nèi)容等方式實現(xiàn)規(guī)范的技術(shù)化約束。實際上,代碼本身是一種類似法律的存在形式[11]。在這方面已有實踐,比如浙江省的代碼形式固定審批規(guī)范和審批程序,限制地方政府修改程序和數(shù)據(jù)的權(quán)限,并利用在線審批平臺、電子監(jiān)督系統(tǒng)等技術(shù)工具對審批項目進行程序性審查,由此達到數(shù)字限權(quán)的效果[12]。通過法律代碼化,規(guī)范秩序轉(zhuǎn)換為技術(shù)秩序,即以技術(shù)承載的數(shù)字規(guī)范秩序。這種秩序兼具了規(guī)范性與技術(shù)性的雙重屬性,是規(guī)范與算法的合體。正是借助這一新型“規(guī)范+技術(shù)”的合一形式,規(guī)范表達為算法。當(dāng)算法展示出規(guī)制的功能,技術(shù)就包裹住了價值,價值便在技術(shù)體內(nèi)生發(fā),內(nèi)含法價值的算法就是數(shù)字智能形態(tài)的法,由此打通了算法與法的二分性,使算法成為另一種“法”。

其三,當(dāng)算法表達法并具有法功能時,算法就可以規(guī)制它的同構(gòu)物——算法。算法與算法之間的任一互動都是自然順滑的,因為它們是同構(gòu)物。算法對抗算法也是再好不過的方法了,因為它們在能力、方式、速率、交流上均同等對等。由此,算法可區(qū)分為兩大類:一是規(guī)范類算法,即將諸規(guī)范轉(zhuǎn)化成諸算法;二是應(yīng)用類算法,即應(yīng)用于社會生活與市場活動的各類商業(yè)算法。由此,算法規(guī)制可以具化表述為,以規(guī)范類算法作用于應(yīng)用類算法。規(guī)范類算法作用于應(yīng)用類算法主要包括四個環(huán)節(jié):一是監(jiān)測,即設(shè)計規(guī)范類算法,以監(jiān)督測試應(yīng)用類算法。規(guī)范類算法可以以同樣速度與維度觀測應(yīng)用類算法,適時發(fā)現(xiàn)算法漏洞與算法黑箱,測試應(yīng)用類算法的可能性與風(fēng)險。二是評判,即規(guī)范類算法通過智能計算評價應(yīng)用類算法的合理性與合法性,以對抗姿態(tài)審視評估應(yīng)用類算法的正當(dāng)與否,并給出評判結(jié)論意見。三是警示,即規(guī)范類算法根據(jù)評判結(jié)論意見提供警示干預(yù),可通過指令輸出、代碼警告、計算重置等多種技術(shù)手段實現(xiàn)對應(yīng)用類算法的警示。四是約束,當(dāng)規(guī)范類算法給出的警示未奏效時,它可以直接切入應(yīng)用類算法內(nèi)部實施計算阻斷,設(shè)計特定的攔截阻止程序植入應(yīng)用類算法計算環(huán)節(jié)上的若干關(guān)鍵性接口處,即可以實現(xiàn)對應(yīng)用類算法恣意違法性的直接阻攔[4]。這種阻攔可以是事前或事中的即時阻止,無須等到產(chǎn)生不良的法律后果,確保對應(yīng)用類算法惡化的及時阻攔。通過這四個環(huán)節(jié)上的規(guī)制,規(guī)范性算法可以實現(xiàn)對應(yīng)用類算法全方位、全進程、全鏈條的規(guī)制,而這是人力規(guī)制無法企及的?？梢哉f,以算法規(guī)制算法實現(xiàn)了算法規(guī)制的迭代與躍升。

其四,被規(guī)制的應(yīng)用類算法將受到警示、約束或阻斷的情形或狀態(tài)投射給算法后臺,通過這一反饋機制可以使作為算法后臺的綜合資本權(quán)力系統(tǒng)失去控制力。因此,當(dāng)算法被叫停時,算法的“木偶線”就被斬斷了,綜合資本權(quán)力系統(tǒng)就難以對技術(shù)叫停的算法施展任何誘惑或威懾力量。恰恰因為算法不是人,不會受到某種基于人的弱點而引發(fā)的誘惑或威脅;同時算法也沒有利益與欲望,一旦被客觀叫停,那么算法的后臺就變成“一潭死水”,這意味著機器的無機性優(yōu)勢使算法對其后臺的投射威懾?zé)o窮。

將上述四種串聯(lián),就構(gòu)成了以算法規(guī)制算法的機制構(gòu)架圖(如右圖)。

通過規(guī)范的計算化、規(guī)制的技術(shù)化、技術(shù)的反饋化三個界面的勾連,規(guī)范便可以真正穿透算法的外衣,直達算法的后臺,實現(xiàn)對綜合資本權(quán)力系統(tǒng)的有效規(guī)制。這一方案解決了規(guī)范之于算法的諸難題,以其人之道還治其人之身的方法跨越了傳統(tǒng)規(guī)制的邏輯屏障,以一種極為巧妙靈活的方式化解了算法規(guī)制的內(nèi)在矛盾,促成算法規(guī)制的技術(shù)變革與技法更新。應(yīng)當(dāng)看到,規(guī)制一種新興事物,不應(yīng)僅沿著按部就班的老路,而應(yīng)當(dāng)“借力打力”,既然技術(shù)的紅利是全方位的,那么規(guī)制可以試圖站在技術(shù)的肩膀上俯視技術(shù)。算法不僅僅是規(guī)制對象,它更是規(guī)制工具,而且是一種強大的規(guī)制工具,讓同重量級的拳手在拳臺上較量,才能彰顯出對抗運動真正的魅力。

當(dāng)然,以算法規(guī)制算法并非規(guī)制算法的唯一路徑,它只是為規(guī)制算法提供一種更加可行的解決思路與方法,它并不排斥其他規(guī)制算法手段的使用,甚至在很大程度上,它正需要與其他治理手段相結(jié)合來綜合發(fā)揮作用,才能達致最佳規(guī)制效果。其中,至關(guān)重要的一點是,我們需要在宏觀層面建立起能夠約束算法的規(guī)則制度體系。應(yīng)當(dāng)說,基礎(chǔ)性規(guī)范仍然是建立以算法規(guī)制算法方案的基礎(chǔ)設(shè)施,如果沒有規(guī)范制度的基礎(chǔ)建構(gòu),算法化的規(guī)制工具將始終是空中樓閣,它很難獲得不斷生長迭代的制度力量,也會失去與傳統(tǒng)治理體系的對接能力。所以,從整體治理的角度而言,有效的算法規(guī)制,應(yīng)是“基礎(chǔ)性規(guī)范+算法化工具”組合的結(jié)果。其中,基礎(chǔ)性規(guī)范是底層架構(gòu),算法化工具是上層建筑;基礎(chǔ)性規(guī)范發(fā)揮宏觀價值的坐標(biāo)定位、基本原則的設(shè)置布局、一般性規(guī)則的法意表達等功能,算法化工具發(fā)揮具化指令的設(shè)計編排、具體環(huán)節(jié)的微觀運行、真實場景的靈活應(yīng)用等作用;兩者既能各司其職、各展其長,又能彼此照應(yīng)、相互補救。尤其在現(xiàn)有技術(shù)條件下,當(dāng)兩者均處于摸索發(fā)展期時,為了達到規(guī)制算法的最佳效果,綜合考量與結(jié)合應(yīng)用多種規(guī)制手段就顯得尤為重要。這意味著,究竟應(yīng)該采用哪些手段去規(guī)制算法,需要根據(jù)不同場景和情形區(qū)分對待、有選擇性地去運用。而以算法規(guī)制算法只是其中之一種。當(dāng)然,由于本文旨在著重闡釋以算法規(guī)制算法這一新方法的邏輯思路與價值意義,針對綜合運用多種規(guī)制方式的論證在此就不再贅述了。

五、規(guī)制算法的兩種路徑

規(guī)制,其實質(zhì)在于它是恢復(fù)正義的路徑之一。歸納而言,任何恢復(fù)正義的路徑都不外乎兩種:其一,直面惡的方式,洞察這種方式并運用這種方式反擊惡,使惡嘗到惡的滋味而不敢再為惡;其二,注視善的存在,同情善的處境,認同善的原理并以此原理追加一種新的善,讓善感知善的意義而達致?lián)P善。

算法,僅僅是一門技術(shù),它的背后隱藏著既有積極的、持續(xù)的、有生命力的進步力量,也有消極的、沖擊的、帶有顛覆性的破壞力量,這些力量交織匯合決定了算法這門技術(shù)的基本局面。要使算法成為人類的幫手,我們就需要揭開算法的技術(shù)面紗,深入這些結(jié)構(gòu)性力量的深處,摸準(zhǔn)各種力量涌動的脈搏,區(qū)分良莠,分別發(fā)力。為此,對于規(guī)制算法的研究,關(guān)鍵在于如何能夠從算法紛繁復(fù)雜的技術(shù)表象背后與日新月異的技術(shù)發(fā)展之中汲取知識養(yǎng)分,緊跟技術(shù)路線與節(jié)奏步伐,將技術(shù)之力與關(guān)乎技術(shù)發(fā)展戰(zhàn)略的法學(xué)理論與決策貫通起來,徹底打通規(guī)制的通道,發(fā)展出更具時代性、現(xiàn)代性、前瞻性的學(xué)術(shù)理論。

應(yīng)當(dāng)看到,規(guī)范是指向“人”的,而不是指向“物”的。算法背后的綜合資本權(quán)力系統(tǒng)仍然是人的操作,規(guī)范也是人操作的。所以,規(guī)制,歸根結(jié)底,依舊是維護秩序的人針對適用算法進行活動的人的規(guī)制,它調(diào)整的仍然是人與人之間的關(guān)系,只不過這種關(guān)系隔著若干層技術(shù)的面紗。規(guī)制技術(shù)是無意義的,它不痛不癢、不知厲害;規(guī)制人才是有意義的,通過人才能真正完善社會。所以,當(dāng)談及規(guī)制算法時,我們不能只見算法不見人;只描述算法的技術(shù)邏輯,卻沒有看到這種邏輯背后所埋藏的人文邏輯;只看到算法的樣子,卻沒有看到人借用算法而行動的樣子,這就如同“只畫了樂譜,沒有聽到琴音,只看到了劇本,沒有看到演員的精彩表演”[13],即只是從“形態(tài)”意義上闡釋,而沒有從“心態(tài)”意義上闡釋;只是繪制了規(guī)制與算法間的法律關(guān)系,卻沒有探索算法背后人與人之間的秩序道義關(guān)系。事實上,處理維護秩序者與借助技術(shù)破壞秩序者之間的秩序道義關(guān)系,才是算法規(guī)制理論需要深入挖掘的“規(guī)制底蘊”。

這一底蘊涉及人與人之間經(jīng)由技術(shù)的交往關(guān)系,包含兩層含義:其一,既然一方利用算法技術(shù)施展活動,那么對此的規(guī)制自然也可以利用算法技術(shù)去發(fā)現(xiàn)算法的漏洞與缺憾,相應(yīng)予以還擊;其二,規(guī)范的目的始終在于“治病救人”,規(guī)制不是將算法以及后臺“一棍子打死”,算法作為可能為人類帶來巨大紅利的新技術(shù)恰恰是規(guī)范予以保護的對象。規(guī)制的用意正是剔除“不良”而恢復(fù)“良”,將病毒從算法及其后臺里移除,還技術(shù)以秩序。為此,秩序維護者也要感知、理解、尊重技術(shù)生產(chǎn)運用者的種種“善意”與“不易”,給足發(fā)展領(lǐng)地與創(chuàng)新空間,保持同情的理解與溫情的相助。前者是工具,是外在手段;后者是“目的”,是內(nèi)在價值。一方面,既要懲惡,又要揚善,這是區(qū)分善惡、分類規(guī)范、賞罰分明予以規(guī)制的必然要求,也是保證規(guī)制恩威并重、左右逢源的必要舉措;另一方面,通過懲惡促成揚善,即通過對綜合資本權(quán)力系統(tǒng)諸缺陷的懲戒與補救,使該系統(tǒng)恢復(fù)正義的良心與正當(dāng)性的機理,通過對不良違法行為的矯正而為其他主體樹立正確的導(dǎo)向與行為的示范,以激發(fā)算法背后的良性生態(tài)。同時,通過揚善更好地懲惡,即只有“潛入”到算法背后的一定深度,以“從實求知、向內(nèi)觀照”的方式才能真正發(fā)現(xiàn)其中的痛處與堵點,從而開出良方猛藥。由此可見,這兩者代表了規(guī)制算法的一體兩面,共同構(gòu)成一個內(nèi)在互動的彈性框架。

規(guī)制算法的這兩種路徑從根本上矯正了傳統(tǒng)算法規(guī)制的兩種偏頗。第一種偏頗是“規(guī)制呼嘯著直奔算法”的執(zhí)拗與盲目。如前所述,算法作為技術(shù)是價值無涉的、硬邦邦的,規(guī)制無以發(fā)力,無法奏效。這兩種路徑意欲表明,我們應(yīng)該放開算法,而去抓住人。人,才是規(guī)制的真正對象。只有以規(guī)制者的行事方式去觸碰被規(guī)制人的行事方式,才是最好的規(guī)制;只有以規(guī)制者的邏輯去印證被規(guī)制者人的邏輯,才是最佳的治理。第二種偏頗是“規(guī)制俯視算法”的趾高氣揚與不接地氣。規(guī)制俯視算法就是規(guī)制居高臨下、“宏觀把控”的“局外人”式的規(guī)制方式。這種方式不能對算法的大勢所趨、人心所向、意義所指有所體會,也很少關(guān)注算法的細節(jié)、關(guān)節(jié)與情節(jié),反而會因泛而化之、概而言之的做法而盲目自信。這兩種路徑意欲表明,我們需要拒絕“俯視”,回歸“平視”,需要“身陷”算法內(nèi)部設(shè)身處地地為被規(guī)制者思考與感受,追溯技術(shù)背后所有起作用的關(guān)鍵要素,重現(xiàn)、篩選、描述技術(shù)要素及其背后的人的因素,以當(dāng)事人的“心態(tài)”去調(diào)查、把握、判斷,既運用理性又使用感性對算法及其后臺做出明辨。

無論哪一種偏頗都是傳統(tǒng)規(guī)制方法對算法無力性與無效性的體現(xiàn),克服偏頗,重回正軌,正需要這兩種路徑并行推進。我們正面臨一場前所未有的人工智能的挑戰(zhàn),勇于直面這場智力挑戰(zhàn)需要的是更高級的智慧、更優(yōu)質(zhì)的策略與更熾熱的雄心。算法,既可以是我們的朋友,也可能是我們的敵人,是敵是友完全依賴于我們對待它的方式與辦法。對它的規(guī)制必須“聰明”,也必須“真誠”,唯有如此,才能在惡的面前表現(xiàn)出我們的力量,在善的面前表達出我們的誠意。