唐亦可

(中南大學(xué)法學(xué)院，湖南 長沙 410083)

一、問題的提出

與當(dāng)初大眾美好的展望有所出入，如今的互聯(lián)網(wǎng)產(chǎn)業(yè)不論是以自由主義為起跑線，還是以管制主義為錨點(diǎn)，都走向了蠶食用戶價(jià)值、擺布用戶思想的集權(quán)主義，商業(yè)帝國越來越不止是一個(gè)形容詞，更像是互聯(lián)網(wǎng)巨頭公司的忠實(shí)寫照。倏忽之間，人們的日常生活已經(jīng)與各類軟件緊密捆綁在一起，我們的隱私信息被肆意搜刮，成為價(jià)格歧視、精準(zhǔn)營銷甚至詐騙等行為的養(yǎng)料。這場從網(wǎng)絡(luò)到現(xiàn)實(shí)的侵略中，算法是企業(yè)掠奪用戶價(jià)值的關(guān)鍵武器，且逐步脫離了純粹的工具角色，演化為無所不包、無處不在的新型社會(huì)權(quán)力。

算法嵌入舊社會(huì)秩序、塑造新型社會(huì)秩序的進(jìn)程越來越快，以往技術(shù)革命的歷史經(jīng)驗(yàn)證明，個(gè)人拒絕算法應(yīng)用不可能成為普遍選擇。算法與社會(huì)秩序彼此間的聯(lián)系在逐步加深，朝著算法網(wǎng)絡(luò)的方向發(fā)展。對一個(gè)算法應(yīng)用的接納或拒絕意味著對更多其他算法應(yīng)用的接納或拒絕，隨之而來的連鎖反應(yīng)往往超出預(yù)期?？偠灾瑐€(gè)人欲擺脫算法展開社會(huì)活動(dòng)，幾乎是不可能的。

然而，知情同意原則已經(jīng)基本處于架空狀態(tài)，要求個(gè)人具備閱讀理解平臺服務(wù)協(xié)議的時(shí)間和能力，是不現(xiàn)實(shí)也不合理的。個(gè)人敏感數(shù)據(jù)的劃分與脫敏，因?yàn)閿?shù)據(jù)庫具備交叉對比信息從而復(fù)原敏感信息的技術(shù)分析能力，已經(jīng)失去了使我們絕對匿名的可能性。數(shù)據(jù)法提供的權(quán)利及救濟(jì)的客體限于個(gè)人與公共的數(shù)據(jù)，不涉及直接對抗算法。個(gè)人面臨著既無法回避算法社會(huì)秩序，又無力充分舉證推翻算法決策的困境。

舊有社會(huì)秩序在算法“技術(shù)理性”的背書下，質(zhì)疑和矯正的通道日漸縮窄。算法塑造的新型社會(huì)秩序則一面享受著自由市場的福利，一面游離在市場競爭原則和規(guī)則的邊緣。排名類平臺如大眾點(diǎn)評直接導(dǎo)致了市場競爭焦點(diǎn)和商業(yè)運(yùn)營模式的轉(zhuǎn)變，雇水軍刷好評等迎合新秩序的行為，早已成為公開的商業(yè)模式。算法直接變?yōu)樾袨橐?guī)范，影響甚至控制個(gè)體的行為(1)張凌寒.算法權(quán)力的興起、異化及法律規(guī)制[J].法商研究,2019,(4).，超級平臺的用戶數(shù)量和覆蓋面決定了其擬制的規(guī)則可以在短時(shí)間內(nèi)改變甚至顛覆原有的社會(huì)秩序，政府若聽?wèi){影響力極大的開發(fā)商和運(yùn)營商任意變更算法，或者放任算法自我更迭，不及時(shí)跟進(jìn)其變化情況，適時(shí)干預(yù)，會(huì)伏下社會(huì)動(dòng)蕩的風(fēng)險(xiǎn)。

鑒于當(dāng)前算法是互聯(lián)網(wǎng)企業(yè)的核心競爭力，也具備作為法律權(quán)利客體保護(hù)的條件，需要提出合適的規(guī)制措施，治理企業(yè)以私權(quán)保護(hù)作掩護(hù)謀取實(shí)質(zhì)性權(quán)力的亂象，同時(shí)警惕算法滲入公權(quán)力體制后反客為主的風(fēng)險(xiǎn)。本文從算法規(guī)制的必要性出發(fā)，探討符合產(chǎn)業(yè)發(fā)展與法律實(shí)踐的規(guī)制原則與規(guī)制措施，試圖解答這一問題。

二、規(guī)制之需：算法規(guī)制的必要性

(一)算法的性質(zhì)：從輔助工具到新型權(quán)力

從廣義上來說，任何一個(gè)完成特定事務(wù)的流程都可以稱作算法。算法的本質(zhì)是將意欲解決問題的具體操作步驟以某種形式固定下來，能否真正解決問題則在所不論。從狹義上來說，今日所言算法指的是一種計(jì)算機(jī)軟件技術(shù)規(guī)則，是為了完成某項(xiàng)任務(wù)設(shè)計(jì)的數(shù)字化流程，通過路徑和機(jī)制的設(shè)定，運(yùn)算出相應(yīng)結(jié)果(2)顧偉，郭弘，陳朝銘.人工智能算法的法律審視及規(guī)制[C].《上海法學(xué)研究》集刊，2021，(5)：9.。虛擬空間內(nèi)一切數(shù)據(jù)的處理，網(wǎng)絡(luò)主體身份的識別、分類、認(rèn)證和評分等操作，平臺及其運(yùn)行規(guī)則的建構(gòu)均依賴算法設(shè)計(jì)實(shí)現(xiàn)，遵循算法預(yù)定邏輯?？梢哉f，算法就是網(wǎng)絡(luò)世界的自然規(guī)律。

算法的起點(diǎn)定位是作為人類計(jì)算的輔助工具。在此須將算法和純粹的數(shù)學(xué)計(jì)算方法區(qū)別開來，二者的關(guān)系存在著從基本重合到分道揚(yáng)鑣的變化。在計(jì)算機(jī)技術(shù)發(fā)展初期，計(jì)算機(jī)的發(fā)明初衷和主要功能是代替人類進(jìn)行大體量數(shù)學(xué)運(yùn)算，縮短計(jì)算時(shí)間，提高計(jì)算效率。該階段的算法等同于數(shù)學(xué)計(jì)算方法，與加減乘除規(guī)則沒有根本區(qū)別。產(chǎn)生錯(cuò)誤運(yùn)算結(jié)果的原因或是計(jì)算機(jī)設(shè)備故障，或是計(jì)算規(guī)則——即當(dāng)時(shí)的算法本身尚有紕漏，而后者理論上應(yīng)當(dāng)是客觀真理，人類可以通過分析錯(cuò)誤結(jié)果，回溯運(yùn)算環(huán)節(jié)，修正、完善既有算法，也可以依據(jù)在先的理想規(guī)則來檢驗(yàn)計(jì)算機(jī)運(yùn)算結(jié)果的正確與否。

因此，作為輔助工具的算法主要有如下兩個(gè)特點(diǎn)：第一，工作環(huán)節(jié)由人類預(yù)先設(shè)計(jì)擬制，是對計(jì)算機(jī)下達(dá)的機(jī)械化執(zhí)行指令，其邏輯可回譯為人類能夠理解的形式。第二，工作成果由人類評價(jià)、選用，具有可檢驗(yàn)性。是服務(wù)于更大目標(biāo)的階段性任務(wù)，屬于最終決策的參考而非最終決策本身。

此后很長一段時(shí)間里，盡管計(jì)算機(jī)從機(jī)構(gòu)走入家庭，又從書桌落入口袋，算法的長度和復(fù)雜度不斷增加，但上述兩個(gè)特點(diǎn)并沒有改變。以購物平臺為例，商品分類、展示界面、付款手續(xù)等均由平臺方事前設(shè)計(jì)成型，商品成交量、用戶點(diǎn)擊率等數(shù)據(jù)則交由平臺方分析，用于制定和調(diào)整運(yùn)營方案。

直到算法權(quán)力的出現(xiàn)，算法開始超越輔助工具的范疇。算法以新型社會(huì)權(quán)力的角色登場得益于兩個(gè)因素：一方面，因?yàn)轶w積縮小、價(jià)格低廉，移動(dòng)電子設(shè)備日益普及，加之基礎(chǔ)通信設(shè)施工程廣泛布局，大規(guī)模、多場景、全時(shí)段、高效率的數(shù)據(jù)采集成為可能乃至常態(tài)；另一方面，計(jì)算機(jī)算力突飛猛進(jìn)的發(fā)展，實(shí)現(xiàn)了對前述海量數(shù)據(jù)的整理與分析。在二者的配合下，此前早已存在的傳統(tǒng)算法模型因?yàn)橛?xùn)練數(shù)據(jù)的量變而達(dá)到質(zhì)變，不僅預(yù)測精確度大幅提升，對數(shù)據(jù)中潛在規(guī)律的挖掘能力也顯著增強(qiáng)，算法技術(shù)躍升成為人工智能應(yīng)用的核心技術(shù)。同時(shí)，伴隨著網(wǎng)絡(luò)平臺業(yè)務(wù)范圍持續(xù)擴(kuò)大，算法的介入不只局限于內(nèi)容發(fā)放、工作聘雇、交友婚配、購物推薦等商業(yè)領(lǐng)域，還擴(kuò)張到了刑事司法、智慧城市、智慧政府、智慧醫(yī)療等公共領(lǐng)域，前所未有地深入人民的安全、民主、自由各個(gè)方面。

然而，僅僅是影響力的迅速膨脹，尚不足以驅(qū)動(dòng)算法產(chǎn)生從工具到權(quán)力的轉(zhuǎn)變。算法從工具演變?yōu)闄?quán)力的制度因素有二：第一，外在來源。壟斷性平臺和政府對算法的利用，即權(quán)力是外部機(jī)構(gòu)賦予的。相關(guān)單位和機(jī)關(guān)對算法判斷的信任與采用，使算法擁有了擬制決策、直接決策的權(quán)力。相較于傳統(tǒng)公權(quán)力而言，算法權(quán)力不是主權(quán)賦予而是經(jīng)由壟斷產(chǎn)生的，其實(shí)然狀態(tài)先于應(yīng)然狀態(tài)出現(xiàn)。第二，內(nèi)在屬性。算法本身是權(quán)利客體，法權(quán)設(shè)置使其具有了權(quán)力性質(zhì)。

權(quán)力形態(tài)的算法與工具形態(tài)的算法的區(qū)別主要在于：

1.可理解性下降。算法的核心代碼不再全部由人類編寫，而是基礎(chǔ)算法模型通過機(jī)器學(xué)習(xí)方式對自身關(guān)鍵參數(shù)或代碼進(jìn)行調(diào)整后最終成型。傳統(tǒng)的勞動(dòng)密集型人工智能方法是基于編寫不同的復(fù)雜計(jì)算機(jī)程序來解決問題，相比之下，機(jī)器學(xué)習(xí)是數(shù)據(jù)密集型的，通過實(shí)例學(xué)習(xí)來解決問題。無論是監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)還是非監(jiān)督學(xué)習(xí)，算法在訓(xùn)練數(shù)據(jù)中發(fā)掘的人類社會(huì)、生理、心理等方面的相關(guān)性規(guī)律，往往超出人類的經(jīng)驗(yàn)認(rèn)知范圍。

2.運(yùn)算結(jié)果的功能發(fā)生改變，從決策依據(jù)發(fā)展成為決策本身。以個(gè)性推薦算法為例，推送哪些信息內(nèi)容、如何排列布署各類信息的工作直接由個(gè)性推薦算法根據(jù)點(diǎn)擊率、停留時(shí)長等數(shù)據(jù)來完成。

(二)算法規(guī)制的性質(zhì)：權(quán)利限制與權(quán)力控制

目前，大面積應(yīng)用和部署的算法主要由私企開發(fā)、維護(hù)，而計(jì)算機(jī)編程語言的不斷拓展、算法應(yīng)用場景的持續(xù)豐富、第三方庫的廣泛應(yīng)用和開源代碼的不斷增長，使算法研發(fā)呈現(xiàn)分散化、多樣化、便捷化的特征：不具備商業(yè)資質(zhì)的民事主體能夠向全網(wǎng)提供算法應(yīng)用或者源代碼(3)蘇宇.算法規(guī)制的譜系[J].中國法學(xué)，2020,(3)：165-184.。潛在算法權(quán)力主體的不確定性決定了算法正處于由純粹的技術(shù)產(chǎn)品向絕對的社會(huì)制度轉(zhuǎn)變的角色過渡階段，既是一種私權(quán)利客體，也是一種新型公共權(quán)力形態(tài)。根據(jù)影響力來源的不同，算法權(quán)力可以分為兩種，一種是與行政司法工作內(nèi)容緊密結(jié)合而形成的，一種是在商業(yè)領(lǐng)域背靠用戶流量和數(shù)據(jù)野蠻生長而形成的(4)蔡星月.算法決策權(quán)的異化及其矯正[J].政法論壇，2021，39(5)：25-37.。隨著時(shí)間推移，后者的諸多類型要么會(huì)被收編入前者行列，要么將受到嚴(yán)格的制度化管控。算法權(quán)力會(huì)否完全替代傳統(tǒng)公權(quán)力尚未可知，但算法必將在一段時(shí)間里保持權(quán)利和權(quán)力并存的雙重屬性狀態(tài)。

一直以來，算法作為商業(yè)秘密受到保護(hù)，要達(dá)到算法公開、算法問責(zé)等治理要求，必須處理好這二者的關(guān)系(5)李曉輝.算法商業(yè)秘密與算法正義[J].比較法研究，2021，(3)：105-121.。2020年8月《最高人民法院關(guān)于審理侵犯商業(yè)秘密民事案件適用法律若干問題的規(guī)定》將算法列入了技術(shù)信息范疇，使其正式成為我國商業(yè)秘密法所保護(hù)的對象。算法商業(yè)秘密保護(hù)的內(nèi)容主要是源代碼，以及與源代碼相關(guān)的文檔，如目標(biāo)代碼和關(guān)鍵的數(shù)據(jù)庫。保護(hù)途徑主要有三種：第一，合同模式?！秳趧?dòng)合同法》第23條、第24條規(guī)定用人單位可通過簽訂保密協(xié)議、競業(yè)禁止協(xié)議，為相對人設(shè)立保密義務(wù)。第二，后合同義務(wù)模式?！睹穹ǖ洹返?58條規(guī)定，債權(quán)債務(wù)終止后，當(dāng)事人應(yīng)當(dāng)遵循誠實(shí)信用原則，根據(jù)交易習(xí)慣履行通知、協(xié)助、保密、舊物回收等義務(wù)。第三，反不正當(dāng)競爭法規(guī)制模式?！斗床徽?dāng)競爭法》第9條規(guī)定了商業(yè)秘密的要件、列舉了侵害商業(yè)秘密的行為類型，第32條規(guī)定了商業(yè)秘密侵權(quán)糾紛中的舉證責(zé)任。要突破商業(yè)秘密這一制度性因素實(shí)現(xiàn)算法透明和可解釋性，首先要分析清楚突破的合理性之所在，其次才能談具體方法。

因此算法規(guī)制體現(xiàn)在兩個(gè)方面，一方面是對算法權(quán)力的控制，另一方面是對算法私權(quán)的限制，如何在遏制算法濫用、預(yù)防算法侵權(quán)與保護(hù)算法私權(quán)之間取得平衡，就成為算法規(guī)制實(shí)施的關(guān)鍵。

三、規(guī)制之理：算法規(guī)制的基本原則

(一)保障人權(quán)原則

隨著時(shí)代的變遷，人權(quán)屬性已經(jīng)不再僅僅依賴于人的生物屬性和物理空間，它在很大程度上也要依賴于人的信息屬性和虛擬空間(6)馬長山.智慧社會(huì)背景下的“第四代人權(quán)”及其保障[J].中國法學(xué)，2019，(5)：5-24.。算法對于公民基本權(quán)利的威脅存在于其架構(gòu)到運(yùn)營的每個(gè)領(lǐng)域、每個(gè)環(huán)節(jié)。

就預(yù)測型算法而言，其名稱和效果使人產(chǎn)生直覺上的誤會(huì)，將運(yùn)作過程簡化理解為基于某個(gè)特定個(gè)體過去的行為，推導(dǎo)這一特定個(gè)體未來的行為，忽視了其原理實(shí)際是：根據(jù)特定個(gè)體a的某些行為特征，將其劃入群體A，輸入a在時(shí)間點(diǎn)m的行為x，轉(zhuǎn)化為A在時(shí)間點(diǎn)m前的類似行為X，將算法認(rèn)為與X成相關(guān)關(guān)系的行為Y，作為a在未來時(shí)間點(diǎn)n的行為預(yù)測y輸出。從實(shí)踐效果來看，這個(gè)推理無疑可以通過不斷優(yōu)化提高精確度，但許多值得推敲和質(zhì)疑的地方應(yīng)該留下審查和申訴的余地。比如，X與x、Y與y的替換必須忽視時(shí)間點(diǎn)的差別，抹去了可能隨著時(shí)間而改變了的環(huán)境因素?？此屏可矸治龅挠?jì)算，恰恰是非個(gè)性化的過程。全球化引起了空間維度的坍塌，預(yù)測型算法觸發(fā)了時(shí)間維度的消弭。將一個(gè)主體過去的行為視作未來的行為，將符合某一群體特征的人完全當(dāng)作該群體曾經(jīng)的成員對待，預(yù)測型算法應(yīng)用于個(gè)性推薦，負(fù)面結(jié)果是形成信息繭房，侵蝕公民的自主權(quán)，乃至禁錮公民的自由發(fā)展；應(yīng)用于評分系統(tǒng)，負(fù)面結(jié)果是制造、輸送、傳播社會(huì)偏見的“證據(jù)”，從而強(qiáng)化偏見，將隱性歧視正當(dāng)化。

調(diào)度型算法對公民基本權(quán)利底線的試探則突出體現(xiàn)在勞動(dòng)者權(quán)益領(lǐng)域。以基礎(chǔ)服務(wù)業(yè)中的便利店為例，企業(yè)管理層可以通過實(shí)時(shí)監(jiān)控分析顧客流量，并將天氣、交通狀況等因素對人流量的影響納入計(jì)算，隨時(shí)調(diào)整人力配置，更改員工的工作時(shí)間和工作任務(wù)，使之匹配不斷波動(dòng)的業(yè)務(wù)需求。勞動(dòng)者受制于算法的調(diào)度，被迫成為全天候待命的工具，表面上按勞動(dòng)量或勞動(dòng)時(shí)長發(fā)放的薪水，遮蔽了因?qū)崟r(shí)調(diào)度而省下的成本進(jìn)入資本家口袋的真相，這部分增長的利潤，是以勞動(dòng)者主體性的喪失和在勞動(dòng)權(quán)益上的讓步作為代價(jià)換取的。典型的調(diào)度型算法要求勞動(dòng)力是“彈性”的，然而在實(shí)踐中，為了將“彈性的勞動(dòng)力”假設(shè)付諸實(shí)施，反而得剝奪其對象的靈活性和活動(dòng)性。為了達(dá)到算法規(guī)則中的“彈性”，勞動(dòng)者必須召之即來、揮之即去，其處境在短期和長期上都處于無彈性的僵化狀態(tài)，即在短期上無法掌控自己的行動(dòng)，自主權(quán)形同虛設(shè)，因此無法計(jì)劃和實(shí)現(xiàn)提升自我等長期目標(biāo)。這類模型的首要甚至唯一目的是服務(wù)于企業(yè)的經(jīng)濟(jì)利益，衡量其正確性的標(biāo)準(zhǔn)是盈利，罔顧勞動(dòng)者的基本權(quán)利根本是本質(zhì)之一。

社會(huì)制度的目的應(yīng)當(dāng)是改善整體社會(huì)成員的生存生活環(huán)境，并保持對個(gè)體權(quán)益的平等關(guān)注。算法在誕生之初并沒有被視作一項(xiàng)社會(huì)制度，與服務(wù)目的無關(guān)的負(fù)面影響沒有得到充分考量，技術(shù)上的驚艷掩蓋了價(jià)值觀上的欠缺。因此，在算法技術(shù)不斷迭代的情勢之下，規(guī)制的初心應(yīng)當(dāng)回到保障公民基本權(quán)利中來。具體而言，前期設(shè)計(jì)階段訓(xùn)練數(shù)據(jù)與后期使用階段反饋數(shù)據(jù)的采集可能涉及對個(gè)人隱私的侵犯，應(yīng)結(jié)合數(shù)據(jù)安全法和個(gè)人信息法設(shè)置對算法開發(fā)期間的監(jiān)管措施；智能政府系統(tǒng)和智能司法系統(tǒng)可能剝奪公民享有的正當(dāng)程序權(quán)利，應(yīng)拓展傳統(tǒng)行政法及其訴訟法原則在算法時(shí)代的內(nèi)涵；金融、保險(xiǎn)等行業(yè)可能利用算法將本應(yīng)由商家承擔(dān)的風(fēng)險(xiǎn)轉(zhuǎn)嫁給無議價(jià)能力的消費(fèi)者，用人單位和公司采用調(diào)度型算法安排員工的工作與休息時(shí)間則可能損害勞動(dòng)者權(quán)益，應(yīng)及時(shí)查處這類權(quán)利義務(wù)不對等的算法。最后，須關(guān)注算法在宏觀上對人的尊嚴(yán)、平等、自由等價(jià)值是否有所貶抑，保障人權(quán)原則納入新聞、娛樂、社交等媒體平臺算法系統(tǒng)的監(jiān)管思想之中。

(二)正當(dāng)程序原則

出于優(yōu)化公共服務(wù)、提高政府效率等目的，公共管理部門越來越多地開始對舊有的數(shù)據(jù)分析形式進(jìn)行改革，如數(shù)字服務(wù)轉(zhuǎn)型、綜合數(shù)據(jù)基礎(chǔ)設(shè)施。部分行政管理工作內(nèi)在的分類、量化邏輯和算法的本質(zhì)一拍即合，但部分行政工作本身是和自動(dòng)化決策相抵觸的(7)王懷勇，鄧若翰.算法行政：現(xiàn)實(shí)挑戰(zhàn)與法律應(yīng)對[J].行政法學(xué)研究，2021.，卻遭到了默認(rèn)的忽視。數(shù)字化標(biāo)準(zhǔn)大有延伸到管理實(shí)踐方方面面的趨勢，算法在公共權(quán)力領(lǐng)域的滲透，決定了算法透明原則是正當(dāng)程序原則在算法時(shí)代的必然發(fā)展。人們?nèi)舨荒軐矝Q策過程，尤其是涉及自身具體權(quán)益的決策進(jìn)行有效地討論、審查和監(jiān)督，政府公信力就會(huì)受損。

在2016年的Loomis案中，COMPAS是一款旨在評估再犯風(fēng)險(xiǎn)的算法系統(tǒng)，由一家私人企業(yè)“Northpointe”研發(fā)，法庭量刑以其評估報(bào)告為部分參考。Loomis在減刑請求中稱法院前述行為侵犯了他的正當(dāng)程序權(quán)利，因?yàn)樵搱?bào)告僅提供了評估結(jié)果，評估方式即算法則被作為商業(yè)秘密不予公開。終審法院維持了原判，僅提出Loomis可以對該報(bào)告采集的全部信息——即輸入數(shù)據(jù)——表示異議。法院這一堅(jiān)定維護(hù)該算法秘密性的態(tài)度，引發(fā)了眾多學(xué)者的口誅筆伐。

在算法深度參與政務(wù)系統(tǒng)、司法系統(tǒng)等機(jī)構(gòu)的決策，甚至直接代替政府機(jī)構(gòu)作出決策時(shí)，不應(yīng)被排除在正當(dāng)程序原則覆蓋范圍之外。政府的具體行政行為和抽象行政行為是否有算法的參與，參與程度的高低，都應(yīng)納入政府信息公開的范圍。公民有權(quán)知曉算法參與行政工作的情況，有權(quán)監(jiān)督和建議調(diào)整算法參與行政行為的方式，正如公民有權(quán)溯源政府的決策人員、決策程序和各類條例的起草與施行。拒絕公開算法對公務(wù)的介入情況，無疑會(huì)消耗人民長期以來對政府的信任。當(dāng)然，公開對象、公開內(nèi)容、公開方式、公開時(shí)長等細(xì)節(jié)的確定需要考量與算法商業(yè)秘密保護(hù)和算法輔助效果的平衡，比如抽象行政行為里算法公開應(yīng)面向其規(guī)范范圍內(nèi)的所有公民、法人和其他組織，而具體行政行為里算法公開應(yīng)面向特定的公民、法人和其他組織，配置相應(yīng)的算法解釋請求權(quán)制度。一刀切的公開未必能使行政行為相對人獲取有效信息，還有可能對算法輔助效果產(chǎn)生負(fù)面影響，也不利于維護(hù)政府公信。

(三)多方監(jiān)管原則

算法技術(shù)監(jiān)管的目標(biāo)有二，首先是確保算法邏輯和實(shí)踐合法合規(guī)，其次是通過監(jiān)管，促進(jìn)算法的完善和提升。如果監(jiān)管者無法進(jìn)入算法內(nèi)部進(jìn)行審查，就無法了解造成危害后果的技術(shù)原因，難以提出切實(shí)有效的算法整改方案，只能在結(jié)果端予以形式上的審查，難以對平臺起到實(shí)質(zhì)性的內(nèi)部規(guī)制作用(8)崔聰聰，許智鑫.機(jī)器學(xué)習(xí)算法的法律規(guī)制[J].上海交通大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)，2020，28(2).。因此，在已經(jīng)得到廣泛討論的建立第三方監(jiān)管機(jī)構(gòu)和政府監(jiān)管機(jī)構(gòu)的基礎(chǔ)上，還應(yīng)重視個(gè)人用戶監(jiān)管的途徑和方法，因?yàn)閭€(gè)人用戶能通過自下而上的視角，提供在宏觀層面和慣性思維下難以察覺的算法邏輯漏洞、道德風(fēng)險(xiǎn)。

算法自我更新升級的依據(jù)是運(yùn)行過程中用戶反饋。但此反饋非彼反饋，指的是用戶的操作而非用戶的意圖。誠然，意圖與操作絕大部分時(shí)候是連貫的，但算法應(yīng)用面向的用戶基數(shù)一般較大，百分比數(shù)低不等于實(shí)際數(shù)目低，意圖與操作出現(xiàn)參差甚至南轅北轍的情況并不在少數(shù)。意圖與操作產(chǎn)生隔閡的原因大致可分為兩類，一是用戶在算法提供的有限選項(xiàng)中，無法找到符合自身情況的描述，被迫勾選了不真實(shí)的選項(xiàng)而進(jìn)行了有違本意的操作，或者用戶不在意算法的信息采集，隨意或故意填選了與真實(shí)情況有所出入的選項(xiàng)，不慎進(jìn)行了有違本意的操作；二是算法對用戶正確報(bào)錄信息解讀出現(xiàn)差錯(cuò)，這種差錯(cuò)一般反映出算法系統(tǒng)的原始紕漏。

不論是哪種原因引起了算法對用戶操作的誤讀，如果沒有獨(dú)立于算法外部的渠道用于收集用戶使用體驗(yàn)的反饋和建議，這些誤讀極可能湮滅在海量的“正反饋”中。算法的誤讀不僅對被誤讀用戶權(quán)益造成直接的損害，對其他用戶也構(gòu)成潛在的威脅。因此，任何應(yīng)用算法的平臺或機(jī)構(gòu)都需要向用戶公開必要的邏輯，允許用戶查詢算法在微觀層面是如何影響自己，設(shè)立認(rèn)真對待用戶意見的專門渠道，保證關(guān)于算法運(yùn)用過程中得到妥善處理。此外，應(yīng)積極鼓勵(lì)用戶群體自發(fā)建立類似婦聯(lián)或工會(huì)的團(tuán)體，對算法應(yīng)用進(jìn)行討論，整理算法運(yùn)行過程中的不當(dāng)傾向等，以供第三方和政府監(jiān)管機(jī)構(gòu)從專業(yè)角度對該算法有的放矢地查漏補(bǔ)缺。

(四)有限披露原則

上述三項(xiàng)算法規(guī)制的基本原則，均以對算法內(nèi)容的了解和分析為行動(dòng)基礎(chǔ)。但是，對內(nèi)容和受眾不加區(qū)分的全面披露，并不是最佳選擇。理由如下：

第一，全面披露會(huì)損害更大的利益。當(dāng)被監(jiān)管的算法涉及國防安全時(shí)，比如機(jī)場和車站的智能偵察系統(tǒng)，其關(guān)鍵技術(shù)人臉識別算法，就絕對不宜全面披露，理由無需贅述。金融和醫(yī)療方面的算法，微觀上對個(gè)人敏感數(shù)據(jù)的披露易涉嫌侵犯隱私，宏觀上對大數(shù)據(jù)的披露也事關(guān)國家安全，一味追求大范圍共享可謂舍本逐末。在這些情況下，全面披露算法內(nèi)容的收益相對其損失來說，不具有價(jià)值位階的優(yōu)越性。有限披露才能最大程度地平衡披露算法程序正義和保密算法的實(shí)質(zhì)正義。

第二，全面披露可能阻礙算法實(shí)現(xiàn)預(yù)期效果。例如銀行可能會(huì)在貸款申報(bào)表中，尋找與之前拖欠貸款者的申報(bào)表高度相關(guān)的隱性特征，這些特征是機(jī)器學(xué)習(xí)深度挖掘的結(jié)果，并不是人們能根據(jù)常識推論出來的。如果全面公布批準(zhǔn)貸款的規(guī)則，公眾確切知道申報(bào)表中的哪些內(nèi)容將導(dǎo)致自己被視為高風(fēng)險(xiǎn)申報(bào)人，那么，預(yù)謀實(shí)施貸款欺詐的不法分子可能會(huì)據(jù)此調(diào)整其行為，隨后，這些特征也可能會(huì)失去其預(yù)測價(jià)值。在谷歌公開PageRank算法后，很多網(wǎng)站有針對性地嵌入迎合該算法的網(wǎng)頁。于是，一些與用戶搜索內(nèi)容關(guān)聯(lián)性不強(qiáng)或者完全沒有關(guān)聯(lián)的網(wǎng)頁出現(xiàn)在谷歌搜索結(jié)果中。出于防止這類投機(jī)行為的考慮，谷歌已在逐年淡化PageRank的概念，停止更新其算法和結(jié)果。如今谷歌采用建立在PageRank基礎(chǔ)上綜合搜索算法，維持了搜索算法的秘密性，以求保證其核心功能不受影響。

第三，全面披露不利于算法市場的競爭秩序，不利于算法技術(shù)的進(jìn)步發(fā)展。目前算法市場上以目標(biāo)代碼為主要交易對象，如若公開算法源代碼，剽竊算法的行為將難以追責(zé)。因?yàn)樵创a可以編譯為多種目標(biāo)代碼，而目標(biāo)代碼回譯為源代碼難度極高。至于通過觀察業(yè)務(wù)范圍往往重合的平臺外部表現(xiàn)，推斷其是否使用了同一種算法，幾近于天方夜譚。發(fā)現(xiàn)不了盜用行為，追責(zé)乏力，則勢必導(dǎo)致盜用高價(jià)值算法信息的行為增多。即使政府對公開的算法進(jìn)行補(bǔ)貼，通常也無法覆蓋其合理保密狀態(tài)下的商業(yè)利潤。長此以往，企業(yè)對算法開發(fā)無疑會(huì)持觀望甚至負(fù)面態(tài)度，在創(chuàng)新算法方面的經(jīng)濟(jì)支持、技術(shù)投入將呈現(xiàn)保守趨勢。

綜上，到位的有限披露較之簡單的全面披露更有利于平衡各類公共利益、實(shí)現(xiàn)算法本職功能、維護(hù)算法市場秩序和促進(jìn)技術(shù)不斷發(fā)展。算法披露應(yīng)堅(jiān)持有限披露原則，細(xì)分披露的目標(biāo)、場景、受眾和時(shí)段，杜絕為了披露而披露的形式主義。

四、規(guī)制之策：算法規(guī)制的具體機(jī)制

(一)披露機(jī)制

在《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》以及《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下簡稱《算法管理規(guī)定》)中，間接或直接地對算法披露作了相關(guān)規(guī)定，但尚待細(xì)化。以非必要不公開為指導(dǎo)，算法披露的內(nèi)容、方式和前提，取決于披露面向的對象。一般可分為三種：

1.面向個(gè)人用戶的披露

《個(gè)人信息保護(hù)法》第44條確認(rèn)了個(gè)人對其個(gè)人信息處理活動(dòng)的知情權(quán)。其所言“知情權(quán)”的知情內(nèi)容應(yīng)以該法第7條中要求個(gè)人信息處理者公開的“處理的目的、方式和范圍”為限，且不需要以其他個(gè)人權(quán)利受到實(shí)際影響為前提。第48條賦予了個(gè)人用戶算法解釋權(quán)。個(gè)人用戶一般不具備理解代碼的能力，此種情況下披露代碼的實(shí)際意義有限，卻會(huì)增加算法泄露的風(fēng)險(xiǎn)，向個(gè)人披露的算法規(guī)則是否與實(shí)際運(yùn)行的代碼相吻合，交由監(jiān)管機(jī)構(gòu)核實(shí)更為合理(9)解正山.算法決策規(guī)制：以算法“解釋權(quán)”為中心[J].現(xiàn)代法學(xué)，2020，42(1).，因此披露內(nèi)容不需要包括源代碼、目標(biāo)代碼等機(jī)密信息?？紤]到個(gè)人用戶隨時(shí)可以行使該項(xiàng)權(quán)利，可能存在大量重復(fù)提問，應(yīng)允許運(yùn)營方以非人工方式進(jìn)行自動(dòng)化回復(fù)，保留人工解釋渠道處理特殊情況即可。《算法管理規(guī)定》第17條第3款規(guī)定了算法推薦服務(wù)提供者給用戶權(quán)益造成重大影響時(shí)的說明解釋等責(zé)任，這是在第16條規(guī)定了對所有用戶提供系統(tǒng)性解釋義務(wù)的基礎(chǔ)上，進(jìn)一步規(guī)定的事后個(gè)案解釋義務(wù)，不能否定前述的事先披露義務(wù)。

2.面向政府或第三方監(jiān)管機(jī)構(gòu)的披露

這類披露的核心目標(biāo)在于對算法實(shí)行評估、管理，因此務(wù)必公布所有關(guān)鍵信息(10)魏遠(yuǎn)山.算法透明的迷失與回歸:功能定位與實(shí)現(xiàn)路徑[J].北方法學(xué)，2021，15(1).?！秱€(gè)人信息保護(hù)法》第58條針對“提供重要互聯(lián)網(wǎng)平臺服務(wù)、用戶數(shù)量巨大、業(yè)務(wù)類型復(fù)雜的個(gè)人信息處理者”，要求其成立獨(dú)立監(jiān)管機(jī)構(gòu)。遺憾的是，在披露時(shí)間上，該法第55條僅規(guī)定了事前評估。現(xiàn)今算法的特點(diǎn)之一是根據(jù)源源不斷的新數(shù)據(jù)自我更新，應(yīng)以事前披露和事中披露并重，要求算法投入運(yùn)用前備案，經(jīng)歷重要迭代后及時(shí)更新備案信息(11)張恩典.算法影響評估制度的反思與建構(gòu)[J].電子政務(wù),2021,(11).，同時(shí)輔以抽查方式，檢驗(yàn)實(shí)際運(yùn)行情況與備案是否相符?！端惴ü芾硪?guī)定》第8條提到了算法推薦服務(wù)提供者定期審評自身算法，但這類自我管理機(jī)制的落實(shí)情況合理存疑。該法第四章、第五章分別就算法推薦服務(wù)提供者的監(jiān)督管理和法律責(zé)任作出了詳細(xì)的規(guī)定，但是這些規(guī)則的適用前提是規(guī)制對象“具有輿論屬性或者社會(huì)動(dòng)員能力”，在第23條所言“算法分級分類安全管理制度”未明晰之前，該如何作此判斷呢？另外，互聯(lián)網(wǎng)企業(yè)的崛起速度驚人，將中小型平臺排除在監(jiān)管制度之外是否合適尚值得商榷。

3.面向公眾或其他特定人員的披露

《個(gè)人信息保護(hù)法》第58條第4款規(guī)定了某些個(gè)人信息處理者定期發(fā)布責(zé)任報(bào)告的義務(wù)?！端惴ü芾硪?guī)定》第16條也規(guī)定了算法推薦服務(wù)提供者以適當(dāng)方式公示算法推薦服務(wù)的義務(wù)。個(gè)人的能力有限，注意力也通常局限在自身，僅以個(gè)人為權(quán)利主體的算法解釋權(quán)、算法應(yīng)用拒絕權(quán)等權(quán)利束不足以聚焦波及大眾或某些特殊群體的算法隱性歧視，無法應(yīng)對算法應(yīng)用的集體性、累積性風(fēng)險(xiǎn)。若該類風(fēng)險(xiǎn)要等個(gè)人用戶的具體情況得到體現(xiàn)并形成一定體量才能通過個(gè)人算法權(quán)利的伸張來引起大范圍關(guān)注和管控，則嚴(yán)重違背了算法治理的應(yīng)有之義。向公眾公布算法是合理且必須的預(yù)警機(jī)制，既是借助群眾的敏銳以補(bǔ)充監(jiān)管機(jī)構(gòu)的力有不逮之處，也是對人民基本權(quán)利的尊重和保障。

(二)保密機(jī)制

1.普及保密協(xié)議，明確違約泄密責(zé)任

首先，對監(jiān)管機(jī)構(gòu)的工作人員要加強(qiáng)職業(yè)培訓(xùn)，除入職離職前，在職期間也要進(jìn)行定期培訓(xùn)，提高保密意識。相比普通民眾和行政人員，技術(shù)人員在履行職責(zé)的過程中接觸到的算法秘密信息量大，自身理解能力強(qiáng)，建議在其工作流程中拆分信息披露環(huán)節(jié)，根據(jù)不同的步驟簽訂相應(yīng)的保密協(xié)議?！稊?shù)據(jù)安全法》第38條提到了國家機(jī)關(guān)工作人員在這方面的保密義務(wù)，第三方機(jī)構(gòu)的人員流動(dòng)相比政府更加頻繁，應(yīng)參照簽訂與國家機(jī)關(guān)工作人員類似或者更為嚴(yán)格的保密協(xié)議?！端惴ü芾硪?guī)定》第29條規(guī)定，算法監(jiān)管相關(guān)機(jī)構(gòu)和人員的保密義務(wù)，但在第五章“法律責(zé)任”僅擬制了機(jī)構(gòu)和單位的責(zé)任，沒有針對工作人員的個(gè)人責(zé)任。其次，申請算法解釋的個(gè)人應(yīng)在算法披露前簽訂保密協(xié)議，即使拒不簽訂，若有故意泄露算法信息的行為，也應(yīng)推定為負(fù)有附隨義務(wù)，情節(jié)嚴(yán)重者應(yīng)及時(shí)追究刑事責(zé)任。這不僅是保護(hù)企業(yè)的商業(yè)秘密，也是意在防止引發(fā)其他安全危機(jī)。

2.細(xì)化競業(yè)限制，提高競業(yè)限制補(bǔ)償

此處僅討論“針對接觸商業(yè)秘密的雇員設(shè)定的競業(yè)協(xié)議”。傳統(tǒng)觀點(diǎn)認(rèn)為競業(yè)協(xié)議的目的在于保護(hù)公司商業(yè)秘密、防止惡性競爭，但在算法秘密性的意義不限于商業(yè)價(jià)值，還涉及諸多公共利益，算法領(lǐng)域競業(yè)協(xié)議的目的應(yīng)涵蓋維護(hù)算法治理秩序。但目前算法核心技術(shù)人員在離職時(shí)的競業(yè)限制協(xié)議對“有競業(yè)業(yè)務(wù)的公司”規(guī)定過于寬泛，雇員的擇業(yè)自由受到極大的限制。一方面，互聯(lián)網(wǎng)企業(yè)的擴(kuò)張導(dǎo)致各企業(yè)間的業(yè)務(wù)重合率高，尤其是大型企業(yè)如騰訊、阿里，幾乎所有互聯(lián)網(wǎng)公司都可以劃入其“競爭對手”的范圍。另一方面，平臺基本框架的構(gòu)建、基礎(chǔ)功能和目標(biāo)(如圖像識別、個(gè)性推薦等)日益趨同，兼之算法開發(fā)的技術(shù)難度高、分工細(xì)，要求雇員徹底轉(zhuǎn)崗既有損其自身利益，也有礙于技術(shù)發(fā)展。另外，實(shí)踐中企業(yè)的競業(yè)限制補(bǔ)償金普遍止步于司法解釋中最低標(biāo)準(zhǔn)30%，而競業(yè)協(xié)議的違約金在勞動(dòng)法中沒有規(guī)定上限。建議提倡各公司在競業(yè)協(xié)議中縮小、精確對雇員的擇業(yè)限制，并依據(jù)公司情況、雇員能力等因素適當(dāng)提高補(bǔ)償金，使競業(yè)協(xié)議具備更高的可行性。

(三)救濟(jì)機(jī)制

算法侵權(quán)具有漸進(jìn)性的特點(diǎn)：在采集個(gè)人信息、提供個(gè)性推薦等行為初期，用戶享受到了高質(zhì)量的服務(wù)，當(dāng)平臺的行為更深入、更主動(dòng)時(shí)，用戶的處境猶如溫水煮青蛙，即使察覺到權(quán)利受到侵犯，也不知如何維權(quán)。即使賦予用戶算法解釋權(quán)等私權(quán)對抗算法權(quán)力，缺乏便利的救濟(jì)渠道也會(huì)妨礙有效救濟(jì)的實(shí)現(xiàn)。讓公眾感受到算法規(guī)制的存在，參與到算法規(guī)制的活動(dòng)中來，可以從以下三種制度的發(fā)展與完善著手：

1.法律援助

在2016年爆出的魏則西事件中，百度的競價(jià)排名算法使不正規(guī)的醫(yī)療機(jī)構(gòu)排在搜索結(jié)果前列，其個(gè)性推薦算法使點(diǎn)擊過該類醫(yī)療機(jī)構(gòu)鏈接的用戶在后續(xù)搜索中接收到更多的推廣信息，包括聯(lián)系電話等等。魏則西一家出于對百度及其算法系統(tǒng)的信任就診于某醫(yī)療機(jī)構(gòu)，后由于受到不當(dāng)治療，兼之錯(cuò)過治療時(shí)期，因病身亡。在這起嚴(yán)重侵犯他人生命健康權(quán)的醫(yī)療事故中，百度算法系統(tǒng)對醫(yī)療機(jī)構(gòu)直接侵權(quán)行為起到了關(guān)鍵輔助作用，卻逃脫了作為幫兇應(yīng)負(fù)的法律責(zé)任。

因此，建議在法律援助制度框架內(nèi)，適當(dāng)補(bǔ)充針對算法人身權(quán)侵權(quán)糾紛的內(nèi)容。2021年8月通過的《法律援助法》第31條對民事法律援助事項(xiàng)的規(guī)定新增了人身損害賠償情形，結(jié)合第22條對法律援助形式的規(guī)定，為應(yīng)對算法直接或間接侵犯公民人身權(quán)并造成損害結(jié)果的情況，應(yīng)暢通法律咨詢、代理等法律援助服務(wù)渠道，提高法律援助信息曝光，如要求平臺以顯著形式標(biāo)注法律援助聯(lián)系方式等。在“符合法定條件的其他當(dāng)事人”的認(rèn)定上，應(yīng)以算法對受害人造成的后果是否嚴(yán)重及受害人經(jīng)濟(jì)狀況為主要考量因素，不宜強(qiáng)求算法和后果之間存在直接因果關(guān)系，因?yàn)樗惴▽θ苏J(rèn)知與行為的限制往往是通過間接卻有力的方式實(shí)現(xiàn)，稍微延長因果鏈符合算法規(guī)制正義。

2.公益訴訟

互聯(lián)網(wǎng)產(chǎn)品是商品，互聯(lián)網(wǎng)服務(wù)是生意。廣告是互聯(lián)網(wǎng)企業(yè)最普遍的商業(yè)行為。而對于廣告商來說，用戶隱私可以轉(zhuǎn)化成精準(zhǔn)的用戶畫像，指導(dǎo)減少無效廣告的投放，極大程度降低成本。越全面、越詳細(xì)、越新鮮的個(gè)人信息能制作出越有商業(yè)價(jià)值的數(shù)據(jù)畫像。為了收集盡可能多的個(gè)人信息，平臺索要超出完成自身任務(wù)所需求的后臺訪問權(quán)限已成為常態(tài)，這種行為本身嚴(yán)重侵犯用戶肖像權(quán)、隱私權(quán)(如訪問相冊、聊天記錄等)，同時(shí)也是滋生精準(zhǔn)詐騙等灰色產(chǎn)業(yè)鏈的溫床。

這類算法侵權(quán)行為發(fā)生后，被侵權(quán)人要么因?yàn)槠鹪V成本遠(yuǎn)高于實(shí)際損失，放棄追究平臺責(zé)任，要么因?yàn)榍謾?quán)行為過于隱蔽，根本沒有發(fā)現(xiàn)侵權(quán)事實(shí)。但是算法應(yīng)用平臺卻能從動(dòng)輒數(shù)以萬計(jì)的用戶個(gè)人隱私中獲利，同時(shí)構(gòu)成了群體性風(fēng)險(xiǎn)。人民檢察院、消費(fèi)者保護(hù)協(xié)會(huì)或其他形式的組織機(jī)構(gòu)具有更強(qiáng)的采證舉證能力，應(yīng)通過公益訴訟制度，實(shí)現(xiàn)公共利益和私人利益的雙重救濟(jì)?！秱€(gè)人信息保護(hù)法》第70條對違法處理個(gè)人信息的情況適用公益訴訟作出了原則性規(guī)定，但算法其他形式的危害公共利益的侵權(quán)現(xiàn)象也應(yīng)納入公益訴訟的范圍。參照張新寶教授對個(gè)人信息公益訴訟制度的觀點(diǎn)(12)張新寶.個(gè)人信息保護(hù)公益訴訟制度的理解與適用.[J].國家檢察官學(xué)院學(xué)報(bào)，2021，29(5)：55-74.，算法公益訴訟不影響個(gè)人的私益訴訟，也不宜以私益訴訟為前置程序，因?yàn)樗惴ü嬖V訟保護(hù)的法益并不只是算法應(yīng)用用戶們權(quán)利的簡單相加。

3.知識產(chǎn)權(quán)懲罰性賠償

在互聯(lián)網(wǎng)知識產(chǎn)權(quán)侵權(quán)案件中，企業(yè)爭相使用“技術(shù)中立原則”，或援引“避風(fēng)港原則”否認(rèn)侵權(quán)行為，回避侵權(quán)責(zé)任。2018年，愛奇藝公司起訴字節(jié)跳動(dòng)公司，稱后者容許用戶上傳《延禧攻略》的短視頻，并協(xié)助了該類短視頻的傳播，侵犯了原告的信息網(wǎng)絡(luò)傳播權(quán)。2022年，法院認(rèn)定字節(jié)跳動(dòng)公司的涉案行為構(gòu)成幫助侵權(quán)，并判定賠償原告經(jīng)濟(jì)損失及訴訟合理開支。

類似的訴訟糾紛并不在少數(shù)。推薦類算法的興起，使原本僅提供信息存儲(chǔ)空間服務(wù)、信息展示交流服務(wù)等中立性較強(qiáng)的網(wǎng)絡(luò)服務(wù)者，偏向?qū)⑿畔⑼扑]轉(zhuǎn)化為主要服務(wù)，其用戶的增長量、互動(dòng)量、停留時(shí)長則與推薦算法技術(shù)的水平息息相關(guān)。若堅(jiān)持嚴(yán)格的通知—?jiǎng)h除規(guī)則，維權(quán)者須就各上傳盜版作品的用戶一一通知相應(yīng)平臺，而這般疲于奔命式的維權(quán)模式，是不能保證阻斷此類侵權(quán)行為的流變。對于平臺一邊受惠于此類侵權(quán)，一邊卻躲進(jìn)“避風(fēng)港”的行為，應(yīng)提高知識產(chǎn)權(quán)懲罰性賠償制度的適用率，在原告提出懲罰性賠償請求時(shí)，對于被告“故意”的認(rèn)定宜寬不宜窄。這一是因?yàn)橥扑]算法技術(shù)的基礎(chǔ)是內(nèi)容的識別與分類，平臺知曉侵權(quán)的可能性高；二是因?yàn)楸I版作品、假冒偽劣商品低廉的特點(diǎn)決定了其一旦流入市場，用戶便會(huì)趨之若鶩，在算法的推波助瀾下，給著作權(quán)、商標(biāo)權(quán)的權(quán)利人造成的損失比以往更甚。

五、結(jié)語

算法的差異化使其成為互聯(lián)網(wǎng)企業(yè)倚重的商業(yè)秘密，但隨著平臺的膨脹，從用戶的服務(wù)者搖身一變成為用戶的支配者，算法的角色也不再是單純的輔助性工具，而是可與公權(quán)力分庭抗禮的新型社會(huì)權(quán)力，其因商業(yè)秘密制度獲得的保護(hù)需要向公共利益作出一定程度的讓步。但是，盲目地公開算法并不能解決問題，反而會(huì)阻礙算法正常運(yùn)用，造成社會(huì)秩序混亂等后果。算法的法律限制不是非黑即白的對錯(cuò)題，公開與保密不是水火不相容的關(guān)系。如何平衡公眾知情與技術(shù)保密，是算法治理時(shí)代不可回避的議題。