胡 玲

(安徽財(cái)經(jīng)大學(xué) 法學(xué)院，安徽 蚌埠 233000)

數(shù)據(jù)和算法已成為數(shù)字經(jīng)濟(jì)發(fā)展的助力器，各國(guó)都在致力于通過數(shù)據(jù)和算法提升經(jīng)濟(jì)運(yùn)行效率、社會(huì)治理效率以及人民的福祉。但是，現(xiàn)實(shí)中，算法逐漸定義著人們諸如能力資質(zhì)、信用狀況、價(jià)格選擇等多方面[1]。利用數(shù)據(jù)和掌握算法的超大型互聯(lián)網(wǎng)平臺(tái)正以壓倒性優(yōu)勢(shì)贏得商業(yè)成就。2021年10月29日，市場(chǎng)監(jiān)管總局公布《互聯(lián)網(wǎng)平臺(tái)分類分級(jí)指南(征求意見稿)》(下稱《分類分級(jí)指南》)和《互聯(lián)網(wǎng)平臺(tái)落實(shí)主體責(zé)任指南(征求意見稿)》(下稱《主體責(zé)任指南》)，根據(jù)以上指南，超級(jí)平臺(tái)和大型平臺(tái)將迎接更嚴(yán)監(jiān)管。實(shí)踐中，臉書、谷歌、蘋果、亞馬遜、京東、阿里巴巴和騰訊等都屬于此類平臺(tái)。當(dāng)前，世界各國(guó)都在完善數(shù)字經(jīng)濟(jì)和對(duì)大型互聯(lián)網(wǎng)平臺(tái)的監(jiān)管規(guī)范，如歐盟的《數(shù)字服務(wù)法》(TheDigitalServicesAct)和《數(shù)字市場(chǎng)法》(TheDigitalMarketsAct)，我國(guó)《分類分級(jí)指南》和《主體責(zé)任指南》的出臺(tái)有著國(guó)際國(guó)內(nèi)雙重意義。算法是超大型互聯(lián)網(wǎng)平臺(tái)更了解用戶和維持競(jìng)爭(zhēng)優(yōu)勢(shì)的重要手段，但是，算法也挑戰(zhàn)著人類決策的自主性、威脅個(gè)人隱私與自由且容易引發(fā)歧視和偏見[2]。超大型互聯(lián)網(wǎng)平臺(tái)算法的本質(zhì)是以商業(yè)化利益為最終追求目標(biāo)，對(duì)其的法律規(guī)制就顯得尤為重要。算法的使用應(yīng)堅(jiān)持以人為本原則，切忌本末倒置，使人成為算法精準(zhǔn)設(shè)計(jì)下的工具。

一、問題的提出：超大型互聯(lián)網(wǎng)平臺(tái)算法運(yùn)用帶來(lái)的挑戰(zhàn)

隨著數(shù)字經(jīng)濟(jì)的加速到來(lái)，在技術(shù)的加持下，掌握著海量數(shù)據(jù)的互聯(lián)網(wǎng)平臺(tái)巨頭逐漸在市場(chǎng)上形成了壟斷優(yōu)勢(shì)。算法已成為超大型互聯(lián)網(wǎng)平臺(tái)企業(yè)獲得更大利潤(rùn)的重要手段，其不僅能降低產(chǎn)品/服務(wù)的定價(jià)成本，且能提高價(jià)格進(jìn)而增加利潤(rùn)。與此同時(shí)，數(shù)據(jù)和算法的局限性也不斷凸現(xiàn)出來(lái)?？梢哉f(shuō)，市場(chǎng)失靈很大程度源于信息不對(duì)稱或信息偏差[3]。

(一)算法概念、本質(zhì)及生命周期

1. 算法的概念和本質(zhì)

計(jì)算機(jī)在許多領(lǐng)域都具有變革性，它們能極速執(zhí)行命令并可以處理大量數(shù)據(jù)，信息技術(shù)為提高連接性和交易速度提供了基礎(chǔ)。算法是解決問題時(shí)需要遵循的一個(gè)過程和一組規(guī)則，通常是一個(gè)結(jié)構(gòu)化的過程。算法會(huì)導(dǎo)致自動(dòng)決策(或算法決策)，即其本質(zhì)上是決定某些事情的代碼。實(shí)踐中，算法(以及數(shù)據(jù)或信息)成為許多事物的核心，包括社交媒體、信用評(píng)分系統(tǒng)、自動(dòng)決策系統(tǒng)、機(jī)器人和自動(dòng)駕駛汽車等。Google搜索算法決定了信息與搜索詞的相關(guān)性和重要性，即PageRank的排名系統(tǒng)，其有能力控制在搜索平臺(tái)上發(fā)布的內(nèi)容，并且更改網(wǎng)站以匹配用戶[4]。EdgeRand則是Facebook用于確定應(yīng)在用戶的新聞提要中顯示哪些文章?？梢哉f(shuō)，算法的重要性在于：算法無(wú)處不在；擁有計(jì)算思維；可以非常精確地在計(jì)算機(jī)、智能手機(jī)和其他設(shè)備上實(shí)施?，F(xiàn)如今，算法、算法治理以及在創(chuàng)建或使用算法時(shí)應(yīng)遵守的法律法規(guī)將變得越來(lái)越重要。

2. 算法的生命周期

超大型互聯(lián)網(wǎng)平臺(tái)公司紛紛認(rèn)識(shí)到開發(fā)算法以幫助他們開展業(yè)務(wù)的重要性。隨著來(lái)自傳感器、智能設(shè)備、社交媒體等數(shù)據(jù)量的激增，投資算法成為這些平臺(tái)企業(yè)的優(yōu)先戰(zhàn)略選擇。事實(shí)上，由于匯集了海量數(shù)據(jù)，這些平臺(tái)企業(yè)難以管理和處理已聚集的數(shù)據(jù)流，算法就成為了實(shí)現(xiàn)數(shù)據(jù)價(jià)值并根據(jù)該數(shù)據(jù)做出明智且及時(shí)決策的關(guān)鍵。那些有效創(chuàng)建、管理和部署算法的公司無(wú)疑將搶占市場(chǎng)先機(jī)，開展挖掘客戶需求、數(shù)據(jù)清理和數(shù)據(jù)存儲(chǔ)等業(yè)務(wù)。算法的生命周期具體可以分為以下幾個(gè)階段。首先是數(shù)據(jù)采集、存儲(chǔ)階段，人工智能設(shè)備往往未經(jīng)信息主體同意，便將獲取的個(gè)人數(shù)據(jù)進(jìn)行算法分析。其次是算法運(yùn)算階段，當(dāng)人工智能設(shè)備收集了海量數(shù)據(jù)，會(huì)進(jìn)行黑箱運(yùn)算、數(shù)據(jù)清洗。最后是結(jié)果輸出和應(yīng)用階段，通過算法形成的數(shù)據(jù)分析結(jié)果的可視化呈現(xiàn)可以為企業(yè)提供決策支持，并將數(shù)據(jù)分析成果轉(zhuǎn)化為具體的應(yīng)用融入業(yè)務(wù)流程中。

(二)超大型互聯(lián)網(wǎng)平臺(tái)算法的應(yīng)用場(chǎng)景及其影響

有學(xué)者認(rèn)為平臺(tái)生態(tài)系統(tǒng)主要由“數(shù)據(jù)+算法”及其之間的聯(lián)動(dòng)展開[5]。我們正處于數(shù)字經(jīng)濟(jì)新時(shí)代，平臺(tái)所有者似乎正在發(fā)展比早期工業(yè)革命中的工廠所有者更強(qiáng)大的力量，平臺(tái)經(jīng)濟(jì)或數(shù)字平臺(tái)經(jīng)濟(jì)涵蓋著越來(lái)越多的商業(yè)、政治和社會(huì)互動(dòng)中的數(shù)字化活動(dòng)。而算法革命和云計(jì)算構(gòu)成了平臺(tái)經(jīng)濟(jì)的基礎(chǔ)，平臺(tái)經(jīng)濟(jì)的繁榮關(guān)鍵在于它們?yōu)閺V泛的用戶提供了一組共享的技術(shù)和接口，使得用戶可以在穩(wěn)定的網(wǎng)絡(luò)基礎(chǔ)設(shè)施上構(gòu)建他們想要的東西。這些平臺(tái)往往通過重置進(jìn)入壁壘、改變價(jià)值創(chuàng)造和價(jià)值獲取的邏輯、進(jìn)行監(jiān)管套利和重新定位經(jīng)濟(jì)體系中的權(quán)力來(lái)擾亂現(xiàn)有的經(jīng)濟(jì)活動(dòng)。平臺(tái)對(duì)算法的運(yùn)用主要存在以下目的和場(chǎng)景。

1. 構(gòu)建用戶畫像

通常，用戶想要免費(fèi)便捷使用超大型互聯(lián)網(wǎng)平臺(tái)的服務(wù)，只能點(diǎn)擊同意“用戶使用協(xié)議”，用戶授權(quán)的數(shù)據(jù)會(huì)被平臺(tái)一一記錄(諸如設(shè)備ID、手機(jī)號(hào)碼、姓名、瀏覽行為等)，并處于持續(xù)被收集的狀態(tài)。通過算法和大數(shù)據(jù)，將用戶標(biāo)簽化并形成畫像，為后續(xù)的個(gè)性化推薦、差異化定價(jià)等奠定基礎(chǔ)。

2. 差異化定價(jià)

現(xiàn)實(shí)中，數(shù)字鴻溝和算法的隱蔽特性使得算法進(jìn)行差異化定價(jià)成為可能。超大型平臺(tái)通過算法研發(fā)，可以準(zhǔn)確識(shí)別用戶的價(jià)格期待，對(duì)不同消費(fèi)者給出不同價(jià)格。由于定價(jià)算法具有隱蔽性和復(fù)雜性，這使得大數(shù)據(jù)殺熟難以被覺察[6]?？梢哉f(shuō)，在依賴歷史數(shù)據(jù)對(duì)不特定群體進(jìn)行分類基礎(chǔ)上，為新輸入對(duì)象自動(dòng)匹配算法身份，不同的電子設(shè)備、操作系統(tǒng)和手機(jī)賬號(hào)都有可能構(gòu)成合理差別對(duì)待的理由[7]。

3. 精準(zhǔn)推送

超大型平臺(tái)對(duì)聚集的海量數(shù)據(jù)進(jìn)行深度挖掘和分析，實(shí)現(xiàn)信息內(nèi)容和用戶精準(zhǔn)匹配，從而識(shí)別出用戶喜好而為其推薦可能喜歡、感興趣的產(chǎn)品或服務(wù)，而往往平臺(tái)推送的這些產(chǎn)品或服務(wù)背后都有廣告商贊助。

4.個(gè)性化服務(wù)

超大型平臺(tái)為了增強(qiáng)用戶的黏性，實(shí)現(xiàn)長(zhǎng)尾效應(yīng)，會(huì)通過算法更了解用戶，并通過為用戶提供最為關(guān)聯(lián)的信息，大大節(jié)約用戶的檢索時(shí)間，并改善用戶的網(wǎng)絡(luò)體驗(yàn)。

在資本和技術(shù)的加持下，超大型互聯(lián)網(wǎng)平臺(tái)在市場(chǎng)上對(duì)用戶數(shù)據(jù)的掌控處于明顯優(yōu)勢(shì)地位，直接關(guān)涉用戶的信息安全和利用。隨著用戶數(shù)據(jù)的日益豐富和算法技術(shù)的更新迭代，平臺(tái)的算法使用場(chǎng)景越來(lái)越多，隨之而來(lái)的安全問題也愈發(fā)凸顯。在對(duì)算法的法律規(guī)制層面，我國(guó)尚未有統(tǒng)一的相關(guān)法律，厘清算法治理的法律準(zhǔn)則和完善算法治理的相關(guān)法律規(guī)則成為當(dāng)務(wù)之急。

二、我國(guó)超大型互聯(lián)網(wǎng)平臺(tái)算法的法律規(guī)制現(xiàn)狀和不足

目前對(duì)算法的法律規(guī)制并未有統(tǒng)一的法律，散見于《中華人民共和國(guó)個(gè)人信息保護(hù)法》(以下簡(jiǎn)稱《個(gè)人信息保護(hù)法》)、《中華人民共和國(guó)電子商務(wù)法》(以下簡(jiǎn)稱《電商法》)和競(jìng)爭(zhēng)法等法律中。

(一) 我國(guó)超大型互聯(lián)網(wǎng)平臺(tái)算法的法律規(guī)制現(xiàn)狀

1. 以數(shù)據(jù)安全和保護(hù)為基礎(chǔ)的法律

網(wǎng)絡(luò)安全法和數(shù)據(jù)安全法為市場(chǎng)上的數(shù)據(jù)使用安全提供了方向性指導(dǎo)和奠定了制度性基礎(chǔ)?！秱€(gè)人信息保護(hù)法》明確規(guī)定了不得過度收集個(gè)人信息、大數(shù)據(jù)殺熟，對(duì)人臉信息等敏感個(gè)人信息的處理作出規(guī)制，規(guī)定了通過自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷，應(yīng)提供不針對(duì)其個(gè)人特征的選項(xiàng)或提供便捷的拒絕方式。這對(duì)現(xiàn)實(shí)生活中存在的算法歧視進(jìn)行了回應(yīng)，以實(shí)現(xiàn)個(gè)人信息保護(hù)和個(gè)人數(shù)據(jù)利用的平衡。

2. 規(guī)范市場(chǎng)公平競(jìng)爭(zhēng)的競(jìng)爭(zhēng)法及其相應(yīng)規(guī)定

超大型互聯(lián)網(wǎng)平臺(tái)聚集了海量的用戶流量，在資本和技術(shù)的助力下，占據(jù)了很大市場(chǎng)份額，且往往處于市場(chǎng)強(qiáng)勢(shì)地位，容易壓縮既存中小企業(yè)的發(fā)展空間，同時(shí)也會(huì)抑制新興創(chuàng)新企業(yè)的進(jìn)入，最終損害消費(fèi)者權(quán)益，不利于數(shù)字經(jīng)濟(jì)的健康有序發(fā)展?！吨腥A人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》(以下簡(jiǎn)稱《反不正當(dāng)競(jìng)爭(zhēng)法》)和《中華人民共和國(guó)反壟斷法》及配套規(guī)定、指南等則在一定程度上規(guī)制了超大型平臺(tái)對(duì)市場(chǎng)的絕對(duì)掌控力。前者側(cè)重規(guī)制不正當(dāng)競(jìng)爭(zhēng)的行為，后者側(cè)重規(guī)制限制競(jìng)爭(zhēng)的行為。

(1)《反不正當(dāng)競(jìng)爭(zhēng)法》及其相應(yīng)規(guī)定。市場(chǎng)監(jiān)督管理總局在《反不正當(dāng)競(jìng)爭(zhēng)法》基礎(chǔ)上發(fā)布了《禁止網(wǎng)絡(luò)不正當(dāng)競(jìng)爭(zhēng)行為規(guī)定(公開征求意見稿)》，該意見稿對(duì)數(shù)據(jù)和算法驅(qū)動(dòng)下的不正當(dāng)競(jìng)爭(zhēng)行為進(jìn)行了具體規(guī)制：不得實(shí)施流量劫持、干擾和惡意不兼容等行為不得通過算法給交易條件相同的相對(duì)方提供不同的交易信息。

(2)《中華人民共和國(guó)反壟斷法(修正草案)》(以下簡(jiǎn)稱《草案》)及其配套指南。2021年2月7日國(guó)家市場(chǎng)監(jiān)督總局官網(wǎng)發(fā)布《國(guó)務(wù)院反壟斷委員會(huì)關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》(以下簡(jiǎn)稱《指南》)，該指南的出臺(tái)是為了預(yù)防和制止平臺(tái)經(jīng)濟(jì)領(lǐng)域壟斷行為，維護(hù)市場(chǎng)公平競(jìng)爭(zhēng)，促使平臺(tái)經(jīng)濟(jì)規(guī)范有序創(chuàng)新健康發(fā)展，維護(hù)消費(fèi)者利益和社會(huì)公共利益。為了促使互聯(lián)網(wǎng)平臺(tái)的規(guī)范化健康發(fā)展，全國(guó)人大常委會(huì)于2021年10月23日發(fā)布《草案》，在濫用市場(chǎng)支配地位章節(jié)新增了針對(duì)平臺(tái)經(jīng)濟(jì)和互聯(lián)網(wǎng)方面的規(guī)則，規(guī)范了互聯(lián)網(wǎng)平臺(tái)企業(yè)濫用數(shù)據(jù)、算法、技術(shù)以及資本優(yōu)勢(shì)、平臺(tái)規(guī)則排除競(jìng)爭(zhēng)、限制競(jìng)爭(zhēng)的問題。

3.保護(hù)消費(fèi)者權(quán)益的相關(guān)法律

電子商務(wù)法、消費(fèi)者權(quán)益保護(hù)法和價(jià)格法是我國(guó)維護(hù)市場(chǎng)公平交易和消費(fèi)者權(quán)益法律體系的重要組成部分。尤其在算法引起的大數(shù)據(jù)殺熟下，這些法律為規(guī)制價(jià)格歧視、維護(hù)消費(fèi)者權(quán)益提供了重要依據(jù)。

(二)我國(guó)超大型互聯(lián)網(wǎng)平臺(tái)算法法律規(guī)制的不足

首先，算法的法律規(guī)制零散、沖突，缺乏內(nèi)部協(xié)調(diào)機(jī)制。當(dāng)前法律對(duì)算法的規(guī)制散見于數(shù)據(jù)安全和保護(hù)相關(guān)法律、競(jìng)爭(zhēng)法以及《電商法》等，規(guī)則林立，難免沖突，尤其在具體法律適用是時(shí)常造成混亂。比如，在大數(shù)據(jù)殺熟規(guī)制上，《個(gè)人信息保護(hù)法》《電商法》《中華人民共和國(guó)消費(fèi)者權(quán)益保護(hù)法》(以下簡(jiǎn)稱《消費(fèi)者權(quán)益保護(hù)法》)和《價(jià)格法》都有相關(guān)涉及，但又各有側(cè)重。其中，《個(gè)人信息保護(hù)法》對(duì)個(gè)人信息的界定側(cè)重在“可識(shí)別性”上，實(shí)踐中，大數(shù)據(jù)殺熟涉及的數(shù)據(jù)遠(yuǎn)不止具有明顯人格特征的個(gè)人信息，還涉及大量用戶行為數(shù)據(jù)，更精準(zhǔn)地“刻畫”用戶畫像，從而精準(zhǔn)殺熟；《消費(fèi)者權(quán)益保護(hù)法》則未將大數(shù)據(jù)殺熟明確納入規(guī)制，消費(fèi)者只能依據(jù)知情權(quán)、公平交易權(quán)和消費(fèi)欺詐的相關(guān)規(guī)定維權(quán)；《電商法》則規(guī)定了不得針對(duì)個(gè)人特征進(jìn)行信息推送和商業(yè)營(yíng)銷算法，側(cè)重點(diǎn)在尊重和平等保護(hù)消費(fèi)者合法權(quán)益；《價(jià)格法》中規(guī)定的價(jià)格歧視針對(duì)的是其他經(jīng)營(yíng)者，而大數(shù)據(jù)殺熟主要針對(duì)消費(fèi)者。因此，當(dāng)個(gè)人受到大數(shù)據(jù)殺熟侵害時(shí)，具體應(yīng)該通過何種法律手段保護(hù)才能達(dá)到最佳保護(hù)存在法律適用的困難。其次，對(duì)算法透明性本身規(guī)制不足，算法的運(yùn)行機(jī)制難以被人獲悉，處于“黑箱”狀態(tài)，過度的規(guī)制如采用無(wú)過錯(cuò)責(zé)任歸責(zé)方式又會(huì)阻礙開發(fā)者的創(chuàng)新，但是完全擱置，顯然會(huì)給市場(chǎng)和個(gè)人帶來(lái)不小的挑戰(zhàn)和問題。比較有效的方法是建立算法運(yùn)行的全過程風(fēng)險(xiǎn)管控機(jī)制。其中《個(gè)人信息保護(hù)法》對(duì)自動(dòng)化決策做了相應(yīng)規(guī)定，但是并未直接規(guī)定算法透明性的具體要求。最后，對(duì)算法設(shè)計(jì)者和擁有者缺乏規(guī)制。算法“黑箱”運(yùn)行機(jī)制似乎成為相關(guān)責(zé)任人逃避責(zé)任的利器。而對(duì)算法設(shè)計(jì)者(開發(fā)者)及所有者設(shè)定相關(guān)責(zé)任，則能更好地避免算法帶來(lái)的危害。

三、超大型互聯(lián)網(wǎng)平臺(tái)算法法律規(guī)制的域外經(jīng)驗(yàn)借鑒

歐盟和美國(guó)對(duì)算法的治理主要體現(xiàn)在個(gè)人數(shù)據(jù)保護(hù)、算法本身和算法相關(guān)責(zé)任人的規(guī)制上。歐盟以保護(hù)所轄域內(nèi)公民的個(gè)人數(shù)據(jù)為核心，嚴(yán)格落實(shí)數(shù)據(jù)經(jīng)營(yíng)者的違法違規(guī)責(zé)任制度。美國(guó)則從數(shù)據(jù)和算法兩個(gè)層面進(jìn)行風(fēng)險(xiǎn)控制，尤其在算法的規(guī)制上主要依賴行業(yè)自律。

(一)歐盟

歐盟出臺(tái)的《通用數(shù)據(jù)保護(hù)條例》(GDPR)旨在以個(gè)人數(shù)據(jù)保護(hù)為價(jià)值追求，嚴(yán)格規(guī)制個(gè)人數(shù)據(jù)的采集和使用?！锻ㄓ脭?shù)據(jù)保護(hù)條例》針對(duì)算法歧視，規(guī)定了“數(shù)據(jù)清潔”，要求清除數(shù)據(jù)庫(kù)內(nèi)包含歧視意義的數(shù)據(jù)內(nèi)容，防止通過利用數(shù)據(jù)主體的“敏感數(shù)據(jù)”而損害數(shù)據(jù)主體的利益。《通用數(shù)據(jù)保護(hù)條例》對(duì)算法設(shè)計(jì)者的法律責(zé)任進(jìn)行了規(guī)定。首先，要求算法設(shè)計(jì)者保證數(shù)據(jù)痕跡可查，防止“算法黑箱”造成的透明度缺失。其次，要求算法設(shè)計(jì)者闡釋算法涉及的部分技術(shù)原理，防止“不可解釋性”帶來(lái)的算法偏見。最后，規(guī)定算法設(shè)計(jì)者應(yīng)對(duì)自身主觀偏見而嵌入歧視性程序承擔(dān)相關(guān)法律責(zé)任?？梢钥闯?，GDPR提出與算法直接相關(guān)的兩個(gè)問題：非歧視權(quán)和解釋權(quán)。這是人類干預(yù)算法決策的要求，對(duì)算法設(shè)計(jì)提出了新要求。總之，從事基于算法處理的控制者都應(yīng)認(rèn)可GDPR的價(jià)值，并采取負(fù)責(zé)任和以風(fēng)險(xiǎn)為導(dǎo)向的方法，才能使算法不僅可以做出更準(zhǔn)確的預(yù)測(cè)，而且可以提供比人類同行更高的透明度和公平性。

歐盟出臺(tái)的《數(shù)字服務(wù)法》和《數(shù)字市場(chǎng)法》，前者規(guī)定某些在線平臺(tái)有義務(wù)接收、存儲(chǔ)、部分驗(yàn)證和發(fā)布有關(guān)使用其服務(wù)的交易者的信息，確保為消費(fèi)者提供一個(gè)更安全、透明的在線環(huán)境，該法案為平臺(tái)提供者如何審核內(nèi)容、廣告和算法流程設(shè)定了更高的透明度和問責(zé)標(biāo)準(zhǔn)。后者將大型在線平臺(tái)認(rèn)定為所謂的“守門人”(gatekeeper)，旨在確保這些平臺(tái)在網(wǎng)上公平行事，法案中的公司應(yīng)滿足以下條件：擁有強(qiáng)大的經(jīng)濟(jì)地位，對(duì)內(nèi)部市場(chǎng)影響顯著，活躍于多個(gè)歐盟國(guó)家；具有強(qiáng)大的中介地位，即其能將龐大的用戶群與海量業(yè)務(wù)連接；在市場(chǎng)上擁有(或?qū)碛?牢固地位。該法案下，這些守門人需做到以下：允許第三方在特定情況下與自身服務(wù)的互操作性；允許平臺(tái)用戶訪問自身生成的數(shù)據(jù)；允許平臺(tái)上經(jīng)營(yíng)者在平臺(tái)外報(bào)價(jià)并簽訂合同等[8]。兩法是歐洲數(shù)字戰(zhàn)略的核心組成部分。

(二)美國(guó)

美國(guó)《消費(fèi)者隱私權(quán)利法案》(ConsumerPrivacyBillofRights, 以下簡(jiǎn)稱CBPR)賦予了消費(fèi)者對(duì)自身數(shù)據(jù)更多的掌控權(quán)，并對(duì)經(jīng)營(yíng)企業(yè)設(shè)定了具體的義務(wù)。2017年美國(guó)計(jì)算機(jī)協(xié)會(huì)發(fā)布了七項(xiàng)原則，即保持警惕、補(bǔ)救機(jī)制、問責(zé)制、可闡釋、審查數(shù)據(jù)、可審計(jì)性和驗(yàn)證及測(cè)試，為算法治理指引了方向[9]。2019年美國(guó)提出一項(xiàng)旨在規(guī)范算法的法案，即《2019年算法責(zé)任法案》，該法案指引聯(lián)邦貿(mào)易委員會(huì)要求特定商業(yè)實(shí)體對(duì)涉及個(gè)人信息或做出自動(dòng)化決策的高風(fēng)險(xiǎn)系統(tǒng)進(jìn)行評(píng)估，例如使用人工智能或機(jī)器學(xué)習(xí)的系統(tǒng)。這就迫使大公司評(píng)估他們的算法，以確保不會(huì)產(chǎn)生不道德和歧視性的結(jié)果[10]。

以上歐盟和美國(guó)對(duì)算法的相關(guān)法律規(guī)定為后續(xù)完善我國(guó)超大型互聯(lián)網(wǎng)平臺(tái)的算法規(guī)制提供了很好的立法和實(shí)踐經(jīng)驗(yàn)借鑒。

四、我國(guó)超大型互聯(lián)網(wǎng)平臺(tái)算法治理法律準(zhǔn)則的構(gòu)建

算法決策者已經(jīng)開始主宰我們生活的方方面面[11]，算法的偏見可以分為人為因素和數(shù)據(jù)因素[12]。如果我們想要規(guī)范人和組織如何創(chuàng)建和使用算法，在制度構(gòu)建和完善時(shí)必須考慮以下因素：盡可能自由和公平；提高透明度和問責(zé)制；監(jiān)管應(yīng)奉行原則為基礎(chǔ)。在構(gòu)建算法法律治理準(zhǔn)則時(shí)，應(yīng)堅(jiān)持以下原則。

(一) 堅(jiān)持?jǐn)?shù)據(jù)質(zhì)量?jī)?yōu)先為中心

超大型互聯(lián)網(wǎng)平臺(tái)以數(shù)據(jù)創(chuàng)造業(yè)務(wù)價(jià)值為核心，數(shù)據(jù)本身的質(zhì)量往往被忽視。然而，隨著業(yè)務(wù)的深入開展，數(shù)據(jù)的質(zhì)量受到了前所未有的重視，高質(zhì)量的數(shù)據(jù)能直接產(chǎn)生經(jīng)濟(jì)效益，成為平臺(tái)的核心競(jìng)爭(zhēng)力。糟糕的數(shù)據(jù)質(zhì)量往往帶來(lái)低效的數(shù)據(jù)開發(fā)和利用，生成不準(zhǔn)確的數(shù)據(jù)分析，最終導(dǎo)致錯(cuò)誤的業(yè)務(wù)決策。哪怕記錄的原始記錄正確，數(shù)據(jù)組也可能包含隱藏的偏見[13]。因此，數(shù)據(jù)質(zhì)量應(yīng)成為超大型互聯(lián)網(wǎng)平臺(tái)數(shù)據(jù)治理的重要一環(huán)。

(二)堅(jiān)持三元主體協(xié)同治理理念

(1)政府層面應(yīng)不斷創(chuàng)新完善監(jiān)管模式。一方面，對(duì)超大型互聯(lián)網(wǎng)平臺(tái)的經(jīng)營(yíng)資質(zhì)落實(shí)嚴(yán)格審查機(jī)制，該審查機(jī)制不僅體現(xiàn)在準(zhǔn)入前，還應(yīng)貫穿平臺(tái)經(jīng)營(yíng)生命周期，采取準(zhǔn)入前嚴(yán)格審查和準(zhǔn)入后定期核查的機(jī)制。另一方面，指導(dǎo)和助力超大平臺(tái)優(yōu)化數(shù)據(jù)安全基礎(chǔ)設(shè)施建設(shè)，完善相應(yīng)技術(shù)安全標(biāo)準(zhǔn)，并為超大型互聯(lián)網(wǎng)平臺(tái)提供數(shù)據(jù)治理的準(zhǔn)則和相應(yīng)范本。在規(guī)制超大型互聯(lián)網(wǎng)平臺(tái)的同時(shí)，也應(yīng)重視超大型互聯(lián)網(wǎng)平臺(tái)對(duì)數(shù)字經(jīng)濟(jì)的價(jià)值和貢獻(xiàn)，避免不合理限制超大型互聯(lián)網(wǎng)平臺(tái)參與自由競(jìng)爭(zhēng)和創(chuàng)新的動(dòng)力。此外，超大型互聯(lián)網(wǎng)平臺(tái)通常會(huì)抗議公開訪問其所擁有的算法、模型或數(shù)據(jù)，理由是這嚴(yán)重?fù)p害了它們的知識(shí)產(chǎn)權(quán)。因此，對(duì)算法的訪問權(quán)限僅存在適當(dāng)?shù)募夹g(shù)監(jiān)管機(jī)構(gòu)，且需符合法律規(guī)定和監(jiān)管目的。監(jiān)管機(jī)構(gòu)需要明確為私營(yíng)部門提供知識(shí)產(chǎn)權(quán)保護(hù)是為了換取公開，帶動(dòng)創(chuàng)新，最終促進(jìn)公共福利。因此，應(yīng)該促使技術(shù)監(jiān)管機(jī)構(gòu)能夠積極主動(dòng)地進(jìn)行執(zhí)法和調(diào)查，比如監(jiān)管機(jī)構(gòu)可以在受控、保密和自動(dòng)化的實(shí)驗(yàn)中通過黑匣子訪問底層模型來(lái)發(fā)現(xiàn)是否存在信用卡額度性別歧視。

(2)企業(yè)層面。應(yīng)構(gòu)建一套適用于超大型互聯(lián)網(wǎng)平臺(tái)算法的操作步驟。首先，創(chuàng)建一個(gè)由IT、財(cái)務(wù)、銷售、市場(chǎng)、HR等為代表的算法管理委員會(huì)。其次，盤點(diǎn)現(xiàn)有算法并確定改進(jìn)優(yōu)先級(jí)。再次，內(nèi)部培養(yǎng)或雇傭以數(shù)據(jù)驅(qū)動(dòng)，擁有系統(tǒng)化思維的算法人才。

(3)個(gè)人層面。私營(yíng)和公共部門越來(lái)越多地轉(zhuǎn)向人工智能 (AI) 系統(tǒng)和機(jī)器學(xué)習(xí)算法用于決策過程。數(shù)據(jù)的大規(guī)模數(shù)字化和使用它們的新興技術(shù)正在擾亂大多數(shù)經(jīng)濟(jì)部門，包括運(yùn)輸、零售、廣告和能源等領(lǐng)域。人工智能也對(duì)民主和治理產(chǎn)生影響，因?yàn)檎诓渴鹩?jì)算機(jī)化系統(tǒng)以提高政府職能的準(zhǔn)確性和推動(dòng)客觀性。算法正在利用大量宏觀和微觀數(shù)據(jù)來(lái)影響人們?cè)谝幌盗腥蝿?wù)中的決策，從制作電影推薦到幫助銀行確定個(gè)人的信譽(yù)。具體可以做到以下：創(chuàng)建強(qiáng)密碼保護(hù)；謹(jǐn)慎使用公共免費(fèi)Wi-Fi；避免過度在網(wǎng)上(尤其社交媒體)分享個(gè)人信息，尤其是能直接識(shí)別身份的信息；給硬件設(shè)備進(jìn)行上鎖；開啟隱私瀏覽。

(三)堅(jiān)持算法公平、公正和透明原則

算法的法律規(guī)制應(yīng)堅(jiān)持公平、公正和透明的原則。以算法技術(shù)為前提，以利益為驅(qū)動(dòng)的算法黑箱成為算法權(quán)力異化的根源[14]，而合理披露算法黑箱的信息在某種程度上可以緩解公眾與算法操控者之間的信息不對(duì)稱[15]。算法信任是算法社會(huì)的基石，而信任則依賴算法的可信度[16]。透明度已被提議作為減輕自動(dòng)化決策可能產(chǎn)生的不良結(jié)果的解決方案[17]。算法的透明可以讓用戶更了解算法的運(yùn)行邏輯，從而對(duì)算法產(chǎn)生信任。但是算法的透明公開并非是公開所有算法內(nèi)容，而是將直接和數(shù)據(jù)主體相關(guān)的部分進(jìn)行淺顯易懂地展現(xiàn)。

五、我國(guó)超大型互聯(lián)網(wǎng)平臺(tái)算法治理法律規(guī)則的完善

一方面，應(yīng)構(gòu)建以數(shù)據(jù)安全法、個(gè)人信息保護(hù)法、競(jìng)爭(zhēng)法以及電子商務(wù)法等算法治理的內(nèi)在法律協(xié)調(diào)機(jī)制。另一方面，重視完善涉及算法公平、公正和透明的具體法律規(guī)則。

(一)算法治理內(nèi)在法律協(xié)調(diào)機(jī)制的構(gòu)建

(1)重視網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法和個(gè)人信息保護(hù)法的相關(guān)規(guī)定為算法治理奠定制度基石的作用，并細(xì)化相應(yīng)安全機(jī)制。首先，網(wǎng)絡(luò)安全法和數(shù)據(jù)安全法為算法治理提供了基本的安全制度保障。其次，個(gè)人信息保護(hù)法為算法歧視規(guī)制提供了原則指引。該法構(gòu)建了以“告知-同意”為基礎(chǔ)的個(gè)人信息處理的一系列規(guī)則，尤其對(duì)敏感信息作出嚴(yán)格限制?！秱€(gè)人信息保護(hù)法》的出臺(tái)規(guī)制了互聯(lián)網(wǎng)平臺(tái)通過大數(shù)據(jù)手段定制“用戶畫像”，從而開展精準(zhǔn)廣告推送、個(gè)人化定制服務(wù)，甚至進(jìn)行差異化定價(jià)的實(shí)踐，用戶往往需要“被迫”同意授權(quán)超大型互聯(lián)網(wǎng)平臺(tái)收集用戶個(gè)人信息以換取免費(fèi)、便捷的平臺(tái)服務(wù)/產(chǎn)品。平臺(tái)在前述收集的信息基礎(chǔ)上，結(jié)合用戶在互聯(lián)網(wǎng)平臺(tái)的各種瀏覽痕跡(諸如轉(zhuǎn)、評(píng)、贊等行為)，逐步刻畫出“精準(zhǔn)用戶畫像”，將這些數(shù)據(jù)深度融入算法后，給用戶精準(zhǔn)推送產(chǎn)品/服務(wù)和進(jìn)行差異化定價(jià)?？梢越梃b域外立法經(jīng)驗(yàn)，細(xì)化風(fēng)險(xiǎn)評(píng)估過程和結(jié)果告知機(jī)制以及優(yōu)化動(dòng)態(tài)場(chǎng)景治理模式。同時(shí)，明確平臺(tái)有義務(wù)闡述算法的運(yùn)行機(jī)理。

(2)重視競(jìng)爭(zhēng)法規(guī)制超大型互聯(lián)網(wǎng)平臺(tái)通過算法實(shí)施不正當(dāng)競(jìng)爭(zhēng)行為或?yàn)E用市場(chǎng)支配地位的作用。當(dāng)超大型互聯(lián)網(wǎng)平臺(tái)掌控了海量數(shù)據(jù)和先進(jìn)算法時(shí)，會(huì)出現(xiàn)主導(dǎo)市場(chǎng)，限制或排除競(jìng)爭(zhēng)，最終損害消費(fèi)者利益。大型互聯(lián)網(wǎng)平臺(tái)往往通過先發(fā)優(yōu)勢(shì)形成數(shù)據(jù)壟斷地位，從而在新開拓市場(chǎng)快速立足，且將競(jìng)爭(zhēng)對(duì)手排擠出去[18]。應(yīng)充分發(fā)揮反不正當(dāng)競(jìng)爭(zhēng)法規(guī)制不正當(dāng)競(jìng)爭(zhēng)行為和反壟斷法規(guī)制限制競(jìng)爭(zhēng)行為的價(jià)值。

(3)將《電商法》《消費(fèi)者權(quán)益保護(hù)法》等作為算法歧視監(jiān)管細(xì)化的法律手段。雖然實(shí)踐中通過算法進(jìn)行差異化定價(jià)難以被界定為“價(jià)格欺詐”，但是《中華人民共和國(guó)價(jià)格法》及其相關(guān)規(guī)定依然為日后規(guī)制這樣的行為留有了空間?！峨娚谭ā贩謩e對(duì)差別推送和違法提供個(gè)性化搜索結(jié)果的處罰進(jìn)行了相應(yīng)規(guī)定，《消費(fèi)者權(quán)益保護(hù)法》規(guī)定遭遇算法歧視可以進(jìn)行維權(quán)?？紤]到消費(fèi)者對(duì)算法歧視的維權(quán)難度和平臺(tái)的優(yōu)勢(shì)和強(qiáng)勢(shì)地位，在現(xiàn)行規(guī)定下可以做到：首先，應(yīng)將舉證責(zé)任進(jìn)行分配，如將算法未造成歧視的舉證責(zé)任分配給超大型互聯(lián)網(wǎng)平臺(tái)。其次，充分發(fā)揮消費(fèi)者協(xié)會(huì)對(duì)超大型互聯(lián)網(wǎng)平臺(tái)算法的監(jiān)督職能和為維護(hù)消費(fèi)者權(quán)益而提起訴訟的權(quán)利。總之，隨著大數(shù)據(jù)技術(shù)和各類應(yīng)用的飛速發(fā)展，《電商法》和《消費(fèi)者權(quán)益保護(hù)法》應(yīng)細(xì)化監(jiān)管細(xì)則，完善電子化監(jiān)管手段和路徑，對(duì)算法責(zé)任承擔(dān)問題作出具體的專項(xiàng)規(guī)定。

總之，鑒于算法問題的復(fù)雜性以及法律規(guī)定存在的模糊性、歧義、沖突以及法律與現(xiàn)實(shí)的差距，一方面，政府需要積極參與所有利益相關(guān)者的對(duì)話，以便統(tǒng)一認(rèn)知和有效地制定技術(shù)應(yīng)對(duì)措施。另一方面，算法相關(guān)法律制度應(yīng)加強(qiáng)內(nèi)在一致性和有效性，以應(yīng)對(duì)算法產(chǎn)生的信任危機(jī)并預(yù)防風(fēng)險(xiǎn)。

(二)算法治理其他法律規(guī)則的完善

為實(shí)現(xiàn)算法的公平、公正和透明，在法律規(guī)則完善上，具體可以做到以下幾個(gè)方面：

(1)剔除敏感數(shù)據(jù)或進(jìn)行匿名化處理。敏感數(shù)據(jù)的泄露往往會(huì)對(duì)個(gè)人信息主體造成重大的影響，為保障個(gè)人信息主體的權(quán)益，確保數(shù)據(jù)開發(fā)利用的合法合規(guī)，在通過算法分析利用數(shù)據(jù)時(shí)，應(yīng)剔除敏感數(shù)據(jù)或?qū)ζ溥M(jìn)行匿名化處理后再行使用。

(2)實(shí)施算法運(yùn)行全過程風(fēng)險(xiǎn)防范機(jī)制。實(shí)踐中，企業(yè)和機(jī)構(gòu)的數(shù)據(jù)隱私實(shí)踐很大程度上依賴于不可信的“匿名化”或“去標(biāo)識(shí)化”的個(gè)人數(shù)據(jù)，以期從敏感數(shù)據(jù)集中刪除姓名、身份證號(hào)或其他類似唯一標(biāo)識(shí)符。但是這樣的假設(shè)是建立在該數(shù)據(jù)集是世界上唯一的數(shù)據(jù)集，當(dāng)各數(shù)據(jù)集關(guān)聯(lián)，則面臨“去匿名化”攻擊。之前美國(guó)就發(fā)生將匿名的醫(yī)療記錄與公開可用的選民登記數(shù)據(jù)相結(jié)合，以唯一識(shí)別特定個(gè)人醫(yī)療記錄的案例。匿名技術(shù)的神話正在被打破，這是因?yàn)楝F(xiàn)實(shí)世界存在大量難以預(yù)料的額外信息，正在被攻擊者交叉引用。因此，量化和評(píng)估算法可能造成的不同類型的危害就顯得格外重要，這也使得公眾可以審核算法和預(yù)測(cè)模型以了解這種危害不平衡的情況?？梢孕薷姆桑仁顾泄竞驼畽C(jī)構(gòu)更廣泛地告知組織決策將通過算法進(jìn)行的事實(shí)。但這種方法只會(huì)有助于提高透明度，對(duì)規(guī)范實(shí)際的算法過程無(wú)濟(jì)于事。因此，對(duì)監(jiān)管的關(guān)注需要轉(zhuǎn)移到算法的輸入和輸出上。對(duì)算法的全過程評(píng)估機(jī)制需要堅(jiān)持以下步驟：詳細(xì)描述；確定個(gè)人信息隱私和安全風(fēng)險(xiǎn)；闡釋為盡量減少這些風(fēng)險(xiǎn)所需采取的步驟。

(3)算法設(shè)計(jì)者和所有者的倫理要求與責(zé)任。經(jīng)營(yíng)者往往濫用數(shù)據(jù)、算法技術(shù)手段來(lái)實(shí)現(xiàn)商業(yè)利益[19]。算法決策通常是黑箱操作，因此逐漸脫離人的控制和預(yù)測(cè)。在算法的不透明性與難解釋性的情形下，不少平臺(tái)罔顧商業(yè)倫理，頻繁調(diào)整算法套路。從算法的設(shè)計(jì)到具體運(yùn)用都不免帶著設(shè)計(jì)者的價(jià)值取向，甚至偏見。需將“善”的道德取向融入設(shè)計(jì)全過程，將相關(guān)倫理機(jī)制通過程序內(nèi)置來(lái)監(jiān)控算法是否違背倫理：算法設(shè)計(jì)者應(yīng)對(duì)因初始設(shè)計(jì)歧視、重大疏忽等造成的損失承擔(dān)相應(yīng)法律責(zé)任；算法所有者應(yīng)對(duì)算法運(yùn)用造成的歧視等承擔(dān)相應(yīng)法律責(zé)任?？傊玫乃惴☉?yīng)具備以下特征：正確性、高效率和可理解性，技術(shù)人員應(yīng)將法律規(guī)則融入產(chǎn)品設(shè)計(jì)[20]。

六、結(jié)論

算法是每個(gè)企業(yè)未來(lái)的關(guān)鍵組成部分，幾乎所有未來(lái)的商業(yè)洞察力和決策都將由數(shù)據(jù)驅(qū)動(dòng)。毫無(wú)疑問，對(duì)任何希望快速擴(kuò)展其產(chǎn)品和服務(wù)的組織來(lái)說(shuō)，對(duì)算法的投資都會(huì)帶來(lái)回報(bào)。鑒于算法比人類更加客觀、可擴(kuò)展和靈活，這對(duì)致力于推動(dòng)指數(shù)增長(zhǎng)的組織來(lái)說(shuō)也至關(guān)重要。社會(huì)總是期望人們?cè)谑芡凶鞒鲋匾獩Q定時(shí)尊重某些社會(huì)價(jià)值觀，但是越來(lái)越多的算法和某些自動(dòng)化流程正被納入重要決策流程。哪怕這樣，也應(yīng)該要求重要決策保持公平、安全和透明。由于算法在應(yīng)用中產(chǎn)生了諸如算法偏見和歧視、黑箱運(yùn)算及公共決策不透明等問題[21]，無(wú)論執(zhí)法還是司法都強(qiáng)調(diào)平衡“數(shù)字鴻溝”以及抑制算法權(quán)力[22]。因此，必須對(duì)算法及算法技術(shù)人員等進(jìn)行相應(yīng)約束，并輔以算法全過程風(fēng)險(xiǎn)評(píng)估機(jī)制方能優(yōu)化算法法律治理路徑。而優(yōu)化對(duì)算法的法律規(guī)制也是保障算法能更好地實(shí)現(xiàn)以人為中心的目的，從而保障超大型互聯(lián)網(wǎng)平臺(tái)的經(jīng)濟(jì)效益，最終促使我國(guó)數(shù)字經(jīng)濟(jì)持續(xù)健康發(fā)展。