張惠彬,王思宇

(1,2.西南政法大學(xué) 民商法學(xué)院,重慶 401120)

我們生活在一個算法社會,在算法推薦技術(shù)的幫助下,平臺根據(jù)用戶所提供的以及來自其他各種渠道的數(shù)據(jù),確定用戶的興趣、愛好、口味,然后為用戶推薦更多他們認(rèn)為其喜歡的內(nèi)容。這些數(shù)據(jù)包括用戶點(diǎn)的每一個“贊”,看的每一條短視頻,點(diǎn)擊的每一個鏈接,它們都被記錄存檔。平臺算法的使用能為用戶提供更精準(zhǔn)的服務(wù),降低用戶的搜索成本,但也容易“算計(jì)”消費(fèi)者,諸如外賣平臺大數(shù)據(jù)殺熟等問題逐漸成為社會關(guān)注的熱點(diǎn)。

網(wǎng)絡(luò)平臺巨頭的算法使用行為在促進(jìn)數(shù)字經(jīng)濟(jì)發(fā)展的同時也給市場秩序、消費(fèi)者權(quán)益保護(hù)乃至國家安全帶來新的挑戰(zhàn)。為應(yīng)對算法推薦技術(shù)給社會治理帶來的挑戰(zhàn),國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下稱“管理規(guī)定”),《管理規(guī)定》為全球首個專門針對算法推薦技術(shù)規(guī)范的立法(部門規(guī)章)。本文以《管理規(guī)定》中確定的算法推薦技術(shù)分類為標(biāo)準(zhǔn),剖析每類算法推薦技術(shù)可能給消費(fèi)者權(quán)益造成的損害,并結(jié)合域外經(jīng)驗(yàn)與《管理規(guī)定》,總結(jié)梳理我國的治理路徑與應(yīng)對策略,以期為數(shù)字經(jīng)濟(jì)時代“被算計(jì)”的消費(fèi)者開拓有效的權(quán)利保障路徑。

一、數(shù)字經(jīng)濟(jì)時代算法推薦技術(shù)的市場應(yīng)用

算法推薦技術(shù)是指相關(guān)平臺利用機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等技術(shù),整合加工、分析解釋用戶數(shù)據(jù),以提供與用戶需求相匹配的個性化信息服務(wù)技術(shù)。算法推薦技術(shù)包含生成合成、個性化推送、排序精選、檢索過濾和調(diào)度決策五種類型。其中,生成合成類算法推薦技術(shù),是指利用算法、虛擬合成技術(shù)和自動化運(yùn)行指令生成的文本、新聞、視頻等信息內(nèi)容服務(wù)。此類技術(shù)被廣泛應(yīng)用于AI換臉、語音導(dǎo)航及修復(fù)照片等場景;個性化推送類算法推薦技術(shù)是以“大數(shù)據(jù)殺熟”為典型的算法技術(shù),指互聯(lián)網(wǎng)平臺運(yùn)用算法技術(shù)采集消費(fèi)者數(shù)據(jù),以此形成用戶數(shù)字畫像,并借此向用戶提供個性化信息服務(wù)的算法;排序精選類算法推薦技術(shù)是一種個性化表示與結(jié)果排序算法,它利用模糊推理技術(shù)聚類分析用戶瀏覽的歷史文檔,發(fā)現(xiàn)用戶對各分類的喜好程度,繪制體現(xiàn)用戶個性的搜索結(jié)果的算法[1]。App的推薦排序和搜索引擎結(jié)果排序是該種算法推薦技術(shù)的主要應(yīng)用場景;檢索過濾類算法推薦技術(shù)涵蓋過濾算法和檢索算法兩大分支,是指平臺基于用戶的檢索信息、評論分析和文本挖掘向用戶提供關(guān)聯(lián)推薦的算法。譬如,電商平臺的關(guān)聯(lián)推薦功能及關(guān)鍵詞聯(lián)想功能等;調(diào)度決策類算法推薦技術(shù)是指平臺根據(jù)用戶數(shù)據(jù)和系統(tǒng)的資源分配策略向用戶提供的最優(yōu)決策算法。外賣平臺的訂單分派便是典型。盡管五大類算法推薦技術(shù)的側(cè)重點(diǎn)和應(yīng)用場景有所差異,但技術(shù)邏輯卻有趨同性,“收集—分析—轉(zhuǎn)換”三步走依舊是算法推薦技術(shù)的主要行為路徑。

(一)信息提取:集成消費(fèi)者數(shù)據(jù)群落

互聯(lián)網(wǎng)平臺實(shí)施算法推薦的第一步就是提取用戶信息。用戶信息的提取分為兩種方式,其一是登錄注冊時,經(jīng)過用戶知情同意錄入的基本個人信息。其二是互聯(lián)網(wǎng)平臺利用算法技術(shù),收集用戶的瀏覽歷史、設(shè)備信息、服務(wù)記錄以及行為偏好等數(shù)據(jù)信息。互聯(lián)網(wǎng)平臺采取的收集用戶信息的方式具備循環(huán)、互動的特點(diǎn)?；ヂ?lián)網(wǎng)平臺將信息收集模型設(shè)置在用戶系統(tǒng)的多個接口,以便采集到用戶的全階段數(shù)據(jù)。同時,采集到的數(shù)據(jù)源還可以參與到價(jià)值產(chǎn)生的各個階段,普遍存在記錄數(shù)據(jù)源行為的機(jī)制和相互溝通、反饋的渠道,產(chǎn)生的數(shù)據(jù)可以是一種交互式、循環(huán)式的數(shù)據(jù),而非一次性的單一方面數(shù)據(jù),以便充分發(fā)揮數(shù)據(jù)價(jià)值[2]。通過上述手段,互聯(lián)網(wǎng)平臺便可將散落在不同組織機(jī)構(gòu)和信息系統(tǒng)中的用戶數(shù)據(jù)集合在一起,形成聚合態(tài)體系的數(shù)據(jù)存儲模型,為后續(xù)開展的數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)打下堅(jiān)實(shí)基礎(chǔ)。

(二)數(shù)據(jù)分析:形成消費(fèi)者個人標(biāo)簽

互聯(lián)網(wǎng)平臺得以提供信息服務(wù)的重要前提之一,是對海量用戶數(shù)據(jù)進(jìn)行抽象分析。互聯(lián)網(wǎng)平臺實(shí)現(xiàn)數(shù)據(jù)價(jià)值的最大化要依托對數(shù)據(jù)的機(jī)器學(xué)習(xí)和聯(lián)合分析。只有借助各種分析方法提煉出蘊(yùn)含在數(shù)據(jù)內(nèi)的關(guān)鍵信息,互聯(lián)網(wǎng)平臺才能繪制出用戶畫像、形成用戶標(biāo)簽,進(jìn)而匹配用戶的個性化需求。在數(shù)據(jù)分析過程中,互聯(lián)網(wǎng)平臺往往會借助三類信息技術(shù)完成數(shù)據(jù)分析。其一,是算法和云計(jì)算技術(shù)?；ヂ?lián)網(wǎng)平臺將存儲在信息系統(tǒng)中的用戶數(shù)據(jù)進(jìn)行結(jié)構(gòu)處理和統(tǒng)計(jì)定量處理,再貼合對應(yīng)的消費(fèi)者個人標(biāo)簽。例如,平臺可對消費(fèi)者的消費(fèi)和瀏覽數(shù)據(jù)進(jìn)行分析解構(gòu),由此梳理出該消費(fèi)者的消費(fèi)頻率和價(jià)格敏感度,之后貼上對應(yīng)標(biāo)簽,建立用戶畫像。其二,是機(jī)器學(xué)習(xí)和深度學(xué)習(xí)技術(shù)?；ヂ?lián)網(wǎng)平臺可利用該技術(shù)構(gòu)建交易模型、智能識別傳感網(wǎng)絡(luò)和機(jī)器輔助分析等方式,解釋用戶數(shù)據(jù)、析出用戶信息,并由此將用戶信息整合分類,形成用戶剖面圖。最終通過服務(wù)接口,對照用戶標(biāo)簽,向用戶提供信息服務(wù)。其三,是隱私計(jì)算技術(shù)?；ヂ?lián)網(wǎng)平臺可運(yùn)用聯(lián)邦學(xué)習(xí)和安全多方計(jì)算等隱私計(jì)算技術(shù),通過算法協(xié)議進(jìn)行聯(lián)合機(jī)器學(xué)習(xí),結(jié)合多方數(shù)據(jù)源完成建模,再將得到的模型結(jié)果匯總至中心節(jié)點(diǎn),之后再進(jìn)行二次訓(xùn)練得到最終需求結(jié)果。

(三)合成轉(zhuǎn)換:輸出互聯(lián)網(wǎng)信息服務(wù)

互聯(lián)網(wǎng)平臺的最終目的是向消費(fèi)者提供信息服務(wù)。因此,平臺在形成用戶數(shù)據(jù)池、解構(gòu)用戶數(shù)據(jù)、預(yù)測用戶需求之后,便可結(jié)合輸出模型和結(jié)果數(shù)據(jù),在客戶終端對用戶投放不同場景的信息服務(wù)。以個性化推送類算法推薦技術(shù)——“大數(shù)據(jù)殺熟”為例,互聯(lián)網(wǎng)平臺運(yùn)用算法技術(shù)采集消費(fèi)者數(shù)據(jù),形成消費(fèi)者數(shù)字畫像,并推測出消費(fèi)者愿意支付的最高價(jià)格,最終輸出趨近于最大支付意愿的個性化價(jià)格,實(shí)現(xiàn)“千人千價(jià)”,完成了由數(shù)據(jù)至服務(wù)的轉(zhuǎn)換。

二、算法推薦技術(shù)侵害消費(fèi)者權(quán)益的表現(xiàn)

數(shù)字經(jīng)濟(jì)時代,算法推薦技術(shù)一方面能夠?yàn)橄M(fèi)者提供個性化服務(wù),提高交易效率,提升產(chǎn)品和服務(wù)的質(zhì)量,造福消費(fèi)者。但另一方面,算法推薦會不當(dāng)利用消費(fèi)者數(shù)據(jù),甚至泄露消費(fèi)者隱私信息,使消費(fèi)者的數(shù)據(jù)安全和個人信息難以得到保障。除此之外,互聯(lián)網(wǎng)平臺利用算法推薦技術(shù)實(shí)施的算法價(jià)格歧視損害了消費(fèi)者的公平交易權(quán);互聯(lián)網(wǎng)平臺濫用用戶標(biāo)簽推送關(guān)聯(lián)產(chǎn)品或服務(wù)侵?jǐn)_了消費(fèi)者的自主選擇權(quán);互聯(lián)網(wǎng)平臺利用算法的不透明性操縱搜索引擎排序結(jié)果侵犯了消費(fèi)者的知情權(quán)。這些均加劇了消費(fèi)者的弱勢地位,給算法推薦技術(shù)下的消費(fèi)者權(quán)益保護(hù)帶來了新的挑戰(zhàn)。

(一)數(shù)據(jù)過度收集侵害消費(fèi)者數(shù)據(jù)權(quán)益

2022年3月11日,中國消費(fèi)者協(xié)會發(fā)布了《2021年網(wǎng)絡(luò)消費(fèi)領(lǐng)域消費(fèi)者權(quán)益保護(hù)報(bào)告》。報(bào)告顯示侵害網(wǎng)絡(luò)消費(fèi)者權(quán)益的典型表現(xiàn)之一便是網(wǎng)絡(luò)交易經(jīng)營者利用算法等技術(shù)手段非法收集、分析、使用消費(fèi)者數(shù)據(jù),損害消費(fèi)者的信息自主權(quán)。除此之外,在2022年央視3·15晚會上,消費(fèi)者協(xié)會曝光了“瀏覽網(wǎng)頁就能泄露手機(jī)號”的消費(fèi)者數(shù)據(jù)泄露現(xiàn)象[3]。據(jù)工作人員介紹,相關(guān)企業(yè)會利用消費(fèi)者手機(jī)對應(yīng)的MAC號,在消費(fèi)者瀏覽該網(wǎng)站時獲得明碼手機(jī)號碼。更有甚者會利用算法等技術(shù)手段竊取消費(fèi)者終端或手機(jī)里的個人信息,以此精準(zhǔn)抓取消費(fèi)者興趣點(diǎn),進(jìn)行個性化推送,損害消費(fèi)者數(shù)據(jù)權(quán)益。由此可見,企業(yè)過度收集消費(fèi)者數(shù)據(jù)現(xiàn)象仍為常見,數(shù)據(jù)泄露等數(shù)據(jù)侵權(quán)問題頻發(fā),消費(fèi)者數(shù)據(jù)權(quán)益難以得到保障。究其原委,主要有以下幾點(diǎn):首先,雖然消費(fèi)者在互聯(lián)網(wǎng)平臺遺留的數(shù)據(jù)總數(shù)呈現(xiàn)指數(shù)性增長態(tài)勢,但是海量數(shù)據(jù)散落在不同的平臺和信息系統(tǒng)中,數(shù)據(jù)來源分散、數(shù)據(jù)間流通共享困難等問題仍然存在,“數(shù)據(jù)孤島”現(xiàn)象依舊殘存。對此,為融合多方數(shù)據(jù)、打通數(shù)據(jù)互動通道、最大程度釋放數(shù)據(jù)價(jià)值,互聯(lián)網(wǎng)平臺間開始開展數(shù)據(jù)協(xié)同工作,將多方數(shù)據(jù)進(jìn)行聯(lián)合建模分析,實(shí)現(xiàn)數(shù)據(jù)跨層級、跨領(lǐng)域融合應(yīng)用。但此種數(shù)據(jù)協(xié)作合作機(jī)制可能增加數(shù)據(jù)泄露的風(fēng)險(xiǎn)。而在數(shù)據(jù)流轉(zhuǎn)過程中,任何一方泄露了消費(fèi)者數(shù)據(jù)均可能損害消費(fèi)者的隱私及個人信息。其次,盡管《中華人民共和國個人信息保護(hù)法》(以下簡稱《個人信息保護(hù)法》)明確規(guī)定收集個人信息需遵循“最小目的”原則,但平臺在利用算法等技術(shù)收集個人信息時,往往會超出最小必要原則,從而過度收集用戶信息,致使消費(fèi)者信息安全難以得到保障。最后,互聯(lián)網(wǎng)平臺利用算法、云計(jì)算和隱私計(jì)算等技術(shù)分析消費(fèi)者數(shù)據(jù)形成的用戶畫像,可以展示數(shù)據(jù)主體的偏好、習(xí)慣等尚未公開的敏感信息,從而扯開了數(shù)據(jù)主體隱私空間的面紗,削弱了消費(fèi)者對個人隱私信息的掌控能力。

(二)算法價(jià)格歧視損害消費(fèi)者公平交易權(quán)

公平交易權(quán)是消費(fèi)者權(quán)益的核心內(nèi)容,《中華人民共和國消費(fèi)者權(quán)益保護(hù)法》(以下簡稱《消費(fèi)者權(quán)益保護(hù)法》)所指稱的公平交易權(quán),要求經(jīng)營者給予所有消費(fèi)者以公平的待遇。而算法推薦技術(shù)的應(yīng)用卻可能給消費(fèi)者公平交易權(quán)帶來損害。根據(jù)北京市消費(fèi)者協(xié)會2022年3月公開的調(diào)查問卷結(jié)果顯示,86.91%的受訪者認(rèn)為自己有被大數(shù)據(jù)“殺熟”的經(jīng)歷[5]。2021年12月,浙江省紹興市中級人民法院審理的胡紅芳訴上海攜程商務(wù)有限公司侵權(quán)責(zé)任糾紛案,胡紅芳認(rèn)為攜程公司通過采集其個人非必要信息,對其實(shí)施價(jià)格歧視,引發(fā)了社會對“大數(shù)據(jù)殺熟”的廣泛關(guān)注(1)參見浙江省紹興市中級人民法院(2021)浙06民終3129號民事裁判書。?！按髷?shù)據(jù)殺熟”,又稱算法價(jià)格歧視,是個性化推送類算法推薦技術(shù)的一種實(shí)際應(yīng)用,其內(nèi)含的定價(jià)算法技術(shù)的隱蔽性和不透明性給消費(fèi)者的公平交易權(quán)帶來損害。

互聯(lián)網(wǎng)平臺利用算法技術(shù)采集消費(fèi)者的“元數(shù)據(jù)”,并運(yùn)用機(jī)器學(xué)習(xí)等手段分析消費(fèi)者的“元數(shù)據(jù)”,形成消費(fèi)者用戶畫像。在此之后,互聯(lián)網(wǎng)平臺借助算法定價(jià)技術(shù),預(yù)測消費(fèi)者的最大支付意愿,輸出趨近于最大支付意愿的價(jià)格,完成“千人千價(jià)”的個性化定制價(jià)格推送,達(dá)到“殺熟”的效果。在此過程中,由于互聯(lián)網(wǎng)平臺僅根據(jù)消費(fèi)者的瀏覽歷史、消費(fèi)記錄等數(shù)據(jù),便對消費(fèi)者提供不同的價(jià)格,違背了基于成本與收益的定價(jià)規(guī)則,使得價(jià)格與商品或服務(wù)質(zhì)量呈現(xiàn)非正相關(guān)關(guān)系,損害了消費(fèi)者的公平交易權(quán)。同時,算法的不透明性及算法黑箱現(xiàn)象加劇了互聯(lián)網(wǎng)平臺與消費(fèi)者之間的信息不對稱。消費(fèi)者支付的價(jià)格與獲得的商品或服務(wù)價(jià)值相當(dāng)是公平交易權(quán)的核心。然而,“大數(shù)據(jù)殺熟”利用算法的不透明性實(shí)施的差別定價(jià),導(dǎo)致消費(fèi)者支出的費(fèi)用與獲得利益不對等,進(jìn)而違反了交易的實(shí)質(zhì)公平,有損消費(fèi)者的公平交易權(quán)[6]。

(三)濫用用戶標(biāo)簽侵?jǐn)_消費(fèi)者自主選擇權(quán)

自主選擇權(quán)是消費(fèi)者享有的一項(xiàng)基本權(quán)利?！断M(fèi)者權(quán)益保護(hù)法》層面的自主選擇權(quán)是指,消費(fèi)者有依不同標(biāo)準(zhǔn)自由地對商品或服務(wù)作出選擇,并自由地決定是否購買商品或接受服務(wù)的權(quán)利[7]。在算法推薦技術(shù)廣泛應(yīng)用的當(dāng)下,消費(fèi)者的自主選擇權(quán)可能受到侵害。具體而言,算法推薦技術(shù)的有效實(shí)施有賴于精準(zhǔn)的用戶標(biāo)簽,在這之中,個性化推送類、排序精選類和檢索過濾類算法推薦技術(shù)對用戶標(biāo)簽的依賴最強(qiáng)。為向消費(fèi)者提供個性化信息服務(wù)和決策支持,互聯(lián)網(wǎng)平臺在實(shí)施個性化推送類算法推薦技術(shù)時就需提前掌握消費(fèi)者的行為偏好和消費(fèi)傾向,為每位消費(fèi)者貼上專屬用戶標(biāo)簽,以便對其提供精準(zhǔn)的服務(wù),視頻類App中的個性化信息交流服務(wù)便是典型。為給消費(fèi)者提供精選列表,平臺在實(shí)施排序精選類算法推薦技術(shù)時,便會根據(jù)消費(fèi)者的瀏覽記錄繪制消費(fèi)者用戶畫像,以此推出搜索引擎結(jié)果排序。為方便消費(fèi)者查找到感興趣的商品或服務(wù),檢索過濾類算法推薦技術(shù)便會追蹤消費(fèi)者的收藏記錄,構(gòu)建消費(fèi)者用戶剖面圖,將消費(fèi)者喜歡的標(biāo)的物過濾出來,形成關(guān)聯(lián)推薦,加快交易效率。以上種種都是互聯(lián)網(wǎng)平臺以用戶標(biāo)簽為基點(diǎn),結(jié)合算法推薦技術(shù),向消費(fèi)者提供的個性化信息服務(wù)。

但如若互聯(lián)網(wǎng)平臺過度依賴用戶標(biāo)簽,以至濫用用戶標(biāo)簽,則會侵害消費(fèi)者的自主選擇權(quán)。近年來,一種新型定制服務(wù)——反向定制,逐漸進(jìn)入消費(fèi)者視野。反向定制是生產(chǎn)者通過分析消費(fèi)者數(shù)據(jù),得到消費(fèi)者偏好,并由此形成用戶標(biāo)簽,其后,生產(chǎn)者再根據(jù)用戶標(biāo)簽生產(chǎn)個性化產(chǎn)品。反向定制雖然能夠滿足消費(fèi)者的個性化需求,但也大大限制了消費(fèi)者的選擇范圍,損害了消費(fèi)者的自主選擇權(quán)。具言之,消費(fèi)者的自主選擇權(quán)有兩個基本要件,其一是消費(fèi)者具備自由意志并能進(jìn)行自主選擇。也即消費(fèi)者的購買行為是基于本人的真實(shí)意愿作出的,且該種購買行為能夠滿足個人的生活需要,達(dá)到自身利益的最大化。其二是排除他人的不正當(dāng)干涉。也即消費(fèi)者的購買行為沒有受到外力的不正當(dāng)與不合理干涉[8]。但在算法推薦技術(shù)的框架下,以購物平臺中的“猜你喜歡”與關(guān)聯(lián)推薦和視頻平臺中的關(guān)鍵詞推薦為主導(dǎo)的個性化推送功能,削弱了消費(fèi)者獲取信息的主動性及信息篩選能力,間接干涉了消費(fèi)者對商品或服務(wù)的正常選擇,影響了消費(fèi)者的自主選擇權(quán)。同理,在“大數(shù)據(jù)殺熟”案件中,互聯(lián)網(wǎng)平臺利用用戶標(biāo)簽,預(yù)測出消費(fèi)者的最大支付意愿,進(jìn)而對消費(fèi)者提供不同的價(jià)格,而該種價(jià)格違背了消費(fèi)者的自由意志,未達(dá)到“明碼標(biāo)價(jià)”的要求,侵害了消費(fèi)者的自主選擇權(quán)。

(四)算法不透明損害消費(fèi)者知情權(quán)

因算法技術(shù)的不透明引發(fā)的“算法黑箱”現(xiàn)象,使消費(fèi)者無從知曉自己的數(shù)據(jù)是否被訪問、如何被使用,更無從知曉算法是如何影響自己的決策的?；ヂ?lián)網(wǎng)平臺可能會利用算法技術(shù)不完全提供商品或服務(wù)的信息,致使平臺與消費(fèi)者之間的信息不對稱現(xiàn)象加劇,由此造成對消費(fèi)者知情權(quán)的損害。

《消費(fèi)者權(quán)益保護(hù)法》層面的知情權(quán)是指,消費(fèi)者有權(quán)知曉包含價(jià)格、產(chǎn)地、用途、性能及主要成分等在內(nèi)的商品或服務(wù)的真實(shí)情況。知情權(quán)是消費(fèi)者進(jìn)行消費(fèi)活動的前提,也是消費(fèi)者的一項(xiàng)基礎(chǔ)性權(quán)利。但在“大數(shù)據(jù)殺熟”案件中,商品或服務(wù)的價(jià)格并非是按照“成本—收益”的基本規(guī)則提供的,而是依靠定價(jià)算法技術(shù)定制出來的。消費(fèi)者對定價(jià)算法運(yùn)行機(jī)制的茫然,加之算法的不透明性加劇了互聯(lián)網(wǎng)平臺與消費(fèi)者之間掌握的服務(wù)信息的不對稱,從而導(dǎo)致互聯(lián)網(wǎng)平臺與消費(fèi)者之間的權(quán)利義務(wù)不對等,消費(fèi)者知情權(quán)無法得到保護(hù)。此外,在2022年1月北京海淀區(qū)法院審理的全國首例人工刷量平臺干擾搜索引擎算法不正當(dāng)競爭糾紛案中,“我愛廣告任務(wù)網(wǎng)”幫助用戶制造虛假點(diǎn)擊數(shù)據(jù),擾亂原有的客觀搜索排序結(jié)果,阻礙了信息交流,從而使搜索引擎排序無從降低消費(fèi)者的信息搜索成本,導(dǎo)致消費(fèi)者知情權(quán)的損害[9]。

三、算法規(guī)制中消費(fèi)者權(quán)益保護(hù)的域外嘗試

數(shù)字經(jīng)濟(jì)時代,算法成為互聯(lián)網(wǎng)信息服務(wù)產(chǎn)業(yè)發(fā)展的重點(diǎn),也成為提升交易效率、增強(qiáng)用戶粘性的重要抓手。算法技術(shù)不僅廣泛應(yīng)用于國內(nèi)互聯(lián)網(wǎng)消費(fèi)市場,算法商業(yè)化在域外也被如火如荼地推廣運(yùn)用。美國、歐盟及英國基于各自的發(fā)展現(xiàn)實(shí)與實(shí)踐經(jīng)驗(yàn),先后形成了各具特色的算法規(guī)制體系。消費(fèi)者數(shù)據(jù)賦權(quán)與隱私強(qiáng)化保護(hù)、算法影響評估機(jī)制等嘗試,均可以為我國算法規(guī)制消費(fèi)者權(quán)益保護(hù)提供有益的經(jīng)驗(yàn)。

(一)數(shù)據(jù)賦權(quán)以強(qiáng)化消費(fèi)者數(shù)據(jù)權(quán)益

互聯(lián)網(wǎng)平臺利用算法技術(shù)向消費(fèi)者提供信息服務(wù)依托于一定量的消費(fèi)者數(shù)據(jù)。因此,為規(guī)制諸如算法個性化定價(jià)等問題,部分國家和地區(qū)采取了規(guī)范數(shù)據(jù)收集行為的措施。在這之中,萌芽于數(shù)字單一市場的,具有顯著功能特性的歐盟《一般數(shù)據(jù)保護(hù)條例》站在基本權(quán)利保護(hù)的立場,通過為數(shù)據(jù)主體賦權(quán)的方式,保護(hù)用戶的個人數(shù)據(jù)[10]。

具體而言,《一般數(shù)據(jù)保護(hù)條例》賦予數(shù)據(jù)主體以知情權(quán)、更正及刪除權(quán)、訪問權(quán)、拒絕權(quán)和自動化決策自決權(quán)等八種權(quán)利。其中,知情權(quán)與訪問權(quán)是指,當(dāng)數(shù)據(jù)主體的數(shù)據(jù)被采集時,數(shù)據(jù)主體有權(quán)知曉數(shù)據(jù)控制者處理數(shù)據(jù)的目的、合法基礎(chǔ)及儲存期限等相關(guān)信息(2)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 12-15。。也即《一般數(shù)據(jù)保護(hù)條例》首先確保數(shù)據(jù)主體能夠知悉自己的數(shù)據(jù)是被誰收集、收集目的為何以及如何被處理等信息。再經(jīng)由數(shù)據(jù)主體權(quán)衡后,根據(jù)自己的意愿自主決定是否允許數(shù)據(jù)控制者收集其數(shù)據(jù),以換取相對應(yīng)的服務(wù)[11];更正及刪除權(quán)是指,數(shù)據(jù)主體有權(quán)要求數(shù)據(jù)控制者即刻更正與其有關(guān)的錯誤的個人數(shù)據(jù),并且,當(dāng)數(shù)據(jù)收集和處理的目的已不再必要或是出現(xiàn)個人數(shù)據(jù)被非法處理的情形時,數(shù)據(jù)主體有權(quán)請求數(shù)據(jù)控制者立即刪除與其相關(guān)的個人數(shù)據(jù)(3)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 16-17。。更正及刪除權(quán)有助于減輕因數(shù)據(jù)的錯誤處理給數(shù)據(jù)主體帶來的消極影響;拒絕權(quán)是指,當(dāng)數(shù)據(jù)處理是出于直接營銷的目的時,數(shù)據(jù)主體有權(quán)隨時拒絕為該種營銷目的而處理其個人數(shù)據(jù)的行為(4)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 21。。拒絕權(quán)能夠有效制止個性化推薦等行為,賦予數(shù)據(jù)主體自主選擇的自由;自動化決策權(quán)是指數(shù)據(jù)主體有權(quán)不受僅基于自動化決策得到的結(jié)果的束縛,并且數(shù)據(jù)主體有權(quán)表達(dá)對決策結(jié)果的觀點(diǎn)及異議(5)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 22。。該條明確賦予用戶介入算法決策的權(quán)利,保障了數(shù)據(jù)主體的自主選擇權(quán)。除此之外,《一般數(shù)據(jù)保護(hù)條例》還額外賦予數(shù)據(jù)主體在數(shù)據(jù)被違法處理時的限制處理權(quán),這些權(quán)利都能使數(shù)據(jù)主體實(shí)際控制數(shù)據(jù)的處理。而澳大利亞為平衡創(chuàng)新發(fā)展和消費(fèi)者數(shù)據(jù)使用安全的關(guān)系,對消費(fèi)者數(shù)據(jù)采取了較為周密的保護(hù)措施,即授予消費(fèi)者對互聯(lián)網(wǎng)交易的開放訪問權(quán),并以此達(dá)到消費(fèi)者對個人數(shù)據(jù)的控制效果。更為具體的保護(hù)措施包括:第一,要求數(shù)據(jù)持有者和數(shù)據(jù)接收者公開其對數(shù)據(jù)管理的政策。第二,消費(fèi)者可以劃定其同意收集和使用的數(shù)據(jù)范圍,且數(shù)據(jù)接收者必須告知消費(fèi)者數(shù)據(jù)收集的情況。第三,一般情況下,數(shù)據(jù)接收者不得使用或披露消費(fèi)者數(shù)據(jù),除非消費(fèi)者、《消費(fèi)者數(shù)據(jù)權(quán)》規(guī)則或其他法律要求使用或披露數(shù)據(jù)。第四,禁止數(shù)據(jù)接收者利用數(shù)據(jù)對消費(fèi)者進(jìn)行營銷。第五,數(shù)據(jù)接收者必須提供對數(shù)據(jù)進(jìn)行去身份標(biāo)識的選擇(6)Competition and Consumer(Consumer Data Right)Rules 2020。。

(二)行業(yè)約束以維護(hù)消費(fèi)者公平交易權(quán)

為規(guī)制包括“大數(shù)據(jù)殺熟”在內(nèi)的算法歧視現(xiàn)象,美國采取了自律性規(guī)制的規(guī)范路徑。此種規(guī)范方法通過制定算法決策和運(yùn)行的基本原則,強(qiáng)化行業(yè)內(nèi)的自我約束,最終實(shí)現(xiàn)對算法歧視的有效規(guī)制。美國計(jì)算機(jī)協(xié)會于2017年發(fā)布了《關(guān)于算法透明度與責(zé)任制的聲明》,在該份聲明中,美國計(jì)算機(jī)協(xié)會明確了算法透明度與責(zé)任制的七項(xiàng)原則,并要求行業(yè)內(nèi)的算法開發(fā)者和使用者遵守上述原則(7)Statement on Algorithmic Transparency and Accountability.USACM 2017。。這七項(xiàng)原則包括:一是偏見意識原則。該原則要求算法開發(fā)者、使用者和其他利益相關(guān)者意識到在算法設(shè)計(jì)、實(shí)施和使用過程中存在的偏見及其可能造成的損害。二是算法救濟(jì)原則。監(jiān)管機(jī)構(gòu)應(yīng)采取各種機(jī)制,給受到算法決策不利影響的個人或群體提供救濟(jì)渠道。三是算法負(fù)責(zé)原則。該原則要求算法使用者對算法的運(yùn)行結(jié)果承擔(dān)責(zé)任。四是算法解釋原則。也即算法使用者應(yīng)當(dāng)對算法運(yùn)行程序和決策結(jié)果作出解釋。五是算法數(shù)據(jù)證明力原則。該原則要求算法開發(fā)者說明數(shù)據(jù)的收集方式及其潛在風(fēng)險(xiǎn)。六是算法審計(jì)原則。該原則強(qiáng)調(diào)算法決策的可追溯性,確保算法模型、決策結(jié)果及其所依托的數(shù)據(jù)被記錄下來,方便后續(xù)的算法審計(jì)[12]。七是算法驗(yàn)證及測試原則。該原則要求算法使用者定期采用嚴(yán)格的方法來驗(yàn)證算法模型,以防止算法歧視的發(fā)生。這些原則能夠有效維護(hù)消費(fèi)者的公平交易權(quán)。

(三)體系建構(gòu)以確保消費(fèi)者自主選擇權(quán)

規(guī)制數(shù)據(jù)和算法的最終目的,是保障消費(fèi)者權(quán)益,實(shí)現(xiàn)更深層次的消費(fèi)公平。美國《Markup》曾報(bào)道過一起由算法缺陷引發(fā)的事件。一個存在缺陷的抵押貸款審批算法拒絕了此前已獲審批的申請人的貸款申請,致使該申請人遭受財(cái)產(chǎn)損失。因此,當(dāng)算法本身的缺陷成為消費(fèi)者利益受損的主要緣由時,消費(fèi)者的糾偏、申訴甚至退出的權(quán)利就變得格外重要。對此,為直接對話消費(fèi)者訴求,完善消費(fèi)者權(quán)益保護(hù)路徑,美國《算法問責(zé)法案》構(gòu)建了消費(fèi)者權(quán)益保障體系,從消費(fèi)者退出機(jī)制、消費(fèi)者權(quán)利評估機(jī)制與不利影響評估機(jī)制三方面,構(gòu)建算法框架下的消費(fèi)者權(quán)利保障體系。

具體而言,消費(fèi)者糾偏與退出機(jī)制是指算法服務(wù)使用者應(yīng)當(dāng)明確告知消費(fèi)者其使用自動化決策這一事實(shí),并為消費(fèi)者提供退出機(jī)制。消費(fèi)者的權(quán)利評估制度是指,算法服務(wù)使用者應(yīng)當(dāng)評估算法系統(tǒng)或過程的透明度和可解釋性,以及消費(fèi)者選擇退出此類系統(tǒng)或過程的可能性。不利影響評估機(jī)制是指,算法服務(wù)使用者應(yīng)當(dāng)衡量自動決策系統(tǒng)可能對消費(fèi)者產(chǎn)生的任何負(fù)面影響,并評估任何可行的緩解策略。不利影響評估機(jī)制應(yīng)當(dāng)記錄:第一,為消除或緩解此種不利影響而采取的任何措施,包括將自動決策系統(tǒng)從市場上移除或終止開發(fā)等步驟。第二,不處理可能產(chǎn)生的負(fù)面影響的原因。第三,用于識別、衡量、減輕或消除對消費(fèi)者可能產(chǎn)生的重大負(fù)面影響的標(biāo)準(zhǔn)協(xié)議或?qū)嵺`,以及相關(guān)團(tuán)隊(duì)或工作人員對此類協(xié)議或?qū)嵺`的知悉途徑。此外,算法服務(wù)使用者還需要為消費(fèi)者提供提出異議和申訴的通道。質(zhì)言之,架構(gòu)消費(fèi)者權(quán)益保障體系能夠賦予消費(fèi)者自主決定的權(quán)利。體系化的權(quán)利框架,能夠使消費(fèi)者在算法運(yùn)行的各個環(huán)節(jié)維護(hù)自身的權(quán)益,并利用糾偏和選擇退出機(jī)制保障自身的自主選擇權(quán)。

(四)算法評估以保障消費(fèi)者知情權(quán)

作為底層架構(gòu)的算法,雖然能夠降低消費(fèi)者篩選有效信息的時間成本,提高信息推送的效率,但“信息繭房”的產(chǎn)生、互聯(lián)網(wǎng)平臺利用算法控制熱搜和過度營銷等問題也層出不窮。2022年央視3·15晚會曝光了某口碑營銷公司操縱搜索結(jié)果的新聞。該營銷公司利用技術(shù)手段,冒充真實(shí)用戶自問自答,并將這些自問自答排在搜索結(jié)果之前,達(dá)到左右搜索結(jié)果的目的,擾亂了市場公平競爭,導(dǎo)致網(wǎng)絡(luò)生態(tài)失衡。對此,面對野蠻生長的算法亂象,算法影響評估制度作為重要的算法治理方案被納入算法治理體系中,成為算法治理嘗試的關(guān)鍵一環(huán)。

美國為規(guī)制“算法黑箱”,消弭不透明的算法運(yùn)行程序帶來的算法歧視,增設(shè)了算法影響評估制度。算法影響評估制度以透明、問責(zé)、合法等原則為指引,具體可以分為算法投入前評估和持續(xù)性評估兩部分。算法投入前的評估要求算法服務(wù)使用者在新算法開發(fā)之前,評估已存在的同類算法及其負(fù)面影響和新算法的優(yōu)勢與開發(fā)目的,以規(guī)避算法本身的缺漏。算法使用過程中的持續(xù)性評估則圍繞算法的公正性、可問責(zé)性和透明度等方面展開,并將技術(shù)新穎性、決策應(yīng)用范圍及消費(fèi)者數(shù)據(jù)的敏感程度等指標(biāo)納入影響評估報(bào)告。此過程的評估工作要求:首先,算法服務(wù)使用者應(yīng)當(dāng)持續(xù)性地記錄算法的當(dāng)前及歷史表現(xiàn),警惕可能產(chǎn)生的算法偏見和算法歧視。同時,算法服務(wù)使用者還應(yīng)當(dāng)評估算法可能給消費(fèi)者個人信息和隱私帶來的風(fēng)險(xiǎn)及自動化決策系統(tǒng)可能對消費(fèi)者帶來的偏見和歧視性決策的風(fēng)險(xiǎn)。其次,算法服務(wù)使用者應(yīng)當(dāng)保存用于訓(xùn)練算法的數(shù)據(jù)及相關(guān)信息,防止數(shù)據(jù)帶來的不良影響(8)Algorithmic Accountability Act of 2022。。最后,在劃分評估后的影響等級方面,加拿大《自動化決策指令》以風(fēng)險(xiǎn)為評定基礎(chǔ),將影響等級劃分為可逆且暫時的影響、可能可逆且短期的影響、難以可逆持續(xù)性影響及不可逆的永久性影響四類(9)Government of Canada.Directive on Automated Decision-making。。算法評估制度能夠及時糾正算法可能帶來的偏見與歧視,給消費(fèi)者以風(fēng)險(xiǎn)警示,并增強(qiáng)算法的透明度,保障了消費(fèi)者的知情權(quán)。

四、算法規(guī)制中消費(fèi)者權(quán)益保護(hù)的完善

算法推薦技術(shù)的廣泛應(yīng)用,滋生了大數(shù)據(jù)殺熟、搜索引擎競價(jià)排名、“信息繭房”甚至不正當(dāng)競爭等問題。域外在解決算法規(guī)制中消費(fèi)者權(quán)益保護(hù)問題時,采取了權(quán)利導(dǎo)向、分類治理的思路。譬如,在規(guī)制算法框架下的消費(fèi)者數(shù)據(jù)權(quán)益時,域外站在數(shù)據(jù)主體的角度,強(qiáng)調(diào)數(shù)據(jù)賦權(quán);在規(guī)制算法歧視時,域外采取自律性規(guī)制路徑,保障消費(fèi)者公平交易權(quán);在解決算法不透明和可解釋性問題上,域外主張?bào)w系架構(gòu)的私力救濟(jì)方式;在規(guī)范算法帶來的“信息繭房”等問題時,域外采納平臺監(jiān)管體系中的算法評估制度。

而我國為維持良好的市場競爭秩序,維護(hù)消費(fèi)者權(quán)益和社會公平,建構(gòu)算法推薦服務(wù)治理體系成為推動新技術(shù)可持續(xù)發(fā)展的關(guān)鍵。申言之,我國算法治理體系的建構(gòu)應(yīng)從實(shí)際出發(fā),以我國基本國情為立足點(diǎn),綜合考察行業(yè)前景、社會發(fā)展和法治進(jìn)程等指標(biāo),借鑒域外有益經(jīng)驗(yàn),為規(guī)制算法框架下的消費(fèi)者權(quán)益保護(hù)提供中國智慧,貢獻(xiàn)中國方案。算法框架下的消費(fèi)者權(quán)益保護(hù)應(yīng)以《消費(fèi)者權(quán)益保護(hù)法》和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》為規(guī)范基礎(chǔ),以促進(jìn)算法生態(tài)規(guī)范發(fā)展為導(dǎo)向,回應(yīng)消費(fèi)者熱切關(guān)注的重點(diǎn)問題,從數(shù)據(jù)賦權(quán)、協(xié)同治理、消費(fèi)者私力救濟(jì)和平臺監(jiān)管下的安全評估等方面建構(gòu)算法治理規(guī)則體系,為釋放算法正效能、保障消費(fèi)者權(quán)益注入動能。

(一)實(shí)施消費(fèi)者數(shù)據(jù)與個人信息保護(hù)機(jī)制

實(shí)施算法推薦的前提之一是互聯(lián)網(wǎng)平臺掌握足夠多的消費(fèi)者數(shù)據(jù)。因此,管控?cái)?shù)據(jù)成為域外規(guī)制算法技術(shù)濫用的路徑之一。2021年《中華人民共和國數(shù)據(jù)安全法》(以下簡稱《數(shù)據(jù)安全法》)與《個人信息保護(hù)法》的出臺,使這兩部法律同《中華人民共和國網(wǎng)絡(luò)安全法》(以下簡稱《網(wǎng)絡(luò)安全法》)一道,成為數(shù)據(jù)和個人信息保護(hù)領(lǐng)域的“三駕馬車”,消費(fèi)者數(shù)據(jù)與個人信息保護(hù)的基本法律架構(gòu)已順利搭建完成。但在數(shù)字經(jīng)濟(jì)時代,因算法的不透明性與技術(shù)的復(fù)雜性,使得消費(fèi)者難以評判自身數(shù)據(jù)權(quán)益是否受到侵害。因此,更迭并落實(shí)消費(fèi)者數(shù)據(jù)與個人信息保護(hù)機(jī)制迫在眉睫。

具言之,首先,為實(shí)現(xiàn)算法透明,保障消費(fèi)者數(shù)據(jù)權(quán)益不受侵害,我國應(yīng)當(dāng)落實(shí)算法推薦服務(wù)提供者的算法安全主體責(zé)任,要求算法推薦服務(wù)提供者利用技術(shù)手段和審核機(jī)制加強(qiáng)數(shù)據(jù)安全和個人信息保護(hù)制度,并對算法的數(shù)據(jù)使用進(jìn)行日常監(jiān)測(10)參見國家互聯(lián)網(wǎng)信息辦公室、中華人民共和國工業(yè)和信息化部、中華人民共和國公安部、國家市場監(jiān)督管理總局令第9號. 《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第七條。。其次,在數(shù)據(jù)收集階段,我國可參照適用《數(shù)據(jù)安全法》《個人信息保護(hù)法》和《網(wǎng)絡(luò)安全法》中關(guān)于收集和處理消費(fèi)者數(shù)據(jù)和個人信息的規(guī)定。對消費(fèi)者數(shù)據(jù)的收集堅(jiān)持“知情—同意”和“最小必要”原則,要求互聯(lián)網(wǎng)平臺在收集消費(fèi)者數(shù)據(jù)時,明示收集目的和范圍,不得利用隱蔽算法在消費(fèi)者不知情的情況下,惡意收集消費(fèi)者數(shù)據(jù)。在數(shù)據(jù)處理環(huán)節(jié),確保數(shù)據(jù)處理合法、正當(dāng),并應(yīng)當(dāng)采取必要措施保障數(shù)據(jù)安全。同時,為制止互聯(lián)網(wǎng)平臺竊取消費(fèi)者數(shù)據(jù)和個人信息,我國可借鑒澳大利亞《消費(fèi)者數(shù)據(jù)權(quán)》規(guī)則。根據(jù)2021年發(fā)布的《澳大利亞消費(fèi)者數(shù)據(jù)權(quán)利隱私評估》[13]顯示,自《消費(fèi)者數(shù)據(jù)權(quán)》規(guī)則實(shí)施以來,該規(guī)則提供的諸如數(shù)據(jù)公開透明管理、數(shù)據(jù)使用和披露制度、數(shù)據(jù)收集規(guī)范等數(shù)據(jù)和隱私保護(hù)措施,大大降低了四大銀行的高隱私風(fēng)險(xiǎn)發(fā)生率?！断M(fèi)者數(shù)據(jù)權(quán)》規(guī)則的有效實(shí)施,為我國提供了有益經(jīng)驗(yàn)。我國可賦予消費(fèi)者對數(shù)據(jù)的開放訪問權(quán),將數(shù)據(jù)收集的決定權(quán)交由消費(fèi)者,由消費(fèi)者自主劃定數(shù)據(jù)收集的范圍和使用權(quán)限,以此彌合消費(fèi)者數(shù)據(jù)濫用問題。最后,由于互聯(lián)網(wǎng)平臺收集消費(fèi)者數(shù)據(jù)的內(nèi)生動力是方便構(gòu)建用戶標(biāo)簽,從而以此為基礎(chǔ)進(jìn)行精準(zhǔn)營銷。但數(shù)據(jù)的過度收集,極易形成“信息繭房”,使消費(fèi)者被禁錮于有限的信息流中,進(jìn)而難以獲得全面且真實(shí)的信息,最終損害消費(fèi)者的知情權(quán)。因此,應(yīng)當(dāng)苛以算法推薦服務(wù)提供者信息安全管理的義務(wù),完善信息入庫的標(biāo)準(zhǔn)和程序,并要求其加強(qiáng)用戶模型和用戶標(biāo)簽管理,防止違法和不良信息損害消費(fèi)者權(quán)益(11)參見國家互聯(lián)網(wǎng)信息辦公室、中華人民共和國工業(yè)和信息化部、中華人民共和國公安部、國家市場監(jiān)督管理總局令第9號. 《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第九、十條。。同時,為保障消費(fèi)者在輸入數(shù)據(jù)層面擁有更大的自主權(quán),我們可賦予用戶標(biāo)簽選擇和刪除權(quán),使消費(fèi)者可以選擇或刪除針對其個人特征的用戶標(biāo)簽(12)參見國家互聯(lián)網(wǎng)信息辦公室、中華人民共和國工業(yè)和信息化部、中華人民共和國公安部、國家市場監(jiān)督管理總局令第9號. 《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十七條。。

(二)建立算法協(xié)同治理路徑

五大類算法推薦服務(wù)依托技術(shù)流,對消費(fèi)者施以誤導(dǎo)或歧視,以致減損消費(fèi)者權(quán)益。而對算法推薦服務(wù)的治理要求執(zhí)法部門強(qiáng)化協(xié)同合作、建立部門協(xié)同聯(lián)動長效機(jī)制。因此,《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》在第二十三條明確了系統(tǒng)監(jiān)管、多元共治的規(guī)制框架,實(shí)行對算法分級分類的治理機(jī)制,由網(wǎng)信部門會同電信、公安、市場監(jiān)管等有關(guān)部門共同治理。但遺憾的是,《管理規(guī)定》僅概括規(guī)定了多元監(jiān)管框架,并未對各部門的具體監(jiān)管范圍和監(jiān)管職責(zé)進(jìn)行細(xì)化分工,使算法合作治理路徑無法有效落地實(shí)施。

對此,為充分釋放治理合力,提高算法治理效能,細(xì)化政府部門分工變得尤為必要。具體而言,在合作治理的分工上,根據(jù)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第三條和第九條的規(guī)定,國家網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)全國網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理和相關(guān)監(jiān)督管理工作。具體而言,該部門應(yīng)當(dāng)負(fù)責(zé)跟蹤治理排序精選類和檢索過濾類的算法推薦技術(shù),管控信息服務(wù)熱門推薦、精選、熱搜、榜單類和關(guān)聯(lián)推薦板塊,實(shí)時巡查網(wǎng)絡(luò)信息內(nèi)容,維護(hù)版面和頁面的生態(tài),優(yōu)化信息推薦機(jī)制。國家市場監(jiān)管總局項(xiàng)下的競爭政策協(xié)調(diào)司可以借鑒英國競爭和市場管理局嘗試的規(guī)制方法,監(jiān)管算法運(yùn)行。譬如,為企業(yè)提供指導(dǎo)并制定決策指南或是持續(xù)算法監(jiān)控、構(gòu)筑監(jiān)管沙盒。與此同時,國家市場監(jiān)管總局項(xiàng)下的網(wǎng)絡(luò)交易監(jiān)督管理司可以負(fù)責(zé)監(jiān)管個性化推送類算法推薦技術(shù),對互聯(lián)網(wǎng)平臺在市場交易過程中實(shí)施的個性化推送予以實(shí)時監(jiān)測,規(guī)范網(wǎng)絡(luò)交易平臺的經(jīng)營秩序,彌合算法歧視等損害消費(fèi)者公平交易權(quán)的現(xiàn)象。網(wǎng)絡(luò)安全管理局則負(fù)責(zé)管控生成合成類算法推薦技術(shù),配合處理生成合成算法帶來的有害信息,對消費(fèi)者數(shù)據(jù)施以信息安全監(jiān)測預(yù)警,嚴(yán)格防控諸如美國聯(lián)邦貿(mào)易委員會發(fā)現(xiàn)的企業(yè)利用虛假評論和其他誤導(dǎo)性信息在社交媒體上推廣產(chǎn)品和服務(wù)的“欺詐行為”,保障消費(fèi)者知情權(quán)。最后,公安部門可以對利用算法推薦技術(shù)實(shí)施價(jià)格歧視、網(wǎng)絡(luò)欺詐甚至黑灰產(chǎn)業(yè)等行為,依法給予治安管理處罰。

(三)設(shè)置消費(fèi)者權(quán)益保護(hù)制度

為貫徹“堅(jiān)持權(quán)益保障,引導(dǎo)算法應(yīng)用公平公正、透明可釋,充分保障網(wǎng)民合法權(quán)益”的基本原則(13)參見國家互聯(lián)網(wǎng)信息辦公室等九部、局,關(guān)于印發(fā)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》的通知.國信辦發(fā)文〔2021〕7號。,我國在規(guī)制算法框架下消費(fèi)者權(quán)益保護(hù)問題時,應(yīng)當(dāng)以《消費(fèi)者權(quán)益保護(hù)法》為主體,以《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》為補(bǔ)充,建構(gòu)消費(fèi)者權(quán)益保護(hù)制度。一方面,《消費(fèi)者權(quán)益保護(hù)法》規(guī)定的消費(fèi)者權(quán)利,不僅能夠給司法裁判提供規(guī)范支持,也能夠有效鏈接算法價(jià)格歧視和個性化推送等問題。同時,在《消費(fèi)者權(quán)益保護(hù)法》的框架內(nèi),以消費(fèi)者個人為核心,主張賦予、界清、完善各種權(quán)利,能夠給予個體消費(fèi)者法律武器來維護(hù)個人利益[14]。譬如,以權(quán)利為出發(fā)點(diǎn)的消費(fèi)者“知情—同意”規(guī)則,能夠有效規(guī)制數(shù)據(jù)過度收集問題。另一方面,為彌補(bǔ)《消費(fèi)者權(quán)益保護(hù)法》在應(yīng)對新技術(shù)問題時的缺漏,《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》以專章的形式強(qiáng)化了在算法推薦技術(shù)框架下的消費(fèi)者權(quán)益保護(hù)問題。在該章節(jié)項(xiàng)下,《管理規(guī)定》在明確消費(fèi)者知情權(quán)以外,還創(chuàng)造性地提出了算法退出權(quán)。在具體內(nèi)容上,首先,我國同美國《算法問責(zé)法案》一樣,賦予消費(fèi)者以知情權(quán)。算法透明是消費(fèi)者篩選信息和自主選擇的重要前提,對此,《管理規(guī)定》要求算法推薦服務(wù)提供者降低算法透明度和可解釋性,公示算法推薦的基本原理、目的意圖和主要運(yùn)行機(jī)制,并鼓勵算法服務(wù)提供者優(yōu)化對檢索、選擇、推送等規(guī)則的透明度和可解釋性。同時,當(dāng)算法推薦服務(wù)提供者作出對消費(fèi)者權(quán)益有重大影響的決定時,消費(fèi)者有權(quán)要求其釋明。其次,為規(guī)制常見于電商平臺的“精準(zhǔn)營銷”和“個性化推送”現(xiàn)象,《管理規(guī)定》承繼了《個人信息保護(hù)法》第二十四條規(guī)定的退出選擇機(jī)制,賦予消費(fèi)者退出權(quán)。也即當(dāng)消費(fèi)者選擇關(guān)閉算法推薦服務(wù)時,算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。最后,我國額外賦予消費(fèi)者申訴和投訴權(quán),要求政府積極受理消費(fèi)者的舉報(bào)和投訴,要求互聯(lián)網(wǎng)平臺自覺接受消費(fèi)者監(jiān)督并及時做好反饋工作,為消費(fèi)者權(quán)利捍衛(wèi)途徑提供多元的選擇道路,以此鼓勵廣大消費(fèi)者積極參與算法治理工作,切實(shí)加強(qiáng)政府與消費(fèi)者之間的信息交流及互通。

(四)構(gòu)建算法評估制度

算法的不透明致使消費(fèi)者很難窺見算法的運(yùn)行過程及輸出結(jié)果,進(jìn)而導(dǎo)致消費(fèi)者知情權(quán)受損。而算法安全評估作為多維一體監(jiān)管體系中的重要一環(huán),可使算法推薦應(yīng)用達(dá)到安全可控和可釋透明的程度,進(jìn)而強(qiáng)化對消費(fèi)者知情權(quán)的保護(hù)。對此,為加快落實(shí)監(jiān)管體系,防范算法濫用帶來的風(fēng)險(xiǎn)隱患,我國可構(gòu)建算法評估制度,要求算法推薦服務(wù)提供者定期評估算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等,不得設(shè)置違反法律法規(guī)或者違背倫理道德的算法模型。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》在借鑒域外經(jīng)驗(yàn)的基礎(chǔ)上,提出了事前監(jiān)管—算法評估制度的新路徑。具體而言,我國算法評估機(jī)制秉持結(jié)構(gòu)細(xì)分的設(shè)計(jì)思路,設(shè)置了自評估和第三方評估兩種方式。算法自評估要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者自我審查與算法相關(guān)的數(shù)據(jù)和機(jī)器模型,定期審核算法的機(jī)制機(jī)理,對算法進(jìn)行風(fēng)險(xiǎn)評估,使風(fēng)險(xiǎn)能在源頭得到控制。其后,算法推薦服務(wù)提供者還應(yīng)當(dāng)形成算法自評估報(bào)告,該報(bào)告作為算法備案的重要組成部分,是監(jiān)管機(jī)構(gòu)后續(xù)開展算法監(jiān)督管理的基礎(chǔ)。第三方評估是由監(jiān)管部門開展的,針對算法推薦服務(wù)的安全評估。為避免算法推薦技術(shù)損害社會公平、市場競爭和消費(fèi)者權(quán)益,提高算法透明度和可解釋性,監(jiān)管部門應(yīng)聚焦算法的機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等內(nèi)容,重點(diǎn)評估算法在設(shè)計(jì)和投流環(huán)節(jié)的缺漏,深入分析算法推薦技術(shù)在應(yīng)用過程中產(chǎn)生的安全風(fēng)險(xiǎn),并提出治理對策,最終增強(qiáng)算法的可信度。

《管理規(guī)定》提出的算法評估制度是增強(qiáng)算法可信、管控算法風(fēng)險(xiǎn)、實(shí)現(xiàn)算法安全可控的重要工具。但《管理規(guī)定》僅建構(gòu)出了算法評估的基本框架,尚未落實(shí)算法評估的具體程序和實(shí)施方案,使算法評估制度仍較難落地實(shí)施。對此,為落實(shí)算法評估的實(shí)施機(jī)制、明晰算法評估的各項(xiàng)措施,我國可以借鑒域外的算法影響評估模式,讓算法評估制度覆蓋算法開發(fā)、運(yùn)行和投流的全周期,建立動態(tài)算法評估機(jī)制。具體而言,一方面,在算法系統(tǒng)投入部署應(yīng)用之前,對其可能產(chǎn)生的潛在不利影響和風(fēng)險(xiǎn)進(jìn)行評估,以確定是否能將該算法系統(tǒng)應(yīng)用于特定場景之中。另一方面,在算法系統(tǒng)投入應(yīng)用之后,還應(yīng)組織相關(guān)領(lǐng)域的專業(yè)評估人員定期對運(yùn)行中算法系統(tǒng)存在的不利影響和風(fēng)險(xiǎn)進(jìn)行系統(tǒng)全面評估[15]。算法投入前評估和投入中的持續(xù)性評估能夠消弭算法運(yùn)行中可能出現(xiàn)的算法偏見和算法歧視現(xiàn)象,從而保障消費(fèi)者權(quán)益。除此之外,在評估完成后,相關(guān)主體還應(yīng)當(dāng)制作算法評估報(bào)告,向消費(fèi)者釋明算法自動決策可能帶來的風(fēng)險(xiǎn)和給消費(fèi)者造成的不利影響,并反饋緩解策略,保障消費(fèi)者的知情權(quán),強(qiáng)化算法的透明度與可解釋性。

五、結(jié)語

數(shù)字經(jīng)濟(jì)興起以來,算法推薦技術(shù)作為戰(zhàn)略性資源喂養(yǎng)了商業(yè)市場中的各類互聯(lián)網(wǎng)平臺,并已能夠完整且成熟地參與到內(nèi)容生成、個性推送、排序精選等場景中,全面提升了消費(fèi)者體驗(yàn)。但與此同時,算法推薦技術(shù)也給消費(fèi)者權(quán)益帶來了損害。算法推薦的有效實(shí)施依托于消費(fèi)者數(shù)據(jù)和用戶標(biāo)簽,但數(shù)據(jù)的過度收集與用戶標(biāo)簽的濫用,很可能會泄露消費(fèi)者個人信息,侵犯消費(fèi)者的自主選擇權(quán)。同時,算法黑箱也有損消費(fèi)者的知情權(quán)和公平交易權(quán)。對此,為消除算法推薦技術(shù)帶來的危害,各國嘗試了數(shù)據(jù)賦權(quán)、算法評估等多項(xiàng)措施。我國《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,對算法推薦框架下的消費(fèi)者權(quán)益保護(hù)構(gòu)建了消費(fèi)者數(shù)據(jù)保護(hù)機(jī)制、算法評估制度和合作治理路徑等措施,有力驅(qū)動了“算法善用”理念的推行。誠然《管理規(guī)定》建構(gòu)起了新型算法治理框架,但諸如消費(fèi)者數(shù)據(jù)權(quán)利、算法評估制度和協(xié)同治理規(guī)則仍有待細(xì)化和完善。除此之外,在算法推薦快速滲透于商業(yè)領(lǐng)域的當(dāng)下,算法推薦在給消費(fèi)者權(quán)益帶來損害的同時,也給黑灰產(chǎn)業(yè)鏈提供了可乘之機(jī)。

技術(shù)是價(jià)值中立的,“算法”本身并無原罪。當(dāng)前,算法等新技術(shù)已經(jīng)滲透進(jìn)金融、醫(yī)療和互聯(lián)網(wǎng)等領(lǐng)域,成為助推企業(yè)數(shù)字化轉(zhuǎn)型和國家治理現(xiàn)代化的新動能。因此,構(gòu)建算法治理新機(jī)制,實(shí)現(xiàn)算法的良法善治是保障算法綜合治理工作有序推進(jìn)的關(guān)鍵,也是推動數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展的重中之重。對此,為合理利用算法技術(shù),保障消費(fèi)者權(quán)益,我們應(yīng)當(dāng)積極引導(dǎo)“科技向善”,實(shí)現(xiàn)更深層次的消費(fèi)公平,塑造可持續(xù)的智慧社會。