李 丹

（西南大學(xué) 法學(xué)院，重慶 400715）

一、 前 言

大數(shù)據(jù)時(shí)代，數(shù)據(jù)被稱為“新石油”，成為市場(chǎng)經(jīng)營(yíng)主體競(jìng)相爭(zhēng)奪的新興生產(chǎn)資源，可謂得數(shù)據(jù)者得市場(chǎng)。但單個(gè)、少量的數(shù)據(jù)價(jià)值密度低，需經(jīng)算法抓取、加工、處理后形成衍生大數(shù)據(jù)集合才會(huì)成為具有高市場(chǎng)價(jià)值的資源。算法是數(shù)據(jù)價(jià)值的核心，實(shí)現(xiàn)從低價(jià)值的原始數(shù)據(jù)向高價(jià)值的衍生數(shù)據(jù)轉(zhuǎn)化。數(shù)字經(jīng)濟(jì)的實(shí)質(zhì)是“算法定義經(jīng)濟(jì)”①韓旭至：《數(shù)據(jù)確權(quán)的困境及破解之道》，《東方法學(xué)》2020年第1期。。正如互聯(lián)網(wǎng)經(jīng)濟(jì)領(lǐng)域?qū)＜夷岣颀嬄宓偎浴懊恳环N技術(shù)或科學(xué)的饋贈(zèng)都有其黑暗面”②Negroponte N. Agents：From Direct Manipulation to Delegation. Software agents, 1997.，算法促進(jìn)互聯(lián)網(wǎng)經(jīng)濟(jì)的飛速發(fā)展是其饋贈(zèng)，而算法歧視就是算法技術(shù)產(chǎn)生的黑暗面。傳統(tǒng)市場(chǎng)環(huán)境下，經(jīng)營(yíng)者無法獲知消費(fèi)者的個(gè)人信息，無法精準(zhǔn)獲取消費(fèi)者的消費(fèi)能力。因此，商品價(jià)格總是圍繞商品價(jià)值上下波動(dòng)，不會(huì)出現(xiàn)太大偏離。但數(shù)字經(jīng)濟(jì)背景下，經(jīng)營(yíng)者掌握了消費(fèi)者的職業(yè)、個(gè)人偏好、消費(fèi)經(jīng)歷、支付能力等海量信息，能描繪出每一個(gè)消費(fèi)者的“信息畫像”，獲知其交易可能性以及所能承受的價(jià)格上限，并據(jù)此對(duì)消費(fèi)者“貼標(biāo)簽”，從而制定精準(zhǔn)的個(gè)性化營(yíng)銷策略。算法呈現(xiàn)出的技術(shù)性特點(diǎn)消弭了傳統(tǒng)經(jīng)濟(jì)中企業(yè)無法獲知個(gè)體消費(fèi)能力的營(yíng)銷障礙，改變了“同物同價(jià)”的傳統(tǒng)定價(jià)模式，使商品價(jià)格不再圍繞商品價(jià)值本身，而取決于每個(gè)消費(fèi)者對(duì)該商品的主觀定價(jià)，算法歧視消費(fèi)者的現(xiàn)象應(yīng)運(yùn)而生①徐景一、李昕陽：《共享經(jīng)濟(jì)背景下平臺(tái)企業(yè)利益關(guān)系演變研究》，《經(jīng)濟(jì)縱橫》2019年第6期。。

隨著算法被廣泛運(yùn)用于商業(yè)交易中，具有技術(shù)和市場(chǎng)優(yōu)勢(shì)地位的經(jīng)營(yíng)者尤其是互聯(lián)網(wǎng)企業(yè)頻繁使用算法技術(shù)在信息采集、特定推送與個(gè)性定價(jià)等交易階段實(shí)施算法歧視行為，掠奪消費(fèi)者剩余價(jià)值，排除、限制市場(chǎng)競(jìng)爭(zhēng)，從市場(chǎng)壟斷中攫取利潤(rùn)。在對(duì)消費(fèi)者信息進(jìn)行采集時(shí)，互聯(lián)網(wǎng)企業(yè)常以消費(fèi)者“數(shù)字畫像”為基礎(chǔ)利用算法技術(shù)“擅自”進(jìn)行“消費(fèi)偏好測(cè)試”，主動(dòng)誘導(dǎo)消費(fèi)者實(shí)施非理性消費(fèi)②Lambrecht，Anja and C. E. Tucker. Algorithmic Bias? An Empirical Study into Apparent Gender-Based Discrimination in the Display of STEM Career Ads. Social ence Electronic Publishing, 2016.。特定推送表現(xiàn)為平臺(tái)僅推送商家支付高額廣告費(fèi)的商品，或反復(fù)推送基于消費(fèi)者瀏覽數(shù)據(jù)判定為高關(guān)注度的商品，導(dǎo)致“信息繭房”。例如以“你關(guān)心的，才是頭條”作為宣傳理念的“今日頭條”施行的個(gè)性化推薦就涉嫌消費(fèi)者身份歧視，曾被廣電總局約談。而在個(gè)性化定價(jià)中，互聯(lián)網(wǎng)企業(yè)針對(duì)不同標(biāo)簽群體消費(fèi)者采取價(jià)格歧視策略。如攜程旅行網(wǎng)對(duì)消費(fèi)者實(shí)施的價(jià)格歧視，線上預(yù)訂同一酒店、同一房型的客房，有消費(fèi)記錄的賬號(hào)顯示的價(jià)格明顯高于無消費(fèi)記錄的賬號(hào)③肖帥、劉瀚文：《價(jià)格千人千面?攜程否認(rèn)“大數(shù)據(jù)殺熟”！網(wǎng)購(gòu)比價(jià)攻略在此……》，2018年5月28日，https://www.sohu.com/a/233 208 352_183 333，最后訪問時(shí)間：2021年1月18日。。無獨(dú)有偶，2018年滴滴、攜程等網(wǎng)約車平臺(tái)利用算法進(jìn)行差異化定價(jià)被媒體曝光，相同路線、相同車型的行程，使用頻率高的消費(fèi)者支付的價(jià)格高于其他消費(fèi)者④孫伯龍、賈芳：《一場(chǎng)來自“殺熟”實(shí)驗(yàn)的定價(jià)風(fēng)暴》，《檢察風(fēng)云》2019第14期，http://m.zgkjsz.com/page/2019/0726/5356590.shtml，最后訪問時(shí)間：2021年1月17日。。更有甚者，支付價(jià)格會(huì)因手機(jī)品牌不同而價(jià)格迥異，使用被某些算法判定為高檔品牌的“蘋果”手機(jī)支付的價(jià)格高于其他品牌手機(jī)⑤李崇：《“大數(shù)據(jù)殺熟”刷屏，一群網(wǎng)友親測(cè)后氣炸！》，《中國(guó)青年報(bào)》2018年3月23日，http://news.163.com/18/0323/21/DDK4OTT10001875P.html，最后訪問時(shí)間：2021年1月15日。。此外，監(jiān)管層對(duì)數(shù)字經(jīng)濟(jì)和算法技術(shù)的發(fā)展創(chuàng)新秉持包容支持的態(tài)度。因此，在信息偏在、技術(shù)劣勢(shì)、監(jiān)管包容等因素疊加效應(yīng)作用下，消費(fèi)者無力與互聯(lián)網(wǎng)企業(yè)相抗衡。2019年北京消費(fèi)者協(xié)會(huì)調(diào)查報(bào)告結(jié)論顯示，由于舉證困難，算法歧視消費(fèi)者具有極強(qiáng)的“隱蔽性”⑥北京消協(xié)：《京市消協(xié)發(fā)布大數(shù)據(jù)“殺熟”問題調(diào)查結(jié)果》， http://www.bj315.org/xxyw/xfxw/201 907/t20190727_19494.shtml，最后訪問時(shí)間：2021年1月19日。。中國(guó)消費(fèi)者協(xié)會(huì)則警告算法技術(shù)已在無形中削弱了消費(fèi)者行使其知情權(quán)、選擇權(quán)、公平交易權(quán)等基本權(quán)利的能力⑦中國(guó)消協(xié)：《加強(qiáng)網(wǎng)絡(luò)消費(fèi)領(lǐng)域算法規(guī)制，保障消費(fèi)者知情權(quán)、選擇權(quán)和公平交易權(quán)》，2021年1月7日，http://www.cca.org.cn/zxsd/detail/29897.html，最后訪問時(shí)間：2021年1月19日。，更侵蝕著數(shù)字經(jīng)濟(jì)市場(chǎng)的競(jìng)爭(zhēng)秩序。

算法歧視消費(fèi)者的法律規(guī)制應(yīng)以損害消費(fèi)者利益為前提。國(guó)外研究認(rèn)為算法歧視會(huì)對(duì)消費(fèi)者權(quán)益造成影響⑧Ramsi Woodcock，Personalized Pricing as Monopolization，Connecticut Law Review，Vol. 51，No.2，2019，pp. 311-373.，減少消費(fèi)者剩余價(jià)值⑨Dirk Bergemann & Benjamin Brooks & Stephen Morris，The Limits of Price Discrimination，American Economic Review，Vol.105，No. 3，2015，pp. 921-957.。歐盟學(xué)者認(rèn)為需要重新構(gòu)建個(gè)人數(shù)據(jù)權(quán)利⑩Bryce Goodman. Discrimination，Data Sanitisation and Auditing in the European Union’s General Data Protection Regulation，European Data Protection Law Review，Vol.2，No.4，2016，pp.493-605.，從源頭上規(guī)制算法歧視消費(fèi)者①Betsy Anne Williams，Catherine F. Brooks，Yotam Shmargad，“How Algorithms Discriminate Based on Data They Lack：Challenges，Solutions，and Policy Implications”，Journal of Information Policy，Vol.8，2018，pp.78-115.。美國(guó)學(xué)界經(jīng)歷了從算法透明向算法審查的雙軌規(guī)制路徑轉(zhuǎn)變②Michael Scherman，Adam Goldenberg，Grace Waschuk，Kendra Levasseur，US Lawmakers Propose Algorithmic Accountability Act Intended to Regulate AI，retrieved from https://www.mccarthy.ca/en/insights/blogs/cyberlex/us-lawmakerspropose-algo rithmic-accountability-act-intended-regulate-ai，2021-1-1，最后訪問時(shí)間：2021年1月18日。。在承繼國(guó)外研究基礎(chǔ)上，國(guó)內(nèi)研究側(cè)重于算法歧視規(guī)制路徑③喬榛、劉瑞峰：《大數(shù)據(jù)算法的價(jià)格歧視問題》，《社會(huì)科學(xué)研究》2020年第5期；張恩典：《反算法歧視：理論反思與制度建構(gòu)》，《華中科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2020年第5期。、規(guī)制制度④楊成越、羅先覺：《算法歧視的綜合治理初探》，《科學(xué)與社會(huì)》2018年第4期。陳兵：《法治經(jīng)濟(jì)下規(guī)制算法運(yùn)行面臨的挑戰(zhàn)與響應(yīng)》，《學(xué)術(shù)論壇》2020年第1期；崔靖梓：《算法歧視挑戰(zhàn)下平等權(quán)保護(hù)的危機(jī)與應(yīng)對(duì)》，《法律科學(xué)（西北政法大學(xué)學(xué)報(bào)）》2019年第3期。、法律責(zé)任⑤丁宇翔：《跨越責(zé)任鴻溝-共享經(jīng)營(yíng)模式下平臺(tái)侵權(quán)責(zé)任的體系化展開》，《清華法學(xué)》2019年第4期。等內(nèi)容的討論，以回應(yīng)“規(guī)制價(jià)格歧視”“棒殺大數(shù)據(jù)殺熟”等熱點(diǎn)輿情的現(xiàn)實(shí)需要。但算法歧視消費(fèi)者的運(yùn)行機(jī)制并未得到系統(tǒng)性解釋與回答，而算法歧視消費(fèi)者的規(guī)制實(shí)踐迫切需要理論前提的破解與完善。因此，如何清晰而系統(tǒng)地解釋算法歧視消費(fèi)者的運(yùn)行機(jī)制與損益界定等理論前提，并以之為基礎(chǔ)明確算法歧視消費(fèi)者的規(guī)制要義，進(jìn)而完善其規(guī)制實(shí)踐，成為一個(gè)亟待解決的問題。

總之，不管是出于促進(jìn)數(shù)字經(jīng)濟(jì)深度健康發(fā)展的考慮，還是基于保護(hù)個(gè)體消費(fèi)者權(quán)利、維護(hù)正常競(jìng)爭(zhēng)秩序的市場(chǎng)目標(biāo)，我國(guó)相關(guān)法律都應(yīng)對(duì)算法歧視保持足夠的警惕，防止算法歧視損害后果的發(fā)生⑥劉友華：《算法偏見及其規(guī)制路徑研究》，《法學(xué)雜志》2019年第6期。。希冀本研究能夠破解算法歧視消費(fèi)者的研究難點(diǎn)，同時(shí)為算法歧視消費(fèi)者的規(guī)制實(shí)踐提供有益參考。

二、 算法歧視消費(fèi)者的行為機(jī)制釋明

算法決策在提升經(jīng)濟(jì)效率并促使市場(chǎng)各方主體對(duì)自動(dòng)化決策產(chǎn)生依賴的同時(shí)，也帶來了諸多不可忽視的歧視行為。從社會(huì)心理學(xué)上講，歧視是不同利益群體間發(fā)生的一種不平等的情感反應(yīng)和行為，消費(fèi)者很難感性判斷其被何種類型的算法歧視侵犯了個(gè)人的何種合法權(quán)益⑦鄭智航、徐昭曦：《大數(shù)據(jù)時(shí)代算法歧視的法律規(guī)制與司法審查-以美國(guó)法律實(shí)踐為例》，《比較法研究》2019年第4期。。只有明晰算法歧視消費(fèi)者“隱蔽性”的肇因，才能在規(guī)制制度的設(shè)計(jì)中“對(duì)癥下藥”，精準(zhǔn)、高效地解決算法歧視消費(fèi)者問題。因此，首先必須釋明算法歧視消費(fèi)者的行為機(jī)制。算法會(huì)在信息采集、特定推送和個(gè)性定價(jià)三個(gè)階段，以信息輸入、數(shù)據(jù)整理、算法決策與后臺(tái)控制等運(yùn)行環(huán)節(jié)為切入點(diǎn)，對(duì)消費(fèi)者實(shí)施多階段多環(huán)節(jié)的“顯性歧視”或“隱性歧視”（見圖1）。

圖1 算法歧視消費(fèi)者的行為機(jī)制

（一）模型缺陷與數(shù)據(jù)偏差：信息采集算法歧視消費(fèi)者

利用算法技術(shù)采集消費(fèi)者信息是互聯(lián)網(wǎng)企業(yè)實(shí)施各類算法歧視活動(dòng)的基礎(chǔ)，但數(shù)據(jù)與算法不可能完全獨(dú)立于人而保持客觀性，不可避免地帶有“以偏概全”的風(fēng)險(xiǎn)，因此，算法采集標(biāo)準(zhǔn)模型缺陷、數(shù)據(jù)樣本偏差都將導(dǎo)致或加劇消費(fèi)者信息采集階段的算法歧視現(xiàn)象①李婕：《壟斷抑或公開：算法規(guī)制的法經(jīng)濟(jì)學(xué)分析》，《理論視野》2019年第1期。。一方面，算法采集模型以經(jīng)營(yíng)者的營(yíng)利性目的作為內(nèi)在驅(qū)動(dòng)力，對(duì)消費(fèi)者的個(gè)人信息有選擇性地進(jìn)行收集，集結(jié)帶有消費(fèi)者個(gè)性化屬性的經(jīng)濟(jì)狀況、支付能力、支付意愿、消費(fèi)場(chǎng)景等信息，形成消費(fèi)者個(gè)人的數(shù)字畫像，構(gòu)成算法歧視的基礎(chǔ)。另一方面，市場(chǎng)要素的數(shù)字化投射不一定真實(shí)，也不一定完整，導(dǎo)致數(shù)據(jù)采集受現(xiàn)實(shí)環(huán)境中的信息分布、表征、接近性和可得性、個(gè)體的動(dòng)機(jī)和目標(biāo)、所采集樣本的有限性、樣本搜索算法，以及元認(rèn)知監(jiān)控能力不足等因素制約②馬丹丹、岑詠華、吳承堯：《信息樣本的有偏采集如何導(dǎo)致決策偏見?-基于采樣偏差的新視角述評(píng)》，《外國(guó)經(jīng)濟(jì)與管理》2017年第12期。，有可能發(fā)生偏差，這都在數(shù)據(jù)源頭為算法歧視埋下了隱患。這并不是真正針對(duì)個(gè)體的服務(wù)。模型在我們看不到的地方仍然把我們歸類為各種各樣的群體，以各種行為模式為指標(biāo)。不管最終的分析正確與否，這種不透明性都會(huì)導(dǎo)致欺詐③凱文·沃巴赫、林少偉：《信任，但需要驗(yàn)證：論區(qū)塊鏈為何需要法律》，《東方法學(xué)》2018年第4期。。

大數(shù)據(jù)是市場(chǎng)的一種鏡像，依賴于大數(shù)據(jù)的算法，從歷史數(shù)據(jù)中訓(xùn)練而獲得數(shù)據(jù)的類型化特征。一旦市場(chǎng)對(duì)某個(gè)群體存在結(jié)構(gòu)性的負(fù)面偏見，這種偏差就會(huì)反映到數(shù)據(jù)上，算法也會(huì)“如實(shí)”地歸納出這些偏差，以此為基礎(chǔ)進(jìn)行運(yùn)算并作出市場(chǎng)決策。算法在關(guān)聯(lián)標(biāo)記、置頂排名和過濾環(huán)節(jié)都可能存在潛在的歧視。具體而言：第一，被算法判定為存在關(guān)聯(lián)關(guān)系的不同數(shù)據(jù)之間有可能確實(shí)存在因果關(guān)系，但也可能僅是偶然巧合關(guān)聯(lián)，可是算法不會(huì)像法律一樣進(jìn)行嚴(yán)謹(jǐn)?shù)囊蚬P(guān)系分析，算法對(duì)因果關(guān)系和偶然關(guān)聯(lián)并不加以區(qū)分，直接把這些關(guān)聯(lián)數(shù)據(jù)用作分類和預(yù)測(cè)的依據(jù)，就會(huì)導(dǎo)致算法歧視甚至錯(cuò)誤④楊成越、羅先覺：《算法歧視的綜合治理初探》，《科學(xué)與社會(huì)》2018年第4期。。第二，算法運(yùn)行依賴置頂排名。內(nèi)含置頂排名的算法必須事先嵌入優(yōu)先標(biāo)準(zhǔn)，而這些標(biāo)準(zhǔn)可能被植入了帶有偏見的價(jià)值理念以進(jìn)行營(yíng)利驅(qū)動(dòng)。第三，過濾環(huán)節(jié)需要通過規(guī)則設(shè)置顯示有效信息，同時(shí)排除無效信息。過濾通常會(huì)根據(jù)前置環(huán)節(jié)中的關(guān)聯(lián)標(biāo)記和置頂排名決定排除哪些信息以及最終顯示哪些信息，前置環(huán)節(jié)的錯(cuò)誤和偏見會(huì)直接導(dǎo)致不公平的過濾，帶來歧視性顯示⑤劉培、池忠軍：《算法的倫理問題及其解決進(jìn)路》，《東北大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2019年第2期。。例如，網(wǎng)約車平臺(tái)軟件在評(píng)估乘客的消費(fèi)能力時(shí)，通常會(huì)從消費(fèi)頻率推測(cè)消費(fèi)者的忠誠(chéng)度。倘若消費(fèi)者使用軟件的頻率高，就會(huì)被算法自動(dòng)判定為高忠誠(chéng)度群體，而這類消費(fèi)者就是被平臺(tái)收取高價(jià)的群體。這種“忠誠(chéng)消費(fèi)者”的范疇化，就形成了一種預(yù)前判斷，也構(gòu)成了信息采集算法的分類標(biāo)準(zhǔn)和預(yù)測(cè)基礎(chǔ)。然而，這種由算法構(gòu)建的市場(chǎng)主體“身份類型化”“個(gè)體特征化”已經(jīng)內(nèi)含歧視風(fēng)險(xiǎn)，在某種層面就是把數(shù)據(jù)本身存在的歧視進(jìn)一步擴(kuò)大。相較于設(shè)計(jì)者、使用者的故意歧視，因數(shù)據(jù)本體產(chǎn)生的針對(duì)消費(fèi)者身份的歧視問題往往容易被忽視，并可能造成更為隱蔽和嚴(yán)重的后果。⑥卜素：《人工智能中的“算法歧視”問題及其審查標(biāo)準(zhǔn)》，《山西大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2019年第4期。

（二）信息偏在與選擇限制：特定推送算法歧視消費(fèi)者

在特定推送階段，算法在信息采集的“特征歧視”基礎(chǔ)上強(qiáng)化了經(jīng)營(yíng)者歧視消費(fèi)者的程度。特定推送算法基于強(qiáng)大的數(shù)據(jù)清洗和處理能力，在了解消費(fèi)者支付意愿后，將商品信息推送給特定標(biāo)簽群體或消費(fèi)者，以實(shí)現(xiàn)用戶獲取有效信息的成本最小化和互聯(lián)網(wǎng)企業(yè)利潤(rùn)最大化。例如，“因存貨和成本等因素的限制，Ebay 會(huì)把‘某清乾隆的梅瓶’賣給出價(jià)最高的張三，而不是只愿出價(jià)200元的李四①喻玲：《算法消費(fèi)者價(jià)格歧視反壟斷法屬性的誤讀及辨明》，《法學(xué)》2020年第9期。?！钡?，當(dāng)特定推送算法基于內(nèi)容推薦、協(xié)同過濾推薦、知識(shí)推薦、網(wǎng)絡(luò)結(jié)構(gòu)推薦、混合推薦等要素過濾機(jī)制將個(gè)性化推薦的程度發(fā)揮至極致時(shí)，同時(shí)也將消費(fèi)者自身因素形成“信息偏食”②人的認(rèn)知范圍與信息圈層受到主客觀條件限制，了解信息的范圍被稱為信息圈層，也被稱為“信息偏食”。的正常狀態(tài)推入由算法推送形成的“信息偏在”的“繭房”中，削弱了消費(fèi)者獲取信息的主觀動(dòng)力，導(dǎo)致消費(fèi)者認(rèn)知窄化，間接限制了消費(fèi)者選擇交易的權(quán)利③雖然不少缺乏自制力的“信息偏食者”極度依賴特定推送算法進(jìn)行商品選擇，但對(duì)這部分選擇以信息自主選擇權(quán)換取便利的消費(fèi)者而言，推送算法已由信息適配者角色僭越為信息的投喂者。。

除此之外，特定推送算法決策的高技術(shù)性和不透明性使消費(fèi)者難以理解算法決策過程，從而在互聯(lián)網(wǎng)企業(yè)與消費(fèi)者之間形成了“技術(shù)鴻溝”。美國(guó)學(xué)者尼沃·埃爾金科倫等提出了著名的算法黑箱理論：算法在很大程度上就是一個(gè)黑箱子，即不透明的輸入和輸出系統(tǒng)，普通人無從知曉輸入—輸出之間的相互作用是通過怎樣的結(jié)構(gòu)得以發(fā)生的，也不知道算法決策依據(jù)的具體數(shù)據(jù)指征和遵循的決策準(zhǔn)則是什么④［美］尼沃·埃爾金科倫、尼爾·溫斯托克·內(nèi)坦尼爾：《信息的商品化》，中信出版社2003年版，第231-234頁。。隨著技術(shù)商業(yè)化的普及，“黑箱”這一形象的表述也越來越具有經(jīng)濟(jì)學(xué)意蘊(yùn)。壟斷平臺(tái)企圖利用算法控制相關(guān)市場(chǎng)，而沒有掌握算法技術(shù)的市場(chǎng)主體（包括其他經(jīng)營(yíng)者和消費(fèi)者）都被排除在算法“黑箱”之外。隨著算法決策在特定推送領(lǐng)域的廣泛應(yīng)用，人們開始擔(dān)心數(shù)字經(jīng)濟(jì)市場(chǎng)最終會(huì)演變成算法黑箱操作系統(tǒng)控制的“黑市”，侵害廣大經(jīng)營(yíng)者的公平競(jìng)爭(zhēng)權(quán)以及消費(fèi)者的基本權(quán)利⑤丁曉東：《算法與歧視-從美國(guó)教育平權(quán)案看算法倫理與法律解釋》，《中外法學(xué)》2017年第6期。。長(zhǎng)此以往，信息的過度不對(duì)稱導(dǎo)致技術(shù)劣勢(shì)方被迫臣服于技術(shù)強(qiáng)勢(shì)方的“算法權(quán)威”。在算法黑箱的助推下，算法實(shí)施了大量帶有歧視性的定價(jià)行為和推送行為，從而使算法演變成為大數(shù)據(jù)時(shí)代市場(chǎng)壟斷的幫兇⑥鄭智航、徐昭曦：《大數(shù)據(jù)時(shí)代算法歧視的法律規(guī)制與司法審查-以美國(guó)法律實(shí)踐為例》，《比較法研究》2019年第4期。。

（三）幕后控制與價(jià)格歧視：定價(jià)算法歧視消費(fèi)者

定價(jià)算法以前面兩步驟為基礎(chǔ)，制定一個(gè)價(jià)格歧視機(jī)制（price algorithmic discrimination），確保不同消費(fèi)者享受不同的產(chǎn)品價(jià)格⑦Hacker，Philipp. Teaching Fairness to Artificial Intelligence：Existing and Novel Strategies Against Algorithmic Discrimination Under EU Law. Social Science Electronic Publishing , 2018.。算法與幕后的設(shè)計(jì)者和控制人有著不可分離的關(guān)系，算法歧視可能源于設(shè)計(jì)者或控制人的違法行為。第一，受制于當(dāng)前技術(shù)發(fā)展水平，算法介入市場(chǎng)的程度尚不足以完全改變?nèi)肆刂剖袌?chǎng)的基本格局。處于弱人工智能水平的算法不具有主體性，算法的設(shè)計(jì)、運(yùn)行還需要依賴人為操作和控制。正如有的學(xué)者所言，機(jī)器背后仍是有權(quán)者對(duì)多數(shù)人的控制⑧陳姿含：《人工智能算法中的法律主體性危機(jī)》，《法律科學(xué)（西北政法大學(xué)學(xué)報(bào)）》2019年第4期。。置換到市場(chǎng)中，即算法背后是擁有市場(chǎng)支配地位的經(jīng)營(yíng)者對(duì)消費(fèi)者的控制。在消費(fèi)者面前出現(xiàn)的是一種更加“善解人意”的軟件，消費(fèi)者不會(huì)意識(shí)到已經(jīng)處于“被決定”的被動(dòng)地位。第二，依靠算法進(jìn)行數(shù)據(jù)處理，將引入、擴(kuò)大設(shè)計(jì)者或控制人的偏見并延續(xù)數(shù)據(jù)偏差，進(jìn)而導(dǎo)致決策不公。信息爆炸使得人們必須依靠技術(shù)手段對(duì)海量信息進(jìn)行篩選和評(píng)估。算法作出決策的基礎(chǔ)是數(shù)據(jù)，決策的優(yōu)劣離不開人（算法設(shè)計(jì)者或控制人）對(duì)算法進(jìn)行目標(biāo)和程序設(shè)定，即如何采集和處理數(shù)據(jù)。在這一過程中算法如果承繼人的某些偏見，并通過高速處理將其擴(kuò)大或循環(huán)，就會(huì)導(dǎo)致算法歧視。第三，算法幕后的設(shè)計(jì)者或控制人可能濫用算法技術(shù)權(quán)力。如通過算法歧視進(jìn)行個(gè)性化差異定價(jià)，快速謀取壟斷利潤(rùn)。當(dāng)算法設(shè)計(jì)者或控制人針對(duì)消費(fèi)者指控而發(fā)布技術(shù)中立的免責(zé)聲明時(shí)，幕后隱藏的可能是人為的故意或疏忽大意。谷歌公司利用算法排除競(jìng)爭(zhēng)案即為典型。眾所周知，谷歌公司主要提供搜索引擎服務(wù)，購(gòu)物比價(jià)是其針對(duì)網(wǎng)絡(luò)購(gòu)物提供的一款專業(yè)搜索服務(wù)，用戶輸入商品關(guān)鍵詞，就會(huì)出現(xiàn)不同網(wǎng)站的商品供用戶比較選擇。谷歌公司聲稱所展示的商品完全根據(jù)算法自動(dòng)得出，算法能依據(jù)商品網(wǎng)頁的鏈接數(shù)量與質(zhì)量來判定該商品的重要性，并按重要程度排列向用戶展示。而當(dāng)其自己的購(gòu)物網(wǎng)站-Google Shopping 服務(wù)業(yè)務(wù)進(jìn)入歐洲市場(chǎng)后，谷歌公司就通過技術(shù)編輯算法，將自己旗下的商品信息置于展示頁面的顯眼位置，以提高用戶的關(guān)注度和購(gòu)買意愿，但是諸多證據(jù)顯示其商品并不是最優(yōu)①［美］弗蘭克·帕斯奎爾：《黑箱社會(huì)：控制金錢和信息的數(shù)據(jù)法則》，趙亞男譯，中信出版社2015年版，第131-133頁。。作為算法控制人和實(shí)際獲益者的谷歌公司卻聲稱該推薦與其無關(guān)，只是算法運(yùn)行的結(jié)果，顯然其說辭難以令人信服。

三、 算法歧視消費(fèi)者的損益界定

當(dāng)算法在不同領(lǐng)域階段實(shí)施歧視消費(fèi)者行為時(shí)，會(huì)產(chǎn)生不同程度的消費(fèi)者權(quán)益損失問題。算法歧視加劇了經(jīng)營(yíng)者和消費(fèi)者之間的技術(shù)鴻溝，導(dǎo)致消費(fèi)者的信息劣勢(shì)地位進(jìn)一步強(qiáng)化。算法使用者利用算法技術(shù)內(nèi)部的不透明性以及商業(yè)秘密保護(hù)制度的掩蓋，故意持續(xù)鞏固算法的黑箱效應(yīng)，逐步將算法技術(shù)遷徙到市場(chǎng)規(guī)制的空白領(lǐng)域，導(dǎo)致既有的市場(chǎng)規(guī)制制度無法有效適用于算法歧視行為。算法歧視在操縱算法黑箱化的同時(shí)也使消費(fèi)者進(jìn)一步透明化，導(dǎo)致“強(qiáng)者行其所能為，弱者忍其所必受”的后果，消費(fèi)者在算法歧視下的網(wǎng)絡(luò)市場(chǎng)環(huán)境中苦不堪言?！拔簞t西事件”折射出百度搜索算法設(shè)計(jì)中的漏洞，今日頭條因算法推薦內(nèi)容同質(zhì)化而廣受詬病，滴滴網(wǎng)約車軟件因算法動(dòng)態(tài)定價(jià)被質(zhì)疑“殺熟”②杜小奇：《多元協(xié)作框架下算法的規(guī)制》，《河北法學(xué)》2019年第12期。。這使得算法這一新興商業(yè)運(yùn)作模式面臨合法性質(zhì)疑。但算法歧視消費(fèi)者行為的階段性特征使得算法歧視產(chǎn)生的損益結(jié)果具有極強(qiáng)的隱蔽性，消費(fèi)者難以判斷其遭受何種程度的歧視。因此，對(duì)算法歧視消費(fèi)者的損益界定，亟待根據(jù)其行為的階段性特征入手，從多法域角度界定損益后果。

（一）信息采集算法歧視消費(fèi)者的損益界定

如前所述，信息采集算法構(gòu)建的市場(chǎng)主體“身份類型化”“單體化特征”已經(jīng)內(nèi)含歧視風(fēng)險(xiǎn)。在信息采集階段算法的“歧視標(biāo)準(zhǔn)”損害的是不特定主體的數(shù)據(jù)權(quán)等基本權(quán)利，這些利益的享有人不確定，利益侵害的力度未知，危害后果難以遏制，且受損害的個(gè)體難以獲得救濟(jì)③章小杉：《人工智能算法歧視的法律規(guī)制：歐美經(jīng)驗(yàn)與中國(guó)路徑》，《華東理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2019年第6期。。主要表現(xiàn)為以消費(fèi)者性別、消費(fèi)者來源地與消費(fèi)者職業(yè)等身份信息作為算法歧視的基礎(chǔ)④消費(fèi)者性別差異會(huì)使男女間產(chǎn)生消費(fèi)觀念、消費(fèi)偏好的差別，消費(fèi)者來源地是消費(fèi)者的個(gè)人基本信息，而非直接的經(jīng)濟(jì)特征。此外，消費(fèi)者職業(yè)是消費(fèi)者的個(gè)人身份信息，不能直接反應(yīng)一個(gè)人的收入水平、偏好。。按照德國(guó)社會(huì)學(xué)家馬克斯·韋伯的工具理性和價(jià)值理性理論，工具理性強(qiáng)調(diào)工具崇拜，主張發(fā)揮工具的最大效用，價(jià)值理性則以人的動(dòng)機(jī)和選擇作為實(shí)現(xiàn)目標(biāo)的決定因素。數(shù)字經(jīng)濟(jì)使得工具理性發(fā)生異化，算法技術(shù)由給人類提供輔助的工具轉(zhuǎn)化為反噬人類理性的工具。一方面，自我迭代的算法導(dǎo)致市場(chǎng)主體被全面奴役，它預(yù)設(shè)市場(chǎng)主體的身份，以統(tǒng)計(jì)學(xué)上的關(guān)聯(lián)性替代因果關(guān)系對(duì)個(gè)體進(jìn)行歸類和預(yù)測(cè)，成為市場(chǎng)競(jìng)爭(zhēng)規(guī)則的塑造者；另一方面，算法日益復(fù)雜化，使市場(chǎng)主體逐漸淪為被技術(shù)操縱的對(duì)象，人的主體性發(fā)生危機(jī)，出現(xiàn)越來越多市場(chǎng)主體無法解釋和控制的算法歧視行為。但科學(xué)技術(shù)并非無價(jià)值邊界，只有當(dāng)其符合市場(chǎng)主體的普遍價(jià)值判斷時(shí)，才會(huì)逐漸被信任并接受。算法運(yùn)行的邏輯是技術(shù)的自我迭代與革新，而法律運(yùn)行的機(jī)理是公眾認(rèn)知的理性選擇。因此，法律作為人類生活規(guī)則化的方向性指引，對(duì)算法歧視行為能夠起到制度性引領(lǐng)的作用。

（二）特定推送算法歧視消費(fèi)者的損益界定

消費(fèi)者的自主權(quán)，是指消費(fèi)者依據(jù)自我決定的消費(fèi)目的和自我判斷的商品價(jià)值作出理性抉擇的自由。然而，經(jīng)營(yíng)者尤其是一些互聯(lián)網(wǎng)企業(yè)會(huì)通過算法對(duì)消費(fèi)者的個(gè)人信息進(jìn)行收集、整理和分析，從而給消費(fèi)者提供“私人定制”的服務(wù)。其聲明會(huì)尊重和保護(hù)消費(fèi)者數(shù)據(jù)權(quán)利，承諾算法具備客觀性和中立性，以吸引和誘導(dǎo)消費(fèi)者將更多具有商業(yè)價(jià)值的決策權(quán)移交給互聯(lián)網(wǎng)企業(yè)。從搜索引擎、新聞推送到購(gòu)物出行，甚至個(gè)人信息如何使用都嚴(yán)重依賴算法決策①王鍇：《基本權(quán)利保護(hù)范圍的界定》，《法學(xué)研究》2020年第5期。。隨著算法自主性的增強(qiáng)，作為主體的消費(fèi)者的自主性卻隨之減弱，導(dǎo)致算法損害消費(fèi)者權(quán)益的現(xiàn)象出現(xiàn)。特定推送算法對(duì)消費(fèi)者瀏覽足跡和購(gòu)買歷史累積的大數(shù)據(jù)進(jìn)行技術(shù)性搜集和分析，推測(cè)出消費(fèi)者能夠承受的最高價(jià)格，對(duì)不同的消費(fèi)者實(shí)施個(gè)性化信息推送或屏蔽。算法的個(gè)性化推薦對(duì)在線消費(fèi)者進(jìn)行商品、服務(wù)和信息推送不僅會(huì)迎合消費(fèi)者偏好，更直接關(guān)聯(lián)經(jīng)營(yíng)者的經(jīng)濟(jì)利益，它決定誰的商品能夠在排序中置頂從而優(yōu)先推送給消費(fèi)者②沈偉偉：《算法透明原則的迷思-算法規(guī)制理論的批判》，《環(huán)球法律評(píng)論》2019年第6期。。雖然消費(fèi)者與經(jīng)營(yíng)者之間始終存在信息不對(duì)稱狀態(tài)，但特定推送算法的“黑箱機(jī)制”進(jìn)一步加劇了這種不對(duì)稱，導(dǎo)致消費(fèi)者按照經(jīng)營(yíng)者所希望的意思在進(jìn)行表示，根本沒有意識(shí)到意思表示已經(jīng)不真實(shí)，使得處于信息弱勢(shì)一方的消費(fèi)者無法作出真正的自主決策。

消費(fèi)者自主權(quán)的正常行使建立在信息多元化能夠得到保障的基礎(chǔ)之上，而算法的個(gè)性化推薦只推送部分信息，造成信息繭房，進(jìn)而阻礙消費(fèi)者自主權(quán)的行使。而且隨著算法深度學(xué)習(xí)功能越來越強(qiáng)大，個(gè)性化推薦甚至可以脫離消費(fèi)者線上活動(dòng)的足跡，引導(dǎo)消費(fèi)者按照企業(yè)的營(yíng)銷思路作出決策，即算法專業(yè)領(lǐng)域所稱的“無歷史數(shù)據(jù)用戶的冷啟動(dòng)”。例如在谷歌地圖軟件上，如果軟件所使用的算法不關(guān)心用戶的實(shí)際定位以及其所希望到達(dá)的目的地，而只關(guān)注廣告商期待用戶將途經(jīng)或到達(dá)的地點(diǎn)，則依賴谷歌地圖確定出行路線的用戶，就會(huì)如同木偶表演一樣被引導(dǎo)走向既定路線③范紅霞、孫金波：《大數(shù)據(jù)時(shí)代算法偏見與數(shù)字魔咒-兼談“信息繭房”的破局》，《中國(guó)出版》2019年第10期。。從經(jīng)營(yíng)者角度觀察，算法決策會(huì)越來越契合其營(yíng)利性需求，但若站在消費(fèi)者角度思考，消費(fèi)者往往已經(jīng)落入經(jīng)營(yíng)者的營(yíng)銷套路。最終的結(jié)果就是消費(fèi)者的自主權(quán)被進(jìn)一步削弱，消費(fèi)者自主選擇等基本權(quán)利的能力被持續(xù)削弱。

（三）定價(jià)算法歧視消費(fèi)者的損益界定

由于企業(yè)利益至上的營(yíng)銷方案，支撐其營(yíng)銷方案的算法會(huì)通過加強(qiáng)對(duì)用戶的監(jiān)控使其產(chǎn)生用戶黏性，在相關(guān)市場(chǎng)中獲取并鞏固壟斷地位，嚴(yán)重破壞了市場(chǎng)競(jìng)爭(zhēng)秩序④馬長(zhǎng)山：《智能互聯(lián)網(wǎng)時(shí)代的法律變革》，《法學(xué)研究》2018年第4期。?？梢姡趥€(gè)性化定價(jià)階段，定價(jià)算法歧視不僅損害了消費(fèi)者個(gè)體權(quán)利，也損害了競(jìng)爭(zhēng)性利益，具有明顯的違法性與損益性⑤從競(jìng)爭(zhēng)法治的維度上看，算法歧視可歸入反壟斷法所禁止的價(jià)格歧視行為，對(duì)于價(jià)格歧視的認(rèn)定標(biāo)準(zhǔn)、競(jìng)爭(zhēng)損害等，域外執(zhí)法和司法實(shí)踐中積累了不少典型案例和成熟做法。國(guó)內(nèi)競(jìng)爭(zhēng)執(zhí)法部門和法院在分析相關(guān)案件時(shí)傾向于利用《反壟斷法》第 1條中的“保護(hù)市場(chǎng)公平競(jìng)爭(zhēng)”來解釋案件中實(shí)施價(jià)格歧視的經(jīng)營(yíng)者的行為違法性。。

個(gè)性化定價(jià)導(dǎo)致過高定價(jià)。定價(jià)算法主導(dǎo)的個(gè)性化定價(jià)以行為經(jīng)濟(jì)學(xué)理論為基礎(chǔ)，通過收集消費(fèi)者的個(gè)人信息數(shù)據(jù)，在定價(jià)變量的設(shè)計(jì)中保留對(duì)自己有利的因子，剔除對(duì)消費(fèi)者有利的因子，從而確保最大限度地抓取消費(fèi)者的消費(fèi)傾向和價(jià)格上限信息，制定契合消費(fèi)者支付意愿的完美定價(jià)，促使交易量和交易額同時(shí)大幅增加。但個(gè)性化定價(jià)實(shí)質(zhì)是在侵犯消費(fèi)者個(gè)人信息基礎(chǔ)上的過高定價(jià)，導(dǎo)致本應(yīng)歸屬個(gè)體消費(fèi)者的剩余毫無保留地向單個(gè)經(jīng)營(yíng)者轉(zhuǎn)移。例如，在“Merci v.Siderurgica”案中，向特定客戶進(jìn)行過高定價(jià)彌補(bǔ)其他價(jià)格優(yōu)惠損失的策略是非法的①EUR-Lex - 61990CJ0179- EN https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A61990CJ0179，最后訪問時(shí)間：2021年1月18日。。

個(gè)性化定價(jià)導(dǎo)致壟斷定價(jià)。定價(jià)算法主導(dǎo)的個(gè)性化定價(jià)使經(jīng)營(yíng)者能夠在既有的產(chǎn)品種類上獲得高額利潤(rùn)，其沒有創(chuàng)新動(dòng)力再進(jìn)行產(chǎn)品的更新?lián)Q代，相關(guān)產(chǎn)品市場(chǎng)會(huì)持續(xù)變窄，形成高度集中的市場(chǎng)環(huán)境。而高度集中的市場(chǎng)環(huán)境中，算法技術(shù)的應(yīng)用使各經(jīng)營(yíng)者能夠輕易獲取其他競(jìng)爭(zhēng)者的定價(jià)信息，導(dǎo)致市場(chǎng)在經(jīng)營(yíng)者端變得透明，透明且集中的市場(chǎng)又給默示共謀行為的滋生提供了養(yǎng)分和環(huán)境。故個(gè)性化定價(jià)會(huì)進(jìn)一步促成經(jīng)營(yíng)者之間的默示共謀，經(jīng)營(yíng)者在默契配合下同時(shí)提高產(chǎn)品價(jià)格，消費(fèi)者由于相關(guān)市場(chǎng)狹窄而無法利用手中的價(jià)格選票進(jìn)行對(duì)抗，只能被迫接受經(jīng)營(yíng)者的壟斷定價(jià)，進(jìn)而導(dǎo)致整體消費(fèi)者剩余向經(jīng)營(yíng)者端轉(zhuǎn)移?？梢?，個(gè)性化定價(jià)導(dǎo)致的壟斷定價(jià)在侵犯消費(fèi)者自由選擇空間的同時(shí)也掠奪了價(jià)格福利。傳統(tǒng)司法實(shí)踐也認(rèn)可了這種歧視行為的違法性。在“Deutsche Post AG”案中，德國(guó)郵政公司針對(duì)競(jìng)爭(zhēng)對(duì)手故意延緩信件傳遞時(shí)間，并利用其德國(guó)國(guó)內(nèi)郵政市場(chǎng)的壟斷地位與信息優(yōu)勢(shì)收取過高定價(jià)，對(duì)消費(fèi)者具有直接的負(fù)面影響②EUR-Lex - 32001D0892- EN https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32001D0892，最后訪問時(shí)間：2021年1月18日。。

（四）初步結(jié)論與思考

算法歧視消費(fèi)者的階段性行為使算法歧視的特征表現(xiàn)極具隱蔽性。在信息采集階段，算法的“歧視標(biāo)準(zhǔn)”損害的是不特定主體的公民基本權(quán)利。在特定推送階段，算法推送對(duì)象與排斥對(duì)象具有明晰的“身份特征”，損害的是消費(fèi)者的自主決策權(quán)利；在個(gè)性定價(jià)階段，定價(jià)算法不僅損害消費(fèi)者個(gè)體權(quán)利，也損害競(jìng)爭(zhēng)性利益，具有明顯的違法性與侵權(quán)性。與損害公民基本權(quán)利的算法歧視相比，損害消費(fèi)者利益的算法歧視有著明顯不同。首先，二者損害的對(duì)象不同，損害公民基本權(quán)利的算法歧視損害的是不特定主體的權(quán)利，包括性別平等、身份平等社會(huì)性基本權(quán)利；而損害消費(fèi)者權(quán)益的算法歧視損害的則是特定消費(fèi)者的公平交易權(quán)和自由選擇權(quán)，即使損害范圍在個(gè)案中時(shí)大時(shí)小，但始終局限在消費(fèi)者群體范圍內(nèi)。其次，損害利益的不同進(jìn)而導(dǎo)致二者適用的法律規(guī)范也會(huì)存在差異，前者由于損害利益的不確定性，適合從法律原則層次進(jìn)行引導(dǎo)；而后者基于損害消費(fèi)者利益的確定性，適合由《消費(fèi)者權(quán)益保護(hù)法》《電子商務(wù)法》《反壟斷法》等具體法律規(guī)則進(jìn)行規(guī)制。

四、 核心要義：算法參與者的權(quán)益平衡

“在動(dòng)態(tài)而復(fù)雜的數(shù)字經(jīng)濟(jì)市場(chǎng)中，增強(qiáng)消費(fèi)者的信任度仍然是數(shù)字經(jīng)濟(jì)成功的基石”③Gokce，Ebru. Competition Issues in the Digital Economy UNCTAD Background Note 2019. 18th session of Intergovernmental Group of Experts on Competition Law and Policy, 2019.。雖然算法服務(wù)數(shù)字經(jīng)濟(jì)的功能得到主要經(jīng)濟(jì)體普遍承認(rèn)，但數(shù)字經(jīng)濟(jì)的發(fā)展需要通過企業(yè)間的算法競(jìng)爭(zhēng)來形成前進(jìn)動(dòng)力，算法競(jìng)爭(zhēng)產(chǎn)生的歧視消費(fèi)者現(xiàn)象同樣受到各國(guó)監(jiān)管層的密切關(guān)注④Vatamanescu E M，Nistoreanu B G，Mitan A. Competition and Consumer Behavior in the Context of the Digital Economy,Amfiteatru Economic Journal，2017，19（45）, pp.354-366.。算法展現(xiàn)出對(duì)資源配置機(jī)制的創(chuàng)新性改造⑤姚前：《算法經(jīng)濟(jì)：資源配置的新機(jī)制》，《清華金融評(píng)論》2018年第10期。，又為其服務(wù)市場(chǎng)所面臨的市場(chǎng)競(jìng)爭(zhēng)與公平秩序限定了邊界。追求公平的算法秩序決定了算法歧視消費(fèi)者必然面臨“形式與實(shí)質(zhì)”“群組與個(gè)體”等不同維度的規(guī)制態(tài)勢(shì)，因此，對(duì)規(guī)制算法歧視消費(fèi)者的多維度解讀，將有助于我國(guó)規(guī)制算法歧視消費(fèi)者的基本邏輯構(gòu)建。

（一）權(quán)益判斷：算法參與主體的沖突

在信息采集階段，算法歧視使經(jīng)營(yíng)者的算法自主決策權(quán)與消費(fèi)者的隱私權(quán)等基本權(quán)利之間會(huì)產(chǎn)生沖突。一方面，經(jīng)營(yíng)者主體享有算法使用的自主決策權(quán)限。例如，法律雖未禁止經(jīng)營(yíng)者使用人臉、聲紋等識(shí)別技術(shù)依托的算法采集消費(fèi)者個(gè)人生物信息，但經(jīng)營(yíng)者未經(jīng)消費(fèi)者同意偷攝、偷錄消費(fèi)者個(gè)人生物識(shí)別信息，就會(huì)嚴(yán)重侵犯消費(fèi)者隱私權(quán)。其后的甄別消費(fèi)者身份的行為亦侵犯了消費(fèi)者的身份平等權(quán)①新華網(wǎng)：《為防人臉識(shí)別戴頭盔看房，警惕技術(shù)濫用加劇隱私危機(jī)》，http://www.xinhuanet.com/comments/2020-11/25/c_1126786219.htm，最后訪問時(shí)間：2021年1月20日。，并可能進(jìn)一步限制公民相關(guān)的政治權(quán)力和自由。另一方面，經(jīng)營(yíng)者與消費(fèi)者“共享信息”，甚至比消費(fèi)者先獲收益的同時(shí)，卻未能“共擔(dān)風(fēng)險(xiǎn)”。消費(fèi)者按約提供信息是獲得經(jīng)營(yíng)者提供信息推送、購(gòu)買商品等服務(wù)的必然前提。根據(jù)消費(fèi)者的消費(fèi)意愿有無、強(qiáng)弱，大量消費(fèi)者可能只停留在信息提供階段，而沒有進(jìn)一步瀏覽信息或購(gòu)買商品的行動(dòng)。因此，經(jīng)營(yíng)者可在向消費(fèi)者提供服務(wù)前，將采集到的消費(fèi)者信息整備成其數(shù)據(jù)資源庫(kù)的組成部分，發(fā)揮額外的商業(yè)價(jià)值。與此同時(shí)，經(jīng)營(yíng)者在使用消費(fèi)者信息的過程中也存在泄露消費(fèi)者個(gè)人信息的行為。澳大利亞競(jìng)爭(zhēng)和消費(fèi)者委員會(huì)（ACCC）調(diào)研報(bào)告顯示，消費(fèi)者在未享有部分收益的同時(shí)，還要額外承擔(dān)因信息泄露給自己帶來損害的風(fēng)險(xiǎn)②ACCC，NSW Young Lawyers （April 2018），https://www.accc.gov.au/system/files/NSW%20Young%20Lawyers%20%28April%202 018%29.pdf，最后訪問時(shí)間：2021年1月22日。。

在特定推送階段，算法歧視使經(jīng)營(yíng)者的推薦策略權(quán)與消費(fèi)者知情權(quán)、自主選擇權(quán)發(fā)生沖突。消費(fèi)者的知情權(quán)是知悉商品或服務(wù)真實(shí)情況的權(quán)利；消費(fèi)者的自主選擇權(quán)是消費(fèi)者遵從自我意愿，自主選擇商品或服務(wù)的權(quán)利。對(duì)于經(jīng)營(yíng)者的推薦策略，因不具體指向任何一項(xiàng)產(chǎn)品或服務(wù)，且本身無法產(chǎn)生強(qiáng)制購(gòu)買的效果。從降低交易成本的角度看，不宜一概認(rèn)定消費(fèi)者對(duì)經(jīng)營(yíng)者的推薦策略享有“選擇權(quán)”。若推薦策略的結(jié)果損害消費(fèi)者知情權(quán)、選擇權(quán)，那么經(jīng)營(yíng)者通過特定推送算法推送給消費(fèi)者的信息“應(yīng)當(dāng)同時(shí)向該消費(fèi)者提供不針對(duì)其個(gè)人特征的選項(xiàng)”③參見：《電子商務(wù)法》第18條第1款。。例如，在互聯(lián)網(wǎng)平臺(tái)版權(quán)交易中，互聯(lián)網(wǎng)平臺(tái)通過特定推送算法、熱點(diǎn)排名算法、流量扶持算法等算法工具進(jìn)行作品推廣，但平臺(tái)并未對(duì)推廣作品進(jìn)行版權(quán)合法性審查。這導(dǎo)致消費(fèi)者在購(gòu)買作品時(shí)需“自擔(dān)風(fēng)險(xiǎn)”④以視頻分享平臺(tái)嗶哩嗶哩（bilibili)為例，其在《嗶哩嗶哩彈幕網(wǎng)用戶使用協(xié)議》（2019 年 7 月 23 日版）7.7條款中注明：“用戶理解并同意自主選擇免費(fèi)下載和使用嗶哩嗶哩服務(wù)，風(fēng)險(xiǎn)自負(fù)，包括但不限于用戶使用嗶哩嗶哩服務(wù)過程中的行為，以及因使用嗶哩嗶哩服務(wù)產(chǎn)生的一切后果?！薄Ｍ瑫r(shí)，平臺(tái)將“征求著作權(quán)者授權(quán)或許可”的義務(wù)轉(zhuǎn)嫁給了消費(fèi)者，剝奪了消費(fèi)者向平臺(tái)追償?shù)臋?quán)利。

在個(gè)性定價(jià)階段，算法歧視使經(jīng)營(yíng)者的市場(chǎng)利益與消費(fèi)者剩余福利存在利益沖突。傳統(tǒng)經(jīng)濟(jì)領(lǐng)域，由于信息不對(duì)稱的問題雖然存在但并不突出，經(jīng)營(yíng)者市場(chǎng)利益與消費(fèi)者福利之間存在共生的可能性，經(jīng)營(yíng)者由于無法準(zhǔn)確判斷消費(fèi)者的支付意愿，只能通過制定合理價(jià)格的方式提升產(chǎn)品的性價(jià)比，以此吸引消費(fèi)者購(gòu)買并由此獲利，故經(jīng)營(yíng)者實(shí)現(xiàn)市場(chǎng)利益的同時(shí)也滿足了消費(fèi)者福利?？墒窃谒惴ㄖ鲗?dǎo)的大數(shù)據(jù)經(jīng)濟(jì)領(lǐng)域中，經(jīng)營(yíng)者基于其技術(shù)優(yōu)勢(shì)使信息不對(duì)稱演變?yōu)樾畔Ⅷ櫆?，?jīng)營(yíng)者可以通過對(duì)消費(fèi)者信息的分析進(jìn)行個(gè)性化定價(jià)，對(duì)忠誠(chéng)消費(fèi)者收取高價(jià)來獲取高額利潤(rùn)，對(duì)部分潛在消費(fèi)者收取相對(duì)低廉價(jià)格來獲取最大銷量，實(shí)現(xiàn)市場(chǎng)利益，而被算法判斷為“忠誠(chéng)”等級(jí)的消費(fèi)者卻因此付出高價(jià)。在 2016 年經(jīng)濟(jì)合作與發(fā)展組織（下文簡(jiǎn)稱OECD）“價(jià)格歧視”圓桌會(huì)議上，美國(guó)、日本、俄羅斯等國(guó)家的競(jìng)爭(zhēng)執(zhí)法部門就表示，由于基于數(shù)據(jù)的企業(yè)可以更準(zhǔn)確預(yù)測(cè)每個(gè)消費(fèi)者的支付意愿，價(jià)格歧視在數(shù)字經(jīng)濟(jì)中的應(yīng)用更為廣泛，這就增加了企業(yè)實(shí)施剝削性價(jià)格歧視的風(fēng)險(xiǎn)，并且可能損害公平的市場(chǎng)競(jìng)爭(zhēng)秩序①周圍：《人工智能時(shí)代個(gè)性化定價(jià)算法的反壟斷法規(guī)制》，《武漢大學(xué)學(xué)報(bào)》2021年第1期。?？梢?，個(gè)性化定價(jià)階段，算法歧視直接導(dǎo)致了經(jīng)營(yíng)者市場(chǎng)利益和消費(fèi)者剩余福利之間的嚴(yán)重利益沖突。

（二）分散規(guī)制：權(quán)益失衡的秩序模式

數(shù)字經(jīng)濟(jì)作為經(jīng)濟(jì)新業(yè)態(tài)和新模式，必然對(duì)政府和市場(chǎng)監(jiān)管規(guī)則產(chǎn)生新的挑戰(zhàn)。總體上，現(xiàn)有數(shù)字經(jīng)濟(jì)監(jiān)管模式仍然沿襲傳統(tǒng)市場(chǎng)的二元分散治理模式：市場(chǎng)競(jìng)爭(zhēng)實(shí)現(xiàn)市場(chǎng)力量制衡；政府秉持包容、事后的監(jiān)管態(tài)度。算法歧視規(guī)制往往出現(xiàn)“打地鼠式”的治理困境，缺乏系統(tǒng)性的協(xié)同治理。2020年3月，工業(yè)和信息化部關(guān)于印發(fā)《中小企業(yè)數(shù)字化賦能專項(xiàng)行動(dòng)方案》明確“發(fā)展數(shù)字經(jīng)濟(jì)新模式新業(yè)態(tài)”“鼓勵(lì)發(fā)展算法產(chǎn)業(yè)和數(shù)據(jù)產(chǎn)業(yè)”。無獨(dú)有偶，2020年4月，國(guó)家發(fā)展和改革委員會(huì)等13個(gè)部委印發(fā)《關(guān)于支持新業(yè)態(tài)新模式健康發(fā)展，激活消費(fèi)市場(chǎng)帶動(dòng)擴(kuò)大就業(yè)的意見》（下稱《意見》）力促“質(zhì)量變革、效率變革、動(dòng)力變革”，推動(dòng)經(jīng)濟(jì)“新業(yè)態(tài)新模式”的確立。在諸多產(chǎn)業(yè)政策加持下，算法經(jīng)濟(jì)提速與算法競(jìng)爭(zhēng)加劇的場(chǎng)景顯現(xiàn)也在情理之中。在產(chǎn)業(yè)激勵(lì)政策之外，《意見》提及對(duì)數(shù)字經(jīng)濟(jì)創(chuàng)新要“創(chuàng)新監(jiān)管模式，積極鼓勵(lì)創(chuàng)新，健全觸發(fā)式監(jiān)管機(jī)制”。因此，宏觀政策對(duì)算法歧視消費(fèi)者所涉利益沖突的規(guī)制態(tài)度表現(xiàn)并不明確。

算法歧視消費(fèi)者行為在法律責(zé)任認(rèn)定及追究方面也存在諸多問題。在立法層面，如《反壟斷法》要求實(shí)施算法價(jià)格歧視行為的經(jīng)營(yíng)者具有市場(chǎng)支配地位，但認(rèn)定互聯(lián)網(wǎng)企業(yè)具備市場(chǎng)支配地位的標(biāo)準(zhǔn)并不明晰。在部門規(guī)范中，文旅部2020年出臺(tái)的《在線旅游經(jīng)營(yíng)服務(wù)管理暫行規(guī)定》明確禁止在線旅游經(jīng)營(yíng)者濫用大數(shù)據(jù)分析等技術(shù)手段，基于旅游者消費(fèi)記錄、旅游偏好等設(shè)置不公平的交易條件，侵犯旅游者合法權(quán)益，但其適用范圍有限。在擬出臺(tái)立法層面，《個(gè)人數(shù)據(jù)保護(hù)法（草案）》構(gòu)建了“通知-使用”的個(gè)人信息權(quán)保護(hù)規(guī)則體系；《關(guān)于平臺(tái)經(jīng)濟(jì)的反壟斷指南（征求意見稿）》更是明確提出禁止算法歧視消費(fèi)者；《深圳經(jīng)濟(jì)特區(qū)數(shù)據(jù)暫行條例（草案）》提出經(jīng)營(yíng)性數(shù)據(jù)要素市場(chǎng)主體不得通過分析消費(fèi)者的個(gè)人信息、消費(fèi)記錄、偏好等數(shù)據(jù)，對(duì)商品或者服務(wù)設(shè)置不公平的交易條件，侵犯消費(fèi)者合法權(quán)益，但這些草案的保護(hù)效力尚待實(shí)踐檢驗(yàn)。在適用內(nèi)容方面，消費(fèi)者可以因公平交易權(quán)和知情權(quán)受到侵害獲得《消費(fèi)者權(quán)益保護(hù)法》救濟(jì)，但實(shí)踐中算法的法律定位更多確定為企業(yè)商業(yè)競(jìng)爭(zhēng)的“工具”而不是商品，不屬于消費(fèi)者知情范圍，經(jīng)營(yíng)者甚至以算法涉及商業(yè)秘密為由進(jìn)行抗辯②葉明、郭江蘭：《數(shù)字經(jīng)濟(jì)時(shí)代算法價(jià)格歧視行為的法律規(guī)制》，《價(jià)格月刊》2020年第3期。。在司法實(shí)踐中，“劉權(quán)與北京三快科技有限公司侵權(quán)責(zé)任糾紛案”的原告主張美團(tuán)外賣利用行業(yè)壟斷優(yōu)勢(shì)和“大數(shù)據(jù)殺熟”的技術(shù)手段來區(qū)別定價(jià)，侵犯了自己的知情權(quán)、公平交易權(quán)。二審法院認(rèn)為原告兩份訂單雖然購(gòu)買商家、商品、收貨地址一致，但關(guān)鍵下單時(shí)間不一致。三快科技公司根據(jù)平臺(tái)交易量對(duì)配送費(fèi)進(jìn)行動(dòng)態(tài)調(diào)整，是自身正常經(jīng)營(yíng)行為，不構(gòu)成侵權(quán)③劉權(quán)、北京三快科技有限公司侵權(quán)責(zé)任糾紛二審民事判決書〔2019〕湘01民終9501號(hào)。。因此，法律制度的滯后性以及政府規(guī)制的不完全性，導(dǎo)致宏觀政策在創(chuàng)新與限制、競(jìng)爭(zhēng)與規(guī)制之間的邊界探索尚不充分。

平臺(tái)自我管制本是逐利本質(zhì)驅(qū)使的一己私利優(yōu)先行為，但平臺(tái)自我管制在逐利動(dòng)機(jī)的驅(qū)使下，必然選擇平臺(tái)方或平臺(tái)生態(tài)圈的利益優(yōu)先策略。雖然算法歧視消費(fèi)者問題備受關(guān)注，每次涉事企業(yè)都否認(rèn)利用算法技術(shù)歧視消費(fèi)者，最后結(jié)果也都往往不了了之。例如，2015 年 1 月國(guó)家工商管理部門指出淘寶正品率僅為37.25%，沒有擔(dān)負(fù)監(jiān)督檢查責(zé)任。但阿里聲稱雖然自己有義務(wù)監(jiān)管假貨，但憑借企業(yè)自身的監(jiān)督力量很難有效監(jiān)管淘寶市場(chǎng)，并認(rèn)為前國(guó)家工商總局抽檢不合程序和規(guī)范，貿(mào)然公開其過低的產(chǎn)品合格率，影響了其市場(chǎng)聲譽(yù)④新華網(wǎng)，《工商總局局長(zhǎng)談網(wǎng)絡(luò)企業(yè)售假：可罰到傾家蕩產(chǎn)》，http://www.xinhuanet.com//politics/2015lh/2015-03/10/c_127 562 630_2.htm，最后訪問時(shí)間：2021年1月21日。。又如，在2019年10月北京消費(fèi)者協(xié)會(huì)發(fā)布“大數(shù)據(jù)殺熟”調(diào)查報(bào)告，指出攜程、去哪兒、滴滴出行、淘票票等平臺(tái)存在“大數(shù)據(jù)殺熟”行為，但攜程、去哪兒、飛豬作出回應(yīng)，均否認(rèn)存在“大數(shù)據(jù)殺熟”行為，稱價(jià)格變動(dòng)系優(yōu)惠活動(dòng)導(dǎo)致，對(duì)所有用戶報(bào)價(jià)均一致①新華網(wǎng)，《北京市消協(xié)發(fā)布“大數(shù)據(jù)殺熟”問題調(diào)查結(jié)果》，http://www.xinhuanet.com/2019-03/28/c_1210093451.htm，最后訪問時(shí)間：2021年1月18日。。

（三）權(quán)益平衡：正義與公平的實(shí)現(xiàn)前提

1. 消除差別待遇：個(gè)人數(shù)據(jù)賦權(quán)

歐盟建立追求消除差別待遇的“主體平等”的數(shù)據(jù)賦權(quán)規(guī)制路徑。算法運(yùn)行以數(shù)據(jù)為基礎(chǔ)，算法歧視往往源于對(duì)消費(fèi)者個(gè)人數(shù)據(jù)的采集、清洗和整合過程，故歐盟規(guī)制算法歧視的重心在于保護(hù)消費(fèi)者的數(shù)據(jù)權(quán)利，通過對(duì)消費(fèi)者賦權(quán)，使消費(fèi)者有能力干涉數(shù)據(jù)的處理過程。例如，《通用數(shù)據(jù)保護(hù)條例》（GDPR）明確規(guī)定消費(fèi)者擁有數(shù)據(jù)的攜帶權(quán)、刪除權(quán)以及被遺忘權(quán)，這些數(shù)據(jù)權(quán)利可以幫助消費(fèi)者對(duì)抗算法的自動(dòng)化決策，免受算法自動(dòng)化決策帶來的歧視威脅。歐盟模式重在以個(gè)人權(quán)力抑制算法權(quán)力的擴(kuò)張。但是，算法歧視的結(jié)構(gòu)性特征消解了《通用數(shù)據(jù)保護(hù)條例》（GDPR）的“數(shù)據(jù)清潔”條款確立的數(shù)據(jù)“差別待遇”標(biāo)準(zhǔn)?！安顒e待遇”標(biāo)準(zhǔn)否認(rèn)算法決策的客觀性，要求算法歧視的決策在主觀意圖上具備 “歧視”（discrimination）特征?？墒?，該制度很難落到實(shí)處，因?yàn)橹饔^意圖在實(shí)際案例中很難被證明。一方面，由于算法運(yùn)算的基礎(chǔ)是數(shù)據(jù)，如果用于訓(xùn)練算法的歷史數(shù)據(jù)存在偏差或歧視，則算法會(huì)如實(shí)地總結(jié)并在運(yùn)算結(jié)果中體現(xiàn)該歧視，引發(fā)算法歧視的風(fēng)險(xiǎn)，可是此時(shí)很難闡釋算法控制者存在歧視消費(fèi)者的主觀意圖；另一方面，由于算法運(yùn)算過程的技術(shù)性和自動(dòng)化特征，即使算法在運(yùn)算過程中確實(shí)故意歧視消費(fèi)者，由于技術(shù)鴻溝的存在，這種主觀故意很難被發(fā)現(xiàn)，也不易被證明。

2. 差別性影響標(biāo)準(zhǔn)：追求結(jié)果正義

相對(duì)于歐盟賦權(quán)模式的“形式公平”，美國(guó)監(jiān)管層更加追求算法結(jié)果的“實(shí)質(zhì)正義”。遵循這一思路，美國(guó)選擇了主張以保護(hù)“群組公平”（group fairness）的差別性影響標(biāo)準(zhǔn)為導(dǎo)向②差別性影響標(biāo)準(zhǔn)是指如果某項(xiàng)法律、政策或行為對(duì)某個(gè)群體產(chǎn)生差別性的負(fù)面影響，這項(xiàng)法律、政策或行為就應(yīng)當(dāng)被宣布為非法。差別性影響標(biāo)準(zhǔn)是從特定決策行為所產(chǎn)生的外部影響上來判斷行為人是否構(gòu)成歧視，即只要當(dāng)特定行為造成受保護(hù)階層不成比例地承受負(fù)面結(jié)果，造成所謂差別性影響，便極有可能構(gòu)成歧視。，以外部監(jiān)管為主的管制模式。美國(guó)國(guó)會(huì)在《2019年算法責(zé)任法案》中授權(quán)美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）作為算法影響消費(fèi)者決策的監(jiān)管權(quán)力主體，并課以算法使用主體披露算法信息與危險(xiǎn)防止義務(wù)。FTC要求算法使用主體在合理情況下應(yīng)向消費(fèi)者解釋算法核心機(jī)制，并接受監(jiān)管當(dāng)局的嚴(yán)格審查，以降低算法歧視的風(fēng)險(xiǎn)③Using Artificial Intelligence and Algorithms , https://www.ftc.gov/news-events/blogs/business-blog/2020/04/using-artificialintelligence-algorithms，最后訪問時(shí)間：2021年1月22日。。但是，差別性影響標(biāo)準(zhǔn)也面臨著適用上的困境：第一，強(qiáng)調(diào)“群組公平”尚無法完全實(shí)現(xiàn)算法結(jié)果個(gè)體公平（individual fairness）。算法技術(shù)透過精準(zhǔn)定位、特定推送將消費(fèi)者個(gè)人信息與行為軌跡進(jìn)行量化、形式化處理后，將其歸入某類群組中，其所遵循的仍是一種去個(gè)體化的邏輯理路，忽略了個(gè)體利益。第二，差別性影響標(biāo)準(zhǔn)存在被虛置的可能性。美國(guó)住房發(fā)展部（HUD）在依據(jù)《公平住房法案》適用差別性影響標(biāo)準(zhǔn)判斷住房貸款公司利用算法歧視購(gòu)房者行為時(shí)，賦予住房貸款公司一定豁免條件。如其向貸款申請(qǐng)人作出禁止貸款決策受到質(zhì)疑時(shí)，若能證明其行為能有效促進(jìn)“相關(guān)利益”，且能排除行為的“非人為”“武斷性”“不必要”等因素，便不構(gòu)成歧視④Rodriguez，Lorena. “‘All Data Is Credit Data’：Closing the Gap Between the Fair Housing Act and Algorithmic Decisionmaking in the Lending Industry.”Columbia Law Review , 120 （2020）.。按照差別性影響標(biāo)準(zhǔn)，數(shù)據(jù)是證明住房定價(jià)算法能夠保護(hù)弱勢(shì)購(gòu)房群體的關(guān)鍵工具，若不收集對(duì)應(yīng)的數(shù)據(jù)將掩蓋住房定價(jià)算法的歧視性影響①https://www.federalregister.gov/documents/2020/09/24/2020-19 887/huds-implementation-of-the-fair-housing-acts-disparateimpact-standard，最后訪問時(shí)間：2021年1月22日。，因此其數(shù)據(jù)收集行為具備一定的正當(dāng)性。但批評(píng)者認(rèn)為差別性影響標(biāo)準(zhǔn)附加的“非人為”“武斷性”“不必要”因素的豁免條件，使得住房貸款公司可以“合法商業(yè)利益”標(biāo)準(zhǔn)、“較少歧視性的替代辦法”為由主張歧視豁免，即使其運(yùn)用算法模型作出了導(dǎo)致實(shí)質(zhì)性不平等的后果②Prince，Anya ER，and Daniel Schwarcz. “Proxy discrimination in the age of artificial intelligence and big data.” Iowa L. Rev.105 （2019）：1257.。

從歐美國(guó)家對(duì)算法歧視消費(fèi)者的規(guī)制安排來審視，雖然消費(fèi)者利益被置于與競(jìng)爭(zhēng)利益同等重要的地位，但各有利益保護(hù)的側(cè)重點(diǎn)。歐盟側(cè)重消費(fèi)者利益的直接保護(hù)，美國(guó)側(cè)重競(jìng)爭(zhēng)者行為規(guī)制。因此，兩個(gè)獨(dú)立維度的規(guī)制思路各自存在其適用邊界與困境。算法歧視消費(fèi)者的規(guī)制應(yīng)是“能夠在取得最大社會(huì)效益的同時(shí)又能最大限度地避免浪費(fèi)”，即在調(diào)整互聯(lián)網(wǎng)企業(yè)競(jìng)爭(zhēng)利益、消費(fèi)者利益間沖突關(guān)系時(shí)，應(yīng)在最大程度上協(xié)調(diào)利益需求，避免互聯(lián)網(wǎng)利用算法技術(shù)過度、無序競(jìng)爭(zhēng)，造成不必要的規(guī)制成本浪費(fèi)。從此點(diǎn)出發(fā)，對(duì)算法歧視消費(fèi)者規(guī)制最切實(shí)可行之處莫過于其侵犯消費(fèi)者利益的法定化界定，即糅合歐盟模式與美國(guó)標(biāo)準(zhǔn)，在規(guī)制政策中明確算法歧視消費(fèi)者規(guī)制路徑，在此基礎(chǔ)上明確其行為要件與法律后果。作為制衡市場(chǎng)權(quán)力的有效手段，法律規(guī)制不僅可以平衡各方利益、規(guī)范算法行為與保護(hù)消費(fèi)者權(quán)利，也可以降低市場(chǎng)運(yùn)作成本。更為重要的是，法律規(guī)制所具有的政策信號(hào)機(jī)制，將實(shí)現(xiàn)對(duì)算法驅(qū)動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展的協(xié)同規(guī)制。

五、 平衡進(jìn)路：算法歧視消費(fèi)者規(guī)制的多方協(xié)同

在明確對(duì)算法歧視消費(fèi)者規(guī)制的利益平衡要義，充分認(rèn)識(shí)到現(xiàn)有體制規(guī)制算法歧視消費(fèi)者困境后，應(yīng)對(duì)算法歧視消費(fèi)者行為進(jìn)行全面有序的監(jiān)管，從消費(fèi)者、企業(yè)、行業(yè)、執(zhí)法機(jī)構(gòu)四維度制定協(xié)同規(guī)制方案是必然之舉③陳兵：《因應(yīng)超級(jí)平臺(tái)對(duì)反壟斷法規(guī)制的挑戰(zhàn)》，《法學(xué)》2020年第2期。。

（一）消費(fèi)者維度：賦予消費(fèi)者選擇退出權(quán)，激勵(lì)其挑戰(zhàn)算法個(gè)性化決策

互聯(lián)網(wǎng)企業(yè)基于技術(shù)優(yōu)勢(shì)，能夠掌握并分析內(nèi)生于消費(fèi)者群體中的大數(shù)據(jù)，在企業(yè)與消費(fèi)者之間形成數(shù)據(jù)鴻溝進(jìn)而實(shí)施算法歧視。為了填補(bǔ)互聯(lián)網(wǎng)企業(yè)與消費(fèi)者之間的數(shù)據(jù)鴻溝，《電子商務(wù)法》順應(yīng)數(shù)字經(jīng)濟(jì)的發(fā)展，明確規(guī)定互聯(lián)網(wǎng)企業(yè)在提供個(gè)性化搜索服務(wù)時(shí)須征詢消費(fèi)者同意，即消費(fèi)者“選擇進(jìn)入”機(jī)制。消費(fèi)者“選擇進(jìn)入”機(jī)制意味著在算法實(shí)施個(gè)性化決策之前，互聯(lián)網(wǎng)企業(yè)需要征得數(shù)據(jù)權(quán)利主體即消費(fèi)者的同意，消費(fèi)者“選擇進(jìn)入”是“明示同意規(guī)則”下的產(chǎn)物。但是，消費(fèi)者“選擇進(jìn)入”機(jī)制下的免受算法個(gè)性化決策權(quán)存在效用上的困境：雖然互聯(lián)網(wǎng)企業(yè)在提供服務(wù)之前有義務(wù)征詢消費(fèi)者同意，但實(shí)際上，消費(fèi)者在使用之前，往往沒有意識(shí)到互聯(lián)網(wǎng)企業(yè)可能會(huì)濫用消費(fèi)者個(gè)人數(shù)據(jù)實(shí)施算法歧視，為了正常使用互聯(lián)網(wǎng)企業(yè)提供的服務(wù)，消費(fèi)者往往會(huì)選擇同意。而當(dāng)形成使用習(xí)慣并產(chǎn)生用戶黏性之后，即使在使用過程中受到算法歧視的侵害，此時(shí)消費(fèi)者已經(jīng)喪失了拒絕的機(jī)會(huì)。以淘寶購(gòu)物平臺(tái)為例，消費(fèi)者必須授權(quán)平臺(tái)收集、使用個(gè)人數(shù)據(jù)后方能正常使用淘寶平臺(tái)進(jìn)行購(gòu)物，當(dāng)消費(fèi)者為使用平臺(tái)服務(wù)而“明示同意”數(shù)據(jù)使用協(xié)議，授權(quán)淘寶平臺(tái)收集和使用個(gè)人數(shù)據(jù)后，消費(fèi)者便沒有途徑要求淘寶平臺(tái)停止針對(duì)個(gè)人的算法個(gè)性化決策。

為解決上述困境，歐盟在《通用數(shù)據(jù)保護(hù)條例》（GDPR）中明確指出消費(fèi)者免受算法自動(dòng)化決策的影響，我國(guó)也可以考慮在《個(gè)人數(shù)據(jù)保護(hù)法》《電子商務(wù)法》《消費(fèi)者權(quán)益保護(hù)法》中更明確地規(guī)定消費(fèi)者享有免受算法個(gè)性化決策的權(quán)利。從保護(hù)消費(fèi)者權(quán)益的視角規(guī)制算法歧視，重心不在于解釋其內(nèi)部究竟如何運(yùn)作，而在于檢驗(yàn)輸入數(shù)據(jù)與輸出結(jié)果之間的關(guān)聯(lián)關(guān)系。當(dāng)統(tǒng)計(jì)學(xué)的關(guān)聯(lián)關(guān)系適用于受算法決策影響的消費(fèi)者，并對(duì)消費(fèi)者的合法權(quán)益造成實(shí)質(zhì)性影響時(shí)，消費(fèi)者有權(quán)力不受此關(guān)聯(lián)分析的限制是保護(hù)其合法權(quán)益最為直接和有效的方式。

具體而言，應(yīng)采用消費(fèi)者“選擇退出”機(jī)制代替目前運(yùn)行的“選擇進(jìn)入”機(jī)制，以維護(hù)消費(fèi)者的自主權(quán)。消費(fèi)者“選擇退出”機(jī)制應(yīng)滿足下列要求：在數(shù)據(jù)采集階段，消費(fèi)者注冊(cè)或第一次使用軟件時(shí)遵循“默示同意規(guī)則”，默認(rèn)消費(fèi)者若不明確表示反對(duì)即視為同意授權(quán)互聯(lián)網(wǎng)企業(yè)使用個(gè)人數(shù)據(jù)，互聯(lián)網(wǎng)企業(yè)可以收集消費(fèi)者的個(gè)人數(shù)據(jù)；在數(shù)據(jù)使用階段，互聯(lián)網(wǎng)企業(yè)在進(jìn)行算法個(gè)性化決策之前，應(yīng)向受算法決策影響的消費(fèi)者進(jìn)行明確的、有意義的、突出的提示，并提供“選擇退出”的選項(xiàng)，若消費(fèi)者在此過程中認(rèn)為受到歧視，可以隨時(shí)選擇退出個(gè)性化算法決策，要求互聯(lián)網(wǎng)企業(yè)提供不針對(duì)其個(gè)人特征的選項(xiàng)。消費(fèi)者“選擇退出”機(jī)制的優(yōu)勢(shì)在于可以轉(zhuǎn)變互聯(lián)網(wǎng)企業(yè)因消費(fèi)者“不知情同意”（形式上知情實(shí)質(zhì)上卻并不知情）授權(quán)而“一勞永逸”，使互聯(lián)網(wǎng)企業(yè)在提供服務(wù)的每個(gè)環(huán)節(jié)都注重合理、合法使用個(gè)人數(shù)據(jù)，主動(dòng)避免算法歧視行為的發(fā)生，也可以提升消費(fèi)者對(duì)個(gè)人數(shù)據(jù)權(quán)利的重視與保護(hù)，激勵(lì)消費(fèi)者挑戰(zhàn)可能存在歧視的算法個(gè)性化決策①高學(xué)強(qiáng)：《人工智能時(shí)代的算法裁判及其規(guī)制》，《陜西師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2019年第3期。。

（二）企業(yè)維度：設(shè)置企業(yè)算法顧問，進(jìn)行內(nèi)部技術(shù)控制

算法技術(shù)應(yīng)用給個(gè)人數(shù)據(jù)權(quán)利帶來了威脅，因此，各國(guó)都十分重視對(duì)算法技術(shù)進(jìn)行制度性的把控和規(guī)制。德國(guó)的個(gè)人數(shù)據(jù)保護(hù)顧問制度即為通過企業(yè)內(nèi)部制度進(jìn)行管控的典型，在個(gè)人數(shù)據(jù)保護(hù)中發(fā)揮了極大功效。德國(guó)個(gè)人數(shù)據(jù)保護(hù)顧問制度要求互聯(lián)網(wǎng)企業(yè)設(shè)置專職崗位，進(jìn)行數(shù)據(jù)活動(dòng)的合規(guī)性審查和信息披露，確保數(shù)據(jù)收集和使用行為符合法律規(guī)范，在尊重公權(quán)力的同時(shí)最大限度地保障企業(yè)經(jīng)營(yíng)自由。正如前文所述，算法是實(shí)現(xiàn)低價(jià)值的原始數(shù)據(jù)向高價(jià)值的衍生數(shù)據(jù)轉(zhuǎn)化的核心，故德國(guó)個(gè)人數(shù)據(jù)保護(hù)顧問實(shí)質(zhì)上監(jiān)管的是算法活動(dòng)。隨著以算法技術(shù)為核心的數(shù)據(jù)活動(dòng)被迅速應(yīng)用至市場(chǎng)經(jīng)濟(jì)各大領(lǐng)域，我國(guó)也應(yīng)當(dāng)借鑒德國(guó)的算法管控模式，要求符合特定條件和規(guī)模的互聯(lián)網(wǎng)企業(yè)設(shè)置算法顧問崗位，聘用掌握專業(yè)技能和法律知識(shí)的人才作為算法顧問，主要從事數(shù)據(jù)透明化處理和算法解釋工作②林洹民：《自動(dòng)決策算法的法律規(guī)制：以數(shù)據(jù)活動(dòng)顧問為核心的二元監(jiān)管路徑》，《法律科學(xué)》（西北政法大學(xué)學(xué)報(bào)）2019年第3期。。當(dāng)然，基于對(duì)技術(shù)和知識(shí)產(chǎn)權(quán)的保護(hù)，算法顧問對(duì)于數(shù)據(jù)透明化處理和算法解釋的對(duì)象可以限于相關(guān)執(zhí)法機(jī)關(guān)。具體如下：

第一，對(duì)數(shù)據(jù)進(jìn)行透明化處理。正如美國(guó)前聯(lián)邦最高法院大法官、美國(guó)進(jìn)步運(yùn)動(dòng)的主要推動(dòng)人路易斯·布蘭代斯所言，“陽光是最好的殺毒劑，燈光是最好的警察。”對(duì)算法的規(guī)制同樣如此，數(shù)據(jù)透明化處理就是算法歧視的陽光和燈光。針對(duì)算法歧視可能源于喂養(yǎng)數(shù)據(jù)中存在的偏見，為避免算法在設(shè)計(jì)和運(yùn)行過程中內(nèi)生歧視，算法顧問需要披露數(shù)據(jù)來源，對(duì)數(shù)據(jù)進(jìn)行透明化處理③張欣：《算法解釋權(quán)與算法治理路徑研究》，《中外法學(xué)》2019年第6期。。通過要求算法顧問公開算法設(shè)計(jì)、運(yùn)行過程中使用的數(shù)據(jù)來源，執(zhí)法機(jī)關(guān)可以在調(diào)查過程中明晰數(shù)據(jù)是否被正當(dāng)收集、分析和使用，以一種外部評(píng)估的方式來審視算法個(gè)性化決策，保證調(diào)查的客觀和公正④章小杉：《人工智能算法歧視的法律規(guī)制：歐美經(jīng)驗(yàn)與中國(guó)路徑》，《華東理工大學(xué)學(xué)報(bào)》（社會(huì)科學(xué)版）2019年第6期。。

第二，對(duì)算法進(jìn)行解釋。由于算法“黑箱”決策機(jī)制的助推也是導(dǎo)致算法歧視的重要原因，僅公開算法決策的相關(guān)數(shù)據(jù)只是從表面上減少了算法的神秘性，并不能從實(shí)質(zhì)上消除對(duì)算法的認(rèn)知障礙，從而也就無法消除對(duì)算法個(gè)性化決策可能存在歧視的擔(dān)憂⑤徐鳳：《人工智能算法黑箱的法律規(guī)制-以智能投顧為例展開》，《東方法學(xué)》2019年第6期。。其一，即使公開數(shù)據(jù)也不一定能確保有效跨越技術(shù)鴻溝，因此需要解釋程序作為執(zhí)法機(jī)關(guān)與企業(yè)之間的技術(shù)橋梁；其二，雖然算法規(guī)則本身隱藏在數(shù)據(jù)之中，但執(zhí)法機(jī)關(guān)很難僅通過公開的數(shù)據(jù)發(fā)現(xiàn)算法決策所依據(jù)的所有規(guī)則，需要企業(yè)進(jìn)一步解釋作為補(bǔ)充①馬長(zhǎng)山：《智慧社會(huì)背景下的“第四代人權(quán)”及其保障》，《中國(guó)法學(xué)》2019年第5期。。故公開數(shù)據(jù)之后還需要必要的解釋程序，要求算法顧問對(duì)算法遵循的程序和特定結(jié)果進(jìn)行解釋。

（三）行業(yè)維度：行業(yè)協(xié)會(huì)進(jìn)行算法審查，預(yù)防算法歧視

由于算法的技術(shù)性特征帶來的算法黑箱效應(yīng)，導(dǎo)致消費(fèi)者雖無法洞悉算法決策是否侵害其數(shù)據(jù)權(quán)利，但對(duì)專業(yè)技術(shù)人員而言，算法的數(shù)據(jù)輸入和結(jié)果輸出則幾乎是透明的。所以，由專業(yè)人員構(gòu)成的行業(yè)協(xié)會(huì)對(duì)算法進(jìn)行審查是可行的②徐琳：《人工智能推算技術(shù)中的平等權(quán)問題之探討》，《法學(xué)評(píng)論》2019年第3期。。而且，與執(zhí)法機(jī)關(guān)監(jiān)管相比，行業(yè)協(xié)會(huì)的技術(shù)性和專業(yè)性都更勝一籌，在處理關(guān)涉算法的市場(chǎng)行為時(shí)效率更高，成本也更低。故在啟動(dòng)執(zhí)法程序之前，如果預(yù)先通過行業(yè)協(xié)會(huì)對(duì)算法進(jìn)行商業(yè)倫理審查，可以有效避免算法在運(yùn)用過程中出現(xiàn)的歧視問題。如美國(guó)相關(guān)法律制度即倡導(dǎo)由獨(dú)立的第三方機(jī)構(gòu)對(duì)算法進(jìn)行預(yù)先審查，即算法可審計(jì)原則，要求從事算法活動(dòng)的企業(yè)必須如實(shí)記載算法模型、基礎(chǔ)數(shù)據(jù)和決策環(huán)節(jié)，便于第三方機(jī)構(gòu)審查。我國(guó)可以借鑒美國(guó)相關(guān)制度經(jīng)驗(yàn)，要求行業(yè)協(xié)會(huì)進(jìn)行算法審計(jì)，預(yù)防算法歧視。具體可以分為事前審查和事中審查。

第一，事前審查。對(duì)于算法應(yīng)用中由于技術(shù)風(fēng)險(xiǎn)不確定性可能導(dǎo)致的算法歧視，應(yīng)當(dāng)由行業(yè)協(xié)會(huì)進(jìn)行事前審查以合理預(yù)防風(fēng)險(xiǎn)。事前風(fēng)險(xiǎn)預(yù)防需要對(duì)算法設(shè)計(jì)的潛在缺陷進(jìn)行審查，即算法設(shè)計(jì)是否可能對(duì)消費(fèi)者基本權(quán)利和競(jìng)爭(zhēng)秩序產(chǎn)生不利影響。盡管很多學(xué)者認(rèn)為技術(shù)自身的屬性是中立的，但即使認(rèn)可技術(shù)中立的客觀性，也并不等于價(jià)值中立。故法律應(yīng)對(duì)技術(shù)應(yīng)用進(jìn)行價(jià)值引導(dǎo)。正如美國(guó)當(dāng)代著名哲學(xué)家安德魯·芬伯格所言：“在技術(shù)和社會(huì)共同建構(gòu)的領(lǐng)域中，技術(shù)理性和社會(huì)經(jīng)驗(yàn)處于相互糾纏的狀態(tài)?！雹鄹吆Ｇ啵骸稌r(shí)代思潮中的技術(shù)批判理論-安德魯·芬伯格教授訪談錄》，《自然辯證法研究》2015年第3期。算法技術(shù)一旦被應(yīng)用于市場(chǎng)競(jìng)爭(zhēng)，一定會(huì)受到市場(chǎng)主體營(yíng)利價(jià)值屬性的影響。比如今日頭條采用的信息推薦算法就被質(zhì)疑在算法設(shè)計(jì)中信息質(zhì)量所占權(quán)重偏低，過于注重流量經(jīng)濟(jì)，導(dǎo)致低俗信息泛濫化。因此行業(yè)協(xié)會(huì)應(yīng)當(dāng)審查算法設(shè)計(jì)是否符合一定的商業(yè)倫理和社會(huì)倫理準(zhǔn)則。

第二，事中審查。在算法的運(yùn)營(yíng)過程中，行業(yè)協(xié)會(huì)還應(yīng)當(dāng)持續(xù)審查算法模型是否會(huì)輸出歧視性結(jié)果。算法本身的技術(shù)邏輯決定，相較于算法設(shè)計(jì)階段，在算法運(yùn)營(yíng)階段產(chǎn)生的歧視所造成的危害更為隱蔽。算法決策構(gòu)成的“反饋循環(huán)”會(huì)加劇歧視的可能性。算法從含有偏見的數(shù)據(jù)中總結(jié)模型，會(huì)導(dǎo)致模型的輸出含有偏見，當(dāng)輸出結(jié)果轉(zhuǎn)變?yōu)閿?shù)據(jù)被再次用于檢驗(yàn)和完善模型，就會(huì)使得模型的偏見進(jìn)一步深化甚至固化，這便構(gòu)成了完整的歧視“反饋循環(huán)”。由于算法無法理解數(shù)據(jù)內(nèi)容而且很難進(jìn)行價(jià)值判斷，其僅能依據(jù)當(dāng)前數(shù)據(jù)的統(tǒng)計(jì)分析進(jìn)行權(quán)重分配，當(dāng)這種關(guān)聯(lián)性適用于消費(fèi)者個(gè)體時(shí)難免會(huì)產(chǎn)生誤差，而這種誤差可能對(duì)消費(fèi)者的合法權(quán)益造成損害。因此，行業(yè)協(xié)會(huì)應(yīng)當(dāng)在算法運(yùn)行過程中定期審查算法是否存在歧視④杜小奇：《多元協(xié)作框架下算法的規(guī)制》，《河北法學(xué)》2019年第12期。。

（四）執(zhí)法維度：執(zhí)法機(jī)構(gòu)實(shí)施算法監(jiān)管，嚴(yán)懲算法歧視

國(guó)務(wù)院在發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中明確提出政府應(yīng)當(dāng)履行人工智能（算法）的安全防范和市場(chǎng)監(jiān)管職責(zé)，《反壟斷法》有關(guān)規(guī)制濫用市場(chǎng)支配地位的制度中也禁止經(jīng)營(yíng)者沒有正當(dāng)理由，對(duì)交易相對(duì)人在交易價(jià)格等交易條件上實(shí)行差別待遇，《關(guān)于平臺(tái)經(jīng)濟(jì)的反壟斷指南（征求意見稿）》更是明確提出禁止算法歧視，其中第十七條明確規(guī)定：“禁止具有市場(chǎng)支配地位的平臺(tái)經(jīng)營(yíng)者基于大數(shù)據(jù)和算法，根據(jù)交易相對(duì)人的支付能力、消費(fèi)偏好、使用習(xí)慣等，實(shí)行差異性交易價(jià)格或者其他交易條件；對(duì)新老交易相對(duì)人實(shí)行差異性交易價(jià)格或者其他交易條件等。”作為消費(fèi)者保護(hù)基本法的《消費(fèi)者權(quán)益保護(hù)法》也提出消費(fèi)者的知情、自主選擇、公平交易以及個(gè)人信息等權(quán)利應(yīng)當(dāng)受到法律保護(hù)。如果經(jīng)行業(yè)協(xié)會(huì)預(yù)先審查后，互聯(lián)網(wǎng)市場(chǎng)仍然出現(xiàn)算法歧視行為，則應(yīng)當(dāng)由市場(chǎng)監(jiān)管局進(jìn)行監(jiān)管，嚴(yán)懲算法歧視。執(zhí)法機(jī)關(guān)可以通過明確監(jiān)管對(duì)象、監(jiān)管手段和監(jiān)管職責(zé)，建立完善的算法監(jiān)管體系。

第一，在確定監(jiān)管對(duì)象上，如同《公司法》中“刺透法人面紗”的法人人格否定制度一樣，算法監(jiān)管也應(yīng)當(dāng)穿透算法黑箱的層層“黑幕”，將監(jiān)管的對(duì)象直指算法幕后的控制人，準(zhǔn)確定位監(jiān)管對(duì)象，確定真正責(zé)任主體。同時(shí)，由于反壟斷法規(guī)制的算法歧視行為要求經(jīng)營(yíng)者具有市場(chǎng)支配地位的身份要件，執(zhí)法機(jī)關(guān)還需要確定算法幕后的控制人是否在相關(guān)市場(chǎng)具有市場(chǎng)支配地位。如2018 年ACCC針對(duì)數(shù)字平臺(tái)的市場(chǎng)調(diào)查顯示，F(xiàn)acebook 和 Instagram 的獨(dú)特受眾（unique audience）分別是 Snapchat 的三倍和兩倍，并據(jù)此認(rèn)定 Facebook 的巨大市場(chǎng)份額可以被視為其社交媒體服務(wù)幾乎沒有競(jìng)爭(zhēng)約束的證據(jù)。因應(yīng)互聯(lián)網(wǎng)經(jīng)濟(jì)的特征，需要突破傳統(tǒng)市場(chǎng)份額標(biāo)準(zhǔn)的限制，依照《反壟斷法（征求意見稿）》中的標(biāo)準(zhǔn)：“認(rèn)定互聯(lián)網(wǎng)領(lǐng)域經(jīng)營(yíng)者具有市場(chǎng)支配地位還應(yīng)當(dāng)考慮網(wǎng)絡(luò)效應(yīng)、規(guī)模經(jīng)濟(jì)、鎖定效應(yīng)、掌握和處理相關(guān)數(shù)據(jù)的能力等因素”，以準(zhǔn)確判斷相關(guān)經(jīng)營(yíng)者是否具有市場(chǎng)支配地位。當(dāng)然如果經(jīng)營(yíng)者不具備市場(chǎng)支配地位，執(zhí)法機(jī)關(guān)就不能適用《反壟斷法》，但可以依據(jù)《消費(fèi)者權(quán)益保護(hù)法》為消費(fèi)者提供必要的保護(hù)。

第二，在選擇監(jiān)管手段上，當(dāng)算法決策對(duì)市場(chǎng)競(jìng)爭(zhēng)秩序產(chǎn)生不利影響時(shí)，除禁令禁止和罰款等傳統(tǒng)處罰措施之外，還可以通過行政約談的方式對(duì)算法應(yīng)用進(jìn)行政府有限干預(yù)。比如“今日頭條”和“鳳凰新聞”就曾被相關(guān)機(jī)構(gòu)約談，要求平臺(tái)提高推薦算法中信息質(zhì)量的權(quán)重，避免信息低俗化。約談可以最大限度地緩和政府干預(yù)和企業(yè)自由經(jīng)營(yíng)權(quán)之間的矛盾，通過要求企業(yè)承諾改變其行為方式而不是一味禁止，既可以避免過度執(zhí)法傷害企業(yè)的創(chuàng)新積極性，也可以有效減少算法歧視行為對(duì)消費(fèi)者和市場(chǎng)競(jìng)爭(zhēng)秩序的侵害。

第三，在明確監(jiān)管職責(zé)上，首先，監(jiān)管機(jī)構(gòu)應(yīng)當(dāng)制定互聯(lián)網(wǎng)企業(yè)設(shè)計(jì)和使用算法應(yīng)遵循的基本準(zhǔn)則，進(jìn)行底線把控。要求設(shè)計(jì)者在算法設(shè)計(jì)過程中就應(yīng)當(dāng)符合相關(guān)法律、政策的規(guī)定，要求算法控制人在算法的使用過程中融入消費(fèi)者權(quán)益和競(jìng)爭(zhēng)秩序維護(hù)的目標(biāo)①?gòu)埗鞯洌骸洞髷?shù)據(jù)時(shí)代的算法解釋權(quán)：背景、邏輯與構(gòu)造》，《法學(xué)論壇》2019年第4期。。若相關(guān)主體突破底線，則應(yīng)對(duì)算法歧視產(chǎn)生的后果負(fù)責(zé)。其次，監(jiān)管機(jī)構(gòu)應(yīng)當(dāng)定期協(xié)同行業(yè)協(xié)會(huì)審查企業(yè)所使用的算法是否合乎預(yù)期的運(yùn)行以及是否產(chǎn)生不良后果，并將審查結(jié)果向公眾披露，提升行業(yè)協(xié)會(huì)審查結(jié)果的權(quán)威性②張玉宏、秦志光、肖樂：《大數(shù)據(jù)算法的歧視本質(zhì)》，《自然辯證法研究》2017年第5期。。最后，可通過政府公開招標(biāo)采購(gòu)程序，面向市場(chǎng)征集采購(gòu)可以監(jiān)控算法歧視的算法程序，通過技術(shù)手段控制算法技術(shù)異化，最大程度地節(jié)約執(zhí)法資源，提升執(zhí)法的效率和精準(zhǔn)性。

六、 結(jié) 語

算法是實(shí)現(xiàn)大數(shù)據(jù)價(jià)值的基礎(chǔ)設(shè)施，是人類社會(huì)技術(shù)應(yīng)用的巨大進(jìn)步，可以極大地促進(jìn)經(jīng)濟(jì)發(fā)展、造福人類社會(huì)，輿論熱點(diǎn)中的“大數(shù)據(jù)殺熟”僅是算法歧視消費(fèi)者的“冰山一角”。為破解算法歧視消費(fèi)者的隱蔽性難題，本文基于信息采集、特定推送和個(gè)性定價(jià)等運(yùn)作階段，以信息輸入、數(shù)據(jù)整理、算法決策與后臺(tái)控制等運(yùn)行環(huán)節(jié)為切入點(diǎn)分析算法對(duì)消費(fèi)者實(shí)施歧視的機(jī)制。研究結(jié)果表明，算法歧視在信息采集階段侵犯消費(fèi)者的身份平等權(quán)，在特定推送階段侵犯消費(fèi)者知情權(quán)、選擇權(quán)，在個(gè)性定價(jià)階段侵犯消費(fèi)者公平交易權(quán)、掠奪消費(fèi)者價(jià)格福利。算法加劇了經(jīng)營(yíng)者和消費(fèi)者之間的技術(shù)鴻溝，導(dǎo)致消費(fèi)者的信息劣勢(shì)地位進(jìn)一步強(qiáng)化。實(shí)際上，通過對(duì)算法技術(shù)服務(wù)消費(fèi)者的過程分解，既折射出技術(shù)、市場(chǎng)在創(chuàng)新與競(jìng)爭(zhēng)等維度中如何潛移默化地創(chuàng)造出新的市場(chǎng)模式，改變市場(chǎng)主體的行為，也透視了過度的創(chuàng)新與競(jìng)爭(zhēng)所產(chǎn)生的市場(chǎng)無序與損害后果，最終都將累及市場(chǎng)本體與普通消費(fèi)者。

對(duì)此，應(yīng)當(dāng)正視算法歧視給消費(fèi)者權(quán)益帶來的損害，合理有效規(guī)制算法歧視消費(fèi)者的行為。在查明信息采集、特定推送和個(gè)性定價(jià)等算法歧視場(chǎng)景中經(jīng)營(yíng)者與消費(fèi)者的利益沖突關(guān)系后，應(yīng)協(xié)調(diào)經(jīng)營(yíng)者算法自主權(quán)與消費(fèi)者身份公平權(quán)、隱私權(quán)，經(jīng)營(yíng)者推薦策略權(quán)與消費(fèi)者知情權(quán)、選擇權(quán)，經(jīng)營(yíng)者市場(chǎng)利益與消費(fèi)者剩余福利等權(quán)益沖突，避免經(jīng)營(yíng)者利用算法技術(shù)過度、無序競(jìng)爭(zhēng)，造成不必要的規(guī)制成本浪費(fèi)。在運(yùn)用法律規(guī)制所具有的政策信號(hào)機(jī)制時(shí)，應(yīng)從消費(fèi)者賦權(quán)、經(jīng)營(yíng)者透明度強(qiáng)化、行業(yè)協(xié)會(huì)審計(jì)與政府監(jiān)管等維度，實(shí)現(xiàn)對(duì)算法驅(qū)動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展的協(xié)同規(guī)制，將法律的平等和公正理念融入技術(shù)發(fā)展進(jìn)程之中，在維護(hù)消費(fèi)者基本權(quán)益的同時(shí)促進(jìn)市場(chǎng)自由公平競(jìng)爭(zhēng)，真正實(shí)現(xiàn)技術(shù)推動(dòng)經(jīng)濟(jì)，技術(shù)造福社會(huì)。