李潤(rùn)發(fā) 程振鋒 楊美玲

摘要：在信息技術(shù)支撐下，商家濫用算法侵犯消費(fèi)者權(quán)益的行為引起了各界廣泛關(guān)注?；谒惴ㄇ謾?quán)的專業(yè)性、隱蔽性和消費(fèi)者的劣勢(shì)地位，建立健全第三方介入的商家算法行為規(guī)范機(jī)制十分必要。第三方測(cè)試算法的合法合規(guī)性，測(cè)試結(jié)果經(jīng)信息系統(tǒng)公之于眾和對(duì)接監(jiān)管部 門，以便形成有效的激勵(lì)和約束機(jī)制是第三方參與算法行為規(guī)范的核心機(jī)理所在。

關(guān)鍵詞：算法;自動(dòng)化決策;消費(fèi)者保護(hù);算法行為信息系統(tǒng)

我們正走向算法統(tǒng)治時(shí)代，算法正全面而深入地影響經(jīng)濟(jì)生活的方方面面，在提高經(jīng)濟(jì)生活效率的同時(shí)，也引發(fā)了一系列的侵權(quán)問(wèn)題，如何規(guī)范算法成為了學(xué)術(shù)界的研究重點(diǎn)[1-3]。在消費(fèi)領(lǐng)域，算法侵權(quán)現(xiàn)象受到了各界的廣泛關(guān)注，例如大數(shù)據(jù)殺熟問(wèn)題[4-6]?！?020打車軟件出行現(xiàn)狀調(diào)查報(bào)告》顯示，有優(yōu)惠券時(shí)，蘋果手機(jī)用戶平均只能獲得2.07元的優(yōu)惠，而安卓等非蘋果用戶平均可以獲得4.12元的優(yōu)惠。記者測(cè)試表明，同樣的行程，蘋果手機(jī)顯示是14.9元，而安卓手機(jī)顯示是9.49元，相差近5元[7]。另一項(xiàng)針對(duì)285位大學(xué)生的調(diào)查顯示，55%的學(xué)生表示生活中有過(guò)被殺熟的經(jīng)歷，主要出現(xiàn)在外賣類、出行旅游類、休閑娛樂(lè)類以及購(gòu)物類軟件平臺(tái)中[8]。近年來(lái)，規(guī)范商家算法行為的法律法規(guī)頻出，例如2021年11月1日起實(shí)施的《中華人民共和國(guó)個(gè)人信息保護(hù)法》（簡(jiǎn)稱《個(gè)人信息法》）對(duì)于利用個(gè)人信息進(jìn)行自動(dòng)化決策進(jìn)行了規(guī)范。盡管各界廣泛關(guān)注、政府強(qiáng)勢(shì)介入算法領(lǐng)域的消費(fèi)者侵權(quán)問(wèn)題，到目前為止并無(wú)解決此問(wèn)題的靈丹妙藥，為此本文將從第三方參與的視角，建立商家算法行為規(guī)范模型，探討規(guī)范商家算法行為的長(zhǎng)效機(jī)制。

1 算法經(jīng)濟(jì)下的消費(fèi)者劣勢(shì)

算法經(jīng)濟(jì)是指經(jīng)濟(jì)生活中基于大數(shù)據(jù)、人工智能等信息技術(shù)的算法全面而深度地參與經(jīng)濟(jì)決策，其表現(xiàn)為在生產(chǎn)、交易、分配和消費(fèi)的各個(gè)環(huán)節(jié)通過(guò)算法進(jìn)行決策或輔助決策，以便提高決策的效率和效果。姚前指出“算法經(jīng)濟(jì)是指人們將生產(chǎn)經(jīng)驗(yàn)、邏輯和規(guī)則總結(jié)提煉后“固化”在代碼上，使生產(chǎn)經(jīng)營(yíng)活動(dòng)無(wú)須人工干預(yù)，自動(dòng)執(zhí)行的經(jīng)濟(jì)模式”[9]。通過(guò)設(shè)置一定的規(guī)則，信息系統(tǒng)可以在無(wú)人干預(yù)的條件下快速地做出各種決策，例如當(dāng)消費(fèi)者在某電商平臺(tái)搜索某種商品時(shí)，信息系統(tǒng)根據(jù)客戶的年齡、購(gòu)物偏好等數(shù)據(jù)有針對(duì)性地定價(jià)并推送相關(guān)商品。如此一來(lái)降低了商家經(jīng)營(yíng)成本和用戶信息搜索成本，改善了用戶購(gòu)物體驗(yàn)，這對(duì)于提高供給匹配的效率起到重要的作用。

但是，在算法經(jīng)濟(jì)背景下，消費(fèi)者的劣勢(shì)地位進(jìn)一步凸顯。一直以來(lái)，由于信息不對(duì)稱、消費(fèi)者專業(yè)知識(shí)有限等原因，相對(duì)于商家而言消費(fèi)者處于不利地位。因此，對(duì)于商家之間交的交易和商家與個(gè)體消費(fèi)者之間的交易，各國(guó)法律通過(guò)不同的規(guī)則予以規(guī)范，從而更好地保護(hù)消費(fèi)者權(quán)益。例如，我國(guó)企業(yè)之間的經(jīng)濟(jì)交易適用民法典，而個(gè)人由于消費(fèi)與企業(yè)發(fā)生的交易，除適用民法典外，更有消費(fèi)者權(quán)益保護(hù)法等法律予以特別規(guī)范。算法經(jīng)濟(jì)下，消費(fèi)者處于更為不利的境地。例如，在傳統(tǒng)的交易中，售貨員會(huì)根據(jù)其對(duì)于客戶的判斷而針對(duì)同一商品開(kāi)出不同的價(jià)格，這就是經(jīng)濟(jì)學(xué)所描述的價(jià)格歧視。傳統(tǒng)的交易中，價(jià)格歧視成本高，需要業(yè)務(wù)熟練的售貨員，同時(shí)消費(fèi)者也可以根據(jù)其消費(fèi)經(jīng)驗(yàn)進(jìn)行還價(jià)，因此價(jià)格歧視通常沒(méi)有引起大眾的集體焦慮。但是，在算法時(shí)代，價(jià)格歧視的成本更低。同時(shí)，交易通過(guò)網(wǎng)絡(luò)進(jìn)行，消費(fèi)者難以真實(shí)地感知產(chǎn)品和服務(wù)質(zhì)量。理論上，消費(fèi)者可以多家商店或多個(gè)平臺(tái)比價(jià)以減少價(jià)格歧視帶來(lái)的損失，但是由于商品規(guī)格型號(hào)繁多、存在平臺(tái)壟斷現(xiàn)象、時(shí)間有限、手機(jī)難以安裝足夠多的交易軟件等原因，提高了比價(jià)的難度，甚至多個(gè)平臺(tái)比價(jià)幾乎不可能。

2 算法行為規(guī)范的困境

本文所說(shuō)的算法行為是指商家在與消費(fèi)者交易的過(guò)程中，通過(guò)計(jì)算機(jī)算法進(jìn)行自動(dòng)化的決策或輔助決策的經(jīng)營(yíng)行為。商家有利用算法侵犯消費(fèi)者權(quán)益的可能，且侵權(quán)行為屢見(jiàn)不鮮，例如價(jià)格歧視、不為消費(fèi)者提供適度多元化的選擇。因而引起了社會(huì)各界的廣泛關(guān)注，包括部分消費(fèi)者的網(wǎng)購(gòu)焦慮，學(xué)者呼吁規(guī)范算法行為以保障消費(fèi)者權(quán)益，國(guó)家出臺(tái)一系列規(guī)范商家利用算法進(jìn)行決策的法律法規(guī)?！秱€(gè)人信息法》等近來(lái)頒布的法律法規(guī)明確要保護(hù)個(gè)人信息，對(duì)于算法推薦做出了明確的限制。根據(jù)《個(gè)人信息法》第二十四條規(guī)定，利用個(gè)人（消費(fèi)者）信息進(jìn)行自動(dòng)化決策時(shí)，“應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正，不得對(duì)個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇”;通過(guò)自動(dòng)化決策方式進(jìn)行商品推送時(shí)，“應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向個(gè)人提供便捷的拒絕方式”;若自動(dòng)化決策對(duì)消費(fèi)者權(quán)益有重大影響時(shí)，“個(gè)人有權(quán)要求個(gè)人信息處理者（商家）予以說(shuō)明，并有權(quán)拒絕個(gè)人信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定?！贝送?，該法和其他法律還對(duì)濫用個(gè)人信息及個(gè)人信息用于自動(dòng)化決策的民事、行政和刑事責(zé)任進(jìn)行了規(guī)定。

盡管社會(huì)各界廣泛關(guān)注，相關(guān)法律法規(guī)明確地規(guī)定了不得基于算法而侵犯消費(fèi)者權(quán)益，但如何規(guī)范實(shí)際交易中算法行為以保護(hù)消費(fèi)者權(quán)益成了當(dāng)前消費(fèi)者權(quán)益保護(hù)的難點(diǎn)。首先，出于利益最大化的考慮，商家有動(dòng)力通過(guò)各種算法來(lái)歧視消費(fèi)者，例如根據(jù)消費(fèi)者年齡等數(shù)據(jù)實(shí)施價(jià)格歧視、定向推送某些商品而限制消費(fèi)者選擇范圍。普通消費(fèi)者通常沒(méi)有能力去識(shí)別是否被算法“算計(jì)”了。即使感覺(jué)到被算法“算計(jì)”了，也可能別無(wú)選擇。隨著消費(fèi)者網(wǎng)絡(luò)行為的增加，累積得越來(lái)越多的消費(fèi)者數(shù)據(jù)被商家所掌握，可能不僅被某個(gè)商家所掌握，而是被諸多商家所掌握。即便換一個(gè)平臺(tái)，也難免不被另一個(gè)算法所“算計(jì)”。其次，算法往往是商業(yè)機(jī)密而不對(duì)外公布，或者即使對(duì)外公布也難以被消費(fèi)者所理解。再次，算法繁多且迭代速度快，監(jiān)管部門和有關(guān)組織難以對(duì)所有的算法展開(kāi)實(shí)時(shí)的審計(jì)和鑒定。即使是經(jīng)過(guò)審計(jì)和鑒定的合規(guī)算法，商家在實(shí)際業(yè)務(wù)過(guò)程中可以輕易地調(diào)整、修改算法。最后，商家處于優(yōu)勢(shì)地位，即使根據(jù)《個(gè)人信息法》等法律法規(guī)，可以讓消費(fèi)者選擇不受算法的約束，或者向消費(fèi)者解釋其算法;但是由于說(shuō)明條款繁多、專業(yè)術(shù)語(yǔ)難被普通消費(fèi)者理解、一次授權(quán)使用而日后交易中自動(dòng)使用的策略等，難以有效地避免算法濫用。

3 基于第三方參與的算法行為規(guī)范策略

基于當(dāng)前的算法困境，筆者提出建立和健全基于第三方參與的算法行為規(guī)范機(jī)制。所謂第三方是指除消費(fèi)者和商家之外的、非交易直接當(dāng)事人之間的主體（不包括政府監(jiān)管部門），如消費(fèi)者協(xié)會(huì)、研究機(jī)構(gòu)、媒體等。第三方由于其專業(yè)性、社會(huì)聯(lián)系廣泛性等優(yōu)勢(shì)，其參與到算法規(guī)范過(guò)程中來(lái)，能夠有效地解決消費(fèi)劣勢(shì)問(wèn)題，例如通過(guò)輿論監(jiān)督、發(fā)布侵權(quán)信息、消費(fèi)者教育等方式規(guī)范或促使商家規(guī)范算法行為，從而實(shí)現(xiàn)保護(hù)消費(fèi)者的目的。為此，本文提出基于第三方參與的商家算法行為規(guī)范模型，如圖1所示。

3.1 加強(qiáng)算法行為監(jiān)測(cè)

算法行為監(jiān)測(cè)的目的是了解商家算法行為的現(xiàn)狀，探究算法違規(guī)行為背后的機(jī)理，為商家算法行為信息系統(tǒng)提供算法違規(guī)行為信息。由于算法違規(guī)行為的專業(yè)性，亟需高校、科研機(jī)構(gòu)及各類組織加強(qiáng)商家算法行為監(jiān)測(cè)?？蒲袡C(jī)構(gòu)等組織根據(jù)法律、法規(guī)的規(guī)定或者國(guó)家監(jiān)管機(jī)構(gòu)的授權(quán)對(duì)商家的算法行為進(jìn)行專業(yè)監(jiān)測(cè)，在一定條件下可查閱商家的內(nèi)部文件，通過(guò)算法審計(jì)等方式評(píng)估商家的算法行為是否合法合規(guī)。有關(guān)社會(huì)組織可以自行或組織消費(fèi)者測(cè)試算法，對(duì)購(gòu)物、出行等網(wǎng)絡(luò)平臺(tái)進(jìn)行監(jiān)督;例如使用不同的測(cè)試賬號(hào)登錄并搜索同一產(chǎn)品和服務(wù)，以便測(cè)試是否存在價(jià)格歧視、非法的商品推送行為;了解其是否按照相關(guān)法律法規(guī)在使用個(gè)人信息進(jìn)行自動(dòng)化決策時(shí)充分地告知消費(fèi)者，是否給消費(fèi)者提供了便利的拒絕選項(xiàng)等。

3.2 建立商家算法行為信息系統(tǒng)

建立全國(guó)范圍內(nèi)的算法行為信息系統(tǒng)，匯聚、傳播和共享算法行為信息，以便形成全社會(huì)參與的算法治理格局。首先，通過(guò)信息公開(kāi)警示、懲罰違規(guī)行為?？紤]到互聯(lián)網(wǎng)集中度高，例如外賣、出行等領(lǐng)域被一個(gè)或者少數(shù)平臺(tái)所壟斷或近乎壟斷，對(duì)于這些居于壟斷地位的互聯(lián)網(wǎng)平臺(tái)予以重點(diǎn)公示。通過(guò)公示，讓消費(fèi)者知曉哪些互聯(lián)網(wǎng)平臺(tái)的算法違規(guī)，降低其在消費(fèi)者心目中的信譽(yù)。當(dāng)一家主流平臺(tái)頻繁地被公示時(shí)，其在消費(fèi)者心目中的信譽(yù)降低到一定程度時(shí)，消費(fèi)者便會(huì)有較大的動(dòng)力選擇其他的平臺(tái)，競(jìng)爭(zhēng)者、甚至行業(yè)中處于相對(duì)弱勢(shì)的競(jìng)爭(zhēng)者平臺(tái)能夠較容易地抓住機(jī)會(huì)擴(kuò)大市場(chǎng)份額。其次，算法行為信息系統(tǒng)為研究機(jī)構(gòu)、行業(yè)協(xié)會(huì)提供信息，有利于促進(jìn)算法違規(guī)行為研究，加強(qiáng)行業(yè)規(guī)范。最后，算法行為信息系統(tǒng)為監(jiān)管部門查處各類算法違規(guī)行為提供專業(yè)監(jiān)測(cè)數(shù)據(jù)和線索，完善算法違規(guī)約束機(jī)制。

3.3 充分發(fā)揮消費(fèi)者協(xié)會(huì)等社會(huì)組織的作用

商家與消費(fèi)者博弈中，消費(fèi)者明顯處于劣勢(shì)。充分發(fā)揮消費(fèi)者協(xié)會(huì)、行業(yè)協(xié)會(huì)等組織的作用，預(yù)防和處理算法侵權(quán)行為。我國(guó)消費(fèi)者協(xié)會(huì)積累了保護(hù)消費(fèi)者權(quán)益的豐富經(jīng)驗(yàn)，面對(duì)算法侵權(quán)行為越來(lái)越多的現(xiàn)實(shí)，組織常規(guī)或者專項(xiàng)算法維權(quán)行動(dòng)。利用其自身或者外部的專業(yè)力量對(duì)商家的算法行為進(jìn)行隨機(jī)抽查或者重點(diǎn)抽查，形成報(bào)告并通過(guò)信息系統(tǒng)公示，向有關(guān)監(jiān)管部門提出監(jiān)管建議。中國(guó)計(jì)算機(jī)學(xué)會(huì)等行業(yè)組織充分發(fā)揮行業(yè)自律、行業(yè)規(guī)范等職能，健全算法研發(fā)行業(yè)標(biāo)準(zhǔn)，通過(guò)宣傳等措施引導(dǎo)商家算法行為。加強(qiáng)輿論監(jiān)督，媒體及時(shí)跟蹤報(bào)道信息系統(tǒng)公示的算法違規(guī)行為，就典型侵權(quán)行為進(jìn)行專題報(bào)道，以便引導(dǎo)消費(fèi)者提高信息保護(hù)意識(shí)和科學(xué)地通過(guò)互聯(lián)網(wǎng)消費(fèi)，促使商家自動(dòng)規(guī)范其算法行為。

3.4 政府監(jiān)管部門加大算法違規(guī)行為整治力度

政府監(jiān)管部門及時(shí)地針對(duì)算法違規(guī)行為采取措施，以便維護(hù)消費(fèi)者權(quán)益。首先，監(jiān)管部門信息系統(tǒng)與算法違規(guī)信息系統(tǒng)對(duì)接，實(shí)時(shí)地了解算法違規(guī)的狀況，如重點(diǎn)行業(yè)違規(guī)情況，及時(shí)地針對(duì)違規(guī)行為采取約談、行政處罰等監(jiān)管措施。其次，構(gòu)成犯罪的，公安機(jī)關(guān)及時(shí)介入偵查，懲罰違規(guī)者和警示商家。再次，完善公益訴訟制度，由于商家處于強(qiáng)勢(shì)地位而消費(fèi)者往往處于無(wú)組織、無(wú)專業(yè)能力的境地，通過(guò)公益訴訟的方式，對(duì)算法違規(guī)行為嚴(yán)重或者較嚴(yán)重的互聯(lián)網(wǎng)平臺(tái)及各類商家提起公益訴訟。最后，針對(duì)信息技術(shù)弱勢(shì)群體展開(kāi)常態(tài)化專項(xiàng)監(jiān)管。針對(duì)老年人的算法歧視問(wèn)題不容忽視，例如通過(guò)算法誤導(dǎo)老年人消費(fèi)[10]。青少年群體網(wǎng)絡(luò)消費(fèi)日益增加，特別是未成年人無(wú)完全行為能力，易受游戲等商家的算法行為誤導(dǎo)，形成不健康的消費(fèi)習(xí)慣和觀念，危害極大。

綜上，第三方有效地參與算法行為規(guī)范，形成有效的算法行為激勵(lì)和約束機(jī)制是解決算法侵權(quán)行為的關(guān)鍵所在。此機(jī)制生效的關(guān)鍵在于，第三方利用其專業(yè)性、廣泛的社會(huì)聯(lián)系優(yōu)勢(shì)為消費(fèi)者科學(xué)地選擇商家和政府有效的監(jiān)管提供決策信息。

參考文獻(xiàn)

[1] 劉霞.當(dāng)算法統(tǒng)治世界[N]. 科技日?qǐng)?bào)，2011-09-13（008）.

[2] 潘芳芳.算法歧視的民事責(zé)任形態(tài)[J].華東政法大學(xué)學(xué)報(bào)，2021，24（05）：55-68.

[3] 陳兵.數(shù)據(jù)時(shí)代開(kāi)啟消費(fèi)者保護(hù)多元共治新格局[J/OL].東北師大學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）：1-10[2021-11-11].http：//kns.cnki.net/kcms/detail/22.1062.C.20191113.1036.002.html.

[4] 凌振國(guó).推進(jìn)數(shù)字社會(huì)適老化改造 遏制大數(shù)據(jù)“殺熟”[N]. 人民政協(xié)報(bào)，2021-11-09（007）.

[5] 金幼芳，王凱莉，張汀菡.《個(gè)人信息保護(hù)法》視角下“大數(shù)據(jù)殺熟”的法律規(guī)制[J/OL].浙江理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）：1-9[2021-11-11].http：//kns.cnki.net/kcms/detail/33.1338.ts.20211027.1528.002.html.

[6] 文銘，莫殷.大數(shù)據(jù)殺熟定價(jià)算法的法律規(guī)制[J/OL].北京航空航天大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）：1-8[2021-11-11].https：//doi.org/10.13766/j.bhsk.1008-2204.2021.0250.2021-11-11.

[7] 蘋果手機(jī)打車更貴？記者親測(cè)實(shí)錘！https：//baijiahao.baidu.com/s？id=1693545608304550812&wfr=spider&for=pc.2021-11-11.

[8] 胡君倩，段佳慧.殺熟與數(shù)據(jù)場(chǎng)景下消費(fèi)者權(quán)利保護(hù)問(wèn)題研究[J].法制與社會(huì)，2019（17）：55-56.

[9] 姚前.算法經(jīng)濟(jì)：資源配置的新機(jī)制[J].清華金融評(píng)論，2018（10）：91-98.

[10] 陳發(fā)俊，姜子豪.老年智能產(chǎn)品的應(yīng)用前景與倫理風(fēng)險(xiǎn)[J].山東科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2021，23（01）：21-28.

本文系佛山市2021年度社科規(guī)劃共建項(xiàng)目（項(xiàng)目編號(hào)：2021-GJ028）研究成果。

作者簡(jiǎn)介：

李潤(rùn)發(fā)（1980.7-），男，中國(guó)廣東省廣州工商學(xué)院教師，碩士研究生，講師、經(jīng)濟(jì)師，研究方向：市場(chǎng)營(yíng)銷。

程振鋒（1980.11-），男，中國(guó)廣東省廣州工商學(xué)院教師，博士，副教授，研究方向：市場(chǎng)營(yíng)銷。

楊美玲（1986.10-），女，中國(guó)廣東省廣州工商學(xué)院教師，碩士研究生，副教授，研究方向：市場(chǎng)營(yíng)銷。