鄭 馳

(華東政法大學(xué) 法律學(xué)院，上海 200042)

隨著網(wǎng)絡(luò)信息技術(shù)的發(fā)展，新技術(shù)新應(yīng)用推動(dòng)了社會(huì)治理能力的提升、數(shù)字經(jīng)濟(jì)的繁榮和數(shù)字政府的建設(shè)，傳統(tǒng)的生產(chǎn)生活方式、治理方式正在數(shù)字化驅(qū)動(dòng)下進(jìn)行著轉(zhuǎn)型與變革。正如習(xí)近平總書記強(qiáng)調(diào)的，要“著力推動(dòng)互聯(lián)網(wǎng)和實(shí)體經(jīng)濟(jì)深度融合發(fā)展，以信息流帶動(dòng)技術(shù)流、資金流、人才流、物資流，促進(jìn)資源配置優(yōu)化，促進(jìn)全要素生產(chǎn)率提升，為推動(dòng)創(chuàng)新發(fā)展、轉(zhuǎn)變經(jīng)濟(jì)發(fā)展方式、調(diào)整經(jīng)濟(jì)結(jié)構(gòu)發(fā)揮積極作用”[1]。算法作為信息技術(shù)的底層架構(gòu)，在信息傳播、資源配置、決策輔助等方面發(fā)揮了基礎(chǔ)性作用。算法推薦技術(shù)則為解決數(shù)字時(shí)代中信息過載的問題提供了幫助，通過精準(zhǔn)的運(yùn)算邏輯，提供個(gè)性化的內(nèi)容，塑造了個(gè)人與信息之間新的連接方式。但從另一方面來看，新技術(shù)的發(fā)展也可能給公共利益、社會(huì)秩序及國(guó)家安全帶來挑戰(zhàn)，需要以協(xié)同高效的治理方式，使算法推薦等新技術(shù)在法治軌道上運(yùn)行。習(xí)近平總書記指出，“要依法加強(qiáng)網(wǎng)絡(luò)社會(huì)管理，加強(qiáng)網(wǎng)絡(luò)新技術(shù)新應(yīng)用的管理，確?；ヂ?lián)網(wǎng)可管可控，使我們的網(wǎng)絡(luò)空間清朗起來”[2]。在利用信息技術(shù)創(chuàng)新的擴(kuò)散效應(yīng)實(shí)現(xiàn)經(jīng)濟(jì)發(fā)展的同時(shí)，也應(yīng)當(dāng)注意技術(shù)的安全性，用主流價(jià)值導(dǎo)向駕馭算法，使互聯(lián)網(wǎng)發(fā)展的成果釋放普惠效應(yīng)。

一、算法推薦的架構(gòu)機(jī)制

(一)環(huán)境架構(gòu)：不依賴外界保障的自我執(zhí)行

相較于法律、社群規(guī)范的規(guī)制模式，架構(gòu)規(guī)制有以下特點(diǎn)。第一，就法律、社群規(guī)范規(guī)制而言，在對(duì)被約束者的要求上，被約束者需要了解法律、社群規(guī)范的社會(huì)調(diào)控作用，當(dāng)在主觀上對(duì)法律、社群規(guī)范有所預(yù)期時(shí)，被約束者便會(huì)基于預(yù)期調(diào)整行為，規(guī)范便發(fā)揮其效力。但就架構(gòu)規(guī)制而言，其有效性與被約束者的認(rèn)知無關(guān)，無論被約束者是否意識(shí)到架構(gòu)的作用，架構(gòu)均能發(fā)揮作用。第二，在對(duì)執(zhí)行主體的依賴方面，架構(gòu)規(guī)制可以自我執(zhí)行。法律所進(jìn)行的規(guī)制，往往需要有執(zhí)法機(jī)關(guān)、司法機(jī)關(guān)的保障，才能實(shí)現(xiàn)法律的效力。不同于法律所進(jìn)行的規(guī)制，由架構(gòu)所進(jìn)行的規(guī)制，在架構(gòu)形成之時(shí)，便開始發(fā)揮作用，直到被終止。[3]362-366架構(gòu)決定了用戶行為的邊界，同時(shí)也在一定程度上界定了用戶的權(quán)利。

從現(xiàn)行關(guān)于架構(gòu)責(zé)任的視角予以考察，首先，在設(shè)計(jì)架構(gòu)方面，互聯(lián)網(wǎng)平臺(tái)主要承擔(dān)行政責(zé)任。架構(gòu)的有效性與被約束者的預(yù)期無關(guān)，因而架構(gòu)的設(shè)計(jì)與選擇并非互聯(lián)網(wǎng)平臺(tái)與用戶之間的合意內(nèi)容，而主要通過行政法規(guī)的規(guī)定予以調(diào)整。其次，在架構(gòu)規(guī)制所產(chǎn)生的后果方面，由互聯(lián)網(wǎng)平臺(tái)承擔(dān)侵權(quán)或是違約責(zé)任。架構(gòu)規(guī)制具有自我執(zhí)行的特點(diǎn)，能以較低的成本實(shí)現(xiàn)規(guī)制的目標(biāo)，平臺(tái)通過架構(gòu)所進(jìn)行的規(guī)制被作為行政機(jī)關(guān)規(guī)制的補(bǔ)充，實(shí)現(xiàn)對(duì)互聯(lián)網(wǎng)的合作治理。

1.不受合意調(diào)整的架構(gòu)設(shè)計(jì)

在設(shè)計(jì)架構(gòu)方面，用戶對(duì)架構(gòu)設(shè)計(jì)的自主選擇權(quán)限以及相關(guān)技術(shù)信息的知情權(quán)，取決于平臺(tái)的設(shè)置，并主要依賴行政機(jī)關(guān)依照相關(guān)規(guī)定進(jìn)行監(jiān)管，用戶尋求的私法救濟(jì)并非主要的控制手段。以短視頻網(wǎng)絡(luò)平臺(tái)抖音為例，其進(jìn)行的算法推薦在頁(yè)面設(shè)計(jì)上，采取的是默認(rèn)推薦與連續(xù)推薦的架構(gòu)。用戶進(jìn)入平臺(tái)時(shí)，便進(jìn)入了算法推薦模式，平臺(tái)不設(shè)置用戶選擇選項(xiàng)，弱化了用戶對(duì)正在進(jìn)行算法推薦的意識(shí)。在推送頻率上，無須用戶過多操作便可以進(jìn)行連續(xù)推薦。這樣的環(huán)境為用戶創(chuàng)造了強(qiáng)烈的沉浸式體驗(yàn)，具有個(gè)性化、信息閉環(huán)化的傾向。由此可見，網(wǎng)絡(luò)平臺(tái)的環(huán)境架構(gòu)在形成后，便開始生效。平臺(tái)憑借對(duì)架構(gòu)的調(diào)整，能夠達(dá)成平臺(tái)的價(jià)值偏好，因?yàn)闊o須被約束者知情，個(gè)人在主觀無意識(shí)的情況下受到架構(gòu)的影響。而對(duì)于用戶而言，架構(gòu)的運(yùn)作方式與運(yùn)作目的則是缺乏透明度的。

當(dāng)前的互聯(lián)網(wǎng)已經(jīng)度過了自生自發(fā)的階段，平臺(tái)化成為這一階段的典型特征。平臺(tái)可以對(duì)架構(gòu)進(jìn)行設(shè)計(jì)，乃至不僅僅控制被約束者，還對(duì)數(shù)字經(jīng)濟(jì)的生產(chǎn)過程進(jìn)行引導(dǎo)與調(diào)整。[4]而在此過程中，平臺(tái)所遵循的商業(yè)邏輯具有逐利的目標(biāo)，可能對(duì)用戶權(quán)利造成侵犯，例如競(jìng)價(jià)排名、誘導(dǎo)沉迷的設(shè)計(jì)對(duì)用戶權(quán)益的損害。法律也逐步回應(yīng)平臺(tái)技術(shù)不中立的現(xiàn)象，如《中華人民共和國(guó)電子商務(wù)法》第40條要求電子商務(wù)平臺(tái)經(jīng)營(yíng)者對(duì)于競(jìng)價(jià)排名的商品或者服務(wù)，應(yīng)當(dāng)顯著標(biāo)明“廣告”。在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中，相關(guān)規(guī)定對(duì)環(huán)境架構(gòu)的設(shè)計(jì)做出了直接的規(guī)定，例如禁止算法推薦服務(wù)提供者設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等算法模型，要求開發(fā)適合未成年人使用的模式等內(nèi)容。在平臺(tái)用戶協(xié)議中，架構(gòu)設(shè)計(jì)并不作為平臺(tái)與用戶合意的內(nèi)容被列出，用戶對(duì)于架構(gòu)的知情與選擇處于黑箱的狀態(tài)，用戶依照架構(gòu)所給出的默認(rèn)設(shè)置而行為。當(dāng)出現(xiàn)糾紛時(shí)，法院可能將架構(gòu)作為判斷用戶行為限度的標(biāo)準(zhǔn)，劃定平臺(tái)與用戶之間的責(zé)任。在架構(gòu)允許行為的范圍內(nèi)，用戶行為可能不被認(rèn)定為違反服務(wù)協(xié)議規(guī)定的行為。(1)(2019)桂民再681號(hào)。

2.由架構(gòu)間接執(zhí)行法律時(shí)的單方責(zé)任

由于架構(gòu)具有規(guī)制的能力，其也被行政機(jī)關(guān)利用，對(duì)互聯(lián)網(wǎng)中的內(nèi)容進(jìn)行監(jiān)管。鑒于架構(gòu)通常由互聯(lián)網(wǎng)平臺(tái)等技術(shù)主體所掌握，監(jiān)管的執(zhí)行也依賴于技術(shù)主體的行動(dòng)，這種方式也被認(rèn)為是間接執(zhí)行法律。[5]這種通過架構(gòu)規(guī)制行為，從而間接執(zhí)行法律的方式，引發(fā)了互聯(lián)網(wǎng)平臺(tái)與行政機(jī)關(guān)之間法律責(zé)任分配的問題。以互聯(lián)網(wǎng)平臺(tái)封禁用戶賬號(hào)為例，互聯(lián)網(wǎng)平臺(tái)對(duì)用戶賬號(hào)進(jìn)行封禁體現(xiàn)了架構(gòu)的規(guī)制能力，互聯(lián)網(wǎng)平臺(tái)能夠控制違法信息傳播的節(jié)點(diǎn)，進(jìn)行封號(hào)，拒絕被封用戶進(jìn)入平臺(tái)，從而切斷信息傳播的源頭。[6]同時(shí)，行政機(jī)關(guān)通常以行政指導(dǎo)的方式，督促互聯(lián)網(wǎng)平臺(tái)對(duì)用戶采取封禁、限制使用部分功能等處置措施。例如在國(guó)家網(wǎng)信辦自2021年8月27日起開展的清朗·商業(yè)網(wǎng)站平臺(tái)和“自媒體”違規(guī)采編發(fā)布財(cái)經(jīng)類信息專項(xiàng)整治活動(dòng)中，國(guó)家網(wǎng)信辦會(huì)同國(guó)家發(fā)改委、財(cái)政部等部門，督促指導(dǎo)主要商業(yè)網(wǎng)站平臺(tái)封禁關(guān)停了一批違規(guī)自媒體賬號(hào)。[7]在這種規(guī)制模式下，用戶在互聯(lián)網(wǎng)平臺(tái)上發(fā)表言論的資格受到了限制。雖然這種限制實(shí)質(zhì)上有行政機(jī)關(guān)的參與，但從表面來看，反映為互聯(lián)網(wǎng)平臺(tái)通過技術(shù)設(shè)置所進(jìn)行的限制。用戶通常要求互聯(lián)網(wǎng)平臺(tái)承擔(dān)侵權(quán)或者違約責(zé)任，而無法對(duì)行政機(jī)關(guān)提起行政復(fù)議或者訴訟，要求行政機(jī)關(guān)承擔(dān)責(zé)任。[8]

(二)個(gè)人身份的數(shù)字化架構(gòu)：用戶畫像的表達(dá)

1.以個(gè)人特征標(biāo)簽為基礎(chǔ)建立的用戶畫像

算法推薦的個(gè)性化基于對(duì)用戶形象的數(shù)字化刻畫，也即進(jìn)行用戶畫像。用戶畫像是用戶形象的代碼化表現(xiàn)，從架構(gòu)的角度解讀，用戶所獲取的推薦信息與其畫像的架構(gòu)相符。用戶畫像涉及算法、建模等信息技術(shù)專業(yè)知識(shí)，通過分析用戶人口學(xué)特征、網(wǎng)絡(luò)瀏覽內(nèi)容、網(wǎng)絡(luò)社交活動(dòng)和消費(fèi)行為等信息，抽象出一個(gè)標(biāo)簽化的用戶模型。[9]152個(gè)人的數(shù)字化架構(gòu)被區(qū)分為粒度由粗到細(xì)的層次化標(biāo)簽，系統(tǒng)為用戶抽象出的標(biāo)簽對(duì)于用戶所獲取的推薦內(nèi)容具有重要作用。在網(wǎng)絡(luò)空間中，標(biāo)簽是用以約束用戶獲取信息類型的工具，系統(tǒng)根據(jù)對(duì)用戶行為數(shù)據(jù)的分析，為不同的用戶確定不同的標(biāo)簽，標(biāo)簽代表了對(duì)用戶個(gè)人特征的確認(rèn)與推斷。個(gè)人數(shù)字化架構(gòu)對(duì)用戶獲取推薦內(nèi)容的影響在于，從架構(gòu)的整體設(shè)計(jì)而言，若標(biāo)簽體系中缺少某項(xiàng)價(jià)值理念，那么用戶將難以獲取相關(guān)內(nèi)容。例如在標(biāo)簽體系中缺少對(duì)公共性內(nèi)容偏好的設(shè)計(jì)，則會(huì)導(dǎo)致用戶獲取公共性內(nèi)容自由的限制。從為每個(gè)用戶單獨(dú)刻畫的用戶畫像架構(gòu)而言，不同的畫像也決定了與用戶匹配的信息內(nèi)容，塑造了用戶所身處的擬態(tài)環(huán)境。

2.數(shù)字身份的被動(dòng)構(gòu)建與事前保護(hù)

回歸到個(gè)人，用戶畫像蘊(yùn)含著個(gè)人數(shù)字身份的表達(dá)。從個(gè)人身份的發(fā)展來看，最初對(duì)個(gè)人身份的保護(hù)側(cè)重于靜態(tài)身份的保護(hù)，用以識(shí)別和認(rèn)證特定的個(gè)人，實(shí)現(xiàn)國(guó)家治理和政府管理。在私法層面，則通過立法保護(hù)姓名權(quán)、肖像權(quán)，防止他人不當(dāng)侵害個(gè)人身份。到了20世紀(jì)后期，個(gè)人身份保護(hù)側(cè)重于動(dòng)態(tài)身份保護(hù)，也即保護(hù)個(gè)人在社會(huì)生活中所呈現(xiàn)的身份，包括個(gè)人在社會(huì)、宗教、政治等方面所呈現(xiàn)的特征，確保在社會(huì)關(guān)系中呈現(xiàn)的自我不是被歪曲的。[10]進(jìn)入數(shù)字化時(shí)代，個(gè)人不再只以自然人的形態(tài)生活在物理空間中，同時(shí)還以信息人的形態(tài)存在于虛擬空間中，具有生物與信息雙重面向。[11]由此，個(gè)人的數(shù)字身份逐漸形成，并通過以個(gè)人信息為基礎(chǔ)建構(gòu)起來的用戶畫像呈現(xiàn)，個(gè)人在各方面所具備的特征則通過用戶畫像的標(biāo)簽表達(dá)出來。

用戶畫像所表達(dá)的數(shù)字身份與傳統(tǒng)身份有所不同。首先，在數(shù)字身份的形成上，不僅包括由個(gè)人主動(dòng)提供個(gè)人信息從而塑造出的數(shù)字身份，還包括由他人對(duì)個(gè)人進(jìn)行推斷，進(jìn)而預(yù)測(cè)出的數(shù)字身份，即數(shù)字身份并非完全是自主構(gòu)建的。推斷所形成的數(shù)字身份是一種被動(dòng)的構(gòu)建，其脫離了個(gè)人對(duì)自我的認(rèn)知，可能與個(gè)人主體相分離，具有一定風(fēng)險(xiǎn)。此外，推斷常常是基于數(shù)理邏輯對(duì)用戶某項(xiàng)個(gè)人屬性的定性，并依屬性對(duì)應(yīng)著后續(xù)決策，例如分析用戶的人脈關(guān)系、資產(chǎn)證明、行為累積等數(shù)據(jù)，為用戶賦予信用良好或較差的數(shù)字身份屬性。[12]這種推斷過程通常是不透明的，既可能是基于專業(yè)槽的“文盲不透明”，也可能是基于對(duì)商業(yè)秘密保護(hù)的“故意不透明”。其次，在對(duì)身份的保護(hù)形式上，傳統(tǒng)個(gè)人身份可以通過對(duì)姓名權(quán)、肖像權(quán)等人格權(quán)利的主張獲得事后保護(hù)。但對(duì)于用戶畫像，用戶則是通過“知情同意”機(jī)制，授權(quán)畫像方使用其個(gè)人信息。這種制度設(shè)計(jì)試圖在事前完成對(duì)個(gè)人信息在收集、使用全流程中的保護(hù)，遵循了現(xiàn)代權(quán)利觀念的邏輯，即從自由推出權(quán)利，因?yàn)槿擞凶鳛槔硇愿拍畹淖杂梢庵?，所以能夠自由地做不妨礙別人的行為，也即是有了權(quán)利。[13]但數(shù)字身份的形成邏輯卻與這種權(quán)利觀念邏輯相悖，因?yàn)閿?shù)字身份是用戶進(jìn)入數(shù)字生活的前提，用戶有了數(shù)字身份才能夠與數(shù)字服務(wù)提供方建立信任關(guān)聯(lián)。[14]知情同意機(jī)制雖然看似為用戶提供了表達(dá)自由意志的空間，但用戶實(shí)際上面臨著不同意則無法與服務(wù)提供者建立關(guān)聯(lián)，從而無法進(jìn)入數(shù)字生活空間的尷尬局面。因此，就由用戶畫像所表達(dá)的數(shù)字身份而言，事前的保護(hù)機(jī)制作用十分有限。

(三)內(nèi)容生成架構(gòu)：推薦算法的過濾

1.由技術(shù)架構(gòu)實(shí)現(xiàn)的異質(zhì)信息過濾

推薦算法實(shí)現(xiàn)了用戶畫像與個(gè)人之間的信息連接，決定了內(nèi)容的生成。主要的推薦算法包括協(xié)同過濾推薦算法、基于內(nèi)容的推薦算法、基于圖結(jié)構(gòu)的推薦算法等。以協(xié)同過濾推薦算法為例，其運(yùn)作邏輯是：要為用戶推薦感興趣的內(nèi)容，可以通過找到與該用戶偏好相似的其他用戶,將他們感興趣的內(nèi)容推薦給該用戶。協(xié)同過濾方法中基于記憶的推薦方法可以概括為兩步：第一步是采用相似度計(jì)算方法計(jì)算用戶、項(xiàng)目之間的相似度,構(gòu)造相似度矩陣；第二步是采用相應(yīng)的算法估計(jì)評(píng)分,并據(jù)此為用戶進(jìn)行推薦。[15]在這個(gè)過程中，推薦算法的代碼架構(gòu)被設(shè)計(jì)為對(duì)用戶的推薦依賴相似用戶的選擇。用戶所從事的活動(dòng)留下了蹤跡，而這種代碼架構(gòu)收集了活動(dòng)蹤跡，并將蹤跡與其他用戶相聯(lián)系，用戶所獲得的推薦與算法所推斷的與其相似的人的選擇具有同質(zhì)性。在這種架構(gòu)下，對(duì)異質(zhì)信息的需求被過濾，信息的傳播范圍集中在特定群體里，群體將收到橫向窄化而向縱向加深的信息內(nèi)容。

2.契合個(gè)體化進(jìn)程的推薦算法

通過這種模式進(jìn)行的信息生產(chǎn)遵循著用戶本位的邏輯，信息精確地指向個(gè)人，用戶是數(shù)字生活空間的中心，改變了傳統(tǒng)的以傳播者為本位，由傳播者控制信息的采編與分發(fā)的信息生產(chǎn)邏輯。這種轉(zhuǎn)變也體現(xiàn)了在社會(huì)進(jìn)程中個(gè)體與社會(huì)之間關(guān)系的變遷，個(gè)人與其他社會(huì)成員的人身依附關(guān)系以及自然紐帶關(guān)系被不斷打破，個(gè)體化成為現(xiàn)代社會(huì)的突出現(xiàn)象。在傳統(tǒng)社會(huì)中，以血緣關(guān)系、宗族情感為紐帶建立起一個(gè)倫理社會(huì)，集體意識(shí)、道德規(guī)范調(diào)整并限制個(gè)人的行為。而隨著市場(chǎng)經(jīng)濟(jì)的發(fā)展和社會(huì)經(jīng)濟(jì)結(jié)構(gòu)的變動(dòng)，城市化轉(zhuǎn)型沖擊了宗族在空間上的聯(lián)結(jié)，越來越多的宗族成員也向各個(gè)城市流動(dòng)，尋求個(gè)人的發(fā)展。[16]在進(jìn)入數(shù)字時(shí)代之后，人與人之間的社會(huì)關(guān)系掩藏在數(shù)字身份之下，社會(huì)關(guān)系更加扁平化、流動(dòng)化。在這種社會(huì)背景下，個(gè)人不再受到宗法等社會(huì)規(guī)范的強(qiáng)束縛，也不再需要將自我身份的構(gòu)建依附于集體之中，個(gè)人行為越發(fā)受到自我規(guī)范的調(diào)整。[17]由此，個(gè)體化成為現(xiàn)代社會(huì)的明顯現(xiàn)象，個(gè)人對(duì)自由、自決的需求逐漸增長(zhǎng)[18]，并且越發(fā)關(guān)注自身，試圖使自己成為生活方式選擇、時(shí)間規(guī)劃、視野培育的中心與決策者。推薦算法迎合了用戶的個(gè)體化需求，在與用戶畫像結(jié)合之后，每個(gè)用戶都能擁有獨(dú)占的消費(fèi)類型，所生成的內(nèi)容符合個(gè)體的喜好，從社會(huì)生產(chǎn)的角度而言，也有利于個(gè)體消費(fèi)的增長(zhǎng)。這種內(nèi)容生成架構(gòu)使得用戶和信息之間被強(qiáng)聯(lián)結(jié)起來，用戶對(duì)信息具有高漲的情緒強(qiáng)度，而與之相依賴。[19]

二、算法推薦的權(quán)利風(fēng)險(xiǎn)

(一)個(gè)人自主性風(fēng)險(xiǎn)

1.算法的規(guī)則剛性與個(gè)人參與不足的矛盾

技術(shù)發(fā)展所帶來的紅利使工具理性成為架構(gòu)設(shè)計(jì)的主要邏輯。進(jìn)入數(shù)字時(shí)代，個(gè)體的個(gè)性化得到了發(fā)展，并在信息消費(fèi)方面展現(xiàn)出差異化的特征。[20]因應(yīng)之下，互聯(lián)網(wǎng)平臺(tái)進(jìn)行算法推薦的內(nèi)容分發(fā)方式越發(fā)普遍。從算法推薦的技術(shù)角度考察，平臺(tái)通過構(gòu)建用戶畫像并進(jìn)行算法推薦，使用戶獲得更有效的信息[21]，滿足個(gè)體在信息消費(fèi)上的需求，也使廣告投放更加精準(zhǔn)，提高平臺(tái)自身的商業(yè)價(jià)值。在這種情境下，算法推薦的代碼的運(yùn)行邏輯是，通過默認(rèn)的推薦頁(yè)面將用戶固定在其中，量化用戶行為，確定運(yùn)算模式，得出計(jì)算后的結(jié)果，進(jìn)而指導(dǎo)推薦信息的分發(fā)決策。這是一種相對(duì)固定的程序，因?yàn)樾袨楹蛿?shù)據(jù)所對(duì)應(yīng)的數(shù)值、運(yùn)算模式是確定的，相同行為對(duì)應(yīng)的結(jié)果也將完全相同，體現(xiàn)了規(guī)則運(yùn)行的剛性與工具理性。但其風(fēng)險(xiǎn)在于，外觀是“用戶本位”的生產(chǎn)邏輯，但背后決定信息內(nèi)容生產(chǎn)的，實(shí)際上是一系列代碼形成的架構(gòu)規(guī)則。例如，“今日頭條”的推薦來源于系統(tǒng)為用戶建立的興趣圖譜，這個(gè)興趣圖譜是基于用戶所產(chǎn)生的數(shù)據(jù)，經(jīng)過數(shù)學(xué)建模而生成的。[22]在這一過程中，需要有多種推斷規(guī)則，完善代碼架構(gòu)。這些規(guī)則試圖將實(shí)然的事實(shí)對(duì)應(yīng)于應(yīng)然中的價(jià)值，從量化的事實(shí)中推導(dǎo)出對(duì)屬性的價(jià)值判斷，使工具理性與價(jià)值理性統(tǒng)一起來。但在這一過程中，用戶幾乎沒有控制權(quán)與參與商談的空間，呈現(xiàn)給用戶的是推薦結(jié)果，推薦過程與推薦技術(shù)并不透明。由此可見，“用戶本位”的生產(chǎn)邏輯背后，實(shí)際上是推薦者所設(shè)計(jì)的技術(shù)架構(gòu)決定了信息生產(chǎn)內(nèi)容，用戶的自主性被架構(gòu)的生效所代替。與此同時(shí)，由于工具理性運(yùn)作的體制化，社會(huì)生活領(lǐng)域受到了工具理性的侵占，人與人之間的關(guān)系被量化的計(jì)算所代替，從而導(dǎo)致了人的異化。[23]

2.個(gè)人自決在個(gè)人信息收集與利用中的局限

對(duì)個(gè)人信息的保護(hù)與信息自決權(quán)的理念密切相關(guān)，信息自決意味著個(gè)人能夠?qū)€(gè)人的信息自主決定如何使用，從而維護(hù)人的尊嚴(yán)。[24]信息自決權(quán)既包括個(gè)人信息主體有權(quán)決定個(gè)人信息被收集與否，即是否提供個(gè)人信息，以及提供何種個(gè)人信息以獲取更為高效的服務(wù)，也包括對(duì)個(gè)人信息在后續(xù)利用環(huán)節(jié)的自主決定，例如是否同意個(gè)人信息處理方之間的信息共享。《中華人民共和國(guó)個(gè)人信息保護(hù)法》中關(guān)于個(gè)人知情同意、撤回同意、對(duì)自動(dòng)化決策的拒絕權(quán)等規(guī)定體現(xiàn)了信息自決的內(nèi)涵。在算法推薦中，個(gè)人對(duì)于個(gè)人信息收集環(huán)節(jié)的自主決定是有局限的，因?yàn)閷?duì)于個(gè)人而言，只有提供個(gè)人信息，才能實(shí)現(xiàn)數(shù)字身份的構(gòu)建，從而進(jìn)入數(shù)字生活，因此知情同意機(jī)制在此環(huán)節(jié)中更多體現(xiàn)為知情，要求個(gè)人信息收集者依法進(jìn)行告知，個(gè)人在此過程中享有的是消極的期待權(quán)利。而在個(gè)人信息利用環(huán)節(jié)中，個(gè)人對(duì)算法推薦的自主決定更為外顯?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第17條要求算法推薦服務(wù)提供者向用戶提供非個(gè)性化推薦的選項(xiàng)，或是提供關(guān)閉算法推薦的選項(xiàng)，對(duì)此，微博、微信、淘寶等互聯(lián)網(wǎng)平臺(tái)均做出了回應(yīng)，向用戶提供可修改推薦設(shè)置的選項(xiàng)。[25]據(jù)此，個(gè)人可以通過積極的行為來避免算法對(duì)自身的干預(yù)，從而體現(xiàn)個(gè)人在個(gè)人信息利用環(huán)節(jié)的自主性。但不能忽視的是，當(dāng)算法推薦涉及個(gè)人與服務(wù)提供者之間的利益博弈時(shí)，例如大數(shù)據(jù)殺熟、基于競(jìng)價(jià)排名的內(nèi)容推薦等，則服務(wù)提供者通常會(huì)采取環(huán)境架構(gòu)的方式予以設(shè)置，為自身獲取最大利益，個(gè)人無法對(duì)此進(jìn)行干預(yù)。此時(shí)，個(gè)人可以侵犯財(cái)產(chǎn)權(quán)益或是人格權(quán)益的方式向司法機(jī)關(guān)提起訴訟，但司法機(jī)關(guān)對(duì)于個(gè)人關(guān)于請(qǐng)求改變整體架構(gòu)設(shè)置持審慎的態(tài)度，往往依據(jù)個(gè)人信息處理原則，認(rèn)定是否存在侵害消費(fèi)者個(gè)人信息的行為，從而判斷服務(wù)提供者是否承擔(dān)責(zé)任。例如在“胡某與上海攜程商務(wù)有限公司侵權(quán)責(zé)任糾紛”一案中，胡某要求攜程公司對(duì)其APP增加選項(xiàng)，即增加不同意使用個(gè)人信息的選項(xiàng)，并未得到法院的支持。此外，法院也并未對(duì)大數(shù)據(jù)殺熟存在與否做出認(rèn)定，而是通過認(rèn)定攜程公司的價(jià)格機(jī)制不透明，存在較大價(jià)差，且存在欺騙行為，從而要求其對(duì)消費(fèi)者承擔(dān)責(zé)任。(2)(2021)浙06民終3129號(hào)。由此可見，對(duì)于不當(dāng)利用個(gè)人信息的行為，個(gè)人雖然能請(qǐng)求法律救濟(jì)，但救濟(jì)的范圍有限。

(二)隱私權(quán)風(fēng)險(xiǎn)

1.數(shù)字化圓形監(jiān)獄下隱私透明度升高

就用戶畫像而言，形成用戶畫像需要收集大量用戶的個(gè)人信息，從而進(jìn)行用戶形象推斷。用戶畫像使得個(gè)體處于數(shù)字化圓形監(jiān)獄，隱私趨于透明。圓形監(jiān)獄的概念由功利主義代表人物邊沁提出，其特點(diǎn)是圓形構(gòu)造造成的全方位監(jiān)視以及明暗設(shè)計(jì)對(duì)囚犯心理的暗示。監(jiān)獄長(zhǎng)在監(jiān)獄中心的眺望塔上能夠看到外圍一圈囚禁室內(nèi)每個(gè)囚犯的一舉一動(dòng)，而處在光亮中的囚犯卻無法得知黑暗的眺望塔中是否有人監(jiān)視。這種不可確認(rèn)的狀況使得囚犯隨時(shí)保持警惕心，不觸犯戒律，如同處于無休止的監(jiān)視之下。而大數(shù)據(jù)時(shí)代的來臨、機(jī)器學(xué)習(xí)的發(fā)展，使人們身處于一座數(shù)字化圓形監(jiān)獄之中。[26]在算法推薦中，首先，隱性收集個(gè)人信息的技術(shù)在眺望塔的百葉窗之后，記錄個(gè)體的行為軌跡，暗中監(jiān)視。而個(gè)體卻沒有圓形監(jiān)獄中囚徒的警惕性，不經(jīng)意展露的信息悄然成為技術(shù)收集個(gè)人隱私的養(yǎng)料。用戶在瀏覽推薦內(nèi)容后，在平臺(tái)上留下了以cookie形式存在的蹤跡。通過收集這些數(shù)據(jù)，平臺(tái)將對(duì)用戶的偏好信息了如指掌。其次，以個(gè)人信息等內(nèi)容為養(yǎng)料的大數(shù)據(jù)技術(shù)，除了永續(xù)監(jiān)控，還能永續(xù)學(xué)習(xí)，通過在實(shí)踐中反復(fù)訓(xùn)練，使人們的隱私透明化。在用戶畫像技術(shù)中，即使A用戶的某項(xiàng)個(gè)人信息缺失，也可以通過調(diào)用模型訓(xùn)練其他個(gè)人信息完整、行為與A相似的用戶的數(shù)據(jù)，形成標(biāo)簽，進(jìn)而推測(cè)A用戶的個(gè)人信息，準(zhǔn)確度在一定條件下可以達(dá)到70%。[9]151采取這類標(biāo)簽擴(kuò)散模型進(jìn)行個(gè)人隱私的推測(cè)具有可能性，再結(jié)合不易察覺的隱性收集個(gè)人隱私，個(gè)體逐漸處于完全的光亮之中，隱私也將趨向透明。

2.隱私權(quán)保護(hù)方式面臨雙重困境

在數(shù)字社會(huì)中，傳統(tǒng)的隱私權(quán)保護(hù)方式面臨挑戰(zhàn)。從空間角度而言，傳統(tǒng)的隱私權(quán)保護(hù)邏輯建立在私人領(lǐng)域和公共領(lǐng)域有明顯界分的基礎(chǔ)上。在私人領(lǐng)域之中，個(gè)人的生活不被知曉和打擾，正如法諺“風(fēng)能進(jìn)、雨能進(jìn)、國(guó)王不能進(jìn)”所彰顯的，在私人領(lǐng)域，國(guó)家公權(quán)力應(yīng)當(dāng)止步，不能侵犯私人自治空間，由此，形成了以私人住宅為邊界的傳統(tǒng)隱私權(quán)保護(hù)范圍。而后隨著對(duì)隱私權(quán)保護(hù)范圍需求的擴(kuò)張，隱私權(quán)所保護(hù)的空間不再局限于私人住宅，也拓展到公共場(chǎng)所，如電話亭、飯店等地也存在隱私權(quán)保護(hù)的需要。[27]然而在數(shù)字空間中，公共領(lǐng)域與私人領(lǐng)域之間的邊界模糊不清，例如在由互聯(lián)網(wǎng)平臺(tái)所構(gòu)造的領(lǐng)域中，既存在包含公共生產(chǎn)、公共交往及公共政治的公共領(lǐng)域，個(gè)人可以直接參與討論，也存在呈現(xiàn)了個(gè)人位置信息、人臉信息等個(gè)人信息的私人領(lǐng)域。與此同時(shí)，隨著用戶生產(chǎn)內(nèi)容模式的興起，具有公共性的內(nèi)容不再只由特定主體傳播，而是由更為多元的主體傳播，公共領(lǐng)域與私人領(lǐng)域更加難以區(qū)分。在數(shù)字空間中，侵權(quán)認(rèn)定中的空間標(biāo)準(zhǔn)受到挑戰(zhàn)。

此外，傳統(tǒng)隱私權(quán)所追求的權(quán)能也面臨著與數(shù)字經(jīng)濟(jì)發(fā)展要求相沖突的問題。[28]傳統(tǒng)隱私權(quán)追求對(duì)隱私利益的排他性支配，排除他人的披露與干擾、侵犯，強(qiáng)調(diào)權(quán)利人對(duì)隱私的控制。在數(shù)字空間中，隱私內(nèi)容則以個(gè)人信息或個(gè)人數(shù)據(jù)的方式表現(xiàn)出來，而個(gè)人信息被認(rèn)為存在公共屬性，個(gè)人無法控制信息本身，而信息、數(shù)據(jù)的開放與流動(dòng)，還關(guān)系到大數(shù)據(jù)產(chǎn)業(yè)發(fā)展、社會(huì)經(jīng)濟(jì)利益的實(shí)現(xiàn)。[29]由此，傳統(tǒng)隱私權(quán)保護(hù)目標(biāo)的實(shí)現(xiàn)受到了阻礙。在實(shí)踐中，個(gè)人信息的可流動(dòng)性也作為隱私政策中的重要條款被列舉出來，成為服務(wù)提供商提供便捷服務(wù)的前提。例如在抖音的隱私政策中，與抖音合作的位置服務(wù)提供商會(huì)獲取個(gè)人的GPS信息、設(shè)備信息，合作的電商平臺(tái)會(huì)獲取個(gè)人的商品瀏覽、購(gòu)買信息，第三方支付機(jī)構(gòu)會(huì)獲取個(gè)人的姓名、身份證號(hào)、銀行卡類型及卡號(hào)、手機(jī)號(hào)碼等。[30]由此可見，傳統(tǒng)隱私權(quán)所主張的對(duì)隱私的支配與控制，已經(jīng)受到了現(xiàn)實(shí)的挑戰(zhàn)。

(三)平等權(quán)風(fēng)險(xiǎn)

1.信息不平等：過濾泡沫下信息分化加劇

用戶畫像與推薦算法結(jié)合，過濾相反觀點(diǎn)，創(chuàng)建同質(zhì)化信息泡沫空間，阻礙個(gè)體多樣性發(fā)展。這種結(jié)合通過刻畫多維度用戶畫像，形成更符合用戶偏好的個(gè)性化推薦服務(wù)，為企業(yè)帶來顯著的商業(yè)價(jià)值。Netflix于2006年舉辦旨在提高該公司Cinematch系統(tǒng)推薦準(zhǔn)確率的大獎(jiǎng)賽后，服務(wù)模式很快從美國(guó)范圍內(nèi)的DVD租賃服務(wù)轉(zhuǎn)型為國(guó)際范圍的互聯(lián)網(wǎng)流媒體視頻訂閱服務(wù)。[31]但同時(shí)，這種結(jié)合過濾掉了那些相反的觀點(diǎn)，只讓與自己意識(shí)形態(tài)相同的信息呈現(xiàn)出來，信息走向同質(zhì)化。例如谷歌類的搜索引擎提供的信息正逐漸個(gè)性化，為用戶創(chuàng)造獨(dú)一無二的信息世界。這種方式限制了獲取信息的方式和渠道，使得文化、新聞的獲取類型越發(fā)單一。[32]在同質(zhì)化信息所形成的信息繭房中，沒有相反意見存在，導(dǎo)致用戶對(duì)已有的意見確信不疑，沉迷于繭房中，放棄廣泛分散的有益的新知識(shí)。[33]因此，在不夠成熟的用戶畫像構(gòu)建與過濾泡沫的共同作用下，用戶獲取的信息內(nèi)容同質(zhì)化，不僅有局限用戶視野的風(fēng)險(xiǎn)，還可能加劇思想的僵化、意見的極端化，在人與人之間拉開信息異質(zhì)化的鴻溝。這將造成社會(huì)維度的信息分化。分化的進(jìn)一步后果是信息不平等[34]，再結(jié)合主體信息能力的差異，個(gè)人在獲取和使用信息過程中享有不平等的數(shù)字紅利。

2.結(jié)構(gòu)性不平等：數(shù)字資本對(duì)用戶剩余勞動(dòng)價(jià)值的剝削

與個(gè)人間信息不平等所不同的是，個(gè)人與算法推薦服務(wù)提供者之間存在結(jié)構(gòu)上的不平等。就互聯(lián)網(wǎng)平臺(tái)而言，有觀點(diǎn)認(rèn)為，平臺(tái)資本為用戶提供了數(shù)字公共平臺(tái)，同時(shí)也剝削了用戶的剩余勞動(dòng)價(jià)值。具體而言，互聯(lián)網(wǎng)平臺(tái)提供者類似于封建社會(huì)的地主，其所提供的數(shù)字公共平臺(tái)類似于封建社會(huì)中的土地，而用戶則是佃農(nóng)。互聯(lián)網(wǎng)平臺(tái)提供者提供了數(shù)字公共平臺(tái)、個(gè)人賬戶代碼作為生產(chǎn)資料，用戶則利用生產(chǎn)資料生產(chǎn)數(shù)據(jù)，包括發(fā)布的文字、圖片、視頻數(shù)據(jù)，與其他用戶的交流數(shù)據(jù)，以及瀏覽記錄等數(shù)據(jù)。這些數(shù)據(jù)被互聯(lián)網(wǎng)平臺(tái)提供者獲得，從而實(shí)現(xiàn)對(duì)用戶剩余勞動(dòng)的占有。[35]傳統(tǒng)的資本轉(zhuǎn)化為數(shù)字資本，勞動(dòng)轉(zhuǎn)化為數(shù)字勞動(dòng)，互聯(lián)網(wǎng)平臺(tái)基于頭部效應(yīng)獲得的壟斷地位使得剝削成為可能，平臺(tái)與用戶之間的用戶協(xié)議為數(shù)字勞動(dòng)體系、數(shù)字剝削提供了制度層面合法的掩蓋，平臺(tái)獲取海量的數(shù)據(jù)要素，與用戶形成了資源上的不平等關(guān)系。此外，技術(shù)對(duì)平臺(tái)與個(gè)人的賦能存在差異，平臺(tái)由于對(duì)海量數(shù)據(jù)、算法具有控制力，能夠據(jù)此對(duì)自身能力進(jìn)行提升，相較于用戶獲得技術(shù)上的優(yōu)勢(shì)地位，從而能夠通過架構(gòu)規(guī)制的方式，不顧用戶的意志而行為，對(duì)用戶展示私權(quán)力的面向。平臺(tái)與用戶之間的不平等關(guān)系也誘發(fā)了平臺(tái)自我優(yōu)待、濫用平臺(tái)處罰權(quán)等不正義后果。例如在“歐盟谷歌案件”中，由于谷歌將自營(yíng)的購(gòu)物服務(wù)網(wǎng)站置于同類產(chǎn)品搜索結(jié)果的頂端，使自營(yíng)產(chǎn)品獲得更多流量，而被歐盟委員會(huì)認(rèn)定為是違反歐盟競(jìng)爭(zhēng)法的自我優(yōu)待行為，并處以高額的罰款。[36]

三、算法推薦風(fēng)險(xiǎn)的治理路徑

(一)隱私增強(qiáng)的架構(gòu)設(shè)計(jì)保護(hù)隱私權(quán)

技術(shù)與個(gè)體存在相互塑造的關(guān)系，人們把用戶畫像看作有待利用的事物，用以為滿足需求服務(wù)，但從另一方面看，隨著人們與參與構(gòu)造人們認(rèn)同的用戶畫像互相起作用，兩者的關(guān)系慢慢有所調(diào)整，不再單純是工具與使用者的關(guān)系，人們的習(xí)慣、特性會(huì)有所改變，個(gè)體的喜好逐漸被技術(shù)勾勒、引導(dǎo)。用戶畫像進(jìn)一步使網(wǎng)絡(luò)行為成為私人化、個(gè)體化的模式。我們無法逃離新技術(shù)的懷抱，除非我們脫離了所處的社會(huì)，當(dāng)我們持續(xù)不斷地欣然接受這些新出現(xiàn)的技術(shù)時(shí)，必然會(huì)使得自己成為某種伺服機(jī)構(gòu)與新技術(shù)聯(lián)系在一起。[37]因而規(guī)制技術(shù)風(fēng)險(xiǎn)可以從源頭出發(fā)，通過規(guī)范邏輯設(shè)計(jì)，使技術(shù)在滿足個(gè)人需要的同時(shí)實(shí)現(xiàn)公平，而不是被技術(shù)所規(guī)訓(xùn)。

技術(shù)可以成為治理技術(shù)的手段。法律的治理體現(xiàn)為一種命令，具有威懾性，在事后進(jìn)行約束；而技術(shù)的治理則體現(xiàn)為對(duì)架構(gòu)環(huán)境的改造，環(huán)境一旦形成，事前即產(chǎn)生約束的效果。[3]365利用技術(shù)進(jìn)行治理的方式，在域外有所運(yùn)用。在由歐盟委員會(huì)成立的專家小組所制定的《出于公眾利益的B2G數(shù)據(jù)共享歐盟策略》中，明確隱私保護(hù)技術(shù)將成為任何B2G數(shù)據(jù)共享的關(guān)鍵促成因素，他們建議在數(shù)據(jù)共享的架構(gòu)中加入加密技術(shù)及差別隱私技術(shù)實(shí)現(xiàn)公共利益的保護(hù)。[38]《美國(guó)聯(lián)邦法規(guī)》第45個(gè)主題公共福利中規(guī)定，對(duì)電子健康信息的安全保護(hù)包括技術(shù)的保障，如在非活動(dòng)時(shí)間會(huì)自動(dòng)終止電子會(huì)話的電子程序、確保數(shù)據(jù)傳輸中的電子健康信息不會(huì)被隨意修改的完整性控件等，以此保護(hù)數(shù)據(jù)安全以及隱私。在對(duì)隱私權(quán)的保護(hù)方面，可以利用隱私增強(qiáng)技術(shù)(PET)促進(jìn)與隱私相關(guān)的利益，在用戶畫像的體系結(jié)構(gòu)中嵌入隱私增強(qiáng)技術(shù)，增強(qiáng)對(duì)隱私權(quán)的事前保護(hù)。該技術(shù)可以分為兩大類[39]：第一類是替代性隱私增強(qiáng)技術(shù)，此種技術(shù)的目的是確保匿名，提供用戶身份保護(hù)，使數(shù)據(jù)收集最小化，在進(jìn)行電子郵件收發(fā)、支付、網(wǎng)頁(yè)瀏覽等行為時(shí)，用戶可以實(shí)現(xiàn)完全匿名，這是數(shù)據(jù)保護(hù)的激進(jìn)版本；另一類是補(bǔ)充性隱私增強(qiáng)技術(shù)，可用于修補(bǔ)技術(shù)，使技術(shù)方案遵守相關(guān)隱私或數(shù)據(jù)保護(hù)法規(guī)，而不完全排除企業(yè)的商業(yè)目的。[40]例如2014年推出的“訪問我的信息”(AMI)工具，能夠幫助個(gè)人請(qǐng)求訪問電信提供商、某些應(yīng)用程序中的個(gè)人信息，以此支持用戶以自動(dòng)化的方式行使對(duì)個(gè)人信息的訪問權(quán)、異議權(quán)、修改權(quán)。[41]由于數(shù)據(jù)的完全匿名化與數(shù)據(jù)利用的效益是不可兼得的目標(biāo)，而我國(guó)目前的數(shù)據(jù)發(fā)展創(chuàng)新還處于起步階段，尚有可釋放的數(shù)據(jù)紅利，因而鼓勵(lì)使用補(bǔ)充性隱私增強(qiáng)技術(shù)是更可行有效的設(shè)計(jì)方式。

(二)配置用戶畫像權(quán)利義務(wù)保障自主性

我國(guó)現(xiàn)有法律法規(guī)對(duì)于用戶畫像相關(guān)權(quán)利義務(wù)內(nèi)容缺少更細(xì)化的規(guī)定，然而信息不對(duì)稱、經(jīng)濟(jì)實(shí)力的差距使用戶處于相對(duì)弱勢(shì)的地位。面對(duì)個(gè)人信息所蘊(yùn)藏的經(jīng)濟(jì)價(jià)值，資本的逐利性將進(jìn)一步使用戶權(quán)益受到威脅。為防止各方主體地位不平衡的加劇，可以借鑒歐盟立法經(jīng)驗(yàn)對(duì)個(gè)人信息進(jìn)行較為嚴(yán)格的保護(hù)。

在歐盟的立法中，個(gè)人數(shù)據(jù)受保護(hù)的權(quán)利被上升到基本權(quán)利的高度，企業(yè)在個(gè)人數(shù)據(jù)上的活動(dòng)空間受到限制。[42]在2018年開始適用的歐盟《一般數(shù)據(jù)保護(hù)條例》中，針對(duì)用戶畫像有更加嚴(yán)格、具體的要求，圍繞個(gè)人數(shù)據(jù)保護(hù)配置了一系列權(quán)利義務(wù)內(nèi)容。與此同時(shí)，對(duì)個(gè)人數(shù)據(jù)的保護(hù)不是絕對(duì)權(quán)利，也需要根據(jù)其在社會(huì)中的功能加以考慮，并根據(jù)相稱性原則與其他基本權(quán)利相平衡?！兑话銛?shù)據(jù)保護(hù)條例》對(duì)畫像的定義，關(guān)注畫像對(duì)個(gè)人特征的分析和預(yù)測(cè)，比如個(gè)人喜好、健康狀況等內(nèi)容。在數(shù)據(jù)控制者關(guān)于畫像的義務(wù)方面，如果存在畫像等自動(dòng)化決策的情況，那么數(shù)據(jù)控制者在收集數(shù)據(jù)主體個(gè)人數(shù)據(jù)時(shí)，不僅需要提供數(shù)據(jù)控制者的身份、處理個(gè)人數(shù)據(jù)的目的、存儲(chǔ)期限、數(shù)據(jù)主體享有的權(quán)利等內(nèi)容，還需要告知畫像等自動(dòng)化決策的存在、邏輯程序、預(yù)期后果與意義，以此保證處理的公平性、透明性。對(duì)于可能對(duì)自然人產(chǎn)生重大影響的畫像等個(gè)人數(shù)據(jù)的處理，數(shù)據(jù)控制者必須在處理前評(píng)估這種處理對(duì)個(gè)人數(shù)據(jù)保護(hù)的影響。在數(shù)據(jù)主體關(guān)于畫像的權(quán)利配置上，如果個(gè)人數(shù)據(jù)正在被處理，那么數(shù)據(jù)主體有權(quán)訪問其個(gè)人數(shù)據(jù)以及畫像等自動(dòng)化決策的邏輯程序，知悉其預(yù)期后果與意義；數(shù)據(jù)主體有權(quán)隨時(shí)拒絕為了直接營(yíng)銷而進(jìn)行的用戶畫像等個(gè)人數(shù)據(jù)處理；有權(quán)隨時(shí)拒絕為了公共利益或者第三方利益而對(duì)其進(jìn)行的用戶畫像，除非數(shù)據(jù)控制者出示令人信服的合法理由，并且該理由超越了數(shù)據(jù)主體的利益、權(quán)利和自由。對(duì)于由畫像等自動(dòng)化處理產(chǎn)生的、對(duì)數(shù)據(jù)主體有嚴(yán)重影響的決策，數(shù)據(jù)主體有權(quán)拒絕，除非這種決策對(duì)于訂立合同是必需的，或者是被相關(guān)法律授權(quán)的且有適當(dāng)措施保護(hù)數(shù)據(jù)主體的權(quán)利、自由和合法利益，或者是基于數(shù)據(jù)主體明確同意。在第一種和第三種情況下，數(shù)據(jù)控制者應(yīng)當(dāng)采取措施，保證數(shù)據(jù)主體有一定的人為干預(yù)權(quán)，以便其能表達(dá)對(duì)決策的異議等觀點(diǎn)。此外，歐盟數(shù)據(jù)保護(hù)委員會(huì)發(fā)布了基于畫像的決策的標(biāo)準(zhǔn)與條件，以確?！兑话銛?shù)據(jù)保護(hù)條例》的一致性適用。(3)《General Data Protection Regulation》Article 4, 13, 35, 15, 21, 22, 70.

因此，在對(duì)用戶畫像的權(quán)利義務(wù)配置上，可以在立法上確立用戶畫像中個(gè)人信息控制者的義務(wù)、個(gè)人信息主體的權(quán)利。個(gè)人信息控制者的義務(wù)包括：第一，明示義務(wù)，即明示用戶畫像邏輯程序、預(yù)期后果的義務(wù)，如用戶畫像使用的訓(xùn)練數(shù)據(jù)、模型；第二，用戶畫像前風(fēng)險(xiǎn)評(píng)估義務(wù)，如進(jìn)行個(gè)人信用畫像前，對(duì)用戶畫像技術(shù)的風(fēng)險(xiǎn)評(píng)估。個(gè)人信息主體的權(quán)利包括：第一，知情權(quán)，即隨時(shí)訪問對(duì)自己進(jìn)行的用戶畫像的邏輯程序與預(yù)期后果的權(quán)利；第二，拒絕權(quán)，即拒絕某些用戶畫像的權(quán)利，比如拒絕用于推送商業(yè)廣告的用戶畫像；第三，異議權(quán)，即當(dāng)畫像結(jié)果對(duì)用戶有嚴(yán)重影響時(shí)，用戶有提出異議的權(quán)利。

(三)強(qiáng)化網(wǎng)絡(luò)平臺(tái)的倫理約束促進(jìn)算法向善

算法本身是中立的，但算法架構(gòu)受到設(shè)計(jì)者的影響，能夠被調(diào)整為符合設(shè)計(jì)者利益的模式。架構(gòu)本身的運(yùn)作是不透明的，不同于法律規(guī)制，有明顯的義務(wù)主體承擔(dān)設(shè)計(jì)失誤的責(zé)任。這種特點(diǎn)可能導(dǎo)致人的主體性地位異化，淪為技術(shù)的附屬，卻無法向加害者主張責(zé)任。人是社會(huì)的主體、認(rèn)識(shí)世界萬物的主體，也是判定事物真假、衡量事物價(jià)值的主體。審視技術(shù)與人之間的關(guān)系，技術(shù)從對(duì)人的主體性沒有威脅的工具與客體，滲透進(jìn)社會(huì)生活，在眾多的活動(dòng)領(lǐng)域中，技術(shù)的介入逐漸成為達(dá)到預(yù)期效率的根本性方法。技術(shù)秩序的普遍存在不僅改變了人存在的外部環(huán)境，也侵蝕著人的主體性地位。因此，應(yīng)當(dāng)加強(qiáng)作為架構(gòu)設(shè)計(jì)者的網(wǎng)絡(luò)平臺(tái)的倫理約束，技術(shù)中立不能作為突破對(duì)個(gè)人信息保護(hù)要求的借口，應(yīng)對(duì)技術(shù)背后的利益博弈進(jìn)行調(diào)整，保障人的尊嚴(yán)，矯正人被客體化的傾向。

具體而言，在算法推薦中，第一，對(duì)于可能威脅個(gè)體自治的算法推薦，首先可以強(qiáng)化算法分發(fā)的倫理審查，評(píng)估算法權(quán)重設(shè)計(jì)是否合理、推送內(nèi)容的價(jià)值導(dǎo)向，避免信息推送的同質(zhì)化。其次，提高服務(wù)提供者的信息披露要求，對(duì)推薦的原因進(jìn)行明示，區(qū)分商業(yè)廣告、具體的偏好推薦，對(duì)算法推薦可能造成的結(jié)果進(jìn)行警示[43]，降低信息繭房的影響，以此提高用戶的信息價(jià)值識(shí)別能力，促成個(gè)體的多樣化發(fā)展。第二，對(duì)于影響平等權(quán)實(shí)現(xiàn)的算法推薦，可以引入算法評(píng)估制度，依照公平原則進(jìn)行評(píng)估。既包括實(shí)質(zhì)性方面的確保個(gè)人和群體不受不公平待遇、歧視和污名化，以及促進(jìn)在獲得教育、商品、服務(wù)和技術(shù)方面的平等機(jī)會(huì)，還包括程序方面的公平，即對(duì)系統(tǒng)及其控制者所做的決定有提出異議、有效補(bǔ)救的能力。此外，還應(yīng)當(dāng)提供對(duì)特殊群體的保護(hù)，保持可訪問性以及無障礙的設(shè)計(jì)，避免持有偏見，使特殊群體也能夠使用相關(guān)技術(shù)。對(duì)于算法系統(tǒng)的要求則包括，評(píng)估系統(tǒng)中是否設(shè)置有程序來處理和糾正潛在的歧視，是否允許系統(tǒng)對(duì)偏見、歧視予以標(biāo)記，從而防止偏差數(shù)據(jù)再次進(jìn)入系統(tǒng)，以及是否建立了確保公平性的相關(guān)機(jī)制。[44]

落實(shí)到主體的行動(dòng)上，則需要有多元主體的參與，使算法在社會(huì)生態(tài)中向善發(fā)展。在政府層面，可以通過發(fā)布關(guān)于技術(shù)倫理、算法倫理的政策，展現(xiàn)倫理在技術(shù)創(chuàng)新中的重要性，以及其對(duì)社會(huì)治理的作用，引導(dǎo)技術(shù)主體積極遵循倫理規(guī)范而行動(dòng)。當(dāng)前我國(guó)政府已經(jīng)開始就此議題展開部署。例如在2021年9月25日，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能倫理規(guī)范》[45]，為利益相關(guān)方提供倫理指引，使人工智能在倫理道德的引導(dǎo)下健康發(fā)展。2022年3月20日，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)了《關(guān)于加強(qiáng)科技倫理治理的意見》[46]，提出了增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、合理控制風(fēng)險(xiǎn)、保持公開透明的科技倫理原則，還對(duì)科技倫理治理體制的健全、制度保障的加強(qiáng)，以及審查和監(jiān)督的強(qiáng)化等內(nèi)容做出了系統(tǒng)性的安排，以求實(shí)現(xiàn)科技自立自強(qiáng)的目標(biāo)。這些政策為技術(shù)向善提供了遵循基礎(chǔ)。在行業(yè)層面，需要推動(dòng)行業(yè)在算法治理上的自律，可以通過建立聲譽(yù)機(jī)制，推動(dòng)算法質(zhì)量的提高，即由行業(yè)對(duì)技術(shù)主體的算法倫理性進(jìn)行評(píng)級(jí)，通過這種激勵(lì)懲罰機(jī)制，促進(jìn)技術(shù)主體重視倫理規(guī)范對(duì)技術(shù)的調(diào)整。在個(gè)人層面，需要強(qiáng)化其在數(shù)字化時(shí)代的數(shù)字素養(yǎng)教育，培養(yǎng)其數(shù)字素養(yǎng)，提升其數(shù)字能力，從而維護(hù)數(shù)字時(shí)代下人的尊嚴(yán)。

四、結(jié) 語(yǔ)

法律、社群規(guī)范、市場(chǎng)、架構(gòu)作為四種約束模式，可以對(duì)個(gè)人的行為進(jìn)行規(guī)制。隨著社會(huì)的發(fā)展，規(guī)制模式的應(yīng)用也有所變化。19世紀(jì)中期主要是社群規(guī)范在約束著自由；20世紀(jì)初期是國(guó)家強(qiáng)權(quán)約束甚至威脅著自由；20世紀(jì)中期之后的大部分時(shí)間里，是市場(chǎng)在約束著自由；進(jìn)入21世紀(jì)，在網(wǎng)絡(luò)空間中代碼是社會(huì)生活的“預(yù)設(shè)環(huán)境”，是社會(huì)生活的架構(gòu)，正在約束著自由。[3]132-133隨著數(shù)字時(shí)代的來臨，個(gè)人走向數(shù)字化生存的空間，對(duì)于信息內(nèi)容的需求也走向個(gè)人化。后信息時(shí)代的根本特征是真正的個(gè)人化[47]，算法推薦以個(gè)性化為特征，符合個(gè)人化的需求，在信息分發(fā)領(lǐng)域產(chǎn)生巨大的影響，重塑了信息傳播規(guī)則，改變了人們認(rèn)知的方式與機(jī)制。[48]架構(gòu)在算法推薦中起著塑造信息分發(fā)方式、規(guī)訓(xùn)個(gè)人的作用，通過約束個(gè)人進(jìn)入數(shù)字生活、獲取信息的自由，達(dá)到規(guī)制用戶行為的目的。在法律、社群規(guī)范介入之前，架構(gòu)的工具主義傾向明顯，對(duì)個(gè)人的自主性、隱私權(quán)、平等權(quán)造成了風(fēng)險(xiǎn)。在網(wǎng)絡(luò)空間中，自由在一定程度上為架構(gòu)所塑造，在缺少治理的情況下，架構(gòu)規(guī)制的權(quán)力將進(jìn)一步膨脹，引發(fā)損害結(jié)果。因而也應(yīng)當(dāng)對(duì)架構(gòu)進(jìn)行綜合性治理，從而為個(gè)人自由保留空間，在保障個(gè)人權(quán)利的前提下發(fā)展技術(shù)，堅(jiān)持鼓勵(lì)支持布局前沿技術(shù)，同時(shí)堅(jiān)持政策引導(dǎo)及依法管理，控制風(fēng)險(xiǎn)蔓延，促進(jìn)信息技術(shù)、互聯(lián)網(wǎng)生態(tài)持續(xù)健康發(fā)展。