侯東德 張麗萍
摘 要:作為個(gè)性化新聞分發(fā)的底層支撐技術(shù),算法推薦的科學(xué)技術(shù)特質(zhì)決定了其并非中立,而是具有一定的意識(shí)形態(tài)屬性。算法推薦的利用若不受監(jiān)管,將會(huì)對(duì)主流意識(shí)形態(tài)傳播、網(wǎng)絡(luò)信息環(huán)境和用戶的價(jià)值觀念帶來(lái)沖擊,引發(fā)意識(shí)形態(tài)安全風(fēng)險(xiǎn):平臺(tái)流量至上的推送邏輯降低主流意識(shí)形態(tài)的引領(lǐng)力和凝聚力,以用戶偏好為中心的內(nèi)容推薦加劇了價(jià)值分化和觀念隔離,過(guò)濾推薦引發(fā)價(jià)值迷失和信息操縱。有必要發(fā)揮法律的安全功能,通過(guò)強(qiáng)化網(wǎng)絡(luò)平臺(tái)的審核、監(jiān)督義務(wù)和信息披露義務(wù)促進(jìn)主流意識(shí)形態(tài)傳播升級(jí);通過(guò)賦予用戶算法知情權(quán)、算法解釋權(quán)打破信息繭房,建立多元信息環(huán)境;通過(guò)限制算法推薦的適用范圍和算法審計(jì)監(jiān)管構(gòu)建“可信任”的算法,切實(shí)防范化解意識(shí)形態(tài)風(fēng)險(xiǎn)。
關(guān)鍵詞:算法推薦;意識(shí)形態(tài)風(fēng)險(xiǎn);算法監(jiān)管;風(fēng)險(xiǎn)防范
基金項(xiàng)目:教育部哲學(xué)社會(huì)科學(xué)重大攻關(guān)項(xiàng)目“人工智能發(fā)展中的重大風(fēng)險(xiǎn)防范體系研究”(20JZD026)。
[中圖分類(lèi)號(hào)] D35,D64 [文章編號(hào)] 1673-0186(2021)008-0077-014
[文獻(xiàn)標(biāo)識(shí)碼] A? ? ? [DOI編碼] 10.19631/j.cnki.css.2021.008.007
隨著騰訊新聞、今日頭條、微博、微信等頭部網(wǎng)絡(luò)信息平臺(tái)的崛起,其背后的信息分發(fā)方式——算法推薦引起學(xué)界注意。資料顯示,早在2016年算法分發(fā)已成為互聯(lián)網(wǎng)新聞的主要分發(fā)方式①。算法分發(fā)具有提升新聞分發(fā)效率,緩解信息過(guò)載危機(jī)、供需危機(jī)等優(yōu)點(diǎn)。然而隨著信息傳播市場(chǎng)競(jìng)爭(zhēng)加劇,平臺(tái)對(duì)它的利用目標(biāo)逐漸從滿足用戶的個(gè)性化需求到謀求流量的最大化轉(zhuǎn)變,推薦算法逐漸成為平臺(tái)實(shí)現(xiàn)市場(chǎng)份額擴(kuò)張的工具,由此引發(fā)技術(shù)理性和價(jià)值理性的失衡:它的廣泛使用給主流意識(shí)形態(tài)傳播帶來(lái)沖擊,影響著網(wǎng)絡(luò)空間的信息環(huán)境及信息傳播秩序,同時(shí)改變著用戶的信息獲取及閱讀習(xí)慣,蘊(yùn)藏著意識(shí)形態(tài)安全風(fēng)險(xiǎn)?!耙庾R(shí)形態(tài)關(guān)乎旗幟、關(guān)乎道路、關(guān)乎國(guó)家政治安全。”[1]我們必須正視、重視算法推薦給用戶信息獲取、閱讀習(xí)慣以及信息傳播秩序轉(zhuǎn)變帶來(lái)的影響,牢牢把守好意識(shí)形態(tài)建設(shè)的網(wǎng)絡(luò)空間陣地。
關(guān)于算法推薦引發(fā)意識(shí)形態(tài)風(fēng)險(xiǎn)的應(yīng)對(duì),學(xué)者們多從新聞傳播、技術(shù)倫理、政治安全等角度出發(fā)進(jìn)行研究,鮮有從法學(xué)視角出發(fā)對(duì)算法推薦適用主體、適用對(duì)象、適用范圍的權(quán)責(zé)關(guān)系審視。本文以算法推薦與意識(shí)形態(tài)安全的關(guān)系為出發(fā)點(diǎn),探討網(wǎng)絡(luò)平臺(tái)的商業(yè)價(jià)值與社會(huì)責(zé)任承擔(dān)、算法監(jiān)管等內(nèi)容,提出算法引發(fā)意識(shí)形態(tài)風(fēng)險(xiǎn)的法律防范路徑。
一、算法推薦:一種意識(shí)形態(tài)視角
作為一種信息分發(fā)方式,算法推薦何以引發(fā)意識(shí)形態(tài)風(fēng)險(xiǎn)?在研究展開(kāi)之前,我們首先厘清算法推薦與意識(shí)形態(tài)安全之間的關(guān)系,這是進(jìn)行風(fēng)險(xiǎn)防范路徑探索的前提。
(一)科學(xué)技術(shù)的意識(shí)形態(tài)面向
科學(xué)技術(shù)是生產(chǎn)力的重要組成部分這一觀點(diǎn)已經(jīng)深入人心。作為經(jīng)濟(jì)基礎(chǔ)的一部分,其似乎與意識(shí)形態(tài)、上層建筑關(guān)系甚遠(yuǎn)。然而,我們?cè)谡J(rèn)可馬克思主義經(jīng)典作家觀點(diǎn)的同時(shí)不能據(jù)此否認(rèn)科學(xué)技術(shù)與意識(shí)形態(tài)之間的關(guān)系。相反,科學(xué)技術(shù)與意識(shí)形態(tài)總是有意無(wú)意地相互影響,特定條件下科學(xué)技術(shù)甚至?xí)g接履行意識(shí)形態(tài)相關(guān)職能[2]。
馬爾庫(kù)塞曾明確提出“科學(xué)與技術(shù)成為意識(shí)形態(tài)”的思想。在他看來(lái),發(fā)達(dá)工業(yè)社會(huì)中日益精密的生產(chǎn)設(shè)備、日漸精進(jìn)的生產(chǎn)技術(shù)已經(jīng)不僅單純地作為工具性存在來(lái)影響社會(huì),而是作為系統(tǒng)性存在對(duì)整個(gè)社會(huì)產(chǎn)生影響??茖W(xué)技術(shù)的發(fā)展不僅決定著社會(huì)發(fā)展需要的技能、工種,還影響著個(gè)人的職業(yè)發(fā)展規(guī)劃、個(gè)體發(fā)展的愿望和需要。它消除了社會(huì)需要和個(gè)人需要之間的矛盾,推動(dòng)了個(gè)人與社會(huì)發(fā)展的一致化、推動(dòng)社會(huì)控制和社會(huì)團(tuán)結(jié)達(dá)到新的高度。“科學(xué)技術(shù)所引發(fā)的社會(huì)關(guān)系的變遷,外在的工具性掩蓋人的主體目的性成為一種常態(tài),主觀的原則日漸被客觀原則所取代,主體能動(dòng)性、價(jià)值、訴求的多元化在這種常態(tài)中日益被抑制和消解?!盵2]67科學(xué)技術(shù)以它的生產(chǎn)效率和增長(zhǎng)潛力來(lái)穩(wěn)定社會(huì),在此過(guò)程中技術(shù)進(jìn)步的合理性不僅體現(xiàn)在經(jīng)濟(jì)、社會(huì)活動(dòng)過(guò)程中,而且深入拓展到整個(gè)社會(huì)統(tǒng)治制度之中??茖W(xué)技術(shù)不再中立,而是具備了維護(hù)政治統(tǒng)治的功能。“技術(shù)的合理性已經(jīng)變成政治的合理性?!盵3]8在當(dāng)代,技術(shù)控制體現(xiàn)出了“有益于整個(gè)社會(huì)集團(tuán)和社會(huì)利益的理性”[3]10,它融入統(tǒng)治制度使自身永久化,并把思想意識(shí)吸收進(jìn)社會(huì)現(xiàn)實(shí)之中,為統(tǒng)治制度中的其他權(quán)力提供合法性基礎(chǔ)。技術(shù)通過(guò)自身的發(fā)展,以解放雙手、減輕勞動(dòng)、提高效率的名義合理滲透到社會(huì)生活和控制體制之中,為現(xiàn)存社會(huì)制度的合法性辯護(hù)。正是在這個(gè)角度,科學(xué)技術(shù)的運(yùn)用使意識(shí)形態(tài)融入商品生產(chǎn)的各個(gè)環(huán)節(jié),使技術(shù)合理性成為發(fā)達(dá)工業(yè)社會(huì)中近乎唯一的評(píng)價(jià)向度;科學(xué)技術(shù)承擔(dān)了意識(shí)形態(tài)功能,而且也正成為一種意識(shí)形態(tài)[4]。
哈貝馬斯關(guān)于科學(xué)技術(shù)是一種意識(shí)形態(tài)的認(rèn)識(shí)更為系統(tǒng)全面。他認(rèn)為,與傳統(tǒng)意識(shí)形態(tài)相比,科技意識(shí)形態(tài)更具廣泛性、辯護(hù)性和透明性,它使“科學(xué)的物化模式”滲透進(jìn)廣泛的社會(huì)生活,并借助自身力量訴諸客觀的合理性以反對(duì)對(duì)現(xiàn)實(shí)的反思和批判[5]69。科學(xué)技術(shù)以一種高度合理化的方式在社會(huì)發(fā)展演進(jìn)過(guò)程中將自身塑造成為“非政治化”的文明形象,以極隱蔽的方式模糊掉其所承擔(dān)的政治功能和自身攜帶的政治元素,讓個(gè)體簡(jiǎn)單地相信自己能夠通過(guò)積極擁抱科技進(jìn)步、創(chuàng)造科技成就實(shí)現(xiàn)自身價(jià)值?!叭藗円恢痹噲D以科學(xué)技術(shù)和理性對(duì)抗迷信和信仰,結(jié)果卻突然發(fā)現(xiàn),科學(xué)技術(shù)和理性本身也成了迷信,而蘊(yùn)含在科學(xué)技術(shù)中的合理性則成了當(dāng)代人普遍的信仰?!盵6]科學(xué)技術(shù)正是通過(guò)這種方式將大眾對(duì)科技的忠誠(chéng)轉(zhuǎn)化成為對(duì)政治制度的擁護(hù)和支持。由是觀之,科學(xué)技術(shù)不僅是一種意識(shí)形態(tài),更是一種具有極強(qiáng)隱蔽性的意識(shí)形態(tài),它的客觀合理性、非政治性和對(duì)社會(huì)發(fā)展進(jìn)步的巨大推動(dòng)功能常常讓人忽視其為政治統(tǒng)治背書(shū)的工具性。隨著科學(xué)技術(shù)逐漸被公認(rèn)為是推動(dòng)社會(huì)進(jìn)步的變革性力量,在社會(huì)生活領(lǐng)域甚至衍生出一種“偶像化的技治意識(shí)形態(tài)”[2]67,科技理性在某種程度上已經(jīng)成為一種權(quán)威性力量。對(duì)此,哈貝馬斯尖銳地指出,“技術(shù)理性的概念,也許本身就是意識(shí)形態(tài)。不僅技術(shù)理性的應(yīng)用,而且技術(shù)本身就是(對(duì)自然和人的)統(tǒng)治,就是方法的、科學(xué)的、策劃好了的和正在策劃著的統(tǒng)治”[5]39-40。
(二)算法推薦的意識(shí)形態(tài)屬性
算法推薦在各信息應(yīng)用終端的使用已成主流。作為一項(xiàng)科學(xué)技術(shù),其在數(shù)據(jù)話語(yǔ)體系中意味著客觀和科學(xué);作為一種內(nèi)容分發(fā)的邏輯方式,其與意識(shí)形態(tài)關(guān)系密切。就運(yùn)作機(jī)理而言,算法推薦的本質(zhì)是在海量信息與用戶主體間實(shí)現(xiàn)“用戶價(jià)值主導(dǎo)下的場(chǎng)景化適配”[7],其核心邏輯是基于歷史數(shù)據(jù)尋找目標(biāo)信息產(chǎn)品與用戶之間的關(guān)聯(lián)關(guān)系,通過(guò)探究用戶與人、物、信息的相關(guān)性去擬合用戶現(xiàn)在的和潛在的興趣偏好,進(jìn)而完成信息的個(gè)性化推薦。一個(gè)完整的算法推薦流程通常包括數(shù)據(jù)獲取—數(shù)據(jù)處理—數(shù)據(jù)輸出這樣三個(gè)環(huán)節(jié)[8]。
作為科學(xué)技術(shù)延續(xù)發(fā)展的產(chǎn)物,推薦算法的技術(shù)屬性、自然屬性決定了其具有一定的意識(shí)形態(tài)屬性。首先是算法推薦的技術(shù)特質(zhì)使然。算法推薦以新興科學(xué)技術(shù)的身份進(jìn)入內(nèi)容分發(fā)市場(chǎng),以其“中立性”表象承襲了科學(xué)技術(shù)在社會(huì)諸領(lǐng)域的公信力:隨著算法推薦的適用范圍不斷擴(kuò)張,其作為一種隱性的意識(shí)形態(tài)力量當(dāng)然地被大眾所接受并不斷深入滲透進(jìn)人們的思想意識(shí)之中。算法推薦承襲了科學(xué)技術(shù)的意識(shí)形態(tài)功能并形成了一種技術(shù)依賴的意識(shí)形態(tài)語(yǔ)境。其次,算法推薦技術(shù)以人的理性建構(gòu)為基礎(chǔ)。作為設(shè)計(jì)架構(gòu)的產(chǎn)物,算法在開(kāi)發(fā)過(guò)程中不可避免會(huì)被嵌入研發(fā)者個(gè)體的價(jià)值觀念,會(huì)被慎重或無(wú)意地嵌入一定的規(guī)范標(biāo)準(zhǔn)、常規(guī)慣例及社會(huì)形態(tài)之中。而這些觀念、標(biāo)準(zhǔn)、慣例又以算法為依托在各網(wǎng)絡(luò)平臺(tái)一次次的信息推送過(guò)程中變成傳播的媒介,持續(xù)不斷地為人們編織著信仰、價(jià)值和集體認(rèn)同,潛移默化地影響著人們的價(jià)值觀念和意識(shí)形態(tài)認(rèn)知。
推薦算法的應(yīng)用價(jià)值、社會(huì)屬性決定了其將持續(xù)發(fā)揮意識(shí)形態(tài)影響功能。推薦算法具有提高傳播效率、優(yōu)化傳播結(jié)構(gòu)的經(jīng)濟(jì)屬性,其在參與信息內(nèi)容分發(fā)過(guò)程中展現(xiàn)出巨大的生產(chǎn)力價(jià)值,內(nèi)嵌在算法層面的價(jià)值偏向?qū)⒃谝淮未蔚耐扑蛡鞑ミ^(guò)程中被不斷強(qiáng)化和放大。在應(yīng)用層面,算法推薦結(jié)合用戶屬性進(jìn)行精準(zhǔn)化甚至引導(dǎo)性、傾向性內(nèi)容推送,在人們每一次的瀏覽、轉(zhuǎn)發(fā)、評(píng)論等互動(dòng)過(guò)程中,算法的推薦結(jié)果持續(xù)影響著人們對(duì)待事物的態(tài)度和習(xí)慣,影響著人們的思想、行為模式和生活方式。實(shí)踐中各平臺(tái)通常會(huì)出于某種目標(biāo)導(dǎo)向或?qū)鞑バЧ陌芽囟怀瞿撤N價(jià)值偏好或?qū)?,在各平臺(tái)商業(yè)競(jìng)爭(zhēng)的過(guò)程中推薦算法逐漸演變成為被資本、流量裹挾的工具,為特定的商業(yè)目的乃至政治目的服務(wù)的信息內(nèi)容隱藏于信息收集、篩選、分發(fā)等環(huán)節(jié)和標(biāo)準(zhǔn)之中,展現(xiàn)出一定的價(jià)值導(dǎo)向和意識(shí)形態(tài)影響力。
二、算法推薦引發(fā)的意識(shí)形態(tài)風(fēng)險(xiǎn)
算法推薦的意識(shí)形態(tài)屬性決定了其在不受干預(yù)的自然狀態(tài)下蘊(yùn)藏著一定的意識(shí)形態(tài)風(fēng)險(xiǎn),這是對(duì)“技術(shù)中立”論的反駁和否定。
(一)主流意識(shí)形態(tài)引領(lǐng)力、凝聚力降低
主流意識(shí)形態(tài)引領(lǐng)力即主流意識(shí)形態(tài)“引導(dǎo)社會(huì)輿論和受眾的能力”,是主流意識(shí)形態(tài)在社會(huì)多層次思想認(rèn)識(shí)的交流碰撞過(guò)程中逐漸打破認(rèn)知差異,形成協(xié)調(diào)性、整體性認(rèn)同的能力[9]。主流意識(shí)形態(tài)凝聚力是用馬克思主義、社會(huì)主義核心價(jià)值觀等主流意識(shí)形態(tài)思想標(biāo)識(shí)來(lái)尋求價(jià)值認(rèn)同、凝聚價(jià)值共識(shí)的能力。在傳統(tǒng)的中心化、自上而下的信息傳播結(jié)構(gòu)中,官報(bào)、官媒占據(jù)強(qiáng)勢(shì)地位,依靠全方位、高頻次的曝光和推送給主流意識(shí)形態(tài)傳播提供了堅(jiān)實(shí)基礎(chǔ)。算法推薦機(jī)制的引入帶來(lái)信息分發(fā)結(jié)構(gòu)的改變,傳統(tǒng)官媒優(yōu)勢(shì)地位不在,主流意識(shí)形態(tài)面臨凝聚力、引領(lǐng)力降低的風(fēng)險(xiǎn)。
首先,算法推薦對(duì)內(nèi)容把關(guān)權(quán)力的“收編”擠壓了主流意識(shí)形態(tài)傳播空間。在傳統(tǒng)的科層制信息分發(fā)結(jié)構(gòu)中,依照自上而下的垂直分工,主流意識(shí)形態(tài)可以低成本、高效率地實(shí)現(xiàn)傳播。借助互聯(lián)網(wǎng)技術(shù)賦權(quán),信息分發(fā)機(jī)制迎來(lái)從人工分發(fā)到算法分發(fā)的改變,內(nèi)容把關(guān)權(quán)力的轉(zhuǎn)移使得傳統(tǒng)官媒的精英屬性不在,權(quán)力漸趨式微,各類(lèi)自媒體、百家號(hào)“粉墨登場(chǎng)”?;ヂ?lián)網(wǎng)的賦權(quán)改變了傳統(tǒng)的權(quán)力結(jié)構(gòu),內(nèi)容把關(guān)權(quán)力不再僅僅依靠行政力量,而是通過(guò)算法推薦開(kāi)辟了新的實(shí)現(xiàn)方式:價(jià)值凝聚人心。在個(gè)性化的信息推送機(jī)制之下,用戶散落在各個(gè)“隱秘角落”的非主流、個(gè)人化的信息產(chǎn)品需求經(jīng)過(guò)算法的數(shù)據(jù)分析和深層挖掘后逐漸顯露,原本被忽視的海量的“長(zhǎng)尾需求”得以高度適配?!叭曛抑厶恰?,算法推薦極其高效地滿足了用戶的千萬(wàn)種信息興趣需求,于是信息價(jià)值判斷的統(tǒng)一標(biāo)準(zhǔn)喪失,非主流信息傳播市場(chǎng)得以初步打開(kāi)。借助新聞內(nèi)容和用戶數(shù)據(jù)的精確導(dǎo)引,算法推薦能夠?qū)崿F(xiàn)信息與用戶之間的高效適配,并且具備持續(xù)提升推薦結(jié)果、提高推送效率的能力。質(zhì)言之,算法推薦具有持續(xù)滿足用戶需求的能力,同時(shí)也具備信息致癮的能力。當(dāng)我們的目光在一則則“精彩”“絕妙”的信息之間流連忘返,當(dāng)我們沉浸在信息消費(fèi)、數(shù)字娛樂(lè)的世界中無(wú)法自拔,當(dāng)我們的信息世界被碎片化、消耗性的信息無(wú)意識(shí)地填滿,這是算法推薦所支撐的“注意力經(jīng)濟(jì)”的勝利,是以算法推薦為核心的信息分發(fā)機(jī)制市場(chǎng)份額不斷擴(kuò)大、主流意識(shí)形態(tài)信息傳播空間不斷坍塌的結(jié)果。
其次,算法推薦機(jī)制下信息產(chǎn)品的微觀敘事方式消解了主流意識(shí)形態(tài)傳播效力,削弱了主流意識(shí)形態(tài)價(jià)值引領(lǐng)能力。缺乏人工編輯對(duì)信息產(chǎn)品的內(nèi)容把關(guān)和質(zhì)量篩選環(huán)節(jié),無(wú)限制的個(gè)性化算法推薦將緊緊圍繞滿足用戶需求這一宗旨進(jìn)行發(fā)力,其最終目標(biāo)是實(shí)現(xiàn)用戶引流、增加用戶活躍時(shí)間以達(dá)到流量的最大化[10]。借助信息傳播結(jié)構(gòu)和信息分發(fā)方式的轉(zhuǎn)變,以互聯(lián)網(wǎng)和社交媒體平臺(tái)為依托,我們已經(jīng)進(jìn)入了資訊信息的全民創(chuàng)作、全民生產(chǎn)時(shí)代。信息傳播權(quán)利的普及本應(yīng)帶來(lái)網(wǎng)絡(luò)空間文化的蓬勃發(fā)展和空前繁榮,然而事實(shí)卻并非如此。和相對(duì)正統(tǒng)、嚴(yán)肅的主流意識(shí)形態(tài)信息產(chǎn)品相比,無(wú)關(guān)公共事務(wù)、無(wú)涉知識(shí)增益的大眾傳媒因其通俗性、“趣味性”更容易得到普通民眾的青睞。各類(lèi)震驚體、標(biāo)題黨新聞層出不窮,動(dòng)輒十萬(wàn)加、百萬(wàn)級(jí)的傳播效果已不鮮見(jiàn)。更有亂象叢生的網(wǎng)絡(luò)直播,利用用戶的獵奇心理頻繁突破內(nèi)容傳播底線。若網(wǎng)絡(luò)平臺(tái)對(duì)此并不加以干涉、矯正而是默許虛假、低俗、反主流的價(jià)值偏向并據(jù)此進(jìn)行個(gè)性化推薦,算法便會(huì)“被錯(cuò)誤的價(jià)值觀所捕獲”,各類(lèi)非主流意識(shí)形態(tài)內(nèi)容充斥網(wǎng)絡(luò)空間,并在無(wú)邊界的傳播過(guò)程中產(chǎn)生劣幣驅(qū)逐良幣效應(yīng):由商業(yè)利益和流量驅(qū)動(dòng)生產(chǎn)的通俗內(nèi)容驅(qū)逐有關(guān)主流意識(shí)形態(tài)和公共事務(wù)的嚴(yán)肅話題內(nèi)容,主流信息產(chǎn)品中承載的莊嚴(yán)價(jià)值與嚴(yán)肅意義被無(wú)情地解構(gòu)、消解,主流文化的精神內(nèi)涵和教化功能也隨之喪失[11]。
(二)同類(lèi)推薦、偏好推薦加劇價(jià)值分化
所謂分化,是指事物由同一性向多樣性、由同質(zhì)性向異質(zhì)性發(fā)展的過(guò)程[12]。作為一種價(jià)值觀念演變過(guò)程,價(jià)值觀分化即社會(huì)意識(shí)形態(tài)結(jié)構(gòu)從同質(zhì)、單向走向異質(zhì)、多元,并出現(xiàn)不同價(jià)值偏向的過(guò)程。算法推薦在滿足不同用戶個(gè)性化需求“痛點(diǎn)”的同時(shí),對(duì)不同群體、不同圈層意識(shí)形態(tài)的影響同樣不容忽視。從信息分發(fā)機(jī)制的演變視角觀察,從人工把關(guān)到社交過(guò)濾再到算法推薦,信息分發(fā)的效率不斷提高的同時(shí)伴隨著網(wǎng)絡(luò)用戶信息視野的打開(kāi),人們更容易在網(wǎng)絡(luò)空間找到與自己興趣相投的小組社區(qū),但正是這種多元化小眾空間的存在在一定程度上加劇著社會(huì)價(jià)值和意識(shí)形態(tài)的分化和異化。
一方面,同類(lèi)推薦編織的信息繭房加劇了圈層隔離,不同價(jià)值觀念之間的碰撞、交流漸趨減少。算法推薦圍繞用戶的興趣需求進(jìn)行內(nèi)容分發(fā),只有用戶感興趣的、同類(lèi)別的或具有潛在興趣的信息才得以被篩選呈現(xiàn)?!耙磺€(gè)人眼中擁有一千個(gè)信息世界”,用戶不感興趣的信息將不會(huì)被看到。又囿于人的主觀性和局限性,每個(gè)人感興趣的領(lǐng)域注定是片面的,借助算法推薦技術(shù)加持,長(zhǎng)時(shí)間曝光于同質(zhì)化信息氛圍將使用戶身陷信息繭房困境,視野逐漸狹窄。封閉的信息空間隔絕了多元信息穿透?jìng)鞑サ目赡埽瑫r(shí)也隔絕了異質(zhì)意識(shí)形態(tài)傳播的可能,阻絕了開(kāi)放、包容價(jià)值觀念的形成。擁有相同價(jià)值觀念和意識(shí)形態(tài)立場(chǎng)的用戶很容易相互吸引進(jìn)入同類(lèi)社群,又通過(guò)社群的頻繁互動(dòng)進(jìn)一步強(qiáng)化著自身固有的意識(shí)形態(tài)。群體內(nèi)部同質(zhì)化的信息傳播保護(hù)著人們生活在信息舒適圈之內(nèi),任何與既有意見(jiàn)相異的信息在圈層內(nèi)部都將喪失傳播可能。與此相伴隨的是社群內(nèi)信息多樣性的日漸減少,信息隔離逐漸形成,不同社群的認(rèn)知觀念差異逐漸演變成為用戶群體借以相互區(qū)分的身份符號(hào)標(biāo)簽,最終造成觀念差異的進(jìn)一步加深和溝通可能性的喪失。
另一方面,偏好推薦產(chǎn)生的回音室效應(yīng)不斷強(qiáng)化用戶的既有價(jià)值觀念認(rèn)同,容易誘發(fā)群體極化現(xiàn)象。單一的信息環(huán)境是群體極化現(xiàn)象的誘因之一。在算法推薦場(chǎng)域及其所實(shí)施的協(xié)同過(guò)濾機(jī)制下,人們不斷接收到與自己興趣和價(jià)值觀念相吻合、相印證的內(nèi)容,它們似乎是一種反饋,能夠在主觀上使用戶得到來(lái)自網(wǎng)絡(luò)空間的“認(rèn)同感”。正是這種認(rèn)同感不斷建立起網(wǎng)絡(luò)用戶之間的情感聯(lián)接,增進(jìn)了小范圍互聯(lián)網(wǎng)社群的內(nèi)部團(tuán)結(jié)。但事實(shí)上,這些內(nèi)容或許擁有不同的表達(dá)形式或論證手段,卻也僅是能夠強(qiáng)化既有觀點(diǎn)、固化既有認(rèn)知的來(lái)自網(wǎng)絡(luò)世界的“回音”而已。隨著回音不斷出現(xiàn),人們不斷接觸與自己價(jià)值偏好同質(zhì)化的信息,并在這種情境中不斷反應(yīng)延伸,用戶的認(rèn)同逐漸增強(qiáng)并形成一個(gè)個(gè)相對(duì)封閉的信息回環(huán)空間,這便是回音室效應(yīng)。來(lái)自網(wǎng)絡(luò)空間的認(rèn)同感同時(shí)也是可能造成群體極化的傾向性因素之一,因?yàn)椤叭绻ヂ?lián)網(wǎng)上的人們主要是同與自己志趣相投的人進(jìn)行討論,他們的觀點(diǎn)就會(huì)僅僅得到加強(qiáng),因而朝著更為極端的方向轉(zhuǎn)移”[13]。推薦算法技術(shù)對(duì)于情感型群體的形成具有正向促進(jìn)作用[14]。如于歡案、孫小果案無(wú)一不是經(jīng)由大眾傳媒、主流媒體和活躍于各平臺(tái)的自媒體賬號(hào)在各自話語(yǔ)圈層范圍內(nèi)多維度地討論、傳播后,不同的情感訴求和價(jià)值觀念碰撞加劇,對(duì)社會(huì)公平正義的關(guān)注和共同的情感傾瀉迅速凝聚起價(jià)值傾向性群體,群體極化現(xiàn)象開(kāi)始出現(xiàn)。最近在網(wǎng)絡(luò)上引發(fā)廣泛討論的性別對(duì)立等熱點(diǎn)事件便是封閉的網(wǎng)絡(luò)信息環(huán)境滋生群體極化的最新例證。如今的互聯(lián)網(wǎng)似乎已不再是可以討論問(wèn)題的場(chǎng)所,而只是情緒宣泄的空間而已。這也從另一個(gè)側(cè)面證實(shí)了在算法推薦主導(dǎo)而不加干涉的網(wǎng)絡(luò)環(huán)境中,群體極化現(xiàn)象的出現(xiàn)在一定程度上具有不可避免性。此外,如果不同社群間的觀念差異并非通過(guò)回音室效應(yīng)自發(fā)形成,而是經(jīng)由算法推薦被引導(dǎo)到越來(lái)越對(duì)立的方向,形成越來(lái)越極端的觀點(diǎn),那么這種技術(shù)手段與信息的疊加不僅會(huì)推動(dòng)群體極化形成,甚至還將滋生極端主義生長(zhǎng)空間。
(三)算法過(guò)濾引發(fā)價(jià)值迷失和信息操縱
算法推薦對(duì)信息分發(fā)市場(chǎng)的介入是一場(chǎng)傳播領(lǐng)域的技術(shù)革命,傳播市場(chǎng)環(huán)境、市場(chǎng)格局隨之轉(zhuǎn)變,速度和流量成為新的最大利益追求。作為一種觀念的上層建筑,意識(shí)形態(tài)由經(jīng)濟(jì)基礎(chǔ)決定并在很大程度上受到經(jīng)濟(jì)基礎(chǔ)的影響。我們不能僅僅停留在意識(shí)形態(tài)層面尋找人們價(jià)值觀念相異的原因,因?yàn)閮r(jià)值觀念的分化更深層次源自不同經(jīng)濟(jì)基礎(chǔ)利益主體的利益分化。有學(xué)者將價(jià)值觀的分化區(qū)分為差異、矛盾、沖突三種類(lèi)型[12],當(dāng)價(jià)值觀分化處于矛盾狀態(tài)時(shí),人們?cè)诓煌瑑r(jià)值觀念間的選擇中容易出現(xiàn)價(jià)值錯(cuò)亂、分辨力降低等諸多狀況,個(gè)體的迷失狀態(tài)給社會(huì)意識(shí)形態(tài)安全帶來(lái)巨大隱患。
其一,算法推薦及其所營(yíng)造的過(guò)濾氣泡形塑網(wǎng)絡(luò)空間“單向度的人”,網(wǎng)絡(luò)空間意識(shí)形態(tài)面臨價(jià)值迷失風(fēng)險(xiǎn)。所謂過(guò)濾氣泡,是指算法推薦在進(jìn)行數(shù)據(jù)處理和運(yùn)作過(guò)程中實(shí)現(xiàn)了信息和內(nèi)容的供需匹配,同時(shí)也幫助用戶篩選掉了興趣范圍外的大量異質(zhì)信息,用戶處在推薦算法營(yíng)造的信息和觀念的舒適氣泡當(dāng)中。在這種過(guò)濾機(jī)制之下,“令人著迷的新聞娛樂(lè)產(chǎn)品帶來(lái)固定的態(tài)度和習(xí)慣,使消費(fèi)者愉快地產(chǎn)生與生產(chǎn)者、進(jìn)而與社會(huì)整體相聯(lián)結(jié)的思想和情緒上的反應(yīng)。在這一過(guò)程中,產(chǎn)品起著思想灌輸和操縱的作用?!盵3]12如今隨著算法推薦的廣泛使用我們?nèi)巳颂幱谒惴ńy(tǒng)治確立的生活方式之中,算法過(guò)濾塑造著“單向度的思想和行為模式”,凡是超出既有價(jià)值和意識(shí)形態(tài)領(lǐng)域的思想和行為都將受到排斥或是被納入既有思想行為體系之中。尤其值得注意的是,這種二元對(duì)立的思想狀態(tài)在個(gè)體間出現(xiàn)了一致化的趨勢(shì)。當(dāng)微信、微博、B站等頭部網(wǎng)絡(luò)平臺(tái)均被同質(zhì)化的信息充斥,當(dāng)我們每一次的瀏覽體驗(yàn)均以探求新知開(kāi)始而以理性喪失結(jié)束,網(wǎng)絡(luò)空間留給我們的將是一片貧瘠、狹隘、單調(diào)的精神荒原,這與我們?nèi)谌刖W(wǎng)絡(luò)空間時(shí)懷抱的拓展、多元、交流的初衷不相吻合,與互聯(lián)網(wǎng)科技的開(kāi)放、包容、共享精神背道而馳?!叭狈π判那也淮_信自己應(yīng)當(dāng)持何種觀點(diǎn)的人們,傾向于使自己的觀點(diǎn)變得溫和?!盵13]30長(zhǎng)此以往,人們精神世界空泛,價(jià)值信仰萎縮,辨別是非的能力和抵御反主流、反體制、反智識(shí)思想和行為的能力下降,意識(shí)形態(tài)安全面臨嚴(yán)重威脅。
其二,算法推薦營(yíng)造的單一信息環(huán)境使網(wǎng)絡(luò)空間意識(shí)形態(tài)面臨信息操縱風(fēng)險(xiǎn)。算法推薦對(duì)信息的過(guò)濾使不同意識(shí)形態(tài)屬性的人們置身相互隔絕的信息繭房之中,長(zhǎng)時(shí)期處于同質(zhì)化的信息氛圍,“容易使人將自己的偏見(jiàn)當(dāng)作真理,拒絕接受其他合理性的觀點(diǎn)和意見(jiàn)”[15]。這恰恰給網(wǎng)絡(luò)謠言和陰謀論的傳播提供了間隙。網(wǎng)絡(luò)謠言通常伴隨著突發(fā)公共事件出現(xiàn),當(dāng)有關(guān)職能部門(mén)的調(diào)查和信息公開(kāi)不能滿足人們內(nèi)心預(yù)期,就會(huì)有人利用信息不對(duì)稱(chēng)和人們的固有認(rèn)知框架及偏見(jiàn)或故意、或盲目地制造、傳播虛假信息,嚴(yán)重消減政府相關(guān)部門(mén)的權(quán)威性和公信力,擾亂網(wǎng)絡(luò)環(huán)境和公共秩序。尤其值得注意的是,算法的工具性特質(zhì)讓有關(guān)主體利用算法對(duì)用戶的意識(shí)形態(tài)偏向?qū)嵤┯绊懗蔀榭赡躘16]。算法推薦和社交媒體的技術(shù)偏向也給謠言傳播提供了天然的有利環(huán)境。在網(wǎng)絡(luò)空間已經(jīng)成為意識(shí)形態(tài)斗爭(zhēng)的主陣地、主戰(zhàn)場(chǎng)的當(dāng)下,我們必須高度警惕一些西方國(guó)家憑借其發(fā)達(dá)的科學(xué)技術(shù)優(yōu)勢(shì),惡意利用算法推薦機(jī)制及新媒體的傳播特性,結(jié)合熱點(diǎn)話題發(fā)表一些傾向性言論,企圖通過(guò)陰謀論對(duì)我國(guó)民眾進(jìn)行意識(shí)形態(tài)滲透和思想操縱,詆毀、批判我國(guó)主流意識(shí)形態(tài)的行為。
三、算法推薦引發(fā)意識(shí)形態(tài)風(fēng)險(xiǎn)的法律防范路徑
算法推薦引發(fā)的意識(shí)形態(tài)風(fēng)險(xiǎn)問(wèn)題,可以放在風(fēng)險(xiǎn)社會(huì)理論的研究范疇內(nèi)展開(kāi)探索。貝克認(rèn)為,“風(fēng)險(xiǎn)可被定義為以系統(tǒng)的方式應(yīng)對(duì)由現(xiàn)代化自身引發(fā)的危險(xiǎn)和不安”[17]。對(duì)風(fēng)險(xiǎn)的防范,其重點(diǎn)在于防范風(fēng)險(xiǎn)帶來(lái)的負(fù)面效應(yīng),包括防范風(fēng)險(xiǎn)發(fā)生的危害和風(fēng)險(xiǎn)發(fā)生的可能性?,F(xiàn)代法律通過(guò)發(fā)揮安全功能實(shí)現(xiàn)風(fēng)險(xiǎn)防范,此種安全功能的發(fā)揮不在于排除所有風(fēng)險(xiǎn),而在于依照確定的防衛(wèi)和補(bǔ)償規(guī)則來(lái)防止風(fēng)險(xiǎn)后果的外部化[18]。具體而言,法律通過(guò)主體、權(quán)利、義務(wù)、責(zé)任等制度的構(gòu)建及其相互作用來(lái)保障安全和穩(wěn)定。面對(duì)算法推薦應(yīng)用領(lǐng)域的多樣性和意識(shí)形態(tài)風(fēng)險(xiǎn)分布的離散性、隱蔽性,我們要主動(dòng)作為、積極應(yīng)對(duì),既要強(qiáng)化對(duì)意識(shí)形態(tài)風(fēng)險(xiǎn)的事后監(jiān)管,也要做好對(duì)意識(shí)形態(tài)風(fēng)險(xiǎn)的事前防范。這就要求我們從網(wǎng)絡(luò)平臺(tái)的權(quán)責(zé)關(guān)系入手,一方面強(qiáng)化網(wǎng)絡(luò)平臺(tái)責(zé)任,通過(guò)用戶權(quán)利的賦予和平臺(tái)義務(wù)的約束實(shí)現(xiàn)商業(yè)價(jià)值和社會(huì)責(zé)任的良性互動(dòng);同時(shí)又要刺破算法推薦的工具“面紗”,通過(guò)對(duì)算法的監(jiān)管和適用范圍的限制來(lái)實(shí)現(xiàn)技術(shù)理性和價(jià)值理性的平衡。
(一)平臺(tái)責(zé)任強(qiáng)化:促進(jìn)主流意識(shí)形態(tài)傳播升級(jí)
網(wǎng)絡(luò)平臺(tái)作為算法推薦的利用者、受益方,作為互聯(lián)網(wǎng)信息傳播的把關(guān)人,在主流意識(shí)形態(tài)傳播引領(lǐng)方面應(yīng)當(dāng)有更大作為和更多擔(dān)當(dāng)。網(wǎng)絡(luò)平臺(tái)責(zé)任的承擔(dān)有其理論基礎(chǔ)。其一,守門(mén)人理論?;ヂ?lián)網(wǎng)借助TCP/IP協(xié)議地址具備了數(shù)據(jù)傳輸功能,為信息傳播流動(dòng)提供了物理基礎(chǔ)。事實(shí)上對(duì)信息流動(dòng)擁有管理能力的是各個(gè)計(jì)算機(jī)終端的網(wǎng)絡(luò)平臺(tái)。換言之,網(wǎng)絡(luò)平臺(tái)利用其信息基礎(chǔ)設(shè)施、技術(shù)架構(gòu)、服務(wù)形式等優(yōu)勢(shì)資源,掌握著信息流動(dòng)的關(guān)鍵節(jié)點(diǎn),同時(shí)平臺(tái)算法也影響著用戶對(duì)內(nèi)容的獲取,可以說(shuō),網(wǎng)絡(luò)平臺(tái)已超越純粹的服務(wù)提供者的被動(dòng)性、中立性角色,而是以把關(guān)人的角色參與到信息流動(dòng)控制中去,成為網(wǎng)絡(luò)空間中“看不見(jiàn)的手”。其二,外部性理論。外部性是對(duì)個(gè)人或企業(yè)活動(dòng)對(duì)其他人或其他企業(yè)產(chǎn)生外部影響的評(píng)價(jià)。在網(wǎng)絡(luò)平臺(tái)是否應(yīng)當(dāng)對(duì)其所利用的技術(shù)引起的外部影響承擔(dān)責(zé)任的論證過(guò)程中一直存在著平臺(tái)是否可以因?yàn)榧夹g(shù)的工具性而免責(zé)的問(wèn)題。相較于傳統(tǒng)媒體平臺(tái)以人工編輯為主導(dǎo)的信息審核分發(fā)模式,各網(wǎng)絡(luò)平臺(tái)的信息傳播過(guò)程展現(xiàn)出了更強(qiáng)的技術(shù)特質(zhì)和自動(dòng)屬性,技術(shù)中立也常常成為平臺(tái)責(zé)任豁免的論據(jù)之一。然而,外部性理論的適用并非著眼于企業(yè)是否對(duì)其行為的外部影響擁有實(shí)質(zhì)性控制,而是作為市場(chǎng)機(jī)制對(duì)資源配置調(diào)節(jié)失靈的補(bǔ)充規(guī)則而存在。在信息傳播領(lǐng)域,各網(wǎng)絡(luò)平臺(tái)對(duì)算法推薦的利用在客觀上造成了主流意識(shí)形態(tài)傳播風(fēng)險(xiǎn),這反映出算法推薦存在一定的技術(shù)局限性:“當(dāng)市場(chǎng)機(jī)制或技術(shù)體系無(wú)法實(shí)現(xiàn)資源的最優(yōu)配置或社會(huì)福利的最大化時(shí),應(yīng)當(dāng)由政府加以干預(yù),要求受益的企業(yè)承擔(dān)一定的責(zé)任維護(hù)社會(huì)運(yùn)行的公平性?!盵19]對(duì)各網(wǎng)絡(luò)平臺(tái)而言,其有義務(wù)、有責(zé)任為公眾提供更加廣泛的信息來(lái)源,避免公眾完全被興趣引導(dǎo)而走向更加逼仄的價(jià)值視野中去。
第一,強(qiáng)化網(wǎng)絡(luò)平臺(tái)的審核、監(jiān)督義務(wù)。網(wǎng)絡(luò)平臺(tái)既是信息服務(wù)的提供者,又是信息資源的調(diào)度者,在信息傳播、消費(fèi)的各個(gè)節(jié)點(diǎn)均發(fā)揮重要作用。網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)為其使用算法推送的信息盡到必要的審核和監(jiān)督義務(wù),確保信息傳播符合主流意識(shí)形態(tài)。網(wǎng)絡(luò)平臺(tái)本身可被視為一個(gè)大型的公共圖書(shū)館,讀者可根據(jù)自己的興趣愛(ài)好依照?qǐng)D書(shū)類(lèi)別索引找到自己感興趣的書(shū)籍。作為圖書(shū)館方,不僅要能夠滿足不同層次、不同興趣讀者的閱讀需求,還要保證其所提供的書(shū)籍內(nèi)容健康向上,符合法律法規(guī)和社會(huì)主義核心價(jià)值觀等主流意識(shí)形態(tài)精神,這樣才與公共圖書(shū)館的地位、功能、價(jià)值相匹配。
在內(nèi)容上,社交平臺(tái)的審核、監(jiān)督義務(wù)包括信息傳播后果的預(yù)見(jiàn)義務(wù)和避免義務(wù)。前者要求平臺(tái)對(duì)其所分發(fā)信息的傳播效果有較為審慎、合理的認(rèn)識(shí);后者要求平臺(tái)在預(yù)見(jiàn)到其所推薦、分發(fā)的信息可能背離主流意識(shí)形態(tài)時(shí),應(yīng)積極采取措施縮減傳播范圍或斷開(kāi)傳播路徑。在性質(zhì)上,社交平臺(tái)的審核、監(jiān)督義務(wù)應(yīng)當(dāng)是一種高度的注意義務(wù),類(lèi)似于學(xué)校對(duì)學(xué)生、商場(chǎng)對(duì)消費(fèi)者的安全保障注意義務(wù)。理由在于,其一,網(wǎng)絡(luò)服務(wù)平臺(tái)作為信息傳播的載體向眾多用戶開(kāi)放,信息傳播的空間大、傳播范圍廣;其二,網(wǎng)絡(luò)平臺(tái)在技術(shù)手段、管理經(jīng)驗(yàn)上擁有更強(qiáng)的風(fēng)險(xiǎn)防范能力。
網(wǎng)絡(luò)平臺(tái)可通過(guò)用戶協(xié)議、社群規(guī)范等文件將“符合主流意識(shí)形態(tài)”作為信息內(nèi)容傳播的底線性要求,用戶擅自發(fā)布、傳播背離主流意識(shí)形態(tài)內(nèi)容的,平臺(tái)可視情況采取拒絕發(fā)布、停止傳輸、刪除內(nèi)容、禁言、關(guān)閉賬號(hào)等措施。對(duì)于平臺(tái)利用算法制作、推薦的信息,平臺(tái)應(yīng)充分利用其技術(shù)條件切實(shí)履行審核、監(jiān)督義務(wù)。平臺(tái)義務(wù)的履行應(yīng)以技術(shù)可行性為基礎(chǔ),如通過(guò)設(shè)置關(guān)鍵詞過(guò)濾檢索、引入機(jī)器學(xué)習(xí)算法進(jìn)行語(yǔ)法語(yǔ)義分析、人工審核的經(jīng)驗(yàn)判斷等多維度的條件組合,讓非主流意識(shí)形態(tài)信息內(nèi)容喪失傳播土壤。另一方面,對(duì)于未盡到合理的審核、監(jiān)督義務(wù)及違反法律法規(guī)、故意制造算法偏見(jiàn)、傳播虛假信息的網(wǎng)絡(luò)平臺(tái)及相關(guān)主體,應(yīng)當(dāng)承擔(dān)相應(yīng)的行政責(zé)任。
第二,強(qiáng)化網(wǎng)絡(luò)平臺(tái)的信息披露義務(wù)。隨著算法逐漸在信息資源配置中占據(jù)主導(dǎo)地位,其所引發(fā)的意識(shí)形態(tài)風(fēng)險(xiǎn)不斷擴(kuò)張。傳統(tǒng)的事后監(jiān)管路徑無(wú)法達(dá)到預(yù)期效果,我們的監(jiān)管思路應(yīng)當(dāng)從結(jié)果監(jiān)管向風(fēng)險(xiǎn)防范轉(zhuǎn)變[20]。對(duì)網(wǎng)絡(luò)平臺(tái)而言,數(shù)據(jù)內(nèi)容輸出后傳播環(huán)節(jié)的審核、監(jiān)督作為一種監(jiān)管手段有其必要性,但我們不能忽視的是,網(wǎng)絡(luò)平臺(tái)作為連接用戶與信息間的媒介樞紐,作為媒介傳播結(jié)構(gòu)中官方媒體和自媒體間的第二梯隊(duì),其身份早已突破了單一的經(jīng)營(yíng)者角色,而是由于眾多用戶的選擇而具有了一定的管理和公共職能屬性。這就要求網(wǎng)絡(luò)平臺(tái)對(duì)意識(shí)形態(tài)風(fēng)險(xiǎn)的防范不能簡(jiǎn)單停留在對(duì)信息內(nèi)容的審核、監(jiān)督上,應(yīng)更進(jìn)一步轉(zhuǎn)向能夠有效促進(jìn)主流意識(shí)形態(tài)傳播的信息環(huán)境塑造上來(lái)。強(qiáng)化網(wǎng)絡(luò)平臺(tái)的信息披露義務(wù)旨在通過(guò)充分的信息公開(kāi)喚醒用戶的權(quán)利意識(shí),在一定程度上松動(dòng)算法推薦的適用基礎(chǔ)。
一方面,關(guān)于平臺(tái)利用算法進(jìn)行個(gè)性化推薦相關(guān)信息的披露。平臺(tái)應(yīng)將其使用算法的類(lèi)型、目的、運(yùn)作機(jī)理,抓取推薦算法基礎(chǔ)數(shù)據(jù)的種類(lèi)、條目、范圍以及推薦內(nèi)容的價(jià)值偏向等內(nèi)容通過(guò)用戶協(xié)議等文件進(jìn)行公開(kāi),同時(shí)明確提示用戶擁有拒絕算法推薦的權(quán)利。另一方面,推進(jìn)主流意識(shí)形態(tài)傳播升級(jí)。網(wǎng)絡(luò)平臺(tái)可以在擁有一定觀點(diǎn)傾向性的信息內(nèi)容后附上不同觀點(diǎn)內(nèi)容的推薦,或者隨機(jī)推薦主流意識(shí)形態(tài)相關(guān)內(nèi)容,促進(jìn)用戶對(duì)異質(zhì)內(nèi)容觀點(diǎn)、異質(zhì)社群的接觸曝光。針對(duì)不實(shí)內(nèi)容、片面化信息,可以用“本條內(nèi)容可能含有虛假內(nèi)容”“本條內(nèi)容可能含有片面化觀點(diǎn)”等標(biāo)語(yǔ)進(jìn)行提示,并適當(dāng)增加辟謠信息、官方調(diào)查報(bào)告等內(nèi)容的推薦和鏈接。針對(duì)西方國(guó)家在網(wǎng)絡(luò)平臺(tái)發(fā)表的傾向性言論和對(duì)網(wǎng)絡(luò)用戶進(jìn)行的意識(shí)形態(tài)滲透,同樣可以通過(guò)鏈接推薦的方法進(jìn)行反擊,如針對(duì)言論涉及的某項(xiàng)事實(shí)在網(wǎng)絡(luò)平臺(tái)和官方媒體網(wǎng)站、政務(wù)網(wǎng)站之間增強(qiáng)互連互通,以個(gè)性化推薦或設(shè)置鏈接的方式確保用戶及官方媒體相互都能夠知道對(duì)方的觀點(diǎn)及內(nèi)容。
(二)用戶權(quán)利賦予:形塑開(kāi)放多元的信息空間
算法推薦的使用不僅成功幫助網(wǎng)絡(luò)平臺(tái)增加了用戶黏性和忠誠(chéng)度,實(shí)現(xiàn)了資訊產(chǎn)品服務(wù)升級(jí),而且也在逐漸改變著人們的信息獲取方式,影響著人們的意識(shí)形態(tài)認(rèn)知。算法推薦之所以成為信息傳播產(chǎn)業(yè)發(fā)展的結(jié)構(gòu)性力量,算法推薦信息流之所以獲得諸多擁躉,是與注意力經(jīng)濟(jì)的發(fā)展分不開(kāi)的。從電視媒體的興起到文字、圖片、短視頻內(nèi)容的迭代更新,網(wǎng)絡(luò)平臺(tái)依托算法、大數(shù)據(jù)等技術(shù)進(jìn)行數(shù)據(jù)抓取,針對(duì)用戶的關(guān)注偏好、基礎(chǔ)信息等進(jìn)行解構(gòu)分析,用戶的注意力被當(dāng)作數(shù)據(jù)分析的對(duì)象并被不斷整合進(jìn)推薦算法之中[21]。應(yīng)當(dāng)說(shuō),算法推薦是注意力經(jīng)濟(jì)的催化劑、助推器。在這種經(jīng)濟(jì)模式中,用戶的每一次閱讀分享、每一個(gè)點(diǎn)贊評(píng)論都能夠讓算法對(duì)你的畫(huà)像更加精準(zhǔn)、讓算法對(duì)你的了解更加深入??此泼赓M(fèi)的信息獲取其實(shí)早已在暗中標(biāo)好了價(jià)格:用戶即商品。但是我們的身份,應(yīng)當(dāng)是網(wǎng)絡(luò)平臺(tái)的消費(fèi)者,是擁有獨(dú)立判斷能力、思辨能力、完整人格的自然人,是網(wǎng)絡(luò)空間的公民。我們懷抱著新知、交流的愿景融入網(wǎng)絡(luò)空間,卻在無(wú)意識(shí)的情況下進(jìn)入了自我意識(shí)形態(tài)的回音室。對(duì)各平臺(tái)而言,其設(shè)立的初衷是幫助用戶“隨時(shí)隨地發(fā)現(xiàn)新鮮事”,致力于實(shí)現(xiàn)“文明、理性、友善、高質(zhì)量的意見(jiàn)交流”①,塑造一種成長(zhǎng)型的文化生活方式②,其既應(yīng)在主流意識(shí)形態(tài)傳播引領(lǐng)上有所作為,更應(yīng)在多元信息環(huán)境的構(gòu)建上發(fā)力。
第一,用戶應(yīng)享有算法推薦、算法編輯的知情權(quán)。知情權(quán)關(guān)乎合同自由、關(guān)乎公平正義。哈耶克認(rèn)為,“自由是指一個(gè)人在多大程度上能夠自行其是,在多大程度上能夠自由確定其行為方式,以及在多大程度上可根據(jù)自己所執(zhí)著追求的目標(biāo),而不是根據(jù)別人為實(shí)現(xiàn)其意圖所設(shè)定的強(qiáng)制條件去行動(dòng)”[22]。對(duì)用戶與網(wǎng)絡(luò)平臺(tái)間的關(guān)系稍加審視便會(huì)發(fā)現(xiàn),用戶對(duì)平臺(tái)服務(wù)協(xié)議的“同意”是其接收信息服務(wù)的前置條件,用戶協(xié)議并未經(jīng)雙方協(xié)商締結(jié),而是平臺(tái)方單邊規(guī)制的結(jié)果。從經(jīng)濟(jì)、信息、知識(shí)等方面看雙方間均存在著巨大鴻溝,這種不平等使用戶極易因錯(cuò)誤或令人誤解的信息內(nèi)容而作出非理性的選擇判斷?;陔p方合意“瑕疵”訂立的合同并不能夠在實(shí)質(zhì)上滿足合同成立中“意思表示真實(shí)”這一要件,這在一定程度上是對(duì)合同自由原則的背離和違反。在合同的履行階段雙方地位上的不平等同樣在延續(xù),用戶協(xié)議條款內(nèi)容的改變、信息分發(fā)底層技術(shù)邏輯的更換等并未對(duì)用戶的知情權(quán)予以足夠保障,處于信息劣勢(shì)的用戶方的行為自由和意思自治并未得到充分尊重。在這個(gè)層面上,有必要賦予消費(fèi)者即用戶一方以知情權(quán),讓消費(fèi)者在對(duì)相關(guān)內(nèi)容充分理解、知悉的情況下自由判斷、自由選擇是否同意或接受信息服務(wù),從而實(shí)現(xiàn)實(shí)質(zhì)意義上的合同自由。
具體而言,其一,前述平臺(tái)信息披露義務(wù)中關(guān)于算法推薦的信息獲取、運(yùn)作邏輯等內(nèi)容應(yīng)在用戶協(xié)議中以簡(jiǎn)明、易懂的方式體現(xiàn)并獲得用戶的知情同意。其二,除用戶自主訂閱的偏好信息外,網(wǎng)絡(luò)平臺(tái)基于算法進(jìn)行的個(gè)性化推薦內(nèi)容應(yīng)當(dāng)逐條進(jìn)行醒目提示,如在信息頂端或底部增加“本條內(nèi)容由算法推薦”標(biāo)簽,并設(shè)置關(guān)閉推薦、減少同類(lèi)推薦按鈕,避免用戶陷入信息繭房而不自知。其三,如果某些信息內(nèi)容中含有偏見(jiàn)、歧視、極端內(nèi)容并經(jīng)網(wǎng)絡(luò)平臺(tái)清除、編輯后向用戶呈現(xiàn),也應(yīng)逐條對(duì)用戶進(jìn)行明確告知,如通過(guò)設(shè)置“本條內(nèi)容經(jīng)編輯后呈現(xiàn)”標(biāo)簽對(duì)用戶進(jìn)行提示。
第二,用戶應(yīng)享有算法解釋權(quán)。算法解釋權(quán)是通過(guò)增加算法決策的透明度以提高用戶對(duì)算法的可理解性和問(wèn)責(zé)性的一種請(qǐng)求權(quán)[23]。在算法推薦的法律規(guī)制中引入算法解釋權(quán),是基于合同意思自治原則所必然衍生的權(quán)利,是對(duì)平臺(tái)和用戶之間巨大身份鴻溝、信息不對(duì)稱(chēng)的有效糾偏,其作用在于實(shí)現(xiàn)信息從優(yōu)勢(shì)一方向劣勢(shì)一方的流動(dòng)而達(dá)到相對(duì)平衡的狀態(tài)。
其一,算法解釋權(quán)的主體和對(duì)象。在個(gè)性化新聞推送場(chǎng)景下,算法解釋權(quán)的權(quán)利主體是認(rèn)為受到算法推薦不利影響的相對(duì)人,其往往在網(wǎng)絡(luò)平臺(tái)用戶中產(chǎn)生。算法解釋權(quán)的義務(wù)主體為推薦算法的使用者即網(wǎng)絡(luò)平臺(tái),或在推薦算法使用者無(wú)法提供解釋時(shí)的推薦算法開(kāi)發(fā)者。其二,關(guān)于算法解釋權(quán)的內(nèi)容,不同學(xué)者擁有不同見(jiàn)解。張恩典聚焦于算法決策的形成過(guò)程,從算法決策的建模階段、自動(dòng)決策階段的動(dòng)態(tài)視角出發(fā)將算法解釋權(quán)區(qū)分為以算法系統(tǒng)功能為中心的解釋權(quán)模式和以具體決策為中心的解釋權(quán)模式兩種類(lèi)型[24]。張凌寒則聚焦于信息披露和算法決策的事后救濟(jì),認(rèn)為算法解釋只能由算法決策的相對(duì)人在受到不利影響后提起,并認(rèn)為算法解釋權(quán)的權(quán)利內(nèi)容應(yīng)當(dāng)包括針對(duì)算法決策的具體解釋和事后的更新解釋兩個(gè)層次[25]。我們?cè)诖藷o(wú)意深究算法解釋權(quán)的一般內(nèi)容設(shè)定,僅在前述觀點(diǎn)的啟發(fā)下結(jié)合信息個(gè)性化推薦場(chǎng)景下的算法解釋權(quán)利內(nèi)容展開(kāi)思考。具體而言,用戶有權(quán)知道其在使用網(wǎng)絡(luò)平臺(tái)期間的身份標(biāo)簽、身份畫(huà)像等內(nèi)容。畫(huà)像作為算法推薦的前置程序,用戶可以申請(qǐng)平臺(tái)解釋個(gè)人畫(huà)像形成的邏輯和進(jìn)行畫(huà)像的依據(jù),如平臺(tái)會(huì)抓取的數(shù)據(jù)類(lèi)型、展開(kāi)畫(huà)像的具體維度,各項(xiàng)數(shù)據(jù)的特征、類(lèi)型和權(quán)重占比,以及不同維度數(shù)據(jù)的改變對(duì)可能接收信息內(nèi)容的影響等,讓用戶對(duì)自己處于或?qū)⒁幱诘膬?nèi)容環(huán)境擁有合理預(yù)期。此外,如果用戶認(rèn)為自己因?yàn)榫W(wǎng)絡(luò)平臺(tái)的算法推薦已經(jīng)或正在遭受不利影響,有權(quán)要求網(wǎng)絡(luò)平臺(tái)針對(duì)該算法的具體決策過(guò)程如數(shù)據(jù)處理邏輯、信息推送邏輯等作出解釋?zhuān)W(wǎng)絡(luò)平臺(tái)應(yīng)及時(shí)予以答復(fù)。
(三)算法監(jiān)管:建設(shè)“可信任”的算法
當(dāng)前我國(guó)并未確立對(duì)算法的直接監(jiān)管機(jī)制,現(xiàn)有的監(jiān)管路徑更側(cè)重于對(duì)結(jié)果的審查,通過(guò)將算法產(chǎn)生的不利后果和法律責(zé)任分配給算法使用平臺(tái)以實(shí)現(xiàn)對(duì)算法的監(jiān)管。在技術(shù)批判理論者看來(lái),這種“基于終端責(zé)任原則的規(guī)制技術(shù),寄望通過(guò)終端責(zé)任威懾以防止技術(shù)研究與應(yīng)用所造成的損害,只是對(duì)風(fēng)險(xiǎn)轉(zhuǎn)化為現(xiàn)實(shí)的一種事后補(bǔ)救路徑,它顯然與風(fēng)險(xiǎn)社會(huì)理論所指引的事先預(yù)防理論相?!盵26]。作為風(fēng)險(xiǎn)治理的重要手段,法律應(yīng)對(duì)技術(shù)研究及技術(shù)應(yīng)用的效用予以必要關(guān)注,對(duì)算法技術(shù)規(guī)制、算法責(zé)任等的探索仍任重道遠(yuǎn)。“技術(shù)規(guī)制是風(fēng)險(xiǎn)治理的重要措施?!盵27]對(duì)算法推薦引發(fā)意識(shí)形態(tài)風(fēng)險(xiǎn)的防范亦不應(yīng)僅停留在對(duì)平臺(tái)的治理和監(jiān)管上,更應(yīng)將監(jiān)管的觸角延伸到“算法”這一底層技術(shù)層面。算法作為網(wǎng)絡(luò)平臺(tái)運(yùn)行的底層技術(shù)邏輯,應(yīng)當(dāng)被納入監(jiān)管范圍。
首先,可通過(guò)建立算法審計(jì)制度糾正用戶長(zhǎng)期偏好性閱讀帶來(lái)的觀念極化。審計(jì)作為一種經(jīng)濟(jì)監(jiān)督機(jī)制長(zhǎng)期存在,我們通過(guò)對(duì)公司的財(cái)務(wù)管理、經(jīng)濟(jì)效益等進(jìn)行審查以維護(hù)金融市場(chǎng)穩(wěn)定和其他利益相關(guān)人的利益。這是因?yàn)閷?duì)外界投資者而言公司的內(nèi)部運(yùn)營(yíng)就像一個(gè)“黑箱”,給公司內(nèi)部人員帶來(lái)巨大信息優(yōu)勢(shì)的同時(shí)也存在著被濫用的風(fēng)險(xiǎn)。這與算法的作用機(jī)理相類(lèi)似。算法審計(jì)旨在通過(guò)建設(shè)“可信任”的算法并通過(guò)其合理利用為用戶構(gòu)建開(kāi)放、多元的信息空間?!秱€(gè)人信息保護(hù)法(草案)》第53條初步確立了網(wǎng)絡(luò)平臺(tái)的定期自我審計(jì)和必要時(shí)的第三方審計(jì)制度,標(biāo)志著監(jiān)管部門(mén)穿透了網(wǎng)絡(luò)平臺(tái)的法人外殼,將監(jiān)管之手直接指向平臺(tái)的內(nèi)部運(yùn)營(yíng)活動(dòng),將監(jiān)管對(duì)象擴(kuò)大至平臺(tái)的算法運(yùn)行層面[28]。這一監(jiān)管思路契合了風(fēng)險(xiǎn)社會(huì)的預(yù)防性監(jiān)管理念,平臺(tái)的自我審計(jì)有助于提前發(fā)現(xiàn)和預(yù)防算法可能產(chǎn)生的負(fù)面影響及風(fēng)險(xiǎn),第三方專(zhuān)業(yè)機(jī)構(gòu)審計(jì)又因其中立性對(duì)平臺(tái)產(chǎn)生一定的約束作用。這意味著平臺(tái)自我審計(jì)將構(gòu)成監(jiān)督和問(wèn)責(zé)的基礎(chǔ)性依據(jù)。以此為基礎(chǔ),其一,網(wǎng)絡(luò)平臺(tái)的自我審計(jì)可以內(nèi)部進(jìn)行,采取法律法規(guī)和倫理規(guī)范相結(jié)合的審計(jì)模式,通過(guò)綜合考察平臺(tái)使用推薦算法的設(shè)計(jì)目的、理念、設(shè)計(jì)規(guī)則、技術(shù)原理、合法合規(guī)性、價(jià)值偏向性等內(nèi)容形成審計(jì)報(bào)告,并報(bào)相關(guān)監(jiān)管部門(mén)備案。平臺(tái)應(yīng)針對(duì)其使用算法可能產(chǎn)生的意識(shí)形態(tài)偏向及對(duì)用戶的價(jià)值觀念影響提供可行的解決方案。其二,政府部門(mén)可結(jié)合個(gè)性化新聞推薦的具體場(chǎng)景制定平臺(tái)使用推薦算法的技術(shù)標(biāo)準(zhǔn)作為推薦算法的市場(chǎng)準(zhǔn)入要求,以打造政府監(jiān)管、平臺(tái)自我審計(jì)、第三方審計(jì)相結(jié)合的貫通性、多元化治理體系。其三,審計(jì)報(bào)告作為政府部門(mén)的監(jiān)督依據(jù),一旦發(fā)現(xiàn)網(wǎng)絡(luò)平臺(tái)違背審計(jì)報(bào)告相關(guān)內(nèi)容,惡意利用或未合理使用算法造成相關(guān)信息異常呈現(xiàn)的,或者存在虛假審計(jì)、違規(guī)審計(jì)情形的,可要求網(wǎng)絡(luò)平臺(tái)立即整改或介入平臺(tái)運(yùn)營(yíng)。
其次,可通過(guò)限制算法推薦在信息推送過(guò)程中的適用范圍以打破信息窄化。一方面,有必要對(duì)信息分發(fā)場(chǎng)域算法推薦的事實(shí)“壟斷地位”進(jìn)行干預(yù)。政府對(duì)市場(chǎng)競(jìng)爭(zhēng)機(jī)制的介入是為了應(yīng)對(duì)市場(chǎng)機(jī)制的不完善、失靈等導(dǎo)致的資源配置無(wú)效率現(xiàn)象。算法推薦借助網(wǎng)絡(luò)平臺(tái)發(fā)達(dá)的基礎(chǔ)設(shè)施在信息傳播市場(chǎng)占據(jù)事實(shí)上的支配地位,其所引發(fā)的信息繭房、群體極化、價(jià)值迷失等意識(shí)形態(tài)風(fēng)險(xiǎn)已經(jīng)表露出來(lái),在這種情況下,不能完全放任信息傳播市場(chǎng)的自由競(jìng)爭(zhēng),讓政府管制和市場(chǎng)競(jìng)爭(zhēng)作為兩種手段協(xié)同發(fā)揮作用才能更好地發(fā)揮算法推薦對(duì)意識(shí)形態(tài)傳播的正向影響,實(shí)現(xiàn)經(jīng)濟(jì)效益和社會(huì)效果的協(xié)同。另一方面,主流意識(shí)形態(tài)急需更加廣闊的傳播空間。國(guó)家層面,信息窄化最本質(zhì)的危害在于其阻塞了主流意識(shí)形態(tài)傳播的上通下達(dá),存在著巨大的政治安全隱患。對(duì)用戶而言,算法推薦廣泛適用的危害在于,用戶所接收到的信息看似經(jīng)過(guò)了自由選擇,其實(shí)僅是由傳統(tǒng)主流意識(shí)形態(tài)傳播者的把控、篩選替換成了網(wǎng)絡(luò)平臺(tái)更劣質(zhì)的精心挑選而已。當(dāng)我們被剝奪了接觸異質(zhì)信息的機(jī)會(huì),我們的思想自由就喪失了。從這個(gè)角度來(lái)看,網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)發(fā)揮公共論壇屬性并為公眾提供一個(gè)開(kāi)放自由的討論空間,讓人們?cè)谝馔猥@取的信息中不斷反思完善自我,因?yàn)椤吧魉济鞅娴牧α縿龠^(guò)獨(dú)斷專(zhuān)行”[29]。因此,有必要對(duì)算法推薦的適用范圍予以合理的限制。其一,以主流意識(shí)形態(tài)為主要內(nèi)容的信息推送應(yīng)當(dāng)排除在算法推薦的適用范圍之外,確保主流意識(shí)形態(tài)傳播路徑暢通。實(shí)踐中監(jiān)管部門(mén)已嘗試實(shí)施這一舉措。例如,新浪微博曾因持續(xù)傳播炒作導(dǎo)向錯(cuò)誤等違法違規(guī)有害信息被網(wǎng)信部門(mén)約談,其問(wèn)題突出的熱搜榜、熱門(mén)話題榜等板塊被下線。整改后的熱搜榜新增“新時(shí)代”板塊及置頂功能,著重突出展示正向傳播導(dǎo)向內(nèi)容①。其二,各網(wǎng)絡(luò)平臺(tái)除以用戶偏好為中心進(jìn)行資訊推送外,以主流意識(shí)形態(tài)為主要內(nèi)容的信息推送在用戶的有效接收內(nèi)容中應(yīng)當(dāng)占有一定比例。網(wǎng)絡(luò)平臺(tái)可設(shè)定合理范圍(如5%~20%)并賦予用戶選擇權(quán),確保主流意識(shí)形態(tài)傳播的廣泛性和有效性。
四、結(jié)語(yǔ)
算法推薦對(duì)個(gè)體、對(duì)社會(huì)、對(duì)國(guó)家的影響是全方位、多方面的,對(duì)其引發(fā)意識(shí)形態(tài)風(fēng)險(xiǎn)的防范也并非僅通過(guò)法律應(yīng)對(duì)就能夠達(dá)致理想狀態(tài)。除法律途徑外,還迫切需要主流意識(shí)形態(tài)傳播理念、敘事方式、傳播方法的進(jìn)一步轉(zhuǎn)變,迫切需要算法開(kāi)發(fā)者及網(wǎng)絡(luò)平臺(tái)的倫理自律,迫切需要用戶的算法素養(yǎng)培育等多手段共同發(fā)力。我們身處數(shù)字社會(huì)的深度變革之中,算法經(jīng)濟(jì)、平臺(tái)經(jīng)濟(jì)的發(fā)展也在對(duì)社會(huì)治理方式產(chǎn)生著影響,社會(huì)治理效果的提升需要“軟硬協(xié)同”的共同治理模式,期待“政府與民間的相互賦權(quán)和相互塑造”[30]。期待本文的部分思考能夠在新發(fā)展階段為社會(huì)主義意識(shí)形態(tài)建設(shè)提供些微助益。
參考文獻(xiàn)
[1]? 中共中央文獻(xiàn)研究室.十八大以來(lái)重要文獻(xiàn)選編(中)[G].北京:中央文獻(xiàn)出版社,2016:301.
[2]? 沈江平.人工智能:一種意識(shí)形態(tài)視角[J].東南學(xué)術(shù),2019(2):65-74+247.
[3]? 赫伯特·馬爾庫(kù)塞.單向度的人——發(fā)達(dá)工業(yè)社會(huì)意識(shí)形態(tài)研究[M].劉繼,譯.上海:上海譯文出版社,2006.
[4]? 田海艦.互聯(lián)網(wǎng)的意識(shí)形態(tài)屬性與我國(guó)社會(huì)主義意識(shí)形態(tài)建設(shè)研究[M].北京:人民出版社,2019:70.
[5]? 尤爾根·哈貝馬斯.作為“意識(shí)形態(tài)”的技術(shù)與科學(xué)[M].李黎,郭官義,譯.上海:學(xué)林出版社,1999.
[6]? 俞吾金.從科學(xué)技術(shù)的雙重功能看歷史唯物主義敘述方式的改變[J].中國(guó)社會(huì)科學(xué),2004(1):132-143+208.
[7]? 喻國(guó)明,韓婷.算法型信息分發(fā):技術(shù)原理、機(jī)制創(chuàng)新與未來(lái)發(fā)展[J].新聞愛(ài)好者,2018(4):8-13.
[8]? 張萌.算法推薦的倫理困境:技術(shù)邏輯基礎(chǔ)上的社會(huì)價(jià)值規(guī)范[J].今日科苑,2019(10):43-51.
[9]? 張林.智能算法推薦的意識(shí)形態(tài)風(fēng)險(xiǎn)及其治理[J].探索,2021(1):176-188.
[10]? 佟英.個(gè)人信息保護(hù)與風(fēng)險(xiǎn)治理[J].人工智能法學(xué)研究,2019(1):167-183+212-213.
[11]? 李凌凌.網(wǎng)絡(luò)民粹主義:風(fēng)險(xiǎn)與治理[M].鄭州:鄭州大學(xué)出版社,2020:91-93.
[12]? 廖小平,周澤宇.價(jià)值觀的分化探析——以改革開(kāi)放以來(lái)中國(guó)社會(huì)為背景[J].北京大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2013(3):15-21.
[13]? 凱斯·R.桑斯坦.極端的人群:群體行為的心理學(xué)[M].尹宏毅,郭彬彬,譯.北京:新華出版社,2010:103.
[14]? 盧增智,高翔.社交媒體平臺(tái)群體極化的形成機(jī)理與引導(dǎo)策略研究.情報(bào)理論與實(shí)踐.[EB/OL].https://kns.cnki.net/kcms/detail/11.1762.g3.20210225.1827.004.html.
[15]? 薛永龍,汝倩倩.遮蔽與解蔽:算法推薦場(chǎng)域中的意識(shí)形態(tài)危局[J].自然辯證法研究,2020(1):50-55.
[16]? ADAM D. I. KRAMER, JAMIE E. GUILLORY & JEFFREY T. HANCOCK: Experimental evidence of massive-scale emotional contagion through social networks[J]. Proceedings of the National Academy of Sciences, Jun 2014, 111(24): 8788-8790.
[17]? 烏爾里希·貝克.風(fēng)險(xiǎn)社會(huì):新的現(xiàn)代性之路[M].張文杰,何博聞,譯.南京:譯林出版社,2018:7.
[18]? 劉剛.風(fēng)險(xiǎn)規(guī)制:德國(guó)的理論與實(shí)踐[M].北京:法律出版社,2012:78-91.
[19]? 楊樂(lè).網(wǎng)絡(luò)平臺(tái)法律責(zé)任探究[M].北京:電子工業(yè)出版社,2020:28.
[20]? 張凌寒.風(fēng)險(xiǎn)防范下算法的監(jiān)管路徑研究[J].交大法學(xué),2018(4):49-62.
[21]? 馬俊峰,王斌.數(shù)字時(shí)代注意力經(jīng)濟(jì)的邏輯運(yùn)演及其批判[J].社會(huì)科學(xué),2020(11):111-120.
[22]? 弗雷德里?!W古斯特·哈耶克.自由憲章[M].楊玉生,馮興元,陳榮,等譯.北京:中國(guó)社會(huì)科學(xué)出版社,1999:30-31.
[23]? 解正山.算法決策規(guī)制——以算法“解釋權(quán)”為中心[J].現(xiàn)代法學(xué),2020(1):179-193.
[24]? 張恩典.大數(shù)據(jù)時(shí)代的算法解釋權(quán):背景、邏輯與構(gòu)造[J].法學(xué)論壇,2019(4):152-160.
[25]? 張凌寒.商業(yè)自動(dòng)化決策的算法解釋權(quán)研究[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2018(3):65-74.
[26]? 劉鐵光.風(fēng)險(xiǎn)社會(huì)中技術(shù)規(guī)制基礎(chǔ)的范式轉(zhuǎn)換[J].現(xiàn)代法學(xué),2011(4):68-78.
[27]? 吳漢東.人工智能時(shí)代的制度安排與法律規(guī)制[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2017(5):128-136.
[28]? 張凌寒.《個(gè)人信息保護(hù)法(草案)》中的算法問(wèn)責(zé)制及其完善[J].經(jīng)貿(mào)法律評(píng)論,2021(1):36-46.
[29]? 凱斯·桑斯坦.網(wǎng)絡(luò)共和國(guó):網(wǎng)絡(luò)社會(huì)中的民主問(wèn)題[M].黃維明,譯.上海:上海人民出版社,2003:28-31.
[30]? 馬長(zhǎng)山.邁向數(shù)字社會(huì)的法律[M].北京:法律出版社,2021:271-301.
(責(zé)任編輯:易曉艷)