祖爽

算法應(yīng)用衍生出新風(fēng)險(xiǎn)

在互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域出臺(tái)具有針對(duì)性的算法推薦規(guī)章制度，是防范化解安全風(fēng)險(xiǎn)的需要，也是促進(jìn)算法推薦服務(wù)健康發(fā)展、提升監(jiān)管能力水平的需要。

國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，出臺(tái)規(guī)定主要基于以下兩個(gè)方面的考慮：一是深入推進(jìn)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的需要。黨中央印發(fā)的《法治社會(huì)建設(shè)實(shí)施綱要（2020-2025年）》提出制定完善對(duì)算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法?！吨腥A人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律和《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》等政策文件先后出臺(tái)并作出相關(guān)頂層設(shè)計(jì)。

二是積極促進(jìn)算法推薦服務(wù)規(guī)范健康發(fā)展的需要。算法應(yīng)用日益普及深化，在給經(jīng)濟(jì)社會(huì)發(fā)展等方面注入新動(dòng)能的同時(shí)，算法歧視、“大數(shù)據(jù)殺熟”、誘導(dǎo)沉迷等算法不合理應(yīng)用導(dǎo)致的問(wèn)題也深刻影響著正常的傳播秩序、市場(chǎng)秩序和社會(huì)秩序，給維護(hù)意識(shí)形態(tài)安全、社會(huì)公平公正和網(wǎng)民合法權(quán)益帶來(lái)挑戰(zhàn)，迫切需要對(duì)算法推薦服務(wù)建章立制、加強(qiáng)規(guī)范，著力提升防范化解算法推薦安全風(fēng)險(xiǎn)的能力，促進(jìn)算法相關(guān)行業(yè)健康有序發(fā)展。

賽博研究院發(fā)布的《人工智能時(shí)代數(shù)字內(nèi)容治理的機(jī)遇與挑戰(zhàn)》報(bào)告顯示，算法精準(zhǔn)推薦已經(jīng)占據(jù)信息流分發(fā)主導(dǎo)地位，算法能夠?qū)崿F(xiàn)數(shù)字內(nèi)容聚合和精準(zhǔn)推薦，快速匹配信息與人?；谒惴ǖ膫€(gè)性化內(nèi)容推送在為用戶提供精準(zhǔn)化、個(gè)性化服務(wù)的同時(shí)，也帶來(lái)了國(guó)家安全風(fēng)險(xiǎn)因素增高、不良信息泛濫風(fēng)險(xiǎn)增加，以及傳統(tǒng)權(quán)利保護(hù)難度加大等問(wèn)題。

北京計(jì)算機(jī)學(xué)會(huì)數(shù)字經(jīng)濟(jì)專(zhuān)業(yè)委員會(huì)秘書(shū)長(zhǎng)王娟也對(duì)中國(guó)商報(bào)記者表示，隨著平臺(tái)海量數(shù)據(jù)的積累，“大數(shù)據(jù)殺熟”、安全數(shù)據(jù)權(quán)限、流量制造明星等問(wèn)題不斷出現(xiàn)。一段時(shí)間里，互聯(lián)網(wǎng)企業(yè)把問(wèn)題主體甩給了算法，讓問(wèn)題的解決走向空洞，而規(guī)定將對(duì)這些新問(wèn)題、新現(xiàn)象作出進(jìn)一步規(guī)范。

聚焦算法推薦亂象問(wèn)題

《中國(guó)商界》記者梳理發(fā)現(xiàn)，規(guī)定中的亮點(diǎn)頗多，為應(yīng)對(duì)算法推薦亂象提供指引和規(guī)范，聚焦違法和不良信息傳播問(wèn)題，引導(dǎo)算法應(yīng)用合理規(guī)范，同時(shí)聚焦操縱社會(huì)輿論亂象，引導(dǎo)算法應(yīng)用公開(kāi)透明。

規(guī)定明確了算法推薦服務(wù)提供者的信息服務(wù)規(guī)范，要求算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向，積極傳播正能量，不得利用算法推薦服務(wù)從事違法活動(dòng)或者傳播違法信息，應(yīng)當(dāng)采取措施防范和抵制傳播不良信息；建立健全用戶注冊(cè)、信息發(fā)布審核、數(shù)據(jù)安全和個(gè)人信息保護(hù)、安全事件應(yīng)急處置等管理制度和技術(shù)措施，定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等；建立健全用于識(shí)別違法和不良信息的特征庫(kù)，發(fā)現(xiàn)違法和不良信息的，應(yīng)當(dāng)采取相應(yīng)的處置措施。

同時(shí)，規(guī)定要求加強(qiáng)用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點(diǎn)規(guī)則和用戶標(biāo)簽管理規(guī)則；加強(qiáng)算法推薦服務(wù)版面頁(yè)面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機(jī)制，在重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息；規(guī)范開(kāi)展互聯(lián)網(wǎng)新聞信息服務(wù)，不得生成合成虛假新聞信息或者傳播非國(guó)家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息；不得利用算法實(shí)施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競(jìng)爭(zhēng)行為。

規(guī)定明確了對(duì)于算法推薦服務(wù)提供者的用戶權(quán)益保護(hù)要求。一是算法知情權(quán)，要求告知用戶其提供算法推薦服務(wù)的情況，并公示服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等。二是算法選擇權(quán)，要求向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。三是針對(duì)向未成年人、老年人、勞動(dòng)者、消費(fèi)者等主體提供服務(wù)的算法推薦服務(wù)提供者作出具體規(guī)范。如不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)，應(yīng)當(dāng)便利老年人安全使用算法推薦服務(wù)。

而對(duì)具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者，應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱(chēng)、服務(wù)形式、應(yīng)用領(lǐng)域、算法類(lèi)型等備案信息，履行備案手續(xù)。同時(shí)，規(guī)定明確了備案編號(hào)標(biāo)注、備案信息變更、備案注銷(xiāo)等相關(guān)事宜。

算法驅(qū)動(dòng)平臺(tái)將受到哪些影響

規(guī)定中明確，應(yīng)用算法推薦技術(shù)是指利用生成合成類(lèi)、個(gè)性化推送類(lèi)、排序精選類(lèi)、檢索過(guò)濾類(lèi)、調(diào)度決策類(lèi)等算法技術(shù)向用戶提供信息。而在現(xiàn)有的App中，基于算法驅(qū)動(dòng)的產(chǎn)品和平臺(tái)越來(lái)越多，它們又將受到哪些影響？

上海財(cái)經(jīng)大學(xué)研究員崔麗麗表示，互聯(lián)網(wǎng)平臺(tái)作為消除信息不對(duì)稱(chēng)的先進(jìn)技術(shù)代表，有責(zé)任維持技術(shù)手段的客觀性，反映流量的自然狀態(tài)，呈現(xiàn)真實(shí)的公眾意見(jiàn)，不應(yīng)該因?yàn)樯虡I(yè)利益的驅(qū)使在流量上作假。過(guò)去曾發(fā)生過(guò)一些涉及商業(yè)利益的新聞信息被操控的情況，這樣獲取商業(yè)利益是一種市場(chǎng)不公平的表現(xiàn)，甚至是不合法的。

不論是UGC（用戶生產(chǎn)內(nèi)容）還是PGC（專(zhuān)業(yè)生產(chǎn)內(nèi)容）平臺(tái)，內(nèi)容的審核以及對(duì)于受眾的推薦實(shí)際都有相應(yīng)的規(guī)則，互聯(lián)網(wǎng)信息平臺(tái)已經(jīng)在形態(tài)上取代了過(guò)去的傳統(tǒng)媒體，因此可能具備了一定的公共設(shè)施屬性，所以信息的產(chǎn)生、審核和分發(fā)應(yīng)該符合公允、客觀，以及符合事實(shí)等要求。

規(guī)定中也提出，算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)算法推薦服務(wù)版面頁(yè)面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機(jī)制，在首頁(yè)首屏、熱搜、精選、榜單類(lèi)、彈窗等重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息。算法推薦服務(wù)提供者不得利用算法虛假注冊(cè)賬號(hào)、非法交易賬號(hào)、操縱用戶賬號(hào)或者虛假點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)，不得利用算法屏蔽信息、過(guò)度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)，實(shí)施影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理行為。

西南政法大學(xué)數(shù)字經(jīng)濟(jì)與法制研究中心研究員鄧若翰表示，規(guī)定的出臺(tái)意味著算法推薦相關(guān)行業(yè)進(jìn)入嚴(yán)監(jiān)管時(shí)代，必將在很大程度上提高算法驅(qū)動(dòng)公司的合規(guī)成本，同時(shí)對(duì)“大數(shù)據(jù)殺熟”、信息繭房等問(wèn)題的扼制也將在一定程度上縮減算法驅(qū)動(dòng)公司企業(yè)的盈利空間，相關(guān)公司必將迎來(lái)“陣痛”，如何尋找規(guī)范化的盈利增長(zhǎng)點(diǎn)成為擺在其面前的難題。

與此同時(shí)，可以預(yù)見(jiàn)的是，規(guī)范算法服務(wù)未來(lái)仍需要多方努力。國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，算法推薦服務(wù)治理需要政府、企業(yè)、社會(huì)、網(wǎng)民等多方主體共同參與，推動(dòng)算法推薦服務(wù)公正公平、規(guī)范透明，促進(jìn)算法推薦服務(wù)向上向善，營(yíng)造更加清朗的網(wǎng)絡(luò)空間。