葉蓁蓁

進(jìn)入新時(shí)代，以習(xí)近平同志為核心的黨中央高度重視加強(qiáng)互聯(lián)網(wǎng)內(nèi)容建設(shè)，建立起了網(wǎng)絡(luò)綜合治理體系，營造了更加清朗的網(wǎng)絡(luò)空間。黨的十九大報(bào)告要求，提高新聞輿論傳播力、引導(dǎo)力、影響力、公信力?！八牧Α笔敲襟w忠實(shí)履行新聞輿論工作職責(zé)使命的保證，是主流媒體政治價(jià)值和社會(huì)價(jià)值的體現(xiàn)。其中，引導(dǎo)力通常被理解為新聞媒體生產(chǎn)與傳播原創(chuàng)內(nèi)容，或轉(zhuǎn)發(fā)優(yōu)質(zhì)內(nèi)容，引領(lǐng)群眾認(rèn)知、形成社會(huì)共識(shí)的能力。除此以外，主流媒體是否有通過其他途徑，實(shí)現(xiàn)有效引導(dǎo)的可能性？在提升引導(dǎo)力方面，互聯(lián)網(wǎng)給我們提供了什么樣的現(xiàn)實(shí)條件和創(chuàng)新機(jī)遇？

抓住內(nèi)容建設(shè)兩端，提升新聞輿論引導(dǎo)力

內(nèi)容建設(shè)既包括“建”，也包括“管”。網(wǎng)上內(nèi)容建設(shè)一端是“頂部的優(yōu)質(zhì)內(nèi)容”，即不斷利用新技術(shù)、新形式、新渠道生產(chǎn)并傳播符合廣大人民群眾利益和社會(huì)長遠(yuǎn)發(fā)展的高品質(zhì)內(nèi)容；另一端是“底部的底線管理”，即要及時(shí)濾除和屏蔽不良信息、發(fā)現(xiàn)并糾正錯(cuò)誤觀點(diǎn)。如今，很多大型網(wǎng)絡(luò)平臺(tái)都愿意將其內(nèi)容數(shù)據(jù)庫稱作“內(nèi)容池”，池水清不清，不僅取決于注入了多少清水，還取決于截掉了多少濁水流入、開辟了多少污水治理方式。

相對(duì)于大眾傳播時(shí)代的“管”，在大數(shù)據(jù)、云計(jì)算、人工智能興起的時(shí)代，內(nèi)容風(fēng)險(xiǎn)管控存在很多難點(diǎn)。

第一，內(nèi)容類型雜。大眾傳播時(shí)代，報(bào)紙的內(nèi)容無非是文字與圖片，廣播是音頻，電視是視頻和音頻。在網(wǎng)絡(luò)時(shí)代，特別是在移動(dòng)互聯(lián)網(wǎng)傳播條件下，全媒體傳播形態(tài)讓內(nèi)容類型復(fù)雜多樣，生成了大量非結(jié)構(gòu)數(shù)據(jù)，不僅對(duì)人工審核是一大難題，對(duì)“人工+機(jī)器”審核也構(gòu)成挑戰(zhàn)。例如，在視頻的審核中，從按時(shí)間長度進(jìn)行抽幀，發(fā)展為按場景變化比例進(jìn)行抽幀，從理論設(shè)計(jì)到實(shí)踐技術(shù)都需要改變。而要綜合考慮文字、圖片、音頻、視頻以及相關(guān)聯(lián)內(nèi)容的審核，無疑難上加難。無論是傳統(tǒng)媒體機(jī)構(gòu)，還是新興網(wǎng)絡(luò)平臺(tái)，都面臨難題。

第二，內(nèi)容數(shù)量大。數(shù)據(jù)即新聞、信息流即新聞已經(jīng)成為一種新現(xiàn)象，需要審核的內(nèi)容數(shù)量激增。市場調(diào)研機(jī)構(gòu)IDC預(yù)計(jì)，全球數(shù)據(jù)總量年增長率維持在50%左右，到2020年，全球數(shù)據(jù)總量將達(dá)到40ZB，相當(dāng)于28.6億個(gè)美國國會(huì)圖書館藏書的信息量。根據(jù)工信部副部長陳肇雄在“2018中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)”開幕式上透露的數(shù)字，預(yù)計(jì)到2020年，我國數(shù)據(jù)總量全球占比將達(dá)20%。面對(duì)如此海量的信息內(nèi)容，審核壓力巨大。

第三，內(nèi)容主體多。圍繞不同生產(chǎn)者，出現(xiàn)了用戶生產(chǎn)內(nèi)容（UGC）、專業(yè)生產(chǎn)內(nèi)容（PGC）、職業(yè)生產(chǎn)內(nèi)容（OGC）、機(jī)器生產(chǎn)內(nèi)容（MGC）。依托于網(wǎng)絡(luò)平臺(tái)提供的空間與技術(shù)，內(nèi)容生產(chǎn)者隊(duì)伍不斷擴(kuò)大，內(nèi)容平臺(tái)類型多樣。微信公眾號(hào)數(shù)量4000萬個(gè)，抖音每日活躍用戶接近7000萬，每月活躍用戶超過3億，用戶的“生產(chǎn)消費(fèi)者”（prosumer）身份越來越明顯，政府機(jī)構(gòu)、商業(yè)機(jī)構(gòu)、社會(huì)組織、個(gè)人在各種平臺(tái)上競技，生態(tài)多樣復(fù)雜。內(nèi)容生產(chǎn)和內(nèi)容平臺(tái)主體資質(zhì)、責(zé)任的認(rèn)定都更加復(fù)雜。

第四，效果預(yù)判難。以前報(bào)紙行業(yè)會(huì)強(qiáng)調(diào)版面也是語言，可以體現(xiàn)出報(bào)紙的立場、態(tài)度和情感。如今，特別是智能算法推薦技術(shù)引入后，不同類別信息根據(jù)個(gè)人特征有無數(shù)種排列組合結(jié)果，單條信息在審核時(shí)可能并不存在明顯問題，但是多條信息組合后，就會(huì)顯露出傾向，影響個(gè)人對(duì)社會(huì)的判斷與認(rèn)知，而效果難以預(yù)料。

這些難點(diǎn)和問題，使得內(nèi)容管理成為網(wǎng)上內(nèi)容建設(shè)關(guān)鍵一環(huán)，地位越來越重要，不僅新聞媒體要擔(dān)起責(zé)任，所有的信息聚合和分發(fā)平臺(tái)也不能回避對(duì)于內(nèi)容安全的責(zé)任，各網(wǎng)絡(luò)平臺(tái)內(nèi)容的風(fēng)險(xiǎn)管理被放到了責(zé)任清單上史無前例的高度。

內(nèi)容風(fēng)險(xiǎn)管控平臺(tái)應(yīng)具備四個(gè)特質(zhì)

“希望有一個(gè)權(quán)威、公正、專業(yè)的第三方機(jī)構(gòu)為內(nèi)容風(fēng)險(xiǎn)管理提供服務(wù)”——在人民網(wǎng)舉辦的一次研討會(huì)上，這一呼聲成為各網(wǎng)絡(luò)平臺(tái)的共識(shí)。但是，應(yīng)由什么樣的第三方機(jī)構(gòu)來提供內(nèi)容風(fēng)險(xiǎn)管理服務(wù)？各方認(rèn)識(shí)卻并不相同。歸納各方討論，一個(gè)真正科學(xué)的內(nèi)容風(fēng)險(xiǎn)管控平臺(tái)應(yīng)該具有四種特質(zhì)。

一是“政策密集型”特質(zhì)。近年來，我國互聯(lián)網(wǎng)內(nèi)容建設(shè)與管理不斷完善，出臺(tái)了一系列針對(duì)網(wǎng)絡(luò)內(nèi)容建設(shè)與管理的政策法規(guī)。政策密集出臺(tái)，意味著“互聯(lián)網(wǎng)內(nèi)容安全”已經(jīng)成為國家和社會(huì)關(guān)注的重點(diǎn)。這使得內(nèi)容專業(yè)審核具有了重要的政治意義。內(nèi)容專業(yè)審核機(jī)構(gòu)就像黨和政府行政管理之外的“另一只手”，可以從信息的源頭把控好政治方向、輿論導(dǎo)向和價(jià)值取向，配合主管部門進(jìn)行網(wǎng)絡(luò)內(nèi)容安全建設(shè)。同時(shí)，從日常和微觀層面上看，雖然意識(shí)形態(tài)是動(dòng)態(tài)的，但對(duì)意識(shí)形態(tài)的管理在長線和宏觀上都必須保持一致，所以，內(nèi)容專業(yè)審核機(jī)構(gòu)要通過內(nèi)容風(fēng)險(xiǎn)管控水平，體現(xiàn)出自身對(duì)于政策的深入理解和動(dòng)態(tài)把控能力。能不能準(zhǔn)確地把握中央和各部門的政策，也是內(nèi)容專業(yè)審核機(jī)構(gòu)“政策密集型”特質(zhì)的表現(xiàn)。

二是“技術(shù)密集型”特質(zhì)。在目前條件下，人工已經(jīng)難以單獨(dú)承擔(dān)并完成網(wǎng)絡(luò)內(nèi)容審核的工作。借助大數(shù)據(jù)、智能算法等技術(shù)，互聯(lián)網(wǎng)信息傳播的效率和精準(zhǔn)度大大提升。但每一種技術(shù)架構(gòu)、每一行代碼、每一個(gè)界面，都代表著選擇，都意味著判斷，都承載著價(jià)值。比如，用大數(shù)據(jù)進(jìn)行用戶畫像、精準(zhǔn)推送，本身就包含這樣的價(jià)值觀念——“用戶偏好的就是好的”，“平臺(tái)的打開率比一切都重要”。短視頻平臺(tái)上，“精選”的內(nèi)容能獲得更多關(guān)注，然而什么樣的視頻可以被“精選”，同樣隱含著產(chǎn)品開發(fā)者的價(jià)值選擇和利益訴求。技術(shù)越來越成為價(jià)值表達(dá)的手段。技術(shù)引發(fā)的問題要善于通過技術(shù)的手段加以解決。在內(nèi)容審核與風(fēng)險(xiǎn)管理上，技術(shù)可以發(fā)揮很大的作用。一些網(wǎng)絡(luò)平臺(tái)正在努力發(fā)展、完善技術(shù)審核系統(tǒng)，理論上，已經(jīng)可以依靠技術(shù)手段識(shí)別并控制90%以上的內(nèi)容風(fēng)險(xiǎn)。有理由相信，人工智能等技術(shù)的發(fā)展和運(yùn)用將會(huì)極大提升內(nèi)容風(fēng)險(xiǎn)管理的能力和水平。

三是“管理密集型”特質(zhì)。對(duì)網(wǎng)絡(luò)內(nèi)容審核要做到“一把尺子量到底”。這需要統(tǒng)一標(biāo)準(zhǔn)、統(tǒng)一思想，形成統(tǒng)一操作。因此，對(duì)于內(nèi)容風(fēng)險(xiǎn)管理平臺(tái)，加強(qiáng)團(tuán)隊(duì)內(nèi)部管理是保持內(nèi)容持久安全的核心要素。但嚴(yán)格審核不是機(jī)械、死板的操作，要在審核過程中重視處理好效率、效果、效益三者之間的關(guān)系，使其相互促進(jìn)。通過不斷完善內(nèi)部管理機(jī)制、培養(yǎng)能力超群的審核人才隊(duì)伍，可以極大提升內(nèi)容審核的效率，最終幫助網(wǎng)絡(luò)平臺(tái)降低內(nèi)容風(fēng)險(xiǎn)、提升整體效益。

四是“人才密集型”特質(zhì)。人工智能可以通過算法建立各種模型來自動(dòng)、高效地發(fā)現(xiàn)并處置內(nèi)容問題與風(fēng)險(xiǎn)。但客觀上看，其發(fā)展水平尚處于“弱智能”階段，以目前機(jī)器學(xué)習(xí)水平還無法滿足爆炸式增長、情況多變的互聯(lián)網(wǎng)內(nèi)容審核需求，尤其是涉及時(shí)政、財(cái)經(jīng)、文史等深度內(nèi)容，需要專業(yè)人士的深度介入，才能確保不出問題。因此，人工干預(yù)、人機(jī)結(jié)合是當(dāng)前仍無法替代的一種審核模式。這賦予了內(nèi)容風(fēng)險(xiǎn)管理行業(yè)“人才密集”的特征。

內(nèi)容風(fēng)險(xiǎn)管理平臺(tái)應(yīng)秉持五個(gè)原則

內(nèi)容風(fēng)險(xiǎn)管理平臺(tái)是一個(gè)新事物，需要主流媒體積極嘗試、共同探索，更需要各級(jí)主管部門的深入指導(dǎo)和具體支持。而作為合作雙方的主流媒體和互聯(lián)網(wǎng)內(nèi)容平臺(tái)，特別需要重視遵守一些基本原則，可以概括為“兩個(gè)不變”和“三個(gè)有利于”。

一個(gè)“不變”，是各內(nèi)容平臺(tái)對(duì)于自己內(nèi)容的調(diào)性標(biāo)準(zhǔn)和最終責(zé)任不變。第三方內(nèi)容審核，本質(zhì)上只是一種基于合約的勞務(wù)服務(wù)，內(nèi)容平臺(tái)不能指望通過一份商業(yè)委托合同，就把內(nèi)容把關(guān)的責(zé)任甩出去。第二個(gè)“不變”，是內(nèi)容平臺(tái)是否擁有合法資質(zhì)的法律地位不變。如果一個(gè)內(nèi)容平臺(tái)沒有相應(yīng)的業(yè)務(wù)資質(zhì)，不可能通過與主流媒體的內(nèi)容審核合作，就使自己的業(yè)務(wù)合法化。

而作為第三方內(nèi)容風(fēng)險(xiǎn)管理平臺(tái)，主流媒體應(yīng)該成為主流價(jià)值的傳遞者與捍衛(wèi)者，牢記新聞輿論工作職責(zé)使命，切實(shí)通過內(nèi)容審核業(yè)務(wù)，弘揚(yáng)社會(huì)主義核心價(jià)值觀，但是，同時(shí)也要始終牢記：作為“第三方”，始終只是接受了服務(wù)外包，既不能包攬內(nèi)容平臺(tái)的終審責(zé)任，也不能與沒有資質(zhì)的內(nèi)容平臺(tái)共享自己的資質(zhì)。

三個(gè)“有利于”，之一是內(nèi)容風(fēng)險(xiǎn)管理平臺(tái)要有利于行業(yè)主管部門信息傳達(dá)和貫徹落實(shí)。內(nèi)容風(fēng)險(xiǎn)管控平臺(tái)應(yīng)成為主管部門和平臺(tái)、網(wǎng)民之間的溝通者，通過細(xì)化、量化審核標(biāo)準(zhǔn)，將主管部門要求落實(shí)到位；之二是要有利于整個(gè)行業(yè)的內(nèi)容風(fēng)險(xiǎn)控制水平提高和規(guī)范發(fā)展。互聯(lián)網(wǎng)內(nèi)容風(fēng)險(xiǎn)管理不是一家企業(yè)的獨(dú)奏，而是多領(lǐng)域企業(yè)的合唱，通過內(nèi)容風(fēng)險(xiǎn)管理平臺(tái)的建設(shè)、標(biāo)準(zhǔn)制定、技術(shù)研發(fā)，加強(qiáng)互聯(lián)網(wǎng)企業(yè)合作，共同為凈化網(wǎng)絡(luò)環(huán)境貢獻(xiàn)力量；之三是要有利于各平臺(tái)降低內(nèi)容審核的成本，豐富內(nèi)容供給。平臺(tái)化旨在將專業(yè)的事情交給專業(yè)機(jī)構(gòu)來處理，不僅提高效率，降低成本，還要讓更多網(wǎng)站更放心地投入內(nèi)容生產(chǎn)，通過精準(zhǔn)的辨別激濁揚(yáng)清，通過不漏判、不錯(cuò)判更好地鼓勵(lì)網(wǎng)站進(jìn)行內(nèi)容生產(chǎn)傳播，實(shí)現(xiàn)更豐富的正能量總供給。

積極嘗試建設(shè)內(nèi)容風(fēng)險(xiǎn)管理平臺(tái)

人民網(wǎng)是“網(wǎng)上的人民日?qǐng)?bào)”。在報(bào)社編委會(huì)和相關(guān)主管部門的指導(dǎo)下，人民網(wǎng)正在嘗試將內(nèi)容審核業(yè)務(wù)作為在新時(shí)代、新條件下延伸業(yè)務(wù)范圍，擴(kuò)大影響力、提升引導(dǎo)力的創(chuàng)新嘗試。

一是積極建設(shè)“內(nèi)容審核云平臺(tái)”。搭建審核平臺(tái)，吸引其他網(wǎng)絡(luò)媒體和互聯(lián)網(wǎng)平臺(tái)入駐，通過平臺(tái)對(duì)自身和外部內(nèi)容進(jìn)行集中審核、統(tǒng)一管理，實(shí)現(xiàn)審核操作標(biāo)準(zhǔn)化和智能化，利用集約效應(yīng)，提高審核效率，降低相關(guān)網(wǎng)絡(luò)媒體和平臺(tái)內(nèi)容風(fēng)險(xiǎn)管理成本。

二是完善技術(shù)平臺(tái)和評(píng)價(jià)體系。習(xí)近平總書記在網(wǎng)絡(luò)安全和信息化工作座談會(huì)上講話指出，網(wǎng)上信息管理，網(wǎng)站應(yīng)負(fù)主體責(zé)任，政府行政管理部門要加強(qiáng)監(jiān)管。要把總書記的指示落到實(shí)處，就要從源頭上厘清責(zé)任，將網(wǎng)上信息管理細(xì)化為量化指標(biāo)，便于評(píng)價(jià)。

三是推行績效考核與培訓(xùn)機(jī)制。結(jié)合“管理密集型”和“人員密集型”兩大特質(zhì)，不斷完善審核團(tuán)隊(duì)人員的績效考核方式，調(diào)動(dòng)每個(gè)人的積極性，做到人人盡責(zé)；規(guī)范人員管理，加強(qiáng)日常培訓(xùn)，設(shè)立審核員、審核師、高級(jí)審核師等職稱序列，不斷提高業(yè)務(wù)能力與崗位認(rèn)同。

四是充分利用智能化手段。海量內(nèi)容信息需要借助技術(shù)手段進(jìn)行初步審核，網(wǎng)上內(nèi)容信息的多樣性和復(fù)雜性又需要人力審核的及時(shí)介入，為此，平臺(tái)需要加強(qiáng)對(duì)大數(shù)據(jù)、云計(jì)算等技術(shù)應(yīng)用的研發(fā)，形成“AI+人工”審核機(jī)制，滿足內(nèi)容審核的廣泛性和特殊性要求。

五是組建高級(jí)專家團(tuán)隊(duì)對(duì)“精”“專”內(nèi)容進(jìn)行審核。為了準(zhǔn)確判斷和處置網(wǎng)上少量而重要的深度、專業(yè)類內(nèi)容，平臺(tái)還聘請(qǐng)業(yè)內(nèi)和學(xué)界資深專家牽頭，與相關(guān)管理機(jī)構(gòu)、行業(yè)主管部委、專業(yè)研究機(jī)構(gòu)建立常態(tài)溝通機(jī)制，針對(duì)審核中的疑點(diǎn)、難點(diǎn)內(nèi)容進(jìn)行專業(yè)的終極把關(guān)。

人民網(wǎng)希望通過不斷嘗試并落實(shí)以上措施，真正建立起切實(shí)有效、服務(wù)社會(huì)的內(nèi)容風(fēng)險(xiǎn)管理平臺(tái)，為主流價(jià)值護(hù)航，提升輿論引導(dǎo)力，為營造天朗氣清的網(wǎng)絡(luò)空間作出更大貢獻(xiàn)。

（作者為人民網(wǎng)黨委書記、總裁）