人工智能、大數(shù)據(jù)會(huì)幫助互聯(lián)網(wǎng)公司過濾掉一些違規(guī)內(nèi)容，但大部分內(nèi)容審核工作依然需要依靠人海戰(zhàn)術(shù)。

人民網(wǎng)稱，內(nèi)容風(fēng)控行業(yè)是一個(gè)新興的領(lǐng)域，他們希望在未來把內(nèi)容風(fēng)控定義為一個(gè)新的職業(yè)。

南方周末記者 王偉凱

海量審核業(yè)務(wù)

中國(guó)互聯(lián)網(wǎng)行業(yè)的內(nèi)容審核員被廣泛關(guān)注，源于2018年4月快手的一次突然招聘。

當(dāng)時(shí)，央視點(diǎn)名快手，稱在快手上有大量“未成年媽媽”的短視頻，為了吸引眼球，這些視頻曬出了媽媽們的年齡、孕期、懷孕狀態(tài)以及一些露骨的照片視頻。

一直貼著低俗、露骨標(biāo)簽的快手，在那時(shí)遭遇了前所未有的輿論危機(jī)，他們的APP甚至被應(yīng)用商店下架。

隨即，快手宣布，為了加強(qiáng)審核能力與內(nèi)容上傳量的匹配，快手將2000人的審核團(tuán)隊(duì)擴(kuò)充為5000人。

字節(jié)跳動(dòng)也遭遇了同樣的危機(jī)。2018年4月，他們旗下的“內(nèi)涵段子”因?yàn)閮?nèi)容低俗、導(dǎo)向不正等問題而被永久關(guān)閉。字節(jié)跳動(dòng)創(chuàng)始人張一鳴公開道歉，并且承諾將新招聘4000名內(nèi)容審核員，以加強(qiáng)對(duì)內(nèi)容的審核。

一位今日頭條內(nèi)部人士向南方周末記者表示，無論是今日頭條、快手還是其他內(nèi)容、視頻、直播平臺(tái)，內(nèi)容審核的工作已經(jīng)變得至關(guān)重要，都投入了巨大的人力、物力。

一位快手內(nèi)部人士告訴南方周末記者，快手目前有八千員工。這意味著內(nèi)容審核員的比例就超過一半。

南方周末記者聯(lián)系快手公關(guān)希望做采訪，但是被婉拒，字節(jié)跳動(dòng)也拒絕了南方周末記者的采訪。

2019年1月9日，中國(guó)網(wǎng)絡(luò)視聽節(jié)目服務(wù)協(xié)會(huì)發(fā)布《網(wǎng)絡(luò)短視頻平臺(tái)管理規(guī)范》和《網(wǎng)絡(luò)短視頻內(nèi)容審核標(biāo)準(zhǔn)細(xì)則》，短視頻上的彈幕、評(píng)論也要進(jìn)行審核。

內(nèi)容審核的需求激增，源于中國(guó)互聯(lián)網(wǎng)內(nèi)容平臺(tái)發(fā)生的巨大變化。從早期的門戶網(wǎng)站，到后來的貼吧、微博、UGC平臺(tái)，再到今天的短視頻、直播，帶來了海量的內(nèi)容供應(yīng)。

僅字節(jié)跳動(dòng)一家，就有今日頭條、懂車帝、抖音、火山小視頻、西瓜視頻、好好學(xué)習(xí)、多閃、皮皮蝦、番茄小說、半次元等多個(gè)需要大量?jī)?nèi)容審核員的平臺(tái)。

同時(shí)，招聘網(wǎng)站信息顯示，一些招聘、社交、房屋中介等公司，也需要大量的內(nèi)容審核員。

暨南大學(xué)新聞與傳播學(xué)院教授彭偉步向南方周末記者分析，海量信息的出現(xiàn)、監(jiān)管力度的持續(xù)加深，再加上沒有一個(gè)完善的審核制度和相關(guān)法律，內(nèi)容平臺(tái)有時(shí)無法把握底線，這些都在無形中增加了平臺(tái)方的成本。

已經(jīng)有一些第三方公司開始提供輔助內(nèi)容審核的產(chǎn)品和服務(wù)，如像優(yōu)圖、網(wǎng)易易盾、圖普科技、阿里綠網(wǎng)等多個(gè)產(chǎn)品，都可以輔助平臺(tái)進(jìn)行機(jī)器審核。優(yōu)酷、荔枝FM、映客直播、美拍等多個(gè)平臺(tái)都使用這些第三方服務(wù)。

也有一些公司在探索將內(nèi)容審核服務(wù)進(jìn)行產(chǎn)業(yè)化。2019年4月4日，人民網(wǎng)（603000.SH）發(fā)布公告稱，擬與人民日?qǐng)?bào)社簽署《地方頻道內(nèi)容審讀協(xié)議》，約定審讀費(fèi)按照每家地方頻道人民幣50萬/年計(jì)算，2018年度總金額為人民幣1600萬元。

在2019年1月31日發(fā)布的2018年業(yè)績(jī)公告中，人民網(wǎng)也表示，業(yè)績(jī)?cè)鲩L(zhǎng)的一個(gè)主要原因是第三方內(nèi)容審核業(yè)務(wù)呈現(xiàn)增長(zhǎng)趨勢(shì)，收入同比增長(zhǎng)了166%。

根據(jù)人民網(wǎng)的公告，他們將內(nèi)容審核業(yè)務(wù)稱為內(nèi)容風(fēng)控業(yè)務(wù)，該業(yè)務(wù)是人民網(wǎng)四大業(yè)務(wù)之一，并且是重點(diǎn)發(fā)力的項(xiàng)目。人民網(wǎng)稱，內(nèi)容風(fēng)控行業(yè)是一個(gè)新興的領(lǐng)域，他們希望在未來把內(nèi)容風(fēng)控定義為一個(gè)新的職業(yè)。

一點(diǎn)資訊濟(jì)南運(yùn)營(yíng)中心高級(jí)經(jīng)理白娜也向南方周末記者介紹，他們的團(tuán)隊(duì)目前也在承接其他公司的內(nèi)容審核、生態(tài)流量方面的工作。

人海戰(zhàn)術(shù)

也許人工智能、大數(shù)據(jù)會(huì)幫助互聯(lián)網(wǎng)公司過濾掉一些違規(guī)內(nèi)容，但大部分內(nèi)容審核工作依然需要依靠人海戰(zhàn)術(shù)。

“現(xiàn)在還沒有辦法完全取代人工?！卑啄认蚰戏街苣┯浾咧毖?，“舉個(gè)例子，機(jī)器上設(shè)置一些關(guān)鍵詞、特殊數(shù)字，但是如果在不同的新聞中出現(xiàn)了這些詞怎么辦？總不能全部過濾掉吧?！?/p>

與此同時(shí)，各大平臺(tái)公司的審核標(biāo)準(zhǔn)也各有不同，沒有統(tǒng)一的標(biāo)準(zhǔn)。標(biāo)準(zhǔn)的高低，在一定程度上也塑造了平臺(tái)公司的形象。

在一些傳統(tǒng)媒體的網(wǎng)站、APP上，很少能夠看到低俗、露骨的內(nèi)容、評(píng)論，而在抖音、快手、今日頭條等流量為王的平臺(tái)上，則會(huì)出現(xiàn)此類信息。

白娜向南方周末記者介紹，一點(diǎn)資訊在內(nèi)容審核上把控比較嚴(yán)格，通過“人機(jī)結(jié)合”的模式，既實(shí)現(xiàn)海量信息的高效分發(fā)，又克服機(jī)器分發(fā)的盲目性。2018年，他們內(nèi)部曾經(jīng)出了一本內(nèi)容審核的白皮書，并且到國(guó)家網(wǎng)信辦備案，希望能為內(nèi)容審核行業(yè)的標(biāo)準(zhǔn)出一份力。

多位字節(jié)跳動(dòng)的審核員則向南方周末記者介紹，在他們內(nèi)部，不同的小組也會(huì)有不同的審核標(biāo)準(zhǔn)，不過由于簽署了保密協(xié)議，他們不能提供標(biāo)準(zhǔn)的更多細(xì)節(jié)。

“每隔幾天就會(huì)進(jìn)行一次培訓(xùn)，強(qiáng)調(diào)內(nèi)容審核的紅線?！币晃蛔止?jié)跳動(dòng)的內(nèi)容審核員告訴南方周末記者。

據(jù)字節(jié)跳動(dòng)的陳鵬介紹，他們公司對(duì)內(nèi)容審核員有一套考核制度，比如，如果審核員將本應(yīng)該卡掉的信息通過了，或者將本應(yīng)該通過的信息卡住了，這種錯(cuò)誤率將會(huì)成為對(duì)審核員考核的一個(gè)重要標(biāo)準(zhǔn)。

在審核程序上，各公司也有不同之處，一點(diǎn)資訊上的內(nèi)容一般要經(jīng)過三道審核：第一道是機(jī)器，根據(jù)關(guān)鍵詞過濾掉一部分；第二道則是人工審核，兩個(gè)審核員對(duì)一條內(nèi)容進(jìn)行審核，兩個(gè)人都通過了，則這條內(nèi)容得以上線，有一個(gè)審核員覺得有問題，則進(jìn)入到三審；三審有一個(gè)內(nèi)容審核員，最終決定這條內(nèi)容是否上線。

抖音、今日頭條則分為眾多小組，比如國(guó)內(nèi)、國(guó)外、政治、娛樂、視頻、文字等多個(gè)小組，也會(huì)根據(jù)業(yè)務(wù)線進(jìn)行分配，比如問答組、微頭條組等，每個(gè)小組負(fù)責(zé)不同的內(nèi)容審核。

“一天要看一千篇文章，工作時(shí)間長(zhǎng)了就會(huì)覺得，這并不是一件多難的事情，現(xiàn)在給我一篇兩千字的文章，幾十秒鐘我就能看完，還能找出來問題。”劉蓉向南方周末記者介紹，長(zhǎng)時(shí)間、高強(qiáng)度的內(nèi)容審核工作已經(jīng)把她鍛煉成“火眼金睛”。

和很多生產(chǎn)線上的工人一樣，內(nèi)容審核員也是一個(gè)流動(dòng)性非常強(qiáng)的工種。在一些招聘網(wǎng)站上，內(nèi)容審核員的崗位幾乎每天都在更新，在一些貼吧、QQ群里，也都有相關(guān)招聘信息。

一位在2018年5月應(yīng)聘字節(jié)跳動(dòng)內(nèi)容審核員的人士向南方周末記者介紹，那個(gè)時(shí)候他們招聘規(guī)模大，招得也急，由于很多人都不愿意長(zhǎng)期干下去，應(yīng)聘者如果在面試時(shí)說上一句“愿意長(zhǎng)期干下去”，面試通過率就會(huì)大大提高。

白娜向南方周末記者介紹，為了留住這些審核員，一點(diǎn)資訊采用的是公司直聘的模式，讓審核員有更強(qiáng)的歸屬感。同時(shí)，一點(diǎn)資訊也會(huì)給內(nèi)容審核員提供一個(gè)比較完整的內(nèi)部晉升機(jī)制和轉(zhuǎn)崗機(jī)制。

2018年9月，劉蓉就在一點(diǎn)資訊內(nèi)部轉(zhuǎn)崗，成為了一名本地新聞的運(yùn)營(yíng)人員，負(fù)責(zé)給新聞報(bào)道起標(biāo)題、寫摘要、推送等。

字節(jié)跳動(dòng)在不同城市采用的招聘模式不同。比如在天津，以直聘為主，公司也提供內(nèi)部轉(zhuǎn)崗。一位在2016年加入今日頭條天津分公司的人就向南方周末記者介紹，他們做了一年多的內(nèi)容審核員之后，就調(diào)成了運(yùn)營(yíng)崗。

不過，在濟(jì)南，字節(jié)跳動(dòng)則主要以第三方公司代理招聘為主。承擔(dān)他們招聘工作的公司是武漢人瑞人力資源服務(wù)有限公司，內(nèi)容審核員與這家公司簽署勞務(wù)合同。目前，字節(jié)跳動(dòng)也已經(jīng)開始自己招聘，他們?cè)跐?jì)南專門成立了濟(jì)南超準(zhǔn)信息技術(shù)有限公司，不少新的內(nèi)容審核員就直接由這家公司招聘進(jìn)來。