傅軍

1月24日00點02分，劉學(xué)州在微博發(fā)文：“生來即輕，還時亦凈”，隨后其家人稱其在三亞海邊輕生，雖被好心人發(fā)現(xiàn)并送至醫(yī)院搶救，但最終還是離開了人世。嚴(yán)格來說，導(dǎo)致這一事件發(fā)生的原因除了現(xiàn)實生活中的種種悲慘遭遇之外，很大一部分還來自洪水猛獸一般的網(wǎng)絡(luò)暴力，而這并不是第一例因網(wǎng)絡(luò)暴力導(dǎo)致的輕生事件。

而在現(xiàn)實生活中，每個人應(yīng)該都會結(jié)識那么一兩個“噴子”，不過大多都能做到和諧相處、求同存異，為什么一旦歸于網(wǎng)絡(luò)世界就變得戾氣十足呢？因為，“在互聯(lián)網(wǎng)上，沒人知道你是一條狗”。正因為你不認識我，我卻知道你，這種信息不對稱就會導(dǎo)致更易沖動，進而產(chǎn)生惡意騷擾、人身攻擊、侮辱謾罵甚至誹謗造謠等行為，以較低的發(fā)布成本、較高的傳播效率給受害者帶來了較為負向的反饋體驗。

目前，網(wǎng)絡(luò)暴力傳播的途徑一般是評論與私信，以抖音為例，平臺每天會產(chǎn)生8億條評論，其中，被投訴、舉報并最終處理的評論中，“謾罵，人身攻擊”占比32.79%。所以，如果想要遏制這一現(xiàn)象，第一步就是要社交媒體平臺主動站出來，加強管控措施。

所以在今年1月，抖音率先推出國內(nèi)首個為用戶提供各個場景預(yù)防網(wǎng)暴功能的服務(wù)，共有8大功能，從信息發(fā)布的多個角度來切入，首先管人，從平臺根據(jù)系統(tǒng)模型主動管理發(fā)送者，到接收者自我管理。其次管文，從前期的評論發(fā)送警示，到中期的私信分層管理，再到后期平臺小助手提供“心情關(guān)懷”，打通了預(yù)防網(wǎng)暴前中后的整個流程。

當(dāng)然，說總比做簡單，抖音的這些預(yù)防網(wǎng)暴新功能到底好不好用呢？咱們選取了其中幾個功能來進行測試，本次測試的抖音APP版本號為19.4.2。

這就是抖音于2017年底開放的第一個防網(wǎng)暴功能，根據(jù)我們的測試來看，用戶可以在“我的→設(shè)置→隱私設(shè)置→誰可以私信我”里找到，可設(shè)置所有人/互關(guān)朋友/關(guān)閉，這個設(shè)置基本上可以杜絕網(wǎng)暴信息的直接觸達，是最基本的功能。如果你擔(dān)心被陌生人私信滋擾，這個選項就應(yīng)該至少保持在“互關(guān)朋友”上，這時候我用2個互相沒有關(guān)注的賬號發(fā)私信，都無法接收到對方的信息，起到了很好的保護作用。

如果你沒有設(shè)置第一項功能，而收到了陌生人或單方面關(guān)注你的賬號發(fā)來的私信，而私信內(nèi)容被系統(tǒng)模型認定為風(fēng)險信息，抖音會通過彈出浮窗提醒你是否認識該賬戶，如果選擇“不認識”，就會指引你拉黑，舉報或移除粉絲。根據(jù)抖音官方數(shù)據(jù)，這項今年1月才上線還未滿月的功能，已經(jīng)可以每天對約25萬次對話發(fā)出風(fēng)險提示，引導(dǎo)用戶自主管理社交對象，通過拉黑舉報等手段保障自己的社交安全。

實際使用下來，這項功能很人性化，通過主動提示的方式，讓普通用戶在風(fēng)險即將發(fā)生的時候收到警示，能夠非常簡單直接地進行處理。

事實上，抖音針對文本內(nèi)容的系統(tǒng)模型已經(jīng)很成熟，所以它可以主動地判斷文本是否匹配謾罵或騷擾，一旦認定就會直接將私信拉到垃圾信息中。我們用2個相互為陌生人的個人賬號進行了測試，文字中帶有明顯辱罵的內(nèi)容就會被自動屏蔽。官方數(shù)據(jù)表明，這項同樣今年1月份才上線的功能，會每天將超過9萬條私信列入垃圾信息，讓7萬多用戶避免與惡意信息直接接觸，這個設(shè)計非常的不錯。

相對于私信，評論的“威力”會更大一些，畢竟評論是完全公開的，大家都能看到，而且惡意評論更容易起到煽風(fēng)點火的效果，所以針對評論發(fā)文也必須要有相應(yīng)的管控措施。抖音的第一步操作是針對發(fā)文者，如果判斷到發(fā)文內(nèi)容存在風(fēng)險，就會主動彈窗提示“確定要發(fā)送這條評論嗎？”告知用戶可能違反社區(qū)公約，建議重新編輯。

雖然發(fā)文者也可以無視提醒繼續(xù)發(fā)送，但根據(jù)我們的測試來看，雖然在發(fā)文者客戶端上可以看到評論正常出現(xiàn)，其他人并不能看見被密封在“真空”里的這條評論。而且每次填寫惡意信息都會彈窗，寫多少條就彈多少次，每次我們都選擇“仍要發(fā)送”，而每次的最終結(jié)果都是無法被外部看見，這樣的表現(xiàn)確實相當(dāng)不錯。

不過，并不是所有的評論都屬于直接謾罵，很多殺人誅心的話從文字角度來說也并不犀利，比如劉學(xué)州事件里就有人評論“穿著名牌鞋在三亞玩，卻哭訴自己沒地方住，很心機”。針對這種相對隱蔽的網(wǎng)絡(luò)暴力，系統(tǒng)模型顯然無法完全屏蔽，因此抖音也新增了評論權(quán)限設(shè)置功能，可以在“權(quán)限設(shè)置-高級設(shè)置-誰可以評論”中，設(shè)置具體某一條視頻的評論權(quán)限，有“所有人”、“僅粉絲”、“僅互關(guān)朋友”、“僅自己”四個選項。

事實上轉(zhuǎn)發(fā)和合拍也有權(quán)限設(shè)置，可選擇“所有人”、“僅互關(guān)朋友”和“僅自己”，一定程度上遏制了針對本人賬號的直接網(wǎng)暴行為。

前面我們提到的幾項技術(shù)都是從內(nèi)容端來嘗試掐斷網(wǎng)絡(luò)暴力的苗頭，但對于那些已經(jīng)受到傷害的用戶來說，依然需要平臺提供一個可疏導(dǎo)情緒的窗口，因此，抖音特意推出了“心情暖寶寶”小助手，目前會以三種形式觸發(fā)對話，第一是抖音基于系統(tǒng)模型，比如根據(jù)你發(fā)布的內(nèi)容、評論和私信命中你可能會遭遇情緒問題，這時候“心情暖寶寶”就會主動發(fā)起對話，第二是用戶主動私信“心情暖寶寶”賬號來發(fā)起對話，第三則是通過“我-我的客服-自助服務(wù)-情緒關(guān)懷助手”進入會話。

根據(jù)我們的測試結(jié)果來看，它的確可以減少推薦可能會讓人產(chǎn)生負面情緒的內(nèi)容，實用性還挺不錯。

作為網(wǎng)絡(luò)暴力不時出現(xiàn)的互聯(lián)平臺，如何預(yù)防和懲治這種惡意行為，是包括抖音在內(nèi)的社交媒體們不可推卸的義務(wù)。在國內(nèi)首次系統(tǒng)性地推出預(yù)防網(wǎng)暴的8大功能，顯示了抖音的全局觀、價值觀和科技力。從方式方法來看，有平臺根據(jù)系統(tǒng)模型主動識別，進行警示或者關(guān)懷，也有用戶根據(jù)自身需要，對與其交流的“人”與“文”進行自主管理，體現(xiàn)了平臺的支持，又給予了用戶自主權(quán)與自主能力。

當(dāng)然，網(wǎng)絡(luò)暴力絕不會因此而絕跡，因為抖音這8大功能大多是針對用戶與用戶之間的交流來進行干預(yù)，施暴者依然可以不直接評論或私信，而是通過發(fā)布內(nèi)容，結(jié)合話題炒作的方式來引發(fā)群體效應(yīng)，同樣可以對作為第三方的受害人造成傷害，這就需要平臺升級更多的能力覆蓋更多的場景去及時處理。

大多數(shù)時候，網(wǎng)絡(luò)暴力的一方不曾想到會輿論失控導(dǎo)致嚴(yán)重后果，另一方則因為對“網(wǎng)絡(luò)審判”束手無策直至絕望，雙方都缺乏法律意識，不懂得用法律武器保護自身權(quán)益，所以普法對于網(wǎng)絡(luò)暴力事件來說是最好的“治本”方案。社交平臺的努力方向則主要是從源頭上遏制網(wǎng)絡(luò)暴力的發(fā)生。所以，當(dāng)我們看到抖音做出多項調(diào)整時，心里還是倍感欣慰的，愿網(wǎng)絡(luò)的陰暗角落也有陽光普照吧。