仇廣宇

圖/視覺中國(guó)

“問你件事，怎樣死才不疼？”

8月1日晚上，阿里安全專家武綱和同事接到消息：山東一位16歲的女孩向淘寶商家咨詢購(gòu)買商品，聊天中女孩說自己在線下藥店買了大量藥物，并問道怎樣死才不會(huì)疼。

武綱和同事們收到風(fēng)險(xiǎn)信息后，趕緊放下手頭工作，啟動(dòng)緊急預(yù)案。

作為國(guó)內(nèi)最大的電商平臺(tái)，淘寶已成為感知社會(huì)情緒的一個(gè)觸角，加上各種App和網(wǎng)絡(luò)社區(qū)，不可避免地會(huì)留下人們的心情痕跡，開心的、悲傷的、無(wú)聊的、發(fā)泄的，當(dāng)然也包括抑郁甚至自殺傾向的話語(yǔ)等等。

這使得一切都有跡象可查。而武綱和同事們隸屬的阿里安全的“守護(hù)生命”項(xiàng)目，正是希望借助于互聯(lián)網(wǎng)平臺(tái)，利用人工智能技術(shù)聯(lián)動(dòng)商家、公安、第三方機(jī)構(gòu)建立自殺干預(yù)機(jī)制。這個(gè)項(xiàng)目在去年7月上線，至今已經(jīng)對(duì)2500余人進(jìn)行了自殺干預(yù)。

大數(shù)據(jù)、人工智能自殺干預(yù)早已經(jīng)開始，但自殺干預(yù)的主體轉(zhuǎn)換為互聯(lián)網(wǎng)“大廠”，還是近年兩來的事情，眾多大型互聯(lián)網(wǎng)公司都紛紛成立了相似的部門。而處于水面之下的青少年自殺和相關(guān)的心理問題，也因此慢慢浮現(xiàn)出來。

自殺干預(yù)師

8月1日，山東女孩在淘寶店家下單后，商家從后續(xù)聊天中發(fā)現(xiàn)女孩不太正常，有自殺企圖。當(dāng)即聯(lián)系了“守護(hù)生命”小組。

武綱的判斷是這可能是一名學(xué)生，由于高考失利導(dǎo)致的自殺傾向。直至晚上10點(diǎn)，小組成員多次撥打女孩電話，一直沒人接聽。

當(dāng)晚，小組成員聯(lián)系了當(dāng)?shù)嘏沙鏊鶊?bào)警。女孩確實(shí)因?yàn)橄氩婚_有輕生的念頭，在警方上門前，家里人對(duì)此并不知情。

這是“守護(hù)生命”項(xiàng)目上線一年多以來自殺干預(yù)案例中的一個(gè)。項(xiàng)目由阿里安全七八位全職員工和兼職員工組成，每天早9點(diǎn)到晚10點(diǎn)，他們都在隨時(shí)待命處理此類風(fēng)險(xiǎn)，晚上10點(diǎn)后也會(huì)有人在線值班。全年365天都有人堅(jiān)持在崗位上，春節(jié)和疫情期間項(xiàng)目組也安排人員正常值班，以備需要立即采取緊急預(yù)案干預(yù)。

武綱原本是藥學(xué)專業(yè)出身，工作中才發(fā)現(xiàn)很多正常售賣的商品都可能被消費(fèi)者用于自殺。出于學(xué)藥時(shí)的習(xí)慣和情結(jié)，武綱對(duì)關(guān)乎人生命的事情很敏感。也正是由于自己曾經(jīng)的專業(yè)背景和當(dāng)下工作所遇到的現(xiàn)實(shí)情形，2019年3月，武綱開始在阿里內(nèi)部試行“守護(hù)生命”項(xiàng)目。7月，項(xiàng)目正式上線。

這是一個(gè)心理危機(jī)干預(yù)機(jī)制。

當(dāng)用戶在淘寶手機(jī)端搜索與自殺相關(guān)的內(nèi)容時(shí)，會(huì)自動(dòng)跳出“守護(hù)生命”宣導(dǎo)頁(yè)面，在顯著位置提示12355青少年服務(wù)熱線及國(guó)家免費(fèi)心理咨詢熱線。頁(yè)面還設(shè)置了心理健康知識(shí)板塊，引導(dǎo)有焦慮、失眠、情感障礙等特征的人士，通過自我學(xué)習(xí)，掌握科學(xué)應(yīng)對(duì)的方法。更重要的是，這個(gè)機(jī)制還通過一套業(yè)務(wù)模型，對(duì)潛在自殺者進(jìn)行人為干預(yù)。

一方面利用人工智能技術(shù)感知風(fēng)險(xiǎn)，另一方面對(duì)商家開展專業(yè)培訓(xùn)。當(dāng)商家發(fā)現(xiàn)風(fēng)險(xiǎn)，會(huì)及時(shí)安撫、勸阻，筑起第一道保護(hù)屏障，并通知阿里安全“自殺干預(yù)師”。緊急情況下，平臺(tái)聯(lián)動(dòng)警方及時(shí)介入。

最開始，是通過商戶與消費(fèi)者聊天內(nèi)容進(jìn)行判斷，觸發(fā)預(yù)警機(jī)制，但這個(gè)方法準(zhǔn)確度并不高。此后，阿里的工程師開始通過構(gòu)建多模態(tài)神經(jīng)網(wǎng)絡(luò)算法模型識(shí)別用戶是否真的存在自殺風(fēng)險(xiǎn)。為此，阿里的一位工程師特意收集了一萬(wàn)多句關(guān)于自殺的文字，用以優(yōu)化算法。

項(xiàng)目上線后，先是對(duì)上千名淘寶商家進(jìn)行了培訓(xùn)，要求商家在遇到奇怪的訂單和買家溝通時(shí)主動(dòng)多問一句購(gòu)買用途，發(fā)現(xiàn)風(fēng)險(xiǎn)時(shí)就要求商家攔截訂單。剛開始的時(shí)候，大多數(shù)商家是不太主動(dòng)參與這個(gè)項(xiàng)目的。有人計(jì)算過，為了攔截這樣一單訂單所花費(fèi)的成本，相當(dāng)于要付出該件商品兩天的營(yíng)業(yè)額。

為了調(diào)動(dòng)商戶在第一道防線的積極性，“守護(hù)生命”向客服團(tuán)隊(duì)申請(qǐng)了2萬(wàn)元的預(yù)算補(bǔ)償。后來，一些頭部商家在攔截了幾單網(wǎng)購(gòu)商品，發(fā)現(xiàn)自己的行為確實(shí)能夠“救命”時(shí)，參與“守護(hù)生命”項(xiàng)目的商家越來越多了。陸續(xù)有商家告訴武綱，他們覺得這件事有意義，還有的商家在攔截訂單之后表示，不要補(bǔ)償。

水面下的風(fēng)險(xiǎn)? ?

“守護(hù)生命”干預(yù)安撫的案例以年輕人居多，其中“90后”和“00后”占比就達(dá)到六成以上。用戶為年輕人居多的B站提供的數(shù)據(jù)顯示，2020上半年自殺干預(yù)案例中，接入報(bào)警的有26例，但是流露出深度抑郁和自殺傾向的案例，僅僅5月就有714例。

除去阿里，活躍著年輕用戶的騰訊、B站等公司在發(fā)現(xiàn)此類信息時(shí)，也會(huì)啟動(dòng)相關(guān)的幫助和服務(wù)。在美國(guó)，2019年9月10日“世界預(yù)防自殺日”前后，F(xiàn)acebook也開始分享有關(guān)用戶討論自殺的公開數(shù)據(jù)，以解決人們對(duì)其網(wǎng)站上出現(xiàn)的自殺和自我傷害內(nèi)容的擔(dān)憂，并開始聘請(qǐng)健康專家加入安全團(tuán)隊(duì)。

B站頁(yè)面上有一個(gè)叫做“動(dòng)態(tài)”的功能，類似于微博。如果有人在里面發(fā)布了嚴(yán)重負(fù)面情緒等信息，審核人員會(huì)介入判斷該用戶的心理情緒，如果涉及高度危險(xiǎn)類內(nèi)容（重度抑郁、自殺傾向）等，審核人員會(huì)及時(shí)轉(zhuǎn)交給專業(yè)心理輔導(dǎo)客服介入，客服會(huì)聯(lián)系用戶進(jìn)行安全確認(rèn)，并進(jìn)行情緒安撫。如涉及更嚴(yán)重的心理問題，客服還會(huì)轉(zhuǎn)接至專業(yè)心理咨詢機(jī)構(gòu)“青小聊”做進(jìn)一步的心理輔導(dǎo)安撫，若是用戶處境不安全，客服會(huì)報(bào)警協(xié)助警方同步處理，確保用戶的生命安全。

在B站、百度搜索等地方輸入“安眠藥”“自殺”等關(guān)鍵詞，會(huì)跳出提示頁(yè)面、安撫話語(yǔ)、解決失眠等問題的科普視頻，心理咨詢機(jī)構(gòu)的聯(lián)系方式，便于有心理問題但還不是特別嚴(yán)重的網(wǎng)民隨時(shí)求助。淘寶提供的數(shù)據(jù)顯示，手機(jī)App端自從今年6月推出“守護(hù)生命”宣導(dǎo)頁(yè)面后，頁(yè)面上心理健康知識(shí)的視頻每日的播放量有2500次左右，前端工作人員感知到的自殺風(fēng)險(xiǎn)量下降近3成。

而騰訊的“微光行動(dòng)”項(xiàng)目，主要覆蓋QQ用戶，起因是為了整治類似國(guó)外傳入的“藍(lán)鯨游戲”這樣的誘導(dǎo)自殺行為。該行動(dòng)2018年7月上線，截至2019年1月，該行動(dòng)一共封停QQ群組賬號(hào)2000多個(gè)，和警方一起救助了35名有自殺、自殘傾向的用戶。

2014年，世界衛(wèi)生組織（WHO）發(fā)布的首份預(yù)防自殺報(bào)告中曾提到，自殺是全球15～29歲年齡組中第二大死亡原因。該組織鼓勵(lì)全球各國(guó)家實(shí)施面向全人群的自殺干預(yù)策略，方式包括提高衛(wèi)生保健服務(wù)的可及性、促進(jìn)心理健康、減少酒精的有害使用、限制自殺工具的方便易得性、促進(jìn)媒體責(zé)任等。

在互聯(lián)網(wǎng)上，人工干預(yù)自殺早已不是新鮮事。2018年，武漢科技大學(xué)大數(shù)據(jù)研究院副主任、特聘教授黃智生創(chuàng)立了“樹洞救援團(tuán)”，運(yùn)用人工智能技術(shù)收集互聯(lián)網(wǎng)信息干預(yù)自殺行為，截至2019年底，該組織已經(jīng)阻止了1600多次自殺行為。而更早的2017年7月，中國(guó)科學(xué)院心理研究所研究員朱廷劭和團(tuán)隊(duì)就開始為有自殺意念的新浪微博用戶提供心理危機(jī)干預(yù)。

朱廷劭團(tuán)隊(duì)曾比較了新浪微博上自殺死亡用戶和無(wú)自殺傾向用戶在社交行為、語(yǔ)言使用上的差別，進(jìn)而歸納出有自殺傾向用戶的可識(shí)別模式。他在一次演講中拿出3句不同的用戶言論舉例說明，這些言論根據(jù)程度可以分成1級(jí)、2級(jí)和3級(jí)，其中1級(jí)是有自殺意念，2級(jí)是有意念的同時(shí)有自殺計(jì)劃，3級(jí)是不僅有計(jì)劃，還有實(shí)施。

武綱是阿里安全自殺干預(yù)師團(tuán)隊(duì)中的一員。圖/受訪者提供

在心理學(xué)研究中，處于“激情自殺”“沖動(dòng)自殺”類的人內(nèi)心有很強(qiáng)的求生欲望，尚有傾訴欲和表達(dá)欲，屬于可干預(yù)的范疇，也就是上述所說的“2級(jí)”狀態(tài)?；ヂ?lián)網(wǎng)公司的自殺干預(yù)處理的有很多是這部分人群?！跋露Q心要‘走的人，不太可能會(huì)尋找我們這個(gè)平臺(tái)。物流是需要時(shí)間的，非常有決心的話，他可能希望立刻得到東西‘走掉，也可能會(huì)采取更激烈的方式。但如果是有意念、計(jì)劃，但還沒有去實(shí)施的那類，（這種情況下）就有一些時(shí)間可以讓我們?nèi)?zhēng)取?！蔽渚V對(duì)《中國(guó)新聞周刊》表示。

對(duì)于互聯(lián)網(wǎng)公司的員工而言，處理此類生命安全的風(fēng)險(xiǎn)事件，僅僅是網(wǎng)絡(luò)“救生員”們每天繁忙工作之中的一項(xiàng)，無(wú)法算到KPI考核之中。當(dāng)面對(duì)一些盡力卻無(wú)法挽回的案例，又會(huì)讓工作人員感到無(wú)力。武綱并不覺得團(tuán)隊(duì)有多偉大，他們只是遇到那些有煩心事的人，并且恰好陪伴了他們。

“重要的是，結(jié)果是好的。”武綱說。