韋茜 陳鳳茹

【內容提要】 智媒時代社交機器人開始活躍于網(wǎng)絡空間，成為社交輿論的新場景。面對人機共存的輿論生態(tài)環(huán)境，用戶必須有理性的認知，才能避免社交機器人操控，形成相對良性的社交輿論場。本文從心理認知層面分析了社交機器人存在的合理性，從技術邏輯層面闡釋了識別機器人的方法，最后從交互治理層面提出了重建社交媒體良性輿論場的建議。

【關鍵詞】社交機器人? 理性認知? 算法辨識? 多方規(guī)訓

智媒時代技術驅動對話角色更新迭代，社交機器人與人類用戶共存于網(wǎng)絡空間已經成為社交輿論的新場景。社交機器人主要指的是社交網(wǎng)絡中扮演人的身份，擁有不同人物屬性的虛擬AI形象。社交機器人多通過算法被運用于計算宣傳。通俗來說，計算宣傳是通過算法和機器人的技術手段達到操縱輿論的目的。作為活躍于社交輿論場的“新人種”，社交機器人擁有自動化、操縱性和利益驅動的特性，它的加入使得社交輿論場陷于倒懸之危，在極端情況下甚至會出現(xiàn)兩級分化的結果：社會共識撕裂或是出現(xiàn)“被制造”的共識。

機器人軍隊的出現(xiàn)，使得背后操縱者可以通過無形，但具有殺傷力的意識形態(tài)“武器”，去改變世界政治格局。例如，在2016年美國總統(tǒng)大選前夕，一批拉丁裔的Twitter賬號重復發(fā)布支持特朗普政府的推文，低可信度的信源得到大量重復轉發(fā)。在大選期間，Twitter平臺上6%的政治機器人散布了31%的不實謠言，其中34%來自于低可信度信源。長此以往，多元化的公共輿論被非理性的聲音裹挾，①長期浸潤在擬態(tài)環(huán)境下的公眾，很容易選擇相信可以滿足自身愛欲的“事實”，真相反而被漠視。由此可見，社交機器人已經改變了傳統(tǒng)的對話形態(tài)。機器人操縱輿論已經引發(fā)社會各界關注，如何構建良性社交輿論格局成為了亟待解決的問題。

一、理性認知：算法迭代重構人機社交輿論格局

事實上，“入侵”“操縱”等偏向性詞匯一直伴隨著智能機器的成長，在智能機器幻想出現(xiàn)在人們腦海的時候，人們就已經對智能機器制定了預防性準則。1940年，被譽為“機器人之父”的科幻小說家阿西莫夫提出了機器人三原則：不得傷害人類，或者坐視人類受到傷害;除非違反第一條原則，機器人必須服從人類指令;除非違反前兩條指令，否則機器人必須保護自己。②機器人三原則充分說明人類利益永遠高于機器人利益，這也從側面闡明了科學家對于智能機器未來發(fā)展的憂思。在智媒時代，社交機器人已經進入社會公共議題領域，正確認知人機關系是構建社交媒體良性輿論格局的前提條件。

（一）存在即合理：正視人機共存的賽博輿論空間

一味抗拒智能機器是與科技發(fā)展趨勢相悖而行的。2014年，英國科學家宣布“尤金·古特曼”（Eugene Goostman）成功通過了圖靈測試（The Turing Test），它標志著第一個“類人類”的智能設備誕生。此后，社交機器人所生產的內容占據(jù)了各大媒體平臺。2017年，Pew Research Center以120萬條帶URL鏈接的推文為數(shù)據(jù)樣本，分析其中66%高度疑似為機器人賬號發(fā)布。③2018年，艾漫數(shù)據(jù)以隨機抽取的2000個娛樂話題為關鍵意見領袖（Key Opinion Leader）的微博數(shù)據(jù)為樣本，通過自然語言處理技術、人工智能算法等對社交機器人賬號進行識別，KOL的社交機器人占比超過五成以上。④

相對于科幻小說中機器主宰人類的擔憂，正視社交機器人的存在是重構社交輿論場的現(xiàn)實需要。

（二）謹防扭曲：人機關系由他異意向性轉為復合意向性

AI智能應用在社交媒體平臺與人類的關系，會以他異意向性（alterity）出現(xiàn)，形成人→技術（—世界）的關系鏈。他異關系指社交機器人獨立于人類認知之外成為準它者，在他異關系中，AI可以按照自身發(fā)展規(guī)律運行。荷蘭后現(xiàn)象學家費爾貝克（Peter-Paul.Verbeek）提出，人機關系出現(xiàn)復合意向性的猜想，即人類存在意向性，人類所使用的技術也存在意向性，并且是所使用的技術占主導地位，形成人→（技術→世界）的關系鏈。⑤復合意向性的人機關系意味著智能機器人主宰人類的擔憂可能會成為現(xiàn)實。

值得警惕的是，高度人格化的社交機器人隱蔽于社交媒體之下，通過與真人用戶的轉發(fā)互動取得用戶信任，用戶很難在短時間內分辨真人與社交機器人的差別，偽裝成意見領袖的社交機器人利用輿論場上信息流的不對稱，制造“社會流瀑”效應，謠言就有了存在的空間，輿論危機漸次顯現(xiàn)。錯綜復雜的社交輿論環(huán)境致使人機關系出現(xiàn)他異意向性扭曲為復合意向性的可能。在正視社交機器人存在的同時，謹防人機復合關系扭曲，成為了不容小覷的社會性議題。

二、科學辨識：基于算法檢測的機器人識別

即便人類用戶已經意識到機器人存在于社交輿論場，且知大多是以操縱輿論為目的而發(fā)布推文，社交機器人仍然會作為一種隱秘而強勢的角色影響話語流。在社交媒體中人類用戶和社交機器人交織甚密，人類用戶難以對機器人賬號進行分辨。社交機器人憑借高效的傳播速度，在對低可信度信源的信息擴散中更具優(yōu)勢。2016年，美國洛杉磯南加州大學Ferrara教授對機器人檢測提出了三種識別方案，⑥依靠算法實現(xiàn)對社交機器人的后臺檢測，給重構社交輿論場提供了技術可能。

（一）基于圖論（Graph-based）的機器人識別

基于圖論的機器人識別方案，是將社交機器人與正常用戶的社交網(wǎng)絡拓撲結構進行比較，根據(jù)不同連接結構從而識別機器賬號。社交機器人通常通過發(fā)布特定話題標簽來吸引用戶流量，而其他機器人通過轉評互動進行信息擴散。由于社交機器人之間大多彼此并不認識，互動較少，所以機器人賬號的社交網(wǎng)絡結構通常呈現(xiàn)中心化擴散模式。而人類用戶大多在真實世界相識，在用戶發(fā)布內容后好友相互評論，其社交網(wǎng)絡結構分布更加均勻，明顯區(qū)別于機器人的社交網(wǎng)絡結構。但缺陷是，基于圖論的識別方案的假設前提是，人類用戶只和人類用戶對話交流，并形成社交網(wǎng)絡關系。如果人類用戶和社交機器人之間的互動交織密切，便難以進行區(qū)隔。因此圖論算法對識別社交空間中的機器人收效甚微。

（二）基于眾包（Crowdsouring-based）的機器人識別

眾包策略本質上使用的是人本計算，指公司或機構將內部業(yè)務以自由自愿的方式外包給非特定人員的生產模式。機構將檢測任務分發(fā)至多個標注人員，以投票決策的方式判斷社交機器人的存在。⑦將眾包策略應用社交機器人賬號識別檢測中，保證了機器人賬號檢測的準確率。與此同時，基于眾包的機器人識別算法也暴露了自身缺陷。一是出現(xiàn)作弊標注者，由于網(wǎng)絡空間的隱蔽匿名性和眾包組織機構的開放性，標注人員的資質無法得到有效審查，檢測結果的準確性存疑。⑧二是用戶隱私泄漏，將用戶數(shù)據(jù)暴露給外部檢測人員可能會帶來隱私泄漏的隱患。三是檢測費用高昂。眾多的標注人員是檢測結果準確性的來源，減少人力成本會直接導致精確度下降。

（三）基于特征（Feature-based）的機器人識別

目前流行的識別方案是基于特征算法的檢測，它是依賴社交機器人與人類用戶在使用社交媒體上行為模式等各方面的特征差異，來區(qū)分機器人用戶的存在?；谔卣魉惴ǖ腂otOrNot采用隨機森林模型對數(shù)據(jù)進行分類，根據(jù)用戶、時間、情感、網(wǎng)絡、交友和內容六個特征對賬號屬性進行分析，以此判斷該賬號是否為機器人賬號。同樣基于特征算法分析的還有Botometer，它通過收集大量用戶數(shù)據(jù)作為樣本，根據(jù)用戶元數(shù)據(jù)、好友數(shù)據(jù)、時間特征和情感分析四個特征維度對機器人賬號進行識別。基于特征算法的機器人辨識，目前在社交媒體平臺已經成為主流檢測方案。美中不足的是，社交機器人對人類語言習慣模仿性愈來愈強，甚至可以通過與人類的情感交流隱蔽自身的機器屬性，并以此來躲避特征算法的檢測。因此，基于特征的機器人識別方案，也可以被看作是機器開發(fā)者與檢測者之間的“軍備競賽”。

基于算法邏輯的機器識別系統(tǒng)，通常作用于社交機器人影響話語流之后，通過異常賬號行為抓取可疑賬號。但這并不能完美解決社交機器人操縱社交輿論生態(tài)的問題，構建良性社交輿論體系需要全球多行為體的共同協(xié)作規(guī)訓。

三、多方規(guī)訓：全球政治地緣性多行為體的共同協(xié)作

技術迭代賦予公民擁有自由發(fā)聲的權利，同時也帶來了“偽民主”。一些別有用心者通過操控“機器人軍隊”煽動不實言論，來達到分裂社會擾亂國家穩(wěn)定的目的。實現(xiàn)社交輿論場的良性運作，需要全球多行為體共同協(xié)作。社交機器人的出現(xiàn)，意味著各行為主體扮演的角色將發(fā)生轉化。

（一）國際組織：從規(guī)則制定者轉向利益協(xié)調者

作為社交媒體中的新生武器，計算宣傳通常以左右政治選舉、干預國家內政、攻擊他國外交等方式影響全球發(fā)展。目前，為應對惡意機器人所帶來的危機輿論環(huán)境，以聯(lián)合國為代表的國際組織已經付諸行動。2019年6月18日，聯(lián)合國發(fā)起了“消除仇恨言論戰(zhàn)略和行動計劃”。聯(lián)合國秘書長古特雷斯表示，在國際輿論社會里，由于政治利益、種族抗爭、階級斗爭等各種因素交織影響，強勢的政治行動者總是占據(jù)公共話語體系的絕對優(yōu)勢地位，而弱勢一方則喪失自由意志。國際組織需要協(xié)調各國利益，首先需要在區(qū)域國家形成普遍的治理共識，實現(xiàn)從邊緣到中心的突破，最終爭取國際范圍在輿論空間對計算宣傳的治理規(guī)則認同。⑨

（二）政府部門：從行政立法者轉向輿論引導者

政府作為國家治理的強勢者，不僅可以通過制定法律倒逼平臺與惡意操縱者規(guī)范行為，而且可以借助社交媒體力量對用戶進行輿論引導，提升用戶的識別監(jiān)測意識。惡意機器人引發(fā)的輿論危機引起了各國的重視，各國政府紛紛在國家層面提出對計算宣傳的治理方案。2016年美國提出了《反外國宣傳造謠法案》，該法案旨在幫助美國反制外國勢力的政治謠言，以防操縱輿論，并將此項工作納入了國家戰(zhàn)略。2018年白俄羅斯在國民議會上投票通過了《媒體修正案》，該法案指出在網(wǎng)絡空間散布謠言者將會面臨起訴，同時社交媒體平臺也會由于監(jiān)察不力遭到封鎖。

（三）社交平臺：從事后治理者轉向事前預防者

社交媒體平臺是人機共存的輿論空間治理中，最有力的行動治理者。算法檢測后臺識別機器賬號，是平臺重點工作目標及內容。為了防止機器人的入侵，目前國外很多網(wǎng)站都采取了Google reCaptcha來識別機器賬號，reCaptcha雖然可以有效識別機器人用戶，但都是在賬號出現(xiàn)異常情況之后才能進行判斷識別。在某種程度上，reCaptcha一直處于事后防備的治理模式。隨著平臺的完善發(fā)展，對機器賬號的識別也應該從事后治理轉為事前預防，平臺可以在注冊賬號伊始要求用戶完善個人身份信息并進行實名認證。這一舉措不僅能夠提升機器賬號的識別精準度，也規(guī)范了用戶在社交媒體輿論空間內相對自由地發(fā)表言論。

（四）用戶：從被動操縱者轉向隱形把關者

社交媒體空間的惡意機器人，主要通過散布虛假信息、煽動極端情緒來操縱用戶，“制造共識”達成宣傳目的。在社交媒體空間活躍的人類用戶，是社交機器人操縱者的宣傳對象。因此培養(yǎng)用戶的算法素養(yǎng)，成為重塑良性輿論環(huán)境的根本之策。算法素養(yǎng)（Algorithmic Literacy）是指用戶可以在生活中意識到算法存在，以及算法在何時何地被呈現(xiàn)，并對算法所帶來的偏差性認知有所防范。用戶首先需要正確認知社交機器人在社交媒體中的存在，了解社交機器人背后的運作邏輯以及行為特征。在社會公共輿情事件的信息處理中，算法素養(yǎng)可以幫助用戶精準判斷機器賬號，用戶還可以通過社交平臺舉報虛假新聞和機器賬號，從而成為智媒社交中的隱形把關人。

四、結語

以社交媒體為平臺依托，依靠大數(shù)據(jù)信息流和社交機器人為技術手段的計算宣傳，已經成為操控國際輿論場的新型武器。雖然還沒有證據(jù)顯示國內輿論場存在社交機器人操縱輿論的事件，但計算宣傳無疑影響了中國對外的政治話語傳播。對國內的計算宣傳，也應當早日防患于未然。國外應對計算宣傳中的成功實例值得借鑒，在智能化進程中正確認知和規(guī)范社交機器人的惡意行為，最小限度降低輿論操縱風險，重塑相對真實的社交媒體輿論環(huán)境。

注釋：

①⑨羅昕.計算宣傳：人工智能時代的公共輿論新形態(tài)[J].人民論壇·學術前沿，2020（15）：25-37.

②杜鳴皓.“社交機器人”入侵[J].中國品牌，2017（02）：36-41.

③師文，陳昌鳳.分布與互動模式：社交機器人操縱Twitter上的中國議題研究[J].國際新聞界，2020（05）：61-80.

④盧揚，穆慕.艾漫公布部分KOL數(shù)據(jù) 水軍占比超五成.北京商報網(wǎng).https：//news.tom.com/201809/1894098808.html.

⑤牟怡.從詮釋到他異：AI媒體技術帶來的社交與認知變革[J].上海師范大學學報（哲學社會科學版），2020，49（01）：92-101.

⑥Emilio Ferrara，Onur Varol，Clayton Davis，F(xiàn)ilippo Menczer，Alessandro Flammini. The rise of social bots[J]. Communications of the ACM，2016，59（7）：96-104.

⑦劉蓉，陳波，于泠，劉亞尚，陳思遠.惡意社交機器人檢測技術研究[J].通信學報，2017，38（S2）：197-210.

⑧陳霞，閔華清，宋恒杰.眾包平臺作弊用戶自動識別[J].計算機工程，2016，42（08）：139-145+152.

作者簡介：韋茜，安徽師范大學新聞與傳播學院新聞傳播學碩士研究生;陳鳳茹，安徽師范大學新聞與傳播學院新聞傳播學碩士研究生

編輯：王洪越