■馬彬彬

Riot采用人工智能技術監(jiān)控玩家惡意言行

■馬彬彬

Riot Games的《英雄聯盟》是一款備受歡迎的網絡游戲，在全球擁有數量龐大的玩家群體。對于Riot Games來說，對抗游戲中的惡意言論是一個巨大的挑戰(zhàn)。多年以來，Riot Games試驗了各種各樣的技術，包括人工智能技術，對玩家的言行進行監(jiān)控和引導，取得了相當不錯的效果。

在Technologyreview網站的采訪中，公司社交系統(tǒng)的首席設計師Jeffrey Lin說，他們的系統(tǒng)已經辨識出數百萬的惡意言論，而且，被指認使用辱罵言辭的玩家中，92％的人不再犯同樣的錯誤。他認為，Riot的系統(tǒng)不僅能用于在線游戲，而且也能用于其它類型的在線社區(qū)。

數年前，公司就推出了名為Tribunal的管理系統(tǒng)。玩家的惡意言論被確認后，編入一個“檔案”中。玩家們查看“檔案”，投票表決那些行為是可以接受的?？偟膩碚f，這個系統(tǒng)是非常精確的。Jeffrey Lin說，玩家社區(qū)98％的決策與Riot的內部決策是一致的。

這是一件非常耗費人力的事情。很快，Jeffrey Lin和團隊發(fā)現了惡意言論的模式。為了優(yōu)化流程，他們決定使用人工智能技術?！霸趨^(qū)分消極言論和積極言論方面，這是一種非常成功的做法?！队⑿勐撁恕分С值墓俜秸Z言有15種?！彼f。同時，新系統(tǒng)的效率更高了。以前，在確認了惡意言論后，玩家會在一周內得到反饋，現在，這個時間縮減為5分鐘。

公司的新系統(tǒng)還大大改善了玩家的“改正率”。在游戲中，如果一個玩家曾經受到某種懲罰，然后，在一段特定時間里不再受到同樣懲罰，他就被認為是“改正”了?！霸趹土P的時候，當我們加入更好的反饋，給出交談記錄等證據，改正率從50％上升到65％，”Jeffrey Lin說，“當機器學習系統(tǒng)提供了更快的反饋，并配以證據，改正率上升到了前所未有的92％?！?/p>

Jeffrey Lin認為，他們的經驗能夠用于更廣闊的領域。對此，哈佛大學波克曼中心的研究員Justin Reich表示了贊同。他說，從Riot Games的經驗中，我們可以得出一個重要結論：辱罵行為不一定來自惡人，而是來自心情糟糕的普通人。因此，在對抗惡意言論的時候，我們不能只針對那些惡意的troll，而且需要考慮，在互聯網的匿名狀態(tài)下，人類會暴露出自己最糟糕的一面。不過，惡意言論并非難以根治的痼疾。通過技術、實驗和社區(qū)參與，我們能夠解決這個問題。

“我們在《英雄聯盟》上面對的挑戰(zhàn)，任何的游戲、平臺、社區(qū)和論壇上都可以看到，因此，我們認為，在線社區(qū)已經到了一個急需轉變的時刻，”Lin說，“因此，我們樂意把數據和經驗分享給更多的業(yè)界人士。我們希望，其它的公司能夠看看這些結論，并且意識到，網上惡意言論并非不可解決的問題?！?/p>