Holly

你可能已經(jīng)對(duì)一些社交網(wǎng)絡(luò)上常見(jiàn)的騙局見(jiàn)怪不怪了，無(wú)論是早些年泛濫的短信詐騙，抑或是電話里冒充公檢法工作人員的詐騙等。隨著騙術(shù)的不斷曝光，受騙的人逐漸減少。但騙子們也沒(méi)閑著，既然AI（人工智能）技術(shù)已經(jīng)在不同領(lǐng)域蓬勃發(fā)展，何不搭上這趟順風(fēng)車(chē)，對(duì)行騙方式進(jìn)行一場(chǎng)“自動(dòng)化改造”呢？

你的聲音可以被AI偽造

半年前，廣東警方搗毀了一個(gè)利用交友App進(jìn)行詐騙的“公司”。該團(tuán)伙制作了多款交友軟件，并設(shè)計(jì)出AI機(jī)器人假裝與目標(biāo)用戶(hù)“談戀愛(ài)”騙取信任，再引誘其墜入事先安排好的“消費(fèi)陷阱”。聽(tīng)起來(lái)是不是有點(diǎn)兒悲涼？過(guò)去，無(wú)論如何，騙你的還是真人;現(xiàn)在，聊了十天半個(gè)月，你臆想中的“白月光”不過(guò)是個(gè)AI罷了。

類(lèi)似的騙局不只出現(xiàn)在交友App中，據(jù)人民網(wǎng)報(bào)道，微信語(yǔ)音成了又一個(gè)被AI詐騙入侵的領(lǐng)域。有位姓趙的女士收到父親的語(yǔ)音留言，稱(chēng)自己買(mǎi)菜沒(méi)帶錢(qián)，讓她轉(zhuǎn)200元過(guò)去。長(zhǎng)了個(gè)心眼兒的趙女士問(wèn)了一句：“爸，是你嗎？”在收到對(duì)方肯定的語(yǔ)音答復(fù)后便將錢(qián)轉(zhuǎn)了過(guò)去。誰(shuí)料，雖然語(yǔ)音里的確是父親的聲音，但那段語(yǔ)音并不是來(lái)自父親本人……

如今的技術(shù)已經(jīng)發(fā)展到完全可以通過(guò)算法來(lái)生成人的全套語(yǔ)音，包括生氣、開(kāi)心時(shí)的語(yǔ)氣都能模仿得惟妙惟肖，讓人難辨真假。

其實(shí)，早在2016年，谷歌的人工智能實(shí)驗(yàn)室就開(kāi)發(fā)出了一種聲音合成技術(shù)，并于2017年成立了Lyrebird公司。在公司的網(wǎng)站上，你能聽(tīng)到官方合成版的奧巴馬和特朗普的聲音，幾乎和真的沒(méi)有什么分別。試想一下，這項(xiàng)技術(shù)如果被詐騙團(tuán)伙掌握，他們完全可以通過(guò)給你撥打騷擾電話，提取你的聲音信息進(jìn)行合成，從而制作出屬于你的音頻信息，再利用這一信息冒充你，對(duì)你的親朋好友實(shí)施詐騙。

聲音靠不住，那可以靠臉嗎

答案是：臉可能也靠不住。

如今，AI已經(jīng)發(fā)展到可以給人換臉的程度了。別誤會(huì)，不是要給你整容，但它的確掌握了某種“移花接木”的能力，比如把A的臉換到B的身體上。

電影《神奇女俠》的扮演者蓋爾·加朵的臉曾被一名網(wǎng)友替換到了某電影的女主角身上，第一眼看上去竟毫無(wú)違和感，似乎這部電影本來(lái)就是她出演的。同樣遭此惡搞的還有比她更知名的女星，如安妮·海瑟薇、艾瑪·沃特森等。

當(dāng)然了，這一技術(shù)的初衷并不是傳播這些短片，而是為了完善某些影視作品，例如讓保羅·沃克回歸《速度與激情7》，讓斯坦·李老爺子繼續(xù)出現(xiàn)在漫威系列電影中。但這一技術(shù)顯然在朝著失控的方向發(fā)展。

這位制作女星換臉電影的程序員，不僅免費(fèi)發(fā)布了他所謂的“成果”，還將制作視頻的教程“無(wú)私”地分享了出來(lái)。教程公布沒(méi)多久，就被改造成一款人人都能使用的App，開(kāi)發(fā)者表示，這是一款“普通人可以突破技術(shù)壁壘去使用人工智能技術(shù)”的程序。

被惡搞的不僅是上述知名女星，連奧巴馬和特朗普這些國(guó)家元首級(jí)的人物都未能幸免。馬丁·路德·金和奧巴馬實(shí)現(xiàn)了某種跨時(shí)空互換，尼古拉斯·凱奇的臉被換成了特朗普的……

之后，雖然很多平臺(tái)都對(duì)這項(xiàng)技術(shù)頒布了禁令，但未能阻止此類(lèi)視頻的制作和傳播。就像是打開(kāi)了潘多拉魔盒一樣，人們?cè)诙虝旱膼焊惆l(fā)笑之后陷入某種恐慌之中。令人擔(dān)憂的是，起初遭殃的只是一些明星、政要，但如今，這一趨勢(shì)正一點(diǎn)點(diǎn)向普通人蔓延。

眼見(jiàn)未必為實(shí)，有視頻不等于有真相

印度有一個(gè)名叫Rana Ayyub的記者，因?yàn)榻衣读苏賳T的黑幕，被不法分子利用這項(xiàng)技術(shù)將她的臉和其他人互換，并制作成了非法短視頻在網(wǎng)上傳播。令人心寒的是，不少人信以為真，甚至連她的家人也陷入困惑。在巨大的壓力下，她一度抑郁，甚至住進(jìn)醫(yī)院。無(wú)獨(dú)有偶，美國(guó)一位家庭主婦在得知自己的臉被換到一名聲譽(yù)不佳的女演員身上后，每天活在恐懼之中。

以上事件無(wú)不指向一個(gè)殘酷的現(xiàn)實(shí)：在文字、語(yǔ)音、圖像可以被任意篡改的今天，我們連視頻的真實(shí)性都一并失去了。試想一下，如果這項(xiàng)技術(shù)繼續(xù)不受控制地發(fā)展下去，總有一天，你會(huì)連自己最親近的人都無(wú)法信任?，F(xiàn)在，家人問(wèn)你借錢(qián)，你尚可通過(guò)視頻通話的方式確認(rèn)他們的真實(shí)身份，那倘若未來(lái)騙子將他們的臉合成出來(lái)，你要如何辨別？甚至一些原先要求提供照片的地方，比如貸款，都可以通過(guò)獲取你的照片來(lái)冒充你，你卻有口無(wú)憑。

我如何知道“你就是你”？我又該如何證明“我不是我”？這個(gè)看似荒誕實(shí)則十分日常的問(wèn)題，在人類(lèi)面對(duì)各種以假亂真的AI時(shí)變得分外緊迫。試想一下，某一天，當(dāng)你打開(kāi)社交軟件，需要時(shí)刻提防周?chē)熳R(shí)的人是不是假的時(shí)，光想一想，都不禁悲從中來(lái)。

被代碼撕開(kāi)的人性遮羞布

AI技術(shù)的不當(dāng)運(yùn)用可能引發(fā)的不只是詐騙、誣陷、報(bào)復(fù)、勒索那么簡(jiǎn)單，它所掀起的信任危機(jī)，將會(huì)把每一個(gè)個(gè)體都卷入其中。

過(guò)去對(duì)電信詐騙不堪其擾的人，未來(lái)在AI詐騙面前可能無(wú)處可逃。更可怕的地方在于，一旦AI技術(shù)被不當(dāng)利用且與社交媒體結(jié)合，還可能造成假新聞泛濫。如果有不法分子控制了新聞機(jī)構(gòu)的網(wǎng)站或賬戶(hù)，發(fā)布一些不實(shí)消息，則可能造成更大范圍的恐慌。

這可能正是法國(guó)哲學(xué)家鮑德里亞形容的后現(xiàn)代社會(huì)的典型特征之一：曾經(jīng)被當(dāng)作“原初”的“真”已經(jīng)失去，人類(lèi)社會(huì)進(jìn)入復(fù)制時(shí)代，一切都在復(fù)制和再生產(chǎn)，一切都是“虛假”的，而“虛假”的已經(jīng)變成真的。

技術(shù)的問(wèn)題，可能最終還得通過(guò)技術(shù)來(lái)攻克。為了規(guī)避AI技術(shù)存在的潛在風(fēng)險(xiǎn)，歐美的國(guó)家安全機(jī)構(gòu)已經(jīng)致力研發(fā)一些“反AI”工具，力圖以AI攻克AI。美國(guó)國(guó)防部高級(jí)研究計(jì)劃局已找到一些突破口，研究人員發(fā)現(xiàn)，通過(guò)觀察眼睛的狀態(tài)，比如是否眨眼，可以檢測(cè)出哪張是AI合成的臉，哪張是真實(shí)的臉。

雖然如此，AI和反AI的角力大概會(huì)一直持續(xù)下去，各位研究人員應(yīng)當(dāng)銘記：技術(shù)本身無(wú)罪，但運(yùn)用技術(shù)的人應(yīng)該善良。