許偉

8月30日晚，一款主打視頻換臉功能的、名為“ZAO”的App“點燃”社交網(wǎng)絡(luò)。經(jīng)過一夜發(fā)酵，iOS商店內(nèi)的App下載量迅速攀升至娛樂類第二位——ZAO服務(wù)器也因此數(shù)次崩潰。

不過，伴隨刷屏的，是業(yè)內(nèi)外無數(shù)人士的質(zhì)疑，甚至厭惡和反感——引起巨大爭議的用戶隱私保護(hù)條款背后，是我們的臉早就被濫用，甚至攻擊都一直存在。

ZAO或?qū)⒉角拜叾堂髩m

其實，因攻陷用戶朋友圈及多個社交媒體平臺而一夜爆火的ZAO，并不是第一個搭載“換臉”技術(shù)的平臺。

早在今年5月，Snapchat就已經(jīng)推出了一款“變性濾鏡”，這讓它一度爬升至總榜第三位。但隨著用戶新鮮感的喪失，現(xiàn)在Snapchat已跌至總榜1000名之外。

今年7月，俄羅斯的AI換臉產(chǎn)品FaceApp復(fù)制了Snapchat的崛起之路，不僅能將人臉進(jìn)行轉(zhuǎn)化，還能在此基礎(chǔ)上實現(xiàn)男性變女性、哭臉變笑臉、老年變青年等更為復(fù)雜的操作。可惜的是，F(xiàn)aceApp的火熱并沒有因此得到延續(xù)，截至目前，F(xiàn)aceApp在App Store總榜排名已跌至600名開外。

就拿以上兩個案例來說，“AI換臉”技術(shù)雖然為平臺帶來了流量，但都好景不長。

目前來看，當(dāng)紅的ZAO正在進(jìn)行引流工作，那么它能不能將這流量轉(zhuǎn)換為實打?qū)嵉拈L久用戶？

圍繞“AI換臉”技術(shù)，ZAO目前只有視頻換臉、視頻分享朋友圈及表情制作三大功能。很顯然，如Snapchat和FaceApp一樣，這些簡易功能通常難以讓用戶的熱情持續(xù)下去。

而根據(jù)其設(shè)置，用戶直接上傳照片就可以將平臺上多個知名影視劇片段中原來人物的臉替換成照片人物的臉，毫無疑問，對用戶來說極大地降低了使用門檻。但它對照片高清晰度的要求又帶來了新門檻：若是照片不符合平臺要求則不能進(jìn)行“換臉”操作，這必然會讓用戶喪失一定的體驗感。

相較于內(nèi)置功能是否能夠留住用戶的不確定性，ZAO帶來的風(fēng)險是現(xiàn)在就能看到的。

首先，ZAO用戶協(xié)議中包含的多項條款都有著巨大的法律風(fēng)險。而使用ZAO換臉功能后（必須同意用戶協(xié)議后才能使用），ZAO不光借此免費獲得了上傳資料中所包含肖像信息的使用權(quán)和轉(zhuǎn)授權(quán)，還將侵權(quán)的風(fēng)險轉(zhuǎn)嫁給了用戶。

知名法律博主“法山叔”表示，ZAO涉嫌過度攫取用戶授權(quán)，讓用戶在無形中將自己的肖像權(quán)拱手讓人，“以后你的臉將完全有可能被別人隨意使用，變換”。

其次，ZAO上有大量國內(nèi)外影視綜藝內(nèi)容片段，還能支持用戶自主上傳素材，這些海量素材也帶來了版權(quán)隱患。

知名IT與知識產(chǎn)權(quán)律師趙占領(lǐng)分析認(rèn)為，通過與權(quán)利人進(jìn)行合作以獲得授權(quán)，有效解決了ZAO的商業(yè)模式的合規(guī)問題，但是畢竟獲取授權(quán)是有代價的，限制了平臺所獲取的素材的種類和數(shù)量。而若是由用戶上傳進(jìn)而得到版權(quán)，則大大降低了平臺獲取內(nèi)容的成本，豐富了平臺上的素材，有助于滿足更多用戶的需求。

總的來說，雖然目前ZAO是一個免費應(yīng)用，但不論是從用戶體驗角度，還是出于使用風(fēng)險考慮，ZAO都不會是用戶長久使用的必選項。

繞過人臉識別并不難？

值得關(guān)注的是，無論ZAO是否一款短命火爆產(chǎn)品，其背后卻是一個嚴(yán)重問題：我的臉還好嗎？

央行科技司司長李偉上個月就曾表示，“人臉是非常敏感的個人信息，一旦泄露會帶來非常大的影響?！?/p>

相較指紋等其他生物特征，人臉識別最大不同就在于，它能無需接觸，就遠(yuǎn)距離發(fā)生作用——這意味著，相關(guān)機構(gòu)和個人可能未經(jīng)當(dāng)事人同意，甚至完全不知情的情況下讀取并搜集其數(shù)據(jù)，進(jìn)而非法使用。

2011年，谷歌母公司Alphabet董事長埃里克·施密特說，人臉識別“很可怕”，并承諾谷歌公司不會建立用戶照片的數(shù)據(jù)庫；去年7月，科技巨頭微軟總裁史密斯（ Brad Smith）發(fā)表官方博文，談到了人臉識別給社會帶來的復(fù)雜影響。

更擔(dān)心的是非法利用——這種擔(dān)心并非杞人憂天。實際上，利用Deepfake造假技術(shù)，艾瑪·沃森等一眾歐美女明星，此前就被“換臉”在了不可描述的小電影上，一時轟動全網(wǎng)。

ZAO也是如此。有用戶擔(dān)心，ZAO采集了用戶面部信息，同時也在注冊時獲得了自己的手機號，是否會有可能被不法分子用于支付寶、網(wǎng)上銀行等App的實名認(rèn)證，從而危及自己的金融財產(chǎn)安全。

一位國有大行網(wǎng)絡(luò)金融部負(fù)責(zé)人表示，其團(tuán)隊今年年初找權(quán)威機構(gòu)做過人臉識別相關(guān)的檢測，活體檢測、視頻攻擊等方面存在一定風(fēng)險，雖然后臺算法升級會使防控效果有一定提升，類似換臉的攻擊威脅還是會一直存在。

不過，上述人士也強調(diào)，人們也沒有必要太過擔(dān)憂，因為“目前在手機銀行應(yīng)用人臉識別是作為輔助認(rèn)證，要輔以短信等其他認(rèn)證工具。小額支付領(lǐng)域風(fēng)險較小，強調(diào)便捷，在有相關(guān)賠付保障情況下采取人臉識別問題應(yīng)該也不大”。

據(jù)了解，“刷臉支付”采用的是3D人臉識別技術(shù)，在進(jìn)行人臉識別前，也會通過軟硬件結(jié)合的方式進(jìn)行檢測，來判斷采集到的人臉是不是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。

“AI換臉”已形成黑色產(chǎn)業(yè)鏈

有網(wǎng)友表示，ZAO這次之所以引起如此大的關(guān)注，是因為以往的換臉視頻，對技術(shù)有著比較高的門檻要求，而ZAO一下子把門檻降到了最低，普通手機用戶都可以玩了。

其實，這背后還有一個難以否認(rèn)的事實是——目前，“AI換臉”已經(jīng)形成一個非法牟利的地下黑色產(chǎn)業(yè)鏈。

此前《新京報》就有報道稱，互聯(lián)網(wǎng)上大量出現(xiàn)通過“AI換臉”實現(xiàn)的由知名女藝人“主演”的不雅視頻，在百度貼吧、閑魚等主要網(wǎng)絡(luò)平臺均有出售。

而據(jù)“智東西”此前報道，目前AI換臉黑產(chǎn)已經(jīng)形成了完整的產(chǎn)業(yè)鏈，從下游成品情色視頻、中游定制視頻到上游軟件及教程都有提供，有的賣家甚至提供全產(chǎn)業(yè)鏈產(chǎn)品和售后服務(wù)。

根據(jù)鋅刻度記者最新了解的情況來看，這種情況并未得到好轉(zhuǎn)。比如，在瀏覽器搜索“換臉教程”，有多個教程詳述制作細(xì)節(jié)，足夠教會用戶如何使用“換臉”技術(shù)；在淘寶、閑魚等平臺搜索“換臉”，大部分商家顯示可售賣成品照片及提供定制服務(wù)，部分商家還售賣軟件和教程；至于在deepfake吧里，則可以找到明顯帶著暗示性字眼的資源帖。

這些不法商家之所以如此明目張膽，與早前監(jiān)管的缺失不無關(guān)系。值得慶幸的是，相關(guān)監(jiān)管部門已經(jīng)注意到了“AI換臉”技術(shù)帶來的危害性。

今年4月，民法典人格權(quán)編草案和物權(quán)編草案的二審稿新增了這樣一條規(guī)定：任何組織或者個人，不得以利用信息技術(shù)手段偽造的方式侵害他人的肖像權(quán)。

國家網(wǎng)信辦會同有關(guān)部門在5月底發(fā)布的《數(shù)據(jù)安全管理辦法（征求意見稿）》中也提到，“網(wǎng)絡(luò)運營者利用大數(shù)據(jù)、人工智能等技術(shù)自動合成新聞、博文、帖子、評論等信息，應(yīng)以明顯方式標(biāo)明“合成”字樣；不得以謀取利益或損害他人利益為目的自動合成信息?！?/p>

但由于人工智能技術(shù)所具有的高度的不確定性、創(chuàng)新性和復(fù)雜性，面對千變?nèi)f化的應(yīng)用場景，目前想要所有亂象得到根治也絕非易事。

畢竟技術(shù)本無罪，全看使用技術(shù)的人想拿它做什么。目前來看，更重要的是相關(guān)AI企業(yè)應(yīng)該堅守自身底線。著名學(xué)者吳伯凡就認(rèn)為，科技本身是不能向善的，應(yīng)該是讓科技向善，人在使用技術(shù)的時候一定要有初心，讓科技向善。