不語

自從“假靳東”騙姐姐錢的生意走紅后，收割中老年群體，幾乎成了社交平臺上的賺錢之道。盡管平臺一直試圖取締虛假賬號，但無奈新興玩法層出不窮。

這不，AI技術(shù)的流行，還意外帶火了“電商博主”，去年開始，網(wǎng)上涌現(xiàn)了一批冒充俄羅斯女孩的賬號，雖然只是低配版的“靳東戀愛人設(shè)”，沒有甜言蜜語，而且只會迎合中老年大叔的喜好，說些中俄友誼、喜歡中國男人的話，但是短短一個(gè)月，依然能積攢數(shù)十萬粉絲。

這些賬號背后，從賣軟件、養(yǎng)號，到賣貨甚至詐騙，早已衍生出一條灰色產(chǎn)業(yè)鏈。基于目標(biāo)群體的定位，它們大多兜售的都是20～100元的單價(jià)生意。

“我臉被盜了”

“那里不是一個(gè)人，而是一群克隆我的人，每個(gè)人都得到了數(shù)千個(gè)點(diǎn)贊和評論”，今年春節(jié)后，烏克蘭網(wǎng)紅Olga?Loiek以《有人在中國把我克隆》為題發(fā)布了一則控訴視頻，她站在鏡頭前，雙手緊握，語氣中帶著憤怒與無奈。

據(jù)Olga?Loiek講述，她的面孔和聲音在中文網(wǎng)絡(luò)上被非法盜用，被肆意操控用于創(chuàng)建多達(dá)數(shù)十個(gè)短視頻賬號。這些賬號名稱各異，內(nèi)容五花八門，但核心點(diǎn)卻出奇一致——將Olga?Loiek塑造為一個(gè)熱愛中國的俄羅斯姑娘形象，進(jìn)而推銷各類俄羅斯特色商品。

我們了解到，春節(jié)前，國內(nèi)短視頻平臺上涌現(xiàn)出不少這樣的“俄羅斯美女”博主，它們敏銳地捕捉到了短視頻平臺的流量紅利以及消費(fèi)者對異國風(fēng)情美女的濃厚興趣與追求，將其作為謀求財(cái)富的捷徑。

這些博主有著精致的面容，用流利的中文講述著“中俄友好”“中國好”的話題。但如同Olga?Loiek所講，短視頻里的人都是AI技術(shù)的產(chǎn)物，是盜用她人面孔批量化生成的虛假形象。

雖然仔細(xì)分辨不難看出是假的，譬如人的表情顯得僵硬，口型不對，也沒有什么動作。視頻偶爾還會出現(xiàn)掉幀的情況，但很多粉絲似乎并沒有產(chǎn)生絲毫懷疑，不僅積極點(diǎn)贊，而且還在評論區(qū)留言，“你很漂亮”“我很想見到你”“請回復(fù)我消息”等，有的甚至?xí)蛯Ψ剿叫拧?/p>

王軍從2023年起，便踏入了自媒體創(chuàng)業(yè)的大潮，AI俄羅斯美女帶貨，正是他近期研究的一門新生意。他向我們介紹，打造這樣一個(gè)博主非常簡單。

第一步便是從外網(wǎng)找美女素材，即盜臉，“最好是選擇豐滿型或者可愛型”。

有了美女素材后，再通過HeyGen等AI肖像克隆軟件進(jìn)行面部替換和表情調(diào)整，一個(gè)“俄羅斯美女”博主就誕生了。不光俄羅斯美女，任何國家的美女形象，都可以借助技術(shù)生成，只是這兩年俄羅斯美女的人設(shè)更流行。

這類賬號的粉絲受眾以三四線城市40歲以上的中年男人為主。新榜編輯云飛揚(yáng)稱，這些視頻的形式和抖音上一些情感博主很像，會采用非常濃烈的濾鏡和特效，就會被他們誤以為是真的。

一旦積累了足夠的粉絲，它們便開始利用短視頻平臺的櫥窗功能進(jìn)行商品銷售，主要銷售的是價(jià)格親民、單價(jià)低于100元的俄羅斯特色商品，以降低消費(fèi)者的決策門檻。

雖然目前尚未出現(xiàn)帶貨成績特別亮眼的此類博主，但由于制作成本低、難度小，一個(gè)人可以同時(shí)運(yùn)營數(shù)十個(gè)甚至上百個(gè)賬號。當(dāng)賬號數(shù)量成倍增加時(shí)，銷售數(shù)據(jù)也將變得非常可觀。

培訓(xùn)機(jī)構(gòu)賺瘋了

技術(shù)革新的洪流中，總是潛藏著無數(shù)的新機(jī)遇。當(dāng)“AI俄羅斯美女”這一概念火起來后，無數(shù)的逐風(fēng)者涌入這片藍(lán)海。

在閑魚平臺上，搜索“AI俄羅斯美女”，共出現(xiàn)上百條結(jié)果。

其中，既有出售HeyGen積分的，也有出售HeyGen平替軟件的，更有甚者，直接出售制作和運(yùn)營的相關(guān)教程。其中一家商家頗具誘惑地宣傳道：“趕快做個(gè)俄羅斯AI美女賬號吧，20多天粉絲就能漲粉50萬?！?/p>

一些“AI俄羅斯美女博主”甚至下場做起了教程培訓(xùn)的生意，“我們主要教視頻制作，并提供變現(xiàn)思路，價(jià)格是998元，做得好一個(gè)視頻就回本了”，他向我們透露，有學(xué)員30天就積累了16萬粉絲。

王軍是最早吃到紅利的一批人。春節(jié)期間，當(dāng)大多數(shù)人都在享受假期時(shí)，王軍卻忙得不可開交。在推出俄羅斯美女制作的相關(guān)教程后，今年1月，就有一百多人主動聯(lián)系他，“感覺大家都想從風(fēng)口上分一杯羹”。

這些學(xué)員背景各異，有對短視頻平臺充滿好奇的新手，也有希望借此機(jī)會增加額外收入的職場人士，還有專門做短視頻的機(jī)構(gòu)。他們毫不掩飾的賺錢欲望，讓王軍賺得盆滿缽滿，按照每人798元的價(jià)格來算，王軍1月就有將近20萬元的收入。

王琳是眾多在此領(lǐng)域?qū)で髾C(jī)會的人中的一員。她是一家廣告公司的設(shè)計(jì)師，每天都被繁重的工作和無盡的加班所困擾，這樣的生活讓她感到窒息，急切地想要尋找一個(gè)出口。她把目光投向了短視頻平臺，希望將其作為自己職業(yè)生涯的突破口，好在將來逃離那份令人壓抑的工作。

2023年下半年，她開始嘗試發(fā)布一些記錄生活的Vlog，但結(jié)果卻令人失望，視頻的流量大多停留在500左右，點(diǎn)贊的也幾乎都是親朋好友，她一度懷疑自己是否適合從事短視頻。

春節(jié)期間，她在網(wǎng)絡(luò)上瀏覽到一些關(guān)于AI俄羅斯美女的文章，“2個(gè)月漲粉63萬，帶貨傭金10萬+”“用AI制作俄羅斯美女來帶貨，櫥窗都賣瘋了”，似乎在這個(gè)風(fēng)口上，觸手可及，這讓她心動不已。

她花899元報(bào)名參加了一家培訓(xùn)機(jī)構(gòu)，對方主要提供了視頻的制作流程和一些要用到的軟件。經(jīng)過一個(gè)星期的摸索，她發(fā)布了自己的第一條視頻。這條視頻的文案借鑒了“要嫁中國男人的思路”，并在此基礎(chǔ)上進(jìn)行了一些微調(diào)和修改。

令她驚喜的是，視頻一經(jīng)發(fā)布，便迅速獲得了兩三萬的流量。隨著后續(xù)三條視頻的陸續(xù)推出，她的粉絲數(shù)量也迅速攀升，很快就突破了5000大關(guān)。

但王琳入局還是太晚了。

Olga的視頻發(fā)布后，迅速在網(wǎng)絡(luò)上發(fā)酵，各大平臺加強(qiáng)了對此類AI賬號的監(jiān)管，Olga?Loiek在視頻中提到的“娜塔莎”等博主賬號悄無聲息地被封禁，而一些合成俄羅斯美女的賬號要么停止更新，要么清空賬號，以避免受到處罰。

以一位名為“俄羅斯小妹”的博主為例，她宣稱自己是在中國生活了14年的俄羅斯人，并愛上了中國，成功吸引到2.8萬的粉絲。但如今她的視頻已經(jīng)全部清空，唯一留下的痕跡是櫥窗里展示的9件商品。風(fēng)暴席卷之下，無一能幸免。王琳的賬號，尚未來得及展示櫥窗的商品，便慘遭封禁。這背后是源于盜臉本身就是一種違法行為。

上海正策律師事務(wù)所董毅智律師向我們表示，用AI技術(shù)為他人換臉換聲并發(fā)布視頻，可能涉嫌侵權(quán)，根據(jù)《中華人民共和國民法典》，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。

然而，盜臉的惡劣影響并不僅限于此。

危險(xiǎn)的機(jī)器

一扇新的技術(shù)大門緩緩打開，后面的世界充滿了未知，星光點(diǎn)綴的夜空、蜿蜒曲折的小徑、巍峨的山峰以及清澈的小溪，這一切美景或許都存在，但同樣也可能只是表象。

在別有用心的人手上，它似乎變成了一臺危險(xiǎn)的機(jī)器，一個(gè)誹謗他人、欺詐他人的灰色武器。

據(jù)《2024人工智能安全報(bào)告》顯示，2023年基于AI的深度偽造欺詐案件呈現(xiàn)出驚人的增長趨勢，增長率高達(dá)3000%。

我們注意到，已經(jīng)有多名博主公開曝光了自己被AI盜臉和制造黃色謠言的經(jīng)歷。2023年7月3日，擁有數(shù)百萬粉絲的網(wǎng)紅“@小野”就曾揭露自己的面部圖像被AI技術(shù)用于制作換臉?biāo)矫芤曨l，甚至有人散布關(guān)于她的不實(shí)色情謠言。

值得注意的是，被AI盜臉?biāo)鶄Φ牟粌H僅是女性群體。近年來，利用AI合成技術(shù)進(jìn)行的詐騙案件屢屢發(fā)生，引起了廣泛關(guān)注。

2023年5月有媒體報(bào)道稱，福州一家公司的老板在短短10分鐘內(nèi)被騙走了430萬元。詐騙團(tuán)伙正是利用AI盜臉和擬聲技術(shù)冒充熟人進(jìn)行視頻通話實(shí)施詐騙。警方稱這類AI詐騙手段還包括聲音合成、AI換臉以及轉(zhuǎn)發(fā)語音等，其成功率幾乎接近100%。

最近，香港警方成功偵破了一起大規(guī)模的AI“深度偽造”詐騙案。詐騙者通過YouTube等社交軟件收集公司高管的音視頻資料，并利用深度合成技術(shù)進(jìn)行換臉處理提前生成視頻。隨后在Zoom在線會議上使用這些偽造的視頻成功欺騙了公司職員，涉案金額高達(dá)2億港元。

這起案件中的被騙職員所看到的每一個(gè)人物和聽到的每一個(gè)聲音都是詐騙者通過精心偽造的“AI換臉、換聲”技術(shù)制作的，這種高度逼真的偽造技術(shù)讓人防不勝防。

當(dāng)技術(shù)背后的動機(jī)變得含糊不清時(shí)，它就隨時(shí)可能釋放出無法預(yù)測的風(fēng)險(xiǎn)和后果。如何保護(hù)生活邊界不被人工智能技術(shù)侵犯，已經(jīng)演變成了一個(gè)緊迫而重要的現(xiàn)實(shí)問題。