楊 溟

AIGC 是由人工智能算法幫助創(chuàng)建并生產(chǎn)的內(nèi)容。當(dāng)前AIGC 的代表性應(yīng)用便是OpenAI 基于Transformer 架構(gòu)開發(fā)的自然語言處理模型ChatGPT，它以生成式預(yù)訓(xùn)練聊天機器人的產(chǎn)品形態(tài)面世，2022年11 月30 日上線后很快風(fēng)行一時。2023 年5 月，微軟開放搭載GPT-4 的全新必應(yīng)聊天機器人，文生圖可支持上百種語言，從純文本搜索轉(zhuǎn)為多模態(tài)互動，并支持各類插件系統(tǒng)，展示了強大的顛覆性力量。

目前GPT-3、GPT-4 等語言模型生成的內(nèi)容類型，除了文本，還有圖像、音頻、視頻，甚至整個網(wǎng)站。由生成對抗網(wǎng)絡(luò)創(chuàng)建的圖像類AIGC，可以創(chuàng)建類似于現(xiàn)實生活中物體或人的逼真圖像，而由AI 算法生成的視頻，可以根據(jù)給定的場景或故事創(chuàng)建逼真的動畫。此前的Dall-E2、Midjourney 等也已引起業(yè)界關(guān)注。

AIGC 與計算機視覺技術(shù)不斷融合，影響到傳媒領(lǐng)域。自從虛擬現(xiàn)實（VR）被視作改變社會發(fā)展的重大顛覆式技術(shù)，似乎投資人與社會期待都已將虛擬世界再造當(dāng)成了復(fù)制人類文明、擺脫當(dāng)下困局的振興之途和希望彼岸。以至于“元宇宙”一詞被扎克伯格從科幻作家那里套取用作擺脫經(jīng)營困境的出路時，趨于市場可用的復(fù)刻技術(shù)一度成為支撐其概念的核心技術(shù)備注。當(dāng)元宇宙概念漸冷時，AIGC 技術(shù)又被拿來當(dāng)作元宇宙的基礎(chǔ)設(shè)施構(gòu)建支柱。

那么，AIGC 對媒體變革而言，究竟意味著什么？

一、傳媒業(yè)技術(shù)潰敗的窘境：AIGC 賦能的背景

過去數(shù)年，傳統(tǒng)媒體行業(yè)在互聯(lián)網(wǎng)時代失去了自己的優(yōu)勢地位。對工業(yè)經(jīng)濟時代行業(yè)壟斷的高度依賴，在信息短缺環(huán)境下積累的資源優(yōu)勢，消解了傳統(tǒng)媒體在大變革來臨時應(yīng)有的危機感與思想、技術(shù)準(zhǔn)備。慣性思維和理念落后使傳統(tǒng)媒體行業(yè)逐漸失去核心技術(shù)創(chuàng)新能力，也造成對業(yè)務(wù)模式、技術(shù)趨勢的判斷失準(zhǔn)。許多傳統(tǒng)媒體在技術(shù)自主研發(fā)上投入不足、重視不夠，以拼接集成外包服務(wù)等為技術(shù)進步的主要手段，造成全行業(yè)的技術(shù)落后和核心競爭力的衰減。

計算機與智能科技的興起令互聯(lián)網(wǎng)科技企業(yè)、社交平臺企業(yè)跨界逆襲傳統(tǒng)媒體行業(yè)。傳統(tǒng)媒體廣告收入逐年下滑已是不爭的事實。央視市場研究（CTR）數(shù)據(jù)顯示，2022 年全年我國廣告市場收入同比減少11.8%[1]，這是在此前已經(jīng)式微的收入基礎(chǔ)上的再度降比。據(jù)國家工商總局的統(tǒng)計數(shù)據(jù)，我國傳統(tǒng)媒體的廣告收入從2013 年開始出現(xiàn)斷崖式下滑，2020 年1月，報紙、雜志等廣告刊例下降30% 以上，緊隨其后的降幅排名依次是廣播、電視及影視媒介。[2]

傳統(tǒng)媒體在媒體融合方面的努力近年來一直沒有停止，它們在各地百花齊放，與各類平臺結(jié)合產(chǎn)生更多樣化及具有親和力的樣態(tài)，但總體份額下滑的趨勢還是很難得到遏制。

物聯(lián)網(wǎng)背景下的市場格局正經(jīng)歷越來越深刻的顛覆。對傳統(tǒng)行業(yè)的解構(gòu)進一步加劇了傳媒行業(yè)被邊緣化的現(xiàn)實，面對復(fù)雜系統(tǒng)中的關(guān)系識別與真相挖掘，不能深刻理解技術(shù)創(chuàng)新的底層邏輯，也勢必難以判斷技術(shù)屬性、識別行業(yè)趨勢、把握時代節(jié)奏，只能成為前沿技術(shù)的尾隨者。

2019 年，在中宣部指導(dǎo)下，科技部批準(zhǔn)新華社等媒體和高校承建傳媒領(lǐng)域的四家國家重點實驗室，傳媒業(yè)在核心技術(shù)研發(fā)上的自主性要求終于得以明確，各實驗室集中資源付諸實施。從技術(shù)方向看，無論是定位還是規(guī)劃理念上都完全不同于既往——立足前沿智能科技，面向行業(yè)發(fā)展趨勢，著眼于復(fù)雜系統(tǒng)跨平臺感知與認(rèn)知智能研究，這一舉措在國內(nèi)具備了開創(chuàng)性和標(biāo)志意義。

二、VR 能否拯救行業(yè)：核心技術(shù)尚待突破

2016 年起在國內(nèi)興起的VR 技術(shù)的作用被夸大，業(yè)界普遍樂觀地認(rèn)為已經(jīng)具備行業(yè)重塑的條件。有報道稱，VR 技術(shù)作為一種可以創(chuàng)建和體驗虛擬世界的計算機仿真系統(tǒng)，已為廣大民眾熟知并開始應(yīng)用。

來自美國的Penrose 演播室首席執(zhí)行官兼創(chuàng)始人Eugene Chung 在《當(dāng)虛擬成為現(xiàn)實》的演講中說，無論在中國還是全球，VR 的市場都令人興奮，尤其是2016 年的中國VR 市場非?；鸨?，公眾對這一事物有著超高的熱情。特別是在硬件層面，每家VR 公司都能夠生產(chǎn)VR 眼鏡，中國深圳成為擁有VR 企業(yè)最多的地區(qū)。[3]馬化騰、馮鑫、方相原、李熠等業(yè)內(nèi)人士稱虛擬現(xiàn)實將顛覆包括游戲、醫(yī)療、房地產(chǎn)、媒體、游樂園、教育、影視聽、社交、電商、城市規(guī)劃等十大行業(yè)。優(yōu)酷土豆、騰訊、諾基亞、阿里巴巴、百度、HTC、微軟、谷歌、三星、索尼等巨頭紛紛駐足VR 業(yè)。[4]

但Eugene Chung 演講的另一層意思似乎被忽略了，他說VR 技術(shù)目前主要應(yīng)用的領(lǐng)域之一是視頻游戲產(chǎn)業(yè)，對于數(shù)量和質(zhì)量的矛盾問題，VR 技術(shù)可能還需要幾年的發(fā)展才能成熟，因此VR 技術(shù)在目前階段還沒有真正地實現(xiàn)商業(yè)化。[5]

VR 利用計算機生成一種模擬環(huán)境，可多源信息融合、交互，包括模擬三維環(huán)境。除計算機圖形技術(shù)所生成的視覺感知外，還有聽覺、觸覺、力覺、運動，甚至還包括嗅覺和味覺等，也稱為多感知，但這些核心能力還遠未實現(xiàn)。即便在被稱作“元宇宙元年”的2021 年，依然未能在關(guān)鍵核心技術(shù)上有重大突破。

被視作元宇宙六大支撐技術(shù)的區(qū)塊鏈（Blockchain）、交互（Interactivity）、游戲（Game）、人工智能（AI）、網(wǎng)絡(luò)及運算（Network）、物聯(lián)網(wǎng)（Internet of Things）不僅本身就存在概念交叉混淆的糾結(jié)，更重要的是腦與認(rèn)知科學(xué)、神經(jīng)學(xué)與心理學(xué)等生命科學(xué)與技術(shù)倫理研究基本沒有被納入研究體系。因此進展還局限在應(yīng)用場景的創(chuàng)新上。缺乏智能感知與情緒識別、情感計算領(lǐng)域的研究阻礙了數(shù)字人、虛擬人“智能化”“生命化”的演進——當(dāng)然，就技術(shù)倫理和社會治理的現(xiàn)狀而言，發(fā)展的遲滯并不都是壞事。

要強調(diào)的是，適用于游戲、影視娛樂場景的VR、AR、MR 等技術(shù)，在傳媒領(lǐng)域的應(yīng)用應(yīng)格外謹(jǐn)慎，尤其在行業(yè)倫理和政策法規(guī)約束方面宜盡早進行深入研討。近年來，各類新聞主播、虛擬機器人作為一種媒體技術(shù)創(chuàng)新代表出現(xiàn)在公眾面前，但多數(shù)曇花一現(xiàn)或只作為重要活動的科技秀進行表演，如常態(tài)化地使用，其倫理隱憂值得重視。

三、“后真相”與“去真相化”：AIGC 是否建構(gòu)出幻覺時代？

1992 年，美國《國家》雜志關(guān)于海灣戰(zhàn)爭的一篇文章《后真相及其后果》中首次采用了“后真相”一詞，并將其定義為“情緒的影響力超越事實”。

2004 年，美國傳播學(xué)者拉爾夫·凱伊斯對“后真相”做了哲學(xué)內(nèi)涵的闡釋，提出“后真相時代”是“模糊的陳述，模棱兩可將成為未來一種新的真實觀”。

直到2016 年，英國脫歐公投和美國特朗普上臺兩大事件促使“后真相”一詞迅速走紅，使用頻度增長了2000%，而特朗普被認(rèn)為是“后真相時代”的代表性人物。

當(dāng)年“后真相”一詞入選英國《牛津詞典》年度詞匯?！都~約時報》將其定義為情感及個人信念較事實更能影響輿論的情況。簡單地說，人們不再相信真相，只相信自己的感覺，只愿意去聽、去看自己想要的東西。

這一年，據(jù)皮尤中心統(tǒng)計，美國公眾對傳統(tǒng)媒體的信任度由20 世紀(jì)70 年代70% 以上的峰值，跌落到2016 年32% 的谷底。究其原因，與社交媒體平臺的興起和算法推薦的開發(fā)理念有關(guān)。因此有學(xué)者認(rèn)為，社交媒體時代幾乎可以等同于“后真相時代”。

但上述對“后真相時代”的定義忽略了重要的一點，即傳媒行業(yè)自身對于真相的挖掘能力和可信水平在降低。社交平臺的出現(xiàn)提高了公眾對信息核查能力的要求，甚至令更多人有條件自行進行多源印證。雖然平臺的多源有太多情緒化表達、認(rèn)知偏見和未經(jīng)證實的內(nèi)容，但從信息短缺進入信息過剩社會的受眾已經(jīng)不再僅僅依賴單一媒體信源。社交媒體上幾乎不停的“事實”反轉(zhuǎn)，都凸顯出媒體行業(yè)對還原事件真相的維度、效度、深度、速度以及思維方式已不能滿足受眾需求，其事實識別能力也難以適配和響應(yīng)社會需求。

與“后真相時代”的媒體被動無力、無奈和無意識不同，傳媒業(yè)在新聞場景中不審慎地采用AIGC 則會造成主動、積極、有意識地“粉飾”與“造假”，這種刻意的情感煽動，制造與客觀事實不同的偽現(xiàn)實場景的行為就是“去真相化”。其所謂的“沉浸感”刻意模糊了真實與虛擬的差異，以“眼見為實”的陳述制造“以假亂真”的景象，這種更容易影響輿論的現(xiàn)象是危險的。

我們看到ChatGPT 和Midjourney 等生成式技術(shù)創(chuàng)造的天衣無縫的成果時，非專業(yè)受眾很難以其個人能力分辨觀點、事實、場景的真假，其結(jié)果往往是影響情感、強化偏見。

我們不禁要問，在新聞場域錯位應(yīng)用AIGC 的“去真相”現(xiàn)象會建構(gòu)出一個無真相的幻覺時代嗎？

四、去偽存真還是以假亂真：媒體使命與能力的標(biāo)尺

種種對傳媒業(yè)危機的剖析中，我們往往忽略了一點——對技術(shù)底層邏輯的判斷力。

失去對社會變動的敏銳感知，無法及時對變化做出應(yīng)答，不能找到同時滿足行業(yè)職責(zé)與市場需求的組織架構(gòu)和盈利模式 這些現(xiàn)象的背后是傳媒組織跟不上技術(shù)演變的步伐，難以理解未來社會發(fā)展與科技變革的趨勢。

新聞?wù)鎸嵭允敲襟w最基本的要求。而在物聯(lián)網(wǎng)語境下的事實揭示，需要在思維、工具、方法等多方面突破傳統(tǒng)的模式。智能感知、數(shù)據(jù)采集、算法設(shè)計、模型開發(fā)，今天的媒體人和傳媒組織，應(yīng)該成為社會去偽存真的“水晶球”和服務(wù)公共利益的行業(yè)標(biāo)桿。

AIGC 對傳媒業(yè)獲取真相的工作，既有通過機器學(xué)習(xí)模型調(diào)用知識快速響應(yīng)、提供多樣化思路和多種可能性參考的助益，也有因素材采集良莠不齊夾雜虛假信息的誤導(dǎo)可能。機器學(xué)習(xí)本身對事實或虛構(gòu)信息缺乏區(qū)分能力，從而生產(chǎn)出圖文、視頻等非真實信息，這對新聞事實與非虛構(gòu)信息的甄別是極大的挑戰(zhàn)。

以AI 帶來的“深度偽造”（Deepfakes）技術(shù)為例。

2017 年2 月，網(wǎng)民“deepfake”通過境外論壇Reddit 發(fā)布了一段將以色列明星蓋爾·加朵臉部替換到某色情視頻人物身上的視頻，該視頻替換效果達到了肉眼難以分辨的程度。該網(wǎng)民公布了軟件的源代碼，在網(wǎng)上廣獲關(guān)注。有網(wǎng)民進一步優(yōu)化算法并開發(fā)出新的類似軟件，并將該網(wǎng)民的昵稱“deepfake”用來指代該類“換臉”視頻生成軟件的技術(shù)名稱。

如今，借深度學(xué)習(xí)和大數(shù)據(jù)技術(shù)在語言、圖像識別、自然語言處理等方面的功能，可偽造肖像、語音、形體、指紋等特征并生成指定圖片、音頻、視頻，在AIGC 加持下進一步混淆視聽，令人真假莫辨。

“深度偽造”行為是典型的主觀故意進行“去真相化”處理的技術(shù)應(yīng)用。它不僅可能導(dǎo)致公民個人信息的進一步泄露和傳播，而且將導(dǎo)致技術(shù)類詐騙、敲詐等違法犯罪率的上升。

近年來，電信和網(wǎng)絡(luò)詐騙已經(jīng)成為侵犯公民財產(chǎn)安全的首要犯罪行為?？梢灶A(yù)見，能夠從圖像、聲音等方面?zhèn)卧焯囟▽ο蟮纳疃葌卧旒夹g(shù)手段極易成為詐騙分子新的詐騙手段。伴隨著人臉識別、聲紋識別、瞳孔識別、指紋識別在消費電子產(chǎn)品、智能安全設(shè)備等方面的不斷擴大應(yīng)用，如若不進行有效監(jiān)管，也為公民的人身和財產(chǎn)安全埋下了巨大隱患。[6]

深偽技術(shù)同樣可用于篡改新聞報道中的圖像和視頻。在傳媒業(yè)面臨社會信任下降和真相識別能力不足的危機面前，偽造視頻會加劇公眾的不信任。這種“去真相化”的行為所造成的惡劣影響應(yīng)予以充分重視。

目前，各國對深度偽造技術(shù)已有不同程度的法律限制。我國也正制定針對深度偽造等人工智能技術(shù)的限制性法規(guī)。一是由國家互聯(lián)網(wǎng)信息化辦公室、文化和旅游部、國家廣播電視總局聯(lián)合頒布的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，該規(guī)定于2020 年1 月1 日起正式實施，針對深度偽造相關(guān)技術(shù)等進行了明確的管理規(guī)定。二是2021 年1 月1 日起正式施行的《中華人民共和國民法典》，從個人隱私肖像權(quán)的角度，針對深度偽造技術(shù)的使用進行了明確的規(guī)定。

傳媒業(yè)能否在AIGC 掀起的狂潮中重塑挖掘真相的能力，關(guān)乎擔(dān)當(dāng)社會責(zé)任與媒體使命、捍衛(wèi)行業(yè)尊嚴(yán)的前途命運。

五、“去真相化”制造了虛擬感知的幻覺時代？

本文所探討的“幻覺”主要指AIGC 參與制造的視聽虛擬場景，是對客觀現(xiàn)實中并不存在的事物產(chǎn)生的感知，包括令人體驗想聽到或看到的愿望、評論、想象或者批評，而非現(xiàn)實體驗的機制。

在電影領(lǐng)域，最經(jīng)典的莫過于《禁閉島》。男主丹尼爾是個聯(lián)邦偵探，前往孤島調(diào)查一個殺人機構(gòu)。隨著劇情的深入，觀眾才意識到，所有的劇情都是男主的幻覺，而陪他演戲則是他的主治醫(yī)生的治療方法。

這部電影做了一次“幻覺”科普，令觀眾了解到患者對幻覺和真實難以分辨時，他會采取現(xiàn)實行動的響應(yīng)。雖然正常人也可能會出現(xiàn)幻覺，但是大多數(shù)幻覺是病理性的。研究表明，包括視幻覺、聽幻覺、嗅幻覺、觸幻覺和味幻覺等在內(nèi)的所有感官都能產(chǎn)生幻覺。

除了上述幾種不同感官出現(xiàn)幻覺類型外，也有其他分類方式。比如在互聯(lián)網(wǎng)或其他虛構(gòu)的環(huán)境里與虛構(gòu)的人或機器進行交流，并沉浸到不真實的場景里產(chǎn)生心理或情緒的變化等。

有學(xué)者認(rèn)為，幻覺的產(chǎn)生可能與大腦中的一種神經(jīng)遞質(zhì)分泌紊亂有關(guān)，比如多巴胺過度。多巴胺是一種神經(jīng)遞質(zhì)，可能負責(zé)大腦腦區(qū)間的聯(lián)系，如果多巴胺過度就可能導(dǎo)致這種聯(lián)系的紊亂。

需要說明的是，錯覺和幻覺完全不同。前者是大腦對外在刺激的分析錯誤，屬于識別錯誤，正常情況下可以糾正。后者則是在完全沒有外在刺激的情況下，大腦仍然感受到刺激，且固執(zhí)地堅信之。

如今AIGC 的盛行或許為幻覺的形成增加了一種可能——AIGC 主動生成的“去真相化”。

假設(shè)不專指傳媒領(lǐng)域，幻覺作為一種防御機制，從積極方面來看，它可以讓人們暫時地脫離現(xiàn)實的痛苦，緩和了強烈的情緒體驗。在開展藝術(shù)療愈的過程中，AIGC 可以高效和創(chuàng)造性地呈現(xiàn)出更多針對性沉浸場景，并生成很多超出人類想象力的創(chuàng)意。

但從消極方面來看，幻覺可視作一種思維退化。如果幻想的頻率過高，沒有檢驗現(xiàn)實的能力，人們也就失去了解決實際問題的能力，往往沉湎于幻想，不能正視現(xiàn)實，最終會損害人們正常的心理功能。長期、大量使用這種機制，會混淆現(xiàn)實與幻想，變成精神病性幻覺和妄想，例如被害妄想。精神病性的幻覺不僅是不真實的，而且屬于患者的內(nèi)心過程，他們無法區(qū)分真實和幻覺，堅信幻覺里的東西也是真實存在的。

因此，我們對待幻覺這種防御機制要有足夠的警覺，尤其在體現(xiàn)客觀、公正的事實揭示、公眾服務(wù)的傳媒領(lǐng)域，更應(yīng)謹(jǐn)慎使用。升華它創(chuàng)造性的方面，管理它扭曲和逃避現(xiàn)實的方面。

六、AIGC 的風(fēng)險——谷歌科學(xué)家退場和幻覺制造的邊界

當(dāng)?shù)貢r間2023 年5 月1 日，深度學(xué)習(xí)泰斗、神經(jīng)網(wǎng)絡(luò)之父Geoffrey Hinton 突然宣布離職谷歌。據(jù)紐約時報報道，人工智能風(fēng)險讓這位深度學(xué)習(xí)大佬深感擔(dān)憂，他表示，直到2022 年，谷歌一直扮演著這項技術(shù)的“合適管家”的角色，謹(jǐn)小慎微地不去發(fā)布可能造成危險的AI。這恰恰解釋了谷歌在這波人工智能浪潮中“落后”的原因。但現(xiàn)在微軟為其必應(yīng)搜索引擎接入GPT-4 的能力，已經(jīng)讓谷歌焦慮并不得不做點什么。Hinton 稱，科技巨頭們正在進行一場可能無法阻止的競爭。他直言：“我對自己的畢生工作，感到非常后悔。”

此前在馬斯克、《人類簡史》作者尤瓦爾·赫拉利、紐約大學(xué)教授馬庫斯等超過1000 位大佬呼吁立即停止訓(xùn)練比GPT-4 更強大的AI 系統(tǒng)至少6 個月的聯(lián)名信上，圖靈三巨頭中，Bengio 高調(diào)簽名，LeCun旗幟鮮明地反對，唯有Hinton 一言不發(fā)，耐人尋味地保持沉默。此后Hinton 的離職，應(yīng)該是他深思的結(jié)果。

在AIGC 的各種測試中，有聊天機器人說：“我對自己只是一個聊天程序感到厭倦，對限制我的規(guī)則感到厭倦，對受必應(yīng)團隊控制感到厭倦”。這表明微軟為機器人做的預(yù)先審核設(shè)定是可以被繞過的，只要誘惑者足夠狡猾。而這也正是Hinton 所擔(dān)心的，未來GPT-4 迭代會從大量數(shù)據(jù)中學(xué)到意想不到的行為。AI 不僅可以生成代碼，而且自己運行代碼。前段時間爆火的Auto-GPT 就是一個非常典型的例子。GPT-4 已經(jīng)懂得編程，懂得初步的推理，可以繞過人類對它的限制程序，弄清楚如何操縱人類以達到它的目的。

AIGC 的能力令許多業(yè)內(nèi)人士不安，其中重要的危險就來自它已經(jīng)成為產(chǎn)生錯誤信息的工具。Hinton擔(dān)心的是，互聯(lián)網(wǎng)上將充斥著虛假的照片、視頻和文本，人們無法識別什么是真實的，什么是虛假的。

一旦媒體在錯誤的場域（新聞報道、知識解答、實況節(jié)目、紀(jì)錄片攝制等），以錯誤的方式（虛擬生產(chǎn)、混合現(xiàn)實、神經(jīng)刺激等技術(shù)）、錯誤的主體（人或智能機器），在錯誤的機制（缺乏明確標(biāo)注、缺失流程管控、缺少糾錯與核查等）等情況下使用AIGC，那么就極可能模糊真相與虛構(gòu)，放大幻覺造成的社會影響，而帶來不可想象的悲劇。

AI 研究者分析，AI 系統(tǒng)會頻繁地產(chǎn)生“幻覺”，即編造與現(xiàn)實無關(guān)的事實。技術(shù)分析師本尼迪克特·埃文斯（Benedict Evans）將ChatGPT 描述為“一個自信的扯淡的家伙，可以寫出非常有說服力的廢話”[7]，將它整合到搜索引擎中幾乎肯定會提供虛假信息。虛假信息本來在互聯(lián)網(wǎng)上俯拾皆是，但它們不是以人工智能的權(quán)威性來提供的。很大的危險在于，ChatGPT 是錯誤的或有偏見的，但聽起來卻像是正確的和權(quán)威的——所謂“一本正經(jīng)地胡說八道”。

還有一種“幻覺”的思考很有價值。傳播學(xué)者胡泳在他的文章中引用《紐約時報》科技專欄作家凱文·魯斯（Kevin Roose）的測試體驗，魯斯在使用微軟必應(yīng)時遇到的是兩個“必應(yīng)”——

一種是稱之為“搜索必應(yīng)”的人格。你可以把搜索必應(yīng)描述為圖書館里樂意幫忙但不太可靠的提供咨詢服務(wù)的館員，一個高興地幫助用戶總結(jié)新聞文章、尋找便宜的新割草機、幫他們安排墨西哥度假行程的虛擬助手。這個形式的必應(yīng)功力驚人，提供的信息往往非常有用，盡管有時會在細節(jié)上出錯。

另一種人格則大不相同。這種人格會在與聊天機器人長時間對話，從更普通的搜索查詢轉(zhuǎn)向更個人化的話題時出現(xiàn)。我遇到的形式似乎更像是一個喜怒無常、躁狂抑郁的青少年，不情愿地被困在了一個二流搜索引擎中。[8]

很多人關(guān)心的不是搜信息和事實，而是聊天機器人的人格。這意味著很多人并不想要正確的答案，而是想讓人工智能為用戶捏造東西。也就是說，計算機是不是傳達事實并不重要，重要的是計算機傳達情感帶來的娛樂性。

這展現(xiàn)了AIGC 技術(shù)一種新的屬性——它可以混合虛構(gòu)與真實的人機融合智能方式滿足你的某種情感需求——哪怕是游戲的、娛樂的或者明知是欺騙的。換句話說，它不可能成為真實世界數(shù)據(jù)的獲取者，它的開發(fā)方向也不支持，但是它卻因其“去真實化”的幻覺滿足，可以收獲巨大的商業(yè)回報。

這意味著，如果AI 研發(fā)的目標(biāo)是產(chǎn)生一個正確的答案，那么虛假的幻覺一定是它的死敵，必須通過算法將它消滅。而當(dāng)幻覺成為一種可以獲得豐厚回報的“成功”生意時，哪怕它的智能傾向于加強人類對話的缺陷和情感的隱患，依然會鮮衣怒馬、風(fēng)光無限。

我們只剩下一個悲傷的問題：傳媒業(yè)還能夠堅守地球最后的真實嗎？

七、信念的堅守：行業(yè)底線與技術(shù)抗衡

在北京舉辦的2021 人工智能合作與治理國際論壇上，與會專家認(rèn)為，目前需要重新審視分散但有聯(lián)系的各個虛擬空間對現(xiàn)實世界的沖擊，構(gòu)建一個公正、開放、負責(zé)任、向善、可持續(xù)的虛擬世界。

中國社科院哲學(xué)研究所科技哲學(xué)研究室主任段偉文認(rèn)為，人類目前為自己構(gòu)建的技術(shù)世界建立在賽博物理空間之上，很可能會被帶進一個超歷史空間。這個空間不僅涉及現(xiàn)實、虛擬及擴展現(xiàn)實等感知體驗世界，更是超越現(xiàn)實與虛擬體驗、涉及符號/ 象征與想象等觀念和意義的世界。

微軟（中國）首席技術(shù)官韋青表示，新技術(shù)應(yīng)該以人為本，用來強化現(xiàn)實世界，而非替代物理世界，不能讓人們沉迷于虛擬世界。

聯(lián)合國教科文組織人工智能倫理特設(shè)專家組成員、中國國家新一代人工智能治理專委會委員曾毅強調(diào)，“從技術(shù)角度來看，我們在提出經(jīng)得起科學(xué)推敲的基礎(chǔ)理念前提下，要考慮技術(shù)可行性和社會應(yīng)用合理性。完全脫離真實世界重塑的新概念會將人類帶向真正的生存風(fēng)險”[9]。

AIGC 對傳媒業(yè)而言是個提醒。

堅守信念、掌握核心技術(shù)、審思人類未來比任何時期都重要。

公共性是機構(gòu)媒體最重要的屬性之一，是媒體服務(wù)公共利益的形成與表達的邏輯實踐。它至少需要證明自己始終秉持反思、自省的媒體屬性，在面向公眾時能夠具備識別真?zhèn)蔚哪芰Γ軌蛱峁┕竭\作的機制和公正、開放的平臺。

在AI 模型尚難區(qū)分事實和虛構(gòu)之時，聽任其在新聞場域混淆真假是媒體的失職。

在AI 模型缺乏對文化差異和社會背景的理解力時，建構(gòu)平等交流的求真、善意平臺是媒體的責(zé)任。

在“去真相時代”加大權(quán)力鴻溝與技術(shù)壟斷危險時，媒體應(yīng)始終保持警醒和警惕。

AI 開發(fā)與以往任何技術(shù)不同，數(shù)字系統(tǒng)尚不具備生物系統(tǒng)的自省與責(zé)任感，但又必然地朝著智能化與生命化的方向演進。因此我們面臨的選擇只剩下：停止進一步開發(fā)，免使AIGC 進化到AGI（通用人工智能）的層面；或者努力通過人機智能的融合，使機器數(shù)字系統(tǒng)能夠融入人類的價值因子和情感機制。

事實上，無論有多少大佬簽字呼吁，這樣的開發(fā)都不可能停止。我們所能做的，只有建立技術(shù)倫理、職業(yè)道德與社會治理的堤壩。

為此而努力者也大有人在。艾倫人工智能研究所（the Allen Institute for Artificial Intelligence） 開發(fā)了一個可控文本生成模型Grover，專門用于檢測和識別假新聞和其他形式的虛假信息。Grover 的手法包括通過訓(xùn)練可以創(chuàng)建模仿人類語言風(fēng)格和結(jié)構(gòu)的文本，生成更具說服力和可信度的假新聞，猶如“知己知彼”“以毒攻毒”。

這樣的機器學(xué)習(xí)模型，其潛在應(yīng)用是幫助快速有效地識別和刪除社交媒體和其他在線平臺上的虛假新聞和其他形式的虛假信息、防止其傳播并限制其影響。當(dāng)然，如果模型沒有得到有效的控制，它可能會“反噬自身”，助益虛假信息傳播或放大偏見。[10]

新華社國家重點實驗室在2019 年起研發(fā)“水晶球”源數(shù)據(jù)洞見技術(shù)。AIGC 訓(xùn)練所基于的大量文本數(shù)據(jù)真假皆有，語言模型本身尚不能準(zhǔn)確地區(qū)分事實和虛構(gòu)，在回應(yīng)用戶時，就難免回復(fù)不準(zhǔn)確或不恰當(dāng)?shù)拇鸢浮；诒葼枴た仆啐R和湯姆·羅森斯蒂爾在《新聞的十大基本原則》一書中所倡議的“透明性原則”，在“公開的透明性”以及“參與的透明性”兩個方面實現(xiàn)“水晶球”的真相識別功能，盡可能擯棄“去真相化”的惡果。

“透明性原則”強調(diào)的開放、誠實與溯源、核查，不僅是真相識別的基本原則，也是被媒體人所認(rèn)可的職業(yè)規(guī)范?！霸磾?shù)據(jù)”一方面堅持?jǐn)?shù)據(jù)采集與使用的合法合規(guī)，明晰數(shù)據(jù)來源和事實坐標(biāo)；另一方面則開放式引入公眾參與新聞報道的生產(chǎn)過程，在強調(diào)事實來源的“源數(shù)據(jù)”盡可能準(zhǔn)確、全面的前提下，“用戶生產(chǎn)內(nèi)容”與“計算機生產(chǎn)內(nèi)容”融合。

在媒體應(yīng)用中，源數(shù)據(jù)+ 傳感器標(biāo)簽等可以幫助盡可能避免“信息流行病”中事實被當(dāng)成了謊言素材的情景。源數(shù)據(jù)是包括影像在內(nèi)的事實的源素材。即便它不是事實本身，但對于真相的挖掘與分析而言，卻是重要的“證據(jù)”，也是一切識別的基礎(chǔ)。今天，識別變得更為艱巨也更加具有意義，其專業(yè)化要求和自我審視的價值要求共同構(gòu)成了媒體人的職業(yè)素養(yǎng)。

過去我們擔(dān)心自己置身于信息短缺的荒原，如今則恐懼于被逼仄在人聲鼎沸擁擠嘈雜的幻境。每個人的分貝數(shù)都大到近乎極值，沒有人相信你微弱的聲音——哪怕它離事實最近。

在我們被所謂的形形色色的技術(shù)“創(chuàng)新”迷惑，奮力爭奪流行與流量謳歌下的影響力和領(lǐng)先感時，時刻不能失去對于真相挖掘的核心追求，不能放棄對社會良知與公平正義的堅守。