許 靜 劉 欣 蔣雪穎

(北京大學(xué) 新聞與傳播學(xué)院,北京 100089)

生成式人工智能(Generative Artificial Intelligence)是基于生成對(duì)抗網(wǎng)絡(luò)、大型預(yù)訓(xùn)練模型等,對(duì)既有數(shù)據(jù)進(jìn)行機(jī)器學(xué)習(xí),生成人類可識(shí)別的文本、圖像、語音等內(nèi)容,實(shí)現(xiàn)與人類的交互式協(xié)作的技術(shù)。它顛覆了人工智能1.0時(shí)期以人為中心的人機(jī)關(guān)系,在人工智能2.0階段,機(jī)器開始以主體的身份參與各種觸達(dá)人類智能活動(dòng)的創(chuàng)造中,其中一個(gè)重要領(lǐng)域便是新聞生產(chǎn)。以《紐約時(shí)報(bào)》、路透社和《華盛頓郵報(bào)》為代表,國外媒體在使用人工智能作為輔助工具方面,已經(jīng)積累了多年經(jīng)驗(yàn)。ChatGPT的橫空出世,加速了國外媒體對(duì)生成式人工智能的應(yīng)用。2023年2月,《人民日報(bào)》、新華社、央視等主流媒體宣布與百度進(jìn)行合作,在人工智能生成內(nèi)容(Artificial Intelligence Generated Content,簡稱AIGC)、大模型等領(lǐng)域進(jìn)行探索;上海報(bào)業(yè)集團(tuán)旗下澎湃新聞、重慶日報(bào)報(bào)業(yè)集團(tuán)旗下上游新聞、《每日經(jīng)濟(jì)新聞》等117家媒體宣布接入由百度研發(fā)的“文心一言”,積極擁抱新一輪的產(chǎn)業(yè)升級(jí)。生成式人工智能正在重構(gòu)當(dāng)下的新聞生產(chǎn)模式和產(chǎn)業(yè)鏈結(jié)構(gòu),給新聞生產(chǎn)者的主體地位、新聞生產(chǎn)的內(nèi)容、新聞的傳播形式、受眾對(duì)新聞的接收與反饋等帶來革命性的影響。

國內(nèi)學(xué)界從不同維度對(duì)人工智能技術(shù)與新聞業(yè)之間的關(guān)系進(jìn)行了理論探討。一是在線性歷史觀視角下,對(duì)人工智能融入新聞業(yè)的進(jìn)程進(jìn)行考察,將其劃分為不同階段,如新聞寫作機(jī)器人階段、智能算法推送階段、元宇宙新聞階段、人工智能生成內(nèi)容新聞階段[1]35等,分析人工智能技術(shù)在不同階段對(duì)新聞業(yè)產(chǎn)生的影響。但實(shí)際上被劃分出來的階段之間并非線性取代關(guān)系,而是存在一定的重疊遞進(jìn)。例如,寫作機(jī)器人與算法推薦的重疊,寫作機(jī)器人與人工智能生成內(nèi)容之間也存在概念含混等問題,這均反映出線性歷史觀作為方法的局限性。二是聚焦國內(nèi)新聞媒體的人工智能實(shí)踐,以案例研究為方法,從當(dāng)下具體新聞實(shí)踐出發(fā),考察智能傳播的轉(zhuǎn)型迭代與生態(tài)重構(gòu)[2]97。這類探索忽略了對(duì)人工智能技術(shù)有著廣泛和前沿應(yīng)用的國外新聞媒體的實(shí)踐案例。在技術(shù)全球性流動(dòng)的當(dāng)下,以國際化視野探索生成式人工智能與新聞生產(chǎn)的未來道路更具有前瞻意義,能為我國新聞業(yè)發(fā)展帶來更多啟示。三是從“人機(jī)關(guān)系”出發(fā),將人類與機(jī)器共同置于主體地位,關(guān)注人機(jī)協(xié)同下的內(nèi)容生產(chǎn)問題[3]2、考察智能主播的數(shù)字實(shí)踐與情感轉(zhuǎn)向[4]66等?，F(xiàn)有研究多選取新聞生產(chǎn)中的某一環(huán)節(jié),對(duì)人類主體和機(jī)器主體的耦合狀況、潛在倫理風(fēng)險(xiǎn)等問題進(jìn)行考察,在一定程度上缺乏整體性的觀照,尚未系統(tǒng)分析生成式人工智能對(duì)新聞生產(chǎn)主體、生產(chǎn)內(nèi)容、傳播渠道及受眾接收與反饋等環(huán)節(jié)的影響和滲透。本研究延續(xù)“人機(jī)關(guān)系”這一研究取向,選取國外新聞媒體生成式人工智能前沿應(yīng)用實(shí)踐案例進(jìn)行分析,旨在彌補(bǔ)現(xiàn)有實(shí)踐及理論的不足,為我國新聞生產(chǎn)實(shí)踐探尋人機(jī)關(guān)系新的可能性,同時(shí)為建構(gòu)可持續(xù)的人機(jī)共生新聞生態(tài)探索倫理治理路徑。

一、從人機(jī)關(guān)系到人機(jī)耦合的理論進(jìn)展

人機(jī)關(guān)系通常是指人類與機(jī)器交互的一般性概念,強(qiáng)調(diào)人類與機(jī)器之間關(guān)系的性質(zhì)和質(zhì)量,可以是合作、競爭,甚至對(duì)抗的。進(jìn)一步而言,從簡單的工具使用到更高級(jí)的合作形式,人機(jī)關(guān)系中可以包括“人-機(jī)”之間各種層次的互動(dòng),但未必意味著互動(dòng)的高度整合或相互依賴。

隨著數(shù)字智能時(shí)代的到來,物聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算、人工智能等技術(shù)已成為社會(huì)基礎(chǔ)設(shè)施,包圍和滲透進(jìn)入人們的日常生活,對(duì)于“人-機(jī)”的觀念也從友好論、敵對(duì)論,逐漸轉(zhuǎn)向協(xié)同論,即一種關(guān)注人類與機(jī)器相互依存、相互作用、共同進(jìn)化的價(jià)值取向[5]10。在這種理論關(guān)切下,關(guān)注人與機(jī)器結(jié)合程度的“耦合”概念被引入討論。耦合概念最初誕生于系統(tǒng)論,主要用于描述工業(yè)化和自動(dòng)化過程中各個(gè)物理系統(tǒng)或系統(tǒng)內(nèi)要素之間的相互關(guān)系。人機(jī)耦合明確強(qiáng)調(diào)了人類與機(jī)器之間協(xié)同合作且相互依賴、共生共存的關(guān)系,并以建構(gòu)和諧、可持續(xù)的未來人機(jī)生態(tài)為理論目標(biāo)。

新聞生產(chǎn)在人類社會(huì)活動(dòng)中有著特殊的地位,是人類建構(gòu)現(xiàn)實(shí)、理解世界的重要途徑。在新聞生產(chǎn)的奠基之作《做新聞》中,塔奇曼指出,新聞的生產(chǎn)不是在真空里完成的,首先,它是新聞從業(yè)者集體性的協(xié)商活動(dòng),在此過程中賦予日常發(fā)生的事件以“新聞價(jià)值”;其次,它依靠新聞從業(yè)者的專業(yè)精神和以此形成的機(jī)構(gòu)程序[6]38。塔奇曼將新聞生產(chǎn)的主體置于最核心的位置,不論是機(jī)構(gòu)流程還是關(guān)于專業(yè)精神或新聞價(jià)值的觀念,均由“主體”生發(fā)而來。傳統(tǒng)新聞生產(chǎn)是從記者、編輯等生產(chǎn)主體出發(fā),經(jīng)過選題策劃、采訪寫作、編輯、審校等內(nèi)容生產(chǎn)環(huán)節(jié),再通過“把關(guān)”進(jìn)入大眾傳播環(huán)節(jié),最終呈現(xiàn)在受眾面前。

數(shù)字智能時(shí)代,生成式人工智能作為一項(xiàng)顛覆性技術(shù)與新聞生產(chǎn)的相互作用已經(jīng)貫穿其全部環(huán)節(jié)(如圖1所示),從技術(shù)手段向技術(shù)模式轉(zhuǎn)型[7]43。本研究分別從圍繞生產(chǎn)主體進(jìn)行的生產(chǎn)側(cè)和圍繞受眾主體進(jìn)行的傳播側(cè),對(duì)人機(jī)耦合關(guān)系類型進(jìn)行劃分。首先,將內(nèi)容生產(chǎn)側(cè)的耦合關(guān)系定義為一種人機(jī)協(xié)同,并將其劃分為決策層面的“人-機(jī)”主體耦合和文本層面的“專業(yè)生成內(nèi)容-人工智能生成內(nèi)容”的文本耦合,以及把關(guān)層面的權(quán)力耦合;其次,將傳播側(cè)的耦合關(guān)系定義為一種人機(jī)互動(dòng),即生成式人工智能與受眾之間的界面耦合。

圖1 生成式人工智能在新聞生產(chǎn)中的人機(jī)耦合關(guān)系示意圖

二、“人機(jī)協(xié)同”下的新聞生產(chǎn)變革

布爾迪厄?qū)⑿侣勆a(chǎn)視作一個(gè)社會(huì)空間中的“場域”,認(rèn)為新聞場域的自治程度較低,容易受到政治和經(jīng)濟(jì)兩個(gè)相鄰場域的影響[8]8。數(shù)字智能時(shí)代,技術(shù)也成為推動(dòng)新聞場域變革的重要力量,加劇了新聞場域的他律化?！叭藱C(jī)協(xié)同”下生成式人工智能對(duì)新聞生產(chǎn)的選題、采編、把關(guān)這三個(gè)重要環(huán)節(jié)產(chǎn)生了深刻的影響。

(一)選題策劃階段的主體耦合:從人力決策到人機(jī)決策

在傳統(tǒng)新聞生產(chǎn)中,新聞工作者依靠個(gè)體專業(yè)訓(xùn)練和職業(yè)經(jīng)驗(yàn)在社會(huì)信息中迅速判斷具有新聞價(jià)值的事件。但由于人類直覺和觀察的有限性,要在繁雜的社會(huì)信息環(huán)境中迅速發(fā)現(xiàn)新聞線索并作出判斷,存在一定的困難和偶然性。人工智能融入新聞生產(chǎn)的第一步,便是由新聞機(jī)器人充當(dāng)收集和發(fā)現(xiàn)新聞線索的“信息雷達(dá)”,代替新聞工作者“新聞眼”的個(gè)體專業(yè)經(jīng)驗(yàn),以數(shù)據(jù)和程序?yàn)轵?qū)動(dòng)力,通過監(jiān)控社交媒體熱點(diǎn)、分析流行話題、掃描數(shù)據(jù)集,利用算法來定義并識(shí)別有新聞價(jià)值的事件,向編輯部推薦新聞選題。生成式人工智能不僅是一種尖端技術(shù),還是一個(gè)不同應(yīng)用的集合,可以幫助記者應(yīng)對(duì)過量的信息。它與記者、編輯的主體耦合方式有三種。第一,補(bǔ)充式。生成式人工智能能夠幫助記者和編輯發(fā)現(xiàn)以往被忽略的選題,充當(dāng)“故事警報(bào)”,彌補(bǔ)編輯的“盲點(diǎn)”,補(bǔ)充那些可能被錯(cuò)過的線索。國外媒體“聯(lián)合機(jī)器人”(United Robot)從美國青少年初級(jí)曲棍球的比賽中自動(dòng)篩選出一支在40場比賽中首次獲勝的球隊(duì),由此找到了報(bào)道的新穎視角。第二,替代式。生成式人工智能可以自動(dòng)收集新聞線索。瑞典媒體“NTM集團(tuán)”(NTM Group)設(shè)有專門負(fù)責(zé)交通工作的機(jī)器人,能即時(shí)提醒記者某地發(fā)生的事故,生成文本并上傳到內(nèi)容管理系統(tǒng)中。記者們不用再依賴當(dāng)?shù)卣碾娮余]件來撰寫交通新聞。第三,共生式。生成式人工智能在與記者的協(xié)同合作中,逐漸“學(xué)習(xí)”記者的偏好,在新聞生產(chǎn)過程中可以基于既往數(shù)據(jù)提醒記者探索可能感興趣的選題。NTM集團(tuán)有專門處理房地產(chǎn)資訊的新聞機(jī)器人,比如它發(fā)現(xiàn)某處房產(chǎn)在6個(gè)月內(nèi)被交易了4次,且價(jià)格不斷在上漲,這為記者提供了有趣且新穎的選題。

(二)采編階段的文本耦合:從專業(yè)生產(chǎn)內(nèi)容到人工智能生成內(nèi)容的融合

隨著自然語言生成技術(shù)、大模型研發(fā)及訓(xùn)練在人工智能領(lǐng)域的突破性進(jìn)展,新聞寫作機(jī)器人可通過特定類型新聞模板(如體育、財(cái)經(jīng)等),將結(jié)構(gòu)化的數(shù)據(jù)轉(zhuǎn)化為敘述性文本,傳統(tǒng)新聞生產(chǎn)時(shí)期由記者和編輯進(jìn)行專業(yè)內(nèi)容生產(chǎn)的局面被打破。生成式人工智能將數(shù)據(jù)讀入、算法測量、框架選擇、要素補(bǔ)充、語言潤色等步驟作為至關(guān)重要的環(huán)節(jié)參與敘事,以計(jì)算能力和文本理解能力建構(gòu)敘事,取代了傳統(tǒng)視野下作為敘事核心策略的修辭手法和故事化技巧[9]13。

生成式人工智能可以幫助自動(dòng)生成標(biāo)準(zhǔn)化的文本,比如創(chuàng)建新聞大綱、優(yōu)化標(biāo)題、生成新聞導(dǎo)語、生成采訪問題、解釋概念和總結(jié)報(bào)道等。2023年3月27日正式上線的“新聞GPT”(NewsGPT),是世界上首個(gè)完全由人工智能生成新聞的網(wǎng)站。平臺(tái)通過驅(qū)動(dòng)和訓(xùn)練不同數(shù)據(jù)集,使每篇文章都融合了不同角度的信息。在效率方面,生成式人工智能得益于強(qiáng)大的數(shù)據(jù)庫信息,以及持續(xù)且自主地收集、處理和分析數(shù)據(jù)的能力,可以在短短幾秒鐘內(nèi)完成新聞撰寫,在應(yīng)對(duì)突發(fā)性報(bào)道時(shí)具有顯著優(yōu)勢。在準(zhǔn)確性方面,生成式人工智能以數(shù)據(jù)和技術(shù)驅(qū)動(dòng)為中心,有助于降低傳統(tǒng)新聞生產(chǎn)過程中的主觀性因素。除此之外,生成式人工智能擅長可量化和可視化的數(shù)據(jù)報(bào)道,化繁為簡,有助于人們更為直觀地理解數(shù)據(jù)的意義。

在傳統(tǒng)的新聞通訊社模式下,新聞本地化的改編需要耗費(fèi)較高成本。在生成式人工智能的幫助下,編輯可以自動(dòng)創(chuàng)建本地化的新聞,極大地提升工作效率。英國媒體“雷達(dá)”(RADAR)是全球首家自動(dòng)化生產(chǎn)本地新聞的媒體機(jī)構(gòu),它結(jié)合了人工智能和傳統(tǒng)的新聞報(bào)道,為地方媒體提供數(shù)據(jù)驅(qū)動(dòng)的新聞。“雷達(dá)”的記者制作了標(biāo)準(zhǔn)模板,為每個(gè)地區(qū)的新聞報(bào)道提供改編版本。例如,一個(gè)關(guān)于刀具犯罪的故事,可能有三個(gè)新聞模板:第一個(gè)是針對(duì)刀具犯罪下降地區(qū)的新聞模板;第二個(gè)是針對(duì)刀具犯罪上升地區(qū)的新聞模板;第三個(gè)是針對(duì)刀具犯罪達(dá)到歷史最高水平的地區(qū)的新聞模板。通過挖掘數(shù)據(jù)集,“雷達(dá)”可以為不同區(qū)域生成特定版本,如果新聞發(fā)生在英國,它可以生成400個(gè)版本,為本地讀者改編個(gè)性化的故事。

(三)把關(guān)階段的權(quán)力耦合:從“嚴(yán)把關(guān)”到“巧指路”

“把關(guān)”是新聞生產(chǎn)流程中的重要環(huán)節(jié),原指紙媒時(shí)代大眾傳媒對(duì)新聞采集、制作、分發(fā)過程的篩選與控制[10]384?！鞍殃P(guān)”通過篩選新聞內(nèi)容、調(diào)控新聞流通,在一定程度上影響著受眾對(duì)社會(huì)和世界的認(rèn)知。具體而言,把關(guān)在新聞生產(chǎn)中主要體現(xiàn)為信息審核和價(jià)值引導(dǎo)。

1.新聞把關(guān)權(quán)力的讓渡

在實(shí)踐中,新聞寫作機(jī)器人生成的內(nèi)容可通過人工編輯的審核后發(fā)布。在特定類型的新聞報(bào)道中,生成式人工智能可自動(dòng)撰寫并發(fā)布新聞,無須人工審核,也可選擇在發(fā)布后通知編輯,這就要求高度信任人工智能技術(shù)的準(zhǔn)確性和可靠性。生成式人工智能驅(qū)動(dòng)的新聞網(wǎng)站“生成新聞社”(Generative Press),其內(nèi)容完全由四位個(gè)性鮮明的人工智能記者生成,這四位記者分別是:杰克·瑞安(Jake Ryan),一位13歲的直言不諱的記者;阿什利·梅根-格蕾絲(Ashley Megan-Grace),一位年輕的嶄露頭角的記者;馬謝爾·拉多(Machel Raddow),一位受過良好教育、博覽群書的自由派記者;還有庫克·塔爾森(Cucker Tarlson),一位稍顯粗魯、嚴(yán)肅的保守派記者?！吧尚侣勆纭辈杉铺仄脚_(tái)認(rèn)證的職業(yè)記者推文,以及熱門新聞網(wǎng)站的資訊,來生成新聞文章,并按照不同記者的人設(shè)來調(diào)整新聞的話語風(fēng)格。該網(wǎng)站沒有人工干預(yù)或編輯團(tuán)隊(duì)參與,完全實(shí)現(xiàn)自動(dòng)化的新聞生產(chǎn)。

2.新聞把關(guān)價(jià)值的多元化與增量

把關(guān)權(quán)力在“人-機(jī)”主體之間的位移,帶來的是把關(guān)標(biāo)準(zhǔn)的多元化。在傳統(tǒng)媒體時(shí)代,把關(guān)人基于專業(yè)精神,對(duì)信息是否流入社會(huì)作出價(jià)值判斷。然而,當(dāng)把關(guān)權(quán)讓渡給生成式人工智能,把關(guān)標(biāo)準(zhǔn)發(fā)生了變化,不再局限于人類對(duì)新聞價(jià)值的判斷,而是側(cè)重算法驅(qū)動(dòng)下的基于廣泛消息源與用戶瀏覽習(xí)慣的推送機(jī)制。這種由生成式人工智能決策的把關(guān)對(duì)用戶特征、內(nèi)容喜好、知識(shí)結(jié)構(gòu)、接收場景等進(jìn)行精準(zhǔn)分析和算法推送,解決了以往信息和人的需求不適配、信息傳播大水漫灌精準(zhǔn)度不高的問題[11]76。在去人類主觀化的把關(guān)過程中,生成式人工智能改變了以往記者和編輯對(duì)信息流動(dòng)的絕對(duì)控制權(quán),實(shí)現(xiàn)了信息間的重組與聯(lián)結(jié),帶來信息意義與新聞價(jià)值的增量,傳播效果從“嚴(yán)把關(guān)”轉(zhuǎn)向“巧指路”,增強(qiáng)了主流價(jià)值觀的引導(dǎo)力。

3.把關(guān)機(jī)制中人機(jī)關(guān)系的調(diào)和

由于生成式人工智能的出現(xiàn),大語言模型生成內(nèi)容的不確定性和真實(shí)性無法得到保證,需要在審核端建立更為嚴(yán)謹(jǐn)?shù)男侣剬徯Ｖ贫?。一方?新聞機(jī)構(gòu)需要審核人工智能生成內(nèi)容的合法性,將社會(huì)效益置于首位;另一方面,新聞機(jī)構(gòu)需要審核人工智能生成新聞的準(zhǔn)確性,避免基于概率計(jì)算而產(chǎn)生的事實(shí)錯(cuò)誤,將傳統(tǒng)生產(chǎn)端的把關(guān)環(huán)節(jié)后置到審核端。新聞機(jī)構(gòu)應(yīng)該以負(fù)責(zé)任和符合新聞倫理的方式使用生成式人工智能,并讓其與人類記者合作,以確保新聞的準(zhǔn)確性和可信度。許多媒體都反對(duì)用機(jī)器取代新聞工作者,并強(qiáng)調(diào)使用人工智能生成工具時(shí)個(gè)體決策的重要性。德國記者協(xié)會(huì)稱生成式人工智能等新聞工具為“同事”,即使在未來“人工智能同事”會(huì)改變甚至取代某些工作,決不允許它們?nèi)〈祟愅隆Ｈ祟愋侣劰ぷ髡呷匀恍枰?yàn)證人工智能生成內(nèi)容的準(zhǔn)確性,核對(duì)上下文和背景信息,并對(duì)不適宜報(bào)道的內(nèi)容作出倫理決策,為受眾選擇最重要和最相關(guān)的新聞,在公共話語方面發(fā)揮重要作用。

三、“人機(jī)互動(dòng)”下的新聞分發(fā)創(chuàng)新

新聞分發(fā)是新聞價(jià)值鏈中的重要環(huán)節(jié),隨著生成式人工智能的應(yīng)用,新聞分發(fā)不再是將信息傳遞給受眾的單向機(jī)械過程,而逐漸演化為一個(gè)動(dòng)態(tài)的、交互的、雙向的生態(tài)系統(tǒng)。

(一)以對(duì)話為中心,實(shí)現(xiàn)界面耦合

生成式人工智能以“接口-界面”的技術(shù)和文化邏輯為依托,打破了傳統(tǒng)的靜態(tài)人機(jī)交互行為,以對(duì)話問答為中心,實(shí)現(xiàn)技術(shù)界面與敘事功能的耦合。生成式人工智能的技術(shù)界面包括進(jìn)行敘事歸因、舉證的預(yù)訓(xùn)練界面,調(diào)取敘事要素并將其場景化的大模型訓(xùn)練界面,提供敘事呈現(xiàn)的內(nèi)容生成界面,以及進(jìn)行敘事調(diào)適的再學(xué)習(xí)界面等,不同的技術(shù)界面承擔(dān)不同的敘事功能。用戶與技術(shù)界面的雙向建構(gòu)通過“對(duì)話問答”進(jìn)行,在人機(jī)互動(dòng)中參與改造敘事,拓展自己的觀點(diǎn),形成不同角度的新聞敘事,或從與系統(tǒng)的對(duì)話中形成對(duì)同一新聞故事的不同理解。而技術(shù)界面通過與用戶的對(duì)話學(xué)習(xí)養(yǎng)成,確保用戶獲得他們認(rèn)為重要的新聞,實(shí)現(xiàn)更加人性化的反應(yīng),營造出一種擬人化技術(shù)物的在場感。芬蘭廣播公司YLE研發(fā)的“勝利”(Voitto)智能新聞助手,可以為用戶生成所有芬蘭議員的時(shí)事通信,進(jìn)而形成多重?cái)⑹?用以解釋民主和議會(huì)的運(yùn)作方式,幫助用戶深入了解當(dāng)局如何行使權(quán)力。

(二)以算法為邏輯,精準(zhǔn)適配推薦

生成式人工智能引入“基于人類反饋的強(qiáng)化學(xué)習(xí)”技術(shù),加入用戶反饋數(shù)據(jù),促使生成內(nèi)容與人們的基礎(chǔ)常識(shí)、需求、偏好導(dǎo)向等趨于一致,這將吸引更多的跨界用戶,并因此產(chǎn)生更多的數(shù)據(jù)來增強(qiáng)人工智能的算力,從而形成一種良性循環(huán)[12]56。荷蘭“NRC媒體”(NRC Media)利用人工智能搜集和利用用戶行為數(shù)據(jù)來自動(dòng)創(chuàng)建并發(fā)送午間時(shí)事通訊。NRC媒體每天發(fā)給用戶12則新聞,其中有3則是當(dāng)天的熱門話題,其余9則根據(jù)個(gè)人閱讀歷史進(jìn)行選擇。為了減輕“信息繭房”和“算法成癮”的影響,國外多款生成式人工智能驅(qū)動(dòng)的新聞平臺(tái)搜集多種來源的新聞,比如NOOZ.AI、Artifact、Informed News、Current AI等應(yīng)用,不僅借助生成式人工智能實(shí)時(shí)生成簡潔的新聞?wù)?還由人工編輯進(jìn)行事實(shí)核查,注重從各種來源選擇并匯總最相關(guān)、最豐富的新聞報(bào)道,盡量減輕新聞偏見。英國生成式人工智能新聞機(jī)器人“查理”(Charlie),從多個(gè)渠道搜集某新聞事件的不同信息和觀點(diǎn),對(duì)其內(nèi)容進(jìn)行歸納,并根據(jù)歷史聊天記錄,精準(zhǔn)適配推薦新聞?！安槔怼彼鸭男侣剚碓闯酥髁髅襟w網(wǎng)站外,還囊括各個(gè)報(bào)道領(lǐng)域的小型獨(dú)立出版機(jī)構(gòu),旨在減輕信息繭房的影響。

(三)以情感為導(dǎo)向,建立品牌社區(qū)

生成式人工智能及其強(qiáng)大的語言模型,通過在互動(dòng)中建立品牌社區(qū),不僅可以提高品牌親和力,還可以促成聯(lián)結(jié)趣緣共同體,使自身成為用戶值得信賴的新聞品牌。美國《時(shí)代》周刊建立了時(shí)事通信用戶社區(qū),將單向傳遞的信息轉(zhuǎn)化為互動(dòng)式的對(duì)話,從而加強(qiáng)用戶信任和忠誠度?！稌r(shí)代》周刊在2021年就與谷歌云客戶數(shù)據(jù)平臺(tái)等技術(shù)供應(yīng)商開展合作,在網(wǎng)站上建立推薦引擎,追蹤用戶習(xí)慣,通過嵌入式橫幅廣告、電子郵件等方式向用戶推薦相似的新聞。在生成式人工智能出現(xiàn)后,它計(jì)劃在網(wǎng)站開發(fā)一個(gè)性格開朗的聊天機(jī)器人,能夠詢問用戶想要閱讀或觀看的內(nèi)容?！稌r(shí)代》周刊還利用谷歌云研發(fā)的“推薦人工智能”(Recommendations AI)進(jìn)行了另一種嘗試。當(dāng)用戶試圖更多地了解某個(gè)特定主題的新聞,該技術(shù)能夠?yàn)橛脩籼峁┎煌暯堑膬?nèi)容,從而減輕新聞偏見的影響?！稌r(shí)代》周刊計(jì)劃構(gòu)建更可信、更有價(jià)值的生成式人工智能系統(tǒng),增強(qiáng)用戶與人工智能的互動(dòng),讓讀者知道呈現(xiàn)的內(nèi)容和對(duì)話來自真實(shí)的來源,建立情感聯(lián)結(jié),提高用戶對(duì)新聞品牌的信任度。

四、“人機(jī)共生”下的新聞倫理治理

隨著生成式人工智能應(yīng)用的不斷深化,其作為一種媒介形式在與虛擬現(xiàn)實(shí)技術(shù)結(jié)合后,將形成全新的多模態(tài)智能交互方式。生成式人工智能的技術(shù)機(jī)制塑造了人機(jī)共生的新型關(guān)系,打破了人、機(jī)器與信息資源之間的邊界,重塑了信息資源生成和使用范式[13]32。生成式人工智能影響下的人機(jī)關(guān)系,強(qiáng)調(diào)人與計(jì)算機(jī)的相互融合與協(xié)同,但隨著生成式人工智能在新聞實(shí)踐中的使用越來越廣泛,逐漸出現(xiàn)了新聞倫理失范的風(fēng)險(xiǎn)。人的自主性危機(jī)是人機(jī)共生關(guān)系下的根本性挑戰(zhàn),生成式人工智能對(duì)人類記者腦力勞動(dòng)的替代可能會(huì)產(chǎn)生新的異化,因此需要制定技術(shù)使用原則,審視技術(shù)的價(jià)值與限度。需要關(guān)注生成式人工智能可能引發(fā)的新聞?wù)鎸?shí)性、準(zhǔn)確性和可信度問題,建立對(duì)該技術(shù)的必要規(guī)制,在立足技術(shù)發(fā)展的可能性和人類的倫理價(jià)值立場上進(jìn)行技術(shù)的倫理治理,平衡技術(shù)與生活之間的關(guān)系[14]76。

(一)原則性:制定負(fù)責(zé)任的技術(shù)使用指南

生成式人工智能被泛化為一種形而上的趨勢,技術(shù)的作用被無限擴(kuò)大。我們應(yīng)該清晰地認(rèn)識(shí)人工智能的技術(shù)弊端,認(rèn)識(shí)其可能帶來的風(fēng)險(xiǎn)與危機(jī),掌握其運(yùn)行規(guī)律,審視其價(jià)值與限度。應(yīng)構(gòu)建用戶參與反饋機(jī)制,制定監(jiān)督和審查機(jī)制,強(qiáng)調(diào)新聞機(jī)構(gòu)的社會(huì)責(zé)任,并加強(qiáng)對(duì)其的宣傳引導(dǎo),鼓勵(lì)其主動(dòng)責(zé)任擔(dān)當(dāng),從而形成一套較為全面閉環(huán)的人工智能倫理治理體系,以服務(wù)人的創(chuàng)造性活動(dòng),彰顯人的主體性價(jià)值,最大程度地化解人工智能技術(shù)快速發(fā)展與人們認(rèn)知不足的矛盾,消解智能依賴和智能拜物[15]137。

在歐洲,有多家新聞機(jī)構(gòu),包括英國《衛(wèi)報(bào)》、德國新聞社、法國《巴黎人報(bào)》、荷蘭通訊社等,已經(jīng)制定了生成式人工智能使用指南。在北美,美國新聞媒體聯(lián)盟、加拿大廣播公司等也制定了相應(yīng)的生成式人工智能指南。代表五十多家美國媒體的數(shù)字內(nèi)容國際貿(mào)易協(xié)會(huì)“數(shù)字化內(nèi)容新時(shí)代”(Digital Content Next)發(fā)布了“生成式人工智能的發(fā)展和治理”七項(xiàng)原則以下幾個(gè)方面。第一,生成式人工智能的開發(fā)者和使用者必須尊重創(chuàng)作者對(duì)其內(nèi)容的權(quán)利;第二,出版商有權(quán)就其知識(shí)產(chǎn)權(quán)的使用進(jìn)行談判,并獲得合理補(bǔ)償;第三,版權(quán)法保護(hù)創(chuàng)作者的內(nèi)容不被擅自使用;第四,生成式人工智能系統(tǒng)應(yīng)該對(duì)出版商和用戶透明;第五,生成式人工智能系統(tǒng)的使用者應(yīng)對(duì)系統(tǒng)生成內(nèi)容負(fù)責(zé);第六,生成式人工智能系統(tǒng)不得導(dǎo)致不公平的市場或競爭結(jié)果;第七,生成式人工智能系統(tǒng)應(yīng)保證安全并能解決用戶的隱私風(fēng)險(xiǎn)問題。

在制定技術(shù)準(zhǔn)則時(shí),新聞機(jī)構(gòu)可以參考以往的準(zhǔn)則和規(guī)范,采用風(fēng)險(xiǎn)評(píng)估的方法,提高生成式人工智能準(zhǔn)則的適用性。首先,新聞機(jī)構(gòu)可以審查現(xiàn)有的倫理準(zhǔn)則,將其與生成式人工智能的潛在用途及其可能帶來的風(fēng)險(xiǎn)進(jìn)行逐一對(duì)比,通過系統(tǒng)地梳理新聞業(yè)的核心價(jià)值和原則,對(duì)使用人工智能提出建議。其次,新聞機(jī)構(gòu)應(yīng)當(dāng)根據(jù)現(xiàn)有的價(jià)值觀和目標(biāo),分析、衡量和追蹤生成式人工智能可能造成的風(fēng)險(xiǎn)。例如,為了確保人工智能生成內(nèi)容的準(zhǔn)確性,新聞機(jī)構(gòu)要嚴(yán)格審查作為原始材料的共享文件,并且建立問責(zé)制度。新聞工作者可以通過實(shí)施嚴(yán)格的驗(yàn)證流程,并使用確證和三角測量技術(shù)來驗(yàn)證人工智能生成內(nèi)容。最后,新聞機(jī)構(gòu)應(yīng)該成立由不同利益相關(guān)者組成的小組,以討論和確定指導(dǎo)方針的范圍,反思新聞編輯室可能出現(xiàn)的風(fēng)險(xiǎn)。

(二)真實(shí)性:確保多元參與者的協(xié)同治理

此前,人工智能導(dǎo)致的深度偽造引起了廣泛關(guān)注,如今生成式人工智能進(jìn)一步讓事實(shí)與編造信息難以鑒別。在通用領(lǐng)域,ChatGPT能夠回答大部分的科學(xué)問題,并且克服了交互和表達(dá)的障礙。然而,ChatGPT對(duì)情境性、環(huán)境性和實(shí)時(shí)性的事實(shí)內(nèi)容的把控能力較弱,其概率式的生成性可能導(dǎo)致“一本正經(jīng)地胡說八道”,造成“人工智能幻覺”,容易帶來虛假信息的泛濫,引發(fā)人們質(zhì)疑新聞內(nèi)容和來源的真實(shí)性。為了應(yīng)對(duì)真實(shí)性危機(jī),已有多家媒體宣布禁止使用生成式人工智能生成的逼真圖像;還有媒體采取了人工核查的方式,例如美國廣播公司的視覺驗(yàn)證團(tuán)隊(duì)已經(jīng)開展全天候工作,核查在線視頻的真?zhèn)巍?/p>

真實(shí)性的保障需要多元行業(yè)參與者的協(xié)同治理合作。由Adobe軟件、英特爾、微軟、推特等公司聯(lián)合成立,包括數(shù)百名創(chuàng)作者、技術(shù)人員、記者、活動(dòng)家和領(lǐng)導(dǎo)者參與的一個(gè)聯(lián)合開發(fā)基金會(huì)項(xiàng)目“內(nèi)容來源和真實(shí)性聯(lián)盟(Coalition for Content Provenance and Authenticity)”就是一個(gè)有價(jià)值的嘗試。它的核心架構(gòu)包括四個(gè)主要部分:確證(Assertions)、聲明(Claim)、清單(Manifest)、成分(Ingredients)。確證是關(guān)于數(shù)字資產(chǎn)的標(biāo)記數(shù)據(jù),用于提供有關(guān)數(shù)字資產(chǎn)的基本信息和元數(shù)據(jù),例如數(shù)字資產(chǎn)的作者、創(chuàng)建日期、修改歷史、內(nèi)容摘要等。聲明是一組確證的集合,它們可以組成一個(gè)完整的故事或信息鏈,提供有關(guān)數(shù)字資產(chǎn)更全面和詳細(xì)的信息,以支持?jǐn)?shù)字資產(chǎn)真實(shí)性的驗(yàn)證。清單是聲明的數(shù)字簽名,用于確保聲明的完整性和真實(shí)性。通過數(shù)字簽名,用戶可以驗(yàn)證聲明是否未經(jīng)篡改,確定它來自可信的來源,有助于防止惡意修改或偽造聲明。成分是用于記錄數(shù)字資產(chǎn)來源的元素,它們可以包括數(shù)字資產(chǎn)的原始創(chuàng)作者、編輯歷史、引用的來源等信息,有助于追蹤數(shù)字資產(chǎn)的歷史和源頭,以增強(qiáng)其真實(shí)性和可信度。

內(nèi)容來源和真實(shí)性聯(lián)盟提出了內(nèi)容綁定(Content Bindings)機(jī)制,這是一種將清單與數(shù)字資產(chǎn)相關(guān)聯(lián)的機(jī)制,旨在增強(qiáng)數(shù)字資產(chǎn)的真實(shí)性驗(yàn)證。這個(gè)機(jī)制分為兩種主要類型:硬綁定(Hard Bindings)和軟綁定(Soft Bindings)。硬綁定要求清單與數(shù)字資產(chǎn)之間有嚴(yán)格的物理或計(jì)算關(guān)聯(lián),通過數(shù)字簽名或哈希值功能(Hash Function),提供了更強(qiáng)的安全性。而軟綁定提供了更多的靈活性,從語義角度允許將清單與數(shù)字資產(chǎn)的上下文相關(guān)聯(lián)。內(nèi)容綁定機(jī)制有助于提高數(shù)字資產(chǎn)的可信度,并減少虛假信息的傳播。

整體而言,對(duì)真實(shí)性的治理和監(jiān)管流程可概括為:第一,在創(chuàng)建階段,內(nèi)容創(chuàng)建者使用加密資產(chǎn)哈希算法來生成可驗(yàn)證的、防篡改的簽名。這個(gè)簽名涵蓋了數(shù)字資產(chǎn)本身以及與之相關(guān)的元數(shù)據(jù),以確保數(shù)字資產(chǎn)和元數(shù)據(jù)沒有在不知情的情況下被篡改。內(nèi)容創(chuàng)建者可以選擇是否要附加額外的信息,而且他們可以選擇匿名,以確保隱私和安全。第二,在編輯階段,如果內(nèi)容創(chuàng)建者在編輯過程中使用了圖像修改等工具,那么編輯修改的歷史數(shù)據(jù)將會(huì)被保存和記錄。這有助于追蹤內(nèi)容的編輯歷史以及對(duì)內(nèi)容的任何更改。第三,在出版和共享階段,內(nèi)容發(fā)布者在與出版商的內(nèi)容管理系統(tǒng)中,可以查看元數(shù)據(jù)以及相關(guān)的內(nèi)容編輯歷史。第四,在瀏覽階段,數(shù)字內(nèi)容消費(fèi)者可以通過內(nèi)容來源和真實(shí)性聯(lián)盟研發(fā)工具,來查看元數(shù)據(jù)的歷史信息、驗(yàn)證數(shù)字內(nèi)容的來源和真實(shí)性信息,以確保其可信度。

(三)準(zhǔn)確性:加強(qiáng)人工核查和數(shù)據(jù)把關(guān)

新聞傳媒業(yè)一直以來擔(dān)憂生成式人工智能會(huì)造成新聞準(zhǔn)確性降低的問題。ChatGPT同樣存在認(rèn)知偏差,比如無法很好地理解圖形的美學(xué)特征、缺乏對(duì)多語言和多模態(tài)數(shù)據(jù)的理解、專業(yè)知識(shí)儲(chǔ)備不足、最新前沿科研知識(shí)更新不及時(shí)等。生成式人工智能的準(zhǔn)確性很大程度上取決于其所訓(xùn)練的數(shù)據(jù),如果數(shù)據(jù)存在偏差,則生成的內(nèi)容可能會(huì)有缺陷。事實(shí)上,數(shù)據(jù)是生成式人工智能發(fā)展的基礎(chǔ)和前提條件,數(shù)據(jù)標(biāo)注的過程中蘊(yùn)含了人類的價(jià)值立場和價(jià)值判斷。在超大預(yù)訓(xùn)練模型的邏輯下,機(jī)器可能正在成為人類的“鏡中我”,既反射出人類的智慧、強(qiáng)大與秩序,也投射出人類的無力、狹隘與混沌,影響著人類對(duì)自身主體性的反思與確證。因此,不僅需要關(guān)注生成式人工智能對(duì)新聞準(zhǔn)確性的影響,還需要審慎思考關(guān)于信息的多樣性、客觀性的問題。

許多媒體強(qiáng)調(diào)對(duì)人工智能生成內(nèi)容的人工核查和監(jiān)督的重要性,倡導(dǎo)在發(fā)布前進(jìn)行額外的編輯和事實(shí)檢查,規(guī)定未經(jīng)人工核查不得發(fā)布任何內(nèi)容。新聞機(jī)構(gòu)應(yīng)以人類自身的判斷和專業(yè)知識(shí)對(duì)信息進(jìn)行核實(shí)、檢查和補(bǔ)充,并且始終尊重人類的自主權(quán)和人類決定的首要地位。路透社認(rèn)為,應(yīng)該以公平對(duì)待人類的方式,來開發(fā)和部署人工智能產(chǎn)品和使用數(shù)據(jù),并且發(fā)揮人工監(jiān)督的作用。荷蘭通訊社提出可以使用人工智能系統(tǒng)來支持編輯的工作,但必須由人工進(jìn)行最終審核。荷蘭通訊社將這一過程描述為“人-機(jī)-人”,新聞工作流程必須置于人類監(jiān)督之下。加拿大廣播公司規(guī)定,沒有人類的直接參與和監(jiān)督,不得出版或播出任何新聞報(bào)道。

媒體需要確保數(shù)據(jù)來源的準(zhǔn)確可靠,以此為目標(biāo)建立數(shù)據(jù)質(zhì)量標(biāo)準(zhǔn)的共識(shí),加強(qiáng)對(duì)數(shù)據(jù)質(zhì)量的把關(guān)。北歐國家的新聞機(jī)構(gòu)在人工智能應(yīng)用實(shí)踐方面處于較高水平,這得益于他們擁有大量可公開訪問的、組織良好的數(shù)據(jù),這些數(shù)據(jù)主要來自商業(yè)數(shù)據(jù)公司、地方政府和國家。德國記者協(xié)會(huì)強(qiáng)調(diào)必須準(zhǔn)確地處理數(shù)據(jù),要求數(shù)據(jù)的收集、準(zhǔn)備和分析必須按照高質(zhì)量標(biāo)準(zhǔn)進(jìn)行,及時(shí)糾正數(shù)據(jù)中的不完整、失真等錯(cuò)誤。它還呼吁媒體機(jī)構(gòu)建立獨(dú)立的、以價(jià)值為基礎(chǔ)的數(shù)據(jù)庫,在一定程度上獨(dú)立于大型商業(yè)數(shù)據(jù)公司,減輕數(shù)據(jù)壟斷的影響。

(四)可信度:細(xì)化評(píng)級(jí)標(biāo)準(zhǔn)和溯源虛假信息

生成式人工智能需要五個(gè)維度的數(shù)據(jù):通用數(shù)據(jù)、垂直領(lǐng)域數(shù)據(jù)、特定任務(wù)下的標(biāo)注數(shù)據(jù)、合規(guī)需要的審核和標(biāo)注數(shù)據(jù),以及由創(chuàng)作者提供的內(nèi)容素材等生態(tài)數(shù)據(jù),訓(xùn)練數(shù)據(jù)集的時(shí)效性直接影響其生成內(nèi)容的可信度[16]45。由于ChatGPT訓(xùn)練數(shù)據(jù)集不斷更新,盡管OpenAI公司嘗試通過整合搜索引擎和聯(lián)網(wǎng)等方式提高生成內(nèi)容的準(zhǔn)確性和時(shí)效性,但仍存在可信度問題。

人工智能的可信度是從用戶視角產(chǎn)生的感知,即用戶對(duì)信息源或信息內(nèi)容產(chǎn)生的“相信為真”的感覺,它指的是人們認(rèn)為信息源或信息的權(quán)威性和值得信任的程度,包括人工智能的公平性、責(zé)任感、透明性、可理解性等特征[17]36。新聞網(wǎng)站“新聞衛(wèi)士”(NewsGuard)采用可靠性評(píng)級(jí)和“錯(cuò)誤信息指紋”(Misinformation Fingerprints)兩種方式確保新聞可信度,該功能已被集成到微軟的必應(yīng)聊天系統(tǒng)中。可靠性評(píng)級(jí)由經(jīng)驗(yàn)豐富的記者和編輯團(tuán)隊(duì)根據(jù)九項(xiàng)標(biāo)準(zhǔn)來打分,具體為:不重復(fù)發(fā)布虛假內(nèi)容;負(fù)責(zé)任地收集和呈現(xiàn)信息;定期更正或澄清錯(cuò)誤;負(fù)責(zé)任地處理事實(shí)和觀點(diǎn)之間的差異;避免使用欺騙性標(biāo)題;揭露媒體所有權(quán)和融資;明確標(biāo)記廣告;揭露媒體負(fù)責(zé)人及可能的利益沖突;提供內(nèi)容創(chuàng)建者的姓名及聯(lián)系方式或傳記信息?！靶侣勑l(wèi)士”的另一個(gè)功能是“錯(cuò)誤信息指紋”,它可用作唯一標(biāo)識(shí)符,捕捉每條新聞作為數(shù)據(jù)種子,其中包含每條新聞的關(guān)鍵特征,如宣傳虛假信息的語言示例、支持該主張的內(nèi)容鏈接、相關(guān)關(guān)鍵詞、標(biāo)簽和搜索詞等。通過錯(cuò)誤信息指紋,“新聞衛(wèi)士”可以在互聯(lián)網(wǎng)上溯源包含錯(cuò)誤信息和虛假信息的內(nèi)容。

除了新聞評(píng)級(jí)網(wǎng)站以外,還有媒體專門針對(duì)人工智能生成內(nèi)容制定了可信度標(biāo)準(zhǔn)。哈佛創(chuàng)新實(shí)驗(yàn)室的“NRI國度新聞”(NRI Nation)制定了評(píng)估人工智能生成內(nèi)容質(zhì)量的標(biāo)準(zhǔn)。第一,相關(guān)性。生成內(nèi)容是否直接關(guān)系到給定的新聞主旨?第二,清晰度。生成內(nèi)容是否清晰,是否有任何歧義、行話或誤導(dǎo)性措辭,是否容易理解?第三,回答合理性。該團(tuán)隊(duì)會(huì)根據(jù)生成內(nèi)容進(jìn)行提問,由團(tuán)隊(duì)成員根據(jù)文章中的信息作出正誤判斷,還會(huì)進(jìn)一步核查正確答案是否與其他選擇有明顯的區(qū)別,錯(cuò)誤答案是否合理且相關(guān)。最終,該團(tuán)隊(duì)對(duì)人工智能生成內(nèi)容作出“可按原文發(fā)布”“略有編輯后發(fā)布”或“不可發(fā)布”的選擇。

而丹麥《號(hào)外報(bào)》(EkstraBladet)則由用戶來評(píng)估人工智能生成內(nèi)容的可信度?！短?hào)外報(bào)》網(wǎng)站專門建立了新聞自動(dòng)化生成的程序,利用個(gè)性化營銷文本協(xié)作工具“AX語義”(AX Semantics),根據(jù)采集到的數(shù)據(jù)自動(dòng)生成文章,同時(shí)利用OpenAI公司的應(yīng)用程序接口自動(dòng)生成新聞導(dǎo)語。為了評(píng)估新聞導(dǎo)語的可信度,《號(hào)外報(bào)》設(shè)計(jì)了專門的用戶界面來評(píng)估導(dǎo)語,讓用戶作出“接受”或“拒絕”的判斷,同時(shí)對(duì)應(yīng)用界面數(shù)據(jù)進(jìn)行監(jiān)測與收集,以改進(jìn)新聞導(dǎo)語。

五、結(jié)語

生成式人工智能正在為新聞生產(chǎn)帶來前所未有的機(jī)遇,人機(jī)關(guān)系從傳統(tǒng)的線性互動(dòng)演變?yōu)楦鼜?fù)雜和緊密的人機(jī)耦合模式。這一變革既帶來了新聞生產(chǎn)的效率提升,為新聞生產(chǎn)提供人機(jī)協(xié)同和人機(jī)互動(dòng)的可能性,也引發(fā)了一系列倫理挑戰(zhàn)。在新聞生產(chǎn)方面,生成式人工智能在選題策劃、采編和把關(guān)階段發(fā)揮作用,凸顯了主體耦合、文本耦合和權(quán)力耦合,實(shí)現(xiàn)了新聞內(nèi)容的多樣性和創(chuàng)新性,促進(jìn)了人機(jī)協(xié)同。在新聞分發(fā)方面,生成式人工智能以對(duì)話為中心,實(shí)現(xiàn)技術(shù)界面耦合;以算法為邏輯,為用戶精準(zhǔn)適配推薦,提供多樣化信息來源;以情感為導(dǎo)向,形成新聞品牌社區(qū),增強(qiáng)用戶的參與感和情感卷入,建立趣緣共同體,加強(qiáng)了人機(jī)互動(dòng)。然而,隨著生成式人工智能的廣泛應(yīng)用,我們必須面對(duì)新型倫理挑戰(zhàn),探索可持續(xù)的人機(jī)共生倫理治理路徑。理想的人機(jī)關(guān)系是相互促成、相互制約、相互糾正以及相互馴化的[3]9。因此需要建立負(fù)責(zé)任的技術(shù)使用原則,確保多元參與者的協(xié)同治理,加強(qiáng)人工核查和數(shù)據(jù)把關(guān),并細(xì)化評(píng)級(jí)標(biāo)準(zhǔn)和溯源虛假信息,以實(shí)現(xiàn)在人機(jī)共生的新聞生態(tài)中維護(hù)新聞的真實(shí)性、準(zhǔn)確性和可信度。