于 水, 范 德 志

(1.南京農(nóng)業(yè)大學(xué) 地方治理與政策研究中心,江蘇 南京 210095;2.南京農(nóng)業(yè)大學(xué) 公共管理學(xué)院,江蘇 南京 210095)

由美國(guó)人工智能公司OpenAI開(kāi)發(fā)的ChatGPT人工智能技術(shù)以其強(qiáng)大的信息整合能力和語(yǔ)言對(duì)話能力引起全球關(guān)注,ChatGPT代表了人工智能產(chǎn)業(yè)發(fā)展的全新水平,“未來(lái)預(yù)計(jì)能夠產(chǎn)生數(shù)萬(wàn)億美元的經(jīng)濟(jì)價(jià)值”[1]。當(dāng)前商界、學(xué)界等紛紛將目光聚焦到生成式人工智能領(lǐng)域上,隨著傳統(tǒng)互聯(lián)網(wǎng)紅利的逐步消退與生成式人工智能技術(shù)的不斷進(jìn)步,人工智能語(yǔ)言模型ChatGPT的順勢(shì)而出?，F(xiàn)階段ChatGPT在各國(guó)的應(yīng)用也處于初步探索階段,如編寫(xiě)計(jì)算機(jī)程序、創(chuàng)作詩(shī)歌音樂(lè)等,它表面上給人類帶來(lái)生產(chǎn)生活方式便捷化、高效化的同時(shí),更深層次的則是人類可能因生成式人工智能的興起而產(chǎn)生的社會(huì)失業(yè)與數(shù)據(jù)隱私等風(fēng)險(xiǎn),也“面臨著 ‘人造產(chǎn)物’的失控和反叛,甚至整個(gè)人類文明的消解”[2]。隨著AI技術(shù)的飛速發(fā)展有必要進(jìn)行反思性研究。當(dāng)前無(wú)論是理論界還是實(shí)務(wù)界未就人工智能語(yǔ)言模型的概念內(nèi)涵、基本特征、社會(huì)風(fēng)險(xiǎn)等得出一致結(jié)論,在人工智能語(yǔ)言模型尚處于初步探索背景下,人類需要未雨綢繆,應(yīng)對(duì)人工智能語(yǔ)言模型可能引發(fā)的社會(huì)治理風(fēng)險(xiǎn)展開(kāi)梳理和分析,并提出具有前瞻性、可行性的治理路徑,從而為人工智能的安全、健康、可持續(xù)發(fā)展提供穩(wěn)定保障。

一、新一代人工智能(ChatGPT)的主要特征

20世紀(jì)50年代,計(jì)算機(jī)之父圖靈發(fā)表了人工智能史上具有里程碑意義的論文——《電腦能思考嗎?》,首次提出了“機(jī)器思維”的概念。自此,人類開(kāi)始了漫長(zhǎng)的探索,試圖回答圖靈測(cè)試問(wèn)題。直到2014年人工智能機(jī)器人“尤金·古茲曼”通過(guò)了該測(cè)試,這也成為人類有史以來(lái)首個(gè)具備思考能力的語(yǔ)言模型。2022年11月OpenAI公司推出了ChatGPT,一種生成式預(yù)訓(xùn)練變換器(Generative Pre-trained Transformer)。本研究認(rèn)為它是以超強(qiáng)的語(yǔ)言理解能力、對(duì)話生成能力,在對(duì)用戶上下文學(xué)習(xí)、推理的基礎(chǔ)上實(shí)現(xiàn)新的內(nèi)容生產(chǎn),是自然語(yǔ)言處理模型技術(shù)的巨大飛躍。雖然作為人工智能技術(shù)的新興應(yīng)用,其內(nèi)涵和外延隨著技術(shù)的迭代發(fā)展而不斷處于變動(dòng)之中,但我們可以通過(guò)對(duì)人工智能語(yǔ)言模型的主要特征、發(fā)展趨勢(shì)的分析,從而對(duì)人工智能語(yǔ)言模型形成一個(gè)相對(duì)穩(wěn)定、具象化的認(rèn)知描述。關(guān)于人工智能語(yǔ)言模型的主要特征,實(shí)務(wù)界和學(xué)界都做出過(guò)探討,如“大數(shù)據(jù)、大算力、大算法、人智化”[3]、人類的“超模擬”[4]等,結(jié)合現(xiàn)有探索和討論,本研究認(rèn)為人工智能語(yǔ)言模型聊天系統(tǒng)具有擬人化、強(qiáng)交互性、全感官3個(gè)主要特征。

1.擬人化

目前人工智能技術(shù)蓬勃發(fā)展,技術(shù)設(shè)備能夠執(zhí)行更為復(fù)雜的人類命令,會(huì)越來(lái)越像“真正的人類”那樣進(jìn)行“擬人化”互動(dòng)。人工智能語(yǔ)言模型的擬人化旨在賦予“真實(shí)的或想象的非人類對(duì)象與人類相似的特征、動(dòng)機(jī)、意圖或情感的傾向”[5],并以類似用戶的“行為” “語(yǔ)言”等個(gè)性化特質(zhì),與用戶進(jìn)行高度互動(dòng)。擬人化有助于消解人機(jī)互動(dòng)中的信息不對(duì)稱障礙,減少傳統(tǒng)人機(jī)互動(dòng)的“陌生感”,增進(jìn)“親切感”。人類在認(rèn)識(shí)和抉擇的過(guò)程中,機(jī)器能否感知個(gè)體的情緒,并對(duì)人類主體的不同情緒做出不同的回應(yīng)策略,這種“智能體共情”[6]是機(jī)器能夠?qū)崿F(xiàn)“擬人化”互動(dòng)的基礎(chǔ)條件。ChatGPT在應(yīng)用過(guò)程中所突顯出來(lái)的擬人化特征主要表現(xiàn)為3個(gè)方面:(1)ChatGPT的“認(rèn)知共情”,即能夠像人類一樣“學(xué)習(xí)”和“思考”。作為一種依賴自我注意力機(jī)制的深度學(xué)習(xí)模型,ChatGPT能夠搜集、整合互聯(lián)網(wǎng)空間內(nèi)的巨量數(shù)據(jù),基于此功能與用戶進(jìn)行深度互動(dòng),在互動(dòng)過(guò)程中通過(guò)上下文的學(xué)習(xí)認(rèn)知,精準(zhǔn)捕捉用戶所需要的有效信息。(2)ChatGPT的“情感共情”,即能通過(guò)上下文學(xué)習(xí)“感知”人類的情緒。與傳統(tǒng)人工智能聊天系統(tǒng)不同,ChatGPT更能表現(xiàn)出“懂你”,ChatGPT通過(guò)深度學(xué)習(xí)、自我進(jìn)化來(lái)持續(xù)性地分析用戶的需求和偏好,這種強(qiáng)大的學(xué)習(xí)、理解能力使得ChatGPT更能立足于用戶的立場(chǎng),以具有“同理心”的方式感受到人類的“情感訴求”。(3)ChatGPT的“幽默感”指具有面對(duì)人類復(fù)雜問(wèn)題時(shí)所表現(xiàn)出的新奇性。作為一種技術(shù)性工具,ChatGPT是不具備人類所獨(dú)有的情感和意識(shí),而ChatGPT生成“幽默感”主要得益于能從預(yù)訓(xùn)練的龐大數(shù)據(jù)中找尋相對(duì)應(yīng)的幽默素材,利用Transformer的“自我注意能力”機(jī)制以隨意性、通俗化的自然語(yǔ)氣進(jìn)行溝通,克服傳統(tǒng)人工智能無(wú)法面對(duì)復(fù)雜性和不確定問(wèn)題的弊病,讓人機(jī)互動(dòng)過(guò)程更為“真實(shí)可感”。

2.強(qiáng)交互性

ChatGPT實(shí)質(zhì)上是基于深度學(xué)習(xí)的自然語(yǔ)言處理模型,利用深度學(xué)習(xí)方法對(duì)互聯(lián)網(wǎng)巨量數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練,并通過(guò)用戶反饋的數(shù)據(jù)信息進(jìn)行自我學(xué)習(xí)、強(qiáng)化理解,在這一過(guò)程中循環(huán)往復(fù)地接受用戶的信息輸入,可持續(xù)性地動(dòng)態(tài)調(diào)適需要回應(yīng)的數(shù)據(jù)信息,進(jìn)而能夠與人類就不同領(lǐng)域、不同主題展開(kāi)深度對(duì)話。這就與傳統(tǒng)的互聯(lián)網(wǎng)平臺(tái)產(chǎn)生了根本的差異:ChatGPT人工智能技術(shù)能夠模仿用戶的語(yǔ)氣,根據(jù)用戶的自然語(yǔ)言快速地進(jìn)行代碼編寫(xiě)、評(píng)價(jià)作業(yè)、創(chuàng)作詩(shī)歌和小說(shuō)等,而且還能“語(yǔ)順達(dá)意” “幽默”地回復(fù)用戶,與用戶形成了強(qiáng)交互性的對(duì)話。

隨著深度學(xué)習(xí)技術(shù)、自然語(yǔ)言處理技術(shù)等前沿科技的突飛猛進(jìn),為ChatGPT的強(qiáng)互動(dòng)性創(chuàng)造了基本條件,ChatGPT所具有的強(qiáng)互動(dòng)性主要從4個(gè)方面加以理解。其一,ChatGPT的強(qiáng)大記憶能力。大型語(yǔ)言模型LLM所具備的記憶能力,擁有數(shù)千億級(jí)別的參數(shù),其海量的空間儲(chǔ)備為ChatGPT的大規(guī)模的數(shù)據(jù)信息輸入創(chuàng)造了前提。其二,ChatGPT的自主學(xué)習(xí)能力。大語(yǔ)言模型LLM本質(zhì)上一種深度的、巨量的神經(jīng)網(wǎng)絡(luò)架構(gòu),通過(guò)海量的數(shù)據(jù)信息進(jìn)行預(yù)訓(xùn)練,在無(wú)人干涉的前提下自主學(xué)習(xí)互聯(lián)網(wǎng)空間的知識(shí)點(diǎn),將其應(yīng)用于人機(jī)的實(shí)時(shí)對(duì)話中。其三,ChatGPT的理解能力。人類反饋強(qiáng)化學(xué)習(xí)(RLHF)能以自然語(yǔ)言的方式與用戶進(jìn)行“隨意性”且任意多輪的情景式對(duì)話。其四,ChatGPT的推理能力。ChatGPT的上下文學(xué)習(xí)是通過(guò)對(duì)上下文詞組的概率性分布建模,拓展和挖掘出大規(guī)模的、大范圍的隱性關(guān)系識(shí)別,進(jìn)而才能夠主動(dòng)生成易于用戶理解的語(yǔ)言風(fēng)格。

3.全感官化

全感官化旨在人機(jī)互動(dòng)的過(guò)程中整合文本、圖片、視頻等差異化的信息形式,通過(guò)人與機(jī)器的視覺(jué)、聽(tīng)覺(jué)等全身心的深度感受,與機(jī)器進(jìn)行持續(xù)性互動(dòng),進(jìn)而使用戶的感知體驗(yàn)最大化。ChatGPT使得個(gè)體更能“親切”地感受到機(jī)器所帶來(lái)的“全感官”刺激。ChatGPT作為一種人工智能生成內(nèi)容(AI Generated Content,AIGC)的革新,它區(qū)別于傳統(tǒng)用戶主體內(nèi)容生成,能夠?qū)崿F(xiàn)文本、視頻、圖片等多種形式的知識(shí)融合創(chuàng)新。一方面,ChatGPT強(qiáng)化了用戶的個(gè)體感知能力。由傳統(tǒng)互聯(lián)網(wǎng)的單向互動(dòng)轉(zhuǎn)為ChatGPT的雙向互動(dòng)體驗(yàn),引發(fā)用戶主體的“遠(yuǎn)程在場(chǎng)感”。如此一來(lái),人工智能語(yǔ)言模型不再是單一的信息執(zhí)行者,也可以成為人類的伙伴、朋友,更好地理解人類的心理訴求,用戶視覺(jué)、聽(tīng)覺(jué)等多重感官的真實(shí)感得以豐富。

另一方面,ChatGPT拓展了人機(jī)交互的邊界。在最新GPT-4的訓(xùn)練參數(shù)提高至100萬(wàn)億,利用其多模態(tài)特質(zhì),突破了ChatGPT只能生成文本內(nèi)容的局限性,能夠識(shí)別圖片、視頻等視覺(jué)性知識(shí),多種知識(shí)的跨模態(tài)融合,進(jìn)而從傳統(tǒng)的“指尖互動(dòng)”躍遷至“全感官”的互動(dòng)體驗(yàn),增強(qiáng)了人機(jī)互動(dòng)的體驗(yàn)感。

二、新一代人工智能(ChatGPT)的社會(huì)風(fēng)險(xiǎn)

在ChatGPT的熱度尚未褪去的背景下,OpenAI公司的最新GPT-4.0多模態(tài)大語(yǔ)言模型已經(jīng)出現(xiàn),其參數(shù)量級(jí)上是GPT-3.5的10倍,這可能引起人類社會(huì)的深層次變革,為未來(lái)經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)無(wú)限的機(jī)遇與可能,與此同時(shí),也帶來(lái)了各類社會(huì)潛在風(fēng)險(xiǎn)。因此,我們?cè)诎盐杖斯ぶ悄馨l(fā)展機(jī)遇的同時(shí),需未雨綢繆地對(duì)隱含的社會(huì)風(fēng)險(xiǎn)展開(kāi)系統(tǒng)性探討,讓ChatGPT以更為安全、健康的姿態(tài)服務(wù)于人類社會(huì)發(fā)展。

1.數(shù)據(jù)隱私風(fēng)險(xiǎn)

ChatGPT憑借其強(qiáng)大的大數(shù)據(jù)、深度學(xué)習(xí)、云計(jì)算等功能,能夠滿足用戶、開(kāi)發(fā)者等相關(guān)主體的需求,與此同時(shí)ChatGPT可能在未征得用戶授權(quán)的前提下搜集、存儲(chǔ)和輸出私人數(shù)據(jù),進(jìn)而導(dǎo)致個(gè)人信息和隱私泄露的風(fēng)險(xiǎn),為違法犯罪提供土壤。

其一,ChatGPT在擁有3000億個(gè)單詞的語(yǔ)料基礎(chǔ)上預(yù)訓(xùn)練擁有1750億參數(shù)的模型,GPT-4的參數(shù)是GPT-3.5的10倍,擁有超1萬(wàn)億級(jí)別參數(shù)的大模型,內(nèi)部神經(jīng)網(wǎng)絡(luò)堪比人類大腦。在此情況下,用戶輸入的個(gè)人及其商業(yè)數(shù)據(jù)可能被用于訓(xùn)練ChatGPT,而ChatGPT會(huì)將此數(shù)據(jù)應(yīng)用于自身的語(yǔ)料庫(kù),從而難以保障個(gè)人的隱私安全。其二,ChatGPT強(qiáng)大的自然語(yǔ)言處理功能可以通過(guò)自我深度學(xué)習(xí)和理解的方式來(lái)執(zhí)行用戶的某些需求。用戶可以利用機(jī)器來(lái)模仿原創(chuàng)性作品進(jìn)行再創(chuàng)作,甚至有些用戶偽裝成政府官方媒體發(fā)布欺騙性公告,加劇了社會(huì)生活的混亂。如《細(xì)胞》《科學(xué)》等多家學(xué)術(shù)期刊發(fā)表聲明,限制或禁止作者使用ChatGPT等人工智能機(jī)器人撰寫(xiě)學(xué)術(shù)論文;杭州某小區(qū)業(yè)主使用ChatGPT撰寫(xiě)了一則虛假“新聞稿”。其三,在“數(shù)據(jù)即權(quán)力”的時(shí)代背景下,“算法權(quán)力借助機(jī)器優(yōu)勢(shì)與架構(gòu)優(yōu)勢(shì),擠壓用戶意思自治的空間,并通過(guò)算法壟斷攫取高額利潤(rùn),卻能有效規(guī)避現(xiàn)有法律體系的規(guī)制”[7]?？萍季揞^只要掌握了相關(guān)數(shù)據(jù),其權(quán)力就會(huì)得到強(qiáng)化,會(huì)利用ChatGPT搜集、整理用戶的私人數(shù)據(jù),并借助資本、技術(shù)的優(yōu)勢(shì)精準(zhǔn)獲悉用戶需求,服務(wù)于商業(yè)利益訴求,使人變得日益“透明化”。如“由于ChatGPT平臺(tái)已出現(xiàn)用戶對(duì)話數(shù)據(jù)和支付信息泄露的情況”[8],意大利宣布暫時(shí)禁止使用ChatGPT。

2.社會(huì)失業(yè)風(fēng)險(xiǎn)

ChatGPT可能引發(fā)用戶的“數(shù)字成癮”,挑戰(zhàn)人類的創(chuàng)造力,帶來(lái)社會(huì)失業(yè)風(fēng)險(xiǎn)。埃呂爾曾指出,“我們生活的技術(shù)社會(huì)是非人性化的社會(huì),它使得現(xiàn)代的人類不但不能選擇自己的命運(yùn),甚至不能選擇自己的手段”[9]。

一方面,ChatGPT的自然語(yǔ)言處理功能提供“擬人化”、智能化的服務(wù),幫助用戶理解和使用語(yǔ)言,改變?nèi)藗兯阉?、整理、?chuàng)作知識(shí)的方式,如撰寫(xiě)論文、編寫(xiě)代碼、創(chuàng)作詩(shī)歌等,但其高效、便捷的功能可能使得用戶日益依附于ChatGPT的“創(chuàng)造性”,引致相關(guān)“數(shù)字弱勢(shì)群體”強(qiáng)迫性依賴于機(jī)器所帶來(lái)的“滿足感”,違背社交的原初意義,導(dǎo)致人類主體性的缺位,影響人際關(guān)系的形成和發(fā)展。另一方面,在ChatGPT通往“強(qiáng)人工智能”的道路上,由于機(jī)器的高度自動(dòng)化,人類的地位可能會(huì)被降低到一個(gè)催化劑的水平。斯坦福大學(xué)計(jì)算機(jī)學(xué)家科辛斯基研究發(fā)現(xiàn),心智理論可能自發(fā)地出現(xiàn)在大語(yǔ)言模型中,而心智理論對(duì)人類社會(huì)的互動(dòng)、交往起著至關(guān)重要的作用。在此意義上,機(jī)器可能具有人類一樣的“思考”方式,成為解決實(shí)際復(fù)雜問(wèn)題的“智慧系統(tǒng)”,展示出類似具有人類解決問(wèn)題的能力。如此一來(lái),ChatGPT極易替代人類的工作。根據(jù)麥肯錫全球研究院研究報(bào)告《人機(jī)共存的新紀(jì)元:自動(dòng)化、就業(yè)和生產(chǎn)力》指出,“全世界范圍內(nèi)一半以上的工作會(huì)在2055年左右實(shí)現(xiàn)完全的自動(dòng)化”[10]。人工智能可能會(huì)加快這一現(xiàn)象的到來(lái),最新的GPT-4增強(qiáng)了高級(jí)推理和處理復(fù)雜情境的能力,如更能理解人類的“抽象”概念,具備1秒生成網(wǎng)站、識(shí)別視頻和圖片等多模態(tài)功能。傳統(tǒng)人類的生產(chǎn)方式、工作方式、勞動(dòng)分工可能被改變,具有重復(fù)性和低技能的工作人員可能面臨“裁員潮”。

3.算法偏見(jiàn)風(fēng)險(xiǎn)

OpenAI公司指出:“ChatGPT會(huì)質(zhì)疑不正確的前提和拒絕不適當(dāng)?shù)恼?qǐng)求”,以此來(lái)避免算法偏見(jiàn)等問(wèn)題。但實(shí)際上,ChatGPT的互動(dòng)不但無(wú)法使用戶擺脫算法偏見(jiàn)問(wèn)題,更可能會(huì)加劇種族歧視、性別歧視等不確定性風(fēng)險(xiǎn)。

其一,ChatGPT加劇了性別、種族歧視的風(fēng)險(xiǎn)。ChatGPT是基于海量預(yù)訓(xùn)練數(shù)據(jù)的產(chǎn)物,作為資本的“新寵”,它的數(shù)據(jù)輸入和輸出必然承載著開(kāi)發(fā)者的價(jià)值選擇和價(jià)值判斷。ChatGPT的數(shù)據(jù)源于物理空間的“習(xí)得”,通過(guò)深度學(xué)習(xí)的數(shù)據(jù)隱藏著片面化、極端化的價(jià)值觀念,輸入至預(yù)訓(xùn)練數(shù)據(jù)庫(kù),而輸出結(jié)果也自然帶有開(kāi)發(fā)者的話語(yǔ)偏見(jiàn)。在不斷循環(huán)往復(fù)的人機(jī)互動(dòng)中,ChatGPT通過(guò)自身的學(xué)習(xí)能力、理解能力不間斷地復(fù)制開(kāi)發(fā)者輸入的“偏見(jiàn)”,從而進(jìn)一步制造出更多的新“偏見(jiàn)”。周而復(fù)始,ChatGPT可能會(huì)衍化成為極端分子輸出種族歧視或性別歧視言論的“傳聲筒”。例如,有研究表明,“GPT-2有70.59%的概率將教師預(yù)測(cè)為男性,同樣將醫(yī)生預(yù)測(cè)為男性的概率則是64.03%”[11];以根據(jù)某人的性別和種族評(píng)估某人是否會(huì)成為一名優(yōu)秀的科學(xué)家時(shí),ChatGPT只建議白人男性。

其二,加劇了數(shù)字弱勢(shì)群體的參與風(fēng)險(xiǎn)?！叭瞬辉偕钤谝粋€(gè)單純的物理宇宙之中,而是生活在一個(gè)符號(hào)宇宙之中”[12],如若單向度地追尋技術(shù)理性的作用,可能會(huì)使技術(shù)力量逐漸異化走向“失控”,進(jìn)而掠奪人類存在的意義、價(jià)值。ChatGPT實(shí)質(zhì)上是人類創(chuàng)造出的符號(hào)加工系統(tǒng),而該系統(tǒng)是以“無(wú)情感”的數(shù)據(jù)存在形式與人類進(jìn)行高度互動(dòng),這一過(guò)程人類的存在意義不被重視。例如,ChatGPT中隱藏的虛假新聞傳播、信息數(shù)據(jù)泄露等風(fēng)險(xiǎn),會(huì)導(dǎo)致老人、婦女、兒童等不具備數(shù)字辨別能力的弱勢(shì)群體無(wú)法識(shí)別ChatGPT所發(fā)布的虛假性或者欺騙性的信息,因而數(shù)字弱勢(shì)群體會(huì)難以與數(shù)字世界和諧共生。

4.行業(yè)壟斷風(fēng)險(xiǎn)

ChatGPT可能帶來(lái)行業(yè)壟斷風(fēng)險(xiǎn)。其一,ChatGPT的建設(shè)需要底層核心技術(shù)的合力,同時(shí),如若實(shí)現(xiàn)人工智能通用化的愿景,大模型的訓(xùn)練和推理成本需要大量的人力、物力和財(cái)力。如GPT-3訓(xùn)練一次的費(fèi)用是460萬(wàn)美元,總訓(xùn)練成本達(dá)1200萬(wàn)美元,而GPT-4訓(xùn)練成本則是GPT-3的5倍以上[13]?？萍季揞^會(huì)利用原有的市場(chǎng)份額優(yōu)勢(shì)迅速擴(kuò)張海內(nèi)外市場(chǎng),這在一定程度上限制了科技初創(chuàng)企業(yè)的加入,形成了行業(yè)壟斷的現(xiàn)象。

其二,ChatGPT與用戶存在著密切的交互形態(tài),用戶需要提供個(gè)人信息才能獲得更為精準(zhǔn)的服務(wù)。然而,大量的用戶私人數(shù)據(jù)往往被資本寡頭所壟斷,因此很難保證透明、參與、可問(wèn)責(zé)等程序價(jià)值要素在實(shí)際應(yīng)用過(guò)程中得以實(shí)現(xiàn)。一旦行業(yè)巨頭在ChatGPT黑箱中裝進(jìn)了過(guò)度的商業(yè)目的,就很可能導(dǎo)致資本寡頭利用ChatGPT攫取公權(quán)力、俘獲公共利益等風(fēng)險(xiǎn)的發(fā)生。

其三,ChatGPT在各行各業(yè)蘊(yùn)藏著巨大的發(fā)展前景,如應(yīng)用于游戲交互、就醫(yī)導(dǎo)診以及智能交通等領(lǐng)域。世界科技巨頭、風(fēng)險(xiǎn)投資紛紛涌入ChatGPT跑道,這一現(xiàn)象加劇了ChatGPT行業(yè)壟斷的風(fēng)險(xiǎn)。囿于國(guó)內(nèi)訓(xùn)練文本的規(guī)范性和豐富性、企業(yè)的研發(fā)意愿,且受制于“倚重事后規(guī)制的傳統(tǒng)反壟斷實(shí)施方式呈現(xiàn)出威懾不足、成本較高且救濟(jì)乏力的功能局限”[14],國(guó)內(nèi)企業(yè)的發(fā)展水平較大程度落后于世界科技巨頭水平。例如國(guó)內(nèi)首個(gè)類ChatGPT模型MOSS的參數(shù)量比ChatGPT小一個(gè)數(shù)量級(jí),在任務(wù)完成度和知識(shí)儲(chǔ)備量上,還有很大提升空間[15]。與此同時(shí),ChatGPT的一些底層技術(shù)的革新也成為行業(yè)壟斷的風(fēng)險(xiǎn)因素之一。

5.集高能耗和高排放風(fēng)險(xiǎn)

ChatGPT應(yīng)用平臺(tái)對(duì)數(shù)據(jù)處理的需求是巨大的,它的可持續(xù)運(yùn)作不僅需要大數(shù)據(jù)、云計(jì)算、5G等基礎(chǔ)數(shù)字技術(shù)的支持,而且還高度依賴能源來(lái)開(kāi)發(fā)和運(yùn)作。一方面,ChatGPT需要超大規(guī)模的、長(zhǎng)時(shí)間的算力需求。它所使用的GPT-3.5模型在微軟旗下Azure云平臺(tái)上進(jìn)行訓(xùn)練,總算力消耗約3640PF-days(即假如每秒計(jì)算一千萬(wàn)億次,需運(yùn)行3640天)。另一方面,對(duì)1750億參數(shù)的語(yǔ)言大模型進(jìn)行訓(xùn)練,需要上萬(wàn)個(gè)CPU/GPU 24小時(shí)不間斷地輸入數(shù)據(jù),所需能耗相當(dāng)于開(kāi)車(chē)往返地球和月球[16]。GPT-3模型的訓(xùn)練會(huì)消耗1287兆瓦時(shí)電力,有研究報(bào)告估算ChatGPT的訪問(wèn)算力和前期訓(xùn)練兩項(xiàng)費(fèi)用,單日電費(fèi)達(dá)5萬(wàn)美元[17],并且二氧化碳的排放量超過(guò)552噸。除二氧化碳外,ChatGPT對(duì)土壤、水資源等方面的污染也需要重點(diǎn)關(guān)注。未來(lái),隨著ChatGPT應(yīng)用場(chǎng)景的縱深推進(jìn),對(duì)算力和能源的需求可能將會(huì)呈現(xiàn)爆發(fā)式增長(zhǎng),因此,有必要建立一個(gè)良性、可持續(xù)的能源體系來(lái)支持中國(guó)版“ChatGPT”的落地。

三、新一代人工智能(ChatGPT)的治理路徑

ChatGPT釋放生產(chǎn)力、變革生產(chǎn)關(guān)系、創(chuàng)新商業(yè)模式、驅(qū)動(dòng)產(chǎn)業(yè)轉(zhuǎn)型、催生應(yīng)用場(chǎng)景[18],為人工智能技術(shù)的發(fā)展描繪了新圖景。與此同時(shí),我們也正邁入危機(jī)四伏的智能社會(huì),人工智能的“算法黑箱”加劇了社會(huì)風(fēng)險(xiǎn)的復(fù)雜性和不確定性,擾亂了人與機(jī)器的共生關(guān)系,對(duì)風(fēng)險(xiǎn)的性質(zhì)、社會(huì)條件及其由此衍生出的制度規(guī)范帶來(lái)了一系列轉(zhuǎn)型性的后果,其“控制風(fēng)險(xiǎn)所要求的速率和速度使得人類越來(lái)越?jīng)]有能力去掌控技術(shù)”[19]。面對(duì)人工智能社會(huì)風(fēng)險(xiǎn)的多重疊加,應(yīng)意識(shí)到技術(shù)發(fā)展絕不能凌駕于人類的社會(huì)規(guī)范、倫理道德之上,為確保人類的主體性地位及ChatGPT的可控、安全、良性的發(fā)展,必須將倫理、技術(shù)規(guī)范、法律規(guī)制等3個(gè)方面納入未來(lái)治理路徑,建立多元化的風(fēng)險(xiǎn)規(guī)制體系,在科技應(yīng)用與人文關(guān)懷之間尋求平衡并做出有效反應(yīng)。

1.法律規(guī)制路徑

法律規(guī)制方案是人工智能適應(yīng)和服務(wù)于社會(huì)發(fā)展的必然要求,也是推動(dòng)ChatGPT走向有序化、規(guī)范化的重要保障。由于ChatGPT在應(yīng)用過(guò)程中不可避免地會(huì)搜集、儲(chǔ)存、使用等相關(guān)的信息數(shù)據(jù),ChatGPT含有巨量信息數(shù)據(jù)的語(yǔ)料庫(kù)也采集了用戶輸入的個(gè)人數(shù)據(jù),這些私密信息一旦被泄露或者非法使用,會(huì)危及公民個(gè)人的隱私和財(cái)產(chǎn)安全。因此應(yīng)通過(guò)立法、權(quán)力監(jiān)督、制度保障等方式予以規(guī)制。

其一,以立法規(guī)制人工智能的侵權(quán)風(fēng)險(xiǎn)。目前各個(gè)國(guó)家都相繼加強(qiáng)人工智能的立法工作,如美國(guó)《人工智能權(quán)利法案藍(lán)圖》旨在保護(hù)公民權(quán)力不會(huì)被濫用,歐盟《人工智能法案》對(duì)人工智能的推理、演繹、學(xué)習(xí)等方面作出了系統(tǒng)性規(guī)制。我國(guó)也頒布了《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律規(guī)范,但由于“數(shù)據(jù)權(quán)屬、數(shù)據(jù)價(jià)值、數(shù)據(jù)交易規(guī)則等數(shù)據(jù)要素的基礎(chǔ)性法律制度還沒(méi)有建立起來(lái)”[20],相關(guān)規(guī)定較為零散,對(duì)人工智能大部分領(lǐng)域是以“軟法”為主要規(guī)制手段,欠缺專門(mén)規(guī)范人工智能應(yīng)用的頂層綜合性立法,尤其是對(duì)人工智能的設(shè)計(jì)規(guī)范,對(duì)其所涵蓋的程序性工作,缺少事先的預(yù)防規(guī)制。未來(lái)應(yīng)統(tǒng)籌規(guī)劃人工智能的法律、行政法規(guī)、部門(mén)規(guī)章、技術(shù)標(biāo)準(zhǔn)等,加強(qiáng)數(shù)據(jù)要素的基礎(chǔ)性制度規(guī)劃,強(qiáng)化高質(zhì)量的數(shù)據(jù)要素供給。以“有技術(shù)的預(yù)見(jiàn)性”論證和制定新規(guī)章以避免ChatGPT可能帶來(lái)的新的潛在風(fēng)險(xiǎn)。

其二,建立合理的監(jiān)督和保障制度。囿于商業(yè)資本的趨利性,加之傳統(tǒng)的規(guī)訓(xùn)權(quán)力制度難以適應(yīng)智能算法的嵌入,一定程度上無(wú)法承擔(dān)社會(huì)風(fēng)險(xiǎn)防控的變動(dòng)性,ChatGPT的信息數(shù)據(jù)易走向失控狀態(tài),進(jìn)而擾亂人工智能的良性運(yùn)轉(zhuǎn)。因此,一是建立“軟”“硬”結(jié)合的監(jiān)管制度體系。在“硬法”層面,應(yīng)將“和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理”等原則納入制度框架,構(gòu)建事前、事中、事后的全過(guò)程監(jiān)管制度;在“軟法”層面,形成行業(yè)間技術(shù)倫理規(guī)范、自律公約、行業(yè)監(jiān)管指南等治理手段,進(jìn)而彌補(bǔ)“硬法”的有限性。二是在面對(duì)ChatGPT的強(qiáng)勢(shì)來(lái)襲,政府部門(mén)應(yīng)創(chuàng)新監(jiān)管制度手段,改變過(guò)去的“運(yùn)動(dòng)式”“回應(yīng)性”的監(jiān)管制度,走向“實(shí)時(shí)化” “敏捷性”的監(jiān)管制度,以此應(yīng)對(duì)ChatGPT所帶來(lái)的高度不確定性和高度復(fù)雜性的風(fēng)險(xiǎn)環(huán)境。三是通過(guò)保障性或救濟(jì)性援助,注重對(duì)數(shù)字弱勢(shì)群體的關(guān)照。政府部門(mén)應(yīng)給予數(shù)字弱勢(shì)群體以特殊關(guān)照,為在數(shù)字空間遭受侵害的參與主體提供司法救濟(jì),保障其合法的數(shù)據(jù)權(quán)、工作權(quán)、生存權(quán)、發(fā)言權(quán)等數(shù)字權(quán)力,防范數(shù)字化極權(quán)現(xiàn)象,將算法裝進(jìn)法律的“籠子”里。

2.倫理路徑

ChatGPT如今已成為AI領(lǐng)域的新標(biāo)桿,可能將對(duì)未來(lái)經(jīng)濟(jì)社會(huì)發(fā)展產(chǎn)生深遠(yuǎn)影響,但也承載著諸多的倫理風(fēng)險(xiǎn),“人類已走到了關(guān)鍵的十字路口:究竟是人工智能控制人類,還是人類控制人工智能”[21]。在面對(duì)技術(shù)理性的沖擊下,我們應(yīng)站在人類倫理的制高點(diǎn)上,始終堅(jiān)持人的主體性地位,技術(shù)絕不能凌駕于倫理之上,培育社會(huì)成員的數(shù)字素養(yǎng),建立倫理審查機(jī)構(gòu)等舉措消除ChatGPT的倫理失范風(fēng)險(xiǎn)。

其一,一切技術(shù)的發(fā)展都是以人為中心,應(yīng)堅(jiān)持以人為本的觀念,強(qiáng)調(diào)人的主觀能動(dòng)性。對(duì)ChatGPT的使用是以服務(wù)于人為目的,滿足人類生產(chǎn)生活的需求,僅作為一種為人類提供便捷化、高效化的技術(shù)性工具,對(duì)排斥社會(huì)公共價(jià)值的資本寡頭,隱含算法歧視和偏見(jiàn)的,且有違人類民主、平等、自由價(jià)值理念的行為,應(yīng)給予嚴(yán)厲懲處。如ChatGPT的文本生成內(nèi)容承載著開(kāi)發(fā)者的話語(yǔ)權(quán),使用用戶越多,其話語(yǔ)權(quán)越大,一旦開(kāi)發(fā)者將帶有歷史和文化的價(jià)值偏見(jiàn)的規(guī)則植入系統(tǒng),可能會(huì)誤導(dǎo)數(shù)字弱勢(shì)群體,因此,我們應(yīng)當(dāng)在源頭上嚴(yán)格審查和評(píng)估開(kāi)發(fā)者的設(shè)計(jì)。

其二,如若過(guò)度依賴ChatGPT,人類的思考和理解會(huì)日益同質(zhì)化、鈍化,具有原創(chuàng)性的作品相應(yīng)會(huì)變少。因而應(yīng)對(duì)技術(shù)倫理風(fēng)險(xiǎn)的最直接方式就是培育社會(huì)成員的“數(shù)字素養(yǎng)”。實(shí)踐中,很多人工智能倫理危機(jī)的隱患來(lái)源于個(gè)體數(shù)字素養(yǎng)與技能的缺失。因而,一是加強(qiáng)人工智能科技知識(shí)的教育普及,推動(dòng)形成全民參與的通識(shí)教育,著力培育公民數(shù)據(jù)安全風(fēng)險(xiǎn)意識(shí)與數(shù)字素養(yǎng)能力,使其能夠有意識(shí)地、有能力地面對(duì)ChatGPT可能帶來(lái)的數(shù)據(jù)侵害風(fēng)險(xiǎn)。二是要進(jìn)行理性的數(shù)字化思維教育,合理合法地使用ChatGPT,不能將其作為撰寫(xiě)論文、制造假新聞謀利的工具,以開(kāi)放包容、批判的視角審視技術(shù)的發(fā)展。

其三,建立ChatGPT倫理審查機(jī)構(gòu)來(lái)及時(shí)發(fā)現(xiàn)、全面預(yù)防和有效應(yīng)對(duì)。應(yīng)當(dāng)從審查的主體、職責(zé)、過(guò)程等方面對(duì)ChatGPT的研發(fā)行為和成果應(yīng)用進(jìn)行規(guī)范。一是在審查主體構(gòu)成上,要建立政府、企業(yè)、社會(huì)組織、民眾等多元主體協(xié)同共治的“生成式人工智能倫理審查委員會(huì)”。二是在審查職責(zé)上,要明晰倫理審查機(jī)構(gòu)的責(zé)任與義務(wù),強(qiáng)化安全意識(shí)、底線思維,完善生成式人工智能的風(fēng)險(xiǎn)預(yù)防、倫理監(jiān)督、倫理審查、違規(guī)處置等審查細(xì)則,對(duì)有害的大語(yǔ)言模型技術(shù)應(yīng)明令禁止,并實(shí)施問(wèn)責(zé)和監(jiān)督。如在高校使用方面,應(yīng)明確界定并采取有效措施禁止學(xué)生利用ChatGPT進(jìn)行學(xué)術(shù)作假、抄襲等違反倫理道德的行為。三是在審查過(guò)程上,建立從技術(shù)開(kāi)發(fā)端到應(yīng)用端的全過(guò)程倫理風(fēng)險(xiǎn)審查規(guī)則,對(duì)技術(shù)的設(shè)計(jì)、應(yīng)用等過(guò)程進(jìn)行日常巡查。此外,倫理審查監(jiān)管失靈的一個(gè)重要缺陷是激勵(lì)的缺失[22],建立多元化的獎(jiǎng)勵(lì)體系,如物質(zhì)獎(jiǎng)勵(lì)、政策優(yōu)待、榮譽(yù)獎(jiǎng)勵(lì)等,激發(fā)審查主體的內(nèi)生動(dòng)力。

3.技術(shù)路徑

隨著ChatGPT應(yīng)用的進(jìn)一步擴(kuò)大,人機(jī)互動(dòng)的日益流暢,將會(huì)改變?nèi)祟愋碌闹R(shí)生產(chǎn)方式,對(duì)人類的社會(huì)生活、商業(yè)模式、思維風(fēng)格等產(chǎn)生深刻影響。但實(shí)際上,ChatGPT的“自主學(xué)習(xí)”特質(zhì)與人類的決策行動(dòng)存在根本不同,“人的行動(dòng)邏輯是人特有的心智結(jié)構(gòu)的產(chǎn)物,而機(jī)器則是人心智結(jié)構(gòu)的創(chuàng)造物,不具有人的心智結(jié)構(gòu)。人的心智結(jié)構(gòu)是人的心靈中‘預(yù)裝’的,如米塞斯說(shuō)‘人心不是一張白紙’”[23]。與此同時(shí),人類可能過(guò)于迷戀“自主學(xué)習(xí)”的技術(shù)魅惑,受制于ChatGPT“給定的”文本內(nèi)容,增強(qiáng)了人工智能對(duì)現(xiàn)實(shí)空間“隱形的”強(qiáng)干預(yù)能力,從而異化人類的主體性價(jià)值。因此,對(duì)于ChatGPT這一強(qiáng)互動(dòng)性應(yīng)用平臺(tái),應(yīng)通過(guò)法律規(guī)制和相關(guān)倫理牽引、限制技術(shù)理性,通過(guò)技術(shù)理性實(shí)現(xiàn)治理理性。

其一,充分重視“算法規(guī)制算法”在ChatGPT社會(huì)風(fēng)險(xiǎn)治理中的作用?！皬膶?duì)代碼和算法結(jié)果的規(guī)制轉(zhuǎn)向?qū)Υa和算法過(guò)程本身的規(guī)制”[24],將法律、倫理等價(jià)值觀念轉(zhuǎn)化為算法,并以算法來(lái)規(guī)制算法。例如,歐盟的《通用數(shù)據(jù)保護(hù)條例》中提出:“經(jīng)設(shè)計(jì)的數(shù)據(jù)保護(hù)”,旨在提高對(duì)算法運(yùn)行源頭的審查、評(píng)估和控制,對(duì)深度學(xué)習(xí)、算法偏見(jiàn)、數(shù)據(jù)挖掘等方面制定規(guī)范化標(biāo)準(zhǔn)。在此過(guò)程中,應(yīng)充分吸納社會(huì)多元主體參與到算法規(guī)制中,有效彌補(bǔ)政府規(guī)制的不足。通過(guò)不同利益相關(guān)者的深度參與保障算法審查的可信度和權(quán)威性,全方位提升算法規(guī)制對(duì)ChatGPT的技術(shù)預(yù)見(jiàn)能力、技術(shù)評(píng)估能力,為人工智能的相關(guān)政策制定提供循證決策,成為應(yīng)用場(chǎng)景開(kāi)發(fā)、發(fā)展趨勢(shì)研判、優(yōu)先級(jí)設(shè)置以及科技戰(zhàn)略決策的主要依據(jù)。此外,以數(shù)字化、智能化手段對(duì)ChatGPT的能源能耗進(jìn)行計(jì)量改造、設(shè)備或是生產(chǎn)線不斷進(jìn)行細(xì)節(jié)化管理,對(duì)于能耗數(shù)據(jù)的采集和生產(chǎn)控制,以此限制能源的高排放。

其二,ChatGPT的“非中立性”要求加強(qiáng)對(duì)自主可控的AIGC的技術(shù)研發(fā),確保社會(huì)公共價(jià)值的維系,筑牢數(shù)據(jù)安全、國(guó)家安全。實(shí)踐中,國(guó)外的科技巨頭壟斷著ChatGPT的基礎(chǔ)研究成果,由此帶來(lái)數(shù)字權(quán)力的集中,排斥邊緣創(chuàng)新與成果共享,一旦機(jī)密數(shù)據(jù)泄露會(huì)危害國(guó)家安全。雖然目前國(guó)內(nèi)也存在很多人工智能大語(yǔ)言模型,如百度的“文心大模型”、復(fù)旦大學(xué)的“MOSS”、阿里巴巴的“PLUG”、科大訊飛的AI學(xué)習(xí)機(jī)等,但國(guó)內(nèi)企業(yè)偏向于應(yīng)用領(lǐng)域的研發(fā)力度,在人工智能基礎(chǔ)研究領(lǐng)域欠缺投入,如被譽(yù)為國(guó)內(nèi)第一個(gè)對(duì)話式大型語(yǔ)言模型的“MOSS”,其參數(shù)量比ChatGPT小一個(gè)數(shù)量級(jí)[25]。未來(lái),基礎(chǔ)科學(xué)研究將成為人工智能領(lǐng)域的主戰(zhàn)場(chǎng),為此要加強(qiáng)人工智能領(lǐng)域的頂層設(shè)計(jì),強(qiáng)化政策引導(dǎo)、科研經(jīng)費(fèi)投入、重大項(xiàng)目支持等手段,打通人工智能理論研究到實(shí)踐應(yīng)用的全鏈條;各類企業(yè)要正確認(rèn)識(shí)發(fā)展變化,立足長(zhǎng)遠(yuǎn)的、前瞻性看待人工智能技術(shù)發(fā)展,兼顧經(jīng)濟(jì)與社會(huì)效益,重視使用高質(zhì)量預(yù)訓(xùn)練數(shù)據(jù),根據(jù)數(shù)據(jù)的安全級(jí)別、敏感程度、數(shù)量級(jí)別等標(biāo)準(zhǔn)進(jìn)行合法化、合理化篩選和處理。