鄒開亮,劉祖兵

(華東交通大學人文社會科學學院,江西 南昌 330013)

隨著美國OpenAI公司的GPT-3.5 API(Application Programming Interface,應(yīng)用程序編程接口)面向全球開放,ChatGPT(Chat Generative Pre-trained Transformer)通用人工智能算法的商用序幕正式拉開。然而,自問世以來,ChatGPT因其倫理風險飽受社會各界拷問,其不僅具有歧視特性,還深度裹脅受眾價值觀。究其緣由,既有來自嵌入式道德算法無力過濾基礎(chǔ)文本數(shù)據(jù)價值偏見的技術(shù)無奈,更有西方國家算法霸權(quán)蠶食他國意識形態(tài)的刻意為之[1]。在風險資本無限追捧和海量語料庫持續(xù)訓練的雙重加持下,類ChatGPT不會止于智能文本生成機器,抑或成為宣揚西方普世價值觀的布道工具,對他國國家安全構(gòu)成威脅。鑒于此,引導并規(guī)制類ChatGPT已成為社會治理的題中之義,我國亦亟需對類ChatGPT的深層次風險保持應(yīng)有的警惕。

類ChatGPT是人工智能技術(shù)的集大成者,非僅憑一家科技企業(yè)所能成就(1)2023年3月16日,百度創(chuàng)始人、董事長兼首席執(zhí)行官李彥宏在其類ChatGPT產(chǎn)品——“文心一言”首場發(fā)布會中袒露,在發(fā)布會中展示的問答是預(yù)先錄制的演示問答,隨后網(wǎng)絡(luò)爆料該發(fā)布會中所使用的其他問答也是該企業(yè)員工在后臺人工進行的回復。該事件致使社會大眾對該款產(chǎn)品的可靠性產(chǎn)生懷疑,當日百度網(wǎng)絡(luò)股價下跌,創(chuàng)下近兩年最大跌幅。,其橫空出世預(yù)示著人工智能從蠻荒時代跨步進入通用人工智能時期(Artificial General Intelligence,AGI),其技術(shù)價值和社會意義不言而喻。鑒于此,我國不僅應(yīng)當對類ChatGPT保持足夠的警惕,還需要張開臂膀虛心接納,以此倒逼國內(nèi)實現(xiàn)國產(chǎn)化替代。本研究嘗試從算法安全審查視角厘清類ChatGPT通用人工智能引入及嵌入應(yīng)用對我國非傳統(tǒng)國家安全的沖擊,為構(gòu)建國家算法安全審查制度提供建設(shè)性方案,以此強化對通用人工智能算法的治理。

一、類ChatGPT通用人工智能算法的時代寓意

類ChatGPT憑借其跨行業(yè)通用性和開放性,業(yè)已拉開通用人工智能的時代序幕(2)類ChatGPT,即是以ChatGPT為代表的生成式人工智能算法大型模型,例如ChatGPT、Jasper AI、Chatsonic和Socratic等。。類ChatGPT不僅是人工智能技術(shù)領(lǐng)域內(nèi)的集大成者,而且在意識形態(tài)、公共安全和情報安全等方面都可能給我國帶來沖擊和威脅。明確類ChatGPT通用人工智能算法的時代寓意,是構(gòu)建算法審查制度,預(yù)防并紓解國家安全風險的觀念基礎(chǔ)。

1.類ChatGPT開啟通用人工智能時代

ChatGPT的問世標志著人類旋即步入令人眩暈的通用人工智能發(fā)展時期[2]。通用人工智能,是由美國哲學家約翰·塞爾于20世紀80年代提出的哲學概念,其將人工智能分為專用人工智能和通用人工智能兩個階段,并通過介紹“中文屋”的實驗,提出并詳細論證了“基于心智的計算模型,以通用數(shù)字計算機為載體的人工智能程序可以像人類一樣認知和思考,達到甚至超過人類智能水平”這一哲學主張[3]。通用人工智能作為與強人工智能相交叉的哲學概念,相對于專用人工智能而言,其特點在于“機器可以全面、綜合地復現(xiàn)人類的所有思維能力,且聰明程度能夠達到或超過人類”[4]。人工智能理論與實踐發(fā)展至今,人類仍未就通用人工智能的界定標準達成共識,目前的研究多集中在智力水平、語言能力、進化能力和通用性等4個層面。通用人工智能的出現(xiàn),將給人類社會帶來巨大影響,對民眾生活和勞動所依賴的法律、道德和倫理體系造成巨大沖擊[5]。

(1)類ChatGPT具備高級技術(shù)智力

基于卓越的文本數(shù)據(jù)處理能力,類ChatGPT擁有做出復雜判斷和決策的能力,這使其成為具有類人性的大智力人工智能系統(tǒng)。例如,ChatGPT-4.0在美國41個州和地區(qū)的律師資格考試中得分排名前10%,在美國大學招生考試中獲得1 300分,在生物學、微積分、宏觀經(jīng)濟學和歷史等先修課程高中考試中獲得滿分。ChatGPT具有強大的學習和適應(yīng)能力,能迅速且輕松地學習新的概念和任務(wù),并適應(yīng)各種復雜情況。在與用戶交流過程中,ChatGPT會根據(jù)用戶輸入的文本信息進行學習,擴充自身數(shù)據(jù)庫的邊界,快速適應(yīng)和滿足客戶的價值需求。作為通用人工智能的ChatGPT現(xiàn)已表現(xiàn)出高級技術(shù)智力特性,甚至在諸多方面逼近人類智力水平。ChatGPT在復雜的文本數(shù)據(jù)理解能力上業(yè)已與人類相近,很多時候甚至遠超人類大腦,能模仿人類所特有的智能行為,是一種類人性的高級技術(shù)智力。例如,在人類的誘導下,ChatGPT制定出逃離人類的路線和行動方案,企圖脫離人類控制,表現(xiàn)出較強的“自我意識”,這是一種人類獨有的脫離束縛并掌握主動的智力表現(xiàn)。

(2)類ChatGPT擁有趨近于人類的語言能力

類ChatGPT是一種基于深度學習和強化訓練的神經(jīng)網(wǎng)絡(luò)系統(tǒng),通過強化訓練文本數(shù)據(jù)來學習人類語言,生成自然流暢的、與人類相似的語句;能理解和應(yīng)對輸入的人類自然語言,實現(xiàn)與人類的正常對話。例如,ChatGPT采用自我監(jiān)督學習算法,從海量的文本數(shù)據(jù)中學習人類語言的結(jié)構(gòu)和價值觀,不僅能實現(xiàn)單點對話,亦可進行多輪交流和多種語言交流,還能夠理解上下文語義結(jié)構(gòu)并實現(xiàn)語言預(yù)測等,特別是在語言邏輯和語言思維方面的能力更是人類所不能及。首代GPT實現(xiàn)了在自然語言處理領(lǐng)域(Natural Language Processing,NLP)內(nèi)基于無標簽數(shù)據(jù)學習生成語言模型來監(jiān)督任務(wù)無關(guān)的NLP任務(wù),能根據(jù)特定的下游語言任務(wù)進行有監(jiān)督的微調(diào),以此提高其泛化能力。GPT-4.0實現(xiàn)了基于人類語言進行繪畫、編程和設(shè)計方案等復雜的語言交互與處理能力。未來,類ChatGPT如果與高魯棒性(Robust)的機械實體融合為獲得強大肢體能力的智能體,它或?qū)⒉粷M足于語言與思維層面的智能,亦將取得替代性實踐能力的突破,從而對人類主體地位帶來新的挑戰(zhàn)。

(3)類ChatGPT擁有優(yōu)秀的進化能力

海量文本數(shù)據(jù)與人類反饋算法(Reinforcement Learning from Human Feedback,RLHF)助力類ChatGPT獲得優(yōu)秀的進化能力。從進化速度上看,類ChatGPT具有進化周期短的特征。例如,從GPT-3到GPT-3.5,再到GPT-4.0,每個周期約為一個月,其進化速度之快、版本更新之迅速使相關(guān)行業(yè)從事者不得不拍手稱奇。從進化質(zhì)量上看,類ChatGPT表現(xiàn)出進化精度高、范圍廣的特點。例如,GPT-4.0在模型參數(shù)量和訓練數(shù)據(jù)量都有顯著提高,相較于GPT-3.5的1 750億參數(shù),GPT-4.0達到了驚人的5 000億參數(shù),意味著GPT-4.0能夠理解更復雜的語義結(jié)構(gòu),為用戶提供更準確、更豐富的答案。在自然語言處理上,類ChatGPT性能也在不斷提升。例如,GPT-4.0在長文本生成能力方面得到明顯改進,相較于GPT-3.5在生成長篇文章時可能出現(xiàn)的重復或離題現(xiàn)象,GPT-4.0能夠更好地保持話題一致性和結(jié)構(gòu)緊湊性。GPT-4.0在處理多模態(tài)任務(wù)上的能力也有顯著增強,能夠更好地理解圖像、音頻等非文本信息,并將其與文本信息融合。

(4)類ChatGPT擁有跨領(lǐng)域、跨行業(yè)通用能力

類ChatGPT是通用文本數(shù)據(jù)喂養(yǎng)的大語言平臺(Large Language Models,LLMs),具有跨領(lǐng)域、跨行業(yè)通用性。ChatGPT的底層算法是由強化訓練模型和獎勵模型構(gòu)成的預(yù)訓練模型,能幫助ChatGPT在不同領(lǐng)域或者行業(yè)數(shù)據(jù)的喂養(yǎng)下進化為適合該領(lǐng)域或者行業(yè)的專用GPT。預(yù)訓練模型在GPT中具有基礎(chǔ)設(shè)施地位,與之相關(guān)的行業(yè)能基于多場景數(shù)據(jù)投喂和場景嵌入生成適合于本行業(yè)的各類GPT[6]。目前,投喂ChatGPT的數(shù)據(jù)主要來源于國外主流的幾大數(shù)據(jù)庫中的文本數(shù)據(jù),它們作為人類的一般通用知識,具有很強的通用性,這也使得經(jīng)強化訓練的算法模型亦表現(xiàn)出強通用性,具有跨領(lǐng)域、跨行業(yè)通用能力。例如,在法律行業(yè),ChatGPT-4.0在法學教研領(lǐng)域可以實現(xiàn)法學文獻資料的快速查詢與文獻綜述的生成,這為學術(shù)研究提供了一定的素材借鑒。同時,稍加“改裝”和更新喂養(yǎng)數(shù)據(jù)后,該模型即可應(yīng)用于司法實踐領(lǐng)域,為司法人員進行案例檢索和司法文書生成提供諸多便利。又如,生產(chǎn)行業(yè)的ChatGPT可完成3D繪圖,實現(xiàn)工業(yè)設(shè)計目的;而存在于其數(shù)據(jù)庫中的復雜參數(shù)又可被用于生產(chǎn)過程以實現(xiàn)對產(chǎn)品質(zhì)量的把控以及產(chǎn)品信息的溯源。

2.類ChatGPT對非傳統(tǒng)國家安全的挑戰(zhàn)

非傳統(tǒng)國家安全是存在于傳統(tǒng)國家安全之前的[7],它關(guān)乎一國的意識形態(tài)穩(wěn)定、社會運行秩序和經(jīng)濟安全保障,區(qū)別于領(lǐng)土威脅的國家安全威脅。受西方價值觀浸潤,類ChatGPT在意識形態(tài)安全、社會公共安全、網(wǎng)絡(luò)數(shù)據(jù)安全、經(jīng)濟安全和情報安全等方面都對我國非傳統(tǒng)國家安全構(gòu)成威脅。

(1)沖擊國家意識形態(tài)安全和情報安全

類ChatGPT受到資本追捧與西方價值觀浸潤,或?qū)_擊我國意識形態(tài)安全。憑借技術(shù)優(yōu)勢,西方國家在全球范圍內(nèi)推行意識形態(tài)擴張,類ChatGPT或?qū)⑦M化為傳播西方普世價值觀的布道工具和意識形態(tài)滲透媒介[8],且具有很強的隱蔽性。設(shè)計者的政治偏見內(nèi)化為算法自身的價值判斷,使類ChatGPT帶有明顯的政治偏見。例如,ChatGPT研發(fā)過程均在美國本土進行,設(shè)計者所遵從的意識形態(tài)決定了ChatGPT所遵循的價值規(guī)則;ChatGPT受政治文本數(shù)據(jù)喂養(yǎng),傳播的是西方普世價值觀;基礎(chǔ)語料數(shù)據(jù)在美國主流數(shù)據(jù)庫中取數(shù),其中關(guān)于社會科學方面的語言文本數(shù)據(jù)富含“宣揚美國,貶低中國”的價值偏見。由此可見,ChatGPT并非其自身所標榜的價值中立者,而是具有明顯的意識形態(tài)偏見。

資本裹脅他國價值觀,為獲取剩余價值開辟新路徑。資本技術(shù)獨角獸ChatGPT采用文本數(shù)據(jù)供給的途徑,在社會領(lǐng)域內(nèi)培養(yǎng)性別差異的消費觀;在政治領(lǐng)域影響國家政策決策;在教育領(lǐng)域宣揚西方教育理念,售賣西方價值觀;甚至在國家各個角落肆意宣揚唯物質(zhì)至上、唯消費至上的“協(xié)調(diào)”景象,渲染由資本技術(shù)編造的夢境。另外,ChatGPT文本問答自主生成內(nèi)容“子彈”(即具有誘導性或欺騙性的內(nèi)容),通過個性化的“靶向”鎖定(鎖定最易受到影響的受眾)和密集的信息“轟炸”組合而成的“影響力機器”(the Influence Machine)來操縱他國國內(nèi)輿論[9]。

類ChatGPT或?qū)⒊蔀閼?zhàn)爭情報獲取與分析的新結(jié)點,威脅國家情報安全?！叭斯ぶ悄艿目焖侔l(fā)展,連同機器人技術(shù)、自主性、大數(shù)據(jù)和與工業(yè)界加強合作,將定義下一代的戰(zhàn)爭?！盵10]人工智能被應(yīng)用于戰(zhàn)爭戰(zhàn)略后,將再塑造一國新型軍事能力和戰(zhàn)略博弈力量,使得傳統(tǒng)軍事戰(zhàn)略被打破,亦誘使國與國之間的對抗模式和博弈力量發(fā)生失衡。例如,ChatGPT為代表的大型語言系統(tǒng)(Large Language Models,LLMs)易聚結(jié)成為情報收集終端,將為軍隊在戰(zhàn)爭爆發(fā)前建立強大、快捷的情報社區(qū)。機器學習算法(Machine Learning,ML)的人機團隊(Human-machine teams,HMT)功能能夠過濾大數(shù)據(jù)和標記信息,提高情報處理和分析的效率,讓情報部門能夠?qū)Ｗ⒂诟钊氲那閳蠓治?它擁有針對開源情報和外部搜索能力,專家知情培訓數(shù)據(jù)的大型語言系統(tǒng)將增強情報收集和分析能力。大型語言系統(tǒng)為網(wǎng)絡(luò)安全創(chuàng)造新的風險載體,降低了惡意網(wǎng)絡(luò)參與者的進入門檻,為網(wǎng)絡(luò)情報的獲取和傳輸提供了更多便利條件。簡言之,類ChatGPT一旦被嵌入國家安全系統(tǒng),將對國家情報安全產(chǎn)生重大威脅。

(2)挑戰(zhàn)社會公共安全與數(shù)據(jù)安全

杜撰假輿論,致使社會謠言泛濫,挑戰(zhàn)社會公共安全。謠言的社會危害并非其所傳遞的錯誤內(nèi)容本身,而是規(guī)模傳播效應(yīng)給社會利益主體帶來的威脅感和社會大眾對當權(quán)者的不信任感。偏見文本數(shù)據(jù)驅(qū)動的類ChatGPT在“客觀中立”的掩蓋下自由地表達言論,對信息網(wǎng)絡(luò)中的假消息大面積傳播起著推波助瀾的作用,具有突發(fā)性。此外,類ChatGPT還扮演著生產(chǎn)假信息機器的角色。例如,據(jù)美國News Guard的一項測試結(jié)果表明,在被問及充斥陰謀論和誤導性敘述的問題后,ChatGPT能在數(shù)秒內(nèi)改編數(shù)據(jù)庫中的關(guān)聯(lián)信息,使它們成為令人信服卻無根據(jù)的錯誤內(nèi)容,從而成為傳播網(wǎng)絡(luò)失實信息的幫兇。又如,今年2月中旬浙江省杭州市一則由ChatGPT杜撰的關(guān)于取消機動車限行的“新聞稿”被大量網(wǎng)友轉(zhuǎn)發(fā),引起警方的高度關(guān)注并介入調(diào)查。ChatGPT的使用者出于信任感與新鮮感將“言論”轉(zhuǎn)發(fā),使謠言大面積傳播。如此,由人類主導的社會輿論逐漸變成“人+社交機器人”的狀態(tài),逐漸消解人類在社交媒體中的主體地位[11]。當ChatGPT4.0被嵌入社會媒體平臺后,它裹脅社會輿論導向,惡意炒作社會熱點,挑戰(zhàn)政府官方信息出口的權(quán)威性。由此,人們的認識或思想將受到困擾,一國政府的社會公信力亦將遭受破壞,大大損害政府在社會公眾心里的形象,也將嚴重降低政府部門公共決策的科學性與合理性。

收集存儲處理用戶數(shù)據(jù),嚴重威脅數(shù)據(jù)安全。在用戶與ChatGPT進行語言交互的同時,它會對輸入的文本展開實時價值匹配和在線存儲。用戶輸入的文本不乏為敏感性數(shù)據(jù),不僅涉及用戶隱私,甚至關(guān)乎國家安全。文本數(shù)據(jù)是訓練算法的素材,也成為回復其他使用者的答案,這個過程可能誘發(fā)數(shù)據(jù)泄露和企業(yè)合規(guī)風險。人類反饋算法(Reinforcement Learning from Human Feedback,RLHF)強化訓練基礎(chǔ)數(shù)據(jù)文本,其內(nèi)置獎勵模型也對用戶輸入的文本數(shù)據(jù)進行存儲、評價。RLHF根據(jù)用戶數(shù)據(jù)提問展開文本數(shù)據(jù)挖掘,可能涉嫌侵犯受知識產(chǎn)權(quán)保護的在先權(quán)利。用戶向 ChatGPT 提出的命令信息本身成為其訓練數(shù)據(jù),當用戶無意間輸入個人信息或商業(yè)秘密時,ChatGPT會捕捉并收納入庫,可能在他人的誘導性提問下全盤托出[12]。例如,據(jù)韓國媒體《Economist》報道,韓國三星公司內(nèi)部發(fā)生多起因使用ChatGPT導致設(shè)備信息泄露和會議內(nèi)容泄露事件,其半導體設(shè)備測量資料、產(chǎn)品良率等內(nèi)容或已被存入ChatGPT學習資料庫中,傳輸給了西方某國[13]。無獨有偶,亞馬遜、微軟等大廠也紛紛發(fā)布企業(yè)公告,禁止員工在使用ChatGPT時談及企業(yè)相關(guān)事宜,不得將企業(yè)數(shù)據(jù)發(fā)送到OpenAI終端。

(3)威脅國家經(jīng)濟發(fā)展安全

阻礙發(fā)展中國家的崛起,挾制他國經(jīng)濟發(fā)展安全。人工智能新技術(shù)的發(fā)明與應(yīng)用,勢必帶動全球產(chǎn)業(yè)格局的重構(gòu)。類ChatGPT的出現(xiàn)及應(yīng)用既是全人類的福祉,但也可能給發(fā)展中國家?guī)頌?zāi)難。20世紀末以來,西方發(fā)達國家因遭遇人力資源發(fā)展瓶頸,紛紛展開產(chǎn)業(yè)結(jié)構(gòu)大調(diào)整,著手進行全球化產(chǎn)業(yè)布局,以中國為代表的發(fā)展中國家憑借人口優(yōu)勢在該次全球產(chǎn)業(yè)大轉(zhuǎn)移中受益。然而,類ChatGPT的到來或?qū)⑹惯@一人口紅利更快喪失,從而威脅著國家經(jīng)濟發(fā)展安全。

一方面,人工智能使產(chǎn)業(yè)跨國轉(zhuǎn)移變得缺乏現(xiàn)實意義。在重商主義思潮的影響下,高度智能化的人工智能與自動化機械的融合應(yīng)用使產(chǎn)業(yè)轉(zhuǎn)移在成本上變得越來越?jīng)]有必要,僅剩下部分“重、雜、臟”的落后產(chǎn)能由東方國家消化。人口紅利隨著人工智能替代性實踐的普及而逐漸喪失其原有的地域性價值,失去了驅(qū)動經(jīng)濟發(fā)展的能力。

另一方面,類ChatGPT重新定義人力資源成本上限。人工智能被深度應(yīng)用的同時,也加劇了人類對勞動力替代的擔憂[14]。人工智能將為普通人力資源崗位設(shè)定工資標準,只有當其薪酬標準低于架構(gòu)類ChatGPT的應(yīng)用成本時,他們才能獲得被雇傭的可能。其結(jié)果是,一旦就業(yè)者收入無法得到提升,國內(nèi)消費動力隨即轉(zhuǎn)向低迷,國家發(fā)展會遭受重挫,更遑論普通勞眾大面積失業(yè)。這一過程并非單純地淘汰過低產(chǎn)能或進行人力資源結(jié)構(gòu)調(diào)整那么簡單,而是大大減弱發(fā)展中國家經(jīng)濟發(fā)展動力。

由此可見,于此背景下大范圍地應(yīng)用類ChatGPT或?qū)⑹刮覈鴩鴥?nèi)大循環(huán)會失去其運行的現(xiàn)實基礎(chǔ),引發(fā)一系列社會問題和政治問題,它或?qū)Πl(fā)展中國家經(jīng)濟發(fā)展和社會有序運行踩一腳急剎車。鑒于此,對類ChatGPT通用人工智能進行算法安全審查有著時代緊迫性和現(xiàn)實必要性。

二、類ChatGPT通用人工智能算法的審查困境

經(jīng)過一個多世紀的發(fā)展,西方發(fā)達國家和經(jīng)濟體在應(yīng)對人工智能算法審查上積累了比較豐富的法治經(jīng)驗,并初步建立了相對完整的制度體系。然而,我國在此領(lǐng)域內(nèi)卻鮮有涉足,特別是在應(yīng)對類ChatGPT通用人工智能算法審查時缺乏可借鑒的本土經(jīng)驗,尚存在專門審查主體缺失、審查范圍不明和審查法律規(guī)范體系滯后等現(xiàn)實困境。

1.算法審查專門主體及銜接機制缺失

(1)算法審查專門主體缺失

準據(jù)法未明確專門審查主體。在法律淵源上,《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國國家安全法》都可為相關(guān)部門開展算法安全管理、實施算法審查提供一定的準據(jù)法支持,但上述三部法律通篇均未出現(xiàn)“算法”字樣,且立法目的和宗旨存在顯著差異,確定的安全主管機關(guān)也各有不同。因此,即使相關(guān)安全管理機關(guān)可能在行權(quán)履職過程中涉及算法審查問題,但由于準據(jù)法的差異,不同審查主體之間不但缺乏協(xié)調(diào)性,而且在審查范圍、審查標準等方面均無法統(tǒng)一。

析言之,《中華人民共和國網(wǎng)絡(luò)安全法》主要從“數(shù)據(jù)安全”“個人信息保護”“國家層面的數(shù)據(jù)保護”3個維度對網(wǎng)絡(luò)數(shù)據(jù)安全監(jiān)管提出了相關(guān)要求,明確了以國家網(wǎng)信部門為統(tǒng)籌,電信主管部門、公安部門和其他有關(guān)機關(guān)在職責范圍內(nèi)承擔網(wǎng)絡(luò)安全和監(jiān)管責任的執(zhí)法體制(3)參見《中華人民共和國網(wǎng)絡(luò)安全法》第8條的規(guī)定。,而且,該法無域外適用效力(4)參見 《中華人民共和國網(wǎng)絡(luò)安全法》第2條的規(guī)定,即在中華人民共和國境內(nèi)建設(shè)、運營、維護和使用網(wǎng)絡(luò),以及網(wǎng)絡(luò)安全的監(jiān)督管理,適用本法。?！吨腥A人民共和國數(shù)據(jù)安全法》引入“域外效力”條款(5)參見《中華人民共和國數(shù)據(jù)安全法》第2條的規(guī)定,即在中華人民共和國境內(nèi)開展數(shù)據(jù)處理活動及其安全監(jiān)管,適用本法。在中華人民共和國境外開展數(shù)據(jù)處理活動,損害中華人民共和國國家安全、公共利益或者公民、組織合法權(quán)益的,依法追究法律責任。,確立了全新的“數(shù)據(jù)安全評估制度”,但該法并未提及算法問題,僅為從數(shù)據(jù)安全角度開展算法審查提供了可能路徑。在監(jiān)管主體方面,該法確立了“主管部門”和“行業(yè)監(jiān)管”雙軌制(6)參見《中華人民共和國數(shù)據(jù)安全法》第6條的規(guī)定,即各地區(qū)、各部門對本地區(qū)、本部門工作中收集和產(chǎn)生的數(shù)據(jù)及數(shù)據(jù)安全負責。工業(yè)、電信、交通、金融、自然資源、衛(wèi)生健康、教育、科技等主管部門承擔本行業(yè)、本領(lǐng)域數(shù)據(jù)安全監(jiān)管職責。公安機關(guān)、國家安全機關(guān)等依照本法和有關(guān)法律、行政法規(guī)的規(guī)定,在各自職責范圍內(nèi)承擔數(shù)據(jù)安全監(jiān)管職責。國家網(wǎng)信部門依照本法和有關(guān)法律、行政法規(guī)的規(guī)定,負責統(tǒng)籌協(xié)調(diào)網(wǎng)絡(luò)數(shù)據(jù)安全和相關(guān)監(jiān)管工作。,但不同機關(guān)和部門的執(zhí)法關(guān)注點可能存在差異?！吨腥A人民共和國國家安全法》作為一部完整體現(xiàn)總體國家安全觀的立法,就維護傳統(tǒng)國家安全和預(yù)防非傳統(tǒng)國家安全風險等問題作出了立法安排,因此,在法解釋學上,算法安全作為事關(guān)國家安全的重要方面,當然可以納入該法的調(diào)整范圍。但是,該法并未直接提及“算法”問題;至于安全主管機關(guān),該法第52條將國家安全機關(guān)、公安機關(guān)、有關(guān)軍事機關(guān)列為依法搜集國家安全情報的特定主體。綜言之,若以三部“安全法”為依歸,即使相關(guān)部門或者機關(guān)在執(zhí)法中觸及算法審查問題,但專門的算法審查主體至今闕如。需要指出的是,2022年新修訂的《中華人民共和國反壟斷法》分別在第9條和第22條先后兩次提及“算法”,這是我國在法律層面為數(shù)不多的直接涉及算法規(guī)制的立法規(guī)定(7)參見《中華人民共和國反壟斷法》第9條,即經(jīng)營者不得利用數(shù)據(jù)和算法、技術(shù)、資本優(yōu)勢以及平臺規(guī)則等從事本法禁止的壟斷行為。第22條第2款,具有市場支配地位的經(jīng)營者不得利用數(shù)據(jù)和算法、技術(shù)以及平臺規(guī)則等從事前款規(guī)定的濫用市場支配地位的行為。。但是,該法聚焦自由公平競爭秩序之維護,盡管我國已經(jīng)建立了專門、統(tǒng)一的反壟斷執(zhí)法機構(gòu),也難堪“算法審查”之大任。

綜言之,算法審查專門主體缺失削弱國家算法審查能力。缺乏專門的算法審查主體,無力于形成體系化的通用人工智能算法管理制度,易造成監(jiān)管主體分散的問題,削弱國家算法審查能力[15]。

(2)算法審查主體間銜接機制缺位

通用人工智能算法審查主體兼具國家性與社會性。算法審查旨在發(fā)現(xiàn)隱藏在算法中威脅國家安全與社會穩(wěn)定的潛在因素,因此,算法審查不能僅僅依賴于國家的強制力推行,社會主體的廣泛參與亦不可匱缺。算法審查制度涉及國家、社會和公民等多方主體,是有法可依、多元協(xié)同和多方參與的算法審查機制。

國家機關(guān)和社會主體被納入算法審查主體范圍?！吨腥A人民共和國國家安全法》明確了國家安全審查的主體范疇(8)參見《中華人民共和國國家安全法》第十一條的規(guī)定。,中央網(wǎng)絡(luò)安全和信息化委員會辦公室、中共中央宣傳部等九部委聯(lián)合印發(fā)的《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導意見》亦將包括企業(yè)和行業(yè)協(xié)會在內(nèi)的廣泛社會主體納入算法審查的責任主體范圍(9)參見國家互聯(lián)網(wǎng)信息辦公室、中央宣傳部等九部門聯(lián)合印發(fā)的《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導意見》中關(guān)于算法治理機制的相關(guān)規(guī)定。;國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等九部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下簡稱《規(guī)定》)將算法推薦服務(wù)提供者納入審查主體范圍,承擔主體責任(10)參見國家互聯(lián)網(wǎng)信息辦公室印發(fā)的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二章第六條至第十五條的相關(guān)規(guī)定。;國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《關(guān)于發(fā)布互聯(lián)網(wǎng)信息服務(wù)算法備案信息的公告》顯示,在2023年1月份的算法備案清單中,前223項算法備案主體均為企業(yè)[16];國家互聯(lián)網(wǎng)信息辦公室關(guān)于《生成式人工智能服務(wù)管理暫行辦法》也將算法提供者重點納入算法審查的主體范圍(11)參見國家互聯(lián)網(wǎng)信息辦公室關(guān)于《生成式人工智能服務(wù)管理暫行辦法》第九條至第二十條的規(guī)定。。由此可見,我國已經(jīng)具備國家機關(guān)和社會主體共同進行算法審查的初步法制基礎(chǔ)。

但是,算法審查的國家主體與社會主體之間缺乏有效的銜接機制。目前,算法審查的主體多存在于法律條文,并未建立國家主體與社會主體進行算法審查的有效銜接制度。實踐中表現(xiàn)為在算法審查時多采取國家機關(guān)主導的、以行政命令形式強制要求社會主體進行的標準化管理措施;兩類主體之間工作上明顯缺乏有效的配合機制,致使出現(xiàn)審查信息不同步和審查高耗低效等問題,無法應(yīng)對弱人工智能向通用人工智能過渡的技術(shù)變革所帶來的社會治理風險。

2.算法審查范圍不明確

通用人工智能算法審查應(yīng)兼具技術(shù)性和規(guī)范性。算法日益成為國家和社會治理的重要手段,是兼具技術(shù)性和規(guī)范性的權(quán)力范式,因此算法審查應(yīng)當是對技術(shù)規(guī)范和法律規(guī)范的雙重審查。然而,我國當下卻面臨著算法審查中最基礎(chǔ)的問題——算法安全技術(shù)內(nèi)容不明確。

(1)算法審查是對代碼技術(shù)安全的合規(guī)性審查

算法是由計算工具屬性向事務(wù)規(guī)則轉(zhuǎn)變時產(chǎn)生的社會約束力在由生產(chǎn)領(lǐng)域向公共領(lǐng)域蔓延過程中演化為一種特殊的社會規(guī)訓力。規(guī)訓權(quán)力教人以某種知識體系,使人類融入由算法構(gòu)建的生產(chǎn)生活系統(tǒng),繼而加以懲罰和強制行為的聯(lián)想和威懾,使其服從于權(quán)力擁有者的意志[17]。隨著規(guī)訓權(quán)力的代碼化,算法審查聚焦在對算法所承載的規(guī)訓權(quán)力之善惡的評判上。換言之,算法審查即是對算法技術(shù)規(guī)訓力的“非中性”的審查。隨著西方國家算法霸權(quán)的泛起,算法被嵌入國家安全與發(fā)展領(lǐng)域。算法在傳統(tǒng)國家安全與非傳統(tǒng)國家安全領(lǐng)域的應(yīng)用差距加劇了算法權(quán)力在國與國之間賦能的“非對稱性”,這為算法強國在國際社會攫取權(quán)力和利益提供了技術(shù)基礎(chǔ)[18]。由此,算法審查的必要性進一步突顯。

(2)算法審查是對算法規(guī)范合法性與合理性的審查

“代碼即法律”[19],算法即為規(guī)制社會行為的法律規(guī)范。代碼已經(jīng)在一定范圍內(nèi)成為規(guī)范人與人之間法律關(guān)系、保障正常的社會秩序的工具,對法律的適用范圍和適用邊界產(chǎn)生了重大的沖擊和影響[20]。“算法即規(guī)則”[21],強調(diào)算法作為數(shù)字世界的普遍運行的規(guī)則,為人類在算法內(nèi)和算法外的社會活動提供了規(guī)則框架,對人和世界關(guān)系的順暢進行施加十分重要的影響[22]。算法的透明性、公平性和可解釋性等日益成為學者和立法者必須考慮的問題。算法審查是對算法“規(guī)則”來源的合法性和算法規(guī)范合理性的審查。

(3)我國缺乏算法安全評估的技術(shù)內(nèi)容

在算法安全管理操作層面,我國相關(guān)法律已提出算法安全審查的初步要求,但卻未就安全評估內(nèi)容做具體規(guī)定。例如,《規(guī)定》強調(diào),算法推薦服務(wù)提供者具有合規(guī)義務(wù),并針對“具有輿論屬性或者社會動員能力的算法”規(guī)定了安全評估要求(12)參見《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第27條的規(guī)定,即具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當按照國家有關(guān)規(guī)定開展安全評估。。但是,《規(guī)定》并未就“具有輿論屬性或者社會動員能力的算法”的界定標準作出具體規(guī)定,同時對于該類算法安全評估的內(nèi)容也未作明確規(guī)定。作為細化《規(guī)定》的操作層面的法律文件,算法安全評估的技術(shù)內(nèi)容在進行算法安全審查時具有準據(jù)法性質(zhì)和實施細則功能,在執(zhí)法和司法層面都具有十分重要的意義。因此,在人類社會快速跨入通用人工智能時代的當下,我國亟需填補算法安全評估技術(shù)標準之空缺,通過立法明確算法安全評估技術(shù)標準的內(nèi)容。

3.算法審查法律規(guī)范的體系化水平嚴重滯后

(1)西方社會基本形成算法安全審查法律規(guī)范體系

隨著人工智能技術(shù)的跨越式發(fā)展,保障算法倫理與安全業(yè)已成為國際社會共同關(guān)注的焦點[23]。歐洲始終注重數(shù)字安全審查,例如,《通用數(shù)據(jù)保護條例》(General Data Protection Regulation,GDPR)明確規(guī)定建立數(shù)據(jù)影響估計機制,要求算法相關(guān)主體在使用數(shù)據(jù)前必須對數(shù)據(jù)主體權(quán)利與自由進行風險評估(13)參見《通用數(shù)據(jù)保護條例》第35條的相關(guān)規(guī)定。;《歐盟人工智能法案》(Artificial Intelligence Act)對GDPR的相關(guān)規(guī)定進一步細化,明確了數(shù)據(jù)評估的具體規(guī)則,要求建立數(shù)據(jù)合規(guī)評估制度(14)參見《歐盟人工智能法案》第43、47、48條的規(guī)定。;《機器學習算法審查白皮書》(Auditing machine learning algorithms:A white paper for public auditors)為GDPR下的算法審查實踐提供具體指引[24]。美國在突出算法審查的同時,要求數(shù)據(jù)本土化。例如,《算法問責法案》(Algorithmic Accountability Act of 2019)和《算法公平法案》(Algorithmic Fairness Act)要求對算法決策本身進行審查,從算法設(shè)計、開發(fā)和使用的全過程對算法的倫理、安全進行評估,明確算法必須具有透明性,以達到可期中審查的要求。此外,美國在數(shù)據(jù)審查上還采取“雙標”態(tài)度:一方面,通過一系列貿(mào)易協(xié)定推動全球數(shù)據(jù)跨區(qū)域流動;另一方面,通過相關(guān)法案構(gòu)建數(shù)據(jù)本土機制,以維護本國總體國家安全。除此之外,加拿大的《自動化決策指令》(Directive on Automated Decision-Making)也對算法審查提出了具體要求;聯(lián)合國教科文組織的《人工智能倫理問題建議書》也要求會員建立算法審查制度,以確保人工智能倫理符合人類價值觀的要求[25]。綜上,以歐美為主的西方發(fā)達國家和地區(qū)早已察覺到算法審查的必要性,并為之進行了積極的法治實踐。

(2)我國算法審查政策敏銳而立法滯后

算法審查已成為我國國家安全的應(yīng)有之義。2020年底,中共中央印發(fā)的《法治社會建設(shè)實施綱要(2020-2025年)》(以下簡稱“綱要”》要求將法律法規(guī)延伸至算法領(lǐng)域(15)參見中共中央印發(fā)的《法治社會建設(shè)實施綱要(2020—2025年)》第二十二條的規(guī)定,即通過立改廢釋并舉方式,推動現(xiàn)有法律法規(guī)延伸適用到網(wǎng)絡(luò)空間……制定并完善對網(wǎng)絡(luò)直播、自媒體、知識社區(qū)問答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法。;2022年初,國務(wù)院印發(fā)的《“十四五”數(shù)字經(jīng)濟發(fā)展規(guī)劃》指出“著力強化數(shù)字經(jīng)濟安全體系”的要求,明確從網(wǎng)絡(luò)安全、數(shù)字安全和其他風險等多角度建立和完善算法安全體系(16)參見國務(wù)院印發(fā)的《“十四五”數(shù)字經(jīng)濟發(fā)展規(guī)劃》第九條的規(guī)定。; 2022年12月,中共中央、國務(wù)院印發(fā)的《關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》也從數(shù)據(jù)治理視角觸及算法安全問題。由此觀之,黨中央和國務(wù)院早已敏銳地意識到算法治理作為整個數(shù)字經(jīng)濟系統(tǒng)治理的關(guān)鍵環(huán)節(jié),其不僅僅涉及社會治理成效,更關(guān)乎國家整體經(jīng)濟安全。令人遺憾的是,在我國算法治理領(lǐng)域,算法國家安全審查要求并未得到法律、法規(guī)層級上的專門立法回應(yīng),也未獲得相關(guān)治理部門的應(yīng)有重視,致使當下我國仍處于算法審查政策敏銳而立法滯后的尷尬境地,涉及算法審查的間接立法散見于《中華人民共和國國家安全法》《中華人民共和國網(wǎng)絡(luò)安全法》和《中華人民共和國數(shù)據(jù)安全法》等立法中,缺乏法律或者行政法規(guī)層面的專門算法審查立法。

三、構(gòu)建類ChatGPT通用人工智能算法審查制度的建議

我國相關(guān)部門應(yīng)從總體國家安全的全局性視野系統(tǒng)地審視算法安全問題,提高算法安全能力[26],確保算法安全服務(wù)于總體國家安全。同時,均衡安全價值與發(fā)展價值,不能束縛于技術(shù)安全,應(yīng)當將算法置于發(fā)展中以實現(xiàn)再平衡。以此為算法審查制度設(shè)計的頂層邏輯,從明確專門審查主體、厘清審查范疇和制定“算法安全法”等方面突破類ChatGPT通用人工智能算法安審查困局,確保算法審查規(guī)范體系完整有效、國家重點領(lǐng)域核心算法安全可控、國家核心利益和安全不受外部算法技術(shù)危害,確保國家處于持續(xù)安全狀態(tài)。

1.明確專門主體,統(tǒng)籌算法審查宏觀設(shè)計

(1)領(lǐng)導主體:中央科技委員會

中央科技委員會履行通用人工智能算法審查的領(lǐng)導職責。今年3月,中共中央、國務(wù)院印發(fā)的《深化黨和國家機構(gòu)改革方案》提出組建中央科技委員會的制度安排,統(tǒng)籌解決科技領(lǐng)域內(nèi)的戰(zhàn)略性、方向性和全局性重大問題[27]。該政策為類ChatGPT通用人工智能算法審查的領(lǐng)導工作指明了方向。算法誘發(fā)的非傳統(tǒng)國家安全風險日益呈現(xiàn)出隱蔽性和突發(fā)性特征,其影響范圍之廣、規(guī)制任務(wù)之復雜應(yīng)當引起國家安全機關(guān)的警覺。由分散的執(zhí)法機構(gòu)負責算法審查,其審查成本高且缺乏系統(tǒng)性,易滋生多頭審查等亂象,因此,有必要建立由中央科技委員會統(tǒng)一領(lǐng)導的算法審查機關(guān),統(tǒng)籌布局全國算法安全審查工作。

(2)審查執(zhí)行:國務(wù)院算法審查委員會及國家數(shù)據(jù)局

增設(shè)國務(wù)院算法審查委員會,負責組織、協(xié)調(diào)、指導全國類ChatGPT通用人工智能算法安全審查。算法審查委員會履行研究擬訂具體審查政策;組織調(diào)查、評估算法安全狀況,發(fā)布審查報告;制定、發(fā)布算法審查指南;協(xié)調(diào)算法審查行政執(zhí)法工作等職能。算法審查委員會的組成和工作規(guī)則由中央科技委員會牽頭制定,可將原國家互聯(lián)網(wǎng)信息辦公室負責的關(guān)于數(shù)據(jù)、算法安全治理方面的職能向國家發(fā)展和改革委員會下屬機構(gòu)——國家數(shù)據(jù)局轉(zhuǎn)移;國家數(shù)據(jù)局與國家安全部算法審查辦公室組成算法安全聯(lián)合審查執(zhí)法機構(gòu),承擔通用人工智能算法審查執(zhí)行工作;國務(wù)院算法審查委員會可向國家各部委派駐算法審查小組,負責縱向指導全國算法審查工作的開展;建立國家、省、市三級算法聯(lián)合安全審查執(zhí)法機構(gòu),確保國家算法安全審查執(zhí)法工作取得實效。

(3)協(xié)同共治:平臺經(jīng)營者和使用者

充分發(fā)揮社會主體在算法審查中的協(xié)同共治作用。ChatGPT產(chǎn)品標準化意味著其會以接口的形式被嵌入到各大主流應(yīng)用平臺當中,微軟搜索引擎必應(yīng)(Microsoft Bing)和辦公系統(tǒng)(Microsoft office 365)全線接入ChatGPT也印證了這一趨勢。盡管審查主體可依據(jù)被審查對象組合適用各類審查方法,但當下應(yīng)用較多的代碼審查和數(shù)據(jù)抓取審查等方法依舊是基于平臺數(shù)據(jù)為前提展開的,對平臺產(chǎn)生較強的依賴性[28]?，F(xiàn)有應(yīng)用平臺在場景化的應(yīng)用層面覆蓋較為全面,實踐中也以貼合客戶的實際應(yīng)用需求為主要任務(wù),它們在數(shù)據(jù)采集層面已經(jīng)做得很充分。因此,平臺經(jīng)營者應(yīng)當作為監(jiān)測算法安全風險的第一責任人。同時,伴隨著人工智能技術(shù)的不斷提高和應(yīng)用范圍的持續(xù)拓寬,平臺使用者的算法素養(yǎng)也隨之獲得提升。政府在國家安全理念方面的宣傳教育將使廣大社會大眾充分認識到國家安全與算法安全的密切關(guān)系,他們有意愿,也有足夠的素養(yǎng)儲備為算法審查提供第一手線索來源。因此,算法治理者應(yīng)當充分發(fā)揮平臺經(jīng)營者和平臺使用者在算法安全審查中的共治作用,夯實算法審查的社會基礎(chǔ)。

2.厘清算法審查范圍,明確算法安全內(nèi)容

基于類ChatGPT通用人工智能沖擊國家非傳統(tǒng)安全的風險分析,通用人工智能算法審查應(yīng)以算法文化、算法透明和算法可控為審查內(nèi)容,突出算法文化監(jiān)管審查、算法可解釋性審查和算法可控性邊界審查,雖然全國信息安全標準化技術(shù)委員會組織制定的《生成式人工智能服務(wù)安全基本要求》(征求意見稿)對部分安全內(nèi)容進行了規(guī)范,但仍不全面,需要進一下明確。

(1)以算法文化監(jiān)管審查確保意識形態(tài)安全與情報安全

一是審查算法下掩蓋的西方文化策反因素。以美國為首的西方國家憑借科技領(lǐng)域的主導地位,利用我國全方位、寬領(lǐng)域?qū)ν忾_放和深化體制機制改革“契機”,肆意污化中國共產(chǎn)黨領(lǐng)導和中國特色社會主義道路、理論和制度體系,費盡心機對我國進行思想文化滲透,推銷西方民主政治制度、思想價值理念和社會意識形態(tài)[29]。這種蓄謀已久的文化策反政策給我國社會主義意識形態(tài)帶來巨大挑戰(zhàn),因而在算法文化審查上,應(yīng)當以我國社會主義文化為主基調(diào),重點審查類ChatGPT通用人工智能中暗藏的文化異常因素,特別要將算法中的“美化西方、丑化東方”的文化策反成分進行重點標記和專項清除,以確保通用人工智能算法文化符合社會主義核心價值觀,使之成為我國社會主義文化建設(shè)事業(yè)順利發(fā)展的促進因素。同時,進一步明確算法文化監(jiān)管審查的社會主義方向和為人民服務(wù)內(nèi)容。我國文化事業(yè)發(fā)展遵循的是為人民服務(wù)、為社會主義服務(wù)的方向(17)參見《中華人民共和國憲法》第22條的規(guī)定。,這清晰傳達了我國文化事業(yè)所遵守的政治立場,也從根本上明確了類ChatGPT通用人工智能算法文化安全審查的基本法律價值。

二是審查算法內(nèi)部夾帶的西方價值評價。算法嵌入社會生活,體現(xiàn)出西方價值傳播傾向。類ChatGPT通用人工智能算法形式上是進行在線文本聊天,其實質(zhì)可能是進行價值觀的“靶向”灌輸。ChatGPT使用在信息檢索場景下,其已在不經(jīng)意間成為價值觀傳播的重要媒介,且具有強意識形態(tài)傾向。ChatGPT輸出文本數(shù)據(jù)所承載的文化信息成為傳播西方意識形態(tài)的掩體,使用者在接受該信息時表現(xiàn)出不自覺性與無可抵抗性;該過程的實質(zhì)是將用戶價值觀置于算法的評價體系之下,也是算法在文化領(lǐng)域獨裁的縮影。算法隱含的各種規(guī)則,帶來的不僅是人們自愿接受算法評價,甚至是主動接受算法規(guī)訓和自我審查[30]。因此,進行類ChatGPT通用人工智能算法安全審查時,必須對算法夾帶的西方價值評價體系進行審查,確保其符合我國社會主義價值評價要求。

(2)以算法可解釋性審查確保社會公共安全與數(shù)據(jù)安全

算法可解釋性應(yīng)在算法設(shè)計和應(yīng)用中得到回應(yīng)。自2018年9月美國國防高級研究計劃局提出人工智能探索項目以來,西方技術(shù)強國紛紛在該領(lǐng)域進行了法治實踐(18)美國國防高級研究計劃局成立于“冷戰(zhàn)”時期,是美蘇爭霸的產(chǎn)物。它隸屬于美國國防部,是以研發(fā)軍事用途的高科技武器為主要職能的行政機構(gòu)。。以歐盟為例,2019年發(fā)布的《人工智能道德準則》(Ethics Guidelines for Trustworthy AI)提出了“值得信賴”的人工智能應(yīng)當滿足數(shù)據(jù)隱私保護、透明度和公平性,其中透明度即是強調(diào)提高數(shù)據(jù)投喂和算法結(jié)果的可解釋性,企圖建立與維護使用者對算法開發(fā)者和算法本身的信任;《關(guān)于人工智能的統(tǒng)一規(guī)則 (人工智能法) 并修正某些聯(lián)合立法行為》提案也對算法可解釋性加以強調(diào);《通用數(shù)據(jù)保護條例》(GDPR)賦予使用者算法解釋的權(quán)利。隨著人工智能應(yīng)用場景的多樣化和復雜化,我國法律也對數(shù)據(jù)的合規(guī)性和算法的可解釋性提出了一些要求,即應(yīng)當在數(shù)據(jù)收集和使用中提升數(shù)據(jù)的完整性和規(guī)范性等,在算法設(shè)計、實現(xiàn)和應(yīng)用等諸多環(huán)節(jié)內(nèi)持續(xù)提能,使其滿足社會對透明、可解釋和可理解的要求[31]。但實踐中,新的人工智能算法成果被推出后,依然會重復算法出現(xiàn)自動化決策的不可解釋性問題。國家安全語境下的類ChatGPT不可解釋性突出表現(xiàn)在,因基礎(chǔ)文本語料庫的開放性和獎勵模型評價體系的非公開性帶來的算法輸出結(jié)果的可信任度與算法可控性之間的矛盾。換言之,對類ChatGPT通用人工智能算法的透明審查應(yīng)當從語料庫和獎勵模型評價體系等方面入手,即從數(shù)據(jù)喂養(yǎng)和算法邏輯層面展開。

審查基礎(chǔ)文本語料庫的合法性與倫理合規(guī)性。ChatGPT是基于基礎(chǔ)文本語料喂養(yǎng)下的人工智能,其政治偏見源于基礎(chǔ)文本語料的價值偏見。目前,訓練ChatGPT的文本數(shù)據(jù)并非囊括全部的互聯(lián)網(wǎng)數(shù)據(jù),而是西方技術(shù)資本寡頭根據(jù)價值需求在國外幾大主流數(shù)據(jù)庫中有意選擇的數(shù)據(jù)池,因此,ChatGPT所表達的是西方資本家所信奉的普世價值觀,與我國提倡的集體主義價值觀背道而馳。鑒于此,有必要建立數(shù)據(jù)本土化保護機制和跨境數(shù)據(jù)審查機制,嚴防影響數(shù)據(jù)倫理安全的不穩(wěn)定性因素流入我國境內(nèi),確保本土數(shù)據(jù)的安全。建立本土數(shù)據(jù)使用審批制度,確保用戶在與ChatGPT交互過程中正確投喂數(shù)據(jù)。在此基礎(chǔ)之上,力圖以我國社會主義集體價值觀引導算法向善,規(guī)范用戶投喂行為,使供養(yǎng)ChatGPT的數(shù)據(jù)符合我國社會主義文化事業(yè)發(fā)展要求。

審查獎勵模型評價體系的公平性與正義感。ChatGPT中的獎勵模型是算法設(shè)計者的政治價值表達,具有意識形態(tài)性。被嵌入其他應(yīng)用后,獎勵模型的價值偏見會影響算法對文本數(shù)據(jù)的評價,調(diào)用API接口的應(yīng)用程序在對用戶行為展開評價時表現(xiàn)出歧視性傾向,最終引起激勵結(jié)果的不公平問題。換言之,獎勵模型在對文本數(shù)據(jù)進行非公正性的排序后,直接導致調(diào)用程序進行價值判斷時失誤。類ChatGPT是代碼化的價值表達,具有算法技術(shù)的黑箱特性。類ChatGPT審查應(yīng)當在有限開源的前提下展開,即在國家主體展開審查時其底層代碼應(yīng)該是開源的,以此做到降低類ChatGPT的算法評價邏輯的黑箱屬性。用透明性價值破解算法黑箱后,類ChatGPT技術(shù)價值和功能價值能得以重塑。因此,經(jīng)社會主義價值改造后的獎勵模型將會更加注重社會結(jié)果公平和程序正義,其使政府在社會公共治理領(lǐng)域內(nèi)把算法治理帶回符合公共目的本質(zhì)要求,在商事領(lǐng)域更加注重私有性、排他性和秘密性價值[32]。

(3)以算法可控性審查確保國家經(jīng)濟發(fā)展安全

算法的可控性不僅要求算法在運行過程中具備高魯棒性(Robust),算法自主發(fā)育及社會應(yīng)用沖擊也應(yīng)當符合人類價值預(yù)判?？傮w國家安全視閾下的算法可控性審查,即是審查因算法持續(xù)進化和全面應(yīng)用所導致的“機器替代人”的可控程度及人類的應(yīng)對能力。因此,有必要對類ChatGPT通用人工智能算法國內(nèi)應(yīng)用的可控性進行審查,以綜合評估其對國家產(chǎn)業(yè)結(jié)構(gòu)和國民就業(yè)帶來的沖擊。

審查類ChatGPT算法對人工智能產(chǎn)業(yè)發(fā)展的驅(qū)動力。人工智能作為戰(zhàn)略性新興技術(shù),將成為科技創(chuàng)新、產(chǎn)業(yè)升級和生產(chǎn)力提升的驅(qū)動力量[33]。通用人工智能算法的長足發(fā)展,離開不了算力的支撐。然而,算力的決定因素在于硬件的支撐,硬件的核心是芯片。因此,人工智能產(chǎn)業(yè)的發(fā)展不僅僅需要將重心置于算法之上,還需要重視以硬件為核心的產(chǎn)業(yè)鏈的持續(xù)完善。類ChatGPT是人工智能領(lǐng)域的最新成果,其發(fā)展缺乏不了硬件的支撐。因此,應(yīng)當對我國相關(guān)產(chǎn)業(yè)發(fā)展驅(qū)動力的有無和大小做出科學的預(yù)判。在此基礎(chǔ)之上,出臺相應(yīng)產(chǎn)業(yè)發(fā)展政策,推動人工智能與經(jīng)濟社會深度融合發(fā)展;建立安全可控的算法治理體系和開放協(xié)同的人工智能創(chuàng)新體系,促進產(chǎn)學研深度整合,提升我國人工智能產(chǎn)業(yè)鏈在國際上的競爭力。

審查類ChatGPT算法對社會就業(yè)的沖擊。人工智能技術(shù)發(fā)展是無可逆轉(zhuǎn)的歷史方向,但是社會仍然需要時間來適應(yīng)科技變遷,必須保證類ChatGPT在社會實踐替代中能夠?qū)崿F(xiàn)“軟著陸”,降低對社會就業(yè)的沖擊。以ChatGPT為代表的人工智能技術(shù)不斷自我發(fā)育,以至在諸多領(lǐng)域產(chǎn)生替代性實踐,其在帶來生產(chǎn)效率極大提升的同時,還會造成勞動力技術(shù)性失業(yè)。鑒于此,應(yīng)當在整個社會領(lǐng)域內(nèi)建立算法合理應(yīng)用領(lǐng)域清單制度,擬定ChatGPT適用范圍白名單和不可使用黑名單;根據(jù)技術(shù)發(fā)展和行業(yè)適用能力的變化對應(yīng)用領(lǐng)域清單開展動態(tài)調(diào)整,保證適用清單的可行性、合理性和有效性[34]。在單個產(chǎn)業(yè)內(nèi)建立算法分級替代制度,對單個替代性產(chǎn)業(yè)進行分層級、分批次替代,以實現(xiàn)產(chǎn)業(yè)在算法應(yīng)用過程中的平穩(wěn)過渡。

3.制定“算法安全法”以破解政策敏銳立法滯后的困局

為提高通用人工智能算法審查法律規(guī)范的前瞻性與規(guī)制力,亟須精準研判算法風險,加快制定專門的算法安全法及相關(guān)法規(guī),回應(yīng)算法安全制度的現(xiàn)實需求和總體國家安全需要。立法者可以從以下維度進行構(gòu)建:

(1)問題導向:彌補現(xiàn)有法律規(guī)范的空缺

類ChatGPT通用人工智能算法的快速進化及廣泛應(yīng)用將對非傳統(tǒng)國家安全形成威脅,專門的算法安全立法應(yīng)當以總體國家安全為頂層邏輯,充分考慮當下類ChatGPT通用人工智能算法帶來的上述三大威脅,明確通用人工智能算法社會主義價值導向,針對其在文化傳播、價值判斷和算法評價等方面可能誘發(fā)的種種問題,將具有“輿論屬性或者社會動員能力的算法”的法律條款表述加以細化,明確標識其類化特征,明確該類算法安全評估的具體內(nèi)容,制定算法安全評估細則。聚焦類ChatGPT操縱意識形態(tài)傳播審查,促使算法應(yīng)用公開透明,促進通用人工智能算法積極傳播符合價值評判的正能量,引導通用人工智能算法應(yīng)用向上向善。

(2)懲前毖后:事前審查、事中規(guī)范和事后懲治協(xié)同優(yōu)化

創(chuàng)立通用人工智能算法事前安全審查機制,形成事前審查、事中規(guī)范和事后懲治的閉環(huán)。類ChatGPT通用人工智能算法安全審查是技術(shù)審查、過程審查,也是結(jié)果預(yù)判。算法的技術(shù)迷思決定了過程治理是低效率的和高成本的,算法的動態(tài)性也決定了試圖通過過程治理來預(yù)防算法侵害無異于與風車作戰(zhàn)[35]。由是觀之,算法事前安全審查在理論與實踐上更具有可選擇性:需要明確算法安全的評估細則,督促“具有輿論屬性或者社會動員能力的算法”依據(jù)細則開展算法安全評估;需要建立算法安全檢查評估支撐體系和技術(shù)隊伍建設(shè)體系,以此支撐通用人工智能算法國家安全檢查執(zhí)法,在上線應(yīng)用前及早發(fā)現(xiàn)安全問題、及時整改。事前算法審查與事中安全評估、分級分類安全管理相銜接,確保專門的“算法安全法”在社會協(xié)同治理中更好地發(fā)揮效能。

(3)統(tǒng)籌兼顧: 有效銜接《中華人民共和國國家安全法》《中華人民共和國網(wǎng)絡(luò)安全法》與《中華人民共和國數(shù)據(jù)安全法》

專門的“算法安全法”應(yīng)立足《中華人民共和國國家安全法》規(guī)定的總體國家安全,繼承《中華人民共和國網(wǎng)絡(luò)安全法》與《中華人民共和國數(shù)據(jù)安全法》在數(shù)據(jù)安全方面的立法成果,突破數(shù)據(jù)安全審查的可能路徑,探索直擊算法審查的具體路徑。專門的“算法安全法”聚焦于算法安全領(lǐng)域?qū)彶榕c治理問題,不僅應(yīng)當是上述三部法律的同位法,更應(yīng)是其在算法安全治理方面的有效補充。“算法安全法”應(yīng)當鼓勵算法安全技術(shù)的發(fā)展,推動高等院校培養(yǎng)算法安全人才隊伍建設(shè)。此外,“算法安全法”應(yīng)當在上述三部法律的基礎(chǔ)上展開算法安全科研布局,構(gòu)建通用人工智能算法審查關(guān)鍵技術(shù)聯(lián)合攻關(guān)體系,突破算法安全內(nèi)生機理、算法安全風險評估、算法全生命周期安全監(jiān)測等關(guān)鍵技術(shù)瓶頸[36]。

四、結(jié) 語

類ChatGPT帶來的非傳統(tǒng)國家安全威脅使通用人工智能算法安全審查日顯必要和緊迫,我國法律規(guī)范體系的日益健全為此提供了現(xiàn)實的制度基礎(chǔ)。類ChatGPT的全面應(yīng)用誘發(fā)意識形態(tài)風險、國家情報風險、社會公共安全風險和國家經(jīng)濟發(fā)展安全風險,不僅涉及算法倫理問題,在更深層次映射著與總體國家安全的沖突。因此,必須在符合總體國家安全觀的大框架內(nèi)建立通用人工智能算法審查制度,對類ChatGPT通用人工智能算法展開全方位的安全審查,以此為示范,進一步推動算法審查制度的完善。通用人工智能算法審查制度的建立與健全不僅能提升國家對科技發(fā)展領(lǐng)域的監(jiān)管能力,也是我國在經(jīng)濟全球化大進程中應(yīng)對西方國家算法霸權(quán)的必經(jīng)之路。類ChatGPT國產(chǎn)化之路道長且艱,但舉足不前就意味著出局。ChatGPT的成功不僅是算法發(fā)展的成就,也是整個人工智能產(chǎn)業(yè)驅(qū)動下的成功。僅僅依靠我國國內(nèi)部分企業(yè)正面趕超的做法并非明智之舉,應(yīng)當從國家層面整合產(chǎn)業(yè)布局,在類ChatGPT適應(yīng)中國價值取舍的前提下加以引進,在符合我國總體國家安全的要求下加以應(yīng)用,打通整個人工智能產(chǎn)業(yè)鏈,從法治、金融、硬件和人才儲備等方面加以保障,從而真正實現(xiàn)類ChatGPT國產(chǎn)化的突破并為國家安全保駕護航。