孫志燕

內(nèi)容提要：

人工智能作為一項賦能技術(shù)，是數(shù)字化時代全球技術(shù)競爭的核心之一，對國家發(fā)展與安全具有高度的戰(zhàn)略性。我國應綜合考慮其自身具有的特殊性、技術(shù)不可預知性、戰(zhàn)略性和復雜的地緣政治因素，立足基本國情，慎重選擇人工智能的治理模式，建立以技術(shù)中立為總體導向的人工智能治理框架，加強技術(shù)創(chuàng)新與發(fā)展安全的統(tǒng)籌。要將技術(shù)中立、非歧視的原則貫穿于人工智能從開發(fā)到應用的整個技術(shù)鏈條之中，避免利用人工智能進行偏見性的決策和資源分配，影響整個社會的公平和機會平等。要以技術(shù)中立為導向，建立人工智能與能效聯(lián)動的發(fā)展機制，引導其發(fā)展不僅要“快”，更要“高質(zhì)量”。在全球人工智能治理中積極倡導技術(shù)中立的理念，為我國培育人工智能的競爭優(yōu)勢創(chuàng)造更有利的外部環(huán)境。

自 2022 年 11 月，美國OpenAI公司發(fā)布了聊天機器人（ChatGPT）原型以來，生成式人工智能受到了前所未有的關(guān)注。該技術(shù)的突破標志著人工智能向通用技術(shù)的重大轉(zhuǎn)型，對國家發(fā)展與安全的戰(zhàn)略性不言而喻。但該技術(shù)對就業(yè)、收入分配等方面的不確定性影響，以及在個人隱私、社會治理和國家安全等領(lǐng)域帶來的安全風險也引發(fā)了激烈爭論。各國都在探索制定人工智能的監(jiān)管政策，至 2022 年 全 球 已 有 127 個 國 家制定了人工智能相關(guān)的法律。我國作為人口和經(jīng)濟大國，更需要根據(jù)基本國情，慎重選擇人工智能的治理模式，加強技術(shù)創(chuàng)新與發(fā)展安全的統(tǒng)籌，促進技術(shù)收益的最大化和風險的最小化。這也是我國參與全球新技術(shù)競爭迫切需要解決的關(guān)鍵問題。

人工智能的政策監(jiān)管需充分考慮技術(shù)周期和我國的基本國情

2023年8月31日，百度宣布其生成式AI產(chǎn)品、國產(chǎn)大模型文心一言獲批上線，率先向全社會開放。 圖/中新社

經(jīng)過70多年的發(fā)展，人工智能正向通用技術(shù)工具轉(zhuǎn)型，其應用的廣度和深度都超過了傳統(tǒng)人工智能，不僅具備如同人類一樣的學習和解決復雜問題的能力，在大數(shù)據(jù)計算、知識記憶、快速決策等領(lǐng)域的能力甚至勝過了人類的基準水平。例如，在通用知識測試中，GPT-3 的得分比為 73%，比測試者的平均水平高出 21 個百分點；GPT-4的口頭智商測試得分為152，而樣本中只有0.1%的測試者超過了該分值。伴隨著“智能”水平不斷提高，人工智能的潛在風險和負面溢出效應也在增大，對不同國家的影響也不完全相同。因此，我國在制定和選擇人工智能治理模式時不能再沿用傳統(tǒng)相對成熟技術(shù)的治理模式，需要充分考慮到人工智能自身的特殊性、不確定性、戰(zhàn)略性和我國的基本國情。重點包括以下三個方面。

第一，人工智能并非成熟的技術(shù)體系，仍具有高度的不確定性和技術(shù)不可預知性，監(jiān)管政策需要保持足夠的靈活度。從技術(shù)層面上看，通用人工智能的核心是基礎大語言模型。從目前全球領(lǐng)先的大模型訓練情況來看，算力需求大約5—6 個月翻一番，而通常數(shù)字技術(shù)的進步周期遵循摩爾定律，大約是18個月，相當于大模型的迭代速度提高了2 倍。隨著芯片技術(shù)和算法的改進，這一速度還將進一步提高。由此可見，人工智能的技術(shù)迭代要遠遠快于政策制定的周期。這就意味著在政策實際制定過程中，并沒有充足的時間來積累政策制定所需要的事實和數(shù)據(jù)，包括人工智能對經(jīng)濟社會影響的評估也大多是理論推斷。政策制定是在一種高度不確定的技術(shù)條件下進行的“實驗”。這就需要政策保持足夠的彈性，否則就會因技術(shù)的快速發(fā)展而導致所實施的政策很快過時，政策的有效性與匹配度降低，甚至可能會成為影響技術(shù)創(chuàng)新的政策性障礙。如歐盟以風險為基礎的監(jiān)管政策在某種程度上就限制了人工智能技術(shù)的創(chuàng)新和應用。

此外，通用人工智能構(gòu)建的是一個超大規(guī)模、非常復雜的數(shù)字生態(tài)系統(tǒng)，多數(shù)大語言模型所包括的參數(shù)可達上百億，甚至更高。例如， 2023年5月，OpenAI 公司發(fā)布的GPT-4模型參數(shù)數(shù)量從 2020年GPT-3 模型的 1750 億擴大到 100 萬億?；谏疃葯C器學習的大模型訓練本質(zhì)上是一個“吸收→學習→創(chuàng)新”的循環(huán)更新過程，即使模型訓練使用的都是公開并且合規(guī)的數(shù)據(jù)，結(jié)果也可能出現(xiàn)虛假或者不合規(guī)的信息，模型的開發(fā)者幾乎不可能預測到模型輸出的結(jié)果、能達到的“智能”水平，或者能夠在多大程度上替代人類的工作。也就是說，人工智能具有很強的技術(shù)不可預知性，不能將其等同于工業(yè)化時期那些相對成熟的技術(shù)，因此政策環(huán)境需要保持足夠的彈性。

第二，人工智能作為未來經(jīng)濟社會發(fā)展的關(guān)鍵賦能技術(shù)，是數(shù)字化時代全球競爭的核心技術(shù)之一，監(jiān)管政策需充分考慮地緣政治因素。人工智能與工業(yè)革命時期的通用技術(shù)不同，并非一項單純的技術(shù)，而是各種經(jīng)濟社會活動所依附的一種發(fā)展生態(tài)。它不僅可以應用到醫(yī)療、教育、金融、物流、公共服務等各個領(lǐng)域，還可以將不同的發(fā)展理念、價值觀、文化、意識形態(tài)等因素嵌入其中，全方位賦能國家經(jīng)濟、社會、軍事、政治、文化等方面的影響力和競爭力，是數(shù)字化時代推動全球政治經(jīng)濟秩序重構(gòu)、國際影響力和競爭力再平衡的重要技術(shù)力量。根據(jù)經(jīng)合組織（OECD）的不完全統(tǒng)計，全球已有 92 個國家發(fā)布了國家層面的人工智能發(fā)展戰(zhàn)略，美國將人工智能定義為 21 世紀“必須贏”的技術(shù)之一，歐盟、英國、日本等發(fā)達國家和地區(qū)都提出要增強人工智能領(lǐng)域的全球領(lǐng)導力。在此背景下，人工智能如何治理已不單純是一國國內(nèi)的技術(shù)發(fā)展政策，而是一個全球性的技術(shù)治理與戰(zhàn)略平衡問題。

在全球人工智能的競爭中，我國雖然已形成一定的競爭優(yōu)勢，但軟硬件方面存在的短板也不容忽視。例如，目前我國用于人工智能模型訓練的芯片、人工智能系統(tǒng)的軟件開發(fā)等多依賴于美國公司，美國政府在 2022 年10月已禁止這些公司向中國出售人工智能和專業(yè)領(lǐng)域的GPU 芯片，包括芯片設計軟件和制造設備。2023年3月，荷蘭和日本也先后宣布了20多種與半導體制造設備、關(guān)鍵材料有關(guān)的出口限制措施。這些地緣政治因素都需要在制定相關(guān)政策時給予足夠的重視。

第三，人工智能是資源、資本高度密集型行業(yè)，對我國經(jīng)濟高質(zhì)量轉(zhuǎn)型具有一定的負面影響，相關(guān)政策需要更符合國情的戰(zhàn)略平衡。人工智能是21世紀最具有戰(zhàn)略性的一項新興技術(shù)，但它同時也是資源、資本最為密集的技術(shù)行業(yè)。每一個通用人工智能系統(tǒng)都需要千億級、萬億級的數(shù)據(jù)資源來支撐。例如，OpenAI公司在今年5月發(fā)布的GPT-4模型原始訓練數(shù)據(jù)庫從GPT-3的753GB（10億字節(jié)）擴大到4萬GB，增長53倍；谷歌Deepmind 開發(fā)的Piper-MonoRepo大模型的原始訓練數(shù)據(jù)庫更大，為8.6萬GB。從資本投入來看，無論是前期人工智能大模型的訓練還是系統(tǒng)的日常運行，成本都非常高。根據(jù)瑞士信貸銀行的估算，OpenAI 的GPT-3 模型（ 1750 億個參數(shù)），訓練成本約為139.8萬美元；谷歌開發(fā)的PaLM模型（5400億個參數(shù)），訓練成本約為1121.7萬美元；ChatGPT 大約有 1300萬用戶，平均每天的運行成本高達10萬美元。人工智能系統(tǒng)通用性越高、模型參數(shù)越多，對數(shù)據(jù)資源的需求規(guī)模就越大，并且模型還需要反復訓練更新，前期投資和整個運行維護成本都非常高。這無疑抬高了我國企業(yè)進一步利用人工智能提高生產(chǎn)率水平的門檻，尤其對中小企業(yè)的智能化轉(zhuǎn)型更是不利。

除了需要數(shù)據(jù)、資本等要素的大規(guī)模投入，人工智能還是能源高度密集型行業(yè)。以GPT-3為例，一個訓練周期的用電量大約為 1287 兆瓦時（MWh），相當于我國 1360人一年的生活用電量；碳排放量約為 502 噸，相當于生產(chǎn) 280噸粗鋼、 840 噸水泥的碳排放量。訓練周期的能耗只相當于日常運行能耗的 40%。根據(jù)谷歌發(fā)布的環(huán)境報告，該公司人工智能模型每年的用電量占整個公司總用電量的10%— 15%，相當于美國亞特蘭大大都市區(qū)（ 2021 年總?cè)丝跒?614.4萬人）所有住宅一年的電力消耗（見圖1）。我國人工智能大模型所使用的芯片、算法等技術(shù)相對落后，能耗和碳排放強度更高。隨著人工智能應用范圍的拓展，勢必給我國綠色轉(zhuǎn)型和雙碳目標的實現(xiàn)帶來更大的壓力。因此，在政策設計時，需要從國家整體高質(zhì)量轉(zhuǎn)型的要求出發(fā)進行更科學的戰(zhàn)略平衡。

圖1 美國四個典型人工智能大模型用電量和碳排放量的對比

以技術(shù)中立為總體導向，為我國人工智能的發(fā)展構(gòu)建更穩(wěn)健、更可持續(xù)的政策生態(tài)

鑒于人工智能的戰(zhàn)略特殊性，以及全球競爭格局和基本國情，我國應建立以技術(shù)中立為總體導向的人工智能治理框架。即，在人工智能的技術(shù)治理中，既不因人工智能的安全風險而過度施加歧視性、風險偏見型的監(jiān)管規(guī)則，為技術(shù)創(chuàng)新預留空間；也不過度采取激勵支持政策，扭曲資源配置機制，而是倡導以人為中心、以增進社會整體福利水平為價值取向的技術(shù)治理理念。這樣既有利于加強我國對人工智能技術(shù)創(chuàng)新與發(fā)展安全的統(tǒng)籌，也有利于規(guī)避我國在全球人工智能領(lǐng)域競爭中的劣勢。具體而言，技術(shù)中立主要包括三個維度的政策含義。

第一，在人工智能從開發(fā)到應用的整個技術(shù)鏈條中，要堅持技術(shù)中立、非歧視的原則。通用人工智能主要由上游環(huán)節(jié)的基礎大模型、中游環(huán)節(jié)的行業(yè)或?qū)I(yè)性的應用模型和下游環(huán)節(jié)的使用者所構(gòu)成，涉及到數(shù)據(jù)采集、算法設計，以及應用于不同行業(yè)部門的產(chǎn)品和服務開發(fā)。風險主要來自于人工智能模型的算法和下游的應用端。因此，需要將技術(shù)中立原則貫穿于整個技術(shù)鏈中。在一些關(guān)鍵應用領(lǐng)域，如就業(yè)、金融信貸、信用風險評估等，積極探索引入第三方對算法進行獨立審計和算法信息披露機制，最大限度地維護人工智能算法的公平。加強教育、醫(yī)療、就業(yè)等公共服務領(lǐng)域人工智能的用途監(jiān)管，避免利用人工智能產(chǎn)品和服務進行歧視性、偏見性的決策和資源分配，影響整個社會的公平和機會平等。

第二，要以技術(shù)中立為基本出發(fā)點，加強人工智能與其他技術(shù)在資源配置和政策監(jiān)管中的戰(zhàn)略平衡。從我國高質(zhì)量轉(zhuǎn)型發(fā)展的技術(shù)需求來看，不只是人工智能，清潔能源、生物、航空、新材料等技術(shù)對國家的現(xiàn)代化發(fā)展也都具有相當?shù)闹匾院蛻?zhàn)略性。正因如此，更需要科學理性地認識人工智能，從技術(shù)中立的角度來制定實施發(fā)展政策。一是政策資源要與人工智能技術(shù)周期相匹配，尤其是要對創(chuàng)新資源和產(chǎn)業(yè)資源的分配進行更長期的戰(zhàn)略平衡，避免政策資源過度超前、集中涌向人工智能領(lǐng)域，對其他技術(shù)行業(yè)的資源配置形成擠出效應。我國是人口大國，就業(yè)壓力較大，需在技術(shù)擴散過程中構(gòu)建一定的緩沖空間，降低技術(shù)轉(zhuǎn)型中的安全風險和負面影響。二是要以技術(shù)中立為導向，引導我國人工智能的發(fā)展不僅要“快”，更要“高質(zhì)量”。對人工智能開發(fā)者、應用者和消費者的監(jiān)管要盡量依據(jù)現(xiàn)有的法律法規(guī)和相關(guān)政策，如消費者權(quán)益保護、知識產(chǎn)權(quán)保護、個人隱私保護、勞動者權(quán)益保護等，確保不同經(jīng)營主體競爭地位的政策性平等。能耗、碳排放等環(huán)境監(jiān)管同樣要適用于人工智能，建立人工智能與能效聯(lián)動的發(fā)展機制，提高模型的綠色化。加快識別人工智能發(fā)展中的新問題、新風險，在保持技術(shù)中立的基礎上進行政策補缺，為我國智能化轉(zhuǎn)型創(chuàng)造更加安全的發(fā)展空間。

第三，在全球人工智能治理中積極倡導技術(shù)中立的理念，為我國培育人工智能的競爭優(yōu)勢創(chuàng)造更有利的外部環(huán)境。由于人工智能中包含了許多文化、意識形態(tài)等因素，全球人工智能的競爭，不只是技術(shù)層面的競爭，更為關(guān)鍵的是人工智能治理模式的競爭。目前，美國、英國、歐盟等發(fā)達國家和地區(qū)不僅在人工智能的技術(shù)上具有明顯優(yōu)勢，還通過技術(shù)標準、安全風險的法律法規(guī)等向其他國家輸出人工智能的治理范式，包括數(shù)字化領(lǐng)域的價值觀等，以提高本國的國際影響力，進一步壟斷人工智能領(lǐng)域的競爭優(yōu)勢。鑒于此，我國一方面要按照技術(shù)中立的總體導向，加快完善國內(nèi)人工智能治理的政策體系，深度總結(jié)北京、深圳等城市在人工智能領(lǐng)域的發(fā)展經(jīng)驗，向全球提供中國人工智能治理的示范，擴大我國在人工智能領(lǐng)域的全球影響力；另一方面，以技術(shù)中立為基本原則，加強與不同國家和地區(qū)人工智能領(lǐng)域政策和治理模式的協(xié)調(diào)，包括人工智能的安全審查、隱私設置，與人工智能產(chǎn)品服務相關(guān)的知識產(chǎn)權(quán)認定等，倡導開放、包容、多元的技術(shù)治理理念，推動建立互利共贏的全球人工智能發(fā)展生態(tài)。在確保國內(nèi)經(jīng)濟安全的前提下，發(fā)揮我國的市場優(yōu)勢，穩(wěn)妥有序地推動人工智能技術(shù)開發(fā)和產(chǎn)品市場開放，深化人工智能領(lǐng)域的國際合作。對于不同國家在人工智能治理領(lǐng)域的政策分歧和利益沖突，倡導優(yōu)先技術(shù)解決，為我國人工智能穩(wěn)定可持續(xù)發(fā)展創(chuàng)造更有利的國際環(huán)境。