国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

邁向負(fù)責(zé)任AI:中國(guó)AI治理趨勢(shì)與展望

2023-07-17 04:22曹建峰

曹建峰

摘 ? 要: 過(guò)去十年,得益于深度學(xué)習(xí)算法、大數(shù)據(jù)、AI專(zhuān)用芯片、開(kāi)源軟件框架等諸多技術(shù)要素的匯聚發(fā)展,AI迅速成為新的通用技術(shù)并被廣泛應(yīng)用于經(jīng)濟(jì)社會(huì)的各個(gè)領(lǐng)域。與此同時(shí),AI也帶來(lái)了一系列法律、倫理和社會(huì)問(wèn)題,AI治理由此成為“必選項(xiàng)”和“必答題”。政府、企業(yè)、行業(yè)組織等各主體,圍繞宏觀政策、科技倫理治理、算法監(jiān)管、傳統(tǒng)強(qiáng)監(jiān)管領(lǐng)域的監(jiān)管創(chuàng)新、AI知識(shí)產(chǎn)權(quán)規(guī)則、AI標(biāo)準(zhǔn)化建設(shè)、行業(yè)自律、全球AI治理合作八大方面,推進(jìn)AI治理走向深入。展望未來(lái),AI治理的完善,需要持續(xù)推進(jìn)精準(zhǔn)敏捷監(jiān)管,采取AI“監(jiān)管沙盒”、AI治理社會(huì)化服務(wù)等多元化方式,推動(dòng)AI治理從原則邁向?qū)嵺`,探索AI風(fēng)險(xiǎn)管理、嵌入設(shè)計(jì)、技術(shù)解決方案等多元化路徑。同時(shí),推動(dòng)全球AI治理合作持續(xù)深化,實(shí)現(xiàn)各國(guó)普惠發(fā)展,讓AI的發(fā)展持續(xù)造福全人類(lèi)利益。

關(guān)鍵詞: 科技倫理;負(fù)責(zé)任AI;精準(zhǔn)敏捷監(jiān)管;監(jiān)管沙盒;AI治理 ;隱私計(jì)算

中圖分類(lèi)號(hào): TP18 ?文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1004-8634(2023)04-0005-(11)

DOI:10.13852/J.CNKI.JSHNU.2023.04.001

引言

21世紀(jì)是數(shù)字化、網(wǎng)絡(luò)化、智能化深入發(fā)展的時(shí)代,人工智能(AI)作為其中的關(guān)鍵技術(shù),其進(jìn)展備受各界矚目。而過(guò)去十年被認(rèn)為是以深度學(xué)習(xí)為代表的AI的“黃金十年”。1 通過(guò)深度學(xué)習(xí),AI領(lǐng)域的神經(jīng)網(wǎng)絡(luò)技術(shù)(Neural Networks)迎來(lái)復(fù)蘇,讓AI領(lǐng)域迎來(lái)飛速發(fā)展的“第三個(gè)春天”。在這之前,自從1956年達(dá)特茅斯會(huì)議提出“人工智能”這一概念以來(lái),AI領(lǐng)域已經(jīng)歷兩起兩落。具體而言,機(jī)器學(xué)習(xí)算法、大數(shù)據(jù)、云計(jì)算、AI專(zhuān)用芯片、開(kāi)源軟件框架等諸多技術(shù)要素的匯聚發(fā)展,推動(dòng)了AI領(lǐng)域取得巨大進(jìn)展,不僅AI的感知、理解、學(xué)習(xí)、決策等能力持續(xù)得到提高,而且AI因此迅速成為新的通用技術(shù)和經(jīng)濟(jì)社會(huì)的智能底座,被廣泛應(yīng)用于經(jīng)濟(jì)社會(huì)的各個(gè)領(lǐng)域,帶來(lái)新的產(chǎn)品和服務(wù)。從消費(fèi)互聯(lián)網(wǎng)領(lǐng)域的算法推薦、AI生成內(nèi)容(AIGC)、聊天機(jī)器人,到產(chǎn)業(yè)領(lǐng)域的無(wú)人駕駛汽車(chē)、AI醫(yī)療軟件、AI質(zhì)檢,再到社會(huì)公共服務(wù)中的各種便民應(yīng)用,AI對(duì)經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展的巨大價(jià)值持續(xù)得到彰顯。1 總之,作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革(第四次工業(yè)革命)的戰(zhàn)略性技術(shù),AI有望重塑人類(lèi)經(jīng)濟(jì)社會(huì),對(duì)生產(chǎn)力、勞動(dòng)就業(yè)、收入分配、全球化等都將帶來(lái)巨大影響。

在此背景下,AI成為國(guó)際競(jìng)爭(zhēng)的新焦點(diǎn),全球各國(guó)紛紛出臺(tái)AI發(fā)展戰(zhàn)略和具體政策,搶占戰(zhàn)略制高點(diǎn)和發(fā)展機(jī)遇。2017年7月,中國(guó)發(fā)布《新一代人工智能發(fā)展規(guī)劃》,AI上升為國(guó)家戰(zhàn)略;2018年4月,歐盟出臺(tái)AI戰(zhàn)略,旨在讓歐盟成為世界級(jí)的AI中心并確保AI是以人為本的、可信的;2019年2月,《美國(guó)AI計(jì)劃》發(fā)布,啟動(dòng)AI戰(zhàn)略,旨在提升美國(guó)在AI領(lǐng)域的領(lǐng)導(dǎo)地位;2021年9月,英國(guó)出臺(tái)AI戰(zhàn)略,希望通過(guò)十年計(jì)劃把英國(guó)打造為AI超級(jí)大國(guó)。分析各國(guó)的AI戰(zhàn)略不難看出,AI領(lǐng)域的國(guó)際競(jìng)爭(zhēng)不僅事關(guān)技術(shù)創(chuàng)新與產(chǎn)業(yè)經(jīng)濟(jì),而且牽涉AI治理等維度。隨著AI的廣泛應(yīng)用,AI帶來(lái)的諸多科技倫理問(wèn)題持續(xù)引起社會(huì)各界的高度關(guān)注,諸如算法歧視、信息繭房、不公平的AI決策、個(gè)人信息濫用和隱私侵犯、AI安全、算法黑箱、責(zé)任承擔(dān)、技術(shù)濫用(如大數(shù)據(jù)殺熟、AI造假和合成虛假信息)、工作和就業(yè)影響、倫理道德沖擊等風(fēng)險(xiǎn)挑戰(zhàn)。2 因此,伴隨著過(guò)去十年AI技術(shù)發(fā)展應(yīng)用的“高歌猛進(jìn)”,國(guó)內(nèi)外各界同步推進(jìn)AI治理,探索立法、倫理框架、標(biāo)準(zhǔn)和認(rèn)證、行業(yè)最佳做法等多元治理措施和保障機(jī)制,支持負(fù)責(zé)任的、可信的、以人為本的AI發(fā)展。

本文立足國(guó)際視野,梳理過(guò)去十年中國(guó)在AI治理領(lǐng)域的重要進(jìn)展,分析總結(jié)其中的規(guī)律和趨勢(shì),并展望未來(lái)發(fā)展。在可預(yù)見(jiàn)的未來(lái),隨著AI的能力越來(lái)越強(qiáng),其應(yīng)用和影響將日益加深,因此,負(fù)責(zé)任的AI(Responsible AI)將變得越來(lái)越重要。而負(fù)責(zé)任的AI的推進(jìn)和落實(shí),離不開(kāi)合理有效的AI治理。換句話說(shuō),建立健全AI治理,是邁向負(fù)責(zé)任AI、保障AI未來(lái)發(fā)展的必由之路。希冀本文對(duì)未來(lái)AI治理的持續(xù)開(kāi)展和落地有所助益。

AI治理的八個(gè)趨勢(shì)

1.宏觀戰(zhàn)略與落地政策并舉,培育國(guó)家AI競(jìng)爭(zhēng)力

自2013年2月發(fā)布的《關(guān)于推進(jìn)物聯(lián)網(wǎng)有序健康發(fā)展的指導(dǎo)意見(jiàn)》提出“經(jīng)濟(jì)社會(huì)智能化發(fā)展”以來(lái),AI便進(jìn)入國(guó)家宏觀戰(zhàn)略的視野,成為國(guó)家頂層政策文件的重要議題。例如,2015年《關(guān)于積極推進(jìn)“互聯(lián)網(wǎng)+”行動(dòng)的指導(dǎo)意見(jiàn)》首次提出“培育發(fā)展人工智能新興產(chǎn)業(yè)”。此后,國(guó)家對(duì)AI的重視程度不斷提高,持續(xù)在戰(zhàn)略層面對(duì)發(fā)展AI做出部署,確保實(shí)現(xiàn)核心技術(shù)自主可控,推進(jìn)高水平科技自立自強(qiáng)(表1)。

落地政策同樣重要。AI是新興技術(shù)與新興產(chǎn)業(yè)的綜合體,AI技術(shù)創(chuàng)新只有轉(zhuǎn)化為可持續(xù)的產(chǎn)業(yè)生態(tài),并和實(shí)體經(jīng)濟(jì)深度融合,才能發(fā)揮好其作為新的增長(zhǎng)引擎的強(qiáng)大作用。在這方面,試驗(yàn)區(qū)、先導(dǎo)區(qū)等先行先試模式發(fā)揮著重要作用??萍疾恐ν七M(jìn)的人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)建設(shè)成果顯著,全國(guó)已經(jīng)批復(fù)建設(shè)18個(gè)國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū),在政策工具、應(yīng)用模式、經(jīng)驗(yàn)做法等方面起到了很好的引領(lǐng)帶動(dòng)作用。2019年至今,工信部批復(fù)建設(shè)11個(gè)國(guó)家人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū),促進(jìn)AI和實(shí)體經(jīng)濟(jì)深度融合;2022年7月,科技部等六部門(mén)發(fā)布《關(guān)于加快場(chǎng)景創(chuàng)新以人工智能高水平應(yīng)用促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展的指導(dǎo)意見(jiàn)》,著力解決AI應(yīng)用和產(chǎn)業(yè)化問(wèn)題,以“數(shù)據(jù)底座+算力平臺(tái)+場(chǎng)景開(kāi)放”三駕馬車(chē)驅(qū)動(dòng)AI與經(jīng)濟(jì)社會(huì)發(fā)展深度融合,更好支撐高質(zhì)量發(fā)展。

在國(guó)家宏觀戰(zhàn)略和落地政策的持續(xù)支持下,中國(guó)AI領(lǐng)域的創(chuàng)新創(chuàng)業(yè)持續(xù)活躍,AI領(lǐng)域的國(guó)家級(jí)實(shí)驗(yàn)室陸續(xù)建立,在AI領(lǐng)域的技術(shù)創(chuàng)新、產(chǎn)業(yè)應(yīng)用、人才規(guī)模等方面均取得了重要成就。中國(guó)科學(xué)技術(shù)信息研究所發(fā)布的《2021全球人工智能創(chuàng)新指數(shù)報(bào)告》顯示,目前全球AI發(fā)展呈現(xiàn)中美兩國(guó)引領(lǐng)、主要國(guó)家激烈競(jìng)爭(zhēng)的總體格局。1 中國(guó)AI發(fā)展成效顯著,AI創(chuàng)新水平已經(jīng)進(jìn)入世界第一梯隊(duì),與美國(guó)的差距進(jìn)一步縮小。中國(guó)的超算中心、AI企業(yè)規(guī)模、專(zhuān)利注冊(cè)數(shù)量、人才隊(duì)伍建設(shè)和科研實(shí)力均處在全球領(lǐng)先行列,未來(lái),AI對(duì)中國(guó)經(jīng)濟(jì)增長(zhǎng)和社會(huì)發(fā)展的貢獻(xiàn)將持續(xù)放大。普華永道的研究報(bào)告預(yù)測(cè),全球來(lái)看,到2030年AI對(duì)全球經(jīng)濟(jì)的貢獻(xiàn)將達(dá)到15.7萬(wàn)億美元,中國(guó)將從AI中收獲最大的經(jīng)濟(jì)收益,達(dá)到7萬(wàn)億美元,意味著AI將推動(dòng)中國(guó)GDP增長(zhǎng)約26.1%;美國(guó)和北美其次,將達(dá)到3.7萬(wàn)億美元。2

2.科技倫理制度不斷完善,成為AI創(chuàng)新的重要保障

在數(shù)字時(shí)代,AI等新興數(shù)字技術(shù),具有不同于工業(yè)時(shí)代的技術(shù)應(yīng)用的獨(dú)特性和復(fù)雜性。主要體現(xiàn)為:(1)更廣泛的聯(lián)通性,網(wǎng)絡(luò)的連接和數(shù)據(jù)的收集、處理無(wú)處不在;(2)更強(qiáng)的自主性,AI系統(tǒng)驅(qū)動(dòng)各種產(chǎn)品和服務(wù)獨(dú)立運(yùn)行,無(wú)須人類(lèi)干預(yù);(3)更深的不透明性,AI系統(tǒng)的“算法黑箱”難以被理解和解釋?zhuān)?(4)更高的擬真性,AI生成、合成的內(nèi)容、數(shù)據(jù)和虛擬世界越來(lái)越逼近現(xiàn)實(shí)。正因如此,AI等新技術(shù)應(yīng)用可能引發(fā)的社會(huì)倫理問(wèn)題越來(lái)越具有突發(fā)性、隱蔽性、規(guī)模性、不可預(yù)測(cè)性等諸多特征,這給科技倫理治理提出新的挑戰(zhàn)。在AI的發(fā)展應(yīng)用過(guò)程中,同步考慮甚至提前考慮科技倫理問(wèn)題變得越來(lái)越必要和重要。1 科技倫理制度的調(diào)整完善,由此成為AI時(shí)代的重要議題,需要從關(guān)注人的倫理轉(zhuǎn)向關(guān)注技術(shù)的倫理,實(shí)施對(duì)智能體進(jìn)行道德約束,構(gòu)建友善的數(shù)字社會(huì)秩序。2 更進(jìn)一步而言,隨著全球科技競(jìng)爭(zhēng)日益激化,科技倫理不僅事關(guān)科技安全風(fēng)險(xiǎn)挑戰(zhàn)之防范,而且關(guān)乎國(guó)家科技競(jìng)爭(zhēng)力之打造。

黨的十八大以來(lái),國(guó)家對(duì)科技倫理的重視程度不斷提升,明確提出科技倫理是科技活動(dòng)必須遵守的價(jià)值準(zhǔn)則,并將科技倫理納入頂層政策設(shè)計(jì),作為科技創(chuàng)新的重要支撐和保障?!吨泄仓醒腙P(guān)于堅(jiān)持和完善中國(guó)特色社會(huì)主義制度 ?推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化若干重大問(wèn)題的決定》和《十四五規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》對(duì)科技倫理做出了頂層部署,要求健全科技倫理治理體制,健全科技倫理體系。目前,國(guó)家持續(xù)建立健全科技倫理制度,塑造科技向善的文化理念和保障機(jī)制。主要體現(xiàn)在以下三個(gè)方面:

第一,組建國(guó)家科技倫理委員會(huì),負(fù)責(zé)指導(dǎo)和統(tǒng)籌協(xié)調(diào)推進(jìn)全國(guó)科技倫理治理體系建設(shè)工作。2019年7月,中央全面深化改革委員會(huì)第九次會(huì)議審議通過(guò)了《國(guó)家科技倫理委員會(huì)組建方案》,正式確立了中國(guó)國(guó)家級(jí)的科技倫理管理機(jī)構(gòu)。2022年3月發(fā)布的《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》進(jìn)一步明確了國(guó)家科技倫理委員會(huì)的管理職責(zé)。

第二,出臺(tái)科技倫理相關(guān)的政策法規(guī),支持科技倫理治理落地實(shí)施。2021年12月修訂的《科學(xué)技術(shù)進(jìn)步法》的一大亮點(diǎn)就是增加了科技倫理相關(guān)條款,一方面對(duì)健全科技倫理治理體制做出了整體規(guī)定,另一方面要求科學(xué)技術(shù)研究開(kāi)發(fā)機(jī)構(gòu)、高等學(xué)校、企業(yè)事業(yè)單位等主體履行科技倫理管理主體責(zé)任,對(duì)科學(xué)技術(shù)活動(dòng)開(kāi)展倫理審查,同時(shí)明確科學(xué)技術(shù)研究開(kāi)發(fā)和應(yīng)用活動(dòng)的法律倫理底線。《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》則對(duì)科技倫理治理提出了更為全面的要求,涉及總體要求、原則、體制、制度保障、審查和監(jiān)管以及教育和宣傳六大方面,為科技倫理治理的落地實(shí)施奠定了基礎(chǔ)。后續(xù)還將制定科技倫理審查辦法、科技倫理高風(fēng)險(xiǎn)科技活動(dòng)清單、細(xì)分領(lǐng)域的科技倫理規(guī)范等配套規(guī)定。

第三,強(qiáng)調(diào)AI領(lǐng)域的科技倫理治理。國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)先后發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》和《新一代人工智能倫理規(guī)范》,為發(fā)展負(fù)責(zé)任的AI提供倫理指南?!稊?shù)據(jù)安全法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》等法律法規(guī),對(duì)數(shù)據(jù)和算法活動(dòng)提出科技倫理要求和管理措施。《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》將AI、生命科學(xué)、醫(yī)學(xué)作為“十四五”期間的三個(gè)重點(diǎn)領(lǐng)域,要求制定專(zhuān)門(mén)的科技倫理規(guī)范、指南等,加強(qiáng)科技倫理立法,并要求相關(guān)行業(yè)主管部門(mén)推出科技倫理監(jiān)管舉措??梢灶A(yù)見(jiàn),未來(lái)AI領(lǐng)域的科技倫理監(jiān)管將得到加強(qiáng)。此外,地方層面的立法如《深圳人工智能產(chǎn)業(yè)促進(jìn)條例》和《上海促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》都把AI倫理治理作為支持AI產(chǎn)業(yè)健康發(fā)展的重要保障。

從以上分析可以看出,目前在AI的科技倫理治理方面,一個(gè)顯著的趨勢(shì)是把創(chuàng)新主體的科技倫理管理主體責(zé)任作為一個(gè)主要的抓手,這和互聯(lián)網(wǎng)平臺(tái)監(jiān)管強(qiáng)調(diào)平臺(tái)主體責(zé)任具有一定的相似性。政府對(duì)平臺(tái)的監(jiān)管,在很大程度上是通過(guò)落實(shí)、壓實(shí)平臺(tái)主體責(zé)任來(lái)實(shí)現(xiàn)的,網(wǎng)絡(luò)領(lǐng)域的相關(guān)立法構(gòu)建了事前、事中、事后全方位的平臺(tái)義務(wù)體系,市場(chǎng)監(jiān)管總局發(fā)布的《互聯(lián)網(wǎng)平臺(tái)落實(shí)主體責(zé)任指南(征求意見(jiàn)稿)》嘗試對(duì)不同類(lèi)型的平臺(tái)的主體責(zé)任進(jìn)行細(xì)化。政府對(duì)AI的監(jiān)管,呈現(xiàn)出類(lèi)似的思路。目前的相關(guān)政策法規(guī)嘗試對(duì)科技倫理管理主體責(zé)任進(jìn)行細(xì)化,要求創(chuàng)新主體建立倫理委員會(huì)、堅(jiān)持科技倫理底線、進(jìn)行科技倫理審查、開(kāi)展科技倫理風(fēng)險(xiǎn)監(jiān)測(cè)預(yù)警和評(píng)估、開(kāi)展科技倫理培訓(xùn)等。

3.互聯(lián)網(wǎng)領(lǐng)域算法應(yīng)用成為AI監(jiān)管的重點(diǎn)對(duì)象

算法推薦、算法自動(dòng)化決策、AI深度合成等互聯(lián)網(wǎng)領(lǐng)域的算法應(yīng)用,由于應(yīng)用廣泛、社會(huì)公眾關(guān)注度高、負(fù)面問(wèn)題持續(xù)凸顯等因素,成為政府在AI領(lǐng)域重點(diǎn)監(jiān)管的對(duì)象。近年來(lái),國(guó)家出臺(tái)了一系列法律法規(guī),積極規(guī)范互聯(lián)網(wǎng)領(lǐng)域算法應(yīng)用。3 國(guó)家互聯(lián)網(wǎng)信息辦公室等九部門(mén)出臺(tái)的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》提出了較為全面的管理要求,希望利用三年左右時(shí)間,逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。該意見(jiàn)同樣強(qiáng)調(diào)強(qiáng)化企業(yè)主體責(zé)任,包括算法安全責(zé)任、科技倫理審查等。

在算法推薦方面,《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》提出針對(duì)算法推薦技術(shù)健全人工干預(yù)和用戶自主選擇機(jī)制。2022年3月1日起施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》則是中國(guó)第一部聚焦算法治理的立法,該規(guī)定針對(duì)算法推薦服務(wù)提供者提出全方位的義務(wù)和禁止性要求,提出算法安全風(fēng)險(xiǎn)監(jiān)測(cè)、算法安全評(píng)估、算法備案管理等一系列監(jiān)管舉措,進(jìn)一步強(qiáng)化平臺(tái)企業(yè)的算法安全責(zé)任。業(yè)內(nèi)人士以此為標(biāo)志,將2022年稱(chēng)為算法監(jiān)管元年。

在算法自動(dòng)化決策方面,《中華人民共和國(guó)個(gè)人信息保護(hù)法》《中華人民共和國(guó)電子商務(wù)法》《在線旅游經(jīng)營(yíng)管理服務(wù)暫行規(guī)定》等都有相關(guān)條款對(duì)算法歧視、大數(shù)據(jù)殺熟等不公平、不正當(dāng)?shù)乃惴Q策行為進(jìn)行規(guī)制,提出了向個(gè)人提供選擇權(quán)限、開(kāi)展影響評(píng)估、個(gè)人可以要求說(shuō)明和享有拒絕權(quán)限等規(guī)制方式,更好地平衡個(gè)人權(quán)益保護(hù)和算法商業(yè)應(yīng)用活動(dòng)。

在AI深度合成(主要是指利用AI技術(shù)生成、合成信息內(nèi)容)方面,相關(guān)立法積極為AI深度合成技術(shù)劃定應(yīng)用紅線,促進(jìn)技術(shù)正向應(yīng)用,如《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等都禁止將深度合成算法用于虛假新聞信息和其他違法違規(guī)活動(dòng)。2022年11月通過(guò)的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,總結(jié)既往監(jiān)管經(jīng)驗(yàn),從深度合成服務(wù)提供者主體責(zé)任、深度合成信息內(nèi)容標(biāo)識(shí)管理等方面,對(duì)深度合成技術(shù)應(yīng)用進(jìn)行全面規(guī)范,通過(guò)內(nèi)容標(biāo)識(shí)、檢測(cè)識(shí)別、內(nèi)容溯源等必要的安全保障措施確保深度合成技術(shù)應(yīng)用安全可靠,更好地促進(jìn)技術(shù)創(chuàng)新發(fā)展和積極正向應(yīng)用。

整體而言,互聯(lián)網(wǎng)領(lǐng)域的算法監(jiān)管強(qiáng)調(diào)安全可控、權(quán)益保護(hù)、公平公正、公開(kāi)透明、濫用防范等多元目的,在算法應(yīng)用分級(jí)分類(lèi)基礎(chǔ)上,重點(diǎn)規(guī)制高風(fēng)險(xiǎn)類(lèi)算法應(yīng)用。算法分級(jí)分類(lèi)監(jiān)管和《歐盟人工智能法案》對(duì)AI系統(tǒng)的監(jiān)管思路是類(lèi)似的,后者按照不可接受風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)、最小風(fēng)險(xiǎn)對(duì)AI系統(tǒng)進(jìn)行分級(jí),并對(duì)不同風(fēng)險(xiǎn)程度的AI系統(tǒng)提出不同的監(jiān)管要求。在此背景下,學(xué)界對(duì)算法治理的研究興趣濃厚,提出了算法解釋、算法影響評(píng)估、算法審計(jì)等諸多思路。未來(lái),各界還需進(jìn)一步探索完善算法監(jiān)管的方式方法和治理舉措,更好地保障算法應(yīng)用向上、向善。

4.以監(jiān)管創(chuàng)新促進(jìn)AI在傳統(tǒng)強(qiáng)監(jiān)管領(lǐng)域應(yīng)用落地

對(duì)于交通、醫(yī)療等傳統(tǒng)強(qiáng)監(jiān)管領(lǐng)域而言,自動(dòng)駕駛汽車(chē)、載人無(wú)人機(jī)(無(wú)人駕駛的飛行汽車(chē))、AI醫(yī)療軟件等新生事物面臨的主要問(wèn)題是,其商業(yè)化應(yīng)用仍面臨較大的法律和監(jiān)管障礙。這些障礙不僅影響消費(fèi)者和公眾對(duì)技術(shù)的信任,而且打擊創(chuàng)新者和投資者的積極性。因此,有效的監(jiān)管創(chuàng)新是這些新事物發(fā)展應(yīng)用的關(guān)鍵所在。以自動(dòng)駕駛汽車(chē)為例,只有加快革新旨在規(guī)制傳統(tǒng)汽車(chē)和人類(lèi)司機(jī)的立法和監(jiān)管框架,進(jìn)而建立新的、有效的監(jiān)管框架,才能加快實(shí)現(xiàn)自動(dòng)駕駛汽車(chē)的商業(yè)化應(yīng)用。

中國(guó)的政策制定者積極創(chuàng)新監(jiān)管方式和手段,通過(guò)“監(jiān)管沙盒”(Regulatory Sandbox,詳見(jiàn)后文介紹)、試點(diǎn)、示范應(yīng)用等方式支持、促進(jìn)AI新事物應(yīng)用落地。在自動(dòng)駕駛汽車(chē)領(lǐng)域,國(guó)家出臺(tái)了一系列立法和規(guī)范性文件,鼓勵(lì)、支持和規(guī)范自動(dòng)駕駛汽車(chē)道路測(cè)試與示范應(yīng)用活動(dòng),探索自動(dòng)駕駛汽車(chē)安全標(biāo)準(zhǔn)的“監(jiān)管沙盒”,完善自動(dòng)駕駛汽車(chē)準(zhǔn)入和上路通行規(guī)則,保障自動(dòng)駕駛汽車(chē)運(yùn)輸安全。由于監(jiān)管政策利好,北上廣深等各地紛紛搶占發(fā)展高地,部分城市已向自動(dòng)駕駛廠商發(fā)放了允許車(chē)內(nèi)無(wú)駕駛?cè)?、可以收費(fèi)運(yùn)營(yíng)的無(wú)人駕駛汽車(chē)試運(yùn)營(yíng)牌照;深圳則在全國(guó)率先出臺(tái)《深圳智能網(wǎng)聯(lián)汽車(chē)管理?xiàng)l例》,為商業(yè)化應(yīng)用奠定立法和監(jiān)管框架。在AI醫(yī)療領(lǐng)域,由于AI醫(yī)療軟件具有不同于傳統(tǒng)醫(yī)療器械的諸多全新特征,包括自主性、學(xué)習(xí)進(jìn)化能力、持續(xù)迭代性、算法黑箱、不可預(yù)測(cè)性等,這使得傳統(tǒng)審批程序難以有效適應(yīng)AI醫(yī)療軟件的發(fā)展需求。為此,監(jiān)管部門(mén)積極完善AI醫(yī)療器械的注冊(cè)申報(bào)和審批程序、使用管理規(guī)范,支持智能醫(yī)學(xué)影像等輔助診斷和輔助治療的AI醫(yī)療軟件加快臨床應(yīng)用;目前國(guó)內(nèi)已有AI醫(yī)療軟件獲得審批,如騰訊覓影的AI輔助診斷青光眼軟件、肺炎AI輔助診斷系統(tǒng)都已獲批第三類(lèi)醫(yī)療器械注冊(cè)證(“三類(lèi)證”)。未來(lái),監(jiān)管部門(mén)還需持續(xù)完善、優(yōu)化針對(duì)AI醫(yī)療軟件的注冊(cè)申報(bào)和審批程序,讓AI醫(yī)療應(yīng)用更好地增進(jìn)民生福祉。

5.加快探索AI的知識(shí)產(chǎn)權(quán)保護(hù)規(guī)則

AI生成內(nèi)容(AI-Generated Contents,縮寫(xiě)AIGC)已經(jīng)成為AI的新疆域,代表著AI的未來(lái)發(fā)展方向。1 在互聯(lián)網(wǎng)領(lǐng)域,AIGC是PGC(專(zhuān)業(yè)生產(chǎn)內(nèi)容)和UGC(用戶生產(chǎn)內(nèi)容)之后的內(nèi)容生產(chǎn)形態(tài),帶來(lái)自動(dòng)化內(nèi)容生產(chǎn)的巨大變革。目前,AIGC技術(shù)已能自主生產(chǎn)多種形式的內(nèi)容,包括文本、圖片、音頻、視頻、3D內(nèi)容(3D物品、3D虛擬場(chǎng)景)等。AIGC技術(shù)及其應(yīng)用的知識(shí)產(chǎn)權(quán)保護(hù)規(guī)則由此成為繞不過(guò)去的重要議題,諸如“AIGC內(nèi)容的著作權(quán)保護(hù)及歸屬如何確立”“AIGC技術(shù)使用他人版權(quán)內(nèi)容是否侵權(quán)”等都是亟待解決的問(wèn)題。2 國(guó)外有學(xué)者提出,需要建立專(zhuān)門(mén)的AI知識(shí)產(chǎn)權(quán)保護(hù)規(guī)則和國(guó)際條約,因?yàn)锳I技術(shù)打破了創(chuàng)作者和發(fā)明人只能是人類(lèi)的既有模式。3

國(guó)內(nèi)外已在積極探索AI生成內(nèi)容的知識(shí)產(chǎn)權(quán)保護(hù)規(guī)則。在國(guó)外,英國(guó)、歐盟、日本、南非等在考慮或者已經(jīng)制定了專(zhuān)門(mén)的AI知識(shí)產(chǎn)權(quán)保護(hù)規(guī)則,如英國(guó)《版權(quán)、設(shè)計(jì)與專(zhuān)利法》中的計(jì)算機(jī)生成作品保護(hù)條款、歐盟《單一數(shù)字市場(chǎng)版權(quán)指令》中的基于AI技術(shù)的文本與數(shù)據(jù)挖掘版權(quán)例外條款等。在專(zhuān)利方面,英國(guó)的政策指出,由于AI還沒(méi)有先進(jìn)到可以獨(dú)立自主地進(jìn)行發(fā)明創(chuàng)造,所以當(dāng)前還沒(méi)必要對(duì)專(zhuān)利法進(jìn)行修改,但需密切關(guān)注技術(shù)進(jìn)展并及時(shí)評(píng)估AI的專(zhuān)利問(wèn)題。

在國(guó)內(nèi),北京菲林律師事務(wù)所訴百度“百家號(hào)”著作權(quán)侵權(quán)案中,法院雖然認(rèn)為只有自然人創(chuàng)作完成的獨(dú)創(chuàng)性作品才可獲得版權(quán)保護(hù),由此否定了AI直接且獨(dú)立生成的作品的版權(quán)保護(hù)可能性,但卻指出可以通過(guò)競(jìng)爭(zhēng)法等方式對(duì)AI生成內(nèi)容的相關(guān)權(quán)益(如競(jìng)爭(zhēng)性權(quán)益)進(jìn)行保護(hù)。深圳市騰訊計(jì)算機(jī)系統(tǒng)有限公司訴上海盈訊科技有限公司侵害著作權(quán)及不正當(dāng)競(jìng)爭(zhēng)糾紛案中,法院基于AI領(lǐng)域的人機(jī)協(xié)作現(xiàn)實(shí),指出AI寫(xiě)稿軟件Dreamwriter在技術(shù)上“生成”作品只是創(chuàng)作過(guò)程的一個(gè)環(huán)節(jié),原告主持的多團(tuán)隊(duì)、多人分工形成的整體智力活動(dòng)才是創(chuàng)作的核心環(huán)節(jié),并由此認(rèn)定涉案文章是原告主持的法人作品。關(guān)于Dreamwriter案的認(rèn)定更符合當(dāng)前AIGC技術(shù)及其應(yīng)用的發(fā)展?fàn)顩r,對(duì)將來(lái)通過(guò)立法進(jìn)一步明確AI生成內(nèi)容的知識(shí)產(chǎn)權(quán)保護(hù)規(guī)則具有較大的借鑒意義。在立法上,2020年新修訂的《中華人民共和國(guó)著作權(quán)法》采用開(kāi)放性的作品認(rèn)定方式,在明確作品構(gòu)成要件、列舉主要作品類(lèi)型的同時(shí),規(guī)定了開(kāi)放式的兜底條款,為AIGC等新技術(shù)應(yīng)用帶來(lái)的新客體保護(hù)預(yù)留出制度空間。

6.標(biāo)準(zhǔn)化建設(shè)是AI治理的關(guān)鍵一環(huán)

《國(guó)家標(biāo)準(zhǔn)化發(fā)展綱要》指出,標(biāo)準(zhǔn)化在推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化中發(fā)揮著基礎(chǔ)性、引領(lǐng)性作用。對(duì)于AI領(lǐng)域而言,AI標(biāo)準(zhǔn)不僅是支持、促進(jìn)AI發(fā)展進(jìn)步和廣泛應(yīng)用的重要手段(如技術(shù)標(biāo)準(zhǔn)),而且是推進(jìn)落實(shí)AI治理的有效方式(如治理標(biāo)準(zhǔn)、倫理標(biāo)準(zhǔn)),因?yàn)锳I治理標(biāo)準(zhǔn)可以起到“承接立法和監(jiān)管、對(duì)接技術(shù)實(shí)踐”的重要作用。再者,AI治理領(lǐng)域的標(biāo)準(zhǔn)相比立法和監(jiān)管更具敏捷性、靈活性和適應(yīng)性。因此,AI治理標(biāo)準(zhǔn)已經(jīng)成為AI技術(shù)和產(chǎn)業(yè)發(fā)展中的一個(gè)制高點(diǎn),國(guó)際社會(huì)紛紛提出落地舉措。典型代表有歐盟的可信AI標(biāo)準(zhǔn),美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)主導(dǎo)的AI風(fēng)險(xiǎn)管理、AI歧視識(shí)別等治理標(biāo)準(zhǔn),英國(guó)的AI認(rèn)證生態(tài)系統(tǒng)發(fā)展規(guī)劃,IEEE的AI倫理標(biāo)準(zhǔn)等。在落地方面,IEEE已面向行業(yè)推出了AI倫理認(rèn)證項(xiàng)目;英國(guó)希望通過(guò)5年時(shí)間培育一個(gè)世界領(lǐng)先、價(jià)值數(shù)十億英鎊規(guī)模的AI認(rèn)證行業(yè),通過(guò)中立第三方的AI認(rèn)證服務(wù)(包括審計(jì)、影響評(píng)估、認(rèn)證)來(lái)評(píng)估、交流AI系統(tǒng)的可信性和合規(guī)性。

中國(guó)非常重視AI領(lǐng)域的標(biāo)準(zhǔn)化建設(shè),《國(guó)家標(biāo)準(zhǔn)化發(fā)展綱要》要求在AI、量子信息、生物技術(shù)等領(lǐng)域,開(kāi)展標(biāo)準(zhǔn)化研究。近年來(lái),各界持續(xù)推進(jìn)AI治理領(lǐng)域的國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)、地方標(biāo)準(zhǔn)、團(tuán)體標(biāo)準(zhǔn)等標(biāo)準(zhǔn)化工作。例如,國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)成立國(guó)家人工智能標(biāo)準(zhǔn)化總體組,全國(guó)信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會(huì)設(shè)立人工智能分技術(shù)委員會(huì),都旨在推進(jìn)制定AI領(lǐng)域的國(guó)家標(biāo)準(zhǔn)。2020年7月印發(fā)的《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》明確了AI標(biāo)準(zhǔn)領(lǐng)域的頂層設(shè)計(jì),該指南將安全/倫理標(biāo)準(zhǔn)作為AI標(biāo)準(zhǔn)體系的核心組成部分,旨在通過(guò)安全/倫理標(biāo)準(zhǔn)為AI建立合規(guī)體系,促進(jìn)AI健康、可持續(xù)發(fā)展。未來(lái),AI治理相關(guān)標(biāo)準(zhǔn)需加快制定并落地實(shí)施,從而為AI領(lǐng)域的技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展提供更多保障。

7.行業(yè)主動(dòng)探索AI治理的自律措施,踐行負(fù)責(zé)任創(chuàng)新和科技向善理念

有效的AI治理需要政府、企業(yè)、行業(yè)組織、學(xué)術(shù)團(tuán)體、用戶或消費(fèi)者、社會(huì)公眾等多元主體的共同參與,其中,科技企業(yè)的自我治理和自律管理是落實(shí)“倫理先行”理念的重要方式。之所以呼吁“倫理先行”,在很大程度上是因?yàn)槊鎸?duì)AI的快速發(fā)展,“法律的滯后性”現(xiàn)象變得越來(lái)越突出。在AI領(lǐng)域,“倫理先行”首先表現(xiàn)為科技企業(yè)的科技倫理自律管理,而且領(lǐng)先企業(yè)的最佳實(shí)踐做法往往能夠起到很好的引領(lǐng)帶動(dòng)作用,推動(dòng)整個(gè)行業(yè)踐行負(fù)責(zé)任創(chuàng)新和科技向善理念。

在行業(yè)層面,近年來(lái),相關(guān)研究機(jī)構(gòu)和行業(yè)組織紛紛提出AI的倫理指南、自律公約等,為企業(yè)的AI活動(dòng)提供倫理指引。這方面的典型代表有中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(AIIA)的《人工智能行業(yè)自律公約》和《可信AI操作指引》、北京智源人工智能研究院的《人工智能北京共識(shí)》和《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》、全國(guó)信息安全標(biāo)準(zhǔn)化委員會(huì)的《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南——人工智能倫理安全風(fēng)險(xiǎn)防范指引》等。

在企業(yè)層面,科技企業(yè)作為AI技術(shù)創(chuàng)新和產(chǎn)業(yè)應(yīng)用的主體,擔(dān)負(fù)著負(fù)責(zé)任地研發(fā)應(yīng)用AI的重要責(zé)任。在國(guó)外,從提出AI倫理原則,到成立內(nèi)部的AI倫理治理機(jī)構(gòu),再到開(kāi)發(fā)管理和技術(shù)工具甚至商業(yè)性的負(fù)責(zé)任AI解決方案,科技公司探索出了較為成熟的經(jīng)驗(yàn),積累了很多可資推廣的實(shí)踐做法(表2)。1 近年來(lái),國(guó)內(nèi)科技公司積極落實(shí)監(jiān)管要求,探索相關(guān)自律措施,主要包括:發(fā)布AI倫理原則,建立內(nèi)部的AI治理組織(如倫理委員會(huì)),針對(duì)AI活動(dòng)開(kāi)展倫理審查或安全風(fēng)險(xiǎn)評(píng)估,對(duì)外披露算法相關(guān)信息、促進(jìn)算法公開(kāi)透明,探索應(yīng)對(duì)AI倫理問(wèn)題的技術(shù)解決方案(如針對(duì)合成信息內(nèi)容的檢測(cè)識(shí)別工具、AI治理測(cè)評(píng)工具、聯(lián)邦學(xué)習(xí)等隱私計(jì)算方案),等等。

8.全球AI治理合作與競(jìng)爭(zhēng)并存

全球AI競(jìng)爭(zhēng),既是技術(shù)與產(chǎn)業(yè)的競(jìng)爭(zhēng),也是治理規(guī)則與標(biāo)準(zhǔn)的競(jìng)爭(zhēng)。全球數(shù)字經(jīng)濟(jì)發(fā)展正在形成AI、數(shù)據(jù)等方面新的國(guó)際規(guī)則,如數(shù)據(jù)流動(dòng)、AI治理框架等。近年來(lái),全球AI治理合作持續(xù)推進(jìn)。2019年的OECD/G20人工智能原則,是首個(gè)全球性的AI政策框架。2021年11月聯(lián)合國(guó)UNESCO通過(guò)的全球首個(gè)AI倫理協(xié)議《人工智能倫理問(wèn)題建議書(shū)》(Recommendation on the Ethics of Artificial Intelligence),則是目前最全面、具有廣泛共識(shí)的全球性AI政策框架,該建議書(shū)建議各國(guó)通過(guò)AI倫理官、倫理影響評(píng)估等機(jī)制來(lái)加強(qiáng)AI倫理治理。

與此同時(shí),美歐加速推進(jìn)AI政策,以期強(qiáng)化在AI政策領(lǐng)域的領(lǐng)導(dǎo)地位并影響全球AI治理規(guī)則與標(biāo)準(zhǔn)。例如,歐盟正在制定一部統(tǒng)一的AI法案,當(dāng)其預(yù)期在2023年通過(guò)時(shí),將建立全面的、基于風(fēng)險(xiǎn)的AI監(jiān)管路徑。很多專(zhuān)家預(yù)測(cè),正像之前的數(shù)據(jù)隱私立法GPDR對(duì)全球科技行業(yè)的影響那樣,歐盟AI法案將“布魯塞爾效應(yīng)”延伸到AI領(lǐng)域,而這正是歐盟所希望的,即通過(guò)監(jiān)管為全球樹(shù)立AI治理標(biāo)準(zhǔn)。1AI立法之外,歐洲理事會(huì)還在醞釀全球第一個(gè)“國(guó)際AI公約”,正像之前的《網(wǎng)絡(luò)犯罪公約》和《隱私公約》那樣,成員國(guó)和非成員國(guó)都可以加入并批準(zhǔn)將來(lái)的AI公約。2美國(guó)在技術(shù)和產(chǎn)業(yè)方面一直是AI領(lǐng)域的全球領(lǐng)導(dǎo)者,近年來(lái)開(kāi)始積極重塑其在AI政策領(lǐng)域的領(lǐng)導(dǎo)地位。2020年成立的美歐貿(mào)易和技術(shù)理事會(huì)(US-EU Trade and Technology Council)的一個(gè)核心任務(wù)就是推進(jìn)美歐在AI治理方面的合作。3總之,全球AI競(jìng)爭(zhēng)日益重視AI政策和治理領(lǐng)域的軟實(shí)力競(jìng)爭(zhēng),可以說(shuō)是代表了21世紀(jì)科技競(jìng)爭(zhēng)的一個(gè)重大轉(zhuǎn)變。

近年來(lái),中國(guó)對(duì)參與全球科技治理高度重視,積極提出自己的主張,爭(zhēng)取更多認(rèn)同與共識(shí)。例如,中國(guó)提出《全球數(shù)據(jù)安全倡議》,持續(xù)為全球數(shù)字治理注入正能量。2022年11月,在聯(lián)合國(guó)《特定常規(guī)武器公約》締約國(guó)大會(huì)上,中國(guó)提交加強(qiáng)人工智能倫理治理立場(chǎng)的文件,提出堅(jiān)持倫理先行、加強(qiáng)自我約束、負(fù)責(zé)任使用人工智能、鼓勵(lì)國(guó)際合作等主張。

三點(diǎn)展望

《“十四五”規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》《法治中國(guó)建設(shè)規(guī)劃(2020—2025)》《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》等諸多政策和規(guī)范性文件表明,AI治理持續(xù)成為科技治理和科技倫理的核心領(lǐng)域。中國(guó)進(jìn)一步增進(jìn)在AI領(lǐng)域的全球競(jìng)爭(zhēng)力,不僅需要更加注重培育技術(shù)和產(chǎn)業(yè)硬實(shí)力,而且需要著力塑造軟實(shí)力,尤其是在AI政策和治理方面的話語(yǔ)權(quán)和領(lǐng)導(dǎo)地位。因?yàn)锳I治理已經(jīng)成為全球AI競(jìng)爭(zhēng)力的重要組成部分。

回顧既往,中國(guó)已經(jīng)明確了發(fā)展與安全并重、創(chuàng)新與倫理并行的AI監(jiān)管和治理思路,在支持、促進(jìn)創(chuàng)新發(fā)展的同時(shí),保障技術(shù)應(yīng)用的安全、可靠、可控。面向未來(lái),我們需更好地發(fā)揮政府、行業(yè)/企業(yè)、研究機(jī)構(gòu)、社會(huì)組織、用戶/消費(fèi)者、社會(huì)公眾、媒體等多利益相關(guān)方的合力作用,持續(xù)推動(dòng)AI治理實(shí)踐的良性發(fā)展,讓AI更好地造福經(jīng)濟(jì)社會(huì)發(fā)展,增進(jìn)民生福祉,把科技向善推向更高水平。

進(jìn)一步而言,已經(jīng)過(guò)去的AI“黃金十年”給人們帶來(lái)了日益強(qiáng)大的AI模型,而且在可預(yù)見(jiàn)的未來(lái),AI只會(huì)變得更加強(qiáng)大。這意味著,AI在與社會(huì)生態(tài)系統(tǒng)互動(dòng)過(guò)程中,可能帶來(lái)的人類(lèi)的、社會(huì)的和環(huán)境的影響將遠(yuǎn)超以往任何技術(shù)。因此,AI治理的首要任務(wù)是,持續(xù)倡導(dǎo)并踐行“負(fù)責(zé)任AI”的理念;“負(fù)責(zé)任AI”必須是以人為本的,要求在設(shè)計(jì)、開(kāi)發(fā)、部署AI的技術(shù)實(shí)踐中秉持善意,增進(jìn)對(duì)技術(shù)的信任,給利益相關(guān)方創(chuàng)造價(jià)值并增進(jìn)其福祉,防范濫用、誤用和惡用。總之,有效的AI治理需要推動(dòng)負(fù)責(zé)任AI實(shí)踐走向深入,打造可信AI(Trustworthy AI)。

1.持續(xù)完善數(shù)據(jù)與AI法律框架,推進(jìn)精準(zhǔn)敏捷監(jiān)管

AI的健康可持續(xù)發(fā)展,一方面離不開(kāi)合理有效的監(jiān)管,另一方面需要持續(xù)提升AI領(lǐng)域的數(shù)據(jù)供給和流通利用水平。實(shí)際上,AI在醫(yī)療、制造、金融等諸多領(lǐng)域的發(fā)展應(yīng)用,所面臨的一個(gè)主要問(wèn)題就是數(shù)據(jù)獲取利用問(wèn)題,包括數(shù)據(jù)難以獲取、數(shù)據(jù)質(zhì)量差、數(shù)據(jù)標(biāo)準(zhǔn)不統(tǒng)一等。因此,未來(lái)AI的進(jìn)一步發(fā)展,在很大程度上依賴(lài)于對(duì)數(shù)據(jù)與AI法律框架的持續(xù)完善。英國(guó)的《數(shù)字監(jiān)管計(jì)劃》提出,設(shè)計(jì)優(yōu)良的監(jiān)管,對(duì)于推動(dòng)發(fā)展、塑造生機(jī)勃勃的數(shù)字經(jīng)濟(jì)和社會(huì)可以產(chǎn)生強(qiáng)大的效應(yīng),但是設(shè)計(jì)糟糕或者限制性的監(jiān)管則會(huì)阻礙創(chuàng)新。正確的規(guī)則可以幫助人們信任他們所使用的產(chǎn)品服務(wù),這反過(guò)來(lái)會(huì)推動(dòng)產(chǎn)品服務(wù)的普及以及進(jìn)一步消費(fèi)、投資和創(chuàng)新。1 對(duì)于AI而言也是如此。

一方面,對(duì)于AI治理,需要更好地推進(jìn)精準(zhǔn)敏捷監(jiān)管。這包括:第一,針對(duì)不同的AI產(chǎn)品、服務(wù)和應(yīng)用采取不同的規(guī)則。因?yàn)楝F(xiàn)在AI應(yīng)用幾乎無(wú)處不在,一刀切似的規(guī)則難以合理適應(yīng)不同行業(yè)和領(lǐng)域中AI應(yīng)用的獨(dú)特特征及其對(duì)個(gè)人和社會(huì)的影響。這要求我們采取基于風(fēng)險(xiǎn)的AI治理政策框架。例如,同樣的AI技術(shù)既能用來(lái)分析、預(yù)測(cè)用戶的人身屬性和個(gè)人偏好并進(jìn)行個(gè)性化的內(nèi)容推送,也可以用來(lái)輔助疾病診斷和治療;計(jì)算機(jī)視覺(jué)技術(shù)既能用來(lái)對(duì)手機(jī)相冊(cè)進(jìn)行自動(dòng)分類(lèi)和整理,又能用來(lái)識(shí)別癌癥腫瘤。這些應(yīng)用在風(fēng)險(xiǎn)等級(jí)、結(jié)果重要性、個(gè)人和社會(huì)影響等方面存在巨大差異,如果籠統(tǒng)、一刀切地提出監(jiān)管要求,顯然既不科學(xué),也不現(xiàn)實(shí)。第二,強(qiáng)調(diào)在對(duì)AI應(yīng)用進(jìn)行分級(jí)分類(lèi)基礎(chǔ)上,采取分散式、差異化監(jiān)管。就像互聯(lián)網(wǎng)一樣,AI是很寬泛、很通用的技術(shù),不適宜也難以進(jìn)行統(tǒng)一監(jiān)管。國(guó)外來(lái)看,目前只有歐盟嘗試針對(duì)所有AI應(yīng)用建立一個(gè)統(tǒng)一的、一般化的監(jiān)管框架(歐盟模式),英國(guó)、美國(guó)則強(qiáng)調(diào)基于應(yīng)用場(chǎng)景和風(fēng)險(xiǎn)的行業(yè)分散監(jiān)管(英美模式)。英國(guó)提出以原則為指導(dǎo),對(duì)AI應(yīng)用采取促創(chuàng)新的監(jiān)管,其核心理念包括:聚焦具體應(yīng)用場(chǎng)景,基于風(fēng)險(xiǎn)大小,確保監(jiān)管的相稱(chēng)性和適應(yīng)性;2 美國(guó)一貫強(qiáng)調(diào)行業(yè)監(jiān)管和行業(yè)自律相結(jié)合的治理路徑,如《AI權(quán)利法案藍(lán)圖》在提出5項(xiàng)原則的同時(shí),明確了行業(yè)主管部門(mén)牽頭、應(yīng)用場(chǎng)景導(dǎo)向的分散化監(jiān)管思路。3就中國(guó)而言,過(guò)去對(duì)AI所采取的立法和監(jiān)管更接近于英美模式,即針對(duì)算法推薦服務(wù)、深度合成、自動(dòng)駕駛等不同AI應(yīng)用分別制定監(jiān)管規(guī)則。這種分散式、差異化的監(jiān)管模式符合敏捷治理原則,能更好地適應(yīng)AI技術(shù)及其應(yīng)用快速發(fā)展迭代的復(fù)雜特征。第三,呼吁不斷創(chuàng)新監(jiān)管工具箱,采取多元化的監(jiān)管舉措。一是AI“監(jiān)管沙盒”。歐盟在AI監(jiān)管方面的一大創(chuàng)舉就是提出了AI“監(jiān)管沙盒”。4 “監(jiān)管沙盒”作為支持、促進(jìn)監(jiān)管者和創(chuàng)新主體之間溝通協(xié)作的有效方式,可以提供一個(gè)受控的環(huán)境來(lái)合規(guī)地研發(fā)、測(cè)試、驗(yàn)證創(chuàng)新性的AI應(yīng)用。從“監(jiān)管沙盒”中產(chǎn)生的最佳實(shí)踐做法和實(shí)施指南,將有助于企業(yè)尤其是中小微企業(yè)和創(chuàng)業(yè)公司落實(shí)監(jiān)管規(guī)則。二是AI治理社會(huì)化服務(wù),包括AI治理標(biāo)準(zhǔn)、認(rèn)證、檢測(cè)、評(píng)估、審計(jì)等。在網(wǎng)絡(luò)安全領(lǐng)域,網(wǎng)絡(luò)安全認(rèn)證、檢測(cè)和風(fēng)險(xiǎn)評(píng)估等網(wǎng)絡(luò)安全社會(huì)化服務(wù),是落實(shí)監(jiān)管要求的重要方式。AI治理完全可以借鑒這一方式。當(dāng)前,歐盟、英國(guó)、美國(guó)以及IEEE等都在推進(jìn)AI治理社會(huì)化服務(wù)。例如,IEEE已面向行業(yè)推出了AI倫理認(rèn)證;5 英國(guó)發(fā)布的《建立有效AI認(rèn)證生態(tài)系統(tǒng)的路線圖》希望培育一個(gè)世界領(lǐng)先的AI認(rèn)證行業(yè),通過(guò)中立第三方的AI認(rèn)證服務(wù)(包括影響評(píng)估、偏見(jiàn)審計(jì)和合規(guī)審計(jì)、認(rèn)證、合規(guī)性評(píng)估、性能測(cè)試等)來(lái)評(píng)估、交流AI系統(tǒng)的可信性和合規(guī)性。英國(guó)認(rèn)為這將是一個(gè)價(jià)值數(shù)十億英鎊的新行業(yè)。1 中國(guó)需要加快建立健全AI治理社會(huì)化服務(wù)體系,通過(guò)下游的AI治理服務(wù)更好地承接、落實(shí)上游的立法和監(jiān)管要求。此外,政策指南、責(zé)任安全港、試點(diǎn)、示范應(yīng)用、事后追責(zé)等監(jiān)管方式,在不同應(yīng)用場(chǎng)景下都可發(fā)揮重要作用。

另一方面,需要加快完善數(shù)據(jù)流通利用的法律框架,持續(xù)提升AI領(lǐng)域的數(shù)據(jù)供給水平。一是在國(guó)家層面構(gòu)建公共數(shù)據(jù)開(kāi)放共享的法律框架,統(tǒng)一數(shù)據(jù)質(zhì)量和數(shù)據(jù)治理標(biāo)準(zhǔn),通過(guò)數(shù)據(jù)下載、API接口、隱私計(jì)算(聯(lián)邦學(xué)習(xí)、安全多方計(jì)算、安全可信計(jì)算環(huán)境等)、數(shù)據(jù)空間(Data Space)等多元化的管理和技術(shù)方式,促進(jìn)公共數(shù)據(jù)最大化開(kāi)放共享。二是積極掃除隱私計(jì)算技術(shù)、合成數(shù)據(jù)技術(shù)發(fā)展應(yīng)用所面臨的各種障礙。目前,在各類(lèi)數(shù)據(jù)的流通利用方面,聯(lián)邦學(xué)習(xí)等隱私計(jì)算技術(shù)發(fā)揮著越來(lái)越重要的作用,可以實(shí)現(xiàn)“數(shù)據(jù)可用/可算不可見(jiàn)”“數(shù)據(jù)不動(dòng)算法/價(jià)值動(dòng)”等效果。受到AI和大數(shù)據(jù)應(yīng)用發(fā)展的驅(qū)動(dòng),聯(lián)邦學(xué)習(xí)作為隱私計(jì)算領(lǐng)域主要推廣和應(yīng)用的方法,是目前最為成熟的技術(shù)路徑。下一步可以通過(guò)構(gòu)建戰(zhàn)略性領(lǐng)域的數(shù)據(jù)空間、制定隱私計(jì)算行業(yè)標(biāo)準(zhǔn)、出臺(tái)法律層面的隱私計(jì)算技術(shù)實(shí)施指南等方式,更好地支持聯(lián)邦學(xué)習(xí)等隱私計(jì)算技術(shù)的應(yīng)用發(fā)展。

2.AI倫理治理需從原則邁向?qū)嵺`

隨著科技倫理治理的建制化和法治化發(fā)展,對(duì)于科技企業(yè)而言,加強(qiáng)科技倫理治理已是“必選項(xiàng)”和“必答題”之一。在“倫理先行”理念之下,科技倫理治理要求意味著,科技企業(yè)不能寄希望于以事后補(bǔ)救的方式來(lái)應(yīng)對(duì)AI倫理問(wèn)題,而是需要在從設(shè)計(jì)到開(kāi)發(fā)、再到部署的整個(gè)AI生命周期中,積極主動(dòng)地履行科技倫理管理主體責(zé)任,以多種方式創(chuàng)新性地推進(jìn)科技倫理自律。整體而言,在一個(gè)高度技術(shù)化、數(shù)字化的社會(huì),科技企業(yè)需要考慮將AI治理整體納入其公司治理版圖,作為與法務(wù)、財(cái)務(wù)、風(fēng)控等既有模塊同等重要的模塊。以下幾個(gè)方面值得進(jìn)一步探索:

首先,在管理上,要建立AI倫理風(fēng)險(xiǎn)管理機(jī)制。AI倫理風(fēng)險(xiǎn)管理需要貫穿AI全生命周期,包括預(yù)設(shè)計(jì)階段、設(shè)計(jì)開(kāi)發(fā)階段、部署階段以及貫穿這幾個(gè)階段的測(cè)試和評(píng)估活動(dòng),以全面識(shí)別、分析、評(píng)估、管理、治理AI倫理風(fēng)險(xiǎn)。這有賴(lài)于企業(yè)建立相應(yīng)的組織架構(gòu)和管理規(guī)范,如倫理委員會(huì)、倫理審查流程和其他管理工具。政策制定者可以考慮出臺(tái)這方面的政策指南。

其次,在設(shè)計(jì)上,需遵循以人為本的設(shè)計(jì)理念,踐行“倫理嵌入設(shè)計(jì)”(Ethics by Design)理念。倫理嵌入設(shè)計(jì)意味著,將倫理價(jià)值、原則、要求和程序融入AI、機(jī)器人和大數(shù)據(jù)系統(tǒng)的設(shè)計(jì)、開(kāi)發(fā)、部署過(guò)程。企業(yè)需要反思技術(shù)人員主導(dǎo)的AI研發(fā)應(yīng)用過(guò)程,更多地強(qiáng)調(diào)AI研發(fā)應(yīng)用活動(dòng)的多元背景和多元參與。將政策、法律、倫理、社會(huì)、哲學(xué)等多學(xué)科、跨學(xué)科人員引入技術(shù)開(kāi)發(fā)團(tuán)隊(duì),是將倫理要求嵌入技術(shù)設(shè)計(jì)開(kāi)發(fā)最直接、有效的方式。未來(lái),政策制定者可以攜手行業(yè)總結(jié)經(jīng)驗(yàn)教訓(xùn),出臺(tái)倫理嵌入設(shè)計(jì)的技術(shù)指南、最佳實(shí)踐做法等文件。

最后,在技術(shù)上,需要持續(xù)探索以技術(shù)化方式和市場(chǎng)化路徑應(yīng)對(duì)AI倫理問(wèn)題,打造可信AI應(yīng)用。一是AI倫理工具。AI應(yīng)用的很多問(wèn)題諸如可解釋性、公平性、安全性、隱私保護(hù)等,都是可以通過(guò)技術(shù)創(chuàng)新手段來(lái)解決的。業(yè)界圍繞這些問(wèn)題,已經(jīng)探索出一些AI倫理工具和AI審計(jì)工具,未來(lái)這個(gè)方面的工作還需繼續(xù)深入開(kāi)展。二是AI倫理服務(wù)(AI Ethics as a Service)。2 它是市場(chǎng)化的路徑,AI倫理領(lǐng)先企業(yè)和AI倫理創(chuàng)業(yè)公司開(kāi)發(fā)以AI倫理工具及服務(wù)為核心的負(fù)責(zé)任AI解決方案,作為商業(yè)服務(wù)對(duì)外提供。3研究咨詢(xún)公司Forrester預(yù)測(cè),會(huì)有越來(lái)越多的AI科技企業(yè)、應(yīng)用AI的其他領(lǐng)域企業(yè)采購(gòu)負(fù)責(zé)任AI解決方案來(lái)幫助其落實(shí)公平和透明的AI倫理原則,AI倫理服務(wù)市場(chǎng)規(guī)模將翻倍。三是AI倫理賞金(AI Ethics Bounty)等技術(shù)眾包方式。類(lèi)似于互聯(lián)網(wǎng)企業(yè)廣泛采用的網(wǎng)絡(luò)安全漏洞賞金(Bug bounty),算法歧視賞金(Algorithmic Bias Bounty)等技術(shù)眾包方式,在發(fā)現(xiàn)、識(shí)別、解決AI倫理問(wèn)題,開(kāi)發(fā)AI審計(jì)工具,打造可信AI應(yīng)用上將發(fā)揮重要作用。Twitter、斯坦福大學(xué)等國(guó)外一些企業(yè)和大學(xué)研究機(jī)構(gòu)已開(kāi)展了算法歧視賞金挑戰(zhàn)賽、AI審計(jì)挑戰(zhàn)賽,呼吁參與者開(kāi)發(fā)工具來(lái)識(shí)別、減輕AI模型中的算法歧視。通過(guò)這些技術(shù)眾包方式培育、壯大AI倫理社群,將在AI治理中扮演重要角色。

3.全球AI治理合作需持續(xù)深化

如前所述,全球AI治理呈現(xiàn)競(jìng)爭(zhēng)態(tài)勢(shì),這并不符合以人為本、技術(shù)開(kāi)放共享、普惠發(fā)展等理念。各國(guó)需要在國(guó)際AI治理方面持續(xù)深化合作,推動(dòng)制定AI倫理和治理的國(guó)際協(xié)議,形成具有廣泛共識(shí)的國(guó)際AI治理框架、標(biāo)準(zhǔn)規(guī)范,增進(jìn)技術(shù)、人才、產(chǎn)業(yè)等方面的交流與協(xié)作,反對(duì)排斥主義,推動(dòng)技術(shù)普惠和科技向善,實(shí)現(xiàn)各國(guó)普惠發(fā)展。中國(guó)深度參與全球科技治理,需要抓住AI、數(shù)據(jù)等領(lǐng)域的新一輪國(guó)際規(guī)則制定機(jī)遇,不斷提出符合全球共識(shí)的AI治理方案,持續(xù)為全球數(shù)字治理和AI治理注入中國(guó)智慧。同時(shí),我們需要增強(qiáng)國(guó)際發(fā)聲,把自己的理念、主張、做法等融入國(guó)際社會(huì),爭(zhēng)取更多認(rèn)同與共識(shí),增強(qiáng)話語(yǔ)權(quán)和影響力。

面向未來(lái),隨著AI技術(shù)的不斷發(fā)展,AI將變得越來(lái)越強(qiáng)大,未來(lái)可能出現(xiàn)通用AI(Artificial General Intelligence,縮寫(xiě)AGI)。通用AI將具備與人類(lèi)同等水平的智慧,可以執(zhí)行人類(lèi)能夠執(zhí)行的任何智力任務(wù)。理論上,通用AI可能設(shè)計(jì)出更高級(jí)別的智能,帶來(lái)智能大爆炸,也就是所謂的“奇點(diǎn)”,產(chǎn)生超級(jí)智能。從現(xiàn)在的AI應(yīng)用到將來(lái)的AGI,可能是一個(gè)從量變到質(zhì)變的飛躍。這引發(fā)了人們對(duì)AGI取代人類(lèi)工作、失控甚至威脅人類(lèi)生存的擔(dān)憂。因此,對(duì)于通用AI發(fā)展及其潛在的安全、倫理等問(wèn)題,全球需未雨綢繆,通力合作,確保AI技術(shù)更普惠、安全可靠、可控地發(fā)展,造福全人類(lèi)。

Towards Responsible AI: Trends and Outlook for AI Governance in China

CAO Jianfeng

Abstract: Over the past decade, AI has rapidly become a new general-purpose technology widely used in various fields of economy and society, thanks to the convergence and development of various technical elements such as deep learning algorithms, big data, AI-specific chips, open-source software frameworks. However, AI has also brought a series of legal, ethical, and social issues, making AI governance a "mandatory choice" and a "must-answer question." Stakeholders including governments, enterprises, industry organizations, etc., are advancing the deepening of AI governance in eight major areas: macro policies, technology ethics governance, algorithm regulation, regulatory innovation in traditionally strongly regulated areas, AI intellectual property rules, AI standardization, industry self-discipline, and global AI governance cooperation. Looking forward, the perfection of AI governance requires continuous advancement in precise and agile regulation, adopting diversified methods such as "AI regulatory sandboxes" and socialized AI governance services, pushing AI governance from principles to practice, and exploring diverse paths such as AI risk management, embedded design, and technical solutions. Meanwhile, promoting the continued deepening of global AI governance cooperation to achieve inclusive development in all countries, so that the development of AI continues to benefit all of humanity.

Key words: technology ethics; responsible AI; precise and agile regulation; regulatory sandbox; AI governance; privacy ?computing

(責(zé)任編輯:蘇建軍)

永修县| 资阳市| 囊谦县| 玉田县| 叙永县| 威宁| 准格尔旗| 罗定市| 石柱| 灵璧县| 福泉市| 五家渠市| 沁阳市| 自治县| 囊谦县| 梨树县| 上饶市| 梁平县| 旅游| 广南县| 札达县| 老河口市| 湖口县| 垣曲县| 邓州市| 手机| 茶陵县| 交城县| 中方县| 稷山县| 东兰县| 霍州市| 孝昌县| 蒲江县| 洛扎县| 黄大仙区| 东港市| 郸城县| 九江县| 三门县| 廊坊市|