◎ 全國政協(xié)委員、交通運(yùn)輸部科學(xué)研究院副院長兼總工程師 王先進(jìn)

人工智能存在監(jiān)管體系滯后于技術(shù)發(fā)展、政府單向監(jiān)管無法有效管控風(fēng)險(xiǎn)、企業(yè)缺乏合規(guī)治理有效工具和體系等問題，觸發(fā)個(gè)人隱私保護(hù)、沖擊就業(yè)格局、危害公共安全等風(fēng)險(xiǎn)，給治理體系帶來全新挑戰(zhàn)。須高度重視美國、歐盟、英國、日本等各主要國家地區(qū)已經(jīng)將治理納入各國人工智能發(fā)展戰(zhàn)略中，我國亟須增加國際人工智能治理體系的話語權(quán)和影響力。建議實(shí)行倫理、科技與法制三角治理機(jī)構(gòu)平衡創(chuàng)新發(fā)展與精準(zhǔn)治理，提倡多元共治，厘清各方責(zé)任，人工智能企業(yè)躬身入局，加強(qiáng)企業(yè)自治，加強(qiáng)國際治理對(duì)話和國際標(biāo)準(zhǔn)布局。

一、情況與問題

人工智能治理還處于初期探索階段，正在向可信評(píng)估、操作指南、政策法規(guī)等方面落地實(shí)踐、逐步深入。2017 年國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》明確要從法律法規(guī)、倫理規(guī)范、重點(diǎn)政策、知識(shí)產(chǎn)權(quán)與標(biāo)準(zhǔn)、科學(xué)普及等方面為人工智能發(fā)展提出保障措施。2019 年科技部牽頭的國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則》，提出了人工智能治理的框架和行動(dòng)指南。但人工智能因算法不透明、難解釋、跨界傳播性和外溢性強(qiáng)，比一般的數(shù)字治理涉及范圍更廣、難度更大、問題更突出：

（一）監(jiān)管體系滯后于技術(shù)發(fā)展。法律具有穩(wěn)定、普遍和相對(duì)滯后等特點(diǎn)，而人工智能發(fā)展速度快、造成影響不確定性大，監(jiān)管的精準(zhǔn)性、有效性和即時(shí)性問題突出，對(duì)風(fēng)險(xiǎn)不能有效約束。

（二）政府的單向監(jiān)管無法有效管控風(fēng)險(xiǎn)。人工智能應(yīng)用場(chǎng)景復(fù)雜多變，社會(huì)各方主體利益需求日益分化，傳統(tǒng)自上而下單向規(guī)制思路無法對(duì)變化多樣的治理問題進(jìn)行精細(xì)、靈活地監(jiān)管，須創(chuàng)新優(yōu)化治理模式。

（三）企業(yè)缺乏合規(guī)治理有效工具和體系。當(dāng)前多數(shù)企業(yè)將人工智能風(fēng)險(xiǎn)管控視為額外的合規(guī)成本，行業(yè)監(jiān)管缺乏落地規(guī)范和明確的懲罰措施。雖然大部分企業(yè)自律，但也存在行業(yè)魚目混雜，個(gè)別案例導(dǎo)致負(fù)面輿論，引發(fā)公眾和監(jiān)管部門對(duì)人工智能等新技術(shù)發(fā)展應(yīng)用過度的擔(dān)憂與顧慮。

（四）全球人工智能競(jìng)爭延申到規(guī)則制定。發(fā)達(dá)國家紛紛開展人工智能治理規(guī)則并逐步達(dá)成共識(shí)。部分發(fā)達(dá)國家和國際輿論時(shí)常指責(zé)我國廣泛使用的人臉識(shí)別技術(shù)侵犯?jìng)€(gè)人隱私。美國以人權(quán)問題為由將我國多家頭部人工智能企業(yè)列入“實(shí)體清單”并采取一定懲罰措施。我國亟須增加國際人工智能治理體系的話語權(quán)和影響力。

二、建議

（一）實(shí)行倫理、科技、法制三角治理機(jī)構(gòu)平衡創(chuàng)新發(fā)展與精準(zhǔn)治理。一是倫理規(guī)范引導(dǎo)先行，落實(shí)AI 倫理原則，通過先行預(yù)設(shè)及時(shí)引導(dǎo)科技向善、健康發(fā)展，二是通過技術(shù)工具和標(biāo)準(zhǔn)制定等技術(shù)手段解決技術(shù)發(fā)展問題，三是通過法律法規(guī)明確底線，明確責(zé)任歸屬，爭取實(shí)現(xiàn)“敏捷治理”。

（二）提倡多元共治，厘清各方責(zé)任。建立以多元共治實(shí)現(xiàn)對(duì)AI 治理的長效機(jī)制，將政府、企業(yè)、行業(yè)組織、科研機(jī)構(gòu)、媒體、公民等利益主體聯(lián)合起來，共同解決復(fù)雜問題；明確AI 技術(shù)應(yīng)用中終端廠商、經(jīng)銷商、應(yīng)用開發(fā)者、用戶等參與各方的權(quán)責(zé)，確保責(zé)任可追溯；政府和行業(yè)組織應(yīng)加強(qiáng)對(duì)人工智能等新技術(shù)應(yīng)用的科普，引導(dǎo)理性客觀的輿論報(bào)道。

（三）人工智能企業(yè)躬身入局，加強(qiáng)企業(yè)自治。鼓勵(lì)企業(yè)承擔(dān)創(chuàng)新技術(shù)創(chuàng)新應(yīng)有的責(zé)任，自覺完善內(nèi)部治理和合規(guī)管理，開展技術(shù)和產(chǎn)品人員的技術(shù)道德倫理培訓(xùn)，同時(shí)提升數(shù)據(jù)保護(hù)技術(shù)能力。主管部門可通過優(yōu)秀案例評(píng)選等方式總結(jié)企業(yè)治理可復(fù)制的經(jīng)驗(yàn)和模式，通過適當(dāng)方式予以宣傳推廣。設(shè)立人臉識(shí)別等敏感領(lǐng)域的準(zhǔn)入資質(zhì)。

（四）加強(qiáng)國際治理對(duì)話和國際標(biāo)準(zhǔn)布局。積極參與國際治理和標(biāo)準(zhǔn)研討，同時(shí)請(qǐng)主管部門支持引導(dǎo)頭部企業(yè)參與G20 的多邊國際標(biāo)準(zhǔn)和治理規(guī)則討論，形成政府和企業(yè)雙軌溝通互補(bǔ)，強(qiáng)化我國AI 領(lǐng)域國際影響力和話語權(quán)，引導(dǎo)AI 領(lǐng)域的國際治理規(guī)則和標(biāo)準(zhǔn)制定。