文｜邱惠君 郭利

自2018 年以來(lái)，新加坡一直致力于有關(guān)人工智能倫理和治理的持續(xù)探索，先后發(fā)布人工智能治理框架、組織實(shí)施和自評(píng)估指南以及人工智能治理案例匯編等，近期又推出了全球首個(gè)人工智能治理測(cè)試框架和工具包，系統(tǒng)、深入地指導(dǎo)各類組織機(jī)構(gòu)開展人工智能安全風(fēng)險(xiǎn)治理，以負(fù)責(zé)任的方式開發(fā)部署人工智能

隨著人工智能技術(shù)的不斷深入應(yīng)用，人工智能治理已受到全球高度關(guān)注。2022 年5月，新加坡推出全球首個(gè)人工智能治理測(cè)試框架和工具包，以通過(guò)標(biāo)準(zhǔn)化測(cè)試來(lái)驗(yàn)證人工智能系統(tǒng)，這一舉措使得新加坡在人工智能治理實(shí)踐領(lǐng)域又一次走在全球前列。還值得一提的是，新加坡是我國(guó)申請(qǐng)加入的《數(shù)字經(jīng)濟(jì)伙伴關(guān)系協(xié)定》（DEPA）的三大發(fā)起國(guó)之一，而探索負(fù)責(zé)任使用人工智能監(jiān)管框架是協(xié)定涉及的一項(xiàng)重要內(nèi)容。因此，新加坡在人工智能治理領(lǐng)域的理念和實(shí)踐值得我們關(guān)注和借鑒。

實(shí)踐探索進(jìn)展：從發(fā)布原則指南到推出評(píng)測(cè)工具平臺(tái)

新加坡認(rèn)為，建立可信生態(tài)是發(fā)展數(shù)字經(jīng)濟(jì)的關(guān)鍵。自2018 年以來(lái)，一直致力于有關(guān)人工智能倫理和治理的持續(xù)探索，先后發(fā)布人工智能治理框架、組織實(shí)施和自評(píng)估指南以及人工智能治理案例匯編等，近期又推出了名為“A.I.Verify”的全球首個(gè)人工智能治理測(cè)試框架和工具包，系統(tǒng)、深入地指導(dǎo)各類組織機(jī)構(gòu)開展人工智能安全風(fēng)險(xiǎn)治理，以負(fù)責(zé)任的方式開發(fā)部署人工智能。

新加坡在人工智能治理實(shí)踐中采用了“原則+指南+工具”的一整套方案，其大致進(jìn)展為：

新加坡從頂層明確了人工智能治理兩大原則，即“人工智能決策過(guò)程可解釋、透明、公平”和“人工智能解決方案應(yīng)以人為中心”。新加坡認(rèn)為，機(jī)構(gòu)使用人工智能時(shí)應(yīng)努力確保其盡可能地實(shí)現(xiàn)這一原則所要達(dá)到的目標(biāo)，這有助于建立公眾對(duì)人工智能的信任和信心。同時(shí)，在設(shè)計(jì)、開發(fā)和部署人工智能時(shí)應(yīng)考慮以人為中心。

2019 年1 月，在世界經(jīng)濟(jì)論壇會(huì)議上發(fā)布《人工智能治理模型框架》（第一版），為私營(yíng)部門組織機(jī)構(gòu)提供詳細(xì)且易于實(shí)施的指導(dǎo)，落實(shí)人工智能關(guān)鍵倫理和治理問題，其目的是促進(jìn)公眾對(duì)技術(shù)的理解和信任?！度斯ぶ悄苤卫砜蚣堋酚尚录悠滦畔⑼ㄐ琶襟w局和個(gè)人數(shù)據(jù)保護(hù)委員會(huì)聯(lián)合推出。

2020 年1 月，發(fā)布改進(jìn)后的《人工智能治理模型框架》（第二版），相比第一版，實(shí)現(xiàn)更好的相關(guān)性和可用性，推進(jìn)治理原則不斷落地。同時(shí)，作為治理框架的配套指南，發(fā)布《組織實(shí)施和自我評(píng)估指南》，幫助各類組織機(jī)構(gòu)評(píng)估其人工智能治理實(shí)踐與模型框架的一致性，還提供了有用的行業(yè)實(shí)踐示例。該評(píng)估指南是與世界經(jīng)濟(jì)論壇第四次工業(yè)革命中心合作的成果，有60 多個(gè)機(jī)構(gòu)參與了相關(guān)工作。同期還發(fā)布了《人工智能治理案例匯編》，匯集不同行業(yè)、規(guī)模的組織如何根據(jù)治理框架來(lái)有效地實(shí)施負(fù)責(zé)任的人工智能治理。

2022 年5 月，推出名為“A.I.Verify”的人工智能治理測(cè)試框架和工具包（最低產(chǎn)品版MVP）。新加坡認(rèn)為這是世界上首個(gè)以客觀和可驗(yàn)證方式展示負(fù)責(zé)任人工智能的測(cè)試框架和工具包，將負(fù)責(zé)任和值得信賴的人工智能概念落地，可幫助企業(yè)提高其人工智能產(chǎn)品和服務(wù)透明度。人工智能開發(fā)者和擁有者可以通過(guò)一套定量和定性相結(jié)合的標(biāo)準(zhǔn)化評(píng)測(cè)方式，來(lái)驗(yàn)證其人工智能系統(tǒng)是否符合聲稱的性能。目前，該測(cè)試框架和工具包還處于試點(diǎn)階段，包括亞馬遜、谷歌、微軟、新加坡電信、渣打銀行在內(nèi)的來(lái)自不同領(lǐng)域、不同規(guī)模的10 家企業(yè)已經(jīng)開展了試用并提供了反饋，相關(guān)意見將用于更新版本。新加坡還計(jì)劃將其提升為國(guó)際范圍內(nèi)使用的測(cè)試框架和工具包，并為國(guó)際標(biāo)準(zhǔn)的制定作出貢獻(xiàn)。

治理框架的核心思想：明確兩大頂層原則和四個(gè)關(guān)鍵維度

新加坡人工智能治理框架是由信息通信媒體局和個(gè)人數(shù)據(jù)保護(hù)委聯(lián)合發(fā)布的一個(gè)通用性框架，先后已發(fā)布兩個(gè)版本，各行業(yè)和組織機(jī)構(gòu)可結(jié)合自身情況作出靈活調(diào)整，其目的是應(yīng)對(duì)人工智能開發(fā)應(yīng)用帶來(lái)的風(fēng)險(xiǎn)問題，從而更好地建立用戶的信任。治理框架的核心內(nèi)容和思想主要體現(xiàn)為：先從頂層確立兩大原則，然后從四個(gè)關(guān)鍵維度提出規(guī)范性要求和評(píng)估清單，指導(dǎo)組織機(jī)構(gòu)自愿開展自我評(píng)估和改進(jìn)，更好地促進(jìn)負(fù)責(zé)任人工智能的實(shí)施。

明確兩大頂層原則，促進(jìn)對(duì)人工智能的理解和信任

新加坡在人工智能治理框架中，首先從頂層明確了兩大原則，即“人工智能決策過(guò)程可解釋、透明、公平”和“人工智能解決方案應(yīng)以人為中心”。

一是各類機(jī)構(gòu)應(yīng)確保人工智能決策過(guò)程的可解釋、透明和公平。新加坡認(rèn)為，雖然不可能達(dá)到完美的可解釋性、透明度和公平性，但機(jī)構(gòu)使用人工智能時(shí)應(yīng)努力確保其盡可能地實(shí)現(xiàn)這一原則所要達(dá)到的目標(biāo)，這有助于建立公眾對(duì)人工智能的信任和信心。

二是人工智能的解決方案應(yīng)該以人為中心。由于人工智能被用來(lái)增強(qiáng)人類的能力、保護(hù)人類福祉和安全等利益，因此，在設(shè)計(jì)、開發(fā)和部署人工智能時(shí)應(yīng)考慮以人為中心。

著力四個(gè)關(guān)鍵維度，提出具體規(guī)范性要求

新加坡人工智能治理框架將人工智能倫理原則轉(zhuǎn)化為組織自愿采取的實(shí)際措施，在基于兩大原則的基礎(chǔ)上，重點(diǎn)從內(nèi)部治理結(jié)構(gòu)措施、人類參與決策程度、開發(fā)部署運(yùn)營(yíng)管理、與利益相關(guān)者溝通四大維度，提出了規(guī)范性的具體操作要求。

在內(nèi)部治理結(jié)構(gòu)措施方面，治理框架要求明確相關(guān)角色職責(zé)、風(fēng)險(xiǎn)監(jiān)控和管理的標(biāo)準(zhǔn)操作程序，以及開展員工培訓(xùn)等。具體要求有：調(diào)整現(xiàn)有（或建立）內(nèi)部治理結(jié)構(gòu)和措施，將算法決策相關(guān)的價(jià)值、風(fēng)險(xiǎn)和責(zé)任納入機(jī)構(gòu)治理體系中，明確以符合倫理方式部署使用人工智能的角色和責(zé)任，建立一套涉及人工智能的風(fēng)險(xiǎn)管理、監(jiān)測(cè)報(bào)告等內(nèi)部控制制度，確保機(jī)構(gòu)對(duì)開發(fā)部署人工智能進(jìn)行有力的風(fēng)險(xiǎn)管控。

在人類參與決策程度方面，治理框架要求確定人類干預(yù)的適當(dāng)程度，將傷害風(fēng)險(xiǎn)降到最低。具體要求有：機(jī)構(gòu)要設(shè)定其使用人工智能風(fēng)險(xiǎn)偏好的方法，即確定可接受的風(fēng)險(xiǎn)和確定人類參與人工智能增強(qiáng)決策的監(jiān)督程度，在部署人工智能解決方案之前，機(jī)構(gòu)應(yīng)該決定其使用人工智能擬達(dá)到的商業(yè)目標(biāo)，然后以其價(jià)值觀為指導(dǎo)對(duì)使用人工智能的風(fēng)險(xiǎn)進(jìn)行權(quán)衡。

在開發(fā)部署運(yùn)營(yíng)管理方面，治理框架要求實(shí)現(xiàn)數(shù)據(jù)和模型偏差最小化，開展基于風(fēng)險(xiǎn)的測(cè)量方法，對(duì)如何建立良好的數(shù)據(jù)管理實(shí)踐和對(duì)算法幾個(gè)特定的把握方面提出要求等。具體要求有：機(jī)構(gòu)需要做好在開發(fā)、選擇和維護(hù)人工智能模型時(shí)的問題考慮，數(shù)據(jù)和算法/模型間的緊密交互關(guān)系是各個(gè)階段需要考慮的重點(diǎn)。數(shù)據(jù)層面，組織機(jī)構(gòu)應(yīng)該制定完備的數(shù)據(jù)問責(zé)制，包括了解數(shù)據(jù)來(lái)龍去脈，保證數(shù)據(jù)質(zhì)量，盡量減少固有偏差，用不同的數(shù)據(jù)集進(jìn)行訓(xùn)練、測(cè)試和驗(yàn)證，定期審查并升級(jí)數(shù)據(jù)集；算法/模型層面，組織機(jī)構(gòu)應(yīng)該采用基于風(fēng)險(xiǎn)的雙重評(píng)估方法，評(píng)估能夠產(chǎn)生人工智能系統(tǒng)特性的人工智能算法和模型。首先確定對(duì)公眾影響最大的特性，其次確定哪些措施將最有效地與利益相關(guān)者建立信任，如可解釋性、魯棒性和常規(guī)調(diào)優(yōu)等特性可以不同程度地作為組織人工智能部署的一部分，而再現(xiàn)性、可追溯性和可審核性則與特定場(chǎng)景相關(guān)。

在與利益相關(guān)者溝通方面，治理框架要求讓用戶了解人工智能策略，盡可能允許用戶提供反饋，讓溝通變得容易理解。具體要求有：組織機(jī)構(gòu)應(yīng)提供關(guān)于其產(chǎn)品和/或服務(wù)中是否使用人工智能的相關(guān)信息，以及人工智能在決策過(guò)程中扮演的作用和程度等；不同的利益相關(guān)者有不同的信息需求，組織要確定受眾的目的和溝通環(huán)境，以及組織應(yīng)考慮是否向個(gè)人提供選擇退出的機(jī)制，在制定選擇退出機(jī)制時(shí)要考慮的因素等。

新加坡推出的“A.I.Verify”全球首個(gè)人工智能治理測(cè)試框架和工具包，從評(píng)測(cè)角度提出了一個(gè)具有很強(qiáng)落地指導(dǎo)性的人工智能治理解決方案?！癆.I.Verify”通過(guò)“過(guò)程檢查+技術(shù)測(cè)試”的標(biāo)準(zhǔn)化方式，從透明度、可解釋性、可再現(xiàn)性、安全性、魯棒性、公平性、問責(zé)制、人類監(jiān)督等方面驗(yàn)證人工智能系統(tǒng)是否符合聲稱的性能。

治理實(shí)踐的主要特點(diǎn)：系統(tǒng)、持續(xù)、務(wù)實(shí)地推進(jìn)治理原則落地

總體來(lái)說(shuō)，新加坡在人工智能治理實(shí)踐中采用了“原則+指南+工具”的方式，最大特點(diǎn)就是系統(tǒng)、持續(xù)、務(wù)實(shí)地推進(jìn)治理原則的落實(shí)，引導(dǎo)各類組織機(jī)構(gòu)開展負(fù)責(zé)任人工智能治理。其以下三大具體做法值得借鑒學(xué)習(xí)。

列出詳細(xì)問題清單，指導(dǎo)各方自我評(píng)估和改進(jìn)

新加坡在出臺(tái)《人工智能治理模型框架》后，又發(fā)布《組織實(shí)施和自我評(píng)估指南》。該指南以模型框架中描述的四個(gè)關(guān)鍵領(lǐng)域?yàn)榛A(chǔ)，詳細(xì)列出了包含5 個(gè)維度共計(jì)60 多個(gè)問題的評(píng)估清單，具有很強(qiáng)的指導(dǎo)性和可操作性。5 個(gè)維度分別是：部署人工智能的目標(biāo)、內(nèi)部治理結(jié)構(gòu)和措施、確定人類參與人工智能增強(qiáng)決策的程度、開發(fā)部署運(yùn)營(yíng)管理、利益相關(guān)者互動(dòng)和溝通策略。新加坡希望通過(guò)這套指南幫助組織機(jī)構(gòu)以系統(tǒng)的方式評(píng)估其人工智能治理過(guò)程，識(shí)別潛在差距并加以改進(jìn)，以確保企業(yè)的AI 方案符合人工智能治理模型框架。

新加坡認(rèn)為，建立可信生 態(tài)是發(fā)展數(shù)字經(jīng)濟(jì)的關(guān)鍵。

發(fā)布實(shí)踐優(yōu)秀案例，開展示范引導(dǎo)和對(duì)標(biāo)學(xué)習(xí)

為了幫助各類機(jī)構(gòu)更好地理解人工智能治理框架，新加坡在出臺(tái)的治理框架文件中，用專欄等方式列出了一些企業(yè)在某些方面的實(shí)踐做法。例如在內(nèi)部治理結(jié)構(gòu)方面，列舉了幾家公司較為詳細(xì)的架構(gòu)設(shè)置和職責(zé)分工。另外，還發(fā)布了兩卷人工智能治理案例匯編，較為詳細(xì)地展示了不同機(jī)構(gòu)如何實(shí)施與治理框架相一致的人工智能治理實(shí)踐，供其他機(jī)構(gòu)參考借鑒，以達(dá)到示范引領(lǐng)的作用。

推出測(cè)試框架和工具，促進(jìn)“過(guò)程檢查+技術(shù)測(cè)試”落地

新加坡推出的“A.I.Verify”人工智能治理測(cè)試框架和工具包，從評(píng)測(cè)角度提出了一個(gè)具有很強(qiáng)落地指導(dǎo)性的人工智能治理解決方案。“A.I.Verify”通過(guò)“過(guò)程檢查+技術(shù)測(cè)試”的標(biāo)準(zhǔn)化方式，從透明度、可解釋性、可再現(xiàn)性、安全性、魯棒性、公平性、問責(zé)制、人類監(jiān)督等方面驗(yàn)證人工智能系統(tǒng)是否符合聲稱的性能。該工具包將為開發(fā)者、管理者和商業(yè)伙伴生成報(bào)告，在一定程度上為人工智能企業(yè)提供客觀和可驗(yàn)證方式的展示，證明其是否履行了治理責(zé)任，從而提高企業(yè)和其利益相關(guān)者的透明度，有助于建立用戶信任。

新加坡認(rèn)為，在全球人工智能倫理和治理中，其治理方法在促進(jìn)技術(shù)創(chuàng)新同時(shí)，又達(dá)到保護(hù)消費(fèi)者利益的目的，可以作為全球重要參考。新加坡出臺(tái)非強(qiáng)制性的治理框架、發(fā)布有實(shí)操性的評(píng)估指南，以及建立治理評(píng)測(cè)框架和工具包等做法確實(shí)可供借鑒學(xué)習(xí)。

啟示與建議：兼顧創(chuàng)新與安全，構(gòu)建安全可信的人工智能生態(tài)

從新加坡出臺(tái)的一系列人工智能治理政策指導(dǎo)文件和工具可以看出，新加坡政府對(duì)推動(dòng)人工智能可信向善發(fā)展的行動(dòng)力。新加坡認(rèn)為，在全球人工智能倫理和治理中，其治理方法在促進(jìn)技術(shù)創(chuàng)新同時(shí)，又達(dá)到保護(hù)消費(fèi)者利益的目的，可以作為全球重要參考。新加坡出臺(tái)非強(qiáng)制性的治理框架、發(fā)布有實(shí)操性的評(píng)估指南，以及建立治理評(píng)測(cè)框架和工具包等做法確實(shí)可供借鑒學(xué)習(xí)。結(jié)合當(dāng)前我國(guó)人工智能治理實(shí)際，提出以下兩點(diǎn)建議。

明確各方主體責(zé)任，從“管理+技術(shù)”兩方面構(gòu)建安全可信的人工智能生態(tài)

新加坡在人工智能治理實(shí)踐中充分運(yùn)用“管理+技術(shù)”模式，將人工智能治理原則加以落地。在管理方面，新加坡人工智能治理框架的一個(gè)重點(diǎn)是要求建立內(nèi)部治理架構(gòu)和責(zé)任體系，幫助組織機(jī)構(gòu)將人工智能倫理治理原則納入到熟悉的或已存在的治理架構(gòu)中，從過(guò)程上保證履行治理框架提出的各項(xiàng)要求，從而更好地建立用戶信任。我國(guó)可結(jié)合當(dāng)前科技倫理治理和網(wǎng)絡(luò)安全工作責(zé)任制建設(shè)等，設(shè)計(jì)建立人工智能安全風(fēng)險(xiǎn)治理責(zé)任制度。無(wú)論是融合傳統(tǒng)的風(fēng)險(xiǎn)管理體系，還是建立新的風(fēng)險(xiǎn)管理體系，在建立人工智能安全風(fēng)險(xiǎn)治理責(zé)任制方面，需要從兩個(gè)層面明確責(zé)任，一方面明確人工智能系統(tǒng)開發(fā)設(shè)計(jì)單位、部署使用單位、數(shù)據(jù)提供方等主體的安全責(zé)任；另一方面明確各類組織機(jī)構(gòu)內(nèi)部相關(guān)人員的角色和責(zé)任，把相關(guān)治理原則落實(shí)到實(shí)際工作中。

加大先行先試力度，為形成兼顧創(chuàng)新與安全的人工智能治理體系奠定基礎(chǔ)

業(yè)內(nèi)專家認(rèn)為，當(dāng)前人工智能治理面臨的最大挑戰(zhàn)是沒有一套比較成熟的體系來(lái)規(guī)制其潛在的風(fēng)險(xiǎn)。從國(guó)際趨勢(shì)來(lái)看，一些國(guó)家和地區(qū)正在抓緊人工智能治理的研究和探索，例如，歐盟推出人工智能立法草案；美國(guó)預(yù)計(jì)于2023 年初推出人工智能風(fēng)險(xiǎn)管理框架。新加坡不僅將人工智能治理從原則層面邁向?qū)嵅賹用?，而且開始探索為人工智能治理提供工具化、平臺(tái)化服務(wù)。我國(guó)在戰(zhàn)略上也高度重視這一挑戰(zhàn)，如在規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦、深度合成管理，以及網(wǎng)聯(lián)汽車數(shù)據(jù)管理、金融應(yīng)用等專門領(lǐng)域已經(jīng)開展了積極探索，但從人工智能加快與各領(lǐng)域融合應(yīng)用的需求來(lái)看，政策指導(dǎo)的覆蓋面和落地性還不夠，亟待加強(qiáng)體系化設(shè)計(jì)和考慮。建議可積極鼓勵(lì)我國(guó)人工智能試驗(yàn)區(qū)或先導(dǎo)區(qū)，以及相關(guān)行業(yè)領(lǐng)域，結(jié)合自身?xiàng)l件，大膽推進(jìn)這方面的先行先試，探索在促進(jìn)技術(shù)創(chuàng)新和規(guī)制潛在風(fēng)險(xiǎn)之間找到平衡點(diǎn)，推出類似人工智能融合應(yīng)用安全風(fēng)險(xiǎn)管理指南的政策性文件，在試點(diǎn)基礎(chǔ)上總結(jié)經(jīng)驗(yàn)，從而為建立全國(guó)性規(guī)制體系提供實(shí)踐參考。