■文/陳吉棟

《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》是上海市三大先導(dǎo)產(chǎn)業(yè)的第一部全市性法規(guī)，也是上海市在人工智能高地建設(shè)中攀登的又一座新的高峰，為我國(guó)人工智能地方立法樹立了新的標(biāo)桿。

2022年9月22日，上海市第十五屆人民代表大會(huì)常務(wù)委員會(huì)第四十四次會(huì)議通過了《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》（以下簡(jiǎn)稱《條例》），并于2022年10月1日起施行?！稐l例》共分6章72條，核心章節(jié)是基本要素與科技創(chuàng)新（第二章）、產(chǎn)業(yè)發(fā)展（第三章）、應(yīng)用賦能（第四章）和產(chǎn)業(yè)治理與安全（第五章）。這部條例有諸多亮點(diǎn)?？傮w來(lái)看，體例安排上將基礎(chǔ)要素單獨(dú)規(guī)定。具體來(lái)看，重視基礎(chǔ)要素的流通，強(qiáng)調(diào)應(yīng)用賦能和場(chǎng)景開放運(yùn)營(yíng)，構(gòu)建了一個(gè)較為完備的治理框架等?！稐l例》是上海市三大先導(dǎo)產(chǎn)業(yè)的第一部全市性法規(guī)，也是上海市在人工智能高地建設(shè)中攀登的又一座新的高峰，為我國(guó)人工智能地方立法探索樹立了新的標(biāo)桿。本文選取了10個(gè)關(guān)鍵詞，揭示條例的不同面向，方便讀者對(duì)《條例》形成整體認(rèn)知。

1 人工智能定義：界定變動(dòng)不居的技術(shù)

《條例》第二條界定了人工智能的概念和人工智能產(chǎn)業(yè)的內(nèi)涵。

該條規(guī)定：“本條例所稱人工智能，是指利用計(jì)算機(jī)或者計(jì)算機(jī)控制的機(jī)器模擬、延伸和擴(kuò)展人的智能，感知環(huán)境、獲取知識(shí)并使用知識(shí)獲得最佳結(jié)果的理論、方法、技術(shù)及應(yīng)用系統(tǒng)。本條例所稱人工智能產(chǎn)業(yè)，是指人工智能技術(shù)研發(fā)和應(yīng)用所涉及的軟硬件產(chǎn)品開發(fā)和生產(chǎn)、系統(tǒng)應(yīng)用、集成服務(wù)等，包括關(guān)鍵基礎(chǔ)元器件產(chǎn)業(yè)、智能軟件產(chǎn)業(yè)、智能終端產(chǎn)業(yè)，以及人工智能技術(shù)在經(jīng)濟(jì)、生活、城市治理等領(lǐng)域融合應(yīng)用帶動(dòng)的相關(guān)行業(yè)。”

在起草過程中，關(guān)于概念界定專家團(tuán)隊(duì)曾有一種設(shè)想，即不界定人工智能，直接界定人工智能產(chǎn)業(yè)。即便一定要界定人工智能的概念，也有一個(gè)基本共識(shí)，即概念的界定不應(yīng)過于技術(shù)化，可以采取從目的或者功能角度進(jìn)行界定的方法。無(wú)論是界定人工智能，還是界定人工智能產(chǎn)業(yè)，采取描述加列舉的綜合方式可能更方便認(rèn)知。這些觀點(diǎn)在《條例》中部分被采納。

2 定位：認(rèn)識(shí)產(chǎn)業(yè)發(fā)展條例與人工智能條例的區(qū)別

經(jīng)常有人拿歐盟的《人工智能法》提案（AIA）與《條例》進(jìn)行對(duì)比，指出《條例》的優(yōu)缺點(diǎn)，這種比較在某種程度上反映了評(píng)論者對(duì)《條例》的期許和肯定。在對(duì)比中一個(gè)經(jīng)常被提及的問題是《條例》關(guān)于產(chǎn)業(yè)治理的規(guī)定似乎弱于AIA。這一問題涉及《條例》的基本定位。

首先，應(yīng)該正確認(rèn)識(shí)“人工智能產(chǎn)業(yè)發(fā)展條例”與“人工智能條例”的區(qū)別。AIA給我們的提示在于，在聚焦產(chǎn)業(yè)發(fā)展措施的同時(shí)，設(shè)計(jì)復(fù)雜的監(jiān)管制度大致是行不通的，至少在現(xiàn)有的篇幅內(nèi)是行不通的。《條例》的主旨恰是促進(jìn)產(chǎn)業(yè)發(fā)展。

在起草過程中，關(guān)于條例名稱的幾次討論可以作為理解這一問題的背景。被討論的名字有“上海市人工智能條例”“上海市人工智能產(chǎn)業(yè)條例”“上海市人工智能產(chǎn)業(yè)發(fā)展條例”，討論的核心是我們到底是制定產(chǎn)業(yè)發(fā)展條例還是人工智能條例。無(wú)論選取哪個(gè)名字，促進(jìn)產(chǎn)業(yè)的發(fā)展一直是這個(gè)條例的核心目的、基本理念和價(jià)值追求。由于有《上海市數(shù)據(jù)條例》珠玉在前作為參考，如果定位是人工智能條例,則其范圍至少應(yīng)該涉及不同主體的權(quán)益配置和法律責(zé)任，而不應(yīng)限于產(chǎn)業(yè)。最后起草者選擇了“產(chǎn)業(yè)發(fā)展條例”這一名稱，這樣選擇的理由有很多，在此不再展開。

其次，如果客觀分析《條例》的全文就會(huì)發(fā)現(xiàn)，治理的內(nèi)容與規(guī)則設(shè)計(jì)其實(shí)不限于治理這一章，在第二章基本要素與科技創(chuàng)新等章節(jié)均有相關(guān)內(nèi)容。換句話說(shuō)，條例不但沒有放棄產(chǎn)業(yè)治理，而且其所確立的產(chǎn)業(yè)治理的基本框架是較為完備的。

最后，需要提及的是在人工智能上海高地建設(shè)中，尤其是制度供給高地的建設(shè)中，《條例》一方面是一個(gè)集大成的制度成果，另一方面又是一個(gè)生發(fā)具體制度的規(guī)范母體。換句話說(shuō)，《條例》應(yīng)該是未來(lái)上海市人工智能規(guī)則體系的“母法”。我們有理由相信，在《條例》實(shí)施后，更多更為具體的規(guī)定將陸續(xù)制定頒行，與《條例》一起構(gòu)成引導(dǎo)、規(guī)范與保障上海市人工智能產(chǎn)業(yè)發(fā)展的制度體系。

3 充分供給：從要素到場(chǎng)景

要素的調(diào)配和市場(chǎng)化供給是產(chǎn)業(yè)發(fā)展的基本保障。專家在《條例》起草過程中花了大量的時(shí)間和精力進(jìn)行調(diào)研與討論，以便設(shè)計(jì)以市場(chǎng)為主導(dǎo)且可以保障科學(xué)供給的要素制度?！稐l例》很多制度設(shè)計(jì)聚焦于此。例如，第十三條規(guī)定：“市經(jīng)濟(jì)信息化部門應(yīng)當(dāng)會(huì)同市發(fā)展改革、科技等部門制定公共算力資源供給辦法，推動(dòng)公共算力資源平臺(tái)建設(shè)與利用，……保障中小企業(yè)獲得普惠的公共算力?！庇秩?，第十八條規(guī)定：“……擴(kuò)大面向人工智能產(chǎn)業(yè)的公共數(shù)據(jù)供給范圍。支持相關(guān)主體單獨(dú)或者聯(lián)合申請(qǐng)公共數(shù)據(jù)開放，保障中小企業(yè)、個(gè)人開發(fā)者等公平使用開放數(shù)據(jù)。……推動(dòng)人工智能產(chǎn)業(yè)數(shù)據(jù)流通交易?！?/p>

算力供給制度是一個(gè)頗具上海特色，同時(shí)也契合國(guó)家“東數(shù)西算”的創(chuàng)新。雖然這一制度的效果還有待觀察，但可以確定的是，無(wú)論是算力，還是算法或數(shù)據(jù)，供給即服務(wù)。有了這種服務(wù)的提供甚至是高質(zhì)量提供，才有產(chǎn)業(yè)的全面健康發(fā)展。

《條例》在數(shù)據(jù)方面的規(guī)則數(shù)量較少，但與之前的《上海市數(shù)據(jù)條例》相比創(chuàng)新度頗大。在公共數(shù)據(jù)方面支持相關(guān)主體單獨(dú)或者聯(lián)合申請(qǐng)公共數(shù)據(jù)開放，就是創(chuàng)新的典型。這是對(duì)公共數(shù)據(jù)開放制度的深化，同時(shí)也可能影響后續(xù)出臺(tái)的公共數(shù)據(jù)開放辦法的具體設(shè)計(jì)。

在應(yīng)用場(chǎng)景方面，對(duì)保障并提升供給也有所體現(xiàn)。例如，第五十六條規(guī)定：“探索應(yīng)用人工智能技術(shù)豐富教育資源供給，建設(shè)智能化開放教育資源平臺(tái)?！?/p>

4 要素開放運(yùn)營(yíng)：流動(dòng)創(chuàng)造價(jià)值

在保障充分供給的基礎(chǔ)上，《條例》進(jìn)一步強(qiáng)化基礎(chǔ)要素的流通利用。圍繞智能芯片、框架軟件與系統(tǒng)軟件、智能機(jī)器人、智能網(wǎng)聯(lián)汽車等重點(diǎn)產(chǎn)業(yè)方向，《條例》聚焦數(shù)據(jù)、算法與算力等基礎(chǔ)要素的供給與市場(chǎng)化配置，進(jìn)行了較為周全的制度設(shè)計(jì)。例如，第十三條規(guī)定：“本市推動(dòng)算力、數(shù)據(jù)、應(yīng)用資源集約化和服務(wù)化創(chuàng)新，保障人工智能產(chǎn)業(yè)發(fā)展算力需求?！庇秩纾谑鶙l規(guī)定：“本市推動(dòng)算法模型交易流通?！痹偃?，第十八條規(guī)定：“本市依托公共數(shù)據(jù)開放機(jī)制，……鼓勵(lì)企業(yè)通過上海數(shù)據(jù)交易所開展相關(guān)數(shù)據(jù)產(chǎn)品的交易，合法合規(guī)創(chuàng)造數(shù)據(jù)價(jià)值、分配數(shù)據(jù)增值收益，推動(dòng)人工智能產(chǎn)業(yè)數(shù)據(jù)流通交易?！?/p>

這些制度設(shè)計(jì)有助于釋放市場(chǎng)潛能，激發(fā)產(chǎn)業(yè)活力，引導(dǎo)人工智能產(chǎn)業(yè)健康持續(xù)發(fā)展，鞏固、擴(kuò)大上海在人工智能產(chǎn)業(yè)上的優(yōu)勢(shì)地位。

開放與運(yùn)營(yíng)在應(yīng)用賦能中也有體現(xiàn)。一般來(lái)說(shuō)，安全、高效的社會(huì)應(yīng)用將極大地?cái)U(kuò)展人工智能的社會(huì)應(yīng)用需求，支撐人工智能產(chǎn)業(yè)的發(fā)展。社會(huì)應(yīng)用需求本身依賴于多樣、規(guī)模應(yīng)用場(chǎng)景的建設(shè)。為此，《條例》積極推動(dòng)場(chǎng)景的培育、開放與運(yùn)營(yíng)，支持人工智能在經(jīng)濟(jì)、生活和城市治理中的規(guī)模化應(yīng)用。例如，第四十八條規(guī)定：“本市建立人工智能應(yīng)用場(chǎng)景開放制度。……參與人工智能應(yīng)用的相關(guān)主體應(yīng)當(dāng)推動(dòng)應(yīng)用場(chǎng)景優(yōu)化升級(jí)與持續(xù)運(yùn)營(yíng)。鼓勵(lì)第三方服務(wù)機(jī)構(gòu)、金融機(jī)構(gòu)等多元主體參與人工智能場(chǎng)景建設(shè)和運(yùn)營(yíng)?！比绱说闹贫仍O(shè)計(jì)支撐了應(yīng)用的賦能作用，促進(jìn)人工智能在千行百業(yè)中的應(yīng)用，客觀上也為數(shù)字經(jīng)濟(jì)發(fā)展、城市的數(shù)字化轉(zhuǎn)型提供新的動(dòng)能。

5 綜合監(jiān)管：以風(fēng)險(xiǎn)為中心的分級(jí)監(jiān)管

《條例》第六十五條規(guī)定：“對(duì)高風(fēng)險(xiǎn)的人工智能產(chǎn)品和服務(wù)實(shí)行清單式管理，遵循必要、正當(dāng)、可控等原則進(jìn)行合規(guī)審查。對(duì)中低風(fēng)險(xiǎn)的人工智能產(chǎn)品和服務(wù)采用事前披露和事后控制的治理模式，促進(jìn)先行先試。具體辦法由市人民政府另行制定?！?/p>

無(wú)論上海市還是深圳經(jīng)濟(jì)特區(qū)的人工智能條例，雖然都確立了分級(jí)監(jiān)管，但并未展開進(jìn)行更為具體、明確的制度設(shè)計(jì)。原因是分級(jí)監(jiān)管制度設(shè)計(jì)的核心在于不同主體的權(quán)益配置，在我國(guó)的立法體制下，屬于中央事權(quán)的范疇，地方立法探索的空間有限。另外，兩地立法都具有濃厚的產(chǎn)業(yè)立法的特征，治理法的成分不足，這是有意為之的理性選擇。

《條例》確立分級(jí)治理的意義是，我們面對(duì)一個(gè)監(jiān)管者與被監(jiān)管者可能都處于無(wú)知狀態(tài)的變動(dòng)不居的高科技領(lǐng)域，第一次提出了完整的監(jiān)管框架——根據(jù)風(fēng)險(xiǎn)進(jìn)行分級(jí)治理。

《條例》的分級(jí)治理具有自身的特點(diǎn)：第一，與歐盟相較，分級(jí)數(shù)量少，只分高風(fēng)險(xiǎn)和中低風(fēng)險(xiǎn)，而歐盟四級(jí)劃分中的其他兩級(jí)則用其他制度予以調(diào)整；第二，兩級(jí)的基本治理制度不同，即對(duì)高風(fēng)險(xiǎn)采取清單式管理，事前為主，力推合規(guī)，而對(duì)中低風(fēng)險(xiǎn)則以事后為主。風(fēng)險(xiǎn)級(jí)別如何判斷、清單如何制定等都需要將來(lái)市政府制定更為具體的規(guī)定。

6 認(rèn)證與備案：某些高風(fēng)險(xiǎn)制度設(shè)計(jì)

《條例》第六條第五款規(guī)定：“市市場(chǎng)監(jiān)管部門負(fù)責(zé)人工智能產(chǎn)業(yè)計(jì)量、標(biāo)準(zhǔn)、檢驗(yàn)檢測(cè)、認(rèn)證認(rèn)可、相關(guān)產(chǎn)品質(zhì)量監(jiān)督等工作。”這里在職責(zé)分工中將認(rèn)證作為市場(chǎng)監(jiān)管部門的職責(zé)之一。雖然《條例》并未以專條設(shè)置認(rèn)證制度，但未來(lái)對(duì)高風(fēng)險(xiǎn)的人工智能系統(tǒng)開展認(rèn)證仍有可能。參考域外立法的情況和理論研究成果，有效的認(rèn)證制度設(shè)計(jì)至少包括認(rèn)證機(jī)構(gòu)設(shè)置、認(rèn)證流程設(shè)計(jì)和認(rèn)證方法備置等部分，這需要在后續(xù)立法中與市場(chǎng)監(jiān)管部門進(jìn)行妥善協(xié)調(diào)，并深入理解人工智能系統(tǒng)進(jìn)入市場(chǎng)的既有實(shí)踐。關(guān)于認(rèn)證制度，不僅可以參考?xì)W盟AIA的具體規(guī)定，還可考察美國(guó)的認(rèn)證體系的設(shè)計(jì)。

7 評(píng)估：為了更好的發(fā)展

《條例》多處規(guī)定了評(píng)估制度，每種評(píng)估的作用和目的不同，應(yīng)該分別研究，予以重視。從評(píng)估的對(duì)象來(lái)看，涉及“特色產(chǎn)業(yè)園區(qū)的智能化程度開展評(píng)估”（第三十條），“行業(yè)發(fā)展態(tài)勢(shì)、制定政策措施”（第三十八條），“人工智能資產(chǎn)評(píng)估體系”（第五十條）等。

其中，最為重要的評(píng)估規(guī)定在第四十九條，該條規(guī)定：“市有關(guān)部門應(yīng)當(dāng)組織行業(yè)組織等制定人工智能的應(yīng)用成效評(píng)估方法，建立人工智能產(chǎn)品和應(yīng)用的智能化水平評(píng)價(jià)機(jī)制，探索評(píng)估人工智能產(chǎn)品和應(yīng)用的社會(huì)綜合影響，推動(dòng)人工智能深度應(yīng)用與持續(xù)創(chuàng)新。”本條規(guī)定意義重大，如何具體實(shí)踐運(yùn)作，仍待未來(lái)的檢驗(yàn)。

8 中小企業(yè)保護(hù)：激發(fā)活力

《條例》第六十五條規(guī)定：“市人民政府及有關(guān)部門……探索分級(jí)治理和沙盒監(jiān)管，激發(fā)各類主體創(chuàng)新活力，拓展人工智能發(fā)展空間。……市有關(guān)部門可以就人工智能產(chǎn)業(yè)發(fā)展過程中的輕微違法行為等制定依法不予行政處罰清單……”該條強(qiáng)調(diào)了沙盒監(jiān)管，旨在放松發(fā)展空間、寬容科技創(chuàng)新風(fēng)險(xiǎn)，而制定“不予行政處罰清單”則有助于減小中小企業(yè)的輕微違法負(fù)擔(dān)。

《條例》第十三條第二款規(guī)定：“市經(jīng)濟(jì)信息化部門應(yīng)當(dāng)……保障中小企業(yè)獲得普惠的公共算力?！钡谑藯l規(guī)定：“支持相關(guān)主體單獨(dú)或者聯(lián)合申請(qǐng)公共數(shù)據(jù)開放，保障中小企業(yè)、個(gè)人開發(fā)者等公平使用開放數(shù)據(jù)。”綜合來(lái)看，在對(duì)中小企業(yè)保護(hù)的制度設(shè)計(jì)上，《條例》從給政策和免處罰兩個(gè)方面進(jìn)行全面規(guī)定，并配合了開放沙盒和減輕企業(yè)相關(guān)成本等制度。

9 可信人工智能：型構(gòu)緩解信任焦慮的共識(shí)

實(shí)現(xiàn)人工智能可信被認(rèn)為是人工智能技術(shù)發(fā)展與社會(huì)治理的核心目標(biāo)。綜觀《條例》的內(nèi)容，雖然僅在第十五條規(guī)定了算法可信化——該條第一款規(guī)定“本市支持……實(shí)現(xiàn)算法可信化……”——其他部分無(wú)一字可信，但“可信”如地下甘泉，滋養(yǎng)著《條例》的規(guī)制體系。

在人工智能系統(tǒng)開發(fā)或應(yīng)用階段的任何錯(cuò)誤都可能是災(zāi)難性的，特別是當(dāng)涉及人類生命時(shí)。實(shí)現(xiàn)人工智能可信有助于緩解社會(huì)對(duì)人工智能及其治理的普遍焦慮。在這一點(diǎn)上，《條例》確立的前述制度顯然給出了可信人工智能發(fā)展的上海答卷。目前來(lái)看，可信的內(nèi)涵至少包括基礎(chǔ)合法、符合倫理、技術(shù)穩(wěn)定和可以測(cè)評(píng)等內(nèi)容。

不過，創(chuàng)建道德的和值得信賴的人工智能不僅需要了解技術(shù)本身，還需要了解存在的社會(huì)和道德條件，以及如何適當(dāng)?shù)亟忉尯驮u(píng)估它們對(duì)人工智能的設(shè)計(jì)、構(gòu)建和測(cè)試方式的影響，以及人工智能與人類互動(dòng)的方式。因此，可信目前雖無(wú)成熟制度，但其作為基本精神影響未來(lái)實(shí)踐和制度更新。

10 倫理專家委員會(huì)：軟法有了硬載體

《條例》規(guī)定設(shè)立人工智能倫理專家委員會(huì)，這一設(shè)置為“軟法”轉(zhuǎn)“硬”提供了組織支撐。第六十六條規(guī)定：“本市設(shè)立人工智能倫理專家委員會(huì)，履行下列職責(zé)：（一）組織制定人工智能領(lǐng)域倫理規(guī)范指南；（二）指導(dǎo)高等學(xué)校、科研機(jī)構(gòu)、企業(yè)和相關(guān)行業(yè)組織等開展人工智能領(lǐng)域倫理理論研究和探索，推動(dòng)參與國(guó)內(nèi)外人工智能領(lǐng)域倫理重大問題研討和規(guī)范制定；（三）推動(dòng)人工智能企業(yè)探索建立倫理安全治理制度；（四）對(duì)涉及生命健康、公共安全等重點(diǎn)領(lǐng)域人工智能應(yīng)用的潛在風(fēng)險(xiǎn)開展評(píng)估；（五）開展人工智能領(lǐng)域倫理咨詢活動(dòng)，為相關(guān)部門提供決策咨詢服務(wù)；（六）開展人工智能領(lǐng)域倫理安全教育和宣傳?！?/p>

數(shù)字社會(huì)的治理在硬法之外需要軟法的配合。軟法不限于倫理，還包括習(xí)慣，甚至可以把技術(shù)包含在內(nèi)。軟法的“軟”一般是說(shuō)其不具備強(qiáng)制力、權(quán)利義務(wù)責(zé)任設(shè)計(jì)等。面向未來(lái)，這些軟性的規(guī)則（法）所提供的秩序在數(shù)字社會(huì)中將發(fā)揮越來(lái)越重要的作用。因此，一個(gè)議題是重新審視所謂的硬法的局限和發(fā)展的趨向。硬法之“硬”，包含的是不可缺少的程序、權(quán)利義務(wù)設(shè)置、監(jiān)管與責(zé)任安排等以公權(quán)力支撐的制度，硬法具有剛性，但立法與修改程序多，耗時(shí)長(zhǎng)，效率低下，不足以應(yīng)對(duì)數(shù)字社會(huì)的發(fā)展。因此，軟硬法之間的協(xié)調(diào)和互動(dòng)將不可避免，也就是說(shuō)，硬法需要在更大程度上肯認(rèn)軟法的地位，吸納軟法的規(guī)則，為其提供支撐。

創(chuàng)建一個(gè)兼具多方面專業(yè)知識(shí)和具有權(quán)威性的人工智能倫理專家委員會(huì)是必要且重要的。地方立法確認(rèn)這一制度為相關(guān)實(shí)踐提供了法治基礎(chǔ)。目前，還有以下幾個(gè)問題需要解決：一是如何處理人工智能倫理專家委員會(huì)與戰(zhàn)略咨詢專家委員會(huì)的關(guān)系；二是人工智能倫理專家委員會(huì)的權(quán)力邊界；三是人工智能倫理專家委員會(huì)的運(yùn)作機(jī)制。這將直接決定該組織在人工智能綜合治理框架中的作用發(fā)揮，關(guān)系到政府、企業(yè)、消費(fèi)者和其他利益相關(guān)者的協(xié)調(diào)，尚待后續(xù)實(shí)踐完善。