王建文 方志偉

(河海大學(xué) 馬克思主義學(xué)院，南京 211100)

提要： 人工智能輔助地方立法是“人工智能+法律”的一種有益探索，可提高地方立法的科學(xué)性和民主性。但人工智能賦能地方立法的同時也可能帶來立法信息過度收集、立法過程隱含歧視、立法結(jié)果無從考證等風(fēng)險。對于人工智能輔助地方立法的風(fēng)險治理，倫理規(guī)范具有先導(dǎo)性作用，但治理人工智能輔助地方立法的風(fēng)險，須構(gòu)建有別于宏觀倫理原則的倫理框架。文章以人工智能輔助地方立法的基礎(chǔ)設(shè)施提供者、信息提供者、信息處理者、系統(tǒng)協(xié)調(diào)者為倫理主體構(gòu)建倫理框架，確立各主體相對具體且可供執(zhí)行的倫理規(guī)范，并在人工智能輔助地方立法數(shù)據(jù)采集模塊、數(shù)據(jù)挖掘模塊、數(shù)據(jù)管理與存儲模塊的建設(shè)中嵌入倫理規(guī)則，確保人工智能立法平臺可追溯、可審計、可解釋，從而消解人工智能輔助地方立法的風(fēng)險。

黨的十九大報告提出全面增強執(zhí)政本領(lǐng)，強調(diào)要善于運用互聯(lián)網(wǎng)技術(shù)和信息化手段開展工作。2018年10月，習(xí)近平總書記在中央政治局第九次集體學(xué)習(xí)人工智能發(fā)展現(xiàn)狀與趨勢時明確指出，要加強人工智能同社會治理的結(jié)合，開發(fā)適用于政府服務(wù)和決策的人工智能系統(tǒng)[1]。近年來，國家層面的大數(shù)據(jù)和人工智能戰(zhàn)略逐步實施，各類法律大數(shù)據(jù)和人工智能平臺陸續(xù)建立①，大數(shù)據(jù)與人工智能推動中國法治事業(yè)不斷進步。

《立法法》修改后，所有設(shè)區(qū)的市均有地方立法權(quán)。伴隨著依法治國進程的持續(xù)推進和社會治理的精細化，地方立法工作量持續(xù)增加，但立法人才儲備嚴重不足，人力工作的傳統(tǒng)立法方式很難實現(xiàn)十九大報告中提出的地方立法要求。在時代訴求中，“人工智能+法律”已經(jīng)成為新一代人工智能技術(shù)發(fā)展和我國法治建設(shè)的重要課題，并對立法、執(zhí)法、司法等方面帶來深遠影響。在人工智能輔助地方立法領(lǐng)域，人工智能通過對立法大數(shù)據(jù)的搜集、挖掘與處理，輔助地方立法的功能日益增強，不斷促進地方立法質(zhì)量和立法效率提高。不過，人工智能輔助地方立法的同時，人工智能技術(shù)給地方立法帶來安全風(fēng)險同樣不容忽視。

一、人工智能輔助地方立法的價值

地方立法應(yīng)遵循法治性、民主性和科學(xué)性。立法的法治性是指立法主體、立法內(nèi)容、立法程序等應(yīng)在法治的框架內(nèi)；立法的民主性一方面指參與主體廣泛、多元，另一方面指立法內(nèi)容、立法過程和立法程序具有人民性，代表人民的價值取向；立法的科學(xué)性是指立法觀念、立法制度、立法技術(shù)的科學(xué)化[2]。質(zhì)言之，立法應(yīng)當(dāng)立足實際，回應(yīng)社會現(xiàn)實需要，滿足人民群眾的呼聲和訴求。但在地方立法實踐中，除立法的法治性相對比較容易把握外，立法的科學(xué)性與民主性往往存在較大的“實踐彈性”。而人工智能技術(shù)將有效促進地方立法的科學(xué)性與民主性。

(一)促進地方立法的科學(xué)性

在人工智能技術(shù)出現(xiàn)以前，立法信息主要通過官方渠道獲取，非官方渠道信息很少被采用。即使立法部門設(shè)置門戶網(wǎng)站搜集和統(tǒng)計民間立法意見，但較之有針對性采集立法信息的做法，且不說立法部門設(shè)置網(wǎng)站的使用程度是否有限，僅從地方立法意見搜集與處理的方式而言，該網(wǎng)站的功能也是有限的，因為不少地方立法者依舊沿襲傳統(tǒng)立法技術(shù)模式，依靠人力來完成地方立法資料檢索、資料比對、校對、規(guī)范性文件備案審查等任務(wù)，地方立法信息處理的效率和準確性難以得到保障。因此，公眾意見征集渠道不暢通，地方立法公眾參與程度有限，所獲取的立法信息自然難以保證客觀性與全面性[3]。問題的另一面，在信息化時代，因地方立法者信息處理能力有限，使得立法決策經(jīng)常負擔(dān)著“信息過載”的壓力，也是立法權(quán)分散化和碎片化運轉(zhuǎn)的重要原因[4]。尤其是面對大數(shù)據(jù)時代的“海量”信息，由于地方立法者獲取和處理有效信息的效果不佳，導(dǎo)致地方立法工作呈現(xiàn)出立法信息不充分的假象，而這可能帶來的嚴重后果是立法決策者依靠強權(quán)或者利用權(quán)力來使自身免受立法困境的影響。

人工智能技術(shù)出現(xiàn)后，地方立法所需的數(shù)據(jù)收集、存儲、使用和挖掘等開始實現(xiàn)智能化，豐富了地方立法信息的獲取途徑和價值。目前，人工智能技術(shù)正被加速融入立法活動中，人工智能輔助地方立法的價值和成效正在凸顯。其一，在“人工智能+法律”中，人工智能技術(shù)驅(qū)動的大數(shù)據(jù)生產(chǎn)，更能讓地方立法制度成果真實快速地反映客觀規(guī)律，同時數(shù)據(jù)思維的精確性也能最大限度地保障立法的中立性，從而破除立法中的部門利益壁壘[5]。其二，深度發(fā)揮人工智能等技術(shù)在資料獲取方面的優(yōu)勢，輔助立法機關(guān)客觀、整體、廣泛的獲取立法數(shù)據(jù)，征求立法意見，最大程度反映社情民意。其三，海量數(shù)據(jù)和人工智能的算法模型豐富了法學(xué)實證研究的分析工具和方法，讓研究結(jié)果能更準確的展現(xiàn)事物發(fā)展規(guī)律[6]。此外，隨著人工智能技術(shù)在地方立法中的不斷應(yīng)用，還可有效應(yīng)對和處置地方立法中可能發(fā)生的輿情，實現(xiàn)地方立法與社會的良好互動。

(二)促進地方立法的民主性

民主性在地方立法過程中的重要體現(xiàn)即讓廣大人民群眾參與其中，傾聽人民群眾心聲和訴求，集納人民群眾智慧。為此，在地方立法實踐中，立法者通常要通過召開專家論證會、利益相關(guān)方座談會等形式征詢意見。但問題是，能夠參加各種論證會、座談會和研討會的專家學(xué)者以及利益相關(guān)者數(shù)量畢竟相對有限，多數(shù)普通民眾參與地方立法的通道并不十分順暢。這決定了地方立法草案中廣大普通人民群眾的訴求或意見，未必具有最大化的“代表性”。同時，在地方立法草案意見征集過程中，由于不少地方仍然借助傳統(tǒng)意見征集模式，多數(shù)普通民眾難以擁有較為便利的渠道和方式來發(fā)聲，導(dǎo)致地方立法草案意見征集的民主性也會大打折扣。即使隨著互聯(lián)網(wǎng)的普及，現(xiàn)實中往往也只有少數(shù)民眾會登錄網(wǎng)絡(luò)平臺來反映對法律草案的修改意見，導(dǎo)致這種方式獲取的意見并不具有較強的代表性?，F(xiàn)實情況是，除北京、上海等少數(shù)地區(qū)外，地方人大官網(wǎng)鮮有設(shè)立立法意見征集系統(tǒng)[7]。如2013年《南京市生活垃圾分類管理辦法》公開征求意見時曾出現(xiàn)無人提交意見的窘?jīng)r[8]。再如《湖南省物業(yè)管理條例(草案)》在公開征求意見過程中，于全省范圍內(nèi)也僅征集到150條立法意見[9]。因此，地方立法機關(guān)在擴大立法民主性的努力中，尚需技術(shù)輔助。換言之，地方立法須通過現(xiàn)代技術(shù)手段擴大立法意見的收集面，尤其要通過人工智能技術(shù)賦能，讓立法草案修改擁有更加充分的民意基礎(chǔ)，這也是信息時代科學(xué)立法、民主立法的客觀需要。

二、人工智能輔助地方立法的風(fēng)險

目前，人工智能輔助地方立法的參與程度尚淺，其對地方立法多為正面、積極的影響。不過，隨著人工智能技術(shù)的發(fā)展，其在地方立法過程中參與程度愈發(fā)深入，可以想象未來地方立法將實現(xiàn)智能化生成。在缺乏有關(guān)制度規(guī)范的背景下，人工智能技術(shù)賦能地方立法的同時也可能存在如下風(fēng)險：

(一)立法信息過度收集

立法信息收集檢索是立法工作的基礎(chǔ)與前提，貫穿于整個立法過程。人工智能技術(shù)憑借其超強信息數(shù)據(jù)處理能力，可以快速完成立法信息的歸總。在人工智能輔助地方立法過程中，不僅要收集法規(guī)文本、判決文書以及相關(guān)立法建議等基礎(chǔ)信息，還需要收集相關(guān)法律問題的評論文章、新聞報道、公開論壇上的留言評論等公開信息，甚至還需要使用日志搜集等技術(shù)對相關(guān)軟件的后臺運行數(shù)據(jù)等非公開信息進行采集。無論是何種渠道獲取的立法信息，其中必然包含個人信息甚至隱私信息等。為追求立法效率，人工智能輔助地方立法平臺的開發(fā)者可能忽視甚至主動規(guī)避個人信息收集的目的限制②，對個人信息進行深度挖掘和利用。例如，在地方立法草案的意見征集環(huán)節(jié)，一般須對有關(guān)意見對象的數(shù)據(jù)進行挖掘和分析，描繪數(shù)據(jù)畫像，最后依其數(shù)據(jù)畫像決定對該意見對象的建議或意見采納與否，這顯然超出了個人信息的使用范圍。隨著人工智能介入地方立法工作程度越深，個人數(shù)據(jù)過度采集的風(fēng)險就越大，導(dǎo)致諸如大數(shù)據(jù)挖掘涉嫌隱私權(quán)侵害和采集個人信息的合法性問題的可能就越多，因此，人工智能輔助地方立法的立法信息過度采集風(fēng)險也將隨著人工智能介入的深度和廣度而不斷增高。

(二)立法過程隱含歧視

正義是法律的核心價值之一，在地方立法過程中應(yīng)一以貫之，具體至人工智能輔助地方立法平臺之中，其應(yīng)無差別地吸收社會群體意見，平等對待立法生效范圍內(nèi)的各類群體權(quán)益。但在人工智能應(yīng)用實踐中，以算法為核心的人工智能普遍存在偏見和歧視[10]，反映在人工智能輔助地方立法的具體應(yīng)用中可能表現(xiàn)為忽視部分群體利益、漠視部分群體的意見。這主要因為：

其一，既有社會偏見的平臺設(shè)計者。在人工智能立法平臺構(gòu)建中，從算法設(shè)計到數(shù)據(jù)搜集，再到數(shù)據(jù)挖掘及利用，系統(tǒng)開發(fā)者自身的價值判斷會始終貫穿其中，系統(tǒng)開發(fā)者自身的主觀偏見可能會融入人工智能輔助地方立法的模型之中。人工智能輔助地方立法平臺也因由人類自己設(shè)計和開發(fā)，期間必然會有意或無意、或多或少地嵌入了開發(fā)者的主觀價值判斷。例如，人工智能輔助地方立法平臺因信息采集和處理的需要，會將相關(guān)立法建議數(shù)據(jù)化、條理化和結(jié)構(gòu)化，并進行相關(guān)分類和賦值，而這一人工智能數(shù)據(jù)挖掘過程中的分類標準、賦值方法均由能動主體的人類開發(fā)者來設(shè)定。此時，人工智能輔助立法過程中則必然帶入了設(shè)計者對部分群體的歧視。

其二，暗含社會偏見的數(shù)據(jù)信息混入人工智能輔助地方立法系統(tǒng)。人工智能輔助地方立法平臺的開發(fā)需要大數(shù)據(jù)的支撐，而數(shù)據(jù)的質(zhì)量將直接決定人工智能輔助地方立法平臺的質(zhì)量。對于大數(shù)據(jù)而言，其本身所折射出的人類價值觀或觀念往往是混合而多元的，既可能蘊含先進的社會價值觀念，也會夾雜落后的社會價值觀念。此時，立法平臺可能將一些帶有落后或歧視性的社會觀念納入人工智能輔助地方立法平臺之中，從而進一步強化了現(xiàn)實社會落后的價值觀和既有歧視。這種囿于數(shù)據(jù)本身的偏見和歧視而導(dǎo)致的算法偏見與平臺歧視等問題，也被稱為病毒性歧視(Viral Discrimination)[11]。與此同時，通過人工智能輔助地方立法平臺技術(shù)采集到的不完整、不正確或過時的數(shù)據(jù)，也可能會導(dǎo)致系統(tǒng)的歧視和偏見。此外，對于信息化較為落后的偏遠地區(qū)或是對現(xiàn)代信息技術(shù)接受程度較低的人群因該部分立法信息數(shù)據(jù)的缺失無法反映該部分民眾的合理訴求，進而在立法過程中對該部分群體產(chǎn)生隱性歧視風(fēng)險。

(三)立法結(jié)果無從考證

所謂立法結(jié)果即立法機關(guān)經(jīng)由特定程序制定的規(guī)范性法律文件及其體系[12]，是立足社會現(xiàn)實和社會治理需要，綜合多方立法意見得出的規(guī)范性文本。因此，為保證立法科學(xué)性、合理性，地方立法條例均會規(guī)定立法過程中應(yīng)采用條旨和條文說明相結(jié)合的方式闡明立法理由、依據(jù)；對關(guān)涉社會公眾切身利益的應(yīng)當(dāng)征求意見并說明意見采納情況③。但在人工智能輔助地方立法平臺中，由于人工智能“黑箱”的存在，立法結(jié)果的合理性變得無從考證。立法平臺將各種立法意見、社會現(xiàn)實、立法經(jīng)驗等立法依據(jù)、理由清洗、挖掘、形塑為結(jié)構(gòu)化的立法數(shù)據(jù)，并通過一系列的算法運算后得出立法結(jié)果，但立法者卻并不知悉其經(jīng)歷了怎樣的運算過程，對立法意見是如何分類、挖掘，吸收了何種意見，為什么吸收，人工智能也無法給出明確答案。此外，由于機器語言向自然語言轉(zhuǎn)化的“技術(shù)鴻溝”的存在，即使公開人工智能輔助地方立法的算法模型、要素權(quán)重、算法記錄甚至是源代碼，也僅僅讓社會公眾知其然，而無法知其所以然。質(zhì)言之，由于人工智能黑箱及技術(shù)鴻溝的存在，人工智能輔助地方立法平臺無法對立法條文的合理性予以闡釋，立法結(jié)果的合理性也必然無從考證。

毋庸置疑，隨著人工智能技術(shù)不斷發(fā)展進步，人工智能技術(shù)介入地方立法的維度和深度會越來越廣泛且深入，人工智能輔助地方立法的風(fēng)險也充滿不確定。事實上我們無法預(yù)測未來，科技發(fā)展的結(jié)果總是不確定的[13]。但這并不代表就我們對人工智能的各種挑戰(zhàn)只能坐以待斃，一個較好的方法即將倫理風(fēng)險評估和合規(guī)體系建設(shè)作為人工智能應(yīng)用系統(tǒng)開發(fā)建設(shè)的一部分[14]。

三、人工智能輔助地方立法風(fēng)險治理的倫理框架

當(dāng)前，大數(shù)據(jù)、人工智能等技術(shù)在地方立法領(lǐng)域的應(yīng)用尚處于初步階段，技術(shù)對立法的參與度尚不深入，對立法的影響多為正面影響。然而，隨著技術(shù)在立法應(yīng)用中的不斷深入，信息過度收集、立法過程隱含歧視、立法結(jié)果無從考證等風(fēng)險有可能逐步加劇，若不加以限制極易滑向“科林格里奇困境”④。法律和倫理(道德)作為社會治理規(guī)范體系中最為基礎(chǔ)的調(diào)整手段，以不同方式和機制對不同領(lǐng)域予以調(diào)整規(guī)制，但由于法律的滯后性，對于人工智能輔助地方立法的規(guī)制，倫理規(guī)范具有先導(dǎo)性作用[15]，社會治理的歷史經(jīng)驗也告訴我們，由人類自己創(chuàng)造技術(shù)并使用技術(shù)而衍生的風(fēng)險，在得到成熟治理之前，往往是需要通過倫理道德的準則來規(guī)制和約束。在人工智能技術(shù)發(fā)達國家，如美國、歐盟、韓國、日本等對人工智能的治理研究多從倫理規(guī)范開始，并紛紛制定出臺人工智能治理的倫理規(guī)范⑤。因此，在人工智能輔助地方立法中，防范和治理風(fēng)險的基礎(chǔ)性工具便是倫理規(guī)制。

2017年，國務(wù)院在《新一代人工智能發(fā)展規(guī)劃》中提出“制定促進人工智能發(fā)展的法律法規(guī)和倫理規(guī)范”[16]，2019年進一步提出人工智能的治理框架和行動指南，提出八項治理原則⑥，但這些基本倫理原則對規(guī)制人工智能應(yīng)用過于寬泛。鑒于倫理規(guī)制的對象與價值，自起點到終點，都是由人類作為能動性的主體來承載或發(fā)揮作用。因此，在人工智能輔助地方立法風(fēng)險治理中，若要發(fā)揮倫理的規(guī)制價值，核心問題是要回答到底是誰的倫理，或要用倫理規(guī)范誰來承擔(dān)義務(wù)的問題。審視人工智能輔助地方立法的技術(shù)路徑，主要由處理立法信息的軟件系統(tǒng)和提供算力、載體的硬件系統(tǒng)構(gòu)成。其中軟件系統(tǒng)的核心是對有關(guān)立法信息搜集、清洗、挖掘、分析，是地方立法信息從混亂的數(shù)據(jù)轉(zhuǎn)化為立法智慧的“信息價值鏈”；硬件系統(tǒng)則是由人工智能輔助地方立法系統(tǒng)的底層基礎(chǔ)設(shè)施構(gòu)成，是人工智能地方立法軟件系統(tǒng)運行的物理基礎(chǔ)。由此，人工智能輔助地方立法的能動性主體可從“角色—功能”角度劃分，主要由基礎(chǔ)設(shè)施(硬件)提供者、信息提供者、信息處理者和系統(tǒng)協(xié)調(diào)者四個角色組成。因此，前述四類主體便建構(gòu)了人工智能輔助地方立法風(fēng)險治理的倫理框架。

(一)基礎(chǔ)設(shè)施提供者倫理

基于人工智能輔助地方立法的技術(shù)邏輯特點，人工智能輔助地方立法系統(tǒng)中的基礎(chǔ)設(shè)施提供者，為人工智能輔助地方立法提供算力支撐，是實現(xiàn)立法信息從原始數(shù)據(jù)到立法文本轉(zhuǎn)換的載體。具體而言，人工智能輔助地方立法算力來源主要由各種智能芯片提供，如中央處理器(CPU)、圖形處理器(GPU)及硬件加速器(FPGA)等芯片；信息轉(zhuǎn)換的載體則主要通過構(gòu)建分布式數(shù)據(jù)庫實現(xiàn)，也可通過云存儲、云計算實現(xiàn)。無論采用何種部署方式，基礎(chǔ)設(shè)施提供者的主要作用旨在提供算力支持的智能芯片與信息轉(zhuǎn)換載體的數(shù)據(jù)庫或云服務(wù)。因此，在人工智能輔助地方立法的倫理框架中，基礎(chǔ)設(shè)施提供者的功能主要在于提供合格的產(chǎn)品與服務(wù)，在人工智能輔助地方立法風(fēng)險治理中，該主體承擔(dān)的倫理責(zé)任接近于“產(chǎn)品責(zé)任”[17]。易言之，在人工智能輔助地方立法風(fēng)險治理中，規(guī)制基礎(chǔ)設(shè)施提供者的倫理旨在至少要保證人工智能“產(chǎn)品合格”，符合“產(chǎn)品質(zhì)量”要求，即人工智能輔助地方立的基礎(chǔ)設(shè)施提供者負有避免和承擔(dān)“產(chǎn)品不合格”的倫理義務(wù)和責(zé)任。

(二)信息提供者倫理

地方立法在立項調(diào)研、立法評估等環(huán)節(jié)離不開如地方政府(部門)、企事業(yè)單位等積累的業(yè)務(wù)數(shù)據(jù)的支撐，如在垃圾分類立法的前期調(diào)研中必然需要環(huán)保部門提供本地垃圾的存放、回收、運輸?shù)葦?shù)據(jù)。在人工智能輔助地方立法平臺中，持有相關(guān)立法數(shù)據(jù)的群體或個體通過平臺提供其記錄或觀測到的有關(guān)業(yè)務(wù)數(shù)據(jù)。這些提供地方立法數(shù)據(jù)信息的群體或個體作為人工智能輔助地方立法倫理框架中的具體主體，其行為同樣要接受倫理的規(guī)制。因此，人工智能輔助地方立法中信息提供者倫理，自然成了人工智能輔助地方立法倫理框架中一個不可或缺的重要組成部分。具言之，人工智能輔助地方立法中信息提供者倫理，旨在保證信息提供者所提供的信息滿足程序合法、內(nèi)容真實、無權(quán)利負擔(dān)等基本倫理義務(wù)要求。

(三)信息處理者倫理

信息處理者，主要指人工智能技術(shù)和服務(wù)提供商。在人工智能輔助地方立法中，信息處理者主要任務(wù)是承擔(dān)信息處理活動，其具體職責(zé)主要包括人工智能輔助地方立法中信息的分類、清洗、挖掘、分析等，是立法決策輸出的關(guān)鍵節(jié)點。就能動性行為主體而言，人工智能輔助地方立法中的信息處理者，通常表現(xiàn)為技術(shù)工程師，但實際中也可能包括法學(xué)專家為立法數(shù)據(jù)的分類、賦權(quán)等提供智力支持。他們在人工智能輔助地方立法平臺中的主要業(yè)務(wù)，一是對有關(guān)原始數(shù)據(jù)分類、清洗、標注使其符號化、結(jié)構(gòu)化；二是利用結(jié)構(gòu)化數(shù)據(jù)分析、建模，運用機器思維求解有關(guān)問題，如敏感詞查詢、上位法比對等；三是信息處理后的可視化展示，實現(xiàn)立法者與立法平臺間的交互。顯然，在人工智能輔助地方立法倫理框架中，信息處理者是作為人工智能輔助地方立法信息處理中堅力量存在的。對人工智能輔助地方立法中信息處理者的倫理規(guī)制，對防治和避免“算法黑箱”，或追求“算法透明”乃至實現(xiàn)“可解釋性”等具有十分重要意義。因此，賦予人工智能輔助地方立法中信息處理者的倫理義務(wù)的最低要求，便是信息處理者不能突破信息“善良處理”的底線。

(四)系統(tǒng)協(xié)調(diào)者倫理

在人工智能輔助地方立法平臺的組織架構(gòu)中，系統(tǒng)協(xié)調(diào)者類似于“大管家”角色[17]，其角色定位是為人工智能輔助地方立法活動提供政策咨詢、組織協(xié)調(diào)各主體任務(wù)分工，統(tǒng)籌管理立法資源等服務(wù)，從而滿足人工智能輔助地方立法的整體要求，保障人工智能輔助地方立法的正常運轉(zhuǎn)。人工智能輔助地方立法涉及多學(xué)科、多部門，為實現(xiàn)人工智能輔助地方立法的順利開展，其系統(tǒng)協(xié)調(diào)者理應(yīng)是龐大而開放的，既包括宏觀管理層面的協(xié)調(diào)者，也包括微觀技術(shù)層面的協(xié)調(diào)者。因此，在人工智能輔助地方立法的倫理框架中，系統(tǒng)協(xié)調(diào)者倫理義務(wù)可區(qū)分為宏觀和微觀兩種能動主體予以規(guī)制，以便提升人工智能輔助地方立法風(fēng)險治理的精準性。為此，人工智能輔助地方立法中的系統(tǒng)協(xié)調(diào)者倫理義務(wù)，在共性上須遵循“善良”“人本”“合法”“公正”“平等”等基本原則性倫理規(guī)范，同時要承擔(dān)“個性化”倫理義務(wù)。例如，要求引導(dǎo)和管理人工智能輔助地方立法活動的有關(guān)國家機關(guān)，在涉及人工智能輔助地方立法政策和相關(guān)制度的供給與服務(wù)，須踐行憲法引領(lǐng)下的合法性要求且須促進社會發(fā)展進步的基本職責(zé)。對于服務(wù)于人工智能輔助地方立法中的其他系統(tǒng)服務(wù)者而言，則要求他們的服務(wù)行為、過程及結(jié)果等須符合必要的規(guī)范或具體標準等。

通常在面對“人工智能+”領(lǐng)域風(fēng)險治理的倫理規(guī)制問題，多數(shù)研究者會習(xí)慣性提供包括諸于“善良”“公正”“安全”等內(nèi)涵的宏觀層面的版本[18]，來作為相關(guān)領(lǐng)域“人工智能+”倫理原則建構(gòu)的內(nèi)核。誠然，這種建構(gòu)是必須且富有價值的，但立足倫理義務(wù)最終能要在實踐層面發(fā)揮功能的維度看，寬泛意義上的倫理原則需要通過盡可能“具化”或“可操作性”的倫理義務(wù)來達到規(guī)制人工智能主體行為的目的?；诖?，本文在“人工智能+地方立法”的具體領(lǐng)域，即于人工智能輔助地方立法的風(fēng)險治理中提出倫理框架，通過將倫理主體分解并結(jié)構(gòu)化，以及有針對性地賦予他們既有共性又有區(qū)別且相對具體的倫理義務(wù)，將有助于人工智能輔助地方立法風(fēng)險治理中主體倫理義務(wù)的實踐。

四、人工智能輔助地方立法風(fēng)險治理的規(guī)則嵌入

從科技哲學(xué)的視角來看，人工智能輔助地方立法風(fēng)險的倫理規(guī)制的實質(zhì)是如何在人工智能技術(shù)應(yīng)用過程中嵌入倫理規(guī)范，并據(jù)此制定相應(yīng)的行為規(guī)范，從而規(guī)范各相關(guān)主體的開發(fā)、利用行為[19]。質(zhì)言之，人工智能輔助地方立法風(fēng)險的治理，即如何將本文提出的倫理框架范圍內(nèi)所涉主體的倫理義務(wù)付諸實踐而完成對失范行為的規(guī)制。如何實現(xiàn)這一目的，關(guān)鍵是要在人工智能輔助地方立法的重要環(huán)節(jié)嵌入倫理或法律義務(wù)。由于人工智能的設(shè)計開發(fā)缺乏跨學(xué)科間的合作，且在跨學(xué)科語境下因通常使用宏觀的倫理術(shù)語或倫理原則，導(dǎo)致有關(guān)踐行倫理規(guī)范來治理人工智能技術(shù)風(fēng)險的努力被“擱淺”。

人工智能輔助地方立法的核心技術(shù)即在于對立法收據(jù)的收集、分類、比對、挖掘并生成相關(guān)文本，因此該系統(tǒng)設(shè)計將以數(shù)據(jù)信息的流轉(zhuǎn)為主線，分為數(shù)據(jù)采集模塊、數(shù)據(jù)挖掘模塊、數(shù)據(jù)管理與存儲模塊、數(shù)據(jù)可視化(發(fā)布)模塊等業(yè)務(wù)模塊，實踐中數(shù)據(jù)可視化(發(fā)布)模塊主要是呈現(xiàn)立法草案等處理后的數(shù)據(jù)，其對地方立法產(chǎn)生的風(fēng)險較小。因此，在人工智能輔助地方立法中，本文選取其中最為核心且倫理主體相對固定的功能模塊，即數(shù)據(jù)采集模塊、數(shù)據(jù)挖掘模塊、數(shù)據(jù)管理與存儲模塊予以闡釋，如何將各倫理主體的倫理和法律義務(wù)廓清并嵌入各業(yè)務(wù)模塊開發(fā)過程，以便于技術(shù)專家理解并內(nèi)化于人工智能輔助地方立法的模塊之中。

(一)數(shù)據(jù)采集模塊

根據(jù)數(shù)據(jù)來源主體的不同，地方立法數(shù)據(jù)主要有外源型數(shù)據(jù)和內(nèi)部數(shù)據(jù)。其中，外源性數(shù)據(jù)是指非由立法部門的其他信息提供者如地方政府(部門)、企事業(yè)單位等積累的業(yè)務(wù)數(shù)據(jù)。內(nèi)部數(shù)據(jù)是指立法部門自身通過對個體或群體行為進行觀測和記錄得到的數(shù)據(jù)。針對外源型數(shù)據(jù)，在數(shù)據(jù)采集模塊設(shè)計之時即對信息提供者所提供的立法信息的程序合法性、內(nèi)容真實性、無侵權(quán)性等予以審核，如設(shè)計雙份信息提交制度，即某信息提供者應(yīng)由雙人分別提交，核驗信息的內(nèi)容真實性等。針對內(nèi)部數(shù)據(jù)，立法部門在數(shù)據(jù)采集過程中除遵守信息來源程序合法性、內(nèi)容真實性、無侵權(quán)性等倫理義務(wù)外，還應(yīng)著重注意“公正”“平等”等基本原則性倫理規(guī)范。在模塊開發(fā)之時，應(yīng)該硬性設(shè)計多渠道、多維度的獲取數(shù)據(jù)，讓不同身份主體的立法建議、民意等數(shù)據(jù)能夠進入數(shù)據(jù)采集模塊，確保立法的內(nèi)容沒有歧視和偏見。如在立法征求意見時可從網(wǎng)絡(luò)輿情和實際觀測兩個角度分別采集立法過程中所需要的數(shù)據(jù)，并進行審核和清洗以剔除質(zhì)量低、真實性差的劣質(zhì)數(shù)據(jù)。此外，數(shù)據(jù)采集模塊的設(shè)計開發(fā)還應(yīng)當(dāng)嵌入相關(guān)法律規(guī)范和技術(shù)標準，如數(shù)據(jù)采集應(yīng)符合《信息安全技術(shù)個人信息安全規(guī)范》等技術(shù)標準。

(二)數(shù)據(jù)挖掘模塊

數(shù)據(jù)挖掘模塊的主要功能是對前述數(shù)據(jù)采集模塊獲取的大數(shù)據(jù)予以分析，挖掘出其中的隱藏信息。目前，數(shù)據(jù)挖掘的主要方法包括分類、估計、預(yù)測、聚類、相關(guān)性分組和關(guān)聯(lián)規(guī)則挖掘等。通過使用上述方法對已有數(shù)據(jù)進行計算和處理，使原本看來毫不相關(guān)的兩組數(shù)據(jù)呈現(xiàn)出一種關(guān)聯(lián)規(guī)則，或者一系列雜亂的數(shù)據(jù)可能呈現(xiàn)出一些走勢規(guī)律。

數(shù)據(jù)挖掘分析是信息處理者的主要業(yè)務(wù)范圍，也是整個業(yè)務(wù)流程最為核心的環(huán)節(jié)。具言之，數(shù)據(jù)挖掘即通過數(shù)據(jù)挖掘技術(shù)，使地方立法者對立法環(huán)境或社會背景有更清晰更深刻的認識，從而有機會在立法過程或法律文本中體現(xiàn)出來。在數(shù)據(jù)挖掘、分析的過程中，信息處理者應(yīng)遵循其最基本的“善良處理”倫理義務(wù)。具體至模塊設(shè)計而言，一是信息處理者對數(shù)據(jù)的分類標簽應(yīng)公平、公正。為確保系統(tǒng)的分類、分組標準無暗含歧視風(fēng)險，規(guī)避信息處理者的自身社會偏見，該模塊的有關(guān)數(shù)據(jù)挖掘的分類標準等還應(yīng)當(dāng)予以公開。二是信息處理者不可以相關(guān)性替代因果關(guān)系。數(shù)據(jù)挖掘可讓某些立法數(shù)據(jù)的走勢規(guī)律清晰呈現(xiàn)，并提供未來的數(shù)據(jù)走勢預(yù)測，為立法者在制定法律時能夠做出一些前瞻性的考慮，但此舉僅可為立法者在后續(xù)評估、修法提供參考。三是信息處理者應(yīng)賦予個體數(shù)據(jù)(個人信息)“被遺忘權(quán)”[20]和“差別隱私”[21]對待。在數(shù)據(jù)挖掘模塊中，人工智能輔助地方立法平臺應(yīng)賦予數(shù)據(jù)主體以“被遺忘權(quán)”，單次立法結(jié)束后，數(shù)據(jù)主體對其發(fā)表的立法建議及被采集的個人信息等應(yīng)有權(quán)選擇刪除，這是對個人信息保護的慣用做法。對個人信息“差別隱私”，即信息處理者應(yīng)當(dāng)模糊化處理個體數(shù)據(jù)(個人信息)，隱藏確定個人與特定數(shù)據(jù)的關(guān)聯(lián)關(guān)系，從而保護公民的個人信息和隱私權(quán)。

(三)數(shù)據(jù)管理與存儲模塊

目前Hadoop云計算技術(shù)、大規(guī)模并行處理架構(gòu)新型數(shù)據(jù)庫集群等技術(shù)，實現(xiàn)海量數(shù)據(jù)的存儲，使得大數(shù)據(jù)作為人工智能輔助地方立法成為可能。人工智能輔助地方立法數(shù)據(jù)的存儲和管理是實現(xiàn)智慧立法的基礎(chǔ)。實踐中無論基礎(chǔ)設(shè)施提供者使用何種數(shù)據(jù)庫，如何設(shè)計數(shù)據(jù)庫，都應(yīng)遵從一個原則：數(shù)據(jù)安全和性能穩(wěn)定，此即基礎(chǔ)設(shè)施提供者“產(chǎn)品合格”倫理義務(wù)在數(shù)據(jù)存儲和管理模塊中具體體現(xiàn)。

具體至人工智能輔助地方立法平臺的設(shè)計，一是建立數(shù)據(jù)容錯機制?；A(chǔ)設(shè)施提供者在構(gòu)建數(shù)據(jù)存儲模塊時需采用多種應(yīng)對方案確保立法數(shù)據(jù)庫穩(wěn)定運行，如獨立硬盤冗余陣列(RAID10)、CPU冗余設(shè)計、雙機熱備份等容錯方案，確保地方立法數(shù)據(jù)庫服務(wù)器至少要實現(xiàn)99.99%的平均無故障運行時間；二是建立數(shù)據(jù)容災(zāi)機制。僅靠數(shù)據(jù)容錯機制也許尚不足以面對各種猝不及防的突發(fā)事故，基礎(chǔ)設(shè)施提供者還應(yīng)設(shè)計更多的容災(zāi)應(yīng)急預(yù)案保障人工智能輔助地方立法平臺符合產(chǎn)品質(zhì)量要求。以電力供應(yīng)為例，地方立法數(shù)據(jù)庫應(yīng)符合國家數(shù)據(jù)中心設(shè)計規(guī)范，如A級數(shù)據(jù)中心應(yīng)配備雙電源供電并設(shè)置獨立備用電源(UPS)⑦。此外，根據(jù)人工智能輔助地方立法平臺的需要，還可采用更高級的容災(zāi)策略，如可考慮在同一個立法效力范圍內(nèi)的不同地區(qū)或不同城市建立多個數(shù)據(jù)中心，相互連通、互相備份。

此外，在人工智能輔助地方立法系統(tǒng)的開發(fā)、部署過程中還需注意：首先應(yīng)將個人隱私和數(shù)據(jù)治理貫穿于系統(tǒng)的整個生命周期，在數(shù)據(jù)利用過程中確保數(shù)據(jù)的完整性，并記錄人工智能輔助地方立法平臺數(shù)據(jù)處理的全流程。立法行為在人工智能時代就是對數(shù)據(jù)的處理和利用過程，通過記錄立法數(shù)據(jù)的流轉(zhuǎn)、運算，實現(xiàn)立法行為可追溯。其次，人工智能輔助地方立法系統(tǒng)的開發(fā)、部署過程應(yīng)保持全程透明，確保系統(tǒng)中的數(shù)據(jù)標注，算法及其決策過程公開透明，結(jié)合數(shù)據(jù)可追溯性實現(xiàn)立法過程的可審計。最后，人工智能輔助地方立法系統(tǒng)的開發(fā)、部署過程中其核心業(yè)務(wù)應(yīng)采用可解釋的人工智能技術(shù)(Explainable AI)，避免采用關(guān)聯(lián)性數(shù)據(jù)和深度學(xué)習(xí)模型，結(jié)合數(shù)據(jù)、過程等追溯和審計，就立法結(jié)果實現(xiàn)對不同利益相關(guān)者不同之解釋，確保立法結(jié)果可解釋。

結(jié) 語

新時代地方立法如何做到合法性、科學(xué)性和民主性？人工智能輔助地方立法便是“人工智能+法律”融合形式在地方立法上的探索。不過，我們在享受人工智能輔助地方立法帶來的技術(shù)紅利同時，也需要對其可能帶來的風(fēng)險和挑戰(zhàn)予以應(yīng)對。

在治理人工智能的法律制度尚未出臺并發(fā)揮作用之前，通常需要借助倫理道德規(guī)范的基礎(chǔ)力量來規(guī)制和引導(dǎo)人工智能發(fā)展。而當(dāng)前的現(xiàn)狀是，我們在倫理道德層面提出的倫理規(guī)范往往停留于宏觀的倫理原則層面，該倫理層面的“文本規(guī)范”或“紙上義務(wù)”如何真正有效地轉(zhuǎn)化為“人工智能+”領(lǐng)域的風(fēng)險治理實踐，則仍需要我們繼續(xù)探索和努力。因此，在人工智能輔助地方立法的風(fēng)險治理中，我們?nèi)詧猿忠l(fā)揮倫理規(guī)范的基礎(chǔ)性作用，但較之以往“善良”“正義”“人本”等倫理原則的規(guī)制作用，我們在此基礎(chǔ)上提出要構(gòu)建不完全等同于宏觀倫理原則的人工智能倫理框架，在既追求共性又強調(diào)個性中設(shè)定人工智能輔助地方立法的基礎(chǔ)設(shè)施提供者、信息提供者、信息處理者、系統(tǒng)協(xié)調(diào)者相對具體明確且可供執(zhí)行和便于落地的倫理義務(wù)，并將其嵌入到人工智能輔助地方立法平臺建設(shè)的關(guān)鍵環(huán)節(jié)，確保人工智能輔助地方立法平臺可追溯、可審計、可解釋，最終達到人工智能輔助地方立法風(fēng)險治理的目的。當(dāng)然，隨著法治進程的加速，有關(guān)“人工智能+”領(lǐng)域的治理問題最終要走上法治的軌道，實現(xiàn)人工智能的依法治理。

注 釋：

①2014年，天津市人大常委會法制工作委員會開始使用北大法寶智能立法支持平臺；2014年，南京郵電大學(xué)、北京大學(xué)法學(xué)院、清華大學(xué)信息科學(xué)技術(shù)國家實驗室、中國政法大學(xué)企業(yè)法務(wù)管理研究中心等多家機構(gòu)聯(lián)合成立“中國法律大數(shù)據(jù)聯(lián)盟”；2018年，上海政府立法信息平臺投入使用；2018年，浙江省人民政府聯(lián)合浙江大學(xué)成立浙江省立法研究院探索打造“智能立法”。

②關(guān)于個人信息處理的規(guī)制，目前并無明確的法律依據(jù)，學(xué)術(shù)界一般認為公權(quán)力對個人信息使用應(yīng)遵循合目的性原則，即對個人信息的利用不應(yīng)超過個人信息收集處理目的。(參見趙宏：《從信息公開到信息保護：公法上信息權(quán)保護研究的風(fēng)向流轉(zhuǎn)與核心問題》，《比較法研究》2017年第02期。)

③《甘肅省地方立法條例》第三十一條、第三十二條。

④科林格里奇困境是1980年由英國學(xué)者科林格里奇提出，是指新技術(shù)在發(fā)展初期應(yīng)予以充分規(guī)制，避免日后發(fā)展無法控制。(參見陳凡、賈璐萌：《技術(shù)控制困境的倫理分析——解決科林格里奇困境的倫理進路》，《大連理工大學(xué)學(xué)報》(社會科學(xué)版)2016年第1期。)

⑤如歐洲機器人研究網(wǎng)絡(luò)發(fā)布《機器人倫理學(xué)路線圖》，韓國工商能源部發(fā)布《機器人倫理憲章》，日本起草了《下一代機器人安全問題指引方針》，美國設(shè)立專項基金對“機器人倫理學(xué)”進行研究，(參見騰訊研究院：《全球人工智能政策及對我國的啟示》，2017年1月發(fā)布。)

⑥2019年，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》明確了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理等八條原則，加強人工智能法律、倫理、社會問題研究，積極推動人工智能全球治理。(參見《發(fā)展負責(zé)任的人工智能：我國新一代人工智能治理原則發(fā)布》http：//www.most.gov.cn/kjbgz/201906/t20190617_147107.htm.2020年6月17日最后訪問。)

⑦《數(shù)據(jù)中心設(shè)計規(guī)范GB50174-2017》第8.1.12條。