□陳筱貞

2021年全球人工智能秩序治理加速推進(jìn)，一是在人工智能整體立法與場(chǎng)景類型化立法方面均有成效，二是立法基本完成對(duì)信息、數(shù)據(jù)的保護(hù)，開(kāi)始進(jìn)入人工智能算法核心區(qū)。2021年4月歐盟公布《歐盟人工智能法案(草案)》，6月美國(guó)參議院通過(guò)《美國(guó)創(chuàng)新與競(jìng)爭(zhēng)法案》,成為全球人工智能治理的重要成果。同時(shí)場(chǎng)景立法迅速推進(jìn)，5月德國(guó)聯(lián)邦委員會(huì)通過(guò)《自動(dòng)駕駛法》、8月英國(guó)針對(duì)自動(dòng)駕駛修訂《公路法》，人臉識(shí)別禁用行動(dòng)在世界多國(guó)獲立法支持……我國(guó)在個(gè)人信息與數(shù)據(jù)安全保護(hù)立法密集頒布后，算法作為重要環(huán)節(jié)開(kāi)始被納入各種層級(jí)立法的具體條款，以回應(yīng)大數(shù)據(jù)殺熟、算法歧視、信息繭房、智能駕駛問(wèn)責(zé)等一系列新發(fā)難題。但法律規(guī)則仍零散不成體系，整體架構(gòu)和立法路線并未清晰。我國(guó)專家學(xué)者在算法治理環(huán)節(jié)、算法評(píng)估機(jī)制構(gòu)建有較深入的探索，在場(chǎng)景化規(guī)制趨勢(shì)方面也形成了共識(shí)，但如何將這些成果納入一個(gè)完整立法系統(tǒng)，如何架構(gòu)彼此之間的邏輯關(guān)系，是立法需要回答的宏觀問(wèn)題，也是立法的總領(lǐng)和開(kāi)局。盡管在相關(guān)零散立法頒行后，才追溯這個(gè)起點(diǎn)問(wèn)題，但對(duì)中國(guó)算法法律體系架構(gòu)的構(gòu)建，這是第一邏輯。

一、人工智能算法崛起的兩極

人工智能興起于電子商務(wù)與智慧城市兩個(gè)場(chǎng)域，世界各國(guó)算法實(shí)踐與研究均落地于電子商務(wù)的有序繁榮與城市管理的高效與正義。以技術(shù)催生業(yè)態(tài)的繁榮生長(zhǎng)，以大數(shù)據(jù)帶動(dòng)算法演進(jìn)，電子商務(wù)與智慧城市成為算法崛起的兩極。算法在商務(wù)與政務(wù)兩個(gè)標(biāo)志性領(lǐng)域不斷推廣與交互融合，使得法律規(guī)制面臨新的邏輯與問(wèn)題。

(一)電子商務(wù)。我國(guó)在人工智能商業(yè)布局方面走在世界前列，人工智能高速發(fā)展以率先實(shí)現(xiàn)商業(yè)運(yùn)用為引領(lǐng)，算法實(shí)際上承擔(dān)了網(wǎng)絡(luò)空間的日常治理。根據(jù)商務(wù)部電子商務(wù)和信息化司《2020年網(wǎng)絡(luò)零售市場(chǎng)發(fā)展報(bào)告》，2020年全國(guó)網(wǎng)上零售額11.76萬(wàn)億元，比上年增長(zhǎng)10.9%。2021年國(guó)家統(tǒng)計(jì)局?jǐn)?shù)據(jù)顯示，一季度全國(guó)網(wǎng)上零售額達(dá)2.81萬(wàn)億元，同比增長(zhǎng)29.9%。同時(shí)同城零售、社區(qū)團(tuán)購(gòu)、生鮮到家、新零售門店等數(shù)字化模式，共同推動(dòng)電商加速滲透。大規(guī)模運(yùn)維所需的人工智能將被集成到業(yè)務(wù)運(yùn)營(yíng)的幾乎每個(gè)領(lǐng)域。主要體現(xiàn)在推薦引擎、智能分揀、趨勢(shì)預(yù)測(cè)、智能客服等環(huán)節(jié)，其中算法模型與決策應(yīng)用滲透商業(yè)利益邏輯，消費(fèi)者弱勢(shì)端的權(quán)益遭遇顯性與隱性的剝奪，難實(shí)現(xiàn)救濟(jì)。從貿(mào)易活動(dòng)角度分析，電子商務(wù)可以在多個(gè)環(huán)節(jié)實(shí)現(xiàn)，包括電子商情、電子貿(mào)易、電子合同等，信息流、商流、資金流和部分物流可通過(guò)平臺(tái)算法運(yùn)行完整地實(shí)現(xiàn)。除了買家、賣家外，還有銀行金融機(jī)構(gòu)、政府機(jī)構(gòu)、認(rèn)證機(jī)構(gòu)、配送中心等機(jī)構(gòu)的加入，由于參與電子商務(wù)中的各方在物理環(huán)境上互不謀面，自動(dòng)化算法的安全可信成為關(guān)鍵。

(二)智慧城市。在數(shù)智經(jīng)濟(jì)發(fā)展戰(zhàn)略中，智慧城市成為經(jīng)濟(jì)轉(zhuǎn)型、產(chǎn)業(yè)升級(jí)、民眾幸福感提升、城市可持續(xù)發(fā)展的新引擎。根據(jù)前瞻產(chǎn)業(yè)研究院《2020年中國(guó)智慧城市發(fā)展研究報(bào)告》，我國(guó)推進(jìn)智慧城市建設(shè)以來(lái)，住建部發(fā)布三批智慧城市試點(diǎn)名單，合計(jì)計(jì)算科技部、工信部、國(guó)家測(cè)繪地理信息局、發(fā)改委所確定的智慧城市相關(guān)試點(diǎn)數(shù)量，我國(guó)智慧城市試點(diǎn)數(shù)量累計(jì)已達(dá)749個(gè)。智慧城市是城市數(shù)字化、信息化之后的高級(jí)階段，是中國(guó)城市發(fā)展轉(zhuǎn)型的主要方向。智慧城市通過(guò)多維感知、全局洞察、實(shí)時(shí)決策、持續(xù)進(jìn)化等方式，幫助城市運(yùn)行管理者在復(fù)雜局面下快速作出更優(yōu)決定，人工智能算法成為智慧城市強(qiáng)大信息處理能力的支撐。智慧城市日益龐大的“算法權(quán)力”，引發(fā)公共管理和國(guó)家安全風(fēng)險(xiǎn)隱患，備受各界關(guān)注。算法治理的多米諾骨牌效應(yīng)接踵而至：從個(gè)人信息到數(shù)據(jù)安全，從算法評(píng)估到算法問(wèn)責(zé)，從國(guó)家立法到地方規(guī)制和行業(yè)自治，學(xué)術(shù)探討與立法實(shí)證都在力圖勾勒出算法法律體系的應(yīng)然輪廓和應(yīng)有邏輯。

二、中國(guó)算法立法直面的重點(diǎn)問(wèn)題

人工智能發(fā)展的三大支柱包括技術(shù)研發(fā)、應(yīng)用推廣與秩序法治。技術(shù)和應(yīng)用提速后，虛擬數(shù)字孿生世界與現(xiàn)行經(jīng)濟(jì)社會(huì)治理模式、法律架構(gòu)規(guī)則互動(dòng)共生出透明、公平、正義、秩序等一系列新的挑戰(zhàn)。聚焦人工智能大規(guī)模應(yīng)用的電子商務(wù)與智慧城市兩大領(lǐng)域，我國(guó)算法立法需要解決以下焦點(diǎn)問(wèn)題。

(一)算法治理政商分離抑或合一？算法是否存在商用與民政的分水嶺？考量的三個(gè)維度：一是數(shù)據(jù)來(lái)源與權(quán)屬；二是算法模型與邏輯；三是算法運(yùn)營(yíng)與應(yīng)用領(lǐng)域。算法生態(tài)鏈包括信息數(shù)據(jù)、算法公式、應(yīng)用投放三個(gè)主要環(huán)節(jié)，如果三個(gè)環(huán)節(jié)均存在商用與民政的明顯區(qū)分，則考慮遵循各自的特殊價(jià)值與邏輯分離治理，反之則采合一模式。

首先，電子商務(wù)與智慧城市都是縱橫交織相互作用的系統(tǒng)，參與主體包括政府、企業(yè)和個(gè)人，在信息化與城市化的高度融合的特質(zhì)下，信息、數(shù)據(jù)與應(yīng)用泛在互聯(lián)。數(shù)據(jù)來(lái)源雖可溯源，但我國(guó)強(qiáng)調(diào)操作性規(guī)制，經(jīng)合法采集和同意協(xié)議，脫敏后的數(shù)據(jù)進(jìn)入數(shù)據(jù)池與云平臺(tái)，在開(kāi)放共享與自由流動(dòng)的環(huán)境下，商用與民政屬性不斷轉(zhuǎn)換會(huì)導(dǎo)致同質(zhì)。其次，算法模型與邏輯基于特定算法目標(biāo)和價(jià)值倫理，商用與民政確有較大不同，但對(duì)于通用算法，如遞推算法、分治算法、動(dòng)態(tài)規(guī)劃、貪心算法、回溯法等不同領(lǐng)域均可適用。最后，實(shí)證觀察科技運(yùn)營(yíng)公司正通過(guò)戰(zhàn)略合作為智慧城市提供著全方位的運(yùn)營(yíng)(如IBM與深圳、昆明、寧波等城市簽訂戰(zhàn)略合作協(xié)議)，或者成立“城市大腦有限公司”(如杭州)由市國(guó)有企業(yè)控股，社會(huì)企業(yè)和研發(fā)團(tuán)隊(duì)參股，面向市場(chǎng)公司化運(yùn)營(yíng)。平臺(tái)出于商業(yè)利益，積極地通過(guò)各種方式協(xié)助政府的大規(guī)模數(shù)據(jù)收集與處理，通過(guò)法律授權(quán)、后門、買賣、外包甚至數(shù)據(jù)交易等方式，使得算法與數(shù)據(jù)在公私主體之間自由流動(dòng)，公私界限日益模糊。于是商業(yè)領(lǐng)域與公共部門的權(quán)力很難簡(jiǎn)單二元?jiǎng)澐?，由算法引起的公私二元界限模糊使得算法治理更適宜選擇以平臺(tái)為核心的政商合一為主導(dǎo)的模式。

(二)算法生態(tài)三要素規(guī)制不可缺一。信息、數(shù)據(jù)與算法是人工智能算法生態(tài)中的三要素，數(shù)據(jù)是算法的原材料，數(shù)據(jù)的價(jià)值在于其中蘊(yùn)含的信息，算法對(duì)兩者進(jìn)行分析、處理，并經(jīng)決策系統(tǒng)導(dǎo)出應(yīng)用。我國(guó)人工智能相關(guān)立法進(jìn)程，從網(wǎng)絡(luò)與平臺(tái)，到信息和數(shù)據(jù)資源，立法均已基本完成，現(xiàn)開(kāi)始探索人工智能運(yùn)行邏輯的核心區(qū)“算法”的法律建構(gòu)。我國(guó)《網(wǎng)絡(luò)安全法》(2017)、《電子商務(wù)法》(2019)、《網(wǎng)絡(luò)交易監(jiān)督管理辦法》(2021)在網(wǎng)絡(luò)運(yùn)營(yíng)環(huán)境方面有較好的規(guī)制和維護(hù)；在信息數(shù)據(jù)標(biāo)準(zhǔn)化方面有《信息安全技術(shù)個(gè)人信息安全規(guī)范(2020版)》《大數(shù)據(jù)標(biāo)準(zhǔn)化白皮書(2020版)》《人工智能安全標(biāo)準(zhǔn)化白皮書(2021版)》。同時(shí)基本形成了個(gè)人信息保護(hù)、數(shù)據(jù)保護(hù)的立法，《個(gè)人信息保護(hù)法》和《數(shù)據(jù)安全法》均已發(fā)布，《個(gè)人信息保護(hù)法》第24條、第55條、第73條針對(duì)自動(dòng)化決策的定義、透明度、算法解釋、算法推送、算法評(píng)估做了初步規(guī)定，為算法體系化規(guī)范做了鋪墊。但算法的系統(tǒng)化法律規(guī)制仍處于滯后狀態(tài)。對(duì)信息、數(shù)據(jù)的保護(hù)并不能解決自動(dòng)化算法的價(jià)值嵌入與模型設(shè)計(jì)等向善問(wèn)題，最終通過(guò)算法輸出的應(yīng)用結(jié)果還是面臨失控風(fēng)險(xiǎn)。

(三)權(quán)利空窗與算法責(zé)任悖論。算法是一系列解決問(wèn)題的清晰指令，代表著用系統(tǒng)的方法描述解決問(wèn)題的策略機(jī)制。對(duì)算法的法律性質(zhì)，我們持產(chǎn)品抑或行為規(guī)則立場(chǎng)，在法律非賦格算法時(shí)代，算法并非法律主體，就無(wú)算法權(quán)利可言，嚴(yán)謹(jǐn)意義上應(yīng)該是“算法上的權(quán)利”，或“基于算法的權(quán)利”。在“算法可責(zé)”的現(xiàn)實(shí)呼聲與立法探討中，無(wú)論“算法權(quán)利”，還是“基于算法的權(quán)利”，都面臨于法無(wú)據(jù)的風(fēng)險(xiǎn)。算法責(zé)任在權(quán)利和義務(wù)并未經(jīng)立法構(gòu)造好的情形下，先行醞釀，這種實(shí)用主義路徑有悖傳統(tǒng)法律邏輯，卻在大數(shù)據(jù)時(shí)代和智能時(shí)代越來(lái)越被追隨，類同于個(gè)人信息和數(shù)據(jù)的保護(hù)立法?；蛟S中國(guó)不會(huì)法定信息權(quán)或數(shù)據(jù)權(quán)的類型，但侵害責(zé)任已清晰立法并成體系。算法應(yīng)走上先規(guī)制責(zé)任，再建構(gòu)權(quán)利的路線，這是法理邏輯與法律功能對(duì)抗后的有效選擇，也是法律工具于科技發(fā)展、國(guó)家利益的一種時(shí)代實(shí)證。算法環(huán)境中若有權(quán)利設(shè)計(jì)，應(yīng)包括：知情權(quán)、選擇權(quán)、解釋權(quán)、參與權(quán)、異議權(quán)、求償權(quán)。

(四)過(guò)程主義與結(jié)果主義。算法規(guī)制的策略可劃分為兩大類：一是基于結(jié)果主義的事后問(wèn)責(zé)；二是強(qiáng)調(diào)過(guò)程控制的事前規(guī)制。結(jié)果主義認(rèn)為，從應(yīng)用結(jié)果問(wèn)責(zé)倒逼算法過(guò)程自覺(jué)正當(dāng)，可以規(guī)避算法透明和算法解釋的復(fù)雜技術(shù)，避開(kāi)過(guò)程規(guī)制的高成本。過(guò)程主義認(rèn)為，算法在互聯(lián)網(wǎng)環(huán)境里瞬間、大規(guī)模與不可逆，沒(méi)有事前監(jiān)管可能會(huì)有難以挽回的損失，僅事后問(wèn)責(zé)不足以實(shí)現(xiàn)算法的安全與救濟(jì)。況且算法權(quán)利還處于立法空窗期，問(wèn)責(zé)程序的起點(diǎn)還未有立法明確，包括權(quán)利人適格、具體權(quán)利內(nèi)容等，加上算法侵害不易被感知，因果關(guān)系辨析也更為復(fù)雜。同樣的規(guī)制目標(biāo)，采行政部門與行業(yè)管理在算法過(guò)程監(jiān)管更為實(shí)效。2021年3月中國(guó)人民銀行發(fā)布了《人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范》，其中第6部分“安全性評(píng)價(jià)”對(duì)算法的依賴庫(kù)、可追溯性、內(nèi)控機(jī)制提出具體和描述性的標(biāo)準(zhǔn)和要求。第7部分“可解釋性評(píng)價(jià)”，涵蓋建模準(zhǔn)備、建模過(guò)程和建模應(yīng)用。通過(guò)標(biāo)準(zhǔn)化規(guī)范構(gòu)建，使針對(duì)算法“黑箱”的立法在一定程度上成為可能。同時(shí)，事后問(wèn)責(zé)行政規(guī)制的嘗試也正在開(kāi)啟。2021年7月國(guó)家市場(chǎng)監(jiān)管總局發(fā)布《價(jià)格違法行為行政處罰規(guī)定(修訂征求意見(jiàn)稿)》，其中針對(duì)廣受關(guān)注的“大數(shù)據(jù)殺熟”，規(guī)定在沒(méi)收違法所得基礎(chǔ)上，可并處上一年度銷售額最高5‰罰款。過(guò)程主義與結(jié)果主義結(jié)合，對(duì)于算法立法更為安全有效，從局部行業(yè)示范到推廣，需要漸進(jìn)探索。從行政問(wèn)責(zé)到民事問(wèn)責(zé)的完善，也必走賦權(quán)之路。

(五)超越國(guó)際立法經(jīng)驗(yàn)的中國(guó)邏輯。算法評(píng)估監(jiān)管和算法問(wèn)責(zé)在國(guó)際上已有歐盟、美國(guó)、加拿大、德國(guó)等國(guó)先行經(jīng)驗(yàn)，但各國(guó)對(duì)權(quán)利、安全和發(fā)展的博弈有所不同，算法戰(zhàn)略目標(biāo)存在差異。盡管聯(lián)合國(guó)、國(guó)際協(xié)會(huì)、國(guó)家聯(lián)盟及產(chǎn)業(yè)聯(lián)盟等層面均有人工智能規(guī)則陸續(xù)出臺(tái)，但數(shù)據(jù)全球化立法與數(shù)據(jù)本地化立法的對(duì)峙已然成型，新一輪立法管轄權(quán)沖突正悄然升級(jí)，算法技術(shù)化立法規(guī)制也同時(shí)打上國(guó)家利益的烙印。中國(guó)算法立法應(yīng)充分借鑒國(guó)際立法經(jīng)驗(yàn)，實(shí)現(xiàn)算法通行治理的有效性，同時(shí)要更符合人工智能在中國(guó)社會(huì)發(fā)展中的戰(zhàn)略目標(biāo)和應(yīng)用邊界，創(chuàng)立國(guó)家發(fā)展利益優(yōu)位的法律體系與規(guī)則。

三、中國(guó)算法法律體系的建構(gòu)與邏輯

(一)數(shù)字孿生觀下的規(guī)則創(chuàng)新。當(dāng)前數(shù)智中國(guó)建設(shè)已步入“數(shù)字孿生時(shí)代”，數(shù)字空間正在通過(guò)物理模型、傳感器更新、運(yùn)行歷史等數(shù)據(jù)，實(shí)現(xiàn)對(duì)現(xiàn)實(shí)空間的復(fù)制、互動(dòng)和超越。美國(guó)學(xué)者勞倫斯·萊斯格認(rèn)為，網(wǎng)絡(luò)空間和物理空間一樣，都存在著四種力量，分別是法律、市場(chǎng)、社群規(guī)范和架構(gòu)[1]。市場(chǎng)與社群的自動(dòng)調(diào)整效應(yīng)會(huì)投射于算法的主體自覺(jué)，而架構(gòu)和法律需要我們探索設(shè)計(jì)。算法作為虛擬世界人工智能運(yùn)行的核心規(guī)則，要將現(xiàn)實(shí)社會(huì)法律原則和規(guī)則嵌入其模型和邏輯，實(shí)現(xiàn)“法律即代碼”的規(guī)訓(xùn)。同時(shí)兼容算法運(yùn)行與決策的技術(shù)特性，創(chuàng)設(shè)新規(guī)則。

1.算法法律關(guān)系新解構(gòu)。弱人工智能算法非主體人格階段，算法是一種策略機(jī)制，應(yīng)界定為應(yīng)用中的工具屬性，于此展開(kāi)法律關(guān)系結(jié)構(gòu)分析。算法從設(shè)計(jì)到應(yīng)用再到執(zhí)行的整個(gè)流程涉及眾多的主體，包括算法設(shè)計(jì)者、算法應(yīng)用者、用戶、監(jiān)管者以及受直接或間接影響的第三人，這些主體基于算法這一連接點(diǎn)建立的社會(huì)關(guān)系可以被稱作算法法律關(guān)系?；谒惴ㄗ詣?dòng)化決策主體的復(fù)雜性、效應(yīng)的長(zhǎng)期性，以及參與因素的多樣性，有必要將“負(fù)責(zé)任”的算法制度目標(biāo)置于一個(gè)覆蓋算法自動(dòng)化生命周期的框架內(nèi)。即從設(shè)計(jì)、部署、運(yùn)行到結(jié)果應(yīng)用的整個(gè)算法自動(dòng)化決策流程中，對(duì)相關(guān)責(zé)任主體的權(quán)利與義務(wù)均予以一定的法律控制。針對(duì)數(shù)智化戰(zhàn)略下迅速搭建的各種應(yīng)用場(chǎng)景，構(gòu)建的各種新型關(guān)系，行業(yè)立法和地方立法正嘗試從行政責(zé)任和刑事責(zé)任設(shè)立規(guī)制，而民事關(guān)系的梳理還未統(tǒng)一。如《電子商務(wù)法》《人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范》《價(jià)格違法行為行政處罰規(guī)定(修訂征求意見(jiàn)稿)》《道路交通安全法(修訂建議稿)》等行業(yè)立法；《杭州城市大腦賦能城市治理促進(jìn)條例》《浙江省平臺(tái)企業(yè)競(jìng)爭(zhēng)合規(guī)指引》《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例(草案)》等地方立法，均有算法行政責(zé)任規(guī)范或刑事責(zé)任提及。接下來(lái)我們需要側(cè)重商榷算法民事法律關(guān)系，包括主體適格和權(quán)義內(nèi)容，具體涉及設(shè)計(jì)方、運(yùn)用方(與否運(yùn)用方連帶責(zé)任)、用戶(合同關(guān)系、侵權(quán)關(guān)系或消費(fèi)關(guān)系)。只有直面法律關(guān)系，算法責(zé)任才得以系統(tǒng)化合理建立。

2.算法責(zé)任新樣態(tài)?？档略谕苿?dòng)邏輯學(xué)從傳統(tǒng)形式邏輯走向現(xiàn)代辯證邏輯的過(guò)程中，提出樣態(tài)觀包括可能與不可能、存在與不存在、必然與偶然等三組邏輯判斷。算法是一種人機(jī)交互場(chǎng)景下決策的新形態(tài)。在算法技術(shù)下，人類可以通過(guò)代碼設(shè)置、數(shù)據(jù)運(yùn)算與機(jī)器自動(dòng)化判斷進(jìn)行決策，這個(gè)過(guò)程人機(jī)共同參與，既有人的決策又有機(jī)器的自動(dòng)化決斷，算法責(zé)任會(huì)出現(xiàn)超越人們已有認(rèn)知的樣態(tài)。

(1)“黑箱”化的算法傷害。算法“黑箱”是輸入和輸出之間的運(yùn)算過(guò)程不透明的一種隱喻空間。以普遍使用葉貝斯算法為例，用若干給定的點(diǎn)連線組成圖形，從而表示事件之間的因果推導(dǎo)關(guān)系。該算法規(guī)范運(yùn)用商業(yè)活動(dòng)和醫(yī)療診斷系統(tǒng)，消費(fèi)者和患者可能無(wú)從知曉指令的運(yùn)算過(guò)程，無(wú)法得知結(jié)果的正當(dāng)性但在特定情勢(shì)下又別無(wú)選擇[2]。不可信算法應(yīng)用風(fēng)險(xiǎn)責(zé)任如何分配目前并未形成共識(shí)，但算法歧視、價(jià)格殺熟、信息繭房等傷害成立已獲確認(rèn)并陸續(xù)納入法律調(diào)控。對(duì)算法應(yīng)用致害，目前可以納入產(chǎn)品和服務(wù)責(zé)任范疇，例如自動(dòng)駕駛汽車責(zé)任、金融智能投顧責(zé)任等。算法透明制度在逐步建立，“黑箱”不可知并不能切斷因果關(guān)系而免責(zé)。

(2)平臺(tái)責(zé)任的政商分離。平臺(tái)是算法的使用者與控制者，各國(guó)都加強(qiáng)了算法造成危害結(jié)果后對(duì)平臺(tái)的問(wèn)責(zé)，“西班牙谷歌案”等一系列司法判例，以及一些行政處罰案都表明了平臺(tái)算法還有從設(shè)計(jì)階段問(wèn)責(zé)的傾向，它有義務(wù)減輕算法可能帶來(lái)的任何負(fù)面影響或者潛在危害。平臺(tái)責(zé)任應(yīng)區(qū)分設(shè)計(jì)者責(zé)任、運(yùn)營(yíng)者責(zé)任與應(yīng)用者責(zé)任。在算法治理政商統(tǒng)一的模式下，智慧城市平臺(tái)責(zé)任最具代表性。智慧城市行政管理者與技術(shù)服務(wù)商職責(zé)和身份不同，在法律責(zé)任上的適格與承擔(dān)也必然不同。我國(guó)智慧城市運(yùn)行于城市大腦平臺(tái)，運(yùn)行模式可以是政府與企業(yè)合股，也可以是政府向企業(yè)外包，還可能作為駕駛艙或項(xiàng)目在總包下進(jìn)行分包。那么算法責(zé)任該如何安排？如果政商責(zé)任合一，從行政管理法律關(guān)系上比較容易確定，政府一方先對(duì)外承擔(dān)責(zé)任，然后再向科技企業(yè)追償。但追償是一個(gè)結(jié)果叵測(cè)的事情，掌握海量數(shù)據(jù)、上下游信息以及核心技術(shù)的科技企業(yè)，已在數(shù)據(jù)信息戰(zhàn)略資源上占據(jù)絕對(duì)優(yōu)勢(shì)，如果法律責(zé)任居次，不利于警戒企業(yè)自律，極大可能滋長(zhǎng)信息、數(shù)據(jù)、算法安全事件或事故，且后果不可逆轉(zhuǎn)。所以，建議算法責(zé)任政商分離，在協(xié)議約定基礎(chǔ)上，立法強(qiáng)化各自職責(zé)和業(yè)務(wù)規(guī)則，在問(wèn)責(zé)流程及責(zé)任安排上各負(fù)其責(zé)，不選擇連帶方案。

根據(jù)算法在政務(wù)平臺(tái)的功能，責(zé)任主體的確定可分為以下幾種情況：一是在算法輔助政府決策場(chǎng)景中，行為最終由代表政府意志的主體作出，承擔(dān)責(zé)任的主體是政府機(jī)關(guān)，而非算法技術(shù)。二是在算法自主決策場(chǎng)景中，因算法錯(cuò)誤導(dǎo)致決策侵害了行政相對(duì)人的合法權(quán)益，應(yīng)當(dāng)承擔(dān)責(zé)任的是算法設(shè)計(jì)企業(yè)，技術(shù)價(jià)值中立在此不能成為抗辯的理由。三是因算法設(shè)計(jì)違背價(jià)值倫理或運(yùn)維違反技術(shù)操作規(guī)程，導(dǎo)致算法錯(cuò)誤，政府機(jī)關(guān)可以要求算法設(shè)計(jì)者或運(yùn)維者承擔(dān)責(zé)任。四是平臺(tái)企業(yè)因行政機(jī)關(guān)授權(quán)具有公共事務(wù)職能濫用行政權(quán)力而濫用市場(chǎng)支配地位的，應(yīng)承擔(dān)法律責(zé)任。平臺(tái)責(zé)任方式包括停止使用有技術(shù)瑕疵的算法，賠償對(duì)人身、財(cái)產(chǎn)造成的損害，恢復(fù)名譽(yù)并消除不良影響等。

(3)算法透明并非責(zé)任豁免。辨析算法責(zé)任的因果關(guān)系很大程度上回溯于算法透明中的算法解釋與算法評(píng)價(jià)備案。無(wú)論是歐盟GDPR的算法專條還是美國(guó)的《算法問(wèn)責(zé)法案》，其中的算法透明度、可見(jiàn)性、評(píng)估、認(rèn)證等制度均充分體現(xiàn)了算法風(fēng)險(xiǎn)預(yù)防型流程監(jiān)管的加強(qiáng)趨勢(shì)。如果算法履行了透明義務(wù)，是否可以豁免算法責(zé)任？過(guò)程正義是否就能實(shí)現(xiàn)結(jié)果正義？由于算法是批量、大規(guī)模、系統(tǒng)性的決策，效果會(huì)放大，自動(dòng)化數(shù)據(jù)軌跡的原始記賬性不可更改導(dǎo)致影響難以撤回，所以算法將監(jiān)管和審查的對(duì)象從具體信息前移至算法的開(kāi)發(fā)與部署，是實(shí)現(xiàn)算法結(jié)果正義的程序性保障。由于算法可能發(fā)生的實(shí)時(shí)變化，以及算法運(yùn)行的有關(guān)因素并非都可控，算法透明并不一定完全能實(shí)現(xiàn)結(jié)果正義。我國(guó)算法評(píng)估和審計(jì)制度在構(gòu)建和推廣進(jìn)程中，如果算法透明義務(wù)的履行可以豁免結(jié)果責(zé)任，那么是用透明度的制度設(shè)計(jì)博弈算法技術(shù)的精深和嬗變，這并非法律能夠勝任，也不是法律本義。如果透明就可以免責(zé)，算法結(jié)果責(zé)任也會(huì)隨算法評(píng)估的普適而逐漸失去意義。算法透明并不能豁免算法責(zé)任，它是從前期可以過(guò)濾、減少算法傷害的法律程序和技術(shù)，盡管成本高卻效益深遠(yuǎn)，不能功利地繞開(kāi)或取締。完整的算法責(zé)任體系應(yīng)包括事前責(zé)任(倫理嵌入、透明與備案)、事中責(zé)任(運(yùn)維監(jiān)控、透明與備案)、事后責(zé)任(停止并賠償威脅或損害)。

(二)國(guó)家倫理立法下的地方立法規(guī)程化與場(chǎng)景規(guī)制行業(yè)化。

1.算法倫理國(guó)家立法。2017年7月國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》提出人工智能監(jiān)管制度構(gòu)建分三步走的部署，當(dāng)下應(yīng)進(jìn)入第二步階段，即建立人工智能法律規(guī)范、倫理規(guī)范和政策體系，形成對(duì)人工智能安全評(píng)估和管控的能力。人工智能核心算法既有歸一性又有差異性和成長(zhǎng)變化性，國(guó)家立法作出算法倫理頂層設(shè)計(jì)，能促使利益共同體根據(jù)需要形成一系列的立法原則和規(guī)范體系。立法倫理為算法確立基本的編程規(guī)則和價(jià)值優(yōu)先順序，使其符合法律內(nèi)在道德性的要求，宏觀調(diào)控公平正義等價(jià)值目標(biāo)的實(shí)現(xiàn)。倫理具體可分為社會(huì)倫理、行業(yè)倫理、區(qū)域倫理。2019年科技部發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，強(qiáng)調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理等八條原則。確立人工智能產(chǎn)業(yè)多元主體協(xié)調(diào)共治的治理機(jī)制，劃定行為底線，有效地從上位法預(yù)防風(fēng)險(xiǎn)。隨著人工智能算法性能不斷提升，算法倫理可持續(xù)調(diào)整完善，或上升為效力更高的法律形式，以適應(yīng)人工智能算法普適背景下人類主控社會(huì)秩序的持續(xù)需要。

2.算法地方立法規(guī)程化?；谌斯ぶ悄墚a(chǎn)業(yè)促進(jìn)政策各地有所不同，算法立法由地方落地完成，能細(xì)化國(guó)家倫理立法的要求和流程。省市級(jí)地方立法可以在法律授權(quán)下根據(jù)當(dāng)?shù)刂攸c(diǎn)領(lǐng)域和產(chǎn)業(yè)進(jìn)程擬定規(guī)則，如2020年10月27日通過(guò)的《杭州城市大腦賦能城市治理促進(jìn)條例》、2021年8月24日發(fā)布的《浙江省平臺(tái)企業(yè)競(jìng)爭(zhēng)合規(guī)指引》、2021年7月14日發(fā)布的《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例(草案)》。地方立法能本土化實(shí)現(xiàn)具體規(guī)范，有效落實(shí)執(zhí)行，包括政府監(jiān)管職能與治理機(jī)制、分級(jí)監(jiān)管與分類規(guī)制、行業(yè)自律與企業(yè)自治、禁止行為與社會(huì)監(jiān)督、風(fēng)險(xiǎn)評(píng)估與追溯機(jī)制等方面。如《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例(草案)》第68條規(guī)定了市人民政府設(shè)立人工智能倫理委員會(huì)，并規(guī)范了其對(duì)算法歧視、智能濫用等重點(diǎn)領(lǐng)域開(kāi)展監(jiān)測(cè)與研判等五方面職責(zé)。第71條規(guī)定了分級(jí)監(jiān)管，高風(fēng)險(xiǎn)的人工智能應(yīng)用采事前評(píng)估和風(fēng)險(xiǎn)預(yù)警的監(jiān)管模式；中低風(fēng)險(xiǎn)的人工智能應(yīng)用采事前披露和事后監(jiān)控的監(jiān)管模式。第72條規(guī)定了算法的分類規(guī)制，根據(jù)人工智能算法運(yùn)用涉及的不同領(lǐng)域進(jìn)行分類規(guī)制，對(duì)于公共決策領(lǐng)域以及涉及公共利益的商業(yè)領(lǐng)域，算法應(yīng)采取公眾可理解的方式進(jìn)行算法說(shuō)明。把算法規(guī)制作為人工智能發(fā)展的一個(gè)核心組成進(jìn)行規(guī)范，符合國(guó)際通行做法。我國(guó)目前地方立法發(fā)布草案的范例也還屈指可數(shù)，期待北京、上海、深圳、杭州等數(shù)智高地成為領(lǐng)跑者，以立法促進(jìn)算法有序發(fā)展，實(shí)現(xiàn)算法具象化的負(fù)責(zé)與可信。

3.算法場(chǎng)景規(guī)制行業(yè)化。對(duì)于人工智能與未來(lái)法治研究而言，專家共識(shí)應(yīng)當(dāng)準(zhǔn)確把握算法規(guī)制的場(chǎng)景化特征與原理，根據(jù)不同場(chǎng)景與情形對(duì)算法進(jìn)行規(guī)制，以實(shí)現(xiàn)可信賴與負(fù)責(zé)任的算法決策。場(chǎng)景化規(guī)制是實(shí)用主義起點(diǎn)，也是歸屬。它建立在合理的算法治理系統(tǒng)下，這個(gè)系統(tǒng)的建構(gòu)，包括三方面。規(guī)制體系應(yīng)包括：主體自覺(jué)(平臺(tái)自治、算法倫理)、監(jiān)管機(jī)制(職能部門、全過(guò)程、監(jiān)管結(jié)果應(yīng)用)、法律控制(賦權(quán)、問(wèn)責(zé))。算法作為新型的人機(jī)交互決策，會(huì)被不同的主體運(yùn)用，內(nèi)嵌于不同場(chǎng)景和處理不同的問(wèn)題。中國(guó)信息通信研究院互聯(lián)網(wǎng)法律研究中心主任方禹、中國(guó)政法大學(xué)大數(shù)據(jù)和人工智能法律研究中心主任沈偉偉等專家都主張算法場(chǎng)景化規(guī)制思路，但分類的標(biāo)準(zhǔn)并未清晰。筆者主張場(chǎng)景化規(guī)制采行業(yè)化路徑，既符合場(chǎng)景類型化特質(zhì)，又與行業(yè)管理部門分工相協(xié)調(diào)，并且在實(shí)務(wù)中已有嘗試。如中國(guó)人民銀行頒布《人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范》調(diào)控金融投顧、市場(chǎng)監(jiān)督管理總局發(fā)布《價(jià)格違法行為行政處罰規(guī)定(修訂征求意見(jiàn)稿)》調(diào)控價(jià)格歧視、公安部發(fā)布《道路交通安全法(修訂建議稿)》規(guī)制自動(dòng)駕駛責(zé)任等。從場(chǎng)景應(yīng)用重點(diǎn)行業(yè)試點(diǎn)開(kāi)始，逐步推及更多應(yīng)用領(lǐng)域。

(三)算法法律體系與我國(guó)既有法律體系的補(bǔ)強(qiáng)銜接。我國(guó)算法法律體系應(yīng)呈“一基兩翼”模式，以國(guó)家倫理立法為基礎(chǔ)和指引，以地方立法和行業(yè)立法為“兩翼”，同時(shí)融入我國(guó)現(xiàn)有法律體系，相互補(bǔ)充補(bǔ)強(qiáng)，協(xié)調(diào)適用?？紤]避免重復(fù)立法，在《民法典》《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》等已有的相關(guān)規(guī)定，可以同樣適用。針對(duì)算法賦權(quán)和算法責(zé)任，可以新增特別條款。既能延續(xù)又能增強(qiáng)我國(guó)現(xiàn)有法律框架體系，也符合算法融入社會(huì)生活的未來(lái)法治觀。例如《消費(fèi)者權(quán)益保護(hù)法》對(duì)消費(fèi)者權(quán)益的保護(hù)與救濟(jì)規(guī)則，在算法消費(fèi)中仍可以適用?！峨娮由虅?wù)法》對(duì)BtoC算法的規(guī)制如第18、40、77條，《反壟斷法》(修正案)與《國(guó)務(wù)院反壟斷委員會(huì)關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》對(duì)BtoB算法的規(guī)定，均可以實(shí)現(xiàn)相應(yīng)監(jiān)管效能。算法行政責(zé)任的規(guī)制先于民事責(zé)任已有地方試點(diǎn)頒行，如《濟(jì)寧市智慧城市促進(jìn)條例》(2017)、《杭州城市大腦賦能城市治理促進(jìn)條例》(2021)、《浙江省平臺(tái)企業(yè)競(jìng)爭(zhēng)合規(guī)指引》(2021)，可在其上位法的法律法規(guī)中進(jìn)一步對(duì)應(yīng)具體責(zé)任，協(xié)調(diào)完善并推廣?！缎谭ā房煽紤]擴(kuò)展相關(guān)原罪名或新增算法罪名，適用于如危及國(guó)家安全、民事與行政法律責(zé)任不足以震懾、大規(guī)模影響嚴(yán)重的情形，具體觸刑標(biāo)準(zhǔn)有待進(jìn)一步探索論證。

四、結(jié)語(yǔ)

中國(guó)數(shù)智化進(jìn)程走在世界前列，人工智能、法學(xué)、管理學(xué)、社會(huì)學(xué)等領(lǐng)域的專家學(xué)者們傾力探索，努力搭建符合中國(guó)社會(huì)發(fā)展和國(guó)情需要的算法法律體系，實(shí)現(xiàn)人工智能立法的完整邏輯。立法探路者考慮通過(guò)法律規(guī)則和法律價(jià)值，影響技術(shù)價(jià)值的建構(gòu)，最大限度地衡平科技發(fā)展與社會(huì)秩序。我們今天使用的算法正在進(jìn)化，風(fēng)險(xiǎn)與發(fā)展如影隨形，算法立法應(yīng)秉持中國(guó)特有的治理邏輯與立場(chǎng)，在不斷完善的進(jìn)程中為智慧中國(guó)向?qū)?，?shí)現(xiàn)算法時(shí)代的安全、正義和秩序，提升中國(guó)國(guó)家競(jìng)爭(zhēng)力。