摘 要：在傳統(tǒng)犯罪和網(wǎng)絡(luò)犯罪此消彼長的背景下，新型網(wǎng)絡(luò)犯罪寄生于互聯(lián)網(wǎng)平臺運營的平臺生態(tài)系統(tǒng)之中。鑒于平臺承擔(dān)保障網(wǎng)絡(luò)安全的主體責(zé)任、負有防范用戶被害的道德義務(wù)及具備獨特的治理優(yōu)勢，“基于平臺的治理”隨之興起。犯罪之平臺治理不僅有充分的事實和政策基礎(chǔ)，還有其獨特的規(guī)范依據(jù)。《互聯(lián)網(wǎng)信息服務(wù)管理辦法（修訂草案征求意見稿）》《反電信網(wǎng)絡(luò)詐騙法（草案）》等法規(guī)范在概括性的安全保護義務(wù)基礎(chǔ)上，為平臺設(shè)定了專門的犯罪控制義務(wù)，要求平臺針對利用其服務(wù)實施的違法犯罪，履行以主動控制和響應(yīng)控制為內(nèi)涵、以犯罪風(fēng)險規(guī)避為目標、以非法內(nèi)容審查為路徑、以勤勉盡責(zé)為標準的法定注意義務(wù)。由此，平臺對犯罪控制義務(wù)的勤勉盡責(zé)履行成為平臺治理的基本實現(xiàn)路徑。

關(guān)鍵詞：網(wǎng)絡(luò)犯罪;犯罪治理;平臺治理;犯罪控制義務(wù);勤勉盡責(zé)標準

中圖分類號：DF611? 文獻標志碼：A

DOI：10.3969/j.issn.1001-2397.2022.03.05 開放科學(xué)（資源服務(wù)）標識碼（OSID）：

傳統(tǒng)犯罪與網(wǎng)絡(luò)犯罪此消彼長的結(jié)構(gòu)性變化呼喚犯罪治理從“在場的組織化調(diào)控”向“在線的組織化調(diào)控”①轉(zhuǎn)型，而轉(zhuǎn)型的關(guān)鍵在于“互聯(lián)網(wǎng)平臺”。②在Web3.0時代，平臺重塑社會結(jié)構(gòu)，成為泛在鏈接、信息匯聚、在線整合的組織樞紐，構(gòu)成了連接網(wǎng)絡(luò)空間與現(xiàn)實空間虛實交織的雙層社會的“組織通道”。在雙層社會中，“在線的組織化調(diào)控”表現(xiàn)為基于平臺的犯罪治理。平臺不僅作為網(wǎng)絡(luò)中介（internet intermediary）經(jīng)營數(shù)字經(jīng)濟，更“成為一種重塑社會結(jié)構(gòu)的新型規(guī)制者（new governor）”。[See Kate Klonick， The New Governors：the People， Rules， and Processes Governing Online Speech， 131 Harvard Law Review 1598， 1598-1670 （2018）.]以平臺為代表的網(wǎng)絡(luò)服務(wù)提供者不僅在個案偵查環(huán)節(jié)協(xié)助公安執(zhí)法，還在平臺生態(tài)系統(tǒng)中在線審查用戶發(fā)布的非法信息內(nèi)容、在線防控不法分子利用平臺服務(wù)實施違法犯罪。面對風(fēng)靡云蒸的平臺治理實踐，互聯(lián)網(wǎng)平臺參與的犯罪治理成為亟待研討的犯罪學(xué)現(xiàn)象。對此，恐怕不能簡單以平臺履行社會責(zé)任的觀點一言以蔽之。互聯(lián)網(wǎng)平臺之所以成為“新型規(guī)制者”，與國家為其設(shè)定的犯罪控制義務(wù)息息相關(guān)。犯罪之平臺治理的崛起不僅有實踐支撐和政策基礎(chǔ)，還有其獨特的規(guī)范依據(jù)，表現(xiàn)為平臺對犯罪控制義務(wù)的響應(yīng)、遵循和履行。

一、犯罪控制義務(wù)的立法形成

在傳統(tǒng)上，犯罪控制義務(wù)屬于法定的國家保護義務(wù)，其義務(wù)主體指向國家，對應(yīng)個人不受犯罪侵害的權(quán)利。“國家保護義務(wù)是基本權(quán)利的保護義務(wù)”[王貴松：《行政裁量權(quán)收縮的法理基礎(chǔ)——職權(quán)職責(zé)義務(wù)化的轉(zhuǎn)換依據(jù)》，載《北大法律評論》2009年第10卷·第2輯，第368頁。]，在《憲法》《刑法》《治安管理處罰法》中有著明確的規(guī)范性依據(jù)。[《憲法》第28條規(guī)定：“國家維護社會秩序，鎮(zhèn)壓叛國和其他危害國家安全的犯罪活動，制裁危害社會治安、破壞社會主義經(jīng)濟和其他犯罪的活動，懲辦和改造犯罪分子?！痹摋l款明確了國家的犯罪控制職責(zé)?！缎谭ā贰吨伟补芾硖幜P法》關(guān)于“懲罰違法犯罪、保護人民”的條款亦是國家保護義務(wù)和犯罪控制職責(zé)的體現(xiàn)。]對于基本權(quán)利的國家保護，通過國家履行犯罪控制職責(zé)或義務(wù)的方式保護國民免受犯罪侵害。隨著人類步入“平臺社會”[阿姆斯特丹大學(xué)José Dijck教授提出“平臺社會”理論，她認為，互聯(lián)網(wǎng)平臺已滲透至社會的核心，繞過傳統(tǒng)管理制度，改變了社會和公民行為，重塑著國民生活的社會結(jié)構(gòu)。See José van Dijck， Thomas Poell and Martijn de Waal， The Platform Society： Public Values in a Connective World， Oxford University Press， 2018.]，犯罪控制義務(wù)的主體從國家擴展至互聯(lián)網(wǎng)平臺。具有巨大規(guī)模效應(yīng)和社會動員能力的社交、購物、支付、內(nèi)容等平臺推動了社會的再組織化和再中心化轉(zhuǎn)型，個體的數(shù)字化生存無不依附于平臺，國家治理須臾離不開平臺的技術(shù)能力和組織能力。作為新型數(shù)字基礎(chǔ)設(shè)施，平臺實現(xiàn)了網(wǎng)絡(luò)空間與現(xiàn)實空間的虛實交融，在最大范圍、最強程度上整合了雙層社會。具有規(guī)模效應(yīng)和網(wǎng)絡(luò)效應(yīng)的平臺成為國家施展組織化調(diào)控的信息中樞和組織通道，平臺的“主體責(zé)任”[2018年4月，習(xí)近平總書記在全國網(wǎng)絡(luò)安全和信息化工作會議上強調(diào)：“要壓實互聯(lián)網(wǎng)企業(yè)的主體責(zé)任，決不能讓互聯(lián)網(wǎng)成為傳播有害信息、造謠生事的平臺?！?021年4月，習(xí)近平總書記對打擊治理電信網(wǎng)絡(luò)詐騙犯罪工作作出重要指示，強調(diào)全面落實金融、通信、互聯(lián)網(wǎng)等行業(yè)監(jiān)管主體責(zé)任。2019年12月，國家互聯(lián)網(wǎng)信息辦公室出臺的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第8條規(guī)定：“網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺應(yīng)當履行信息內(nèi)容管理主體責(zé)任。”]被政策文件和法律法規(guī)反復(fù)強調(diào)，平臺被視為雙層社會的“看門人”（gatekeeper），即“在國家能力有限的情況下有能力修正他人行為的非國家機構(gòu)，其通過流通渠道控制和內(nèi)容審查等形式防范或減少非法信息的傳播?！盵See Emily B. Laidlaw， A Framework for Identifying Internet Information Gatekeeper， 24 International Review of Law， Computers & Technology 263， 263-276 （2010）.]主體責(zé)任的承擔(dān)和看門人的定位型塑出“國家管平臺、平臺管用戶”的治理模式，新模式從治理邏輯上有別于國家直接干預(yù)違法個體的傳統(tǒng)策略。

當前，基于平臺的治理實踐極為豐富，尤其是超大型互聯(lián)網(wǎng)平臺均深度參與了網(wǎng)絡(luò)犯罪治理。據(jù)調(diào)研，阿里巴巴集團每年向公安機關(guān)移送的刑事案件線索超過一萬條?！敖刂?021年，騰訊公司協(xié)助公安機關(guān)打擊網(wǎng)絡(luò)黑灰產(chǎn)涉案金額超800億元;識別惡意網(wǎng)站、惡意APP、騷擾詐騙電話累計4.09億、0.94億、995.99萬。”[

參見《騰訊構(gòu)筑全鏈式“防詐墻”，助力政企機構(gòu)共同反詐》，搜狐網(wǎng)2021年4月27日，https：//www.sohu.com/a/463315316_637282。]字節(jié)跳動公司與公安機關(guān)合作，邀請上萬家公安機關(guān)新媒體入駐今日頭條和抖音短視頻平臺，利用平臺開展全民線上反詐宣傳和被害預(yù)防。上述實踐的規(guī)范性依據(jù)在于互聯(lián)網(wǎng)平臺承擔(dān)的犯罪控制義務(wù)，其最初蘊涵于概括式、綜合性的“安全保護義務(wù)”[《網(wǎng)絡(luò)安全法》第九條要求網(wǎng)絡(luò)運營者履行網(wǎng)絡(luò)安全保護義務(wù)。]中，而后逐漸形成了類型化、專門化的犯罪控制義務(wù)。

（一）以綜合性的安全保護義務(wù)為起點

為保障公共安全、網(wǎng)絡(luò)安全及平臺用戶的合法權(quán)益，國內(nèi)外法律為平臺設(shè)定了系統(tǒng)化的安全保護義務(wù)，包括內(nèi)容審查義務(wù)、協(xié)助執(zhí)法義務(wù)、信息保存義務(wù)、數(shù)據(jù)報告義務(wù)、個人信息保護義務(wù)等。相關(guān)法規(guī)范雖未直接列明犯罪控制義務(wù)，但在體系化的安全保護義務(wù)中蘊涵著豐富的犯罪控制內(nèi)涵。

以被動回應(yīng)的協(xié)助執(zhí)法義務(wù)為例，2020年12月，歐盟公布的《數(shù)字服務(wù)法（草案）》（Digital Service Act，簡稱DSA）第8條和第9條規(guī)定了平臺的協(xié)助執(zhí)法義務(wù)，即網(wǎng)絡(luò)服務(wù)提供者有義務(wù)配合司法或行政機關(guān)依法下達的“對非法內(nèi)容采取行動的指令”和“信息提供指令”。[See Digital Service Act， §8， 9 （2020）.]我國《反恐怖主義法》第18條、《網(wǎng)絡(luò)安全法》第28條、《數(shù)據(jù)安全法》第35條均規(guī)定了平臺協(xié)助公安機關(guān)偵查犯罪的義務(wù)。協(xié)助執(zhí)法義務(wù)指向公安機關(guān)偵破犯罪的平臺協(xié)助，其本質(zhì)在于平臺回應(yīng)和配合執(zhí)法機關(guān)的犯罪控制。

以主動介入的內(nèi)容審查義務(wù)為例，2017年德國通過的《改進社交網(wǎng)絡(luò)中法律執(zhí)行的法案》（以下簡稱《網(wǎng)絡(luò)執(zhí)行法》）、2021年5月公布的英國《網(wǎng)絡(luò)安全法（草案）》規(guī)定了網(wǎng)絡(luò)服務(wù)商防范非法內(nèi)容的安全保護義務(wù)。該《網(wǎng)絡(luò)安全法（草案）》第5條規(guī)定的安全保護義務(wù)要求網(wǎng)絡(luò)服務(wù)商盡量減少違法內(nèi)容的存在，盡量減少違法內(nèi)容存在的時間長度，盡量控制違法內(nèi)容的傳播，盡快刪除被舉報的違法內(nèi)容。[See Draft Online Safety Bill， §5 （2021）.]DSA第三章為平臺設(shè)定了“維護透明且安全的在線環(huán)境應(yīng)盡的勤勉盡責(zé)義務(wù)”，簡稱“勤勉盡責(zé)義務(wù)”（Due diligence obligations），一改此前以“通知—刪除”為內(nèi)核的平臺責(zé)任，要求平臺承擔(dān)對非法內(nèi)容主動審查的主體責(zé)任。我國《網(wǎng)絡(luò)安全法》第47條、新修訂的《未成年人保護法》第80條第2款亦規(guī)定了網(wǎng)絡(luò)服務(wù)提供者的內(nèi)容審核義務(wù)。平臺對非法內(nèi)容的主動審查和積極處置不僅能防范非法信息的在線傳播，還起到預(yù)防恐怖主義犯罪、網(wǎng)絡(luò)詐騙等違法犯罪的治理功效。

（二）走向?qū)ｉT化的犯罪控制義務(wù)

隨著新型網(wǎng)絡(luò)犯罪的挑戰(zhàn)愈發(fā)嚴峻，為全面落實互聯(lián)網(wǎng)平臺在網(wǎng)絡(luò)犯罪治理中的主體責(zé)任，我國相關(guān)立法開始出現(xiàn)類型化和專門化的犯罪控制義務(wù)。2021年1月，國家網(wǎng)信辦、工信部及公安部聯(lián)合起草的《互聯(lián)網(wǎng)信息服務(wù)管理辦法（修訂草案征求意見稿）》（以下簡稱《征求意見稿》）第21條分兩款規(guī)定了平臺的犯罪控制義務(wù)。該條第1款規(guī)定：“互聯(lián)網(wǎng)服務(wù)提供者應(yīng)當采取技術(shù)措施和其他必要措施，防范、發(fā)現(xiàn)、制止所提供的服務(wù)被用于實施違法犯罪。……互聯(lián)網(wǎng)服務(wù)提供者發(fā)現(xiàn)網(wǎng)絡(luò)違法犯罪行為，應(yīng)當保存有關(guān)記錄，并向網(wǎng)信部門、電信主管部門、公安機關(guān)報告?！钡?款規(guī)定：“網(wǎng)信部門、電信主管部門、公安機關(guān)等有關(guān)主管部門發(fā)現(xiàn)互聯(lián)網(wǎng)信息服務(wù)提供者存在違反真實身份查驗要求的行為或者其他網(wǎng)絡(luò)違法犯罪行為，應(yīng)當要求互聯(lián)網(wǎng)信息服務(wù)提供者采取消除、制止等處置措施，停止相關(guān)服務(wù)，保存有關(guān)記錄，并向網(wǎng)信部門、電信主管部門、公安機關(guān)報告。”《征求意見稿》第52條將“互聯(lián)網(wǎng)信息服務(wù)”界定為“為用戶提供互聯(lián)網(wǎng)信息發(fā)布和應(yīng)用平臺，包括且不限于……互聯(lián)網(wǎng)服務(wù)”，故而第21條通過犯罪控制義務(wù)確立了平臺作為數(shù)字社會“看門人”的主體定位?！墩髑笠庖姼濉返?2條規(guī)定了未有效履行犯罪控制義務(wù)的平臺責(zé)任，即“互聯(lián)網(wǎng)服務(wù)提供者違反本辦法第二十一條規(guī)定的，由網(wǎng)信部門、電信主管部門、公安機關(guān)依據(jù)各自職責(zé)給予警告，責(zé)令限期改正，沒收違法所得;拒不改正或者情節(jié)嚴重的，處10萬元以上50萬元以下罰款，并可以責(zé)令暫停相關(guān)業(yè)務(wù)、停業(yè)整頓、由原發(fā)證機關(guān)吊銷相關(guān)業(yè)務(wù)許可證或者吊銷營業(yè)執(zhí)照，對直接負責(zé)的主管人員和其他直接責(zé)任人員，處1萬元以上10萬元以下罰款?！睂嶋H上，履行該義務(wù)不力的法律后果遠非第42條之行政責(zé)任，《刑法》第286條之一“拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪”對網(wǎng)絡(luò)服務(wù)提供者拒不履行網(wǎng)絡(luò)安全管理義務(wù)達到情節(jié)嚴重的甚至要追究刑事責(zé)任。

2021年10月，提請全國人大常委會審議的《中華人民共和國反電信網(wǎng)絡(luò)詐騙法（草案）》（以下簡稱《反電詐法（草案）》）以“第四章互聯(lián)網(wǎng)治理”的6個條文為互聯(lián)網(wǎng)服務(wù)提供者（以互聯(lián)網(wǎng)平臺為代表）設(shè)定了體系化的反電詐犯罪控制義務(wù)?！斗措娫p法（草案）》第18條為互聯(lián)網(wǎng)服務(wù)提供者設(shè)定網(wǎng)絡(luò)實名制的審核義務(wù);第19條設(shè)定了針對異常賬戶和涉案關(guān)聯(lián)賬號的處置義務(wù);第20條設(shè)定了針對涉詐移動互聯(lián)網(wǎng)應(yīng)用程序的監(jiān)測義務(wù);第21條設(shè)定了針對互聯(lián)網(wǎng)域名的核驗義務(wù)、記錄留存義務(wù)和溯源義務(wù);第22條設(shè)定了針對涉詐黑灰產(chǎn)業(yè)的監(jiān)測防范義務(wù);第23條第1款為被動的協(xié)助執(zhí)法義務(wù)，第2款為主動的可疑線索識別和移送義務(wù)，該條款的立法思路與《征求意見稿》第21條存在異曲同工之處。

此外，2021年施行的新版《未成年人保護法》增設(shè)了網(wǎng)絡(luò)服務(wù)提供者的犯罪控制義務(wù)。該法第80條第3款規(guī)定，“網(wǎng)絡(luò)服務(wù)提供者發(fā)現(xiàn)用戶利用其網(wǎng)絡(luò)服務(wù)對未成年人實施違法犯罪行為的，應(yīng)當立即停止向該用戶提供網(wǎng)絡(luò)服務(wù)，保存有關(guān)記錄，并向公安機關(guān)報告?！痹摋l款明確了平臺對用戶實施以未成年人為侵害對象的違法犯罪具有控制義務(wù)。2020年3月施行的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第10條規(guī)定，“網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺不得傳播本規(guī)定第六條規(guī)定的信息，應(yīng)當防范和抵制傳播本規(guī)定第七條規(guī)定的信息?！痹摋l款為平臺針對用戶傳播非法信息的違法犯罪設(shè)定控制義務(wù)。2022年3月施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第9條規(guī)定：“算法推薦服務(wù)提供者應(yīng)當加強信息安全管理，建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規(guī)則和程序。發(fā)現(xiàn)未作顯著標識的算法生成合成信息的，應(yīng)當作出顯著標識后，方可繼續(xù)傳輸?！痹摋l款要求以算法實現(xiàn)對非法信息內(nèi)容的技術(shù)反制，從而為算法推薦服務(wù)提供者（平臺的另一重身份）設(shè)定相應(yīng)的犯罪控制義務(wù)。

可以預(yù)見，在未來仍將出現(xiàn)為互聯(lián)網(wǎng)平臺設(shè)定和強化犯罪控制義務(wù)的不同位階的法規(guī)范，這些法規(guī)范將犯罪控制義務(wù)從綜合性的安全保護義務(wù)中抽離出來予以專門設(shè)定，為犯罪之平臺治理提供了規(guī)范性依據(jù)。實際上，犯罪控制義務(wù)的立法形成背后有著深刻的正當性理由，對正當性理由的展開有助于從更廣闊的社會變遷與治理變革視野探究犯罪控制義務(wù)法定化的成因。

二、平臺承擔(dān)犯罪控制義務(wù)的正當性理由

自人類步入虛實交融的數(shù)字社會，犯罪治理的底層邏輯從國家直接干預(yù)違法個體轉(zhuǎn)向國家通過平臺對用戶的間接治理，由國家、平臺、用戶三方耦合的數(shù)字科層制日漸成型。平臺構(gòu)成了將法律落實于治理實踐、將國家權(quán)力延伸至平臺生態(tài)系統(tǒng)的組織通道。平臺對安全保護義務(wù)和犯罪控制義務(wù)的履行成為“國家管平臺、平臺管用戶”策略實現(xiàn)的法治路徑。具言之，平臺承擔(dān)犯罪控制義務(wù)的正當性理由如下。

（一）違法犯罪寄生于平臺生態(tài)系統(tǒng)

如今，我國總體的犯罪態(tài)勢發(fā)生了從“城市吸引犯罪”向“網(wǎng)絡(luò)吸引犯罪”的結(jié)構(gòu)性變化。隨著“平臺成為以實現(xiàn)用戶間的組織、交互為目的的數(shù)字基礎(chǔ)設(shè)施”[

See José van Dijck， Thomas Poell and Martijn de Waal， The Platform Society， Oxford University Press， 2018， p.9.]，網(wǎng)絡(luò)空間被各類平臺生態(tài)系統(tǒng)再組織化和再中心化，平臺生態(tài)系統(tǒng)成為數(shù)字社會中人類活動的新場域，“網(wǎng)絡(luò)吸引犯罪”的實質(zhì)在于犯罪是一種平臺現(xiàn)象。

一方面，“網(wǎng)絡(luò)中的犯罪”可解讀為“平臺內(nèi)的犯罪”。絕大多數(shù)犯罪人均具有社交、購物、支付、出行、金融等平臺的用戶身份，其信息流、行為流、資金流、交易流、物流發(fā)生于平臺生態(tài)系統(tǒng)，犯罪團伙成員之間、涉案法人之間、犯罪人與被害人之間的在線差異交往均依托于特定平臺關(guān)系，網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)賭博、網(wǎng)絡(luò)傳銷等違法活動均寄生于平臺服務(wù)之中。

另一方面，大多數(shù)“現(xiàn)實中的犯罪”可視為“與平臺有關(guān)的犯罪”。絕大多數(shù)犯罪人均具有某一個或幾個平臺的用戶身份，無論是網(wǎng)絡(luò)中的違法還是現(xiàn)實中的犯罪均留有相當數(shù)量的數(shù)字印跡，平臺生態(tài)系統(tǒng)或是犯罪的發(fā)生空間，或為追查線索提供不可或缺的必要條件。即便是盜竊、搶劫等傳統(tǒng)犯罪在偵破環(huán)節(jié)也不可避免要從平臺生態(tài)系統(tǒng)中找尋案件線索;即使是從不使用社交網(wǎng)絡(luò)和智能設(shè)備的人也不得不與互聯(lián)網(wǎng)平臺的用戶接觸，從而被間接納入平臺生態(tài)系統(tǒng)。

可見，無論“平臺內(nèi)的犯罪”還是“與平臺有關(guān)的犯罪”均系一種平臺現(xiàn)象，平臺生態(tài)系統(tǒng)實際構(gòu)成了犯罪治理的主陣地和最前沿。作為平臺生態(tài)系統(tǒng)的創(chuàng)建者和運營者，互聯(lián)網(wǎng)平臺獲取了巨大的經(jīng)濟利益和海量的數(shù)據(jù)資源，成長為對用戶具有支配地位的“超級權(quán)力體”[樊鵬：《社會運動中的新技術(shù)應(yīng)用及其政治影響》，載《中央社會主義學(xué)院學(xué)報》2019年第6期，第25頁。]，故而由互聯(lián)網(wǎng)平臺防范、發(fā)現(xiàn)、制止寄生于平臺生態(tài)系統(tǒng)中的違法犯罪具有充分必要性。

（二）平臺負有防范用戶被害的道德義務(wù)

道德的目的在于惡的最小化和善的最大化。[See David Steinberg， The Multidisciplinary Nature of Morality and Applied Ethics， Springer， 2020， p.127-137.]兼具法律主體和道德主體身份的企業(yè)在營利與守法原則外，還須遵循三個基本道德原則。其一，危害規(guī)避原則，即企業(yè)應(yīng)避免造成不必要的社會危害;其二，公平原則，企業(yè)的所有行為都應(yīng)是公平的;其三，人權(quán)原則，即企業(yè)應(yīng)尊重人權(quán)。[See James Fieser， Do Businesses Have Moral Obligations beyond What the Law Requires？ 15 Journal of Business Ethics 457， 457-468 （1996）.]道德原則對于平臺型企業(yè)同樣適用，與犯罪控制義務(wù)聯(lián)系最緊密的莫過于危害規(guī)避原則。危害規(guī)避原則成為平臺承擔(dān)犯罪控制義務(wù)的道德根基，其要義在于平臺負有保護用戶合法權(quán)益的道德責(zé)任，以避免用戶在接受平臺服務(wù)的過程中遭受犯罪侵害。危害規(guī)避的道德原則派生出平臺的消極道德義務(wù)和積極道德義務(wù)。

其一，平臺的消極道德義務(wù)要求平臺不作惡、不損害用戶的合法權(quán)益。在“用戶即數(shù)據(jù)”“用戶即商品”的商業(yè)模式下，作為數(shù)據(jù)控制者的平臺與作為數(shù)據(jù)主體的億萬用戶之間的平臺關(guān)系不應(yīng)僅限于合同關(guān)系，而應(yīng)更具有實質(zhì)意義上的“數(shù)據(jù)信托”[See J. M. Balkin， Information Fiduciaries and the First Amendment， 49 UCDL Review 1183， 1183 （2015）.]（Information Fiduciary）關(guān)系。耶魯大學(xué)法學(xué)院Jack M.Balkin教授認為，平臺作為信息受托人使用個人信息應(yīng)遵守嚴格的“信托義務(wù)”（Fiduciary Duty），以委托人利益為核心在合理范圍內(nèi)使用個人信息，不得將個人信息用于損害委托人權(quán)益的活動。[See J. Litman， Information Privacy/ Information Property， 52 Stanford Law Review 1283， 1283-1313 （2000）.]平臺作為信息受托人應(yīng)承擔(dān)對用戶的保密義務(wù)、注意義務(wù)與忠誠義務(wù)。[See J. M. Balkin， The Fiduciary Model of Privacy， 134 Harvard Law Review Forum 11， 11-33 （2020）.]消極道德義務(wù)是社會對平臺的最低限度的道德要求，也是平臺勤勉盡責(zé)履行積極道德義務(wù)的基礎(chǔ)。

其二，平臺的積極道德義務(wù)要求平臺承擔(dān)起平臺生態(tài)系統(tǒng)運營者的主體責(zé)任，防范不法分子利用用戶身份和平臺服務(wù)從事網(wǎng)絡(luò)黑灰產(chǎn)業(yè)、傳播非法信息、實施網(wǎng)絡(luò)犯罪等違法活動，保障用戶的人身、財產(chǎn)、人格等權(quán)益不受犯罪侵害。以非法內(nèi)容審查為例，盡管為網(wǎng)絡(luò)色情、網(wǎng)絡(luò)賭博等黑產(chǎn)引流的非法信息在平臺生態(tài)系統(tǒng)中確有一定受眾，這些受眾的流量對平臺意味著廣告收入;但任何損害國家安全、公共利益、國民權(quán)益的平臺活動均是不正當?shù)?，須平臺履行積極道德義務(wù)予以主動防范。積極道德義務(wù)是平臺對社會及用戶必須全面履行的道德責(zé)任，并與消極道德義務(wù)一道構(gòu)成了平臺承擔(dān)犯罪控制義務(wù)的法理依據(jù)。

（三）平臺擔(dān)負保障網(wǎng)絡(luò)安全的主體責(zé)任

“政府管轄是地域性的，但互聯(lián)網(wǎng)不為邊界所限，兩者的沖突將制約國家治理的空間。”[See Frances Cairncross， The Death of Distance： How the Communications Revolution Is Changing Our Lives， Harvard Business School Press， 2000， p.177. ]這種沖突在犯罪治理中表現(xiàn)得尤為明顯。針對街面犯罪的傳統(tǒng)科層治理是典型的屬地管轄，而新型網(wǎng)絡(luò)犯罪跨地域甚至跨國發(fā)生。“政府有界、犯罪無界”的現(xiàn)狀造成了組織化調(diào)控失靈的危機。習(xí)近平總書記指出，“網(wǎng)絡(luò)空間是虛擬的，但運用網(wǎng)絡(luò)空間的主體是現(xiàn)實的。”[習(xí)近平：《在第二屆世界互聯(lián)網(wǎng)大會開幕式上的講話》，載《人民日報》2015年12月17日，第002版。]這要求網(wǎng)絡(luò)犯罪治理從“管內(nèi)容”向“管主體”變遷、從直接管控違法個體向間接管控平臺轉(zhuǎn)型，要求以“國家管平臺、平臺管用戶”的方式防控新型網(wǎng)絡(luò)犯罪。由此，作為國家治理的組織通道，互聯(lián)網(wǎng)平臺的主體責(zé)任成為數(shù)字社會犯罪治理的關(guān)鍵。

“面對龐大的用戶，平臺企業(yè)不僅從事經(jīng)營行為，而且需要進行管理，這種管理很像政府管理，這不是傳統(tǒng)小打小鬧式‘企業(yè)辦社會，簡直就是‘企業(yè)辦政府”。[

王坤、周魯耀：《平臺企業(yè)的自治與共治》，載《浙江學(xué)刊》2021年第1期，第5頁。]主體責(zé)任的提出將擁有社會權(quán)力的互聯(lián)網(wǎng)平臺納入科層制體系，通過為其設(shè)定安全保護義務(wù)及犯罪控制義務(wù)，使“通過平臺的治理”成為雙層社會的“中間制度”，使平臺的社會權(quán)力被馴化為體現(xiàn)國家意志的“中間權(quán)力”，使平臺進化為犯罪治理的組織載體。在“中間制度”和“中間權(quán)力”的調(diào)控下，一個有邊界的互聯(lián)網(wǎng)日益成為普遍事實，國家與非國家行為體的一致性愈發(fā)明顯，即國家通過代理策略自覺地把一定權(quán)力交給非政府行為體。[劉建偉：《國家“歸來”：自治失靈、安全化與互聯(lián)網(wǎng)治理》，載《世界經(jīng)濟與政治》2015年第7期，第109頁。]國家通過為平臺設(shè)定安全保護義務(wù)和犯罪控制義務(wù)的形式外移治理權(quán)力，平臺尤其是超大型在線平臺作為新型治理主體登上歷史舞臺，成為網(wǎng)絡(luò)空間治理及犯罪控制的超級責(zé)任體。

（四）平臺具備控制犯罪的治理優(yōu)勢

平臺對用戶的道德義務(wù)和對社會的主體責(zé)任的最終實現(xiàn)離不開其在數(shù)據(jù)、技術(shù)和組織上的治理能力?！暗赖碌囊笫且环N‘應(yīng)該去做的事情，而這種應(yīng)該去做的事情同時也是‘能夠去做的事情?！盵姚大志：《利他主義與道德義務(wù)》，載《社會科學(xué)戰(zhàn)線》2015年第5期，第26頁。]“監(jiān)督者控制潛在危險的義務(wù)通常來源于其對危險源的控制能力?！盵[德]克雷斯蒂安·馮.巴爾：《歐洲比較侵權(quán)行為法》（下冊），焦美華譯，法律出版社2001年版，第269頁。]平臺既是借助超級APP坐擁海量用戶的網(wǎng)絡(luò)中介，也是以新型數(shù)字技術(shù)掌握用戶數(shù)據(jù)的控制者，更是雙層社會中實施在線治理的組織者。“數(shù)據(jù)控制者獲取的數(shù)據(jù)并非一般商品，而是數(shù)據(jù)主體的生命密碼?！盵馮果、薛亦颯：《從“權(quán)利規(guī)范模式”走向“行為控制模式”的數(shù)據(jù)信托——數(shù)據(jù)主體權(quán)利保護機制構(gòu)建的另一種思路》，載《法學(xué)評論》2020年第3期，第73頁。]“用戶即數(shù)據(jù)”的商業(yè)邏輯型塑出平臺控制用戶的“控制者在線”圖景，平臺在平臺生態(tài)系統(tǒng)中運用大數(shù)據(jù)、云計算、人工智能等技術(shù)實現(xiàn)了對用戶違規(guī)違法的監(jiān)測、預(yù)警、關(guān)聯(lián)、自動化干預(yù)、線索輸出等在線控制，海量數(shù)據(jù)成為平臺控制犯罪的治理資源，新型技術(shù)構(gòu)成了平臺控制犯罪的得力工具。

在數(shù)據(jù)優(yōu)勢和技術(shù)優(yōu)勢基礎(chǔ)上，平臺還擁有獨特的組織優(yōu)勢，個體的數(shù)字化生活無不依賴于特定平臺，個人數(shù)據(jù)和社會數(shù)據(jù)最終匯聚于平臺，與犯罪有關(guān)的數(shù)字軌跡大多留存于平臺覆蓋的特定網(wǎng)域，各種治理策略多依賴于平臺的在線調(diào)控，平臺與國家、平臺與用戶、國家與用戶的關(guān)系建構(gòu)起平臺治理的基本框架。平臺成為國家主體向網(wǎng)絡(luò)空間延伸、運用數(shù)字技術(shù)、掌控雙層社會、實施在線控制的關(guān)鍵組織樞紐。在平臺治理推動下，科層制演變?yōu)榛谄脚_的“數(shù)字科層制”，犯罪治理的實現(xiàn)路徑從“政法部門—犯罪問題”轉(zhuǎn)換為“政法部門—互聯(lián)網(wǎng)平臺—犯罪問題”。相對網(wǎng)絡(luò)犯罪治理距離更近的平臺具備上連國家、下接用戶、掌控平臺生態(tài)系統(tǒng)的組織動員能力，引入平臺更符合“以成本最小化目的來配置權(quán)利和義務(wù)”[[美]理查德·A.波斯納：《法律的經(jīng)濟分析》，蔣兆康譯，中國大百科全書出版社1997年版，第9頁。]的經(jīng)濟原則?；谏鲜鰞?yōu)勢，將犯罪控制義務(wù)分配給平臺是一種更為經(jīng)濟、更有效率、更加合理的制度安排。

三、義務(wù)的內(nèi)涵：主動控制與響應(yīng)控制

基于前述正當性理由，以《征求意見稿》為代表的法規(guī)范為平臺設(shè)定了應(yīng)當履行的專門性犯罪控制義務(wù)，對平臺提出相對明確的義務(wù)要求?！墩髑笠庖姼濉返?1條第1款要求平臺主動實施控制行為及附隨行為，其實質(zhì)在于主動控制;第2款要求平臺積極響應(yīng)執(zhí)法機關(guān)的犯罪控制指令，其要義在于響應(yīng)控制。

（一）平臺對違法犯罪的主動控制

平臺的主動控制是犯罪控制義務(wù)的核心內(nèi)容，《征求意見稿》第21條第1款以“手段+目的”的規(guī)范結(jié)構(gòu)，要求平臺運用技術(shù)措施和其他必要措施，防范、發(fā)現(xiàn)、制止所提供的服務(wù)被用于實施違法犯罪。

1.平臺主動控制的手段行為

“應(yīng)當運用技術(shù)措施和其他必要措施”是平臺主動控制違法犯罪的手段行為。“技術(shù)措施”主要指平臺以信息技術(shù)研發(fā)網(wǎng)絡(luò)黑產(chǎn)監(jiān)測系統(tǒng)和智能風(fēng)控模型，用以識別平臺生態(tài)系統(tǒng)中的違法犯罪風(fēng)險，其本質(zhì)在于以數(shù)據(jù)監(jiān)控為內(nèi)核的技術(shù)治理。同時，技術(shù)的運用離不開特定的組織安排和制度安排，技術(shù)治理亦離不開“其他必要措施”在組織層及規(guī)則層的保障。“其他必要措施”包括且不限于平臺根據(jù)法規(guī)范制定非法內(nèi)容審核、網(wǎng)絡(luò)安全保護等方面的平臺規(guī)則;成立網(wǎng)安實驗室，研發(fā)監(jiān)測網(wǎng)絡(luò)違法的智能風(fēng)控系統(tǒng);設(shè)立網(wǎng)安內(nèi)控部門運用在線風(fēng)控系統(tǒng)打擊網(wǎng)絡(luò)黑產(chǎn)，向公安機關(guān)輸出案件線索和固定電子證據(jù)等。

在“技術(shù)措施”和“其他必要措施”的協(xié)同下，阿里巴巴集團安全部依托錢盾實驗室、光年實驗室等八個實驗室開展系統(tǒng)化在線風(fēng)控，通過技術(shù)反制措施識別用戶實施的網(wǎng)絡(luò)犯罪，每年向公安機關(guān)移送刑事案件線索超過一萬條;騰訊集團安全管理部依托反詐實驗室等多個實驗室研發(fā)神茶反釣魚系統(tǒng)、神偵資金流查控系統(tǒng)、神羊情報分析系統(tǒng)、鷹眼反電話詐騙系統(tǒng)、麒麟偽基站定位系統(tǒng)等風(fēng)控軟件，基于騰訊云服務(wù)向政府開放使用，電詐識別準確率高達95%;字節(jié)跳動公司對抖音系統(tǒng)中用戶違規(guī)注冊、刷量、刷粉、發(fā)布違規(guī)違法內(nèi)容等行為，依靠人工智能和人工復(fù)核結(jié)合的審查機制日均攔截處理違規(guī)違法信息10億次。

2.平臺主動控制的目的行為

“防范、發(fā)現(xiàn)和制止所提供的服務(wù)被用于實施違法犯罪”是平臺主動控制的目的行為。對于目的行為的理解，可從三個方面展開：第一，在義務(wù)履行的空間上，平臺針對網(wǎng)購、支付、社交等平臺生態(tài)系統(tǒng)所覆蓋的網(wǎng)域開展主動控制。平臺生態(tài)系統(tǒng)重塑了Web3.0時代的互聯(lián)網(wǎng)世界，構(gòu)成雙層社會的人類活動空間。《征求意見稿》第21條第1款的“服務(wù)被用于實施違法犯罪”，是指在傳統(tǒng)犯罪全面觸網(wǎng)背景下，遠程非接觸性的網(wǎng)絡(luò)違法或發(fā)生于平臺生態(tài)系統(tǒng)、或利用平臺服務(wù)、或與平臺生態(tài)系統(tǒng)存在千絲萬縷的關(guān)聯(lián)。極具匿名性和復(fù)雜性的新型網(wǎng)絡(luò)犯罪及網(wǎng)絡(luò)黑產(chǎn)寄生于平臺生態(tài)系統(tǒng)，故而平臺生態(tài)系統(tǒng)成為平臺主動控制的治理場域。

第二，在義務(wù)履行的對象上，平臺針對用戶實施的違法犯罪及用戶從事的網(wǎng)絡(luò)黑灰產(chǎn)業(yè)開展主動控制。網(wǎng)絡(luò)違法的實施者均具有平臺的用戶身份，其違法活動滋生于網(wǎng)絡(luò)黑產(chǎn)的土壤。網(wǎng)絡(luò)黑產(chǎn)由提供基礎(chǔ)工具（打碼平臺、破解軟件、偽造工具、代理工具、交流交易平臺等）的上游、黑產(chǎn)信息支撐（社工庫、垃圾注冊、盜號洗號、信息盜取、數(shù)據(jù)爬蟲等）的中游、違法犯罪實施（電詐、網(wǎng)絡(luò)賭博、網(wǎng)絡(luò)色情等）的下游共同組成。據(jù)報道，我國網(wǎng)絡(luò)黑產(chǎn)從業(yè)者超150萬人，黑產(chǎn)規(guī)模達千億級別。[陳慧娟：《網(wǎng)絡(luò)黑灰產(chǎn)業(yè)如何治》，載《光明日報》2018年11月27日，第07版。]從事黑產(chǎn)的違法用戶按照分工形成了隱匿且龐大的地下經(jīng)濟。在技術(shù)服務(wù)層，違法用戶提供流量服務(wù)、過人臉等驗證服務(wù)等;在技術(shù)產(chǎn)品層，違法用戶開發(fā)嗅探設(shè)備、偽基站、貓池等非法硬件與木馬、電報群、釣魚鏈接、群控、撞庫等非法軟件;在信息販賣層，“料商”非法販賣個人和企業(yè)四件套、身份、財產(chǎn)、軌跡、交易記錄等信息;在卡、號注冊和販賣層，“號商”實施惡意注冊、虛假認證等活動，以規(guī)避網(wǎng)絡(luò)實名制、掩蓋違法用戶身份;在組織層，處于犯罪集團核心的“金主”為網(wǎng)絡(luò)違法提供資金、培訓(xùn)管理層及結(jié)算分成;在洗錢服務(wù)層，“水房”為作案團伙提供資金跨境轉(zhuǎn)移服務(wù)，通過多種渠道幫助涉案資金逃脫追蹤。在犯罪鏈條中，電詐等實施犯罪環(huán)節(jié)不過是黑產(chǎn)冰山一角;僅打擊黑產(chǎn)的下游犯罪如同割韭菜一樣無法治本，對黑產(chǎn)的全鏈路治理才是平臺主動控制的對象。

第三，在義務(wù)履行的內(nèi)容上，平臺的主動控制包括防范和識別、制止違法犯罪，覆蓋事前防范、事中阻斷和事后處置的全鏈路。在防范層面，犯罪控制義務(wù)要求平臺將法規(guī)范轉(zhuǎn)換為平臺規(guī)則，以此構(gòu)建平臺生態(tài)系統(tǒng)的安全保護體系，開展打擊電詐、保護個人信息、非法內(nèi)容審查等多種形式的防范舉措。在識別和制止層面，犯罪控制義務(wù)要求平臺將智能風(fēng)控系統(tǒng)和人工審核相結(jié)合，及時發(fā)現(xiàn)和精準處置用戶違法。2019年，字節(jié)跳動安全中心開展打擊黑產(chǎn)的“啄木鳥2019”行動，封禁涉嫌刷量作弊的違規(guī)抖音賬號203萬個，舉報涉嫌刷粉刷量黑產(chǎn)網(wǎng)站113家，攔截黑產(chǎn)刷量注冊抖音賬號請求9199萬次，攔截黑產(chǎn)刷贊、刷粉刷量請求5.51億次。[參見《字節(jié)跳動的黑產(chǎn)專項行動 封禁抖音作弊賬號203萬》，載股城網(wǎng)2020年1月9日，https：//finance.gucheng.com/202001/3850320.shtml。]平臺治理的防范與識別、制止措施往往一體化實施。例如，阿里巴巴聯(lián)合數(shù)百家品牌商成立打假聯(lián)盟，依托平臺規(guī)則開展在線風(fēng)控，僅2020年協(xié)助執(zhí)法機關(guān)及品牌方識別和制止112起案件，案值超23億，取得積極的預(yù)防效果。[

參見《花開五月，論道良渚——2021年AACA春季沙龍精彩回顧》，載阿里巴巴打假聯(lián)盟網(wǎng)2021年5月14日，https：//aaca.alibabagroup.heymeo.net/news_detail？id=11。]

此外，根據(jù)《征求意見稿》第21條第1款的后半部分，平臺發(fā)現(xiàn)網(wǎng)絡(luò)違法犯罪后，應(yīng)當保存記錄，并向網(wǎng)信部門、電信主管部門、公安機關(guān)報告。保存記錄和報告義務(wù)是平臺主動控制的附隨要求，基于附隨要求的附隨義務(wù)可謂平臺主動控制犯罪的應(yīng)有之義。

（二）平臺對控制指令的積極響應(yīng)

根據(jù)《征求意見稿》第21條第2款，主管部門發(fā)現(xiàn)網(wǎng)絡(luò)違法犯罪時，應(yīng)當要求平臺采取消除、制止等處置措施，停止相關(guān)服務(wù)，保存有關(guān)記錄，并向主管部門報告。該條款要求平臺積極響應(yīng)主管部門、執(zhí)法部門的犯罪控制指令（如公安部門的《調(diào)取證據(jù)通知書》），及時執(zhí)行指令中的協(xié)助執(zhí)法要求。平臺響應(yīng)指令的前提是主管部門和執(zhí)法部門發(fā)現(xiàn)平臺生態(tài)系統(tǒng)中發(fā)生網(wǎng)絡(luò)違法犯罪，基于“國家管平臺”的規(guī)制路徑向平臺發(fā)出控制指令。與主動控制不同，平臺對主管部門和執(zhí)法部門指令的響應(yīng)、配合和協(xié)助具有被動性?！毒W(wǎng)絡(luò)安全法》第28條和《征求意見稿》第22條為平臺的協(xié)助執(zhí)法提供了法律依據(jù)，要求平臺積極回應(yīng)公安機關(guān)有關(guān)調(diào)取證據(jù)、提供案件線索、報送網(wǎng)絡(luò)軌跡等的犯罪控制指令。

對此，最大的爭議莫過于如何正確理解“主管部門發(fā)現(xiàn)網(wǎng)絡(luò)違法犯罪”后向平臺發(fā)布指令的時間節(jié)點，究竟是在刑事立案后，還是在立案前的初查階段即可向平臺發(fā)布指令？這關(guān)涉平臺作為數(shù)據(jù)控制者在社會安全防衛(wèi)與國民權(quán)利保障之間如何保持平衡的問題。如果在立案前發(fā)出指令，無疑意味著允許平臺受委托對未進入立案階段的任何線索或任一用戶開展數(shù)據(jù)偵查，意味著任一用戶、任何網(wǎng)絡(luò)活動均能被納入偵查視野。這顯然模糊了數(shù)據(jù)偵查的法治邊界，違反了權(quán)利保障的法治原則。如果在立案后發(fā)出控制指令，平臺采取各種處置措施才具備充分的合法性依據(jù)。因此，在一般意義上，主管部門和執(zhí)法部門向平臺發(fā)布指令的時間應(yīng)理解為在刑事立案后;但這一理解也并不是絕對的。對危害國家安全犯罪、恐怖主義犯罪等具有嚴重社會危害性的犯罪，正式立案前的預(yù)測性偵查及平臺的預(yù)防性處置極具必要性。《反電詐法（草案）》第29條規(guī)定：“經(jīng)國務(wù)院打擊治理電信網(wǎng)絡(luò)詐騙工作機制決定或者批準，國家金融、通信、互聯(lián)網(wǎng)行業(yè)主管部門和公安部門對電信網(wǎng)絡(luò)詐騙活動嚴重的特定地區(qū)，可以采取相應(yīng)的風(fēng)險防范措施?！痹摋l款在事實上為執(zhí)法部門及其委托的互聯(lián)網(wǎng)平臺在刑事立案前實施可識別性更強、手段更靈活、實用性更顯著的反詐風(fēng)險防范措施提供了法律依據(jù)。囿于平臺履行犯罪控制義務(wù)的一般性標準尚存在一定的法律空白，對嚴重犯罪開展預(yù)防性數(shù)據(jù)偵查的法治邊界亟待厘清，包括《反電詐法（草案）》第29條的適用程序、適用標準及防范范圍仍須進一步明確。慶幸的是，主管部門已注意到這一問題，《征求意見稿》第22條在規(guī)范互聯(lián)網(wǎng)服務(wù)提供者的協(xié)助執(zhí)法義務(wù)時，對該問題的立法完善留有伏筆，即“技術(shù)支持和協(xié)助的具體要求，由公安機關(guān)、國家安全機關(guān)會同電信主管部門等有關(guān)部門另行制定?！?/p>

從《征求意見稿》第21條第2款的文義看，平臺響應(yīng)指令的內(nèi)容包括三個方面：其一，采取消除、制止等處置措施，停止相關(guān)服務(wù)。“停止相關(guān)服務(wù)”亦屬于平臺的處置措施。處置措施既包括識別涉嫌違法的用戶，調(diào)查違法用戶的特征、關(guān)系、軌跡、行為等事項;包括在主管部門指令的基礎(chǔ)上開展數(shù)據(jù)偵查，深挖違法犯罪線索，鎖定其他尚未被掌握的違法用戶;也包括及時刪除非法信息內(nèi)容;還包括停止對違法用戶的平臺服務(wù)，封停社交、交易、金融等賬號等。其二，保存有關(guān)記錄。這是固定電子證據(jù)、保障案件司法處遇的應(yīng)有之義。2016年“兩高一部”《關(guān)于辦理刑事案件手機提取和審查判斷電子數(shù)據(jù)若干問題的規(guī)定》為網(wǎng)絡(luò)服務(wù)提供者設(shè)定了凍結(jié)電子數(shù)據(jù)等保存記錄的協(xié)助義務(wù)。從性質(zhì)上看，保存有關(guān)記錄屬于平臺響應(yīng)犯罪控制指令的“信息收集存儲義務(wù)”[裴煒：《針對用戶個人信息的網(wǎng)絡(luò)服務(wù)提供者協(xié)助執(zhí)法義務(wù)邊界》，載《網(wǎng)絡(luò)信息法學(xué)研究》2018年第1期，第23頁。]。對于立案后主管部門發(fā)布的犯罪控制指令，平臺應(yīng)對涉案數(shù)據(jù)“應(yīng)搜盡搜”;對于立案前針對特定嚴重犯罪的犯罪控制指令，平臺應(yīng)為偵查機關(guān)提供一定范圍的方向性信息，以便偵查機關(guān)經(jīng)營線索且完成初查，待正式立案后平臺再進一步履行保存有關(guān)記錄的義務(wù)。其三，向主管部門報告。在對違法用戶開展處置措施和保存記錄后，平臺應(yīng)向主管部門報告犯罪控制指令的執(zhí)行情況，以便主管部門監(jiān)督。平臺的報告義務(wù)清晰地反映出國家和平臺之間的管理與被管理關(guān)系。權(quán)力系“能夠產(chǎn)生強制性服從的能力”[

[美]曼瑟·奧爾森：《權(quán)力與繁榮》，蘇長和譯，上海人民出版社2018年版，第2頁。 ]，國家擁有犯罪治理的權(quán)力，平臺則為承擔(dān)犯罪控制義務(wù)的責(zé)任主體。同時，平臺對用戶的處置反映出平臺與用戶不僅存在私主體間的合同關(guān)系，更具有管理與被管理的權(quán)力關(guān)系，即平臺對用戶有“哪怕遇到反對也能貫徹自己意志的任何機會”。[[德]馬克斯·韋伯：《經(jīng)濟與社會》（下卷），林榮遠譯，商務(wù)印書館1997年版，第81頁。]值得注意的是，從權(quán)力關(guān)系看，平臺對用戶貫徹的并非自身的意志，而是國家意志。平臺對用戶的社會權(quán)力源于其承擔(dān)的犯罪控制義務(wù)，故而平臺治理實際是國家通過平臺這一組織通道所實施的間接治理。

總之，互聯(lián)網(wǎng)平臺的犯罪控制義務(wù)聚焦于平臺對用戶違法犯罪的主動控制與響應(yīng)控制，既體現(xiàn)出平臺主動控制的保護義務(wù)，也蘊涵著被動回應(yīng)的響應(yīng)控制意蘊。

四、義務(wù)的實現(xiàn)：對非法內(nèi)容的勤勉盡責(zé)審查

《征求意見稿》等法規(guī)范明確了以主動控制和響應(yīng)控制為內(nèi)涵的犯罪控制義務(wù)，但尚未明確該義務(wù)的實現(xiàn)方式和履行標準，包括平臺采取的技術(shù)措施和其他必要措施的事項清單及具體要求等。由此，保障犯罪控制義務(wù)不被虛置成為平臺治理高效開展的關(guān)鍵所在。鑒于網(wǎng)絡(luò)違法犯罪在平臺生態(tài)系統(tǒng)中呈現(xiàn)出各種形式的信息形態(tài)，故對非法信息內(nèi)容的審查成為平臺履行犯罪控制義務(wù)的基本方式，平臺的主動控制和響應(yīng)控制均以非法內(nèi)容審查為內(nèi)核。平臺對非法內(nèi)容的審查經(jīng)歷了從被動審查到主動審查、從有限審查到全面審查的深刻轉(zhuǎn)變，這種審查義務(wù)蘊涵著濃厚的注意義務(wù)屬性，并趨向于勤勉盡責(zé)的義務(wù)標準。

（一）從被動審查到主動審查的轉(zhuǎn)變

從審查方式看，根據(jù)《網(wǎng)絡(luò)安全法》《征求意見稿》等法規(guī)范，我國的平臺審查方式既包括接受投訴和舉報的被動審查，也包括平臺的主動審查。在域外，平臺審查方式最初僅限于根據(jù)“通知—刪除”規(guī)則對用戶發(fā)布和傳播的非法信息進行被動審查，但遺憾的是以“通知—刪除”為路徑的被動審查治理效果不佳?！巴ㄖ獎h除”規(guī)則源于美國《數(shù)字千年版權(quán)法》第2章第512條，該“避風(fēng)港”條款要求網(wǎng)絡(luò)服務(wù)提供者在收到權(quán)利人通知的前提下履行刪除義務(wù)，從而獲得法律豁免。該規(guī)則是企業(yè)承擔(dān)守法的社會責(zé)任的體現(xiàn)?！巴ㄖ獎h除”規(guī)則后被《英國反恐法》（Terrorism Act 2006）和《歐盟反恐指令》（EU2017/541）等法案吸納，為平臺設(shè)定針對涉恐信息的“通知—刪除”審查機制。有學(xué)者指出，《英國反恐法》的“通知—刪除”機制存在巨大缺陷，未能明確“刪除義務(wù)”的主體，導(dǎo)致網(wǎng)絡(luò)服務(wù)提供商的具體控制義務(wù)不明;第3條第5款和第6款針對相似內(nèi)容的注意義務(wù)為平臺提供了抗辯條款[《英國反恐法》第3條（5）規(guī)定：“在根據(jù)第（1）款和第（2）款所述罪行提起的法律程序中，如被告人證明其實施了以下措施，可免除處罰：（a）在類似違法內(nèi)容傳播前，已采取可能采取的所有合理手段以防止公眾重復(fù)接觸到類似違法信息?！钡?條（6）規(guī)定：“或在任何時間下，（a）對類似違法內(nèi)容傳播不知情;（b）知情后已采取合理的補救措施確保該信息不再向公眾提供?！眳⒁奣he Terrorism Act 2006， Article 3 （2006）.]，導(dǎo)致該機制的執(zhí)行效果不佳;法案規(guī)定的“送達”為實物介質(zhì)送達，使流程運轉(zhuǎn)極為緩慢，直接增加了時間成本。[See I. Awan， Policing the Global Phenomenon of Cyber Terrorism and Extremism， in Policing Cyber Hate， Cyber Threats and Cyber Terrorism， Routledge， 2016， p.109-124.]

2017年德國《網(wǎng)絡(luò)執(zhí)行法》完善了“通知—刪除”規(guī)則，要求擁有超過200萬用戶的平臺，應(yīng)在收到投訴的24小時內(nèi)刪除“明顯非法”內(nèi)容，違反規(guī)定的公司面臨最高5000萬歐元罰款。該法在“通知—刪除”規(guī)則外，引入政府的外部合規(guī)審查，針對可能違反刑法的內(nèi)容，加強對網(wǎng)絡(luò)平臺自我規(guī)制的規(guī)制，以督促網(wǎng)絡(luò)服務(wù)提供者履行主動審查義務(wù)，要求社交網(wǎng)絡(luò)平臺設(shè)置用戶友好型投訴程序，并承擔(dān)定期通報義務(wù)。[查云飛：《德國對網(wǎng)絡(luò)平臺的行政法規(guī)制——邁向合規(guī)審查之路徑》，載《德國研究》2018年第3期，第72-87頁。]由此，平臺對非法內(nèi)容的審查被更好地納入政府監(jiān)管的制度框架，審查標準和流程得以明確。實踐證明，平臺主動審查有著比“通知-刪除”規(guī)則下的被動審查更顯著的治理效果。Facebook公司2020年共處置用戶發(fā)布的涉恐信息3330萬條、網(wǎng)絡(luò)仇恨信息1910萬條，2021年第一季度處理涉恐信息900萬條、網(wǎng)絡(luò)仇恨信息980萬條。其中，99%以上的非法信息由平臺主動發(fā)現(xiàn)。[See Transparency Center， Community Standards Enforcement | Transparency Center， （July 17， 2021）， https：//transparency.fb.com/data/community-standards-enforcement/dangerous-organizations/facebook#CONTENT_ACTIONED.]在數(shù)字化時代，平臺生態(tài)系統(tǒng)中上傳和流動的海量信息組成了蔚為壯觀的“數(shù)據(jù)宇宙”，僅憑基于“通知—刪除”規(guī)則的用戶投訴或政府外部監(jiān)管根本無從有效控制非法信息傳播。相對平臺生態(tài)系統(tǒng)，政府監(jiān)管部門的治理距離過于遙遠，平臺生態(tài)系統(tǒng)運營者的主動審查顯然更有助于實現(xiàn)網(wǎng)絡(luò)犯罪的及時阻斷。

2018年歐盟公布的《關(guān)于防止恐怖主義內(nèi)容在線傳播的提案》第1條明確了信息托管服務(wù)提供商應(yīng)承擔(dān)主動規(guī)避涉恐信息的注意義務(wù)，預(yù)防利用其服務(wù)傳播恐怖主義的行為，在必要時確保迅速刪除涉恐信息。該提案第6條規(guī)定平臺應(yīng)采用主管當局認可的有效積極措施，以自動化決策防范相似違法內(nèi)容重復(fù)上傳，檢測、識別并快速刪除恐怖主義內(nèi)容或禁止恐怖主義內(nèi)容的域內(nèi)訪問。[See European Commission， Directive（EU） 2017/541 of the European Parliament and of the Council on combating terrorism and replacing Council Framework Decision 2002/475/JHA and amending Council Decision 2005/671/JHA， （Sept. 1， 2021）， https：//www.legislation.gov.uk/eudr/2017/541/introduction.]2018年生效的《歐盟視聽媒體服務(wù)指令》要求對視頻共享平臺構(gòu)建共同監(jiān)管的規(guī)制體系。該指令要求成員國應(yīng)確保其管轄的視頻共享平臺對可能損害未成年人身心和道德發(fā)展的信息、具有煽動性的暴力或仇恨相關(guān)的信息、涉刑事犯罪的信息履行監(jiān)管義務(wù)。[See EU Audiovisual Media Services Directive， Art. 28 （2018）.]2018年生效的美國《反網(wǎng)絡(luò)性交易法案》也要求平臺承擔(dān)對網(wǎng)絡(luò)賣淫的主動審查義務(wù)。[See C. Bakalis， and J. Hornle， The Role of Social Media Companies in the Regulation of Online Hate Speech， in Studies in Law， Politics， and Society， Emerald Publishing Limited，2021.]2020年公布的《數(shù)字服務(wù)法（草案）》（DSA）更是明確了平臺對非法內(nèi)容的主動審查義務(wù)（下文詳述）?？梢?，不僅我國強調(diào)平臺對非法內(nèi)容的主動審查，以歐盟為代表的全球主要法域也開始重視平臺的主動審查。

（二）從有限審查到全面審查的擴張

從審查對象看，歐盟的平臺主動審查主要聚焦于涉恐怖主義和兒童色情的非法內(nèi)容;但非法內(nèi)容的范圍呈擴張趨勢。DSA法案附則第12條規(guī)定，“‘非法內(nèi)容的概念應(yīng)作廣義的理解，涵蓋與非法內(nèi)容、產(chǎn)品、服務(wù)和活動有關(guān)的信息。特別是，該概念應(yīng)理解為信息根據(jù)適用的法律本身就是非法的，無論其形式如何?！盵See Digital Services Act， Recital 12（2020）.]待DSA法案生效后，平臺的審查范圍將從傳統(tǒng)的涉恐、涉仇恨犯罪、涉兒童色情擴張至包括網(wǎng)絡(luò)售假、網(wǎng)絡(luò)詐騙等更廣泛的非法內(nèi)容。非法性的判斷依據(jù)在于歐盟法及與歐盟法一致的成員國法律。值得注意的是，雖然DSA第7條不承認平臺具有對信息內(nèi)容的一般性審查義務(wù)，但附則第28條規(guī)定平臺不承擔(dān)一般性的監(jiān)測義務(wù)并不影響具體情況下的監(jiān)測義務(wù)，特別是不影響主管機關(guān)根據(jù)國家立法和本條例規(guī)定的條件而下達的命令。[See Digital Services Act， Recital 28（2020）.]鑒于成員國法律內(nèi)涵的廣泛性以及執(zhí)法部門控制犯罪的需要時常處于變動之中，執(zhí)法部門對平臺下達的指令存在較強不確定性，平臺據(jù)此承擔(dān)的審查義務(wù)實際具有相當程度的廣泛性。可見，在歐盟，平臺對非法內(nèi)容的審查絕非有限審查，而至少是具有開放性的積極審查。

DSA附則第57條進一步表明平臺審查義務(wù)具有積極性乃至廣泛性的特點。該條款要求超大型在線平臺應(yīng)深入評估涉及三類系統(tǒng)性風(fēng)險的信息：第一類風(fēng)險涉及通過散布非法內(nèi)容的濫用服務(wù)和實施非法活動;第二類風(fēng)險涉及對行使《歐盟基本權(quán)利憲章》保護的基本權(quán)利產(chǎn)生的影響;第三類風(fēng)險涉及以通謀方式操縱平臺服務(wù)，對健康、公民言論，選舉程序、公共安全和未成年人保護具有可預(yù)見的影響，同時應(yīng)考慮維護公共秩序，保護隱私及打擊欺詐性商業(yè)行為的需要。[See Digital Services Act， Recital 57（2020）.]上述系統(tǒng)性風(fēng)險廣泛涵蓋各種利用平臺服務(wù)實施的違規(guī)違法犯罪風(fēng)險，具有相當程度的開放性?？梢?，超大型在線平臺的審查義務(wù)即便在法案中不使用普遍性或一般性的用語，也在實質(zhì)意義上蘊涵著相當程度的普遍性和一般性。

相較歐盟的審查對象擴張，我國的平臺審查義務(wù)始終堅持對違法犯罪信息的全面審查?！毒W(wǎng)絡(luò)安全法》第9條規(guī)定網(wǎng)絡(luò)運營者應(yīng)“履行網(wǎng)絡(luò)安全保護義務(wù)”;第47條規(guī)定：“網(wǎng)絡(luò)運營者應(yīng)當加強對其用戶發(fā)布的信息的管理，發(fā)現(xiàn)法律、行政法規(guī)禁止發(fā)布或者傳輸?shù)男畔⒌?，?yīng)當立即停止傳輸該信息，采取消除等處置措施，防止信息擴散，保存有關(guān)記錄，并向有關(guān)主管部門報告?！薄痘ヂ?lián)網(wǎng)用戶公眾賬號信息服務(wù)管理規(guī)定》第12條要求平臺對用戶公眾賬號的留言、跟帖、評論等互動環(huán)節(jié)進行實時管理。《征求意見稿》第16條要求互聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)建立信息發(fā)布審核制度、配備網(wǎng)絡(luò)與信息安全管理人員、建立網(wǎng)絡(luò)與信息安全管理制度，加強公共信息巡查?？梢?，無論是一般性的安全保護義務(wù)，還是具體化的內(nèi)容審查制度，均為平臺的全面審查提出了綜合性要求。為適應(yīng)普遍性的審查義務(wù)，全球主要超大型在線平臺均組織起龐大的內(nèi)容審核團隊，打造出基于人工智能的自動化決策與人工審核相結(jié)合的審查流程。近年來，F(xiàn)acebook的內(nèi)容審核團隊急劇擴張，從2012年的50人增長為2020年的1萬余人。[參見《Facebook 審核人員暴增，科技巨頭的漫漫審核路》，百度網(wǎng)2020年4月15日，https：//baijiahao.baidu.com/s？id=1664030490630219735&wfr=spider&for=pc。]據(jù)調(diào)研，2020年B站內(nèi)容篩選團隊約有2400名員工;小紅書審核員工有1000多人;字節(jié)跳動的內(nèi)容審核員超過2萬人。

（三）趨于勤勉盡責(zé)的注意義務(wù)標準

在主動審查和全面審查的基礎(chǔ)上，平臺對非法內(nèi)容的審查應(yīng)達到何種標準？這直指犯罪控制義務(wù)的本質(zhì)屬性。犯罪控制義務(wù)源于平臺的主體責(zé)任，主體責(zé)任將平臺設(shè)定為國家與違法個體之間的“監(jiān)控中介”[See Alan Z. Rozenshtein，Surveillance Intermediaries，70 Stanford Law Review 99， 112-114（2018）.]（Surveillance Intermediaries）。在“國家管平臺、平臺管用戶”的治理路徑下，犯罪控制義務(wù)在本質(zhì)上是平臺實施犯罪控制活動的注意義務(wù)。這種注意義務(wù)不單是“義務(wù)主體作為危險制造者而謹慎、小心地行為而不使自己的行為給他人造成損害的消極義務(wù)”[屈茂輝：《論民法上的注意義務(wù)》，載《北方法學(xué)》2007年第1期，第25-26頁。];還包括作為危險管控者防范危險給社會造成損害的積極義務(wù)。在主體責(zé)任下，平臺對平臺生態(tài)系統(tǒng)中的違法犯罪或平臺服務(wù)被不法分子用于違法犯罪應(yīng)承擔(dān)積極的注意義務(wù)。作為平臺生態(tài)系統(tǒng)的運營者和數(shù)字社會的看門人，平臺為避免國家、社會和平臺用戶遭受犯罪侵害而應(yīng)承擔(dān)積極作為的危險規(guī)避責(zé)任，采取有效措施最大限度地發(fā)現(xiàn)和處理非法信息內(nèi)容，盡可能防范、識別、制止所提供的服務(wù)被用于實施違法犯罪。

在域外，平臺控制犯罪的注意義務(wù)屬性獲得相關(guān)政策法律文件的認可。2019年，英國發(fā)布《網(wǎng)絡(luò)有害內(nèi)容白皮書》（以下簡稱《白皮書》）提出以“注意義務(wù)”（duty of care）替代“通知—刪除”的要求，注意義務(wù)的內(nèi)容和標準由監(jiān)管部門制定，監(jiān)管部門要求不論用戶是否通知或投訴，平臺應(yīng)優(yōu)先主動審查、積極刪除涉恐怖主義和兒童色情的非法內(nèi)容。《白皮書》要求平臺從以下方面履行注意義務(wù)：確保內(nèi)部條款符合監(jiān)管機構(gòu)的標準，并適時報告執(zhí)行情況;嚴格遵守和履行已制定的內(nèi)部條款和流程;預(yù)防重復(fù)性的恐怖主義和兒童色情信息再次傳播;在收到舉報后采取及時、透明、有效的行動;積極協(xié)助司法機關(guān)的調(diào)查;積極幫助受損害的用戶維權(quán);定期審查其對注意義務(wù)的履行情況，并及時調(diào)整策略。[See Government of the United Kingdom， Online Harms White Paper， （Aug. 19， 2021）， https：//www.gov.uk/government/consultations/online-harms-white-paper/online-harms-white-paper#part-3-regulation-in-practice.]《白皮書》強調(diào)的上述“注意義務(wù)”是以犯罪風(fēng)險規(guī)避為實質(zhì)的積極作為義務(wù)，包括一系列的主動控制和響應(yīng)控制行為，并在英國《網(wǎng)絡(luò)安全法》中獲得進一步明確。

在《白皮書》基礎(chǔ)上，DSA草案提出更為詳盡的積極作為規(guī)定，將積極作為的注意義務(wù)表述為“勤勉盡責(zé)義務(wù)”（Due diligence obligations）。DSA第三章以“維護透明且安全的在線環(huán)境應(yīng)盡的勤勉盡責(zé)義務(wù)”為標題，要求平臺以“看門人”身份對非法內(nèi)容進行主動審查。DSA通過一系列條款細化了“勤勉盡責(zé)”的具體要求，第13條規(guī)定“中介服務(wù)提供商的透明性報告義務(wù)”，要求中介服務(wù)提供商至少以每年一次的頻率，就其開展的非法內(nèi)容審查活動向社會發(fā)布清晰、易于理解且詳細的報告，保障公眾知情權(quán)和監(jiān)督權(quán)。第14條規(guī)定平臺應(yīng)建立通知及響應(yīng)機制，允許任何個人對認為其所提供的服務(wù)和特定信息條目中存在非法內(nèi)容時做出通知，保障便捷有效的在線監(jiān)督機制。第21條規(guī)定了平臺的刑事犯罪報告義務(wù)，“當在線平臺了解到任何可疑信息，懷疑涉及人的生命或安全的嚴重刑事犯罪已經(jīng)發(fā)生、正在發(fā)生或可能發(fā)生，應(yīng)將其懷疑立即通知一個或多個相關(guān)成員國的執(zhí)法或司法機關(guān)，并提供相關(guān)信息?！盵See Digital Service Act， §21 （2020）.]刑事犯罪報告義務(wù)是非法內(nèi)容審查的自然延伸，是平臺與監(jiān)管機構(gòu)的協(xié)作形式。第26條規(guī)定了超大型在線平臺對平臺服務(wù)中的非法內(nèi)容傳播等系統(tǒng)性風(fēng)險進行積極管控的義務(wù);第27條要求超大型在線平臺對系統(tǒng)性風(fēng)險采取合理、適當、有效的緩解措施?？梢姡珼SA草案鞏固了平臺控制犯罪的“看門人”主體定位，明確了平臺履行注意義務(wù)的勤勉盡責(zé)要求，搭建起歐盟應(yīng)對網(wǎng)絡(luò)犯罪挑戰(zhàn)的全新制度框架。

在我國，平臺的勤勉盡責(zé)要求全面覆蓋風(fēng)險識別、停止傳輸、刪除信息、防止擴散、保存記錄、報告有關(guān)部門等犯罪治理的全鏈路，并體現(xiàn)于主管部門組織平臺企業(yè)簽訂的犯罪治理責(zé)任書之中。2019年7月，工信部會同公安部、網(wǎng)信辦組織阿里巴巴、騰訊、百度等11家單位簽訂“重點互聯(lián)網(wǎng)企業(yè)防范治理電信網(wǎng)絡(luò)詐騙責(zé)任書”，將犯罪控制義務(wù)壓實和細化。責(zé)任書要求企業(yè)必須建立電信網(wǎng)絡(luò)詐騙防范治理制度體系，嚴格落實用戶賬戶管理要求，建立違規(guī)賬戶依法關(guān)停機制，建立完善詐騙風(fēng)險巡查預(yù)警和快速響應(yīng)處置機制，建立完善電信網(wǎng)絡(luò)詐騙技術(shù)防范體系，加強企業(yè)平臺的電信網(wǎng)絡(luò)詐騙問題清理和新業(yè)務(wù)的詐騙風(fēng)險安全評估。[參見《凈化網(wǎng)絡(luò)通信環(huán)境！重點互聯(lián)網(wǎng)企業(yè)簽訂防范治理電信網(wǎng)絡(luò)詐騙責(zé)任書》，載浙江新聞網(wǎng)2019年7月11日，https：//zj.zjol.com.cn/news/1240712.html。]目前處于全國人大審議階段的《反電詐法（草案）》充分汲取了責(zé)任書的反詐治理經(jīng)驗，將責(zé)任書的治理經(jīng)驗上升為法律規(guī)定。

責(zé)任書要求將犯罪控制的注意義務(wù)嵌入平臺服務(wù)、細化為平臺規(guī)則，這種勤勉盡責(zé)標準具體體現(xiàn)在以下方面：其一，在制度上，責(zé)任書要求平臺建立電詐犯罪治理的制度體系，明確責(zé)任主體、完善平臺規(guī)則、形成治理閉環(huán)，將防范電詐犯罪工作責(zé)任的落實情況納入企業(yè)年報。其二，在重點上，責(zé)任書要求平臺加強對用戶賬戶的管理，嚴格落實賬戶關(guān)停機制，及時關(guān)停發(fā)布非法內(nèi)容的賬戶，從源頭上控制電詐信息的傳播。其三，在手段上，責(zé)任書要求平臺發(fā)揮技術(shù)優(yōu)勢，加強對電詐犯罪的技術(shù)治理，完善平臺側(cè)的智能分析系統(tǒng)，形成日?；闹鲃友膊榧翱焖夙憫?yīng)處置機制，創(chuàng)新終端側(cè)的反詐技術(shù)產(chǎn)品，提升犯罪風(fēng)險的事前預(yù)警和事中阻斷能力。其四，在專項行動上，責(zé)任書要求平臺落實電詐問題集中清理的任務(wù)，識別并補強平臺治理的薄弱環(huán)節(jié)，對平臺生態(tài)系統(tǒng)進行全面排查，將違規(guī)買賣電話充值卡、電話卡、物聯(lián)網(wǎng)卡等交易活動關(guān)?；蛳录堋Ｆ湮?，在風(fēng)控上，責(zé)任書要求平臺加強對新業(yè)務(wù)的電詐風(fēng)險進行安全評估，在新業(yè)務(wù)、新應(yīng)用的立項研發(fā)和上線運營等環(huán)節(jié)強化電詐風(fēng)險的源頭治理。其六，在協(xié)同上，完善電詐舉報通報的處置流程。對公安通報、用戶舉報的電詐線索依法核查處置，及時反饋結(jié)果;將平臺主動發(fā)現(xiàn)的違法線索向公安機關(guān)和主管部門報告，加強犯罪情報共享和防控協(xié)同聯(lián)動。

根據(jù)《征求意見稿》第21條，平臺勤勉盡責(zé)的注意對象不僅適用于電詐犯罪的防范，還包括對其他利用平臺服務(wù)實施的各類違法犯罪的防范。由此，犯罪控制義務(wù)的勤勉盡責(zé)履行成為平臺治理的實現(xiàn)路徑。為保障平臺勤勉盡責(zé)地履行犯罪控制義務(wù)，不僅《征求意見稿》針對平臺履行義務(wù)不力的情況苛以警告、責(zé)令限期整改、罰款、責(zé)令暫停相關(guān)業(yè)務(wù)、停業(yè)整頓、吊銷業(yè)務(wù)許可證或營業(yè)執(zhí)照等行政處罰，刑法還對平臺未盡職履責(zé)設(shè)定了刑事責(zé)任?！缎谭ㄐ拚福ň牛吩鲈O(shè)的“拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪”在國外刑法中亦有類似規(guī)定。2019年生效的澳大利亞《關(guān)于分享仇恨暴力內(nèi)容的刑法修正案》規(guī)定，互聯(lián)網(wǎng)托管服務(wù)平臺未能及時刪除令人憎惡的暴力內(nèi)容，提供托管服務(wù)的負責(zé)人將面臨最高3年的有期徒刑，并將處以年收入10%的罰款。其中，在《澳大利亞聯(lián)邦刑法典》第474條之中增加兩款規(guī)定，該條第33款明確了網(wǎng)絡(luò)服務(wù)提供商、內(nèi)容服務(wù)提供商和主機服務(wù)提供商在發(fā)現(xiàn)仇恨暴力內(nèi)容后承擔(dān)向聯(lián)邦警察局報告的義務(wù)，并規(guī)定違反報告義務(wù)應(yīng)承擔(dān)的罰金刑;該條第34款要求平臺在明確本平臺或服務(wù)器內(nèi)存在仇恨暴力相關(guān)的內(nèi)容即應(yīng)立即刪除，否則構(gòu)成刑事犯罪。[See Criminal Code Amendment （Sharing of Abhorrent Violent Material） Act 2019.]

五、結(jié)語

在以平臺為樞紐的雙層社會中，犯罪治理呈現(xiàn)“多層級治理”[See S. Piattoni， The Theory of Multi-level Governance： Conceptual， Empirical， and Normative Challenges， Oxford University Press， 2010.]（multi-level governance）的新態(tài)勢。為回應(yīng)新型網(wǎng)絡(luò)犯罪的挑戰(zhàn)，在國家對違法犯罪或不法分子的直接治理之外，“國家管平臺、平臺管用戶”的間接性的平臺治理勃興。從治理的制度依據(jù)看，平臺治理高效推進的關(guān)鍵在于平臺對犯罪控制義務(wù)的履行。隨著《征求意見稿》《反電詐法（草案）》等法規(guī)范的出臺，犯罪控制義務(wù)的主體從國家擴展至互聯(lián)網(wǎng)平臺，犯罪控制義務(wù)從概括性的安全保護義務(wù)中脫胎而出，成為一種以主動控制和響應(yīng)控制為內(nèi)涵、以犯罪風(fēng)險規(guī)避為目標、以非法內(nèi)容審查為方式、以勤勉盡責(zé)為標準的法定注意義務(wù)。待《征求意見稿》《反電詐法》生效后，平臺控制犯罪的勤勉盡責(zé)標準應(yīng)盡快以行政法規(guī)或部門規(guī)章形式予以明確，從而推動犯罪控制義務(wù)從原則性義務(wù)走向規(guī)則性義務(wù)，并進一步轉(zhuǎn)化為體系性的平臺規(guī)則和算法形態(tài)的技術(shù)規(guī)則，在法律規(guī)則、平臺規(guī)則和技術(shù)規(guī)則的統(tǒng)合下推動犯罪控制義務(wù)的日?；男?。ML

The Crime Control Obligation of Internet Platforms

SHAN Yong

（Law school， Nanjing University， Nanjing 210093， China）

Abstract：New cybercrimes parasitize the platform ecosystem operated by Internet platform corporations when traditional crimes fall but cybercrimes rise now. Platform-based governance appears because platforms are responsible for network security. They have unique governance advantages and the moral obligation to prevent users from infringements. There are sufficient facts， policy basis， and unique normative basis for platform governance. The crime control obligation of platforms is set in Administrative Measures for Internet Information Services （ Draft Amendment for Public Comment） and Combating Telecom and Online Fraud Law （Draft）. Platforms shall perform the statutory duty of care for crimes committed through their services. The statutory duty of care includes active control and response control， aims at crime risk aversion and takes diligence as the standard. Its main method is the censorship of illegal content. The obligation of crime control constitutes the legal basis of the platform governance of crime， and the platform' s diligent and responsible implementation of the obligation build the path of platform governance.

Key Words：cyber crime; crime governance; platform governance; obligation of crime control; due diligence obligations standard

本文責(zé)任編輯：李曉鋒

青年學(xué)術(shù)編輯：張永強

收稿日期：2022-01-13

基金項目：2020年度國家社科基金一般項目“數(shù)據(jù)正義視域下犯罪的技術(shù)治理均衡發(fā)展研究”（20BFX066）

作者簡介：單勇（1979），男，黑龍江黑河人，南京大學(xué)法學(xué)院教授，博士生導(dǎo)師，法學(xué)博士。

① 作為綜合治理的本質(zhì)特征，組織化調(diào)控是指通過黨的組織網(wǎng)絡(luò)和政府的組織體系，在組織建設(shè)和組織網(wǎng)絡(luò)滲透中不斷建立和完善執(zhí)政黨主導(dǎo)的權(quán)力組織網(wǎng)絡(luò)，使社會本身趨向高度的組織化，通過組織來實現(xiàn)國家治理目的的社會調(diào)控形式。參見唐皇鳳：《社會轉(zhuǎn)型與組織化調(diào)控——中國社會治安綜合治理組織網(wǎng)絡(luò)研究》，武漢大學(xué)出版社2008年版，第60-61頁。

② 國務(wù)院反壟斷委員會《關(guān)于平臺經(jīng)濟領(lǐng)域的反壟斷指南》第2條規(guī)定，互聯(lián)網(wǎng)平臺是指通過網(wǎng)絡(luò)信息技術(shù)，使相互依賴的雙邊或者多邊主體在特定載體提供的規(guī)則下交互，以此共同創(chuàng)造價值的商業(yè)組織形態(tài)。