国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

新安全格局下人臉識(shí)別技術(shù)應(yīng)用的法律規(guī)制

2024-03-01 15:23:36宋丁博男張家豪
科學(xué)決策 2024年2期
關(guān)鍵詞:人臉識(shí)別人臉規(guī)制

宋丁博男 張家豪

1 引 言

加快構(gòu)建新安全格局是全面貫徹總體國(guó)家安全觀的內(nèi)在要求和實(shí)踐方略。黨的二十大報(bào)告指出,要加強(qiáng)個(gè)人信息保護(hù),強(qiáng)化數(shù)據(jù)安全保障體系建設(shè),以新安全格局保障新發(fā)展格局,同時(shí)要求以人工智能為引擎推動(dòng)戰(zhàn)略性新興產(chǎn)業(yè)融合集群發(fā)展。作為人工智能發(fā)展的重要體現(xiàn),人臉識(shí)別技術(shù)被廣泛應(yīng)用于身份識(shí)別、金融支付、社會(huì)治理等場(chǎng)景。但是,人臉識(shí)別技術(shù)的引入與傳統(tǒng)社會(huì)秩序結(jié)構(gòu)的融合并不能無(wú)縫或自動(dòng)實(shí)現(xiàn),反而會(huì)帶來(lái)重大的技術(shù)、政治和法律挑戰(zhàn),涉及各種既定秩序規(guī)則與法律規(guī)范之間的沖突和談判。2023 年8月,《人臉識(shí)別技術(shù)應(yīng)用安全管理規(guī)定(試行)(征求意見稿)》(以下簡(jiǎn)稱《人臉識(shí)別管理規(guī)定》)的出臺(tái)使我國(guó)人臉識(shí)別技術(shù)應(yīng)用的治理路徑呈現(xiàn)出安全化、場(chǎng)景化、動(dòng)態(tài)化、精細(xì)化的新特征。據(jù)預(yù)測(cè),我國(guó)人臉識(shí)別市場(chǎng)規(guī)模在2024 年將突破100 億元。因此,如何通過制度優(yōu)化規(guī)范人臉識(shí)別技術(shù)應(yīng)用,健全數(shù)據(jù)安全治理體系,成為構(gòu)建中國(guó)式現(xiàn)代化數(shù)據(jù)治理體系的重點(diǎn)議題。

作為人工智能領(lǐng)域的落地標(biāo)桿技術(shù),人臉識(shí)別技術(shù)應(yīng)用的法律規(guī)制與人工智能領(lǐng)域個(gè)人信息的法治化研究相承接。第一,從理論研究角度來(lái)說(shuō),人臉信息是人臉識(shí)別技術(shù)的核心來(lái)源(Shore,2022[1]),兼具人格權(quán)和財(cái)產(chǎn)權(quán)屬性,實(shí)踐中易產(chǎn)生個(gè)人信息安全風(fēng)險(xiǎn)(郭春鎮(zhèn),2020[2];Liu,2021[3])。同時(shí),鑒于人臉識(shí)別技術(shù)具有泄露、破解及誤差風(fēng)險(xiǎn),應(yīng)從風(fēng)險(xiǎn)規(guī)制的視角提供治理思路(Purshouse,2022[4])。第二,從實(shí)踐進(jìn)路研究角度來(lái)說(shuō),基于對(duì)美國(guó)、歐盟等地人臉識(shí)別技術(shù)規(guī)制體系的比較研究(邢會(huì)強(qiáng),2020[5];曾雄等,2021[6]),從立法體系(韓旭至,2021[7];黎靜儀等,2022[8])、賠償制度(羅斌和李卓雄,2021[9];石超和張蓓潔,2022[10])、行政監(jiān)管(于洋,2021[11];Kostka,2023[12])等不同面向提出人臉識(shí)別技術(shù)應(yīng)用的治理方案。

總體來(lái)看,現(xiàn)有研究多集中于在個(gè)人信息保護(hù)視域下探討人臉識(shí)別技術(shù)應(yīng)用的法律規(guī)制問題,且多從行政規(guī)制的方向切入。規(guī)制措施的單一性導(dǎo)致新安全格局下人臉識(shí)別技術(shù)應(yīng)用的風(fēng)險(xiǎn)傳導(dǎo)與利益分配之間存在斷裂性特征,缺乏多元化的應(yīng)對(duì)措施。對(duì)此,本文以算法安全理論和數(shù)字人權(quán)理論為依據(jù),全面剖析了新安全格局下人臉識(shí)別技術(shù)應(yīng)用的法律風(fēng)險(xiǎn)與規(guī)制困境,并結(jié)合域外先進(jìn)立法經(jīng)驗(yàn),提出了統(tǒng)籌發(fā)展和安全的法律規(guī)制路徑。

2 新安全格局下人臉識(shí)別技術(shù)應(yīng)用的現(xiàn)實(shí)困境

新安全格局強(qiáng)調(diào)科技支撐,通過科技自立自強(qiáng)防范化解重大風(fēng)險(xiǎn)(朱正威等,2023[13])。而人臉識(shí)別技術(shù)根植于人工智能算法框架,在推動(dòng)科技創(chuàng)新、助力社會(huì)治理的同時(shí),還易引發(fā)算法安全風(fēng)險(xiǎn)與個(gè)人信息安全風(fēng)險(xiǎn),給人臉識(shí)別技術(shù)應(yīng)用治理帶來(lái)挑戰(zhàn)。

2.1 人臉識(shí)別技術(shù)應(yīng)用的法律風(fēng)險(xiǎn)

2.1.1 算法安全風(fēng)險(xiǎn)

人臉識(shí)別技術(shù)是指機(jī)器對(duì)人臉信息進(jìn)行圖像采集、提取特征、比對(duì)識(shí)別,以鑒定其身份的一項(xiàng)人工智能技術(shù)(徐竟?jié)傻龋?019[14])。該技術(shù)在實(shí)際應(yīng)用中能夠同時(shí)處理多個(gè)人臉信息(張溪瑨和王曉麗,2023[15]),采用各國(guó)研發(fā)的不同算法將人臉信息進(jìn)行分類、比對(duì)、校驗(yàn),并利用人臉識(shí)別技術(shù)的通用性、并發(fā)性、非接觸性等特征,快速無(wú)感地識(shí)別大量人臉信息。而在此過程中,基于人臉識(shí)別技術(shù)特征產(chǎn)生的算法博弈、算法歧視及算法誤判等風(fēng)險(xiǎn)迭代增生,給算法安全造成沖擊。

第一,在宏觀的國(guó)家應(yīng)用層面,算法安全屬于非傳統(tǒng)安全的范疇,其首先是被動(dòng)的算法防御,國(guó)家安全不受外部算法損害是實(shí)現(xiàn)算法安全的首要條件。同時(shí),算法博弈對(duì)現(xiàn)有國(guó)際戰(zhàn)略形勢(shì)產(chǎn)生影響,主動(dòng)競(jìng)爭(zhēng)成為算法安全的新形態(tài)(羅有成,2023[16])。由于算法模型具有國(guó)際通用性,其技術(shù)邏輯與要素生成具有同一性,因此一旦人臉識(shí)別技術(shù)的共享應(yīng)用存在漏洞,人臉信息將批量流轉(zhuǎn),不僅損害信息安全,還會(huì)對(duì)國(guó)家算法防御體系產(chǎn)生重大威脅,侵害國(guó)家根本利益。

第二,在中觀的社會(huì)應(yīng)用層面,人臉識(shí)別技術(shù)的并發(fā)性特征易引發(fā)算法歧視風(fēng)險(xiǎn)。在人臉識(shí)別技術(shù)應(yīng)用中,人臉信息經(jīng)采集后進(jìn)入隱蔽的算法黑箱并進(jìn)行深度分析。而此環(huán)節(jié)往往存在著對(duì)社會(huì)群體無(wú)依據(jù)、不合理的篩選評(píng)估,產(chǎn)生分類、排除等“標(biāo)簽化”行為,涉及算法歧視和算法偏見。而這種歧視往往是持續(xù)的、不可逆的,個(gè)人無(wú)法決定人臉識(shí)別技術(shù)的應(yīng)用過程,一旦算法歧視產(chǎn)生將難以中止,信息主體將面臨取證難、補(bǔ)救難等困境。此外,企業(yè)主體在應(yīng)用人臉識(shí)別技術(shù)的過程中,為制定精準(zhǔn)的市場(chǎng)戰(zhàn)略,往往會(huì)通過“情感計(jì)算”等方式對(duì)人臉信息進(jìn)行自動(dòng)化決策(唐林垚,2022[17]),但同時(shí)也易引發(fā)自動(dòng)化決策歧視,對(duì)個(gè)人區(qū)別對(duì)待,侵害算法嵌入社會(huì)時(shí)的實(shí)質(zhì)公平,不利于算法安全的持續(xù)穩(wěn)定。

第三,在微觀的個(gè)人應(yīng)用層面,算法的數(shù)據(jù)來(lái)源于每個(gè)個(gè)體,是算法安全的微觀形態(tài),其準(zhǔn)確性將直接關(guān)系到算法是否安全可控,而算法系統(tǒng)自身的脆弱性往往導(dǎo)致對(duì)數(shù)據(jù)丟失、數(shù)據(jù)投毒等威脅難以及時(shí)響應(yīng)。例如,人臉識(shí)別技術(shù)就存在著深度學(xué)習(xí)能力有限、樣本數(shù)據(jù)不足等問題,從而引發(fā)算法誤判風(fēng)險(xiǎn)。此外,基于人臉面具模型產(chǎn)生的3D 欺騙攻擊蔓延滋生(孫道銳,2021[18]),攻擊者通過向人臉識(shí)別技術(shù)系統(tǒng)演示假識(shí)別信息實(shí)施欺騙攻擊,而人臉識(shí)別技術(shù)反欺騙攻擊策略的不完善導(dǎo)致“代驗(yàn)證”“過人臉”等黑灰產(chǎn)業(yè)鏈持續(xù)擴(kuò)張,誘發(fā)犯罪行為。由此可見,算法誤判風(fēng)險(xiǎn)不僅會(huì)降低人臉識(shí)別技術(shù)的應(yīng)用效率與安全指數(shù),公眾還會(huì)對(duì)人臉識(shí)別技術(shù)參與社會(huì)治理產(chǎn)生信任危機(jī),不利于保障作為算法安全基本單元的個(gè)人的數(shù)據(jù)權(quán)益。

2.1.2 人臉信息風(fēng)險(xiǎn)

數(shù)字生活安寧與財(cái)產(chǎn)安全是數(shù)字時(shí)代個(gè)人利益的重要方面,“數(shù)字化生存”實(shí)踐與第四代人權(quán)理論催生了數(shù)字人權(quán)理論,“數(shù)字人權(quán)”概念可界定為展現(xiàn)著智慧社會(huì)中人的數(shù)字化生存樣態(tài)和發(fā)展需求的基本權(quán)利(馬長(zhǎng)山,2019[19])?!秱€(gè)人信息保護(hù)法》第28 條將人臉信息等生物識(shí)別信息確定為敏感個(gè)人信息,具有高度的人格利益屬性,與個(gè)人隱私、個(gè)人行動(dòng)自由等利益密切相關(guān)。因此,人臉識(shí)別技術(shù)應(yīng)用過程中由于不當(dāng)處理人臉信息所引發(fā)的信息泄露、濫用等風(fēng)險(xiǎn),將會(huì)對(duì)個(gè)人人格利益和財(cái)產(chǎn)利益產(chǎn)生嚴(yán)重威脅。

第一,信息泄露造成隱私威脅和財(cái)產(chǎn)風(fēng)險(xiǎn)。一方面,對(duì)人臉信息的處理如果不符合敏感個(gè)人信息的安全處理要求,導(dǎo)致人臉信息泄露,容易對(duì)人格尊嚴(yán)產(chǎn)生侵害。人臉信息具有高度專屬性與識(shí)別性,對(duì)人臉信息進(jìn)行采集分析后將建立數(shù)據(jù)庫(kù),同其他網(wǎng)絡(luò)節(jié)點(diǎn)的個(gè)人信息關(guān)聯(lián)識(shí)別后能夠形成“個(gè)人信息長(zhǎng)鏈”。而數(shù)據(jù)庫(kù)與信息鏈一旦泄露,面部識(shí)別特征、活動(dòng)位置及可識(shí)別行為等個(gè)人私密信息將公諸于眾,嚴(yán)重侵害個(gè)人隱私。另一方面,人臉識(shí)別技術(shù)能夠?qū)€(gè)人身份進(jìn)行標(biāo)識(shí)化、密碼化處理(Eltaieb,2023[20]),使得人臉識(shí)別逐漸取代了傳統(tǒng)的人工核對(duì)、指紋識(shí)別等方式,成為金融支付領(lǐng)域的首選模式。然而,受限于人臉識(shí)別系統(tǒng)的準(zhǔn)確率和安全性,人臉信息若遭到泄露或篡改,人臉識(shí)別技術(shù)將為詐騙、洗錢等多種犯罪行為提供技術(shù)溫床,從而侵害公民的個(gè)人財(cái)產(chǎn)安全。

第二,信息濫用造成尊嚴(yán)貶損及利益失衡。該風(fēng)險(xiǎn)主要體現(xiàn)在人臉信息的深度合成和深層利用兩個(gè)方面。其一,AI 換臉等人臉合成技術(shù)如今已成為一項(xiàng)無(wú)門檻使用技術(shù),實(shí)踐中人臉信息未經(jīng)授權(quán)被濫用、丑化、貶損等現(xiàn)象頻發(fā),侵害公民的人格尊嚴(yán)。加之人臉信息具有唯一性和不可替代性,對(duì)肖像權(quán)的侵害具有難以挽回的特征。此外,大量的人臉信息濫用在一定程度上導(dǎo)致知情同意框架失靈,人臉信息處理者對(duì)處理目的、方式及時(shí)限僅作簡(jiǎn)單告知或隱匿告知,從而遏制了個(gè)人信息自決權(quán)的實(shí)現(xiàn)。其二,在金融支付、市場(chǎng)交易等人臉識(shí)別技術(shù)深層利用的場(chǎng)域下,人臉信息不斷生成、交互和流動(dòng)。在該環(huán)節(jié)中,人臉信息的處理大多由第三方技術(shù)公司開展,商業(yè)主體的逐利性本質(zhì)容易導(dǎo)致人臉信息的非法收集與流動(dòng),以及不履行或延遲履行刪除義務(wù)等行為的產(chǎn)生。而在社會(huì)治理、公共服務(wù)的場(chǎng)域下,人臉信息的公共利益屬性凸顯,個(gè)人信息權(quán)益在維護(hù)公共利益的情形下應(yīng)予以一定程度的讓渡。然而,隨著人臉識(shí)別技術(shù)應(yīng)用“全場(chǎng)景監(jiān)控”能力的不斷提升(洪延青,2024[21]),個(gè)人權(quán)益、企業(yè)利益及公共利益三者之間的沖突也在與日俱增。

2.2 人臉識(shí)別技術(shù)應(yīng)用的規(guī)制困境及成因

科學(xué)立法是完善技術(shù)應(yīng)用治理體系的根本前提,公正司法是化解技術(shù)應(yīng)用矛盾糾紛的有效手段,嚴(yán)格執(zhí)法是推動(dòng)技術(shù)向上向善發(fā)展的重要保障,三者共同構(gòu)成了人臉識(shí)別技術(shù)應(yīng)用法律規(guī)制體系的核心要素。目前,我國(guó)針對(duì)人臉識(shí)別技術(shù)應(yīng)用在立法、司法和執(zhí)法三個(gè)環(huán)節(jié)均進(jìn)行了有效規(guī)制??傮w而言,在立法層面,我國(guó)正在探索構(gòu)建新安全格局下規(guī)范人臉識(shí)別技術(shù)應(yīng)用、保護(hù)個(gè)人信息安全的制度約束框架,總體呈現(xiàn)從被動(dòng)到主動(dòng)、從單一到多元、從靜態(tài)到動(dòng)態(tài)的治理特點(diǎn)與趨勢(shì);在司法層面,人臉識(shí)別技術(shù)侵權(quán)采取過錯(cuò)推定責(zé)任原則,消解了公民取證難的現(xiàn)實(shí)困境,并通過公益訴訟的適用有效擴(kuò)充了司法救濟(jì)途徑;在執(zhí)法層面,我國(guó)針對(duì)人臉識(shí)別技術(shù)應(yīng)用的安全監(jiān)管總體呈現(xiàn)出領(lǐng)域分散監(jiān)管的樣態(tài),并通過采取行業(yè)自律等模式對(duì)行政監(jiān)管予以補(bǔ)充。然而實(shí)踐中,人臉識(shí)別技術(shù)應(yīng)用引發(fā)的新型法律風(fēng)險(xiǎn)對(duì)現(xiàn)行制度提出了新挑戰(zhàn)。例如,人臉信息的場(chǎng)景化特征提高了人臉識(shí)別技術(shù)應(yīng)用精細(xì)化立法的難度;人臉識(shí)別技術(shù)侵權(quán)的隱蔽性、不可挽回性等特征導(dǎo)致救濟(jì)成本增加,限縮了公民的數(shù)字人權(quán);同時(shí),分散監(jiān)管導(dǎo)致的治理真空使算法安全遭受沖擊。

2.2.1 人臉識(shí)別技術(shù)應(yīng)用的場(chǎng)景規(guī)制困境

場(chǎng)景化立法能夠依照不同場(chǎng)景的特征,根據(jù)信息主體的合理預(yù)期制定具有針對(duì)性的法律規(guī)則,并已成為新興技術(shù)應(yīng)用中個(gè)人信息保護(hù)的重要手段。我國(guó)目前初步構(gòu)建了體系化的人臉識(shí)別技術(shù)應(yīng)用規(guī)則體系,呈現(xiàn)出“集中型”的立法態(tài)勢(shì),但針對(duì)技術(shù)應(yīng)用的場(chǎng)景化規(guī)制依然存在缺位。《民法典》第1034 條將生物識(shí)別信息納入個(gè)人信息的保護(hù)范疇,奠定了人臉識(shí)別技術(shù)應(yīng)用治理的基本價(jià)值取向;《數(shù)據(jù)安全法》基于總體國(guó)家安全觀視角,對(duì)人臉信息的安全管理進(jìn)行了原則性規(guī)定;《個(gè)人信息保護(hù)法》將人臉信息納入敏感個(gè)人信息保護(hù)范疇,并對(duì)信息處理規(guī)則予以細(xì)化;而《人臉識(shí)別管理規(guī)定》進(jìn)一步細(xì)化上位法規(guī)定,運(yùn)用場(chǎng)景化手段明確了公共場(chǎng)所、經(jīng)營(yíng)場(chǎng)所、私密場(chǎng)所等公私場(chǎng)景下的技術(shù)應(yīng)用規(guī)則,初步體現(xiàn)了場(chǎng)景化規(guī)制的內(nèi)容,但并未依據(jù)技術(shù)的不同功能予以針對(duì)性規(guī)制, 同時(shí)也缺乏對(duì)該技術(shù)在不同場(chǎng)景中應(yīng)用風(fēng)險(xiǎn)差異的具體考量,難以指導(dǎo)日益復(fù)雜的技術(shù)應(yīng)用實(shí)踐。

首先,具體場(chǎng)景界定與劃分的標(biāo)準(zhǔn)較為模糊,盡管該規(guī)定將場(chǎng)景分為個(gè)人隱私場(chǎng)景、公共場(chǎng)景和經(jīng)營(yíng)場(chǎng)景三大類,并詳細(xì)劃定了多個(gè)類型的場(chǎng)所,但并未在規(guī)則層面明確界定、區(qū)分涉及個(gè)人法益與公共法益的技術(shù)應(yīng)用場(chǎng)景,導(dǎo)致場(chǎng)景分類標(biāo)準(zhǔn)模糊。其次,合理預(yù)期是目的限制原則的重要判定依據(jù),但以信息主體為中心的合理預(yù)期方案亟待完善。信息主體在進(jìn)行人臉識(shí)別時(shí),對(duì)于人臉信息的使用目的和時(shí)限缺乏預(yù)期,無(wú)法有效保障其個(gè)人信息權(quán)益。最后,人臉識(shí)別技術(shù)場(chǎng)景化應(yīng)用的風(fēng)險(xiǎn)防范措施缺位,導(dǎo)致場(chǎng)景化立法規(guī)制的效能未能得以充分發(fā)揮。因此,須在分類標(biāo)準(zhǔn)、信息授權(quán)及風(fēng)險(xiǎn)防范三個(gè)方面繼續(xù)深化落實(shí)場(chǎng)景化規(guī)制理念,提升治理能力,以應(yīng)對(duì)人臉識(shí)別技術(shù)引發(fā)的多重法益風(fēng)險(xiǎn)。

2.2.2 人臉識(shí)別技術(shù)侵權(quán)的法律救濟(jì)困境

損害判定是追訴侵權(quán)責(zé)任的前提,亦是救濟(jì)的先決要件。而人臉識(shí)別技術(shù)侵權(quán)產(chǎn)生的實(shí)質(zhì)損害難以判定,導(dǎo)致被侵權(quán)人面臨舉證難、維權(quán)難及程序繁瑣等困境。2021 年發(fā)布的《最高人民法院關(guān)于審理使用人臉識(shí)別技術(shù)處理個(gè)人信息相關(guān)民事案件適用法律若干問題的規(guī)定》(以下簡(jiǎn)稱《人臉信息司法解釋》)旨在維護(hù)個(gè)人信息安全與數(shù)字經(jīng)濟(jì)發(fā)展之間的平衡,其中第6 條第3 款規(guī)定,信息處理者主張其不承擔(dān)民事責(zé)任的,應(yīng)當(dāng)就其行為的免責(zé)情形承擔(dān)舉證責(zé)任,從而將人臉信息侵權(quán)責(zé)任類型歸為過錯(cuò)推定責(zé)任,實(shí)施舉證責(zé)任倒置,一定程度上緩解了公民取證難的現(xiàn)實(shí)困境;第14 條規(guī)定了有關(guān)人臉識(shí)別技術(shù)應(yīng)用的民事爭(zhēng)議可適用公益訴訟,有效擴(kuò)充了司法救濟(jì)途徑?;诖?,《人臉信息司法解釋》成為司法機(jī)關(guān)處理人臉識(shí)別技術(shù)領(lǐng)域民事爭(zhēng)議的重要參考,但實(shí)踐中仍存在適用上的困境。

首先,過錯(cuò)推定責(zé)任原則并未徹底消解信息處理者與信息主體間的數(shù)字鴻溝,受害人往往只有在法院綜合評(píng)判信息處理程序規(guī)范性和損害結(jié)果危害性之后,才有機(jī)會(huì)獲得相應(yīng)救濟(jì),而程序違規(guī)不能成為責(zé)任判定的獨(dú)立依據(jù)(羅斌和李卓雄,2021[9])。加之相關(guān)規(guī)則對(duì)受害人行使訴權(quán)設(shè)置了前置程序,加重了訴訟負(fù)擔(dān)與維權(quán)成本。其次,人臉識(shí)別技術(shù)侵權(quán)具有秘密性、規(guī)模性等特征,導(dǎo)致大部分受害人難以發(fā)現(xiàn)及取證,而我國(guó)現(xiàn)有的代表人訴訟制度類似于歐盟的加入制集團(tuán)訴訟,設(shè)立了受案范圍、受案條件等多種限制,難以充分救濟(jì)受害人的權(quán)益。最后,我國(guó)的公益訴訟制度對(duì)人臉識(shí)別技術(shù)侵權(quán)的民事救濟(jì)具有一定制度優(yōu)勢(shì),能夠較大程度地修復(fù)公益損害。例如,2023 年10 月,廣州互聯(lián)網(wǎng)法院發(fā)布全國(guó)首例涉“人臉識(shí)別”民事公益訴訟案件,被告人因非法處理人臉信息侵害了不特定主體的信息自決權(quán),最終判處被告支付公益損害賠償金10 萬(wàn)余元。但現(xiàn)行制度對(duì)于人臉識(shí)別技術(shù)侵權(quán)領(lǐng)域公益訴訟的適用條件和賠償標(biāo)準(zhǔn)規(guī)定不明,導(dǎo)致實(shí)踐中責(zé)任認(rèn)定和法律適用產(chǎn)生爭(zhēng)議。此外,檢察機(jī)關(guān)是提起公益訴訟的適格主體,但人臉信息侵權(quán)領(lǐng)域的檢察公益訴訟制度尚未完全形成,難以充分發(fā)揮公訴機(jī)關(guān)的訴訟優(yōu)勢(shì),疏解人臉信息侵權(quán)的救濟(jì)困境。

2.2.3 人臉識(shí)別技術(shù)應(yīng)用的分散監(jiān)管困境

人臉識(shí)別技術(shù)應(yīng)用的有效監(jiān)管不僅是落實(shí)人臉識(shí)別技術(shù)應(yīng)用規(guī)制的必要條件,也是推進(jìn)國(guó)家數(shù)據(jù)安全治理體系的應(yīng)有之義。從監(jiān)管的運(yùn)行邏輯來(lái)看,我國(guó)對(duì)于人臉識(shí)別技術(shù)應(yīng)用的監(jiān)管主體、監(jiān)管內(nèi)容與監(jiān)管模式均呈現(xiàn)分散態(tài)勢(shì)。

首先,盡管我國(guó)初步構(gòu)建了以國(guó)家網(wǎng)信辦為核心,電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門相協(xié)調(diào)的個(gè)人信息安全監(jiān)管體系,例如,市場(chǎng)經(jīng)營(yíng)、金融支付領(lǐng)域產(chǎn)生的人臉信息風(fēng)險(xiǎn)分別由市場(chǎng)監(jiān)督管理機(jī)構(gòu)和金融監(jiān)督管理機(jī)構(gòu)監(jiān)管,但現(xiàn)有規(guī)范尚未明確各監(jiān)管機(jī)構(gòu)的職權(quán)范圍及邊界,導(dǎo)致實(shí)踐中多頭監(jiān)管、交叉監(jiān)管等問題的產(chǎn)生。其次,我國(guó)在適用行業(yè)自律機(jī)制的同時(shí),還實(shí)行了契合我國(guó)法治實(shí)踐的備案管理制度:《生成式人工智能服務(wù)管理暫行辦法》第17 條對(duì)算法備案進(jìn)行了原則性規(guī)定;《人臉識(shí)別管理規(guī)定》第16 條進(jìn)行了補(bǔ)充,規(guī)定在公共場(chǎng)所使用人臉識(shí)別技術(shù),或者存儲(chǔ)超過1 萬(wàn)人人臉信息的人臉識(shí)別技術(shù)使用者,應(yīng)當(dāng)向所屬地市級(jí)以上網(wǎng)信部門備案。但是兩者均未明確備案管理制度的審核方式、審核流程及審核結(jié)果等內(nèi)容。同時(shí),我國(guó)以傳統(tǒng)的行政監(jiān)管手段為主,對(duì)行業(yè)自律、第三方評(píng)估等監(jiān)管機(jī)制的應(yīng)用不足,導(dǎo)致監(jiān)管機(jī)構(gòu)之間缺乏協(xié)作,評(píng)估體系趨于主觀化和形式化。最后,我國(guó)在人臉識(shí)別技術(shù)應(yīng)用領(lǐng)域多采取事中和事后監(jiān)管模式,在評(píng)估、試點(diǎn)等事前環(huán)節(jié)存在治理真空,增加了人臉識(shí)別技術(shù)的安全風(fēng)險(xiǎn)與監(jiān)管合規(guī)成本。2023 年成立的“國(guó)家數(shù)據(jù)局”有助于加強(qiáng)數(shù)據(jù)安全和隱私保護(hù),確保人臉信息的合法使用與共享,但其針對(duì)人臉識(shí)別技術(shù)領(lǐng)域的監(jiān)管職責(zé)亦須進(jìn)一步明確。

3 人臉識(shí)別技術(shù)應(yīng)用法律規(guī)制的域外考查及啟示

為應(yīng)對(duì)人臉識(shí)別技術(shù)應(yīng)用產(chǎn)生的各類風(fēng)險(xiǎn)與沖突,各國(guó)紛紛加強(qiáng)數(shù)據(jù)治理前瞻性布局,人臉信息保護(hù)法治化成為世界信息治理的新趨勢(shì),其中法律層面重在發(fā)揮法律評(píng)價(jià)和指引功能,政府層面以數(shù)據(jù)流轉(zhuǎn)為治理重點(diǎn),行業(yè)層面則以倫理和行業(yè)自律引導(dǎo)人臉識(shí)別技術(shù)的發(fā)展方向。實(shí)踐中,以歐盟和美國(guó)的法律規(guī)制最為典型:歐盟的數(shù)據(jù)安全治理實(shí)踐較早,目前已形成以《通用數(shù)據(jù)保護(hù)條例》(GDPR)為核心的人臉識(shí)別技術(shù)應(yīng)用治理體系,以風(fēng)險(xiǎn)預(yù)防為原則;美國(guó)是人臉識(shí)別技術(shù)及立法的先驅(qū),側(cè)重市場(chǎng)調(diào)節(jié)導(dǎo)向,區(qū)分行業(yè)及地區(qū)對(duì)人臉識(shí)別技術(shù)應(yīng)用進(jìn)行規(guī)制。

3.1 歐 盟

在立法層面,歐盟采取集中立法的形式,呈現(xiàn)嚴(yán)格立法的態(tài)勢(shì)??偟膩?lái)說(shuō),歐盟以GDPR 作為人臉識(shí)別技術(shù)應(yīng)用治理的基本依據(jù)。在GDPR 框架內(nèi),人臉識(shí)別技術(shù)被嚴(yán)格限制使用,除非符合明確同意、公共利益等特別規(guī)定,信息處理者不得處理人臉信息。2021 年,歐盟對(duì)《個(gè)人數(shù)據(jù)自動(dòng)化處理中的個(gè)人保護(hù)公約》予以補(bǔ)充,發(fā)布了《人臉識(shí)別指南》,要求人臉識(shí)別技術(shù)使用前須進(jìn)行合法性、正當(dāng)性、必要性和安全性評(píng)估。此外,同年發(fā)布的《人工智能法案(草案)》要求對(duì)人臉識(shí)別技術(shù)應(yīng)用進(jìn)行場(chǎng)景化規(guī)制,將其應(yīng)用場(chǎng)景區(qū)分為公共場(chǎng)所和非公共場(chǎng)所,并將公共場(chǎng)所中“實(shí)時(shí)”應(yīng)用人臉識(shí)別技術(shù)歸類于“禁止使用的人工智能技術(shù)”部分中。2023 年12 月,歐盟就《人工智能法案》達(dá)成臨時(shí)協(xié)議,其中雖仍嚴(yán)格禁止各主體從互聯(lián)網(wǎng)、閉路電視錄像中無(wú)目的地抓取人臉信息,但對(duì)執(zhí)法部門在面對(duì)嚴(yán)重犯罪、現(xiàn)實(shí)威脅等情形下應(yīng)用人臉識(shí)別技術(shù)進(jìn)行了一定的豁免,但必須附加額外的保障性措施。

在司法層面,歐盟對(duì)于人臉識(shí)別技術(shù)侵權(quán)責(zé)任采取了單方面判定的方式,即一旦存在程序違規(guī)即負(fù)有侵權(quán)責(zé)任,至于權(quán)利人是否經(jīng)過前期投訴程序、有無(wú)受到實(shí)際損害并非人臉識(shí)別技術(shù)侵權(quán)的判斷標(biāo)準(zhǔn)(Chen,2023[22])。具體而言,GDPR 規(guī)定的司法救濟(jì)途徑主要分為私人訴訟和加入型集團(tuán)訴訟兩種模式,其中后者在客觀上保障了信息主體的訴權(quán),但同時(shí)也在一定程度上導(dǎo)致了司法成本的增加和司法效率的降低。此外,歐盟各法院的裁判結(jié)果較為統(tǒng)一,除依據(jù)GDPR 進(jìn)行行政處罰外,權(quán)利人還可根據(jù)GDPR 第17 條有關(guān)“被遺忘權(quán)”的規(guī)定,主張對(duì)人臉信息進(jìn)行斷鏈或刪除,盡量減輕信息主體因人臉識(shí)別技術(shù)應(yīng)用所受的損害,補(bǔ)足實(shí)質(zhì)救濟(jì)措施。

在執(zhí)法層面,歐盟實(shí)行統(tǒng)一監(jiān)管模式,設(shè)立了數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)(DPA)、歐洲數(shù)據(jù)保護(hù)委員會(huì)(EDPB)等專門性機(jī)構(gòu),對(duì)人臉識(shí)別技術(shù)應(yīng)用及其附帶產(chǎn)生的法律問題進(jìn)行監(jiān)管,包括監(jiān)督法案的落地實(shí)施情況、接收投訴并實(shí)施處罰等,總體構(gòu)成了獨(dú)立運(yùn)行的監(jiān)管體系。同時(shí),歐盟通過GDPR 及相關(guān)法案引入第三方評(píng)估進(jìn)行監(jiān)管,通過第三方機(jī)構(gòu)的獨(dú)立性確保人臉識(shí)別技術(shù)評(píng)估的有效性和專業(yè)性。此外,歐盟近年來(lái)逐步加強(qiáng)了人臉識(shí)別等人工智能技術(shù)的安全屏障,重視全流程監(jiān)管,嚴(yán)格限制人臉信息的跨境流動(dòng),并利用斷鏈、封鎖等安全手段防范核心數(shù)據(jù)泄露或?yàn)E用,以最大限度地保障個(gè)人信息安全。

3.2 美 國(guó)

在立法層面,州立法是美國(guó)規(guī)制人臉識(shí)別技術(shù)應(yīng)用的主要方式,2008 年伊利諾伊州通過的《生物特征信息隱私法》(BIPA)就是其中的一部重要法案。該法第15 條規(guī)定,告知與同意僅在書面形式下有效,其他形式一律無(wú)效。然而實(shí)踐中,州立法的分散性特征導(dǎo)致美國(guó)各州對(duì)于人臉識(shí)別技術(shù)應(yīng)用的規(guī)制法案存在沖突,部分州禁止其應(yīng)用于公共治理(郭躍等,2021[23]),部分州則限制使用,但總體呈現(xiàn)出限制公權(quán)力應(yīng)用的趨勢(shì)。在聯(lián)邦統(tǒng)一立法中,2019-2020 年期間,美國(guó)通過區(qū)分場(chǎng)景及應(yīng)用主體,將人臉識(shí)別技術(shù)的應(yīng)用場(chǎng)景劃定為公權(quán)主體應(yīng)用和私權(quán)主體應(yīng)用,并出臺(tái)了一系列有關(guān)人臉識(shí)別技術(shù)應(yīng)用的法案(楊華,2023[24]):其中,《商業(yè)人臉識(shí)別隱私法案》側(cè)重隱私保護(hù),但并未明確限制人臉識(shí)別技術(shù)的使用;《人臉識(shí)別技術(shù)授權(quán)法案》創(chuàng)設(shè)了人工審查機(jī)制,以確保人臉識(shí)別技術(shù)的準(zhǔn)確性,防范算法歧視和誤判;《道德使用人臉識(shí)別法案》要求盡快完善人臉識(shí)別技術(shù)應(yīng)用規(guī)則,在規(guī)則出臺(tái)前禁止公權(quán)力機(jī)關(guān)的使用。此外,2022 年美國(guó)國(guó)會(huì)提出的《人臉識(shí)別法案》也主張嚴(yán)格限制政府執(zhí)法部門使用人臉識(shí)別技術(shù)。由此可見,美國(guó)在逐步限制公權(quán)主體使用人臉識(shí)別技術(shù),收束人臉識(shí)別技術(shù)應(yīng)用范圍,但對(duì)私權(quán)主體的人臉識(shí)別技術(shù)應(yīng)用仍缺少相應(yīng)規(guī)制。

在司法層面,美國(guó)對(duì)于人臉識(shí)別技術(shù)侵權(quán)的救濟(jì)側(cè)重采用隱私權(quán)保護(hù)的方式,即在侵權(quán)責(zé)任認(rèn)定中,先對(duì)處理程序是否違規(guī)予以審查,再根據(jù)有無(wú)侵犯?jìng)€(gè)人隱私來(lái)判定侵權(quán)行為是否存在,最后根據(jù)實(shí)質(zhì)損害結(jié)果決定具體的賠償方式,形成“分步救濟(jì)”的保護(hù)路徑(Chen,2023[22])。在具體救濟(jì)途徑中,除私人訴訟外,《美國(guó)聯(lián)邦民事訴訟規(guī)則》第23 條還規(guī)定了退出制集團(tuán)訴訟,即一旦允許提起集體訴訟,所有符合條件的公民將自動(dòng)成為集體訴訟的成員,除非他們主動(dòng)選擇退出,以保障更多公民在人臉識(shí)別技術(shù)應(yīng)用領(lǐng)域的救濟(jì)權(quán)利。基于此,在司法實(shí)踐中,人臉信息處理者對(duì)所有權(quán)利人均負(fù)有賠償義務(wù)(楊華,2023[24])。此外,《道德使用人臉識(shí)別法案》對(duì)司法救濟(jì)措施還進(jìn)行了有益補(bǔ)充,指出公民可依法向美國(guó)地方法院申請(qǐng)禁止令或宣告性救濟(jì),以避免人臉識(shí)別技術(shù)對(duì)公民基本權(quán)利的持續(xù)侵害。

在執(zhí)法層面,由于美國(guó)尚未形成專門的監(jiān)管機(jī)構(gòu),各州的監(jiān)管模式和監(jiān)管理念存在差異,導(dǎo)致監(jiān)管體系較為混亂。盡管美國(guó)聯(lián)邦貿(mào)易委員會(huì)(FTC)是綜合性、跨行業(yè)的執(zhí)法機(jī)構(gòu),對(duì)人臉識(shí)別技術(shù)應(yīng)用具有執(zhí)法權(quán)限,但實(shí)踐中,F(xiàn)TC 多傾向于通過和解等方式促進(jìn)企業(yè)合規(guī),成為企業(yè)的“合規(guī)指導(dǎo)機(jī)構(gòu)”而非“合規(guī)監(jiān)管機(jī)構(gòu)”,執(zhí)法能力存在不足(Waldman,2022[25])。因此,美國(guó)公民自由協(xié)會(huì)(ACLU)、未來(lái)隱私論壇(FPF)等行業(yè)組織通過制定行業(yè)自律公約,形成了一套同行政監(jiān)管互為補(bǔ)充的獨(dú)特的行業(yè)自律機(jī)制(盧艷玲和楊震,2023[26]),為構(gòu)建人臉識(shí)別技術(shù)應(yīng)用的多元監(jiān)管體系提供內(nèi)生動(dòng)力,并被多個(gè)國(guó)家所借鑒。

3.3 對(duì)我國(guó)的啟示

相較于歐盟和美國(guó),中國(guó)兼顧人臉識(shí)別技術(shù)發(fā)展與個(gè)人信息安全利益,形成了具有中國(guó)特色的數(shù)據(jù)安全治理體系,三者在人臉識(shí)別技術(shù)應(yīng)用的立法、司法和執(zhí)法方面各有側(cè)重(見表1)。因此,比較考查人臉識(shí)別技術(shù)應(yīng)用規(guī)制政策的特點(diǎn)與趨勢(shì),是掌握各國(guó)數(shù)據(jù)安全治理進(jìn)路、轉(zhuǎn)化域外數(shù)據(jù)安全治理經(jīng)驗(yàn)的必要途徑。

表1 歐盟、美國(guó)、中國(guó)人臉識(shí)別技術(shù)應(yīng)用法律規(guī)制對(duì)照表

第一,貫徹場(chǎng)景導(dǎo)向的立法理念。立法理念是國(guó)家意志和法律精神的重要體現(xiàn),是人臉識(shí)別技術(shù)應(yīng)用治理的內(nèi)在邏輯。目前,各國(guó)對(duì)人臉識(shí)別技術(shù)應(yīng)用普遍采取審慎態(tài)度。例如,歐盟高度重視人臉識(shí)別技術(shù)應(yīng)用引發(fā)的人權(quán)風(fēng)險(xiǎn),針對(duì)人臉識(shí)別技術(shù)多樣化的應(yīng)用場(chǎng)景,構(gòu)建了“動(dòng)態(tài)同意”機(jī)制,嚴(yán)格限制人臉識(shí)別技術(shù)應(yīng)用于公共場(chǎng)所,并規(guī)范了該技術(shù)在非公共場(chǎng)所的應(yīng)用;美國(guó)立法者提倡新自由主義,以促進(jìn)商業(yè)利益、限制公權(quán)力濫用為出發(fā)點(diǎn),著眼于人臉識(shí)別技術(shù)應(yīng)用主體,對(duì)民商事主體應(yīng)用人臉識(shí)別技術(shù)的限制較少,重點(diǎn)規(guī)制公權(quán)力機(jī)關(guān)的技術(shù)應(yīng)用行為,即公權(quán)力主體須公示人臉識(shí)別技術(shù)的使用情況,接受民眾監(jiān)督,避免權(quán)力濫用。總體而言,各國(guó)立法傳統(tǒng)、體制與社會(huì)環(huán)境的差異使其法律規(guī)制的側(cè)重點(diǎn)有所不同,但目前已普遍認(rèn)識(shí)到人臉識(shí)別技術(shù)在不同應(yīng)用場(chǎng)景下的特殊性,并據(jù)此出臺(tái)了一系列法律法規(guī),場(chǎng)景化規(guī)制理念成為各國(guó)人臉識(shí)別技術(shù)應(yīng)用立法的必然選擇。就我國(guó)而言,公民對(duì)于人臉識(shí)別技術(shù)應(yīng)用的信賴度相對(duì)更高,具備消解數(shù)字鴻溝的現(xiàn)實(shí)基礎(chǔ)。對(duì)此,應(yīng)當(dāng)秉承審慎應(yīng)用場(chǎng)景化規(guī)制理念的基本原則,通過保護(hù)公民的合理信賴?yán)?,建立?dòng)態(tài)知情同意機(jī)制,并進(jìn)一步探索公私場(chǎng)所的具體區(qū)分標(biāo)準(zhǔn)。

第二,實(shí)施傾斜保護(hù)的救濟(jì)體系。司法救濟(jì)具有事后補(bǔ)救性特征,是維護(hù)程序正義與實(shí)體正義的重要環(huán)節(jié)。人臉識(shí)別技術(shù)革新導(dǎo)致信息主體與信息處理者之間的認(rèn)知能力失衡,為填平能力差距,保障信息主體利益,各國(guó)在司法救濟(jì)上總體呈現(xiàn)出降低訴訟門檻、擴(kuò)大救濟(jì)范圍的趨勢(shì)。例如,在歐盟的侵權(quán)責(zé)任認(rèn)定規(guī)則中,只要數(shù)據(jù)處理者程序違規(guī)即可認(rèn)定其侵權(quán),且未對(duì)受害人行使訴權(quán)設(shè)置前置程序,以減輕受害人的舉證責(zé)任;美國(guó)則采用“分步式救濟(jì)”與退出制集團(tuán)訴訟制度的救濟(jì)思路,將利益關(guān)涉的沉默群體自動(dòng)加入集團(tuán)訴訟,并限制信息主體以明示或默示方式行使訴訟退出權(quán),以排除個(gè)人因素對(duì)群體利益的妨害,降低弱勢(shì)受害者群體行使訴權(quán)的成本與難度。鑒于司法救濟(jì)具有一定的滯后性,我國(guó)應(yīng)采取傾斜保護(hù)原則,科學(xué)配置強(qiáng)弱雙方的程序性權(quán)利義務(wù),完善便利信息主體的程序性要件,擴(kuò)充公益訴訟等救濟(jì)渠道,并借鑒歐盟的被遺忘權(quán)制度完善救濟(jì)措施,進(jìn)一步貫徹恢復(fù)性司法的理念。

第三,建立一體適用的監(jiān)管機(jī)制。針對(duì)人臉識(shí)別技術(shù)多樣態(tài)的應(yīng)用場(chǎng)景,各國(guó)的監(jiān)管機(jī)制各具特色,但協(xié)同一體的監(jiān)管模式是其基本方向。在監(jiān)管機(jī)構(gòu)的體系化建設(shè)方面,歐盟GDPR 第51-59 條規(guī)定了數(shù)據(jù)安全監(jiān)管機(jī)構(gòu)DPA、EDPB 的職責(zé)范圍,以確保GDRP 同其他法規(guī)在歐盟的適用一致性,并協(xié)調(diào)促進(jìn)歐盟各成員國(guó)數(shù)據(jù)保護(hù)機(jī)構(gòu)的合作;美國(guó)部分州成立了專門性的數(shù)據(jù)保護(hù)機(jī)構(gòu),如加利福尼亞隱私保護(hù)局(CPPA)等,對(duì)人臉識(shí)別技術(shù)應(yīng)用進(jìn)行監(jiān)管,并通過FTC 保障技術(shù)的合規(guī)應(yīng)用。此外,日本個(gè)人信息保護(hù)委員會(huì)(PIPC)、新加坡個(gè)人數(shù)據(jù)保護(hù)委員會(huì)(PDPC),以及俄羅斯聯(lián)邦通信、信息技術(shù)和大眾傳媒監(jiān)督局(Roskomnadzor)等也都是涵蓋人臉信息保護(hù)職能的專門性監(jiān)管機(jī)構(gòu)。在監(jiān)管措施方面,歐盟引入第三方評(píng)估機(jī)制并賦予其獨(dú)立性,同時(shí)還采取了透明度報(bào)告、數(shù)據(jù)保護(hù)影響評(píng)估、人工智能監(jiān)管沙盒等措施,積極引領(lǐng)全球標(biāo)準(zhǔn)化建設(shè);美國(guó)則更為重視行業(yè)自律機(jī)制的軟法價(jià)值,通過行業(yè)自律公約填補(bǔ)政府監(jiān)管的不足。對(duì)此,為應(yīng)對(duì)我國(guó)的分散監(jiān)管困境,有必要設(shè)立獨(dú)立的監(jiān)管機(jī)構(gòu),搭建協(xié)同監(jiān)管平臺(tái),突出風(fēng)險(xiǎn)管控和風(fēng)險(xiǎn)預(yù)防,實(shí)施能動(dòng)高效、一體適用的技術(shù)應(yīng)用監(jiān)管機(jī)制。

4 統(tǒng)籌發(fā)展和安全的人臉識(shí)別技術(shù)應(yīng)用治理路徑探析

利益平衡是公共政策的邏輯起點(diǎn)。數(shù)字時(shí)代,數(shù)據(jù)的累積效應(yīng)、結(jié)合效應(yīng),以及技術(shù)、算法的進(jìn)步使得人臉識(shí)別技術(shù)發(fā)展與個(gè)人信息安全之間存在緊張關(guān)系,而安全是發(fā)展的前提,發(fā)展是安全的保障。我國(guó)應(yīng)結(jié)合場(chǎng)景規(guī)制理論、風(fēng)險(xiǎn)預(yù)防理論和數(shù)據(jù)治理實(shí)際,構(gòu)建統(tǒng)籌發(fā)展和安全的人臉識(shí)別技術(shù)應(yīng)用治理路徑。

4.1 構(gòu)建場(chǎng)景化立法規(guī)制模式

場(chǎng)景化立法規(guī)制已廣泛應(yīng)用于我國(guó)個(gè)人信息保護(hù)領(lǐng)域,其內(nèi)在機(jī)理在于建立不同場(chǎng)景下的個(gè)人信息保護(hù)規(guī)則。而人臉識(shí)別技術(shù)在各場(chǎng)景中的應(yīng)用規(guī)則不同,運(yùn)用場(chǎng)景規(guī)制理論能夠契合人臉識(shí)別技術(shù)的本質(zhì)特征,從而建立與場(chǎng)景特征相符的立法規(guī)制模式。

4.1.1 明確具體場(chǎng)景應(yīng)用的分類標(biāo)準(zhǔn)

場(chǎng)景分類是場(chǎng)景化法律規(guī)制的先決條件,而《人臉識(shí)別管理規(guī)定》對(duì)于場(chǎng)景分類的標(biāo)準(zhǔn)模糊,且存在交叉重疊的現(xiàn)象,難以為人臉識(shí)別技術(shù)應(yīng)用的精細(xì)化治理提供明確指引。雖然學(xué)界對(duì)于人臉識(shí)別技術(shù)應(yīng)用的場(chǎng)景化分類標(biāo)準(zhǔn)尚存爭(zhēng)議,但總體上可將場(chǎng)景劃分為單一型和復(fù)合型兩類,以信息來(lái)源、參與主體及傳輸原則作為判定標(biāo)準(zhǔn),以使用場(chǎng)景的復(fù)雜性決定具體的法律規(guī)制模式(姜野,2023[27])。在個(gè)人信息保護(hù)影響評(píng)估、技術(shù)安全性評(píng)估及信息斷鏈刪除評(píng)估等環(huán)節(jié)中,應(yīng)當(dāng)著重考慮場(chǎng)景要素對(duì)評(píng)估標(biāo)準(zhǔn)的影響。由此,個(gè)人信息保護(hù)影響評(píng)估可在不同場(chǎng)景下防范化解人格權(quán)益風(fēng)險(xiǎn);技術(shù)安全性評(píng)估可規(guī)避不同場(chǎng)景下的安全風(fēng)險(xiǎn);信息斷鏈刪除評(píng)估可通過斷鏈的方式使數(shù)據(jù)不可跨場(chǎng)景匹配,同時(shí)建立匿名化或刪除信息的監(jiān)測(cè)機(jī)制。

4.1.2 建立場(chǎng)景化動(dòng)態(tài)知情同意模式

《個(gè)人信息保護(hù)法》第29 條規(guī)定,處理人臉信息等敏感個(gè)人信息須取得信息主體的單獨(dú)同意或書面同意。然而,若在所有場(chǎng)景下均對(duì)人臉識(shí)別技術(shù)應(yīng)用采取單獨(dú)同意原則,將顯著降低人臉識(shí)別技術(shù)的使用效率。因此,有必要通過場(chǎng)景化規(guī)制的手段完善知情同意原則,建立動(dòng)態(tài)知情同意模式,在保障個(gè)人信息自決權(quán)的前提下,兼顧人臉識(shí)別技術(shù)的使用效率。首先,根據(jù)不同場(chǎng)景選用恰當(dāng)?shù)母嬷夥绞?,如彈窗提示、書面簽署等,并向信息主體提供分項(xiàng)同意的選擇。其次,以顯著方式向信息主體告知人臉識(shí)別技術(shù)的應(yīng)用場(chǎng)景、用途、目的及必要性,保障信息主體的合理預(yù)期與信賴?yán)妗W詈?,?qiáng)調(diào)知情同意的動(dòng)態(tài)性,完善“告知—同意—同意撤回”的動(dòng)態(tài)機(jī)制,依據(jù)不同場(chǎng)景設(shè)置自主撤回的條件,并保障撤回權(quán)的便捷行使。

4.2 完善便利化司法救濟(jì)體系

場(chǎng)景化立法規(guī)制為有效解決人臉識(shí)別技術(shù)治理的實(shí)體問題提供了制度保障,而在司法層面,救濟(jì)體系的相對(duì)穩(wěn)定性使其難以動(dòng)態(tài)應(yīng)對(duì)因新技術(shù)應(yīng)用引發(fā)的程序性問題。因此,我國(guó)有必要完善便利化的司法救濟(jì)體系,為處于弱勢(shì)的信息主體提供傾斜保護(hù)(石超和張蓓潔,2022[10]),破除信息主體參與訴訟、獲得救濟(jì)的路徑障礙。

4.2.1 厘清救濟(jì)邊界

在人臉識(shí)別技術(shù)侵權(quán)的司法救濟(jì)中,既要厘清法律適用標(biāo)準(zhǔn)的實(shí)質(zhì)要件,還要明確提起訴訟的程序要件。一方面,《人臉識(shí)別管理規(guī)定》對(duì)人臉識(shí)別技術(shù)應(yīng)用的目的性審查提出了更為嚴(yán)格的要求,明確指出“非必要不使用人臉識(shí)別技術(shù)”(第4 條)。盡管《人臉信息司法解釋》確立了舉證責(zé)任倒置制度,但由于合法、正當(dāng)、必要原則的審查標(biāo)準(zhǔn)過于寬泛,從而變相增加了侵權(quán)行為的認(rèn)定難度。對(duì)此,應(yīng)當(dāng)進(jìn)一步明確合法、正當(dāng)、必要的界限,開展實(shí)質(zhì)審查,審慎分析人臉信息處理者的處理目的,以規(guī)避形式審查對(duì)人格利益產(chǎn)生的侵害風(fēng)險(xiǎn)。另一方面,訴權(quán)是民事主體的基本權(quán)利之一,對(duì)訴權(quán)的限制必須由法律作出明確規(guī)定。對(duì)此,司法實(shí)踐中不應(yīng)設(shè)定人臉識(shí)別技術(shù)侵權(quán)訴訟的前置條件,即受害人無(wú)需先向侵權(quán)人提出請(qǐng)求或向監(jiān)管機(jī)構(gòu)投訴,可以直接向人民法院提起訴訟,以保障民事主體訴權(quán)的實(shí)現(xiàn)(程嘯,2023[28])。

4.2.2 補(bǔ)足救濟(jì)措施

首先,參照《證券法》中有關(guān)“特別代表人訴訟制度”的規(guī)定,完善代表人訴訟制度在人臉識(shí)別訴訟案件中的應(yīng)用,擴(kuò)大救濟(jì)的覆蓋面,使受害人因相同案由自動(dòng)獲得訴訟資格,降低參與訴訟的難度。其次,完善人臉識(shí)別技術(shù)侵權(quán)領(lǐng)域的民事公益訴訟制度,細(xì)化《人臉信息司法解釋》的內(nèi)容,對(duì)受案范圍、起訴主體、起訴條件等內(nèi)容作出明確規(guī)定,統(tǒng)一公益訴訟賠償標(biāo)準(zhǔn)和賠償范圍。同時(shí),在《檢察機(jī)關(guān)提起公益訴訟改革試點(diǎn)方案》中細(xì)化人臉識(shí)別技術(shù)侵權(quán)的相關(guān)規(guī)定,切實(shí)發(fā)揮審判監(jiān)督機(jī)關(guān)的作用,貫徹恢復(fù)性司法理念。最后,人臉識(shí)別技術(shù)侵權(quán)具有緊迫性、持續(xù)性和不可挽回性等特征,對(duì)此,歐盟建立了數(shù)據(jù)被遺忘權(quán)制度,以提升司法救濟(jì)的實(shí)質(zhì)效果。而我國(guó)可以適當(dāng)簡(jiǎn)化信息主體行使刪除權(quán)的程序,并通過第三方見證、司法監(jiān)督等方式監(jiān)督人臉信息的刪除效果(宋丁博男和張家豪,2023[29]),盡量減輕人臉識(shí)別技術(shù)應(yīng)用的消極影響。

4.3 健全協(xié)同化監(jiān)督管理機(jī)制

形塑切實(shí)可行的監(jiān)管機(jī)制是破除我國(guó)人臉識(shí)別技術(shù)規(guī)制困境的重點(diǎn)。總的來(lái)說(shuō),我國(guó)目前存在監(jiān)管機(jī)構(gòu)分散、監(jiān)管模式單一、監(jiān)管措施碎片的制度困境,導(dǎo)致執(zhí)法效能降低。對(duì)此,有必要構(gòu)建協(xié)同化監(jiān)督管理機(jī)制,調(diào)動(dòng)多元主體參與治理的積極性,形成人臉識(shí)別技術(shù)監(jiān)管合力。

4.3.1 優(yōu)化監(jiān)管機(jī)構(gòu)配置

首先,人臉識(shí)別技術(shù)作為以算法、數(shù)據(jù)、算力為核心的新興數(shù)字技術(shù),可由新組建的國(guó)家數(shù)據(jù)局統(tǒng)籌人臉識(shí)別技術(shù)應(yīng)用監(jiān)管策略,出臺(tái)相關(guān)政策及標(biāo)準(zhǔn),避免各地區(qū)、各領(lǐng)域因監(jiān)管差異產(chǎn)生的政策偏移,減少監(jiān)管協(xié)調(diào)成本。其次,明確監(jiān)管機(jī)構(gòu)的職能范圍,運(yùn)用場(chǎng)景化規(guī)制模式,依據(jù)場(chǎng)景特征選擇與之匹配的監(jiān)管主體。同時(shí),在需要多部門、多區(qū)域聯(lián)合監(jiān)管的場(chǎng)景下,明確各個(gè)監(jiān)管主體的責(zé)任,避免監(jiān)管沖突,并建立相應(yīng)的沖突解決機(jī)制,在監(jiān)管沖突產(chǎn)生后報(bào)請(qǐng)共同上級(jí)機(jī)關(guān)確定監(jiān)管主體。最后,細(xì)化末端監(jiān)管,在監(jiān)管體系的最末端引入第三方評(píng)估模式,監(jiān)管公權(quán)力的行使,確保監(jiān)管主體的獨(dú)立性和協(xié)同性,避免因公私主體間利益交疊導(dǎo)致的監(jiān)管失效。

4.3.2 完善行業(yè)自律機(jī)制

行業(yè)自律機(jī)制旨在激發(fā)市場(chǎng)內(nèi)生動(dòng)力,約束市場(chǎng)不良行為,并利用市場(chǎng)自身的調(diào)適功能對(duì)行政監(jiān)管予以補(bǔ)充,有利于實(shí)現(xiàn)各方利益平衡、增強(qiáng)行業(yè)誠(chéng)信,為人臉識(shí)別技術(shù)應(yīng)用的協(xié)同監(jiān)管提供內(nèi)在動(dòng)因。2020 年出臺(tái)的《人臉識(shí)別線下支付行業(yè)自律公約(試行)》對(duì)金融支付領(lǐng)域的行業(yè)自律機(jī)制進(jìn)行了有益探索,然而由于行業(yè)標(biāo)準(zhǔn)難以統(tǒng)一,加之監(jiān)督救濟(jì)規(guī)則的缺失,使得該制度在其他人臉識(shí)別技術(shù)應(yīng)用場(chǎng)景中仍處于缺位狀態(tài)。因此,行業(yè)自律機(jī)制的完善須建立在場(chǎng)景化規(guī)制的基礎(chǔ)上,基于各領(lǐng)域特征總結(jié)適用標(biāo)準(zhǔn),并為其制定配套的懲戒和救濟(jì)措施,以保障行業(yè)自律機(jī)制的有效運(yùn)轉(zhuǎn)。但與此同時(shí),由于行業(yè)自律公約的軟法特征顯著,具有較高的制度彈性,一方面,應(yīng)確保人臉識(shí)別技術(shù)具有恰當(dāng)?shù)臏?zhǔn)入門檻、獎(jiǎng)懲措施和退出機(jī)制;另一方面,應(yīng)審慎對(duì)待自律公約,在訂立、修改及廢止自律公約時(shí),須充分保障各方的知情權(quán),防止行業(yè)自律公約因產(chǎn)生較大的任意性而喪失其公信力。

4.3.3 應(yīng)用監(jiān)管沙盒測(cè)試

監(jiān)管沙盒測(cè)試以實(shí)現(xiàn)包容審慎監(jiān)管為制度導(dǎo)向,是統(tǒng)籌人臉識(shí)別領(lǐng)域技術(shù)發(fā)展與數(shù)據(jù)安全的有效手段,能夠在相關(guān)技術(shù)大規(guī)模應(yīng)用前開展監(jiān)管預(yù)評(píng)估,同時(shí)為人臉識(shí)別技術(shù)發(fā)展提供一定的“監(jiān)管豁免”和試錯(cuò)成本,促進(jìn)技術(shù)迭代。因此,有必要在人臉識(shí)別技術(shù)市場(chǎng)化應(yīng)用之前,引入監(jiān)管沙盒測(cè)試,將其放置于“沙盒”這一測(cè)試真空,促進(jìn)監(jiān)管彈性達(dá)到動(dòng)態(tài)平衡,實(shí)現(xiàn)監(jiān)管“去中心化”。同時(shí),還可以利用監(jiān)管沙盒的扁平化特征,提高技術(shù)透明度與可信度,打破橫向監(jiān)管壁壘,促進(jìn)監(jiān)管信息流動(dòng),為安全審查提供便捷的信息獲取渠道。當(dāng)然,在監(jiān)管沙盒的實(shí)際應(yīng)用中亦須考量多方面因素(戚聿東和劉歡歡,2022[30])。首先,監(jiān)管沙盒測(cè)試的標(biāo)準(zhǔn)應(yīng)由國(guó)家數(shù)據(jù)局、網(wǎng)信辦等機(jī)構(gòu)統(tǒng)一制定;其次,沙盒測(cè)試應(yīng)重點(diǎn)考查人臉識(shí)別技術(shù)是否符合“目的性、安全性、規(guī)范性”三項(xiàng)原則,以確保人臉識(shí)別技術(shù)符合沙盒制定的安全標(biāo)準(zhǔn),并具有相應(yīng)的形式和技術(shù)規(guī)范;再次,依據(jù)場(chǎng)景化特征構(gòu)建“沙盒”的具體方案,使人臉識(shí)別技術(shù)在最初的評(píng)估和測(cè)試環(huán)節(jié)中即具備場(chǎng)景化特征;最后,實(shí)行中止測(cè)試和監(jiān)管豁免制度,在超出技術(shù)目的、損害信息安全時(shí),應(yīng)及時(shí)中止測(cè)試,并豁免合規(guī)技術(shù)開發(fā)者的一定責(zé)任(胡濱,2022[31])。

5 結(jié) 語(yǔ)

隨著人工智能技術(shù)的高速發(fā)展,人臉識(shí)別技術(shù)應(yīng)用場(chǎng)景趨于泛化,因人臉識(shí)別技術(shù)產(chǎn)生的安全風(fēng)險(xiǎn)持續(xù)升級(jí)。面對(duì)人臉識(shí)別技術(shù)帶來(lái)的全球性機(jī)遇與挑戰(zhàn),我國(guó)作為人類網(wǎng)絡(luò)空間命運(yùn)共同體的倡議者與數(shù)字經(jīng)濟(jì)大國(guó),在防范化解人臉識(shí)別技術(shù)應(yīng)用風(fēng)險(xiǎn)的同時(shí),還要促進(jìn)人臉識(shí)別技術(shù)的革新與迭代。新安全格局下,我國(guó)應(yīng)在保障數(shù)據(jù)安全和數(shù)字人權(quán)的基礎(chǔ)上,加快構(gòu)建統(tǒng)籌發(fā)展和安全的人臉識(shí)別技術(shù)應(yīng)用治理體系,以高水平安全推動(dòng)構(gòu)建中國(guó)式現(xiàn)代化數(shù)據(jù)治理體系,并為世界人臉識(shí)別技術(shù)的治理方案提供中國(guó)經(jīng)驗(yàn)。

猜你喜歡
人臉識(shí)別人臉規(guī)制
人臉識(shí)別 等
有特點(diǎn)的人臉
主動(dòng)退市規(guī)制的德國(guó)經(jīng)驗(yàn)與啟示
揭開人臉識(shí)別的神秘面紗
三國(guó)漫——人臉解鎖
保護(hù)與規(guī)制:關(guān)于文學(xué)的刑法
刑法論叢(2018年4期)2018-05-21 00:44:30
論《反不正當(dāng)競(jìng)爭(zhēng)法》的規(guī)制范疇
法治研究(2016年4期)2016-12-01 03:41:40
基于類獨(dú)立核稀疏表示的魯棒人臉識(shí)別
馬面部與人臉相似度驚人
長(zhǎng)得象人臉的十種動(dòng)物
奇聞怪事(2014年5期)2014-05-13 21:43:01
镇江市| 夏河县| 武乡县| 建昌县| 杂多县| 辰溪县| 望奎县| 永清县| 瑞昌市| 云南省| 西乌珠穆沁旗| 旬阳县| 丹东市| 和龙市| 岗巴县| 竹北市| 南皮县| 肇州县| 通河县| 丰县| 安国市| 屯留县| 汽车| 拉孜县| 怀集县| 虎林市| 门头沟区| 札达县| 百色市| 四平市| 尼木县| 兰溪市| 自治县| 东乌珠穆沁旗| 涞源县| 砀山县| 望城县| 射洪县| 中江县| 五莲县| 蒙城县|