徐 祥 運,刁 雯
(東北財經(jīng)大學(xué) a.馬克思主義學(xué)院;b.公共管理學(xué)院,遼寧 大連 116025)
在當(dāng)今大數(shù)據(jù)時代,人臉識別技術(shù)成為人們關(guān)注的焦點。由于其超常的便利性、易操作性等特點,人臉識別技術(shù)已經(jīng)廣泛應(yīng)用于社會的各個領(lǐng)域,對于維護社會穩(wěn)定、保障人們生命財產(chǎn)安全具有重要意義,也進一步推動了數(shù)字社會的發(fā)展。但是,人臉識別技術(shù)發(fā)展過程中也出現(xiàn)了一些亟待解決的問題。在人臉識別技術(shù)已經(jīng)廣泛應(yīng)用的情況下,卻尚未出臺一套完善的政策法規(guī)來對人臉識別技術(shù)的應(yīng)用進行規(guī)制,這使得人臉識別技術(shù)的應(yīng)用中存在諸多風(fēng)險,比如人臉識別技術(shù)的濫用和強迫使用所導(dǎo)致的個人信息泄露問題早已引起了社會公眾的恐慌和不滿。此外,人臉識別技術(shù)本身整體水平也還不夠成熟,比如,在年齡、光照、遮擋等內(nèi)外部因素的干擾下,人臉識別系統(tǒng)還難以足夠敏銳地進行數(shù)據(jù)匹配,因而存在匹配失誤、準確度不高、識別效果不夠理想等諸多技術(shù)問題,容易被一些不法分子鉆空子而威脅到人們的財產(chǎn)安全。我們應(yīng)當(dāng)認真審視人臉識別技術(shù)的應(yīng)用在為人們的生活帶來便利的同時出現(xiàn)的諸多問題,制定相應(yīng)的政策法規(guī),建設(shè)安全有序的人臉識別技術(shù)應(yīng)用環(huán)境,確保人臉識別技術(shù)成為社會發(fā)展的推動力,而不是干擾力、破壞力。
風(fēng)險通常被認為是危險事件發(fā)生的可能性與可能產(chǎn)生的后果的組合。人臉識別技術(shù)缺陷風(fēng)險可以理解為人臉識別技術(shù)在發(fā)展過程中由于技術(shù)本身發(fā)展的不成熟而產(chǎn)生的負面影響或者給社會帶來的負面效應(yīng)。就目前而言,人臉識別技術(shù)正處于迅速發(fā)展和不斷探索之中,尚不夠成熟,在一些方面還存在嚴重問題,需要我們冷靜正確地去認識它的諸多技術(shù)缺陷風(fēng)險,并注意防止它異化成“技術(shù)利維坦”。
目前人臉識別技術(shù)所依賴的深度學(xué)習(xí)算法高度依賴于高質(zhì)量的數(shù)據(jù)集,但因?qū)嶋H應(yīng)用的數(shù)據(jù)集與實驗使用的數(shù)據(jù)集存在較大區(qū)別,這種算法模型在實際應(yīng)用中的識別準確率會下降。誤差是客觀存在的,任何技術(shù)都會存在誤差問題,但是目前人臉識別技術(shù)水平下的誤差可能超出合理容錯率。人臉識別結(jié)果不準確的原因包括以下幾個方面:(1)圖像質(zhì)量不佳。圖像質(zhì)量的一項重要指標(biāo)是分辨率,分辨率越高,圖像越清晰,可識別的人臉特征就越鮮明。但在實際上傳人像的過程中可能會對圖像加以一定的壓縮,攝像頭距離等因素也會影響圖像質(zhì)量,圖像質(zhì)量不佳會嚴重影響人臉比對的結(jié)果。(2)人臉遮擋。人臉遮擋既包括帽子、口罩、墨鏡等實物的遮擋,也包括光照不均導(dǎo)致的陰影遮擋。遮擋問題很容易導(dǎo)致人臉信息采集失敗和比對失誤。(3)人臉變化。一些數(shù)據(jù)庫中保存的人臉信息久未更新,會出現(xiàn)與實時采集的人臉信息無法匹配的現(xiàn)象,導(dǎo)致人臉識別失敗。
也正由于人臉識別系統(tǒng)本身存在技術(shù)局限,不法分子會向人臉識別系統(tǒng)提供以假亂真的人臉信息來達到其個人目的,這樣的行為被稱作“欺騙攻擊”。欺騙攻擊又稱“演示攻擊”,可以分為2D欺騙攻擊和3D欺騙攻擊。運用圖片或視頻的欺騙攻擊屬于2D欺騙攻擊,使用面具的欺騙攻擊屬于3D欺騙攻擊。隨著3D技術(shù)的發(fā)展,3D面具比圖片、視頻更具欺騙力。相關(guān)實驗結(jié)果顯示,在只使用2D人臉識別算法(ISV)時,面具攻擊數(shù)據(jù)集(3DMAD)數(shù)據(jù)庫中有65.70%的3D面具攻擊被識別為合法用戶。
人臉識別技術(shù)的濫用使得人臉識別系統(tǒng)很容易成為欺騙攻擊的目標(biāo)。即便是一些已經(jīng)具備“反3D面具攻擊”功能的人臉識別技術(shù)系統(tǒng)也很難真正防御欺騙攻擊,更不用說那些使用其他算法的系統(tǒng)了。2019年,美國《財富》雜志曾經(jīng)報道,一家人工智能公司用高清的3D面具和照片成功欺騙了人臉識別系統(tǒng),其中包括中國的微信和支付寶,完成了購物支付程序。該公司的CEO認為:“這表明人臉識別技術(shù)并未達到安全標(biāo)準”,“走捷徑是以犧牲安全為代價的”。
人臉識別技術(shù)的廣泛應(yīng)用所帶來的數(shù)據(jù)安全隱患也引發(fā)了巨大的爭議。比如,一些住宅小區(qū)為了“出入更便捷、管理更高效”,對住戶進行人臉信息采集,人臉信息綁定具體住址、身份信息,小區(qū)門禁由刷卡改為刷臉。對此,有居民擔(dān)心個人信息和行蹤被泄露:“我什么時候不在家,別人都知道。”人臉信息所包含的個人生物特征信息是人們重要的隱私信息,一旦泄露,給人們造成的危害是永久性的。從這方面來說,人臉識別的門禁雖然更便捷,但其風(fēng)險比密碼驗證和指紋解鎖更大。人臉識別技術(shù)在大數(shù)據(jù)的支持下快速發(fā)展,但由于技術(shù)發(fā)展速度與水平的不一致,數(shù)據(jù)的采集環(huán)節(jié)、儲存環(huán)節(jié)、分析環(huán)節(jié)都可能存在安全風(fēng)險。
人臉特征信息的收集比指紋采集更方便。從技術(shù)角度看,人臉是一種不需要用戶主動配合就可以采集到的個人生物信息;從社會心理角度看,由于人臉天生就暴露在外,所以人們每天被各種監(jiān)控“拍臉”也并不覺得隱私受到侵犯。由于以上兩點,人臉數(shù)據(jù)采集的安全性很容易被忽略。在數(shù)據(jù)采集環(huán)節(jié),實際上只要滿足形式上的知情同意規(guī)范,即說明采集的目的與用途,就很難完全阻止針對人臉或照片的數(shù)據(jù)采集。例如,在我們使用一些App時,采集我們的面部信息甚至已經(jīng)成為默認選擇或者限制條件,我們不同意就無法使用這些App。那么,相關(guān)企業(yè)或其他機構(gòu)采集人臉信息的邊界在哪里?是否存在信息過度采集的現(xiàn)象?
在人臉識別系統(tǒng)中,相關(guān)個人的面部信息必然儲存在一個大型數(shù)據(jù)庫中,該數(shù)據(jù)庫的安全性就尤為重要。那么,這個數(shù)據(jù)庫由誰來掌握?怎樣管理和控制該數(shù)據(jù)庫,從而確保人臉信息的安全?比如,由于經(jīng)費限制,為了控制成本,一些小區(qū)、學(xué)校的人臉識別系統(tǒng)數(shù)據(jù)庫缺乏較強的防御攻擊能力和嚴格的數(shù)據(jù)安全管理,其他人很容易通過黑客攻擊方法或者利用內(nèi)部人員而侵入數(shù)據(jù)庫,竊取相關(guān)信息。又如,一些利用監(jiān)控攝像頭來采集人臉信息的企業(yè)或其他機構(gòu)也會有一個數(shù)據(jù)庫,公眾對這個數(shù)據(jù)庫是否知情?這個數(shù)據(jù)庫又由哪個機構(gòu)來監(jiān)管?人臉信息屬于個人敏感信息,人臉信息數(shù)據(jù)庫一旦泄露,可能造成難以挽回的損失。當(dāng)我們的身份信息和生物特征信息被別有用心的人拿去做牟利的工具時,我們該如何保障自己的隱私權(quán)、財產(chǎn)安全乃至生命安全?當(dāng)然,政府部門尤其警方在一定條件下收集和保留個人人臉信息是必要的、合理合法的,人臉識別有助于警方偵破案件、抓捕在逃人員。但同時,我們也應(yīng)當(dāng)注意到,長期保留的個人敏感信息有可能泄露,人臉信息數(shù)據(jù)庫如果遭到黑客攻擊而發(fā)生數(shù)據(jù)泄露,給個人和社會帶來的損失將是難以估量的。
在數(shù)據(jù)分析階段,不同的算法對相同的數(shù)據(jù)有著不同的分析程序,甚至?xí)贸霾煌姆治鼋Y(jié)果。一種算法可能會將自己認為不重要的數(shù)據(jù)剔除或解密,從而造成數(shù)據(jù)遺漏或泄露。一些數(shù)據(jù)分析系統(tǒng)會濫用數(shù)據(jù),比如我們通過刷臉登錄某一軟件時,軟件可能超出身份識別之需,擅自通過我們的個人信息分析出我們在何時何地做了何事,使我們的個人隱私暴露無遺。從這個角度講,人臉識別技術(shù)在方便了我們生活的同時,也成了竊取我們隱私信息的“方便之門”。
人臉識別技術(shù)應(yīng)用中的數(shù)據(jù)安全性與我們的隱私權(quán)利密不可分。人臉識別技術(shù)建立在大數(shù)據(jù)分析的基礎(chǔ)上,大數(shù)據(jù)系統(tǒng)與我們的隱私密切相關(guān)。脆弱的大數(shù)據(jù)系統(tǒng)一旦崩潰,我們的隱私信息將“無私可隱”,甚至成為不法商家用來牟利的商品。在一些平臺上,只需要幾十元甚至幾元錢就能買到成百上千的個人的信息,這些信息既包括身份證號、手機號碼,也包括個人照片。當(dāng)我們的個人信息成為他人交易的商品時,我們的合法權(quán)益就已經(jīng)遭到了侵害。這種現(xiàn)象進一步加劇了“數(shù)字利維坦”的形成,引發(fā)了人們對于社會公正等問題的討論。
人臉識別技術(shù)風(fēng)險可以理解為人臉識別技術(shù)在發(fā)展過程中給人類社會帶來的各種負面影響。人臉識別技術(shù)在研究開發(fā)、生產(chǎn)管理、市場推廣等各個環(huán)節(jié)都會涉及眾多的利益相關(guān)者。雖然人臉識別技術(shù)在實際應(yīng)用之前會經(jīng)過模擬測試階段,但是,新興技術(shù)的研發(fā)與應(yīng)用充滿了未知數(shù)和不確定性,甚至可能給人類帶來巨大災(zāi)難。
一項新興技術(shù)的創(chuàng)造和發(fā)展是一個長期的過程,技術(shù)風(fēng)險的暴露往往需要一個較長的周期。人臉識別技術(shù)所隱含的技術(shù)風(fēng)險也存在一個逐步暴露的過程,一些在投入應(yīng)用的初始階段沒有顯現(xiàn)出來的風(fēng)險,可能隨著該技術(shù)的廣泛應(yīng)用而暴露在大眾面前。盡管人臉識別技術(shù)在推廣之前已經(jīng)經(jīng)過大量的測試,但是現(xiàn)實生活具有測試階段所沒有的真實性與復(fù)雜性,這使得模擬測試無法完全考慮到各種場景和各種突發(fā)事件。一些不夠可靠的數(shù)據(jù)樣本可能存在虛假問題,直接導(dǎo)致人臉識別系統(tǒng)形成錯誤的判斷。如果在人臉識別技術(shù)成熟之前不做好風(fēng)險防范工作,那么隨著這項技術(shù)的發(fā)展,各種難以預(yù)料的風(fēng)險將會更多、更迅猛地出現(xiàn)。
當(dāng)今社會對人臉識別技術(shù)所隱含的風(fēng)險仍然缺乏足夠的認識。在人們傳統(tǒng)的認知中,新技術(shù)總是比原有的技術(shù)更加先進。因此,在人臉識別技術(shù)應(yīng)用的初始階段,其效益、效果會被一些媒體過分夸大,人們心中甚至?xí)a(chǎn)生“技術(shù)無所不能”的幻象。人們過于信賴某項技術(shù),而對其危害考慮不足,忽視其背后的風(fēng)險,就使得該技術(shù)的風(fēng)險具有了“隱身性”,及至風(fēng)險暴露到足以引起人們重視時,已經(jīng)太晚。另外,高新技術(shù)是不斷更新、不斷發(fā)展的,這些變化不斷地刷新著人們的認知,滿足人們的各種需求。但這些更新和變化實在太快,政府和社會還沒來得及對其風(fēng)險作出應(yīng)對,技術(shù)就已經(jīng)進入下一輪更新過程。如果不對這些已經(jīng)顯現(xiàn)的以及仍然潛藏的風(fēng)險加以充分討論和深入認識,不為其設(shè)計出一套合理規(guī)范的管理體系,那么,一旦人臉識別技術(shù)的風(fēng)險規(guī)模擴大,現(xiàn)有的治理體系將很難控制風(fēng)險。
與學(xué)界熟知的“國家利維坦”類似,隨著大數(shù)據(jù)、互聯(lián)網(wǎng)、云計算、人工智能等數(shù)字技術(shù)的發(fā)展,人們在享受各種新興技術(shù)帶來的便利的同時,也陷入了一種“受縛于數(shù)字”的兩難境地。比如,在人臉識別技術(shù)快速發(fā)展、便利人們生活之際,人們也面臨個人隱私遭到侵犯、主體地位喪失等日益嚴重的問題。原本作為約束“國家利維坦”的重要手段的數(shù)字信息技術(shù)發(fā)生異化,演化成一種新的利維坦,即“數(shù)字利維坦”。在這種情況下,最大的危險不再是隱私的泄露,而是“被預(yù)知的可能性”。如今,過度的數(shù)據(jù)化使得大數(shù)據(jù)背后的某些掌控者掌握了“財富密碼”,他們利用數(shù)據(jù)這種“預(yù)知特權(quán)”來控制信息,攫取財富,甚至對國家治理構(gòu)成威脅。在大數(shù)據(jù)給社會帶來新的治理路徑、為國家治理賦能的同時,過度的數(shù)據(jù)化即“數(shù)字利維坦”的出現(xiàn)潛藏著很多的社會風(fēng)險。數(shù)據(jù)資源被企業(yè)占據(jù),數(shù)據(jù)產(chǎn)權(quán)歸屬不明,“數(shù)字利維坦”的出現(xiàn)使得人們在大數(shù)據(jù)時代很難用新興技術(shù)來保護自己的大數(shù)據(jù)信息。此類個人數(shù)據(jù)信息包括個人的面部信息、足跡、手印等,是從人權(quán)中衍生而來的。
人臉識別技術(shù)的核心是人工智能算法。隨著技術(shù)自主性的凸顯,算法的使用將導(dǎo)致算法時代出現(xiàn)新的社會風(fēng)險。同“利維坦”的出現(xiàn)相似,不加限制的人工智能算法可能會脫離人類的駕馭,帶來新的社會風(fēng)險,甚至發(fā)展為毀滅世界的“賽維坦”??茖W(xué)技術(shù)本是帶領(lǐng)人類走出黑暗時代的“賽先生”,但人臉識別技術(shù)的濫用使得人工智能技術(shù)異化為帶領(lǐng)人們急速駛?cè)胛磥硎澜绲牧Υ鬅o窮卻找不到方向的巨型怪獸“賽維坦”。在使用人工智能算法的過程中,人們逐漸成為人工智能算法的附庸,臣服在人工智能算法程序監(jiān)控之下,社會中呈現(xiàn)出賽維坦式的科技風(fēng)險。人工智能算法的賽維坦風(fēng)險將直接導(dǎo)致人臉識別算法可能誤判數(shù)據(jù),不去審查數(shù)據(jù)反映的是否為假象,最終作出背離實際狀況的決策。該風(fēng)險具有隱蔽性。在一些領(lǐng)域,人工智能算法帶來的解決實際問題的能力甚至優(yōu)于人類。比如,在人臉識別技術(shù)使用初期,人們對人臉識別帶來的便利贊不絕口;在相當(dāng)長的一段時間內(nèi),人們對該技術(shù)完全持信任和支持的態(tài)度,根本沒有意識到該技術(shù)將會帶來的風(fēng)險。但是,隨著人臉識別技術(shù)大規(guī)模地應(yīng)用于社會,這種人工智能算法的賽維坦風(fēng)險慢慢顯現(xiàn),實際應(yīng)用中出現(xiàn)了與我們的預(yù)期不符的情況,甚至出現(xiàn)算法偏差風(fēng)險,導(dǎo)致違反倫理規(guī)范。
人臉識別技術(shù)的發(fā)展是大數(shù)據(jù)、人工智能算法與其他要素共同作用的結(jié)果。其他要素既能夠助推人臉識別技術(shù)發(fā)展,也可能導(dǎo)致濫用人臉識別技術(shù)。一旦人臉識別技術(shù)遭到濫用,加劇了社會風(fēng)險,人臉識別技術(shù)將異化為“集人工智能‘賽維坦’和大數(shù)據(jù)‘?dāng)?shù)字利維坦’于一身的復(fù)合型技術(shù)利維坦”?!凹夹g(shù)利維坦”比“賽維坦”和“數(shù)字利維坦”更加直白地揭示了人臉識別技術(shù)對社會和國家產(chǎn)生的負面影響。具體來說,當(dāng)人臉識別技術(shù)應(yīng)用于實際社會生活場景中,它憑借自身龐大的數(shù)據(jù)庫以及便于應(yīng)用、信息更新快等優(yōu)勢,迅速進入人們的生活,為人們所接受。并且,該項技術(shù)能夠提高社會治理績效,所以很快就被廣泛地運用到社會治理當(dāng)中。但是,在這背后,人類社會在無意識的情況下對人臉識別技術(shù)的依賴很有可能使人們變成人工智能技術(shù)的“奴隸”,技術(shù)本身的風(fēng)險也導(dǎo)致社會治理存在從“數(shù)字民主”滑向“技術(shù)利維坦”的風(fēng)險,容易使人們受到過度管控。在高新技術(shù)時代,我們在享受人臉識別技術(shù)帶來的便利生活的同時,要努力避免技術(shù)的異化,一方面擴大人臉識別技術(shù)的積極作用,使之服務(wù)社會,另一方面遏制其消極作用,防止國家、社會和個人遭到侵害。
在大數(shù)據(jù)時代,我們在享受人臉識別技術(shù)帶來的便利的同時,要充分注意這一技術(shù)帶來的社會風(fēng)險,特別是其使用過程中給個人、社會帶來的歧視和異化問題。由于人臉具有較強的公開性、非隱私性,面部信息采集容易被人接受,所以人臉識別在數(shù)據(jù)采集方面十分方便,但也正因這些特點的存在,加之缺乏統(tǒng)一的行業(yè)標(biāo)準和嚴密的法律制度,人臉識別技術(shù)的普及應(yīng)用也增加了諸多社會風(fēng)險隱患。
在社會生活領(lǐng)域,隨處可見的人臉識別裝置將個人生活和公共生活緊密地聯(lián)系在一起,比如在車站、機場等公共場合,人臉識別都成了身份識別的主力。這在一定程度上提高了公共服務(wù)水平和管理效率,但是也加劇了公共領(lǐng)域公共性和個人權(quán)益之間的張力。作為一項新興技術(shù),人臉識別目前尚缺乏統(tǒng)一的行業(yè)標(biāo)準和技術(shù)使用規(guī)范,因而在使用中存在諸多倫理難題和法律爭議。具體而言,人臉識別技術(shù)應(yīng)用中的倫理困境主要表現(xiàn)在以下幾個方面:
第一,技術(shù)使用中的倫理責(zé)任主體難以確定。由于人臉識別技術(shù)的復(fù)雜性,責(zé)任劃分也存在復(fù)雜性。責(zé)任劃分當(dāng)中,首先就是人臉識別技術(shù)在安全方面的責(zé)任歸屬問題。人臉識別技術(shù)本身的缺陷和安全隱患容易引發(fā)數(shù)據(jù)泄露風(fēng)險,而人臉識別技術(shù)是否會引發(fā)安全風(fēng)險,應(yīng)該是設(shè)計者首先考慮的問題。在人臉識別領(lǐng)域,人臉識別技術(shù)不能成為責(zé)任主體,因為它只是程序員為達到特定目的而編寫的代碼。在傳統(tǒng)的產(chǎn)品責(zé)任倫理規(guī)范中,設(shè)計生產(chǎn)者、銷售者是毋庸置疑的責(zé)任主體;但在人臉識別技術(shù)的研發(fā)和應(yīng)用過程中,“每一個環(huán)節(jié)都是單一的責(zé)任主體,又因技術(shù)內(nèi)部存在復(fù)雜性和系統(tǒng)性,一旦出現(xiàn)責(zé)任歸屬問題,其責(zé)任主體就無法明確”。對設(shè)計者而言,存在知識責(zé)任失衡風(fēng)險。在人臉識別技術(shù)領(lǐng)域,設(shè)計生產(chǎn)者是單一的責(zé)任主體,因為人臉識別技術(shù)的復(fù)雜性,具體技術(shù)系統(tǒng)的設(shè)計者在對人臉識別技術(shù)系統(tǒng)進行設(shè)計時,若囿于價值偏差、利益追求以及錯誤認識等因素,就會游走于法外灰色空間,背離應(yīng)然的價值責(zé)任,引致責(zé)任失衡。對決策和使用者而言,存在濫用人臉識別技術(shù)而引發(fā)權(quán)力責(zé)任失當(dāng)?shù)娘L(fēng)險。一般而言,該技術(shù)的使用者利用自我認知實現(xiàn)對該技術(shù)系統(tǒng)使用的倫理判斷與監(jiān)督,是使用者的責(zé)任所在。但該技術(shù)系統(tǒng)的使用者若依據(jù)其權(quán)力權(quán)威而濫用該技術(shù)系統(tǒng),則容易逾越現(xiàn)有的倫理責(zé)任規(guī)范,將人臉識別技術(shù)的不完備性帶入現(xiàn)實社會,這就引發(fā)了權(quán)力責(zé)任失當(dāng)?shù)娘L(fēng)險。
第二,對個人尊嚴的貶損。有時候,對人臉信息的收集雖然并不直接侵犯個人的隱私,卻有可能直接侵犯人的尊嚴。人們不僅因為在意自身的安全而進行自我保護,不僅因為關(guān)注自己物質(zhì)生活條件的提高而追求財富,也對“自身價值有本能的和微妙的感覺,對這一點的貶損不亞于對身體和財物的損害”。人的尊嚴這一核心價值已經(jīng)在世界范圍內(nèi)得到普遍尊重和肯定,并體現(xiàn)在諸多法律規(guī)范中。在某些方面,人臉識別技術(shù)的應(yīng)用直接關(guān)系到人的尊嚴問題。人臉識別技術(shù)的迅速發(fā)展不斷拓展著它的適用范圍、應(yīng)用領(lǐng)域。在這一過程中,設(shè)備應(yīng)用的成本得以降低;而又正因為成本的降低,人臉識別系統(tǒng)會在更大范圍內(nèi)得到使用。在這一技術(shù)的使用過程中,應(yīng)當(dāng)遵循合法性、合理性原則,不可盲目使用或濫用。在使用過程中,要把人性尊嚴作為該技術(shù)系統(tǒng)使用之正當(dāng)性的根基。凡是會對個人人格尊嚴造成貶損的,都屬于不正當(dāng)使用的范疇。有人認為在知情的情況下刷臉不會對個人尊嚴造成冒犯,但事實上,“知情”并不能等同于“同意”,況且“同意”也可能是迫于現(xiàn)實而不得不同意,這種情況下的“知情”“同意”難道沒有對個人的尊嚴造成貶損嗎?試想將來刷臉應(yīng)用發(fā)展到一定程度,個體面臨就業(yè)壓力時,很難因為刷臉簽到、刷臉領(lǐng)工資而拒絕一份工作,但我們并不能說他是真正同意這一系列制度安排的。在大數(shù)據(jù)時代,經(jīng)常通過攝像頭抓取人臉信息進行識別、認證,由此,未經(jīng)當(dāng)事人真正知情同意的刷臉成為一種“權(quán)力與服從”的行為,這種權(quán)力包括國家權(quán)力和社會權(quán)力。人臉?biāo)休d的個人尊嚴也因此而被技術(shù)稀釋。人臉識別技術(shù)的算法將個人變成一串串?dāng)?shù)字代碼和符號?!按藭r,識別的是人臉,得到的是數(shù)據(jù),失去的或被貶損的則是人的主體性及其尊嚴?!?/p>
第三,倫理價值失衡,損害社會公平。人類社會的發(fā)展在于追求社會公平和正義,這也是社會倫理價值的基本取向。而隨著人臉識別技術(shù)的應(yīng)用與發(fā)展,人臉識別系統(tǒng)可能會強化某些社會偏見。2015年,一位身為黑人的軟件開發(fā)人員在推特上發(fā)文稱,“Google Photos”使用的圖像分類器將他和一位黑人女性朋友的照片識別為大猩猩。那么,這能說明人臉識別技術(shù)存在種族歧視嗎?人臉識別技術(shù)呈現(xiàn)“歧視”與“偏見”,只是因為它使用的算法不完善。算法與人不同,它不具備常識,不能理解抽象概念。算法本身并無偏好與喜惡,但是它的使用卻可能會強化社會不公平現(xiàn)象,引發(fā)種族歧視等現(xiàn)象。人臉識別技術(shù)會給本身不受定義的人們打上各種標(biāo)簽,包括年齡、性別、種族和膚色等信息,人們接收到這種標(biāo)簽之后,在一些個人素質(zhì)較低的群體里便容易產(chǎn)生社會歧視,因而影響社會公平正義,加劇社會破裂風(fēng)險,引發(fā)社會安全隱患。
人臉識別技術(shù)的快速發(fā)展是以大量收集個人信息為基礎(chǔ)的,相應(yīng)地,人臉識別技術(shù)的濫用、個人信息的過度收集、個人隱私的泄露成為新的社會風(fēng)險。
“隱私”這一概念在數(shù)字社會中十分重要,且隨著時代的發(fā)展和社會的變遷,隱私的定義也發(fā)生了改變:以往,我們不愿意公開的事情即為我們的隱私;由于人臉識別技術(shù)的出現(xiàn),隱私已經(jīng)不限于以往我們所說的“不受他人干擾的權(quán)利”,而發(fā)展到我們原本公開的信息也成為隱私信息,隱私的邊界得以擴展。個人信息與隱私的界限逐漸變得模糊。我們的臉并不是隱私;若將人臉歸為隱私,那我們每天都無所遮掩地扛著隱私出行,我們的隱私早已暴露在大眾面前。但是,人臉攜帶著最重要的個人信息,人臉信息中的個人生物識別信息屬于我國法律規(guī)定的隱私信息,將個人的面部信息與他活動的時間、空間相結(jié)合,便構(gòu)成了我們所說的隱私信息。如果人臉信息被居心叵測的人竊取,就相當(dāng)于我們最重要的私密信息被暴露,我們也就毫無隱私安全可言了。在大數(shù)據(jù)時代,小到因信息泄露而飽受廣告電話的打擾,大到因信息泄露而蒙受財產(chǎn)、人身的損失,以及媒體對個人信息泄露案件的曝光,使得越來越多的人開始重視個人信息安全,為自身信息的安全問題而焦慮,其中包括人臉信息。
在大數(shù)據(jù)時代,人們的日常行為也越來越趨向于數(shù)字化,每個人每天都會產(chǎn)生大量的信息,其中很多信息是我們不愿公開的,屬于我們的隱私信息。個人隱私的信息化有以下原因:第一,隨著數(shù)字社會的發(fā)展,我們的個人信息經(jīng)過計算機技術(shù)的處理,變成了一條條數(shù)據(jù)、一個個代碼。第二,個人隱私意識不強,在無意識的情況下暴露了個人信息。第三是出于利益考慮而主動進行隱私交換,比如我們在使用一些手機App時選擇各種“同意”,包括同意獲取我們的定位、同意獲取我們的面部信息、同意記住密碼等。第四就是一些人臉識別技術(shù)系統(tǒng)與監(jiān)控設(shè)備的結(jié)合使得對個人隱私的獲取更加便捷。當(dāng)今社會,許多公共場所都安裝了視頻監(jiān)控,這些視頻監(jiān)控有助于保護個人和商家的財產(chǎn)安全,在一定程度上也可以協(xié)助警方偵破一些重大案件。然而,在2021年央視“3·15”晚會上,多家知名企業(yè)被曝監(jiān)控攝像頭違規(guī)采集人臉信息。這些企業(yè)未經(jīng)用戶同意,擅自利用監(jiān)控攝像頭采集人臉數(shù)據(jù)。相關(guān)企業(yè)收集的人臉數(shù)據(jù)量已經(jīng)過億,美其名曰幫助客戶進行分析以改善經(jīng)營,并聲稱相關(guān)數(shù)據(jù)不會泄露。這套說辭是否真實,仍有待考證。對于個人而言,事實就是我們的面部信息輕易就被他人獲取。包括人臉信息在內(nèi)的各種公開信息被不法分子惡意整合之后,成套的公開信息就變成了個人的隱私信息,這種“隱私信息化”成為我們保護個人隱私權(quán)的最大阻力。
在數(shù)字社會中,如何保護我們的個人隱私信息,成了一個讓人頭疼的問題。與傳統(tǒng)的法律權(quán)利相比,包括個人生物識別信息在內(nèi)的個人信息是一種內(nèi)容豐富、范圍寬廣的權(quán)利客體,它具有以下屬性:第一,基本人權(quán)屬性,既包括實現(xiàn)自由平等的權(quán)利和生存發(fā)展權(quán)利,也包括隨著數(shù)字社會的發(fā)展應(yīng)運而生的各種數(shù)據(jù)信息權(quán)利;第二,一般人格權(quán)的特點,因為其涉及個人安全感和尊嚴,如果我們的個人信息被他人侵占,我們就變成了猶如“透明人”一般的存在,失去了對自身個人信息的主導(dǎo)權(quán),可能在社會中也難以生存;第三,隱私權(quán)特點,具有可識別性,體現(xiàn)了人格特征;第四,財產(chǎn)安全屬性,個人信息具有商業(yè)利用價值,而作為我們個人標(biāo)識的生物識別信息一旦泄露,更有可能成為他人獲利的工具。對于個人隱私的保護,不僅需要個人加以高度重視,還需要有關(guān)部門完善相關(guān)法律規(guī)范。目前,我們的隱私信息被“數(shù)據(jù)化”以及個人隱私被侵犯的主要原因還是在于我國對于人臉識別技術(shù)的使用范圍等沒有進行明確的規(guī)范。在這方面,僅靠個人的抵制和相關(guān)部門的監(jiān)管是遠遠不夠的,還需要法律法規(guī)加以強有力的規(guī)制,從而實現(xiàn)對相關(guān)違法犯罪行為的精準打擊,切實防止一些企業(yè)和個人鉆法律漏洞而利用他人隱私牟利的現(xiàn)象。
由于人臉識別技術(shù)應(yīng)用的廣泛性和具體使用場景的多樣性,現(xiàn)行的相關(guān)法律制度尚存在缺漏,需要出臺更加詳細、清晰的法律規(guī)定。但是,由于現(xiàn)實問題的復(fù)雜性,這一立法過程還需要多學(xué)科、多領(lǐng)域的學(xué)者展開更加深入的研究,以期最大限度地實現(xiàn)對人們隱私權(quán)的保護。
人臉識別技術(shù)正在如火如荼地發(fā)展,這在促進社會進步和經(jīng)濟發(fā)展的同時,也帶來了嚴峻的挑戰(zhàn)。人臉識別技術(shù)是一把雙刃劍,它的發(fā)展和應(yīng)用除了“肉眼可見”的好處之外,也因發(fā)展之快、應(yīng)用之廣和監(jiān)管的滯后與缺失而在一定程度上激化了社會矛盾,其主要表現(xiàn)包括以下幾個方面:
1.影響社會公正
社會公正是一個古老而永恒的話題,也是當(dāng)今建立和諧社會的基石,是社會主義制度的首要價值體現(xiàn)。在數(shù)字化時代,社會公正問題有了新的表現(xiàn)形式,開始具有“數(shù)字化”特征,“資源占有正在從‘物質(zhì)’形式向‘?dāng)?shù)據(jù)’形式轉(zhuǎn)變”。在今天,數(shù)據(jù)不再限于單純的一系列數(shù)字,還包括文字、圖像、聲音等資源,這些資源甚至被稱為“21世紀的石油資源”,掌握這種“石油資源”的企業(yè)就容易在市場競爭中獲利。這些數(shù)據(jù)資源大部分由企業(yè)和政府壟斷,普通民眾處于被動提供數(shù)據(jù)的地位,形成一種不公。掌握及應(yīng)用數(shù)據(jù)的企業(yè)和政府組織之間存在立場、動機的不同,且很難統(tǒng)一。政府是為了實現(xiàn)公共利益而采取行動的公共組織,企業(yè)則是尋求利益最大化的市場組織。這就使得個人信息數(shù)據(jù)的采集、儲存與應(yīng)用等方面出現(xiàn)很多問題,組織和個人之間的信息不對稱導(dǎo)致個人信息被泄露、個人隱私遭到侵犯,這些現(xiàn)象加劇了社會不公,引發(fā)了公眾的不滿情緒。在經(jīng)濟領(lǐng)域,企業(yè)憑借占有個人信息而實施不正當(dāng)競爭,干擾正常的社會經(jīng)濟秩序,導(dǎo)致社會貧富差距加大,動搖了社會和諧的基礎(chǔ)。
2.用戶與企業(yè)的利益沖突
對于社會個體而言,使用人臉識別技術(shù)無疑會便利自己的生活。比如,使用一些手機App需要設(shè)置登錄密碼等,如果刷臉登錄和數(shù)字密碼“二選一”的話,相信絕大多數(shù)用戶都會選擇前者,這是因為,我們?nèi)粘?赡軙O(shè)置很多數(shù)字密碼,但我們的記憶能力是有限的,忘記密碼又需要重新申請,而人臉識別技術(shù)的應(yīng)用使我們無須記憶那些煩瑣的密碼,只需使用攝像頭掃描一下我們的面部,識別這一生物特征,由軟件后臺的系統(tǒng)進行記憶即可。此時,我們看到的是當(dāng)下的方便,卻忽視了背后的風(fēng)險。企業(yè)掌握了我們的面部特征,相當(dāng)于掌握了我們個人信息的鑰匙,我們鎖在箱子里的隱私信息也隨之曝光。在利益最大化的驅(qū)使下,一些無良企業(yè)甚至明碼標(biāo)價販賣個人信息牟利,這個時候,用戶與企業(yè)之間利益沖突激化,二者之間的矛盾愈益嚴重。
3.減少就業(yè)崗位
人臉識別技術(shù)對就業(yè)結(jié)構(gòu)的影響可以概括為替代效應(yīng)、人機協(xié)作和創(chuàng)造新崗位三個方面。而一項新技術(shù),在其應(yīng)用的初始階段,對勞動力的替代表現(xiàn)得更為明顯。與人類勞動相比,人臉識別技術(shù)在一些簡單重復(fù)的工作崗位具有更大優(yōu)勢。一方面,人臉識別技術(shù)應(yīng)用性較強,可以在多個領(lǐng)域投入使用,即使對于一些不大了解新興技術(shù)的人們來說,操作也十分方便。另一方面,人臉識別技術(shù)對一些傳統(tǒng)行業(yè)勞動力的替代能夠降低企業(yè)的成本,比如:在銀行系統(tǒng),人們可以通過刷臉進行一些業(yè)務(wù)操作,銀行工作人員則負責(zé)處理一些更為復(fù)雜的事務(wù);在一些大型超市,已經(jīng)開始采用人臉識別支付,取代了部分收銀員的工作。此類應(yīng)用在為雇主降低成本的同時,帶來了一些普通勞動者的失業(yè)問題,給社會穩(wěn)定增加了壓力。
人臉識別技術(shù)的快速發(fā)展在一定程度上對人類勞動起了替代作用,開始影響人們的生活方式和生產(chǎn)方式。過分依賴人臉識別技術(shù)也會導(dǎo)致人們主動思維能力和計算能力的下降,使人們的身心自由受到挑戰(zhàn),甚至可能把人類變成技術(shù)的“奴隸”。
一方面,人臉識別技術(shù)的廣泛應(yīng)用使人們越發(fā)依賴這一簡單便捷的技術(shù)。比如,我們在使用某些手機App時,為了防止自己因忘記密碼而無法使用,通常會選擇開啟人臉識別驗證。這一技術(shù)的應(yīng)用確實方便了我們的生活,但是,我們?nèi)绻^分依賴這一技術(shù),可能就不愿意多動腦筋,進而影響我們的記憶能力、思維能力,削弱我們的甄別能力。我們的主觀能動性在不知不覺中被這種便捷的技術(shù)弱化了,一旦離開人臉識別技術(shù),我們的正常生活可能會受到很大的影響。在人工智能技術(shù)的沖擊下,在人臉識別技術(shù)廣泛使用的背景下,未來人類的主體地位可能會喪失,一個人一輩子可能都在被動地接受技術(shù)的奴役,而缺少主動學(xué)習(xí)、主動選擇的能力。
另一方面,人臉識別技術(shù)也會使一部分社會成員感到心理上的威脅。人們一般認為,只有人,才具有感知能力。如果有一天,機器也逐步發(fā)展到可以進行思維和創(chuàng)造的地步,進而弱化人類的社會主體地位,那么,人類可能會感到恐慌,甚至產(chǎn)生不滿情緒。人類社會全面數(shù)字化的速度令人咋舌,來自不同領(lǐng)域的專家都在警告人類社會“數(shù)字獨裁”即將來臨。如果有一天,這些數(shù)字技術(shù)背后的算法可以輕易地通過人臉識別來掌握我們的信息,洞穿我們的欲望,操控我們的情緒,甚至預(yù)測出我們下一秒鐘的行為,那么我們就成了被技術(shù)操縱的人類,也就喪失了主體地位。
在人工智能技術(shù)迅速發(fā)展的大數(shù)據(jù)時代,我們既要接受人臉識別技術(shù)的應(yīng)用以及人臉識別技術(shù)產(chǎn)業(yè)的出現(xiàn),也要注意該項技術(shù)所帶來的風(fēng)險和隱患,在新技術(shù)迅速發(fā)展的過程中,對其所帶來的后果作出嚴謹認真的評估,限制其“野蠻生長”。因此,在應(yīng)用人臉識別技術(shù)時,社會公眾、相關(guān)行業(yè)以及政府等不同的社會主體要相互配合,協(xié)同治理,為人臉識別技術(shù)構(gòu)建安全合理的發(fā)展路徑。
人臉識別技術(shù)的濫用以及對個人信息的無限度獲取在一定程度上侵犯了個人的隱私權(quán),數(shù)字社會必須提高個人對隱私保護的認識。在使用人臉識別技術(shù)時,一些人過分依賴這一簡便的技術(shù)而忽視對自己隱私權(quán)的保護,甚至還未了解清楚自己所享受的服務(wù)的成本與風(fēng)險便急于使用該技術(shù),因而導(dǎo)致個人信息的泄露。提高公眾的隱私權(quán)利意識,首先要提高人們對人臉識別技術(shù)的理性認知,使其了解自己和相關(guān)主體的基本權(quán)利義務(wù),理性地認識人臉識別技術(shù)帶來的利益與風(fēng)險的共存關(guān)系。社會公眾應(yīng)該在真正知情同意的基礎(chǔ)上使用某項新興技術(shù)或者享受某些技術(shù)服務(wù),而不是完全忽略知情同意書或因其過于麻煩而無視。而當(dāng)我們的個人信息被泄露、隱私權(quán)被侵犯時,我們也要積極運用法律武器來維護自己的合法權(quán)利,將權(quán)利意識轉(zhuǎn)化為法律精神。在隱私保護方面,我國針對相關(guān)問題提供了相應(yīng)的法律依據(jù)。我國《民法典》在第111條宣示“自然人的個人信息受法律保護”,然后在人格權(quán)編“隱私權(quán)和個人信息保護”章通過六個條文對個人信息保護作出專門規(guī)定,其中包括將“生物識別信息”納入個人信息的定義之內(nèi)?!睹穹ǖ洹窞槿四樞畔⑻峁┝艘话阈苑杀Wo,而《個人信息保護法》為人臉信息提供了特殊性法律保護。后者是“憲法和民法之外最為重要和系統(tǒng)的個人信息保護法律”,構(gòu)成了“面部特征信息保護的獨立法律基礎(chǔ)”。
從人臉識別行業(yè)看,人臉識別技術(shù)主體要加強風(fēng)險責(zé)任意識,積極主動地承擔(dān)社會責(zé)任。人臉識別技術(shù)的發(fā)展方向與其研發(fā)主體密不可分。如果研發(fā)主體缺乏責(zé)任意識,那么其在設(shè)計初始階段就不會考慮該技術(shù)將會帶來的風(fēng)險,更不會主動提出一系列預(yù)防風(fēng)險、解決風(fēng)險的措施。因此,應(yīng)當(dāng)提高研發(fā)主體的道德意識,明確研發(fā)主體的社會責(zé)任,使研發(fā)主體采取有效措施防范倫理風(fēng)險,而不是片面地追求經(jīng)濟利益。
從人臉識別技術(shù)研發(fā)水平方面看,雖然我國人臉識別技術(shù)快速發(fā)展,已經(jīng)從最初的背景單一的正面灰度圖像識別發(fā)展到動態(tài)的人臉識別,但是目前的研發(fā)總體上還較為薄弱,與世界先進水平仍有差距。隨著人臉識別技術(shù)所涉及的圖像處理變得更加復(fù)雜,識別效果也需要逐步提高,例如,對一些復(fù)雜環(huán)境中的人臉要進行高質(zhì)量的有效識別與跟蹤,同時提高識別準確率和識別速度。
從人臉識別數(shù)據(jù)安全方面看,應(yīng)用人臉識別技術(shù)系統(tǒng)的用戶對系統(tǒng)的數(shù)據(jù)安全負有責(zé)任,在數(shù)據(jù)的采集、儲存、分析階段都需要通過數(shù)據(jù)加密技術(shù)進行保護,并及時修補威脅信息數(shù)據(jù)安全的技術(shù)漏洞,建立完善的人臉識別數(shù)據(jù)安全保障機制,保障人臉信息數(shù)據(jù)安全,切實維護相關(guān)個人的隱私權(quán)利。
目前我國人臉識別技術(shù)發(fā)展處于應(yīng)用領(lǐng)域?qū)拸V但整個行業(yè)的社會責(zé)任感還沒有建立起來的尷尬階段,社會責(zé)任感的建立沒有跟上人臉識別技術(shù)向社會各個領(lǐng)域的滲透,導(dǎo)致人臉識別技術(shù)應(yīng)用中出現(xiàn)了較多的問題。人臉識別行業(yè)的設(shè)計者、研發(fā)者、應(yīng)用者、管理者要樹立行業(yè)的社會責(zé)任感,不斷提高整個行業(yè)的技術(shù)水平和管理水平。
人臉識別技術(shù)作為一種高新科技,用途十分廣泛。但是,現(xiàn)在已經(jīng)出現(xiàn)濫用人臉識別技術(shù)的傾向。政府相關(guān)管理部門應(yīng)當(dāng)盡快制定完善的行業(yè)規(guī)范體系,明確人臉識別技術(shù)的應(yīng)用范圍。
第一,由政府主導(dǎo),結(jié)合各個行業(yè)應(yīng)用的特點制定人臉識別產(chǎn)業(yè)規(guī)劃,確定人臉識別技術(shù)對各個行業(yè)的幫助作用,引領(lǐng)對新興技術(shù)治理環(huán)境的構(gòu)建。比如,我國新冠肺炎疫情之所以能迅速得到控制,很大程度上也得益于我國的大數(shù)據(jù)能力、人臉識別能力、定位追蹤技術(shù),這些技術(shù)的應(yīng)用有助于我們迅速鎖定感染者行動軌跡,識別潛在接觸人群,及時進行隔離處理。因此,在醫(yī)療、教育、國防安全等方面,人臉識別技術(shù)應(yīng)該得到大力發(fā)展,為社會的安全和諧發(fā)展提供保障。
第二,成立具有法定權(quán)力的監(jiān)管部門,制定符合實際的監(jiān)管細則。一方面,對相關(guān)違法行為及時進行處置,及時叫停不符合人臉識別技術(shù)應(yīng)用標(biāo)準的企業(yè)的運行。另一方面,明確企業(yè)的責(zé)任范圍,要求企業(yè)在采集數(shù)據(jù)時確保用戶的知情權(quán)以及授權(quán)范圍的有限性,從而適度采集特定應(yīng)用項目所真正需要的用戶信息。2021年7月28日,最高人民法院頒布了《關(guān)于審理使用人臉識別技術(shù)處理個人信息相關(guān)民事案件適用法律若干問題的規(guī)定》,該規(guī)定充分考量了人臉識別技術(shù)的積極作用,一方面規(guī)范信息處理活動,另一方面促進數(shù)字經(jīng)濟健康發(fā)展,保護人臉識別技術(shù)的合法應(yīng)用。最高人民法院在充分調(diào)研的基礎(chǔ)上制定的上述司法解釋,對人臉信息提供了司法保護。該解釋明確規(guī)定,在賓館、商場、銀行、車站、機場、體育場館、娛樂場所等經(jīng)營場所、公共場所違反法律、行政法規(guī)的規(guī)定使用人臉識別技術(shù)進行人臉驗證、辨識或者分析,應(yīng)當(dāng)認定屬于侵害自然人人格權(quán)益的行為。
總之,整頓治理人臉識別行業(yè),不僅需要政府主導(dǎo)和法律規(guī)制,也需要相關(guān)行業(yè)密切配合,才能達到全面治理的目的。
結(jié)語
人臉識別技術(shù)蘊藏著推動社會進步的巨大潛力,對人類行為和人類社會產(chǎn)生著深刻影響。與此同時,人臉識別技術(shù)仍未臻于完善,存在著不可忽視的風(fēng)險。因此,我們在對人臉識別技術(shù)的應(yīng)用和發(fā)展保持開放包容心態(tài)的同時,也必須保持理性、審慎的態(tài)度,讓人臉識別技術(shù)健康有序地逐步融入社會。我們要認識到,一旦利用不當(dāng),人臉識別技術(shù)將在多方面給社會造成風(fēng)險隱患。
要正視人臉識別技術(shù)的內(nèi)在風(fēng)險,遏制該技術(shù)帶來的風(fēng)險隱患。研發(fā)人臉識別技術(shù)的初衷是創(chuàng)造更加安全便利的生活,但人臉識別技術(shù)的固有瑕疵容易使人們陷入“技術(shù)利維坦”的陷阱之中。我們必須時刻保持警惕,推動社會主體之間的協(xié)同配合,構(gòu)建協(xié)同治理模式,遏制“技術(shù)利維坦”的消極影響。人臉識別技術(shù)的發(fā)展與應(yīng)用要始終秉持“以人為本”的理念,而不能以犧牲人的隱私和尊嚴為代價。要拒絕人臉識別技術(shù)凌駕于人的意愿之上,確保該技術(shù)的應(yīng)用能夠更好地服務(wù)于人類的美好生活需要。在未來人工智能技術(shù)的發(fā)展過程中,人臉識別技術(shù)的生產(chǎn)功能將創(chuàng)造更多的經(jīng)濟財富,掌握人臉識別技術(shù)的研發(fā)就是掌握了“財富密碼”,因此,提升研發(fā)主體的道德意識,強化人臉識別技術(shù)行業(yè)的社會責(zé)任感,是提高人臉識別技術(shù)系統(tǒng)安全性、穩(wěn)定性的必由之路。人臉識別技術(shù)的不斷發(fā)展使得傳統(tǒng)的數(shù)據(jù)治理體系已經(jīng)難以滿足現(xiàn)實的需要,政府作為社會治理的重要主體,應(yīng)當(dāng)及時組織建立新的多元治理體系,調(diào)整社會與人臉識別技術(shù)之間的關(guān)系,有效消除人臉識別技術(shù)帶來的社會風(fēng)險隱患。