田地

2019年9月，開學第一周，位于江蘇南京的中國藥科大學，在部分教室“試水”安裝了人臉識別系統(tǒng)，“監(jiān)控學生”一時間成為爆炸性新聞。這種人臉識別監(jiān)控可在學生進入教室后自動識別個人信息，對簽到簽退、學生上課聽課情況（是否認真聽講，課堂上是否抬頭低頭、抬頭低頭了幾次和多長時間，是否在玩手機，是否閉眼打瞌睡，是否發(fā)呆）進行監(jiān)控。

AI適用范圍和倫理爭議

今天，人工智能（AI）的強勢發(fā)展讓人臉識別技術(shù)逐步滲透進人們的生活、工作和學習中。學生上課被人臉識別監(jiān)控并非新鮮事，很多學校都在“試水”。這勢必引起雙方的博弈：學生認為，這是在侵犯自己的隱私；但校方認為，此舉意在減少學生逃課、早退、花錢找人代課以及上課不認真聽講等行為，提高學生到課率，嚴肅課堂紀律。校方早已向公安部門和法務(wù)部門咨詢，教室屬于公開場所，不存在“侵犯隱私”的說法。

人臉識別技術(shù)發(fā)展過程中遇到的第一個重要問題便是適用范圍及隨之產(chǎn)生的倫理問題。如果人臉識別只是用于刑事鑒識，似乎并無問題，而且中國早已經(jīng)發(fā)展出了完備的天眼系統(tǒng)，這套系統(tǒng)通過應(yīng)用人工智能、視頻圖像處理等多種專業(yè)技術(shù)，能在第一時間對人臉信息進行捕捉和匹配，識別速度快且準確度高。目前，已經(jīng)有20多個省市的警務(wù)系統(tǒng)和這套天眼系統(tǒng)實現(xiàn)了對接，系統(tǒng)能夠通過布控在城市公共場所的攝像頭對人臉進行實時、精準且快速的甄別；同時，該系統(tǒng)會將抓拍到的人臉照片和公安局逃犯數(shù)據(jù)庫內(nèi)的幾十萬個數(shù)據(jù)進行對比，在三秒內(nèi)即可完成身份確認和準確定位，讓犯罪分子無處可逃。

但是，如果把人臉識別用于學?；騿挝槐O(jiān)控學生和員工，勢必產(chǎn)生倫理爭議，因為學生和員工不是嫌疑犯。只要是在紀律所允許的范圍，便不能剝奪他們學習、工作和生活的自由。

前不久，南京河西區(qū)某環(huán)衛(wèi)公司為環(huán)衛(wèi)工人配發(fā)了智能手表，以監(jiān)控他們的勞動。這款手表除了能定位環(huán)衛(wèi)工人外，還會催促工人勞動，只要工人在原地停留休息20分鐘，手表就會自動發(fā)出“加油”的報警聲。批評者認為，這種做法毫無人性，對工人極為嚴苛和殘忍。

上海中醫(yī)藥大學附屬閔行薔薇小學也引進了AI系統(tǒng)，用于學校教學和學生學習。無論是老師還是學生，一舉一動都處于AI的嚴密監(jiān)控之下，連學生在日常生活中有無微笑、有無向老師問好、有無主動撿垃圾、隊列是否整齊等細節(jié)，都會被AI捕捉，反饋到總控中心。這種做法也被視為是對學生隱私的剝奪，是讓孩子進了集中營和監(jiān)獄。

在輿論的一片譴責聲中，南京環(huán)衛(wèi)工人的枷鎖—智能手表被摘除了。現(xiàn)在，教育部對中國藥科大學的人臉識別“試水”進行了回應(yīng)。今年9月5日，教育部科學技術(shù)司司長雷朝滋在接受采訪時表示：“（對于人臉識別技術(shù)應(yīng)用）我們要加以限制和管理?，F(xiàn)在我們希望學校非常慎重地使用這些技術(shù)軟件?！边@個表態(tài)意味著，官方對使用人臉識別監(jiān)控學生是持謹慎態(tài)度的。

盡管有教育部的表態(tài)，中國藥科大學的學生和其他學校的學生能否逃脫被全面監(jiān)控的命運還很難說。中國藥科大學稱，學校將根據(jù)人臉識別監(jiān)控“試水”后的效果確定是否在所有教室都安裝人臉識別系統(tǒng)。

技術(shù)的局限與法律的沖突

人臉識別只是生物識別的一種，盡管在識別個體上有較大的優(yōu)勢，但也存在技術(shù)漏洞，也會出錯。在英國，警方已經(jīng)在大型公共活動中嘗試使用人臉識別技術(shù)，如在倫敦諾丁山狂歡節(jié)中使用，但是由于人臉識別技術(shù)的漏洞，已經(jīng)導致了錯抓2000多人。

盡管如此，進入AI時代，在監(jiān)控下生活似乎是現(xiàn)代人難以逃脫的宿命。除了管理者有充分理由外，如監(jiān)控工人可以提高生產(chǎn)效率，監(jiān)控學生可以督促學生好好學習，一些國家的法律也都有意無意在支持這一舉動。

就連十分注重個人權(quán)利、保護個人隱私的美國，也有法律規(guī)定：在一定條件下，雇主是可以監(jiān)控員工的，同理，學校也可以監(jiān)控學生。根據(jù)《美國憲法第四修正案》和《加州憲法》的規(guī)定，公民都有隱私權(quán)。但是，公民的隱私權(quán)是否受到了侵犯，取決于你的雇主試圖查出有關(guān)你的什么事情。

事實上，根據(jù)“雇主試圖查出員工的什么事情”這一要素，雇主想要監(jiān)控員工的工作情況，以了解生產(chǎn)水平和生產(chǎn)力，一般來說是可以被接受的。因此，雇主和主管是可以在工作場所安裝視頻和音頻監(jiān)控設(shè)備的；但是，在員工的洗手間或更衣間里安裝視頻設(shè)備則是非法侵犯隱私權(quán)。

可以類比的是，學校管理方認為課堂是公共空間，所以為了“愛學生”，為了促進學習，就應(yīng)當啟用監(jiān)控。不過，即便員工和學生可以被監(jiān)控，也存在監(jiān)控的程度和范圍問題，同時監(jiān)控是否有效以及是否真的是“為了被監(jiān)控者好”，也很難認定。不過，如果人臉識別監(jiān)控真的有效，人們是否應(yīng)該讓渡自己的隱私和自由來接受AI監(jiān)控呢？

美國新罕布什爾州達特茅斯學院的安德魯·坎貝爾教授研發(fā)的配合智能手機自帶的傳感器的應(yīng)用程序可以持續(xù)監(jiān)控員工的身體活動、地理位置、手機使用情況、環(huán)境光線等。通過一年內(nèi)對全美750名工人進行測試，發(fā)現(xiàn)該系統(tǒng)能夠區(qū)分各行各業(yè)人們的績效水平，準確率為80%。

美國另一項研究結(jié)果則提示，監(jiān)控員工未必就能取得好的工作成果和績效。華盛頓大學圣路易斯分校的研究人員在3年時間內(nèi)追蹤了42家醫(yī)院的5200名護理人員，發(fā)現(xiàn)他們在受到監(jiān)控的情況下，其前兩年的洗手率會有所增加，但監(jiān)控放松后又會回落；而且在取消監(jiān)控措施后，洗手率甚至低于監(jiān)控前的水平。不過，這項研究也從另一個角度提供了必須監(jiān)控人們生活、工作和學習的更充分和更重要的理由，撤掉監(jiān)控后醫(yī)護人員就懶得洗手（這對病人和員工雙方都不利，會加大疾病的傳播概率），那么，為何不始終采用AI監(jiān)控，讓醫(yī)護人員永遠保持工作前后洗手的行為呢？

監(jiān)控面臨的“拉鋸戰(zhàn)”

在工作效率、有益人們的健康以及其他理由面前，AI監(jiān)控已經(jīng)大行其道，也成為現(xiàn)代人頭上的緊箍咒，誰也逃不掉。每個人的隱私，包括私人信息和私人活動都要退而成為次要的因素。

在此情況下，人們的工作和職位也受到威脅。2019年初，媒體曝光亞馬遜公司利用計算機系統(tǒng)，自動跟蹤數(shù)百名未能完成生產(chǎn)指標的配送中心員工，這個系統(tǒng)還會自動生成任何關(guān)于質(zhì)量或生產(chǎn)率的警告，而無需上級的輸入。在獲知這些員工的情況后，亞馬遜公司解雇了他們。盡管亞馬遜公司事后予以否認，但這已表明，無處不在的監(jiān)控已經(jīng)“降臨”，稍有懈怠，就有可能失業(yè)失學。

不過，也有一些國家認定用人臉識別監(jiān)控學生是違法行為。瑞典數(shù)據(jù)保護監(jiān)管局（DPA）對瑞典北部城市謝萊夫特奧開出了該國的第一張依據(jù)歐盟《通用數(shù)據(jù)保護條例》（GDPR）的罰單，金額相當于1.9萬歐元（約15萬元人民幣），原因是該市的一所高中使用人臉識別技術(shù)來監(jiān)控在校學生的出勤情況，之前既沒有向DPA報備，而且又非法處理了學生敏感的生物特征識別數(shù)據(jù)。

盡管學校辯稱事前爭得了學生的同意，但律師認為，學生是在學校董事會管理之下，無法判斷學生的“同意”是否為學生的獨立意志。DPA堅持認為，在日常環(huán)境中對學生進行攝像監(jiān)控侵犯了學生的隱私。

現(xiàn)在，歐盟正在探索控制和監(jiān)管人臉識別技術(shù)的立法，希望制定一套“AI監(jiān)管的世界性標準”，建立起“足以保護個人的、明確的、可預測和統(tǒng)一的規(guī)則”。這樣的立法將在GDPR的現(xiàn)有基礎(chǔ)上更進一步，主要針對可能“帶來特定風險”的人臉識別等技術(shù)。

同時，美國的亞馬遜人臉識別系統(tǒng)由于難以識別膚色、性別和年齡而將28名國會議員識別為罪犯，由此引發(fā)了爭論。為此，美國舊金山議會及時立法，禁止政府購買以及使用人臉識別技術(shù)，使得舊金山成為美國第一個禁止人臉識別技術(shù)的城市。

科技進步使得人類進入了以人工智能為代表的信息時代，這固然讓人們的生活更為方便、舒適；但是科技發(fā)展的一個悖論也出現(xiàn)了，AI越發(fā)達，人們的隱私越容易被暴露，以科技來改善生活和提高自由度的理想反而漸行漸遠。這樣的AI技術(shù)真的是人類想要的嗎？