李皛

本期接上期繼續(xù)介紹美國“預(yù)測性警務(wù)”的爭議與困境及出路等。

三、爭議與困境

“預(yù)測性警務(wù)”在美國一度受到執(zhí)法機(jī)關(guān)和媒體的熱烈追捧，并被美國《時代周刊》列入2011年的50項最佳發(fā)明之一。在媒體的推波助瀾下，很多人相信“預(yù)測性警務(wù)”所使用的技術(shù)工具能夠“自動”對犯罪和罪犯做出“預(yù)言”，一時間一些人寄希望于用高科技武裝到牙齒的超級警察來拯救美國，另一些人則恐懼像科幻電影《少數(shù)派報告》中所描述的籠罩一切的數(shù)字強(qiáng)權(quán)即將到來。

2013年，美國蘭德公司的報告將“預(yù)測性警務(wù)”的現(xiàn)實應(yīng)用拉下神壇。通過對美國警察機(jī)關(guān)的詳盡調(diào)查，該報告破除了有關(guān)“計算機(jī)知道未來”“計算機(jī)能做一切”“預(yù)測犯罪等于阻止犯罪”的神話，報告中指出雖然數(shù)據(jù)科學(xué)必然成為警務(wù)活動不可或缺的組成部分，而科技發(fā)展將使其發(fā)揮越來越重要的作用，但至少在目前和可預(yù)見的未來，各種“預(yù)測性警務(wù)”工具的有效性仍取決于人們能否發(fā)現(xiàn)、確定并為其提供可靠且有效的數(shù)據(jù)，其“預(yù)測”范圍也局限于有限的功能設(shè)定之內(nèi)。而即便在一定程度上實現(xiàn)了準(zhǔn)確的“預(yù)測”，能否實現(xiàn)打擊和預(yù)防犯罪的目標(biāo)仍取決于警察的業(yè)務(wù)素質(zhì)和工作方法。報告強(qiáng)調(diào)，迷信和依賴技術(shù)工具，不能正確認(rèn)識數(shù)據(jù)產(chǎn)生的背景和內(nèi)涵，忽視或誤解影響預(yù)測的非技術(shù)因素，自恃強(qiáng)大技術(shù)而輕視維護(hù)社區(qū)公眾關(guān)系的重要性甚至踐踏公民權(quán)利，必將導(dǎo)致實踐中的失敗。

在技術(shù)進(jìn)步的興奮逐漸消退后，“預(yù)測性警務(wù)”的發(fā)展必須面對越來越復(fù)雜的輿論環(huán)境和來自多方面的質(zhì)疑與批評，特別是在美國長期存在基于種族、宗教等因素的執(zhí)法不公的情況下，一些問題具有高度的政治敏感性，迫使警察機(jī)關(guān)及其合作方必須謹(jǐn)慎應(yīng)對。

2013年斯諾登事件后，美國公眾越來越關(guān)心互聯(lián)網(wǎng)時代的公民隱私保護(hù)和數(shù)據(jù)權(quán)屬問題，對政府不受限制地獲取和利用數(shù)據(jù)保持高度警惕。此后，美國警察機(jī)關(guān)利用社交媒體監(jiān)控和數(shù)據(jù)挖掘公司“吉歐菲迪亞”（公司名GeoFeedia，音譯）等提供的網(wǎng)絡(luò)爬蟲工具，從“臉書”（Facebook）“推特”（Twitter）和“照片墻”（Instagram）等社交媒體平臺廣泛挖掘數(shù)據(jù)以用于“預(yù)測性警務(wù)”的情況被不斷披露，美國公民自由聯(lián)盟（American Civil Liberties Union）等民權(quán)組織抗議警察機(jī)關(guān)在此類工作中將特定短語（如黑人民權(quán)運動口號“黑人的命也是命”，即“BlackLivesMatter”等）作為檢索目標(biāo)，稱這種做法無異于將特定種族或文化背景的人群與犯罪相聯(lián)系，并成功迫使主流社交媒體平臺關(guān)閉了警方使用的網(wǎng)絡(luò)爬蟲工具訪問其后端數(shù)據(jù)權(quán)限。但即便如此，很多美國人仍擔(dān)憂警察機(jī)關(guān)獲取像美國國家安全局等情報機(jī)關(guān)那樣強(qiáng)大和不受監(jiān)督的數(shù)據(jù)挖掘能力，并認(rèn)為即便不能訪問后端數(shù)據(jù)，警方仍能獲取大量有關(guān)個人隱私的信息。

在公眾的焦慮之外，專業(yè)人士和組織則對美國警察機(jī)關(guān)的工作進(jìn)行了更深入的審視。一些人類學(xué)家和社會學(xué)家反對“社會物理學(xué)”學(xué)派提出的概念，認(rèn)為相對于人類行為和人類社會的復(fù)雜性，至少現(xiàn)有的數(shù)據(jù)科學(xué)手段過于粗糙和簡易，只能應(yīng)用于一些極其有限的場合，對認(rèn)識和解決復(fù)雜社會問題沒有太高的價值。一些犯罪學(xué)家和統(tǒng)計學(xué)家指出，對迄今為止顯示出“預(yù)測性警務(wù)”神奇效果的那些統(tǒng)計數(shù)據(jù)缺乏認(rèn)真評估，很少在合適的監(jiān)督下由獨立且嚴(yán)肅的研究機(jī)構(gòu)開展。他們認(rèn)為，一些確實存在的治安好轉(zhuǎn)和犯罪率下降是由于多方面因素導(dǎo)致的，如隨著互聯(lián)網(wǎng)經(jīng)濟(jì)的發(fā)展在全世界范圍內(nèi)普遍存在街頭侵財類犯罪大幅下降的現(xiàn)象;還有一些成果則是由于像前洛杉磯警察局長布拉頓那樣的強(qiáng)勢警察機(jī)關(guān)領(lǐng)導(dǎo)人能夠調(diào)動更多資源而實現(xiàn)的，“預(yù)測性警務(wù)”等先進(jìn)技術(shù)在其中更多起到了宣傳作用。一些人工智能專家則提醒公眾，當(dāng)前用于“訓(xùn)練”人工智能的“算法”本質(zhì)上是“黑箱”，即便是發(fā)明者也無法解釋其內(nèi)在的運作邏輯，將這種無法監(jiān)督和不受控的工具用于政府的公共服務(wù)中，其合法性是值得懷疑的。更嚴(yán)厲的指責(zé)則在于一些學(xué)者認(rèn)為作為“預(yù)測性警務(wù)”實現(xiàn)基礎(chǔ)的數(shù)據(jù)本身已經(jīng)被過往警察執(zhí)法中的偏見和歧視性做法所“污染”，建立在其基礎(chǔ)上的“預(yù)測”也只能是過往錯誤的重復(fù)，或是用“科學(xué)”的外衣掩飾美國的種族主義警務(wù)傳統(tǒng)。賓夕法尼亞大學(xué)研究人員克里斯蒂安·盧姆（Kristian Lum）和人工智能公司“深度思考”（Deep Mind）的專家威廉·艾薩克（William Isaac）通過模擬研究發(fā)現(xiàn)，“預(yù)測警務(wù)”公司提供的犯罪預(yù)測軟件在目標(biāo)犯罪類型應(yīng)呈平均分布的情況下，以大約兩倍于白人社區(qū)的規(guī)模向黑人社區(qū)調(diào)配警力。“預(yù)測警務(wù)”公司表示應(yīng)注意避免帶有偏見的執(zhí)法，但仍爭辯說，其開發(fā)的犯罪預(yù)測軟件并不依賴經(jīng)過警方主觀挑選或與個人身份相關(guān)的數(shù)據(jù)。但學(xué)者們表示，在美國社會，偏見與歧視絕非僅僅是個人的主觀意志所決定的，而是根植于整個社會結(jié)構(gòu)的系統(tǒng)性壓迫，要“洗刷”干凈并不容易。美國學(xué)界對“預(yù)測性警務(wù)”的批評不斷掀起新的高潮，在2020年5月發(fā)生黑人弗洛伊德遭警察“跪殺”事件后，6月15日，在美國數(shù)學(xué)家學(xué)會的倡導(dǎo)下，約1500多名科學(xué)家加入了抵制“預(yù)測性警務(wù)”，拒絕與警察機(jī)關(guān)合作的運動;7月，《麻省理工大學(xué)技術(shù)評論》（MIT Technology Review）發(fā)表了題為“廢除種族主義的預(yù)測性警務(wù)算法”（Predictive policing algorithms are racist. They need to be dismantled）的文章。美國“預(yù)測性警務(wù)”的發(fā)展正面臨來自它最迫切需要的智力資源的強(qiáng)烈反對。

不利的輿論環(huán)境迫使美國警察機(jī)關(guān)公開其有關(guān)“預(yù)測性警務(wù)”的技術(shù)和工作方法的細(xì)節(jié)，并接受更多元化的監(jiān)督和評估，以求得到公眾的諒解，但目前看來事與愿違。反“預(yù)測性警務(wù)”團(tuán)體“停止洛杉磯警察局間諜活動聯(lián)盟”（Stop LAPD Spying Coalition）于2017年和2018年要求洛杉磯警察局公布其“激光”行動的詳細(xì)信息且訴諸司法訴訟，迫使該警察局公開了數(shù)百份相關(guān)文件，并在2019年初對“激光”行動進(jìn)行了內(nèi)部審查，發(fā)現(xiàn)在被歸類為“活躍的長期犯罪者”的233人中，拉美裔或非裔美國人占84%，似乎“證實”了有關(guān)執(zhí)法偏見的質(zhì)疑，從而引起了更強(qiáng)烈的反彈。無獨有偶，經(jīng)過《芝加哥太陽報》的呼吁和訴諸司法訴訟，芝加哥警察局被迫公開了“戰(zhàn)略對象清單”的詳情，民權(quán)團(tuán)體在經(jīng)過梳理后，對其中所體現(xiàn)的難以理解的算法邏輯表示質(zhì)疑：在總數(shù)約40萬的被標(biāo)注者中，約29萬人被標(biāo)注為“高風(fēng)險”，而其中9萬人從未被捕或曾成為犯罪受害者，批評者據(jù)此指出警方正在締造基于算法的新的執(zhí)法歧視體系。

四面楚歌之下，近年來美國“預(yù)測性警務(wù)”屢遭“滑鐵盧”。2019年，一向在警務(wù)創(chuàng)新中居于前沿的美國洛杉磯警察局對其“預(yù)測性警務(wù)”項目進(jìn)行全面審查，最終認(rèn)為就“預(yù)測警務(wù)”公司提供的犯罪預(yù)測軟件對減少犯罪的總體有效性“無法得出有意義的結(jié)論”;并決定結(jié)束“激光”行動，認(rèn)為需要對其效果進(jìn)行重新評估。2020年初，芝加哥警察局悄然結(jié)束了“戰(zhàn)略對象清單”行動，并承認(rèn)2019年的一項研究表明沒有充分證據(jù)證實該行動對減少暴力犯罪有顯著作用。2020年6月，“預(yù)測警務(wù)”公司總部所在地——美國加利福尼亞州圣克魯斯縣成為全美第一個由于“了解到預(yù)測性警務(wù)和面部識別對有色人種產(chǎn)生不成比例的偏見”而正式宣布禁止使用這些技術(shù)的行政區(qū)。

四、癥結(jié)與出路

毫無疑問，美國“預(yù)測性警務(wù)”的發(fā)展當(dāng)前正面臨自其誕生以來最嚴(yán)峻的挑戰(zhàn)，在極端不利的輿論環(huán)境下面對針對其目標(biāo)、技術(shù)路徑、實際成效、道德標(biāo)準(zhǔn)和合法性的全方位質(zhì)疑與批評。但與此同時，無論是“預(yù)測性警務(wù)”的擁護(hù)者抑或反對者，都承認(rèn)基于數(shù)據(jù)科學(xué)和人工智能的警務(wù)技術(shù)革新難以避免，美國人必須學(xué)會使用或面對這些陌生、可疑且難以控制的社會治理工具。

美國公眾對該國警察體制根深蒂固的不信任有其深刻根源。從1619年第一批黑人奴隸被販賣到北美，直至20世紀(jì)60年代的民權(quán)運動終結(jié)了種族隔離，美國有300多年的極端的、制度化的種族壓迫歷史，在此期間，包括警察在內(nèi)的國家暴力機(jī)器是種族壓迫最直接和殘酷的執(zhí)行者。此后，雖然種族壓迫的制度被終止，但其造成的社會撕裂和其他災(zāi)難性后果，以及始終縈繞不去的種族主義文化氛圍，使種族壓迫仍然系統(tǒng)性存在，只不過變得隱晦，而警察普遍性地帶有種族偏見的執(zhí)法行為，則早已成為社會痼疾。美國公眾有理由相信，種族壓迫將成為人工智能通過“機(jī)器學(xué)習(xí)”所接受的訓(xùn)練的組成部分，從而將這一丑惡的傳統(tǒng)延續(xù)下去，并為其披上科學(xué)的外衣。

美國行政機(jī)關(guān)的“自治”模式導(dǎo)致在全美約18000個執(zhí)法機(jī)構(gòu)之上并不存在總的監(jiān)督機(jī)制，使公眾長期以來對如何運用“預(yù)測性警務(wù)”技術(shù)掌握在執(zhí)法機(jī)關(guān)管理層和出售這些技術(shù)的商業(yè)機(jī)構(gòu)手中的狀況倍感憂慮，一直在呼吁讓更多的專業(yè)機(jī)構(gòu)和社會團(tuán)體，特別是那些深受警察歧視性執(zhí)法之害的弱勢群體的代表，參與到對警方?jīng)Q策的評估和審查中;要求供應(yīng)商將其用于訓(xùn)練人工智能的數(shù)據(jù)集公開并提交專門機(jī)構(gòu)審核，以使政府治理更符合民主原則。面對壓力，自奧巴馬執(zhí)政時期開始，美國政府推動了“警察數(shù)據(jù)計劃”，鼓勵警察部門提供更多的檔案以供公眾審查，但參與的機(jī)構(gòu)數(shù)量仍十分有限。此外，“預(yù)測性警務(wù)”使用的技術(shù)手段也被應(yīng)用在改善警察與社區(qū)關(guān)系，以及監(jiān)督警察執(zhí)法等方面。美國斯坦福大學(xué)在2015年啟動了“法律秩序與算法”項目，通過對上億條高速公路執(zhí)法巡邏站數(shù)據(jù)的分析和發(fā)布，建立對社會開放的警民互動數(shù)據(jù)庫。高技術(shù)公司對此也反響積極，試圖為人工智能樹立更加友善和“政治正確”的形象。在蘇格拉塔（公司名Socrata，音譯）等公司的幫助下，美國政府正在研究通過對警察使用武力、被投訴、出警響應(yīng)時間等數(shù)據(jù)的分析排除“不良”執(zhí)法數(shù)據(jù)的技術(shù)。但無論如何，無論是醫(yī)治美國社會種族歧視的痼疾，抑或減少犯罪，都絕非通過技術(shù)手段或警察以及刑事司法部門的努力所能解決的，其將是持久、全面而深刻社會變革的組成部分。

另一方面，在今天的信息化社會，互聯(lián)網(wǎng)和數(shù)據(jù)空間承載了越來越多的，甚至某種意義上的大部分人類活動，但就法律與道德規(guī)范而言，則在很大程度上仍是一片空白。“預(yù)測性警務(wù)”所使用的技術(shù)工具不可避免地涉及互聯(lián)網(wǎng)個人隱私和數(shù)據(jù)權(quán)屬等敏感而無法在短期內(nèi)取得共識的議題。對此，美國學(xué)界呼吁警方應(yīng)在合理利用數(shù)據(jù)資源的同時促進(jìn)互聯(lián)網(wǎng)與數(shù)據(jù)道德、法規(guī)建設(shè)的良性發(fā)展。美國印第安納大學(xué)教授弗里德·凱特（Fried Cate）指出，公眾更關(guān)注信息被如何使用而非如何收集，警方應(yīng)注意到這一點，并對此時刻保持謹(jǐn)慎。此外，技術(shù)進(jìn)步也可能帶來一些更深層次的問題。如美國憲法第四修正案規(guī)定“人民的人身、住宅、文件和財產(chǎn)不受無理搜查和扣押的權(quán)利，不得侵犯。除依照合理根據(jù)，以宣誓或代誓宣言保證，并具體說明搜查地點和扣押的人或物，不得發(fā)出搜查和扣押狀”。然而，當(dāng)警察或司法機(jī)關(guān)基于人工智能的判斷，或在受到人工智能影響的情況下作出諸如搜查或扣押的決定，應(yīng)如何審視其合法性？當(dāng)今科學(xué)技術(shù)的發(fā)展已經(jīng)遠(yuǎn)遠(yuǎn)走在了人類對環(huán)境適應(yīng)能力的前面，如何使科學(xué)技術(shù)始終為人類社會發(fā)展服務(wù)，始終堅持以人為本而不再迷失在盲目技術(shù)崇拜、技術(shù)恐懼或?qū)ぞ咝阅繕?biāo)的偏執(zhí)中，美國“預(yù)測性警務(wù)”的發(fā)展與困境或?qū)⑹且粋€很好的啟示。（全文完）■

（責(zé)任編輯：馮苗苗）