国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

超越“公平的不可能性”:從形式到實(shí)質(zhì)性算法公平的轉(zhuǎn)向

2023-11-21 07:46:00郭佳楠侯攀濤
甘肅理論學(xué)刊 2023年5期
關(guān)鍵詞:實(shí)質(zhì)性方法論公平

郭佳楠,侯攀濤

(1.鄭州工商學(xué)院 馬克思主義學(xué)院,鄭州 450000;2.中國(guó)人民大學(xué) 數(shù)字人文研究中心,北京 100872)

目前,機(jī)器學(xué)習(xí)算法已被廣泛使用,并且在商業(yè)和政府的自動(dòng)化決策系統(tǒng)中變得越來(lái)越重要。以機(jī)器學(xué)習(xí)為主的決策算法憑借其處理海量信息和看似公平的輸出的優(yōu)勢(shì),被認(rèn)為可以成功地支持決策公平的實(shí)現(xiàn)。然而,事實(shí)上,現(xiàn)實(shí)情況并非如此,因?yàn)闄C(jī)器學(xué)習(xí)算法并不總是像人們期望的那樣客觀公正,算法很容易受到社會(huì)偏見(jiàn)或其他歧視性觀點(diǎn)的影響,從而導(dǎo)致“公平的不可能性”。此外,算法本身也可能導(dǎo)致算法不公平/歧視,因?yàn)樗惴赡軙?huì)犧牲少數(shù)群體的高質(zhì)量或性能來(lái)獲得整體樣本的更高準(zhǔn)確率,同時(shí)使少數(shù)群體處于不利的社會(huì)地位?;诖?越來(lái)越多的人意識(shí)到如何從真正意義上來(lái)保證算法的公平?jīng)Q策具有重要的理論意義和應(yīng)用價(jià)值。

本文首先闡釋“公平的不可能性”的基本內(nèi)涵與核心范疇,并分析了算法運(yùn)行陷入“公平的不可能性”的現(xiàn)實(shí)困境,進(jìn)一步表明形式算法公平方法論無(wú)法在具有關(guān)系性與結(jié)構(gòu)性不平等的政策環(huán)境中促進(jìn)公平與正義,通過(guò)探究實(shí)質(zhì)性算法公平方法論,可以發(fā)現(xiàn)這個(gè)方法論對(duì)于實(shí)現(xiàn)算法公平性是十分有益的,并且能夠?qū)⑵鋺?yīng)用于實(shí)現(xiàn)算法公平性的實(shí)踐路徑探討中。

一、 公平的不可能性:算法的公平性及其現(xiàn)實(shí)困境

(一)“公平的不可能性”及其范疇嬗變

聚焦當(dāng)下,社會(huì)公平往往由數(shù)學(xué)模型而非人來(lái)決定,人們進(jìn)而期望利用算法重塑一個(gè)更加客觀的現(xiàn)實(shí)世界,但事與愿違,改善問(wèn)題的系統(tǒng)卻反過(guò)來(lái)使問(wèn)題更嚴(yán)重,算法“黑箱”、算法運(yùn)行系統(tǒng)難以審查等內(nèi)在缺陷引發(fā)的偏見(jiàn)與歧視備受公眾關(guān)注與指責(zé),社交媒體中的算法操縱、算法武器化所催化的假新聞泛濫讓民眾憂慮不已,數(shù)據(jù)科學(xué)家凱茜·奧尼爾稱之為“數(shù)學(xué)破壞的武器”[1]。

2016年5月,據(jù)美國(guó)非營(yíng)利新聞機(jī)構(gòu)Pro-Publica的記者報(bào)道稱,佛羅里達(dá)州布勞沃德縣用于判斷審前被告的風(fēng)險(xiǎn)評(píng)估算法“對(duì)黑人有偏見(jiàn)”[2]。這種被稱為COMPAS的算法是由Northpointe公司創(chuàng)建的,并被美國(guó)許多法院系統(tǒng)所使用(1)COMPAS全稱是Correctional Offender Management Profiling for Alternative Sanctions,意為“替代性制裁為目標(biāo)的懲教犯管理畫像”。它是用于評(píng)估被告人員將再次犯罪的幾率,基于被告的犯罪記錄以及其他一系列因素,來(lái)評(píng)估他們?cè)谖磥?lái)兩年內(nèi)被再次逮捕的可能性。其風(fēng)險(xiǎn)評(píng)估的結(jié)果會(huì)影響到法官關(guān)于保釋甚至判決的最終決定,也就意味著,如果算法不準(zhǔn)確,一些低風(fēng)險(xiǎn)的被告反而會(huì)被判決更長(zhǎng)時(shí)間,對(duì)任何受到影響的人都有著重大的危害。Northpointe 公司已更名為Equivant。。與其他審前風(fēng)險(xiǎn)評(píng)估一樣,COMPAS會(huì)預(yù)測(cè)審前被告再次犯罪的可能性;而這些預(yù)測(cè)會(huì)呈現(xiàn)給法官,以告知或影響他們?cè)趯徟星搬尫呕蚓辛裘總€(gè)被告的決定。通過(guò)對(duì)7000多名罪犯的追蹤調(diào)查,ProPublica發(fā)現(xiàn),在那些接受評(píng)估后兩年內(nèi)未被捕的被告中,黑人被告被COMPAS錯(cuò)誤分類為“高風(fēng)險(xiǎn)”(即受到誤報(bào)預(yù)測(cè))的可能性是白人被告的1.9倍[3]。

應(yīng)該說(shuō),關(guān)于COMPAS程序的辯論涉及算法公平的兩個(gè)不同定義。第一個(gè)定義是“分離(separation)”[4],即如果所有受算法預(yù)測(cè)影響的群體都經(jīng)歷了相同的假陽(yáng)性率和相同的假陰性率,則滿足該定義所規(guī)定的條件(2)“分離”的定義符合公平的標(biāo)準(zhǔn),如錯(cuò)誤率平衡和正/負(fù)類的平衡。?!胺蛛x”所要表達(dá)的是這樣一種觀點(diǎn),即表現(xiàn)出相同結(jié)果的人應(yīng)該得到類似的對(duì)待。ProPublica認(rèn)為COMPAS程序是有偏見(jiàn)的,因?yàn)樗c“分離”的概念相悖:黑人非累犯比白人非累犯更有可能被貼上“高風(fēng)險(xiǎn)”的標(biāo)簽。

關(guān)于算法公平的第二個(gè)定義是“充分性(sufficiency)”,如果在接受特定預(yù)測(cè)的人群中,所有群體都以相同的比率表現(xiàn)出被預(yù)測(cè)的結(jié)果,則滿足該定義所規(guī)定的條件(3)“充分性”與公平的標(biāo)準(zhǔn)(如校準(zhǔn)和預(yù)測(cè)奇偶性)具有內(nèi)在一致性。?!俺浞中浴彼磉_(dá)的觀點(diǎn)是,即同樣有可能表現(xiàn)出感興趣行為的人應(yīng)該受到類似的對(duì)待。而Northpointe公司以及一些學(xué)者之所以認(rèn)為COMPAS程序是公平的,則是因?yàn)樗稀俺浞中浴钡母拍?“高風(fēng)險(xiǎn)”的標(biāo)簽意味著黑人和白人被告的再犯概率相似。很大程度上,“充分性”被認(rèn)為是實(shí)現(xiàn)算法公平而最廣泛使用的概念,特別是因?yàn)闄C(jī)器學(xué)習(xí)模型通常被默認(rèn)應(yīng)該符合這一概念及其相關(guān)原則與要求。

最終,在這場(chǎng)關(guān)于COMPAS程序的辯論中提出的一個(gè)涉及算法公平的基本問(wèn)題是:一個(gè)算法能否同時(shí)滿足“分離”與“充分性”的定義?而正如隨后計(jì)算機(jī)科學(xué)家所發(fā)現(xiàn)的那樣,答案是否定的:這些關(guān)于公平的定義之間存在著不可避免的相?;蚓o張關(guān)系。這一發(fā)現(xiàn)結(jié)果也被稱為“公平的不可能性”。而超越這種不可能性的唯一例外則涉及兩種極為罕見(jiàn)的情況:即算法以完美的精確度進(jìn)行預(yù)測(cè),或者所有組/群體都以相同的“基本速率”顯示預(yù)測(cè)結(jié)果。

大量的算法實(shí)踐表明,算法公平的不可能性在某種程度上反映出人們通過(guò)使用算法促進(jìn)甚至實(shí)現(xiàn)平等所面臨的嚴(yán)峻而棘手的困境。這種困境在公共政策領(lǐng)域表現(xiàn)得尤為令人擔(dān)憂,因?yàn)楣舱哳I(lǐng)域決策者通常會(huì)采用算法來(lái)提高離散決策過(guò)程的公平性。此外,算法公平的不可能性也對(duì)算法正義的支持者們提出了一個(gè)特殊的挑戰(zhàn):因?yàn)樗麄兊奶岚笗?huì)涉及為了支持替代措施而違反充分性,所以這種嘗試通常會(huì)被反歧視法所禁止。也就是說(shuō),促進(jìn)算法公平與算法正義的很多努力都是在“公平的不可能性”所施加的約束下進(jìn)行的。本質(zhì)上,“公平的不可能性”指的是變革者可以(1)選擇滿足某個(gè)單一的公平定義(及其規(guī)定性)而犧牲其他定義;或者(2)嚴(yán)格平衡多個(gè)定義之間互動(dòng)關(guān)系。然而,也正是“公平的不可能性”的這一特質(zhì)直接導(dǎo)致算法治理方式的狹隘變革,繼而在實(shí)際意義上形成了不公正的社會(huì)條件、維護(hù)了不公正的社會(huì)制度。

(二)算法公平的概述及其類型界分

在風(fēng)險(xiǎn)社會(huì)襲來(lái)與智能技術(shù)勃興相互疊加的時(shí)代,算法的有效運(yùn)行成為了支持社會(huì)公平改革努力的決定性力量。算法的公平性主要是基于計(jì)算機(jī)科學(xué),將算法設(shè)計(jì)與分析工具——尤其是將形式數(shù)學(xué)推理看成其重要一環(huán)——應(yīng)用于實(shí)現(xiàn)社會(huì)公平。算法公平性的核心要素是制定公平?jīng)Q策的數(shù)學(xué)定義與公式,并針對(duì)這些定義與公式不斷地優(yōu)化改進(jìn)算法,審查并改正違反這些定義的算法。在公共管理改革與發(fā)展的大趨勢(shì)下,算法的公平性方法通常用于確定算法是否公平,進(jìn)而確保這些算法是否適用于決策公平。

一般而言,算法公平更多地將其關(guān)注點(diǎn)放在公民個(gè)人的不良行為、社會(huì)個(gè)體的歧視性行為以及市場(chǎng)經(jīng)濟(jì)中有限的商品或服務(wù)上,在某種程度上這也反映出一些反歧視話語(yǔ)中最有問(wèn)題的傾向被作為了一種實(shí)現(xiàn)平等的機(jī)制[5]。因此,公平性的數(shù)學(xué)評(píng)估與算法的現(xiàn)實(shí)世界影響之間往往存在著顯著差距。為了滿足公平標(biāo)準(zhǔn)的算法通常會(huì)加劇社會(huì)壓迫并使不公正的制度合法化。對(duì)于這些批評(píng)而言,一些學(xué)者呼吁應(yīng)該完全拒絕“公平”的算法治理框架,轉(zhuǎn)而提出“正義”“平等”與“補(bǔ)償”的可替代性治理框架[6]。

之于算法公平而言,可將其大致分為兩類:一類是“形式算法公平(formal algorithmic fairness)”,因?yàn)樗c形式意義上的平等相一致,強(qiáng)調(diào)基于個(gè)人在特定決策點(diǎn)的屬性或行為對(duì)個(gè)人予以平等對(duì)待。形式算法公平代表一種系統(tǒng)化的問(wèn)題表述方法,其中公平是在孤立的決策過(guò)程或情境中實(shí)現(xiàn)的。由于形式算法公平的概念構(gòu)建過(guò)于狹隘,它會(huì)產(chǎn)生一種被誤導(dǎo)的、以技術(shù)為中心的變革策略:通過(guò)使用算法優(yōu)化決策過(guò)程來(lái)提高公平性。遺憾的是,這些算法干預(yù)往往會(huì)加劇社會(huì)壓迫,并受到“公平的不可能性”的制約。因此,形式算法公平會(huì)使變革者陷入這樣一種困境:似乎唯一的選擇或解決方案就是采用表面上看似“公平”的算法,或者拒絕算法改革,保持現(xiàn)狀。

另一類是“實(shí)質(zhì)性算法公平(substantive algorithmic fairness)”,因?yàn)樗梃b并建基于實(shí)質(zhì)性平等的法律規(guī)范與哲學(xué)理論,這些規(guī)范與理論旨在消除統(tǒng)治和形成社會(huì)壓迫的條件。算法方法論變革的目標(biāo)并不是要將實(shí)質(zhì)性平等納入形式的數(shù)學(xué)模型:因?yàn)檫@種策略將無(wú)法從根本上提供必要的方法論轉(zhuǎn)向。實(shí)質(zhì)性算法公平不是將公平視為算法的某種技術(shù)屬性,而是關(guān)注算法是否以及如何在實(shí)踐中促進(jìn)公平。因此,可以說(shuō),實(shí)質(zhì)性算法公平意味著一種雙管齊下的變革策略,它超越了那些努力在決策過(guò)程中想要實(shí)現(xiàn)的形式平等。首先,它縮小普通公民與影響決策過(guò)程的社會(huì)上層之間的差距。其次,它減少在決策過(guò)程中算法偏見(jiàn)或歧視可能對(duì)社會(huì)底層群體造成的危害。由此視之,這種方法論變革所產(chǎn)生的算法干預(yù)不僅能夠避免甚至超越“公平的不可能性”,而且反過(guò)來(lái)也有助于算法在應(yīng)用實(shí)踐中尊重人權(quán)價(jià)值、維護(hù)“數(shù)字人權(quán)”和促進(jìn)社會(huì)公平正義。

(三)算法公平的現(xiàn)實(shí)困境

在社會(huì)實(shí)踐中,實(shí)現(xiàn)算法公正的努力往往會(huì)受到基本的技術(shù)限制而導(dǎo)致“公平的不可能性”[7]。不少研究表明,算法不可能滿足公平?jīng)Q策的所有理想數(shù)學(xué)定義與公式。一種算法在某個(gè)評(píng)估標(biāo)準(zhǔn)上是公平的,但是在另一個(gè)評(píng)估標(biāo)準(zhǔn)上不可避免地是不公平的。盡管算法公平的數(shù)學(xué)定義與公式還沒(méi)有完全囊括公平或正義的哲學(xué)概念,但每個(gè)定義都包含著一個(gè)合乎規(guī)范的原則。

“公平的不可能性”似乎在很大程度上限制了算法促進(jìn)實(shí)現(xiàn)公平的公共政策的潛力:任何使用算法改進(jìn)決策的努力或?qū)嵺`都將違反至少一項(xiàng)規(guī)范性的公平原則。理查德·伯克(Richard Berk)等人認(rèn)為,算法開(kāi)發(fā)人員在實(shí)踐中促進(jìn)公平或正義的最佳方式是以犧牲其他公平的數(shù)學(xué)定義為代價(jià),以求選擇另外一些(有限的)公平數(shù)學(xué)定義來(lái)找到社會(huì)公平、個(gè)人權(quán)利保護(hù)在算法秩序中的理性回歸。然而,這種策略在本質(zhì)上具有局限性,正如伯克在其文章中所總結(jié)的那樣,“不同類型的公平之間的權(quán)衡具有實(shí)質(zhì)上的相互影響,這意味著算法無(wú)法實(shí)現(xiàn)絕對(duì)意義上的公平”[5]。同樣,算法正義的支持者們認(rèn)為,正是由于這些權(quán)衡公平正義的法律影響,很可能導(dǎo)致相關(guān)算法正義的方法論在實(shí)現(xiàn)過(guò)程公平與結(jié)果公平上不會(huì)取得較大進(jìn)展[8]。作為對(duì)于這些困境的回應(yīng),本文試圖從算法公平策略的角度切入,通過(guò)把握算法偏見(jiàn)或不公平產(chǎn)生的環(huán)節(jié)及其存在的社會(huì)等級(jí)制度差異及事實(shí)風(fēng)險(xiǎn),認(rèn)為有必要在算法公平的方法論領(lǐng)域進(jìn)行變革,以期對(duì)構(gòu)建算法正義的社會(huì)秩序有所裨益。

二、形式算法公平:應(yīng)對(duì)“公平的不可能性”困境的探索

(一)公平競(jìng)爭(zhēng)響應(yīng):重現(xiàn)不公平

針對(duì)“公平的不可能性”困境,第一種形式算法公平的回應(yīng)就是“公平競(jìng)爭(zhēng)響應(yīng)”[9]。以美國(guó)非營(yíng)利新聞機(jī)構(gòu)ProPublica發(fā)布的COMPAS報(bào)告為例,大多數(shù)批評(píng)認(rèn)為算法公平的正確定義是“充分性”(COMPAS報(bào)告能夠滿足這一定義),而不是“分離”(COMPAS報(bào)告違反這一定義)。這一響應(yīng)方法論也恰恰運(yùn)用了公平競(jìng)爭(zhēng)的邏輯:應(yīng)僅根據(jù)被告再次犯罪的可能性來(lái)對(duì)他們進(jìn)行評(píng)估。按照這個(gè)邏輯,COMPAS的報(bào)告是公平的,并且提出黑人被告會(huì)產(chǎn)生更高的誤報(bào)率,僅僅是因?yàn)樗麄兏锌赡茉俅畏缸?。正如Northpointe公司所解釋的那樣,Pro-Publica提出的對(duì)“分離”定義的背離沒(méi)有顯示出偏見(jiàn)的證據(jù),而是對(duì)恰好具有不同分?jǐn)?shù)分布的群體使用無(wú)偏見(jiàn)評(píng)分規(guī)則的自然結(jié)果。

對(duì)此,持公平競(jìng)爭(zhēng)響應(yīng)觀點(diǎn)的人認(rèn)為,公平意味著僅根據(jù)人們表現(xiàn)出特定利益結(jié)果的可能性來(lái)做出關(guān)于他們的決定。在這種邏輯下,算法偏見(jiàn)可以被理解為一個(gè)系統(tǒng)性錯(cuò)誤陳述的問(wèn)題。在這里,實(shí)現(xiàn)算法公平的最佳方法就變成了提高預(yù)測(cè)準(zhǔn)確性,并確保決策是基于對(duì)每個(gè)個(gè)體的準(zhǔn)確判斷。然而,由于這種觀點(diǎn)對(duì)決策過(guò)程的狹隘關(guān)注,也必然促致公平競(jìng)爭(zhēng)響應(yīng)無(wú)法解釋算法不公,并因此展現(xiàn)其他更廣泛意義的不公正模式。在更深的層面上,公平競(jìng)爭(zhēng)響應(yīng)將風(fēng)險(xiǎn)視為一種個(gè)人的內(nèi)在與中立的屬性。這種響應(yīng)作為社會(huì)壓迫的產(chǎn)物,它使得社會(huì)群體的風(fēng)險(xiǎn)差異進(jìn)一步自然化。

另外,這種公平競(jìng)爭(zhēng)響應(yīng)的觀點(diǎn)忽視了算法可能促成或?qū)е碌牟还胶蠊?。?dāng)風(fēng)險(xiǎn)評(píng)估將被告標(biāo)記為“高風(fēng)險(xiǎn)”時(shí),該人可能會(huì)被拘留在監(jiān)獄中直至審判。這種因被告的犯罪風(fēng)險(xiǎn)而拘留被告的做法,被稱為“預(yù)防性拘留”[10],?,敗ぐ屠绿m(Shima Baradaran)批評(píng)這種預(yù)防犯罪的方式會(huì)嚴(yán)重侵犯人權(quán),并進(jìn)而損害被告的合法權(quán)利,在很大程度上加劇了大規(guī)模監(jiān)禁行為的產(chǎn)生。同時(shí),審前拘留對(duì)被告的現(xiàn)實(shí)生活也帶來(lái)了巨大的負(fù)面影響,其中就包括失去自由、增加定罪的可能性以及減少未來(lái)的就業(yè)機(jī)會(huì)等。

最后,由于未能全面考量與審前決策相關(guān)的社會(huì)等級(jí)制度以及有害的社會(huì)政策的影響,盡管公平競(jìng)爭(zhēng)響應(yīng)提出了一種解決上述問(wèn)題的策略,但是在這種策略中面對(duì)最佳的案例情境——完全準(zhǔn)確的風(fēng)險(xiǎn)評(píng)估——也會(huì)使種族不平等永久化。從這種預(yù)測(cè)指導(dǎo)審前決定的角度出發(fā),該風(fēng)險(xiǎn)評(píng)估將導(dǎo)致如美國(guó)黑人被告的審前拘留率高于白人被告。這實(shí)際上會(huì)天然地對(duì)黑人社區(qū)產(chǎn)生不良影響,因?yàn)樗麄兪紫炔还厥艿搅怂幍姆缸锃h(huán)境的影響,同時(shí)卻被要求提供一種看似公平的社會(huì)表象。

(二)形式主義響應(yīng):一種限制性改革

對(duì)于超越“公平的不可能性”的第二種形式算法公平的回應(yīng)就是“形式主義響應(yīng)”[11]。 這種響應(yīng)不是選擇單一的公平指標(biāo),而是側(cè)重于平衡競(jìng)爭(zhēng)指標(biāo)之間的差異。持形式主義響應(yīng)觀點(diǎn)的人認(rèn)為,正是由于算法的形式主義揭示并澄清了不同種類公平概念之間的不可權(quán)衡性,從而充分地說(shuō)明算法在個(gè)案中的內(nèi)在要求和具體語(yǔ)境,否則關(guān)于公平概念可能仍然是不透明且不明確的。在這種觀點(diǎn)的指引下,他們認(rèn)為算法可以成為維護(hù)社會(huì)正義的積極力量,因?yàn)樗惴ㄗ尣煌嫦嚓P(guān)者能夠精確地量化社會(huì)不同目標(biāo)之間的差異,并迫使他們對(duì)基本原則做出更明確的判斷。

盡管形式主義響應(yīng)提供了關(guān)于特定決策點(diǎn)內(nèi)權(quán)衡不同指標(biāo)的數(shù)學(xué)嚴(yán)謹(jǐn)性,但它本質(zhì)上是一種受限的、以技術(shù)為中心的改革策略。首先,形式主義響應(yīng)讓人們無(wú)法在兩個(gè)有限的公平概念之間做出零和選擇。雖然基于分離性的實(shí)現(xiàn)算法公平方案似乎是基于充分性的理想替代方案,但它也存在一定的缺陷。此外,盡管缺乏分離性意味著不同的社會(huì)群體面臨著由于錯(cuò)誤判斷而導(dǎo)致的不同后果,但分離性并不能防止與準(zhǔn)確預(yù)測(cè)相關(guān)的不公正現(xiàn)象的發(fā)生。其次,形式主義響應(yīng)遮蔽了系統(tǒng)性的改革路徑。風(fēng)險(xiǎn)評(píng)估中的公平性研究在分析之初就明確將結(jié)構(gòu)性改革排除在外,將種族差異置于公平與算法開(kāi)發(fā)者的責(zé)任之外。根據(jù)這一視角的假設(shè),唯一可能的行動(dòng)是釋放或拘留被告,這表明改革僅限于在決定釋放或拘留誰(shuí)時(shí)平衡價(jià)值觀之間的差異。如果按照這一邏輯,那么形式主義響應(yīng)表明,唯一可能的替代性方案是使用算法來(lái)優(yōu)化特定的決策過(guò)程。然而,作為一種實(shí)現(xiàn)公平公共政策的策略,這種策略從根本上是有局限性的:僅靠改革決策程序來(lái)糾正不平等的努力往往會(huì)掩蓋并強(qiáng)化壓迫的實(shí)際根源。

事實(shí)上,正是由于形式主義響應(yīng)的狹隘適用范圍使得“充分性”與“分離”之間的緊張關(guān)系顯得如此棘手甚至陷入“一種令人不安的兩難境地”[12]。 從嚴(yán)格意義上來(lái)說(shuō),“不可能”的是在不平等社會(huì)中對(duì)個(gè)人做出決定時(shí),同時(shí)滿足公平的所有數(shù)學(xué)定義。然而,由于它依賴于僅限于孤立決策點(diǎn)的高度受限的社會(huì)變革理論,形式主義響應(yīng)在一定程度上放大了這種數(shù)學(xué)不相容的風(fēng)險(xiǎn)。當(dāng)社會(huì)的其他方面都被視為靜態(tài)或無(wú)關(guān)緊要時(shí),公平?jīng)Q策的數(shù)學(xué)定義就開(kāi)始代表了“完全公平”。 在這一有限的分析框架內(nèi),對(duì)公平?jīng)Q策的數(shù)學(xué)約束成為了根本意義上的“公平的不可能性”,這也表明該理論對(duì)促進(jìn)平等的改革存在著不可避免的約束。

(三)形式算法公平方法論的局限性

實(shí)質(zhì)性的平等分析法揭示了“公平的不可能性”以及形式算法公平所存在的局限性(見(jiàn)圖1)。當(dāng)人們?cè)谧龀鲆韵聸Q策時(shí),會(huì)就“公平的不可能性”產(chǎn)生爭(zhēng)議或者擔(dān)憂:(1)受壓迫群體不成比例地表現(xiàn)出在給定背景下被視為“負(fù)面”的屬性(如高犯罪風(fēng)險(xiǎn)指標(biāo)),以及(2)政策懲罰顯現(xiàn)出具有這些負(fù)面特征(如審前拘留)的個(gè)人。一旦這些關(guān)系性與結(jié)構(gòu)性危害出現(xiàn),任何使用算法改進(jìn)決策的嘗試都將無(wú)法超越“公平的不可能性”。圖1恰恰描述了圍繞決策過(guò)程的關(guān)系性與結(jié)構(gòu)性危害如何使“公平的不可能性”成為算法決策的一個(gè)令人不安的難題。易言之,如果沒(méi)有社會(huì)等級(jí)制度,或者如果相應(yīng)的決策沒(méi)有加劇社會(huì)等級(jí)制度導(dǎo)致的沖突與矛盾,那么就不會(huì)出現(xiàn)“公平的不可能性”。

圖1 描述“公平的不可能性”原因以及形式算法公平有限性的流程圖(4)在決策過(guò)程的上行環(huán)節(jié),群體差異的關(guān)系性危害導(dǎo)致了“公平的不可能性”。如果相關(guān)社會(huì)群體以相同的比率表現(xiàn)出其感興趣的結(jié)果,那么決策過(guò)程就有可能應(yīng)用不完美的算法并同時(shí)滿足“分離”與“充分性”的概念。在決策過(guò)程的下行環(huán)節(jié),懲罰顯現(xiàn)出相關(guān)“負(fù)面”屬性的個(gè)人的結(jié)構(gòu)性危害導(dǎo)致“公平的不可能性”,這甚至進(jìn)一步鞏固這種不公正。

同時(shí),圖1也進(jìn)一步闡明了為什么形式算法公平在方法論上無(wú)法在具有關(guān)系性與結(jié)構(gòu)性不平等的政策環(huán)境中促進(jìn)公平與正義。導(dǎo)致這一問(wèn)題的根本原因在于“問(wèn)題構(gòu)思方式上的缺陷”: 形式算法公平將分析限制在孤立的決策點(diǎn)上,而這一有限的分析范圍意味著形式算法公平“不能全面地找到某些不公正產(chǎn)生的原因”[13]。這樣,形式算法公平也就“無(wú)法幫助我們確定不公正問(wèn)題的解決方案”[14]。 因此,為了制定一個(gè)積極有效的議程來(lái)解釋關(guān)系性與結(jié)構(gòu)性危害如何阻礙決策算法正義的實(shí)現(xiàn),有必要建構(gòu)一種新的算法公平方法論,從而將影響算法公平的關(guān)系性與結(jié)構(gòu)性因素納入其分析范圍之中。

三、實(shí)質(zhì)性算法公平:超越“公平的不可能性”

(一)面向改革的實(shí)質(zhì)性算法公平方法論

在智能時(shí)代的算法治理視域中,與形式算法公平一樣,實(shí)質(zhì)性算法公平改革的出發(fā)點(diǎn)是關(guān)注并解決特定決策過(guò)程中的歧視或不平等?;谏衔膶?duì)實(shí)質(zhì)性平等方法論的闡釋,這里的實(shí)質(zhì)性算法公平提出了在平等困境下促進(jìn)并實(shí)現(xiàn)平等的三個(gè)步驟(見(jiàn)圖2)。圖2的流程圖為實(shí)施這些步驟提供了指南,該流程圖將實(shí)質(zhì)性的平等目標(biāo)轉(zhuǎn)化為各個(gè)具體問(wèn)題,從而更好地供計(jì)算機(jī)科學(xué)家、政策制定者以及其他參與者在開(kāi)發(fā)和實(shí)施算法之前進(jìn)行考量。同時(shí),該流程圖也有助于使實(shí)質(zhì)性算法公平的努力免于重蹈以往由形式算法公平引導(dǎo)的狹隘的和以技術(shù)為中心的改革失敗的覆轍。

圖2 實(shí)施實(shí)質(zhì)性算法公平的流程圖(5)該實(shí)施過(guò)程從流程圖的頂部開(kāi)始,它著重關(guān)注特定決策過(guò)程中的歧視或不平等。該圖反映了側(cè)重于關(guān)系性與結(jié)構(gòu)性不平等的實(shí)質(zhì)性平等考量。如果關(guān)系性問(wèn)題與結(jié)構(gòu)性問(wèn)題都不顯著(即步驟1中兩個(gè)問(wèn)題的答案都是“否”),那么該過(guò)程將過(guò)渡到形式平等考量。在這種情況下,這些問(wèn)題將類似于形式算法公平中已經(jīng)存在的其他問(wèn)題。從這個(gè)意義上說(shuō),實(shí)質(zhì)性算法公平更多地代表了算法公平方法論的一種擴(kuò)展,而不是對(duì)形式算法公平的完全拒絕或取代。

第一個(gè)步驟是診斷目前所討論的所有不平等現(xiàn)象的實(shí)質(zhì)。凱瑟琳·A.麥金農(nóng)(Catharine A MacKinnon)認(rèn)為,要完成這一步驟首先需要厘清相應(yīng)社會(huì)等級(jí)制度之間的差異及其運(yùn)行情況,并質(zhì)疑社會(huì)和其他制度安排如何強(qiáng)化這些差異或情況。當(dāng)面對(duì)數(shù)據(jù)差異時(shí),實(shí)質(zhì)性算法公平方法論所提出的問(wèn)題是:這些差異是否反映了社會(huì)等級(jí)制度運(yùn)行所依賴的社會(huì)條件或情境?同樣,當(dāng)面對(duì)特定的決策點(diǎn)時(shí),實(shí)質(zhì)性算法公平方法論的問(wèn)題是:這些決策(以及它們倡導(dǎo)的干預(yù)措施)是否加劇了社會(huì)等級(jí)之間的分化或差異?如果這兩個(gè)問(wèn)題的答案是否定的,那么形式算法公平方法論會(huì)提供一條合適的前進(jìn)道路[15]。然而,如果這些問(wèn)題的答案是肯定的——就像在面對(duì)高風(fēng)險(xiǎn)決策中的不平等時(shí)所表現(xiàn)出的那樣——那么以形式上的平等為指導(dǎo)的改革將是不夠的。

第二個(gè)步驟是考量哪些類型的改革能夠減少或消除第一個(gè)步驟中提到的實(shí)質(zhì)性不平等。實(shí)質(zhì)性算法公平的第一個(gè)方法論路徑是關(guān)系性響應(yīng):即減少反映社會(huì)等級(jí)制度的尊嚴(yán)與物質(zhì)差距。究其根本,關(guān)系性響應(yīng)方法論試圖減少算法在社會(huì)上層之間產(chǎn)生的不平等,因?yàn)檫@些不平等往往會(huì)影響到相關(guān)的決策過(guò)程。第二種方法論路徑是結(jié)構(gòu)性響應(yīng):即通過(guò)改變決策結(jié)構(gòu)以減輕因決策而加劇的社會(huì)等級(jí)分化或不平等程度。結(jié)構(gòu)性響應(yīng)方法論則試圖減輕算法歧視或不平等對(duì)那些在相關(guān)決策過(guò)程中處于劣勢(shì)地位的人或社會(huì)底層群體所造成的傷害。顯而易見(jiàn),正是由于這些方法論改革針對(duì)的是產(chǎn)生平等困境的關(guān)系性與結(jié)構(gòu)性因素,因此它們?cè)谥卫磉壿嬌咸峁┝艘环N超越“公平的不可能性”的可行性路徑。

第三個(gè)步驟是分析算法是否以及如何鞏固或促進(jìn)第二個(gè)步驟中所確定的改革方案。而在這一步驟中所要強(qiáng)調(diào)的關(guān)鍵詞是“鞏固”與“促進(jìn)”。因此,在估量算法潛在作用的過(guò)程中,計(jì)算機(jī)科學(xué)家應(yīng)該首先警惕技術(shù)決定論以及算法可以解決所有社會(huì)問(wèn)題的假設(shè),其次應(yīng)通過(guò)優(yōu)先考量改革的“不可知論方法”來(lái)反思算法干預(yù),而不是假設(shè)算法在此過(guò)程中能夠發(fā)揮任何必要或特定的作用[16]。 這一分析的關(guān)鍵在于揭示當(dāng)今社會(huì)中的許多算法運(yùn)行過(guò)程是不必要的,甚至可能引發(fā)嚴(yán)重的信息不對(duì)稱與隱私侵害問(wèn)題,進(jìn)而阻礙算法公平改革的實(shí)現(xiàn)。

(二)實(shí)質(zhì)性算法公平方法論在審前程序改革中的應(yīng)用

1.第一步:識(shí)別并診斷不平等現(xiàn)象

在應(yīng)用實(shí)質(zhì)性算法公平方法論進(jìn)行審前程序改革之前,第一步是綜合考量審前決策中表現(xiàn)出的實(shí)質(zhì)性不平等現(xiàn)象。如前文所述,美國(guó)黑人和白人被告的累犯率差異反映了種族等級(jí)制度產(chǎn)生的關(guān)系性危害。這種差異不能簡(jiǎn)單地歸因于偶然或固有的群體差異(也不僅僅是測(cè)量偏差的結(jié)果)。此外,預(yù)防性拘留措施或制度會(huì)帶來(lái)結(jié)構(gòu)性危害,它會(huì)通過(guò)剝奪高風(fēng)險(xiǎn)被告的正當(dāng)權(quán)利并使他們?cè)馐茇?fù)面的社會(huì)影響或后果,從而進(jìn)一步加劇種族等級(jí)之間的分化或不平等。

2.第二步:確定潛在的改革方案

除了通過(guò)審慎和理性地分析這些不平等現(xiàn)象產(chǎn)生的根源和特征之外,第二步應(yīng)該考慮的是在什么場(chǎng)景下應(yīng)用哪一種改革方案,從而從根本上消除第一步中發(fā)現(xiàn)的實(shí)質(zhì)性不平等現(xiàn)象。實(shí)質(zhì)性算法公平性更多地是提出減少群體行為經(jīng)驗(yàn)差異的解決方案,從而最大限度地化解潛在種族等級(jí)制度帶來(lái)的信息不對(duì)稱和權(quán)利不平等。

一方面,關(guān)系性響應(yīng)方法論要求改變定義“風(fēng)險(xiǎn)”的社會(huì)網(wǎng)絡(luò)結(jié)構(gòu),從而減少風(fēng)險(xiǎn)在不同人群中的不平等分布。這就需要將研究的問(wèn)題意識(shí)聚焦到算法運(yùn)行的復(fù)雜化場(chǎng)景中,重新定義風(fēng)險(xiǎn)的概念與分布,并思考算法如何通過(guò)與特定社會(huì)既有知識(shí)形態(tài)、日常實(shí)踐、政治和文化生態(tài)彼此融匯,進(jìn)而識(shí)別此間涌現(xiàn)的諸般表象并揭示其背后的運(yùn)作過(guò)程。這種反思會(huì)對(duì)審前拘留決定產(chǎn)生重要影響。鑒于此,通過(guò)與算法系統(tǒng)的直接接觸,人們?cè)谂c數(shù)字場(chǎng)景即時(shí)嵌入式的交互中認(rèn)識(shí)到,經(jīng)驗(yàn)層面上的種族風(fēng)險(xiǎn)差異更多的是偶然的社會(huì)制度安排的產(chǎn)物,對(duì)此,關(guān)系性響應(yīng)方法論提供了一種改革策略,它可以在不忽視或否認(rèn)這些差異的情況下使審前裁決更加公平。

另一方面,結(jié)構(gòu)性響應(yīng)方法論要求改變審前決策的制度安排或結(jié)構(gòu),以減少與高風(fēng)險(xiǎn)再犯相關(guān)的有害后果。這需要以超越釋放/拘留二元化的方式來(lái)應(yīng)對(duì)不公平的風(fēng)險(xiǎn)。不少學(xué)者和決策者認(rèn)為,更公平的審前裁決會(huì)與公共安全產(chǎn)生直接沖突。相較之下,結(jié)構(gòu)性響應(yīng)方法論的價(jià)值意義在于通過(guò)發(fā)揮政府的調(diào)節(jié)作用,能夠消除社會(huì)對(duì)高風(fēng)險(xiǎn)被告人的歧視或偏見(jiàn)而不僅僅是拘留他們。為平衡算法推送帶來(lái)的信息不公,結(jié)構(gòu)性響應(yīng)方法論提供的改革策略是在不損害公共安全的前提下,使得審前裁決更加公平、公正,從制度結(jié)構(gòu)構(gòu)建層面抵御算法“黑箱”,糾正算法在決策應(yīng)用中的不合理環(huán)節(jié),保障算法運(yùn)行中的科學(xué)和公正。

3.第三步:分析并考量算法的角色

通過(guò)上述根據(jù)不同場(chǎng)景類型確定對(duì)算法采取不同的規(guī)制方案后,第三步是分析并考量算法在推進(jìn)關(guān)系性改革與結(jié)構(gòu)性改革中潛在的作用與影響。在關(guān)系性響應(yīng)方法論運(yùn)用的過(guò)程中,關(guān)鍵問(wèn)題是算法是否能夠改善或推進(jìn)已確定的關(guān)系性改革方案。沿著這一思路,可以明確的是通過(guò)使用算法,能夠以清除不利犯罪條件的方式來(lái)降低美國(guó)黑人社區(qū)的犯罪風(fēng)險(xiǎn)概率。另外,通過(guò)使用算法還可以有效地減少或打擊針對(duì)社會(huì)少數(shù)群體的刑事定罪行為。其中一種途徑就是改變指導(dǎo)審前決策的“風(fēng)險(xiǎn)”概念。由于審前風(fēng)險(xiǎn)評(píng)估定義“風(fēng)險(xiǎn)”的方式未能考慮到拘留對(duì)被告及其社區(qū)的危害,而這些危害對(duì)于邊緣化的被告來(lái)說(shuō)往往更為嚴(yán)重。因此,重新界定關(guān)于“風(fēng)險(xiǎn)”的更全面的概念能夠使人們更多地對(duì)“以比白人被告更高的比率拘留黑人被告”采取審慎的態(tài)度。

在結(jié)構(gòu)性響應(yīng)方法論運(yùn)用的過(guò)程中,關(guān)鍵問(wèn)題是算法是否能夠改善或推進(jìn)已確定的結(jié)構(gòu)性改革方案。由此,可以發(fā)現(xiàn)通過(guò)使用算法,能夠減少種族差異對(duì)累犯風(fēng)險(xiǎn)的危害。算法可用于針對(duì)風(fēng)險(xiǎn)做出支持性而非懲罰性的化解對(duì)策,進(jìn)一步減輕而不是加劇被告高累犯風(fēng)險(xiǎn)背后的不公正程度。另外,通過(guò)使用算法還可以有力地支持更廣泛意義上的結(jié)構(gòu)性改革政治議程。同時(shí),算法也可以通過(guò)賦予倡導(dǎo)刑事司法改革的社區(qū)權(quán)力,并支持承諾進(jìn)行此類改革的政治候選人的競(jìng)選活動(dòng),從而使結(jié)構(gòu)性改革更有可能實(shí)現(xiàn)。

總之,實(shí)質(zhì)性算法公平表明了這樣的社會(huì)變革理論,即通過(guò)對(duì)社會(huì)條件與制度的廣泛分析,現(xiàn)有的社會(huì)系統(tǒng)將如何改變?cè)邢到y(tǒng)的行為和內(nèi)在價(jià)值,以及這些變革理論如何為不受“公平的不可能性”影響的算法干預(yù)提供有價(jià)值的方法論[17]。應(yīng)該說(shuō),實(shí)質(zhì)性算法公平不僅僅為審前風(fēng)險(xiǎn)評(píng)估提供改進(jìn)路徑,還對(duì)審前改革的算法進(jìn)行了不斷完善。

(三)社會(huì)實(shí)踐中的實(shí)質(zhì)性算法公平

1.對(duì)算法相關(guān)從業(yè)者的啟示

在人的數(shù)據(jù)化生存中,實(shí)質(zhì)性算法公平方法論對(duì)計(jì)算機(jī)科學(xué)的未來(lái)發(fā)展具有重要意義,而該領(lǐng)域也最關(guān)注如何實(shí)現(xiàn)算法公平以及解決“公平的不可能性”難題。在這種方法論的指引下,以往僅僅根據(jù)數(shù)學(xué)測(cè)試來(lái)認(rèn)定某個(gè)算法是否公平已經(jīng)遠(yuǎn)遠(yuǎn)不夠,而是還應(yīng)該考慮到關(guān)系性與結(jié)構(gòu)性不平等以及采用何種變革理論來(lái)彌補(bǔ)這些不平等,算法是否在真正意義上能夠成為推進(jìn)所需變革進(jìn)程的有效工具。

實(shí)現(xiàn)這種方法論與治理的變遷就需要促進(jìn)計(jì)算機(jī)文化及其實(shí)踐的變革,從而夯實(shí)算法公平實(shí)現(xiàn)的理論基礎(chǔ)。首先,對(duì)算法相關(guān)的從業(yè)者而言,未來(lái)計(jì)算機(jī)科學(xué)從業(yè)者的培訓(xùn)必須超越其傳統(tǒng)意義上對(duì)算法數(shù)學(xué)特性的單純強(qiáng)調(diào),從而更多地納入規(guī)范性推理、社會(huì)技術(shù)系統(tǒng)與社會(huì)變革理論。此外,計(jì)算機(jī)科學(xué)的培訓(xùn)還必須反復(fù)強(qiáng)調(diào)算法對(duì)現(xiàn)實(shí)世界的影響。除了側(cè)重于開(kāi)設(shè)道德和社會(huì)技術(shù)系統(tǒng)的課程外,其他相關(guān)課程還應(yīng)包括基于社會(huì)實(shí)踐的操作課程,從而使得學(xué)生能夠在這些課程中與越來(lái)越多的社會(huì)組織進(jìn)行協(xié)同合作。同時(shí),此類課程還有助于相關(guān)從業(yè)者或?qū)W生根據(jù)更廣泛的社會(huì)背景來(lái)考量算法的社會(huì)影響,并理解那些選擇不設(shè)計(jì)可能加劇不平等的算法力量。其次,計(jì)算機(jī)科學(xué)從業(yè)者在推進(jìn)實(shí)質(zhì)性算法公平改革的過(guò)程中,還需要克服計(jì)算機(jī)科學(xué)中的文化與制度障礙。最后,在算法研究的類型方面,計(jì)算機(jī)科學(xué)部門也不應(yīng)該鼓勵(lì)那些單純采用定性推理模式的研究,從而避免忽視這些新方法對(duì)社會(huì)影響的考量。

2.對(duì)算法政策制定者的啟示

自主性的算法在創(chuàng)制自身的同時(shí),也在形塑著國(guó)家治理結(jié)構(gòu),實(shí)質(zhì)性算法公平要求現(xiàn)存的政府適時(shí)轉(zhuǎn)變治理重點(diǎn)以及制度政策,以更多元的價(jià)值理念提升算法治理效能?;诖?政策制定者應(yīng)該在算法治理過(guò)程中回歸人的主體性,以清晰的認(rèn)知、判斷指導(dǎo)現(xiàn)實(shí)決策,從以往將算法視為技術(shù)工具的觀點(diǎn)轉(zhuǎn)變?yōu)閷⑺惴ㄊ褂靡暈橐环N政治努力的觀點(diǎn),而非受制于算法,成為算法社會(huì)的囚徒。實(shí)質(zhì)性算法公平方法論表明,實(shí)現(xiàn)算法公平的民主化不僅需要在更廣泛的場(chǎng)域內(nèi)進(jìn)行,而且還需要實(shí)現(xiàn)決策的民主化。

嚴(yán)格說(shuō)來(lái),實(shí)質(zhì)性算法公平改革是以涉及社區(qū)、社會(huì)運(yùn)動(dòng)和改革的倡導(dǎo)者的算法為中心議題,并通過(guò)不同相關(guān)主體在一定的算法規(guī)則之下圍繞公共事務(wù)所進(jìn)行的改進(jìn)政策的過(guò)程。而這些社會(huì)群體在實(shí)質(zhì)性算法公平方法論的指導(dǎo)下,也更清晰地認(rèn)識(shí)到看似中立的、公平的算法如何代表一種狹隘的改革方法并可能固化相應(yīng)不公正的政策。在這種情況下,不斷創(chuàng)新并推進(jìn)實(shí)質(zhì)性算法公平改革才能幫助這些社會(huì)群體將算法納入其更廣泛的結(jié)構(gòu)性改革愿景中,也是實(shí)現(xiàn)算法治理現(xiàn)代化的應(yīng)有之義。

3.實(shí)質(zhì)性算法公平改革實(shí)施中可能面臨的挑戰(zhàn)

在算法改革實(shí)施環(huán)節(jié),盡管越來(lái)越多的計(jì)算機(jī)科學(xué)家、政策制定者和社區(qū)都開(kāi)始關(guān)注實(shí)質(zhì)性算法公平方法論的實(shí)踐效果,但想要回答上圖2中提出的問(wèn)題仍然是一項(xiàng)艱巨且具有政治爭(zhēng)議的任務(wù)。特別是實(shí)質(zhì)性算法公平并未提供精確的改革路線圖,而是提出了一系列實(shí)現(xiàn)算法公平不可忽視的政治社會(huì)問(wèn)題,并提供了以原則性方式回答這些問(wèn)題的概念工具。

同時(shí),回答前文所述的實(shí)質(zhì)性算法公平方法論在審前程序改革第一步中的問(wèn)題還將涉及一些有爭(zhēng)議的概念,即哪些類型的不平等是不公正的,哪些證據(jù)構(gòu)成了社會(huì)等級(jí)制度的充分證據(jù)。就一般意義而言,形式算法公平改革面臨的一個(gè)核心挑戰(zhàn)是其支持者傾向于在第一步中對(duì)上述兩個(gè)問(wèn)題都回答“否”,甚至在分析審前裁決等情況時(shí)回答也是如此,因此不少學(xué)者與社區(qū)組織都選擇譴責(zé)種族等級(jí)制度的存在。進(jìn)一步而言,許多政治參與者和技術(shù)公司也受益于形式算法公平的方法論,這使他們能夠在不做出重大政治或經(jīng)濟(jì)讓步的情況下接受“公平”,此類事實(shí)的存在也更加凸顯了應(yīng)對(duì)這一挑戰(zhàn)的必要性。

在對(duì)于設(shè)計(jì)具有公平性意識(shí)的算法的探討中,第一步中的另一個(gè)挑戰(zhàn)是要確定算法設(shè)計(jì)所考慮的層次結(jié)構(gòu)的范圍。而算法決策系統(tǒng)產(chǎn)生的歧視,很大程度上與種族、等級(jí)制度導(dǎo)致的社會(huì)不平等有關(guān),這也是如何超越算法“公平的不可能性”的中心議題之一。然而一般來(lái)說(shuō),種族、等級(jí)制度存在于社會(huì)中的方方面面,包括不同社會(huì)個(gè)體的性別、階級(jí)、能力、性取向和年齡(與種族等級(jí)制度并存或不存在)等,并且不同種族與等級(jí)制度的社會(huì)表征通常會(huì)以交叉與融合的方式表現(xiàn)出來(lái)??梢哉f(shuō),在回答第一步關(guān)涉的社會(huì)等級(jí)制度的問(wèn)題時(shí),重要的是要考慮多種形式的等級(jí)制度產(chǎn)生的原因以及這些等級(jí)制度如何實(shí)現(xiàn)交叉融合。之后在理想情況下,通過(guò)進(jìn)行擴(kuò)展分析,進(jìn)一步判斷并考量最顯著的社會(huì)等級(jí)制度如何與其他特權(quán)和社會(huì)劣勢(shì)群體實(shí)現(xiàn)相交融合。

在第二步中,相關(guān)計(jì)算機(jī)科學(xué)家、算法從業(yè)者和政策制定者面臨的一項(xiàng)重大挑戰(zhàn)是,制定一項(xiàng)戰(zhàn)略來(lái)消除第一步中確定的實(shí)質(zhì)性不平等現(xiàn)象。盡管關(guān)系性與結(jié)構(gòu)性響應(yīng)方法論為確定潛在的改革提供了一般性原則,但即使掌握了這些原則,不同的算法利益相關(guān)者也無(wú)法通過(guò)單一或直接的途徑來(lái)實(shí)現(xiàn)變革[18]。 美國(guó)社會(huì)學(xué)家埃里克·歐林·賴特(Erik Olin Wright)為此提供了一種策略,可以將廣泛的改革簡(jiǎn)化為更具體且可操作性的改革。首先,關(guān)注改革的合意性:在抽象意義上,制定一系列具有規(guī)范吸引力的替代性政策與社會(huì)制度安排。其次,關(guān)注改革的可行性:根據(jù)有關(guān)制度設(shè)計(jì)和社會(huì)組織的現(xiàn)有知識(shí),評(píng)估如果在實(shí)踐中實(shí)施哪些理想的替代方案可能會(huì)減輕社會(huì)等級(jí)制度帶來(lái)的危害。最后,關(guān)注改革的可實(shí)現(xiàn)性:考慮哪些可行的改革實(shí)際上可以獲得實(shí)施所需的支持與牽引力[19]。他認(rèn)為按照這一策略安排,實(shí)質(zhì)性算法公平并不假設(shè)或要求其建議的所有改革都可以立即實(shí)現(xiàn)。相反,它提供了一系列選項(xiàng),改革者可以從在特定論爭(zhēng)領(lǐng)域內(nèi)看起來(lái)最有希望的多種路徑中進(jìn)行選擇。

在第三步中所面臨的挑戰(zhàn)是算法是否能夠推進(jìn)第二步中確定的改革方案。盡管計(jì)算機(jī)科學(xué)教學(xué)法、企業(yè)廣告和媒體提倡那種依賴技術(shù)為社會(huì)問(wèn)題提供解決方案的理念,但是在第三步中不同算法利益相關(guān)者也需要接受算法可能根本不是促進(jìn)或推動(dòng)某些改革的有效工具的事實(shí)。也許只有當(dāng)與更廣泛意義的政策和治理改革方案相結(jié)合的前提下,算法才最能有助于促進(jìn)社會(huì)變革的發(fā)生。而決定是否以及如何使用算法而不陷入解決方案主義的一種策略就是積極與倡導(dǎo)改革的社區(qū)進(jìn)行合作互動(dòng),向社區(qū)成員說(shuō)明并解釋如何將數(shù)據(jù)分析與技術(shù)設(shè)計(jì)納入社區(qū)驅(qū)動(dòng)的改革努力,讓每一位社區(qū)成員在理論與實(shí)踐上都獲得享受信息公平的可能。

四、結(jié)語(yǔ)

隨著社會(huì)發(fā)展和網(wǎng)絡(luò)技術(shù)進(jìn)步,作為公民的基本權(quán)利之一以及社會(huì)公平重要組成部分的算法公平,不僅是學(xué)界業(yè)界的研究對(duì)象,更應(yīng)成為整個(gè)社會(huì)和每個(gè)公民的共同追求。而算法公平正在為促進(jìn)公平的公共政策實(shí)施提供一個(gè)越來(lái)越有影響力的工具性選擇。在日常生活數(shù)字化過(guò)程中,算法的相關(guān)從業(yè)者與政策制定者必須考慮算法公平是否提供了合適的概念與實(shí)踐工具來(lái)指導(dǎo)改革。由于形式算法公平將其分析邏輯局限于孤立的決策點(diǎn)中,因此導(dǎo)致它無(wú)法解釋社會(huì)等級(jí)與算法決策的影響。這也促致形式算法公平的改革努力無(wú)法擴(kuò)展到實(shí)現(xiàn)社會(huì)公平的類別及范圍內(nèi),而使其變成了以維護(hù)社會(huì)等級(jí)制度為旨?xì)w的規(guī)則設(shè)置。與之相反,實(shí)質(zhì)性算法公平為算法公平的實(shí)現(xiàn)指明了新改革航向,它更多地將算法納入更廣泛的政治改革議程中。在算法改革場(chǎng)域中,實(shí)質(zhì)性算法公平不僅提供了一種超越“公平的不可能性”的新方法論,而且還為算法在減輕社會(huì)壓迫方面發(fā)揮了積極作用[20]。除了使用技術(shù)方法對(duì)抗偏見(jiàn),即使對(duì)于那些對(duì)實(shí)質(zhì)性平等有著廣泛且深刻理解的人來(lái)說(shuō),實(shí)現(xiàn)他們的算法公平愿景也還需要與致力于維護(hù)社會(huì)等級(jí)制度的人和機(jī)構(gòu)進(jìn)行博弈。實(shí)際上,實(shí)質(zhì)性算法公平描繪了這樣一個(gè)場(chǎng)域,在這個(gè)場(chǎng)域內(nèi)改革者們應(yīng)該為更平等的社會(huì)而奮斗。與實(shí)現(xiàn)實(shí)質(zhì)性平等的所有努力一樣,實(shí)質(zhì)性算法公平需要持續(xù)性的社會(huì)政治改革,并不斷創(chuàng)造出適合這項(xiàng)改革的條件與環(huán)境。

面對(duì)新的社會(huì)形態(tài),構(gòu)成實(shí)質(zhì)性算法公平基礎(chǔ)的正義與平等原則本身并不能作為唯一或最高的社會(huì)價(jià)值觀,因?yàn)樵谏鐣?huì)內(nèi)部以及不同社會(huì)形態(tài)之間,還有許多基本價(jià)值觀是共存的,如正義、平等、自由、忠誠(chéng)、同情、美德、尊嚴(yán)等。盡管這些價(jià)值觀通常在內(nèi)在要求和具體語(yǔ)境上是一致的,但它們?cè)诜e極變革算法社會(huì)的構(gòu)成中也會(huì)不可避免地發(fā)生沖突與矛盾,并且很多時(shí)候無(wú)法分解為清晰的層次結(jié)構(gòu)。實(shí)質(zhì)性算法公平并不能全面實(shí)現(xiàn)所有的社會(huì)規(guī)范性目標(biāo),它所追求的核心目標(biāo)必須與其他社會(huì)價(jià)值觀或評(píng)估標(biāo)準(zhǔn)相平衡。更準(zhǔn)確地說(shuō),實(shí)質(zhì)性算法公平提供的是一種確定算法如何促進(jìn)公平的公共政策得以實(shí)現(xiàn)的方法論,其關(guān)注的焦點(diǎn)在于如何為涉及歧視與不公正問(wèn)題的決策掃清法律和制度上的障礙。在這個(gè)意義上,即使實(shí)質(zhì)性算法公平并不能為實(shí)現(xiàn)算法公平的社會(huì)改革提供精確或全面的路線圖,但它卻為這項(xiàng)改革提供了一個(gè)頗具價(jià)值的“指南針”,從而有助于計(jì)算機(jī)科學(xué)家與政策制定者思考算法在打擊社會(huì)不公平問(wèn)題方面應(yīng)發(fā)揮的適當(dāng)作用??傊?從對(duì)社會(huì)等級(jí)制度與社會(huì)變革的實(shí)質(zhì)性分析開(kāi)始,未來(lái)亟待實(shí)質(zhì)性算法公平提出一種基于制度、技術(shù)、社會(huì)規(guī)范等多重維度的研究框架,為算法公平性問(wèn)題提供一個(gè)更為合理的解決方案,從而讓漸進(jìn)式的算法改革與政府、市場(chǎng)和(市民)社會(huì)三者“各美其美、美人之美”,共同構(gòu)建一個(gè)科學(xué)、人本、平等、包容、普惠、共治的算法社會(huì)。

猜你喜歡
實(shí)質(zhì)性方法論公平
不公平
檢察機(jī)關(guān)實(shí)質(zhì)性化解行政爭(zhēng)議實(shí)證研究
公平對(duì)抗
怎樣才公平
拜登和習(xí)近平舉行“廣泛和實(shí)質(zhì)性”視頻會(huì)晤
孤獨(dú)會(huì)造成實(shí)質(zhì)性傷害
漢學(xué)方法論值得關(guān)注
方法論視角下的制定法解釋
法律方法(2019年4期)2019-11-16 01:07:02
法本位的方法論闡釋
法律方法(2018年2期)2018-07-13 03:22:02
UAF的方法論意義
纳雍县| 轮台县| 江城| 大洼县| 满洲里市| 通州区| 新兴县| 瑞安市| 永登县| 乳山市| 黄大仙区| 郁南县| 察雅县| 三河市| 吴江市| 库尔勒市| 万盛区| 安庆市| 叶城县| 武乡县| 乡宁县| 翼城县| 定兴县| 和平区| 都兰县| 酉阳| 周至县| 洛浦县| 兴仁县| 瑞金市| 灵石县| 商洛市| 日照市| 裕民县| 丹江口市| 大同县| 孟州市| 五寨县| 汝阳县| 曲松县| 精河县|