楊永興

（北京郵電大學(xué) 互聯(lián)網(wǎng)治理與法律研究中心，北京 100876）

作為信息技術(shù)領(lǐng)域的開創(chuàng)性技術(shù)，算法對(duì)人類社會(huì)的發(fā)展與變遷產(chǎn)生了深遠(yuǎn)影響。以數(shù)據(jù)為驅(qū)動(dòng)要素的算法自動(dòng)化決策正悄無聲息地滲透至政治、司法、執(zhí)法等領(lǐng)域［1］。人類社會(huì)正在經(jīng)歷一場(chǎng)智能革命，而這場(chǎng)智能革命是建立在算法的基礎(chǔ)上，無論是智慧城市、智能制造、智慧醫(yī)療等宏大遠(yuǎn)景規(guī)劃，還是自動(dòng)駕駛、智能機(jī)器、虛擬現(xiàn)實(shí)等前沿應(yīng)用，抑或是智能購(gòu)物、智慧出行、智能娛樂等生活日常行為，“智能”的實(shí)現(xiàn)都離不開算法?？梢哉f，伴隨著大數(shù)據(jù)、區(qū)塊鏈、元宇宙等互聯(lián)網(wǎng)技術(shù)的縱深發(fā)展和廣泛擴(kuò)散，人類社會(huì)儼然進(jìn)入了“算法時(shí)代”。近兩年，伴隨著行業(yè)數(shù)字化的轉(zhuǎn)型，社會(huì)經(jīng)濟(jì)發(fā)展迎來了數(shù)字化時(shí)代，萬(wàn)事萬(wàn)物正以數(shù)據(jù)化的形式存在，海量數(shù)據(jù)的處理遠(yuǎn)遠(yuǎn)超過人類的計(jì)算能力，而算法所具備的超大算力優(yōu)勢(shì)正使其逐漸從人類手中爭(zhēng)奪分配社會(huì)資源的權(quán)力。在理想狀態(tài)下，鑒于技術(shù)中立原則，基于算法的自動(dòng)化決策不僅效率更高，還具有相對(duì)客觀公正的優(yōu)勢(shì)。但是囿于算法工程師的主觀偏見、數(shù)據(jù)偏差、冗余編碼等原因，導(dǎo)致算法技術(shù)在實(shí)際應(yīng)用過程中易產(chǎn)生諸如“大數(shù)據(jù)殺熟”“用戶畫像”所致的推送閉環(huán)等算法歧視問題。數(shù)字時(shí)代背景下，數(shù)字經(jīng)濟(jì)的發(fā)展離不開算法，而算法歧視所引致的負(fù)外部性正消弭社會(huì)共同體對(duì)該項(xiàng)技術(shù)的信任。為推動(dòng)算法技術(shù)的健康發(fā)展與良性應(yīng)用，使其真正為人類所用，本文擬圍繞算法歧視的相關(guān)問題，構(gòu)建起包含技術(shù)、法律、倫理等在內(nèi)的多元規(guī)制體系，以期對(duì)算法歧視的規(guī)制有所裨益。

一、算法歧視的概念確定

對(duì)于事物概念的確定，既是認(rèn)識(shí)事物本質(zhì)的過程，亦是思維形成的過程［2］。算法歧視概念的確定，對(duì)于認(rèn)識(shí)算法歧視的本質(zhì)與形成規(guī)制算法歧視的體系性思維來說至關(guān)重要。算法歧視的概念確定需要從算法與歧視兩個(gè)角度著手。

算法有廣義和狹義之分，狹義角度的算法源于數(shù)學(xué)和計(jì)算機(jī)科學(xué)領(lǐng)域，其被用來描述解決數(shù)學(xué)與計(jì)算機(jī)領(lǐng)域問題的一系列邏輯規(guī)則，如數(shù)學(xué)領(lǐng)域的代數(shù)算法、計(jì)算幾何算法，計(jì)算機(jī)領(lǐng)域的決策樹算法、加密算法、排列算法、推送算法等。因此，從這個(gè)角度而言，算法則指的是被用來實(shí)現(xiàn)某種目標(biāo)而采取的一系列指令或者步驟的組合。隨著人工智能的縱深發(fā)展，算法被廣泛嵌于社會(huì)的方方方面。廣義角度的算法泛指在諸多社會(huì)科學(xué)領(lǐng)域中，用于解決問題，實(shí)現(xiàn)預(yù)設(shè)目標(biāo)的所有決策過程或程序［3］?，F(xiàn)代意義上的算法，來源于計(jì)算機(jī)科學(xué)領(lǐng)域，20世紀(jì)英國(guó)數(shù)學(xué)家圖靈提出“圖靈測(cè)試”，并運(yùn)用算法作為“圖靈測(cè)試”解決不同問題的程序。

歧視與平等為一組對(duì)合概念。我國(guó)憲法規(guī)定“中華人民共和國(guó)公民在法律面前一律平等”，此外《勞動(dòng)法》《婦女權(quán)益保障法》《殘疾人保障法》《未成年人保護(hù)法》等法律均規(guī)定了禁止歧視條款，再次強(qiáng)調(diào)了對(duì)公民平等權(quán)的保護(hù)。但是，我國(guó)立法僅設(shè)置了原則性的反歧視條款，并未給歧視進(jìn)行精準(zhǔn)的定義。而不同學(xué)科對(duì)歧視分別有著不同的理解，如倫理學(xué)認(rèn)為，歧視系以侮辱、誹謗等形式為特定個(gè)體或者群體貼上貶低、媚俗等標(biāo)簽，使其產(chǎn)生罪惡感，從而對(duì)其實(shí)施不公正待遇的行為。法學(xué)認(rèn)為，歧視系基于性別、血緣、種族、教育背景、性取向等特征而對(duì)特定群體或個(gè)人實(shí)施的旨在克減、限制、排除其法律權(quán)利的差別處理措施［4］。

綜上所述，筆者認(rèn)為算法歧視是算法應(yīng)用者利用算法技術(shù)實(shí)施的，通過算法決策的形式對(duì)特定主體或者群體實(shí)施不公正待遇的行為。

二、算法歧視的類型

傳統(tǒng)反歧視理論從結(jié)果導(dǎo)向主義出發(fā)將歧視劃分為直接歧視與間接歧視。然而對(duì)算法歧視的劃分不能簡(jiǎn)單地立足于結(jié)果導(dǎo)向主義，否則容易影響到系統(tǒng)性規(guī)則的建構(gòu)，因?yàn)橐陨疃葘W(xué)習(xí)為代表的算法正逐漸脫離人類主體性的控制，漸漸朝著準(zhǔn)自主式趨勢(shì)發(fā)展，甚至出現(xiàn)算法開發(fā)者難以預(yù)料算法模型建構(gòu)將發(fā)展到何種程度的情形，使得算法歧視的生成原因更加多元、隱蔽且不易被查知，這對(duì)以結(jié)果為標(biāo)準(zhǔn)劃分算法歧視的行為帶來極大的挑戰(zhàn)。通過對(duì)現(xiàn)有文獻(xiàn)研究發(fā)現(xiàn)，學(xué)界已經(jīng)有不少學(xué)者開始對(duì)算法歧視進(jìn)行類型劃分。如有學(xué)者以時(shí)間和社會(huì)因素為標(biāo)準(zhǔn)，將算法偏見劃分為先行算法偏見、技術(shù)算法偏見和浮現(xiàn)算法偏見三種類型［5］。該劃分類型對(duì)算法歧視的類型界分具有一定的借鑒意義，但是偏見與歧視不可同日而語(yǔ)，偏見不一定就會(huì)導(dǎo)致歧視性后果的發(fā)生，比如算法工程師僅僅將某偏見性觀念停留在想象階段，并未將內(nèi)隱偏見內(nèi)嵌于算法研發(fā)中，則一般不會(huì)因?yàn)槿祟惖膬?nèi)隱偏見而形成歧視性結(jié)果。筆者根據(jù)算法的社會(huì)屬性，結(jié)合算法歧視的生成機(jī)理將算法歧視劃分為以下幾種類型。

（一）鏡像同構(gòu)型算法歧視

歧視本身并非是算法社會(huì)的特有產(chǎn)物。從人類社會(huì)誕生的那一刻起，社會(huì)便處處充斥著歧視現(xiàn)象。不同群體之間的歧視均源于人類社會(huì)的分工。社會(huì)分工的不同導(dǎo)致不同群體之間的政治經(jīng)濟(jì)地位的不平等，經(jīng)過歲月的累積，不同群體之間的政治經(jīng)濟(jì)地位的不平等會(huì)形成思想上的刻板印象、認(rèn)知偏見等，處于較高政治地位的群體持著明顯的優(yōu)越感，對(duì)政治地位較低的群體秉著鄙夷、否定的態(tài)度，進(jìn)而對(duì)其實(shí)施排除、限制、剝奪其基本權(quán)利的歧視行為。鏡像同構(gòu)型算法歧視是指人類社會(huì)中現(xiàn)存的各種認(rèn)知偏見、社會(huì)分工所致的結(jié)構(gòu)性不平等等現(xiàn)象被嵌入算法的設(shè)計(jì)、研發(fā)、應(yīng)用中，通過直接或者間接的方式將人類社會(huì)中既存的歧視現(xiàn)象加以復(fù)現(xiàn)的算法歧視類型。鏡像同構(gòu)型算法歧視項(xiàng)下包含直接復(fù)現(xiàn)型與間接復(fù)現(xiàn)型兩個(gè)子類別。

美國(guó)亞馬遜公司曾經(jīng)在開發(fā)智能招聘簡(jiǎn)歷篩選系統(tǒng)時(shí)，并未將女性、女子院校等涉及敏感字眼的性別參數(shù)予以剔除，導(dǎo)致篩選系統(tǒng)對(duì)女性簡(jiǎn)歷打低分的算法性別歧視即是直接復(fù)現(xiàn)型［6］。因?yàn)檫@種算法歧視與社會(huì)中現(xiàn)存的性別偏見、認(rèn)知偏差、刻板印象具有高度關(guān)聯(lián)性，通過算法工程師的偏見設(shè)計(jì)、機(jī)器自我學(xué)習(xí)等方式將社會(huì)現(xiàn)存的歧視性思想內(nèi)嵌到依據(jù)算法實(shí)施的決策過程中。

間接復(fù)現(xiàn)型是指算法模型表面上在設(shè)計(jì)時(shí)將性別、種族、年齡、宗教信仰、性取向等敏感參數(shù)予以剔除，但卻輔之以替代性參數(shù)或者偽中立參數(shù)將之作為實(shí)施算法決策的依據(jù)，進(jìn)而間接地將傳統(tǒng)歧視現(xiàn)象加以復(fù)現(xiàn)的歧視類型。電商巨頭亞馬遜幾年前在美國(guó)各大城市開通“當(dāng)日送達(dá)”服務(wù)，只要會(huì)員在亞馬遜平臺(tái)下單，平臺(tái)內(nèi)超百萬(wàn)種商品在當(dāng)日內(nèi)可以免費(fèi)送達(dá)。然而不久后，有媒體記者發(fā)現(xiàn)，美國(guó)一些城市如紐約、華盛頓、芝加哥等黑人聚居的社區(qū)被排除在“當(dāng)日送達(dá)”的服務(wù)范圍內(nèi)。這一事件被曝光后，亞馬遜方回應(yīng)，其從未將種族因素作為是否提供“當(dāng)日送達(dá)”服務(wù)的參考因素。很顯然，盡管亞馬遜在開發(fā)“當(dāng)日送達(dá)”服務(wù)算法模型時(shí)將種族這類敏感參數(shù)予以剔除，但是其輔之以郵政編碼、當(dāng)?shù)貢?huì)員數(shù)量、犯罪率等偽中立的替代性參數(shù)，用以計(jì)算“當(dāng)日送達(dá)”的服務(wù)范圍，同樣達(dá)到歧視黑人的效果，使得種族歧視通過間接的方式在算法系統(tǒng)中加以復(fù)現(xiàn)［7］119。

（二）加劇型算法歧視

人類通過日漸智能化的算法程序，在模擬大腦思維的道路上不斷探索，在表現(xiàn)出類人性的同時(shí)，也呈現(xiàn)并加劇人類的固有缺陷—偏見。當(dāng)今，人類已經(jīng)步入算法社會(huì)，算法被廣泛地應(yīng)用于電子商務(wù)、新聞推送、搜索引擎、智慧醫(yī)療、智慧城市、餐飲外賣、信用貸款等各個(gè)場(chǎng)景之中，但同時(shí)也導(dǎo)致公民在算法應(yīng)用的不同場(chǎng)景下頻繁地遭遇不公的算法對(duì)待。在此背景之下便產(chǎn)生了加劇型算法歧視，加劇型算法歧視分為針對(duì)個(gè)體的加劇型算法歧視與針對(duì)群體的加劇型算法歧視兩個(gè)子類別。具體是指某個(gè)體或群體被同一決策者于不同算法決策場(chǎng)景下頻繁地實(shí)施不公平的歧視對(duì)待、某個(gè)體或群體在同一算法決策場(chǎng)景下遭遇不同決策者的不公平的歧視對(duì)待，以及個(gè)體或群體在不同算法決策場(chǎng)景下被不同決策者分別實(shí)施不公平的歧視對(duì)待［7］120。

（三）新增型算法歧視

新增型算法歧視意味著算法在決策的過程中將新的偏見予以外化，主要存在于深度學(xué)習(xí)算法的應(yīng)用場(chǎng)景中。深度學(xué)習(xí)算法通過數(shù)據(jù)的自我抓取完成數(shù)據(jù)的自我訓(xùn)練，并通過參數(shù)的自我選擇完成模型的自我建構(gòu)，從而實(shí)現(xiàn)算法的自組織過程［8］。算法對(duì)于普羅大眾而言，本身就是一個(gè)“黑箱”，而深度學(xué)習(xí)算法的準(zhǔn)自主運(yùn)行趨勢(shì)，讓身為初代算法開發(fā)者的算法工程師也很難掌握算法模型自我建構(gòu)可以到何種程度，自我抓取數(shù)據(jù)的標(biāo)準(zhǔn)是什么，這就使得日益復(fù)雜的深度學(xué)習(xí)算法在運(yùn)行過程中產(chǎn)生了諸多難以預(yù)料的新的歧視性結(jié)果。

三、算法歧視的原因

（一）算法工程師的主觀偏見

算法作為人機(jī)交互的產(chǎn)物，很難克服由于算法工程師的主觀偏見所導(dǎo)致的算法歧視問題。因?yàn)橛捎谒芙逃?、所處環(huán)境等因素影響，不同主體對(duì)同一事物存有不同的態(tài)度。久而久之，基于個(gè)人主觀心理對(duì)某個(gè)事物或者物體形成一種概括固定的看法，忽視個(gè)體之間的差異。如果算法工程師在開發(fā)算法原始模型之始時(shí)，將帶有主觀意愿的偏見性思想內(nèi)嵌至算法編碼中，就不可避免地導(dǎo)致算法形成歧視性決策。在傳統(tǒng)的線下招聘場(chǎng)景中，曾有很多求職人員因?yàn)榈赜蚱缫?、性別歧視等原因被招聘者拒之門外。而轉(zhuǎn)移至線上招聘時(shí)，如果研發(fā)招聘系統(tǒng)的算法工程師將自身對(duì)來自某地域的應(yīng)聘者的主觀偏見嵌于系統(tǒng)時(shí)，就會(huì)放大這種求職歧視并且使得這種歧視變得更加隱蔽。

（二）數(shù)據(jù)偏差

算法模型的建構(gòu)系機(jī)器學(xué)習(xí)的產(chǎn)物，而機(jī)器學(xué)習(xí)更是離不開對(duì)原始底層數(shù)據(jù)材料的聚合。數(shù)字社會(huì)與人類社會(huì)構(gòu)成一種鏡像關(guān)系，數(shù)據(jù)作為數(shù)字社會(huì)的載體本身就承載了人類社會(huì)的各種道德價(jià)值觀，其中不乏一些帶有偏見的價(jià)值觀。如果這些帶有偏見價(jià)值觀的數(shù)據(jù)被用作算法的訓(xùn)練材料加以訓(xùn)練，基于此生成的算法模型在生成結(jié)論時(shí)則會(huì)還原初始的偏見，繼而產(chǎn)生“偏見進(jìn)，偏見出”（Bias in，Bias out）的現(xiàn)象。以ChatGPT 等生成式人工智能大模型為例，大模型的研發(fā)設(shè)計(jì)需要大量的數(shù)據(jù)作為訓(xùn)練的語(yǔ)料來源，而現(xiàn)階段用于訓(xùn)練大模型的數(shù)據(jù)來源于互聯(lián)網(wǎng)?；ヂ?lián)網(wǎng)上公開的數(shù)據(jù)質(zhì)量良莠不齊，當(dāng)一些帶有歧視性色彩的數(shù)據(jù)被搜集起來用于訓(xùn)練大模型時(shí)，就會(huì)導(dǎo)致大模型學(xué)習(xí)到數(shù)據(jù)中的歧視，從而生成歧視性的結(jié)論［9］。

從傳統(tǒng)統(tǒng)計(jì)學(xué)的角度而言，用于調(diào)研所采樣的數(shù)據(jù)越多，基于此形成的概率結(jié)果則可能越精準(zhǔn)。在算法模型的建構(gòu)過程中，如果采集的數(shù)據(jù)樣本過于集中于某類群體，而忽視其他群體時(shí)，那么算法就只能根據(jù)被采集的數(shù)據(jù)樣本提取相關(guān)特征作為生成預(yù)測(cè)性結(jié)論的依據(jù)，由此便會(huì)導(dǎo)致沒有被作為數(shù)據(jù)采集樣本的群體成為被算法歧視的對(duì)象。

（三）冗余編碼

以深度學(xué)習(xí)算法為例，其在基礎(chǔ)建構(gòu)的模型基礎(chǔ)上，會(huì)不斷地挖掘數(shù)據(jù)，不斷地完成自我迭代更新，因此其并非嚴(yán)格意義地按照算法工程師所轉(zhuǎn)譯的區(qū)分特征進(jìn)而作出區(qū)別對(duì)待，相反會(huì)將預(yù)訓(xùn)練的數(shù)據(jù)與自我迭代更新過程中抓取的數(shù)據(jù)進(jìn)行雜糅，從而提取相關(guān)特征進(jìn)而作出區(qū)分決策。由此會(huì)產(chǎn)生將個(gè)體或群體本應(yīng)受到保護(hù)的私密性、敏感性的數(shù)據(jù)與其他可以合法獲得的數(shù)據(jù)進(jìn)行編碼關(guān)聯(lián)性地使用的現(xiàn)象，從而誘發(fā)因“冗余編碼”所致的算法歧視［10］。

四、算法歧視的規(guī)制

算法歧視引起的危害民眾合法權(quán)益的問題已然引起世界多數(shù)國(guó)家的關(guān)注，多數(shù)國(guó)家陸續(xù)出臺(tái)相應(yīng)規(guī)范性文件以應(yīng)對(duì)算法歧視的問題。針對(duì)算法歧視，歐盟頒布了《歐盟基本權(quán)利憲章》《機(jī)器人民事法律規(guī)則》《通用數(shù)據(jù)保護(hù)條例》等規(guī)則，并以《通用數(shù)據(jù)保護(hù)條例》為核心，以“數(shù)據(jù)保護(hù)”為主旨對(duì)人工智能算法歧視進(jìn)行規(guī)制。為解決算法歧視問題，紐約在2017年12月發(fā)布了《算法問責(zé)法案》，要求政府建立算法決策使用問責(zé)制。2019 年4 月美國(guó)國(guó)會(huì)引入《2019年算法問責(zé)法案》，從用戶角度，防止用戶遭受算法歧視性決策。2021年5月，美國(guó)國(guó)會(huì)針對(duì)互聯(lián)網(wǎng)平臺(tái)的算法問題，提出《算法正義與互聯(lián)網(wǎng)平臺(tái)透明度法案》，要求平臺(tái)規(guī)范算法過程，保證用戶特征和個(gè)人信息不受歧視。2022年2月美國(guó)俄勒岡州民主黨參議員羅恩·懷登（Ron Wyden）、新澤西州民主黨參議員科里·布克（Cory Booker）和紐約州民主黨眾議員伊薇特·克拉克（Yvette Clarke）提出《2022 年算法責(zé)任法案》，要求自動(dòng)化決策系統(tǒng)具有新的透明度以保持可問責(zé)［11］。2022 年9 月，美國(guó)華盛頓聽證會(huì)討論《停止算法歧視法案》，以禁止特定主體在算法決策中使用某些類型的數(shù)據(jù)，確保消除算法偏見。

目前，我國(guó)尚未出臺(tái)專門性的算法歧視規(guī)范性文件，有關(guān)歧視性條款見于《憲法》《勞動(dòng)法》《婦女權(quán)益保障法》等法律文件中，但是其以原則性規(guī)定為主，而且算法時(shí)代下的算法歧視表現(xiàn)形式多樣且較隱蔽，很難將其納入此類文件的規(guī)范范圍內(nèi)。有鑒于此，我國(guó)出臺(tái)《個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《新一代人工智能倫理規(guī)范》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等文件以應(yīng)對(duì)算法的濫用，但是算法歧視的生成邏輯是復(fù)雜多樣的，現(xiàn)有規(guī)定很難完全應(yīng)對(duì)算法歧視的風(fēng)險(xiǎn)。為此，我國(guó)有關(guān)算法歧視的規(guī)制應(yīng)當(dāng)在借鑒域外經(jīng)驗(yàn)的同時(shí)，立足于我國(guó)國(guó)情形成具有中國(guó)特色的算法歧視的規(guī)制路徑。具體而言，可考慮從以下幾個(gè)方面著手。

（一）算法歧視的法律規(guī)制

近年來學(xué)界在規(guī)制算法歧視研究中，逐漸形成將推動(dòng)算法透明作為有效規(guī)制算法歧視手段的共識(shí)。但是，筆者對(duì)此觀點(diǎn)不太贊同。因?yàn)樗惴ㄍ该鳈C(jī)制的應(yīng)然層面與實(shí)然層面存在很大的差距，其并不能實(shí)現(xiàn)預(yù)期設(shè)想的約束效果。首先，即便將算法公開，公民也很難理解。因?yàn)樗惴ㄏ涤梢贿B串的邏輯代碼組成，對(duì)于不具備算法素養(yǎng)的民眾來講，算法代碼猶如天書。其次，一個(gè)算法模型的構(gòu)建需要企業(yè)投入大量的人力、物力、資金等成本，建構(gòu)算法模型的沉淀成本巨大，而回報(bào)周期較長(zhǎng)，因此大多數(shù)企業(yè)將其作為商業(yè)秘密予以保護(hù)。而一旦將算法公開，將可能誘發(fā)競(jìng)爭(zhēng)者反向破解算法，進(jìn)而實(shí)施不正當(dāng)競(jìng)爭(zhēng)行為，產(chǎn)生劣幣驅(qū)逐良幣現(xiàn)象，繼而損害企業(yè)的商業(yè)利益。因此，為平衡算法企業(yè)與算法用戶二者之間的利益，推動(dòng)算法技術(shù)創(chuàng)新與算法用戶權(quán)利保護(hù)，針對(duì)算法歧視，筆者主張構(gòu)建算法審計(jì)制度。

放眼全球，目前國(guó)際上已有不少國(guó)家在立法中多有提及算法審計(jì)。如美國(guó)紐約立法明文規(guī)定雇主在招聘過程中使用算法時(shí)，必須進(jìn)行年度算法歧視審計(jì)，否則不可在招聘過程中使用算法進(jìn)行簡(jiǎn)歷評(píng)估。但遺憾的是，目前尚未形成一套成體系化的算法審計(jì)完備制度。算法審計(jì)是指審計(jì)主體對(duì)被審計(jì)者所使用的算法模型、數(shù)據(jù)，以及算法研發(fā)等技術(shù)活動(dòng)的風(fēng)險(xiǎn)、合規(guī)進(jìn)行審計(jì)，以此監(jiān)督算法的正當(dāng)使用。結(jié)合審計(jì)學(xué)領(lǐng)域的審計(jì)實(shí)踐經(jīng)驗(yàn)，筆者認(rèn)為一套完備的算法審計(jì)制度應(yīng)由算法審計(jì)主體、審計(jì)對(duì)象、審計(jì)方法、審計(jì)后果四個(gè)要素組成。

關(guān)于算法審計(jì)主體，可以分為內(nèi)部算法審計(jì)主體與外部算法審計(jì)主體。內(nèi)部算法審計(jì)主體主要是指科技企業(yè)的內(nèi)設(shè)機(jī)構(gòu)，如法務(wù)部或者審計(jì)部，或者單獨(dú)籌備內(nèi)設(shè)的算法審計(jì)部門。他們?cè)谄髽I(yè)研發(fā)、設(shè)計(jì)算法時(shí)自行對(duì)算法開展的監(jiān)督、評(píng)估，以檢測(cè)算法系統(tǒng)的部署是否符合各方主體的合理利益期待。外部算法審計(jì)主體主要包括監(jiān)管機(jī)構(gòu)與第三方民間組織兩類主體。由監(jiān)管機(jī)構(gòu)主導(dǎo)的算法審計(jì)主要關(guān)注“算法治理”的合法性與正當(dāng)性。具體而言，監(jiān)管機(jī)構(gòu)通過現(xiàn)行法律法規(guī)、政策、平臺(tái)用戶協(xié)議對(duì)算法研發(fā)設(shè)計(jì)主體進(jìn)行合規(guī)審計(jì)，以及圍繞算法公平、算法透明、算法安全等對(duì)算法輸出結(jié)論進(jìn)行風(fēng)險(xiǎn)與影響審計(jì)［12］。外部算法審計(jì)主體中的第三方民間組織類似于傳統(tǒng)審計(jì)實(shí)務(wù)中的會(huì)計(jì)師事務(wù)所，系由具備專業(yè)資格和專業(yè)資質(zhì)的算法審計(jì)師組成并經(jīng)批準(zhǔn)成立的專門算法審計(jì)機(jī)構(gòu)，以接受企業(yè)委托或者以監(jiān)管機(jī)關(guān)指定的方式對(duì)社會(huì)中運(yùn)行的算法開展審計(jì)活動(dòng)。例如美國(guó)的奧尼爾風(fēng)險(xiǎn)資訊與算法審計(jì)公司（ORCAA）就是一家從事算法審計(jì)的第三方民間組織。

算法審計(jì)的對(duì)象主要聚焦于數(shù)據(jù)、算法模型、算法的研發(fā)與應(yīng)用過程。在此需要厘定的是，雖然我國(guó)《個(gè)人信息保護(hù)法》第五十四條規(guī)定了個(gè)人信息的合規(guī)審計(jì)，但是二者并不能等同視之。原因在于并非所有的算法均需要進(jìn)行個(gè)人信息合規(guī)審計(jì)，因?yàn)橛行┧惴ǖ倪\(yùn)行是對(duì)非個(gè)人信息的處理。此外，《個(gè)人信息保護(hù)法》第五十四條規(guī)定的個(gè)人信息合規(guī)審計(jì)，是審計(jì)個(gè)人信息處理者處理個(gè)人信息是否符合法律法規(guī)的規(guī)定，其主要關(guān)注的是合法性的問題。而算法審計(jì)不僅審查算法的合法性而且關(guān)注算法的合理性。

在算法審計(jì)的實(shí)踐中，審計(jì)主體可以采取代碼審計(jì)、爬蟲審計(jì)、非侵入式審計(jì)、眾包審計(jì)四種審計(jì)方法對(duì)算法展開具體的審計(jì)工作。代碼審計(jì)，顧名思義即對(duì)構(gòu)建算法的底層邏輯代碼進(jìn)行全碼通讀或者通過敏感函數(shù)回溯以對(duì)算法的輸入和輸出全過程進(jìn)行審計(jì)。但代碼審計(jì)涉及算法公司的核心商業(yè)秘密、算法專利等問題，多用于算法公司的內(nèi)部審計(jì)，因此外部審計(jì)主體很難通過外部審計(jì)的方式對(duì)算法展開代碼審計(jì)。爬蟲審計(jì)的做法類似于利用爬蟲技術(shù)抓取數(shù)據(jù)，即審計(jì)主體通過API反復(fù)訪問平臺(tái)的算法，反復(fù)更改輸入并對(duì)算法輸出結(jié)果進(jìn)行隨意抓取，從而對(duì)算法輸出結(jié)果展開審計(jì)。但是爬蟲審計(jì)往往涉及平臺(tái)算法的侵權(quán)問題，而且諸多平臺(tái)均對(duì)算法部署了反爬蟲技術(shù)裝置，故利用爬蟲審計(jì)方法開展算法審計(jì)活動(dòng)對(duì)算法審計(jì)主體提出了較高的專業(yè)技術(shù)要求，且其面臨的法律風(fēng)險(xiǎn)也較高。眾包審計(jì)，與傳統(tǒng)工作的眾包模式類似，即審計(jì)主體通過招聘眾多的用戶對(duì)算法進(jìn)行使用，以足夠多用戶的親身體驗(yàn)來達(dá)到對(duì)算法的審計(jì)，但是采取此種審計(jì)方法會(huì)耗費(fèi)巨大的成本，不太符合經(jīng)濟(jì)效益原則。非侵入式審計(jì)類似于傳統(tǒng)審計(jì)實(shí)踐中的調(diào)查、問詢，即審計(jì)主體征得平臺(tái)用戶的同意，登錄平臺(tái)用戶賬戶，查閱用戶與平臺(tái)算法之間的交互信息進(jìn)而對(duì)算法進(jìn)行分析審計(jì)。與其他審計(jì)方法相比，非侵入式審計(jì)的成本較低，且非侵入式審計(jì)不涉及爬取平臺(tái)算法的侵權(quán)等問題，法律風(fēng)險(xiǎn)較低，成本和效益合乎比例，符合比例原則的要求，值得推廣。

算法審計(jì)的目的就是通過審查算法應(yīng)用的合法性與合理性，進(jìn)而對(duì)算法保持可問責(zé)。然而，通過算法審計(jì)對(duì)算法進(jìn)行問責(zé)不可或缺的重要一環(huán)即賦予算法審計(jì)以法律效果。故筆者認(rèn)為，當(dāng)算法審計(jì)主體對(duì)企業(yè)運(yùn)行算法進(jìn)行審計(jì)時(shí)發(fā)現(xiàn)存在可能導(dǎo)致算法歧視的風(fēng)險(xiǎn)時(shí)，有權(quán)要求企業(yè)對(duì)所選擇的參數(shù)、算法決策依據(jù)做出陳述并進(jìn)行修改，如果算法應(yīng)用者拒不改正則出具否定的審計(jì)意見，并將審計(jì)結(jié)論上報(bào)給網(wǎng)信、公安、市場(chǎng)監(jiān)管等主管部門由其進(jìn)行處理。

（二）算法歧視的技術(shù)規(guī)制

20 世紀(jì)末，勞倫斯·萊斯格教授指出，有四種力量可以對(duì)技術(shù)進(jìn)行規(guī)制，它們分別是法律、社會(huì)規(guī)范、市場(chǎng)以及代碼［13］。算法歧視作為應(yīng)用算法技術(shù)所產(chǎn)生的結(jié)果，自然規(guī)制算法歧視也需要依賴于技術(shù)。在有些場(chǎng)景下，算法之所以會(huì)產(chǎn)生算法歧視問題，是因?yàn)樗惴ㄔ谶\(yùn)行過程中出現(xiàn)了算法漏洞，如果將這些漏洞予以修補(bǔ)則可以在很大程度上避免歧視的發(fā)生。在實(shí)踐層面上，技術(shù)規(guī)制也有跡可循，如2023年1月，美國(guó)與歐盟簽署“基于公共利益運(yùn)用人工智能技術(shù)的行政協(xié)議”。該協(xié)議指出，為了加強(qiáng)個(gè)人隱私保護(hù)，歐美雙方通過運(yùn)用多種機(jī)器學(xué)習(xí)算法在互相不共享彼此數(shù)據(jù)集的前提下實(shí)現(xiàn)了人工智能聯(lián)合模型的構(gòu)建。為此，應(yīng)當(dāng)大力推動(dòng)反算法歧視技術(shù)的研發(fā)與應(yīng)用、擴(kuò)充數(shù)據(jù)采集的維度、加強(qiáng)數(shù)據(jù)清洗等技術(shù)手段在規(guī)制算法歧視中的應(yīng)用。

（三）算法歧視的倫理規(guī)制

公正作為人們被平等對(duì)待的道德期許，是社會(huì)共同體長(zhǎng)久維系的原因所在。為推動(dòng)算法歧視的有效規(guī)制，必須加強(qiáng)算法歧視的倫理規(guī)制，而算法歧視的倫理規(guī)制必須重視公正這一倫理道德的作用。具體而言，在算法的研發(fā)設(shè)計(jì)過程中，應(yīng)當(dāng)樹立算法公正理念，算法工程師在研發(fā)設(shè)計(jì)算法程序過程中應(yīng)避免主觀偏見的帶入；人工智能與算法等相關(guān)行業(yè)協(xié)會(huì)，應(yīng)當(dāng)充分發(fā)揮行業(yè)協(xié)會(huì)的作用，積極引導(dǎo)協(xié)會(huì)會(huì)員秉持公正道義信念；執(zhí)法人員應(yīng)公正執(zhí)法，對(duì)待任何算法都應(yīng)做到不偏不倚，發(fā)揮模范帶頭作用，推動(dòng)社會(huì)整體形成公道正義意識(shí)。

五、結(jié)語(yǔ)

擔(dān)心人工智能技術(shù)的進(jìn)步可能帶來不公正的歧視性后果，是數(shù)字時(shí)代計(jì)算與數(shù)據(jù)處理的一個(gè)永恒命題。數(shù)字時(shí)代的號(hào)角已然吹響，人工智能算法技術(shù)也會(huì)不斷地向前迭代發(fā)展，未來已來。規(guī)制算法歧視將會(huì)是人們面臨的一項(xiàng)長(zhǎng)期的、前沿的時(shí)代課題。如果僅僅依靠法律機(jī)制規(guī)制算法歧視，可能很難達(dá)到最佳的規(guī)制效果。為推動(dòng)人工智能算法技術(shù)的創(chuàng)新發(fā)展與公民合法權(quán)益的保護(hù)，一條合乎邏輯的規(guī)制路徑在于構(gòu)建起算法歧視的技術(shù)規(guī)制、法律規(guī)制、倫理規(guī)制三位一體的規(guī)制路徑。