【摘要】以經(jīng)典審計(jì)理論為基礎(chǔ)， 提出算法審計(jì)本質(zhì)的一個(gè)理論框架。從內(nèi)涵來(lái)說(shuō)， 算法審計(jì)是以系統(tǒng)方法對(duì)經(jīng)管責(zé)任履行中的算法進(jìn)行獨(dú)立檢查并將結(jié)果傳達(dá)給利益相關(guān)者的算法治理制度安排。從外延來(lái)說(shuō)， 算法審計(jì)有多種分類方法， 可分為基于規(guī)則和基于機(jī)器學(xué)習(xí)的算法審計(jì)， 也可分為不同審計(jì)主體實(shí)施的算法審計(jì)， 還可以根據(jù)人工智能系統(tǒng)的生命周期進(jìn)行分類。從相關(guān)概念的關(guān)系來(lái)說(shuō)， 算法審計(jì)是人工智能系統(tǒng)審計(jì)的組成部分。

【關(guān)鍵詞】人工智能系統(tǒng)；算法審計(jì)；審計(jì)本質(zhì)；經(jīng)典審計(jì)理論

【中圖分類號(hào)】 F239.44 【文獻(xiàn)標(biāo)識(shí)碼】A 【文章編號(hào)】1004-0994（2024）15-0073-5

一、 引言

隨著人工智能（AI）的快速發(fā)展， 算法正以前所未有的速度嵌入人們的經(jīng)濟(jì)社會(huì)生活中， 公共部門和私營(yíng)部門業(yè)務(wù)營(yíng)運(yùn)中使用算法的場(chǎng)景已經(jīng)非常廣泛。算法的廣泛運(yùn)用有效地提高了工作的效率效果， 為人們生活帶來(lái)了極大的便利。但與此同時(shí)也帶來(lái)了一系列的問(wèn)題， 如算法黑箱、 算法偏見(jiàn)、 算法歧視等， 引起了社會(huì)的廣泛關(guān)注。為了應(yīng)對(duì)這些問(wèn)題， 各國(guó)都在推動(dòng)建構(gòu)算法治理體系， 算法問(wèn)責(zé)、 算法公開(kāi)、 算法賦權(quán)、 算法監(jiān)管都是算法治理體系的組成部分（湯志偉等，2023）， 算法審計(jì)也是其中的重要組成部分。然而， 算法審計(jì)要真正在算法治理中發(fā)揮作用， 就必須建構(gòu)科學(xué)的算法審計(jì)制度， 而理論自信是制度自信的基礎(chǔ)， 正確地認(rèn)知算法審計(jì)的各個(gè)基礎(chǔ)性問(wèn)題是科學(xué)建構(gòu)算法審計(jì)制度的基礎(chǔ)， 本文聚焦算法審計(jì)的基礎(chǔ)性問(wèn)題之一——算法審計(jì)本質(zhì)。

現(xiàn)有文獻(xiàn)中， 對(duì)于算法審計(jì)本質(zhì)的認(rèn)知主要有三種觀點(diǎn)， 其中技術(shù)審查觀、 影響評(píng)估觀與經(jīng)典審計(jì)沒(méi)有直接關(guān)聯(lián)， 但在技術(shù)方法上與經(jīng)典審計(jì)有相互借鑒之處， 而經(jīng)濟(jì)監(jiān)督觀試圖將算法審計(jì)作為經(jīng)典審計(jì)的成員， 但并未從學(xué)理上貫通審計(jì)邏輯。本文以經(jīng)典審計(jì)理論為基礎(chǔ)， 提出算法審計(jì)本質(zhì)的一個(gè)理論框架， 以深化人們對(duì)算法審計(jì)本質(zhì)的認(rèn)知， 并為建構(gòu)和優(yōu)化算法審計(jì)制度提供理論參考。

二、 文獻(xiàn)綜述

“審計(jì)”具有多種含義， 能夠表示多類事項(xiàng)的集合， 因此它是一個(gè)具有概括性的詞（umbrella term）， 也正是因此， 學(xué)者們對(duì)算法審計(jì)本質(zhì)存在不同的認(rèn)知， 主要有三種觀點(diǎn)， 本文分別稱之為技術(shù)審查觀、 影響評(píng)估觀和經(jīng)濟(jì)監(jiān)督觀。

（一） 技術(shù)審查觀

技術(shù)審查觀是從技術(shù)角度來(lái)認(rèn)知算法審計(jì)， 認(rèn)為算法審計(jì)是檢查算法系統(tǒng)與規(guī)范標(biāo)準(zhǔn)之間的差異（張濤，2024）。由于這些規(guī)范標(biāo)準(zhǔn)通常是政府或行業(yè)組織頒布的算法要求， 技術(shù)審查觀強(qiáng)調(diào)對(duì)算法是否符合這些規(guī)范標(biāo)準(zhǔn)進(jìn)行檢查， 從這個(gè)意義上來(lái)說(shuō)， 算法審計(jì)也就是算法合規(guī)審計(jì)。上述對(duì)于算法審計(jì)本質(zhì)的認(rèn)知， 在不同文獻(xiàn)中有不同的表述方法。Raji等（2020）認(rèn)為， 算法審計(jì)是審查復(fù)雜流程的工具， 通常用于確定這些流程是否符合公司政策、 行業(yè)標(biāo)準(zhǔn)或法規(guī)。國(guó)際標(biāo)準(zhǔn)化組織制定的管理體系標(biāo)準(zhǔn)將“審計(jì)”（audit）界定為一種系統(tǒng)的、 獨(dú)立的、 有文件記錄的獲取證據(jù)并對(duì)證據(jù)進(jìn)行客觀評(píng)價(jià)的過(guò)程（Aragona，2021）。張旭（2022）認(rèn)為， 算法審計(jì)是由監(jiān)管部門、 第三方機(jī)構(gòu)或企業(yè)自身對(duì)算法的流程、 要素進(jìn)行合規(guī)性審查。張永忠和張寶山（2022）認(rèn)為， 算法審計(jì)是針對(duì)被審計(jì)單位的算法模型、 數(shù)據(jù)及有關(guān)技術(shù)活動(dòng)的合規(guī)性、 風(fēng)險(xiǎn)性進(jìn)行的審計(jì)。英國(guó)數(shù)字監(jiān)管合作論壇提出， 算法審計(jì)是審查算法處理系統(tǒng)（從簡(jiǎn)單的統(tǒng)計(jì)模型到更先進(jìn)的機(jī)器學(xué)習(xí)）的一系列方法（DRCF，2022）。王兆毓（2023）認(rèn)為， 算法審計(jì)是對(duì)算法設(shè)計(jì)、 訓(xùn)練、 驗(yàn)證過(guò)程的合法性評(píng)估。Khoa Lam等（2023）認(rèn)為： 審計(jì)標(biāo)準(zhǔn)是一組可驗(yàn)證或可觀察的條件， 必須同時(shí)滿足這些條件， 算法系統(tǒng)才能被視為符合給定的標(biāo)準(zhǔn)或法律； 算法審計(jì)為審計(jì)對(duì)象遵守法律或其他標(biāo)準(zhǔn)提供保證， 有時(shí)也被稱為合規(guī)審計(jì)。

（二） 影響評(píng)估觀

影響評(píng)估觀認(rèn)為， 算法審計(jì)是指評(píng)估算法系統(tǒng)對(duì)個(gè)人、 組織及社會(huì)可能產(chǎn)生的負(fù)面影響（張濤，2024）， 對(duì)此不同的文獻(xiàn)有不同的表述方法。Sandvig等（2014）認(rèn)為， 算法審計(jì)是一種審查算法的種族、 階級(jí)、 性別歧視以及與社會(huì)規(guī)范交互關(guān)系的方法； 師文和陳昌鳳（2022）認(rèn)為， 算法審計(jì)是一種系統(tǒng)性審查算法結(jié)果偏向的方法， 常被用于檢測(cè)算法的階級(jí)、 種族、 性別歧視； 沈艷（2022）認(rèn)為， 算法審計(jì)指收集有關(guān)算法在特定應(yīng)用場(chǎng)景中使用時(shí)的表現(xiàn)數(shù)據(jù)， 然后使用這些數(shù)據(jù)來(lái)評(píng)估算法是否對(duì)人們的某些利益（或權(quán)利）產(chǎn)生了負(fù)面影響， 從而評(píng)估算法本身好壞的過(guò)程； 師文和陳昌鳳（2023）認(rèn)為， 算法審計(jì)是對(duì)算法的運(yùn)行邏輯進(jìn)行檢查， 常被用于測(cè)量黑箱算法中存在的系統(tǒng)性偏向； 徐明華和魏子瑤（2023）認(rèn)為， 算法審計(jì)是從倫理視角出發(fā)， 測(cè)試機(jī)器算法是否存在盲點(diǎn)或偏見(jiàn)的操作流程； Abeba Birhane等（2024）將人工智能審計(jì)定義為對(duì)這些人工智能系統(tǒng)的任何評(píng)估， 其獨(dú)立于人工智能開(kāi)發(fā)過(guò)程， 以問(wèn)責(zé)為目的而實(shí)施。

（三） 經(jīng)濟(jì)監(jiān)督觀

技術(shù)審查觀、 影響評(píng)估觀是現(xiàn)有文獻(xiàn)關(guān)于算法審計(jì)本質(zhì)的主流觀點(diǎn)， 也有個(gè)別文獻(xiàn)認(rèn)為， 算法審計(jì)是“審計(jì)機(jī)構(gòu)依據(jù)法律、 法規(guī)和政策規(guī)定， 對(duì)政府部門、 企事業(yè)單位等模型算法的管理運(yùn)用情況、 產(chǎn)生的影響、 存在的風(fēng)險(xiǎn)等進(jìn)行的審計(jì)監(jiān)督”， 算法審計(jì)“更偏重于經(jīng)濟(jì)監(jiān)督以及模型算法帶來(lái)的風(fēng)險(xiǎn)， 與行政監(jiān)督和司法監(jiān)督等監(jiān)督形式有所區(qū)別” （王玉鳳，2023）。算法審計(jì)是一種具體的審計(jì)類型， 其制度內(nèi)涵受到審計(jì)一般理論的影響（張濤，2024）。本文將算法審計(jì)本質(zhì)的這種認(rèn)知稱為經(jīng)濟(jì)監(jiān)督觀。

（四） 簡(jiǎn)要評(píng)述

上述三類觀點(diǎn)中， 技術(shù)審查觀下的算法審計(jì)是站在政府角度對(duì)算法進(jìn)行的檢查， 目的是保障算法相對(duì)人的合法利益不受侵害， 遵守的基本原則是謙抑原則， 也就是最低程度干預(yù)， 只有在必不可少的情形下才干預(yù)。在這種觀點(diǎn)中， 算法審計(jì)的實(shí)質(zhì)是政府以法規(guī)為基礎(chǔ)的算法規(guī)制工具， 食品安全審計(jì)、 藥品安全審計(jì)、 航空安全審計(jì)等都是類似的技術(shù)性規(guī)制工具（Raji等，2020；Khoa Lam等，2023）。因此， 技術(shù)審查觀中的審計(jì)與經(jīng)典審計(jì)沒(méi)有直接關(guān)聯(lián)， 只是借用了“audit”的審核、 審查的含義， 但其在技術(shù)方法上與經(jīng)典審計(jì)有相互借鑒之處。

影響評(píng)估觀源于針對(duì)算法影響的社會(huì)科學(xué)研究， 主要是借鑒審計(jì)研究（audit studies）方法， 這里的“audit”與經(jīng)典意義上的審計(jì)有很大區(qū)別， 是在“審核、 審查”的意義上使用“audit”?！皩徲?jì)研究”（audit studies）就是審核、 審查性研究， 最早興起于20世紀(jì)60年代， 主要用于審查人員招聘、 房屋申請(qǐng)等不透明決策過(guò)程中潛在的種族偏見(jiàn)、 性別偏見(jiàn)等問(wèn)題（Gaddis，2018；張超，2021；徐明華和魏子瑤，2023）。在算法審計(jì)方面， 最早是Sandvig等（2014）將這種審核、 審查性研究方法用于谷歌廣告推送算法的偏見(jiàn)檢測(cè)， 結(jié)果發(fā)現(xiàn)廣告推送算法的決策邏輯可能存在種族偏見(jiàn)。后來(lái)， 不少研究文獻(xiàn)將這種方法用于算法偏見(jiàn)檢測(cè)， 發(fā)現(xiàn)許多算法中存在偏向（Lambrecht和Tucker，2019）。因此， 嚴(yán)格意義上來(lái)說(shuō)， 影響評(píng)估觀中的算法審計(jì)只是一種社會(huì)科學(xué)的研究方法， 與經(jīng)典意義上的審計(jì)并無(wú)直接關(guān)聯(lián)， 但其在技術(shù)方法上也與經(jīng)典審計(jì)有相互借鑒之處。

經(jīng)濟(jì)監(jiān)督觀將算法審計(jì)作為經(jīng)濟(jì)監(jiān)督的一種手段， 區(qū)別于針對(duì)算法的行政監(jiān)督和司法監(jiān)督等， 試圖將算法審計(jì)作為經(jīng)典審計(jì)的成員， 但是現(xiàn)有文獻(xiàn)的闡述中并未從學(xué)理上貫通審計(jì)邏輯。

三、 理論框架

本文的目的是以經(jīng)典審計(jì)理論為基礎(chǔ)， 提出算法審計(jì)本質(zhì)的一個(gè)理論框架， 為此需要按順序闡釋以下問(wèn)題： 算法審計(jì)的內(nèi)涵、 算法審計(jì)的外延以及算法審計(jì)與相關(guān)概念的辨析。

（一） 算法審計(jì)的內(nèi)涵

在經(jīng)典審計(jì)理論看來(lái)， 算法審計(jì)也是審計(jì)， 因此必須以審計(jì)一般的本質(zhì)為基礎(chǔ)來(lái)認(rèn)知算法審計(jì)本質(zhì)。當(dāng)然， 學(xué)者們對(duì)審計(jì)一般的本質(zhì)有不同的觀點(diǎn)， 本文認(rèn)同的觀點(diǎn)是， “審計(jì)是以系統(tǒng)方法從行為、 信息和制度三個(gè)角度獨(dú)立鑒證經(jīng)管責(zé)任履行情況并將結(jié)果傳達(dá)給利益相關(guān)者的制度安排”（鄭石橋，2021）。據(jù)此， 本文提出算法審計(jì)的本質(zhì)： 算法審計(jì)是以系統(tǒng)方法對(duì)經(jīng)管責(zé)任履行中的算法進(jìn)行獨(dú)立檢查并將結(jié)果傳達(dá)給利益相關(guān)者的算法治理制度安排。這一表述有五個(gè)方面的核心內(nèi)涵： 算法審計(jì)是對(duì)經(jīng)管責(zé)任履行情況的審計(jì)； 算法審計(jì)從算法維度來(lái)開(kāi)展對(duì)經(jīng)管責(zé)任履行情況的審計(jì)； 算法審計(jì)需要采用系統(tǒng)方法獨(dú)立地進(jìn)行檢查； 算法審計(jì)需要將審計(jì)結(jié)果傳遞給利益相關(guān)者； 算法審計(jì)是算法治理體系的組成部分。下文分別闡述這五個(gè)核心內(nèi)涵。

1. 算法審計(jì)是對(duì)經(jīng)管責(zé)任履行情況的審計(jì)。經(jīng)典審計(jì)理論認(rèn)為： 在資源類委托代理關(guān)系中， 代理人對(duì)委托人承擔(dān)了最大善意使用所接受的資源來(lái)履行所要求職責(zé)的責(zé)任（這種責(zé)任通常被稱為經(jīng)管責(zé)任或受托責(zé)任）， 但是由于信息不對(duì)稱、 合約不完備、 激勵(lì)不相容和環(huán)境不確定等因素， 代理人可能出現(xiàn)代理問(wèn)題和次優(yōu)問(wèn)題， 因此需要建立針對(duì)代理問(wèn)題和次優(yōu)問(wèn)題的治理機(jī)制， 而審計(jì)是治理機(jī)制的組成部分之一， 其主要的工作方式是基于審計(jì)固有功能， 以系統(tǒng)方法從特定的維度來(lái)檢查代理人的經(jīng)管責(zé)任履行情況。在廣泛使用人工智能的時(shí)代（由于算法是核心要素， 也可稱之為算法時(shí)代）， 上述基本態(tài)勢(shì)并未改變， 算法相關(guān)的委托代理關(guān)系基本情況如圖1所示。

圖1中基本的關(guān)系仍然是委托人和代理人的關(guān)系（關(guān)系1）， 其他關(guān)系都是在此基礎(chǔ)上產(chǎn)生的。在關(guān)系1中， 委托人提供資源給代理人， 并確定代理人使用這些資源需要履行的職責(zé)， 代理人對(duì)委托人承擔(dān)了經(jīng)管責(zé)任， 這種關(guān)系中同樣存在信息不對(duì)稱、 合約不完備、 激勵(lì)不相容和環(huán)境不確定等因素， 因此同樣需要審計(jì)來(lái)檢查代理人的經(jīng)管責(zé)任履行情況。但是， 在算法時(shí)代， 代理人在履行其經(jīng)管責(zé)任時(shí)廣泛使用了算法， 導(dǎo)致對(duì)代理人的經(jīng)管責(zé)任履行情況進(jìn)行檢查無(wú)法回避算法， 算法的狀況對(duì)代理人經(jīng)管責(zé)任履行情況有著重要影響。因此， 必須對(duì)算法本身進(jìn)行審計(jì)， 但是審計(jì)算法是服務(wù)于檢查代理人經(jīng)管責(zé)任履行情況的， 從終極意義來(lái)說(shuō)， 即使是算法時(shí)代的算法審計(jì)， 也屬于經(jīng)管責(zé)任履行情況審計(jì)。

圖1中關(guān)系8是本級(jí)政府將算法監(jiān)管的職責(zé)交付特定的政府部門， 形成本級(jí)政府與算法監(jiān)管部門的委托代理關(guān)系。這種關(guān)系中存在信息不對(duì)稱、 合約不完備、 激勵(lì)不相容和環(huán)境不確定等因素， 其性質(zhì)是資源類委托代理關(guān)系， 其特殊之處在于， 這個(gè)政府部門的法定職責(zé)是算法監(jiān)管， 如果本級(jí)政府審計(jì)機(jī)關(guān)對(duì)算法監(jiān)管部門進(jìn)行審計(jì)， 其審計(jì)內(nèi)容同樣是該部門經(jīng)管責(zé)任履行情況， 只是經(jīng)管責(zé)任的內(nèi)容中包括算法監(jiān)管責(zé)任。

2. 算法審計(jì)從算法維度來(lái)開(kāi)展對(duì)經(jīng)管責(zé)任履行情況的審計(jì)。根據(jù)經(jīng)典審計(jì)理論， 對(duì)經(jīng)管責(zé)任履行情況的審計(jì)可以從履行經(jīng)管責(zé)任的經(jīng)濟(jì)信息、 經(jīng)濟(jì)行為和經(jīng)濟(jì)制度三個(gè)角度展開(kāi)， 也就是說(shuō)， 經(jīng)濟(jì)責(zé)任履行情況可以落實(shí)到三類審計(jì)主題， 可以審計(jì)履行經(jīng)管責(zé)任的經(jīng)濟(jì)信息， 也可以審計(jì)履行經(jīng)管責(zé)任的經(jīng)濟(jì)行為， 還可以審計(jì)履行經(jīng)管責(zé)任的經(jīng)濟(jì)制度（鄭石橋和鄭卓如，2015）。圖1的關(guān)系1中代理人在經(jīng)管責(zé)任履行過(guò)程中采用的算法規(guī)定了代理人履行經(jīng)管責(zé)任時(shí)對(duì)有關(guān)事項(xiàng)的處理邏輯過(guò)程和方法， 因此屬于經(jīng)濟(jì)制度類審計(jì)主題。具體來(lái)說(shuō)， 若代理人依據(jù)人工智能系統(tǒng)履行經(jīng)管責(zé)任， 審計(jì)代理人履行經(jīng)管責(zé)任的情況就無(wú)法回避對(duì)人工智能系統(tǒng)的審計(jì)， 而算法是人工智能系統(tǒng)的靈魂， 因此人工智能系統(tǒng)審計(jì)的核心內(nèi)容是算法審計(jì)。圖1的關(guān)系8中算法監(jiān)管是政府監(jiān)管部門的法定職責(zé)， 對(duì)該部門進(jìn)行審計(jì)時(shí)， 既可以審計(jì)其履行算法職責(zé)的相關(guān)法規(guī)制度， 也可以審計(jì)其算法監(jiān)管的相關(guān)行為， 還可以審計(jì)其算法監(jiān)管相關(guān)信息， 但是， 無(wú)論如何， 三者都是圍繞算法展開(kāi)的。

3. 算法審計(jì)需要采用系統(tǒng)方法獨(dú)立地進(jìn)行檢查。算法審計(jì)是審計(jì)人員對(duì)代理人履行經(jīng)管責(zé)任中運(yùn)用的算法進(jìn)行檢查， 這種檢查具有兩個(gè)特點(diǎn)： 一是獨(dú)立性。審計(jì)人員不能是算法開(kāi)發(fā)者、 算法營(yíng)運(yùn)者， 也不能是算法使用者， 并且在經(jīng)濟(jì)上、 組織上、 人際關(guān)系上與算法開(kāi)發(fā)者、 算法營(yíng)運(yùn)者和算法使用者不存在會(huì)影響其不偏不倚的因素。若失去獨(dú)立性， 審計(jì)人員做出的算法審計(jì)結(jié)論就會(huì)失去價(jià)值。二是采用系統(tǒng)方法。算法審計(jì)要核實(shí)算法的真實(shí)情況， 在此基礎(chǔ)上， 將算法的真實(shí)情況與既定標(biāo)準(zhǔn)相比較， 確定二者的相符程度， 因此需要基于系統(tǒng)方法才能得出正確的審計(jì)結(jié)論， 這種系統(tǒng)方法主要體現(xiàn)在算法審計(jì)準(zhǔn)則中。由于算法審計(jì)準(zhǔn)則是最佳審計(jì)實(shí)務(wù)與審計(jì)邏輯相結(jié)合的產(chǎn)物， 算法審計(jì)采用的系統(tǒng)方法也就是當(dāng)下最科學(xué)的方法。

4. 算法審計(jì)需要將審計(jì)結(jié)果傳遞給利益相關(guān)者。根據(jù)經(jīng)典審計(jì)理論， 審計(jì)作為一種人類社會(huì)的制度創(chuàng)造， 其價(jià)值在于能夠促進(jìn)代理人更好地履行其承擔(dān)的經(jīng)管責(zé)任， 而實(shí)現(xiàn)這種價(jià)值的路徑是發(fā)現(xiàn)代理人履行經(jīng)管責(zé)任中的代理問(wèn)題和次優(yōu)問(wèn)題， 并推動(dòng)這些審計(jì)結(jié)果得到應(yīng)用， 因此， 審計(jì)結(jié)果應(yīng)用是審計(jì)價(jià)值創(chuàng)造的關(guān)鍵環(huán)節(jié)之一（鄭石橋，2021）。算法審計(jì)也是如此， 其價(jià)值在于讓算法賦能代理人更好地履行經(jīng)管責(zé)任， 為此， 也需要尋找算法中存在的代理問(wèn)題和次優(yōu)問(wèn)題， 其審計(jì)結(jié)果就是所發(fā)現(xiàn)的算法中存在的各類代理問(wèn)題和次優(yōu)問(wèn)題。但是， 如果這些審計(jì)結(jié)果不能得到有效的運(yùn)用， 算法審計(jì)的價(jià)值就無(wú)從實(shí)現(xiàn)。因此， 審計(jì)人員必須通過(guò)一定的方式將算法審計(jì)結(jié)果傳遞給委托人、 代理人及其他利益相關(guān)者， 讓這些利益相關(guān)者在各自的決策中運(yùn)用審計(jì)結(jié)果， 從而使算法越來(lái)越完善， 進(jìn)而為代理人更好地履行其承擔(dān)的經(jīng)管責(zé)任奠定基礎(chǔ)。

5. 算法審計(jì)是算法治理體系的組成部分。算法能夠賦能代理人更好地履行其承擔(dān)的經(jīng)管責(zé)任， 但也可能出現(xiàn)一些負(fù)面的問(wèn)題， 算法黑箱、 算法歧視、 算法霸權(quán)、 算法合謀、 信息繭房等都是可能出現(xiàn)的倫理性問(wèn)題， 此外， 也有可能出現(xiàn)違反國(guó)家有關(guān)規(guī)定的合法性問(wèn)題， 還有可能出現(xiàn)不能有效解決問(wèn)題的效率效果性問(wèn)題。這些問(wèn)題的出現(xiàn)都會(huì)對(duì)代理人良好地履行其承擔(dān)的經(jīng)管責(zé)任產(chǎn)生負(fù)面影響， 因此， 委托人及代理人和政府監(jiān)管部門會(huì)推動(dòng)建構(gòu)針對(duì)算法代理問(wèn)題和次優(yōu)問(wèn)題的治理體系， 這個(gè)體系通常被稱為算法治理體系。這一體系中的算法治理機(jī)制有多種， 算法審計(jì)以審計(jì)固有功能在算法治理中發(fā)揮作用， 成為算法治理體系的重要組成部分（付冉冉，2023；劉建業(yè)，2023；陳雄燊，2023）。既然如此， 算法審計(jì)就必須與其他算法治理機(jī)制相協(xié)調(diào)， 以算法治理體系為背景來(lái)建構(gòu)算法審計(jì)制度， 而不是特立獨(dú)行， 其既要與其他算法治理機(jī)制協(xié)同， 又要明確自己的獨(dú)特定位， 避免與其他算法治理機(jī)制重復(fù)。

上文闡述了算法審計(jì)本質(zhì)的核心內(nèi)涵， 由于這些核心內(nèi)涵貫通了經(jīng)典審計(jì)理論中的審計(jì)本質(zhì)理論， 本文將這種算法審計(jì)本質(zhì)觀點(diǎn)稱為經(jīng)典審計(jì)觀。那么， 這種觀點(diǎn)與現(xiàn)有文獻(xiàn)中的三種觀點(diǎn)是什么關(guān)系呢？

在技術(shù)審查觀中， 算法審計(jì)是政府以法規(guī)為基礎(chǔ)的算法規(guī)制工具， 主要檢查算法是否符合政府及行業(yè)組織頒布的算法法律法規(guī)， 與經(jīng)典審計(jì)沒(méi)有直接關(guān)聯(lián)， 但其在技術(shù)方法上也要求核實(shí)算法的真實(shí)情況， 在此基礎(chǔ)上判斷該算法與相關(guān)算法法律法規(guī)是否相符， 這種方法類似于算法審計(jì)中的系統(tǒng)方法。因此， 從方法論的角度來(lái)看， 技術(shù)審查觀與經(jīng)典審計(jì)觀具有一致性。但是， 技術(shù)審查觀并不強(qiáng)調(diào)其審核的算法一定是代理人履行其經(jīng)管責(zé)任中的算法， 只要影響公眾利益的算法， 政府有關(guān)部門都可以對(duì)其進(jìn)行監(jiān)管， 所以經(jīng)典審計(jì)觀認(rèn)知的算法審計(jì)是對(duì)算法的所有權(quán)監(jiān)督， 而技術(shù)審查觀認(rèn)知的算法審計(jì)是對(duì)算法的行政權(quán)監(jiān)督， 二者在監(jiān)督需求、 監(jiān)督主體、 監(jiān)督客體和監(jiān)督內(nèi)容方面存在差異（這些差異將在算法審計(jì)基本理論研究系列論文的其他相關(guān)文章中闡述， 這里不展開(kāi)討論）。為了區(qū)分兩種不同性質(zhì)的算法監(jiān)督， 本文建議將基于技術(shù)審查觀的算法審計(jì)稱為算法合法性檢查。

在影響評(píng)估觀中， 算法審計(jì)就是對(duì)算法中各種偏向的檢測(cè)， 關(guān)注算法中存在的倫理性問(wèn)題， 既不是所有權(quán)監(jiān)督， 也不是行政權(quán)監(jiān)督， 是一種社會(huì)科學(xué)的研究方法， 與經(jīng)典審計(jì)并無(wú)直接關(guān)聯(lián)。但是， 如果代理人履行其經(jīng)管責(zé)任的算法中存在倫理性問(wèn)題， 對(duì)代理人良好地履行其經(jīng)管責(zé)任形成負(fù)面影響， 通常也會(huì)將這些內(nèi)容包括在經(jīng)典意義的算法審計(jì)中， 并且在方法上也借鑒社會(huì)科學(xué)的審核性研究方法。

經(jīng)濟(jì)監(jiān)督觀試圖將算法審計(jì)作為經(jīng)典審計(jì)的成員， 但是， 現(xiàn)有文獻(xiàn)的闡述中并未從學(xué)理上貫通審計(jì)邏輯。本文提出的算法審計(jì)本質(zhì)強(qiáng)調(diào)的是對(duì)代理人履行其經(jīng)管責(zé)任中所采用的算法進(jìn)行獨(dú)立檢查， 其實(shí)質(zhì)就是經(jīng)濟(jì)監(jiān)督觀， 但本文是根據(jù)經(jīng)典審計(jì)理論來(lái)解釋算法審計(jì)本質(zhì)的， 從學(xué)理上較為系統(tǒng)地闡釋了算法審計(jì)本質(zhì)， 所以稱為經(jīng)典審計(jì)觀。

總體來(lái)說(shuō)， 技術(shù)審查觀、 影響評(píng)估觀、 經(jīng)濟(jì)監(jiān)督觀和經(jīng)典審計(jì)觀的關(guān)系如圖2所示。

圖2中， 方框A是技術(shù)審查觀， 一些不存在資源類委托代理關(guān)系但使用算法的情景仍然需要開(kāi)展算法合法性檢查， 但其不屬于經(jīng)濟(jì)監(jiān)督觀/經(jīng)典審計(jì)觀的算法審計(jì)范圍（方框B）， 因此方框A大于方框B。但是， 經(jīng)典審計(jì)觀的要求高于技術(shù)審查觀， 因此方框B也可能在方框A之外。方框C是影響評(píng)估觀的算法審計(jì)范圍， 它與經(jīng)濟(jì)監(jiān)督觀/經(jīng)典審計(jì)觀的算法審計(jì)范圍有交叉， 對(duì)于一些不存在資源類委托代理關(guān)系但使用算法的情景也可能開(kāi)展倫理性審查， 此時(shí)就可能超出了經(jīng)濟(jì)監(jiān)督觀/經(jīng)典審計(jì)觀的算法審計(jì)范圍。

（二） 算法審計(jì)的外延

下文對(duì)算法審計(jì)的外延進(jìn)行分析， 以深化對(duì)算法審計(jì)本質(zhì)的認(rèn)知。

首先， 算法審計(jì)可以分為基于規(guī)則的算法審計(jì)和基于機(jī)器學(xué)習(xí)的算法審計(jì)。算法是解決問(wèn)題的一系列步驟或規(guī)則， 它可以被計(jì)算機(jī)執(zhí)行以達(dá)到預(yù)期的結(jié)果， 在人工智能中， 算法扮演著核心角色（丁曉東，2020）。但是， 算法有不同的類型， 其復(fù)雜性存在較大的差異?；谝?guī)則的算法是按軟件程序中設(shè)定的規(guī)則來(lái)完成任務(wù)， 并且永遠(yuǎn)保持不變， 而基于機(jī)器學(xué)習(xí)的算法側(cè)重于模擬和模仿人類的認(rèn)知過(guò)程（Lambauer，2021；Aragona，2021；Beckstrom，2022）。正是因?yàn)檫@兩類算法的上述差異， 針對(duì)它們的審計(jì)內(nèi)容及方法也存在差異， 進(jìn)而形成兩個(gè)相對(duì)獨(dú)立的算法審計(jì)領(lǐng)域。

其次， 從審計(jì)主體來(lái)說(shuō)， 政府審計(jì)機(jī)關(guān)、 內(nèi)部審計(jì)機(jī)構(gòu)和中介機(jī)構(gòu)都可以開(kāi)展基于規(guī)則的算法審計(jì)和基于機(jī)器學(xué)習(xí)的算法審計(jì)， 其基本狀況如表1所示。不同審計(jì)主體的審計(jì)范圍各有不同， 政府審計(jì)機(jī)關(guān)主要對(duì)公共資源委托代理關(guān)系中的代理人履行其經(jīng)管責(zé)任中的算法進(jìn)行審計(jì)， 內(nèi)部審計(jì)機(jī)構(gòu)主要對(duì)內(nèi)部資源委托代理關(guān)系中的代理人履行其經(jīng)管責(zé)任中的算法進(jìn)行審計(jì)， 而中介機(jī)構(gòu)則是接受委托， 對(duì)特定的資源類委托代理關(guān)系中的代理人履行其經(jīng)管責(zé)任中的算法進(jìn)行審計(jì)。

最后， 人工智能系統(tǒng)有自己的生命周期， 通常來(lái)說(shuō)， 人工智能系統(tǒng)的生命周期包括模型開(kāi)發(fā)、 模型訓(xùn)練、 模型部署和模型評(píng)估， 這些階段都需要對(duì)人工智能中的算法進(jìn)行審計(jì)。

（三） 算法審計(jì)與相關(guān)概念的辨析

為了進(jìn)一步深化對(duì)算法審計(jì)本質(zhì)的認(rèn)知， 下文辨析了人工智能系統(tǒng)審計(jì)、 智能審計(jì)與算法審計(jì)的關(guān)系。

人工智能系統(tǒng)是指利用計(jì)算機(jī)和機(jī)器來(lái)模仿、 延伸和擴(kuò)展人的智能， 以實(shí)現(xiàn)自動(dòng)化、 自適應(yīng)、 自學(xué)習(xí)等能力的技術(shù)或系統(tǒng)， 從某種意義上來(lái)說(shuō)， 人工智能系統(tǒng)是高級(jí)的信息系統(tǒng)。資源類委托代理關(guān)系中的代理人在履行其經(jīng)管責(zé)任時(shí)如果使用了人工智能系統(tǒng)， 則這個(gè)系統(tǒng)會(huì)決定其責(zé)任履行情況， 因此也需要對(duì)這個(gè)人工智能系統(tǒng)進(jìn)行審計(jì)。這一項(xiàng)審計(jì)側(cè)重于評(píng)估人工智能系統(tǒng)本身， 以確保它們按預(yù)期工作， 沒(méi)有偏見(jiàn)或歧視， 并符合道德和法律標(biāo)準(zhǔn)（葛典怡，2023）。算法是人工智能系統(tǒng)的靈魂， 算法審計(jì)是人工智能系統(tǒng)審計(jì)的核心內(nèi)容， 由于算法不同于人工智能系統(tǒng)中的其他要素， 算法審計(jì)成為相對(duì)獨(dú)立的模塊， 需要形成自己的審計(jì)理論與方法， 也就是算法審計(jì)理論與方法。

智能審計(jì)不是對(duì)智能的審計(jì)， 而是一種利用人工智能技術(shù)， 結(jié)合機(jī)器學(xué)習(xí)和自然語(yǔ)言處理等技術(shù)， 為審計(jì)取證提供支持的新型審計(jì)技術(shù)， 它能夠有效識(shí)別潛在的審計(jì)風(fēng)險(xiǎn)、 及時(shí)發(fā)現(xiàn)異常狀況， 并提供相應(yīng)的解決方案。智能審計(jì)發(fā)展到一定水平就可以稱為智慧審計(jì)。很顯然， 智能審計(jì)強(qiáng)調(diào)的是審計(jì)本身的智能化， 并不是對(duì)智能系統(tǒng)的審計(jì)， 也不一定涉及所審計(jì)財(cái)務(wù)及業(yè)務(wù)活動(dòng)中的算法。當(dāng)然， 智能審計(jì)本身需要有算法， 這是在實(shí)施審計(jì)的過(guò)程中所使用的算法， 并不是對(duì)算法是否存在缺陷的審計(jì)。

四、 結(jié)論

算法在提高工作效率效果， 并為人們生活帶來(lái)極大便利的同時(shí)， 也帶來(lái)了一系列的問(wèn)題， 為此， 需要建構(gòu)算法治理體系， 而算法審計(jì)是其重要組成部分。要科學(xué)地建構(gòu)算法審計(jì)制度， 就必須正確地認(rèn)知算法審計(jì)的各個(gè)基礎(chǔ)性問(wèn)題。本文聚焦算法審計(jì)本質(zhì)， 以經(jīng)典審計(jì)理論為基礎(chǔ)， 提出算法審計(jì)本質(zhì)的一個(gè)理論框架。

從內(nèi)涵來(lái)說(shuō)， 算法審計(jì)是以系統(tǒng)方法對(duì)經(jīng)管責(zé)任履行中的算法進(jìn)行獨(dú)立檢查并將結(jié)果傳達(dá)給利益相關(guān)者的算法治理制度安排， 有五個(gè)方面的核心內(nèi)涵： 算法審計(jì)是對(duì)經(jīng)管責(zé)任履行情況的審計(jì)； 算法審計(jì)從算法維度來(lái)開(kāi)展對(duì)經(jīng)管責(zé)任履行情況的審計(jì)； 算法審計(jì)需要采用系統(tǒng)方法獨(dú)立地進(jìn)行檢查； 算法審計(jì)需要將審計(jì)結(jié)果傳遞給利益相關(guān)者； 算法審計(jì)是算法治理體系的組成部分。從外延來(lái)說(shuō)， 算法有多種分類方法。根據(jù)所審計(jì)的算法不同， 算法審計(jì)分為基于規(guī)則的算法審計(jì)和基于機(jī)器學(xué)習(xí)的算法審計(jì)； 政府審計(jì)機(jī)關(guān)、 內(nèi)部審計(jì)機(jī)構(gòu)和中介機(jī)構(gòu)都可以開(kāi)展基于規(guī)則的算法審計(jì)和基于機(jī)器學(xué)習(xí)的算法審計(jì)； 人工智能系統(tǒng)有自己的生命周期， 在其生命周期的各個(gè)階段都有可能開(kāi)展算法審計(jì)。從相關(guān)概念的關(guān)系來(lái)說(shuō)， 算法審計(jì)是人工智能系統(tǒng)審計(jì)的組成部分， 不同于智能審計(jì)。

【 主 要 參 考 文 獻(xiàn) 】

陳雄燊．人工智能倫理風(fēng)險(xiǎn)及其治理——基于算法審計(jì)制度的路徑［ J］．自然辯證法研究，2023（10）：138 ～ 141．

丁曉東．論算法的法律規(guī)制［ J］．中國(guó)社會(huì)科學(xué)，2020（12）：138 ～ 159．

付冉冉．大數(shù)據(jù)時(shí)代算法審計(jì)構(gòu)想［ J］．網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2023（2）：48 ～ 52．

葛典怡．人工智能審計(jì)的研究熱點(diǎn)與發(fā)展趨勢(shì)——基于CiteSpace的知識(shí)圖譜分析［ J］．運(yùn)籌與模糊學(xué)，2023（6）：6112 ～ 6118．

劉建業(yè)．論我國(guó)算法審計(jì)的法治化建構(gòu)［ J］．河南財(cái)經(jīng)政法大學(xué)學(xué)報(bào)，2023（3）：14 ～ 23．

師文，陳昌鳳．國(guó)內(nèi)主流搜索引擎的算法審計(jì)研究［ J］．新聞大學(xué)，2022（10）：84 ～ 100+122 ～ 123．

師文，陳昌鳳．平臺(tái)算法的“主流化”偏向與“個(gè)性化”特質(zhì)研究——基于計(jì)算實(shí)驗(yàn)的算法審計(jì)［ J］．新聞?dòng)浾撸?023（11）：3 ～ 14．

湯志偉，方錄，韓嘯等．基于委托代理視角的算法治理問(wèn)題研究［ J］．情報(bào)雜志，2023（7）：170 ～ 177．

王玉鳳．模型算法審計(jì)：理論內(nèi)涵、國(guó)際經(jīng)驗(yàn)與審計(jì)框架［ J］．審計(jì)研究，2023（3）：11 ～ 18．

王兆毓．生成式人工智能視閾下算法審計(jì)的制度構(gòu)建與路徑創(chuàng)新［ J］．網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2023（8）：6 ～ 12．

徐明華，魏子瑤．算法倫理的治理新范式：算法審計(jì)的興起、發(fā)展與未來(lái)［ J］．當(dāng)代傳播，2023（1）：80 ～ 86．

張超．資訊類推薦算法的算法審計(jì)路徑、倫理與可審計(jì)機(jī)制［ J］．中國(guó)出版，2021（7）：31 ～ 35．

張濤．通過(guò)算法審計(jì)規(guī)制自動(dòng)化決策［ J］．中外法學(xué)，2024（1）：261 ～ 279．

張旭．基于人權(quán)標(biāo)準(zhǔn)的算法治理新思路：企業(yè)算法合規(guī)義務(wù)［ J］．人權(quán)研究，2022（2）：88 ～ 104．

張永忠，張寶山．算法規(guī)制的路徑創(chuàng)新：論我國(guó)算法審計(jì)制度的構(gòu)建［ J］．電子政務(wù)，2022（10）：48 ～ 61．

鄭石橋．審計(jì)基礎(chǔ)理論［M］．北京：中國(guó)人民大學(xué)出版社，2021．

鄭石橋，鄭卓如．基于審計(jì)主題的審計(jì)學(xué)科體系創(chuàng)新研究［ J］．會(huì)計(jì)研究，2015（9）：81 ～ 87．

Abeba Birhane， Ryan Steed， Victor Ojewale， et al.. AI auditing：The broken bus on the road to AI accountability［EB/OL］． https：//arxiv.org/pdf/2401. 14462.pdf，2024-01-25．

Aragona B.. Algorithm audit： Why， what， and how？［EB/OL］． https：/doi.org/10.4324/9781003080381，2021-08-02．

Beckstrom J. R.. Auditing machine learning algorithms：A white paper for public auditors［EB/OL］． http：//intosaijournal.org/auditing-machine-learning-algorithms/，2022-06-20．

DRCF. Auditing algorithms： The existing role of regulators and future outlook［EB/OL］． https//www.gov.uk/government/publications/findings-from-the-drcf-algorithmic-processing-workstream-spring-2022，2022-09-23．

Gaddis S.. Audit studies：Behind the scenes with theory，method，and nuance［M］． Los Angeles：Springer，2018．

Khoa Lam， Benjamin Lange， Borhane B. H.， et al.. A framework for assurance audits of algorithmic systems［EB/OL］． https：//arxiv.org/pdf/2401.14908.pdf，2023-01-26．

Lambauer D.. How to audit artificial intelligence models［EB/OL］． https：//www.nao.org.uk/insights/how-to-audit-artificial-intelligence-models/，2021-06-01．

Lambrecht A.， Tucker C.. Algorithmic bias？ An empirical study of apparent gender-based discrimination in the display of STEM career ads［ J］． Management Science，2019（7）：2966 ～ 2981．

Raji I. D.， Smart A.， White R. N.， et al.. Closing the AI accountability gap： Defining an end-to-end framework for internal algorithmic auditing［EB/OL］． https：//arxiv.org/abs/2001.00973，2020-01-03．

Sandvig C.， Hamilton K.， Karahalios K.， et al.. Auditing algorithms： Research methods for detecting discrimination on internet platforms［A］． The International Communication Assciation，2014．