【摘要】要科學(xué)地建構(gòu)算法審計制度， 必須正確地認識算法審計的各個基礎(chǔ)性問題， 算法審計客體是重要的基礎(chǔ)性問題之一， 本文聚焦于此。在資源類委托代理關(guān)系中， 代理人在履行其承擔(dān)的經(jīng)管責(zé)任時使用了算法， 因此， 代理人承擔(dān)的經(jīng)管責(zé)任中包括了算法責(zé)任。在許多情形下， 代理人使用的算法是由專門的算法開發(fā)者開發(fā)的， 并且由專業(yè)的機構(gòu)負責(zé)算法營運， 算法使用者、 算法開發(fā)者和算法營運者成為算法使用者所使用算法的共同責(zé)任主體， 因此， 三者都成為算法審計客體。本級政府與算法監(jiān)管部門的關(guān)系中， 算法監(jiān)管部門的法定職責(zé)中包括算法監(jiān)管， 因此， 算法監(jiān)管責(zé)任履行情況也就成為針對這些部門的重要審計內(nèi)容， 算法監(jiān)管部門也就成為算法審計客體之一。

【關(guān)鍵詞】算法；委托代理關(guān)系；算法責(zé)任者；算法監(jiān)管責(zé)任者；審計客體

【中圖分類號】 F239.44 【文獻標(biāo)識碼】A 【文章編號】1004-0994（2024）17-0081-5

一、 引言

隨著人工智能的廣泛使用， 作為其“靈魂”的算法已經(jīng)深入人們的工作和生活中， 算法提高了工作效率效果， 也便利了生活， 但是， 算法的不當(dāng)及缺陷也帶來不少的負面問題， 因此， 人們在享受算法之利時， 也需要防范算法之惡， 算法治理就是應(yīng)對算法之惡的制度體系， 算法審計以審計固有功能在算法治理體系中發(fā)揮獨特作用。然而， 算法審計要真正發(fā)揮作用， 必須正確地認識算法審計的各個基礎(chǔ)性問題， 在諸多的算法基礎(chǔ)性問題中， 本文專門討論算法審計客體， 也就是算法審計究竟審計誰。

現(xiàn)有文獻中， 算法審計客體的研究還處于起步階段， 相關(guān)的研究呈現(xiàn)碎片化， 且未能貫通經(jīng)典審計理論。本文以算法委托代理關(guān)系為切入點， 貫通經(jīng)典審計理論， 從學(xué)理上闡釋算法審計客體， 以深化人們對算法審計客體的理論認知， 并為建構(gòu)和完善算法審計客體相關(guān)制度提供理論參考。

二、 文獻綜述

算法審計客體的核心問題是算法審計究竟審計誰， 圍繞這一話題， 少量文獻直接論及算法審計客體， 與此相關(guān)的是一些文獻關(guān)于算法責(zé)任者的論述。

（一） 關(guān)于算法審計客體的直接論述

現(xiàn)有文獻中， 直接論述算法審計客體的較少， 即使如此， 還是存在多種觀點， 本文分別稱之為算法行為觀、 算法責(zé)任單位觀。算法行為觀認為， 算法審計客體是算法相關(guān)行為。張旭（2022）認為， 算法治理的對象是使用算法提供服務(wù)的行為。由于算法審計是算法治理體系的組成部分， 這意味著算法審計客體也是使用算法提供服務(wù)的行為。陳雄燊（2023）認為， 算法審計對象包括被審計單位的算法研發(fā)與應(yīng)用活動。算法責(zé)任單位觀認為， 算法審計客體是算法責(zé)任主體。張濤（2024）認為， 實施算法審計的主體應(yīng)當(dāng)獨立于算法系統(tǒng)的設(shè)計者、 使用者、 運營者等主體。這表明， 算法系統(tǒng)的設(shè)計者、 使用者、 運營者等責(zé)任單位是算法審計客體。此外， 王兆毓（2023）認為， 算法審計對象包括算法全生命周期。當(dāng)然， 對算法生命周期的各個階段進行審計， 其審計客體要么是該階段的算法責(zé)任單位， 要么是該階段的算法行為， 所以， 這種觀點可以歸結(jié)于算法行為觀和算法責(zé)任單位觀。

（二） 關(guān)于算法責(zé)任者的論述

現(xiàn)有文獻對算法責(zé)任者有兩種觀點， 本文分別稱之為算法全部主體觀和算法使用者觀。算法全部主體觀認為， 算法使用者、 算法開發(fā)者、 算法營運者和算法監(jiān)管者都應(yīng)承擔(dān)算法責(zé)任（張凌寒，2019；蘇宇，2020）。算法使用者觀認為， 算法責(zé)任的承擔(dān)者是算法使用者， 并不包括其他算法相關(guān)單位（劉穎和王佳偉，2021；任穎，2022）。

上述文獻表明， 算4dQ0DjvpPe2qSO3+gdcjTw==法審計客體的研究還處于起步階段， 關(guān)于算法審計客體的直接論述中， 算法行為觀認為算法審計客體是算法相關(guān)行為， 這是將算法審計內(nèi)容作為審計客體了， 混同了審計客體和審計內(nèi)容。算法責(zé)任單位觀認為， 算法審計客體是算法責(zé)任主體， 從方向上來說， 這種觀點是正確的， 但是， 現(xiàn)有文獻未能基于算法委托代理關(guān)系來分析算法責(zé)任主體， 因此， 未能貫通經(jīng)典審計理論?；谒惴ㄘ?zé)任者的論述， 如果算法責(zé)任者作為審計客體， 算法使用者觀下的審計客體就是算法使用者， 很顯然是不恰當(dāng)?shù)模?而算法全部主體觀則將各類算法責(zé)任者都作為審計客體， 其方向是正確的， 但是， 未能貫通經(jīng)典審計理論。整體來說， 關(guān)于算法審計客體還是缺乏一個貫通經(jīng)典審計理論的系統(tǒng)化的理論框架。

三、 理論框架

在經(jīng)典審計理論看來， 審計客體是資源類委托代理關(guān)系中的代理人， 也就是經(jīng)管責(zé)任的承擔(dān)者（鄭石橋，2021）， 但是， 算法責(zé)任者較為復(fù)雜， 為了闡釋清楚算法審計客體， 必須厘清算法責(zé)任者， 為此， 需要按順序闡釋以下問題： 算法委托代理關(guān)系， 算法責(zé)任者的厘清， 算法本身能否成為獨立的算法責(zé)任主體以及算法審計客體。

（一） 算法委托代理關(guān)系

算法所涉及主體的基本情況如圖1所示。很顯然， 各種關(guān)系中的主體之間都存在信息不對稱， 因此， 根據(jù)信息經(jīng)濟學(xué)， 這些關(guān)系都是委托代理關(guān)系， 具有信息優(yōu)勢的一方是代理人， 具有信息劣勢的一方是委托人。雖然都是委托代理關(guān)系， 但是， 這些關(guān)系中的算法權(quán)責(zé)安排不同， 因此， 委托代理關(guān)系的性質(zhì)也不同， 審計需求及審計客體的存在性也不同。

關(guān)系1是典型的資源類委托代理關(guān)系， 在這種關(guān)系中， 委托人為代理人提供資源， 并明確了代理人使用這些資源所要履行的職責(zé)。在這種關(guān)系中， 存在合約不完備問題， 代理人具有信息優(yōu)勢， 許多情形下代理人與委托人存在激勵不相容問題， 同時， 環(huán)境會影響代理人責(zé)任履行的結(jié)果， 并且這些環(huán)境因素還經(jīng)常變化， 在上述這些條件下， 代理人對委托人承擔(dān)了最大善意使用所接受的資源來履行所要求的職責(zé)的責(zé)任， 這種責(zé)任就是經(jīng)管責(zé)任（也就是受托責(zé)任）。特殊之處在于， 代理人在履行其經(jīng)管責(zé)任時使用了算法， 算法的狀況對代理人經(jīng)管責(zé)任履行情況產(chǎn)生重要影響。在許多情形下， 代理人本身并不具備開發(fā)和營運算法的能力， 需要借助專業(yè)機構(gòu)來開發(fā)和營運算法， 因此， 算法是由算法開發(fā)者、 算法營運者和算法使用者共同決定的。根據(jù)經(jīng)典審計理論， 在資源類委托代理關(guān)系中， 為了應(yīng)對代理人的代理問題和次優(yōu)問題， 需要建立治理體系， 審計是其中的成員， 既然如此， 當(dāng)然也就存在審計客體①。

關(guān)系2是算法使用者與算法相對人之間的關(guān)系， 這種關(guān)系是二者之間有經(jīng)濟活動， 但是， 這種經(jīng)濟活動是以算法為平臺來開展的。通常來說， 經(jīng)濟活動的雙方應(yīng)有完備的合約， 任何一方面的違約行為， 都可以通過司法訴訟來解決。由于二者是基于算法來實施經(jīng)濟活動， 基本的原則是， 如果算法相對人不同意算法使用者提供的算法， 則雙方就不會發(fā)生經(jīng)濟活動， 如果同意， 則就視同算法相對人同意算法。當(dāng)然， 即使算法相對人同意算法使用者提供的算法， 算法也必須符合國家頒布的算法相關(guān)法律法規(guī)。整體來說， 關(guān)系2是合約類關(guān)系， 這種關(guān)系中， 解決矛盾的最有效方式是司法訴訟， 并不存在審計需求， 當(dāng)然也沒有審計客體②。

關(guān)系3是算法開發(fā)者與算法使用者的關(guān)系， 算法使用者委托算法開發(fā)者開發(fā)算法， 算法使用者可以顯性或隱性地要求算法開發(fā)者開發(fā)的算法符合以下要求： 不存在違反國家有關(guān)算法的法律法規(guī)的合法性問題， 不存在違反公序良俗的倫理性問題， 不存在不能有效完成任務(wù)的效率效果性問題。算法使用者可能無法對上述要求進行驗收， 但是， 一旦出現(xiàn)這些問題， 都視同算法開發(fā)者違約， 都要承擔(dān)責(zé)任。因此， 從這個意義上來說， 算法使用者和算法開發(fā)者之間的合約是完備的， 二者的關(guān)系仍然是合約類關(guān)系， 根據(jù)經(jīng)典審計理論， 這種關(guān)系中不存在審計需求， 當(dāng)然也就沒有審計客體③。

關(guān)系4是算法營運者和算法使用者的關(guān)系， 由于算法使用者對算法并不專業(yè)， 而算法營運者是專業(yè)的， 也許算法使用者與算法營運者無法就算法的營運達成詳細的具體條款， 但是， 算法使用者可以要求算法營運者對算法的不恰當(dāng)營運承擔(dān)責(zé)任。如果因為算法營運出現(xiàn)問題， 則算法營運者應(yīng)該承擔(dān)責(zé)任， 在這種要求下， 算法使用者與算法營運者之間實質(zhì)上就存在完備合約了， 它們之間的關(guān)系就是以完備合約為基礎(chǔ)了， 這種關(guān)系就是合約類委托代理關(guān)系， 由于不存在合約不完備問題， 這種關(guān)系中不存在審計需求， 當(dāng)然也就沒有審計客體了。

關(guān)系5、 關(guān)系6、 關(guān)系7是政府設(shè)立的算法監(jiān)管部門對算法開發(fā)者、 算法使用者和算法營運者的監(jiān)管關(guān)系， 在這種關(guān)系中， 監(jiān)管方只能按相關(guān)法規(guī)的規(guī)定來實施監(jiān)管， 而被監(jiān)管方也必須按相關(guān)法規(guī)的要求接受監(jiān)管， 其性質(zhì)是監(jiān)管類委托代理關(guān)系。由于算法相關(guān)法規(guī)發(fā)揮了類似完備合約的作用， 因此， 這種關(guān)系的性質(zhì)與合約類關(guān)系很相似， 根據(jù)經(jīng)典審計理論， 不存在審計需求， 當(dāng)然也就不存在審計客體④。

關(guān)系8是本級政府與其設(shè)立的算法監(jiān)管部門之間的關(guān)系， 政府授予該部門算法監(jiān)管的法定職責(zé)， 并為其提供履行這種法定職責(zé)的資源， 這種關(guān)系的性質(zhì)是資源類委托代理關(guān)系， 委托人和代理人之間存在信息不對稱、 激勵不相容、 合約不完備和環(huán)境不確定等問題， 根據(jù)經(jīng)典審計理論， 這種關(guān)系中存在審計需求⑤。

（二） 算法責(zé)任者的厘清

代理人在履行其經(jīng)管責(zé)任時使用了算法， 算法對代理人經(jīng)管責(zé)任履行情況有重要影響， 因此， 代理人需要對算法承擔(dān)責(zé)任， 這種責(zé)任是經(jīng)管責(zé)任的組成部分， 簡稱算法責(zé)任。但是， 如果代理人本身并未開發(fā)算法， 而是由算法開發(fā)者來開發(fā)， 并且， 算法使用者本身也可能并不營運算法， 而是由專業(yè)機構(gòu)來營運算法， 那么， 算法開發(fā)者和算法營運者是否也要承擔(dān)算法責(zé)任呢？答案是肯定的， 算法開發(fā)者和算法營運者也要承擔(dān)算法責(zé)任， 二者與算法使用者同是算法共同責(zé)任者。下文將分析共同承擔(dān)責(zé)任的原因。

人工智能系統(tǒng)可以作為一種產(chǎn)品， 不當(dāng)?shù)乃惴ㄊ侨斯ぶ悄芟到y(tǒng)的產(chǎn)品缺陷， 算法責(zé)任類似于產(chǎn)品質(zhì)量責(zé)任， 張欣（2019）認為可借鑒產(chǎn)品責(zé)任的相關(guān)規(guī)則， 借助司法裁判以個案視角逐步探索確立算法責(zé)任的合理邊界?！吨腥A人民共和國侵權(quán)責(zé)任法》和《中華人民共和國產(chǎn)品質(zhì)量法》都要求相關(guān)責(zé)任主體對產(chǎn)品缺陷承擔(dān)責(zé)任。就人工智能系統(tǒng)中的算法來說， 算法使用者委托算法開發(fā)者開發(fā)算法， 在合約中可以顯性或隱性地要求算法開發(fā)者開發(fā)的算法符合以下要求： 不存在違反國家有關(guān)算法的法律法規(guī)的合法性問題， 不存在違反公序良俗的倫理性問題， 不存在不能有效完成任務(wù)的效率效果性問題。由于算法的復(fù)雜性及算法使用者本身的專業(yè)技術(shù)能力限制， 在算法移交時， 算法使用者可能無法對上述條款進行驗收， 但是， 如果算法在使用中出現(xiàn)這些問題， 則可以視同算法開發(fā)者違約， 同時也表明算法這種產(chǎn)品的設(shè)計或制造存在缺陷， 算法開發(fā)者要承擔(dān)責(zé)任。當(dāng)然， 人工智能系統(tǒng)是一種特殊的軟件產(chǎn)品， 不當(dāng)?shù)乃惴梢宰鳛檐浖a(chǎn)品缺陷， 算法責(zé)任類似于軟件產(chǎn)品責(zé)任， 唐林垚（2020）認為技術(shù)開發(fā)方對算法妨害負有主要責(zé)任， 該責(zé)任僅當(dāng)其證明公共滋擾是由于算法運營商的不當(dāng)使用或拙劣修改而造成時才能得以免除。

以上討論了算法開發(fā)者的責(zé)任， 從產(chǎn)品責(zé)任角度來說， 算法營運者就是產(chǎn)品的操作者， 如同機器設(shè)備的操作人員， 如果因機器設(shè)備操作不當(dāng)而導(dǎo)致事故， 則操作人員當(dāng)然也就應(yīng)承擔(dān)相應(yīng)的責(zé)任， 算法營運者也不例外， 如果算法的負面后果是由于算法營運不當(dāng)而導(dǎo)致的， 則算法營運者作為算法的操作人員也要承擔(dān)操作不當(dāng)?shù)呢?zé)任。

算法使用者委托算法開發(fā)者開發(fā)算法， 委托算法營運者營運算法， 是人工智能系統(tǒng)的實際擁有者， 類似于產(chǎn)品的所有者， 對于產(chǎn)品所帶來的負面問題當(dāng)然要承擔(dān)責(zé)任。所以， 整體來說， 算法使用者、 算法開發(fā)者和算法營運者都要對算法承擔(dān)責(zé)任。那么， 如何承擔(dān)責(zé)任呢？基本的原則有三條： 一是責(zé)任歸屬原則， 算法使用者、 算法開發(fā)者和算法營運者應(yīng)當(dāng)根據(jù)其在算法中的角色和職責(zé)來確定責(zé)任； 二是過錯責(zé)任原則， 如果算法出現(xiàn)問題， 需要考慮的是誰存在過錯， 如果算法開發(fā)者和算法營運者能夠證明他們在算法設(shè)計和運營過程中沒有過錯， 那么他們可能不會被追究責(zé)任； 三是比例責(zé)任原則， 在某些情況下， 如果算法使用者、 算法開發(fā)者和算法營運者都對算法問題負有責(zé)任， 那么他們將根據(jù)各自的責(zé)任大小來分擔(dān)責(zé)任（錢玉文，2017）。

基于以上分析得出的結(jié)論是， 算法使用者、 算法開發(fā)者和算法營運者是算法的共同責(zé)任者， 他們基于責(zé)任歸屬原則、 過錯責(zé)任原則和比例責(zé)任原則承擔(dān)算法責(zé)任。與此相關(guān)的兩個問題是： 算法監(jiān)管者是否是算法責(zé)任者？算法相對人是否也是算法責(zé)任者呢？

首先， 算法監(jiān)管者是否是算法責(zé)任者。如果認同算法責(zé)任類似于產(chǎn)品質(zhì)量責(zé)任， 則算法監(jiān)管部門就是產(chǎn)品質(zhì)量監(jiān)管部門。《中華人民共和國產(chǎn)品質(zhì)量法》第八條規(guī)定： “國務(wù)院市場監(jiān)督管理部門主管全國產(chǎn)品質(zhì)量監(jiān)督工作。國務(wù)院有關(guān)部門在各自的職責(zé)范圍內(nèi)負責(zé)產(chǎn)品質(zhì)量監(jiān)督工作?！?因此， 質(zhì)量監(jiān)管部門在產(chǎn)品質(zhì)量出現(xiàn)問題時是有責(zé)任的， 它們應(yīng)當(dāng)通過有效的監(jiān)督和管理來確保產(chǎn)品質(zhì)量， 保護消費者權(quán)益。算法監(jiān)管責(zé)任也與此類似， 政府設(shè)立的算法監(jiān)管部門對算法監(jiān)管承擔(dān)主管責(zé)任， 排查算法安全問題， 督促各單位利用算法加大正能量傳播、 處置違法和不良信息、 整治算法濫用亂象， 有關(guān)主管部門（如工業(yè)和信息化部門、 公安部門、 國家市場監(jiān)督管理部門）在規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法應(yīng)用、 保護用戶合法權(quán)益、 維護社會公平公正方面也承擔(dān)責(zé)任。因此， 整體來說， 承擔(dān)算法監(jiān)管責(zé)任的政府部門也是算法責(zé)任主體， 只是其承擔(dān)的責(zé)任是算法監(jiān)管責(zé)任， 這不同于算法使用者、 算法開發(fā)者和算法營運者的算法責(zé)任。

其次， 算法相對人是否也是算法責(zé)任者。如果認同算法責(zé)任類似于產(chǎn)品質(zhì)量責(zé)任， 則算法相對人的責(zé)任類似于消費者的責(zé)任， 算法相對人是算法消費者?！吨腥A人民共和國產(chǎn)品質(zhì)量法》第二十二條規(guī)定： “消費者有權(quán)就產(chǎn)品質(zhì)量問題， 向產(chǎn)品的生產(chǎn)者、 銷售者查詢； 向市場監(jiān)督管理部門及有關(guān)部門申訴， 接受申訴的部門應(yīng)當(dāng)負責(zé)處理?！痹摲ú⑽疵鞔_消費者在質(zhì)量事故中的責(zé)任， 所以， 通常來說， 在產(chǎn)品質(zhì)量事故中， 消費者通常不需要承擔(dān)任何責(zé)任。當(dāng)然， 消費者在購買商品時， 仍然需要履行一定的檢查義務(wù)， 以確保商品沒有明顯的缺陷。然而， 這并不意味著消費者需要承擔(dān)產(chǎn)品質(zhì)量問題的責(zé)任。如果產(chǎn)品存在隱蔽缺陷， 消費者在使用過程中發(fā)現(xiàn)問題， 仍然可以向銷售者或生產(chǎn)者索賠。需要注意的是， 在實際案例中， 如果消費者的損害是因為其不當(dāng)使用， 且存在重大過錯， 消費者自身可能需要承擔(dān)一定的責(zé)任。但是， 如果產(chǎn)品本身的缺陷是導(dǎo)致?lián)p害的主要原因， 那么生產(chǎn)者和銷售者應(yīng)當(dāng)承擔(dān)主要責(zé)任。對于算法問題， 算法使用者使用的算法是由算法開發(fā)者開發(fā)的， 由算法營運者營運的， 算法相對人只是在與算法使用者發(fā)生的經(jīng)濟活動中被動“消費”了算法， 對于算法的設(shè)計、 開發(fā)、 營運不發(fā)揮任何作用， 當(dāng)然也就不用承擔(dān)算法相關(guān)的任何責(zé)任。那么， 算法相對人是否有可能存在算法使用不當(dāng)， 從而也要承擔(dān)一定的責(zé)任呢？本文認為， 人工智能系統(tǒng)中的算法應(yīng)該是智能的， 要具有容錯性（fault tolerance）， 在遇到錯誤輸入或操作時， 仍然能夠正常工作或采取適當(dāng)措施以確保系統(tǒng)安全和穩(wěn)定的能力， 至少不會因為這些錯誤而導(dǎo)致更嚴重的問題或損害。如果僅僅因為算法相對人的錯誤操作就出現(xiàn)較嚴重的負面問題， 則可以認為這是算法本身存在缺陷， 也就是算法沒有容錯性， 因此， 即使在此情形下， 算法相對人仍然不需要承擔(dān)算法責(zé)任。

（三） 算法本身能否成為獨立的算法責(zé)任主體

2016年， 歐洲議會的 “機器人法”立法建議報告指出， 從長遠來看要建立機器人的特殊法律地位， 以確保至少最復(fù)雜的自動化機器人可以被確認為享有電子人（electronic persons）的法律地位（鄭戈，2018）。沙特阿拉伯則在沒有相關(guān)立法的情況下于2017年授予一家香港公司生產(chǎn)的機器人索菲亞以公民身份并向“她”發(fā)放了護照（鄭戈，2018）。不少研究性文獻贊成算法本身作為算法責(zé)任主體。司曉和曹建峰（2017）認為， 有些人工智能在運作過程中對他人造成損害， 應(yīng)承擔(dān)相應(yīng)的責(zé)任， 比如特斯拉的無人駕駛汽車造成交通事故， 無人駕駛汽車本身可作為責(zé)任主體。梁志文（2017）認為， 人工智能生成的內(nèi)容有的已經(jīng)達到“作品”的獨創(chuàng)性高度， 如果不明確這些利益的歸屬， 將有大量的“無主物”在社會上漂浮， 而賦予人工智能主體資格是一個可行的方案。王利明（2018）認為， 人工智能機器人已經(jīng)逐步具有一定程度的自我意識和自我表達能力， 可以與人類進行一定的情感交流。陳吉棟（2018）認為， 可運用擬制的法律技術(shù)， 將特定情形下的人工智能認定為法律主體。郭少飛（2018）認為， 應(yīng)當(dāng)設(shè)立新的法律主體類型“電子人”。蘇宇（2019）指出， 算法規(guī)制正在超越傳統(tǒng)上由人類權(quán)利義務(wù)關(guān)系形成的法律關(guān)系框架， 而將法律關(guān)系延伸到算法本身。唐林垚（2020）認為： 智能機器人就是傳統(tǒng)委托代理關(guān)系中的代理人， 算法運營商和技術(shù)開發(fā)方則是傳統(tǒng)委托代理關(guān)系中的被代理人； 智能機器人和算法運營商應(yīng)當(dāng)被視為客戶的“共同代理人”； 當(dāng)智能機器人因算法決策致使客戶蒙受損失時， 算法運營商、 技術(shù)開發(fā)方和智能機器人對外應(yīng)當(dāng)承擔(dān)連帶責(zé)任， 連帶責(zé)任的內(nèi)部份額則根據(jù)各自責(zé)任大小確定。

當(dāng)然， 也有不少的研究性文獻反對算法本身作為算法責(zé)任主體。龍文懋（2018）認為： 無人駕駛汽車發(fā)生交通事故， 應(yīng)該屬于產(chǎn)品責(zé)任問題， 在原有的產(chǎn)品責(zé)任框架下完全可以解決； 將人工智能擬制為法律主體不具備可操作性。鄭戈（2018）認為， 如果機器人對人造成了損害， 最終承擔(dān)責(zé)任的始終是機器人的“主人”， 因為機器人不可能有獨立的收入， 機器人無論以何種方式承擔(dān)責(zé)任， 最終的責(zé)任承擔(dān)者都是人， 這使得其法律人格顯得多余和毫無必要。劉穎和王佳偉（2021）認為： 算法只是服務(wù)于其控制者（開發(fā)者）以達到特定目的的工具； 明確了算法的工具屬性和人的主體性， 因而須由算法控制者（開發(fā)者）承擔(dān)責(zé)任。田野（2022）認為， 表面來看算法是計算機所為， 不過稍加檢視即可發(fā)現(xiàn)躲在算法幕后實際控制的仍舊是人， 算法不過是人類的代言人。Raji等（2022）認為， 算法本身不能被追究責(zé)任， 因為它們不是道德或法律代理人， 但設(shè)計和部署算法的組織可以。蔡星月（2023）認為， 算法規(guī)制的真正對象不應(yīng)落腳于算法， 而應(yīng)揭開算法的面紗， 穿透算法去規(guī)制算法背后的種種力量。

本文認為， 如果認同算法責(zé)任類似于產(chǎn)品質(zhì)量責(zé)任， 則算法本身就無法成為獨立的算法責(zé)任主體， 從邏輯上來說， 算法是人工智能系統(tǒng)的核心組成部分， 人工智能系統(tǒng)作為產(chǎn)品， 當(dāng)然無法對其質(zhì)量事故承擔(dān)責(zé)任； 從可行性來說， 承擔(dān)產(chǎn)品質(zhì)量責(zé)任的基礎(chǔ)是財產(chǎn)賠償， 沒有財產(chǎn)權(quán)就無法進行財產(chǎn)賠償， 當(dāng)然也就無法承擔(dān)產(chǎn)品質(zhì)量責(zé)任， 在算法沒有財產(chǎn)權(quán)之前， 如果因為算法而導(dǎo)致的賠償只能由算法使用者、 算法開發(fā)者、 算法營運者根據(jù)各自的責(zé)任來賠償， 則實質(zhì)責(zé)任主體就不是算法， 而是實際承擔(dān)賠償責(zé)任的主體。當(dāng)然， 在人工智能未來的發(fā)展中， 其本身能否享有財產(chǎn)權(quán)， 這是現(xiàn)在難以有定論的問題， 從目前來看， 這種可能性不大。因此， 本文的結(jié)論是， 至少從近期來看， 算法本身不是獨立的算法責(zé)任主體。

（四） 算法審計客體

基于以上分析， 可以得出的結(jié)論是： 關(guān)系1、 關(guān)系8中存在算法審計需求， 當(dāng)然也就存在算法審計客體； 算法使用者、 算法開發(fā)者、 算法營運者、 算法監(jiān)管部門都是算法責(zé)任主體。那么， 算法審計客體有哪些呢？在經(jīng)典審計理論看來， 資源類委托代理關(guān)系中的代理人是審計客體（鄭石橋，2021）。圖1所示的算法委托代理關(guān)系中， 關(guān)系1和關(guān)系8是資源類委托代理關(guān)系， 這些關(guān)系中存在算法審計需求， 這些關(guān)系中的代理人便是算法審計客體。

關(guān)系1是典型的資源類委托代理關(guān)系， 代理人在履行其承擔(dān)的經(jīng)管責(zé)任時使用了算法， 因此， 代理人承擔(dān)的經(jīng)管責(zé)任中包括了算法責(zé)任， 代理人成為算法責(zé)任的承擔(dān)者之一， 因此， 成為算法審計客體。但是， 在許多情形下， 代理人使用的算法是由專門的算法開發(fā)者開發(fā)的， 并且由專業(yè)的機構(gòu)負責(zé)算法營運， 算法使用者與算法開發(fā)者、 算法營運者之間通過隱性或顯性的合約對算法開發(fā)和算法營運進行了約定， 但是， 由于算法本身的復(fù)雜性， 算法使用者難以基于這些條款進行一次性驗收， 只能通過使用中是否存在負面問題來檢驗算法是否達到約定的要求。在這種合約背景下， 算法開發(fā)者、 算法營運者也就成為算法使用者所使用的算法之責(zé)任主體之一， 算法使用者、 算法開發(fā)者和算法營運者成為算法使用者所使用算法的共同責(zé)任主體。而這種算法又是服務(wù)于代理人履行其承擔(dān)的經(jīng)管責(zé)任的， 要審計代理人經(jīng)管責(zé)任履行情況， 必須涉及其履行責(zé)任所使用的算法， 這就必然會對算法責(zé)任者進行審計。所以， 算法使用者、 算法開發(fā)者和算法營運者都成為算法審計客體。

關(guān)系8是本級政府與算法監(jiān)管部門的關(guān)系， 算法監(jiān)管部門的法定職責(zé)中包括算法監(jiān)管， 這種責(zé)任可以稱為算法監(jiān)管責(zé)任， 這種監(jiān)管責(zé)任的履行狀況對整個社會的算法向善有著積極的意義。因此， 本級政府通過審計機構(gòu)對作為其代理人的算法監(jiān)管部門進行審計時， 將算法監(jiān)管責(zé)任履行情況作為重要的審計內(nèi)容， 這也屬于廣義的算法審計， 算法監(jiān)管部門也就成為廣義的算法審計客體。

四、 結(jié)論

算法審計以審計固有功能在算法治理體系中發(fā)揮獨特作用， 科學(xué)建構(gòu)算法審計制度是算法審計真正發(fā)揮作用的前提， 而算法審計制度自信的基礎(chǔ)是正確地認知算法審計的各個基礎(chǔ)性問題， 在許多的算法審計基礎(chǔ)性問題中， 本文聚焦算法審計客體。

算法相關(guān)的委托代理關(guān)系共有8種主要情形， 合約類委托代理關(guān)系和監(jiān)管類委托代理關(guān)系中不存在算法審計需求， 資源類委托代理關(guān)系中存在算法審計需求， 當(dāng)然也就存在算法審計客體。

關(guān)系1是典型的資源類委托代理關(guān)系， 代理人在履行其承擔(dān)的經(jīng)管責(zé)任時使用了算法， 因此， 代理人承擔(dān)的經(jīng)管責(zé)任中包括了算法責(zé)任。但是， 在許多情形下， 代理人使用的算法是由專門的算法開發(fā)者開發(fā)的， 并且由專業(yè)的機構(gòu)負責(zé)算法營運， 算法使用者、 算法開發(fā)者和算法營運者成為算法使用者所使用算法的共同責(zé)任主體， 所以， 三者都成為算法審計客體。

關(guān)系8是本級政府與算法監(jiān)管部門的關(guān)系， 算法監(jiān)管部門的法定職責(zé)中包括算法監(jiān)管， 這種責(zé)任可以稱為算法監(jiān)管責(zé)任， 因此， 算法監(jiān)管部門也就成為廣義的算法審計客體。

【 注 釋 】

1 ～ ⑤ 關(guān)于算法審計需求的詳細分析，請參閱拙作《算法審計需求論》（鄭石橋，2024）。

【 主 要 參 考 文 獻 】

蔡星月．以算法規(guī)制算法［ J］．華中科技大學(xué)學(xué)報（社會科學(xué)版），2023（4）：111 ～ 117．

陳吉棟．論機器人的法律人格——基于法釋義學(xué)的討論［ J］．上海大學(xué)學(xué)報（社會科學(xué)版），2018（3）：78 ～ 89．

陳雄燊．人工智能倫理風(fēng)險及其治理——基于算法審計制度的路徑［ J］．自然辯證法研究，2023（10）：138 ～ 141．

郭少飛．“電子人”法律主體論［ J］．東方法學(xué)，2018（3）：38 ～ 49．

梁志文．論人工智能創(chuàng)造物的法律保護［ J］．法律科學(xué)（西北政法大學(xué)學(xué)報），2017（5）：156 ～ 165．

劉穎，王佳偉．算法規(guī)制的私法進路［ J］．上海大學(xué)學(xué)報（社會科學(xué)版），2021（6）：12 ～ 32．

龍文懋．人工智能法律主體地位的法哲學(xué)思考［ J］．法律科學(xué)（西北政法大學(xué)學(xué)報），2018（5）：24 ～ 31．

錢玉文．論我國產(chǎn)品責(zé)任歸責(zé)原則的完善——以《產(chǎn)品質(zhì)量法》第41、42條為分析對象［ J］．中國政法大學(xué)學(xué)報，2017（2）：84 ～ 91+161．

任穎．算法規(guī)制的立法論研究［ J］．政治與法律，2022（9）：98 ～ 111．

司曉，曹建峰．論人工智能的民事責(zé)任：以自動駕駛汽車和智能機器人為切入點［ J］．法律科學(xué)（西北政法大學(xué)學(xué)報），2017（5）：166 ～ 173．

蘇宇．算法規(guī)制的譜系［ J］．中國法學(xué)，2020（3）：165 ～ 184．

蘇宇．論算法規(guī)制的價值目標(biāo)與機制設(shè)計［ J］．自然辯證法通訊，2019（10）：8 ～ 15．

唐林垚．人工智能時代的算法規(guī)制［ J］．中國社會科學(xué)文摘，2020（5）：117 ～ 118．

田野．平臺用工算法規(guī)制的勞動法進路［ J］．當(dāng)代法學(xué)，2022（5）：133 ～ 144．

王利明．人工智能時代對民法學(xué)的新挑戰(zhàn)［ J］．東方法學(xué)，2018（3）：4 ～ 9．

王兆毓．生成式人工智能視閾下算法審計的制度構(gòu)建與路徑創(chuàng)新［ J］．網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2023（8）：6 ～ 12．

張凌寒．算法規(guī)制的迭代與革新［ J］．法學(xué)論壇，2019（2）：16 ～ 26．

張濤．通過算法審計規(guī)制自動化決策［ J］．中外法學(xué)，2024（1）：261 ～ 279．

張欣．從算法危機到算法信任：算法治理的多元方案和本土化路徑［ J］．華東政法大學(xué)學(xué)報，2019（6）：17 ～ 30．

張旭．基于人權(quán)標(biāo)準(zhǔn)的算法治理新思路：企業(yè)算法合規(guī)義務(wù)［ J］．人權(quán)研究，2022（2）：87 ～ 104．

鄭戈．算法的法律與法律的算法［ J］．中國法律評論，2018（2）：66 ～ 85．

鄭石橋．審計基礎(chǔ)理論［M］．北京：中國人民大學(xué)出版社，2021．

鄭石橋．算法審計需求論［ J］．財會月刊，2024（16）：77 ～ 82．

Raji l. D.， Smart A.， White R. N.， et al.. Closing the Al accountability gap： Defining an end-to-end framework for internal algorithmic auditing［EB/OL］．https：//arxiv.org/abs/2001.00973，2020-01-03．