陽鎮(zhèn) 陳勁

新一輪工業(yè)革命深入演化的背后，是以新一代信息通訊技術如移動互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能與區(qū)塊鏈等重塑經(jīng)濟形態(tài)，以數(shù)字化、信息化、網(wǎng)絡化與智能化為根本標志的數(shù)智技術逐步將人類帶入數(shù)字智能社會，萬物互聯(lián)與智能分析與決策成為引領未來數(shù)字信息產(chǎn)業(yè)發(fā)展的重點方向。其中，人工智能是基于數(shù)學模型為基礎，以智能程序與計算機為內在核心技術與應用載體，通過大數(shù)據(jù)、機器學習等過程使得“智能機器人”形成具備人的判斷分析能力，包括人的基礎認知、判斷理解與學習行動等一系列過程，最終通過“智能機器人”嵌入傳統(tǒng)產(chǎn)品研發(fā)、生產(chǎn)、服務等過程，實現(xiàn)自動化與智能化。當前，以人工智能技術為代表的數(shù)智技術加速了傳統(tǒng)產(chǎn)業(yè)的深度滲透與全方位賦能，推動了傳統(tǒng)的教育、安防、制造與服務業(yè)深度融合，并塑造了全新的數(shù)字與智能產(chǎn)業(yè)，重塑產(chǎn)業(yè)的生產(chǎn)效率以及社會生產(chǎn)力。

但與數(shù)智經(jīng)濟繁榮前景相伴隨的問題是，近年來不管是在平臺經(jīng)濟領域中的平臺型企業(yè)，還是智能技術開發(fā)應用的數(shù)智化企業(yè)，都產(chǎn)生了大量的企業(yè)社會責任缺失與異化問題。從平臺型企業(yè)的社會責任缺失與異化問題來看，由于平臺鏈接市場的雙邊性以及影響的社會性，傳統(tǒng)企業(yè)所鏈接以及所影響的利益相關方邊界被徹底重塑，平臺在“盡快長大”與“贏者通吃”的兩類邏輯之下，以互聯(lián)網(wǎng)技術、大數(shù)據(jù)分析、智能算法技術為技術支撐，圍繞雙邊網(wǎng)絡效應激活、放大以及優(yōu)化快速實現(xiàn)平臺商業(yè)生態(tài)圈建構，這一過程中產(chǎn)生了諸多平臺企業(yè)個體由于市場邏輯主導的社會脫嵌問題，如平臺型企業(yè)對雙邊用戶的數(shù)據(jù)泄露、倒賣以及大數(shù)據(jù)殺熟、基于算法技術的用戶畫像歧視性定價、技術鎖定用戶等系列侵占與降低消費者社會福利的社會責任缺失行為，且由于平臺企業(yè)存在基于平臺獨立個體與平臺商業(yè)生態(tài)圈兩類情境下的雙元屬性，平臺型企業(yè)的社會責任缺失與異化問題呈現(xiàn)出平臺個體與商業(yè)生態(tài)圈的復雜嵌套性，即商業(yè)生態(tài)圈內的用戶社會責任問題與平臺企業(yè)社會責任問題復雜交織，對平臺型企業(yè)社會責任問題的特殊性缺乏足夠重視，甚至由于平臺型企業(yè)社會責任問題的主體識別效度低、責任鏈條復雜、算法技術的特殊性、追責軌跡不確定性等導致在政府規(guī)制與社會治理層面難以對平臺型企業(yè)社會責任缺失與異化問題進行的有效治理。

與此同時，在算法驅動的人工智能企業(yè)運營管理過程中，也產(chǎn)生了基于算法技術的社會責任缺失與異化問題，主要體現(xiàn)為算法在開發(fā)建模過程、數(shù)據(jù)標記與算法訓練學習過程以及算法自動推理與決策過程存在大量的潛在社會倫理隱憂，由于企業(yè)（算法工程師等研發(fā)人員）算法建模開發(fā)過程中缺乏可持續(xù)導向，數(shù)據(jù)收集、標記以及算法訓練過程中的個體隱私侵犯、群體偏見、種族偏見以及階層偏見等導致算法的內在規(guī)則有偏并產(chǎn)生算法歧視等社會問題；在算法自動推理與學習過程中，由于算法決策規(guī)則本身的不確定性以及算法決策的高度復雜性的知識導致社會公眾與算法決策之間的知識距離過大，算法黑箱成為算法決策過程中的突出社會問題。更為嚴重的是，基于算法技術驅動的人工智能企業(yè)在服務過程中需要不斷尋找商業(yè)應用場景，在基于算法技術實現(xiàn)的各類商業(yè)場景中諸如新聞推薦、交通出行、社交媒體、安防控制、司法審判、輔助醫(yī)療等各領域直接涉及到社會公眾的社會權利，傳統(tǒng)基于技術中立實現(xiàn)的技術嵌入的商業(yè)場景可能延伸出“技術惡德”，即由于商業(yè)場景中各類主體的工具主義導向或者極致的市場邏輯導向，忽視與漠視社會價值導向以及社會倫理規(guī)范，導致技術中立下的算法應用場景下的商業(yè)模式難以可持續(xù)，甚至嚴重破壞了社會公眾對算法技術的決策信任，最終導致算法技術的合法性受到挑戰(zhàn)并威脅到人工智能技術的未來前景。

基于此，在基于算法技術驅動數(shù)智經(jīng)濟與數(shù)智社會不斷演化的過程中，亟待學界與業(yè)界對算法形成過程、算法決策與算法影響評估等方面衍生的系列企業(yè)社會責任問題予以重視，重新審視算法技術異化以及算法權力擴張過程中背后隱藏的社會風險與負面社會影響。基于此，本文首先回顧了算法技術的特殊性與算法技術異化的主要表征與社會問題，并主要從企業(yè)社會責任治理視角理清算法技術異化的內在機理。更為關鍵的是，本文主要從企業(yè)社會責任治理的視角探究如何提高算法“透明度”規(guī)避算法技術潛在的異化風險，基于企業(yè)社會責任治理的視角破解算法“黑箱”與算法技術異化，需要從算法技術開發(fā)的主體維、算法決策應用過程的技術制度維以及算法決策后果的影響維的社會生態(tài)等三重維度引入企業(yè)社會責任治理框架，進而提高“算法開發(fā)形成—算法決策應用—算法的社會場景”的透明度以及有效治理可能的技術異化衍生的負面社會問題。

數(shù)智化時代的算法技術異化及其社會問題

算法的技術邏輯及其異化

算法的技術邏輯

在數(shù)智化時代，算法成為一種全新的技術與應用工具，但是追溯算法的形成尤其是從自然科技史的角度來看，在我國古代便有算法的“影子”，比如在春秋戰(zhàn)國時期便有“辯學”，其中墨家的經(jīng)典著作《墨經(jīng)》蘊含了豐富的邏輯推理與辯證思想。在西方文明古國中，古希臘較早的對邏輯學進行了系統(tǒng)研究，尤其是亞里士多德開啟的邏輯推理研究奠定了整個邏輯學的思想基礎。在近代西方國家，數(shù)學的王國便是算法的數(shù)學化與符號化的形式表達，羅素作為數(shù)學哲學的基礎邏輯主義流派其開啟了數(shù)學與邏輯學的交叉研究。追溯算法的最早概念，在8世紀的波斯由數(shù)學家默罕默德·花拉子米（Mu？ammad bin Mūsā alKhwārizmī）認為算法具備自動運行的功能，是基于計算程序的系統(tǒng)性計算。隨著19世紀歐洲工業(yè)革命的興起，算法逐步成為計算機領域中的重要學術概念，算法主要基于特定的編程、指令、方程式形成系統(tǒng)的計算關聯(lián)，形成系統(tǒng)性的邏輯與規(guī)則。因此，從計算機程序的角度來看，算法可以理解為特定的數(shù)學計算模型實現(xiàn)數(shù)據(jù)轉換為相應的輸出結果的系列編碼、程序與邏輯規(guī)則。實質上，理解算法首先要準確界定算法的內涵，目前主要存在狹義視角的算法與廣義視角的算法。狹義視角的算法主要是基于數(shù)學與計算科學的相關數(shù)據(jù)結構、數(shù)學代數(shù)算法、線性規(guī)劃與數(shù)值分析、圖論、排序、檢索、隨機化算法等多種算法技術。

從廣義視角來看，由于數(shù)學與計算科學的廣泛運用，算法被寬泛地界定為能夠自動實現(xiàn)特定程序運行與計算的決策系統(tǒng)，包括系列決策步驟、決策參數(shù)、決策判斷標準以及決策分析過程等集合。從技術視角來看，算法本質上是基于特定的數(shù)學模型將輸入轉化為輸出結果的系列計算步驟，算法本質上是一種復雜的計算結構與計算過程。在數(shù)字與智能時代，算法技術之所以能夠廣泛應用到各類商業(yè)與社會場景之中，其主要是通過算法技術嵌入到相應的產(chǎn)品與服務之中，包括算法實現(xiàn)自動計算、自動數(shù)據(jù)收集、自動數(shù)據(jù)分析以及自動決策等過程，算法的高度自動化屬性減輕了傳統(tǒng)人工干預的時間成本。但實際上，在算法深入應用于商業(yè)與社會的各類場景中，算法所呈現(xiàn)的既不完全是廣義上的自動實現(xiàn)特定程序運行與計算的決策系統(tǒng)，也并非完全是單純的系統(tǒng)性邏輯規(guī)則、數(shù)據(jù)結構與各類數(shù)學模型，算法更多地體現(xiàn)為包含人的因素的技術系統(tǒng)，依然從屬于技術創(chuàng)新系統(tǒng)中的技術范疇，決策者通過算法的自主性開發(fā)與自主建模實現(xiàn)輔助決策，包括自動化的機器因素，也包括人的價值因素。比如，在基于機器學習算法形成與運行過程中，一般可以分為機器學習模型的訓練階段與模型的應用階段，其中訓練階段主要包括數(shù)據(jù)的輸入環(huán)節(jié)、數(shù)據(jù)分析與模型優(yōu)化的學習環(huán)節(jié)以及輸出環(huán)節(jié)，其中輸入環(huán)節(jié)主要在定義基本問題的條件下對相應的數(shù)據(jù)進行收集分類與整理，實現(xiàn)數(shù)據(jù)的清洗與歸類，在此基礎上在學習環(huán)節(jié)主要是訓練數(shù)據(jù)與訓練模型的性能，最終輸出模型的系列結果以評估輸出結果的準確性，確保模型輸出結果能夠達到既定的預期計算與決策目標，否則將進一步溯源相應的數(shù)據(jù)分類過程與模型編寫環(huán)節(jié)，反復迭代優(yōu)化最終形成較為符合現(xiàn)實的智能模型（見圖1）。

圖1 “機器學習”算法的迭代過程

算法的技術邏輯異化

因此，從算法的技術邏輯來看，盡管算法具備了自動化的機器因素，但是依然在運行過程中嵌入了人的價值因素，由此形成機器因素與人的因素二維矩陣式的價值空間。不管是弱人工智能還是強人工智能，算法依然具備自動實現(xiàn)特定的計算功能，這意味著對部分人的價值空間的替代以及對人的決策主體性的侵占，算法技術的非中立性導致算法開發(fā)與算法運行與決策過程中帶來系列技術異化表現(xiàn)。首先體現(xiàn)為對人的獨立與自主性的侵蝕。算法運行的前端是輸入環(huán)節(jié)，輸入環(huán)節(jié)依賴于人的數(shù)據(jù)的有效性，且具備自動推理、自動判斷以及自動分析能力的算法其實質上具備了人的部分能力，且其自動學習、自動分析過程中也擁有了對數(shù)據(jù)加工、數(shù)據(jù)歸類、數(shù)據(jù)預測的能力，因此即使傳統(tǒng)的決策主體人不干預輸入或者運行過程中的數(shù)據(jù)結構與數(shù)據(jù)類型，算法依然能夠基于自動地數(shù)據(jù)抓取尤其是個體的數(shù)據(jù)最終分析與預測相關群體數(shù)據(jù)分布的能力。從這個意義上來看，傳統(tǒng)決策者中人的主體性得到削弱，算法一定程度上成為一種區(qū)別于“經(jīng)濟人”、“社會人”與“復雜人”的新型人格主體，且算法自動化與學習能力越強，尤其是發(fā)展到強人工智能時代，算法能夠完全侵蝕人的主體地位，并進一步支配人的價值情感與社會認知。其次是對決策系統(tǒng)原則的破壞。傳統(tǒng)決策系統(tǒng)是基于人的理性原則或者滿意原則進行的決策方案的篩選與評判，但是基于算法技術驅動的新型自動化決策系統(tǒng)其由于算法運行過程的不可觀測甚至由于運用深度的卷積神經(jīng)網(wǎng)絡對中間決策層參數(shù)的自動填補，算法一定程度其決策的原則相對難以觀測，也難以基于時候的決策后果予以分析評判，因此算法運行過程中的非透明性直接對傳統(tǒng)決策系統(tǒng)的決策原則的異化。算法決策的原則是否滿足人的價值理性、工具理性以及雙元理性等多種決策邏輯依然存在巨大的疑問，其決策的公正性與偏差性一定程度上成為衡量算法技術異化的重要維度。

第三是算法高度的社會嵌入屬性帶來系列的技術異化問題，主要表現(xiàn)為在數(shù)智化時代隨著各類決策主體包括公共政府組織、企業(yè)組織與社會組織都不同程度地嵌入了基于算法技術的決策或者信息管理與分析系統(tǒng)，基于技術的嵌入屬性導致算法與企業(yè)、算法與社會的關系成為數(shù)智化時代的新型關系。在嵌入屬性的情景下，算法的技術屬性與所處決策情景中的社會屬性高度結合以及相互影響，比如網(wǎng)購平臺在消費者用戶每一次消費后都掌握了消費者的消費信息，包括消費者的年齡、性別、消費商品的類型、消費瀏覽習慣以及最終消費決策的系列軌跡，此時算法能夠根據(jù)個性化的用戶軌跡形成用戶畫像，最終對用戶定向地推薦相應的商品。此時，算法不僅僅是計算屬性，擁有了侵占人的社會互動與社會軌跡的社會權力，形成了一種特殊的算法與人之間的社會聯(lián)結關系，基于新型的社會聯(lián)結關系能夠形成基于算法技術的大數(shù)據(jù)殺熟、流量惡意導流、數(shù)據(jù)造假、隱私破壞、社會不平等以及社會公正破壞等系列技術異化現(xiàn)象。第四是算法技術實現(xiàn)自動分析與決策的追責與擔責的模糊性，由于算法技術深入運用與各類商業(yè)與社會場景的過程中，算法自動決策后形成了有意的決策后果以及無意的決策后果，前者主要是算法的決策后果符合人的價值因素或者工具理性因素，體現(xiàn)了人的基本屬性或者管理決策過程中的若干決策原則，因此一定程度上可以等同于人的決策；但是后者主要體現(xiàn)為算法的自動學習過程導致算法自動計算與推理過程中的不可控性，算法高度的不透明性最終導致決策產(chǎn)生諸多人無法解釋的意外后果，而這些意外后果可能給相應的利益相關方帶來價值或者利益侵害。最終在追責的過程中，由于算法缺乏法律規(guī)制意義上的人格主體地位，相應地對算法自動決策分析的決策后果的追責也難以清晰界定，且擔責主體不具備相應地責任承擔能力。比如，基于算法技術驅動的自動駕駛這一商業(yè)場景中，一旦發(fā)生駕駛過程中的撞人事件，對擔責主體即算法的開發(fā)者、算法的應用者還是算法本身擔責依然存在諸多的模糊與爭議空間，算法技術造成的追責主體模糊性最終導致技術的異化。

算法技術異化的主要表征及衍生的社會問題

盡管在智能技術的新一輪技術革命下機器擁有了人的部分學習與判斷分析以及決策能力，尤其是各類算法的深度賦能為自動化生產(chǎn)、自動化分析、自動化決策等提供技術基礎，但是算法作為一種全新的技術工具深度嵌入經(jīng)濟與社會各類場景之中，也產(chǎn)生了諸多的社會問題，其本質上由算法技術的異化引致社會問題層出不窮，主要體現(xiàn)為算法歧視、算法共謀、算法霸權以及算法黑箱引致的各類社會問題。

第一，從算法歧視（Algorithmic Bias）的視角來看，歧視主要是經(jīng)濟學與社會學中的術語，經(jīng)濟學中的價格歧視主要是針對不同的消費者進行掠奪性定價，主要包括一級價格歧視、二級價格歧視以及三級價格歧視等行為。相應地，在經(jīng)濟學的各類消費場景中，算法歧視便是基于算法技術為核心，傳統(tǒng)的產(chǎn)商或者生產(chǎn)運營者基于算法自動捕獲各類消費者的個性化信息，相應地根據(jù)消費者所處不同的區(qū)域、不同的市場環(huán)境、不同的消費偏好以及不同的消費收入階層，最終基于算法的分析與決策程序形成對不同用戶的消費畫像，基于不同畫像對消費者采取精準式的個性化定價行為。比如在互聯(lián)網(wǎng)平臺型企業(yè)中的網(wǎng)購平臺中，平臺利用算法實現(xiàn)大數(shù)據(jù)“殺熟”便是算法技術異化引致的算法歧視的典型體現(xiàn)。以亞馬遜平臺為例，亞馬遜內的商家用戶利用算法進行定價，發(fā)現(xiàn)有40%的商家用戶在產(chǎn)品銷售期內至少有20次的更改產(chǎn)品的價格記錄，通過算法技術的用戶畫像個性化生成，能夠實現(xiàn)傳統(tǒng)的“千人一價”向“千人千價”轉變。

因此，算法價格歧視的邏輯鏈在于算法自動對消費者個體屬性與偏好的自動歸類與分析，有效識別消費者的消費場景與消費意愿與消費能力，最終基于精準式的個性化商品推薦實現(xiàn)不同類型消費者的定價，導致對消費者個體隱私的破壞以及侵占消費者福利，且具備自動學習能力的機器學習算法能夠對不斷更新的消費者數(shù)據(jù)進行連續(xù)性與非連續(xù)自我學習，能夠根據(jù)消費者屬性與場景的變化不斷的自動改變價格，最終導致算法具備了定價權，為企業(yè)或者商家實現(xiàn)利潤最大化提供了技術工具。同時，在社會學領域，算法歧視主要體現(xiàn)為算法性別、種族歧視。其產(chǎn)生的根源依然在于算法在形成過程中的技術中立的偏移，即由于算法的訓練過程（數(shù)據(jù)樣本標記有偏、小樣本訓練過程嵌入人的價值屬性等）以及算法運行過程中的不透明性導致算法偏見與算法歧視。比如美國司法領域引入人工智能輔助分析系統(tǒng)COMPAS通過分析犯罪的可能性，發(fā)現(xiàn)對罪犯進行再犯罪評估時黑人被評定為罪犯的概率是白人的兩倍，最終可能導致司法系統(tǒng)的審判對黑人的判刑更為嚴苛。

第二，從算法合謀的視角來看，合謀主要是經(jīng)濟學中的商業(yè)競爭策略，是企業(yè)以獲取最大化利潤為目標，通過價格合謀的手段實施壟斷行為，進而排斥其它競爭者，破壞消費者的整體福利水平，且合謀分為明示合謀與暗中合謀。但是企業(yè)間的傳統(tǒng)合謀手段往往具備了不穩(wěn)定性特征，即企業(yè)由于個體利益最大化以及機會主義傾向最終導致合謀的囚徒困境，基于市場契約與市場協(xié)議的合謀往往難以形成較為持續(xù)的穩(wěn)定狀態(tài)。但是，算法作為一種智能技術其為企業(yè)間合謀提供完備的技術條件，當算法進入企業(yè)的定價分析決策過程中，算法能夠自動收集競爭對手的商業(yè)數(shù)據(jù)以及市場的動態(tài)價格信息，進而能夠較為準確的判斷競爭對手的價格變化，為企業(yè)降低合謀的潛在交易成本提供了技術基礎。同時，由于算法能夠更大范圍地搜集市場的完備信息，潛在地提高了合謀寡頭企業(yè)間的透明度，進而降低了市場信息不對稱，最終消解了由于信息不對稱或者機會主義傾向帶來的合謀瓦解。從這個意義上，數(shù)智化背景下的算法技術為寡頭企業(yè)間的價格合謀提供了潛在的技術基礎。比如，在美國法院指控美國優(yōu)步（Uber）公司案對網(wǎng)約車司機實施基于同樣的定價算法的合謀協(xié)議。目前，算法合謀主要包括軸輻型算法合謀、自我學習型算法合謀以及預測型算法合謀。輻射型算法合謀主要是以算法開發(fā)企業(yè)為技術提供方，為不同的互聯(lián)網(wǎng)企業(yè)提供同種類型的算法，最終導致企業(yè)形成一致性的定價決策，最終形成企業(yè)間的不自覺合謀，比如淘寶交易平臺中的各類商家用戶利用淘寶平臺提供的統(tǒng)一動態(tài)定價算法便是輻射型算法合謀的典型體現(xiàn)，最終產(chǎn)生商家見的暗中合謀，破壞了消費者福利。自我學習型合謀主要是企業(yè)之間自主利用算法對競爭對手的相關價格信息與市場信息進行充分搜集，對市場中的其他競爭對手的價格信息進行充分監(jiān)測，利用算法技術進行交易條件的動態(tài)調整并保持相對一致性，進而基于差異化的算法形成算法合謀。自我學習型算法合謀主要體現(xiàn)為算法高度的深度學習屬性，利用深度學習算法實現(xiàn)市場價格的預測分析，以最優(yōu)的定價決策獲取合謀的最大利潤。

第三，從算法霸權的視角來看，當算法逐步嵌入到整個商業(yè)生態(tài)乃至社會治理系統(tǒng)的過程中，算法的大規(guī)模應用也隨之產(chǎn)生了一種全新的權力。由于算法運行的自動推理與決策過程無法干預性，算法在嵌入到社會治理中比如交通指揮、新聞推薦、政治選舉、司法審判等過程中便帶來了相應的權力屬性。從算法技術的本質屬性來看，技術本身并不具備權力屬性，但是當算法深度嵌入到企業(yè)決策與社會治理的各類利益分配過程中，由于不同的算法應用主體其差異化的利益訴求最終導致算法也具備了權力屬性。比如在商業(yè)交易平臺中，資本家利用算法的滲透性自動對各類消費者的信息予以收集、歸類與整理，最終識別分析消費者的個性化的偏好，并基于偏好識別精準推送相關的商業(yè)信息誘導消費者進行消費。在外賣平臺中，騎手作為外賣平臺的重要互補者，但是騎手一定程度上受到平臺的控制，主要體現(xiàn)為勞動時間的控制，平臺利用算法實現(xiàn)對騎手送餐的時間考核制度設計，將考核權限轉移至消費者手中（顧客評分與投訴）以提高平臺內消費者用戶的用戶體驗，最終導致騎手為了完成考核KPI在送餐過程中橫沖直撞擾亂了交通秩序乃至社會秩序，基于算法霸權的自動考核邏輯壓縮了騎手的生存狀態(tài)以及破壞了騎手的福利，最終導致平臺企業(yè)社會責任的缺失與異化。在新聞媒體平臺，算法能夠自動根據(jù)媒體受眾實現(xiàn)自動化的內容分發(fā)與自動推薦，新聞受眾根據(jù)算法設定的疆域，所接受的新聞信息均來自于算法的計算與預設，最終導致信息窄化與信息繭房效應。更為嚴重的是，在資本邏輯與政治邏輯的驅動下，算法甚至成為部分國家進行意識形態(tài)滲透的重要技術工具，算法成為嵌入國家治理以及國際政治的重要技術載體，通過跨國數(shù)字化企業(yè)實施算法干預下的信息滲透以及推行數(shù)字霸權，對缺乏算法治理與數(shù)據(jù)治理能力的國家而言帶來嚴重的政治主權挑戰(zhàn)。

算法治理——基于企業(yè)社會責任治理的治理焦點

企業(yè)社會責任治理視角下算法技術異化的內在邏輯

盡管算法技術作為一種人工智能背景下的技術具有黑箱屬性，即算法運行過程的不透明性帶來的算法決策的潛在意外后果，這種意外后果可能是社會問題的直接歸因。但從本質上來看，任何技術都需要既定的組織以及人予以開發(fā)、運行以及優(yōu)化，對于算法技術而言，算法技術的開發(fā)者以及應用者無外乎人工智能企業(yè)（包括開發(fā)算法的人工智能企業(yè)、互聯(lián)網(wǎng)企業(yè)以及應用算法的各類企業(yè)），因此對于算法應用與算法嵌入商業(yè)與社會各類場景中所帶來的系列社會問題，也必然需要回到企業(yè)層面予以系統(tǒng)解決，算法技術的異化所帶來的各類社會問題，其背后與算法技術的開發(fā)與應用的企業(yè)具有直接聯(lián)系，企業(yè)開發(fā)算法與應用算法技術所衍生出的系列社會問題，且對企業(yè)利益相關方的利益各類行為可以歸結于企業(yè)社會責任缺失或者異化行為，且企業(yè)由于算法開發(fā)或者應用帶來利益相關方損害的行為需要從企業(yè)社會責任治理的視角予以解決。

實質上，算法技術的異化在企業(yè)層面可以體現(xiàn)為三大層面。第一大層面為人工智能或者互聯(lián)網(wǎng)企業(yè)內算法技術研發(fā)團隊缺乏對算法可能負面社會問題的重視，在個體經(jīng)濟人主導下算法技術開發(fā)被嵌入了人的非價值理性，此時人的個體偏好被嵌入到算法形成的過程之中，包括由于人的機會主義傾向導致算法訓練的基礎性數(shù)據(jù)收集、標記與處理等過程中便產(chǎn)生人為的價值偏離，最終算法在訓練過程中便嵌入了有偏的人的機會主義因素，最終導致算法歧視等負面社會問題。尤其是在基于“經(jīng)濟人”的工具理性的邏輯下，效率邏輯超越了公平與正義邏輯，在漠視社會倫理價值的前提下，原本具備技術中立的算法技術被人為的利用算法的不可解釋性以及不透明性，人為調整與干預算法的決策層或者決策參數(shù)產(chǎn)生系列破壞決策正義與決策公平的系列決策行為。比如，在新聞推薦的算法應用中，新聞平臺內的個性化推送編輯、內容審核編輯在工具理性主導下追求輿論效應最大化，內容編輯可以參與并且干涉基于算法自動推薦的新聞文章畫像，影響文章的關鍵詞、文章屬性、媒體源級別等，最終改變了算法推薦新聞的分類模型，最終可能加劇算法個性化推薦的系列社會問題。第二大層面是企業(yè)在運行制度邏輯層面的市場邏輯主導，原本的技術中立轉向了技術惡德主義。不管是開發(fā)算法過程中還是應用算法的各類場景中的各類企業(yè)，其在市場邏輯驅動下算法技術被嵌入了資本逐利基因，算法訓練與模型優(yōu)化的過程中，其參數(shù)調整皆以企業(yè)的利潤最大化的市場邏輯出發(fā)，相應地，算法也被最大程度地利用到企業(yè)運營管理與業(yè)務實踐的過程之中，比如利用算法實現(xiàn)消費者偏好的自動分析，實施大數(shù)據(jù)殺熟、算法合謀下的壟斷定價、價格歧視以及企業(yè)間的合謀行為，最終降低了企業(yè)的利益相關方尤其是消費者福利。尤其是在逐利性的資本驅動下，算法被視為操縱商業(yè)競爭生態(tài)的重要“武器”，巨頭互聯(lián)網(wǎng)企業(yè)、平臺型企業(yè)、人工智能科技企業(yè)利用其算法技術開發(fā)的技術優(yōu)勢，在資本邏輯下導致算法無限擴張，肆無忌憚地對整個商業(yè)生態(tài)中的各類組織成員的信息隱私、數(shù)據(jù)資源以及需求進行獲取與分析，進一步強化的算法技術運用的各類社會風險，甚至成為操縱商業(yè)生態(tài)以及控制社會的始作俑者。第三大層面體現(xiàn)為企業(yè)所嵌入的生態(tài)層面（商業(yè)生態(tài)與社會生態(tài)），由于人工智能尚相對處于一個初級的大眾認知階段，社會公眾對算法技術背后的迭代運行過程存在較大的知識距離，一方面是由于算法本身的復雜性加劇了社會公眾尤其是非專業(yè)人士理解的難度；第二是算法運行與決策的隱蔽性（黑箱）導致即使人們被算法包圍，也很少去反思算法決策帶來的失誤以及對個人權益的侵害，最終造成了對開發(fā)與應用算法的企業(yè)追責困難，在算法存在商業(yè)機密屬性的前提下加劇了算法應用以及算法開發(fā)公司的審查與追責難度，難以形成整體性的社會治理合力以應對算法技術異化帶來的社會權利的侵犯，進而在企業(yè)所嵌入的生態(tài)層面難以營造一個算法治理的合意環(huán)境。

企業(yè)社會責任視角下算法治理的再理解及其治理焦點

目前，圍繞提高算法“透明度”破解算法黑箱以及治理算法技術異化開展了大量的研究，既有的研究主要從三類研究視角予以挖掘，第一類視角是從法律規(guī)制視角，需要在算法尚未取得人格法律主體地位之前建立算法應用的定責與追責法律規(guī)制體系。第二類視角則是從算法解釋權的視角認為破解算法技術異化以及治理算法的系列負面社會問題需要賦予算法解釋權這一新型法律權利，確保算法技術開發(fā)與算法決策具備溯源性、決策規(guī)則可解釋性。第三類視角則是從技術治理的視角，基于算法技術形成與算法應用的系列過程形成技術的性能與評估標準化治理體系，最終應對算法技術異化以及提高算法的“透明度”。實質上，算法的開發(fā)建構與算法嵌入商業(yè)場景（算法技術的商業(yè)化應用）各個階段其背后的組織支撐（組織載體）依然是企業(yè)主導，既有的基于公共規(guī)制、法律權限以及技術治理等多重視角忽視了企業(yè)在提高算法透明度以及破解算法黑箱過程中的重要作用，同時也忽視了在算法治理過程中企業(yè)所應當承擔的重要治理角色。

企業(yè)社會責任治理不同于傳統(tǒng)的企業(yè)社會責任管理，企業(yè)社會責任治理的本質是在一定的制度場域之下，企業(yè)的多元利益相關方通過打造一個公共治理場域，在這一場域之中，各類企業(yè)社會責任治理主體（企業(yè)、政府組織、社會組織與社會公眾等）共同實施相應的企業(yè)社會責任治理機制（包括企業(yè)社會責任正式治理機制與非正式治理機制）對企業(yè)的社會責任認知理念與管理實踐予以規(guī)制、規(guī)范與影響，進而有效約束企業(yè)的機會主義行為，使得企業(yè)真正做到對社會負責任，實現(xiàn)企業(yè)創(chuàng)造涵蓋經(jīng)濟、社會與環(huán)境綜合價值的可持續(xù)。相應地，在企業(yè)社會責任治理的邏輯下，算法治理的主要目標在于最大程度地規(guī)避企業(yè)機會主義傾向，并最大程度地撬動企業(yè)對社會負責任的意愿與動力，有效規(guī)避算法開發(fā)與算法應用潛在的社會風險。因此，從算法技術異化的邏輯歸因視角，企業(yè)社會責任治理下的算法治理的治理框架設計需要著力于三大層面。

第一大層面為圍繞企業(yè)內的算法技術開發(fā)與運用的技術研發(fā)團隊的責任型技術創(chuàng)新制度設計，強化對算法開發(fā)過程中的數(shù)據(jù)收集與處理過程、算法訓練過程中的負責任價值理念的宣貫，并著力于強化以人為中心的技術創(chuàng)新意識，充分考慮到算法技術在設計、開發(fā)與運用過程中潛在的負面社會影響，盡可能地披露算法具備標準化的系列技術參數(shù)與相應決策可能的社會風險評估結果，保證算法設計、開發(fā)與形成運用過程中能夠符合人本主義下的道德倫理價值取向，在算法的源頭層面最大程度地規(guī)避由于技術團隊的潛在機會主義帶來的算法技術異化問題。

第二大層面為圍繞企業(yè)內部的社會責任治理制度設計，重新反思在人工智能時代尤其是算法嵌入企業(yè)運營與管理的過程中的社會責任內容維度。傳統(tǒng)企業(yè)社會責任缺失與異化主要從企業(yè)主體視角出發(fā)，認為企業(yè)的運營管理與業(yè)務實踐對企業(yè)的利益相關方帶來了利益損害，損害了社會總體的社會福利水平，企業(yè)“以不負責任的方式行事”傷害諸如消費者、股東、政府、供應商以及社會等多元利益相關方的利益，但是在人工智能背景下算法逐步嵌入到企業(yè)的運營與管理決策過程中，因此面對算法這一具備獨立屬性的新型決策系統(tǒng)，需要將算法治理納入到企業(yè)社會責任的基礎性維度之中，即傳統(tǒng)企業(yè)社會責任的內容維度需要進一步延擴，將治理算法技術異化以及衍生的負面社會問題納入到企業(yè)的社會責任內容框架之中。具體的治理思路應當著重于企業(yè)社會責任披露體系下的算法披露體系建設，一方面在算法的源頭層面加強對算法的數(shù)據(jù)來源、數(shù)據(jù)收集標準、算法學習訓練標準（數(shù)據(jù)分析處理過程）予以合規(guī)化披露，另一方面構建算法決策的潛在影響與風險評估的披露體系建設，最終在企業(yè)內部層面構建算法的責任披露制度、算法透明度管理制度、算法影響的責任評估制度等算法治理制度體系。

第三大層面為強化算法開發(fā)與算法應用企業(yè)鏈接的良性治理生態(tài)建設，在商業(yè)生態(tài)層面，強化算法開發(fā)企業(yè)尤其是互聯(lián)網(wǎng)平臺型企業(yè)在整個商業(yè)生態(tài)圈中的數(shù)字牽引與生態(tài)化治理功能，以算法應用場景為分類標準，對應用人工智能的相應的企業(yè)進行社會責任治理牽引，通過平臺企業(yè)牽引的各類用戶（商家、消費者、互補者等）與社會性利益相關方實現(xiàn)平臺企業(yè)對不同商業(yè)生態(tài)圈中不同生態(tài)位的治理責任賦權，明確不同生態(tài)圈中的技術開發(fā)者、競爭性算法開發(fā)平臺、消費者用戶、監(jiān)管主體與其他社會公眾構成的主要生態(tài)位與擴展型生態(tài)位）在基于數(shù)字智能平臺所打造的商業(yè)生態(tài)圈中的算法治理的權限與義務。在社會生態(tài)層面強化社會公眾對算法治理的社會期望與輿論引導治理功能，最大程度地縮短社會公眾與算法之間的知識距離，強化社會公眾中的專業(yè)人士在算法治理中的認知引導功能，尤其是對于算法開發(fā)與人工智能協(xié)會需強化對算法設計的透明度要求，最大程度提高算法透明度，細化算法開發(fā)者與算法應用者的基本法律責任與社會責任。

基金項目：全國哲學社會科學基金重大項目“建設世界科技創(chuàng)新強國的戰(zhàn)略比較與實現(xiàn)路徑研究”（17ZDA082）； 國家自然科學基金應急管理項目“我國解決關鍵核心技術‘卡脖子問題的體制機制、組織模式與政策研究”（71941026）。