岳幸暉 楊智勇

（上海大學(xué)文化遺產(chǎn)與信息管理學(xué)院，上海，200444）

當(dāng)下，人工智能正加速與經(jīng)濟(jì)社會各行各業(yè)深度融合，檔案行業(yè)也概莫能外?！丁笆奈濉比珖鴻n案事業(yè)發(fā)展規(guī)劃》明確指出“加強(qiáng)大數(shù)據(jù)、人工智能等新一代信息技術(shù)在數(shù)字檔案館（室）建設(shè)中的應(yīng)用，推動數(shù)字檔案館（室）建設(shè)優(yōu)化升級”[1］；2023年度國家檔案局?jǐn)M立項(xiàng)的科技項(xiàng)目中涉及人工智能的多達(dá)28個[2］。與其他信息技術(shù)相比，人工智能的特殊性主要體現(xiàn)在其具有生物智能的自學(xué)習(xí)、自組織、自適應(yīng)、自行動等特征[3］，借助數(shù)據(jù)、算力和算法來模仿人類認(rèn)知過程和思維能力，在面臨復(fù)雜且多樣的檔案管理場景時能夠自主學(xué)習(xí)和適應(yīng)，進(jìn)而做出最優(yōu)選擇。目前，人工智能在檔案管理中的應(yīng)用這一主題已引起國內(nèi)外學(xué)者的廣泛關(guān)注，相關(guān)研究主要集中于三個維度：一是從宏觀層面探討人工智能應(yīng)用于檔案管理的影響，如人工智能的方法與技術(shù)將推動檔案管理理論創(chuàng)新、檔案管理實(shí)踐優(yōu)化、檔案管理人員角色轉(zhuǎn)變等[4-5］；二是從中觀層面分析人工智能嵌入檔案管理的具體環(huán)節(jié)；[6］三是從微觀層面剖析人工智能中的某一類技術(shù)如何應(yīng)用于檔案管理，如機(jī)器學(xué)習(xí)[7］、ChatGPT[8］、圖像和語音識別[9］等。

總體而言，上述研究表明人工智能在檔案管理領(lǐng)域已得到一定的發(fā)展與應(yīng)用，但現(xiàn)有文獻(xiàn)對人工智能可能給檔案管理帶來的風(fēng)險(xiǎn)鮮有提及?；诖?，本文落腳于中觀層面，系統(tǒng)分析人工智能在檔案管理中的應(yīng)用現(xiàn)狀，深入探討檔案管理應(yīng)用人工智能技術(shù)所面臨的潛在風(fēng)險(xiǎn)，并提出風(fēng)險(xiǎn)的防范策略，以期提高檔案管理智能化、科學(xué)化水平，助力檔案工作智慧化轉(zhuǎn)型升級。

1 人工智能在檔案管理中的應(yīng)用圖景

人工智能的主要技術(shù)領(lǐng)域包括：計(jì)算機(jī)視覺、自然語言處理、機(jī)器學(xué)習(xí)、智能機(jī)器人、模式識別等[10］，這些技術(shù)目前在檔案“收管存用”的具體環(huán)節(jié)中已實(shí)現(xiàn)不同程度的探索應(yīng)用，切實(shí)提高了檔案管理的效率與水平。未來，利用人工智能逐步實(shí)現(xiàn)檔案管理全流程智能化將成為實(shí)踐發(fā)展的重要方向。

1.1 電子文件歸檔

大數(shù)據(jù)時代，各類電子文件指數(shù)級增長，迫切需要信息技術(shù)的嵌入來滿足電子文件的歸檔要求，而人工智能可介入電子文件前端控制，提高電子文件歸檔質(zhì)量。借助機(jī)器學(xué)習(xí)、自然語言處理、模式識別等技術(shù)，提前將電子文件的歸檔范圍、分類方案、歸檔時間、通用文件格式要求、元數(shù)據(jù)方案、命名規(guī)則、封裝要求等配置在業(yè)務(wù)系統(tǒng)或歸檔接口中[11］，根據(jù)預(yù)先設(shè)定的形式實(shí)現(xiàn)電子文件的在線自動歸檔和全程留痕，從前端確保電子文件的真實(shí)、完整、可用、安全。如上海市浦東新區(qū)檔案館運(yùn)用人工智能技術(shù)，將電子檔案管理和“四性”檢測需求融入受理平臺和業(yè)務(wù)系統(tǒng)，確保電子文件在審批服務(wù)過程中即符合歸檔要求，實(shí)現(xiàn)事項(xiàng)隨辦隨歸、要素自動歸集。[12］

1.2 檔案智能采集

在網(wǎng)絡(luò)環(huán)境下，檔案數(shù)據(jù)廣泛產(chǎn)生于電子辦公、電子業(yè)務(wù)、信息系統(tǒng)、網(wǎng)站網(wǎng)頁、新媒體及傳感設(shè)備等環(huán)境[13］，而人工智能可輔助檔案數(shù)據(jù)全域采集。通過融合智能感知終端、網(wǎng)絡(luò)爬蟲、數(shù)據(jù)采集、智能轉(zhuǎn)錄等人工智能技術(shù)，感知采集多模態(tài)、多來源檔案信息資源，有效提升檔案收集質(zhì)量與效率，構(gòu)建立體多元的館藏檔案資源體系。如浙江省檔案館與科大訊飛公司合作，綜合運(yùn)用卷積神經(jīng)網(wǎng)絡(luò)、AI識別等技術(shù)，實(shí)現(xiàn)對音視頻檔案的采集、整理和有效利用，有效盤活音視頻檔案資源。[14］

1.3 檔案智能整理

就檔案形態(tài)而言，檔案資源包括實(shí)體檔案資源和數(shù)字檔案資源。針對實(shí)體檔案資源，OCR識別、人臉識別、語音識別等技術(shù)的應(yīng)用，能夠自動識別并提取檔案中的關(guān)鍵信息和文字內(nèi)容，將其轉(zhuǎn)化為可供計(jì)算機(jī)編輯處理的數(shù)字化、數(shù)據(jù)化信息。如荷蘭國家檔案館和KNAW人文小組聯(lián)合開發(fā)了開源轉(zhuǎn)錄軟件Loghi，目前該軟件對手寫、打字、印刷文本轉(zhuǎn)錄識別率已達(dá)到96%，有效提高了歷史檔案數(shù)字化的效率。[15］針對數(shù)字檔案資源，借助自然語言處理、機(jī)器學(xué)習(xí)等技術(shù)，可對檔案進(jìn)行聚類分析，發(fā)現(xiàn)不同文本間的關(guān)聯(lián)與特征，實(shí)現(xiàn)文本型數(shù)字檔案資源的自動著錄標(biāo)引、分類排序；還可基于模式識別技術(shù)，實(shí)現(xiàn)照片檔案、錄音錄像檔案等媒體型數(shù)字檔案信息資源的一站式檢索。

1.4 檔案智能鑒定

借助專家系統(tǒng)、機(jī)器學(xué)習(xí)、語義分析等技術(shù)，在對已開放鑒定的成果進(jìn)行模型訓(xùn)練的基礎(chǔ)上，結(jié)合專家提供的理論知識和已有的鑒定規(guī)則，預(yù)制敏感詞庫和規(guī)則庫，實(shí)現(xiàn)檔案目錄、原文信息審讀和段落、詞句語義理解，進(jìn)而作出檔案內(nèi)容的價(jià)值判斷與開放結(jié)果的預(yù)測。如遼寧省檔案館結(jié)合人工智能技術(shù)，構(gòu)建多維語義理解算法模型，從敏感字段、敏感詞、敏感語句、敏感圖像等多層次對檔案全件進(jìn)行語義分析，提升檔案開放審核業(yè)務(wù)的智能化水平。[16］

1.5 檔案智能服務(wù)

一方面，人工智能有助于實(shí)現(xiàn)檔案資源的多層次開發(fā)。運(yùn)用數(shù)據(jù)挖掘、數(shù)據(jù)分析、知識圖譜、知識地圖等智能技術(shù)對檔案資源進(jìn)行細(xì)粒度、內(nèi)容級開發(fā)，發(fā)現(xiàn)檔案數(shù)據(jù)間的內(nèi)在關(guān)聯(lián)和趨勢脈絡(luò)，并以可視化的形式構(gòu)建知識要素的關(guān)系網(wǎng)絡(luò)，以便最大限度激活檔案信息資源的潛在價(jià)值，賦能政府決策、城市發(fā)展等宏觀場景。如上海市檔案館綜合運(yùn)用人工智能、知識圖譜等技術(shù)，打造“跟著檔案觀上海”數(shù)字人文平臺，將建筑、歷史事件以及身處其中的人有機(jī)融合，為了解城市文脈與歷史記憶提供檔案數(shù)據(jù)支撐。[17］另一方面，人工智能助推檔案資源的個性化供給。借助自然語言處理、用戶畫像、智能推送等技術(shù)，可從關(guān)鍵詞理解提高到語義、知識級別的理解，深度分析檔案用戶在利用過程中的需求、偏好、行為等信息，獲取檔案用戶個性化的服務(wù)訴求，主動為其推送更加精準(zhǔn)的檔案信息。如可利用對話式語言模型ChatGPT，對大規(guī)模檔案數(shù)據(jù)資源進(jìn)行訓(xùn)練，并構(gòu)建檔案領(lǐng)域知識庫，以知識問答的形式提供智能化的檔案利用服務(wù)。[18］

2 人工智能在檔案管理中的應(yīng)用風(fēng)險(xiǎn)

人工智能技術(shù)的應(yīng)用也會對檔案管理帶來諸多挑戰(zhàn)。全面理解人工智能在檔案管理中的應(yīng)用風(fēng)險(xiǎn)，是促使其良好發(fā)展的先決條件。

2.1 制度風(fēng)險(xiǎn)

制度風(fēng)險(xiǎn)指人工智能介入檔案管理的過程中，由于相關(guān)部門針對這一新型領(lǐng)域的制度制定和修改不及時、不到位而可能引發(fā)的風(fēng)險(xiǎn)。一方面，頂層設(shè)計(jì)尚不完善。當(dāng)下檔案領(lǐng)域涉及人工智能的政策更側(cè)重于宏觀層面的方向引導(dǎo)，缺乏微觀層面具體性、針對性、配套性的實(shí)施辦法和操作指南，如人工智能在檔案領(lǐng)域中的應(yīng)用范圍和準(zhǔn)入條件、相關(guān)主體的職責(zé)分工和權(quán)屬規(guī)范、人工智能研發(fā)成果應(yīng)用的評估體系等。人工智能的應(yīng)用需要更為全面系統(tǒng)的戰(zhàn)略規(guī)劃進(jìn)行引導(dǎo)和支持，而相關(guān)制度的缺失則成為掣肘。

另一方面，行業(yè)規(guī)范有待健全。人工智能在檔案管理中的運(yùn)用需依賴大量的檔案數(shù)據(jù)作為語料投入，但當(dāng)前缺乏體系化的檔案數(shù)據(jù)標(biāo)準(zhǔn)規(guī)范。現(xiàn)有國家標(biāo)準(zhǔn)較多局限于數(shù)據(jù)存儲、系統(tǒng)功能等方面，如《檔案數(shù)據(jù)硬磁盤離線存儲管理規(guī)范》（DA/T 75—2019）、《電子檔案管理系統(tǒng)基本功能規(guī)定》等[19］，在檔案數(shù)據(jù)獲取、數(shù)據(jù)傳遞、數(shù)據(jù)利用、數(shù)據(jù)隱私保護(hù)等方面尚無明確規(guī)定，致使檔案數(shù)據(jù)化程度較低、數(shù)據(jù)質(zhì)量參差不齊、數(shù)據(jù)共享利用受限，直接影響和限制了人工智能在檔案領(lǐng)域的應(yīng)用成效。

2.2 技術(shù)風(fēng)險(xiǎn)

技術(shù)風(fēng)險(xiǎn)指由于人工智能自身技術(shù)缺陷以及人類認(rèn)知局限，在應(yīng)用過程中可能產(chǎn)生技術(shù)濫用、技術(shù)誤用等現(xiàn)象，導(dǎo)致檔案數(shù)據(jù)泄漏、系統(tǒng)遭受攻擊等風(fēng)險(xiǎn)。一方面，內(nèi)部技術(shù)缺陷而引起的風(fēng)險(xiǎn)。人工智能技術(shù)本身具有高度的專業(yè)性、復(fù)雜性和不可解釋性，猶如不透明的“黑箱”，除少數(shù)技術(shù)設(shè)計(jì)者外，多數(shù)外部人員無法理解算法做出智能決策的邏輯和結(jié)果，一旦算法結(jié)構(gòu)具有缺陷、模型數(shù)據(jù)出現(xiàn)問題，則會對檔案安全造成威脅。如檔案鑒定環(huán)節(jié)涉及諸多復(fù)雜問題，算法無法完全量化，若由算法掌握檔案的“生殺大權(quán)”，可能會導(dǎo)致鑒定結(jié)果出現(xiàn)誤判、錯判。

另一方面，外部技術(shù)攻擊而引起的風(fēng)險(xiǎn)。檔案數(shù)據(jù)是人工智能應(yīng)用于檔案領(lǐng)域的基礎(chǔ)和“燃料”，隨著各種智能感知終端、采集終端在檔案系統(tǒng)、檔案網(wǎng)站中的落地，大量非結(jié)構(gòu)化的檔案數(shù)據(jù)在匯聚流轉(zhuǎn)過程中易被未授權(quán)人員或非法組織竊取、篡改，尤其是檔案用戶在利用檔案信息的過程中，個人行為軌跡、敏感信息等被不可避免地記錄在網(wǎng)絡(luò)中，極易造成檔案用戶隱私信息的泄露。此外，部分檔案部門的基礎(chǔ)設(shè)施存在老化現(xiàn)象，加之檔案服務(wù)開放共享的天然特質(zhì)，一些不法分子可能會利用平臺漏洞以及病毒傳播、惡意代碼、智能技術(shù)等手段對檔案管理系統(tǒng)、人工智能模型、訓(xùn)練數(shù)據(jù)集等進(jìn)行非法攻擊、肆意刪除、違規(guī)使用，嚴(yán)重危害檔案信息安全和公共服務(wù)秩序。如2021 年11 月，美國執(zhí)法機(jī)構(gòu)的1.9TB監(jiān)控錄像機(jī)密數(shù)據(jù)被黑客組織竊取，致使美國警方400 萬份檔案永久丟失，影響到大約17500 個案件。[20］

2.3 倫理風(fēng)險(xiǎn)

倫理風(fēng)險(xiǎn)是由于人工智能研發(fā)與應(yīng)用中的諸多不確定因素，導(dǎo)致其應(yīng)用于檔案管理的過程中，可能引起歧視偏見、公平破壞、人機(jī)矛盾等負(fù)面影響。一方面，算法歧視引發(fā)檔案用戶的話語流失。算法是人工智能應(yīng)用于檔案管理的核心要素，但算法本身是人的產(chǎn)物，在算法設(shè)定和開發(fā)的過程中不可避免會存在設(shè)計(jì)者的主觀意愿，如因設(shè)計(jì)者的性別歧視、個人經(jīng)歷、行為動機(jī)而忽視弱勢邊緣等特定群體的檔案需求；設(shè)計(jì)者的數(shù)據(jù)選擇、運(yùn)用偏差等控制檔案用戶的信息推薦，這與檔案促進(jìn)社會公平正義的價(jià)值理念相悖。由于算法的精準(zhǔn)推薦機(jī)制，用戶個體只關(guān)注自身選擇和偏愛的檔案信息，長此以往，阻隔其他額外信息的傳播，檔案用戶被束縛于“信息繭房”“回音室”當(dāng)中，容易導(dǎo)致用戶價(jià)值偏離、思想僵化、視角局限等問題。

另一方面，人機(jī)關(guān)系的“矛盾沖突”引發(fā)主體的認(rèn)同危機(jī)。智能技術(shù)在推動檔案管理發(fā)展的同時也變革了其中的人機(jī)關(guān)系，人工智能的應(yīng)用一定程度上加劇了檔案工作者、業(yè)務(wù)部門的職業(yè)危機(jī)。一部分檔案工作者對于人工智能技術(shù)產(chǎn)生的抵觸、恐慌、畏懼等情緒，認(rèn)為其會取代自身職業(yè)；一部分則陷入“技術(shù)唯上”“技術(shù)決定論”的泥沼，期望通過人工智能技術(shù)來解決檔案管理中的一切問題。此外，截至2022 年底，在全國各級檔案主管部門和綜合檔案館共有專職人員中，研究生學(xué)歷僅占比10.5%，本科學(xué)歷占比達(dá)68.7%，大專及以下學(xué)歷占比20.8%，具有檔案學(xué)專業(yè)程度的僅占比18.12%。[21］現(xiàn)有的檔案人才隊(duì)伍專業(yè)程度和文化水平整體較低，尚處于技術(shù)弱勢和被動地位，這與人工智能所要求的技術(shù)素養(yǎng)和知識儲備不相匹配，難以保障人工智能在檔案領(lǐng)域的應(yīng)用。

2.4 監(jiān)管風(fēng)險(xiǎn)

監(jiān)管風(fēng)險(xiǎn)指在檔案業(yè)務(wù)管理活動中，相關(guān)行為主體缺乏對于人工智能技術(shù)的控制或調(diào)節(jié)而引發(fā)的風(fēng)險(xiǎn)。一方面，檔案主管部門監(jiān)管力度不夠。目前，檔案領(lǐng)域雖然積極擁抱人工智能技術(shù)，但尚未意識到人工智能在應(yīng)用過程中的合規(guī)性問題，面臨監(jiān)管責(zé)任不明確、監(jiān)管手段不能及、監(jiān)管能力與監(jiān)管要求不匹配等監(jiān)管風(fēng)險(xiǎn)。若人工智能在檔案管理中使用不當(dāng)，將進(jìn)一步加劇其帶來的制度風(fēng)險(xiǎn)、技術(shù)風(fēng)險(xiǎn)、倫理風(fēng)險(xiǎn)等，進(jìn)而弱化人工智能在檔案領(lǐng)域的應(yīng)用成效。

另一方面，缺乏多元主體的協(xié)同監(jiān)管。針對人工智能的監(jiān)管不僅是檔案主管部門的責(zé)任，更是在人工智能設(shè)計(jì)研發(fā)、生產(chǎn)制造、服務(wù)使用等過程中各方主體都需應(yīng)對的問題。[22］其中，技術(shù)企業(yè)是人工智能程序與算法的設(shè)計(jì)者，扮演著“吹哨人”的角色，但現(xiàn)階段缺乏一定的激勵機(jī)制，使得第三方監(jiān)管組織參與和評估的積極性不足；公眾是人工智能研發(fā)成果的應(yīng)用者和監(jiān)管者，可幫助檔案主管部門發(fā)現(xiàn)人工智能產(chǎn)品存在的問題。但通過對智能檢索系統(tǒng)、智能查檔機(jī)等檔案領(lǐng)域已有的人工智能產(chǎn)品調(diào)研發(fā)現(xiàn)，較少產(chǎn)品開通了用戶滿意度評價(jià)、匿名意見反饋等功能入口，致使公眾參與人工智能監(jiān)管的渠道缺失。

3 人工智能在檔案管理中的應(yīng)用策略

有效識別、管控、規(guī)避風(fēng)險(xiǎn)是提升人工智能應(yīng)用效能的必然要求。為此，文章按照“制度先行—技術(shù)集成—倫理規(guī)約—監(jiān)管防控”的路線，提出應(yīng)對風(fēng)險(xiǎn)的防范策略。

3.1 制度先行：加強(qiáng)頂層謀劃，完善檔案數(shù)據(jù)標(biāo)準(zhǔn)體系

完備的制度體系是檔案領(lǐng)域應(yīng)用人工智能技術(shù)的基本前提，推進(jìn)人工智能管理制度的構(gòu)建能夠遏制人工智能所帶來的風(fēng)險(xiǎn)。第一，加強(qiáng)人工智能應(yīng)用的頂層設(shè)計(jì)。自2019 年以來，國家層面針對人工智能技術(shù)已相繼發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》《生成式人工智能服務(wù)管理暫行辦法》等指引性文件，為人工智能應(yīng)用提供治理框架和行動指南。檔案主管部門應(yīng)以上述文件為指引，發(fā)揮“元治”角色，從前端性、全局性、系統(tǒng)性的視角，科學(xué)謀劃人工智能等新一代信息技術(shù)在檔案領(lǐng)域的應(yīng)用規(guī)劃和行動計(jì)劃；從制度層面明確人工智能應(yīng)用的權(quán)責(zé)分配、管理模式、安全保障、組織架構(gòu)等，并將人工智能風(fēng)險(xiǎn)管理貫穿于檔案管理的全過程；積極支持企業(yè)、高校、科研院所等主體協(xié)同參與人工智能的前沿課題研究，鼓勵和引導(dǎo)人工智能在檔案領(lǐng)域的持續(xù)健康應(yīng)用。

第二，健全檔案數(shù)據(jù)標(biāo)準(zhǔn)規(guī)范體系。一方面，構(gòu)建包括檔案數(shù)據(jù)管理標(biāo)準(zhǔn)、技術(shù)標(biāo)準(zhǔn)、安全標(biāo)準(zhǔn)、隱私保護(hù)在內(nèi)的標(biāo)準(zhǔn)體系，明確檔案數(shù)據(jù)管理的職責(zé)權(quán)限和組織架構(gòu)，強(qiáng)化檔案數(shù)據(jù)質(zhì)量控制和權(quán)益保障；另一方面，制定涵蓋檔案數(shù)據(jù)全生命周期的配套細(xì)則，確保其來源可靠、程序規(guī)范、要素合規(guī)，為推進(jìn)人工智能在檔案領(lǐng)域的應(yīng)用提供數(shù)據(jù)資源保障。如2022年，浙江省出臺的《浙江省公共數(shù)據(jù)條例》，從公共數(shù)據(jù)收集、歸集、存儲、加工、傳輸、共享、開放、利用等方面作出明確規(guī)定，促進(jìn)了公共數(shù)據(jù)依法有序自由流動。[23］

3.2 技術(shù)集成：融入多元技術(shù)，搭建檔案安全保護(hù)屏障

人工智能不是一項(xiàng)自成體系的技術(shù)，其應(yīng)用場景的深化需要與其他技術(shù)手段相互支撐，因此，加強(qiáng)區(qū)塊鏈、數(shù)字孿生等新一代信息技術(shù)的集成運(yùn)用，構(gòu)筑技術(shù)風(fēng)險(xiǎn)防御屏障是保障檔案安全的重要途徑。一是區(qū)塊鏈技術(shù)?？赏ㄟ^可信時間戳和非對稱加密技術(shù)，為檔案數(shù)據(jù)創(chuàng)建唯一標(biāo)識符，防止其被篡改、損壞、盜取，確保在傳輸過程中的真實(shí)性和可靠性；通過智能合約和共識機(jī)制，控制檔案數(shù)據(jù)訪問權(quán)限，以節(jié)點(diǎn)對節(jié)點(diǎn)的形式加強(qiáng)數(shù)據(jù)的互聯(lián)互通和溯源追蹤；通過去中心化存儲，將檔案數(shù)據(jù)分散于多個節(jié)點(diǎn)并實(shí)現(xiàn)實(shí)時備份，提高檔案數(shù)據(jù)的安全性和穩(wěn)定性。

二是數(shù)字孿生技術(shù)。數(shù)字孿生是以數(shù)字化方式創(chuàng)建物理實(shí)體的虛擬模型， 借助數(shù)據(jù)實(shí)現(xiàn)物理世界與數(shù)字世界的虛實(shí)映射。[24］利用數(shù)字孿生技術(shù)可將檔案館建筑、檔案實(shí)體、系統(tǒng)設(shè)備的狀態(tài)以可視化的形式呈現(xiàn)，根據(jù)實(shí)時數(shù)據(jù)感知、監(jiān)測、溯源檔案館運(yùn)行過程中面臨的不確定因素和風(fēng)險(xiǎn)狀況，從而提高檔案館的風(fēng)險(xiǎn)防御水平。如上海市靜安區(qū)運(yùn)用數(shù)字孿生技術(shù)實(shí)現(xiàn)檔案庫房、館藏資源在數(shù)字空間中的映射，提高了數(shù)據(jù)積累、分析和挖掘能力，為后續(xù)人工智能的應(yīng)用奠定基礎(chǔ)。[25］

3.3 倫理規(guī)約：秉承人本理念，構(gòu)建算法柔性治理格局

第一，檔案工作者應(yīng)堅(jiān)持人本理念，秉承包容審慎的原則?！懊鞔_人工智能應(yīng)先‘人工’再‘智能’，即智能技術(shù)在檔案工作的輔助性作用，人的‘智慧’始終占據(jù)主導(dǎo)地位”[26］，避免由于過度依賴技術(shù)而導(dǎo)致檔案管理人員角色地位的邊緣化與削弱。同時，數(shù)智化的發(fā)展潮流也為檔案工作者提出新的要求，檔案工作者既要順勢而為，具備駕馭新技術(shù)的能力，密切關(guān)注外部技術(shù)環(huán)境的發(fā)展變化，提高自身數(shù)字素養(yǎng)；又要應(yīng)勢而動，充分了解人工智能等新一代信息技術(shù)的應(yīng)用風(fēng)險(xiǎn)及其負(fù)面效應(yīng)，提升風(fēng)險(xiǎn)認(rèn)知能力。

第二，推動算法設(shè)計(jì)的不斷優(yōu)化。一方面，檔案部門應(yīng)充分發(fā)揮主觀能動性，主動介入算法研發(fā)和設(shè)計(jì)的前端，將檔案專業(yè)理論、服務(wù)理念與算法設(shè)計(jì)高度融合，把公平、正義、平等等主流價(jià)值觀念嵌入算法應(yīng)用的全過程，適時優(yōu)化和完善算法模型，加強(qiáng)論證、測試與審核，以人的價(jià)值理性規(guī)約智能技術(shù)的歧視與偏見，提高算法決策的科學(xué)性；另一方面，進(jìn)一步擴(kuò)大算法模型的信息推薦范疇，增加更加多元化的信息推送內(nèi)容，例如可采用逆向推薦思維，為檔案用戶提供可能“不感興趣”“應(yīng)關(guān)注但沒有關(guān)注”的檔案信息，從而構(gòu)建立體化的信息推送機(jī)制，避免由“信息繭房”效應(yīng)帶來的認(rèn)知窄化現(xiàn)象。

3.4 監(jiān)管防范：堅(jiān)持多方協(xié)同，建立全鏈條式監(jiān)管機(jī)制

我國《新一代人工智能發(fā)展規(guī)劃》明確指出“建立健全公開透明的人工智能監(jiān)管體系，實(shí)行設(shè)計(jì)問責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)，實(shí)現(xiàn)對人工智能算法設(shè)計(jì)、產(chǎn)品開發(fā)和成果應(yīng)用等的全流程監(jiān)管?！盵27］檔案領(lǐng)域針對人工智能應(yīng)用的監(jiān)管是多方聯(lián)動的動態(tài)過程，亟須構(gòu)建覆蓋事前、事中、事后的全生命周期的協(xié)同監(jiān)管機(jī)制，推動人工智能風(fēng)險(xiǎn)預(yù)警與化解。

在事前階段，檔案部門應(yīng)加強(qiáng)人工智能技術(shù)的前瞻預(yù)防與約束引導(dǎo)，強(qiáng)化質(zhì)量認(rèn)證的準(zhǔn)入監(jiān)管，建立由業(yè)務(wù)部門、技術(shù)企業(yè)、第三方監(jiān)管組織、專家等多方力量組成的監(jiān)管小組，對人工智能設(shè)計(jì)、產(chǎn)品和系統(tǒng)的復(fù)雜性、風(fēng)險(xiǎn)性、可解釋性等進(jìn)行安全評估，未達(dá)標(biāo)或未通過安全評估的算法、產(chǎn)品或系統(tǒng)不能使用，將風(fēng)險(xiǎn)防患于未然。在事中階段，按照“誰使用誰負(fù)責(zé)，誰運(yùn)行誰負(fù)責(zé)”的原則，明確監(jiān)管主體必須遵守的原則和義務(wù)，重點(diǎn)監(jiān)督和審查相關(guān)使用者應(yīng)用人工智能系統(tǒng)或產(chǎn)品的合規(guī)性和合法性，強(qiáng)化組織內(nèi)部風(fēng)險(xiǎn)管理的技術(shù)和安全保障，避免技術(shù)失控、技術(shù)濫用風(fēng)險(xiǎn)的發(fā)生。在事后階段，構(gòu)建問責(zé)機(jī)制，整合分析在人工智能系統(tǒng)應(yīng)用、算法應(yīng)用、檔案數(shù)據(jù)使用過程中的現(xiàn)存問題，及時調(diào)整和優(yōu)化監(jiān)管措施、使用流程、評估體系等，實(shí)現(xiàn)人工智能應(yīng)用風(fēng)險(xiǎn)的閉環(huán)控制，進(jìn)而確保人工智能在檔案領(lǐng)域的應(yīng)用成效。