任 穎

算法是系統(tǒng)運(yùn)算、處理數(shù)據(jù)、解決問題的特定指令，“算法權(quán)力”甚至改變了“原有的權(quán)利-權(quán)力格局”。(1)郭哲：《反思算法權(quán)力》，載《法學(xué)評論》2020年第6期。智能醫(yī)療算法能夠直接決定醫(yī)療資源信息獲取、醫(yī)療數(shù)據(jù)讀取、智能診療系統(tǒng)的輸出結(jié)果，(2)S.-K. Kim etc., Consistency of Medical Data Using Intelligent Neuron Faster R-CNN Algorithm for Smart Health Care Application, Healthcare, 2020, 8(2), 185.改變醫(yī)療衛(wèi)生法律關(guān)系的內(nèi)容和范圍。隨著智能醫(yī)療新業(yè)態(tài)步入快速發(fā)展軌道，智能醫(yī)學(xué)影像、血流儲備分?jǐn)?shù)計算軟件、糖篩眼底圖像輔助診斷軟件等多項應(yīng)用程序相繼獲批，智能醫(yī)療企業(yè)迅速完成多輪融資，并深度融入臨床科室應(yīng)用進(jìn)程。在推進(jìn)智能醫(yī)療算法決策、算法分發(fā)及爬蟲算法應(yīng)用的同時，如何防范醫(yī)源型與藥源型安全風(fēng)險，使主體“免受自動化決策的侵害”；如何使醫(yī)療健康及生物識別信息“不因數(shù)據(jù)交易和數(shù)據(jù)挖掘而泄露”，(3)蘇宇：《算法規(guī)制的譜系》，載《中國法學(xué)》2020年第3期。成為智能醫(yī)療算法審查立法的重心所在。

一、智能醫(yī)療算法決策與算法分發(fā)的潛在風(fēng)險與問題

智能醫(yī)療臨床應(yīng)用覆蓋傳染病預(yù)測、病因識別、病灶標(biāo)注、靶區(qū)勾畫、診療方案、干預(yù)措施、醫(yī)護(hù)服務(wù)、藥物研發(fā)等多個領(lǐng)域；智能醫(yī)療法律關(guān)系不僅包括醫(yī)患關(guān)系，而且廣泛涵蓋衛(wèi)生行政部門、智能醫(yī)療研發(fā)企業(yè)、醫(yī)療機(jī)構(gòu)、第三方檢測機(jī)構(gòu)之間的關(guān)系，智能醫(yī)療所面臨的現(xiàn)實(shí)問題復(fù)合性強(qiáng)、復(fù)雜程度高。智能醫(yī)療算法決策、算法分發(fā)、爬蟲算法的潛在風(fēng)險亟須得到高度重視。

(一)智能醫(yī)療算法決策可能引發(fā)疊加型的醫(yī)源型與藥源型風(fēng)險

智能醫(yī)療算法決策可以分為人機(jī)交互型決策與自動化機(jī)器決策兩個類型，智能醫(yī)療算法決策打破了傳統(tǒng)的醫(yī)患共同決策模式，將“基于機(jī)器學(xué)習(xí)的算法自動化場景”嵌入醫(yī)療決策過程，(4)參見唐林垚：《“脫離算法自動化決策權(quán)”的虛幻承諾》，載《東方法學(xué)》2020年第6期。從而給醫(yī)療健康服務(wù)帶來新的風(fēng)險與挑戰(zhàn)。傳統(tǒng)的醫(yī)療決策模式經(jīng)歷了從醫(yī)生決策到“醫(yī)患共享決策”的轉(zhuǎn)變，(5)參見鄭紅穎等：《醫(yī)患共享決策評估工具的研究進(jìn)展》，載《中華護(hù)理雜志》2018年第5期。形成了以患者知情同意為基礎(chǔ)，以醫(yī)患雙方的良性溝通和互動為路徑，以診療共識為目標(biāo)的醫(yī)療決策方式。在智能社會，人工智能在醫(yī)療機(jī)構(gòu)之間搭建起新型的醫(yī)療聯(lián)合體平臺，也形成智能系統(tǒng)與醫(yī)療機(jī)構(gòu)之間的新型關(guān)系。在智能醫(yī)療臨床應(yīng)用過程中，醫(yī)患共同決策不僅是醫(yī)生建議與患者意見綜合作用的結(jié)果，而且受到潛在算法的影響，智能醫(yī)療算法甚至“直接作為行為規(guī)范影響”醫(yī)療決策的結(jié)果。(6)參見張凌寒：《算法權(quán)力的興起、異化及法律規(guī)制》，載《法商研究》2019年第4期。同時，智能醫(yī)療算法本身并不在執(zhí)業(yè)醫(yī)師的控制之下，算法的隱蔽性也使人們很難直觀地發(fā)現(xiàn)其問題。如果智能醫(yī)療算法存在隱蔽性的風(fēng)險與問題，可能直到健康損害實(shí)際發(fā)生，才能被識別出來。智能醫(yī)療算法具有可復(fù)制性且應(yīng)用廣泛，一旦智能醫(yī)療算法決策被用于危害健康的活動，其危害的范圍就不僅是哪一個主體，而且可能導(dǎo)致大范圍、多點(diǎn)源的公共健康危機(jī)。在實(shí)踐中，通過智能算法技術(shù)遠(yuǎn)程控制心臟電擊器、藥物輸液泵等設(shè)備，危害生命健康的問題已經(jīng)日益受到關(guān)注。智能醫(yī)療領(lǐng)域面臨的風(fēng)險和挑戰(zhàn)從醫(yī)療技術(shù)風(fēng)險擴(kuò)張到智能技術(shù)風(fēng)險，從傳統(tǒng)的醫(yī)療決策領(lǐng)域擴(kuò)展至新興醫(yī)療決策模式，呈現(xiàn)出諸多新的特征。

隨著醫(yī)療人工智能深度學(xué)習(xí)算法的應(yīng)用，智能技術(shù)與醫(yī)療技術(shù)的融合日益加深，新型智能醫(yī)療風(fēng)險與傳統(tǒng)領(lǐng)域醫(yī)療風(fēng)險交織疊加，呈現(xiàn)人機(jī)交互與復(fù)合性特征。深度學(xué)習(xí)算法與思維模擬技術(shù)的應(yīng)用，使智能醫(yī)療機(jī)器具備短時間內(nèi)迅速學(xué)習(xí)數(shù)代人積累的醫(yī)療經(jīng)驗，并通過堆棧自編碼網(wǎng)絡(luò)，掌握基本醫(yī)療經(jīng)驗的內(nèi)在規(guī)律，形成自主判斷決策甚至是具有超越性的機(jī)器識別和創(chuàng)造能力。醫(yī)療人工智能正在“引發(fā)一場深刻的革命”，(7)王文：《數(shù)字中國：區(qū)塊鏈、智能革命與國家治理的未來》，中信出版社2020年版，第1頁。全方位改變醫(yī)療技術(shù)開發(fā)、醫(yī)療過程監(jiān)管、醫(yī)療機(jī)構(gòu)運(yùn)行及醫(yī)師診療的全過程，技術(shù)安全問題與醫(yī)療聯(lián)合體的新型醫(yī)療安全問題愈加凸顯。智能預(yù)警、診療康復(fù)等智能醫(yī)療系統(tǒng)的深度應(yīng)用，在傳統(tǒng)領(lǐng)域的醫(yī)療風(fēng)險基礎(chǔ)上，衍生出新型的醫(yī)療系統(tǒng)風(fēng)險與介入治療行為風(fēng)險。醫(yī)療安全的影響因素不再局限于醫(yī)療機(jī)構(gòu)之內(nèi)，也不以空間場所為界限，而是逐步向虛擬智能空間延伸。智能醫(yī)療算法決策“掙脫了時間、空間的限制”，實(shí)現(xiàn)智能空間萬事萬物的互聯(lián)互通。(8)參見[美]尼古拉·尼葛洛龐蒂：《數(shù)字化生存》，胡泳等譯，海南出版社1997年版，第7頁。智能醫(yī)療影像數(shù)據(jù)平臺、智能診療服務(wù)平臺等均能通過人機(jī)物三元協(xié)同介入醫(yī)療進(jìn)程，導(dǎo)致醫(yī)源型與藥源型安全風(fēng)險相互疊加，隱患排查的難度加大。

醫(yī)療人工智能遺傳算法與進(jìn)化算法的發(fā)展，使醫(yī)源型與藥源型風(fēng)險呈現(xiàn)高度不確定性，智能醫(yī)療算法決策面臨可控性方面的安全隱患，算法機(jī)械化與醫(yī)療人文關(guān)懷之間存在沖突，通過算法代碼貫徹維護(hù)人類生命健康等內(nèi)在價值判斷面臨困境。隨著“算法所產(chǎn)生的影響力與控制力”不斷增強(qiáng)，智能醫(yī)療算法面臨更大的“潛在的不可控的風(fēng)險”。(9)周輝：《算法權(quán)力及其規(guī)制》，載《法制與社會發(fā)展》2019年第6期。第一，算法控制方并不是醫(yī)療機(jī)構(gòu)，智能醫(yī)療算法驅(qū)動使醫(yī)源型風(fēng)險的演化與醫(yī)療系統(tǒng)相分離，醫(yī)源型風(fēng)險因素與危害結(jié)果之間的關(guān)系處于不確定甚至不可控的狀態(tài)。第二，人工智能在藥物研發(fā)、配置方面的應(yīng)用，使藥源型風(fēng)險具有“耦合性和高度的不確定性”。(10)張樂：《新興技術(shù)風(fēng)險的挑戰(zhàn)及其適應(yīng)性治理》，載《上海行政學(xué)院學(xué)報》2021年第1期。面對不確定的醫(yī)源型與藥源型風(fēng)險，傳統(tǒng)的醫(yī)療專家系統(tǒng)較難精確預(yù)判算法機(jī)械化對醫(yī)療人文關(guān)懷可能帶來怎樣的危害。第三，醫(yī)源型與藥源型風(fēng)險的影響范圍不僅限于特定醫(yī)院與就診患者之間，而且擴(kuò)展到所有使用智能穿戴式醫(yī)療設(shè)備的用戶。便攜式、可穿戴式智能醫(yī)療設(shè)備的應(yīng)用，能夠?qū)ο燃膊〖皶r做出預(yù)警，并在必要時為病人進(jìn)行藥物輸入與初步救治；公共場所智能健康系統(tǒng)，可以通過電子監(jiān)控系統(tǒng)捕捉心率、視網(wǎng)膜等健康數(shù)據(jù)，并引導(dǎo)及時進(jìn)行醫(yī)療介入。這在為人們提供便利的同時，也引發(fā)新型的醫(yī)源型與藥源型風(fēng)險。對于醫(yī)療人工智能通信網(wǎng)絡(luò)的攻擊，通過醫(yī)藥供給與醫(yī)療介入危害健康安全。(11)參見李勤：《警惕醫(yī)療設(shè)備遭遇“黑客”》，載《中國科學(xué)報》2014年5月7日第7版。以“憲法上的風(fēng)險預(yù)防義務(wù)”為基礎(chǔ)，(12)參見王旭：《論國家在憲法上的風(fēng)險預(yù)防義務(wù)》，載《法商研究》2019年第5期。針對智能醫(yī)療新興風(fēng)險與傳統(tǒng)風(fēng)險的預(yù)防型立法，(13)參見任穎：《從回應(yīng)型到預(yù)防型的公共衛(wèi)生立法》，載《法制與社會發(fā)展》2020年第4期。成為智能醫(yī)療算法審查立法的關(guān)鍵環(huán)節(jié)。

(二)智能醫(yī)療算法分發(fā)及自主應(yīng)用對健康公平產(chǎn)生雙向影響效應(yīng)

算法公平并不局限于市場公平，更包括健康公平、社會公平等廣泛含義。算法不僅是撬動競爭行為的杠桿，而且成為影響健康公平的重要因素；“以算法達(dá)成更隱蔽的共謀”，不僅影響市場公平，更給健康公平保障帶來挑戰(zhàn)。(14)參見孫晉：《數(shù)字平臺的反壟斷監(jiān)管》，載《中國社會科學(xué)》2021年第5期。《國務(wù)院反壟斷委員會關(guān)于平臺經(jīng)濟(jì)領(lǐng)域的反壟斷指南》第5條至第8條對基于算法實(shí)施的排除、限制競爭行為作出規(guī)定，第14、15條對通過算法設(shè)置限制或障礙的方式作出規(guī)制，第17條規(guī)定了差異性算法與差別待遇的認(rèn)定條件，第21條規(guī)定執(zhí)法機(jī)構(gòu)可以在特定情形下要求企業(yè)修改算法，但智能醫(yī)療算法對健康公平的影響尚未有專項立法加以規(guī)定。智能時代健康公平的實(shí)現(xiàn)，需要智能醫(yī)療研發(fā)企業(yè)恪守醫(yī)療市場公平競爭秩序，防范“算法引發(fā)的偏見、歧視和支配”對健康公平造成的不利影響。(15)參見汪慶華：《算法透明的多重維度和算法問責(zé)》，載《比較法研究》2020年第6期。智能醫(yī)療算法分發(fā)具備定向投送和引導(dǎo)功能，當(dāng)智能醫(yī)療企業(yè)“構(gòu)建公正、不含偏見的算法”時，算法分發(fā)會有利于實(shí)現(xiàn)更加高效與公平的健康決策；(16)參見陸凱：《美國算法治理政策與實(shí)施進(jìn)路》，載《環(huán)球法律評論》2020年第3期。當(dāng)智能醫(yī)療算法歧視通過聚類和分類算法、“基于統(tǒng)計回歸的專家排序”方法等應(yīng)用，(17)參見唐林垚：《公共衛(wèi)生領(lǐng)域算法治理的實(shí)現(xiàn)途徑及法律保障》，載《法學(xué)評論》2021年第3期。影響患者選擇最匹配醫(yī)療機(jī)構(gòu)時，則帶來負(fù)向的結(jié)果，直接制約健康公平的實(shí)現(xiàn)。智能醫(yī)療算法的開發(fā)普及對健康公平產(chǎn)生雙向影響，也給算法審查立法帶來新的課題。

智能醫(yī)療算法分發(fā)及自主應(yīng)用對健康公平的消極影響，主要表現(xiàn)為算法“技術(shù)性歧視”。(18)徐琳：《人工智能推算技術(shù)中的平等權(quán)問題之探討》，載《法學(xué)評論》2019年第3期。以效率為導(dǎo)向的算法設(shè)計“給傳統(tǒng)的平等權(quán)保護(hù)帶來危機(jī)”，“算法黑箱造成的透明度缺失”不利于健康公平的實(shí)現(xiàn)。(19)參見崔靖梓：《算法歧視挑戰(zhàn)下平等權(quán)保護(hù)的危機(jī)與應(yīng)對》，載《法律科學(xué)(西北政法大學(xué)學(xué)報)》2019年第3期。智能醫(yī)療系統(tǒng)算法黑箱、算法歧視，會直接影響健康公平可及，可能對“某些群體造成歧視”，(20)鄭智航、徐昭曦：《大數(shù)據(jù)時代算法歧視的法律規(guī)制與司法審查——以美國法律實(shí)踐為例》，載《比較法研究》2019年第4期。引發(fā)“數(shù)據(jù)歧視并導(dǎo)致了權(quán)利侵害”。(21)王聰：《“共同善”維度下的算法規(guī)制》，載《法學(xué)》2019年第12期。不論是患者查詢醫(yī)療服務(wù)機(jī)構(gòu)，還是醫(yī)療機(jī)構(gòu)選擇智能醫(yī)療合作企業(yè)，均處于隱藏的算法分發(fā)的支配下。患者獲取醫(yī)療資源信息、醫(yī)療機(jī)構(gòu)的數(shù)據(jù)讀取、智能診療系統(tǒng)的輸出結(jié)果，均可能受到算法黑箱、信息繭房的影響。智能醫(yī)療算法分發(fā)、算法篩選可能加劇醫(yī)患信息的不平衡，影響醫(yī)患需求的匹配度，對健康社會權(quán)利的實(shí)現(xiàn)造成不利影響。算法的不公平直接影響健康公平可及，影響衛(wèi)生健康服務(wù)與醫(yī)療保障的均等可及。智能時代的健康公平保障面臨新的困境。從根源上看，智能醫(yī)療產(chǎn)業(yè)發(fā)展與基本醫(yī)療行業(yè)公益性存在一定矛盾。智能醫(yī)療產(chǎn)業(yè)發(fā)展以經(jīng)濟(jì)效益為主要驅(qū)動力，需要商業(yè)化、產(chǎn)業(yè)化的激勵，來推動智能醫(yī)療技術(shù)的創(chuàng)新和突破；而基本醫(yī)療行業(yè)則承載著公共健康保障與生命安全維護(hù)的重要任務(wù)，需要立足醫(yī)療行為、醫(yī)療關(guān)系、醫(yī)療結(jié)構(gòu)，來推進(jìn)整個社會健康公平發(fā)展，實(shí)現(xiàn)社會的公平正義。利益協(xié)調(diào)和立法融合，成為智能技術(shù)在醫(yī)療機(jī)構(gòu)診斷和治療、日常健康監(jiān)測與疾病預(yù)警等方面應(yīng)用面臨的新問題。

智能醫(yī)療新業(yè)態(tài)的發(fā)展亦會對健康公平產(chǎn)生積極影響。智能醫(yī)療系統(tǒng)的開發(fā)普及和臨床應(yīng)用，能夠化解醫(yī)療資源的有限性與日益擴(kuò)大的醫(yī)療需求之間的矛盾，提高優(yōu)質(zhì)醫(yī)療資源的覆蓋面。一方面，通過智能醫(yī)療技術(shù)的臨床應(yīng)用，醫(yī)療機(jī)構(gòu)能夠突破地域和時間的限制，為人們提供優(yōu)質(zhì)高效的醫(yī)療衛(wèi)生服務(wù)，彌合人口基數(shù)大背景下醫(yī)療需求與醫(yī)療資源之間的鴻溝，醫(yī)用智能設(shè)備、家用可穿戴式智能系統(tǒng)、公共場所智能健康預(yù)警設(shè)備的推廣，使人們隨時隨地可以監(jiān)測自己的健康狀況，并根據(jù)智能系統(tǒng)建議及時進(jìn)行防范，避免延誤最佳治療時機(jī)；另一方面，智能醫(yī)療算法技術(shù)的應(yīng)用，能夠為行動不便或突發(fā)疾病而無法尋求醫(yī)療救助的群體提供幫助，智能合約能夠創(chuàng)設(shè)“基于邏輯的自動執(zhí)行結(jié)構(gòu)”，(22)余成峰：《法律的“死亡”：人工智能時代的法律功能危機(jī)》，載《華東政法大學(xué)學(xué)報》2018年第2期。當(dāng)智能系統(tǒng)發(fā)現(xiàn)用戶健康指數(shù)異常時能夠進(jìn)行自動掛號預(yù)約，使特殊群體及時獲得醫(yī)療救治。智能醫(yī)療算法的臨床應(yīng)用，能夠從總體上提高優(yōu)質(zhì)醫(yī)療資源的覆蓋面。與競爭法視角對企業(yè)的監(jiān)管和規(guī)制不同，衛(wèi)生法視角的智能醫(yī)療算法審查不應(yīng)采取單向度規(guī)制的路徑，而應(yīng)立足智能醫(yī)療算法對健康公平的雙向影響，推動立法保障與立法規(guī)制的融合發(fā)展。

(三)智能醫(yī)療爬蟲算法使醫(yī)療健康及生物識別信息保護(hù)面臨挑戰(zhàn)

智能醫(yī)療算法應(yīng)用所帶來的新的風(fēng)險和問題，不僅包括健康風(fēng)險，而且涉及醫(yī)療健康信息安全風(fēng)險；不僅涉及個人信息安全，更關(guān)系國家生物信息安全。與企業(yè)數(shù)據(jù)庫中的消費(fèi)偏好、地址信息等私益內(nèi)容不同，醫(yī)療衛(wèi)生信息數(shù)據(jù)涉及具有高度可識別性的生物樣本信息；對數(shù)據(jù)信息的加工利用也不局限于身份識別與定位，而是擴(kuò)展到群體乃至種族識別與分析范疇，構(gòu)成對群體利益和公共安全維護(hù)的潛在威脅。在“算法嵌入式擴(kuò)張”背景下，“算法平臺化運(yùn)行與公共利益隔離”。(23)張凌寒：《算法規(guī)制的迭代與革新》，載《法學(xué)論壇》2019年第2期。智能醫(yī)療平臺運(yùn)行如何符合公共健康保護(hù)要求，成為算法審查面臨的首要問題。解決這一問題的立法思路主要有兩種，一是民法典的知情同意規(guī)定，《中華人民共和國民法典》第1034條明確將生物識別信息、健康信息納入受法律保護(hù)的信息范圍，第1035條將自然人或其監(jiān)護(hù)人同意作為信息處置的一般條件，如果個體或組織未經(jīng)同意處理生物識別信息、健康信息，需要承擔(dān)侵權(quán)責(zé)任；二是《個人信息保護(hù)法》的法益衡量路徑，《個人信息保護(hù)法》第28條將生物識別、醫(yī)療健康信息列入敏感個人信息，規(guī)定只有符合特定目的、嚴(yán)格保護(hù)、充分必要的前提下，才能對敏感個人信息進(jìn)行處理。但針對智能醫(yī)療算法應(yīng)用的知情同意，面臨知情權(quán)與商業(yè)秘密保護(hù)的沖突，法益衡量亦面臨健康數(shù)據(jù)的合理使用與國家生物信息安全的平衡問題。智能醫(yī)療算法審查面臨技術(shù)與組織兩個方面的問題和隱患。

在技術(shù)方面，智能醫(yī)療算法技術(shù)的應(yīng)用不斷消解人們對于自身醫(yī)療信息的控制能力。智能醫(yī)療以信息網(wǎng)絡(luò)為依托，以“大數(shù)據(jù)的積累和挖掘”為支撐，(24)朱曉明：《走向數(shù)字經(jīng)濟(jì)》，上海交通大學(xué)出版社2018年版，第6頁。以算法運(yùn)行為脈絡(luò)，通過海量生物信息挖掘、數(shù)據(jù)整合，實(shí)現(xiàn)智能空間醫(yī)療數(shù)據(jù)存儲、交換、訪問、使用、處理的開放共享。(25)[美]格雷格·舒爾茨：《云和虛擬數(shù)據(jù)存儲網(wǎng)絡(luò)》，李洪濤等譯，國防工業(yè)出版社2017年版，第27頁。智能醫(yī)療爬蟲算法收集大量數(shù)據(jù)，并能夠運(yùn)用算法進(jìn)行大數(shù)據(jù)分析，進(jìn)行精準(zhǔn)的用戶、群體乃至種族畫像，使醫(yī)療健康及生物識別信息保護(hù)面臨更大挑戰(zhàn)。智能傳感器能夠在醫(yī)療過程自主開啟信息收集功能，醫(yī)療器械與醫(yī)療設(shè)備等硬件、醫(yī)療輔助診斷與決策支持等軟件系統(tǒng)能夠廣泛收集生物信息。智能臨床病理診斷及醫(yī)療救治、智能核酸檢測及傳染病追蹤、智能健康護(hù)理及流行病學(xué)調(diào)查的開展，采集和分析細(xì)胞樣本、基因信息、機(jī)能指數(shù)等；可穿戴式智能醫(yī)療設(shè)備及公共場所健康監(jiān)測設(shè)備的應(yīng)用，更是將樣本數(shù)據(jù)采集與控制的范圍從就診患者擴(kuò)大至社會群體，引發(fā)個體醫(yī)療健康數(shù)據(jù)安全與群體生物信息安全問題。智能醫(yī)療算法審查需要解決技術(shù)治理面臨的新問題。

智能醫(yī)療算法審查還面臨組織治理領(lǐng)域的新問題。一方面，智能醫(yī)療爬蟲算法的應(yīng)用極大拓展了醫(yī)療健康數(shù)據(jù)采集的范圍，華生(Watson)等全球性智能醫(yī)療企業(yè)已經(jīng)進(jìn)駐我國，其經(jīng)手和控制的醫(yī)療數(shù)據(jù)集正在不斷遞增，相應(yīng)的生物信息安全隱患也不斷擴(kuò)大，跨境健康數(shù)據(jù)安全問題亟待解決；另一方面，人工智能為醫(yī)聯(lián)體多學(xué)科聯(lián)合診療提供支持，同時也打破醫(yī)患關(guān)系的傳統(tǒng)邊界，帶來“整合醫(yī)療組織”新型問題，(26)陳多等：《城市醫(yī)療聯(lián)合體績效考核現(xiàn)狀、問題及對策分析》，載《中國衛(wèi)生資源》2019年第6期。掌握醫(yī)療健康數(shù)據(jù)信息的主體除醫(yī)療衛(wèi)生機(jī)構(gòu)之外，還包括智能醫(yī)療技術(shù)研發(fā)方、運(yùn)營商等，以數(shù)據(jù)共享、算法公開為基礎(chǔ)的醫(yī)療人工智能發(fā)展，推動新興技術(shù)與生產(chǎn)生活的深度融合，也導(dǎo)致特定國家或地區(qū)的生物信息能夠被多個主體追蹤，引發(fā)基于智能醫(yī)療組織系統(tǒng)互聯(lián)互通的信息安全問題。針對第一個方面的問題，2021年《數(shù)據(jù)出境安全評估辦法(征求意見稿)》發(fā)布，其中第4條規(guī)定符合法定情形的重要數(shù)據(jù)出境應(yīng)進(jìn)行數(shù)據(jù)出境安全評估申報，但對于重要數(shù)據(jù)的范圍，尤其是跨境醫(yī)療背景下醫(yī)療數(shù)據(jù)傳輸?shù)奶厥庑晕从枰栽敿?xì)界定。針對第二個方面的問題，《衛(wèi)生行業(yè)信息安全等級保護(hù)工作的指導(dǎo)意見》將保護(hù)居民健康信息安全作為工作要求，并設(shè)置了自主保護(hù)、指導(dǎo)保護(hù)、監(jiān)督保護(hù)、強(qiáng)制保護(hù)、專控保護(hù)五級工作機(jī)制，指出三級甲等醫(yī)院核心業(yè)務(wù)信息系統(tǒng)的保護(hù)級別原則上不低于第三級，但在醫(yī)療機(jī)構(gòu)之間的跨院數(shù)據(jù)共享背景下，醫(yī)療機(jī)構(gòu)所掌握的健康信息規(guī)模與其評級可能并不對應(yīng)，不論是哪一級的醫(yī)療機(jī)構(gòu)，均可在健康信息平臺獲取共享醫(yī)療數(shù)據(jù)。智能醫(yī)療算法審查的立足點(diǎn)應(yīng)從醫(yī)療機(jī)構(gòu)評級轉(zhuǎn)向醫(yī)療過程監(jiān)管，及時更新立法制度設(shè)計。

二、智能醫(yī)療算法審查立法路徑的法理辨析

智能醫(yī)療算法審查立法究竟是采取單向度規(guī)制模式、概括式算法審查立法還是融合型立法，如何在現(xiàn)有部門法分立格局中實(shí)現(xiàn)算法風(fēng)險防控的跨部門融合，怎樣有效應(yīng)對嵌入式的智能醫(yī)療算法技術(shù)和組織系統(tǒng)安全隱患，成為智慧法治與衛(wèi)生法治建設(shè)的共同議題。

(一)傳統(tǒng)的法律部門劃分與智能醫(yī)療算法審查“領(lǐng)域法”融合

“傳統(tǒng)部門法分析框架”難以對“算法侵害及算法自動決策”展開系統(tǒng)規(guī)制。(27)王瑩：《算法侵害類型化研究與法律應(yīng)對——以〈個人信息保護(hù)法〉為基點(diǎn)的算法規(guī)制擴(kuò)展構(gòu)想》，載《法制與社會發(fā)展》2021年第6期。部門法學(xué)是農(nóng)業(yè)文明和工業(yè)文明時代的產(chǎn)物，以“靜態(tài)的閉合的規(guī)范”為主要內(nèi)容。智能時代的立法“以動態(tài)的開放的問題”為導(dǎo)向，實(shí)現(xiàn)“對傳統(tǒng)部門法學(xué)的超越和有益補(bǔ)充”，形成具有“綜合性、交融性的特點(diǎn)”的“領(lǐng)域法學(xué)”，并整體性地對新興問題進(jìn)行系統(tǒng)回應(yīng)，“避免機(jī)械劃歸部門法導(dǎo)致”“僵化和碎片化”。(28)楊文德：《領(lǐng)域法學(xué)崛起因應(yīng)新興學(xué)科挑戰(zhàn)》，載《中國社會科學(xué)報》2018年11月21日第5版。以“部門法分立格局”展開智能醫(yī)療算法審查立法，割裂了“風(fēng)險控制的整體主義視角”。如果僅從某一部門法出發(fā)進(jìn)行規(guī)制，“無助于風(fēng)險控制工具之間的協(xié)調(diào)”，(29)宋亞輝：《風(fēng)險控制的部門法思路及其超越》，載《中國社會科學(xué)》2017年第10期。較難滿足智能醫(yī)療算法審查的行業(yè)性、專業(yè)化、個殊性要求，無法系統(tǒng)防控智能醫(yī)療領(lǐng)域的醫(yī)源型與藥源型風(fēng)險。智能醫(yī)療算法決策所引發(fā)的醫(yī)源型與藥源型風(fēng)險具有特殊性、行業(yè)性，并具有多點(diǎn)源、多觸發(fā)面特征。智能醫(yī)療法律關(guān)系涉及的主體眾多、內(nèi)容復(fù)雜、覆蓋面廣，并跨越了傳統(tǒng)的醫(yī)療空間與智能空間。智能醫(yī)療算法決策風(fēng)險防控只有突破部門法的壁壘，將不同風(fēng)險控制措施融入醫(yī)源型與藥源型風(fēng)險防控過程，才能夠形成保護(hù)人民生命健康的嚴(yán)密防護(hù)網(wǎng)。目前的算法審查主要有三種路徑，一是價值層面的算法倫理審查、公平機(jī)器學(xué)習(xí)。在此基礎(chǔ)上，不同的算法審查方式需要得到有效整合，智能醫(yī)療算法決策風(fēng)險立法的跨部門融合亟待實(shí)現(xiàn)。

智能醫(yī)療算法審查“領(lǐng)域法”的融合，立足風(fēng)險立法跨部門融合訴求，通過“融合與體系化構(gòu)造”，形成超越“分立格局的獨(dú)特結(jié)構(gòu)”；(30)宋亞輝：《風(fēng)險立法的公私法融合與體系化構(gòu)造》，載《法商研究》2021年第3期。立足“領(lǐng)域特殊性”，克服“領(lǐng)域知識壁壘”，(31)王祿生：《論法律大數(shù)據(jù)“領(lǐng)域理論”的構(gòu)建》，載《中國法學(xué)》2020年第2期。形成以“問題為導(dǎo)向”，以“整合性、多維度”“應(yīng)用性和協(xié)同性”為特征的立法邏輯；(32)劉劍文：《論領(lǐng)域法學(xué)：一種立足新興交叉領(lǐng)域的法學(xué)研究范式》，載《政法論叢》2016年第5期。從整體主義視角出發(fā)，“制衡算法權(quán)力”，推動“規(guī)制范式重構(gòu)”，(33)曹博：《算法歧視的類型界分與規(guī)制范式重構(gòu)》，載《現(xiàn)代法學(xué)》2021年第4期。為智能醫(yī)療算法風(fēng)險防控奠定規(guī)范基礎(chǔ)?！吨腥A人民共和國民法典》第1008條規(guī)定，為醫(yī)藥、疾病防治方法、醫(yī)療器械研發(fā)進(jìn)行臨床試驗前，應(yīng)明確可能的發(fā)生風(fēng)險，并履行告知義務(wù)；《基本醫(yī)療衛(wèi)生與健康促進(jìn)法》第32、47條對醫(yī)療風(fēng)險告知、醫(yī)療風(fēng)險分擔(dān)機(jī)制做出規(guī)定，第71條設(shè)置了“疾病和健康危險因素監(jiān)測、調(diào)查和風(fēng)險評估制度”；《中華人民共和國醫(yī)師法》第45條規(guī)定疾病防控機(jī)構(gòu)、基層醫(yī)療衛(wèi)生機(jī)構(gòu)等，應(yīng)配置公共衛(wèi)生醫(yī)師負(fù)責(zé)風(fēng)險評估研判等工作，但立法之間的銜接有待加強(qiáng)，新興風(fēng)險與傳統(tǒng)風(fēng)險防控有待深度融合。適應(yīng)疊加型的醫(yī)源型與藥源型風(fēng)險防控要求，智能醫(yī)療算法審查立法需要形成超越傳統(tǒng)法律部門劃分的行業(yè)性、領(lǐng)域性融合立法。其一，針對智能醫(yī)療算法決策風(fēng)險的特殊性，實(shí)現(xiàn)風(fēng)險防控立法范圍拓展與結(jié)構(gòu)融合。智能醫(yī)療算法決策風(fēng)險呈現(xiàn)傳統(tǒng)風(fēng)險與新興風(fēng)險、個體健康風(fēng)險與公共健康風(fēng)險相交織的特征，智能醫(yī)療算法臨床應(yīng)用過程中可能引發(fā)的健康風(fēng)險還從私人風(fēng)險向公共風(fēng)險擴(kuò)展，并呈現(xiàn)高度不確定性特征。智能醫(yī)療算法審查立法以領(lǐng)域立法、融合立法為路徑，不僅有效應(yīng)對相對可控的傳統(tǒng)風(fēng)險，而且對高度不確定的新興風(fēng)險作出科學(xué)預(yù)判；不僅需要從私權(quán)利角度保護(hù)個體的生命健康權(quán)，而且從社會權(quán)角度充分保障公共健康安全。其二，在智能醫(yī)療算法審查立法中確立風(fēng)險預(yù)防原則，以有效防范化解衛(wèi)生健康領(lǐng)域重大風(fēng)險為目標(biāo)，推動智能醫(yī)療算法風(fēng)險立法與基本醫(yī)療立法的有效銜接。在推進(jìn)智能醫(yī)療算法審查融合立法的過程中，不能將風(fēng)險立法條款機(jī)械嵌入基本醫(yī)療立法結(jié)構(gòu)，而要通過風(fēng)險立法與傳統(tǒng)領(lǐng)域立法的跨部門融合，協(xié)同推進(jìn)傳統(tǒng)風(fēng)險與新興風(fēng)險規(guī)制，提升智能時代醫(yī)療立法的整體效能。

(二)單向度規(guī)制模式與智能醫(yī)療算法審查融合立法的辨析

智能立法的單向度規(guī)制模式通過對“算法主體行為的法律規(guī)制”，(34)金夢：《立法倫理與算法正義——算法主體行為的法律規(guī)制》，載《政法論壇》2021年第1期?；庵悄茚t(yī)療算法分發(fā)及自主應(yīng)用的“正當(dāng)性隱憂和倫理性風(fēng)險”，(35)李訓(xùn)虎：《刑事司法人工智能的包容性規(guī)制》，載《中國社會科學(xué)》2021年第2期。防范算法黑箱、算法歧視所導(dǎo)致的差別待遇，防止智能算法“對人公開的或隱蔽的宰制”，(36)孫偉平：《人工智能與人的“新異化”》，載《中國社會科學(xué)》2020年第12期。但單向度規(guī)制模式也存在明顯的局限性。在立法導(dǎo)向方面，單向度規(guī)制模式以控制與監(jiān)管為重心，通過事前審查、事中控制與事后監(jiān)管，實(shí)現(xiàn)對智能醫(yī)療算法應(yīng)用的全方位管控，防范智能醫(yī)療算法的消極影響，但對不利因素的遏制，并不能夠直接導(dǎo)致健康公平可及的實(shí)現(xiàn)，也難以充分釋放智能醫(yī)療算法對健康公平的積極作用。智能醫(yī)療算法的普及在節(jié)省醫(yī)療成本的同時，有利于實(shí)現(xiàn)優(yōu)質(zhì)醫(yī)療資源在不同地域、不同行業(yè)、不同群體范圍的普惠共享，促進(jìn)健康社會權(quán)利的實(shí)現(xiàn)。健康社會權(quán)利屬于積極權(quán)利的范疇，需要“采取積極有效的措施來保障其實(shí)現(xiàn)”。(37)廣州大學(xué)人權(quán)理論研究課題組：《中國特色社會主義人權(quán)理論體系論綱》，載《法學(xué)研究》2015年第2期。單向度規(guī)制模式缺乏積極有效的授權(quán)，“缺乏同等程度的保護(hù)激勵”，不易在立法的引導(dǎo)、激勵、保障作用層面形成促進(jìn)健康公平的綜合效能，難以妥當(dāng)處理智能醫(yī)療算法應(yīng)用對健康公平產(chǎn)生的雙向影響效應(yīng)?！傲⒎ㄈ绻畈幌嗳荨保瑯O易造成“規(guī)制對象抵觸”“執(zhí)行權(quán)威受損”等現(xiàn)象的發(fā)生。(38)參見周漢華：《探索激勵相容的個人數(shù)據(jù)治理之道——中國個人信息保護(hù)法的立法方向》，載《法學(xué)研究》2018年第2期。在關(guān)涉人民生命健康的智能醫(yī)療算法審查立法領(lǐng)域，不能片面地強(qiáng)調(diào)法律監(jiān)管與規(guī)制，而要形成促進(jìn)智能醫(yī)療算法創(chuàng)新的制度架構(gòu)，積極引導(dǎo)醫(yī)療人工智能新技術(shù)新業(yè)態(tài)的健康發(fā)展。

針對智能醫(yī)療算法普及對健康公平產(chǎn)生的雙向影響，智能醫(yī)療算法審查融合立法，既將特殊群體的傾斜性保護(hù)融入智能醫(yī)療過程，又防止智能醫(yī)療算法的身份性歧視；既充分發(fā)揮智能醫(yī)療算法在優(yōu)質(zhì)醫(yī)療資源普惠共享方面的積極作用，又克服智能醫(yī)療算法分發(fā)與算法篩選對健康公平的不利影響。智能醫(yī)療算法審查融合立法邏輯主要分為兩個方面。其一，明確劃定算法審查的約束效力與保障效力的邊界，在立法規(guī)制與法律保障的雙重張力間找到最佳的平衡點(diǎn)。智能醫(yī)療算法分發(fā)以“過濾信息”為方式“降低認(rèn)知負(fù)擔(dān)”，(39)蔣舸：《作為算法的法律》，載《清華法學(xué)》2019年第1期。提高患者對醫(yī)療服務(wù)的認(rèn)知效率，但也正因為算法選擇“過濾泡”(filter bubble)的存在，而使患者尋求醫(yī)療救助的行為受到算法分發(fā)的控制，可能在客觀上降低醫(yī)患需求的匹配度，影響健康公平的實(shí)現(xiàn)。智能醫(yī)療算法審查融合立法以法律平衡為出發(fā)點(diǎn)，既避免智能醫(yī)療算法應(yīng)用對健康公平產(chǎn)生的不利影響，又“不損及自動決策算法創(chuàng)新價值”；(40)林洹民：《個人對抗商業(yè)自動決策算法的私權(quán)設(shè)計》，載《清華法學(xué)》2020年第4期。既“強(qiáng)化算法安全意識”，也促進(jìn)“更為高效和智能的算法”研發(fā)和創(chuàng)新；(41)楊蓉：《從信息安全、數(shù)據(jù)安全到算法安全——總體國家安全觀視角下的網(wǎng)絡(luò)法律治理》，載《法學(xué)評論》2021年第1期。既強(qiáng)調(diào)“算法服務(wù)提供者的責(zé)任”，也鼓勵算法研發(fā)和運(yùn)營企業(yè)“創(chuàng)新合規(guī)措施”；(42)張吉豫：《構(gòu)建多元共治的算法治理體系》，載《法律科學(xué)(西北政法大學(xué)學(xué)報)》2022年第1期。既不因規(guī)制不足而導(dǎo)致患者權(quán)益受損，也不因過度規(guī)制而抑制智能醫(yī)療創(chuàng)新發(fā)展活力。其二，在合理的限度內(nèi)拓展醫(yī)療人工智能的應(yīng)用范圍，提升智能醫(yī)療算法審查立法與智能社會運(yùn)行的兼容度，通過保障、激勵、支持醫(yī)療人工智能產(chǎn)業(yè)化，解決醫(yī)療資源與社會需求之間的沖突，服務(wù)國家發(fā)展戰(zhàn)略，激活醫(yī)療人工智能發(fā)展活力。智能醫(yī)療算法普及是醫(yī)療健康事業(yè)升級發(fā)展的重要驅(qū)動力。通過智能醫(yī)療算法審查融合立法，克服單向度規(guī)制模式的弊病，以動態(tài)分級授權(quán)立法代替機(jī)械化的算法規(guī)制立法，是最大限度地發(fā)揮智能醫(yī)療算法推廣積極作用的重要前提。

(三)概括式算法審查與嵌入式的智能醫(yī)療算法審查融合立法

算法審查機(jī)制主要有兩種，一是企業(yè)內(nèi)部審查形成的“自我規(guī)制型”問責(zé)機(jī)制，(43)參見虞青松：《算法行政：社會信用體系治理范式及其法治化》，載《法學(xué)論壇》2020年第2期。又可以細(xì)分為保護(hù)自主經(jīng)營權(quán)與設(shè)置數(shù)據(jù)控制者義務(wù)兩種主張；二是外部審查評估機(jī)制，又可以分為部門協(xié)同型和委員會建制型兩種算法審查機(jī)制。(44)參見張恩典：《人工智能算法決策對行政法治的挑戰(zhàn)及制度因應(yīng)》，載《行政法學(xué)研究》2020年第4期。其中，自主經(jīng)營權(quán)論強(qiáng)調(diào)算法的研發(fā)和應(yīng)用屬于企業(yè)自主經(jīng)營范圍，依靠企業(yè)內(nèi)部管理加以規(guī)范，無需引入外部干預(yù)；數(shù)據(jù)控制者義務(wù)論認(rèn)為控制者應(yīng)當(dāng)充分考慮算法運(yùn)行與數(shù)據(jù)處理可能造成的不利影響，采取措施防范隱患的發(fā)生，并在必要時審查和更新相應(yīng)的保護(hù)措施，如歐盟《通用數(shù)據(jù)保護(hù)條例》(GDPR)第24條對控制者的義務(wù)作出規(guī)定，通過強(qiáng)化數(shù)據(jù)控制者義務(wù)，確保算法的公開、透明、公正；部門協(xié)同型算法審查以網(wǎng)信、工信、市場監(jiān)管等部門執(zhí)法為依托，開展算法綜合治理，如《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》提出要強(qiáng)化統(tǒng)籌協(xié)同治理，會同多部門協(xié)同推進(jìn)算法安全治理；委員會建制型算法審查以專門的審查機(jī)構(gòu)建設(shè)為基礎(chǔ)，致力于提升算法審查的專業(yè)性、科學(xué)性。算法的內(nèi)部審查與外部審查均采用概括式審查模式，并不區(qū)分具體的領(lǐng)域或行業(yè)，而是通過概括式、一般性的審查推動算法治理。從內(nèi)容上看，概括式算法審查，以歸納和概括智能技術(shù)在不同行業(yè)應(yīng)用中遵循的共同規(guī)律、基本原則為基礎(chǔ)，確立算法審查的一般規(guī)則、統(tǒng)一模式與共同標(biāo)準(zhǔn)，并依照統(tǒng)一標(biāo)準(zhǔn)，對智能算法在不同行業(yè)、不同領(lǐng)域的應(yīng)用進(jìn)行審核和評價。從形式上看，概括式算法審查對智能醫(yī)療、智慧交通等領(lǐng)域的法律關(guān)系調(diào)整具有宏觀引領(lǐng)作用，但忽視了醫(yī)療人工智能與自動駕駛汽車等行業(yè)的算法決策差異巨大。即便是在同一行業(yè)當(dāng)中，醫(yī)療預(yù)警與診療智能算法亦不相同。概括式算法審查，難以有效回應(yīng)智能醫(yī)療算法應(yīng)用的差異化立法需求，不能立足醫(yī)療預(yù)警、疾病防治等環(huán)節(jié)生物信息安全保護(hù)的特殊性，化解智能醫(yī)療經(jīng)營者的數(shù)據(jù)利益與醫(yī)療信息安全公共利益之間的矛盾。

算法被“內(nèi)嵌于不同的場景”，“算法規(guī)制必須采取場景化的規(guī)制路徑”，“超越形式主義的法律規(guī)制”，立足不同領(lǐng)域、不同業(yè)態(tài)的“場景化特征與原理”，“對算法采取不同的規(guī)制方式”。(45)丁曉東：《論算法的法律規(guī)制》，載《中國社會科學(xué)》2020第12期。智能醫(yī)療算法通過“嵌入式軟件”及“智能技術(shù)控制各種電子設(shè)備”，(46)薄璐：《產(chǎn)教融合背景下計算機(jī)嵌入式軟件安全技術(shù)發(fā)展思考——評〈嵌入式軟件安全保證技術(shù)〉》，載《安全與環(huán)境學(xué)報》2020年第5期。引發(fā)嵌入式的智能醫(yī)療算法系統(tǒng)安全隱患。一方面，獲取醫(yī)療健康信息的主體范圍不斷擴(kuò)展，除醫(yī)療衛(wèi)生機(jī)構(gòu)能夠獲取患者信息之外，智能醫(yī)療運(yùn)營商亦可通過平臺捕獲醫(yī)療健康及生物識別信息，并運(yùn)用算法大規(guī)模識別和分析健康信息；另一方面，隨著智能技術(shù)嵌入疾病診斷、床位分配、醫(yī)療救治過程，醫(yī)療過程所面臨的安全隱患不僅來自醫(yī)療技術(shù)及機(jī)構(gòu)，而且源自智能醫(yī)療技術(shù)及組織系統(tǒng)。嵌入式的智能醫(yī)療算法審查融合立法從兩個方面回應(yīng)現(xiàn)實(shí)問題。其一，通過控制者義務(wù)設(shè)置與審查評估機(jī)構(gòu)建設(shè)的有機(jī)結(jié)合，防范智能醫(yī)療所引發(fā)的醫(yī)療健康及生物識別信息安全隱患，并拓展控制者義務(wù)設(shè)置與審查評估機(jī)構(gòu)的范圍，形成防范智能醫(yī)療安全隱患的防護(hù)網(wǎng)絡(luò)?？刂普吡x務(wù)主體不僅限于智能醫(yī)療企業(yè)，還包括醫(yī)療衛(wèi)生機(jī)構(gòu)等可能收集、利用醫(yī)療健康數(shù)據(jù)的個人或組織；外部審查不僅包括網(wǎng)信等行政主管部門和專門的委員會，還可以引入第三方機(jī)構(gòu)展開算法評估，以落實(shí)《人工智能深度學(xué)習(xí)算法評估規(guī)范》的技術(shù)標(biāo)準(zhǔn)要求。其二，嵌入式的智能醫(yī)療算法審查融合立法，不僅關(guān)注智能醫(yī)療算法技術(shù)安全隱患，而且針對智能醫(yī)療組織系統(tǒng)所涉及的復(fù)合性法律關(guān)系，通過技術(shù)治理與組織治理的有機(jī)結(jié)合，化解智能醫(yī)療算法的嵌入式技術(shù)及組織系統(tǒng)安全隱患。“構(gòu)建一體融合的法律體系”，推動“雙重空間、人機(jī)混合”的新型融合立法，(47)參見馬長山：《智能互聯(lián)網(wǎng)時代的法律變革》，載《法學(xué)研究》2018年第4期。是智能醫(yī)療算法審查立法的重要路徑。

三、智能醫(yī)療算法審查的融合型立法建議

建議增設(shè)智能醫(yī)療算法決策風(fēng)險最小化的命令性規(guī)范、智能醫(yī)療算法自主應(yīng)用的動態(tài)分級授權(quán)制度、預(yù)警及診療算法模塊信息爬取的限制性規(guī)范，推動傳統(tǒng)風(fēng)險與新興風(fēng)險立法、管理型立法與促進(jìn)型立法、技術(shù)治理與組織治理領(lǐng)域立法融合。

(一)傳統(tǒng)風(fēng)險與新興風(fēng)險立法融合：增設(shè)智能醫(yī)療算法決策風(fēng)險最小化的命令性規(guī)范

智能醫(yī)療算法的應(yīng)用，使醫(yī)療風(fēng)險的范圍從傳統(tǒng)風(fēng)險擴(kuò)展到新興風(fēng)險，呈現(xiàn)傳統(tǒng)風(fēng)險與新興風(fēng)險相交織的特征。因此，需要通過傳統(tǒng)風(fēng)險與新興風(fēng)險立法融合，確保算法決策不會使患者面臨與預(yù)期利益不相稱的風(fēng)險；通過設(shè)置智能醫(yī)療算法決策風(fēng)險最小化的命令性規(guī)范，系統(tǒng)防控智能醫(yī)療算法引發(fā)的醫(yī)源型與藥源型風(fēng)險。建議從三個方面出發(fā)，設(shè)置智能醫(yī)療算法決策風(fēng)險最小化的命令性規(guī)范。第一，將算法風(fēng)險評估設(shè)置為智能醫(yī)療的前置性審查程序，醫(yī)用智能設(shè)備、公共場所智能醫(yī)療預(yù)警設(shè)施、家用健康監(jiān)測設(shè)備在投放市場前，應(yīng)當(dāng)系統(tǒng)評估其算法可能引發(fā)的醫(yī)源型與藥源型風(fēng)險，并將風(fēng)險評估報告提交主管部門審核。歐盟《通用數(shù)據(jù)保護(hù)條例》確立的數(shù)據(jù)保護(hù)影響評估制度，不能代替算法決策風(fēng)險評估。數(shù)據(jù)與算法是智能社會運(yùn)行的雙翼，數(shù)據(jù)是原料內(nèi)核，算法是加工方法，僅對數(shù)據(jù)存儲和利用進(jìn)行規(guī)制，無法避免更具隱蔽性的潛在算法決策風(fēng)險。智能醫(yī)療算法決策風(fēng)險評估是確保算法決策風(fēng)險最小化的基礎(chǔ)性規(guī)定。第二，設(shè)定智能醫(yī)療研發(fā)與運(yùn)營企業(yè)的算法決策風(fēng)險防控義務(wù)，形成智能醫(yī)療算法決策風(fēng)險追蹤的統(tǒng)一標(biāo)準(zhǔn)與技術(shù)性規(guī)定。由于智能醫(yī)療研發(fā)與運(yùn)營企業(yè)均具備獲取醫(yī)療健康信息的可能性，因此，算法決策風(fēng)險防控義務(wù)不能局限于智能醫(yī)療研發(fā)企業(yè)，而應(yīng)擴(kuò)展至智能醫(yī)療運(yùn)營企業(yè)的范圍。2021年年6月，《人工智能醫(yī)療器械注冊審查指導(dǎo)原則(征求意見稿)》發(fā)布，將全生命周期管理與風(fēng)險導(dǎo)向作為注冊審查的基本原則。第三，制定智能醫(yī)療算法決策風(fēng)險評級標(biāo)準(zhǔn)及管理規(guī)定。對健康影響較小的低風(fēng)險智能醫(yī)療過程，由醫(yī)療機(jī)構(gòu)展開常態(tài)化風(fēng)險監(jiān)管；對健康影響較大的中風(fēng)險智能醫(yī)療過程，建議引入第三方機(jī)構(gòu)對醫(yī)療人工智能算法、程序、控制、驗證、更新等過程進(jìn)行評估；對生命健康有重大影響的高風(fēng)險智能醫(yī)療過程，應(yīng)由主管部門介入全過程風(fēng)險管理，對智能醫(yī)療算法臨床應(yīng)用進(jìn)行嚴(yán)格監(jiān)管。

建議通過算法風(fēng)險防控立法、醫(yī)療立法、民法典的跨部門融合，設(shè)置算法決策風(fēng)險最小化準(zhǔn)則的配套規(guī)范。第一，建立智能醫(yī)療算法風(fēng)險防控立法與基本醫(yī)療立法的銜接機(jī)制，設(shè)置智能醫(yī)療算法風(fēng)險識別程序，推動醫(yī)療行為風(fēng)險與智能醫(yī)療介入治療風(fēng)險防控的有效協(xié)同。在現(xiàn)階段，建議在醫(yī)療立法中融入智能醫(yī)療算法審查條款；當(dāng)智能社會發(fā)展到一定階段，建議通過算法審查專項立法，促進(jìn)風(fēng)險最小化準(zhǔn)則在醫(yī)療機(jī)構(gòu)臨床診療、醫(yī)療器械與健康產(chǎn)品管理等規(guī)定中的全面貫徹落實(shí)。第二，對于“瞬間即作出決定的自動化機(jī)器”，(48)劉東亮：《技術(shù)性正當(dāng)程序：人工智能時代程序法和算法的雙重變奏》，載《比較法研究》2020年第5期。需要在已有立法的患者知情同意規(guī)定基礎(chǔ)上，設(shè)置智能醫(yī)療算法應(yīng)用中的健康風(fēng)險告知義務(wù)。《中華人民共和國民法典》第1219條、《基本醫(yī)療衛(wèi)生與健康促進(jìn)法》第32條、《中華人民共和國醫(yī)師法》第25條，規(guī)定醫(yī)療衛(wèi)生人員在診療活動中應(yīng)向患者說明其病情及需要采取的措施，告知手術(shù)、特殊檢查及治療過程的風(fēng)險與替代醫(yī)療方案，并取得患者的明確同意；《中華人民共和國民法典》第1008條還對醫(yī)療技術(shù)研發(fā)風(fēng)險告知義務(wù)作出規(guī)定，強(qiáng)調(diào)應(yīng)以書面形式取得受試者的同意。智能醫(yī)療算法本身是否應(yīng)當(dāng)向社會公開有待商榷，但智能醫(yī)療算法決策可能造成的健康風(fēng)險應(yīng)當(dāng)明確進(jìn)行告知。建議增加智能醫(yī)療算法應(yīng)用中的健康風(fēng)險告知義務(wù)，明確告知智能醫(yī)療算法決策可能帶來的醫(yī)源型與藥源型風(fēng)險，充分尊重和保障患者的知情同意權(quán)，提升智能醫(yī)療算法決策的透明度和算法風(fēng)險防控的整體效能。第三，建立智能醫(yī)療跨科室協(xié)同診斷與跨區(qū)域轉(zhuǎn)診算法風(fēng)險防控方案。智能醫(yī)療算法決策能夠打破醫(yī)療分科的局限，形成跨科室協(xié)同診斷、跨院就診與區(qū)域雙向轉(zhuǎn)診智能系統(tǒng)，相應(yīng)的風(fēng)險防控方案亦須“調(diào)整傳統(tǒng)法律制度的規(guī)制理念”，(49)鄭智航：《人工智能算法的倫理危機(jī)與法律規(guī)制》，載《法律科學(xué)(西北政法大學(xué)學(xué)報)》2021年第1期。以傳統(tǒng)風(fēng)險與新興風(fēng)險立法融合為路徑，細(xì)化不同科室、不同醫(yī)療機(jī)構(gòu)之間的協(xié)調(diào)配合規(guī)則，并準(zhǔn)確區(qū)分智能醫(yī)療新業(yè)態(tài)推進(jìn)中不同主體的新興權(quán)責(zé)要求，及時修訂各個環(huán)節(jié)的操作規(guī)程，系統(tǒng)識別多維度的醫(yī)源型與藥源型風(fēng)險，全方位監(jiān)管和防范介入治療過程中的人機(jī)協(xié)同風(fēng)險。

(二)管理型立法與促進(jìn)型立法融合：設(shè)置智能醫(yī)療算法自主應(yīng)用的動態(tài)分級授權(quán)制度

建議以管理型立法與促進(jìn)型立法融合為基礎(chǔ)，(50)參見李艷芳：《“促進(jìn)型立法”研究》，載《法學(xué)評論》2005年第3期。以動態(tài)分級授權(quán)立法代替機(jī)械化的單向度規(guī)制模式，對智能醫(yī)療算法應(yīng)用進(jìn)行分級監(jiān)管，并分步拓展智能醫(yī)療算法自主應(yīng)用范圍，擴(kuò)展智能醫(yī)療服務(wù)的覆蓋面。通過立法的反向規(guī)制與正向引導(dǎo)雙向融合，有效應(yīng)對智能醫(yī)療算法對健康公平的雙向影響；通過授權(quán)性規(guī)范設(shè)置，激勵、保障、促進(jìn)智能醫(yī)療算法技術(shù)的創(chuàng)新和優(yōu)化，使其不只成為市場良性競爭的推動力量，而且成為踐行醫(yī)療倫理，捍衛(wèi)人民健康的積極助力。在立法宗旨方面，智能醫(yī)療算法自主應(yīng)用的授權(quán)性規(guī)范設(shè)置，以促進(jìn)健康公平可及，激勵醫(yī)療人工智能企業(yè)研發(fā)積極性，服務(wù)國家醫(yī)療人工智能戰(zhàn)略發(fā)展為價值目標(biāo)。在立法技術(shù)方面，智能醫(yī)療算法自主應(yīng)用的授權(quán)性規(guī)范設(shè)置，通過融合立法，提升“智能生產(chǎn)率”，(51)賈根良：《第三次工業(yè)革命與工業(yè)智能化》，載《中國社會科學(xué)》2016年第6期。形成智能醫(yī)療算法應(yīng)用的“秩序系統(tǒng)、賦權(quán)系統(tǒng)與創(chuàng)新系統(tǒng)”，“鼓勵社會單元的創(chuàng)新行為”，并促進(jìn)科技創(chuàng)新發(fā)展“與風(fēng)險防范同步進(jìn)行”。(52)馬長山：《司法人工智能的重塑效應(yīng)及其限度》，載《法學(xué)研究》2020年第4期。在立法路徑方面，智能醫(yī)療算法自主應(yīng)用的授權(quán)性規(guī)范設(shè)置，“借助數(shù)字平權(quán)行動”，“抑制代碼歧視”，(53)李成：《人工智能歧視的法律治理》，載《中國法學(xué)》2021年第2期。實(shí)現(xiàn)“國家與社會的動態(tài)平衡”、剛性治理和彈性治理的協(xié)調(diào)與平衡，(54)參見高奇琦：《智能革命與國家治理現(xiàn)代化初探》，載《中國社會科學(xué)》2020年第7期。推動智能醫(yī)療“自我升級智能體”，使智能醫(yī)療算法審查立法“達(dá)到融通的新境界”。(55)任曉明、李熙：《自我升級智能體的邏輯與認(rèn)知問題》，載《中國社會科學(xué)》2019年第12期。

建議設(shè)置智能醫(yī)療算法應(yīng)用的動態(tài)分階段授權(quán)制度。在弱人工智能階段，可授權(quán)智能醫(yī)療算法在慢性病管理方面的自主應(yīng)用，(56)參見張旭東等：《中國醫(yī)療人工智能發(fā)展報告(2020)》，社會科學(xué)文獻(xiàn)出版社2020年版，第298頁。但醫(yī)療人工智能在突發(fā)疾病治療中的應(yīng)用歸為輔助診療措施，應(yīng)當(dāng)由執(zhí)業(yè)醫(yī)師審核、判斷、確認(rèn)智能醫(yī)療算法得出的預(yù)警及治療方案后，方可將其應(yīng)用到具體醫(yī)療過程。如果執(zhí)業(yè)醫(yī)師的診療意見與智能醫(yī)療算法得出的治療方案相沖突，以醫(yī)師意見為優(yōu)先選擇。在強(qiáng)人工智能階段，由于智能醫(yī)療算法的發(fā)展相對成熟，人們對于醫(yī)療人工智能的信任程度也不斷增強(qiáng)，可通過專項的醫(yī)療人工智能立法拓展授權(quán)的范圍，使取得“專項資質(zhì)認(rèn)定”的醫(yī)療人工智能在特定醫(yī)療領(lǐng)域享有自主權(quán)，同時確保智能醫(yī)療算法的可解釋性。(57)參見李潤生：《論醫(yī)療人工智能的法律規(guī)制——從近期方案到遠(yuǎn)期設(shè)想》，載《行政法學(xué)研究》2020年第4期。對于常規(guī)化的一般治療事項，適當(dāng)授權(quán)智能醫(yī)療算法在醫(yī)療預(yù)警、診斷、救治等方面的自主應(yīng)用；對于特殊治療過程，需要確保執(zhí)業(yè)醫(yī)師的全過程參與，并實(shí)施嚴(yán)格的審查授權(quán)制度，推動國家統(tǒng)一資質(zhì)審核與醫(yī)療機(jī)構(gòu)定期審查的有機(jī)結(jié)合，制定具備診療資質(zhì)的醫(yī)療人工智能與執(zhí)業(yè)醫(yī)師之間的人機(jī)協(xié)作操作規(guī)程，并明確該操作規(guī)則需要通過醫(yī)療質(zhì)量與安全管理委員會的審核，經(jīng)醫(yī)療機(jī)構(gòu)醫(yī)務(wù)部門審查，并向主管部門備案，全面提升智能醫(yī)療算法技術(shù)與醫(yī)療技術(shù)的融合度與匹配度。

建議以有條件的允許而非概括式授權(quán)的方式，根據(jù)醫(yī)療過程分類分級設(shè)置智能醫(yī)療算法應(yīng)用的授權(quán)性規(guī)范，并“創(chuàng)設(shè)不同缺省合規(guī)義務(wù)”，(58)唐林垚：《人工智能時代的算法規(guī)制：責(zé)任分層與義務(wù)合規(guī)》，載《現(xiàn)代法學(xué)》2020年第1期。在立法規(guī)制與法律保障的雙重張力間找到最佳的平衡點(diǎn)。對于清創(chuàng)、問診、用藥醫(yī)囑、無創(chuàng)物理治療等常規(guī)醫(yī)療過程，可授權(quán)智能醫(yī)療算法自主應(yīng)用為患者提供科學(xué)系統(tǒng)的診療建議。對于化學(xué)治療、有創(chuàng)的物理治療過程，應(yīng)根據(jù)對健康的影響程度及可能發(fā)生的安全隱患，分級設(shè)置智能醫(yī)療自主應(yīng)用的授權(quán)性規(guī)范，“引入等級化或概率化的合比例性要求”，(59)蘇宇：《風(fēng)險預(yù)防原則的結(jié)構(gòu)化闡釋》，載《法學(xué)研究》2021年第1期。綜合設(shè)置智能醫(yī)療注意義務(wù)規(guī)范。第一，對健康影響程度較輕的醫(yī)療過程可納入Ⅰ級智能醫(yī)療算法審查事項，針對這一類事項，在設(shè)置智能醫(yī)療算法解釋等法定程序基礎(chǔ)上，建議通過充分授權(quán)“持續(xù)強(qiáng)化法律人工智能的實(shí)踐能力”，(60)左衛(wèi)民：《熱與冷：中國法律人工智能的再思考》，載《環(huán)球法律評論》2019年第2期。建立智能醫(yī)療算法審查制度，定期對智能醫(yī)療算法程序及自主應(yīng)用狀況進(jìn)行評估和審核，一旦發(fā)現(xiàn)潛在安全隱患，及時停止該智能醫(yī)療算法系統(tǒng)的自主應(yīng)用。第二，對于普通有創(chuàng)治療等Ⅱ級智能醫(yī)療算法審查事項，建立醫(yī)師復(fù)核制度，將醫(yī)師復(fù)核作為智能醫(yī)療算法自主應(yīng)用的必經(jīng)程序，由執(zhí)業(yè)醫(yī)師對智能醫(yī)療算法自主應(yīng)用所得出的診斷結(jié)論進(jìn)行審核，并由其負(fù)責(zé)向患者進(jìn)行告知和說明。第三，將具有高度危險性的特殊有創(chuàng)治療等列為Ⅲ級智能醫(yī)療算法審查事項，通過逐層審核程序設(shè)置，使執(zhí)業(yè)醫(yī)師能夠控制智能醫(yī)療算法推進(jìn)的每一個醫(yī)療步驟，醫(yī)療人工智能需要在執(zhí)業(yè)醫(yī)師的授權(quán)下推動醫(yī)療進(jìn)程，并須與會診制度相結(jié)合，確保智能醫(yī)療算法應(yīng)用選擇最有利于生命健康保護(hù)的最佳方案，促進(jìn)“科技法迭代視角下”醫(yī)療人工智能的升級發(fā)展。(61)參見龍衛(wèi)球：《科技法迭代視角下的人工智能立法》，載《法商研究》2020年第1期。

(三)技術(shù)治理與組織治理領(lǐng)域立法融合：預(yù)警及診療算法模塊信息爬取的限制性規(guī)范

通過“法律與技術(shù)融合治理模式”，(62)申衛(wèi)星、劉云：《法學(xué)研究新范式：計算法學(xué)的內(nèi)涵、范疇與方法》，載《法學(xué)研究》2020年第5期。形成保護(hù)醫(yī)療健康與生物識別信息的跨部門融合路徑，是防止“技術(shù)突破與法律規(guī)制的扦格難通”，(63)張新平：《智能視頻監(jiān)控之法律與技術(shù)的嵌合治理》，載《法制與社會發(fā)展》2020年第5期。實(shí)現(xiàn)“技術(shù)性與道德性的激勵相容”的重要支撐。(64)參見徐玖玖：《人工智能的道德性何以實(shí)現(xiàn)？——基于原則導(dǎo)向治理的法治進(jìn)路》，載《現(xiàn)代法學(xué)》2021年第3期。智能醫(yī)療算法審查立法實(shí)質(zhì)上是“人類與人工智能之間的關(guān)系的厘定”過程，(65)參見李愛君：《人工智能法律行為論》，載《政法論壇》2019年第3期。是“推進(jìn)不同算法和認(rèn)知類型的融合”進(jìn)程。(66)參見肖峰：《人工智能與認(rèn)識論的哲學(xué)互釋：從認(rèn)知分型到演進(jìn)邏輯》，載《中國社會科學(xué)》2020年第6期。適應(yīng)現(xiàn)代醫(yī)療過程人機(jī)協(xié)同的現(xiàn)實(shí)需求，技術(shù)治理與組織治理領(lǐng)域立法的融合，成為防范智能醫(yī)療技術(shù)及組織兩個方面安全隱患的必由之路。智能醫(yī)療算法系統(tǒng)的嵌入式安全隱患，不僅威脅生命安全與公共健康，而且給醫(yī)療健康及生物識別信息保護(hù)帶來新的課題。其一，深度挖掘不同醫(yī)療環(huán)節(jié)的嵌入式算法安全隱患，準(zhǔn)確定位智能醫(yī)療預(yù)警、診療算法模塊信息爬取面臨的主要問題，明確不同智能醫(yī)療法律關(guān)系主體存儲、處理、利用醫(yī)療健康信息的具體規(guī)則，在推動智能醫(yī)療研發(fā)企業(yè)、醫(yī)療機(jī)構(gòu)、第三方檢測機(jī)構(gòu)、智能醫(yī)療算法運(yùn)營商、技術(shù)開發(fā)方之間，以及醫(yī)療機(jī)構(gòu)與患者之間的新型醫(yī)療關(guān)系協(xié)調(diào)的過程中，將技術(shù)治理與組織治理要求融入智能醫(yī)療技術(shù)創(chuàng)新與運(yùn)行系統(tǒng)優(yōu)化全過程。其二，以智能醫(yī)療行業(yè)的特殊性與內(nèi)在規(guī)律為立足點(diǎn)，設(shè)置智能醫(yī)療預(yù)警及診療算法模塊信息爬取的限制性規(guī)范，“調(diào)整算法在公共領(lǐng)域的應(yīng)用”，(67)孫清白：《人工智能算法的“公共性”應(yīng)用風(fēng)險及其二元規(guī)制》，載《行政法學(xué)研究》2020年第4期。推動醫(yī)療人工智能從醫(yī)療器械向?qū)＜蚁到y(tǒng)轉(zhuǎn)型。《互聯(lián)網(wǎng)診療管理辦法(試行)》第13條規(guī)定，醫(yī)療機(jī)構(gòu)信息安全系統(tǒng)是開展互聯(lián)網(wǎng)診療的前提條件，互聯(lián)網(wǎng)診療過程應(yīng)當(dāng)實(shí)施第三級信息安全等級保護(hù)；《互聯(lián)網(wǎng)醫(yī)院管理辦法(試行)》第6條規(guī)定，省級互聯(lián)網(wǎng)醫(yī)療服務(wù)監(jiān)管平臺應(yīng)與互聯(lián)網(wǎng)醫(yī)院信息平臺實(shí)時對接。隨著醫(yī)療數(shù)據(jù)信息共享范圍的擴(kuò)展，隱含于醫(yī)療物理空間與智能空間的算法技術(shù)亟待得到有效的監(jiān)管，以防范智能醫(yī)療算法海量爬取生物識別信息而給醫(yī)療健康信息安全帶來威脅。

建議區(qū)分預(yù)警與診療過程，設(shè)置智能醫(yī)療預(yù)警及診療算法模塊信息爬取的限制性規(guī)范。智能醫(yī)療技術(shù)在醫(yī)療預(yù)警方面的應(yīng)用主要是常規(guī)健康監(jiān)測與自動對接掛號系統(tǒng)，智能醫(yī)療預(yù)警過程中的信息爬取主要涉及健康指標(biāo)分析，但不涉及血液等樣本分析，較少涉及患者的個人敏感信息。因此，對于智能醫(yī)療預(yù)警過程中的爬蟲算法應(yīng)用，通過限制其用途，確保智能醫(yī)療預(yù)警爬蟲算法應(yīng)用以健康保障為目的，非必要不得收集醫(yī)療健康信息。智能診療算法能夠精準(zhǔn)爬取患者的個人信息，包括生物樣本數(shù)據(jù)、醫(yī)保等個人敏感信息在內(nèi)，即便按照《個人信息保護(hù)法》第51條采取了加密、去標(biāo)識化等處理措施，爬蟲算法仍能夠通過全網(wǎng)數(shù)據(jù)信息鏈條分析，推算某一患者或某一地區(qū)的生物識別數(shù)據(jù)。智能診療過程中的醫(yī)療生物信息識別，不僅可能對隱私等私法權(quán)利、就業(yè)等社會權(quán)利造成不利影響，而且可能對國家生物信息安全造成威脅。針對上述狀況，智能診療算法模塊信息爬取的限制性規(guī)范需要從三個方面加以規(guī)定。一是限制采集，建議區(qū)分公共健康緊急狀況和常態(tài)化情形，制定相應(yīng)的智能診療信息采集規(guī)則，明確列舉智能診療過程不得采集的信息內(nèi)容，如民族、宗教信仰等信息。(68)參見郭延軍：《采集公民民族信息的憲法界限》，載《中外法學(xué)》2016年第6期。如處于公共健康緊急狀況，智能診療信息采集的范圍可以擴(kuò)展到不明原因疾病的流調(diào)數(shù)據(jù)；在常態(tài)化情形下，智能診療信息采集則應(yīng)限制在健康指標(biāo)內(nèi)容，在發(fā)現(xiàn)疑似、無癥狀或確診病例時方可收集個人活動軌跡等信息，常規(guī)的智能核酸檢測亦無須收集流調(diào)信息。二是限制出境，建議區(qū)分人類遺傳資源與人口健康信息，明確其輸出境的具體規(guī)則。中國人類遺傳資源的輸出境，需要按照《人類遺傳資源管理條例》第13條規(guī)定，由科學(xué)技術(shù)部審批，并須滿足輸出境的目的限制、必要性條件等要求?！度丝诮】敌畔⒐芾磙k法(試行)》第9至10條設(shè)置了人口健康信息的本地存儲義務(wù)，一律禁止境外服務(wù)器存儲境內(nèi)的人口健康信息，但這一禁止性規(guī)定難以滿足我國的跨境醫(yī)療現(xiàn)實(shí)需求，尤其是對于粵港澳大灣區(qū)跨境醫(yī)療發(fā)展而言，醫(yī)療衛(wèi)生信息資源共享成為便利灣區(qū)居民跨境醫(yī)療的必要條件。因此，建議將絕對的禁止性規(guī)定改為限制性規(guī)定，將粵港澳大灣區(qū)衛(wèi)生主管部門、醫(yī)療機(jī)構(gòu)、第三方檢測機(jī)構(gòu)等納入人口健康信息平臺，為居民提供更加優(yōu)質(zhì)高效的醫(yī)療衛(wèi)生服務(wù)。三是限制用途，醫(yī)療健康與生物識別信息利用只能以健康保障為目的。隨著醫(yī)療健康信息互聯(lián)互通深度推進(jìn)，居民健康檔案的醫(yī)療健康與生物識別信息規(guī)模會不斷增大，信息處理和數(shù)據(jù)利用的監(jiān)管面臨更大壓力，用途監(jiān)管成為防范醫(yī)療健康信息風(fēng)險的必由之路。

結(jié)語

智能醫(yī)療是醫(yī)療衛(wèi)生事業(yè)發(fā)展的必然趨勢，智能醫(yī)療技術(shù)風(fēng)險已日益受到社會各界關(guān)注，但智能醫(yī)療算法決策、算法分發(fā)等過程中的潛在問題，仍有待得到深度剖析與有效應(yīng)對。智能醫(yī)療算法決策可能引發(fā)疊加型的醫(yī)源型與藥源型安全風(fēng)險，智能醫(yī)療算法分發(fā)及自主應(yīng)用對健康公平產(chǎn)生雙向影響效應(yīng)，智能醫(yī)療爬蟲算法使醫(yī)療健康及生物識別信息保護(hù)面臨挑戰(zhàn)。智能醫(yī)療算法審查立法亟待得到有效地推進(jìn)，針對重點(diǎn)領(lǐng)域、重點(diǎn)問題的立法尤其需要選擇正確的立法路徑。智能醫(yī)療算法審查“領(lǐng)域法”的融合路徑，以傳統(tǒng)風(fēng)險與新興風(fēng)險立法、管理型立法與促進(jìn)型立法、技術(shù)治理與組織治理領(lǐng)域立法的融合為核心，從整體主義視角協(xié)調(diào)不同領(lǐng)域的風(fēng)險控制工具，對智能醫(yī)療算法臨床應(yīng)用的嵌入式風(fēng)險進(jìn)行防控。智能醫(yī)療算法審查的融合型立法，以動態(tài)分級授權(quán)代替機(jī)械化的算法規(guī)制立法，在立法規(guī)制與法律保障的雙重張力間找到最佳的平衡點(diǎn)；立足智能醫(yī)療雙重空間的現(xiàn)實(shí)立法需求，針對智能醫(yī)療算法應(yīng)用的嵌入式技術(shù)及組織系統(tǒng)安全隱患，推進(jìn)一體融合的場景化算法審查立法，推動控制者義務(wù)設(shè)置與審查評估機(jī)構(gòu)建設(shè)的有機(jī)結(jié)合，防范智能醫(yī)療算法應(yīng)用所引發(fā)的醫(yī)源型與藥源型安全隱患。

建議增設(shè)智能醫(yī)療算法決策風(fēng)險最小化的命令性規(guī)范，將風(fēng)險評估作為智能醫(yī)療算法臨床應(yīng)用的前置性審查程序，設(shè)定智能醫(yī)療研發(fā)企業(yè)的算法決策風(fēng)險防控義務(wù)，形成智能醫(yī)療算法決策風(fēng)險追蹤的統(tǒng)一標(biāo)準(zhǔn)與技術(shù)性規(guī)定，并制定智能醫(yī)療算法決策風(fēng)險評級標(biāo)準(zhǔn)及管理規(guī)定。通過算法風(fēng)險防控立法、醫(yī)療立法、民法典的跨部門融合，設(shè)置算法決策風(fēng)險最小化準(zhǔn)則的配套規(guī)范，建立智能醫(yī)療算法風(fēng)險防控立法與基本醫(yī)療立法的銜接機(jī)制，設(shè)置醫(yī)療系統(tǒng)風(fēng)險與介入治療行為風(fēng)險識別程序，全方位監(jiān)管和防范介入治療過程中的人機(jī)協(xié)同風(fēng)險，并以患者知情同意規(guī)定為基礎(chǔ)，設(shè)置智能醫(yī)療算法應(yīng)用中的健康風(fēng)險告知義務(wù)。建議設(shè)置智能醫(yī)療算法自主應(yīng)用的動態(tài)分級授權(quán)制度，以有條件的允許而非概括式授權(quán)的方式，根據(jù)醫(yī)療過程分類分級設(shè)置智能醫(yī)療算法自主應(yīng)用的授權(quán)性規(guī)范；區(qū)分預(yù)警與診療過程，設(shè)置智能醫(yī)療預(yù)警及診療算法模塊信息爬取的限制性規(guī)范，區(qū)分公共健康緊急狀況和常態(tài)化情形，對智能診療信息采集進(jìn)行規(guī)制；區(qū)分人類遺傳資源與人口健康信息，明確輸出境的具體規(guī)則，為居民提供更加優(yōu)質(zhì)高效的醫(yī)療衛(wèi)生服務(wù)，為人民生命健康提供有力的法治保障。