許嘉驛 陳卓 江映珠 陸兆丹 李卓琦

1 廣東省藥品監(jiān)督管理局審評認(rèn)證中心 （廣東 廣州 510080）

2 騰訊醫(yī)療健康（深圳）有限公司 （廣東 深圳 518057）

內(nèi)容提要： 研究分析人工智能醫(yī)學(xué)軟件產(chǎn)品研發(fā)工藝及國內(nèi)外監(jiān)管政策、相關(guān)文獻(xiàn)，為人工智能醫(yī)學(xué)軟件的注冊申報(bào)、技術(shù)審評及現(xiàn)場檢查相關(guān)工作提供借鑒。

近年來，隨著算法技術(shù)與大數(shù)據(jù)的興起，人工智能的熱浪席卷全球，人工智能目前已成為全球互聯(lián)網(wǎng)經(jīng)濟(jì)市場最為關(guān)注的一項(xiàng)新技術(shù)。第十二屆CIMDR會議提出實(shí)現(xiàn)醫(yī)療器械創(chuàng)新需注重發(fā)展“十四五”科技攻關(guān)七大重點(diǎn)領(lǐng)域。人工智能作為我國創(chuàng)新發(fā)展重點(diǎn)領(lǐng)域技術(shù)之一，為醫(yī)療器械行業(yè)創(chuàng)新注入了新的動(dòng)力。我國應(yīng)用于醫(yī)療器械的AI軟件快速發(fā)展，申請相關(guān)產(chǎn)品注冊審查的企業(yè)正逐年增加。本文將針對人工智能醫(yī)學(xué)軟件（以下簡稱“AI醫(yī)學(xué)軟件”）研發(fā)生產(chǎn)工藝及國內(nèi)外監(jiān)管政策進(jìn)行研究分析，為AI醫(yī)學(xué)軟件的注冊申報(bào)、技術(shù)審評及現(xiàn)場檢查相關(guān)工作提供借鑒。

1.AI醫(yī)學(xué)軟件概要

1.1 AI醫(yī)學(xué)軟件

AI醫(yī)學(xué)軟件是基于醫(yī)療器械數(shù)據(jù)，采用人工智能技術(shù)實(shí)現(xiàn)其醫(yī)療用途的獨(dú)立軟件及軟件組件[1]。AI醫(yī)學(xué)軟件通過機(jī)器學(xué)習(xí)等算法技術(shù)主要運(yùn)用在醫(yī)療器械領(lǐng)域中的醫(yī)學(xué)造影、輔助決策、藥物研究、衛(wèi)生系統(tǒng)管理、病情預(yù)警等方面。隨著AI醫(yī)學(xué)軟件逐漸應(yīng)用在臨床機(jī)構(gòu)，一方面可以加快醫(yī)療數(shù)據(jù)的統(tǒng)計(jì)與分析速度，為診斷工作提供參考，提高醫(yī)生的工作效率；另一方面可以幫助醫(yī)院更全面地實(shí)現(xiàn)醫(yī)療信息全覆蓋，提升醫(yī)療服務(wù)質(zhì)量。

1.2 AI醫(yī)學(xué)軟件的研發(fā)生產(chǎn)工藝

從醫(yī)療器械生產(chǎn)工藝上來思考，AI醫(yī)學(xué)軟件與普通醫(yī)療軟件沒有太大的區(qū)別，關(guān)鍵在于軟件產(chǎn)品的研發(fā)生產(chǎn)工藝的差異。在AI醫(yī)學(xué)軟件的研發(fā)工藝中，數(shù)據(jù)收集是區(qū)別于其他軟件產(chǎn)品的一個(gè)重要環(huán)節(jié)。AI醫(yī)學(xué)軟件產(chǎn)品的數(shù)據(jù)可類比為普通醫(yī)療器械產(chǎn)品的物料，數(shù)據(jù)收集的三個(gè)環(huán)節(jié)數(shù)據(jù)采集、數(shù)據(jù)整理、數(shù)據(jù)標(biāo)注可分別對應(yīng)于物料采購、來料檢驗(yàn)、物料加工。

同時(shí)，考慮到軟件版本控制的重要性，生產(chǎn)環(huán)節(jié)也需加以管控，因此，生產(chǎn)過程中可根據(jù)生產(chǎn)鏈路各環(huán)節(jié)出錯(cuò)的風(fēng)險(xiǎn)，評估是否增加相應(yīng)的控制手段，例如：MD5碼核驗(yàn)、試安裝檢驗(yàn)等步驟，用來進(jìn)一步確認(rèn)生產(chǎn)用軟件包的正確性。

1.3 AI醫(yī)學(xué)軟件研發(fā)管理的特點(diǎn)

AI醫(yī)學(xué)軟件與其他醫(yī)療軟件最大的區(qū)別是增加了數(shù)據(jù)收集和算法設(shè)計(jì)兩個(gè)環(huán)節(jié)。其中，數(shù)據(jù)收集又包含數(shù)據(jù)采集、數(shù)據(jù)整理、數(shù)據(jù)標(biāo)注、數(shù)據(jù)集構(gòu)建四個(gè)子任務(wù)；算法設(shè)計(jì)則包含算法選擇、算法訓(xùn)練、算法性能評估三個(gè)子任務(wù)[2]。

1.3.1 數(shù)據(jù)收集

數(shù)據(jù)收集階段是決定AI產(chǎn)品是否安全有效的重要環(huán)節(jié)之一，數(shù)據(jù)規(guī)模、數(shù)據(jù)質(zhì)量和泛化能力等因素會影響算法的訓(xùn)練效果。該階段涉及企業(yè)、醫(yī)院、醫(yī)生、采集設(shè)備、采集環(huán)境等諸多外界條件，因此，控制難度和溝通成本較高；若數(shù)據(jù)脫敏，數(shù)據(jù)轉(zhuǎn)移等環(huán)節(jié)管控不到位，會帶來醫(yī)療數(shù)據(jù)泄露的風(fēng)險(xiǎn)；采集出院和標(biāo)注使用的數(shù)據(jù)量較大，容易出現(xiàn)標(biāo)注追溯困難、數(shù)據(jù)管理混亂等問題，導(dǎo)致數(shù)據(jù)統(tǒng)計(jì)產(chǎn)生偏差甚至無法統(tǒng)計(jì)的情況發(fā)生。因此，數(shù)據(jù)收集階段需在以下幾個(gè)方面進(jìn)行重點(diǎn)管理：①根據(jù)泛化要求，選擇合適的數(shù)據(jù)來源醫(yī)院。選擇符合質(zhì)量要求的數(shù)據(jù)，明確數(shù)據(jù)出院的方式，明確出院前的處理規(guī)則和處理工具，做好出院前的數(shù)據(jù)信息記錄與驗(yàn)收工作，同時(shí)，采集的數(shù)據(jù)應(yīng)方便隨時(shí)回溯，以備后續(xù)的統(tǒng)計(jì)分析工作。②數(shù)據(jù)出院過程中，保證數(shù)據(jù)安全。減少接觸數(shù)據(jù)的人員數(shù)量，接觸數(shù)據(jù)的人員應(yīng)留下記錄且可被追溯，避免數(shù)據(jù)丟失和被污染。③根據(jù)臨床應(yīng)用場景，應(yīng)配置滿足資質(zhì)要求的標(biāo)注人員按照既定規(guī)則分配數(shù)據(jù)標(biāo)注任務(wù)，在預(yù)期環(huán)節(jié)進(jìn)行既定數(shù)據(jù)的標(biāo)注工作，標(biāo)注人員只需關(guān)注自己名下的標(biāo)注任務(wù)即可，保證數(shù)據(jù)標(biāo)注工作能夠被追溯。例如：交叉標(biāo)注時(shí)，應(yīng)由既定數(shù)量醫(yī)生進(jìn)行標(biāo)注且不出現(xiàn)同一標(biāo)注人員重復(fù)標(biāo)注的情況、標(biāo)注醫(yī)生應(yīng)早于仲裁醫(yī)生進(jìn)行標(biāo)注、多名標(biāo)注醫(yī)生均完成標(biāo)注和一致性對比后方可進(jìn)行仲裁等；標(biāo)注時(shí)，每例數(shù)據(jù)對應(yīng)的標(biāo)注人員，標(biāo)注時(shí)間、標(biāo)注結(jié)果，均應(yīng)方便回溯。

1.3.2 算法設(shè)計(jì)

算法設(shè)計(jì)階段是通過選擇合適的算法，使用收集后數(shù)據(jù)構(gòu)建訓(xùn)練集，調(diào)優(yōu)集進(jìn)行訓(xùn)練和調(diào)優(yōu)，并通過測試集對算法進(jìn)行評估。算法模塊是整個(gè)AI醫(yī)學(xué)軟件產(chǎn)品的核心，也是軟件安全等級最高的模塊之一。一款產(chǎn)品中可能包含多個(gè)算法，不同算法之間的輸入輸出關(guān)系會直接影響最終的輔助決策結(jié)果。算法設(shè)計(jì)應(yīng)結(jié)合實(shí)際數(shù)據(jù)情況對數(shù)據(jù)進(jìn)行預(yù)處理，為接下來的數(shù)據(jù)訓(xùn)練做好充足準(zhǔn)備。因此，算法設(shè)計(jì)階段需在以下幾個(gè)方面進(jìn)行重點(diǎn)管理：①應(yīng)選擇合適的算法，并在過程中清晰管控與記錄所使用的算法。如：結(jié)合產(chǎn)品預(yù)期用途，明確算法選用依據(jù)，包括選用的理由和基本原則，明確算法的特性。②算法需輸出詳細(xì)設(shè)計(jì)方案，詳細(xì)記錄不同算法之間的輸入輸出，工作流等，以清楚的呈現(xiàn)算法的設(shè)計(jì)思路。③應(yīng)提前規(guī)劃預(yù)處理的方案，明確處理方法，并確認(rèn)好預(yù)處理所用到的軟件工具，降低預(yù)處理所用工具不規(guī)范帶來的風(fēng)險(xiǎn)。

目前，信息化管理是AI醫(yī)學(xué)軟件發(fā)展的必經(jīng)之路，也是行業(yè)亟需補(bǔ)齊的短板之一。

數(shù)據(jù)采集信息化工具應(yīng)滿足數(shù)據(jù)全生命周期管理的需求，將數(shù)據(jù)統(tǒng)一在系統(tǒng)中進(jìn)行管控，各環(huán)節(jié)以直觀簡單的方式進(jìn)行數(shù)據(jù)調(diào)度，減少人為操作的空間，從而輕松實(shí)現(xiàn)數(shù)據(jù)的可追溯性；其次，系統(tǒng)需內(nèi)置多樣化數(shù)據(jù)管理工具，例如：脫敏工具、標(biāo)注工具等，降低數(shù)據(jù)收集所用工具不規(guī)范帶來的風(fēng)險(xiǎn)；系統(tǒng)應(yīng)具備數(shù)據(jù)統(tǒng)計(jì)功能，實(shí)現(xiàn)可動(dòng)態(tài)關(guān)注數(shù)據(jù)泛化情況、數(shù)據(jù)標(biāo)注進(jìn)度等；最后，系統(tǒng)應(yīng)具備可擴(kuò)展的存儲能力，以滿足不同階段的數(shù)據(jù)存儲需求。

算法設(shè)計(jì)管理工作可通過信息化管理工具來協(xié)助完成。例如：信息化管理工具自帶一些影像組學(xué)、深度學(xué)習(xí)算法，可幫助研發(fā)人員直接選擇和使用，產(chǎn)品研制過程中，企業(yè)也可接入自研算法，方便對所使用的算法進(jìn)行統(tǒng)一管理和記錄；通過信息化管理直觀表達(dá)算法之間的串聯(lián)關(guān)系，從而厘清設(shè)計(jì)思路，減少算法調(diào)整環(huán)節(jié)出現(xiàn)錯(cuò)誤；在管理工具中內(nèi)置不同種類的預(yù)處理、模型和驗(yàn)證等算子，提升算法訓(xùn)練過程的標(biāo)準(zhǔn)化能力，降低人為錯(cuò)誤的出現(xiàn)概率。

因此，在產(chǎn)品研制過程中，企業(yè)應(yīng)規(guī)范化數(shù)據(jù)收集和算法設(shè)計(jì)流程，具備嚴(yán)謹(jǐn)?shù)臄?shù)據(jù)管理，內(nèi)置算法及工具等，從而準(zhǔn)確把握醫(yī)療AI產(chǎn)品的研發(fā)訴求和滿足全周期開發(fā)需求的環(huán)境。

2.國內(nèi)外監(jiān)管政策研究

2.1 AI醫(yī)學(xué)軟件國際監(jiān)管政策

2.1.1 國際醫(yī)療器械監(jiān)管者論壇（IMDRF）

2013年12月，國際醫(yī)療器械監(jiān)管者論壇（International Medical Device Regulators Forum，IMDRF）發(fā)布了《作為醫(yī)療設(shè)備的軟件（SADM）：關(guān)鍵定義》（Software as a Medical Device(SAMD): Key Definitions)[3]。該文件首次明確了獨(dú)立軟件的定義。2014年9月，IMDRF發(fā)布了《SAMD：風(fēng)險(xiǎn)分類框架》（Software as a Medical Device(SAMD): Possible Framework for Risk Categorization and Corre-sponding Considerations)[4]。該框架對SAMD的預(yù)期用途、背景、定性的重要因素、框架與現(xiàn)有分類和設(shè)計(jì)開發(fā)等方面進(jìn)行論述和分析，為各國監(jiān)管機(jī)構(gòu)、用戶等建立對SAMD的理解提供參考。2015年10月，IMDRF發(fā)布《關(guān)于使用IEC 62304:2006“SAMD-軟件生命周期過程”》（Statement regarding Use of IEC 62304:2006“Medical device software—Software life cycle processes”）的聲明[5]。該聲明對中國、歐盟、日本、俄羅斯、美國等司法管轄區(qū)對IEC62304:2006標(biāo)準(zhǔn)的認(rèn)可與使用作了詳細(xì)的解讀。其中，中國原食品藥品監(jiān)督管理局（以下簡稱總局）將IEC62304:2006翻譯后相等于中國行業(yè)標(biāo)準(zhǔn)YY/T 0664-2008，該標(biāo)準(zhǔn)不作為強(qiáng)制性標(biāo)準(zhǔn)，作為推薦性標(biāo)準(zhǔn)。2017年9月，IMDRF發(fā)布了《SAMD：臨床評估》（Software as a Medical Device(SAMD): Clinical Evaluation）[6]。該文件為全球監(jiān)管機(jī)構(gòu)對相關(guān)術(shù)語、風(fēng)險(xiǎn)框架、質(zhì)量管理體系原則以及臨床評估等提供框架。

2.1.2 美國FDA

2020年1月，美國FDA發(fā)布了《有關(guān)AI/ML醫(yī)療器械軟件的產(chǎn)品變更監(jiān)管框架》（Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine Learning(AI/ML)-Based Software as a Medical Device(SAMD))[7]。該框架確定了上市前需補(bǔ)充申請或提交的軟件修改類別，保證AI/ML的SAMD的安全性和有效性?；诖丝蚣?，美國FDA于2021年1月發(fā)布了《AI/ML獨(dú)立軟件行動(dòng)計(jì)劃》（Artificial Intelligence and Machine Learning (AI/ML) Software as a Medical Device Action Plan）[8]。該計(jì)劃旨在明確AI/ML獨(dú)立軟件監(jiān)管的框架、機(jī)器學(xué)習(xí)實(shí)踐、算法監(jiān)管科學(xué)研究、產(chǎn)品真實(shí)性能、以及以患者為中心和信息透明相結(jié)合的五項(xiàng)工作和目標(biāo)。

2.1.3 歐盟

歐盟2018年4月制定了人工智能發(fā)展方向，主要以機(jī)器人技術(shù)作為戰(zhàn)略計(jì)劃，同時(shí)設(shè)立了人工智能高級專家組（High-Level Expert Group on Artificial Intelligence，AI HLEG）。AI HLEG致力于四個(gè)主要交付品：可信人工智能的道德準(zhǔn)則、可信人工智能的政策和投資建議、最終可信人工智能評估列表和關(guān)于政策和投資建議的部門考慮。12月歐洲委員會經(jīng)AI HLEG倡議發(fā)布了第一個(gè)《人工智能協(xié)調(diào)計(jì)劃》（Coordinated Plan on Artificial Intelligence）[9]。2020年2月，歐洲委員會發(fā)布了關(guān)于《人工智能白皮書—?dú)W洲對卓越和信任的態(tài)度》（White Paper on Artificial Intelligence: a European approach to excellence and trust）[10]。白皮書提出了各種政策選擇，建立基于風(fēng)險(xiǎn)的五級監(jiān)管體系，促進(jìn)對人工智能的吸收和處理與此類技術(shù)的某些使用有關(guān)的風(fēng)險(xiǎn)通過提出可信賴的人工智能的法律框架，實(shí)現(xiàn)建立可信任AI生態(tài)系統(tǒng)的。2021年制定了《關(guān)于人工智能的統(tǒng)一規(guī)則（人工智能法）》（Regulation of the European parliament and of the council laying down Harmonised Rules on Artificial Intelligence(ARTIFICIAL INTELLIGENCEACT)）[11]。該提案明確了人工智能相關(guān)的風(fēng)險(xiǎn)和問題的最低要求，包括人工智能系統(tǒng)應(yīng)該遵守的基于原則的要求，為歐盟體系內(nèi)國家人工智能系統(tǒng)的開發(fā)、投放市場和使用制定了統(tǒng)一的規(guī)則，對個(gè)人健康和安全或基本權(quán)利構(gòu)成重大風(fēng)險(xiǎn)的“高風(fēng)險(xiǎn)”人工智能系統(tǒng)提供了堅(jiān)實(shí)的風(fēng)險(xiǎn)方法，保障人工智能系統(tǒng)全生命周期內(nèi)的安全保護(hù)的基本權(quán)利。

以上可知，國際醫(yī)療器械監(jiān)管機(jī)構(gòu)均對AI醫(yī)學(xué)軟件的發(fā)展高度重視，目前國際上雖未有國家建立起完整的AI醫(yī)學(xué)軟件監(jiān)督管理體系，但均對AI軟件監(jiān)管工作制定了計(jì)劃與目標(biāo)。

2.2 AI醫(yī)學(xué)軟件國內(nèi)監(jiān)管政策

2015年8月，原食藥監(jiān)總局發(fā)布了《醫(yī)療器械軟件注冊技術(shù)審查指導(dǎo)原則（2015年第50號）》[12]。該原則明確了獨(dú)立軟件與軟件組件的定義和特征，將醫(yī)學(xué)軟件按YY/T 0664《醫(yī)療器械軟件 軟件生存周期過程》[13]分成了A、B、C（低、中、高）三個(gè)風(fēng)險(xiǎn)水平等級，制定了軟件及軟件更新和部分現(xiàn)成軟件描述文檔框架，為醫(yī)學(xué)軟件監(jiān)管工作明確了方向。我國人工智能醫(yī)療的概念提出較晚于其他國家。2016年開始，我國開始關(guān)注人工智能創(chuàng)新領(lǐng)域并出臺了一些相關(guān)政策，政策的發(fā)布和推廣推動(dòng)了醫(yī)療器械監(jiān)管部門對于AI醫(yī)療的監(jiān)管工作。2017年我國首次明確以人工智能為核心的發(fā)展規(guī)劃，明確這一新興行業(yè)的戰(zhàn)略目標(biāo)。2017年國家藥監(jiān)局陸續(xù)發(fā)布了《醫(yī)療器械網(wǎng)絡(luò)安全注冊技術(shù)審查指導(dǎo)原則（2017年第13號）》[14]《移動(dòng)醫(yī)療器械注冊技術(shù)審查指導(dǎo)原則（2017年第222號）》[15]。

AI醫(yī)學(xué)軟件主要以機(jī)器學(xué)習(xí)作為核心算法，其中包含了深度學(xué)習(xí)算法技術(shù)。深度學(xué)習(xí)是具備特征學(xué)習(xí)和數(shù)據(jù)提速獲取的一種算法。隨著深度學(xué)習(xí)技術(shù)蓬勃發(fā)展，其廣泛應(yīng)用于我國AI醫(yī)學(xué)軟件。2019年7月，國家藥監(jiān)局器審中心發(fā)布了《深度學(xué)習(xí)輔助決策醫(yī)療器械軟件審評要點(diǎn)》[16]。該要點(diǎn)對深度學(xué)習(xí)輔助醫(yī)學(xué)軟件的基礎(chǔ)知識做了詳細(xì)的解讀，從審評需要重點(diǎn)關(guān)注的方面明確審評內(nèi)容，為相關(guān)產(chǎn)品的審評工作提供了可靠的建議。2020年5月，國家藥監(jiān)局發(fā)布了《醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范附錄獨(dú)立軟件（2019年第43號）》的通告[17]。次月，《醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范獨(dú)立軟件現(xiàn)場檢查指導(dǎo)原則》[18]發(fā)布（于2020年7月1日施行）。這兩部法規(guī)的發(fā)布，彌補(bǔ)了我國獨(dú)立軟件現(xiàn)場檢查工作的不足，提高了檢查員對于軟件檢查工作的效率和準(zhǔn)確性，同時(shí)，為后續(xù)AI醫(yī)學(xué)軟件現(xiàn)場檢查附錄的編寫工作提供了基本框架和思路。

2021年7月，國家藥監(jiān)局發(fā)布《人工智能醫(yī)用軟件產(chǎn)品分類界定指導(dǎo)原則（2021年第47號）》[1]。該指導(dǎo)原則首次明確了AI醫(yī)學(xué)軟件及醫(yī)療器械數(shù)據(jù)的定義，對相關(guān)產(chǎn)品屬性、類別進(jìn)行了界定，加快了AI醫(yī)學(xué)軟件產(chǎn)品監(jiān)督法規(guī)的完善進(jìn)程，規(guī)范產(chǎn)品類別，推動(dòng)AI產(chǎn)業(yè)在醫(yī)療器械領(lǐng)域的高質(zhì)量發(fā)展。2022年3月，國家藥監(jiān)局發(fā)布《人工智能醫(yī)療器械注冊審查指導(dǎo)原則（2022年第8號）》[2]，該原則的發(fā)布，統(tǒng)一AI醫(yī)療器械注冊審評信息，指導(dǎo)注冊申請人建立AI醫(yī)療器械生存周期過程和準(zhǔn)備AI醫(yī)療器械注冊申報(bào)資料，同時(shí)規(guī)范AI醫(yī)療器械的技術(shù)審評要求。

3.小結(jié)

本文從AI醫(yī)學(xué)軟件概要、研發(fā)生產(chǎn)工藝、研發(fā)管理特點(diǎn)研究入手，分析AI醫(yī)學(xué)軟件與常規(guī)軟件生產(chǎn)工藝（包括研發(fā)過程）的差異，梳理出AI醫(yī)學(xué)軟件在研發(fā)管理上的特點(diǎn)，為企業(yè)申報(bào)AI醫(yī)學(xué)軟件產(chǎn)品注冊以及質(zhì)量體系核查工作提供參考。

在監(jiān)管政策方面，則分別從國際醫(yī)療器械監(jiān)管機(jī)構(gòu)（IMDRF，美國FDA，歐盟）以及國內(nèi)監(jiān)管政策進(jìn)行研究分析，厘清國內(nèi)外監(jiān)管機(jī)構(gòu)針對AI醫(yī)學(xué)軟件所指定的法規(guī)以及規(guī)范性文件的思路，特別梳理出國內(nèi)相關(guān)法規(guī)文件制訂及完善的過程，能更全面地了解國內(nèi)監(jiān)管機(jī)構(gòu)對AI醫(yī)學(xué)軟件在技術(shù)審評以及現(xiàn)場檢查方面的關(guān)注點(diǎn)，同時(shí)也能為將來AI醫(yī)學(xué)軟件相關(guān)法規(guī)的編寫及修訂提供借鑒。