劉建利

內(nèi)容摘要：隨著人工智能技術(shù)的不斷發(fā)展與進步，醫(yī)療AI的臨床應(yīng)用逐漸普及，在疾病診斷、治療、護理、健康管理等方面大顯身手，對于提高醫(yī)療效率、改善醫(yī)療資源配置、降低醫(yī)療成本等發(fā)揮著重要作用。但是，AI背后的“技術(shù)黑箱”和“自主學習”使得醫(yī)療AI的臨床應(yīng)用蘊藏著巨大的風險，給現(xiàn)行法律規(guī)制提出了眾多挑戰(zhàn)，尤其是醫(yī)療損害發(fā)生后的法律責任承擔以及醫(yī)療數(shù)據(jù)的保護和利用等問題亟需探討解決。我國應(yīng)當在明確醫(yī)療AI法律地位的基礎(chǔ)上，通過加強解釋和完善立法，建立醫(yī)療AI的技術(shù)準入標準，完善醫(yī)療損害的法律歸責制度，平衡好患者、醫(yī)務(wù)人員、醫(yī)療機構(gòu)、醫(yī)療AI設(shè)計者和生產(chǎn)者的利益與責任。在數(shù)據(jù)保護上，出臺專門的醫(yī)療信息保護法，在保護好患者隱私的基礎(chǔ)上，充分發(fā)揮醫(yī)療大數(shù)據(jù)的價值，造福國民健康。

關(guān)鍵詞：醫(yī)療人工智能 法律地位 醫(yī)療損害 醫(yī)療數(shù)據(jù)

中國分類號：DF05? 文獻標識碼：A? 文章編號：1674-4039-（2019）05-0133-139

隨著《“互聯(lián)網(wǎng)+”人工智能三年行動實施方案》《新一代人工智能產(chǎn)業(yè)發(fā)展規(guī)劃》和《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018-2020年）》等文件的相繼出臺，人工智能發(fā)展迎來重大機遇。人工智能在疾病診斷、治療、護理、健康管理等醫(yī)療領(lǐng)域大顯身手，對于提高診斷效率和治療效果、改善醫(yī)療資源配置、降低醫(yī)療成本等發(fā)揮著重要作用。然而，人工智能背后的“技術(shù)黑箱”和“自主學習”使得醫(yī)療人工智能（以下簡稱：醫(yī)療AI）在臨床應(yīng)用上蘊藏著巨大風險。醫(yī)療AI診斷失誤以及手術(shù)損害等不良事件的發(fā)生引發(fā)理論界和實務(wù)界對醫(yī)療AI的法律地位、醫(yī)療損害的責任承擔等法律問題展開激烈爭議。此外，醫(yī)療AI的“自主學習”離不開巨量醫(yī)療大數(shù)據(jù)的喂投，涉及醫(yī)療數(shù)據(jù)的保護和利用，但我國目前對醫(yī)療大數(shù)據(jù)的保護和利用等還未有明確的法律規(guī)范?；诖耍P者在歸納和提煉醫(yī)療AI在臨床應(yīng)用中所引發(fā)的法律問題基礎(chǔ)上，重點分析醫(yī)療AI的法律地位，探討其引發(fā)醫(yī)療損害時的法律責任，明確醫(yī)療AI背景下的醫(yī)療信息的保護和利用的邊界，為我國醫(yī)療AI的發(fā)展與完善提供建議。

一、醫(yī)療AI臨床應(yīng)用的現(xiàn)狀

（一）醫(yī)療AI診斷

目前，醫(yī)療AI在醫(yī)學診療、治療、護理以及健康管理等環(huán)節(jié)均已實現(xiàn)臨床應(yīng)用。利用AI影像輔助診斷，可以幫助醫(yī)生提高癌癥或心臟疾病的診斷準確率。日本的CAD（電腦輔助診斷）系統(tǒng)，通過胸部CT照片分析，能以較高的準確率檢查出肺結(jié)核等疾病。在日本2016年舉辦的一次轉(zhuǎn)移性乳腺癌診斷比賽中發(fā)現(xiàn)，病理醫(yī)生的誤診率為3.5%，但醫(yī)生借助此系統(tǒng)可以將誤診率降低至0.5%?！? 〕AI影像診斷的升級就是輔助診斷。醫(yī)療AI通過學習海量的醫(yī)學數(shù)據(jù)和專業(yè)知識，模擬醫(yī)生的診斷方式，可在短時間內(nèi)提供出高效、精準的診斷結(jié)果和個性化的治療方案。此領(lǐng)域最出名的為IBM的Watson for Oncology（沃森腫瘤學）系統(tǒng)。Watson通過對大量的癌癥臨床知識、基因組數(shù)據(jù)、癌癥病例信息的“學習”后，可以為臨床醫(yī)師提供治療方案，是AI輔助診斷的典范?！? 〕只要輸入患者的電子病歷等信息，Watson能夠快速挖掘醫(yī)學知識和患者的個人記錄，在不到3秒鐘的時間內(nèi)完成診斷，并根據(jù)病人的病歷提出有針對性的個性化治療?，F(xiàn)在Watson已經(jīng)可以查出至少13種器官中的腫瘤。在日本，Watson曾經(jīng)只用10分鐘就將病人的基因變化信息與2000萬篇癌癥科研論文的數(shù)據(jù)進行了比較，準確鑒定了罕見白血病類型，成功挽救了一位60歲婦女的生命。〔3 〕

（二）醫(yī)療AI治療

醫(yī)療AI不僅可以進行診斷，還可參與手術(shù)等外科治療。當下，外科醫(yī)生可以遠離手術(shù)臺操縱AI對心臟和前列腺實施外科手術(shù)。手術(shù)AI的杰出代表是“達芬奇手術(shù)AI”?！斑_芬奇”是目前世界上最先進的手術(shù)AI（內(nèi)窺鏡手術(shù)器械控制系統(tǒng)），可以在醫(yī)生的操作下，利用手術(shù)器械模擬醫(yī)生的手術(shù)過程，完成精細化的手術(shù)操作?！斑_芬奇”具有輔助成像系統(tǒng)，能將手術(shù)的視覺放大10倍至15倍，使手術(shù)畫面更清晰，操作精度更高。此外，“達芬奇”的手臂能進行大角度自由旋轉(zhuǎn)，達到醫(yī)生手術(shù)刀達不到的位置，而且操作穩(wěn)當，不會出現(xiàn)人工操作的顫抖等情況。“達芬奇”曾經(jīng)在一個玻璃瓶里給葡萄縫合葡萄皮，這是人手難以達到的境界?？傊斑_芬奇”為外科醫(yī)生的手術(shù)精度提高了一個數(shù)量級，能減小傷口創(chuàng)傷面，減輕病人痛苦，加快術(shù)后恢復。數(shù)據(jù)顯示，“達芬奇”僅在2016年即完成11445例手術(shù)，〔4 〕截至2017年3月，國內(nèi)“達芬奇”已裝62臺，且全球機器人手術(shù)量以年均15%的速度增長。〔5 〕

（三）醫(yī)療AI護理

隨著全球老齡化加速和慢性病患者的激增，AI護理存在巨大的市場需求。國外在臨床上已經(jīng)出現(xiàn)護理機器人。護理機器人是將傳統(tǒng)的護理工作與先進的機器人技術(shù)相結(jié)合的體現(xiàn)，目前已有康復機器人和生活護理機器人?？祻蜋C器人有外骨骼機器人和兒童上肢康復機器人?？祻蜋C器人能有效提高需要康復訓練患者的訓練強度和效率，幫助殘障人（包括老年人、殘疾人、傷病人）提高生存質(zhì)量和社會生活參與能力。〔6 〕日本研究機構(gòu)Riken開發(fā)的機器人Robear，能將病人從床上抬起，幫助行動不便的病人行走、站立等，能為老年及癱瘓患者提供喂飯等服務(wù)。還可以通過超聲波，實時掌握老年人及癱瘓患者膀胱內(nèi)的尿量變化，有效預測被護理者的排泄時間，即可保護這類人員的尊嚴，也可減輕看護者的負擔。〔7 〕澳大利亞養(yǎng)老院用機器人做護工，通過給機器人輸入程序，可以使其與老年人一對一交流，消減老年人的苦悶。〔8 〕

（四）醫(yī)療AI健康管理

醫(yī)療AI通過動態(tài)，可對個人健康進行精準把握，結(jié)合健康大數(shù)據(jù)給予用戶精準指導，能有效降低疾病發(fā)病率和患病率。具體而言，AI通過可穿戴設(shè)備監(jiān)測患者的活動水平、藥房數(shù)據(jù)、服藥依從性、呼吸和脈搏率狀況、甚至是所處環(huán)境的污染程度等動態(tài)信息。結(jié)合使用者的年齡、病史、健康狀況、臨檢報告、醫(yī)學影像資料以及DNA基因編碼等醫(yī)療信息，通過計算機的超算和學習模型來篩選和解析患者數(shù)字化信息，從而為用戶提供健康預警，并在飲食、起居等各方面提供健康建議，幫助用戶規(guī)避患病風險。此外，通過區(qū)域健康管理可作，AI通過大量實時搜索分析某一區(qū)域內(nèi)人群的健康數(shù)據(jù)，對比歷史數(shù)據(jù)，深度分析，可跟蹤、預判傳染病在該區(qū)域中爆發(fā)及流行趨勢，為衛(wèi)生行政主管部門提供應(yīng)對決策預警。在臨床運用上，Welltok公司與IBM沃森合作，已通過“Cafe Well健康優(yōu)化平臺”推出幫助用戶管理壓力、調(diào)節(jié)情緒、控制營養(yǎng)以及糖尿病護理，并且會在用戶保持健康生活習慣時給予獎勵。同時，為用戶提供靈活、全方位的健康促進方案，包括階段性臨床護理、長期保持最佳健康狀態(tài)等多個方面的服務(wù)。〔9 〕

二、醫(yī)療AI臨床應(yīng)用的法律挑戰(zhàn)

（一）醫(yī)療AI的法律地位問題

醫(yī)療AI在診斷、治療、看護以及健康管理領(lǐng)域的應(yīng)用呈逐漸擴大和深入之趨勢，考慮其進步潛力及醫(yī)學應(yīng)用前景，法律應(yīng)鼓勵這種創(chuàng)新技術(shù)的發(fā)展。隨著醫(yī)療AI在臨床上的不斷應(yīng)用，法律責任問題必然產(chǎn)生。首先，醫(yī)療AI診斷必須達到一定的標準，才能進入臨床應(yīng)用環(huán)節(jié)。問題是，醫(yī)療AI在診斷、治療、護理環(huán)節(jié)中運用時，行為主體是醫(yī)療器械還是醫(yī)生，這兩者的準入標準并不相同，究竟達到何種標準才能進入臨床使用？其次，大數(shù)據(jù)與AI技術(shù)本身帶有不確定性，技術(shù)自身的發(fā)展以及技術(shù)應(yīng)用的結(jié)果都可能產(chǎn)生無法控制或預測的風險?！?0 〕醫(yī)療AI誤診或誤操作等現(xiàn)象難以避免，當對病人造成損害的，顯然需要追究法律責任。但是，追責對象究竟是AI本身，還是醫(yī)務(wù)人員和醫(yī)療機構(gòu)，還是醫(yī)療AI的生產(chǎn)者（包括軟件或硬件）？換言之，醫(yī)療AI在法律上是人還是物？這是探究醫(yī)療AI法律責任最基本也是最重要的問題。只有在法律上界定了醫(yī)療AI診斷的法律身份，其他的相關(guān)問題才能迎刃而解。

（二）醫(yī)療損害的法律責任問題

實踐證明，醫(yī)療AI誤診或誤操作等現(xiàn)象難以避免。由于Watson背后的“技術(shù)黑箱”和“自主學習”，它無法解釋它的決策理由，即為什么會為特定的患者推薦特定的治療方案，有時甚至是專科醫(yī)生們也會疑惑Watson為何會提出他們不會提出的治療方案?！?1 〕此時，醫(yī)生對于究竟是否需要采納Watson的方案將陷入兩難的境地，如果因采納Watson的方案而導致誤診的，或者明明可以使患者獲得救助，卻因未采納Watson的方案而導致患者誤診受到損害的，是否需要承擔法律責任？再如，“達芬奇”這樣的手術(shù)AI雖然出色，但也仍然存在安全風險。在英國2015年首例“達芬奇”心瓣修復手術(shù)中，機械手臂亂動打到醫(yī)生的手，還把病人心臟放錯位置，戳穿了患者的大動脈?！?2 〕由于手術(shù)AI沒有觸覺反饋，醫(yī)生無法感知到在手術(shù)過程中病人的身體反饋情況，難以根據(jù)臨床現(xiàn)狀及時調(diào)整手術(shù)方案，一旦碰上手術(shù)AI出現(xiàn)硬件故障或程序漏洞，很容易造成醫(yī)療事故。醫(yī)療AI在護理和健康管理中同樣存在因AI硬件故障或程序漏洞而導致患者遭受醫(yī)療損害的問題。那么，這類手術(shù)AI的安全標準是什么，一旦發(fā)生醫(yī)療事故，責任主體是誰，此類問題亟須法學界給出答案。

（三）醫(yī)療數(shù)據(jù)的保護和利用問題

發(fā)展醫(yī)療AI，特別是發(fā)展醫(yī)療AI健康管理，需要利用大量醫(yī)學數(shù)據(jù)。醫(yī)療AI的服務(wù)質(zhì)量取決于喂投給它的醫(yī)療數(shù)據(jù)的量，兩者成正比關(guān)系。為了更好地提供精準化、個性化的健康管理服務(wù)，往往需要采集使用者全時段、全方位、長周期、海量的生理和生活數(shù)據(jù)，其中絕大部分屬于隱私數(shù)據(jù)，對這些數(shù)據(jù)進行簡單地大數(shù)據(jù)分析就可得知使用者的敏感信息，一旦被有意或無意地泄露，會給使用者造成重大法益侵害。而且，醫(yī)療AI不同于醫(yī)生，系統(tǒng)收集到的患者信息保存于云端或存儲器，就算人工刪除也能被輕易恢復。而且，AI的“保密性”不像人那樣存在情感，任何人均可從中調(diào)取信息，加密措施也無法完全阻止黑客的信息調(diào)取。完全摒棄保護隱私，全部數(shù)據(jù)均用于發(fā)展AI，或者追求隱私的絕對保護，全面禁止AI使用醫(yī)療大數(shù)據(jù)，顯然均不可取。需要在這兩者之間尋找到平衡點。此外，通過對大量醫(yī)療數(shù)據(jù)的加工可以形成新的有用數(shù)據(jù)，此時不僅需要保護被搜集人的個人信息權(quán)，還要保護數(shù)據(jù)開發(fā)者、合法利用者的數(shù)據(jù)權(quán)，迄今為止，如何對數(shù)據(jù)進行確權(quán)并且構(gòu)建起權(quán)利內(nèi)容和權(quán)利轉(zhuǎn)移制度尚未解決?！?3 〕這為法律對醫(yī)療數(shù)據(jù)的保護和利用提出了較高的要求。

三、醫(yī)療AI臨床應(yīng)用的法律對策

（一）醫(yī)療AI的法律地位

我國尚無法律法規(guī)用于界定AI的法律地位。但是，從外觀而言，醫(yī)療AI是具有特定物理形態(tài)的醫(yī)療工具，與其他手術(shù)器械相比，并無顛覆性的改變。從內(nèi)在而言，醫(yī)療AI是一套能夠按照內(nèi)設(shè)程序進行操作的系統(tǒng)，該系統(tǒng)由人類設(shè)計，并受人類控制，并未做到完全獨立自主地從事醫(yī)療行為。而且，醫(yī)療AI無法像人類醫(yī)生那樣和病人進行情感交流，或許永遠無法超越專業(yè)人員對疾病和病人人生觀和價值觀的理解。從AI的發(fā)展階段來看，當前醫(yī)療AI還缺乏自我意識，不會像人類一樣思考，仍然處于弱AI階段。當下，最終做診斷結(jié)論和手術(shù)操作（或下達動作指令）的仍然是醫(yī)生。因此，此階段的醫(yī)療AI不應(yīng)具有法理主體地位，仍然屬于醫(yī)療器械。其不僅不具備產(chǎn)生民事法律關(guān)系的主體資格，更不能成為承擔刑事責任的主體，難以獨立承擔法律責任。

當然，隨著AI技術(shù)不斷發(fā)展與進步，真正到達強AI階段，人機界限模糊且人機共存狀態(tài)成為新的社會特征，出現(xiàn)具有法律人格或類法律人格的智能機器人，以人際社會關(guān)系作為調(diào)整對象的法律制度將出現(xiàn)顛覆性的變革。〔14 〕在將來醫(yī)療AI確實達到能夠獨立診斷或獨立手術(shù)的地步，通過立法賦予其一定的法律主體地位也未嘗不可。其實，早在2016年，歐盟委員會的法律事務(wù)委員就建議將最先進的AI人的身份定位為“電子人”。如果醫(yī)療AI要作為獨立主體進行診斷或治療等活動，為了保證醫(yī)療水準以及醫(yī)療安全，就應(yīng)當向人類醫(yī)生一樣，讓其必須要獲得相關(guān)的行醫(yī)資格。到那個階段，法律就不能將其簡單地定義為人或者物，而應(yīng)是一定條件下的物或一定條件下的人，即應(yīng)當以醫(yī)療AI的具體應(yīng)用場景對其作出人或者物的定性。醫(yī)療AI不僅要滿足作為醫(yī)療設(shè)備的各項指標，更要達到作為主體“醫(yī)生”的各項要求，在出現(xiàn)醫(yī)療損害時甚至成為承擔法律責任的主體。

（二）醫(yī)療AI引發(fā)醫(yī)療損害時的法律責任

“沒有責任就沒有刑罰”是現(xiàn)代刑法的一個基本原理?！?5 〕責任的本質(zhì)特征是非難可能性，只有在具有非難可能性的情況下，行為人才能對不法行為承擔責任?！?6 〕由于我國目前尚未出臺專門針對醫(yī)療AI的法律法規(guī)，有必要在既有的法律框架內(nèi)探討醫(yī)療AI在診斷和治療過程中引發(fā)醫(yī)療事故時的法律責任。如上述，醫(yī)療AI目前仍是輔助醫(yī)療工具，還不具有法律上的主體地位，因此，當下醫(yī)療AI造成醫(yī)療事故時，責任主體仍是研發(fā)者、生產(chǎn)者以及使用者。法律責任通常包括民事責任和刑事責任?！?7 〕