摘要：智慧醫(yī)療是數(shù)字社會(huì)建設(shè)的重要組成部分，更是建設(shè)健康中國的助推器。然而智慧醫(yī)療使用中的算法錯(cuò)誤，會(huì)危及病患的生命權(quán)與健康權(quán)，給當(dāng)事人造成難以恢復(fù)的損害結(jié)果。就其衍生的民事責(zé)任而言，可在《民法典》侵權(quán)責(zé)任編的框架內(nèi)借助法解釋工具予以處理：醫(yī)療倫理責(zé)任中的醫(yī)生的告知義務(wù)應(yīng)做適用性調(diào)整，基于智慧醫(yī)療的發(fā)展階段與社會(huì)大眾的接受度，動(dòng)態(tài)要求醫(yī)生履行不同標(biāo)準(zhǔn)的告知義務(wù)；就醫(yī)療機(jī)構(gòu)的組織責(zé)任而言，應(yīng)肯定醫(yī)院負(fù)有更新醫(yī)療AI系統(tǒng)的義務(wù)，醫(yī)院須證明自己盡到了完善、更新醫(yī)療AI的義務(wù)。未來隨著智慧醫(yī)療的進(jìn)階發(fā)展，應(yīng)優(yōu)化賠償模式，承認(rèn)醫(yī)療AI的獨(dú)立責(zé)任，以嚴(yán)格責(zé)任為歸責(zé)原則，在證明責(zé)任上，采危險(xiǎn)責(zé)任理論，要求生產(chǎn)者與使用者負(fù)擔(dān)舉證責(zé)任，而在醫(yī)療AI承擔(dān)責(zé)任的財(cái)產(chǎn)來源上，應(yīng)采多層次的強(qiáng)制醫(yī)療AI責(zé)任保險(xiǎn)，確保受有損害的病患能獲得及時(shí)有效的賠償。

關(guān)鍵詞：智慧醫(yī)療；醫(yī)療過失；責(zé)任承擔(dān)；責(zé)任保險(xiǎn)

基金項(xiàng)目：國家社會(huì)科學(xué)基金青年項(xiàng)目“民法典合同通則在保險(xiǎn)領(lǐng)域的法律適用研究”（項(xiàng)目編號(hào)：21CFX033）

中圖分類號(hào)：D925.1文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)：1003-854X（2023）12-0121-06

一、問題的提出

我國“十四五”規(guī)劃明確提出要在醫(yī)療領(lǐng)域開展數(shù)字化試點(diǎn)示范工作。從世界范圍來看，智慧醫(yī)療（或稱醫(yī)療AI）已在醫(yī)療放射（Radiology）與醫(yī)療影像 （Imaging）領(lǐng)域取得相當(dāng)優(yōu)異的成績，其檢測疾病的準(zhǔn)確率和速率甚至超過了人類醫(yī)師（1）。就我國的現(xiàn)實(shí)情況來看，醫(yī)療行業(yè)存在基礎(chǔ)數(shù)據(jù)量大、優(yōu)質(zhì)醫(yī)療資源相對(duì)不足、民生需求迫切等客觀因素，智能問診、“刷臉”就醫(yī)、醫(yī)療影像輔助診斷、疾病鑒定（2）技術(shù)等在我國已獲得廣泛運(yùn)用，但亟待人工智能賦能醫(yī)療行業(yè)的高質(zhì)量發(fā)展。

智慧醫(yī)療（醫(yī)療AI）借助機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等算法技術(shù)，使得我們可以在海量醫(yī)療數(shù)據(jù)中發(fā)掘出潛在的科學(xué)法則，進(jìn)而為評(píng)估預(yù)后、作成診斷、分析影像、選擇治療等方面作出醫(yī)療判斷（3） 。但必須承認(rèn)的是，目前的人工智能系統(tǒng)于使用上存在受制于算法與參數(shù)設(shè)計(jì)錯(cuò)誤、訓(xùn)練數(shù)據(jù)的非真實(shí)性、偏見以及代表性不足等問題（4），AI算法仍存在不確定性，運(yùn)算準(zhǔn)確率并非百分之百。智慧醫(yī)療決策一旦有誤，便會(huì)危及病患的生命權(quán)、健康權(quán)，給病患造成難以恢復(fù)的人身損害。未來隨著智慧醫(yī)療的發(fā)展與大規(guī)模運(yùn)用，醫(yī)患糾紛可能變得更加復(fù)雜，許多不同的利害關(guān)系人（例如軟件開發(fā)人、制造商、醫(yī)院和醫(yī)師）參與了醫(yī)療AI系統(tǒng)的建構(gòu)和使用，勢(shì)必會(huì)滋生新型法律糾紛：其一， 在智慧醫(yī)療輔助醫(yī)生進(jìn)行醫(yī)療決策時(shí)，醫(yī)生應(yīng)如何踐行“告知同意”規(guī)則，應(yīng)以何種方式向病患釋清醫(yī)療AI的醫(yī)療建議，保障病患的自決權(quán)？其二，醫(yī)院如何善盡其管理責(zé)任，確保醫(yī)療AI的安全性，醫(yī)療機(jī)構(gòu)應(yīng)盡到何種程度的注意義務(wù)，方能主張免責(zé)？其三，當(dāng)醫(yī)療AI獨(dú)立為醫(yī)療決策時(shí)，若發(fā)生損害責(zé)任，病患應(yīng)向誰主張損害賠償責(zé)任，病患如何就醫(yī)療AI的“過失”履行舉證責(zé)任？醫(yī)療AI獨(dú)立承擔(dān)責(zé)任的財(cái)產(chǎn)源于何處？這些棘手難題與智慧醫(yī)療的穩(wěn)健發(fā)展息息相關(guān)，皆應(yīng)嚴(yán)肅對(duì)待，并求得妥當(dāng)解釋。

二、責(zé)任法視角下智慧醫(yī)療責(zé)任認(rèn)定的困境成因

在醫(yī)療健康產(chǎn)業(yè)數(shù)字化、智能化轉(zhuǎn)型的進(jìn)程中，我國將加速推動(dòng)醫(yī)療領(lǐng)域數(shù)智技術(shù)創(chuàng)新和應(yīng)用，提高百姓對(duì)優(yōu)質(zhì)高效健康服務(wù)的獲得感。醫(yī)療侵權(quán)中被害人損害賠償?shù)恼?qǐng)求權(quán)基礎(chǔ)，立法上有契約責(zé)任與侵權(quán)責(zé)任兩種模式（5）?！吨腥A人民共和國民法典》（以下簡稱《民法典》）處理醫(yī)療損害責(zé)任采英美法路徑，明確規(guī)定了醫(yī)療損害責(zé)任適用過錯(cuò)責(zé)任的一般規(guī)則（6），醫(yī)療AI責(zé)任理應(yīng)置于侵權(quán)責(zé)任法中過錯(cuò)責(zé)任框架下進(jìn)行討論。然而隨著智慧醫(yī)療的發(fā)展，不透明、不可測、非直觀的算法取代醫(yī)生的決策過程，將導(dǎo)致人工智能科技與醫(yī)療過失侵權(quán)責(zé)任的認(rèn)定出現(xiàn)緊張關(guān)系。

（一）宏觀層面：醫(yī)療AI漸有替代醫(yī)生專業(yè)判斷之勢(shì)

鑒于醫(yī)療行為具有高度專業(yè)性與不確定性，在國內(nèi)外實(shí)務(wù)中，醫(yī)療過失的認(rèn)定，皆采醫(yī)療常規(guī)的注意標(biāo)準(zhǔn)，要求醫(yī)療機(jī)構(gòu)人員在其醫(yī)療活動(dòng)中負(fù)有與其專業(yè)能力相符的注意義務(wù)（7）。隨著醫(yī)療AI的發(fā)展與介入，傳統(tǒng)的醫(yī)療過失標(biāo)準(zhǔn)會(huì)隨時(shí)間推移而改變，若醫(yī)療AI被社會(huì)廣泛接受，且于醫(yī)療科學(xué)上并無質(zhì)疑，具有較少之危險(xiǎn)、較少之負(fù)擔(dān)或能提供較好的治療效果，則使用AI將會(huì)變成新的判斷標(biāo)準(zhǔn)。此時(shí)，在醫(yī)療實(shí)務(wù)中，如若醫(yī)師并未使用醫(yī)療AI進(jìn)行診斷以提升醫(yī)療質(zhì)量而發(fā)生醫(yī)療事故時(shí)，則會(huì)被認(rèn)為存在過失。有美國論者認(rèn)為，使用醫(yī)療AI 最終將成為整個(gè)美國醫(yī)療注意義務(wù)的新標(biāo)準(zhǔn)（8）。

若將來醫(yī)療AI取代醫(yī)生專業(yè)的診療判斷，最終結(jié)果便是誘導(dǎo)醫(yī)師為了避免承擔(dān)責(zé)任，舍棄自身的專業(yè)判斷，傾向于遵循AI的建議，而這樣的選擇顯非妥當(dāng)，且在目前的侵權(quán)法架構(gòu)下仍有責(zé)任風(fēng)險(xiǎn)，即便醫(yī)師使用了AI并遵循其所提供的建議，卻不必然意味著醫(yī)師就可以免除過失責(zé)任，因?yàn)楝F(xiàn)階段AI多作為輔助醫(yī)師診斷和治療的工具，最終的診斷決策仍須由醫(yī)師作成。因此，若醫(yī)師完全遵循AI的建議，而最后因AI錯(cuò)誤造成病患的損害，法院便會(huì)要求醫(yī)生闡釋其遵循醫(yī)療AI建議之合理性，囿于醫(yī)療AI決策過程的不可解釋性，醫(yī)生無法釋明合理性，此時(shí)法院便會(huì)認(rèn)為醫(yī)師忽略審查 AI 意見的適當(dāng)與否，而判定醫(yī)師須對(duì)醫(yī)療事故承擔(dān)過失責(zé)任，如此判定便會(huì)讓醫(yī)生無所適從，阻礙醫(yī)療AI的接受度與推廣普及。

（二）微觀層面：算法黑箱致過失認(rèn)定的可預(yù)見規(guī)則失效

侵權(quán)法上，所謂過失即行為人對(duì)侵害他人民事權(quán)益結(jié)果的發(fā)生應(yīng)注意或能注意卻未注意的一種心理狀態(tài)（9）。由此可知，侵權(quán)法上的過失，重在評(píng)價(jià)行為人之決策是否合乎理性人之注意標(biāo)準(zhǔn)，行為人須對(duì)損害之發(fā)生具有預(yù)見可能性及回避可能性，始需負(fù)損害賠償責(zé)任。

人工智能的算法具有不可測性，學(xué)界稱之“算法黑箱”，其輸入和輸出雖是可見和可理解的，但從輸入到輸出的過程缺乏透明度，AI的計(jì)算過程是無法解釋和理解的。智慧醫(yī)療的不可預(yù)測性與醫(yī)療過失的可預(yù)見性之間遂產(chǎn)生矛盾：第一種情形，AI給出的建議錯(cuò)誤比較明顯，醫(yī)師只要施以同領(lǐng)域醫(yī)師應(yīng)有的注意即可發(fā)現(xiàn)，而醫(yī)師卻遵從AI的診斷意見而使病患發(fā)生損害，則應(yīng)認(rèn)為該醫(yī)師未盡其專業(yè)醫(yī)生必要的注意義務(wù)，存在過失。第二種情形，AI在給予醫(yī)療建議時(shí)，醫(yī)師即使運(yùn)用自身醫(yī)學(xué)專業(yè)知識(shí)依然無法判斷 AI 建議或診斷正確與否，在此情況下，AI發(fā)生了不可理解的錯(cuò)誤而導(dǎo)致誤診，此時(shí)若堅(jiān)持認(rèn)為應(yīng)由醫(yī)生負(fù)責(zé)，實(shí)非公平。因?yàn)锳I運(yùn)算的黑盒子特性，醫(yī)師無法及時(shí)或根本沒有能力驗(yàn)證AI的診斷正確與否，此時(shí)AI儼然是與人類醫(yī)師共同會(huì)診，AI出現(xiàn)誤診，要求醫(yī)師負(fù)擔(dān)AI全部的侵權(quán)責(zé)任并不合理。

三、智慧醫(yī)療中醫(yī)療責(zé)任內(nèi)容的革新

醫(yī)療責(zé)任有醫(yī)療倫理責(zé)任與醫(yī)療組織責(zé)任之分，在智慧醫(yī)療的背景下，這兩種醫(yī)療責(zé)任的具體內(nèi)容變革，還需進(jìn)一步討論。

（一）醫(yī)療倫理責(zé)任：醫(yī)生告知義務(wù)履行方式的革新

相較于冷冰冰的智慧系統(tǒng)，醫(yī)患關(guān)系最為重要的是醫(yī)師與病人在溝通協(xié)調(diào)中達(dá)成共識(shí)，以取得彼此的信任。醫(yī)生履行告知義務(wù)之重點(diǎn)不僅在于說明之內(nèi)容，也在于說明之過程，通過解釋說明讓病人產(chǎn)生信任而作出符合其價(jià)值信念的醫(yī)療決定。在醫(yī)患共享決策的過程中，可培養(yǎng)出醫(yī)師與病人間良好的信任關(guān)系，且在信息適當(dāng)透明的情況下，病人以醫(yī)師未盡告知后同意規(guī)則而提起訴訟的可能性將會(huì)降低。當(dāng)醫(yī)生違反“告知同意”規(guī)則，便應(yīng)承擔(dān)醫(yī)療倫理責(zé)任（10） 。至于醫(yī)生如何踐行告知義務(wù)，受英美法學(xué)說的影響，我國過往實(shí)務(wù)對(duì)于告知義務(wù)的范圍多采理性醫(yī)師標(biāo)準(zhǔn)，即醫(yī)生的告知內(nèi)容，應(yīng)以一個(gè)謹(jǐn)慎而理性的醫(yī)師在相同或類似情況下應(yīng)告知之內(nèi)容為標(biāo)準(zhǔn)。

伴隨著醫(yī)療 AI 的介入，醫(yī)療決策中多了一層醫(yī)療 AI 算法不透明的中間環(huán)節(jié)，醫(yī)師在履行說明告知義務(wù)時(shí)會(huì)遇到“知識(shí)黑洞”和其他難以充分說明的困難（11） ，此時(shí)，系統(tǒng)使用者（醫(yī)師）勢(shì)必難以解釋為何系統(tǒng)會(huì)得出該診斷結(jié)果、診療建議。換言之，當(dāng)醫(yī)師使用人工智能系統(tǒng)進(jìn)行醫(yī)療決策，卻因系統(tǒng)本身的不透明性、不可解釋性而無法向病人解釋診療決策的原理時(shí)，醫(yī)師該如何履行告知義務(wù)？對(duì)此，在履行告知義務(wù)，采理性醫(yī)師標(biāo)準(zhǔn)時(shí)，還應(yīng)該考量醫(yī)療實(shí)踐中人工智能適用的具體情形，斟酌醫(yī)師對(duì)于醫(yī)療人工智能的依賴程度、醫(yī)療人工智能技術(shù)成熟度以及社會(huì)大眾的接受度而動(dòng)態(tài)調(diào)整應(yīng)予說明之內(nèi)容（12） ，詳細(xì)而言：

階段一：于醫(yī)療人工智能之使用并不普遍時(shí)，病人對(duì)于醫(yī)療人工智能的了解相對(duì)有限，若要做到全面揭露醫(yī)療人工智能的算法原理，病人可能會(huì)因接收到大量信息，滋生信息超載問題（13） ，反而產(chǎn)生認(rèn)知混淆，影響病患的自我決策。在醫(yī)療人工智能發(fā)展的初期，可解釋性及透明性仍顯現(xiàn)不足，醫(yī)師固然不知醫(yī)療人工智能獲得某種結(jié)論之過程，在該階段，病患對(duì)醫(yī)師的信任遠(yuǎn)超醫(yī)療AI，病患仍比較依賴醫(yī)生，對(duì)醫(yī)師作出相應(yīng)的解釋仍有較高的合理期待。此時(shí)，醫(yī)師應(yīng)依據(jù)醫(yī)療人工智能能夠被揭露之程度，立足自身專業(yè)能力，盡力向病人作出解釋，醫(yī)師專業(yè)決策與智能醫(yī)療決策之間屬主輔關(guān)系。

階段二：于醫(yī)療人工智能之使用比較普遍后，接受了大量的臨床驗(yàn)證，醫(yī)師對(duì)于醫(yī)療人工智能之理解已較為豐富，醫(yī)療人工智能之透明性與可解釋性也有所改觀，病人對(duì)于醫(yī)療人工智能并不完全陌生，已較能了解醫(yī)療人工智能之運(yùn)作方式，此時(shí)，可采用理性病人標(biāo)準(zhǔn)說向病人說明醫(yī)療人工智能之運(yùn)作機(jī)制，說明之內(nèi)容可較階段一更為豐富、全面，也不會(huì)給病人造成過重之信息負(fù)擔(dān)（14） 。此時(shí)，醫(yī)師必須考量醫(yī)療AI決策所涉之利益大小、決策邏輯利益沖突之程度，說明使用或不使用醫(yī)療人工智能之利弊，與病人共同進(jìn)行決策，合理決定醫(yī)師與智能醫(yī)療之間的主輔關(guān)系。

階段三：當(dāng)醫(yī)療人工智能已經(jīng)十分普遍，醫(yī)師已經(jīng)習(xí)慣于向病患解說醫(yī)療人工智能事項(xiàng)，輔助病人決策之工具已經(jīng)成為流行主流，可依據(jù)病人之個(gè)性化信息需求而動(dòng)態(tài)運(yùn)用說明義務(wù)論滿足病患所期待之說明內(nèi)容。因醫(yī)療人工智能之運(yùn)用已屬常規(guī)內(nèi)容且比較安全，則醫(yī)師與病人對(duì)于使用醫(yī)療人工智能具有高度信賴，理性病人此時(shí)不再需要醫(yī)師多加解釋；然而，當(dāng)病人提出具體詢問、重大醫(yī)療決策、利益沖突可能性等醫(yī)療人工智能運(yùn)用所生之個(gè)性化問題，醫(yī)師應(yīng)遵循理性病人標(biāo)準(zhǔn)履行說明義務(wù)。

（二）醫(yī)療機(jī)構(gòu)的組織責(zé)任：醫(yī)療AI數(shù)據(jù)更新義務(wù)的履行

在醫(yī)療活動(dòng)中，醫(yī)師在第一線為病患實(shí)施檢查、診斷與治療等醫(yī)療行為，履行告知說明義務(wù)、建立完整病歷與保管義務(wù)、保密義務(wù)。而隨著醫(yī)療專業(yè)分工日益精細(xì)，醫(yī)療機(jī)構(gòu)內(nèi)所提供的醫(yī)療行為已不再限于個(gè)別醫(yī)護(hù)人員，而是結(jié)合不同領(lǐng)域的醫(yī)療人員、軟硬設(shè)施所提供的整體性醫(yī)療服務(wù)，醫(yī)療損害事件并非必然系因個(gè)別醫(yī)護(hù)人員的疏失，而可能是醫(yī)療機(jī)構(gòu)的系統(tǒng)性錯(cuò)誤所致。因此，醫(yī)療機(jī)構(gòu)負(fù)有確保能提供適當(dāng)且對(duì)病患無危險(xiǎn)之醫(yī)療行為的義務(wù)，此即學(xué)理上所謂之“企業(yè)所負(fù)的組織責(zé)任”。（15） 至于醫(yī)療機(jī)構(gòu)的組織責(zé)任，學(xué)界認(rèn)為醫(yī)療機(jī)構(gòu)在運(yùn)營中，必須防止其受雇人員、機(jī)器設(shè)備或提供之服務(wù)，對(duì)他人之生命或身體造成損害，否則即為交易安全義務(wù)之違反，應(yīng)負(fù)賠償責(zé)任（16） 。

就醫(yī)療AI的技術(shù)演變歷程而言，醫(yī)療AI會(huì)從現(xiàn)階段多以輔助醫(yī)師為決策建議發(fā)展至未來可能于某專業(yè)科別完全取代醫(yī)師，彼時(shí)醫(yī)療AI遂會(huì)成為醫(yī)療機(jī)構(gòu)的系統(tǒng)組成部分，醫(yī)療AI的安全性自應(yīng)成為醫(yī)院所負(fù)組織義務(wù)的應(yīng)有之義。詳言之，因醫(yī)療AI系統(tǒng)的目的在于提供最新、最實(shí)時(shí)的醫(yī)學(xué)知識(shí)與技術(shù)，以便臨床醫(yī)師能獲得最新的可能減緩病患手術(shù)副作用的替代性療法，保障民眾的身體健康與福祉。然而倘若醫(yī)療AI于系統(tǒng)運(yùn)算分析過程中使用錯(cuò)誤、不合適之算法模型、系統(tǒng)透過有錯(cuò)誤、偏差的病患數(shù)據(jù)，又或是未關(guān)注到實(shí)務(wù)中出現(xiàn)的新型診斷與治療方法，便會(huì)有潛在的致?lián)p風(fēng)險(xiǎn)。醫(yī)學(xué)科學(xué)的發(fā)展間接或直接影響病患于日后接受診斷與治療照護(hù)之成效與質(zhì)量，未及時(shí)更新的醫(yī)療AI數(shù)據(jù)系統(tǒng)便構(gòu)成了組織瑕疵。因此，隨著醫(yī)療AI之應(yīng)用越趨普及且系統(tǒng)具備高穩(wěn)定性與準(zhǔn)確性而成為醫(yī)療常規(guī)、臨床指引時(shí)，醫(yī)療機(jī)構(gòu)與醫(yī)師便應(yīng)確保醫(yī)療AI之安全、穩(wěn)定、正確及有效輸出之使用目的。鑒于醫(yī)療機(jī)構(gòu)相較醫(yī)師更有資金與風(fēng)險(xiǎn)控管能力，應(yīng)為整體醫(yī)療AI之建置、訓(xùn)練、驗(yàn)證、測試與監(jiān)測等管理與運(yùn)作事項(xiàng)負(fù)起主要責(zé)任，法律有必要明確賦予醫(yī)療機(jī)構(gòu)對(duì)于醫(yī)療AI所為之管理與更新系統(tǒng)之行為義務(wù)，確保醫(yī)療AI之安全、穩(wěn)定、正確且有效運(yùn)作。

基于醫(yī)療機(jī)構(gòu)所負(fù)之組織管理責(zé)任，當(dāng)病患受有損害時(shí)，得先向醫(yī)療機(jī)構(gòu)提起訴訟，若醫(yī)療機(jī)構(gòu)認(rèn)為其并無違反管理與監(jiān)督醫(yī)療AI之注意義務(wù)時(shí)，應(yīng)由醫(yī)療機(jī)構(gòu)舉證證明其已善盡定期更新、維護(hù)、監(jiān)測及適時(shí)培訓(xùn)醫(yī)師之行為義務(wù)，若確實(shí)有履行前述相關(guān)行為義務(wù)，醫(yī)療機(jī)構(gòu)始得免除責(zé)任。

四、未來智慧醫(yī)療中AI獨(dú)立責(zé)任及其實(shí)現(xiàn)的可能性

侵權(quán)責(zé)任法所建構(gòu)的醫(yī)療責(zé)任法體系，其損害賠償責(zé)任之成立系以行為人具有過失為前提，亦即醫(yī)師或醫(yī)療機(jī)構(gòu)對(duì)于醫(yī)療損害之發(fā)生具有預(yù)見可能性及回避可能性，始須負(fù)損害賠償責(zé)任。而以風(fēng)險(xiǎn)為基礎(chǔ)的治理是人工智能法研究的基礎(chǔ)（17），以風(fēng)險(xiǎn)而高階的醫(yī)療人工智能所衍生的醫(yī)療風(fēng)險(xiǎn)，常非醫(yī)師及醫(yī)療機(jī)構(gòu)所能掌控，但若以醫(yī)師、醫(yī)療機(jī)構(gòu)及研發(fā)廠商無法預(yù)見或不具有回避可能性而否定其損害賠償責(zé)任之成立，于被害人而言誠非公允。鑒于此，理應(yīng)于法責(zé)任體系上重新劃分智慧醫(yī)療中當(dāng)事人之責(zé)任歸屬，以為衡平。

（一）醫(yī)療AI責(zé)任的成立及其證明

1.醫(yī)療AI責(zé)任的產(chǎn)品責(zé)任底色

診療過程中，獨(dú)立自主的醫(yī)療AI因自身疏忽致病患產(chǎn)生損害，自應(yīng)予以賠償。然何為醫(yī)療AI疏忽？其具體表現(xiàn)應(yīng)為醫(yī)療AI在制造或設(shè)計(jì)上存在缺陷，在此意義上，醫(yī)療AI的自身責(zé)任，其邏輯底色應(yīng)為產(chǎn)品的嚴(yán)格責(zé)任（18） ，可依據(jù)《民法典》第1223條之規(guī)定承擔(dān)醫(yī)療器械損害責(zé)任。該條之醫(yī)療產(chǎn)品責(zé)任，嚴(yán)格意義上不是醫(yī)療損害責(zé)任，而是產(chǎn)品責(zé)任（19） ，可轉(zhuǎn)引產(chǎn)品責(zé)任中的嚴(yán)格責(zé)任之規(guī)定。

在域外，無論是歐盟的產(chǎn)品責(zé)任指令，還是美國法，產(chǎn)品責(zé)任皆以傳統(tǒng)、可觸碰、可移動(dòng)及大規(guī)模生產(chǎn)之產(chǎn)品為規(guī)范對(duì)象（20） 。依此觀點(diǎn)，單純的人工智能軟件系統(tǒng)不屬于商品，病患或醫(yī)療機(jī)構(gòu)可能就難以向醫(yī)療AI制造商主張產(chǎn)品責(zé)任。但醫(yī)療AI是否屬于商品并非歸責(zé)問題之癥結(jié)所在，醫(yī)療AI承擔(dān)責(zé)任的關(guān)鍵在于是否可以在醫(yī)療AI領(lǐng)域推行嚴(yán)格責(zé)任。

首先，推行嚴(yán)格責(zé)任，符合“風(fēng)險(xiǎn)收益一體”理論。嚴(yán)格責(zé)任的合理性在于利益風(fēng)險(xiǎn)以及控制力的均衡分配，即行為人使他人暴露于其從中受益并受其控制的活動(dòng)風(fēng)險(xiǎn)中，行為人應(yīng)對(duì)此負(fù)責(zé)（21） 。另從法經(jīng)濟(jì)分析的角度來看，法經(jīng)濟(jì)學(xué)認(rèn)為責(zé)任應(yīng)分配給最小成本的避險(xiǎn)者（22） ，企業(yè)經(jīng)營者盡管也難以控制與掌握AI系統(tǒng)的決策過程，然其地位相較于弱勢(shì)之消費(fèi)者甚至是更難以發(fā)現(xiàn)與檢視商品卻受到損害的第三人而言，企業(yè)經(jīng)營者事前有機(jī)會(huì)檢視、驗(yàn)證人工智能之科學(xué)性與安全性，倘若制造商事前切實(shí)履行驗(yàn)證程序，勢(shì)必會(huì)對(duì)系統(tǒng)的損害、錯(cuò)誤發(fā)生有一定的預(yù)防效果，制造商客觀上得負(fù)擔(dān)較少之成本而盡可能規(guī)避損害結(jié)果之發(fā)生；其次，推行嚴(yán)格責(zé)任，意味著原告病患無需舉證證明制造商主觀上有故意與過失，降低了證明難度，有利于受害者第一時(shí)間獲得救濟(jì)賠償，且企業(yè)經(jīng)營者能借由市場價(jià)格機(jī)制或是產(chǎn)品責(zé)任保險(xiǎn)分散損害風(fēng)險(xiǎn)，因而課予制造商嚴(yán)格責(zé)任實(shí)屬妥當(dāng)。

歐盟《人工智能和其他新興數(shù)字技術(shù)責(zé)任的報(bào)告》中也明確說道，與已受嚴(yán)格責(zé)任規(guī)范的傳統(tǒng)風(fēng)險(xiǎn)相比，人工智能技術(shù)通常也會(huì)造成極為嚴(yán)重的重大損害，尤其是牽涉對(duì)象為不特定多數(shù)人時(shí)更應(yīng)被謹(jǐn)慎對(duì)待（23） ，醫(yī)療 AI 之使用牽涉人類個(gè)人之身體權(quán)、健康權(quán)及生命權(quán)等重大權(quán)益，理應(yīng)受到嚴(yán)格責(zé)任的規(guī)范。該研究報(bào)告倡導(dǎo)，隨著人類專家監(jiān)督與介入之機(jī)會(huì)與能力越趨渺茫時(shí)，未來強(qiáng)自主性的人工智能系統(tǒng)，應(yīng)有更為嚴(yán)格之規(guī)范，約束較有機(jī)會(huì)控制與防范人工智能系統(tǒng)發(fā)生損害之制造商。

2.醫(yī)療AI損害中證明責(zé)任之實(shí)現(xiàn)

2020年修訂的《最高人民法院關(guān)于審理醫(yī)療損害責(zé)任糾紛案件適用法律若干問題的解釋》第7條規(guī)定，患者主張醫(yī)療產(chǎn)品生產(chǎn)者承擔(dān)賠償責(zé)任的，應(yīng)當(dāng)提交使用醫(yī)療產(chǎn)品、受到損害的證據(jù)；無法舉證因果關(guān)系時(shí)，可依法申請(qǐng)鑒定，人民法院應(yīng)當(dāng)準(zhǔn)許?；氐綄?shí)踐中，在醫(yī)療AI系統(tǒng)算法出錯(cuò)而造成損害的狀況下，因?yàn)锳I學(xué)習(xí)算法高度復(fù)雜且欠缺透明，對(duì)其進(jìn)行回顧式因果鏈審查并不可能，要證明損害系因算法造成十分困難。舉證困難的結(jié)果便是導(dǎo)致負(fù)有舉證責(zé)任之受害人獨(dú)自承受了人工智能醫(yī)療產(chǎn)品之風(fēng)險(xiǎn)。為平衡雙方舉證能力的差異，轉(zhuǎn)換舉證責(zé)任或?qū)嵤┎扇∨e證責(zé)任減輕規(guī)則顯得尤為迫切。

鑒于人工智能系統(tǒng)的黑盒子效應(yīng) （Blackbox-Effects）將會(huì)導(dǎo)致證明產(chǎn)品之瑕疵要件變得極為復(fù)雜與困難，對(duì)于科技設(shè)備并不熟悉，且處于制造企業(yè)領(lǐng)域之外的受害人而言幾乎是無法進(jìn)行證明的（24）。本文認(rèn)為，醫(yī)療人工智能之損害賠償責(zé)任應(yīng)適用危險(xiǎn)責(zé)任理論，即人工智能產(chǎn)品之瑕疵與責(zé)任成立因果關(guān)系均有舉證責(zé)任轉(zhuǎn)換之適用，應(yīng)由人工智能產(chǎn)品的制造人擔(dān)負(fù)舉證責(zé)任，且受害人對(duì)于產(chǎn)品之制造人享有信息提供請(qǐng)求權(quán)。

危險(xiǎn)責(zé)任理論的思想基礎(chǔ)為特定人透過其產(chǎn)品開啟了危險(xiǎn)源，必須承擔(dān)因此項(xiàng)危險(xiǎn)實(shí)現(xiàn)造成他人損害的賠償責(zé)任（25）。危險(xiǎn)責(zé)任之認(rèn)定不再取決于行為人是否具有過失，原則上要求創(chuàng)設(shè)被容許的但無法完全控制危險(xiǎn)源之人擔(dān)負(fù)其應(yīng)負(fù)之責(zé)任，若損害原因系存在于加害人之領(lǐng)域，則加害者應(yīng)負(fù)舉證責(zé)任，該理論旨在克服證據(jù)困難及貫徹責(zé)任規(guī)范之預(yù)防目的（26）。醫(yī)療領(lǐng)域奉行該證明責(zé)任理論的典型立法為德國藥品法第84條所規(guī)定之藥企責(zé)任，該條具體要求由制藥企業(yè)提供免責(zé)證據(jù)，如果事實(shí)證明造成上述損害的原因不在藥品的研發(fā)或制造過程中，制藥企業(yè)可免除賠償責(zé)任。（27）鑒于人工智能醫(yī)療產(chǎn)品與藥品具有相類似性，對(duì)于人工智能醫(yī)療產(chǎn)品采取危險(xiǎn)責(zé)任之合理性在于即使產(chǎn)品有高度之安全性，但仍然無法絕對(duì)排除損害之產(chǎn)生，即人工智能醫(yī)療產(chǎn)品流通于市場后，客觀上仍有可能發(fā)生不受控制的現(xiàn)象發(fā)生，針對(duì)此一危險(xiǎn)仍需為必要的規(guī)制。對(duì)此，宜借助我國民事訴訟法舉證責(zé)任緩和之規(guī)定，應(yīng)允許法官于將來的司法實(shí)務(wù)中臨機(jī)應(yīng)變借助種種方法對(duì)當(dāng)事人的舉證責(zé)任進(jìn)行調(diào)整。回到智慧醫(yī)療領(lǐng)域，人民法院可以根據(jù)公平原則和誠信原則，綜合當(dāng)事人的舉證能力合理確定舉證責(zé)任的承擔(dān)，可推定醫(yī)療AI責(zé)任因果關(guān)系的成立，并賦予受害人向AI制造商之產(chǎn)品信息提供請(qǐng)求權(quán)。

（二）醫(yī)療AI責(zé)任之實(shí)現(xiàn)：責(zé)任財(cái)產(chǎn)的構(gòu)建

人工智能雖已初步具備模擬人類智慧行為的能力，而且能在沒有人類參與下依其自主決策完成所設(shè)定之任務(wù)，但由于其本質(zhì)上僅系計(jì)算機(jī)軟件程序，故在現(xiàn)階段，其并非權(quán)利主體，無法享受權(quán)利負(fù)擔(dān)義務(wù)，更無獨(dú)立的責(zé)任財(cái)產(chǎn)。

當(dāng)醫(yī)療AI自主程度越高，未來甚至可能直接取代醫(yī)師為獨(dú)立診斷與治療，此時(shí)，病患向醫(yī)療機(jī)構(gòu)與醫(yī)師主張醫(yī)療過失侵權(quán)責(zé)任確有現(xiàn)實(shí)困難，為避免病患求償無門，應(yīng)允許直接向醫(yī)療AI求償，可透過無過失補(bǔ)償制度，對(duì)病患損害進(jìn)行合理救濟(jì)。然醫(yī)療AI獨(dú)立承擔(dān)責(zé)任之財(cái)產(chǎn)源于何處？醫(yī)療AI得透過為自己投保責(zé)任保險(xiǎn)“取得”對(duì)外進(jìn)行賠償?shù)呢?zé)任財(cái)產(chǎn)，此時(shí)，如同將醫(yī)療AI視為醫(yī)師，透過投保醫(yī)療AI責(zé)任險(xiǎn)分散因侵權(quán)行為而生的索賠風(fēng)險(xiǎn)，經(jīng)由移轉(zhuǎn)與分散責(zé)任風(fēng)險(xiǎn)，由危險(xiǎn)共同體承擔(dān)及填補(bǔ)被保險(xiǎn)人損失；對(duì)于受害第三人而言，得藉由保險(xiǎn)制度及時(shí)獲得損害填補(bǔ)。在醫(yī)療AI領(lǐng)域運(yùn)用責(zé)任保險(xiǎn)模式化解風(fēng)險(xiǎn)雖有益處，但仍有如下兩大前置議題亟待說明：

1.當(dāng)前醫(yī)療AI責(zé)任保險(xiǎn)之主要形式：醫(yī)療AI強(qiáng)制責(zé)任保險(xiǎn)

目前我國關(guān)于醫(yī)療責(zé)任保險(xiǎn)的參保模式采取的是任意商業(yè)險(xiǎn)模式，醫(yī)療機(jī)構(gòu)與醫(yī)師皆得自由選擇是否要參與投保醫(yī)療責(zé)任險(xiǎn)。實(shí)踐中，無論是醫(yī)療機(jī)構(gòu)或是醫(yī)師之責(zé)任險(xiǎn)由于保費(fèi)高、給付額度低，導(dǎo)致承保率低，并未取得良好實(shí)效，因此若以醫(yī)療任意責(zé)任險(xiǎn)分散醫(yī)療AI事故中的損害風(fēng)險(xiǎn)，其實(shí)際效果可能得大打折扣。

首先，任意責(zé)任險(xiǎn)是以承保過失損害賠償責(zé)任為基礎(chǔ)，而強(qiáng)制責(zé)任險(xiǎn)作為典型的政策性保險(xiǎn)，旨在化解特定領(lǐng)域嚴(yán)重影響公眾生活品質(zhì)的風(fēng)險(xiǎn)（28），是以無過失賠償責(zé)任為理論基礎(chǔ)，無論被保險(xiǎn)人有無過失，保險(xiǎn)公司均應(yīng)對(duì)被害者所受之損害予以填補(bǔ)，向受害者提供及時(shí)的補(bǔ)償。基于公共政策之需要，法律規(guī)則制定者傾向于通過立法的方式強(qiáng)制或鼓勵(lì)特定事業(yè)投保責(zé)任保險(xiǎn)，以期保險(xiǎn)能真正起到社會(huì)“穩(wěn)壓器”的功能。若以任意醫(yī)療責(zé)任險(xiǎn)為參保模式，只有當(dāng)醫(yī)療機(jī)構(gòu)與醫(yī)師之醫(yī)療行為成立過失，保險(xiǎn)人方才提供保險(xiǎn)理賠；惟醫(yī)療 AI 之算法風(fēng)險(xiǎn)具有醫(yī)療機(jī)構(gòu)與醫(yī)師難以預(yù)見、難以避免之理論難題，因而，醫(yī)療過失之認(rèn)定便會(huì)存在現(xiàn)實(shí)困難，保險(xiǎn)給付條件難以成立，如此可能造成受害人無法順利地獲得保險(xiǎn)理賠。因此，醫(yī)療AI之固有風(fēng)險(xiǎn)恐無法透過任意醫(yī)療責(zé)任險(xiǎn)為分散與移轉(zhuǎn)。

其次，醫(yī)療機(jī)構(gòu)、醫(yī)師于臨床上使用醫(yī)療AI并將潛在的致?lián)p風(fēng)險(xiǎn)投保時(shí)，保險(xiǎn)公司還須先履行核保程序，精算醫(yī)療機(jī)構(gòu)與醫(yī)師于使用醫(yī)療AI可能誘發(fā)的責(zé)任大小，劃定承保范圍。然而鑒于醫(yī)療 AI 之不確定性，實(shí)難事前衡量責(zé)任風(fēng)險(xiǎn)范圍，核保程序恐難開展，故可能造成無法以任意險(xiǎn)的方式來分散醫(yī)療 AI 的固有風(fēng)險(xiǎn)。反觀強(qiáng)制險(xiǎn)，該類保險(xiǎn)具有強(qiáng)政策性，保險(xiǎn)公司無需經(jīng)過嚴(yán)密的核保程序，且保險(xiǎn)公司不可拒保，基于強(qiáng)制險(xiǎn)具有的補(bǔ)償優(yōu)先屬性，站在被害人病患能獲得及時(shí)賠償?shù)牧錾?，?yīng)立法強(qiáng)制擴(kuò)大生產(chǎn)者、醫(yī)療機(jī)構(gòu)投保責(zé)任保險(xiǎn)。另外，考慮到強(qiáng)制險(xiǎn)在進(jìn)行制度設(shè)計(jì)時(shí)多會(huì)設(shè)計(jì)特別補(bǔ)充基金作為損害救濟(jì)的配套措施，是以，被害人得向保險(xiǎn)人請(qǐng)求保險(xiǎn)給付，亦可選擇向醫(yī)療AI事故特別補(bǔ)償基金請(qǐng)求給予補(bǔ)償。相較于任意險(xiǎn)，強(qiáng)制險(xiǎn)模式無疑給病患提供了雙重制度保障。

2.多層次醫(yī)療AI強(qiáng)制責(zé)任保險(xiǎn)之保費(fèi)來源

來源渠道之一：醫(yī)院之節(jié)省費(fèi)用。倘若未來當(dāng)醫(yī)療AI部分取代或完全取代人類醫(yī)師為獨(dú)立決策時(shí)，此時(shí)醫(yī)療機(jī)構(gòu)即可相應(yīng)地減少醫(yī)師的人力成本支出，所節(jié)約之經(jīng)費(fèi)可作為參加醫(yī)療強(qiáng)制責(zé)任險(xiǎn)的經(jīng)費(fèi)來源。另外，隨著醫(yī)療 AI 之應(yīng)用越來越普及，傳統(tǒng)的醫(yī)療任意險(xiǎn)系以過失為理賠要件，多數(shù)醫(yī)療機(jī)構(gòu)勢(shì)必會(huì)舍棄投保相關(guān)任意險(xiǎn)，由此節(jié)省下來的任意險(xiǎn)保費(fèi)也可以充作醫(yī)療AI強(qiáng)制險(xiǎn)之保費(fèi)。

來源渠道之二：制造者與其他參與者之經(jīng)驗(yàn)收益。醫(yī)療AI因軟件故障、算法與程序設(shè)計(jì)上的瑕疵、網(wǎng)絡(luò)黑客侵入篡改數(shù)據(jù)等因素致醫(yī)療AI發(fā)生錯(cuò)誤，因其所滋生之賠償責(zé)任，究竟系因何一主體生產(chǎn)的零部件誘發(fā)的侵權(quán)責(zé)任往往難以認(rèn)定，因果關(guān)系的鏈條也難以確認(rèn)，故傳統(tǒng)侵權(quán)責(zé)任所奉行之自己責(zé)任模式難以適用于智慧醫(yī)療AI責(zé)任歸屬上，域外有學(xué)者認(rèn)為應(yīng)以共同事業(yè)責(zé)任理論（Common Enterprise Liability）之變體——制造商企業(yè)責(zé)任理論（Manufacturer Enterprise Responsibility，簡稱 “MER”）解決此一現(xiàn)實(shí)困境（29），即針對(duì)醫(yī)療機(jī)構(gòu)、醫(yī)師于使用醫(yī)療 AI 時(shí)遭遇之醫(yī)療損害，制造商及其他使用者應(yīng)與醫(yī)療機(jī)構(gòu)一同對(duì)外負(fù)擔(dān)賠償責(zé)任，各方主體成為對(duì)外賠償?shù)呢?zé)任共同體，在此賠償模式下，各方皆有移轉(zhuǎn)責(zé)任風(fēng)險(xiǎn)之需，遂對(duì)強(qiáng)制保險(xiǎn)皆有合法的保險(xiǎn)利益，理應(yīng)將其納入投保人范圍之內(nèi)，企業(yè)經(jīng)營者、銷售者以及使用者等，按其參與程度，分別繳納一定比例之保險(xiǎn)費(fèi)用，考慮搭配制造商相較醫(yī)療機(jī)構(gòu)、醫(yī)師更有機(jī)會(huì)與信息知識(shí)接近醫(yī)療 AI算法之建構(gòu)與參數(shù)之設(shè)定、修改，對(duì)其潛在的索賠風(fēng)險(xiǎn)因素最大。因此，制造商應(yīng)主要負(fù)擔(dān)醫(yī)療 AI 產(chǎn)品責(zé)任保險(xiǎn)之保險(xiǎn)費(fèi)用。

注釋：

（1） See Thomas Hoeren， Maurice Neuhoff， Artificial Intelligence in Medical Diagnoses and the Right to Explanation， European Data Protection Law Review， 2018， 4， p.308.

（2） 王迎龍、宋業(yè)臻：《司法精神病鑒定的人工智能技術(shù)應(yīng)用》，《浙江工商大學(xué)學(xué)報(bào)》2022年第1期。

（3） W. Nicholson Price Ⅲ， Artificial Intelligence in Health Care： Applications and Legal Issues， The SciTech Lawyer， 2017， 14（1）， p.10.

（4） Z. Obermeyer， E. J. Emanuel， Predicting the Future—Big Data， Machine Learning， and Clinical Medicine， The New England Journal of Medicine， 2016， 375， p.1216.

（5） 陳聰富：《醫(yī)療責(zé)任的形成與展開》，臺(tái)灣臺(tái)大出版中心2020年版，第4頁。

（6） 最高人民法院民法典貫徹實(shí)施工作領(lǐng)導(dǎo)小組：《中華人民共和國民法典侵權(quán)責(zé)任編理解與適用》，人民法院出版社2020年版，第410頁。

（7） 鄒海林、朱廣新主編：《民法典評(píng)注·侵權(quán)責(zé)任編1》，中國法制出版社2020年版，第542頁。

（8） A. Michael Froomkin& Ian R. Kerr & Joelle Pineau， When Ais Outperform Doctors： Confronting the Challenges of a Tort-Induced Over-Reliance on Machine Learning， Arizona Law Review， 2019， 61， p.33.

（9） 程嘯：《侵權(quán)責(zé)任法》，法律出版社2021年版，第295頁。

（10） 楊立新：《侵權(quán)責(zé)任法》，法律出版社2021年版，第477頁。

（11） 皮勇：《論醫(yī)療人工智能的刑法問題》，《法律科學(xué)（西北政法大學(xué)學(xué)報(bào)）》2021年第1期。

（12） D. Comin & B. Hobijn， An Exploration of Technology Diffusion， American Economic Review， 2010， 100（5）， pp.2031-2059.

（13） O. Ben-Shahar， C. E. Schneider， The Failure of Mandated Disclosure. University of Pennsylvania Law Review， 2011， 159， pp.647-749.

（14） 吳建昌、王昱涵：《醫(yī)師運(yùn)用醫(yī)療人工智能時(shí)之說明義務(wù)──以病人自主、醫(yī)療決策及醫(yī)療人工智能發(fā)展為中心》，《月旦民商法雜志 》2021年第12期。

（15） 朱巖：《論企業(yè)組織責(zé)任——企業(yè)責(zé)任的一個(gè)核心類型》，《法學(xué)家》2008年第3期。

（16） 侯英泠：《醫(yī)療機(jī)構(gòu)之組織義務(wù)再建構(gòu)》，《月旦民商法雜志》2021年第12期。

（17） 陳吉棟：《以風(fēng)險(xiǎn)為基礎(chǔ)的人工智能治理》，《法治研究》2023年第5期。

（18） 鄭志峰：《診療人工智能的醫(yī)療損害責(zé)任》，《中國法學(xué)》2023年第1期。

（19） 王利明主編：《民法典釋評(píng)侵權(quán)卷》，中國人民大學(xué)出版社2020年版，第314頁。

（20） ［美］詹姆斯·戈德雷、阿瑟·泰勒·馮·梅倫：《私法比較研究導(dǎo)論：閱讀、案例、材料》，張凇綸譯，中國法制出版社2021年版，第444頁。

（21） ［奧］ 海爾姆特·庫齊奧：《侵權(quán)責(zé)任法基本問題》 第1卷，朱巖譯，北京大學(xué)出版社2017年版，第234頁

（22） Hans-Bernd Sch?fer， Claus Ott， The Economic Analysis of Civil Law， Edward Elgar Publishing， 2022， p.367.

（23） Expert Group on Liability and New Technologies-New Technology Formation， Report on Liability for Artificial Intelligence and Other Emerging Digital Technologies， 2019， p.40.

（24） 劉明生：《人工智能醫(yī)療產(chǎn)品瑕疵事件舉證責(zé)任分配與舉證減輕之研究──以醫(yī)院、醫(yī)師與產(chǎn)品制造人為中心》，《月旦民商法雜志》2021年第12期。

（25） 李昊：《危險(xiǎn)責(zé)任的動(dòng)態(tài)體系論》，北京大學(xué)出版社2020年版，第47頁

（26） 姜世明：《新民事證據(jù)法論》，廈門大學(xué)出版社2017年版，第124頁。

（27） 佟樂：《德國藥品損害賠償法律制度對(duì)我國的啟示》，《中國藥事》2012年第11期。

（28） 江朝國：《社會(huì)保險(xiǎn)、商業(yè)保險(xiǎn)在福利社會(huì)中的角色》，《月旦法學(xué)雜志》2010年第4期。

（29） Kenneth S. Abrahama & Robert L. Rabin， Automated Vehicles and Manufacturer Responsibility for Accidents： A New Legal Regime for a New Era， Virginia Law Review， 2019， 105（1）， pp.127-171.

作者簡介：蔡大順，湖北大學(xué)法學(xué)院講師，湖北武漢，430062。

（責(zé)任編輯 李 濤）