福建農(nóng)林大學(xué) 鄧衛(wèi)文

一、問(wèn)題的提出

人工智能概念于1956年提出以來(lái)，經(jīng)過(guò)幾十年的發(fā)展，已經(jīng)不再是遙遠(yuǎn)的科幻概念，而是越來(lái)越緊密的走進(jìn)社會(huì)的各個(gè)領(lǐng)域，走進(jìn)人們的日常生活中。人工智能表現(xiàn)出超高的“智力”，是一門專門研究、模擬人類智能理論和方法的科學(xué)。目前人工智能的研究方向主要傾向于與社會(huì)上各個(gè)領(lǐng)域的結(jié)合。醫(yī)療領(lǐng)域是人工智能與其他領(lǐng)域相結(jié)合研究過(guò)程中，研究最早、聯(lián)系最密切、投入最大、影響最深遠(yuǎn)的領(lǐng)域之一。如使用最多的手術(shù)機(jī)器人達(dá)芬奇手術(shù)機(jī)器人，是目前最先進(jìn)手術(shù)機(jī)器人。我國(guó)人口基數(shù)大，隨著人口老齡化，我國(guó)將面臨巨大的養(yǎng)老醫(yī)療壓力，此外國(guó)家鼓勵(lì)生育計(jì)劃的出臺(tái)，我國(guó)也需要更多的醫(yī)療資源，導(dǎo)致我國(guó)醫(yī)療資源緊缺。因此我國(guó)對(duì)醫(yī)療人工智能的發(fā)展也非常重視。2017年，國(guó)務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》就提出建立快速精準(zhǔn)的智能醫(yī)療體系。2018年國(guó)務(wù)院印發(fā)《關(guān)于促進(jìn)“互聯(lián)網(wǎng)+醫(yī)療健康”發(fā)展的意見(jiàn)》，其中指出要加深人工智能與醫(yī)療的結(jié)合，促進(jìn)醫(yī)療服務(wù)行業(yè)的快速發(fā)展，有效提高醫(yī)療健康業(yè)整體的服務(wù)能力和普惠水平。

人工智能賦能醫(yī)療領(lǐng)域的同時(shí)，不可避免的由于人工智能技術(shù)本身存在的問(wèn)題，或者使用者的過(guò)錯(cuò)，會(huì)造成患者的損害。在出現(xiàn)醫(yī)療人工智能侵權(quán)事故的時(shí)候，如何通過(guò)法律規(guī)定確定事故發(fā)生因果關(guān)系、責(zé)任承擔(dān)主體成為各國(guó)關(guān)注的焦點(diǎn)。人工智能本身具有自主學(xué)習(xí)能力，雖然現(xiàn)階段的人工智能不具備自主思維能力，但人工智能通過(guò)自身算法，根據(jù)大數(shù)據(jù)判斷，在治療的過(guò)程中會(huì)自主做出判斷，醫(yī)生在這過(guò)程中由決定者變成了監(jiān)督者，由于“技術(shù)黑箱”問(wèn)題，人工智能在醫(yī)療過(guò)程中如何做出決斷的原因也不得探究，則傳統(tǒng)的醫(yī)療損害責(zé)任和產(chǎn)品責(zé)任難以判定的損害因果關(guān)系。此外，根據(jù)民法規(guī)定，人工智能并不具備法律主體的地位，那么如果由人工智能本身的原因造成的損害，由人工智能本身負(fù)責(zé)，還是由醫(yī)療機(jī)構(gòu)或者生產(chǎn)者負(fù)責(zé)，通過(guò)現(xiàn)行的法律并無(wú)法合理給出答案。這些問(wèn)題也就成為了我們研究的重點(diǎn)。

二、醫(yī)療人工智能對(duì)傳統(tǒng)法律責(zé)任實(shí)現(xiàn)的挑戰(zhàn)

（一）醫(yī)療人工智能侵權(quán)損害的因果關(guān)系難以確定

因果關(guān)系分析是確定侵害行為與損害結(jié)果之間具備關(guān)聯(lián)性的邏輯推理活動(dòng)，也是責(zé)任主體要為此承擔(dān)法律帶來(lái)的不利后果的前提條件，要確定一個(gè)責(zé)任主體，必須準(zhǔn)確推理出因果關(guān)系。而人工智能運(yùn)用于醫(yī)療領(lǐng)域所導(dǎo)致的侵權(quán)具有復(fù)雜性，難以準(zhǔn)確認(rèn)定侵權(quán)因果關(guān)系。首先人工智能算法復(fù)雜，設(shè)計(jì)者在設(shè)計(jì)的時(shí)候醫(yī)療人工智能就可能存在技術(shù)缺陷，也有可能在制造或者銷售的時(shí)候?qū)е庐a(chǎn)品出現(xiàn)了缺陷。人工智能是極其復(fù)雜的算法，其程序運(yùn)行、對(duì)醫(yī)療數(shù)據(jù)的整合，和如何做出決斷的過(guò)程是不透明的，因此被稱為“技術(shù)黑箱”，也導(dǎo)致人工智能其本身具有很多難以解釋、預(yù)測(cè)的現(xiàn)象。因?yàn)槿斯ぶ悄苄袨榈膹?fù)雜性和不透明性，也就很難確定醫(yī)療人工智能本身存在產(chǎn)品質(zhì)量問(wèn)題。

其次，人機(jī)交互使得因果關(guān)系難以確定?，F(xiàn)階段醫(yī)療人工智能的使用是人工智能與醫(yī)生相互結(jié)合使用的。有檢測(cè)型人工智能，主要提供給病人檢測(cè)，得出數(shù)據(jù)供醫(yī)生使用；也有醫(yī)生和醫(yī)療人工智能共同作用給患者治療的；也有由醫(yī)療人工智能全自主給患者治療，而醫(yī)生只是起到一個(gè)監(jiān)督者的作用。醫(yī)生會(huì)出現(xiàn)錯(cuò)誤與過(guò)失，醫(yī)療人工智能也會(huì)出現(xiàn)錯(cuò)誤，在一起醫(yī)療事故中，如何查明是人的過(guò)錯(cuò)還是醫(yī)療人工智能的過(guò)錯(cuò)，又或者是二者競(jìng)合行為導(dǎo)致的過(guò)錯(cuò)，這過(guò)程是非常困難的。

（二）醫(yī)療人工智能法律責(zé)任主體確定問(wèn)題

醫(yī)療人工智能侵權(quán)中確定法律主體地位，決定著誰(shuí)有資格、有義務(wù)承擔(dān)法律責(zé)任，是法律責(zé)任構(gòu)成的必備要件。我國(guó)現(xiàn)行的法律主體包括自然人和法人。現(xiàn)階段關(guān)于法律主體的認(rèn)定主要以倫理角度出發(fā)，強(qiáng)調(diào)法律主體具有自由意志，能夠自由支配自己的行為，并對(duì)其負(fù)責(zé)，享受權(quán)利并承擔(dān)義務(wù)。自由意志是成為法律主體的前提條件，而現(xiàn)階段人工智能處于弱人工智能階段，并不具有自由意志，按此觀點(diǎn)，現(xiàn)階段的醫(yī)療人工智能并不能成為法律責(zé)任的主體。但一部分學(xué)者以工具性角度分析，法律對(duì)民事主體的確定除了倫理問(wèn)題外，更重要的是實(shí)用性，法律是人的利益的體現(xiàn)。以此角度決定是否賦予醫(yī)療人工智能法律主體資格，有支持賦予醫(yī)療人工智能“電子人”身份的肯定說(shuō)，也有只承認(rèn)其具有有限主體資格的折中說(shuō)。

人工智能是否具備法律責(zé)任主體地位，目前存在著三種不同的觀點(diǎn)。（1）肯定說(shuō)。歐盟2 01 6年發(fā)布的《就機(jī)器人民事法律規(guī)則向歐盟委員會(huì)提出立法建議的報(bào)告草案》中將人工智能定義為“電子人”，使其具有一定的民事權(quán)力和義務(wù)。（2）否定說(shuō)。否定說(shuō)將醫(yī)療人工智能劃分為醫(yī)療工具，由于其本身不具備自由意志，也就不具備完全的行為能力，因此不能將其認(rèn)定為法律主體。（3）折中說(shuō)。以工具論主義出發(fā)，一定條件下賦予人工智能法律主體地位，以彌補(bǔ)法律在人工智能領(lǐng)域的漏洞。

（三）醫(yī)療人工智能侵權(quán)的過(guò)錯(cuò)責(zé)任適用困難

過(guò)錯(cuò)是過(guò)錯(cuò)法律責(zé)任的核心要素，是指行為人在實(shí)施某種侵害行為時(shí)，沒(méi)有盡到特定標(biāo)準(zhǔn)的注意義務(wù)，從而造成他人損害時(shí)的一種應(yīng)受非難的主觀狀態(tài)。過(guò)錯(cuò)是承擔(dān)過(guò)錯(cuò)責(zé)任的必備前提。醫(yī)療人工智能侵權(quán)的過(guò)錯(cuò)責(zé)任適用情況是當(dāng)醫(yī)生在醫(yī)療過(guò)程中，出現(xiàn)過(guò)失，致使患者受到損害，而根據(jù)醫(yī)療損害責(zé)任承擔(dān)的一種過(guò)錯(cuò)責(zé)任。

但以人的自由意志為理論基礎(chǔ)的過(guò)錯(cuò)責(zé)任的適用，在醫(yī)療人工智能的快速發(fā)展下面臨著巨大的挑戰(zhàn)。首先，現(xiàn)在人工智能醫(yī)療檢測(cè)疾病的準(zhǔn)確率往往比醫(yī)生高，當(dāng)出現(xiàn)醫(yī)療人工智能的判斷與醫(yī)生判斷不一致的情況下，醫(yī)生可能選擇準(zhǔn)確率更高的人工智能，那么，這種情況下出現(xiàn)醫(yī)療損害就不符合醫(yī)生的過(guò)失的條件。此外，有些完全自主操作的醫(yī)療人工智能在醫(yī)生的監(jiān)督下工作，其行為完全自主，醫(yī)生監(jiān)督情況下仍發(fā)生的醫(yī)療損害，更加不屬于醫(yī)療損害中的過(guò)失了。如果不能認(rèn)定醫(yī)生存在過(guò)失行為，則醫(yī)療損害責(zé)任歸責(zé)路徑也就難以實(shí)現(xiàn)。但如果認(rèn)定是醫(yī)療人工智能本身存在“過(guò)失”行為，直接適用產(chǎn)品責(zé)任，將侵權(quán)責(zé)任歸責(zé)到設(shè)計(jì)者或者生產(chǎn)者，則顯得不公平，容易打擊醫(yī)療人工智能的發(fā)展前景。

三、醫(yī)療人工智能法律責(zé)任制度完善路徑

（一）明確醫(yī)療人工智能的法律屬性

首先要確定醫(yī)療人工智能的法律地位——醫(yī)療器械。從倫理性的角度出發(fā)，現(xiàn)階段醫(yī)療人工智能還處于弱人工智能階段，并不具備自主思維，不能對(duì)自己的行為負(fù)責(zé)，賦予醫(yī)療人工智能法律主體地位的條件還不成熟。而且在現(xiàn)階段的醫(yī)療過(guò)程中，醫(yī)療人工智能主要起到輔助作用，在最終對(duì)患者的治療方案也由醫(yī)生決定。由此看來(lái)，人工智能在醫(yī)療活動(dòng)中不能脫離人類，也不能做出獨(dú)立診斷行為，所以人工智能產(chǎn)品在實(shí)踐中不可能被視為擁有獨(dú)立法律人格。

從工具性的角度出發(fā)，賦予醫(yī)療人工智能法律主體地位主要是為了解決現(xiàn)階段醫(yī)療人工智能侵權(quán)責(zé)任分配不清的問(wèn)題，賦予其“電子人”身份或者有限主體地位，并以此為主體承擔(dān)對(duì)患者的賠償責(zé)任。但其作為財(cái)產(chǎn)，如何賠償患者也難以界定。如果醫(yī)療人工智能擁有一定的法律地位和財(cái)產(chǎn)后，其財(cái)產(chǎn)的管理權(quán)將產(chǎn)生巨大的爭(zhēng)議。醫(yī)療人工智能是醫(yī)院的財(cái)產(chǎn)，如果其也擁有財(cái)產(chǎn)，那么醫(yī)療人工智能所擁有的財(cái)產(chǎn)是否能歸屬到醫(yī)院也是個(gè)問(wèn)題。

（二）建立醫(yī)療人工智能注冊(cè)登記并強(qiáng)制購(gòu)買保險(xiǎn)制度

鑒于醫(yī)療人工智能責(zé)任主體難以確定、因果關(guān)系不明、傳統(tǒng)歸責(zé)路徑不完善的困境，為了保障患者得到應(yīng)有的賠償，并且在不打擊醫(yī)療人工智能的發(fā)展前景下，可以借鑒歐盟的經(jīng)驗(yàn)，建立人工智能注冊(cè)登記的形式進(jìn)行管理。并且為維護(hù)公平正義，在平衡各方面的利益情況下，建立強(qiáng)制保險(xiǎn)制度，在醫(yī)療人工智能投入使用之前，由醫(yī)院、生產(chǎn)者等相關(guān)主體共同出資，為醫(yī)療人工智能購(gòu)買強(qiáng)制責(zé)任險(xiǎn)。當(dāng)發(fā)生醫(yī)療損害事故時(shí)，由保險(xiǎn)公司進(jìn)行賠償，既可以公平分配各方責(zé)任，也能保障患者的合法權(quán)益。

（三）引入“黑匣子”技術(shù)解決技術(shù)黑箱問(wèn)題

醫(yī)療人工智能算法的復(fù)雜性和不透明性，導(dǎo)致很難確定醫(yī)療人工智能在侵權(quán)過(guò)程中發(fā)揮了一個(gè)怎樣的作用。為了應(yīng)對(duì)“技術(shù)黑箱”問(wèn)題，應(yīng)該更加強(qiáng)調(diào)透明性原則，強(qiáng)調(diào)透明性原則能夠有效抑制智能機(jī)器人發(fā)展的不確定性而給人類社會(huì)帶來(lái)的極端風(fēng)險(xiǎn)。因此有必要考慮引進(jìn)“黑匣子”技術(shù)，記錄醫(yī)療人工智能執(zhí)行的每一個(gè)活動(dòng)的數(shù)據(jù)，學(xué)習(xí)的每一份數(shù)據(jù)，以及對(duì)其決策做出貢獻(xiàn)的邏輯[6]。此外，對(duì)于先進(jìn)的醫(yī)療人工智能還應(yīng)配備內(nèi)部錄像系統(tǒng)，對(duì)于提供診療服務(wù)的全過(guò)程，以醫(yī)療機(jī)器人的視角予以錄像，為后期的專家鑒定提供一手資料。

四、結(jié)語(yǔ)

醫(yī)療人工智能技術(shù)的發(fā)展是一柄劍雙刃劍，一方面其給醫(yī)療領(lǐng)域?qū)崿F(xiàn)精準(zhǔn)化、個(gè)性化、高質(zhì)量的診斷和治療帶來(lái)希望;另一方面，因其參與診療活動(dòng)，給醫(yī)療損害責(zé)任的分配與承擔(dān)提出了現(xiàn)實(shí)挑戰(zhàn)。但技術(shù)的發(fā)展是不可避免的，將來(lái)醫(yī)療人工智能越來(lái)越深入的運(yùn)用是發(fā)展的趨勢(shì)，等醫(yī)療人工智能技術(shù)進(jìn)入強(qiáng)人工智能時(shí)代時(shí)，法律也必須面對(duì)和解決智能機(jī)器人醫(yī)生的法律行為和法律地位問(wèn)題，并對(duì)其進(jìn)行適時(shí)的修正和更新，保障患者的權(quán)益，分配各方責(zé)任。