（蘇州科技大學(xué) 馬克思主義學(xué)院 江蘇 蘇州 215009）

引言

2020年春節(jié)前夕，新型冠狀病毒感染的肺炎疫情在湖北武漢地區(qū)爆發(fā)，隨后打響全國(guó)戰(zhàn)“疫”。自這場(chǎng)威脅人類生存的傳染病在全國(guó)及世界范圍內(nèi)蔓延以來(lái)，許多國(guó)家對(duì)此高度重視，疫情已經(jīng)被世界衛(wèi)生組織認(rèn)定為一場(chǎng)國(guó)際關(guān)注的突發(fā)公共衛(wèi)生事件。就在今年1月21日，英國(guó)《衛(wèi)報(bào)》報(bào)道了醫(yī)療機(jī)器人治療美國(guó)首例新型肺炎病患的新聞，為了防止病毒的傳播，這名患者將由人工智能醫(yī)生進(jìn)行治療。這一消息再次引發(fā)人們對(duì)人工智能在醫(yī)療衛(wèi)生領(lǐng)域應(yīng)用方面的深思。醫(yī)療人工智能可以給出專業(yè)的參考意見、增強(qiáng)用藥規(guī)范性、促進(jìn)人類醫(yī)生的學(xué)習(xí)，甚至可以增進(jìn)醫(yī)患關(guān)系的和諧，對(duì)人類醫(yī)生也起到一定的幫助和輔助作用。那么，人工智能是否可以替代人類醫(yī)生呢？沃森醫(yī)生會(huì)不會(huì)出錯(cuò)？如何定義機(jī)器人醫(yī)生的主體地位？這些是醫(yī)學(xué)界必須關(guān)注和亟需解決的問(wèn)題。

1.醫(yī)療人工智能存在的倫理困境

英國(guó)最近的一項(xiàng)調(diào)查報(bào)告稱，63%的成年人對(duì)允許個(gè)人數(shù)據(jù)用于改善醫(yī)療保健狀況感到不安，也不利于人工智能系統(tǒng)取代醫(yī)生和護(hù)士從事他們通常從事的工作［1］。本項(xiàng)調(diào)查反映了人們對(duì)于AI在醫(yī)療領(lǐng)域存在的一些擔(dān)憂和倫理考慮，沃森醫(yī)生能否代替人類醫(yī)生、是否應(yīng)該給予醫(yī)療機(jī)器人主體地位、人工智能醫(yī)療能否解決醫(yī)患矛盾、增進(jìn)醫(yī)患關(guān)系的和諧，這都是醫(yī)療人工智能目前所面臨的現(xiàn)實(shí)困境。不得不承認(rèn)，醫(yī)療人工智能的飛速發(fā)展的確帶來(lái)了一系列潛在的倫理和社會(huì)挑戰(zhàn)，如醫(yī)療共情和人機(jī)互動(dòng)、個(gè)人數(shù)據(jù)和隱私保護(hù)、主體資格和責(zé)任認(rèn)定等。

1.1 醫(yī)療共情與人機(jī)互動(dòng)。機(jī)器會(huì)像人類一樣擁有意識(shí)嗎？至少當(dāng)前的技術(shù)仍未做到，不過(guò)人工智能在模擬人類認(rèn)知功能上在不斷發(fā)展，流行的人工智能技術(shù)包括結(jié)構(gòu)化數(shù)據(jù)的機(jī)器學(xué)習(xí)方法，如經(jīng)典的支持向量機(jī)和神經(jīng)網(wǎng)絡(luò)，現(xiàn)代的深度學(xué)習(xí)，以及非結(jié)構(gòu)化數(shù)據(jù)的自然語(yǔ)言處理［2］。沃森醫(yī)生可以給病人看病，但必須接受精確的數(shù)據(jù)輸入才能診斷，何況有些癥狀病人無(wú)法用醫(yī)學(xué)術(shù)語(yǔ)對(duì)此描述，也會(huì)因?yàn)榭謶志芙^將真實(shí)的病情告知給醫(yī)療機(jī)器人，而相反一個(gè)資歷豐富的醫(yī)生卻能讀出病人神態(tài)中隱藏的有關(guān)信息。人機(jī)互動(dòng)效果不佳的原因是人工智能缺乏人文關(guān)懷，在臨床表現(xiàn)中尤為明顯，可見醫(yī)療共情尤為重要。信任是病患關(guān)系的橋梁，醫(yī)護(hù)人員在與患者進(jìn)行有效的臨床共情溝通后，得到病人的信任自然能夠做出準(zhǔn)確診斷、提供治療方案。根據(jù)病人的需求和對(duì)其病情的判斷，醫(yī)生相應(yīng)地進(jìn)行一定的安撫和心理疏導(dǎo)，此時(shí)醫(yī)患關(guān)系更加和諧，病人不用再面對(duì)一臺(tái)冷冰冰的“機(jī)器人”，更配合治療過(guò)程。盡管醫(yī)療AI擁有類人的移情關(guān)懷的外觀，診療和用藥指導(dǎo)方面給人類醫(yī)生提供專業(yè)的參考意見，可仍面臨著人機(jī)互動(dòng)和醫(yī)療共情不佳的困境。

1.2 個(gè)人數(shù)據(jù)與隱私保護(hù)。隨著物聯(lián)網(wǎng)的發(fā)展，我們儼然成為了全球互聯(lián)世界中的“透明人”，如何理解隱私和保護(hù)隱私，成為一個(gè)迫切需要重新概念化的倫理問(wèn)題、法律問(wèn)題和社會(huì)問(wèn)題，加以重視［3］。人工智能基于醫(yī)療大數(shù)據(jù)的處理，包括患者的年齡、姓名、住址、婚姻狀況等個(gè)人信息，還包括遺傳史、各項(xiàng)體檢指標(biāo)、過(guò)往病史、身體狀況以及診療數(shù)據(jù)等其他信息，這牽扯到個(gè)人數(shù)據(jù)與隱私泄露的風(fēng)險(xiǎn)。醫(yī)院的網(wǎng)絡(luò)服務(wù)器一旦遭致網(wǎng)絡(luò)病毒或黑客侵害，保存于云端或存儲(chǔ)器的含有病人隱私的信息就會(huì)被不法分子獲取，病人的隱私權(quán)得不到有效的保障。醫(yī)療人工智能的隱私保護(hù)存在的倫理困境主要有：采集醫(yī)療數(shù)據(jù)時(shí)是否得到患者的知情同意？誰(shuí)有權(quán)利獲得患者的診療數(shù)據(jù)和健康信息？誰(shuí)來(lái)承擔(dān)隱私泄露的風(fēng)險(xiǎn)和責(zé)任？2015年，一份由北大研究者提交的名為“關(guān)注自閉癥”的國(guó)際多中心臨床研究合作方案被北大生物醫(yī)學(xué)倫理委員會(huì)拒絕［4］，委員會(huì)考量的一個(gè)現(xiàn)實(shí)原因正是該方案實(shí)驗(yàn)參與者隱私保護(hù)的缺失，以及數(shù)據(jù)具有不可控性。

1.3 主體資格與責(zé)任認(rèn)定。人工智能醫(yī)生可以代替人類醫(yī)生的主體地位嗎？如何處理由醫(yī)療AI所引發(fā)的醫(yī)療事故？是否應(yīng)該賦予醫(yī)療機(jī)器人和人類一樣的“權(quán)利和義務(wù)”呢？這些問(wèn)題迫使我們思考人工智能技術(shù)帶來(lái)的倫理法律困境，迫使我們重新審視科技和人類社會(huì)之間的關(guān)系，以便人工智能更好地服務(wù)人類。2016年5月，歐盟法律事務(wù)委員會(huì)已立法將智能機(jī)器定位為“電子人”，并賦予其“特定的權(quán)利和義務(wù)”，這在法律層面將顛覆我們對(duì)人工智能的認(rèn)知。今年美國(guó)首例新冠肺炎患者是由醫(yī)療機(jī)器人治療，其裝備有攝像頭、麥克風(fēng)和聽診器，這是人工智能參與輔助診療的最新案例。當(dāng)前技術(shù)還不成熟，人工智能并未做到全程無(wú)需醫(yī)生參與的獨(dú)立診斷，未來(lái)機(jī)器人有可能會(huì)發(fā)展成一名類似于醫(yī)生的“自然人”，擁有獨(dú)立的判斷能力，在法律主體資格上極具挑戰(zhàn)。那么手術(shù)機(jī)器人在診療中發(fā)生醫(yī)療事故，誰(shuí)來(lái)承擔(dān)相應(yīng)的責(zé)任？Brent Mittelstadt在他的文章《AI Ethics-Too Principled to Fail？》中提到“原則主義”是從醫(yī)學(xué)中產(chǎn)生的一種理論道德框架，其基礎(chǔ)是從業(yè)者、研究倫理委員會(huì)的經(jīng)驗(yàn)，以及醫(yī)療機(jī)構(gòu)在逐案處理道德問(wèn)題時(shí)的經(jīng)驗(yàn)［5］。以原則主義的觀點(diǎn)剖析，實(shí)施手術(shù)的主角是機(jī)器人醫(yī)生，可主體責(zé)任歸咎于擁有從業(yè)經(jīng)驗(yàn)的人類醫(yī)生，也就是法律責(zé)任層面還是醫(yī)生占據(jù)主導(dǎo)地位。若機(jī)器人因?yàn)樵O(shè)計(jì)缺陷和機(jī)器故障發(fā)生傷人事件，或其做出違背設(shè)計(jì)者意圖的行為，怎么認(rèn)定該行為？這涉及到機(jī)器人的程序員、設(shè)計(jì)者以及生產(chǎn)廠商的相關(guān)責(zé)任，主體資格與責(zé)任認(rèn)定不清晰和各方的“權(quán)利和義務(wù)”不明確，是醫(yī)療AI目前的倫理和法律困境。

2.醫(yī)療人工智能發(fā)展的治理對(duì)策

AI在醫(yī)療領(lǐng)域的快速發(fā)展為人類健康保障提供了支撐，雖然醫(yī)療AI應(yīng)用中存在一些倫理困境，但只要對(duì)這些倫理困境提出相應(yīng)的治理對(duì)策，就能讓醫(yī)療AI更好地造福人類。

2.1 以人為主的“人-機(jī)”醫(yī)療模式。如今智能機(jī)器人能夠通過(guò)圖像識(shí)別、大數(shù)據(jù)等技術(shù)幫助人類醫(yī)生進(jìn)行臨床指導(dǎo)，除此之外，機(jī)器人的心智開發(fā)已然成為科學(xué)家們研究的焦點(diǎn)。AI倡導(dǎo)者認(rèn)為機(jī)器也能擁有類人腦，人們創(chuàng)造出優(yōu)于人類的、獨(dú)立自主的、具有與自然人一樣人性構(gòu)建的智能體并非假想。因此，若把這樣的觀點(diǎn)納入醫(yī)療行業(yè)來(lái)思考，在實(shí)踐中醫(yī)療AI很有可能根據(jù)一套機(jī)器倫理來(lái)實(shí)現(xiàn)醫(yī)療共情與人機(jī)互動(dòng)，前提是智能機(jī)器人在開始行動(dòng)前首先需要遵循一定的倫理原則。最近，有一個(gè)過(guò)程“裝備”認(rèn)知結(jié)構(gòu)與機(jī)器學(xué)習(xí)的最新進(jìn)展，可這根本不能模擬任何心理過(guò)程［6］。因此，筆者反對(duì)機(jī)器的心智可被開發(fā)和復(fù)制這一說(shuō)法，盡管DeepMind研究人員提出了一種具備理解自己以及周圍智能體心理狀態(tài)能力的新型神經(jīng)網(wǎng)絡(luò)ToMnet，可這無(wú)法證明人工智能已完全掌握人類的“心智”。AI雖有感知和思維（智能系統(tǒng)），但無(wú)情感系統(tǒng)（感受和動(dòng)機(jī)）以及意志系統(tǒng)（意志和行動(dòng)）的引導(dǎo)，就不能發(fā)揮其應(yīng)有的能力，比如自愿做出照顧病患的決定和行為。而在以人為主的“人-機(jī)”醫(yī)療模式下，一方面能發(fā)揮AI的輔助作用，另一方面有利于護(hù)理工作中的人文關(guān)懷和相互信任，以人為主的“人-機(jī)”醫(yī)療模式的構(gòu)建顯然可以促進(jìn)患者的健康和福祉。

2.2 患者隱私保護(hù)法律的制定與完善。首先，通過(guò)一系列法律法規(guī)的制定可以規(guī)避病人隱私的泄露，使人工智能系統(tǒng)的安全性、保密性更高，從而保障患者的隱私權(quán)。我國(guó)涉及病人隱私權(quán)的法律有《職業(yè)醫(yī)師法》、《母嬰保護(hù)法》等，但這些法律轉(zhuǎn)化為實(shí)踐的行之有效的方法仍很困難，原因在于它不是系統(tǒng)完善的專門法，所以在對(duì)病人隱私權(quán)保護(hù)法律的制定與完善上可借鑒歐美國(guó)家的立法經(jīng)驗(yàn)，例如在1996年美國(guó)國(guó)會(huì)通過(guò)的法案，《健康保險(xiǎn)轉(zhuǎn)移與責(zé)任法案》中提到泄露患者姓名也將觸犯法律。另外部分歐美國(guó)家有專門對(duì)醫(yī)療數(shù)據(jù)進(jìn)行必要監(jiān)管的法律條例，若分析和管理數(shù)據(jù)時(shí)有牽扯到關(guān)鍵的個(gè)人隱私信息，通過(guò)馬賽克的方式予以保護(hù)。其次，政府應(yīng)加強(qiáng)病人的隱私保護(hù)，并利用互聯(lián)網(wǎng)融合醫(yī)療的模式來(lái)推進(jìn)患者隱私保護(hù)新技術(shù)的開發(fā)和運(yùn)用。數(shù)據(jù)加密也是一項(xiàng)防止隱私泄露的技術(shù)，對(duì)此進(jìn)行推廣可保證數(shù)據(jù)的安全，同時(shí)再設(shè)定一套嚴(yán)格的訪問(wèn)程序以防止他人竊取。最后，網(wǎng)絡(luò)保險(xiǎn)的購(gòu)買用于減少隱私泄露的風(fēng)險(xiǎn)也是一項(xiàng)防范措施，能將損失降到最低。

2.3 建立責(zé)任倫理規(guī)范與AI監(jiān)管機(jī)構(gòu)。在醫(yī)療人工智能發(fā)展的治理中，如何確定各個(gè)利益方的相關(guān)責(zé)任，是需要迫切解決的問(wèn)題。首先，出于安全性、可控性、可靠性和問(wèn)責(zé)制的考慮，可以認(rèn)為在不同的應(yīng)用領(lǐng)域?qū)崿F(xiàn)智能系統(tǒng)部署的透明責(zé)任分工符合民主社會(huì)的利益，因此這些制度應(yīng)按照立法權(quán)制定的道德和法律規(guī)范行事，并允許追溯，以便于司法權(quán)分配責(zé)任。那么該如何追究相關(guān)責(zé)任人呢？按照誰(shuí)設(shè)計(jì)誰(shuí)負(fù)責(zé)、誰(shuí)使用誰(shuí)負(fù)責(zé)的原則，建立合適的責(zé)任倫理規(guī)范，例如我國(guó)《侵權(quán)責(zé)任法》中規(guī)定，一旦因醫(yī)療設(shè)備和醫(yī)療產(chǎn)品的缺陷所引發(fā)的醫(yī)療事故，生產(chǎn)者和醫(yī)療機(jī)構(gòu)必須承擔(dān)連帶賠償責(zé)任。其次，成立專門的由醫(yī)學(xué)專家、計(jì)算機(jī)專家、倫理學(xué)學(xué)者等構(gòu)成的醫(yī)療AI監(jiān)管機(jī)構(gòu)，負(fù)責(zé)對(duì)人工智能的安全性、倫理性進(jìn)行一定的評(píng)估報(bào)告，以減少醫(yī)療事故的發(fā)生率。最后，建議采用一定的技術(shù)手段為人工智能設(shè)定人類的道德標(biāo)準(zhǔn)，執(zhí)行醫(yī)療機(jī)器人的登記制度，醫(yī)療AI監(jiān)管機(jī)構(gòu)監(jiān)督醫(yī)療機(jī)器的生產(chǎn)和應(yīng)用，這些治理方法都可降低醫(yī)療風(fēng)險(xiǎn)，消除人們的顧慮和擔(dān)憂。

3.結(jié)論

科技與倫理就如同天平的兩端，科技的發(fā)展會(huì)給價(jià)值觀與倫理道德帶來(lái)巨大的沖擊，如何平衡兩者之間的關(guān)系是我們當(dāng)前亟待解決的問(wèn)題。醫(yī)療人工智能的發(fā)展勢(shì)如破竹，正向新臺(tái)階邁進(jìn)，在醫(yī)療AI為我們提供優(yōu)質(zhì)、高效醫(yī)療服務(wù)的同時(shí)，必將帶來(lái)新一輪的倫理困境。針對(duì)醫(yī)療人工智能的倫理問(wèn)題，醫(yī)學(xué)界應(yīng)準(zhǔn)確把握當(dāng)前形勢(shì)，重新調(diào)整當(dāng)下思路，化危機(jī)為契機(jī)、化被動(dòng)為主動(dòng)，將前瞻性研究與回顧性分析兩者相結(jié)合，合理評(píng)估醫(yī)療人工智能帶來(lái)的利弊，并根據(jù)臨床實(shí)踐制定出相應(yīng)的有效對(duì)策，以此達(dá)到醫(yī)療與科技的融合與創(chuàng)新，進(jìn)而推動(dòng)人類醫(yī)學(xué)的進(jìn)步與發(fā)展。目前世界各國(guó)均建立起相對(duì)完善的科技治理體系和倫理研究框架，我國(guó)也在積極應(yīng)對(duì)風(fēng)險(xiǎn)、推進(jìn)人工智能與人類的和諧共存，讓人工智能技術(shù)朝著積極的方向發(fā)展。