人工智能在醫(yī)療領(lǐng)域的應(yīng)用正在不斷變革現(xiàn)代醫(yī)療服務(wù)模式。人工智能輔助診斷、醫(yī)療機(jī)器人、醫(yī)學(xué)影像等新技術(shù)極大促進(jìn)醫(yī)療現(xiàn)代化進(jìn)程，緩解醫(yī)療資源緊張的局面，提高醫(yī)療服務(wù)的質(zhì)量。醫(yī)療人工智能在帶來諸多益處的同時(shí)也伴隨著一些無法避免的倫理風(fēng)險(xiǎn)，對(duì)現(xiàn)代醫(yī)療行業(yè)產(chǎn)生影響。技術(shù)安全性、醫(yī)療數(shù)據(jù)隱私和醫(yī)患自主性不僅影響醫(yī)療人工智能技術(shù)在醫(yī)療行業(yè)的應(yīng)用，而且對(duì)醫(yī)生職業(yè)發(fā)展和醫(yī)院制度產(chǎn)生影響。而在醫(yī)療技術(shù)落地之前，闡明上述倫理問題，有助于技術(shù)安全發(fā)展，并惠及醫(yī)療。

一、引言

人工智能技術(shù)自2012年開始迎來快速發(fā)展的繁榮景象，當(dāng)前正處于行業(yè)廣泛研發(fā)及快速落地商業(yè)化階段。伴隨人工智能的基礎(chǔ)技術(shù)的研發(fā)和突破，人工智能廣泛應(yīng)用于各行各業(yè)，在計(jì)算機(jī)視覺、語音識(shí)別和自動(dòng)駕駛等應(yīng)用領(lǐng)域均獲得不俗的成績(jī)。而在醫(yī)療健康領(lǐng)域、安全隱私、城市治理等更多的技術(shù)領(lǐng)域中也正在發(fā)揮著重要作用。2015年，中國提出“互聯(lián)網(wǎng)+”戰(zhàn)略，鼓勵(lì)“互聯(lián)網(wǎng)+”各行各業(yè)創(chuàng)新創(chuàng)業(yè)，為實(shí)體經(jīng)濟(jì)賦能。2017年，國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)范》再次提出發(fā)展便捷高效的智能服務(wù)，圍繞教育、醫(yī)療、養(yǎng)老等迫切民生需求，加快人工智能創(chuàng)新應(yīng)用。

在此過程中，智能醫(yī)療在人工智能技術(shù)的支撐和相關(guān)政策制度的引導(dǎo)下蓬勃發(fā)展，不僅有助于帶來更加高效、快捷、準(zhǔn)確的醫(yī)療服務(wù)，更有助于緩解醫(yī)療服務(wù)供需失衡問題。專家系統(tǒng)、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等人工智能技術(shù)與醫(yī)療領(lǐng)域深度融合，展開多種有益嘗試，并取得良好效果。在中國，人工智能的運(yùn)用更集中于醫(yī)療健康行業(yè)，以22%的占比位居全行業(yè)第一。醫(yī)療人工智能將改變醫(yī)療健康行業(yè)的服務(wù)提供方式、醫(yī)生的工作模式以及醫(yī)院的診療制度，對(duì)醫(yī)生、患者的診治和治療產(chǎn)生影響，從而進(jìn)一步影響醫(yī)療健康行業(yè)的發(fā)展趨勢(shì)。其最早問世的專家系統(tǒng)應(yīng)用于醫(yī)療輔助診斷、各種醫(yī)療機(jī)器人服務(wù)于醫(yī)生和患者、深度學(xué)習(xí)等算法應(yīng)用于醫(yī)療影像技術(shù)，促進(jìn)醫(yī)療服務(wù)現(xiàn)代化，提供更好地醫(yī)療健康服務(wù)。但是需要關(guān)注的是，醫(yī)療人工智能在解決現(xiàn)實(shí)醫(yī)療問題的同時(shí)也蘊(yùn)含一系列潛在的倫理問題，例如技術(shù)的安全性有待檢驗(yàn)、智能醫(yī)療對(duì)醫(yī)患自主性的破壞、對(duì)患者隱私的侵犯等，在大量的醫(yī)療技術(shù)完全落地之前，探明這些倫理隱患，有助于醫(yī)療人工智能向善發(fā)展，發(fā)揮其原本價(jià)值，從而進(jìn)一步促進(jìn)醫(yī)療健康行業(yè)的發(fā)展。

二、醫(yī)療人工智能發(fā)展現(xiàn)狀

1.醫(yī)療輔助診斷。1972年美國斯坦福大學(xué)將DENDRAL系統(tǒng)升級(jí)為MYCIN，是早期的臨床決策支持系統(tǒng)（CDSS，Clinical Decision Support System）在人工智能輔助診斷（CAD，Compute Aid Diagnose）中的應(yīng)用?？梢詭椭t(yī)生診斷患者是由何種細(xì)菌感染患病，并對(duì)癥下藥，建議治療藥品。此后，在人工智能技術(shù)不斷發(fā)展的背景下，CDSS不斷創(chuàng)新優(yōu)化，推陳出新，出現(xiàn)針對(duì)各種疾病輔助診斷的CDSS，成為CAD診斷的代表。例如IBM公司研發(fā)的“沃森健康”，輔助診斷腫瘤準(zhǔn)確率達(dá)到90%以上，已在多家醫(yī)院落地。北京中醫(yī)醫(yī)院的“關(guān)幼波肝病診斷程序”、吉林大學(xué)的“中醫(yī)婦科專家”、IBM針對(duì)糖尿病預(yù)后開發(fā)的“IQcast”等。一定程度上提高疾病診斷效率和效果，促進(jìn)醫(yī)療公平，將醫(yī)生從繁瑣的常見病診斷解放出來。醫(yī)療輔助診斷技術(shù)將提前為患者進(jìn)行精確的疾病診斷，加快常見疾病的診斷效率，減少患者的等待時(shí)間。從而進(jìn)一步提高醫(yī)療健康行業(yè)的服務(wù)質(zhì)量和服務(wù)水平，促進(jìn)醫(yī)療健康行業(yè)發(fā)展。

2.醫(yī)療服務(wù)機(jī)器人。1999年由Intuitive Surgical公司研制成功的“達(dá)芬奇手術(shù)機(jī)器人”以其靈活精準(zhǔn)的“手術(shù)好手”、更加開闊的視野和更高的安全性成為是第一臺(tái)得到FDA認(rèn)證的外科手術(shù)機(jī)器人。“達(dá)芬奇手術(shù)機(jī)器人”在國外眾多醫(yī)院落地，國內(nèi)部分醫(yī)院也有引進(jìn)使用。2021年的全球手術(shù)機(jī)器人市場(chǎng)規(guī)模達(dá)到200億美元。此后，醫(yī)療機(jī)器人已實(shí)現(xiàn)較多落地迭代，可分為手術(shù)機(jī)器人、康復(fù)機(jī)器人、輔助機(jī)器人以及醫(yī)療服務(wù)機(jī)器人四大類。醫(yī)療機(jī)器人種類繁多，對(duì)患者和醫(yī)生都將是得力的助手。手術(shù)機(jī)器人的服務(wù)時(shí)間不受限制，以及服務(wù)效果較為統(tǒng)一，不僅可以提高患者享受醫(yī)療服務(wù)的水平，而且可以進(jìn)一步提高醫(yī)療健康行業(yè)的數(shù)字化、智能化進(jìn)程。

3.智能醫(yī)療影像技術(shù)。傳統(tǒng)的醫(yī)學(xué)影像技術(shù)如CT、MRI、PET等在人工智能技術(shù)的加持下實(shí)現(xiàn)從呈現(xiàn)高清影像圖片到提供高準(zhǔn)確度的輔助診斷，并正在向自動(dòng)診斷前進(jìn)。深度學(xué)習(xí)中的卷積神經(jīng)網(wǎng)絡(luò)、堆疊自動(dòng)編碼器、生成對(duì)抗網(wǎng)絡(luò)等圖像特征識(shí)別算法不斷改進(jìn)醫(yī)學(xué)影像技術(shù)水平，不僅可以自動(dòng)實(shí)現(xiàn)圖像自動(dòng)分割，還可以實(shí)現(xiàn)疾病的自動(dòng)診斷。如在2020年突如其來的新冠疫情之初，阿里云研發(fā)出可以在20秒內(nèi)準(zhǔn)確對(duì)新冠疑似病例CT影像判讀，以科技抗擊疫情，為疫情防控貢獻(xiàn)科技之力。Bin Lu等人提出的多種機(jī)器學(xué)習(xí)算法在MRI中交叉應(yīng)用，可以對(duì)AD進(jìn)行自動(dòng)診斷，分類準(zhǔn)確率平均達(dá)94%。未來，醫(yī)學(xué)影像技術(shù)在人工智能的賦能下有望實(shí)現(xiàn)更多的功能創(chuàng)新，改變傳統(tǒng)的人工讀片方式。此項(xiàng)技術(shù)在一定程度上解決醫(yī)學(xué)影像數(shù)據(jù)較多且讀片時(shí)間長(zhǎng)的問題，以及放射科醫(yī)生數(shù)量不多并且培養(yǎng)時(shí)間長(zhǎng)的問題。同時(shí)亦有益于提高小醫(yī)院的問診水平，促進(jìn)醫(yī)療公平。

三、醫(yī)療人工智能倫理問題初探

醫(yī)療人工智能發(fā)展是現(xiàn)實(shí)醫(yī)療健康行業(yè)發(fā)展的需要，也是人工智能技術(shù)發(fā)展的必然結(jié)果。目前醫(yī)療現(xiàn)狀展現(xiàn)出不斷上升的醫(yī)療需求，尋醫(yī)問診的患者不斷增加，與此同時(shí)醫(yī)護(hù)人員的從業(yè)數(shù)量和技術(shù)水平卻有待提高?；颊咴卺t(yī)院診治的過程中，醫(yī)生問診的時(shí)間似乎低于患者排隊(duì)掛號(hào)拿藥的時(shí)間，不僅耽誤患者個(gè)人時(shí)間，也降低醫(yī)院診治效率。而一些常見疾病的診斷和治療已形成一套診斷流程，可以使用醫(yī)療人工智能替代醫(yī)生進(jìn)行問診。在人工智能高速發(fā)展的當(dāng)今社會(huì)，人工智能技術(shù)與各產(chǎn)業(yè)融合創(chuàng)新是大勢(shì)所趨，醫(yī)療領(lǐng)域更是急需人工智能技術(shù)的加持，提高整體醫(yī)療效率，促進(jìn)精準(zhǔn)醫(yī)療。但是醫(yī)療人工智能在解決現(xiàn)實(shí)醫(yī)療問題的同時(shí)也蘊(yùn)含一些潛在的倫理問題，下文將展開分析三種倫理風(fēng)險(xiǎn)。

1.人工智能技術(shù)安全性問題。智能輔助診斷、醫(yī)療機(jī)器人或者智能醫(yī)學(xué)影像技術(shù)將會(huì)直接或者間接的融入患者的治療過程。醫(yī)療機(jī)器人是與患者直接接觸，為患者做手術(shù)或者為患者提供醫(yī)療服務(wù)。在醫(yī)療過程中可能出現(xiàn)機(jī)器人手臂關(guān)節(jié)螺栓松動(dòng)或者突然斷電等問題。一旦醫(yī)療機(jī)器人出現(xiàn)故障，并且無人意識(shí)到，就可能對(duì)患者造成直接的傷害。有學(xué)者通過手術(shù)案例調(diào)查發(fā)現(xiàn)，在實(shí)際手術(shù)過程中確實(shí)存在著某些機(jī)器人功能障礙的安全隱患。

而AI輔助診斷和智能醫(yī)學(xué)影像技術(shù)的核心是其內(nèi)在的算法模型。人工智能算法具有自主學(xué)習(xí)推理特性，可以為醫(yī)療技術(shù)帶來新改變，但是這種特性也伴隨著算法黑箱和算法歧視問題，為醫(yī)療診治帶來安全隱患。一方面，當(dāng)前大部分人工智能算法在可解釋性上的缺失造成醫(yī)生無法獲知系統(tǒng)做出診治結(jié)果的依據(jù)和邏輯的后果，不能二次驗(yàn)證結(jié)果的準(zhǔn)確性。而一旦落地應(yīng)用的系統(tǒng)出現(xiàn)誤診，醫(yī)生便不能及時(shí)察覺。但是醫(yī)療診治卻要求因果邏輯，詢證問診。因此，人工智能算法的不可解釋性可能會(huì)加劇醫(yī)療事故發(fā)生的風(fēng)險(xiǎn)。另一方面，算法是從大量的臨床診斷數(shù)據(jù)中提取疾病特征形成問診模型，輔助醫(yī)生診斷。而供算法學(xué)習(xí)的數(shù)據(jù)卻會(huì)存在地域、年齡、性別、社會(huì)經(jīng)濟(jì)地位等一系列人群特異性差別，若選取不當(dāng)，則可能形成有偏見的算法模型，即模型的高效表現(xiàn)可能僅局限于部分特定人群，缺乏足夠的遷移性，對(duì)其他人群診斷準(zhǔn)確率較低，最終增大誤診機(jī)率。

智能醫(yī)療旨為給患者帶來更加安全和高效的醫(yī)療服務(wù)。以AI輔助診斷、醫(yī)療機(jī)器人、醫(yī)學(xué)影像技術(shù)為代表的智能醫(yī)療都存在一定的安全隱患，有違智能醫(yī)療的研發(fā)與應(yīng)用的初衷。不能在醫(yī)療實(shí)踐中遵循醫(yī)學(xué)倫理學(xué)的不傷害原則。

2.患者醫(yī)療數(shù)據(jù)隱私問題?；颊哚t(yī)療數(shù)據(jù)隱私問題主要有兩方面原因，一是醫(yī)療人工智能技術(shù)需要大量的患者就診數(shù)據(jù)作為技術(shù)研發(fā)的訓(xùn)練數(shù)據(jù)。二是智能醫(yī)療在應(yīng)用時(shí)會(huì)收集并上傳一些患者的身體數(shù)據(jù)。

訓(xùn)練數(shù)據(jù)的來源必然是患者的醫(yī)療記錄。但醫(yī)療記錄中不僅包括疾病的診治數(shù)據(jù)，而且涉及到患者個(gè)人的基因特征、健康狀況、身份信息等。雖然現(xiàn)在可以通過一些匿名化算法隱藏患者的個(gè)人信息，但實(shí)際上由于各種數(shù)據(jù)平臺(tái)互聯(lián)之后，通過技術(shù)還原還是有可能追溯到原始數(shù)據(jù)信息。

利用智能醫(yī)療為患者診斷時(shí)，所涉及的患者信息都以個(gè)人電子病歷 （EHR）和醫(yī)療信息系統(tǒng) （HIT）元數(shù)據(jù)形式被保存于云端。黑客入侵、醫(yī)療信息丟失等情況都有發(fā)生過。一旦醫(yī)療數(shù)據(jù)遭到濫用，可能會(huì)對(duì)患者的就業(yè)和保險(xiǎn)造成影響，從而造成社會(huì)不公、基因歧視等嚴(yán)重后果。而對(duì)患者在互聯(lián)網(wǎng)平臺(tái)上的個(gè)人信息保護(hù)也是當(dāng)前面臨的困難之一。

3.醫(yī)患自主性問題。醫(yī)療人工智能對(duì)醫(yī)生和患者的自主性均可能產(chǎn)生一定影響。由于智能醫(yī)療的黑箱特征的，真正對(duì)它們形成壟斷權(quán)的只有“電子工程界”的同仁們。由于AI醫(yī)療的黑箱特征，在對(duì)AI醫(yī)療“無知”的這個(gè)問題上，醫(yī)生和病患竟然奇跡般地站在一起了——他們也被去主體化。

對(duì)醫(yī)生而言，醫(yī)療人工智能可以輔助醫(yī)生進(jìn)行診斷、治療甚至術(shù)后方案，在此過程醫(yī)療人工智能的輔助診斷可能先入為主地影響到醫(yī)生個(gè)人對(duì)患者的診斷。而且如果以醫(yī)療人工智能為主導(dǎo)的醫(yī)療情況長(zhǎng)期以往的發(fā)展下去，可能會(huì)使醫(yī)生無意識(shí)地服從人工智能的診斷。上述情況不僅不利于醫(yī)生自我水平的提升，也不利于醫(yī)療人工智能與醫(yī)生的協(xié)同關(guān)系正向發(fā)展。

對(duì)患者而言，醫(yī)療人工智能是一種模式化、普遍性的診斷和治療方案。不能像醫(yī)生一樣了解患者真實(shí)的自我意識(shí)，只是依據(jù)患者的病理情況進(jìn)行診治。在這個(gè)過程中患者的一些個(gè)性化的訴求則無法實(shí)現(xiàn)，從而使患者的自主性降低，不利于醫(yī)療人文情懷的實(shí)現(xiàn)。

四、倫理問題對(duì)醫(yī)療健康行業(yè)的影響

醫(yī)療人工智能在醫(yī)療健康行業(yè)的應(yīng)用將會(huì)為患者帶來更好的醫(yī)療服務(wù)，將醫(yī)生從基礎(chǔ)疾病的診療中解放出來，提高醫(yī)療健康行業(yè)的服務(wù)水平與質(zhì)量。但醫(yī)療人工智能潛藏的技術(shù)安全性、醫(yī)療數(shù)據(jù)隱私和醫(yī)患自主性將會(huì)影響醫(yī)療人工智能技術(shù)在臨床應(yīng)用的效果，對(duì)患者、醫(yī)生產(chǎn)生危害，從而減弱其在醫(yī)療健康行業(yè)中的應(yīng)用效果，而且將對(duì)醫(yī)生職業(yè)發(fā)展和醫(yī)院制度產(chǎn)生影響。

醫(yī)療人工智能的技術(shù)安全問題對(duì)于醫(yī)療健康行業(yè)的發(fā)展有不可忽視的危害。醫(yī)療技術(shù)是直接與患者接觸，為患者提高醫(yī)療服務(wù)。如果醫(yī)療人工智能技術(shù)的安全性得不到百分百的確證，將會(huì)對(duì)患者的生命安全產(chǎn)生難以彌補(bǔ)的危害。對(duì)醫(yī)療健康行業(yè)的整體服務(wù)水平造成危害，有違醫(yī)療人工智能技術(shù)應(yīng)用于醫(yī)療健康行業(yè)的初衷。

醫(yī)療數(shù)據(jù)的隱私安全問題會(huì)侵犯患者的個(gè)人信息安全，數(shù)據(jù)的隱私問題一旦得不到可行的解決措施則，則會(huì)不利于醫(yī)療人工智能在醫(yī)療健康行業(yè)的長(zhǎng)遠(yuǎn)發(fā)展。醫(yī)療人工智能的準(zhǔn)確率來自大量的臨床數(shù)據(jù)訓(xùn)練，一旦數(shù)據(jù)的來源可靠性無法得到保障，則會(huì)造成行業(yè)亂象，長(zhǎng)此以往形成嚴(yán)重的危害。

醫(yī)患自主性問題體現(xiàn)在醫(yī)生和患者在醫(yī)療人工智能的應(yīng)用中主體性的被剝奪。醫(yī)療人工智能的發(fā)展目的是為了服務(wù)醫(yī)生和患者，為醫(yī)生和患者帶來高水平的醫(yī)療輔助和治療。在治療的過程中，人仍然是主體，處于中心地位。醫(yī)療人工智能的高度自主性使得醫(yī)生和患者逐漸失去主體地位。這種現(xiàn)象導(dǎo)致醫(yī)療健康行業(yè)的醫(yī)療人文關(guān)懷無法實(shí)現(xiàn)。醫(yī)患的自主性是患者自主權(quán)，知情同意權(quán)實(shí)現(xiàn)的前提，內(nèi)在隱含的是醫(yī)療人文關(guān)懷實(shí)現(xiàn)可能性。而高度自主的醫(yī)療人工智能使得醫(yī)療健康行業(yè)的人文關(guān)懷內(nèi)涵無法實(shí)現(xiàn)，使得以人為本的醫(yī)療變成沒有溫度的診療過程。

以上三種倫理問題均不利于人工智能加入的醫(yī)療健康行業(yè)的發(fā)展，不符合以人為本的醫(yī)療情懷，從而阻礙智能醫(yī)療健康行業(yè)的發(fā)展進(jìn)程。對(duì)此應(yīng)高度重視，妥善處理。

五、應(yīng)對(duì)策略

1.研發(fā)可解釋的人工智能算法。其既是醫(yī)療人工智能應(yīng)用的必要前提，也是當(dāng)前人工智能領(lǐng)域正在攻關(guān)的重點(diǎn)方向。這一點(diǎn)尤其關(guān)乎其在醫(yī)療領(lǐng)域的廣泛應(yīng)用?？山忉屓斯ぶ悄苡欣卺t(yī)生了解醫(yī)療人工智能診斷的依據(jù)，使醫(yī)生可以做到二次審查，增加醫(yī)療人工智能的安全性。另外，醫(yī)療人工智能研發(fā)人員應(yīng)注重?cái)?shù)據(jù)收集的全面性和代表性，有關(guān)審查部門同樣需要重點(diǎn)核查技術(shù)研發(fā)的初始數(shù)據(jù)，從多維度避免算法偏差。

2.增強(qiáng)數(shù)據(jù)保護(hù)。對(duì)于患者的個(gè)人醫(yī)療數(shù)據(jù)保護(hù)應(yīng)采取高度重視，加強(qiáng)保護(hù)措施。加大研發(fā)數(shù)據(jù)匿名化技術(shù)，可以在數(shù)據(jù)使用之初進(jìn)行匿名化處理，爭(zhēng)取從源頭切斷數(shù)據(jù)與個(gè)人隱私的關(guān)聯(lián)。另外可以加大患者醫(yī)療數(shù)據(jù)監(jiān)管，構(gòu)建統(tǒng)一數(shù)據(jù)平臺(tái)，降低原始數(shù)據(jù)偷竊風(fēng)險(xiǎn)。

3.提高醫(yī)生主導(dǎo)地位。在醫(yī)療人工智能廣泛應(yīng)用之前應(yīng)對(duì)醫(yī)生進(jìn)行培訓(xùn)和預(yù)警，培養(yǎng)和引導(dǎo)良好的醫(yī)療人工智能和醫(yī)生之間的正向協(xié)同關(guān)系，提高技術(shù)應(yīng)用效果。醫(yī)生主導(dǎo)地位的增強(qiáng)有利于患者自主性的實(shí)現(xiàn)。同時(shí)應(yīng)注重醫(yī)療人工智能的擬人化發(fā)展，不能只體現(xiàn)出冰冷的書面診斷結(jié)果和治療方案，應(yīng)加強(qiáng)機(jī)器與患者的真實(shí)互動(dòng)，有利于技術(shù)以人為本，向善發(fā)展。牢記醫(yī)療人工智能發(fā)展的初衷，不斷為醫(yī)生、患者、社會(huì)提供更加友善、高效的醫(yī)療服務(wù)。［基金項(xiàng)目：中國科學(xué)院人才項(xiàng)目（USTC-BR-2022-08）］

（作者單位：中國科學(xué)技術(shù)大學(xué)人文與社會(huì)科學(xué)學(xué)院）