余艷琴，徐慧芳，郝金奇，喬友林

1中國(guó)醫(yī)學(xué)科學(xué)院 北京協(xié)和醫(yī)學(xué)院 腫瘤醫(yī)院流行病學(xué)室 國(guó)家癌癥中心 國(guó)家腫瘤臨床醫(yī)學(xué)研究中心，北京 100021 2包頭醫(yī)學(xué)院公共衛(wèi)生學(xué)院，內(nèi)蒙古包頭市 014010

人工智能(artificial intelligence，AI)已經(jīng)成為我們這個(gè)時(shí)代的戰(zhàn)略性前沿領(lǐng)域和核心技術(shù)標(biāo)志，影響到國(guó)家安全、經(jīng)濟(jì)發(fā)展、醫(yī)療健康和民權(quán)利益等領(lǐng)域，甚至可左右社交媒體導(dǎo)向。目前有包括中國(guó)在內(nèi)至少18個(gè)國(guó)家啟動(dòng)了“AI戰(zhàn)略計(jì)劃”或發(fā)展規(guī)劃。2019年2月，美國(guó)總統(tǒng)特朗普簽署了一項(xiàng)行政命令，正式啟動(dòng)“美國(guó)AI計(jì)劃”，內(nèi)容包括研發(fā)、基礎(chǔ)設(shè)施、監(jiān)管、人力資源以及國(guó)際合作領(lǐng)域等5大核心支柱領(lǐng)域或技術(shù)應(yīng)用范圍。AI的應(yīng)用范圍已經(jīng)越來(lái)越廣，尤其是在醫(yī)學(xué)領(lǐng)域，例如：利用AI測(cè)算危及生命癥狀的發(fā)作；AI虛擬助手輔助患者遵守限制性飲食；預(yù)測(cè)患者可能住院時(shí)間以及再入院風(fēng)險(xiǎn)程序等。在成像技術(shù)方面，AI技術(shù)開(kāi)發(fā)人員已證實(shí)基于即時(shí)交叉引用大量信息的能力，在疾病檢測(cè)或排除疾病方面，AI已經(jīng)超越了人類(lèi)的能力。可見(jiàn)，醫(yī)學(xué)AI在加速醫(yī)學(xué)領(lǐng)域的科學(xué)發(fā)現(xiàn)及改變醫(yī)療衛(wèi)生方面有著驚人的潛力，它改變了舊有的醫(yī)療格局，建立了全新的醫(yī)療決策系統(tǒng)，該系統(tǒng)以新的輔助診斷治療系統(tǒng)為基礎(chǔ)，為患者提供輔助診斷并為臨床醫(yī)師提供治療方案和最佳證據(jù)。雖然醫(yī)學(xué)AI技術(shù)仍不能應(yīng)用于治療目前無(wú)法治愈的疾病，僅能輔助診斷治療系統(tǒng)協(xié)助醫(yī)生診斷和治療疾病，但醫(yī)學(xué)AI已經(jīng)達(dá)到一個(gè)成熟技術(shù)的轉(zhuǎn)折點(diǎn)，在醫(yī)療領(lǐng)域應(yīng)用越來(lái)越切實(shí)可行。然而，與人類(lèi)醫(yī)生相比，在疾病診斷治療方面，醫(yī)學(xué)AI尚有諸多弱勢(shì)，比如，在診療過(guò)程中難以顧及患者的感受等社會(huì)人文因素；醫(yī)學(xué)AI引發(fā)患者的隱私和安全性等一系列倫理問(wèn)題。當(dāng)然，醫(yī)學(xué)AI的倫理問(wèn)題并不是新問(wèn)題，而是AI引發(fā)的一系列老問(wèn)題的疊加。它會(huì)挑戰(zhàn)我們以往的經(jīng)驗(yàn)，卻不會(huì)引起顛覆性的毀滅。就目前而言，醫(yī)學(xué)AI倫理不完全等同于AI倫理，存在一定特殊性。AI倫理的研究大多數(shù)從技術(shù)層面和人文層面研究AI與人類(lèi)智能方面的倫理，而對(duì)于醫(yī)學(xué)AI的倫理研究還遠(yuǎn)遠(yuǎn)不夠系統(tǒng)與深入，本文分析了醫(yī)學(xué)AI引發(fā)的相關(guān)倫理問(wèn)題。

醫(yī)學(xué)AI的定義

醫(yī)學(xué)AI是AI發(fā)展出來(lái)的一個(gè)分支，用于為醫(yī)學(xué)診療問(wèn)題提供解決方案。醫(yī)學(xué)AI技術(shù)有專家系統(tǒng)、人工神經(jīng)網(wǎng)絡(luò)和數(shù)據(jù)深度挖掘3大主要分支，其中在醫(yī)療領(lǐng)域所起作用最大、最活躍、成果最顯著的一個(gè)研究領(lǐng)域是醫(yī)學(xué)專家系統(tǒng)。醫(yī)學(xué)專家系統(tǒng)是把醫(yī)學(xué)相關(guān)內(nèi)容輸入微機(jī)系統(tǒng)，隨后系統(tǒng)模仿臨床診療思維以及患者病情狀態(tài)，在知識(shí)庫(kù)內(nèi)選擇符合的診斷線索并制定治療計(jì)劃，可以作為醫(yī)生診斷的輔助工具，幫助醫(yī)生解決復(fù)雜的醫(yī)學(xué)問(wèn)題。目前醫(yī)療工作人員已經(jīng)開(kāi)始使用人工神經(jīng)網(wǎng)絡(luò)、模糊專家系統(tǒng)計(jì)算方法、機(jī)器學(xué)習(xí)以及混合智能系統(tǒng)等來(lái)處理大量的數(shù)據(jù)和知識(shí)，幫助臨床診斷更加準(zhǔn)確，并提供更有效的治療方案。

醫(yī)學(xué)AI相關(guān)倫理問(wèn)題

醫(yī)學(xué)AI的數(shù)據(jù)獲取醫(yī)學(xué)AI診療能力的高低取決于其機(jī)器所學(xué)習(xí)的醫(yī)療教材和醫(yī)療案例的質(zhì)量與數(shù)量，如何獲取高質(zhì)量的醫(yī)療教材和案例是AI醫(yī)療面臨的最大難題。若采集的醫(yī)療數(shù)據(jù)存在偏差，則會(huì)使AI系統(tǒng)出現(xiàn)相應(yīng)偏差，導(dǎo)致AI系統(tǒng)所做出的決策可能比人為偏見(jiàn)和不公隱晦更大的差別效應(yīng)。就目前而言，醫(yī)學(xué)AI由于缺乏知識(shí)和經(jīng)驗(yàn)會(huì)出現(xiàn)誤診的可能性[1]。為獲得最佳的臨床診斷效果同時(shí)提高醫(yī)生診斷的一致性，醫(yī)學(xué)AI技術(shù)僅作為輔助工具融入到臨床診斷工作中去，最終還需要醫(yī)生自己結(jié)合專業(yè)知識(shí)做出診斷決策，因此醫(yī)生要客觀看待AI輔助診斷的結(jié)果?？梢?jiàn)，高質(zhì)量醫(yī)療大數(shù)據(jù)對(duì)于醫(yī)學(xué)AI的發(fā)展至關(guān)重要。

醫(yī)學(xué)AI的公平性醫(yī)學(xué)AI醫(yī)療系統(tǒng)在醫(yī)務(wù)過(guò)程中，利用電子病歷與之相關(guān)的健康數(shù)據(jù)并通過(guò)分子生物學(xué)檢測(cè)得到的基因組學(xué)、蛋白質(zhì)組學(xué)等實(shí)驗(yàn)數(shù)據(jù)，采用聚類(lèi)分析方法幫助醫(yī)生判斷、識(shí)別并將疾病與最佳療法相匹配[2]。但是，由于現(xiàn)有醫(yī)療條件、技術(shù)設(shè)備等醫(yī)療資源存在不平衡問(wèn)題及社會(huì)貧富差距的存在，只有少部分人才可能獲得先進(jìn)的診斷和治療技術(shù)，可見(jiàn)醫(yī)學(xué)AI是少眾群體的先進(jìn)醫(yī)療手段，因此其存在兩面性：一方面可以引起醫(yī)療狀況不公平性等有關(guān)社會(huì)問(wèn)題；另一方面可以幫助醫(yī)生提高診療水平，尤其是可以輔助基層醫(yī)生診斷疾病，從而讓預(yù)防保障體系的“神經(jīng)末梢”正常運(yùn)轉(zhuǎn)起來(lái)。因此，如何實(shí)現(xiàn)醫(yī)學(xué)AI的“普及化和大眾化”，成為普通大眾的基本醫(yī)療手段，消除醫(yī)學(xué)AI的不足具有重要意義。

醫(yī)學(xué)AI的安全性醫(yī)學(xué)AI的安全性是指醫(yī)學(xué)AI在近期、遠(yuǎn)期應(yīng)用過(guò)程中出現(xiàn)或引發(fā)一系列可能的相關(guān)倫理問(wèn)題，其中，近期安全風(fēng)險(xiǎn)是指在目前現(xiàn)有技術(shù)水平下所出現(xiàn)的不可預(yù)知的風(fēng)險(xiǎn)問(wèn)題。例如：外科醫(yī)師所用的基于機(jī)械驅(qū)動(dòng)的手術(shù)機(jī)器人，具有手術(shù)過(guò)程無(wú)差錯(cuò)、準(zhǔn)確等優(yōu)點(diǎn)，但在遠(yuǎn)程診療過(guò)程中，機(jī)械的遠(yuǎn)程操控是否會(huì)特別精準(zhǔn)，手術(shù)時(shí)病菌的隔離和控制以及有無(wú)有害物質(zhì)感染等問(wèn)題，都是值得深思并無(wú)法預(yù)知的問(wèn)題。此外，醫(yī)學(xué)AI在醫(yī)療健康數(shù)據(jù)的收集、分析等過(guò)程中可能會(huì)將大量看似無(wú)關(guān)的數(shù)據(jù)或信息整合在一起，獲得個(gè)人的“顯性”信息，如一個(gè)人的性格特征、生活和行為方式等，和“隱性”信息，如身體缺陷、犯罪前科等。一旦AI系統(tǒng)掌握的信息泄露或被非法使用，不僅會(huì)引起個(gè)人恐慌，還可能導(dǎo)致社會(huì)不穩(wěn)定等嚴(yán)重后果。相比于人類(lèi)醫(yī)生而言，這種AI醫(yī)療對(duì)患者隱私問(wèn)題似乎考慮得并沒(méi)有那么周全。因此，醫(yī)學(xué)AI在數(shù)據(jù)收集、訓(xùn)練模型等過(guò)程中，每個(gè)行業(yè)都應(yīng)該高度重視保護(hù)患者隱私。1996年，美國(guó)頒布的《健康保險(xiǎn)攜帶和責(zé)任法案》要求各機(jī)構(gòu)必須采取適當(dāng)措施保護(hù)患者信息的私密性，以及個(gè)人醫(yī)療信息的使用必須限定在實(shí)施治療所必需的最小范圍內(nèi)。為了保護(hù)醫(yī)療對(duì)象的隱私權(quán)，應(yīng)當(dāng)重視新技術(shù)新業(yè)務(wù)領(lǐng)域的個(gè)人信息保護(hù)問(wèn)題，從法律層面上明確個(gè)人對(duì)其信息享有的基本權(quán)利，規(guī)范企業(yè)收集和使用個(gè)人信息的行為。因此，目前醫(yī)學(xué)AI亟需制定一系列安全標(biāo)準(zhǔn)和相應(yīng)的法律、法規(guī)，以保護(hù)患者的隱私在任何環(huán)節(jié)都不能被泄露，諸如涉及到訪問(wèn)、傳送和存儲(chǔ)受保護(hù)患者信息的人員、機(jī)構(gòu)都應(yīng)有相應(yīng)的規(guī)范。遠(yuǎn)期的安全風(fēng)險(xiǎn)是指假設(shè)未來(lái)AI發(fā)展到超級(jí)智能階段，AI系統(tǒng)能夠自我演化，并可能發(fā)展出類(lèi)人的自我意識(shí)，從而對(duì)人類(lèi)的主導(dǎo)性甚至存續(xù)造成威脅。若AI技術(shù)不加約束的開(kāi)發(fā)，會(huì)讓機(jī)器獲得超越人類(lèi)智力水平的智能，引發(fā)一些難以控制的安全隱患。盡管人們還不清楚醫(yī)學(xué)AI遠(yuǎn)期安全性是否會(huì)到來(lái)，但如果在還沒(méi)有完全做好應(yīng)對(duì)措施之前出現(xiàn)技術(shù)突破，安全威脅就有可能爆發(fā)，人們應(yīng)提前考慮到可能的風(fēng)險(xiǎn)。

醫(yī)學(xué)AI不良后果的責(zé)任界定醫(yī)學(xué)AI輔助診療系統(tǒng)具有大量減少醫(yī)生讀片時(shí)間、提升工作效率、降低誤診率等優(yōu)點(diǎn)。而未來(lái)醫(yī)學(xué)AI在醫(yī)療行業(yè)的發(fā)展前景良好，不僅可對(duì)疾病進(jìn)行診斷并提供治療方案，還能從宏觀與微觀、分子水平提出個(gè)體化精準(zhǔn)防治方案。然而隨之而來(lái)也可能會(huì)出現(xiàn)一系列倫理問(wèn)題，例如：用于診斷的專家系統(tǒng)出現(xiàn)失誤后導(dǎo)致的醫(yī)療事故將是誰(shuí)的責(zé)任？醫(yī)學(xué)人工智能機(jī)器人制作大規(guī)模的生化武器、傳播疾病及選擇性殺害人類(lèi)的能力，將給我們的人身安全與自由構(gòu)成極大威脅，這到底是機(jī)器人的責(zé)任還是人類(lèi)自己的責(zé)任？以及這些機(jī)器人的開(kāi)發(fā)者、使用者是否要負(fù)擔(dān)相應(yīng)的責(zé)任，且分別應(yīng)負(fù)什么樣的責(zé)任等，諸如此類(lèi)的倫理問(wèn)題[3]。未來(lái)醫(yī)學(xué)AI機(jī)器人發(fā)展成為會(huì)“思維”的機(jī)器，機(jī)器思維完全有可能超過(guò)人類(lèi)的思維能力，不僅在存儲(chǔ)(記憶)、運(yùn)算、傳輸?shù)确矫娉^(guò)人腦，而且在想象力、創(chuàng)造力、控制力以及情感的豐富度等方面也超過(guò)人時(shí)，它就會(huì)對(duì)人的思維本質(zhì)構(gòu)成實(shí)質(zhì)性的挑戰(zhàn)。因此，醫(yī)學(xué)AI技術(shù)引發(fā)的倫理問(wèn)題不可小覷，為了人類(lèi)的長(zhǎng)遠(yuǎn)發(fā)展，應(yīng)給予其相應(yīng)的關(guān)注并進(jìn)一步深思和探討。

醫(yī)學(xué)AI的公眾接受度在診療中大眾是愿意接受有情感、有思想、能交流的醫(yī)務(wù)人員還是與之相反的機(jī)器人，值得我們進(jìn)一步深思。試想一下若是我們自己在診療中，諸如手術(shù)、康復(fù)等希望尋找“同類(lèi)”還是“異類(lèi)”的機(jī)器人？是希望面對(duì)有情感、有思想的人類(lèi)醫(yī)師，還是愿意把自己的安全交給冰冷而且不會(huì)思考的機(jī)器呢？此外，醫(yī)療AI輔助診斷是否會(huì)改變醫(yī)務(wù)人員與患者之間的關(guān)系也需要考慮。例如AI醫(yī)生通過(guò)AI遠(yuǎn)程醫(yī)療方式進(jìn)行診斷，在患者身上實(shí)施專家手術(shù)，是否會(huì)導(dǎo)致醫(yī)患之間產(chǎn)生心理上的隔閡?？梢?jiàn)，雖然醫(yī)學(xué)AI輔助診斷系統(tǒng)能夠幫助醫(yī)生診斷諸多疾病，但它只是在診療過(guò)程中幫助醫(yī)生快速判斷并提供建議，因?yàn)榧膊〉脑\療過(guò)程不能單純依賴技術(shù)環(huán)節(jié)，還需要社會(huì)人文因素等共同完成。正如Airdoc對(duì)自己的定位就是AI時(shí)代醫(yī)生的輔助工具，最終診斷決策需醫(yī)生自己做出。醫(yī)生診療患者已經(jīng)幾千年，不會(huì)因?yàn)橐粌蓚€(gè)技術(shù)出現(xiàn)而變化[4]。

醫(yī)學(xué)AI引發(fā)問(wèn)題的監(jiān)管建議目前對(duì)于醫(yī)學(xué)AI的使用監(jiān)管，較美國(guó)、英國(guó)、澳大利亞等發(fā)達(dá)國(guó)家而言，我國(guó)法規(guī)還有一些差距需進(jìn)一步完善。監(jiān)管的目的不僅是保證醫(yī)學(xué)AI發(fā)揮其最大優(yōu)勢(shì)，還要保證患者安全、隱私不外泄。由于醫(yī)學(xué)AI是基于醫(yī)療大數(shù)據(jù)的驅(qū)動(dòng)，通過(guò)機(jī)器學(xué)習(xí)，將患者病歷和案例進(jìn)行分析，給出診療方案，因此其過(guò)程中存在很多不確定性和復(fù)雜性，致使我們對(duì)AI的審查、預(yù)測(cè)與監(jiān)管難以實(shí)施[5]。這也是許多知名專家如喬納森和米西卡明斯所擔(dān)憂的，醫(yī)學(xué)AI的安全性和倫理道德監(jiān)管是一個(gè)大問(wèn)題。雖然2016年9月，臉書(shū)、谷歌以及亞馬遜專門(mén)成立了AI監(jiān)督聯(lián)盟，旨在開(kāi)發(fā)解決AI相關(guān)的安全隱私問(wèn)題。但是對(duì)于公眾而言，這種措施似乎沒(méi)有實(shí)質(zhì)性用途，急需一些專家和企業(yè)為大眾解開(kāi)AI技術(shù)的面紗，否則由此引發(fā)的民眾恐懼感不會(huì)有明顯下降。而且，在AI監(jiān)管方面，目前還缺少相應(yīng)的法律。針對(duì)以上醫(yī)學(xué)AI所面臨的倫理問(wèn)題，筆者就我國(guó)醫(yī)學(xué)AI在研發(fā)、應(yīng)用過(guò)程中所面臨的倫理問(wèn)題，提出以下幾方面監(jiān)管建議。

研發(fā)階段：首先是選擇研究人群方面存在倫理學(xué)歧視問(wèn)題，主要體現(xiàn)為插入“隱形”過(guò)濾器，即受種族、膚色、經(jīng)濟(jì)狀況、性別及年齡等方面的影響，而忽略或忽視其他種族研究，此外還需要注意特殊工種人群，因此AI在選擇人群方面應(yīng)當(dāng)考慮人群的代表性和數(shù)量。就目前我國(guó)現(xiàn)有形式來(lái)看，我們應(yīng)該從不同地區(qū)、民族、性別以及年齡中選取足夠數(shù)量、有代表性的人群來(lái)建立標(biāo)準(zhǔn)化醫(yī)療健康大數(shù)據(jù)。其次是所面臨的數(shù)據(jù)質(zhì)量問(wèn)題，主要集中于數(shù)據(jù)的質(zhì)、量以及數(shù)據(jù)的標(biāo)準(zhǔn)3個(gè)方面，其中，數(shù)據(jù)質(zhì)量是關(guān)鍵，醫(yī)學(xué)AI診療能力的高低取決于良好的數(shù)據(jù)質(zhì)量。目前我國(guó)尋找高質(zhì)量、足夠數(shù)量以及具有良好診斷標(biāo)準(zhǔn)的數(shù)據(jù)尚存在一定難度，但國(guó)家已經(jīng)投入大量的人力、物力資本建立標(biāo)準(zhǔn)化的醫(yī)療健康大數(shù)據(jù)，未來(lái)中國(guó)醫(yī)學(xué)AI前景不可估量。

實(shí)際應(yīng)用階段：醫(yī)學(xué)AI輔助診斷可以提高醫(yī)師診斷的準(zhǔn)確率和效率，增強(qiáng)醫(yī)院的競(jìng)爭(zhēng)力，但其帶來(lái)的不公平性、安全性以及數(shù)據(jù)保護(hù)和隱私安全等問(wèn)題也需要重視。因此在國(guó)家層面上應(yīng)當(dāng)通過(guò)建立醫(yī)學(xué)AI為醫(yī)療條件落后地區(qū)和弱勢(shì)群體提供可靠的醫(yī)療輔助診斷，解決當(dāng)前面臨的醫(yī)療資源不公平和醫(yī)患矛盾等問(wèn)題。并進(jìn)一步建立或出臺(tái)一系列官方指導(dǎo)意見(jiàn)、法律及法規(guī)，規(guī)范和保護(hù)醫(yī)學(xué)AI的數(shù)據(jù)和隱私安全等問(wèn)題。

醫(yī)學(xué)AI的責(zé)任認(rèn)定：主要集中在醫(yī)學(xué)AI的制作者和應(yīng)用者這兩個(gè)方面。醫(yī)學(xué)AI的制作必須是客觀、公正、基于大量無(wú)偏性臨床數(shù)據(jù)進(jìn)行的邏輯算法而構(gòu)建，倘若醫(yī)學(xué)AI制作者在制作過(guò)程中加入“隱形”因素，機(jī)器學(xué)習(xí)算法就會(huì)基于壞數(shù)據(jù)或缺乏多樣性的數(shù)據(jù)，得出不準(zhǔn)確或帶有偏見(jiàn)的結(jié)論，則由此引發(fā)的風(fēng)險(xiǎn)應(yīng)當(dāng)由制作者承擔(dān)。若制作者不存在技術(shù)問(wèn)題(經(jīng)過(guò)安全性和準(zhǔn)確性評(píng)估后)，而是在使用過(guò)程中出現(xiàn)的責(zé)任問(wèn)題，應(yīng)當(dāng)由使用者承擔(dān)。

醫(yī)學(xué)AI的監(jiān)管：首先要明確監(jiān)管哪些內(nèi)容、采取何種方式、是否有可以參考的標(biāo)準(zhǔn)和依據(jù)，以及是否具有相關(guān)的法律和法規(guī)。針對(duì)目前醫(yī)學(xué)AI輔助診斷儀器等在醫(yī)學(xué)領(lǐng)域的應(yīng)用，醫(yī)學(xué)AI的監(jiān)管應(yīng)主要集中在安全性評(píng)價(jià)和上市后評(píng)價(jià)兩個(gè)方面。安全性評(píng)價(jià)主要指醫(yī)學(xué)AI研發(fā)的新技術(shù)必須按照國(guó)家相關(guān)法規(guī)和政策進(jìn)行評(píng)價(jià)與驗(yàn)收。醫(yī)學(xué)AI研發(fā)的技術(shù)必須進(jìn)行規(guī)范化、標(biāo)準(zhǔn)化的程序，用數(shù)據(jù)來(lái)科學(xué)證明新產(chǎn)品對(duì)患者是安全和有效的，同時(shí)必須經(jīng)過(guò) “多中心”不斷驗(yàn)證與修改醫(yī)學(xué)AI的新技術(shù)，已達(dá)到臨床診斷要求的“樣本量”來(lái)驗(yàn)證數(shù)據(jù)的科學(xué)性與規(guī)范性。上市后評(píng)價(jià)是指醫(yī)學(xué)AI研發(fā)的技術(shù)上市后還需要收集大數(shù)據(jù)，進(jìn)一步評(píng)價(jià)醫(yī)學(xué)AI的安全性、實(shí)用性及有效性等，目的在于規(guī)避潛在的風(fēng)險(xiǎn)以減少不良反應(yīng)的發(fā)生。

總之，目前AI尚處于“弱AI”階段。從臨床應(yīng)用來(lái)看，雖然醫(yī)學(xué)AI發(fā)展迅速，但是真正推廣應(yīng)用到臨床診療中的項(xiàng)目數(shù)量有限，距離全面融入臨床醫(yī)師日常工作、切實(shí)縮小不同地區(qū)間醫(yī)療水平差距等目標(biāo)尚有很長(zhǎng)的路要走。醫(yī)務(wù)工作者應(yīng)清楚地認(rèn)識(shí)到，醫(yī)學(xué)AI尚無(wú)法取代醫(yī)務(wù)人員，其提供的診斷僅具參考價(jià)值，不能作為最后的診斷，還需要醫(yī)務(wù)工作者結(jié)合實(shí)際臨床表現(xiàn)來(lái)得出。