張秋菊 蔣 輝

醫(yī)療人工智能(artificial intelligence,AI)是AI在醫(yī)療領(lǐng)域的應(yīng)用與開發(fā)，它可以通過機(jī)器學(xué)習(xí)、表征學(xué)習(xí)、深度學(xué)習(xí)和自然語言處理等各種技術(shù)，利用計(jì)算機(jī)算法從數(shù)據(jù)中獲取信息，以協(xié)助制定臨床決策為目的，實(shí)現(xiàn)輔助診斷、療法選擇、風(fēng)險(xiǎn)預(yù)測、疾病分診、減少醫(yī)療事故和提高效率等一系列功能[1]。隨著AI飛速發(fā)展，醫(yī)療AI也會在不同臨床活動中發(fā)揮超乎想象的作用。根據(jù)AI的實(shí)力可以大致分為弱AI、強(qiáng)AI和超強(qiáng)AI。由于醫(yī)療服務(wù)的對象是人，AI在醫(yī)療領(lǐng)域的應(yīng)用必須考慮到人的主體地位、個體差異、心理感受等問題，而且必然顧及醫(yī)患關(guān)系的特點(diǎn)。因此，盡管醫(yī)療AI應(yīng)用越來越廣泛，且未來展現(xiàn)出更廣闊前景，對疾病診斷、藥物篩選及手術(shù)治療、醫(yī)院管理等帶來極大的便捷和幫助，但當(dāng)前醫(yī)療AI應(yīng)用主要集中在弱AI。

1 醫(yī)療AI應(yīng)用的倫理關(guān)系評估

在醫(yī)療資源配備不足的地區(qū)，應(yīng)用醫(yī)療AI可在一定程度上緩解供需矛盾，但并不能從根本上解決問題。2019年，以臨床輔助決策支持系統(tǒng)(clinical decision support system,CDSS)和靜脈血栓栓塞癥(venous thrombo embolism,VTE)智能防治系統(tǒng)等為代表的AI應(yīng)用推廣較突出，這些應(yīng)用的確減輕了醫(yī)務(wù)人員的工作負(fù)荷，但是也讓醫(yī)務(wù)人員有著盲從AI判斷的可能。因此，AI的應(yīng)用像“雙刃劍”一樣，有著技術(shù)應(yīng)用的效益，也有著不可回避的負(fù)面影響。與此同時，諸如隱私保護(hù)、數(shù)據(jù)歧視、人性化關(guān)懷等也存在隱憂。

在當(dāng)前醫(yī)療AI還沒有相關(guān)法律法規(guī)的情況下，倫理問題尤其值得思考和關(guān)注，做好倫理設(shè)計(jì)及形成相關(guān)的道德原則是AI更好地服務(wù)于醫(yī)療的必要保證。醫(yī)療AI的應(yīng)用必定會深刻影響醫(yī)療人際關(guān)系，對此應(yīng)進(jìn)行充分評估。醫(yī)療AI設(shè)計(jì)要關(guān)注醫(yī)療人際關(guān)系，尤其是醫(yī)務(wù)人員和患者群體及社會公眾，必須事先評估其影響，并正確處理好不同主體之間的關(guān)系，是做好醫(yī)療AI設(shè)計(jì)的重要方面。

1.1 影響醫(yī)務(wù)人員的主體作用及主觀能動性

醫(yī)療AI帶來方便的同時可能會淡化甚至隔斷部分人際交往，尤其是醫(yī)患之間的溝通及人文關(guān)懷可能被物化。AI無法替代醫(yī)生，缺乏和醫(yī)生一樣的綜合判斷能力。盡管AI節(jié)省了醫(yī)務(wù)人員的時間、提供了診斷決策建議、起到了重要的輔助作用，但也可能削弱醫(yī)務(wù)人員的主觀能動性的發(fā)揮，減少創(chuàng)新。醫(yī)務(wù)人員對AI的依賴會影響自身專業(yè)技能的修煉，還有可能為技術(shù)所累，使醫(yī)患關(guān)系物化，引發(fā)醫(yī)生眼中可能只有疾病而沒有患者的現(xiàn)象。如智能預(yù)問診，用戶就診前，智能采集用戶病情信息，包括主訴、現(xiàn)病史、既往史、過敏史、家族史等生成電子病歷，節(jié)省醫(yī)生寫病歷時間，但“預(yù)問診”在無形中阻隔了醫(yī)患交流的部分環(huán)境，對醫(yī)務(wù)人員的判斷形成干擾、錯誤引導(dǎo)、傾向性影響，甚至產(chǎn)生誤判。

1.2 對患者群體的消費(fèi)擴(kuò)展和選擇歧視

AI無疑會大大惠及患者，但也存在不少倫理問題。一方面，AI對某些疾病的診斷更精確，部分手術(shù)的技術(shù)傷害更小，藥物使用更加優(yōu)化，臨床診斷意見更有針對性和參考性等。另一方面，AI醫(yī)療器械、影像、手術(shù)機(jī)器人等費(fèi)用高昂，可能造成歧視和不公平，引發(fā)過度醫(yī)療等；AI誤診、手術(shù)機(jī)器人的差錯、患者個人資料泄露等無疑是對患者權(quán)利的無情踐踏，甚至危害公共衛(wèi)生利益。

1.3 醫(yī)患關(guān)系導(dǎo)向異化

AI不能代替醫(yī)務(wù)人員，也不應(yīng)擠占本屬于醫(yī)患交往的時間。AI臨床應(yīng)用的基調(diào)應(yīng)該是基于補(bǔ)充、輔助，而非代替，醫(yī)療活動中的醫(yī)務(wù)人員、患者都是人，醫(yī)患之間的交往要體現(xiàn)醫(yī)學(xué)的人文溫度，體現(xiàn)醫(yī)患間的關(guān)愛、溫情。AI應(yīng)該優(yōu)化、彰顯醫(yī)學(xué)的人文情懷，體現(xiàn)對人的關(guān)懷與尊重，應(yīng)該把研發(fā)的重點(diǎn)放在補(bǔ)充醫(yī)療活動中的不足，醫(yī)院管理系統(tǒng)的AI研究應(yīng)該把關(guān)心人、尊重人放在重要位置；把開發(fā)重點(diǎn)放在當(dāng)前現(xiàn)代醫(yī)學(xué)的不足和亟需的領(lǐng)域，諸如康復(fù)治療、醫(yī)療機(jī)器人、醫(yī)療影像等，為患者提供優(yōu)良的就醫(yī)環(huán)境和秩序，醫(yī)務(wù)人員不足時借助AI實(shí)現(xiàn)關(guān)懷、幫助。

2 醫(yī)療AI設(shè)計(jì)的倫理問題

在AI的賦能下，醫(yī)學(xué)的技術(shù)性可以得到前所未有的提高。未來AI與臨床的密切融合，需要人們關(guān)注AI醫(yī)療應(yīng)用引發(fā)的一系列倫理問題，醫(yī)界呼吁有責(zé)任、合倫理的AI研發(fā)。醫(yī)療AI設(shè)計(jì)的倫理問題最主要牽涉到是否在設(shè)計(jì)中把握住總體目標(biāo)是為推動醫(yī)學(xué)事業(yè)的發(fā)展、為人民健康謀福利；是否在設(shè)計(jì)中就數(shù)據(jù)采集的知情同意做好約定，因?yàn)獒t(yī)療AI是建立在大數(shù)據(jù)基礎(chǔ)上的，而醫(yī)學(xué)的特殊性決定了數(shù)據(jù)采集會涉及到患者權(quán)益，知情同意是非常重要的醫(yī)學(xué)倫理原則；數(shù)據(jù)采集涉及的另一個重要問題就是患者隱私權(quán)的保護(hù)，更高層次上的安全就是生物安全等問題。這三個重要問題在醫(yī)療AI設(shè)計(jì)時就應(yīng)該有相關(guān)的倫理約定，若等問題發(fā)生時再采取措施就為時晚矣。

2.1 難以將設(shè)計(jì)研發(fā)全程納入監(jiān)管

在醫(yī)療AI的設(shè)計(jì)之初，工程師可能缺乏對醫(yī)學(xué)特點(diǎn)、醫(yī)患關(guān)系、臨床應(yīng)用的細(xì)節(jié)及發(fā)展趨勢考慮，這其實(shí)存在一定的失控風(fēng)險(xiǎn)，應(yīng)該由政府主管部門包括工業(yè)信息部、科技部與衛(wèi)生健康部門聯(lián)合進(jìn)行登記管理，根據(jù)各自工作職責(zé)建立聯(lián)合工作小組對醫(yī)療AI進(jìn)行監(jiān)管，在其設(shè)計(jì)之初就按要求登記。醫(yī)療AI的設(shè)計(jì)要符合醫(yī)學(xué)目的，技術(shù)設(shè)計(jì)應(yīng)初衷正當(dāng)，導(dǎo)向良性發(fā)展，即推動醫(yī)學(xué)技術(shù)發(fā)展，更好地服務(wù)于人民健康。

盡管目前暫無直接對應(yīng)AI研發(fā)的法規(guī)，但從《民法典》《刑法(修正案九)》《醫(yī)療衛(wèi)生與健康促進(jìn)法》《醫(yī)療器械監(jiān)督管理?xiàng)l例》《信息安全條例》《涉及人的生物醫(yī)學(xué)研究倫理審查辦法》等法律法規(guī)中，均可以找到很多規(guī)范性要求。受試者權(quán)益保障主要是隱私信息保護(hù)和數(shù)據(jù)產(chǎn)權(quán)方面，不涉及針對人體的風(fēng)險(xiǎn)，但客觀存在隱私信息泄露和數(shù)據(jù)歧視等倫理風(fēng)險(xiǎn)——這常常被忽視，或不夠重視，也常常沒有相應(yīng)的風(fēng)險(xiǎn)評估，沒有相關(guān)的風(fēng)險(xiǎn)防范措施和應(yīng)急處置預(yù)案。由于數(shù)據(jù)控制權(quán)已經(jīng)不在受試者方面，醫(yī)院和研究者可以單方面對醫(yī)療健康數(shù)據(jù)進(jìn)行處理，往往也沒有再向受試者履行知情同意，受試者方面沒有任何直接獲益，而醫(yī)療器械A(chǔ)I產(chǎn)品又有明確預(yù)期的市場價(jià)值，如果從受試者角度而言，常涉嫌違背倫理的尊重原則和公平原則。醫(yī)療器械A(chǔ)I產(chǎn)品的注冊研發(fā)，應(yīng)該側(cè)重社會公益目的，并在政府有關(guān)部門和機(jī)構(gòu)倫理委員會的有效監(jiān)管下開展。很多情況下，應(yīng)該鼓勵把投入的研發(fā)成本收回來即可，不應(yīng)追求不恰當(dāng)?shù)倪^多商業(yè)利益，否則就可能違背倫理。因此，醫(yī)療AI應(yīng)用產(chǎn)品具體在設(shè)計(jì)時，應(yīng)以社會公益為主要目的，全程納入政府監(jiān)管并接受社會公眾監(jiān)督。然后，在AI產(chǎn)品中應(yīng)編入倫理標(biāo)準(zhǔn)程序并經(jīng)過檢驗(yàn)后使用，包括諸如權(quán)利、角色、動機(jī)、意圖及其他道德相關(guān)特征，以期其做出的醫(yī)療決策更符合倫理。目前醫(yī)療AI的價(jià)值體系等同于創(chuàng)建AI的設(shè)計(jì)者的價(jià)值體系。

醫(yī)學(xué)目的原則要求開發(fā)設(shè)計(jì)者與醫(yī)生增強(qiáng)溝通，真正了解醫(yī)生的工作和需要、醫(yī)療衛(wèi)生行業(yè)服務(wù)的性質(zhì)及宗旨。目前的醫(yī)療AI還比較碎片化，沒有做到足夠的集成化。不同疾病模型的使用環(huán)境都不同，如果不能建立統(tǒng)一的集成規(guī)范，就會為了追求技術(shù)的新奇而使用技術(shù)，反而影響了效率，這也正是許多醫(yī)療機(jī)構(gòu)即使擁有了AI，醫(yī)生也經(jīng)常不使用這些新技術(shù)的原因。對此，需要開發(fā)者去真正理解醫(yī)院的整體工作，有的放矢。AI應(yīng)結(jié)合醫(yī)院整體工作需要、醫(yī)生工作特點(diǎn)和患者現(xiàn)實(shí)困難全盤規(guī)劃，在設(shè)計(jì)上從滿足需要出發(fā)。

2.2 大數(shù)據(jù)采集和使用的倫理審查挑戰(zhàn)突出

數(shù)據(jù)采集應(yīng)取得授權(quán)，導(dǎo)向有序管理。AI依靠大量的數(shù)據(jù)支撐，數(shù)據(jù)從哪來：美國要求醫(yī)療信息的商業(yè)化應(yīng)用必須嚴(yán)格符合《健康保險(xiǎn)便攜性和責(zé)任法案》(Health Insurance Portability and Accountability,HIPAA)和《促進(jìn)經(jīng)濟(jì)和臨床醫(yī)療衛(wèi)生信息技術(shù)法案》(Health Information Technology for Economic and Clinical Health,HITECH)兩個法案規(guī)定，中國目前在此領(lǐng)域政策上態(tài)度不明確。關(guān)于數(shù)據(jù)采集的相關(guān)問題應(yīng)該在設(shè)計(jì)時就充分考慮，尤其應(yīng)關(guān)注在采集數(shù)據(jù)時對患者的知情同意權(quán)的保護(hù)。知情同意權(quán)在沒有法律規(guī)范可參考的情況下就需要醫(yī)療AI技術(shù)的研究單位和合作單位加強(qiáng)倫理審查，重點(diǎn)針對設(shè)計(jì)者的科研倫理意識、采集數(shù)據(jù)時是否履行知情同意、如何保障知情同意順利進(jìn)行、在研究過程中誰來監(jiān)督知情同意實(shí)施情況等。對此，鑒于機(jī)構(gòu)倫理審查在醫(yī)療健康大數(shù)據(jù)方面存在的效率和能力問題，應(yīng)引導(dǎo)發(fā)展區(qū)域倫理委員會，并有政府委托的醫(yī)學(xué)倫理專家委員會和區(qū)域倫理委員會來對醫(yī)療健康大數(shù)據(jù)進(jìn)行倫理審查和后續(xù)使用開發(fā)的監(jiān)管，要警惕醫(yī)療AI濫用。AI的先驅(qū)約瑟夫·魏森鮑姆曾告誡“任何需要真正同理心的工作，都不應(yīng)該由計(jì)算機(jī)從事”。他認(rèn)為，與機(jī)器互動會讓人感到孤立和被貶低，醫(yī)療AI的濫用會不會在不經(jīng)意間降低我們對人類生命的重視程度。如果有一天醫(yī)療AI 可以實(shí)現(xiàn)將人腦數(shù)據(jù)記錄在計(jì)算機(jī)中，針對殘疾者、病患或是逝去的人，制造出載有當(dāng)事人大腦信息的AI機(jī)器人，可以被允許嗎？

醫(yī)療AI產(chǎn)品研發(fā)項(xiàng)目應(yīng)該先經(jīng)過學(xué)術(shù)委員會的立項(xiàng)審核，然后由倫理委員會進(jìn)行倫理審查。專家組成員、倫理委員、聘請顧問應(yīng)考慮到醫(yī)療AI的特點(diǎn)和所涉及知識、利益群體，納入軟件工程師，醫(yī)學(xué)專家，社會學(xué)、心理學(xué)、倫理與法律專家，群眾代表等。

(1)研究的目的應(yīng)該是正當(dāng)?shù)?，有前期研究基礎(chǔ)和充分依據(jù)的，不能在研究基礎(chǔ)尚不夠、條件不成熟的情況下，隨機(jī)采集數(shù)據(jù)去測試、訓(xùn)練。這種行為不僅不尊重?cái)?shù)據(jù)所有權(quán)人、沒有嚴(yán)謹(jǐn)?shù)目茖W(xué)精神，而且可能站在利用公民信息謀利的邊緣，有違反刑法的風(fēng)險(xiǎn)。

(2)研究所涉及的醫(yī)療健康數(shù)據(jù)不應(yīng)過多，應(yīng)該遵循“最小權(quán)責(zé)”原則，避免不必要的信息過度披露，保護(hù)醫(yī)療信息安全。這和動物實(shí)驗(yàn)倫理中的“3R”原則(減少、替代、優(yōu)化)道理相通，用能體現(xiàn)統(tǒng)計(jì)差異且盡量少的例數(shù)來說明問題即可，不應(yīng)隨意擴(kuò)大數(shù)據(jù)范圍和例數(shù)，能使用既往保存的數(shù)據(jù)時不應(yīng)采集新的數(shù)據(jù)，能開展真實(shí)世界研究的不應(yīng)發(fā)起干預(yù)性研究，否則，既浪費(fèi)資源，也不安全，自然不符合倫理。

(3)提供AI算法的機(jī)構(gòu)及有關(guān)工程師不應(yīng)該隱形于研究項(xiàng)目和研究團(tuán)隊(duì)中。醫(yī)生大都對AI沒有那么深入的研究，不是兼具醫(yī)療和軟件工程專業(yè)知識的復(fù)合人才，所以醫(yī)療AI應(yīng)用的研發(fā)一般都有軟件工程師及有關(guān)機(jī)構(gòu)涉足其中，這涉及許多知識產(chǎn)權(quán)問題。在項(xiàng)目合作協(xié)議和研究團(tuán)隊(duì)名單中，應(yīng)清楚體現(xiàn)該項(xiàng)目與什么公司、高校合作，有什么工程師參與其中，負(fù)責(zé)哪部分工作，這些均應(yīng)予以明確說明并登記備案。若牽頭醫(yī)院與軟件公司有合作，應(yīng)有書面協(xié)議約定各自權(quán)利義務(wù)，并將合作框架告知其他參與醫(yī)院。

(4)在研究方案中，具體表述醫(yī)療健康數(shù)據(jù)的采集、脫敏、加密、儲存、物理隔離、轉(zhuǎn)移、銷毀等設(shè)計(jì)內(nèi)容，不能語焉不詳，籠統(tǒng)承諾“保護(hù)患者隱私”，這其實(shí)容易暗藏貓膩，也是不尊重患者人格與權(quán)益的體現(xiàn)。甚至，這樣稀里糊涂的研究讓人懷疑申辦者是別有用心地想獲取患者的信息數(shù)據(jù)。

(5)要清楚界定研究目的和研發(fā)階段，由此作出相應(yīng)的利益沖突管理。例如，表面聲稱以寫論文為目的，實(shí)質(zhì)上瞄準(zhǔn)有功能的產(chǎn)品暗度陳倉，耗費(fèi)那么多人力物力只是為了幾篇論文嗎？這樣難以自圓其說，也經(jīng)不起歷史考驗(yàn)；在進(jìn)入市場后，還容易面臨產(chǎn)權(quán)糾紛。參與單位、患者可能在不知情的情況下被貢獻(xiàn)了“脫敏”數(shù)據(jù)，而事實(shí)上患者的個人信息仍可以被分析定位并用于某些產(chǎn)品營銷。

(6)要評估參與單位的資質(zhì)和條件。除了AI算法提供單位具有資質(zhì)和相應(yīng)能力外，不同醫(yī)院會有不同的信息管理平臺及軟件，統(tǒng)計(jì)基礎(chǔ)和信息質(zhì)量也存在差異，有時還可能需要進(jìn)行有關(guān)數(shù)據(jù)庫的建設(shè)才能支持AI產(chǎn)品研發(fā)。例如，在某牽頭醫(yī)院有建立AI應(yīng)用的醫(yī)療信息數(shù)據(jù)庫，但其他參與醫(yī)院不一定有，因此如何在信息數(shù)據(jù)同質(zhì)化基礎(chǔ)上，事先評估參與單位的信息管理平臺及軟件也很重要，否則統(tǒng)計(jì)基礎(chǔ)不一、數(shù)據(jù)質(zhì)量參差不齊，也難以達(dá)到研究目的。

(7)應(yīng)關(guān)注醫(yī)院信息系統(tǒng)的加密級別和信息安全管理制度。如果醫(yī)院信息系統(tǒng)本身就不安全，沒有應(yīng)有的安全級別防火墻和加密措施，醫(yī)療AI研發(fā)很可能會增加患者隱私泄露風(fēng)險(xiǎn)，甚至造成信息安全事件。多中心研究可以匯集起足夠的數(shù)據(jù)，但只要是醫(yī)療信息數(shù)據(jù)，都應(yīng)該儲存在醫(yī)院，不應(yīng)隨意被第三方軟件公司或高?？截悾蝗绻t(yī)院上傳數(shù)據(jù)到云存儲，也應(yīng)該是數(shù)據(jù)云存儲達(dá)到安全級別并簽有協(xié)議，不應(yīng)沒有數(shù)據(jù)加密或加密太簡單，更不允許隨意再次拷貝數(shù)據(jù)或與其他方共享數(shù)據(jù)等。此外，部分私立醫(yī)院也保存了很多公民健康信息數(shù)據(jù)，這些應(yīng)該符合行業(yè)標(biāo)準(zhǔn)并在衛(wèi)生健康主管部門監(jiān)管下，不能私自用于非法目的。

(8)關(guān)注個人隱私保密問題及相應(yīng)的工作措施。如果保密制度有缺陷，信息數(shù)據(jù)被左手交右手、掩耳盜鈴、偽匿名，都是對患者權(quán)益的侵犯。如果工作人員保密意識不到位，沒有做到物理隔離(內(nèi)部局域網(wǎng)和互聯(lián)網(wǎng)分開、連入互聯(lián)網(wǎng)有防火墻)、工作人員隔離(涉及患者信息數(shù)據(jù)的人員有獨(dú)立分工，一個工作人員負(fù)責(zé)脫敏，另一個工作人員負(fù)責(zé)脫敏之后的操作)，也沒有全程監(jiān)管并記錄的制度，倫理審查可以認(rèn)為不存在研究條件，不應(yīng)開展此類醫(yī)療AI研究項(xiàng)目。有時候，數(shù)據(jù)脫敏不徹底，或本身沒辦法做到脫敏(如研究方案要驗(yàn)證結(jié)果就不得不標(biāo)記個人信息)，客觀上存在個人隱私泄露的風(fēng)險(xiǎn)，對此，并非像有些人所理解離開人體的信息數(shù)據(jù)是沒有風(fēng)險(xiǎn)的，那只是對人體沒有風(fēng)險(xiǎn)，依然存在受試者人格權(quán)、財(cái)產(chǎn)權(quán)、隱私權(quán)被侵犯的風(fēng)險(xiǎn)，還可能有涉及罕見病信息的知識產(chǎn)權(quán)糾紛。如果只講采集數(shù)據(jù)，根本沒有轉(zhuǎn)移數(shù)據(jù)前如何加密的交代，也沒有銷毀數(shù)據(jù)的考慮和打算，也算是倫理審查要素不全，不能開展研究。其實(shí)，只要給AI多一點(diǎn)時間，曾經(jīng)被“脫敏”的數(shù)據(jù)還可以被計(jì)算出很多特征性的個人信息，也可以實(shí)現(xiàn)歧視性使用數(shù)據(jù)的功能。

(9)關(guān)注研究團(tuán)隊(duì)的組成及道德自律。利用他人的信息數(shù)據(jù)進(jìn)行加工分析，可能存在很多利益沖突和產(chǎn)權(quán)對應(yīng)性問題。例如，信息科工作人員發(fā)起AI研究，本身就存在知識產(chǎn)權(quán)的倫理問題。再如，研究團(tuán)隊(duì)的構(gòu)建不合理，只從數(shù)據(jù)控制權(quán)考慮，拋棄和忘卻了具有數(shù)據(jù)所有權(quán)的醫(yī)生和患者，這就類似偷盜或搶奪他人的財(cái)產(chǎn)。

(10)尊重患者、服務(wù)社會的倫理意識應(yīng)貫徹始終。實(shí)施知情同意是絕對必要的，在可能或有必要實(shí)施時偏偏不予考慮，反而申請免除個人知情同意，這是不符合倫理的。例如，前瞻性采集數(shù)據(jù)做研究時，其實(shí)有條件對受試者實(shí)施知情同意；又如，在與影像診斷AI判斷結(jié)果進(jìn)行對比時，需要根據(jù)受試者的個人信息追溯其相關(guān)病理結(jié)果，這也應(yīng)對受試者實(shí)施知情同意。當(dāng)然，這并非說知情同意才是對的，但起碼要考慮到知情同意，評估知情同意的實(shí)施和影響。畢竟有時候存在保護(hù)性告知，負(fù)面、過載的信息反而是不知情為好，否則增加受試者額外的心理壓力和精神負(fù)擔(dān)，反而更多地?fù)p害了受試者權(quán)益。

值得注意的還有，每家醫(yī)院倫理委員會只能對自己醫(yī)院的信息數(shù)據(jù)負(fù)責(zé)，如果醫(yī)院間的倫理委員會制度和標(biāo)準(zhǔn)作業(yè)程序(standard operation procedure,SOP)根本不支持倫理結(jié)果互認(rèn)，其倫理批件不能覆蓋其他醫(yī)院，就不能以一紙協(xié)議拋開或架空倫理委員會。除非依據(jù)政府法定職責(zé)所進(jìn)行的項(xiàng)目或公共衛(wèi)生應(yīng)急需要，另行依法實(shí)施。而且，風(fēng)險(xiǎn)程度較高的醫(yī)療AI研發(fā)項(xiàng)目也不能由某一家機(jī)構(gòu)倫理委員會同意后就開展，還應(yīng)該報(bào)省級以上醫(yī)學(xué)倫理專家委員會的同意后進(jìn)行，因?yàn)檫@類項(xiàng)目可能有很大社會影響，甚至影響全人類。

2.3 缺乏保護(hù)個人隱私與數(shù)據(jù)安全的措施

盡管現(xiàn)在醫(yī)療AI技術(shù)較為成熟，故障率很低，但由于AI技術(shù)的復(fù)雜性，除了極少數(shù)人能夠理解它們是如何工作的，幾乎對所有人來說都是一個“黑匣子”[2]。技術(shù)的復(fù)雜性決定了技術(shù)的不確定性，AI醫(yī)療應(yīng)用的可靠性是人們擔(dān)憂的一個重要方面，當(dāng)醫(yī)療AI帶來很多不確定因素，諸如患者信息的泄露，個人安全甚至國家安全可能受到攻擊時，人類是無法信任AI的。

醫(yī)療數(shù)據(jù)安全風(fēng)險(xiǎn)一旦發(fā)生，直接后果是引發(fā)患者安全事件，間接后果是數(shù)據(jù)泄露所致的一系列影響社會穩(wěn)定或不公平事件。如保險(xiǎn)公司有可能在掌握了個人病史的情況下，提高保險(xiǎn)費(fèi)用，引發(fā)社會不公平等問題[3]。

從近年出臺的關(guān)于AI的相關(guān)政策看，從2016年的《“互聯(lián)網(wǎng)”+人工智能三年行動實(shí)施方案》到剛頒布不久的《“健康中國2030”規(guī)劃綱要》都直接或間接地表明了發(fā)展醫(yī)療AI產(chǎn)業(yè)的支持和推動態(tài)度。但國家安全問題不容忽視，如涉及人類遺傳資源的AI技術(shù)研究，謹(jǐn)防特殊群體、特殊疾病引發(fā)的生物安全問題。應(yīng)該站在國家戰(zhàn)略高度認(rèn)識特殊領(lǐng)域的醫(yī)療AI，否則以犧牲國家安全為代價(jià)的技術(shù)發(fā)展無疑是得不償失的。

2.4 行為主體的責(zé)任認(rèn)定及追究的立法缺失

我國應(yīng)加強(qiáng)立法對醫(yī)療AI應(yīng)用的有關(guān)行為主體進(jìn)行管理。在醫(yī)療AI的設(shè)計(jì)、審查以及實(shí)施方面，既要有對項(xiàng)目的跟蹤，又要有對不同行為主體的監(jiān)督管理，包括設(shè)計(jì)人員、施工制造人員、測試人員、應(yīng)用實(shí)施人員，也包括實(shí)施的環(huán)境和條件、數(shù)據(jù)的管理和監(jiān)督、數(shù)據(jù)脫敏化的處理、加密程序以及不同加密鑰匙的管理權(quán)限。醫(yī)生對AI系統(tǒng)臨床應(yīng)用的另一個顧慮是誰對醫(yī)療AI提供的決策最終負(fù)責(zé)，如果出現(xiàn)錯誤，誰來承擔(dān)后果。當(dāng)前階段，醫(yī)療AI的最后結(jié)果仍需要人工校驗(yàn)審核，醫(yī)生承擔(dān)由此對患者診療結(jié)局的責(zé)任。未來臨床廣泛引入醫(yī)療AI后如何實(shí)現(xiàn)問責(zé)，現(xiàn)在仍不明確。當(dāng)AI應(yīng)用結(jié)果導(dǎo)致醫(yī)療糾紛、關(guān)于人的倫理或法律沖突時，能否從技術(shù)層面對AI技術(shù)開發(fā)人員或設(shè)計(jì)部門問責(zé)，并在AI應(yīng)用層面建立合理的責(zé)任和賠償體系，保障醫(yī)療AI在臨床發(fā)揮其應(yīng)有的價(jià)值[4]。

3 醫(yī)療AI設(shè)計(jì)的倫理原則

醫(yī)療AI涉及的倫理問題主體既包括技術(shù)設(shè)計(jì)者，也包括技術(shù)使用者，而當(dāng)前設(shè)計(jì)者的倫理責(zé)任顯得尤為突出。未來應(yīng)該在設(shè)計(jì)中把握好醫(yī)學(xué)倫理最基本的尊重、有利、不傷害、公正原則，這些原則看似簡單實(shí)則體現(xiàn)生命倫理的精髓。

3.1 尊重人的人格尊嚴(yán)和價(jià)值

醫(yī)療AI產(chǎn)品研發(fā)應(yīng)用的首要倫理原則應(yīng)該是尊重人的人格尊嚴(yán)和價(jià)值。這有一系列的倫理問題，例如，它是否能滿足和對應(yīng)人的需求？它應(yīng)該被使用在什么場景才不損害人的尊嚴(yán)？它與患者的關(guān)系是否屬于醫(yī)患關(guān)系？出現(xiàn)矛盾時如何解決？其中最大的難題恐怕是人與AI機(jī)器對話，對患者權(quán)利的尊重如何實(shí)現(xiàn)，道德主體如何界定等。在發(fā)生醫(yī)療AI對患者利益的侵犯和傷害時，諸如隱私權(quán)、醫(yī)療公正等，如何認(rèn)定責(zé)任。如果AI作惡或者反抗，患者權(quán)利如何保障等，這些都是需要在設(shè)計(jì)源頭考慮的問題。醫(yī)療AI設(shè)計(jì)倫理中應(yīng)該強(qiáng)調(diào)人的價(jià)值因素，而非僅僅是疾病，AI的臨床應(yīng)用應(yīng)體現(xiàn)出醫(yī)學(xué)對人的尊重，而非侵害、累及甚至奴役人。要真正貫徹尊重原則，就要深深領(lǐng)悟AI服務(wù)于人的根本宗旨，領(lǐng)悟醫(yī)療衛(wèi)生行業(yè)是為人類健康服務(wù)的信仰。尊重人的價(jià)值、人的健康權(quán)益、人的生理及心理需求等。在某些領(lǐng)域的技術(shù)開發(fā)應(yīng)該通過醫(yī)院倫理委員會審查，倫理委員會同時提供咨詢及幫助。像海豹機(jī)器人 Paro 雖然可以幫助老年人釋放壓力，但Skarkey認(rèn)為現(xiàn)有的這些替代伙伴并不能真正地緩解老年人的孤獨(dú)，對于老年人的心理健康，在很大程度上依賴于和人類的接觸，需要與照顧人員進(jìn)行交流[5]。醫(yī)療AI對醫(yī)務(wù)人員存在價(jià)值排擠，技術(shù)設(shè)計(jì)最初的出發(fā)點(diǎn)是輔助、幫助醫(yī)務(wù)人員，但有一種結(jié)果應(yīng)該料想到，那就是某種程度的替代無形中形成的排擠。醫(yī)療AI產(chǎn)品上線后，短期內(nèi)可能會迎合市場需求，緩解供需矛盾，但長期的發(fā)展可能是醫(yī)學(xué)的停滯，因?yàn)锳I缺乏自我更新發(fā)展的能力；或者AI形成了自我創(chuàng)新發(fā)展的能力，而使醫(yī)務(wù)人員的價(jià)值物化、淡化、邊緣化，這樣的情形都可能發(fā)生，而事實(shí)上醫(yī)務(wù)人員應(yīng)該是實(shí)施醫(yī)療行為的主體，患者需要的也是有真實(shí)情感和知覺的“人”。自動化技術(shù)的成本正在迅速下降，這意味著2020年價(jià)值幾百萬美元的AI產(chǎn)品到2030年可能只需幾千美元，對此要有心理準(zhǔn)備。雖然醫(yī)療行業(yè)是相對復(fù)雜的崗位，醫(yī)務(wù)人員的工作很多時候是很難替代的，但這種擔(dān)憂應(yīng)該是必要的。

3.2 有利于患者及公共健康

AI對臨床的有利應(yīng)體現(xiàn)在利他和人道方面，能增進(jìn)患者健康利益和公共健康利益。AI的醫(yī)療應(yīng)用一定是本著對人的醫(yī)療權(quán)、健康權(quán)的更好維護(hù)，公共健康利益的更好構(gòu)建。這種有利是要求AI能增進(jìn)他人的健康福利，即有利于疾病診斷、醫(yī)療救治、臨床用藥等。應(yīng)該建立、健全醫(yī)療AI設(shè)計(jì)規(guī)范，使AI發(fā)揮更大效益，推進(jìn)醫(yī)療衛(wèi)生事業(yè)發(fā)展，通過倫理審查，對設(shè)計(jì)者資質(zhì)、道德認(rèn)識、風(fēng)險(xiǎn)預(yù)測等及時把控。如果說醫(yī)療AI實(shí)現(xiàn)了對患者的護(hù)理、關(guān)懷、陪伴，長此以往對患者生活的介入對患者是一種幸福還是不幸呢？這可能會引起患者心理與情緒的許多變化，禍福相依，因此應(yīng)在實(shí)施應(yīng)用前進(jìn)行必要的評估，做出更有利于患者及公共健康的選擇，促進(jìn)未來局面的持續(xù)向好發(fā)展。醫(yī)療AI是否會帶來公眾就醫(yī)過程和成本的變化，技術(shù)的出現(xiàn)本來應(yīng)該以追求更高效、快捷的服務(wù)為目標(biāo)，但如果醫(yī)療AI增加了就醫(yī)的復(fù)雜程度和時間、費(fèi)用成本，那它也很難得到倫理辯護(hù)。

3.3 不傷害患者利益

醫(yī)療AI可能帶來的傷害就是技術(shù)引發(fā)的對患者健康利益的傷害，諸如手術(shù)機(jī)器人的誤診，技術(shù)帶來的醫(yī)療費(fèi)用的增長。醫(yī)療AI要符合臨床診療中倡導(dǎo)的傷害最小、費(fèi)用最少、療效最好。切記不能為了AI而AI，不能把醫(yī)療技術(shù)要從人類福祉出發(fā)的目的拋擲腦后。如已經(jīng)有成熟可靠的人工操作，卻要加大患者風(fēng)險(xiǎn)把簡單的手術(shù)交給機(jī)器人；或者從商家利益出發(fā)進(jìn)行臨床AI替代療法。發(fā)展AI一定是本著不傷害患者利益，更好地服務(wù)于患者的目的。在醫(yī)療AI研發(fā)或應(yīng)用環(huán)節(jié)，涉及數(shù)據(jù)訓(xùn)練和結(jié)果分析時，需進(jìn)行數(shù)據(jù)授權(quán)管理、對醫(yī)療數(shù)據(jù)涉及的關(guān)鍵隱私信息進(jìn)行脫敏和強(qiáng)加密處理[6]，以防止技術(shù)傷害。建議醫(yī)療AI的研發(fā)應(yīng)該由國家有關(guān)部門主導(dǎo)，聯(lián)合多家醫(yī)療機(jī)構(gòu)共同參與，以確保數(shù)據(jù)的可信、全面，避免重復(fù)建設(shè)及資源浪費(fèi)。在設(shè)計(jì)和算法上要科學(xué)求證、謹(jǐn)慎推進(jìn)，把技術(shù)可能帶來的負(fù)面影響盡量降到最低。醫(yī)療AI關(guān)乎健康、生命，這種系統(tǒng)錯誤的發(fā)生成本太高。因此，醫(yī)療AI設(shè)計(jì)時應(yīng)充分考慮應(yīng)用醫(yī)療AI技術(shù)的場景、情境，將可能發(fā)展的風(fēng)險(xiǎn)預(yù)先進(jìn)行評估和防范，并實(shí)現(xiàn)制定一系列事故發(fā)生后的應(yīng)急處置程序。

3.4 醫(yī)療資源分配公正

醫(yī)療AI的設(shè)計(jì)要符合醫(yī)療衛(wèi)生資源公正分配的原則，這是醫(yī)療衛(wèi)生領(lǐng)域的一個重要原則。如果設(shè)計(jì)者在道德認(rèn)識中沒有充分認(rèn)識公正原則，不僅不利于AI在醫(yī)療領(lǐng)域的長遠(yuǎn)發(fā)展，還會和公共健康利益發(fā)生沖突。AI會在機(jī)器自我學(xué)習(xí)中造成偏見，隨著算法復(fù)雜程度的日益提高，通過機(jī)器學(xué)習(xí)過程形成的決策越來越難以解釋AI內(nèi)部的代碼、算法存在的“黑箱”，導(dǎo)致無法控制和預(yù)測算法的結(jié)果，而在應(yīng)用中產(chǎn)生某種不公平傾向[4]。如普林斯頓大學(xué)的醫(yī)學(xué)人類學(xué)家Biehl[7]曾深刻指出，那些被遮蔽的無法獲得病患身份的人口才是最脆弱的，也最值得被照護(hù)。但現(xiàn)代性公共衛(wèi)生體制的諷刺之處便在于，幾乎所有疾病的診斷和治療都嚴(yán)重依賴于自愿登記的人口。不可見即不存在，在這種情況下，貧困(財(cái)力可獲得性)和信息鴻溝(信息可獲得性)等諸多因素始終會將本來就缺醫(yī)少藥的那部分人排除在醫(yī)療AI所描繪的美好藍(lán)圖之外[8]。這顯然不符合醫(yī)療資源的公正分配原則。

當(dāng)然一種新技術(shù)的出現(xiàn)難免帶來這樣那樣的問題，對現(xiàn)有的道德價(jià)值規(guī)范體系有一定沖擊，我們也不能因?yàn)榇嬖跐撛陲L(fēng)險(xiǎn)而拒絕接受，對醫(yī)療AI要在謹(jǐn)慎中推進(jìn)，力求在醫(yī)療實(shí)踐活動中發(fā)揮其價(jià)值和作用而盡量規(guī)避可能帶來的風(fēng)險(xiǎn)、矛盾。當(dāng)前對AI臨床應(yīng)用設(shè)計(jì)涉及的倫理問題更多關(guān)注的是弱AI臨床研究與應(yīng)用帶來的問題，未來隨著AI的發(fā)展，有可能出現(xiàn)的強(qiáng)AI的臨床應(yīng)用也需要學(xué)者積極思考、保持關(guān)注，這是學(xué)者對社會的責(zé)任。