王姍姍， 翟曉梅

(北京協(xié)和醫(yī)學(xué)院人文和社會科學(xué)學(xué)院，北京 100732，shanshanwang_pumc@hotmail.com)

1 人工智能的分類

智能涉及兩層含義，即智力和能力，是衡量一個人在各種環(huán)境中認識活動和進行實際活動的能力。20世紀(jì)50年代，人工智能(Artificial Intelligence, AI)的概念首先在達特茅斯會議上被提出，被定義為制造智能機器的科學(xué)，尤其是指智能計算機程序。歐盟委員會人工智能高級專家組將人工智能界定為由人類設(shè)計的，在給定某個復(fù)雜目標(biāo)的情況下，能夠在物理或數(shù)字世界中，通過感知環(huán)境、解釋收集的數(shù)據(jù)，推斷從該數(shù)據(jù)獲得的知識，并決定采取的最佳行動。它是能夠根據(jù)預(yù)先定義的參數(shù)實現(xiàn)既定目標(biāo)的系統(tǒng)[1]。簡言之，人工智能是指像人類一樣能夠理性思考和行動的智能系統(tǒng)。與人類的智能水平相比，人工智能可分為三類：①弱人工智能；②強人工智能；③超級人工智能。

目前人類社會所有應(yīng)用的人工智能均為弱人工智能技術(shù)。弱人工智能只能執(zhí)行特定任務(wù)或處理預(yù)定義問題[2]。從軍事武器到智能音箱，從蘋果智能語音助手Siri到IBM超級電腦沃森(Watson)，從谷歌的阿爾法圍棋(Alpha Go)至其2018年上線的第一個微信人工智能小程序“猜畫小歌”，都依賴弱人工智能技術(shù)。這些技術(shù)的應(yīng)用，可以降低經(jīng)濟成本，使得生產(chǎn)力大幅提高，社會資本高效運作。

人工智能技術(shù)的迭代不是線性增長，而是呈指數(shù)化爆炸性增長。弱人工智能的進階是強人工智能。強人工智能是具有全方面人類智能的人工智能[3]。一些專家相信在幾十年內(nèi)人類社會至少會部分實現(xiàn)強人工智能[4]。超級人工智能是指比人腦智能水平更高的智能。超級人工智能被定義為在所有領(lǐng)域中任何超過人類認知表現(xiàn)的智力和能力[5]。一些人對超級人工智能充滿好奇心并期待其迅速實現(xiàn)，但也有不少人對超級人工智能表示懷疑和擔(dān)憂，擔(dān)憂如果人工智能終有一天會超越人腦智能，人們甚至對此感到恐懼：超級人工智能是人類最后的發(fā)明，同時也是人類時代的終結(jié)[6]。

2 人工智能技術(shù)在醫(yī)療衛(wèi)生領(lǐng)域的應(yīng)用

人工智能以神經(jīng)科學(xué)、心理學(xué)、統(tǒng)計學(xué)、計算科學(xué)、數(shù)學(xué)、邏輯學(xué)、編程、哲學(xué)等學(xué)科為基礎(chǔ)，在很多領(lǐng)域中發(fā)揮重要作用。在醫(yī)學(xué)領(lǐng)域中，人工智能技術(shù)可應(yīng)用于健康管理、臨床決策支持、醫(yī)學(xué)影像、疾病篩查和早期疾病預(yù)測、病歷/文獻分析、醫(yī)院管理等。

醫(yī)院、患者健康管理和臨床決策支持：電子病歷語音錄入、智能導(dǎo)診分診機器人、藥物助理等方面的應(yīng)用。人工智能技術(shù)能夠?qū)﹄娮硬v和文獻進行結(jié)構(gòu)化處理，提升醫(yī)護人員檢索病案信息的效率，并從中挖掘多元數(shù)據(jù)。在醫(yī)院信息系統(tǒng)(HIS)、實驗室信息管理系統(tǒng)(LIS)、放射信息管理系統(tǒng)(RIS)、醫(yī)學(xué)影像存檔與通信系統(tǒng)(PACS)和電子病歷(EMR)等院內(nèi)系統(tǒng)中，人工智能醫(yī)學(xué)應(yīng)用可以將患者信息和病案集合處理，通過時間順序展示每位患者的門診、住院病歷信息，滿足日益升級的醫(yī)療需求，解決醫(yī)院信息互聯(lián)問題，方便醫(yī)生診治和患者就診。臨床決策支持系統(tǒng)(CDSS)為醫(yī)療衛(wèi)生專業(yè)人員提供專家支持計算機程序，它通過人機對話，根據(jù)患者數(shù)據(jù)并作出有關(guān)診斷、預(yù)防和治療的決策[7]，提高決策有效性。人工智能醫(yī)學(xué)應(yīng)用覆蓋基層醫(yī)療衛(wèi)生機構(gòu)是我國大力發(fā)展基礎(chǔ)醫(yī)療的重要手段。

醫(yī)學(xué)影像、疾病篩查和輔助早期疾病診斷：人工智能可通過分析醫(yī)學(xué)影像和醫(yī)療信息進行疾病篩查和疾病預(yù)測，輔助醫(yī)生作出診斷。在眼科，人工智能可以通過病灶篩查糖尿病視網(wǎng)膜病變；在癌癥診療中，人工智能可對乳腺癌、鼻咽癌、肝癌和肺癌進行靶區(qū)勾畫；在外科，手術(shù)導(dǎo)航系統(tǒng)可形成臟器三維成像；在病理分析中，人工智能可通過建立病理平臺進行病理和影像定量分析。

3 人工智能醫(yī)學(xué)應(yīng)用提出的倫理挑戰(zhàn)

人工智能醫(yī)學(xué)應(yīng)用使人類受益的同時，也提出了一些倫理挑戰(zhàn)。下文將從安全性問題、隱私保護、患者對人工智能技術(shù)的可及性和可負擔(dān)性以及責(zé)任劃分等四方面的問題，對我國人工智能醫(yī)學(xué)應(yīng)用提出的倫理挑戰(zhàn)進行分析和討論。

3.1 安全性風(fēng)險

人工智能的安全性(Safety)是指人工智能系統(tǒng)在運行全周期均是安全可靠的，并在適用且可行的情況下可驗證其安全性[8]。保障人類生命健康這一要求促使科學(xué)家謹(jǐn)慎地研發(fā)關(guān)乎人身安全的科學(xué)技術(shù)。成熟可靠的人工智能醫(yī)學(xué)應(yīng)用可保護和促進人類健康，但那些不成熟、不穩(wěn)定的應(yīng)用可能會損害人類健康，甚至剝奪人類的生命。

人工智能醫(yī)學(xué)應(yīng)用的安全性風(fēng)險是指人工智能在應(yīng)用時可能發(fā)生的傷害。根據(jù)所出現(xiàn)概率和后果嚴(yán)重程度，風(fēng)險可分為四類。第一類是風(fēng)險出現(xiàn)概率高和后果重大；第二類是風(fēng)險出現(xiàn)概率極低，但后果一樣重大；第三類是風(fēng)險出現(xiàn)概率高，后果輕微；第四類是風(fēng)險出現(xiàn)概率低，后果輕微?；谀壳叭斯ぶ悄芗夹g(shù)和其醫(yī)學(xué)應(yīng)用的發(fā)展情況，以第一類風(fēng)險為主。

典型的例子如IBM沃森(Watson)系統(tǒng)助力輔助診療，通過海量數(shù)據(jù)分析和數(shù)據(jù)迭代分析，實現(xiàn)疾病篩查和早期疾病預(yù)測。根據(jù)外國媒體Stat新聞報道和來自IBM公司的內(nèi)部文件顯示，與該公司沃森合作的醫(yī)學(xué)專家在使用沃森時發(fā)現(xiàn)沃森推薦了不安全的、錯誤的治療建議，這些建議來源于每類腫瘤領(lǐng)域的少量專家的建議，而不是有關(guān)的準(zhǔn)則或可靠的證據(jù)[9]。此外，正在使用沃森腫瘤解決方案的醫(yī)生們對這樣的錯誤治療建議提出了強烈的批評：一些案例已經(jīng)表明沃森經(jīng)常提出不準(zhǔn)確的醫(yī)療建議，它在給出意見的過程和底層技術(shù)上存在嚴(yán)重的安全性問題。例如，沃森提出的治療建議包括給有嚴(yán)重出血癥狀的肺癌患者使用會導(dǎo)致出血的抗癌藥物，而從醫(yī)學(xué)/醫(yī)生的判斷來看，這種用藥對患者是致命的[10]。

該案例揭示了人工智能醫(yī)學(xué)應(yīng)用可能產(chǎn)生破壞性的結(jié)果(如誤診)。誤診對于患者及其家庭、醫(yī)生、醫(yī)院和研發(fā)生產(chǎn)的公司來說，都是一件難以承受的事情。上述案例中沃森的錯誤建議源于有缺陷的計算機算法。案例強調(diào)了有缺陷的算法對患者可以造成重大傷害、導(dǎo)致醫(yī)療事故的可能性。相對于臨床醫(yī)生誤診一位患者，一個機器學(xué)習(xí)算法可能會誤診更多的患者，因此，其誘導(dǎo)的醫(yī)源性風(fēng)險出現(xiàn)的可能性更大、后果更為嚴(yán)重[11]。這也突出了人工智能醫(yī)學(xué)應(yīng)用可能會對人的生命健康帶來威脅。

我國對人工智能醫(yī)學(xué)應(yīng)用的安全性標(biāo)準(zhǔn)和風(fēng)險監(jiān)管尚處于探索階段。2014年，我國頒布了《醫(yī)療器械監(jiān)督管理條例》(簡稱《條例》)以保障醫(yī)療器械安全，保護人的生命健康。我國將醫(yī)療器械分為三類，根據(jù)不同的產(chǎn)品類型進行產(chǎn)品備案或注冊?！稐l例》還提出依法追究責(zé)任人責(zé)任并詳列罰則。違反條例的，罰款不得超過5萬元；構(gòu)成犯罪的，依法追究刑事責(zé)任；造成人身、財產(chǎn)或者其他損害的，依法承擔(dān)賠償責(zé)任。與醫(yī)療器械企業(yè)的盈利和罰金5萬元的對比，我們不難發(fā)現(xiàn)生產(chǎn)售賣未注冊或有質(zhì)量問題的醫(yī)療器械的違法成本極低。鑒于極低的違法成本，生產(chǎn)者可能生產(chǎn)不安全的醫(yī)療器械。

我國人工智能技術(shù)發(fā)展速度很快，醫(yī)學(xué)應(yīng)用產(chǎn)品層出不窮，但我國一直沒有統(tǒng)一的監(jiān)管人工智能醫(yī)學(xué)應(yīng)用的標(biāo)準(zhǔn)，我國尚沒有通過審批的人工智能醫(yī)療器械產(chǎn)品，這影響了對該技術(shù)使用的安全性風(fēng)險的把控。2017年7月，我國國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，提出促進智能醫(yī)療和智能健康的目標(biāo)。國家鼓勵推廣應(yīng)用人工智能治療新模式、新手段，建立快速精準(zhǔn)的智能醫(yī)療體系以及加強我國的群體智能健康管理。2018年11月，國家藥品監(jiān)督管理局醫(yī)療器械技術(shù)審評中心確定了3類人工智能醫(yī)療器械審批的全流程。但國家藥品監(jiān)督管理局醫(yī)療器械技術(shù)審評中心的審批流程只覆蓋3類人工智能醫(yī)療器械，尚不能覆蓋所有人工智能技術(shù)在醫(yī)學(xué)領(lǐng)域的應(yīng)用。權(quán)威管理部門出臺其他類別的人工智能醫(yī)療應(yīng)用的監(jiān)管規(guī)則，行業(yè)和公司制定有關(guān)規(guī)范都迫在眉睫。

3.2 隱私保護問題

隱私(Privacy)是一個人不容許他人隨意侵入的領(lǐng)域[12]。隱私數(shù)據(jù)在國家、企業(yè)、家庭和個人層面發(fā)揮巨大作用。我國數(shù)據(jù)主體的隱私泄露情況屢見不鮮，這侵犯了數(shù)據(jù)主體的權(quán)益。隱私主要通過以下三種方式泄露：

第一，隱私被有關(guān)人員有意泄露，這是指可以接觸到隱私的人帶有一定目的故意泄露數(shù)據(jù)主體的信息。在我國，在獲得的便利面前，用戶只能無奈地選擇或者在不知情的情況下讓渡隱私權(quán)。手機安裝各類健康軟件時，用戶不得不在冗長的用戶協(xié)議下方點擊同意，并且注冊賬號；如若不同意，便無法使用這些軟件。得到用戶的同意后，這些軟件能夠獲取數(shù)據(jù)主體的隱私信息，如姓名、電話、照片等信息。

醫(yī)療健康數(shù)據(jù)分散，但是具有巨大的研究或商業(yè)價值。有些醫(yī)療健康數(shù)據(jù)明顯與人的健康信息相關(guān)，這些數(shù)據(jù)具有敏感性和私密性，如醫(yī)療病歷記錄掌握在醫(yī)院手中，通過手機、可穿戴設(shè)備所產(chǎn)生的健康信息或數(shù)據(jù)主體自己在軟件中記錄的健康信息主要掌握在軟件公司手中。雖然有些數(shù)據(jù)雖然不明顯與健康狀態(tài)直接相關(guān)有關(guān)，但可揭示個人的健康狀況。例如社交媒體活動或互聯(lián)網(wǎng)搜索歷史可能會揭示有關(guān)數(shù)據(jù)主體或其周圍人的健康狀況[13]。

人工智能醫(yī)學(xué)應(yīng)用收集的數(shù)據(jù)在數(shù)據(jù)主體未知情的情況下可能很容易被數(shù)據(jù)收集者轉(zhuǎn)讓給其他機構(gòu)。醫(yī)療衛(wèi)生領(lǐng)域常見的隱私泄露情況是醫(yī)院員工或軟件公司員工將信息販賣給第三方。2016年，某互聯(lián)網(wǎng)企業(yè)發(fā)生“隱私泄露事件”,該企業(yè)的數(shù)據(jù)包在黑市流通，包括用戶名、密碼、郵箱、電話號碼、身份證、QQ號等信息。騙子在數(shù)據(jù)主體購物后快速電話聯(lián)系數(shù)據(jù)主體實施詐騙，給數(shù)據(jù)主體帶來了共計數(shù)百萬的損失[14]。而醫(yī)療數(shù)據(jù)具有較高價值，主要包括患者姓名、年齡、就診情況、銀行賬戶、醫(yī)保賬戶等信息。如數(shù)據(jù)主體的醫(yī)療信息被售賣，那么這些信息可能被騙子或其他醫(yī)療衛(wèi)生機構(gòu)獲取，他們可能向數(shù)據(jù)主體實施詐騙、推銷醫(yī)療產(chǎn)品或服務(wù)。

第二，隱私被有關(guān)人員無意泄露，這是指他們不帶有明確目的地泄露患者隱私。醫(yī)療衛(wèi)生領(lǐng)域中，醫(yī)生可能在無意間泄露患者隱私。公共場合討論患者信息、將患者的病案儲存在云端或公共電腦/人工智能醫(yī)學(xué)應(yīng)用中，都可能被第三方獲取，導(dǎo)致隱私泄露。

第三，隱私信息還可通過黑客攻擊的方式被泄露。黑客通過系統(tǒng)漏洞侵入電腦系統(tǒng)，盜取信息資料或破壞系統(tǒng)資料。我國的醫(yī)療衛(wèi)生機構(gòu)信息化系統(tǒng)安全水平低，存在諸多系統(tǒng)漏洞，容易遭到黑客攻擊。此外，醫(yī)療記錄并沒有加密，也使得黑客盜取醫(yī)療信息輕而易舉[15]。

隱私信息泄露會對數(shù)據(jù)主體及其家庭帶來嚴(yán)重傷害。信息泄露可能導(dǎo)致公眾對于數(shù)據(jù)主體的歧視或污名化。此外，數(shù)據(jù)的泄露可能危害到國家和社會安全。因此，保護數(shù)據(jù)主體的醫(yī)療健康隱私十分重要。國家還需盡快出臺《個人信息保護法》以保護個人隱私，防止隱私泄露。

3.3 可及性和可負擔(dān)性問題

人工智能醫(yī)學(xué)應(yīng)用的可及性(Accessibility)和可負擔(dān)性(Affordability)挑戰(zhàn)主要包括數(shù)字裂溝和資源分配兩方面：

第一，數(shù)字裂溝。數(shù)字裂溝是不同社會經(jīng)濟水平的個人、家庭、企業(yè)和地區(qū)接觸信息通信技術(shù)和利用因特網(wǎng)進行各種活動的機會而產(chǎn)生的差距[16]。數(shù)字裂溝涉及全球或各國貧富個體間、不同性別之間、不同受教育程度之間信息技術(shù)可及的不平等和不公平[17]。數(shù)字裂溝與人工智能醫(yī)學(xué)應(yīng)用關(guān)系密切。掌握人工智能醫(yī)學(xué)應(yīng)用的國家和企業(yè)的壟斷加劇資源分配不均衡，造成新的數(shù)字裂溝，這也削弱了人工智能醫(yī)學(xué)應(yīng)用的可及。在我國，各地區(qū)經(jīng)濟發(fā)展不平衡，經(jīng)濟落后地區(qū)享受到人工智能醫(yī)學(xué)應(yīng)用服務(wù)的機會相對較少，甚至無法享受到人工智能的技術(shù)紅利。

第二，醫(yī)療衛(wèi)生資源分配不公正。醫(yī)療衛(wèi)生資源分配不公正導(dǎo)致人工智能醫(yī)學(xué)應(yīng)用的可及性和可負擔(dān)性問題。醫(yī)療衛(wèi)生資源宏觀分配是指在國家能得到的全部資源中應(yīng)該把多少分配給醫(yī)療衛(wèi)生領(lǐng)域，以及分配給醫(yī)療衛(wèi)生領(lǐng)域的資源在醫(yī)療衛(wèi)生領(lǐng)域內(nèi)部應(yīng)如何分配[18]。醫(yī)療資源少的地區(qū)的基層醫(yī)療衛(wèi)生機構(gòu)的醫(yī)療儀器少、醫(yī)務(wù)從業(yè)人員數(shù)量少、專業(yè)技能低，百姓無法獲得高質(zhì)量的醫(yī)療健康服務(wù)。我國人工智能醫(yī)學(xué)應(yīng)用主要集中于大型三甲醫(yī)院，偏遠地區(qū)的患者很難有機會使用這些技術(shù)。此外，高昂的價格是制約人工智能醫(yī)學(xué)應(yīng)用可及的重要因素。達芬奇手術(shù)機器人能夠進行微創(chuàng)、更精細化、更復(fù)雜的手術(shù)。因為國家配額和機器人購買和維護的巨大花銷，所以我國只有60余臺達芬奇手術(shù)機器人。由于企業(yè)壟斷，機器人做手術(shù)的費用大大高于傳統(tǒng)手術(shù)[19]。

或許人工智能技術(shù)在醫(yī)學(xué)領(lǐng)域應(yīng)用在其發(fā)展的初始階段難以讓大多數(shù)人獲益，確保醫(yī)學(xué)人工智能應(yīng)用的可及和可負擔(dān)尚需時間，但決策者應(yīng)該考慮如何讓更多有需要的人從技術(shù)的進步中受益，如何進行成本受益分析(Cost-benefit Analysis)，比較人工智能醫(yī)學(xué)應(yīng)用和傳統(tǒng)醫(yī)療技術(shù)的成本受益比，以什么標(biāo)準(zhǔn)進行資源分配？如何權(quán)衡患者健康需求和技術(shù)成本？這些都涉及我國人工智能發(fā)展中面臨的公正性和可及性的倫理挑戰(zhàn)。

3.4 責(zé)任劃分問題

人工智能醫(yī)學(xué)應(yīng)用涉及責(zé)任劃分(Responsibility)、問責(zé)等問題，包括輔助診斷系統(tǒng)產(chǎn)生診斷失誤、手術(shù)機器人在為患者進行手術(shù)時操作錯誤等。醫(yī)療服務(wù)機器人是服務(wù)類機器人的一種，主要包括救援機器人、轉(zhuǎn)運機器人、醫(yī)院辦公機器人、護士機器人、導(dǎo)診機器人、分藥機器人、手術(shù)機器人等[19]。如果人工智能醫(yī)療服務(wù)機器人在手術(shù)過程中出現(xiàn)機器斷電、機器故障、錯誤操作等嚴(yán)重問題，可能導(dǎo)致人類受傷或死亡，這樣的后果不堪設(shè)想。因此，我們應(yīng)該根據(jù)手術(shù)的實際情況，界定利益相關(guān)者的責(zé)任，以便適當(dāng)問責(zé)和處罰。

在制度層面應(yīng)盡快建立人工智能醫(yī)學(xué)應(yīng)用的倫理管理規(guī)范和法律問責(zé)機制，以應(yīng)對其可能帶來的倫理和法律等挑戰(zhàn)。例如政策制定者、科學(xué)共同體可確定應(yīng)該委托給人工智能決策和操作的類型，并采用規(guī)則和標(biāo)準(zhǔn)，確保人們有效控制這些決策，以及如何為它們造成的損害分配法律責(zé)任。

我國人工智能醫(yī)學(xué)應(yīng)用越來越多，但是我國侵權(quán)責(zé)任法中尚無對人工智能醫(yī)學(xué)應(yīng)用的侵權(quán)責(zé)任的明確界定。決策者應(yīng)該緊跟人工智能醫(yī)學(xué)應(yīng)用的發(fā)展步伐，建立人工智能醫(yī)學(xué)應(yīng)用的問責(zé)機制，界定有關(guān)利益相關(guān)者的責(zé)任。

4 總結(jié)

人工智能的出現(xiàn)極大地改變了人類的生活方式，對人類的生命健康產(chǎn)生了深遠的影響。人工智能醫(yī)學(xué)應(yīng)用前景廣闊，可以滿足人們?nèi)找嬖鲩L的健康需求，與此同時，我們必須積極應(yīng)對人工智能醫(yī)學(xué)應(yīng)用給我們帶來的倫理挑戰(zhàn)。人類應(yīng)確保人工智能醫(yī)學(xué)應(yīng)用的安全性，尊重數(shù)據(jù)主體的自主性和充分保護個人隱私，促進技術(shù)應(yīng)用的可及性和可負擔(dān)性，并建立相應(yīng)的倫理規(guī)范與法律機制，以確保人工智能技術(shù)以符合倫理的方式應(yīng)用。