王程韡

人工智能(artificial intelligence,AI)在醫(yī)療中的應(yīng)用似乎已經(jīng)成為一個(gè)世界性的趨勢(shì)。大量的研究顯示，AI在發(fā)現(xiàn)腫瘤、預(yù)測(cè)老年癡呆、監(jiān)測(cè)心率失常、評(píng)估(體外受精)胚胎質(zhì)量，以及縮短藥物研發(fā)周期等方面存在著不可比擬的優(yōu)勢(shì)[1-2]。甚至在圖像學(xué)、病理學(xué)等常規(guī)臨床場(chǎng)景以外，AI還可以提供區(qū)分長(zhǎng)期幸存者/短期幸存者預(yù)后的相關(guān)信息[3]；輔助治療毒癮、兒童孤獨(dú)譜系癥等精神疾病[4]——有人以此樂(lè)觀地認(rèn)為：作為一系列連鎖作用的結(jié)果，家長(zhǎng)式的(paternalistic)醫(yī)療模式必將逐漸被以病患為中心的醫(yī)療民主化所淘汰[5]。

與普遍的樂(lè)觀態(tài)度形成鮮明對(duì)照的是，還是有學(xué)者對(duì)AI醫(yī)療數(shù)據(jù)共享的困難、隱私泄露的可能性以及算法歧視/偏見(jiàn)等表示了謹(jǐn)慎的擔(dān)心[1，6-8]。需要承認(rèn)，醫(yī)療行業(yè)的一大不容忽視的特點(diǎn)是擁有豐富的數(shù)據(jù)集。這被看作是AI“學(xué)習(xí)”的理想條件[9]。但以數(shù)據(jù)為核心的技術(shù)實(shí)施模式也決定了，AI醫(yī)療必然會(huì)面臨數(shù)據(jù)和算法相關(guān)的一系列共性問(wèn)題。

本文試圖跳出這個(gè)以數(shù)據(jù)為核心的視角，轉(zhuǎn)而探究支撐AI與醫(yī)療相結(jié)合背后的主導(dǎo)邏輯。進(jìn)而針對(duì)中國(guó)，更有的放矢地指出這些主導(dǎo)邏輯可能導(dǎo)致AI醫(yī)療在未來(lái)發(fā)展上的風(fēng)險(xiǎn)。

1 當(dāng)醫(yī)療遇上AI

AI的存在最初只是人類(lèi)的一個(gè)美好愿景。如早在1942年，美國(guó)作家阿西莫夫(Isaac Asimov)就在其短篇小說(shuō)《環(huán)舞》(Runaround)中以“機(jī)器人三定律”的方式提出了AI的初步設(shè)想[10]。

真正將設(shè)想變?yōu)楝F(xiàn)實(shí)的，是戰(zhàn)后兩大陣營(yíng)之間的意識(shí)形態(tài)的對(duì)抗。20世紀(jì)五六十年代，蘇聯(lián)在考慮使用AI來(lái)管理宏觀經(jīng)濟(jì)的辦法。這一點(diǎn)也引起了美國(guó)人的注意?？上莻€(gè)時(shí)候的科學(xué)家至多只能拿出伊莉莎(Eliza)這樣的簡(jiǎn)單人機(jī)對(duì)話(huà)程序，兩國(guó)之間在AI上的競(jìng)賽遠(yuǎn)不如太空競(jìng)賽一樣紅火。直到AI被應(yīng)用到下棋這個(gè)場(chǎng)景下，電腦程序?qū)﹄娔X程序的棋藝競(jìng)爭(zhēng)才與此前棋手之間的對(duì)戰(zhàn)一樣，變成了冷戰(zhàn)不可或缺的組成部分[11-12]。最負(fù)盛名的首場(chǎng)電腦國(guó)際象棋比賽由《每日電訊報(bào)》舉辦，從1967年11月22日開(kāi)始，一直持續(xù)了一年。結(jié)果，使用了對(duì)所有可能策略遍歷搜索的A型算法的蘇聯(lián)人取得了勝利[13]。在美國(guó)，大量的研究經(jīng)費(fèi)涌入AI領(lǐng)域。

毫無(wú)意外，當(dāng)意識(shí)形態(tài)的對(duì)抗弱化的時(shí)候，AI的發(fā)展也一度進(jìn)入了嚴(yán)冬。1973年，石油危機(jī)的爆發(fā)迫使美蘇兩國(guó)把重心放回到經(jīng)濟(jì)上來(lái)。美國(guó)國(guó)會(huì)也隨即開(kāi)始了對(duì)AI研究經(jīng)費(fèi)上高額支出的批評(píng)。同年，英國(guó)數(shù)學(xué)家萊特希爾(James Lighthill)受英國(guó)科學(xué)研究理事會(huì)(British Science Research Council)委托，發(fā)表報(bào)告指出：AI機(jī)器在國(guó)際象棋等游戲中永遠(yuǎn)只能達(dá)到“有經(jīng)驗(yàn)的業(yè)余愛(ài)好者”的水平，而常識(shí)推理永遠(yuǎn)超出它們的能力。作為對(duì)報(bào)告的回應(yīng)，英國(guó)政府終止了除愛(ài)丁堡、蘇塞克斯和埃塞克斯三所大學(xué)外的所有大學(xué)對(duì)AI研究的支持，美國(guó)政府很快也效仿了英國(guó)的做法[10]。25年后，盡管美國(guó)IBM公司的AI計(jì)算機(jī)深藍(lán)終于打敗了俄羅斯國(guó)際象棋的世界冠軍卡斯帕羅夫(Gary Kasparov)，從而打破了萊特希爾的預(yù)言。但此后AI的發(fā)展依然不溫不火。

進(jìn)入到21世紀(jì)，依然是政治的力量讓AI重回焦點(diǎn)。美國(guó)政府從AlphaGo對(duì)戰(zhàn)圍棋職業(yè)選手的成功中看到了AI在棋藝競(jìng)賽以外的其他場(chǎng)景中應(yīng)用的希望。僅在2016年10月，美國(guó)白宮先后發(fā)布《國(guó)家人工智能研究發(fā)展戰(zhàn)略計(jì)劃》(TheNationalArtificialIntelligenceResearchandDevelopmentStrategicPlan)和《為人工智能的未來(lái)做好準(zhǔn)備》(PreparingfortheFutureofArtificialIntelligence)戰(zhàn)略報(bào)告等兩個(gè)官方文獻(xiàn)為AI技術(shù)鼓呼。尤其在戰(zhàn)略報(bào)告中，美國(guó)描畫(huà)了通過(guò)AI醫(yī)療創(chuàng)造美好生活的場(chǎng)景。

在對(duì)給定的淋巴癌細(xì)胞是否罹患癌癥的判斷中，基于AI的分析方式的錯(cuò)誤率為7.5%，人類(lèi)病理學(xué)家的錯(cuò)誤率是3.5%，人機(jī)合作的錯(cuò)誤率僅有0.5%，錯(cuò)誤率降低了85%[14]。

報(bào)告所引述的這篇文章發(fā)表在電子預(yù)印本上，當(dāng)然這本身并沒(méi)有什么問(wèn)題(盡管后來(lái)這篇文章也一直沒(méi)有正式發(fā)表)。但在報(bào)告引述的過(guò)程中，卻刻意忽略了研究本身競(jìng)賽(而非實(shí)際應(yīng)用場(chǎng)景)的本質(zhì)。而且原文中92.5%的接收者操作特征曲線(xiàn)(receiver operating characteristic curve,ROC)，也在報(bào)告中被表述成更容易理解的“錯(cuò)誤率”。相比之下，計(jì)算系統(tǒng)本身的腫瘤定位率只有70.51%的事實(shí)從未被提及[15]。而且，報(bào)告以一種極為巧妙的方式來(lái)避免“機(jī)器換人”恐慌：在這里，AI技術(shù)被表述成病理學(xué)家專(zhuān)家知識(shí)的有益補(bǔ)充；而大大降低的錯(cuò)誤率，暗示著技術(shù)真正的受益者只可能是普通民眾。為了搶占這一未來(lái)戰(zhàn)略的制高點(diǎn)，報(bào)告還明確建議“政府需審視各國(guó)AI發(fā)展情形，并對(duì)各國(guó)重要發(fā)展予以重視”[14]。結(jié)果在一種近乎新冷戰(zhàn)思維的激勵(lì)下，AI的第二春來(lái)臨了。

以數(shù)字病理學(xué)為代表的數(shù)字醫(yī)療技術(shù)的發(fā)展，卻一直在一個(gè)相對(duì)獨(dú)立的技術(shù)軌道上進(jìn)行，見(jiàn)圖1。20世紀(jì)60年代，科學(xué)家已經(jīng)開(kāi)始嘗試將顯微鏡成像的光學(xué)數(shù)據(jù)轉(zhuǎn)換成矩陣化的光密度值，并在保留空間和灰度短息的基礎(chǔ)上重建數(shù)字化圖像[16]，圖中數(shù)字醫(yī)療和人工智能技術(shù)分列橫軸的上、下方。到了20世紀(jì)90年代，受到了分析、可視化及查詢(xún)衛(wèi)星遙測(cè)獲得的基礎(chǔ)和應(yīng)用地球科學(xué)相關(guān)的超大規(guī)模數(shù)據(jù)方法的啟發(fā)，全切片成像(whole-slide images,WSI)掃描儀終于被設(shè)計(jì)出來(lái)[17]。從而，困擾了人類(lèi)許久的顯微鏡的視野與放大倍數(shù)之間的矛盾得以有效解決。后來(lái)，全切片成像掃描儀的發(fā)展一頭扎在了光學(xué)模塊的技術(shù)軌道上。從自動(dòng)顯微鏡單光軸連續(xù)掃描，到漸進(jìn)式光耦合裝置(charge coupled device,CCD)掃描系統(tǒng)，再到陣列顯微鏡，都是旨在以一種光學(xué)的手段來(lái)縮短虛擬切片時(shí)間[18]。直到AI技術(shù)的相對(duì)成熟，計(jì)算模塊(如圖像拼接和可視化)才有了進(jìn)一步提高效率的可能，AI也才具備了與醫(yī)療相結(jié)合的基本條件。

圖1 AI醫(yī)療(數(shù)字病理學(xué))發(fā)展的里程碑

盡管也被稱(chēng)作AI，AI醫(yī)療在本質(zhì)上只是數(shù)字醫(yī)療技術(shù)(諸如影像學(xué)、病理學(xué)的光學(xué)模塊所產(chǎn)生)的數(shù)據(jù)部分與20世紀(jì)80年代相繼提出的深度學(xué)習(xí)、卷積神經(jīng)網(wǎng)絡(luò)等概念和方法的簡(jiǎn)單拼接。不具備任何影像學(xué)、病理學(xué)或是其他醫(yī)療方面的知識(shí)，AI醫(yī)療依然是僅能滿(mǎn)足圖靈測(cè)試的基本要求的，“看起來(lái)像智能”的弱AI。但為了吸引眼球，AI醫(yī)療還是被籠統(tǒng)地稱(chēng)為AI，而不是更為拗口的蒙特卡洛算法或是卷積神經(jīng)網(wǎng)絡(luò)醫(yī)療。

政治推動(dòng)的一個(gè)似乎不可避免的結(jié)果是很多“技術(shù)細(xì)節(jié)”，如AI醫(yī)療的預(yù)測(cè)結(jié)果并不等同于醫(yī)學(xué)知識(shí)的事實(shí)，在政府報(bào)告或是媒體宣傳中被巧妙地隱去。取而代之的，是對(duì)其低錯(cuò)誤率的大肆宣揚(yáng)——和當(dāng)初在棋藝競(jìng)賽場(chǎng)景下對(duì)勝率的強(qiáng)調(diào)一模一樣。而且，這種低錯(cuò)誤率通常被表述成一種“不可替代但合作更優(yōu)”的敘事模式。如在德國(guó)的一項(xiàng)實(shí)驗(yàn)中，針對(duì)皮膚鏡黑瘤識(shí)別任務(wù)，包括30名專(zhuān)家在內(nèi)的58位皮膚科醫(yī)生中，大部分醫(yī)生的表現(xiàn)均優(yōu)于卷積神經(jīng)網(wǎng)絡(luò)。但是無(wú)論醫(yī)生的經(jīng)驗(yàn)如何，他們均能從AI輔助圖像分類(lèi)設(shè)備中受益[19]。

無(wú)論如何在科學(xué)與政治聯(lián)姻的技術(shù)邏輯的主導(dǎo)下，病患的聲音和訴求被無(wú)情遮蔽了。他們甚至根本就不在場(chǎng)：既有的AI醫(yī)療研究，幾乎無(wú)一例外地不報(bào)告、不討論模型的使用是否導(dǎo)致了病患照護(hù)上的有益改變[1]。通過(guò)對(duì)“客觀”的錯(cuò)誤率的強(qiáng)調(diào)，AI醫(yī)療實(shí)際上變成了沒(méi)有主體的、純數(shù)據(jù)生產(chǎn)的過(guò)程。

2 市場(chǎng)力量的加入

單純的數(shù)據(jù)生產(chǎn)并不總是一件壞事情，起碼市場(chǎng)的邏輯是這么看的。

對(duì)于市場(chǎng)邏輯而言，愿景本身就可能帶來(lái)增長(zhǎng)。特別是對(duì)于長(zhǎng)久低迷的IT市場(chǎng)而言，AlphaGo在技術(shù)上的成功和以美國(guó)政府為首的高調(diào)政治反應(yīng)，無(wú)疑為資本市場(chǎng)打了一劑強(qiáng)心針。高盛公司早在2016年發(fā)布的報(bào)告《創(chuàng)新概覽：AI、機(jī)器學(xué)習(xí)和數(shù)據(jù)驅(qū)動(dòng)未來(lái)的生產(chǎn)力》中就大膽坦言，“近年來(lái)受制于經(jīng)濟(jì)大衰退，股票市場(chǎng)和投資市場(chǎng)都不景氣”。但他們有理由相信，AI技術(shù)的成熟，無(wú)疑會(huì)引領(lǐng)如20世紀(jì)90年代一般的“技術(shù)(如半導(dǎo)體和計(jì)算機(jī))驅(qū)動(dòng)的生產(chǎn)力繁榮”[20]。于是，甚至無(wú)關(guān)于錯(cuò)誤率，一種以市場(chǎng)估值為核心的話(huà)語(yǔ)悄然興起。2020年AI市場(chǎng)規(guī)模預(yù)計(jì)達(dá)183 億美元[20]。

人類(lèi)學(xué)家早就發(fā)現(xiàn)，市場(chǎng)估值不過(guò)是華爾街所開(kāi)發(fā)出來(lái)的一套號(hào)稱(chēng)可以保證公司利潤(rùn)和個(gè)人財(cái)產(chǎn)神圣結(jié)合的金融工具(但實(shí)際上卻是金融危機(jī)的罪魁禍?zhǔn)?。不過(guò)資本市場(chǎng)卻樂(lè)此不疲。而且據(jù)說(shuō)，提高市場(chǎng)估值最好的方法，莫過(guò)于“廉價(jià)且輕松”的收購(gòu)[21]。深諳此道的高盛報(bào)告自然不會(huì)忘記特別提到。

近兩年IBM已經(jīng)花費(fèi)超過(guò)40億美金來(lái)獲得大量的醫(yī)療技術(shù)和收購(gòu)數(shù)據(jù)公司。這些收購(gòu)的結(jié)果是大量的醫(yī)療數(shù)據(jù)(IBM在其“健康云”有超過(guò)3億病患的醫(yī)療記錄)。用這些醫(yī)療數(shù)據(jù)(包括通過(guò)合伙企業(yè)所采集的其他數(shù)據(jù))和他的沃森技術(shù)相結(jié)合，IBM正在向腫瘤學(xué)、臨床試驗(yàn)、基因組等用例(場(chǎng)景)提供服務(wù)。在醫(yī)療垂直領(lǐng)域，其他的初創(chuàng)公司也正在遵循類(lèi)似的方法來(lái)解決醫(yī)療影像、藥物發(fā)現(xiàn)、診斷等方面的疑難問(wèn)題[22]。

需要承認(rèn)，面對(duì)世界主要國(guó)家人口老齡化的趨勢(shì)，醫(yī)療顯然是AI未來(lái)應(yīng)用諸多場(chǎng)景中最具發(fā)展?jié)摿Φ囊粋€(gè)。也的確早在2011年，AI的先行者IBM就將這種“新技術(shù)”應(yīng)用于美國(guó)安德森癌癥醫(yī)院進(jìn)行腫瘤循證診斷，診斷準(zhǔn)確率甚至達(dá)到了70%～80%[23]。但真正吸引創(chuàng)業(yè)者和風(fēng)險(xiǎn)投資的并不是競(jìng)爭(zhēng)，而是被IBM這樣的巨頭收購(gòu)的機(jī)會(huì)。于是，收購(gòu)金額和頻次的敘事也悄然加入。

2014年，醫(yī)療領(lǐng)域AI初創(chuàng)企業(yè)的收購(gòu)金額約為6億美元；到2021年，預(yù)計(jì)將達(dá)到66億美元，年復(fù)合增長(zhǎng)率為40%[9]。

盡管與火熱的AI醫(yī)療影像相比還略遜一籌，但據(jù)不完全統(tǒng)計(jì)，AI-數(shù)字病理的收購(gòu)在最近3年間就有33起，其中僅2019年(截至2019年11月)就有14起[24]。

那么，市場(chǎng)力量的加入，是否可以讓病患真正受益呢？原本在理論上是具備這樣的可能性的。如早就有研究發(fā)現(xiàn)，在線(xiàn)醫(yī)學(xué)咨詢(xún)和支持的網(wǎng)絡(luò)模糊了正統(tǒng)醫(yī)學(xué)知識(shí)、消費(fèi)者知識(shí)以及替代醫(yī)學(xué)知識(shí)之間的界限[25-26]。換言之，病患可以以一種市場(chǎng)環(huán)境下的消費(fèi)者身份挑戰(zhàn)醫(yī)學(xué)專(zhuān)業(yè)人士對(duì)信息和資源的控制。但很可惜，對(duì)于AI醫(yī)療而言，這種賦權(quán)方式起碼在現(xiàn)階段還無(wú)法奏效。一個(gè)重要原因便是算法知識(shí)對(duì)于有著醫(yī)學(xué)專(zhuān)業(yè)知識(shí)的醫(yī)生而言都是“黑箱化”的，更不用說(shuō)是普通公眾，真正對(duì)它們形成壟斷權(quán)的只有“電子工程界”的同仁們。而且在對(duì)AI醫(yī)療“無(wú)知”的這個(gè)問(wèn)題上，醫(yī)生和病患竟然奇跡般地站在一起了——他們也被去主體化了。

和技術(shù)邏輯一樣，市場(chǎng)邏輯也在試圖消減醫(yī)生被AI醫(yī)療“去技能化”的擔(dān)心。但并不側(cè)重在知識(shí)上的損益，市場(chǎng)邏輯的敘事通常在以一種近乎戲謔的方式在質(zhì)問(wèn)醫(yī)生：誰(shuí)愿意一天8小時(shí)都盯著顯微鏡看病理呢？在一項(xiàng)乳腺癌是否存有淋巴結(jié)轉(zhuǎn)移的檢測(cè)中，文章這樣寫(xiě)道：盡管AI還不能完全代替病理學(xué)家，但卻大大提高了診斷速度，減輕了病理學(xué)家的負(fù)擔(dān)[9]。

在病理科醫(yī)生大量匱乏的中國(guó)，更是有人呼吁：影像科和病理科醫(yī)生總共才8萬(wàn)多名，醫(yī)生數(shù)量增長(zhǎng)非常慢，而影像數(shù)據(jù)每年增長(zhǎng)率是63%左右，這一定會(huì)促使AI扮演越來(lái)越重要的角色，幫助醫(yī)生做疾病的篩查，從而降低醫(yī)生的工作量……我們電子工程界同仁發(fā)展醫(yī)療AI不僅是幫助醫(yī)生，其實(shí)也是幫助我們自己[27]。

的確，相對(duì)于人力而言，AI的優(yōu)勢(shì)在于處理更大規(guī)模的樣本。但“減輕負(fù)擔(dān)”的后果是什么，一個(gè)針對(duì)成年糖尿病患者的128 000多張視網(wǎng)膜眼底圖像的測(cè)試道出了真諦。

AI算法對(duì)糖尿病視網(wǎng)膜病變和黃斑水腫的檢測(cè)具有很高的敏感性和特異性……特別擅長(zhǎng)識(shí)別那些需要轉(zhuǎn)診到專(zhuān)業(yè)處理的高危病患，以及視網(wǎng)膜臨床表現(xiàn)為無(wú)病變或穩(wěn)定的潛在病患方面，具有高成本效益的普遍應(yīng)用優(yōu)勢(shì)[28]。

成本收益，顯然是醫(yī)院管理層(而不是醫(yī)生自身)所關(guān)心的問(wèn)題?？梢灶A(yù)想，在AI醫(yī)療技術(shù)尚不成熟的情況下，院方一般會(huì)先把專(zhuān)業(yè)醫(yī)生穩(wěn)定在各自工作崗位上，假以時(shí)日再以觀后效。但事實(shí)上2018年，美國(guó)食品藥物監(jiān)督管理局(Food and Drug Administration,FDA)已經(jīng)批準(zhǔn)了首個(gè)使用AI檢測(cè)成人糖尿病視網(wǎng)膜病變的醫(yī)療設(shè)備，見(jiàn)圖1。是否會(huì)發(fā)生“機(jī)器換人”，我們只能拭目以待。

有趣的是，在有著強(qiáng)烈的科學(xué)主義傳統(tǒng)的中國(guó)，AI醫(yī)療竟然還有著節(jié)約人力成本以外的“開(kāi)源”的功效。隨著社會(huì)達(dá)爾文主義的興起，特別是“科學(xué)的春天”以后，科學(xué)技術(shù)在中國(guó)已經(jīng)儼然成為幾乎一切社會(huì)變革的合法性依據(jù)，甚至是成為人們崇拜的新偶像，成為一種意識(shí)形態(tài)[29]。于是引入AI本身，就可以成為吸引病患前來(lái)就診的噱頭。一項(xiàng)研究就嚴(yán)厲指出了我國(guó)某三級(jí)醫(yī)院利用AI醫(yī)療販賣(mài)病患焦慮的本質(zhì)。

根據(jù)某城市某三級(jí)醫(yī)院院網(wǎng)站公開(kāi)報(bào)道，自醫(yī)院引入肺結(jié)節(jié)影像識(shí)別AI技術(shù)后，肺結(jié)節(jié)篩查人次三年中增長(zhǎng)73%，篩查直接帶來(lái)的收益增長(zhǎng)81%，加上手術(shù)治療，醫(yī)院總收益增長(zhǎng)100%。隨著效率的提升，醫(yī)院業(yè)務(wù)水平得到極大的提高。從公開(kāi)的數(shù)字看，AI給醫(yī)院帶來(lái)豐富的經(jīng)濟(jì)回報(bào)。但從所在地區(qū)的衛(wèi)生統(tǒng)計(jì)年鑒來(lái)看，所在地區(qū)的非傳染性疾病的疾病譜分布情況未發(fā)生明顯改變[7]。

總之，無(wú)論是宏觀市場(chǎng)規(guī)模、收購(gòu)金額的增長(zhǎng)，還是醫(yī)院成本收益的提升，本質(zhì)上都在強(qiáng)調(diào)和強(qiáng)化一種資源配置的市場(chǎng)效率。在這種效率之下，“客觀”的錯(cuò)誤率都無(wú)關(guān)緊要，甚至也無(wú)法通過(guò)事實(shí)證明一種解決方案，比如“先進(jìn)”的AI醫(yī)療，會(huì)優(yōu)于另外一種更為“傳統(tǒng)”(如引進(jìn)優(yōu)質(zhì)醫(yī)生資源)的解決方案。結(jié)果在主體被遮蔽的基礎(chǔ)上，AI醫(yī)療又變成了一個(gè)沒(méi)有客體的純“主觀”價(jià)值的生產(chǎn)過(guò)程。

3 被忽視的社會(huì)邏輯及其危害

不難發(fā)現(xiàn)，AI醫(yī)療的火熱離不開(kāi)政治與科學(xué)聯(lián)姻的技術(shù)邏輯，以及大衰退后亟需尋找新的經(jīng)濟(jì)增長(zhǎng)點(diǎn)的市場(chǎng)邏輯的雙重推動(dòng)。在此過(guò)程中，不是僅有外行知識(shí)的病患的真實(shí)訴求被最大程度地忽略，就連傳統(tǒng)意義上擁有專(zhuān)家知識(shí)的醫(yī)生都被排除在外。究其本質(zhì)，是因?yàn)楸静豢苫蛉钡纳鐣?huì)邏輯被無(wú)情忽略所致。大量的歷史案例證明，新技術(shù)的出現(xiàn)只能成為改變社會(huì)的一個(gè)腳本，但還是要受到社會(huì)力量的約束；以至于即便是相同或者相似的技術(shù)，也可以不同的方式被使用[30]。因此若想實(shí)現(xiàn)AI醫(yī)療在我國(guó)的良性發(fā)展，不僅要打開(kāi)技術(shù)的黑箱明確其弱AI的本質(zhì)，更要對(duì)稱(chēng)地打開(kāi)社會(huì)的黑箱。

首先，AI的確“會(huì)消滅部分舊的體力和腦力勞動(dòng)崗位，也能創(chuàng)造新的工作崗位”[20]。但也確實(shí)存在一種可能，AI和醫(yī)療的結(jié)合會(huì)以一種非預(yù)期的方式淘汰了最值得寶貴的人才。以影像學(xué)為例，影像科(放射科)醫(yī)生的數(shù)量偏低，的確是制約我國(guó)醫(yī)療事業(yè)發(fā)展的一個(gè)問(wèn)題。特別是7萬(wàn)人的隊(duì)伍，和中國(guó)龐大的人口基數(shù)極不相匹配[27]。而其中一個(gè)重要原因在于我國(guó)醫(yī)學(xué)影像學(xué)專(zhuān)業(yè)本身起步就比較晚。直到1985年前后，天津醫(yī)科大學(xué)、中國(guó)醫(yī)科大學(xué)、哈爾濱醫(yī)科大學(xué)、原泰山醫(yī)學(xué)院、原第一軍醫(yī)大學(xué)等院校才相繼開(kāi)辦了醫(yī)學(xué)影像學(xué)專(zhuān)業(yè)。醫(yī)學(xué)影像學(xué)專(zhuān)業(yè)總體以五年制本科教育為主，但也有兩年中等專(zhuān)業(yè)衛(wèi)生學(xué)校畢業(yè)的醫(yī)士，至協(xié)和醫(yī)科大學(xué)八年制博士。畢業(yè)生水平本來(lái)就參差不齊，加之“培訓(xùn)機(jī)會(huì)不均等，人才不能流動(dòng)，管理體制滯后，缺乏競(jìng)爭(zhēng)機(jī)制”，以及“專(zhuān)科醫(yī)生待遇低，甚至支撐生活都有一定困難，無(wú)法調(diào)動(dòng)培養(yǎng)的積極性”等原因，嚴(yán)重制約了醫(yī)生隊(duì)伍整體水平的提高[31]。在這種情況下，引入AI影像學(xué)的一個(gè)必然的結(jié)果，并不會(huì)像自動(dòng)血壓計(jì)的引入一樣，把臨床醫(yī)生從繁重的任務(wù)中解救出來(lái)[32]。而是在此之前，在高等教育專(zhuān)業(yè)的選擇階段，就會(huì)有越來(lái)越少的考生選擇成本收益并不高的醫(yī)學(xué)影像方向。甚至可以預(yù)期，“機(jī)器換人”和“去技能化”并不會(huì)發(fā)生在本來(lái)收入水平就很低的醫(yī)士身上。相反，是那些苦讀了五年、七年、八年的高學(xué)歷醫(yī)生，在可能成為醫(yī)生之前就被有著同樣甚至更低錯(cuò)誤率，但實(shí)際上不具備任何專(zhuān)業(yè)知識(shí)的弱AI醫(yī)療所逆向淘汰。

其次，即便不考慮技術(shù)本身所帶來(lái)的醫(yī)生隊(duì)伍的不穩(wěn)定，醫(yī)療產(chǎn)業(yè)的市場(chǎng)邏輯也決定了目前尚很昂貴的AI醫(yī)療設(shè)備必然優(yōu)先在醫(yī)療資源本來(lái)就很豐富的大型醫(yī)院集中。截至2019年11月底，我國(guó)共有醫(yī)院33 972家，其中三級(jí)醫(yī)院僅有2 681家，占7.89%[33]。然而，三級(jí)醫(yī)院就診人數(shù)卻達(dá)到17.65億人次，占全國(guó)總?cè)舜蔚?1.84%[34]。病患之所以蜂擁至北京、上海等大城市的三級(jí)醫(yī)院，主要還是看中了這些地方醫(yī)生和醫(yī)療設(shè)備的專(zhuān)業(yè)水平。AI醫(yī)療設(shè)備的引入，正如某三級(jí)醫(yī)院“肺結(jié)節(jié)影像識(shí)別AI”[7]引入后“貿(mào)然接受”的情況一樣，會(huì)進(jìn)一步加劇這種“馬太效應(yīng)”——和某些專(zhuān)家所預(yù)測(cè)的“患者及公眾對(duì)AI技術(shù)的認(rèn)知不足，信任缺失，甚至可能有負(fù)面體驗(yàn)”[35]截然相反?；鶎印翱床‰y”問(wèn)題，還是得不到有效解決。即便是基層醫(yī)院在社會(huì)資本的助推下，同樣引入了AI醫(yī)療設(shè)備，也可能由于醫(yī)生專(zhuān)業(yè)知識(shí)的不匹配，引發(fā)誤診、漏診后導(dǎo)致患者健康受損后的責(zé)任主體劃分難題[20]。

最后，“鑒于現(xiàn)有醫(yī)療條件的不平衡分配，僅少部分人能受益于AI的先進(jìn)診療技術(shù)”似乎成為了一個(gè)必然[20]。普林斯頓大學(xué)的醫(yī)學(xué)人類(lèi)學(xué)家Biehl[36]曾深刻指出，那些被遮蔽的無(wú)法獲得病患身份的人口才是最脆弱的，也最值得被照護(hù)的。但現(xiàn)代性公共衛(wèi)生體制的諷刺之處便在于，幾乎所有疾病的診斷和治療都嚴(yán)重依賴(lài)于自愿登記(self-registered)的人口。不可見(jiàn)即不存在。在這種情況下，貧困(財(cái)力可獲得性)和信息鴻溝(信息可獲得性)等諸多因素始終會(huì)將本來(lái)就缺醫(yī)少藥的那部分人排除在AI醫(yī)療所描繪的美好藍(lán)圖之外。

4 結(jié)論

技術(shù)是無(wú)法脫嵌于社會(huì)存在的，這似乎是老生常談。但事實(shí)上，AI醫(yī)療發(fā)展的現(xiàn)行邏輯卻對(duì)此構(gòu)成了挑戰(zhàn)。部分脫胎于冷戰(zhàn)競(jìng)賽，AI技術(shù)本是科學(xué)與政治聯(lián)姻而非社會(huì)需求滋生的產(chǎn)物。而幾乎同時(shí)，數(shù)字醫(yī)療技術(shù)也在截然不同的軌道上獨(dú)立發(fā)展。直到AlphaGo再次引爆人們眼球，無(wú)需對(duì)專(zhuān)業(yè)知識(shí)有任何了解的新一代的AI技術(shù)才在美國(guó)等政府的強(qiáng)力推動(dòng)下成為了開(kāi)啟未來(lái)的金鑰匙。此時(shí)在數(shù)據(jù)模塊上已經(jīng)成熟的數(shù)字醫(yī)療技術(shù)，也順理成章地與之發(fā)生了結(jié)合。但早在棋類(lèi)游戲的時(shí)代就已經(jīng)決定了，“客觀”的結(jié)果性數(shù)據(jù)是衡量AI好壞的唯一標(biāo)準(zhǔn)。AI醫(yī)療的“客觀”的錯(cuò)誤率，也毫無(wú)意外地成為了技術(shù)發(fā)展的重點(diǎn)，以至于在病患照護(hù)上是否發(fā)生了有益的改變都可有可無(wú)。

市場(chǎng)力量的加入也絲毫沒(méi)有改變這一錯(cuò)配的情況。相反，AI在醫(yī)療等領(lǐng)域的應(yīng)用被看作是重現(xiàn)20世紀(jì)90年代半導(dǎo)體、計(jì)算機(jī)技術(shù)奇跡的又一契機(jī)。以影像學(xué)、病理學(xué)為代表的AI醫(yī)療企業(yè)受到了資本市場(chǎng)的強(qiáng)烈追逐，并購(gòu)案頻頻發(fā)生，也創(chuàng)造了市場(chǎng)規(guī)模、收購(gòu)金額/頻次等新的敘事模式。在一種成本收益的考量之下，AI醫(yī)療甚至還成了醫(yī)院開(kāi)源節(jié)流的工具。但這種強(qiáng)調(diào)資源配置效率的市場(chǎng)邏輯的本質(zhì)，卻始終是沒(méi)有客觀標(biāo)準(zhǔn)可以衡量的“主觀”價(jià)值——如AI技術(shù)和宏微觀增長(zhǎng)之間的必然聯(lián)系，被夸大到了極致。

但本文卻旨在提醒讀者：一個(gè)黑箱模型得以實(shí)現(xiàn)技術(shù)和市場(chǎng)邏輯的重要前提，是將其放置在本不可或缺的社會(huì)邏輯當(dāng)中，通過(guò)人類(lèi)智慧本身的循環(huán)予以保障。為此，除了徹底地打開(kāi)我們所身處的社會(huì)的黑箱，別無(wú)他法。而不是亦步亦趨地強(qiáng)調(diào)“客觀”結(jié)果或是“主觀”價(jià)值，從而成為科學(xué)或是商業(yè)霸權(quán)體系的附庸[37]。在西方成熟的醫(yī)療體制當(dāng)中，他們可以去擔(dān)心的是AI應(yīng)用可能會(huì)危及醫(yī)生之間以及醫(yī)患之間的關(guān)鍵社交互動(dòng)，從而影響兩類(lèi)人的服務(wù)體驗(yàn)[32]。但對(duì)于專(zhuān)業(yè)醫(yī)師尚很缺乏、醫(yī)療資源分布尚不均衡、部分人口仍缺醫(yī)少藥的中國(guó)而言，在這些前提下去發(fā)展人工智能醫(yī)療，才會(huì)走出引導(dǎo)其走向真正的“善”。