凱瑟琳·凱洛格 馬克·森達(dá)克 蘇雷什·巴盧

星期一上午10點(diǎn)。新AI（人工智能）工具開(kāi)發(fā)人員阿曼摩拳擦掌地期待著預(yù)定于當(dāng)天推出的一款新技術(shù)產(chǎn)品。此前，杜克大學(xué)醫(yī)院（Duke University Hospital）ICU（重癥監(jiān)護(hù)部門）主管請(qǐng)求阿曼和他的同事們開(kāi)發(fā)一款A(yù)I工具，以防止ICU人滿為患的狀況。研究表明，特定類型的心臟病患者無(wú)須入住ICU病房，因此ICU部門領(lǐng)導(dǎo)希望借助AI工具幫助急診醫(yī)生識(shí)別這部分患者，并將其轉(zhuǎn)到非重癥診療部門。這樣既能提高對(duì)患者的照護(hù)質(zhì)量，又能降低非必要成本。

阿曼和他的團(tuán)隊(duì)（由心臟病專家、數(shù)據(jù)科學(xué)家、計(jì)算機(jī)科學(xué)家和項(xiàng)目經(jīng)理共同組成）開(kāi)發(fā)出一款A(yù)I工具，讓臨床醫(yī)生可以輕松識(shí)別這部分患者。該工具還在患者的電子病歷中插入話語(yǔ)，解釋他們?yōu)楹螣o(wú)須轉(zhuǎn)入ICU。經(jīng)過(guò)一年的努力，這款A(yù)I工具的研發(fā)終于大功告成，準(zhǔn)備投入使用。

時(shí)間快進(jìn)三周。該工具的啟動(dòng)失敗。一位急診醫(yī)生評(píng)論說(shuō)：“我們不需要什么工具來(lái)告訴我們?cè)趺醋鲎约旱墓ぷ??！边@是一線員工對(duì)引入AI決策支持工具的典型反應(yīng)。在快節(jié)奏的急診室環(huán)境中，忙忙碌碌的臨床醫(yī)生們很排斥在常規(guī)工作流程之外還需承擔(dān)向系統(tǒng)輸入數(shù)據(jù)的額外工作，他們十分反感對(duì)急診操作知之甚少的外人侵入自身專業(yè)領(lǐng)域。

類似的AI落地失敗的劇情也在其他領(lǐng)域上演。盡管這些新的工作方式可以幫助組織提高產(chǎn)品和服務(wù)質(zhì)量、降低成本并增加收入，但終端用戶經(jīng)常拒絕采用AI工具來(lái)指導(dǎo)決策，因?yàn)樗麄冋J(rèn)為自己從中得不到什么好處，新工具可能意味著額外的工作量，并且導(dǎo)致他們失去自主權(quán)。

目標(biāo)終端用戶與高管或其他部門利益相關(guān)者之間在技術(shù)實(shí)施方面存在利益沖突并非新鮮事。但在AI工具時(shí)代，這個(gè)問(wèn)題變得越發(fā)尖銳，因?yàn)锳I工具具有預(yù)測(cè)性、指令性，而且其開(kāi)發(fā)過(guò)程需要在開(kāi)發(fā)人員和終端用戶之間來(lái)來(lái)回回進(jìn)行多番費(fèi)力的交流。

那么，AI項(xiàng)目負(fù)責(zé)人該如何提高終端用戶對(duì)AI工具的接受度和使用率呢？過(guò)去五年間，我們?cè)诙趴私】祫?chuàng)新研究所對(duì)15種AI決策支持工具的設(shè)計(jì)、開(kāi)發(fā)和集成進(jìn)行了密切觀察，提出了一套平衡利益相關(guān)者利益的最佳實(shí)踐。我們發(fā)現(xiàn)，為了提高終端用戶接受度和AI決策工具的使用率，組織和AI項(xiàng)目負(fù)責(zé)人需要增加AI工具使用的相關(guān)利益，減少AI工具開(kāi)發(fā)的工作量，并通過(guò)保障終端用戶的核心工作來(lái)確保他們的自主權(quán)。

針對(duì)AI工具的實(shí)施給醫(yī)院管理方、終端用戶和工具開(kāi)發(fā)人員帶來(lái)的挑戰(zhàn)，我們收集了大量數(shù)據(jù)，特別關(guān)注那些已經(jīng)成功實(shí)施的決策支持工具。雖然本研究的重點(diǎn)是醫(yī)療領(lǐng)域AI決策支持工具的落地實(shí)施，但我們發(fā)現(xiàn)，研究中發(fā)現(xiàn)的問(wèn)題和動(dòng)態(tài)也存在于其他環(huán)境中，如技術(shù)、制造、保險(xiǎn)、電信和零售等領(lǐng)域。

終端用戶抵制的根源

AI項(xiàng)目團(tuán)隊(duì)希望實(shí)施的內(nèi)容與終端用戶愿意采用的內(nèi)容發(fā)生脫節(jié)，主要源自三大利益沖突。

1.預(yù)測(cè)性AI工具的最大受益者往往是組織而非終端用戶。AI工具提供的預(yù)測(cè)能讓組織更早地對(duì)其價(jià)值鏈進(jìn)行干預(yù)，組織和下游利益相關(guān)者都有可能借此提高質(zhì)量、壓低成本。然而，目標(biāo)終端用戶通常沒(méi)有直接的好處，就如上面的案例，急診醫(yī)生被要求使用一種能為ICU臨床醫(yī)生帶來(lái)好處的AI工具。

一家在線零售商也面臨著類似的情況：他們開(kāi)發(fā)了一款A(yù)I工具，參照既往在組織中取得成功的員工畫(huà)像，將個(gè)人簡(jiǎn)歷與之匹配的主動(dòng)求職者標(biāo)記出來(lái)。該工具的目標(biāo)終端用戶是HR部門的人才搜尋官，他們過(guò)去經(jīng)常忽略這些主動(dòng)求職者，而更傾向于通過(guò)LinkedIn等社交平臺(tái)進(jìn)行搜索，因?yàn)樗麄冊(cè)噲D吸引大量擁有稀缺技能的求職者，而主動(dòng)求職者群體中很少有人具備所要求的技能。不過(guò)，與其他渠道搜尋到的候選人相比，主動(dòng)求職者更有可能接受工作邀約，因此這款工具將使整個(gè)組織受益，也能讓處于人才搜尋環(huán)節(jié)下游的HR面試官受益。

2. AI工具可能需要終端用戶付出額外勞動(dòng)，而他們并非工具的主要受益者。AI工具的開(kāi)發(fā)需要在開(kāi)發(fā)人員和終端用戶之間來(lái)來(lái)回回進(jìn)行多番費(fèi)力的交流。長(zhǎng)期以來(lái)，技術(shù)開(kāi)發(fā)人員一直從事以用戶為中心的設(shè)計(jì)，使用任務(wù)分析、觀察及用戶測(cè)試等多種手段來(lái)整合終端用戶的需求，但AI工具需要終端用戶更深度的參與。

由于構(gòu)建AI工具需要大量高質(zhì)量數(shù)據(jù)，因此開(kāi)發(fā)人員依賴終端用戶來(lái)識(shí)別和協(xié)調(diào)跨組的數(shù)據(jù)差異，并統(tǒng)一報(bào)告方法。開(kāi)發(fā)人員還依賴終端用戶在流程的每一步界定、評(píng)估和補(bǔ)充機(jī)器輸入和輸出，并驗(yàn)證指導(dǎo)終端用戶決策的假設(shè)。

如果AI工具的主要受益者為下游利益相關(guān)者或高管，那么終端用戶可能沒(méi)有動(dòng)力配合開(kāi)發(fā)人員進(jìn)行這種費(fèi)力的來(lái)回交流。例如，急診醫(yī)生沒(méi)有興趣花費(fèi)時(shí)間和精力去開(kāi)發(fā)用于識(shí)別低風(fēng)險(xiǎn)心臟病的工具。

牛津大學(xué)（Oxford University）的研究人員在一家電信公司發(fā)現(xiàn)了類似問(wèn)題：該公司開(kāi)發(fā)了一款A(yù)I工具，旨在幫助銷售人員識(shí)別高價(jià)值客戶。雖然高管層有興趣為銷售人員提供一雙AI技術(shù)的“慧眼”，但銷售人員本身更重視維持一種個(gè)人之間的、相互信賴的客戶關(guān)系，運(yùn)用自己的直覺(jué)來(lái)發(fā)現(xiàn)銷售機(jī)會(huì)。他們沒(méi)興趣參與一個(gè)費(fèi)力的流程，來(lái)設(shè)計(jì)、開(kāi)發(fā)和集成一種他們認(rèn)為不會(huì)給自己帶來(lái)好處的工具。

3.指令性AI工具往往會(huì)削弱終端用戶的自主權(quán)。AI決策支持工具本質(zhì)上是指令性的，它們向終端用戶提出某種行動(dòng)建議，比如將患者轉(zhuǎn)至ICU。AI工具提供的指令使得內(nèi)部第三方利益相關(guān)者（如組織的管理者或不同部門的利益相關(guān)者）能夠看到目標(biāo)終端用戶的決策，甚至在一定程度上控制他們的決策。內(nèi)部利益相關(guān)者（如高管）以前只能制定行動(dòng)條款，終端用戶將根據(jù)自己對(duì)具體個(gè)案的判斷來(lái)解釋和應(yīng)用這些條款。AI工具現(xiàn)在可以告知這些判斷，提供相應(yīng)建議，并跟蹤終端用戶是否接受了建議，因此它們有可能侵犯終端用戶的自主權(quán)。

例如，杜克大學(xué)醫(yī)院一旦采用了用于識(shí)別低風(fēng)險(xiǎn)心臟病的AI工具，當(dāng)急診醫(yī)生選擇讓心臟病患者進(jìn)入ICU時(shí)，醫(yī)院高管和ICU臨床醫(yī)生就能看到AI工具的建議，以及急診醫(yī)生是否遵循了該建議。急診醫(yī)生不喜歡旁人在沒(méi)看到病人的情況下，闖進(jìn)他們的領(lǐng)域指手劃腳參與意見(jiàn)，并試圖控制他們的決定。

一項(xiàng)在零售領(lǐng)域采用AI工具的研究發(fā)現(xiàn)了類似的情況。斯坦福大學(xué)（Stanford）的研究人員考察了一款為時(shí)尚買手設(shè)計(jì)的算法決策支持工具的實(shí)施過(guò)程。這些買手歷來(lái)憑借自己對(duì)時(shí)尚趨勢(shì)的經(jīng)驗(yàn)和直覺(jué)預(yù)測(cè)未來(lái)需求，做出進(jìn)貨決策。例如，負(fù)責(zé)采購(gòu)男士牛仔褲的買手們必須就款式（緊身、喇叭褲、直筒）和牛仔布顏色（淺色、中色、深色）做出選擇。買手們擁有相當(dāng)大的自主權(quán)，很不習(xí)慣將自己直覺(jué)判斷的結(jié)果進(jìn)行明確建模和評(píng)估。

鼓勵(lì)一線接受AI

我們發(fā)現(xiàn)，為了克服上述阻礙，促進(jìn)AI工具的順利實(shí)施，項(xiàng)目負(fù)責(zé)人需要解決終端用戶與組織價(jià)值獲取的不平衡問(wèn)題。在實(shí)踐中，這意味著增加與AI工具使用相關(guān)的終端用戶利益，減少AI工具開(kāi)發(fā)的工作量，并通過(guò)保障終端用戶的核心工作來(lái)確保他們的自主權(quán)。（參見(jiàn)副欄“克服一線用戶對(duì)AI落地的抵制”）

1.增加終端用戶的利益

如果終端用戶認(rèn)為自己能明顯受益于某種AI工具，他們就更有可能采用它。AI項(xiàng)目負(fù)責(zé)人可以運(yùn)用以下幾種策略來(lái)實(shí)現(xiàn)這一目標(biāo)。

識(shí)別終端用戶的痛點(diǎn) 雖然AI工具開(kāi)發(fā)人員要時(shí)刻牢記組織目標(biāo)，但他們也需要關(guān)注工具如何幫助目標(biāo)終端用戶解決日常工作中面臨的問(wèn)題，或適應(yīng)該工具的使用所帶來(lái)的新的工作負(fù)荷。例如，杜克大學(xué)醫(yī)院的心臟病專家要求項(xiàng)目團(tuán)隊(duì)創(chuàng)建一款A(yù)I工具來(lái)檢測(cè)低風(fēng)險(xiǎn)肺栓塞患者，以便將此類患者安排到門診治療，而不要留在成本高昂的住院部治療。項(xiàng)目團(tuán)隊(duì)接到請(qǐng)求后，立即聯(lián)系了該工具未來(lái)的終端用戶——急診醫(yī)生。項(xiàng)目團(tuán)隊(duì)成員了解到，急診醫(yī)生的痛點(diǎn)是，如何迅速為低風(fēng)險(xiǎn)肺栓塞患者做好出院準(zhǔn)備，并確保他們獲得所需的門診治療。

前文提到的那個(gè)試圖利用AI工具篩選主動(dòng)求職者的項(xiàng)目負(fù)責(zé)人也采用了同樣的策略來(lái)識(shí)別HR部門人才搜尋官的痛點(diǎn)。開(kāi)發(fā)人員了解到，人才搜尋官經(jīng)常無(wú)法盡可能快地為候選人安排面試，原因是下游面試官?zèng)]有足夠的處理能力。

顯然，AI項(xiàng)目負(fù)責(zé)人應(yīng)當(dāng)重點(diǎn)關(guān)注工具如何幫助目標(biāo)終端用戶解決日常工作中面臨的問(wèn)題。那么他們?yōu)楹谓?jīng)常做不到呢？原因就在于，最先來(lái)接觸他們、為AI工具開(kāi)發(fā)提供資源的人，通常是從工具中獲得最大收益的高管或下游利益相關(guān)者。結(jié)果項(xiàng)目負(fù)責(zé)人往往把這些人看作主要客戶，而忽略了吸引目標(biāo)終端用戶參與的必要性。

制定干預(yù)措施解決終端用戶的問(wèn)題 在杜克大學(xué)醫(yī)院引入肺栓塞識(shí)別工具，可能會(huì)加劇急診醫(yī)生面臨的問(wèn)題，即沒(méi)有一種簡(jiǎn)單的方法來(lái)確保低風(fēng)險(xiǎn)肺栓塞患者一經(jīng)識(shí)別，即可輕松穩(wěn)妥地為他們安排好后續(xù)門診治療。項(xiàng)目團(tuán)隊(duì)了解到這一點(diǎn)之后，就開(kāi)始全力解決如何使急診醫(yī)生輕松地為這類患者安排后續(xù)診療的問(wèn)題。

同樣，HR篩選工具的開(kāi)發(fā)人員注意到，HR人才搜尋官難以為AI工具標(biāo)記出的候選人適時(shí)安排面試，于是他們便開(kāi)始考慮如何增加HR面試官的“帶寬”，最終建議聘請(qǐng)專業(yè)人士進(jìn)行面試前篩選服務(wù)，以減少當(dāng)前HR面試官的工作負(fù)荷。

強(qiáng)化終端用戶激勵(lì)，以實(shí)現(xiàn)AI工具意在改進(jìn)的結(jié)果 組織通常不會(huì)對(duì)終端用戶使用AI工具指導(dǎo)決策后的改進(jìn)結(jié)果進(jìn)行評(píng)估和獎(jiǎng)勵(lì)。例如，杜克大學(xué)醫(yī)院對(duì)急診醫(yī)生的評(píng)估標(biāo)準(zhǔn)是他們識(shí)別和治療急性常見(jiàn)病的能力，而不是他們識(shí)別、治療低風(fēng)險(xiǎn)肺栓塞等罕見(jiàn)病的能力。AI項(xiàng)目團(tuán)隊(duì)與醫(yī)院領(lǐng)導(dǎo)一起修改了激勵(lì)制度，在急診醫(yī)生的評(píng)估標(biāo)準(zhǔn)中加入了一項(xiàng)“識(shí)別和分類低風(fēng)險(xiǎn)肺栓塞患者的能力”。

與此類似，前文案例中希望引入HR篩選工具的高管意識(shí)到，他們需要改變對(duì)終端用戶的激勵(lì)措施，以實(shí)現(xiàn)AI工具意在改進(jìn)的結(jié)果。當(dāng)HR工作人員使用AI工具時(shí)，如果僅根據(jù)傳統(tǒng)績(jī)效指標(biāo)（如搜尋到的擁有稀缺技能的候選人總數(shù)）對(duì)他們進(jìn)行評(píng)估，可能顯得他們的工作效率低下。高管層認(rèn)識(shí)到，需要調(diào)整對(duì)他們的評(píng)估和激勵(lì)措施，使得員工不僅有動(dòng)力去尋找大量擁有稀缺技能的候選人，而且會(huì)更積極地尋找大量能最終接受工作邀約的候選人。

當(dāng)然，AI項(xiàng)目負(fù)責(zé)人無(wú)法輕而易舉地增加對(duì)終端用戶的激勵(lì)。這是因?yàn)?，從AI工具中獲得最大收益的利益相關(guān)者通常不是管理目標(biāo)終端用戶績(jī)效和薪酬的人。AI項(xiàng)目負(fù)責(zé)人通常需要獲得高管的支持，以幫助修改這些激勵(lì)措施。

2.減少終端用戶的工作量

AI開(kāi)發(fā)團(tuán)隊(duì)可以通過(guò)多種方式最大限度地降低向終端用戶求助的程度。

在工具設(shè)計(jì)環(huán)節(jié)，盡量減少與構(gòu)建數(shù)據(jù)集有關(guān)的終端用戶工作量 用來(lái)訓(xùn)練AI工具的數(shù)據(jù)必須能夠代表目標(biāo)人群。這需要大量的訓(xùn)練數(shù)據(jù)，但匯集這些數(shù)據(jù)并協(xié)調(diào)數(shù)據(jù)集之間的差異非常耗時(shí)。AI項(xiàng)目負(fù)責(zé)人可以引入第三方利益相關(guān)者參與數(shù)據(jù)構(gòu)建，從而最大限度地減少與此類工作相關(guān)的終端用戶工作量。例如，杜克大學(xué)項(xiàng)目團(tuán)隊(duì)曾開(kāi)發(fā)了一款A(yù)I工具，以便更早地檢測(cè)出晚期慢性腎病高風(fēng)險(xiǎn)患者。該工具所需的數(shù)據(jù)分別提取自電子病歷和索賠數(shù)據(jù)，并且兩個(gè)數(shù)據(jù)源彼此不一致。項(xiàng)目團(tuán)隊(duì)沒(méi)有麻煩該工具的目標(biāo)終端用戶（首診醫(yī)生）來(lái)承擔(dān)數(shù)據(jù)清洗任務(wù)，而是在該工具的主要受益者即腎科醫(yī)生的幫助下驗(yàn)證數(shù)據(jù)，并完成異源數(shù)據(jù)之間的標(biāo)準(zhǔn)化。

AI項(xiàng)目負(fù)責(zé)人也可以先選取一個(gè)足夠好的AI工具，使用當(dāng)前可用的、規(guī)模相對(duì)較小的數(shù)據(jù)集對(duì)其進(jìn)行訓(xùn)練。例如，一個(gè)AI項(xiàng)目負(fù)責(zé)人要開(kāi)發(fā)一種工具來(lái)幫助某制造企業(yè)的銷售人員識(shí)別潛在高價(jià)值客戶，他希望在匯集相關(guān)數(shù)據(jù)集環(huán)節(jié)盡可能地減少終端用戶的勞動(dòng)。AI團(tuán)隊(duì)并沒(méi)有要求銷售人員花時(shí)間完善銷售流程中各個(gè)里程碑的日志數(shù)據(jù)（諸如潛在客戶、合格潛在客戶和演示數(shù)據(jù)），而是先構(gòu)建了一個(gè)系統(tǒng)，其模型足夠好用，只需要較少的訓(xùn)練數(shù)據(jù)，因此銷售人員需要準(zhǔn)備的數(shù)據(jù)就比較少。

在工具開(kāi)發(fā)環(huán)節(jié)，盡量減少與測(cè)試和驗(yàn)證相關(guān)的終端用戶工作量 一旦構(gòu)建起AI工具的雛形，開(kāi)發(fā)團(tuán)隊(duì)需要與終端用戶進(jìn)行耗時(shí)的來(lái)回溝通，以幫助測(cè)試和驗(yàn)證AI工具的預(yù)測(cè)效果，并調(diào)整工具，提高其實(shí)際效用。通過(guò)引入第三方利益相關(guān)者參與審核，可以最大限度地減少這一環(huán)節(jié)的工作量。例如，某項(xiàng)目團(tuán)隊(duì)正在為一家制造企業(yè)開(kāi)發(fā)一款識(shí)別最佳銷售線索的AI工具，該團(tuán)隊(duì)邀請(qǐng)了流程改進(jìn)團(tuán)隊(duì)的負(fù)責(zé)人而不是銷售人員來(lái)對(duì)工具進(jìn)行初步評(píng)估。流程改進(jìn)團(tuán)隊(duì)負(fù)責(zé)人幫助他們確定了客戶轉(zhuǎn)化率的成功指標(biāo)。所謂客戶轉(zhuǎn)化率是指潛在客戶后續(xù)轉(zhuǎn)化成實(shí)際客戶的百分比。他還幫助他們對(duì)該工具識(shí)別的銷售線索與常規(guī)銷售流程中識(shí)別的銷售線索進(jìn)行了A/B測(cè)試，對(duì)比了兩者的轉(zhuǎn)化率。

AI項(xiàng)目負(fù)責(zé)人往往可以做更多事情來(lái)幫助終端用戶更輕松地評(píng)估模型。例如，杜克大學(xué)研發(fā)慢性腎病高風(fēng)險(xiǎn)患者檢測(cè)工具的項(xiàng)目團(tuán)隊(duì)發(fā)現(xiàn)，終端用戶很難確定將患者劃入高風(fēng)險(xiǎn)范疇的風(fēng)險(xiǎn)評(píng)分閾值。項(xiàng)目團(tuán)隊(duì)成員使用交互式圖表幫助他們查看特定分值的患者最終發(fā)展為慢性腎病的百分比，從而使終端用戶更容易設(shè)置區(qū)分高風(fēng)險(xiǎn)和中風(fēng)險(xiǎn)患者的閾值。

在工具集成環(huán)節(jié)，盡量減少與工具使用相關(guān)的終端用戶工作量 注意簡(jiǎn)化用戶界面和自動(dòng)化相關(guān)流程，有助于減少用戶內(nèi)心對(duì)于AI工具給他們?cè)鎏砹祟~外工作負(fù)擔(dān)的感覺(jué)。這里有一條經(jīng)驗(yàn)法則：永遠(yuǎn)別要求用戶輸入系統(tǒng)可以自動(dòng)檢索的數(shù)據(jù)。如果可以實(shí)際預(yù)測(cè)用戶想要的是什么并且預(yù)備好界面讓他們使用，那就更理想了。

另一個(gè)例子來(lái)自阿姆斯特丹自由大學(xué)（Vrije Universiteit）Kin數(shù)字創(chuàng)新中心，他們正在開(kāi)發(fā)一款用于篩選應(yīng)聘者的AI工具。開(kāi)發(fā)人員首先通過(guò)顏色編碼，顯示某候選人與以往取得成功的員工畫(huà)像的匹配度，使該工具更方便消費(fèi)品公司的HR招聘官使用：將匹配度達(dá)到72%及以上的候選人標(biāo)記為綠色，未達(dá)到這一標(biāo)準(zhǔn)者標(biāo)記為橙色。最后，開(kāi)發(fā)人員將該流程進(jìn)一步自動(dòng)化，使招聘官可以單擊一個(gè)按鈕，命令A(yù)I工具自動(dòng)過(guò)濾掉所有預(yù)測(cè)成功率較低的候選人。

另一個(gè)策略是重新分配使用工具所需的一些額外工作。例如，杜克大學(xué)醫(yī)院的急診醫(yī)生們（慢性腎病AI工具的目標(biāo)終端用戶）備受“警報(bào)疲勞”之苦，因?yàn)樗麄冞€會(huì)收到其他多種自動(dòng)臨床決策支持工具發(fā)出的警報(bào)。杜克大學(xué)AI項(xiàng)目負(fù)責(zé)人決定創(chuàng)建新的臨床崗位，指派這個(gè)人使用AI工具遠(yuǎn)程監(jiān)控杜克大學(xué)醫(yī)院所有首診醫(yī)生主管的患者——總計(jì)有5萬(wàn)多名成年人。當(dāng)AI工具將某位患者標(biāo)記為慢性腎病高風(fēng)險(xiǎn)時(shí)，負(fù)責(zé)遠(yuǎn)程監(jiān)控的臨床醫(yī)生會(huì)通過(guò)圖表審查對(duì)警報(bào)進(jìn)行預(yù)篩，如果判定該患者確實(shí)存在慢性腎病高風(fēng)險(xiǎn)，就向首診醫(yī)生發(fā)送信息。當(dāng)首診醫(yī)生收到此消息，而且同意該患者可能存在慢性腎病高風(fēng)險(xiǎn)，就會(huì)將其轉(zhuǎn)給腎病專家診治。

3.保護(hù)終端用戶自主權(quán)

人類向來(lái)珍視自主權(quán)，并從自身積累的工作把控能力和知識(shí)中獲得自尊。因此，當(dāng)AI工具允許來(lái)自領(lǐng)域之外的利益相關(guān)者影響他們的決策時(shí)，用戶自然會(huì)感到不安。成功的AI實(shí)施需要敏銳感知它可能對(duì)終端用戶與其工作的關(guān)系產(chǎn)生怎樣的影響。開(kāi)發(fā)人員可以通過(guò)以下一些方式來(lái)處理這方面的問(wèn)題。

保護(hù)終端用戶視為工作核心的任務(wù) 敗血癥是一種引發(fā)全身炎性反應(yīng)、最終導(dǎo)致器官功能衰竭的感染，杜克大學(xué)項(xiàng)目團(tuán)隊(duì)開(kāi)發(fā)了一款幫助檢測(cè)和管理敗血癥治療的AI工具，卻遭到目標(biāo)終端用戶——急診醫(yī)生——的合力抵制。醫(yī)生們希望繼續(xù)把控關(guān)鍵任務(wù)，比如對(duì)患者做出診斷的最終話語(yǔ)權(quán)、開(kāi)具藥物和血液檢查的處方權(quán)等。項(xiàng)目團(tuán)隊(duì)調(diào)整了AI工具的設(shè)置，使其做出的預(yù)測(cè)不致影響上述關(guān)鍵任務(wù)，但能切實(shí)幫助急診醫(yī)生們完成一些不被他們特別看重的重要任務(wù)。

在前文介紹的時(shí)尚買手的案例中，AI工具開(kāi)發(fā)人員了解到，買手們希望繼續(xù)把控他們認(rèn)為有創(chuàng)造性或戰(zhàn)略意義的任務(wù)，比如，決定喇叭褲或紅色牛仔布在牛仔服飾采購(gòu)總量中所占的百分比。項(xiàng)目團(tuán)隊(duì)調(diào)整了AI工具的設(shè)置，使之符合時(shí)尚買手的期望：如果買手的意愿是購(gòu)入紅色牛仔布，他可以將此作為一個(gè)輸入項(xiàng)添加到AI工具的建議清單中，系統(tǒng)就會(huì)最先填寫(xiě)紅色牛仔布訂單。

項(xiàng)目團(tuán)隊(duì)開(kāi)發(fā)的AI工具應(yīng)避免影響終端用戶視為工作核心的任務(wù)，這似乎是不言而喻的常識(shí)，但AI項(xiàng)目負(fù)責(zé)人有可能落入這個(gè)陷阱，因?yàn)閷?duì)核心任務(wù)的干預(yù)通常有望帶來(lái)更大收益。例如，AI項(xiàng)目團(tuán)隊(duì)最初為某零售組織構(gòu)建了一款A(yù)I工具，用于指導(dǎo)時(shí)尚買手的決策。在這個(gè)經(jīng)營(yíng)環(huán)節(jié)上的決策失誤將導(dǎo)致兩種不良后果：一是采購(gòu)囤儲(chǔ)的貨品不符合市場(chǎng)需求，以致喪失收入機(jī)會(huì)；二是由于采購(gòu)了錯(cuò)誤的產(chǎn)品，隨后不得不降價(jià)銷售，造成毛利率損失?？墒牵捎谫I手們排斥這一工具，開(kāi)發(fā)人員只好轉(zhuǎn)而從流程的另一端想辦法，他們開(kāi)發(fā)了一款工具，幫助商家決定何時(shí)對(duì)滯銷服裝降價(jià)出售，同時(shí)確定降價(jià)幅度。

這款工具最終實(shí)現(xiàn)的價(jià)值獲取比原定方案少得多，因?yàn)樗魂P(guān)注零售流程的終末階段。然而，聰明的AI項(xiàng)目負(fù)責(zé)人已經(jīng)懂得，AI工具只要能落地實(shí)施，哪怕只干預(yù)一組有限的任務(wù)，也比理論上能提供更多價(jià)值卻始終不能落地的干預(yù)終端用戶核心任務(wù)的工具更有效。

允許終端用戶幫助評(píng)估AI工具 引入新的AI決策支持工具，往往需要將目標(biāo)終端用戶接納的舊工具替換為可能會(huì)削弱終端用戶自主權(quán)的新工具。例如，用于敗血癥檢測(cè)的AI工具威脅到急診醫(yī)生的自主權(quán)，而當(dāng)前基于規(guī)則的敗血癥檢測(cè)工具則沒(méi)有這個(gè)問(wèn)題。為了保護(hù)終端用戶自主權(quán)，項(xiàng)目團(tuán)隊(duì)邀請(qǐng)了當(dāng)前所用工具的主要開(kāi)發(fā)人員，請(qǐng)求他們幫助設(shè)計(jì)一個(gè)測(cè)試新工具有效性的實(shí)驗(yàn)。

哈佛商學(xué)院（Harvard Business School）的研究人員在對(duì)一家零售組織的研究中發(fā)現(xiàn)了類似的情況：該零售組織開(kāi)發(fā)了一款A(yù)I工具，旨在幫助時(shí)尚品調(diào)撥人員決定將各種碼號(hào)和款式的鞋子分配給哪些門店以及配給數(shù)量。該工具使得流程之外的管理人員能夠看到調(diào)撥過(guò)程中發(fā)生了什么，這就有可能會(huì)威脅到調(diào)撥人員的自主權(quán)，而基于規(guī)則的現(xiàn)有工具則不存在這個(gè)問(wèn)題。為保護(hù)終端用戶自主權(quán)，項(xiàng)目團(tuán)隊(duì)請(qǐng)時(shí)尚品調(diào)撥人員協(xié)助設(shè)計(jì)了一個(gè)A/B測(cè)試，以評(píng)估現(xiàn)有工具與新AI工具的性能。

在評(píng)估過(guò)程中給予目標(biāo)終端用戶發(fā)言權(quán)，聽(tīng)起來(lái)完全合情合理。然而并非所有的AI項(xiàng)目團(tuán)隊(duì)負(fù)責(zé)人都能做到，這是為什么呢？原因在于，每當(dāng)你讓終端用戶選擇對(duì)他們工作的哪些領(lǐng)域進(jìn)行測(cè)試，他們總會(huì)選擇最難的部分。但是這個(gè)步驟不能跳過(guò)，因?yàn)檫@些人正是需要根據(jù)AI工具所提建議采取行動(dòng)的人。

從一開(kāi)始就讓終端用戶參與進(jìn)來(lái) AI項(xiàng)目負(fù)責(zé)人經(jīng)常在開(kāi)發(fā)的早期階段刻意不聲不響，以避免遭到用戶抵制。但是，不及早邀請(qǐng)用戶參與進(jìn)來(lái)，項(xiàng)目成功的可能性就會(huì)大減。用戶會(huì)因遲到的邀請(qǐng)而不滿，并且一直心存芥蒂。哪怕AI工具能夠使流程完全自動(dòng)化，也需終端用戶接受才能發(fā)揮作用。成功的AI項(xiàng)目負(fù)責(zé)人懂得，在項(xiàng)目一開(kāi)始就邀請(qǐng)終端用戶參與進(jìn)來(lái)，將大大增加成功的可能性。

在AI技術(shù)閃閃發(fā)光的承諾背后，隱藏著一個(gè)嚴(yán)峻現(xiàn)實(shí)：哪怕是世界頂尖的AI工具，如果不被接受就毫無(wú)意義可言。為了爭(zhēng)取一線用戶的認(rèn)可，領(lǐng)導(dǎo)者必須首先認(rèn)清AI實(shí)施中的三個(gè)主要利益沖突：AI工具的目標(biāo)終端用戶看不到自己能獲得什么好處，他們需要承擔(dān)與工具開(kāi)發(fā)或使用相關(guān)的額外工作，并可能失去寶貴的自主權(quán)。只有認(rèn)清以上事實(shí)，領(lǐng)導(dǎo)者才能著手處理終端用戶和組織價(jià)值獲取的不平衡問(wèn)題，為項(xiàng)目的成功實(shí)施奠定基礎(chǔ)。成功并非來(lái)自大數(shù)據(jù)、耀眼的技術(shù)和大膽的承諾。相反，它取決于一線員工日常工作中做出的決定。為了讓AI承諾的美好前景化為現(xiàn)實(shí)，領(lǐng)導(dǎo)者需要考慮到一線工作者的需求，這樣才能讓AI在現(xiàn)實(shí)世界中發(fā)揮作用。