克里斯·巴拉紐克

自動(dòng)駕駛需要人類(lèi)對(duì)機(jī)器完全信賴(lài)。

當(dāng)法航447號(hào)班機(jī)以近300公里的時(shí)速墜向大西洋時(shí)，飛行員皮埃爾–塞德里克·博寧在全力與飛機(jī)控制系統(tǒng)搏斗。故障原因很明顯，由于飛機(jī)部件結(jié)冰導(dǎo)致自動(dòng)駕駛系統(tǒng)突然關(guān)閉，之后博寧和他的機(jī)組成員接管了飛機(jī)。當(dāng)時(shí)的情況需要飛行員進(jìn)行手動(dòng)操作。

飛行員對(duì)這種狀況缺乏經(jīng)驗(yàn)，他們掙扎著想把飛機(jī)穩(wěn)住。駕駛艙的電腦不斷涌現(xiàn)出混亂的信息和警報(bào)，而且電腦沒(méi)有提示他們飛機(jī)已經(jīng)處于失速狀態(tài)。黑匣子記錄下了博寧的最后一句話：“我們要墜機(jī)了——這不可能。到底怎么回事？”

那天是2009年6月1日，機(jī)上的乘客和機(jī)組成員全部遇難。當(dāng)發(fā)生這種人類(lèi)和機(jī)器都牽涉其中的事故時(shí)，它的根源通常是多方面的。但是，分析人員把法航447航班空難的部分原因歸咎于對(duì)機(jī)器的過(guò)度依賴(lài)和信任——飛行員期望自動(dòng)駕駛系統(tǒng)會(huì)一直正常運(yùn)轉(zhuǎn)、信息系統(tǒng)始終能提供精確的信息。而過(guò)度依賴(lài)技術(shù)造成人員傷亡的案例遠(yuǎn)遠(yuǎn)不止這一起。

科學(xué)家對(duì)“自動(dòng)化偏見(jiàn)”的現(xiàn)象進(jìn)行了深入研究，發(fā)現(xiàn)它有時(shí)還會(huì)導(dǎo)致“自動(dòng)化自滿”，即當(dāng)計(jì)算機(jī)主導(dǎo)工作時(shí)，人們較難發(fā)現(xiàn)其中的故障。不過(guò)，令人驚訝的是，人類(lèi)過(guò)度信賴(lài)機(jī)器的傾向或許直接受到了數(shù)百萬(wàn)年來(lái)生物進(jìn)化的影響。

俄克拉荷馬大學(xué)的帕特里夏·阿德雷在一本關(guān)于人類(lèi)為何過(guò)度信任機(jī)器的書(shū)中寫(xiě)道：“過(guò)分信賴(lài)技術(shù)導(dǎo)致的錯(cuò)誤比例高得令人吃驚。”她認(rèn)為，人們普遍缺乏判斷一項(xiàng)具體技術(shù)的可靠性的能力。它的影響是雙向的：我們有可能在計(jì)算機(jī)對(duì)我們有利時(shí)拒絕它的幫助;也可能盲目信任這種設(shè)備，直到它最終傷害我們的利益乃至生命。

作為與人類(lèi)親緣關(guān)系最近的物種之一，黑猩猩的行為或許能提供一條線索，幫助揭開(kāi)我們不擅長(zhǎng)評(píng)估機(jī)器可信度的原因。這可能是因?yàn)?，相比機(jī)器，我們更傾向于評(píng)估其他的同類(lèi)。

最近，研究人員在肯尼亞的一個(gè)動(dòng)物保護(hù)區(qū)進(jìn)行了一項(xiàng)實(shí)驗(yàn)，他們制作了一個(gè)設(shè)備讓黑猩猩可以拉動(dòng)機(jī)器上的繩子獲得食物獎(jiǎng)勵(lì)。拉動(dòng)第一根繩子會(huì)得到基礎(chǔ)的獎(jiǎng)勵(lì)——一片香蕉;拉動(dòng)第二根繩子的獎(jiǎng)勵(lì)更誘人，是兩片香蕉和一片蘋(píng)果，可能由機(jī)器發(fā)放，也可能由黑猩猩的同伴發(fā)放。

日本一家動(dòng)物園試圖讓黑猩猩學(xué)習(xí)使用自動(dòng)售貨機(jī)。

第二根繩子的另一端有時(shí)是機(jī)器，有時(shí)是另一只黑猩猩，但是兩者不會(huì)同時(shí)出現(xiàn)。然而，有時(shí)機(jī)器會(huì)不發(fā)放獎(jiǎng)勵(lì)，有時(shí)另一只黑猩猩會(huì)選擇把獎(jiǎng)勵(lì)獨(dú)吞掉。因此，拉動(dòng)第二根繩子可能獲得更多的獎(jiǎng)勵(lì)，但這卻是一個(gè)更具不確定性的選擇。

這樣，參與實(shí)驗(yàn)的黑猩猩面對(duì)的條件可能是社會(huì)性的或者非社會(huì)性的。如果想有機(jī)會(huì)獲得更多的食物獎(jiǎng)勵(lì)，它們就需要信任那臺(tái)機(jī)器或者另一只黑猩猩。

研究表明，當(dāng)由黑猩猩的同伴負(fù)責(zé)遞出食物時(shí)，黑猩猩們不太傾向于選擇第二根繩子。它們拒絕參與社會(huì)性實(shí)驗(yàn)的次數(shù)占12%，而在機(jī)器掌控的非社會(huì)性實(shí)驗(yàn)中，它們抗拒的次數(shù)只占4%。也就是說(shuō)，它們更信賴(lài)機(jī)器。

馬克斯·普朗克人類(lèi)發(fā)展研究所的洛烏·豪克斯和同事們?cè)O(shè)計(jì)并進(jìn)行了這項(xiàng)實(shí)驗(yàn)。她說(shuō)：“當(dāng)黑猩猩們發(fā)現(xiàn)它們面對(duì)的不是機(jī)器而是另一只黑猩猩時(shí)，它們會(huì)更加猶豫不決。”實(shí)驗(yàn)表明，社會(huì)風(fēng)險(xiǎn)在黑猩猩和人類(lèi)生活中發(fā)揮著重要的影響——目前只有為數(shù)不多的研究揭示了這一點(diǎn)。

這種心理被稱(chēng)為“背信規(guī)避”，豪克斯解釋道：“害怕被另一個(gè)人（或者另一只黑猩猩）欺騙的心理會(huì)引起更強(qiáng)烈的情緒?！彼蛄艘粋€(gè)比方：如果你把錢(qián)投進(jìn)自動(dòng)售貨機(jī)，它卻沒(méi)送出你要的飲料，毫無(wú)疑問(wèn)，你可能會(huì)生氣。但不妨想象一下，假如酒保收了你的錢(qián)，然后當(dāng)著你的面喝掉了你點(diǎn)的可樂(lè)，你是什么感覺(jué)？你大概會(huì)氣瘋了。這是當(dāng)然的，因?yàn)樽詣?dòng)售貨機(jī)沒(méi)有自作主張欺騙你，它只是沒(méi)有成功發(fā)出商品;而酒保把你點(diǎn)的東西喝掉時(shí)，他是知道這會(huì)讓你生氣的。

不過(guò)，研究團(tuán)隊(duì)并沒(méi)有止步于此。他們又進(jìn)行了另一個(gè)涉及黑猩猩的實(shí)驗(yàn)。由于參加過(guò)第一個(gè)實(shí)驗(yàn)，黑猩猩們已經(jīng)理解當(dāng)它們選擇不確定的選項(xiàng)時(shí)，有多大可能獲得更多的食物獎(jiǎng)勵(lì)。實(shí)際上，不確定的選項(xiàng)已經(jīng)不再是完全不確定的了——黑猩猩們已經(jīng)意識(shí)到它們?cè)诿笆裁礃拥娘L(fēng)險(xiǎn)。

但這時(shí)，出人意料的結(jié)果出現(xiàn)了。黑猩猩們不再區(qū)分社會(huì)性和非社會(huì)性的選項(xiàng)，它們對(duì)機(jī)器似乎不再表現(xiàn)出比對(duì)同類(lèi)更多的信任了。

生活中，盲目相信導(dǎo)航系統(tǒng)可能會(huì)讓人陷入麻煩。

“這就是為什么我們覺(jué)得這個(gè)發(fā)現(xiàn)令人振奮，黑猩猩們竟然能夠在面對(duì)很多不確定性的情況下區(qū)分社會(huì)世界和非社會(huì)世界?！焙揽怂拐f(shuō)。

佛羅里達(dá)理工學(xué)院的心理學(xué)家達(dá)比·普羅克特認(rèn)為，只要思考一下與社會(huì)環(huán)境打交道對(duì)靈長(zhǎng)類(lèi)動(dòng)物有多重要，這就說(shuō)得通了。

“當(dāng)面對(duì)機(jī)器時(shí)，不存在對(duì)未來(lái)的影響。”她解釋道，“你不必?fù)?dān)心額外潛在的社會(huì)成本?！碑吘?，參與實(shí)驗(yàn)的黑猩猩們往往在實(shí)驗(yàn)結(jié)束后還要回去和它們的同伴相處——任何因參與實(shí)驗(yàn)而引發(fā)的不愉快都可能對(duì)它們的關(guān)系產(chǎn)生后續(xù)影響。

普羅克特和同事們之前進(jìn)行過(guò)類(lèi)似的測(cè)試，他們同樣發(fā)現(xiàn)，相對(duì)于同伴，黑猩猩在尋找食物獎(jiǎng)勵(lì)時(shí)更容易相信物品。普羅克特提到，當(dāng)一只黑猩猩沒(méi)能從同伴那里得到本該屬于它的食物獎(jiǎng)勵(lì)時(shí)，沮喪的黑猩猩會(huì)向同伴吐口水來(lái)表達(dá)自己的感受。她說(shuō)：“這是一種常見(jiàn)的不高興的表現(xiàn)?！?/p>

普羅克特對(duì)實(shí)驗(yàn)中的黑猩猩是否真的更信任機(jī)器持保留態(tài)度。畢竟，這種現(xiàn)象也可以被描述為，只要沒(méi)有社會(huì)同伴參與，個(gè)體就不會(huì)對(duì)糟糕的待遇反應(yīng)那么激烈。

“我們并不是相信機(jī)器一定會(huì)給我們好的回饋，有可能只是認(rèn)為機(jī)器不具備情緒，所以我們只是更傾向于在非生命物品這里賭一把?！彼聹y(cè)道。

無(wú)論如何，進(jìn)化似乎影響了靈長(zhǎng)類(lèi)動(dòng)物面對(duì)不確定性時(shí)的意愿——它取決于我們是否感到自己承擔(dān)了社會(huì)風(fēng)險(xiǎn)。

圖盧茲高級(jí)研究所的弗朗西斯卡·德·佩特里羅從事靈長(zhǎng)類(lèi)動(dòng)物研究，她認(rèn)為，進(jìn)化并沒(méi)有讓我們意識(shí)到，被機(jī)器背叛的代價(jià)可能相當(dāng)慘痛。在過(guò)去的數(shù)百萬(wàn)年中，我們并不需要像評(píng)估同類(lèi)一樣去評(píng)估機(jī)器，因而沒(méi)有進(jìn)化出這項(xiàng)能力。而如今，技術(shù)已經(jīng)能對(duì)人類(lèi)生活產(chǎn)生巨大影響，我們可以說(shuō)還是需要評(píng)估機(jī)器的能力的。

這其中還涉及一些其他的因素。除了進(jìn)化，我們是否愿意信賴(lài)機(jī)器還受到個(gè)人相關(guān)知識(shí)儲(chǔ)備和文化期望的影響。2019年的一項(xiàng)研究表明，人們?cè)诖蜃至奶鞎r(shí)，如果認(rèn)為自己是在和電腦而不是和另一個(gè)人溝通，那么他們?cè)趯?duì)話中泄露自己信用卡信息的可能性會(huì)提高29%。研究人員發(fā)現(xiàn)，對(duì)那些先入為主地認(rèn)為機(jī)器比人類(lèi)更可靠的人來(lái)說(shuō)，這種影響甚至更加明顯。

話說(shuō)回來(lái)，有時(shí)候人們也會(huì)對(duì)技術(shù)表現(xiàn)出強(qiáng)烈的不信任感。許多調(diào)查結(jié)果表明，人們往往對(duì)自動(dòng)駕駛車(chē)輛或者把工作移交給機(jī)器完成感到不適。我們總是對(duì)新技術(shù)懷有疑慮是有多方面的原因的——可能是害怕被自動(dòng)機(jī)器取代后會(huì)失去自己的部分角色;也可能是不相信計(jì)算機(jī)在執(zhí)行任務(wù)時(shí)具備足夠謹(jǐn)慎的態(tài)度和靈活的技巧。如果你看過(guò)上百個(gè)機(jī)器人摔倒的視頻，或者遇到過(guò)一臺(tái)頑固地拒絕正常運(yùn)轉(zhuǎn)的計(jì)算機(jī)，就會(huì)覺(jué)得人們對(duì)機(jī)器的抗拒并不令人驚訝。

德國(guó)比勒費(fèi)爾德大學(xué)的社會(huì)心理學(xué)家菲利普·庫(kù)爾姆斯曾經(jīng)研究過(guò)影響個(gè)體對(duì)某項(xiàng)技術(shù)信任程度的因素。他和一名同事開(kāi)發(fā)了一個(gè)類(lèi)似俄羅斯方塊的電腦游戲，其中，電腦在與玩家組隊(duì)時(shí)也可以控制一些拼圖碎片。如果電腦玩得很好，人類(lèi)玩家就能獲取更珍貴的碎片，他們的團(tuán)隊(duì)就能得到額外加分，這種情況下玩家更傾向于信任電腦隊(duì)友，也更有可能為了合作與之交換碎片。這種信任是通過(guò)游戲的運(yùn)作方式形成的。

庫(kù)爾姆斯說(shuō)：“我們能操縱的這組變量非常有限，但它們顯然夠用，這讓我們很驚訝?！?/p>

人們通常缺乏評(píng)估機(jī)器可信度的能力，因?yàn)閺倪M(jìn)化的角度來(lái)看，我們只獲得了根據(jù)社會(huì)線索判斷可信度的能力——如果我們接受上述觀點(diǎn)，那么這就說(shuō)得通了。與之呼應(yīng)的還有其他的研究結(jié)果：當(dāng)賭博使用的老虎機(jī)在設(shè)計(jì)上具有擬人的特性時(shí)，賭徒會(huì)賭更多的錢(qián)。

也就是說(shuō)，我們不僅不善于衡量機(jī)器的可信度，而且當(dāng)機(jī)械物品表現(xiàn)得有點(diǎn)像一個(gè)以我們的最佳利益為重的社會(huì)伙伴時(shí)，我們也很容易被它們誘惑。

因此，與那些因?yàn)殡娔X反應(yīng)遲鈍而氣惱，進(jìn)而不信任所有機(jī)器的人相比，學(xué)會(huì)了對(duì)某些系統(tǒng)（比如飛機(jī)自動(dòng)駕駛儀）寄予信任的人可能很難理解機(jī)器怎么可能出錯(cuò)，即使它們就是錯(cuò)了。

佩特里羅提到，她跟蘋(píng)果的Siri或者亞馬遜的Alexa等聲控助手互動(dòng)時(shí)，對(duì)計(jì)算機(jī)產(chǎn)生了信任感?！拔視?huì)假設(shè)它們是以我的最大利益為原則行事的，所以我不需要質(zhì)疑它們。”她說(shuō)。

庫(kù)爾姆斯的研究表明，只要機(jī)器看起來(lái)能夠勝任工作并且表現(xiàn)出一定的友善，對(duì)包括佩特里羅在內(nèi)的許多人來(lái)說(shuō)，他們對(duì)機(jī)器的信任就會(huì)繼續(xù)下去。庫(kù)爾姆斯指出，這就是為什么機(jī)器設(shè)計(jì)者一定要確保他們的系統(tǒng)合乎道德、功能透明。

極為諷刺的是，在一臺(tái)看似值得信賴(lài)的機(jī)器背后，可能隱藏著一個(gè)心術(shù)不正的人。對(duì)一臺(tái)有缺陷的機(jī)器盲目信任就已經(jīng)夠危險(xiǎn)的了，更不用說(shuō)一臺(tái)專(zhuān)門(mén)用來(lái)騙人的機(jī)器。

“在風(fēng)險(xiǎn)相同的前提下，假如我們面對(duì)的不是機(jī)器而是一個(gè)人，我們可能更習(xí)慣去思考潛在的負(fù)面結(jié)果會(huì)是什么?！逼樟_克特說(shuō)道。她和豪克斯都認(rèn)為，還需要做大量工作才能弄清楚研究中的黑猩猩到底有多信任機(jī)器，以及這個(gè)結(jié)論能多大程度上揭示關(guān)于人類(lèi)行為的真相。

不過(guò)，人類(lèi)對(duì)機(jī)器表現(xiàn)出的過(guò)度信賴(lài)或許受到了一個(gè)簡(jiǎn)單事實(shí)的影響：我們是在一個(gè)原本沒(méi)有機(jī)器存在的世界里進(jìn)化成社會(huì)動(dòng)物的。而現(xiàn)在，機(jī)器出現(xiàn)了。我們把我們的錢(qián)、個(gè)人信息，甚至是我們的生命都置于機(jī)器每時(shí)每刻的監(jiān)管之下。信賴(lài)機(jī)器不一定有錯(cuò)，只是我們往往不善于判斷什么時(shí)候應(yīng)該這么做。

[編譯自BBC網(wǎng)站]

編輯：馬果娜