在經(jīng)典科幻電影《2001》中，太空船的主機(jī)HAL面臨一個(gè)進(jìn)退兩難的困境。計(jì)算機(jī)指令要求他既要完成飛船使命（調(diào)查一件在木星附近的人工制品），又不能讓船員知情。他決定通過(guò)殺死船員來(lái)解決這一矛盾。

1997年，在加里·卡斯帕羅夫與IBM的超級(jí)計(jì)算機(jī)深藍(lán)第二次對(duì)決失利后，人們預(yù)言，無(wú)論是作為競(jìng)技性比賽，還是作為觀賞性運(yùn)動(dòng)，電腦最終會(huì)令國(guó)際象棋失去樂(lè)趣。

這種輕蔑的態(tài)度與時(shí)代的精神是一致的。在我們這個(gè)時(shí)代，程序算法的精密超越了有缺陷的人工判斷。從網(wǎng)絡(luò)搜索到市場(chǎng)營(yíng)銷(xiāo)和股票交易，甚至包括教育和治安在內(nèi)，計(jì)算機(jī)根據(jù)復(fù)雜決策規(guī)則處理數(shù)據(jù)的能力從各個(gè)角度保證我們的生活變得更加美好。

乍一看來(lái)，這似乎是一個(gè)純粹的未來(lái)福音，然而開(kāi)車(chē)不單單是技術(shù)操作。對(duì)于技術(shù)操作，機(jī)器可以比人做得更好。但是，開(kāi)車(chē)還包括道德抉擇。如果讓汽車(chē)自動(dòng)駕駛，放棄的不僅是對(duì)于汽車(chē)的控制，還包括駕車(chē)時(shí)可能面臨的道德判斷。

事實(shí)上，反對(duì)盲目崇拜程序的運(yùn)動(dòng)已經(jīng)開(kāi)始。

Anti被程序

隨著機(jī)器人變得更加智能與普及，假以時(shí)日，智能化機(jī)器勢(shì)必要在不可預(yù)料的處境下做出生死攸關(guān)的抉擇，如此一來(lái)機(jī)器人便有了——或者像是有了——道德選擇能力。在當(dāng)前的各種武器系統(tǒng)中，操作員還處于“決策圈內(nèi)”，但隨著系統(tǒng)復(fù)雜度的提高，并為之配上可自主執(zhí)行系統(tǒng)命令的武器，操作員很可能就被安置在了“執(zhí)行圈上”。

果真如此的話，則機(jī)器人將陷入倫理困境。如果已知目標(biāo)在一所房子內(nèi)，但其中也可能有平民，無(wú)人機(jī)是否應(yīng)該向房子開(kāi)火？如果是以撞上其他車(chē)輛或者危及車(chē)內(nèi)乘員為代價(jià)，無(wú)人駕駛汽車(chē)是否還會(huì)選擇突然轉(zhuǎn)向以躲避行人？面對(duì)可能會(huì)造成恐慌的情形，救災(zāi)機(jī)器人是否應(yīng)該告訴人們正在發(fā)生的事情真相？此類(lèi)問(wèn)題開(kāi)創(chuàng)了“機(jī)器人道德”這一領(lǐng)域，其主要目的是使機(jī)器人有能力對(duì)此類(lèi)問(wèn)題做出恰當(dāng)?shù)倪x擇——換句話說(shuō)，就是賦予它們明辨是非的能力。

讓汽車(chē)自主行駛，谷歌目前正在開(kāi)發(fā)這一設(shè)想。電腦化的汽車(chē)已經(jīng)在內(nèi)華達(dá)州，佛羅里達(dá)州和加利福尼亞州合法化，它們可以開(kāi)得更快，靠得更緊密，在保證安全的同時(shí)減少交通堵塞。它們會(huì)在辦公室把你放下，然后自己?？亢?。我們有什么理由不喜歡呢？首先，葉夫根尼·莫羅佐夫曾對(duì)計(jì)算機(jī)輔助下的“解決主義”提出過(guò)尖銳的批評(píng)，就像他指出的那樣，城市規(guī)劃的結(jié)果對(duì)某些人來(lái)說(shuō)并不可取?！半S著更多人開(kāi)始駕車(chē)，自動(dòng)駕駛汽車(chē)帶給我們的是不是低劣的公共交通？”

紐約大學(xué)的心理學(xué)教授加里·馬庫(kù)斯在《紐約客》上提出了一個(gè)生動(dòng)的思想實(shí)驗(yàn)。假設(shè)你坐在自動(dòng)駕駛車(chē)中通過(guò)一座窄橋，一輛滿載小孩的失控校車(chē)朝你猛沖過(guò)來(lái)。橋上沒(méi)有地方允許兩輛車(chē)錯(cuò)車(chē)而過(guò)。自動(dòng)駕駛汽車(chē)能否做出決定駛下窄橋，以你的死挽救孩子的生命？

馬庫(kù)斯的這個(gè)例子說(shuō)明了一個(gè)事實(shí)：對(duì)于技術(shù)操作，機(jī)器可以比人做得更好，但是，開(kāi)車(chē)還包括道德抉擇。

數(shù)字倫理

在巴爾的摩和費(fèi)城，軟件已經(jīng)被用于預(yù)測(cè)哪些囚犯被釋放會(huì)再犯罪。這種軟件基于犯罪數(shù)據(jù)庫(kù)，根據(jù)地理位置、先前的犯罪類(lèi)型和上一次犯罪的年齡等變量進(jìn)行計(jì)算。根據(jù)《連線》雜志今年的一份報(bào)告，“該軟件旨在取代假釋官根據(jù)假釋犯的犯罪記錄做出的判斷?！边@種道德判斷關(guān)乎一個(gè)人的自由，將這種道德判斷放手給軟件處理所當(dāng)然會(huì)讓一些人感到不舒服。首先，我們還不知道這套系統(tǒng)是否是比人類(lèi)更準(zhǔn)確。其次，即使系統(tǒng)的判斷更加準(zhǔn)確，但只要它不是完全正確，就不可避免地會(huì)產(chǎn)生誤報(bào)——導(dǎo)致不會(huì)再犯罪的人持續(xù)被監(jiān)禁。毫無(wú)疑問(wèn)，在現(xiàn)有的人工判定系統(tǒng)下，這樣的誤報(bào)也會(huì)發(fā)生，但至少我們可以讓做決定的人負(fù)上責(zé)任。你怎么能讓一個(gè)程序負(fù)責(zé)？

如果自主化的無(wú)人機(jī)在行動(dòng)中出了岔子，或者無(wú)人駕駛汽車(chē)出了車(chē)禍，必須有這么一些法律可以幫助人們確定責(zé)任歸咎于誰(shuí)，是機(jī)器的設(shè)計(jì)者、程序員、制造商還是操作人員。為了明確責(zé)任歸屬，必須使自主化系統(tǒng)保留詳盡的日志，由此人們便可以在必要的時(shí)候弄清楚系統(tǒng)各種決定背后的依據(jù)。這其中包含了對(duì)系統(tǒng)設(shè)計(jì)的要求：例如，（無(wú)人機(jī)或無(wú)人駕駛汽車(chē)）不能使用人工神經(jīng)網(wǎng)絡(luò)，這種決策系統(tǒng)從實(shí)例中學(xué)習(xí)，而不是遵循預(yù)先設(shè)定的規(guī)則。

其次，在機(jī)器人中植入了倫理體系的情況下，它們所做出的判斷需要符合大多數(shù)人類(lèi)的判斷標(biāo)準(zhǔn)。實(shí)驗(yàn)哲學(xué)應(yīng)該對(duì)此有幫助，該哲學(xué)研究人們?nèi)绾螒?yīng)對(duì)倫理上的兩難困境。最后一點(diǎn)，也是最重要的一點(diǎn)是，工程師、倫理學(xué)家、律師和政策制定者需要進(jìn)一步通力合作，否則他們可能會(huì)做出類(lèi)型各不相同的規(guī)則。倫理學(xué)家與工程師的合作是雙贏的：倫理學(xué)家在試圖“教授”機(jī)器倫理的過(guò)程中可能會(huì)加深自己對(duì)倫理學(xué)的認(rèn)知。而工程師則可以向大眾保證其設(shè)計(jì)出來(lái)的機(jī)器人沒(méi)有道德倫理缺陷。

科技推進(jìn)了人類(lèi)社會(huì)的發(fā)展，然而其每一次進(jìn)步都伴隨著新問(wèn)題的出現(xiàn)，智能機(jī)器人也不例外。越早解決掉它們所帶來(lái)的道德選擇難題，人類(lèi)就越容易享受其肯定會(huì)帶來(lái)的好處。

蘇晨根據(jù)《經(jīng)濟(jì)學(xué)人》《衛(wèi)報(bào)》綜合編譯。