云太真 潘曉輝

[摘要]無人駕駛汽車技術(shù)發(fā)展中尚需解決的一個(gè)重要問題是緊急避險(xiǎn)的規(guī)則。問題在于，無人駕駛在緊急避險(xiǎn)情況下，如何進(jìn)行規(guī)避，如何選擇碰撞目標(biāo)，是一個(gè)類似于電車難題的倫理悖論。功利主義和義務(wù)論的倫理學(xué)說提出了對(duì)立的選擇規(guī)范，無人駕駛汽車的發(fā)展要求提出可實(shí)現(xiàn)的規(guī)則，論文將兩種對(duì)立的規(guī)范進(jìn)行折衷，提出一種基于“命運(yùn)值”的比較策略。

[關(guān)鍵詞]無人駕駛；電車難題；概率；功利主義；義務(wù)論

[中圖分類號(hào)]D922.14；D923；D922.284? ? ? [文獻(xiàn)標(biāo)識(shí)碼]A

[DOI]：10.20122/j.cnki.2097-0536.2023.11.009

隨著自動(dòng)駕駛技術(shù)的不斷發(fā)展和人工智能的日益成熟，完全自主、無需人工干預(yù)的自動(dòng)駕駛正在向我們走來。自動(dòng)駕駛技術(shù)從智能輔助駕駛、需干預(yù)的自動(dòng)駕駛到無需干預(yù)的自動(dòng)駕駛，符合技術(shù)發(fā)展的階段性，也符合社會(huì)接受的階段性。未來的趨勢(shì)必然是自動(dòng)駕駛技術(shù)完全成熟，發(fā)展到無需人類駕駛員，獨(dú)立完成駕駛?cè)蝿?wù)。本文談到的無人駕駛汽車，就是這樣完全自動(dòng)、無需人工干預(yù)的自動(dòng)駕駛形式，也就是L5級(jí)的自動(dòng)駕駛[1]。

當(dāng)前，無人駕駛技術(shù)面臨的一個(gè)困境主要是倫理和法律上的。人類駕駛汽車在面臨緊急避險(xiǎn)等兩難選擇時(shí)，面臨的情況和無人駕駛的情況有很大區(qū)別。人們不為難自然人在短時(shí)間的選擇，但無人駕駛必須提前對(duì)很少發(fā)生的瞬時(shí)困境做出的選擇進(jìn)行規(guī)定，這就要求對(duì)電車難題的解決提出一個(gè)可行的方案[2]。

一、無人駕駛與緊急避險(xiǎn)

對(duì)人類駕駛員來說，駕駛是一種有風(fēng)險(xiǎn)的行為，當(dāng)這種風(fēng)險(xiǎn)可能造成巨大危險(xiǎn)后果時(shí)，如果駕駛員做出某種選擇，能使這種風(fēng)險(xiǎn)后果明顯變小，就是緊急避險(xiǎn)。從法律上來說，緊急避險(xiǎn)是一種在不得已的情況下，損害一方利益以保護(hù)更大利益的行為。一般來說，緊急避險(xiǎn)不承擔(dān)刑事責(zé)任，但要承擔(dān)民事責(zé)任。緊急避險(xiǎn)是法律鼓勵(lì)的行為，這種行為有利于減小社會(huì)總體風(fēng)險(xiǎn)，對(duì)社會(huì)整體是有益的[3]。一般來說，緊急避險(xiǎn)的避讓原則是駕駛員自主掌握的，在緊急情況下，即使駕駛員做出了不太合理的選擇，人們也不會(huì)太做計(jì)較。畢竟，緊急情況下思考、反應(yīng)的時(shí)間有限，只能依據(jù)本能和樸素的感情迅速做出決策。

無人駕駛的情況下，緊急避險(xiǎn)的規(guī)則有所不同，必須事先制定合理的規(guī)范。因?yàn)闊o人駕駛本質(zhì)上是計(jì)算機(jī)軟件在計(jì)算，程序員必須事先考慮到所有情況，才能讓無人駕駛汽車在特定時(shí)刻做出特定的行為，計(jì)算機(jī)不可能處理程序員沒有預(yù)料到的問題。人工智能技術(shù)雖然具有學(xué)習(xí)能力，但對(duì)沒有考慮過，也沒有提供相應(yīng)場(chǎng)景的事件，往往會(huì)做出人類難以理解的怪異行為，這是不可接受的。最合適的，顯然是人們事先制定好規(guī)則，讓它按規(guī)則執(zhí)行。不過遺憾的是，這里面臨一個(gè)倫理困境。

本文根據(jù)倫理學(xué)中功利主義和義務(wù)論兩種對(duì)立的學(xué)說對(duì)這種緊急避險(xiǎn)的規(guī)則進(jìn)行了研究，將兩種觀點(diǎn)進(jìn)行折中，提出無人駕駛緊急避險(xiǎn)的一種概率策略。這種策略不是最優(yōu)的，但卻是一種可行的方案。

二、無人駕駛與電車難題的倫理問題

對(duì)無人駕駛技術(shù)來說，無人駕駛的緊急避險(xiǎn)如何決策是一個(gè)值得深思的話題。因?yàn)闊o人駕駛技術(shù)是依靠計(jì)算機(jī)編程實(shí)現(xiàn)的，是依靠?jī)?nèi)置的規(guī)則執(zhí)行的，他不是依據(jù)人類本能和樸素的感覺在短時(shí)間內(nèi)判斷的，因而許多避讓的規(guī)則必須細(xì)化、明確化。畢竟無人駕駛只是一種計(jì)算機(jī)程序，它并不能真正思考，人們必須事先假定各種場(chǎng)景予以規(guī)范，做出決定，由程序員寫成代碼。不過，有些場(chǎng)景容易做出決定并制定規(guī)則，有些場(chǎng)景很難做出決定并制定規(guī)則。例如假定在某種情況下，汽車高速運(yùn)行而剎車失靈，唯一能做的就是調(diào)整方向。突然發(fā)現(xiàn)前方有人和物體的阻攔，應(yīng)當(dāng)撞向物；當(dāng)前方發(fā)現(xiàn)人和動(dòng)物阻擋時(shí)，應(yīng)當(dāng)撞向動(dòng)物，因?yàn)槿说陌踩堑谝晃坏模坏绻谇胺侥苷{(diào)整的方向上都是人，怎么辦？這就是電車難題的倫理悖論在無人駕駛緊急避險(xiǎn)上的表現(xiàn)。

電車難題的原始版本大致可以描述如下：一輛失控的有軌電車在軌道上行駛，前方是一個(gè)道岔，道岔旁邊站了一個(gè)人，他剛好有機(jī)會(huì)做出選擇。如果什么都不做，電車將直沖過去，前面的軌道上綁了5個(gè)人，他們會(huì)被撞死；如果扳動(dòng)道岔，電車拐到另外一股軌道上，上面綁了一個(gè)人，他會(huì)被撞死。請(qǐng)問這個(gè)人是否應(yīng)該扳動(dòng)道岔？很顯然，如果他什么都不做，電車將撞死5個(gè)人；如果他扳動(dòng)道岔，電車只撞死1個(gè)人。簡(jiǎn)單思考一下，似乎扳動(dòng)道岔比較有利，死1個(gè)人總比死5個(gè)人好一些。但生命是無法比較的，那1個(gè)人犯了錯(cuò)，憑什么為那5個(gè)人犧牲？如果換一種情況，5個(gè)人都是80歲以上的晚期癌癥患者，那1個(gè)人是風(fēng)華正茂的科學(xué)家，難道就該反過來嗎？電車難題是沒有答案的，對(duì)電車難題的一系列思考，就是對(duì)人類倫理本身的反思[4]。電車難題反映到自動(dòng)駕駛方面，就是無人駕駛的緊急避險(xiǎn)規(guī)則的研究，這要求規(guī)則必須符合倫理的要求，要在倫理角度能站的住腳。

三、功利主義和義務(wù)論

電車難題，或者說無人駕駛汽車如何規(guī)避和選擇碰撞的規(guī)則，倫理學(xué)上主要涉及到兩種對(duì)立的觀點(diǎn)。一種是功利主義。功利主義要求人們根據(jù)行為的后果或結(jié)果來判斷行為的好壞，導(dǎo)致結(jié)果變好的行為就是好的。對(duì)社會(huì)整體來說，功利主義要求社會(huì)整體的福利最大化和損失最小化。在社會(huì)整體功利的角度上來說，對(duì)社會(huì)價(jià)值最大的行為就是好的，對(duì)社會(huì)損失最小的行為就是好的。另一種觀點(diǎn)是義務(wù)論。義務(wù)論認(rèn)為行為本身就有道德性，合乎道德的義務(wù)或規(guī)則的行為就是好的，違背道德行為就是壞的，這和行為的目的無關(guān)。例如撒謊和失信是壞的，不能因?yàn)樵谀承┣闆r下撒謊和失信能帶來好處，就認(rèn)為這種行為在這些情況下是好的。哪怕說真話和守信會(huì)帶來壞處，也不能認(rèn)為這種行為就是壞的[5]。

功利主義者認(rèn)為人類的道德規(guī)范不是從天上掉下來的，而是在人類社會(huì)交往中，發(fā)現(xiàn)某些行為對(duì)人和社會(huì)有好處，從而普遍的將這些對(duì)大家有好處的行為定義為好的行為或善的行為；反之，某些行為對(duì)人和社會(huì)有害，從而將其定義為惡。也就是說，道德來自于行為對(duì)人類社會(huì)是否有益，利益是行為是善或惡的判斷標(biāo)準(zhǔn)。因此，邊沁提出道德的最大幸福原理，也就是功利主義。需要特別說明的是，這里的“功利”一詞應(yīng)理解為利益或好處這樣比較中性的詞語，不能簡(jiǎn)單的理解為狹隘的個(gè)人私利或者個(gè)人的低級(jí)趣味。

另外，功利主義原理指向的利益包括物質(zhì)利益和精神利益，它所服務(wù)的不只是行為人本人的最大利益，而是社會(huì)全體的最大利益。我們知道，高尚的人會(huì)因?yàn)樽约旱母呱卸械叫腋?，高尚的人也?huì)使別人幸福，這對(duì)整個(gè)社會(huì)都是有益的。很多時(shí)候，高尚的人在使別人幸福的時(shí)候，減少了自己的物質(zhì)利益，但能使自己感到精神的快樂，這正是因?yàn)榫裥腋Ｒ彩抢娴囊环N。很多仁人志士愿意經(jīng)受痛苦的生活，付出汗水和鮮血甚至生命，正是因?yàn)橄Ｍ釛壸约旱男腋＃o自己的同胞帶去幸福的生活。他們的目的是付出自己的犧牲，帶來社會(huì)整體的最大幸福和利益。在功利主義看來，一種犧牲如果不能給他人帶來利益，這種犧牲就是浪費(fèi)，功利主義唯一贊成的自我犧牲，就是這種犧牲能提高他人的幸福[6]。

功利主義認(rèn)為現(xiàn)存的道德觀念正是人類在長(zhǎng)期的社會(huì)實(shí)踐中發(fā)現(xiàn)的一些行為對(duì)社會(huì)有利，因而認(rèn)定某些行為是合乎道德的，這種觀念世代流傳，就產(chǎn)生了人類的道德規(guī)范。通常情況下，直接遵循這些道德規(guī)范并沒有什么問題，但如果遇到難以判斷的道德困境的時(shí)候，理解道德的第一原理是很有必要的。

義務(wù)論否認(rèn)行為的后果的重要性，不認(rèn)為符合個(gè)人或者社會(huì)最大利益的行為就是合乎道德的。一種行為的道德與它造成的后果無關(guān)，行為本身就具有內(nèi)在的道德價(jià)值。義務(wù)論認(rèn)為功利主義為了社會(huì)的整體利益，犧牲少數(shù)群體的利益是不可接受的。極端的例子是一個(gè)城市發(fā)生了極其恐怖的謀殺案，現(xiàn)有的證據(jù)和線索很難在短期內(nèi)破獲案件，整個(gè)社會(huì)恐慌不安。此時(shí)，警方抓獲了一個(gè)有前科的嫌疑犯，和這個(gè)案件只有部分關(guān)聯(lián)。功利主義的做法是立即將該嫌疑犯定為罪犯處死，這樣整個(gè)城市的恐怖氣氛就消失了，社會(huì)重新獲得了安全感。義務(wù)論堅(jiān)決反對(duì)這種做法。按羅爾斯的說法，每個(gè)人都擁有一種基于正義的不可侵犯性，即使以社會(huì)整體利益的名義也不能抗衡。為了社會(huì)最大利益剝奪一些人的自由和生命是不正當(dāng)?shù)?，不能因?yàn)槎鄶?shù)人的利益剝奪少數(shù)人的自由和生命，自由和生命是不可侵犯的。

關(guān)于道德規(guī)范的來源問題，羅爾斯提出一種和社會(huì)契約論類似的“原初狀態(tài)”，在原初狀態(tài)下，沒有人知道他在社會(huì)中的地位，也就是階級(jí)、社會(huì)出身、先天資質(zhì)、能力、智力和體力等因素，在這種“無知之幕”的背景下，所有人都是公平的，基于理性，人們制定的行為規(guī)范必定是公平的、正義的。人們不會(huì)同意為了讓某些人享受較大的利益而損害他人，哪怕這樣做能讓整體利益最大化。人們會(huì)平等的分配基本權(quán)利和義務(wù)，同時(shí)，財(cái)富和權(quán)力的占有者應(yīng)當(dāng)傾向于保護(hù)窮人和弱者。羅爾斯明白原初狀態(tài)并不存在，但他認(rèn)為可以通過“無知之幕”屏蔽個(gè)人因素，使人們反思從而推導(dǎo)出行為的合理性[7]。

功利主義和義務(wù)論類似于發(fā)展社會(huì)經(jīng)濟(jì)時(shí)效率和公平的爭(zhēng)議。在社會(huì)發(fā)展落后的時(shí)候，公平很重要，因?yàn)樗腥硕家?。在社?huì)公平基本滿足后，人們又希望提高社會(huì)生產(chǎn)效率，把經(jīng)濟(jì)總量做大。經(jīng)濟(jì)總量發(fā)展一段時(shí)間以后，貧富差距變大，又必須回歸社會(huì)公平，否則社會(huì)就會(huì)不穩(wěn)定，阻礙社會(huì)發(fā)展。功利主義和義務(wù)論就是這樣的一體兩面。

四、無人駕駛電車難題的命運(yùn)概率策略

對(duì)電車難題來說，關(guān)鍵是選擇碰撞目標(biāo)。如果采取功利主義的做法，需要判斷雙方的“價(jià)值”，我們可以使用函數(shù)和分別表示目標(biāo)a和b的“價(jià)值”。如果>，則撞向b，否則就撞向a。至于和如何取值，可以有很多方案，需要進(jìn)一步細(xì)化。例如，首先，人數(shù)是最重要的考量，人多價(jià)值就大；其次，要看年齡，老人和小孩的價(jià)值不如成年人；再次，罪犯的價(jià)值不如普通人。諸如此類的判斷可能有很多規(guī)則，但不需要規(guī)定過多，因?yàn)樵诤芏痰臅r(shí)間內(nèi)，未必能觀察到過多的信息，一般來說，能觀察到人數(shù)就不錯(cuò)了，更多的參數(shù)在實(shí)踐中恐怕無法獲取到。從單純道德的角度來講，制定這樣的規(guī)則似乎很殘酷，但對(duì)于功利主義來說，道德最終就是要靠社會(huì)最大福利和社會(huì)最小的損失來衡量的。從現(xiàn)實(shí)的角度來說，法律上的損害賠償最終也是靠類似的規(guī)則來支撐的[8]。

對(duì)義務(wù)論來說，不允許犧牲少數(shù)人保護(hù)多數(shù)人的生命，生命和自由不可比較。實(shí)在無法全部保護(hù)的情況下，只能選擇抽簽和隨機(jī)的辦法，大家都承認(rèn)抽簽是一種公平的選擇。這在程序設(shè)計(jì)中實(shí)際上是可以實(shí)現(xiàn)的，現(xiàn)代程序設(shè)計(jì)語言和計(jì)算機(jī)系統(tǒng)中提供了隨機(jī)函數(shù)，隨機(jī)函數(shù)可以生成一個(gè)0到1之間的隨機(jī)數(shù)，我們可以利用隨機(jī)函數(shù)獲得抽簽一樣的效果。具體的，對(duì)a和b雙方來說，就是分別運(yùn)行函數(shù)，我們記為和，如果>，就撞向b，否則撞向a。

在電車難題這樣的悖論中，無論采取功利主義的做法還是義務(wù)論的選擇，都會(huì)引起巨大的爭(zhēng)議，總會(huì)有人認(rèn)為是道德上無法接受的。鑒于這種爭(zhēng)論的客觀存在，本文采取了折衷的做法，就是將兩種對(duì)立的方法綜合一下。具體來說，就是根據(jù)前面的分析，計(jì)算和，如果>，就撞向b，否則撞向a。之所以用乘法，就是我們既要考慮雙方的價(jià)值，又要考慮雙方以隨機(jī)函數(shù)的方式進(jìn)行的命運(yùn)抽簽，最終乘法運(yùn)算出來的就是雙方的“命運(yùn)值”。最終，以“命運(yùn)值”的大小比較，來選擇碰撞的目標(biāo)。

這樣，既考慮了功利的因素，也給了雙方平等的機(jī)會(huì)。這樣選擇碰撞目標(biāo)，當(dāng)然很難說是最好的，但卻是可行的方法，既可以避免紛爭(zhēng)，也是具體可實(shí)現(xiàn)、可操作的。

五、結(jié)語

無人駕駛技術(shù)在面臨緊急避險(xiǎn)時(shí)，如果遇到不可避免的多個(gè)碰撞目標(biāo)都是人類的情況時(shí)，就遇到了“電車難題”的倫理悖論。功利主義的基本選擇是犧牲少數(shù)人保護(hù)多數(shù)人，實(shí)現(xiàn)社會(huì)損失最小化。義務(wù)論則認(rèn)為生命不可比較，生命都是平等的，只能通過抽簽決定。本文將兩者結(jié)合起來，提供了一種比較“命運(yùn)值”的策略。這種方法可能不是最好的，但卻是一種可行的，能避免紛爭(zhēng)的可操作方法。

參考文獻(xiàn)：

[1]佟日.自動(dòng)駕駛已來，無人駕駛可期[J].檢察風(fēng)云，2022（21）：13-15.

[2]楊延超.機(jī)器人法[M].北京：法律出版社，2019：416-418.

[3]黎宏，丁文焯.緊急避險(xiǎn)視角下自動(dòng)駕駛中的碰撞選擇[J].湖湘法學(xué)評(píng)論，2022，2（3）：80-89.

[4]楊麗娟，耿小童.無人駕駛汽車的倫理困境及法律規(guī)制[J].沈陽工業(yè)學(xué)報(bào)（社會(huì)科學(xué)版），2021，14（4）：371-376.

[5]程煉.倫理學(xué)導(dǎo)論[M].北京：北京大學(xué)出版社，2008：166-171.

[6]穆勒.功利主義[M].北京：商務(wù)印書館，2019：7-31.

[7]羅爾斯.正義論[M].北京：中國(guó)社會(huì)科學(xué)出版社，1988：11-39.

[8]肖君擁，李浩驥.無人駕駛道德決策的法理難題及法益調(diào)諧[J].湖湘法學(xué)評(píng)論，2022，2（2）：50-65.

作者簡(jiǎn)介：

云太真（1977.1-），男，漢族，河南鞏義人，碩士，講師，研究方向：人工智能法學(xué)，數(shù)據(jù)法學(xué)；

潘曉輝（1978.3-），女，漢族，新疆烏魯木齊人，博士，副教授，研究方向：人工智能法學(xué)、數(shù)據(jù)法學(xué)。