【摘 要】 隨著人工智能科技革命中自動駕駛技術(shù)的演進(jìn)，人類社會的交通圖景已經(jīng)發(fā)生深刻的變革。從自動駕駛汽車操作系統(tǒng)的研發(fā)者角度分析，如果沒有明確的價值指引以及足夠的預(yù)期違法成本考慮，則無法保證自動駕駛技術(shù)在重大經(jīng)濟利益面前長期妥善發(fā)展。所以除了明晰在研發(fā)過程中應(yīng)遵循的道德倫理準(zhǔn)則，還應(yīng)構(gòu)建技術(shù)研發(fā)的動態(tài)評估評價體系，明確研發(fā)者責(zé)任，使得其在設(shè)計制造軟件系統(tǒng)時，考慮責(zé)任預(yù)期并嚴(yán)格遵循相關(guān)法律規(guī)范。

【關(guān)鍵詞】 自動駕駛技術(shù) 道德倫理準(zhǔn)則 研發(fā)者責(zé)任

一、自動駕駛汽車的倫理困境

自動駕駛領(lǐng)域非常受學(xué)界與媒體關(guān)注的一個話題就是自動駕駛汽車的兩難困境問題。例如自動駕駛汽車高速行駛至某事故路段時發(fā)現(xiàn)兩名事故受害者倒在道路中央，而自動駕駛系統(tǒng)來不及剎車，唯一可以避免碾過兩名受害者的辦法就是向左前方轉(zhuǎn)向，但該選擇將撞上左前方的第三名行人并致其重傷或死亡。這種困境不僅存在于經(jīng)典的刑法教課書案例中，也存在于傳統(tǒng)的道路交通環(huán)境中。而自動駕駛汽車所面臨的問題相較于傳統(tǒng)車輛更加棘手，其原因有二：第一，因為人類駕駛員的反應(yīng)時間比較長，從發(fā)現(xiàn)道路中央的受害者到采取行動幾乎沒有思考的時間，所以不存在違反注意義務(wù)的情況，即使撞死了兩名行人也屬于意外事件。第二，即使存在足夠的反應(yīng)時間，人類駕駛員為了保全自己決定直行撞死兩名受害者或左轉(zhuǎn)撞死一名行人，也可能因為符合緊急避險情況而被免責(zé)。但自動駕駛系統(tǒng)則不同，自動駕駛系統(tǒng)用0.2秒就可通過傳感器感知緊急情況，而這種反應(yīng)是通過事先編程來決定價值優(yōu)先次序。如此一來，在生命與生命之間的取舍取決于兩難困境中編寫自動駕駛碰撞回避的算法程序。這種編程成為極端敏感的問題，引發(fā)了公眾對自動駕駛技術(shù)的爭議甚至恐懼。

二、自動駕駛碰撞回避算法

（一）功利主義算法。功利主義者算法是基于利益最大化的考慮選擇撞向損害利益較小的一方，也就是允許汽車左轉(zhuǎn)撞傷或撞死一名行人。該算法看似符合正確的價值觀念，保護(hù)利益更大的一方從而最大限度的降低損失，但這種單純衡量受害人數(shù)量的所謂最優(yōu)化模式違反了憲法的人格尊嚴(yán)至上與生命權(quán)絕對保護(hù)原則，與現(xiàn)行法律理論框架無法兼容。

（二）自我犧牲算法。該程序?qū)⒆詣玉{駛汽車的駕駛員或乘客視為風(fēng)險創(chuàng)設(shè)者而要求其承擔(dān)風(fēng)險，因此，算法程序被設(shè)置為優(yōu)先犧牲駕駛員或乘客。該程序設(shè)置顯然也經(jīng)不起推敲：第一，引入自動駕駛技術(shù)的首先是自動駕駛系統(tǒng)或車輛的生產(chǎn)商，創(chuàng)立風(fēng)險者并不是使用自動駕駛技術(shù)的駕駛員或者乘客;第二，該程序設(shè)置不利于自動駕駛技術(shù)的推廣，這種自我犧牲程序的設(shè)置將大大降低車輛銷量及大眾對自動駕駛技術(shù)的消費興趣。

（三）擲色子算法。在兩難困境中，無論算法程序如何選擇都不能免除責(zé)任，因此，應(yīng)當(dāng)放棄編寫程序任由事態(tài)發(fā)展，即在自動駕駛汽車直行撞向兩名行人，或者在兩邊人數(shù)相同的情況下設(shè)置擲骰子程序進(jìn)行隨機選擇。但這種逃避主義的方案顯然違背人類理性的要求，并且即使設(shè)置這種程序似乎也無法免于刑法上不作為的可罰性。

三、對自動駕駛汽車研發(fā)者的監(jiān)管建議

（一）遵循人類倫理規(guī)則。人類目前對人工智能的發(fā)展表現(xiàn)出極大的隱憂，必須通過倫理與價值的設(shè)定以保障人工智能在合理的軌道上前進(jìn)。2017年，德國公布了針對自動駕駛的道德準(zhǔn)則，確立了下述價值準(zhǔn)則，對算法邏輯的價值選擇提供了有益借鑒：道路安全優(yōu)于出行的效率;對于個體的保護(hù)優(yōu)于其他功利主義;法律應(yīng)當(dāng)在個人自由與他人自由間取得平衡;對人類權(quán)益的保護(hù)優(yōu)于動物權(quán)利與財產(chǎn)權(quán)利。特別值得說明的是，該道德準(zhǔn)則還對生命的“兩難選擇”作出了特別的規(guī)定，要求不得對于某些極端情況提前設(shè)定標(biāo)準(zhǔn)化的計算邏輯，例如在路人與駕駛員同時在懸崖邊面臨碰撞時，不得提前設(shè)定以犧牲路人性命換取駕駛員存活的編程。人類的倫理概念也不是天生的，主要通過兩個途徑獲得，一個是人所有的感覺，另一個就是已相信的事物創(chuàng)造、解釋和衍生結(jié)果。因此，極有必要通過算法的頂層價值設(shè)計以實現(xiàn)人工智能法益位階的設(shè)定，確保人工智能自身邏輯不會突破底線。與之相對，如果研發(fā)者違背倫理規(guī)則設(shè)定算法，應(yīng)當(dāng)承擔(dān)相應(yīng)責(zé)任。

（二）設(shè)立研發(fā)者的嚴(yán)格責(zé)任。人工智能的發(fā)展趨勢是逐步成為技術(shù)黑箱，即使運算的算法與邏輯可以被公開，但基于該算法可能產(chǎn)生的模型卻無法限定在固定模式內(nèi)，即便是研發(fā)者也無法完全預(yù)知其內(nèi)部的決策運算邏輯。當(dāng)情況特殊時，自動駕駛汽車在缺乏預(yù)設(shè)情景設(shè)定而獨立作出決策時，以產(chǎn)品缺陷的理由使生產(chǎn)者獨立承擔(dān)嚴(yán)格責(zé)任，顯然是不公平的。因此必須設(shè)立研發(fā)者的嚴(yán)格責(zé)任，以便于鏈?zhǔn)綑C制內(nèi)的相關(guān)主體明確自身權(quán)利與義務(wù)，并通過算法等技術(shù)的頂層設(shè)計盡力消除消極后果。從包括規(guī)制人類基因技術(shù)的應(yīng)用等高科技法的發(fā)展歷程分析，應(yīng)對自動駕駛技術(shù)的禁止開發(fā)領(lǐng)域或者應(yīng)然共有價值選擇作出明確的限制性規(guī)定，以避免技術(shù)的研發(fā)陷入不可控的狀態(tài)。

（三）遵循強制性義務(wù)。自動駕駛技術(shù)研發(fā)者還應(yīng)遵循一些強制性義務(wù)，例如創(chuàng)建開發(fā)與應(yīng)用數(shù)據(jù)記錄系統(tǒng)，強制妥善保存研發(fā)核心參數(shù)，以便于確定侵權(quán)事件的“因果關(guān)系”與責(zé)任主體。在人工智能的設(shè)計研發(fā)過程中，必須保證系統(tǒng)滿足動態(tài)評估并具有監(jiān)測危險的能力后再投入市場。技術(shù)開發(fā)的法律“負(fù)面清單”規(guī)定由研發(fā)者承擔(dān)相應(yīng)民事、刑事及其他責(zé)任，通過法律的震懾使得負(fù)面技術(shù)減少應(yīng)用效應(yīng)并將研發(fā)者作為承擔(dān)侵權(quán)責(zé)任的主體之一，同時滿足技術(shù)批判理論范式下所需的事前預(yù)防。

【參考文獻(xiàn)】

[1] 瑞恩·卡洛，邁克爾·弗魯姆金，伊恩·克爾，陳吉棟，董惠敏，杭穎穎.人工智能與法律的對話[M].上海人民出版社，2018.

[2] 袁曾.無人駕駛汽車侵權(quán)責(zé)任的鏈?zhǔn)椒峙錂C制——以算法應(yīng)用為切入點[J].東方法學(xué)，2019，缺失卷（5）：28-39.

[3] 司曉、曹建峰： 《論人工智能的民事責(zé)任： 以自動駕駛機動車和智能機器人為切入點》，《法律科學(xué) （ 西北政法大學(xué)學(xué)報） 》2017 年第 5 期。

作者簡介：石月 （1994-），性別：女 民族：漢族 ，籍貫：遼寧阜新，職務(wù)：學(xué)生，學(xué)歷：研究生，單位：無，研究方向：知識產(chǎn)權(quán)