陳齊平，魏佳成，鐘陳志鵬，羅玉峰，王 亮

華東交通大學 機電與車輛工程學院，南昌 330013

1 引言

21 世紀是智能科學的時代，隨著智能科學研究不斷進步和機器智能水平不斷提升，未來智能機器將在大部分領域代替人們工作[1-2]。雖然智能機器的發(fā)展可以為人們提供便利的服務，幫助提高工作效率和解決復雜工況下的難題等，但同時也會帶來許多倫理道德問題[3-4]，這些倫理問題能否得到解決是未來智能機器普及應用的關鍵。

蘇令銀認為人們不需要也不可能把倫理嵌入人工智能機器，但需要對智能機器的倫理選擇實施各方面的監(jiān)管[5]，包括人工智能選擇的法律規(guī)制、技術監(jiān)管、倫理建模和程序正義等方面，目前各方面均存在一定缺陷，無法達標。蘇令銀還認為，隨著相關技術的成熟，無人駕駛汽車的安全性可能會比人類駕駛更高，這是由于無人駕駛汽車存在倫理機器人的指導。Grodzinsky等人[6]認為智能機器始終離不開人類的設計，無論機器中虛擬狀態(tài)還是實際的對應物，均與創(chuàng)造者有一定關系，即智能機器的倫理主體本質上就是創(chuàng)造者的拓展，因此創(chuàng)造者可能會限制智能機器的倫理地位，這也是現(xiàn)今智能機器倫理決策發(fā)展的局限，因此對智能機器倫理決策設計的研究具有重要意義。

目前，智能機器的研究主要是在模仿人類的感覺、知覺、學習、記憶和語言等認知神經功能[7]。關于智能機器倫理方面的研究主要基于人類道德決策機制等研究展開，并通過在哲學、心理學和神經學等方面的研究發(fā)現(xiàn)，人類的認識、情緒、社會認識、情感信息和動機等因素都會影響人類的道德決策[8-10]。為使智能機器可以做出符合倫理道德的決策，當前研究主要從規(guī)則推理和基于腦神經科學等方向來進行機器倫理決策的設計。

2 基于規(guī)則推理

基于規(guī)則推理是機器根據(jù)預先設定倫理決策原則來進行推理決策。該方法采用的是一種理性決策設計方式，具有較強的邏輯性和規(guī)則性。根據(jù)確定規(guī)則進行推理使得智能機器可以快速地做出決策，且其倫理決策具有較強的解釋性和透明性。

Bringsjord 等人[11]通過分析機器人三原則的不足，總結了兩種基本機器決策原則：（1）機器只做允許的動作；（2）機器在做強制性動作時會受到其他可用動作的制約。在此基礎上，還提出了一種基于決策原則的工程倫理決策的設計方法，該方法利用命題演算和謂詞演算等邏輯推理形式實現(xiàn)機器倫理決策。

Anderson 等人設計了一種倫理決策顧問系統(tǒng)（MedEthEx）[12]用以解決醫(yī)療機器護理中涉及人機交互倫理問題，MedEthEx 決策系統(tǒng)結構如圖1 所示。該系統(tǒng)主要復現(xiàn)了Beauchamp 和Childress 的生物醫(yī)學倫理原則。通過機器學習技術在困境案例中提取醫(yī)學倫理原則，使得護理機器在面對類似困境情況時根據(jù)得到的倫理規(guī)則做出相應的決策。

Fig.1 MedEthEx decision structure diagram圖1 MedEthEx決策結構圖

Fig.2 Ethical consultant system Jeremy and W.D.圖2 倫理顧問系統(tǒng)Jeremy和W.D.

Anderson 等人[13]通過對機器倫理原理等分析進行機器倫理研究，認為在決策時考慮機器倫理因素將提高決策性能。如圖2（a）和圖2（b）所示[13]，他們按照功力主義原則和義務主義原則分別開發(fā)了兩種倫理顧問系統(tǒng)Jeremy 和W.D.，并進一步證明了由倫理決策原則指導的決策系統(tǒng)在倫理困境下更易做出倫理決策。Anderson 等人還提出一種可以確保自主系統(tǒng)倫理行為的CPB（case-supported principle-based behavior）范式。該范式的實現(xiàn)是由倫理學家在實際倫理案例中得出統(tǒng)一的倫理原則，進而自主系統(tǒng)在該原則的指導下做出決策。該方法保證了原則的準確性并驗證了案例的可解釋性。

McLaren 基于案例推理設計了兩種倫理計算系統(tǒng)[14]，并采用了決疑術方法進行推理決策。一種系統(tǒng)是Truth-Teller（McLaren 寫的第一個倫理推理程序）利用決疑術理論比較決策困境的異同點；另一種系統(tǒng)是SIROCCO（system for intelligent retrieval of operationalized cases and codes，McLaren 寫的第二個倫理推理程序）使用計算模型實現(xiàn)決疑術推理，并利用通用原則來進行決策。McLaren B 認為這兩種計算系統(tǒng)可以較合理地解決倫理困境，為人們解決倫理困境難題提供一個倫理助手。

Fig.3 Ethical decision rule framework of combat machine圖3 作戰(zhàn)機器倫理決策規(guī)則框架

Arkin為實現(xiàn)倫理控制和推理系統(tǒng)提出了一種包含基礎、動機、理論和設計等元素的規(guī)則框架[15]，并在戰(zhàn)爭法律和管理規(guī)范等限制下規(guī)范危險行為。作戰(zhàn)機器倫理決策規(guī)則框架如圖3所示[15]，該框架是一種基于協(xié)商/反應式機器設計框架來實現(xiàn)的，以LOW（laws of war）和ROE（rules of engagement）等戰(zhàn)爭規(guī)則為倫理決策原則，采用案例推理的方式設計一種戰(zhàn)場機器倫理決策系統(tǒng)。該方法分別從倫理行為抑制、倫理決策設計、利用效應函數(shù)適應非道德行為和協(xié)助操作者分配最終責任方面的識別和建議機制四方面提出了具體解決方案。

Wynsberghe提出一種以醫(yī)療護理為核心原則的價值敏感設計CCVSD（care‐centered value sensitive design）方法[16]來研究護理機器的倫理問題。在現(xiàn)有原型的基礎上，設計了一種新型的患者尿液采集和檢測護理機器人。整個設計過程通過整合醫(yī)療護理倫理需求，按照預定方案流程循序漸進實現(xiàn)倫理機器設計。

基于規(guī)則推理來設計的優(yōu)點在于機器的倫理決策可預見，可以為機器決策提供一種安全的保障，但對工況的適應性較差。人類的決策規(guī)則受到地域、文化和個人信仰等因素的影響，有時對于同一種情況的決策會不同甚至相反。因此僅用一種決策規(guī)則來實現(xiàn)機器在面對復雜多變的環(huán)境時做出決策會存在較大的偏差。

3 基于神經科學

3.1 基于學習算法

基于學習算法是利用機器學習等算法模型模仿人腦決策時神經運行機制來實現(xiàn)機器決策設計的方法[17-19]。主要原理是機器對環(huán)境的不斷學習從而獲得決策經驗，實際應用中是通過對人類決策數(shù)據(jù)的學習，應用神經網絡或貝葉斯學習等機器學習方法得到人類倫理決策規(guī)律。

Armstrong[20]使用貝葉斯理論構建一種通過效用函數(shù)來進行智能體的決策設計模型。其效用函數(shù)是效用值、該效用值正確率及在對應環(huán)境選擇該效用函數(shù)的概率的加權組合，通過選擇最大效用函數(shù)值來選擇最優(yōu)效用價值原則進行決策。通過在倫理決策困境環(huán)境下的實驗結果驗證了效用函數(shù)決策設計方法的可行性。

與此類似的方法，有Dewey 也通過構建效用函數(shù)的方法設計倫理決策[21]，不同的是Dewey使用了強化學習方法。還有Wu等人[22]利用強化學習建立倫理決策函數(shù)，并綜合考慮了法律和道德規(guī)范等因素的影響。另外Abel等人也提出使用強化學習來構建智能體的倫理框架實現(xiàn)通用性倫理決策[23]，該研究定義了一個倫理學習者模型，在具體實驗中測試了方法的靈活性和穩(wěn)定性。

Dancy[24]提出不使用提取道德原則的方法，通過案例分類的方法。Guarini[25]依據(jù)該研究思路提出采用神經網絡建立分類模型，對道德決策案例進行分類。該方法有別于傳統(tǒng)研究思路，利用模式識別方法實現(xiàn)倫理決策。研究測試結果并未達到預期的效果，后期將通過更豐富的數(shù)據(jù)集或其他模式識別方法獲得更優(yōu)分類模型。

Honarvar 等人基于BDI-Agent（beliefs，desires，intentions）模型利用神經網絡分類方法設計了倫理決策框架[26]，并考慮相關倫理因素進行倫理行為評估。相比Guarini 的方法，該方法通用性更強。從研究結果表明該網絡可以對案例進行準確響應，且訓練數(shù)據(jù)越豐富，準確度越高。

Rekabdar 等人也采用人工神經網絡分類方法來進行倫理決策[27]。該方法利用人工神經網絡對大量倫理數(shù)據(jù)集進行訓練。采用多數(shù)投票的方法將神經網絡的決策進行組合，做出最終的識別決策，每一個神經網絡都是通過多層隱藏的MLP（multi-layer perceptron）來實現(xiàn)。對比實驗結果，該模型的倫理決策性能優(yōu)于其他分類決策模型。

基于學習算法設計相比規(guī)則推理適應性更廣。雖然通過神經網絡等方法可以快速得到決策規(guī)則，但由于其規(guī)則的透明性和解釋性較差，使得該倫理設計缺少安全保障。

3.2 基于腦認知結構

隨著人們對于人腦的探索研究，腦科學研究有不斷的新突破，利用計算模型模擬腦認知結構和機制會是智能機器研究的重要方向[28-30]。模擬人類倫理決策的腦認知來實現(xiàn)機器倫理設計也成為一種重要設計方法，其主要挑戰(zhàn)在于腦認知計算模型的正確構建。

Briggs 等人提出一種基于DIARC/ADE（distributed integrated affect/Analog devices energy）組合認知結構實現(xiàn)指令拒絕和解釋機制的機器倫理決策方法[31]。圖4 所示為DIARC/ADE組合認知結構[31]。該組合認知結構最早由Schermerhorn和Kramer等人分別提出，其中DIARC 是一種綜合情感、反思、認知的分布式架構，ADE 是一種具有用于動態(tài)、可靠、故障覆蓋、遠程訪問和分布式計算等功能的體系框架。在人為干預機器行為決策時，機器可能拒絕人類指令并給出拒絕的理由解釋。當人為對其解釋進行進一步回應說明后，機器會判斷是否繼續(xù)服從指令。該方法在一定程度上設計了一種能讓機器自我判斷的決策框架。

Fig.4 DIARC/ADE composite cognitive structure圖4 DIARC/ADE組合認知結構

Clore等人提出一種OCC（Ortony，Clore，Collins）情感理論來研究影響價值觀的因素[32]，該理論包括三種價值觀元素，目標、標準和態(tài)度，以及三種影響因素，事件、行為和對象。Clore等人認為所有的行為和表達都與認知情感表達有關，并提出了22 種情感類型，將情感認知的研究成果應用到人工智能決策研究中。OCC理論模型為認知神經科學和倫理決策研究提供了一種新的研究方法。

Franklin 等人提出一種基于GWT 腦認知結構理論的LIDA（learning intelligent distribution agent）模型[33-35]，模型如圖5所示。它既是一種腦認知模型，也是一種計算模型[33]。LIDA模型組成主要分為感知階段、理解階段和行為階段，并且每個階段分別設計了對應的子系統(tǒng)。子系統(tǒng)可以實現(xiàn)包括感知、知覺、意識、學習、計劃機制和行為網絡等功能。通過該模型可以對決策行為的產生和人類情感是如何影響人類的決策機制等方面進行深入的解釋。Wallach和Allen等人[35]認為LIDA有助于了解人類的意識與道德判斷之間的關系，從而模仿設計機器的道德倫理判斷機制。相比于OCC等其他認知模型，LIDA結構具有更強的學習能力、更合理的認知循環(huán)結構并且綜合感覺和情感等因素的影響。

人類具有豐富的認知功能，并且認知與決策之間具有密切聯(lián)系，對認知的研究將有助于人類倫理決策及機器倫理決策等方面的研究。目前機器認知結構模型可以實現(xiàn)簡單的認知功能，若要實現(xiàn)更高級的情感、思維等認知功能，還需要對腦認知模型進行更深入的研究。

3.3 其他倫理決策設計

機器倫理問題中兩個主體為人與機器，如何處理人與機器間的關系也是機器倫理研究的重要難題。有學者從人與機器之間互動關系的角度研究機器倫理。Coeckelbergh[36]認為可以從人機關系的角度進行機器倫理研究，并強調機器的外在行為表現(xiàn)會體現(xiàn)機器道德倫理。其主要研究機器是否可以表現(xiàn)出符合倫理道德的行為或對人類有利的道德行為。從目前設計的角度來看，關系論的進路更加貼近工程設計。

Rysewyk等人[37]提出了一種機器倫理設計理論，它融合了“自上而下”理論決策規(guī)范和“自下而上”計算決策模式。該混合倫理設計在一臺醫(yī)療機器上進行了測試，模擬實現(xiàn)了專業(yè)技術人員的臨床醫(yī)學倫理行為。在6個臨床醫(yī)學模擬實驗中，機器的決策輸出與人類醫(yī)學專業(yè)人員的行為匹配度較高。該醫(yī)學倫理設計模式為機器倫理研究的進一步發(fā)展提供了平臺。

Fig.5 LIDA model based on GWT brain cognitive structure theory圖5 基于GWT腦認知結構理論的LIDA模型

Rzepka等人針對醫(yī)療護理問題提出一種基于大量案例數(shù)據(jù)分析的設計方法[38]。與單一分析設計方法不一樣，該方法是通過自底向上設計結合自頂向下的決策效用計算，以確保為特定用戶提供最佳的醫(yī)療服務效果，并解決醫(yī)療護理中的倫理困境難題。

國內外越來越多的學者對倫理決策設計方法進行深入研究，本文選出幾種具有代表性的重要方法進行對比，如表1所示。

由表1可知，幾種重要倫理決策設計方法都存在各自的優(yōu)缺點，具體介紹如下：

（1）倫理決策顧問系統(tǒng)：該系統(tǒng)可作為一個多方面應用的平臺，在其基礎上可以進行不同方面的改變，從而可應用于多個領域；但它具有一定的主觀性，因為系統(tǒng)是從原始輸入數(shù)據(jù)、環(huán)境中感應得到的數(shù)據(jù)和用戶提供的數(shù)據(jù)來進行計算并做出相應的決策行動。

Table 1 Comparisons of ethical decision design methods表1 倫理決策設計方法對比

（2）倫理決策規(guī)則框架：該框架提供了動機、哲學、形式、代表性要求、架構設計標準、建議和測試場景，以設計和構建一個能夠在道德前提下使用致命力量的自主機器人系統(tǒng)，功能強大且滿足人類道德要求；但其含有多個組成模塊，交互結構復雜，不易構建，且難以在其基礎上做出較大改進。

（3）DIARC/ADE 組合認知結構：該結構擁有自主判斷功能，可對外界干預進行檢測，判斷是否接受外界干預，如拒絕，則會給出拒絕的理由，因此其具有自主性和高可靠性；但為了完善結構的自主性和可靠性，需要進行大量系統(tǒng)、開放的場景測試，工作量很大，因此對該結構進行更新改進也比較困難。

（4）LIDA 模型：該模型是一種基于認知心理學和認知神經科學的概念計算模型，可模擬人類認知和意識，學習和認知能力可比肩人類，該模型還能通過提示感知聯(lián)想記憶、空間記憶、短暫的情景記憶和聲明性記憶四種不同的記憶方式對學習內容進行記憶；但相比于人類，該模型自主性較差，還需對其自主學習功能進行完善。

隨著未來機器的決策越來越豐富，人機關系的研究也變得越來越重要，在一定程度上會影響機器倫理決策?；旌蟼惱頉Q策設計結合了規(guī)則推理的穩(wěn)定性和機器學習等方法的靈活性等優(yōu)勢，可為機器提供更符合實際的倫理決策安全保障。

4 無人駕駛倫理決策研究

新技術的興起都會存在倫理問題，隨著無人駕駛技術的發(fā)展，專家學者對無人駕駛倫理進行了研究。有些學者針對無人駕駛倫理特點從不同方面進行了研究，有些學者提出利用不同方法建立倫理決策框架和針對倫理決策評估的工具。在無人駕駛倫理研究理論和實踐等方面奠定了研究基礎。

Moolayil[39]認為無人駕駛電車問題主要是無人駕駛汽車事故中應該保護誰和責任的劃分等方面的問題，其研究從道德規(guī)范、經濟和法律等方面提出了關于無人駕駛事故的責任劃分等問題的解決方案。

Goodall[40]認為實際中無人駕駛汽車的倫理問題關鍵在于無人駕駛汽車如何分配風險，并且認為需要對無人駕駛風險決策進行評估。他提出九種倫理行為評判準則，并對當前道德決策模型進行分析研究。

Bonnefon 等人[41]通過測試發(fā)現(xiàn)用戶更愿意接受保護乘客的無人駕駛汽車，而不是功利性原則設計的無人駕駛汽車。研究認為設計倫理道德算法是非常艱難的工作。Applin[42]認為當前無人駕駛技術發(fā)展的主要難點是設計無人駕駛倫理決策算法和定義倫理行為。

Bergmann 等人[43]通過實驗研究發(fā)現(xiàn)，實驗參與者較多愿意犧牲自己拯救他人，當存在年齡因素影響時，參與者會更愿意保護更多的生命。他們認為該實驗僅為研究的起點，最終倫理問題的解決應在社會認同和道德上達成一種平衡。

Edmond等人針對于無人駕駛道德決策設計了一個在線實驗網站——Moral Machine[44]，如圖6所示為該網站的實驗界面[44]。該研究主要為了探索人類對于解決無人駕駛倫理決策困境方案的傾向。研究分別對實驗數(shù)據(jù)分析得出全球道德偏好、個體決策偏好差異、決策差異國家集群和制度文化對決策的影響等決策規(guī)律。Edmond 還對在線測試數(shù)據(jù)進行進一步分析，提出一種通用性的自主道德決策方案。該方法利用機器學習方法計算社會選擇偏向，有效地聚合社會倫理選擇偏好，并通過測試驗證該方法的有效性。

Fig.6 Moral machine圖6 道德機器

McBride提出通過ACTIVE倫理決策框架[45]設計無人駕駛倫理決策，該框架主要考慮加強自治、協(xié)作和價值等方面來設計，該模型要求無人駕駛汽車和環(huán)境有更多的交互。

Goodall[46]通過調查無人駕駛車輛的碰撞事故，分析得出無人駕駛車輛無法避免碰撞的發(fā)生，無人駕駛碰撞前的決策存在道德成分和暫無實現(xiàn)人類道德原則的算法設計方法。研究提出一種三階段式倫理碰撞算法，方法主要包括理性決策、人工智能和自然語言三方面，但該方法還處于理論階段。

Menon 等人[47]認為無人駕駛倫理研究不僅限于“電車問題”，還包括風險/利益權衡、知情、風險責任和系統(tǒng)風險緩解等方面。他們提出了一種方法確定無人駕駛決策行為的特征，并考慮了在開發(fā)過程中所做的決策如何影響無人駕駛倫理行為。Millar[48]認為許多通用的倫理決策理論要求可應用到倫理決策設計中，并基于五個評估規(guī)范設計了一種倫理評估工具，為評估機器人和無人駕駛汽車的倫理決策提供了有效方法。Dennis 等人提出一種倫理行為決策的理論框架[49]，當一個理性智能體執(zhí)行給定的倫理決策策略時，該智能體會選擇最優(yōu)置信度的行為。

Gerdes 等人[50]認為無人駕駛倫理決策并非由數(shù)據(jù)統(tǒng)計分析來確定，應由社會規(guī)則和道德綜合確定。Sütfeld 等人[51]認為無人駕駛倫理決策與人類倫理原則應一致，他們利用VR技術建立沉浸式駕駛決策困境場景對人類進行道德測試，相關測試界面如圖7所示。通過對數(shù)據(jù)的分析得到一種一維生命價值模型，并分析了決策時間壓力對倫理決策的影響。

目前，無人駕駛倫理決策研究主要處于初期理論階段。未來隨著無人駕駛感知技術、控制技術和先進計算技術等領域的發(fā)展，及車聯(lián)網通信等技術的進步，將促進無人駕駛倫理決策有更廣泛、更深入的研究。

5 結束語

5.1 研究現(xiàn)狀

目前，機器倫理決策實踐設計主要從規(guī)則推理、學習算法和腦認知結構模仿等方面展開，且已經取得了一定成果。

基于規(guī)則推理的機器倫理決策設計由于其邏輯可解釋性強，在不同機器應用領域間的移植性好，且規(guī)則透明使得決策穩(wěn)定性好，可接受度高，因此該設計方法得到較廣泛的應用。為使得無人駕駛倫理決策設計在實際中實現(xiàn)落地應用，通過規(guī)則設計會增加用戶對倫理決策的信任度?；谝?guī)則推理設計的主要挑戰(zhàn)是如何選擇合理的決策規(guī)則，由于規(guī)則存在一定的局限性會使得最終設計對于實際工況的適應性較差。通過對國內外基于規(guī)則推理和基于神經科學兩種不同的倫理決策設計實現(xiàn)方式的研究，總結出兩種實現(xiàn)方式的優(yōu)缺點，對比如表2所示。

Fig.7 Ethical decision-making research of driverless vehicles based on VR technology圖7 基于VR技術的無人駕駛倫理決策研究

Table 2 Comparisons of two realizations表2 兩種實現(xiàn)方式對比

人工智能技術的發(fā)展受到了腦科學研究的啟發(fā)，尤其基于神經連接主義發(fā)展的深度學習和深度強化學習等機器學習方法，以及腦認知結構方面的深入探索研究。相比規(guī)則推理設計，基于腦科學倫理設計方法的靈活性更強，對工況的適應性好。由于數(shù)據(jù)模型的“黑箱現(xiàn)象”使得倫理決策存在一定的決策風險，未來有待進一步研究。

混合倫理決策設計是一種較被認可的方法，且已應用到實際生活中。該方法實現(xiàn)了規(guī)則設計和機器學習等兩種方法間優(yōu)勢的互補，綜合提高了機器倫理決策對工況的適應性和穩(wěn)定性等決策性能。未來將會是倫理設計的重點研究方法。

5.2 研究難點

目前，學者從各方面對機器倫理決策設計進行了廣泛的研究，但關于機器倫理決策研究中還有諸多難點有待解決。

（1）機器倫理道德地位的確立

隨著機器的自主程度越來越高，未來的機器將會代替人們做大部分的工作。機器變得越來越像人類，從某種層面上來說以人類為中心的社會倫理模式受到潛在的沖擊。在機器智能化發(fā)展的同時，它的道德倫理地位應該是怎樣的，它是否要為決策行為擔負相關法律責任等。目前，有學者認為機器可以作為自動機動攻擊系統(tǒng)（automatic maneuvering attack system，AMAS），有學者則認為機器暫無法承擔責任。對于機器的倫理地位暫無確定標準，但這是機器倫理研究的一個重要前提，因此將是未來研究的難點之一。

（2）普適機器倫理決策

未來機器廣泛的應用使得需要面對復雜多變的決策場景，這要求機器在這些情況下都可以實現(xiàn)安全決策。目前，通過規(guī)則推理設計的主要挑戰(zhàn)在于規(guī)則對工況的適應性不夠，通過學習算法等方法的設計則需要完整、準確的數(shù)據(jù)集進行訓練，且混合設計也會受到其缺點的限制。因此，機器能否在所有工況下都能做出符合倫理的決策也將會是另一個挑戰(zhàn)。

（3）機器倫理決策評估

機器的發(fā)展應用主要是為了更好地協(xié)助人類工作，在復雜的實際工作中提高效率。隨著機器在各個領域的發(fā)展和普及，它們最終將代替人類的大部分工作，并具有自主行使決策的權利。如無人駕駛技術的最終發(fā)展，將解放人類駕駛員的雙手，依靠駕駛腦來決策控制駕駛車輛。但是人們如何信任機器的決策，或者如何評估機器的決策是合理的，這是未來機器倫理決策設計的又一難點。

5.3 研究方向

隨著計算科學的飛速發(fā)展，以及傳統(tǒng)機器倫理決策設計方法的局限性日益凸顯，同時通過學習算法模擬人類決策的方法被漸漸應用到機器倫理設計中。隨著對腦認知結構的探索，通過構建腦認知計算模型實現(xiàn)機器倫理決策的方法越來越受到重視。未來對于機器倫理決策設計的研究將會更加深入，本文認為未來主要研究方向包括：

（1）將人類道德規(guī)范應用到機器倫理決策設計

將人類的道德規(guī)范應用到機器倫理決策設計中，利用了規(guī)則推理決策邏輯性強、穩(wěn)定性高等優(yōu)勢。同時機器依據(jù)人類道德規(guī)范做出決策會增加人類對機器倫理決策的接受度和信任度。其研究的重點會在如何選擇人類倫理的通用道德規(guī)范作為機器倫理決策設計準則。

（2）運用機器學習實現(xiàn)倫理決策設計

人工智能技術的發(fā)展得益于腦科學的研究，隨著神經科學和腦認知科學的進一步研究，通過機器學習模擬真實人類做出決策有望變成現(xiàn)實。基于機器學習等學習算法的機器倫理設計具有對工況適應性強，且計算力強，迭代更新快等優(yōu)勢。通過結合人類倫理的通用道德規(guī)范，未來有望在人類決策的基礎上實現(xiàn)擴展決策，為解決倫理決策困境提供方案。

（3）利用法律及行業(yè)標準規(guī)范實現(xiàn)機器倫理決策設計

通過法律等進一步規(guī)范機器倫理決策設計，在一定程度上也是認可機器倫理決策的合法性，且在專業(yè)技術方面如何評估倫理決策都有待進一步研究。目前，德國已通過了自動駕駛的首部法律條例，其中包括無人駕駛倫理決策設計的規(guī)范。未來關于制定機器倫理設計研究的法律及行業(yè)標準將會是重要研究方向。