李軍

目前在人工智能監(jiān)管方面的挑戰(zhàn)主要來自公平性、透明性和責任認定三方面。

在開始談論人工智能管理之前，先做一道選擇題。

一輛載人的自動駕駛汽車高速接近一個路口，此時路口有十個行人正在過馬路。在剎車突然失靈的情況下，汽車的自動駕駛系統(tǒng)應該如何選擇：

1、拐向路邊的固定障礙，躲避十個行人但犧牲車內一位乘客;

2、保持直行，確保車內一位乘客的安全但犧牲十個行人。

您會如何選擇？我們看看公眾的觀點。

當美國學術期刊《科學》就這個問題進行公眾調查時，76%的被調查者表示，應該選擇犧牲一位乘客以保全十位行人。而且這些選擇“犧牲一位乘客”的被調查者都同意以下觀點：自動駕駛汽車的制造商應該把“汽車事故死亡數最小化”作為一個指導原則設計自動駕駛系統(tǒng)——我們且稱之為“公平對待系統(tǒng)”。

有意思的是，當詢問被調查者是否愿意購買安裝“公平對待系統(tǒng)”的自動駕駛汽車時，大部分人表示，他們還是會選擇安裝“車內乘客優(yōu)先系統(tǒng)”的汽車。

作為人工智能技術發(fā)展目前最成熟的領域之一，自動駕駛汽車遇到的選擇悖論并不是特例。事實上，人工智能技術作為數字經濟時代最重要的科技創(chuàng)新，在逐漸深入發(fā)展并成為現代社會一部分的時候，從道德與法律到監(jiān)管與責任劃分，無不面臨著前所未有的兩難選擇。

歐美研究監(jiān)管原則

針對這樣的挑戰(zhàn)，目前從美國、歐盟到中國，各國都在從技術、法律、行政和道德倫理等多個方面進行研究探討，以期在不遠的將來制定滿足人工智能應用的監(jiān)管原則。

76%的被調查者表示，自動駕駛汽車的制造商英國把“汽車事故死亡數量小化”作為一個指導原則設置自動駕駛系統(tǒng)。

在人工智能技術發(fā)展最為領先的美國，有關人工智能監(jiān)管的研究是由最高行政機構——總統(tǒng)行政辦公室直接領導參與的。2016年，在組織了有關人工智能的多場研討會之后，總統(tǒng)行政辦公室和國家科技委員會（NSTC）于10月份發(fā)布了兩份重量級報告：《國家人工智能研究發(fā)展戰(zhàn)略規(guī)劃》和《為未來的人工智能做好準備》。

在《國家人工智能研究發(fā)展戰(zhàn)略規(guī)劃》中，包含了7個關鍵性戰(zhàn)略，其中的第三戰(zhàn)略：理解和確定人工智能在倫理、法律和社會領域的影響;第四戰(zhàn)略：確保人工智能系統(tǒng)的安全和隱私保護，前瞻性地包含了有關人工智能在倫理、法律、社會影響、安全和隱私保護等領域的相關內容，包含了和人工智能監(jiān)管相關的目標與原則。

歐盟由歐洲議會牽頭以立法研究的方式探討人工智能和機器人監(jiān)管的相關原則。在美國總統(tǒng)行政辦公室發(fā)布人工智能規(guī)劃和報告的同月，歐盟法律事務委員會向歐盟提交了《歐盟機器人民事法律規(guī)則》。該法律規(guī)則從機器人使用的責任規(guī)則、倫理原則、對人類自身和財產的傷害賠償等多方面提出了對基于人工智能技術控制機器人的監(jiān)管原則。

作為即將脫離歐盟的英國，也在人工智能監(jiān)管領域開始獨立的研究。2017年2月，英國下議院科學技術委員會向多位英國頂尖的互聯網與人工智能領域的專家發(fā)出邀請，希望其對于“決策中的算法”給出自己的專家意見。4月26日，科學技術委員公布了收到的正式回復，并將以此作為基礎開展人工智能監(jiān)管的研究。

公平和準確難平衡

從美國、歐盟和英國的研究結果和形成的文件、決議與規(guī)則來看，目前在人工智能監(jiān)管方面形成公式的挑戰(zhàn)主要來自公平性、透明性和責任認定等三方面。

首先是公平性。對于人工智能算法來說，任何對于輸出，也就是預測值有貢獻的信息都應該作為輸入變量參與到人工智能算法的計算中。但在現實社會中，并不是所有與結果相關的信息都可以被接受。

2014年以來，美國多個州的犯罪執(zhí)法機構都依靠一個名為COMPAS的人工智能系統(tǒng)預測過往有犯罪記錄的人員再次犯罪的可能性，并以此數據作為是否允許罪犯減刑提前回歸社會的決策依據之一。2016年6月，COMPAS系統(tǒng)被第三方調查機構ProPublica質疑其預測結果對黑人罪犯有明顯的歧視。

按照ProPublica提供的數據，在各個預測再次犯罪的評分水平上，白人與黑人均保持相似的再次犯罪概率。

但從整體結果看，在其他輸入條件與白人罪犯基本類似的情況下，COMPAS人工智能預測模型仍然會傾向于把黑人罪犯判別為會再次犯罪。其中的一個重要原因是有關黑人的記錄遠多于白人的記錄。這一點是COMPAS人工智能預測模型無法改變的。

這個結果引起了媒體和社會的爭議。單純基于人種、膚色、文化、信仰乃至生活習性的差異，人工智能系統(tǒng)基于算法就給予不同的評判和對待，這對于公平是一種事實上的漠視。那么未來在人工智能技術廣泛進入人類社會的時候，各種小眾人群都有可能由于個體差異遭受來自“模型的歧視”。

這顯然是現代社會的文明準則所不能接受的。這也是監(jiān)管部門首先要解決的問題——模型的公平性。

目前可行的折中方法是，限制種族、膚色、年齡、性取向和其他生物與生活習慣等特征被作為輸入變量參與到人工智能算法的構建，以避免這些有可能造成“模型的歧視”的變量最終影響模型的預測結果。

應該認識到，人工智能模型的公平性和準確性是一個蹺蹺板，如何讓這個蹺蹺板取得平衡并與現代社會的公平價值觀取得一致，目前還沒有一個最佳答案。

找不到問題所在

其次是透明性，也被稱為可解釋性。在現有的人工智能技術發(fā)展路徑下，成熟的人工智能算法或許永遠都是一個“黑盒子”——外界無法得知內部的運行機制，只能夠通過對輸入和輸出數據的解讀來了解其能夠達到的效果，并推測其內部計算機制的構成。

目前科技界主流的看法都認為人工智能模型缺乏透明性，而且這一點不會隨著技術發(fā)展而徹底改變。那么以往通過企業(yè)透明披露產品和系統(tǒng)信息以便政府監(jiān)管的做法在人工智能領域是行不通的。

舉個例子，傳統(tǒng)汽車是由車身、發(fā)動機、變速箱、剎車系統(tǒng)、電子控制系統(tǒng)等多個部件組成。每個部件也都可以拆解成為具體的零件。任何一個產品問題都可以歸結到具體零件上，并針對其提出改進意見。

但對于自動駕駛汽車，人工智能系統(tǒng)作為一個整體完成最終的控制動作，一旦發(fā)生人工智能系統(tǒng)的錯誤操作，除了明顯的傳感器故障，我們無法清晰定位問題原因，也不會立即明確該如何調整系統(tǒng)。

目前通用的做法是猜想故障原因，并用場景還原的方式提供與錯誤操作時類似的數據輸入，并觀察輸出結果。在捕捉到錯誤輸出后，通過提供修正錯誤的訓練數據集，逐步完成對人工智能系統(tǒng)的調整。最終還是要在反復測試的情況下確認人工智能系統(tǒng)已經完成了針對此錯誤的修正。

由于人工智能算法的非透明性，監(jiān)管部門就無法從人工智能算法本身入手提出管理要求，因為人工智能系統(tǒng)的提供商自己都無法清晰解釋算法的核心工作機理。所以，最終的監(jiān)管要求就會從基于原理和結構管理轉而基于最終結果管理。也就是說，不管白貓黑貓，抓到老鼠就是好貓。

非透明性決定了未來人類在監(jiān)管人工智能系統(tǒng)時永遠要面臨著“黑盒子”帶來的不確定性。而這一點，也給責任認定帶來天然的障礙。

誰來承擔責任

對于責任認定的探討研究，目前是最少也是最困難的。對于一般的機械電氣設備，由于設計缺陷、材料質量或其他產品質量所導致的人身財產損害，設備制造商將承擔主要甚至全部責任。

而對于人工智能系統(tǒng)控制的設備，由于其在算法透明性和可解釋性方面的困難，監(jiān)管部門幾乎無法從算法本身去認定是否包含設計缺陷，也就無法就算法本身的設計去進行責任認定，這為監(jiān)管帶來了非常大的困難。

有意思的是，歐盟在其2017年2月投票通過的《歐盟機器人民事法律規(guī)則》中，提出了考慮給予機器人以特殊的法律地位，即電子人的概念。也就是說，未來法律體系中將會存在一個不同于自然人、法人、動物等的另一法律實體，其能夠獨立存在，享有自己的權利并承擔相應的義務。對于由自身引起的第三方人身財產傷害，電子人將會被認定承擔一定的責任，并作出賠償。

如果電子人的概念未來被現有的人類社會廣泛接受，那么其造成的影響就不局限于人工智能監(jiān)管本身，而將深深影響到未來社會的各個方面。

除了公平性、透明性和責任認定之外，人工智能系統(tǒng)還會大量替代現有的人工崗位，從而對未來的勞動力市場產生巨大的影響。由此而衍生的社會就業(yè)沖擊和對人類技能要求的改變還會影響更多的方面。

2017年2月，微軟公司創(chuàng)始人比爾?蓋茨在接受媒體采訪時表示，應該通過對機器人征稅，來籌集資金，以幫助被自動化所取代的工人進行再培訓。

歐盟在2月份投票通過《歐盟機器人民事法律規(guī)則》時，也同時否決了一項收取機器人稅的建議。歐盟的這次否決并不能說明歐盟對于機器人稅的最終態(tài)度，只是因為目前機器人還不具有人工智能，也沒有對人類工作崗位形成大規(guī)模替代。并且現在開征機器人稅對人工智能技術的快速發(fā)展和創(chuàng)新會有明顯的負面影響。

在《歐盟機器人民事法律規(guī)則》中，法律事務委員會呼吁成立一個專門負責機器人和人工智能監(jiān)管的歐盟機構，負責就技術、倫理、監(jiān)管等問題提出專業(yè)知識，并管理人工智能發(fā)展出現的問題，以便支持歐盟內部各成員國和企業(yè)更好的抓住人工智能發(fā)展的機遇，并應對發(fā)展過程中產生的挑戰(zhàn)。