李泯泯

人工智能、物聯(lián)網(wǎng)和機(jī)器人技術(shù)將為社會(huì)創(chuàng)造新的機(jī)遇和價(jià)值。歐盟委員會(huì)充分認(rèn)識(shí)到新興數(shù)字技術(shù)的重要性和潛力，以及在該領(lǐng)域大量投資的必要性，進(jìn)而致力于使歐洲獲得人工智能、物聯(lián)網(wǎng)和機(jī)器人技術(shù)領(lǐng)域的世界先進(jìn)地位。為了實(shí)現(xiàn)這一目標(biāo)，需要一個(gè)清晰、可預(yù)測(cè)的法律框架來(lái)應(yīng)對(duì)技術(shù)挑戰(zhàn)。

一、安全和責(zé)任框架概述

安全和責(zé)任框架的總體目標(biāo)旨在保障所有產(chǎn)品和服務(wù)（包括集成新興數(shù)字技術(shù)的產(chǎn)品和服務(wù)）的安全、可靠、同步運(yùn)行，并有效修復(fù)已發(fā)生的損失。雖然集成了新型數(shù)字技術(shù)的產(chǎn)品和系統(tǒng)具有很高的安全性，但安全和責(zé)任框架可以提供可靠的補(bǔ)救機(jī)制來(lái)彌補(bǔ)發(fā)生的損害，有助于更好地保護(hù)消費(fèi)者。當(dāng)人工智能、物聯(lián)網(wǎng)和機(jī)器人等新技術(shù)興起時(shí)，建立明確清晰的安全和責(zé)任框架勢(shì)在必行，以期保護(hù)消費(fèi)者和企業(yè)的合法權(quán)益。

歐盟擁有健全的安全和產(chǎn)品責(zé)任監(jiān)管框架，以及完善的安全標(biāo)準(zhǔn)體系，在保障公民在單一市場(chǎng)上的福祉的同時(shí)，鼓勵(lì)創(chuàng)新和技術(shù)應(yīng)用。但是，人工智能、物聯(lián)網(wǎng)和機(jī)器人技術(shù)正在改變?cè)S多產(chǎn)品和服務(wù)的特性。

2018年4月25日，歐盟委員會(huì)通過(guò)了《人工智能通訊》，宣布將提交一份報(bào)告，以評(píng)估人工智能、物聯(lián)網(wǎng)和機(jī)器人技術(shù)對(duì)現(xiàn)有安全和責(zé)任框架的影響。本報(bào)告提出的目標(biāo)以及《人工智能白皮書(shū)》僅供討論，重點(diǎn)關(guān)注安全和責(zé)任框架已確定的關(guān)鍵問(wèn)題。

二、人工智能、物聯(lián)網(wǎng)和機(jī)器人技術(shù)的特征及機(jī)遇

（一）新興技術(shù)的特征

人工智能、物聯(lián)網(wǎng)和機(jī)器人技術(shù)有許多共同特征，包括連接性、自主性、復(fù)雜性和數(shù)據(jù)依賴性。配備人工智能的系統(tǒng)可以通過(guò)從經(jīng)驗(yàn)中學(xué)習(xí)來(lái)改善自身性能。其復(fù)雜性既反映在供應(yīng)鏈涉及多個(gè)經(jīng)濟(jì)運(yùn)營(yíng)商，又反映在構(gòu)成新技術(shù)生態(tài)系統(tǒng)的組件、零件、軟件、系統(tǒng)或服務(wù)的多樣性。此外，隨著投放市場(chǎng)的變化，它們的開(kāi)放性進(jìn)一步提升。同時(shí)，由于涉及大量數(shù)據(jù)，導(dǎo)致算法依賴以及人工智能決策的不透明性，使得對(duì)人工智能產(chǎn)品行為更難預(yù)測(cè)，對(duì)造成損害的潛在原因排查難度加大。最后，連接性和開(kāi)放性也可能使人工智能和物聯(lián)網(wǎng)產(chǎn)品面臨網(wǎng)絡(luò)威脅。

（二）新興技術(shù)的機(jī)遇

人工智能、物聯(lián)網(wǎng)和機(jī)器人技術(shù)為人類社會(huì)創(chuàng)造了許多機(jī)遇。例如可以增加用戶對(duì)新興技術(shù)的信任和社會(huì)認(rèn)可，提高產(chǎn)品質(zhì)量、改善流程和商業(yè)模式，以及幫助歐洲制造商提高生產(chǎn)效率。同時(shí)，該技術(shù)還有望幫助人類解決一些重大挑戰(zhàn)，包括治療慢性疾病、預(yù)測(cè)疾病爆發(fā)、減少交通事故死亡率、應(yīng)對(duì)氣候變化或預(yù)測(cè)網(wǎng)絡(luò)安全威脅等。

一方面，新技術(shù)通過(guò)提高產(chǎn)品的安全性從而使產(chǎn)品降低某些風(fēng)險(xiǎn)。例如，網(wǎng)聯(lián)汽車和自動(dòng)駕駛汽車可以提高道路安全性，從而避免大多數(shù)人為錯(cuò)誤引起的交通事故。另一方面，物聯(lián)網(wǎng)系統(tǒng)可以接收和處理不同來(lái)源的大量數(shù)據(jù)，提高產(chǎn)品召回的有效性，提醒用戶避免產(chǎn)品的安全問(wèn)題。如果生產(chǎn)商發(fā)現(xiàn)物聯(lián)網(wǎng)產(chǎn)品在使用期間出現(xiàn)安全問(wèn)題，可以直接與用戶溝通，警告其相關(guān)風(fēng)險(xiǎn)，或者直接解決問(wèn)題。例如，2017年某智能手機(jī)生產(chǎn)商在召回設(shè)備時(shí)對(duì)軟件進(jìn)行升級(jí)，把待召回的手機(jī)電池容量降為零，以便用戶停止使用危險(xiǎn)設(shè)備。此外，這些新技術(shù)可以提高產(chǎn)品的可追溯性。例如，物聯(lián)網(wǎng)的連接功能可以使企業(yè)和市場(chǎng)監(jiān)督機(jī)構(gòu)跟蹤危險(xiǎn)產(chǎn)品并識(shí)別整個(gè)供應(yīng)鏈中的風(fēng)險(xiǎn)。

三、人工智能、物聯(lián)網(wǎng)和機(jī)器人技術(shù)對(duì)現(xiàn)有安全框架的挑戰(zhàn)及應(yīng)對(duì)

歐盟委員會(huì)關(guān)于《建立對(duì)以人為本的人工智能的信任》（Building Trust in Human-Centric Artificial Intelligence）指出，人工智能系統(tǒng)應(yīng)綜合設(shè)計(jì)安全機(jī)制，以確保每一步的安全性都經(jīng)受得住檢驗(yàn)，確保所有相關(guān)人員的身心安全。

歐盟產(chǎn)品安全法規(guī)旨在確保投放到歐盟市場(chǎng)上的產(chǎn)品滿足高標(biāo)準(zhǔn)的健康、安全和環(huán)境要求，并且此類產(chǎn)品可以在整個(gè)歐盟內(nèi)部自由流通。針對(duì)該行業(yè)的立法以《通用產(chǎn)品安全指令》為依托，要求即使不受歐盟立法監(jiān)管的消費(fèi)品也要保證安全。歐洲標(biāo)準(zhǔn)化是歐盟產(chǎn)品安全法規(guī)的重要組成部分?？紤]到數(shù)字化和新興數(shù)字技術(shù)的全球化特征，標(biāo)準(zhǔn)化領(lǐng)域的國(guó)際合作對(duì)維持歐洲工業(yè)的競(jìng)爭(zhēng)力至關(guān)重要。

歐盟產(chǎn)品安全框架的很大一部分是在人工智能、物聯(lián)網(wǎng)或機(jī)器人等數(shù)字技術(shù)出現(xiàn)之前制定的。因此，它并不完全包含解決這些新興技術(shù)挑戰(zhàn)和風(fēng)險(xiǎn)的明確規(guī)定。但是，由于現(xiàn)有產(chǎn)品安全框架是技術(shù)中立的，并不意味它不適用于采用了這些技術(shù)的產(chǎn)品。此外，在醫(yī)療設(shè)備或汽車等領(lǐng)域，該框架的后續(xù)立法已經(jīng)明確將數(shù)字技術(shù)納入考慮范圍。

（一）新興技術(shù)的連接性對(duì)傳統(tǒng)安全概念提出挑戰(zhàn)

連接性已成為新興產(chǎn)品和服務(wù)的核心特征，對(duì)傳統(tǒng)的安全概念提出了挑戰(zhàn)。以冰島兒童智能手表的“歐盟快速預(yù)警系統(tǒng)”為例，該產(chǎn)品預(yù)期利用本地化來(lái)確保兒童安全，卻存在被用作接觸兒童工具的危險(xiǎn)。而德國(guó)乘用車中的無(wú)線電設(shè)備如果存在軟件安全漏洞，允許未經(jīng)授權(quán)的第三方訪問(wèn)其互連控制系統(tǒng)并進(jìn)行惡意攻擊，就會(huì)增加發(fā)生交通事故的風(fēng)險(xiǎn)。另外，工業(yè)應(yīng)用缺乏必要的安全等級(jí)，也可能威脅員工的人身安全。例如針對(duì)工廠的關(guān)鍵控制系統(tǒng)開(kāi)展網(wǎng)絡(luò)攻擊，可觸發(fā)導(dǎo)致死亡事故的爆炸。

歐盟產(chǎn)品安全法規(guī)（Union product safety legislation）中的安全性屬于公共政策目標(biāo)，旨在確保產(chǎn)品安全。根據(jù)規(guī)定，產(chǎn)品的使用范圍包括預(yù)期用途、可預(yù)見(jiàn)用途，以及合理可預(yù)見(jiàn)的誤用。產(chǎn)品安全性概念涵蓋了各種風(fēng)險(xiǎn)的防護(hù)，包括網(wǎng)絡(luò)風(fēng)險(xiǎn)和與設(shè)備斷開(kāi)連接的相關(guān)風(fēng)險(xiǎn)。

歐盟產(chǎn)品安全法規(guī)尚未針對(duì)影響用戶安全的網(wǎng)絡(luò)威脅制定特殊的強(qiáng)制性要求。不過(guò)，《醫(yī)療器械法規(guī)》、《測(cè)量?jī)x器指令》、《無(wú)線電設(shè)備指令》和《整車型式批準(zhǔn)法規(guī)》中包含了網(wǎng)絡(luò)威脅安全性的相關(guān)規(guī)定?！毒W(wǎng)絡(luò)安全法案》為信息和通信技術(shù)（ICT）產(chǎn)品、服務(wù)和流程制定了自愿性網(wǎng)絡(luò)安全認(rèn)證框架。

（二）人工智能自主性與制造商期望存在偏差

人工智能產(chǎn)品和系統(tǒng)的自主性可能會(huì)使機(jī)器做出的決策與生產(chǎn)者的最初意圖以及用戶的期望有所偏差。歐盟產(chǎn)品安全框架規(guī)定制造商在將人工智能產(chǎn)品投放市場(chǎng)之前需進(jìn)行風(fēng)險(xiǎn)評(píng)估，為用戶提供明確的安全指示和警告。但是產(chǎn)品在全生命周期內(nèi)都可能因自主行為對(duì)用戶造成風(fēng)險(xiǎn)，需要實(shí)時(shí)更新風(fēng)險(xiǎn)評(píng)估程序。

歐盟產(chǎn)品安全法規(guī)尚未明確如何解決人工智能自主性產(chǎn)品和系統(tǒng)中由于人為疏忽導(dǎo)致的問(wèn)題，從產(chǎn)品設(shè)計(jì)到人工智能產(chǎn)品全生命周期都需要人工監(jiān)督來(lái)保障安全。目前，歐盟法律框架中的安全性通常指人身傷害威脅。但是人工智能應(yīng)用的類人行為可能會(huì)給用戶造成心理健康風(fēng)險(xiǎn)，應(yīng)考慮將精神健康風(fēng)險(xiǎn)納入立法框架。同時(shí)要求生產(chǎn)商明確其產(chǎn)品可能對(duì)用戶（特別是弱勢(shì)用戶，例如被護(hù)理的老年人）造成的心理?yè)p害。

（三）數(shù)據(jù)依賴產(chǎn)生的安全風(fēng)險(xiǎn)需要保障機(jī)制

數(shù)據(jù)準(zhǔn)確性和相關(guān)性可以確保人工智能系統(tǒng)按照生產(chǎn)者意圖做出決定。歐盟產(chǎn)品安全法規(guī)未明確解決由錯(cuò)誤數(shù)據(jù)引起的安全風(fēng)險(xiǎn)。根據(jù)產(chǎn)品的“用途”，生產(chǎn)商應(yīng)在設(shè)計(jì)和測(cè)試階段預(yù)測(cè)數(shù)據(jù)的準(zhǔn)確性及其與安全功能的相關(guān)性。例如，設(shè)計(jì)用于檢測(cè)特定對(duì)象的人工智能系統(tǒng)時(shí)，設(shè)計(jì)人員應(yīng)收集在光線不足的典型環(huán)境中進(jìn)行產(chǎn)品測(cè)試的數(shù)據(jù)。

歐盟產(chǎn)品安全法規(guī)應(yīng)該作出規(guī)定，要求制造商在設(shè)計(jì)階段解決錯(cuò)誤數(shù)據(jù)帶來(lái)的安全風(fēng)險(xiǎn)。確保在人工智能產(chǎn)品和系統(tǒng)的使用過(guò)程中有良好的機(jī)制來(lái)保障數(shù)據(jù)質(zhì)量。

（四）人工智能的不透明性使決策過(guò)程難以跟蹤

人工智能產(chǎn)品和系統(tǒng)的不透明性可能會(huì)導(dǎo)致難以跟蹤系統(tǒng)的決策過(guò)程，即所謂的“算法黑箱”。隨著人工智能算法變得越來(lái)越先進(jìn)，并部署到關(guān)鍵領(lǐng)域，人類理解系統(tǒng)如何做出算法決策具有決定性的意義，這對(duì)于事后執(zhí)行機(jī)制尤其重要。

歐盟產(chǎn)品安全法規(guī)目前尚未解決基于算法不透明所帶來(lái)的日益增長(zhǎng)的風(fēng)險(xiǎn)。因此，有必要考慮制定更多對(duì)算法透明性、穩(wěn)健性和問(wèn)責(zé)制的相關(guān)法律規(guī)定。在發(fā)生事故的情況下，規(guī)定算法開(kāi)發(fā)人員必須公開(kāi)數(shù)據(jù)集的設(shè)計(jì)參數(shù)和元數(shù)據(jù)。這對(duì)于事后執(zhí)行機(jī)制的完善、建立對(duì)新興數(shù)字技術(shù)的信任尤為重要。

（五）軟件更新對(duì)安全性構(gòu)成風(fēng)險(xiǎn)

最終產(chǎn)品制造商有義務(wù)在產(chǎn)品投放市場(chǎng)時(shí)預(yù)見(jiàn)該產(chǎn)品中集成軟件的風(fēng)險(xiǎn)。某些歐盟產(chǎn)品安全法規(guī)明確包含了產(chǎn)品中集成軟件的規(guī)定。例如，《機(jī)械指令》要求控制系統(tǒng)軟件出現(xiàn)故障時(shí)，不會(huì)導(dǎo)致出現(xiàn)危險(xiǎn)情況。

歐盟產(chǎn)品安全法規(guī)規(guī)定，出于安全原因，可以將軟件更新與維護(hù)操作進(jìn)行比較，前提是不會(huì)對(duì)已經(jīng)投放市場(chǎng)的產(chǎn)品進(jìn)行重大更改，并且不會(huì)構(gòu)成初始風(fēng)險(xiǎn)評(píng)估中未預(yù)見(jiàn)的新風(fēng)險(xiǎn)。但是，如果軟件的更新對(duì)已下載的產(chǎn)品進(jìn)行了實(shí)質(zhì)性修改，則整個(gè)產(chǎn)品可能會(huì)被視為新產(chǎn)品，并且在執(zhí)行修改時(shí)必須重新評(píng)估是否符合相關(guān)安全產(chǎn)品法規(guī)的規(guī)定。但歐盟產(chǎn)品安全法規(guī)仍需要對(duì)獨(dú)立軟件做出特定和明確的要求，確保人工智能產(chǎn)品和系統(tǒng)中的獨(dú)立軟件具備安全功能。此外，應(yīng)規(guī)定制造商承擔(dān)相關(guān)的強(qiáng)制性義務(wù)，以確保上傳的軟件不會(huì)在人工智能產(chǎn)品的生命周期內(nèi)對(duì)安全性產(chǎn)生影響。

（六）新興數(shù)字技術(shù)受復(fù)雜的價(jià)值鏈影響

在歐盟產(chǎn)品安全框架下，產(chǎn)品的安全性責(zé)任由生產(chǎn)者承擔(dān)，包括產(chǎn)品中集成的各個(gè)部件。歐盟產(chǎn)品安全法規(guī)考慮了價(jià)值鏈的復(fù)雜性，并遵循“共同責(zé)任”的原則對(duì)多家企業(yè)施加了義務(wù)。

歐盟產(chǎn)品安全法規(guī)明確規(guī)定了價(jià)值鏈中的企業(yè)與用戶之間進(jìn)行合作的條款，尤其是價(jià)值鏈中影響產(chǎn)品安全的每個(gè)企業(yè)（例如軟件生產(chǎn)者）和用戶（通過(guò)修改產(chǎn)品）都會(huì)承擔(dān)相關(guān)責(zé)任，并為價(jià)值鏈中的下一個(gè)行為者提供必要的信息和保護(hù)措施，以期為復(fù)雜的價(jià)值鏈問(wèn)題提供法律依據(jù)。

四、人工智能、物聯(lián)網(wǎng)和機(jī)器人技術(shù)對(duì)現(xiàn)有責(zé)任框架的挑戰(zhàn)及應(yīng)對(duì)

產(chǎn)品安全和產(chǎn)品責(zé)任法規(guī)是歐盟的兩大互補(bǔ)機(jī)制，最大程度地降低新型技術(shù)產(chǎn)品和系統(tǒng)對(duì)用戶的傷害，國(guó)家則通過(guò)民事責(zé)任框架對(duì)各種原因造成的損害進(jìn)行賠償，即與不同的責(zé)任人（例如所有者、經(jīng)營(yíng)者或服務(wù)提供者）溝通。民事責(zé)任法規(guī)在社會(huì)中起著雙重作用，一方面確保受害者獲得賠償;另一方面為責(zé)任方提供經(jīng)濟(jì)誘因，以避免造成這種損害。責(zé)任法規(guī)必須始終在保護(hù)公民免受傷害與鼓勵(lì)企業(yè)創(chuàng)新之間維持平衡。

（一）新興技術(shù)降低責(zé)任框架有效性

人工智能、物聯(lián)網(wǎng)和機(jī)器人等新興數(shù)字技術(shù)的特征可能會(huì)在某些方面影響責(zé)任框架，并降低其有效性?！懂a(chǎn)品責(zé)任指令》規(guī)定生產(chǎn)商應(yīng)對(duì)因產(chǎn)品缺陷造成的損害承擔(dān)責(zé)任。發(fā)生人身或財(cái)產(chǎn)損失時(shí)，如果受害方能夠證明損失和產(chǎn)品缺陷（即產(chǎn)品沒(méi)有提供公眾預(yù)期的安全性）之間存在因果關(guān)系，則有權(quán)獲得賠償。根據(jù)嚴(yán)格的過(guò)錯(cuò)和責(zé)任認(rèn)定，國(guó)家賠償責(zé)任制度為產(chǎn)品和服務(wù)的受害者提供了幾項(xiàng)并行的索賠要求。投保適當(dāng)?shù)谋ｋU(xiǎn)可以為受害者提供穩(wěn)定的賠償，從而減輕事故帶來(lái)的負(fù)面影響。明確的責(zé)任規(guī)定可幫助保險(xiǎn)公司計(jì)算風(fēng)險(xiǎn)，并向承擔(dān)損害最終責(zé)任的當(dāng)事方要求賠償。例如，如果事故是由產(chǎn)品缺陷導(dǎo)致的，則汽車保險(xiǎn)公司可以在賠償受害者之后再向制造商索賠。

與其他類似產(chǎn)品和服務(wù)相比，新興數(shù)字技術(shù)產(chǎn)品和服務(wù)事故的受害者無(wú)法享受根據(jù)國(guó)家侵權(quán)法獲得賠償?shù)谋Ｗo(hù)，可能會(huì)降低社會(huì)對(duì)新興技術(shù)的接受程度，增加應(yīng)用阻力。此外還需要進(jìn)一步評(píng)估新技術(shù)對(duì)現(xiàn)有責(zé)任框架的挑戰(zhàn)是否會(huì)導(dǎo)致法律適用的不確定性，可能會(huì)增加生產(chǎn)者和供應(yīng)鏈中其他企業(yè)的信息和保險(xiǎn)成本。

（二）產(chǎn)品、服務(wù)和價(jià)值鏈的復(fù)雜性增加索賠難度

人工智能應(yīng)用通常集成在復(fù)雜的物聯(lián)網(wǎng)環(huán)境中，相應(yīng)提高了使用者的索賠門(mén)檻。首先，由于軟件有多種類型和形式，因此不能簡(jiǎn)單地將軟件歸類為服務(wù)或產(chǎn)品。盡管《產(chǎn)品責(zé)任指令》對(duì)產(chǎn)品的定義很寬泛，但可以進(jìn)一步明確生產(chǎn)者概念，擴(kuò)大責(zé)任范圍，對(duì)于軟件或其他數(shù)字功能導(dǎo)致產(chǎn)品缺陷從而造成的損失，明確賠償義務(wù)和責(zé)任范圍。這樣可以更好地根據(jù)相關(guān)法律規(guī)定判斷是否可以將經(jīng)濟(jì)參與者（例如軟件開(kāi)發(fā)人員）視為生產(chǎn)者，從而確定相關(guān)責(zé)任人。其次，由于技術(shù)的復(fù)雜性，擁有專業(yè)知識(shí)的經(jīng)濟(jì)成本過(guò)高，受害者很難根據(jù)國(guó)家法律確定責(zé)任人并成功索賠。再次，人工智能產(chǎn)品和服務(wù)將與傳統(tǒng)技術(shù)交互，從而增加責(zé)任追溯的復(fù)雜性。例如，在可預(yù)見(jiàn)時(shí)期內(nèi)，自動(dòng)駕駛汽車將與傳統(tǒng)汽車并行。

可以通過(guò)修訂《產(chǎn)品責(zé)任指令》，減少人工智能相關(guān)受害者的舉證責(zé)任，進(jìn)一步有針對(duì)性地統(tǒng)一國(guó)家責(zé)任規(guī)則。

（三）連接性和開(kāi)放性對(duì)網(wǎng)絡(luò)安全義務(wù)提出挑戰(zhàn)

因產(chǎn)品網(wǎng)絡(luò)安全漏洞而造成的損害是否能得到充分的賠償問(wèn)題尚沒(méi)有明確的法律規(guī)定。在現(xiàn)有的責(zé)任框架中，應(yīng)該建立明確的網(wǎng)絡(luò)安全義務(wù)，使運(yùn)營(yíng)商明確自身義務(wù)，從而避免承擔(dān)不必要的責(zé)任。

根據(jù)《產(chǎn)品責(zé)任指令》，在產(chǎn)品的合理可預(yù)見(jiàn)使用方面，生產(chǎn)者是否可以預(yù)見(jiàn)某些問(wèn)題可能會(huì)變得越發(fā)突出。一是“后期缺陷抗辯”可能會(huì)有所增加。如果在產(chǎn)品投入市場(chǎng)時(shí)或在“開(kāi)發(fā)風(fēng)險(xiǎn)抗辯”（當(dāng)時(shí)的最新知識(shí)尚無(wú)法預(yù)見(jiàn)到缺陷）中不存在缺陷，則生產(chǎn)商不承擔(dān)責(zé)任。二是如果受害者未執(zhí)行安全更新，則有可能將此視為共同過(guò)失，從而減少生產(chǎn)商的責(zé)任。三是由于可預(yù)見(jiàn)合理使用的概念和共同過(guò)失問(wèn)題（例如無(wú)法下載安全更新）越發(fā)普遍，受害者可能會(huì)難以獲得產(chǎn)品缺陷造成的損害賠償。

（四）自主性和不透明性造成索賠困難

人工智能的“算法黑箱”效應(yīng)，使得人工智能應(yīng)用的自主性造成的損害，很難獲得賠償。理解人工智能所使用的算法和數(shù)據(jù)需要具有專業(yè)分析能力和技術(shù)專長(zhǎng)，受害者可能會(huì)因此付出高昂的代價(jià)。此外，如果沒(méi)有潛在責(zé)任方的配合，就無(wú)法訪問(wèn)算法和數(shù)據(jù)，因此導(dǎo)致受害者實(shí)際上無(wú)法提出責(zé)任索賠。

某些自主人工智能設(shè)備和服務(wù)的運(yùn)行在責(zé)任方面可能具有特定的風(fēng)險(xiǎn)特征。這主要涉及在公共場(chǎng)所運(yùn)行的人工智能設(shè)備（例如全自動(dòng)駕駛汽車、無(wú)人機(jī)和包裹運(yùn)送機(jī)器人），或具有類似風(fēng)險(xiǎn)的人工智能服務(wù)（例如引導(dǎo)或控制車輛的交通管理服務(wù)或配電管理）。嚴(yán)格的賠償責(zé)任可以確保一旦發(fā)生這種風(fēng)險(xiǎn)，無(wú)論過(guò)錯(cuò)如何，都能給受害者提供賠償。

針對(duì)運(yùn)行具有特定風(fēng)險(xiǎn)的人工智能應(yīng)用，歐盟委員會(huì)正在尋求相關(guān)意見(jiàn)，以便有效補(bǔ)償潛在的受害者。此外，歐盟委員會(huì)還在征求關(guān)于將嚴(yán)格的責(zé)任認(rèn)定與潛在義務(wù)相結(jié)合，制定可用保險(xiǎn)的意見(jiàn)，以確保不論責(zé)任方的償付能力如何，受害者都能獲得賠償。針對(duì)潛在責(zé)任方?jīng)]有記錄與評(píng)估責(zé)任有關(guān)的數(shù)據(jù)，或者不愿意與受害人分享數(shù)據(jù)的行為，歐盟委員會(huì)正在探討是否需要調(diào)整因果關(guān)系和過(guò)錯(cuò)責(zé)任。

五、結(jié)論

人工智能、物聯(lián)網(wǎng)和機(jī)器人等新興數(shù)字技術(shù)的出現(xiàn)，對(duì)產(chǎn)品安全和責(zé)任方面提出了新的挑戰(zhàn)，包括連接性、自主性、數(shù)據(jù)依賴性、不透明性、產(chǎn)品和系統(tǒng)的復(fù)雜性、軟件更新以及更為復(fù)雜的安全管理和價(jià)值鏈。當(dāng)前的產(chǎn)品安全法規(guī)仍有待完善，特別是需要分別對(duì)《通用產(chǎn)品安全指令》、《機(jī)械指令》、《無(wú)線電設(shè)備指令》和《新立法框架》進(jìn)行修訂補(bǔ)充。

根據(jù)現(xiàn)行法規(guī)，發(fā)生損害時(shí)的成本分配可能不公平或效率低下。為了解決該問(wèn)題以及現(xiàn)有框架中的潛在不確定性，歐盟可以考慮采用針對(duì)性的、基于風(fēng)險(xiǎn)的方法，采取適當(dāng)?shù)呐e措對(duì)《產(chǎn)品責(zé)任指令》和國(guó)家責(zé)任制度進(jìn)行調(diào)整，即考慮人工智能系統(tǒng)應(yīng)用所帶來(lái)的多重風(fēng)險(xiǎn)，以解決現(xiàn)有安全和責(zé)任框架的不確定性。

（譯自：Repott on the safety and liability implications of Artificial Intelligence，the Internet of Things and robotics）