王鶄峰 欒群

大數(shù)據(jù)、云計(jì)算等技術(shù)的進(jìn)步促進(jìn)了人工智能產(chǎn)業(yè)發(fā)展，成為未來(lái)經(jīng)濟(jì)社會(huì)發(fā)展的重要方向和支柱。人工智能開(kāi)始在各個(gè)領(lǐng)域廣泛應(yīng)用，帶給人類便捷與高效的同時(shí)衍生出一系列安全問(wèn)題，如數(shù)據(jù)與個(gè)人隱私的保護(hù)、算法透明度與可解釋性的缺失、系統(tǒng)安全風(fēng)險(xiǎn)等。安全問(wèn)題也成為阻礙行業(yè)發(fā)展的一個(gè)主要障礙。解決這一問(wèn)題需要靠技術(shù)，與此同時(shí)，還要加強(qiáng)法律治理，確保人工智能安全、可靠、可控發(fā)展。

目前人工智能安全方面存在的主要風(fēng)險(xiǎn)

數(shù)據(jù)與個(gè)人隱私保護(hù)防范難度增加。人工智能的發(fā)展需要海量數(shù)據(jù)的收集、應(yīng)用和共享，但是，數(shù)據(jù)收集、深度處理和全球化傳遞中都可能危及數(shù)據(jù)和隱私安全。主要表現(xiàn)在三方面：一是智能設(shè)備和算法對(duì)于個(gè)人隱私的發(fā)掘分析能力遠(yuǎn)超以往技術(shù)，隱私所有權(quán)防范難度大大增加；二是用于身份識(shí)別驗(yàn)證的生物信息具有較強(qiáng)的穩(wěn)定性，一旦發(fā)生泄露無(wú)法找回或重置，生物信息的價(jià)值大大減損，且與個(gè)人生物信息綁定的相關(guān)安全驗(yàn)證都將面臨很高的安全風(fēng)險(xiǎn)，目前對(duì)生物信息安全問(wèn)題關(guān)注遠(yuǎn)遠(yuǎn)不夠；三是個(gè)人行為數(shù)據(jù)被智能設(shè)備和定位系統(tǒng)記錄、存儲(chǔ)和分析后會(huì)全面呈現(xiàn)個(gè)人的行為偏好、習(xí)慣和生活狀態(tài)，目前只規(guī)制“出售或提供行蹤軌跡信息，被他人用于犯罪的”情形，其它領(lǐng)域行為數(shù)據(jù)如何保護(hù)尚缺少相應(yīng)規(guī)定。

算法透明度與可解釋性缺失。一是人工智能算法的學(xué)習(xí)與決策存在海量數(shù)據(jù)本身的不確定性，使得算法的決策過(guò)程和決策規(guī)則難以被人洞悉，造成人工智能算法的透明度與可解釋性缺失；二是人工智能算法的設(shè)計(jì)是編程人員的主觀選擇和價(jià)值判斷，也可能在機(jī)器深度學(xué)習(xí)過(guò)程中自主演變和進(jìn)化，不能保障算法決策的公平性和透明度，難以認(rèn)定產(chǎn)生法律責(zé)任的主體；三是人工智能的判斷規(guī)則可能存在潛在歧視，一旦作為重大決策的參照物，會(huì)帶來(lái)不可想象的后果。

系統(tǒng)安全風(fēng)險(xiǎn)。系統(tǒng)安全風(fēng)險(xiǎn)主要表現(xiàn)在人工智能硬件應(yīng)用中，智能硬件的系統(tǒng)漏洞、基礎(chǔ)安全技術(shù)缺失以及復(fù)雜的供應(yīng)鏈條帶來(lái)的歸責(zé)困境。一是智能硬件缺失加密技術(shù)，采用默認(rèn)密碼技術(shù)措施不足，使大量的用戶信息處于極度危險(xiǎn)狀態(tài)；二是復(fù)雜的系統(tǒng)構(gòu)成導(dǎo)致高密度關(guān)聯(lián)風(fēng)險(xiǎn)增加。以智能網(wǎng)聯(lián)汽車為例，如因軟件漏洞導(dǎo)致系統(tǒng)被入侵后造成的安全事故責(zé)任，難以確定應(yīng)該由整車廠或是軟件系統(tǒng)服務(wù)提供商承擔(dān)責(zé)任。

國(guó)外安全監(jiān)管方面可借鑒的經(jīng)驗(yàn)做法

頒布保護(hù)數(shù)據(jù)和個(gè)人隱私指令。在數(shù)據(jù)保護(hù)和個(gè)人隱私方面，美國(guó)于1974 年頒布的《聯(lián)邦隱私權(quán)法》為隱私權(quán)保護(hù)的基本法，隨后頒布了《聯(lián)邦電子通信隱私法案》《公民網(wǎng)絡(luò)隱私權(quán)保護(hù)暫行條例》《個(gè)人隱私與國(guó)家信息基礎(chǔ)設(shè)施》等法律。歐盟對(duì)此已經(jīng)頒布多項(xiàng)個(gè)人數(shù)據(jù)保護(hù)指令，例如《關(guān)于涉及個(gè)人數(shù)據(jù)處理的個(gè)人保護(hù)以及此類數(shù)據(jù)自由流動(dòng)的指令》等，構(gòu)建了個(gè)人數(shù)據(jù)保護(hù)體系。2016年，歐盟頒布《個(gè)人數(shù)據(jù)保護(hù)通用條例》，禁止一切未經(jīng)同意而非法使用公民個(gè)人數(shù)據(jù)的行為。在個(gè)人數(shù)據(jù)隨時(shí)可被搜集的時(shí)代，任何情況下都必須堅(jiān)持保護(hù)隱私和個(gè)人數(shù)據(jù)的原則。歐盟法律事務(wù)委員會(huì)建議，針對(duì)人工智能領(lǐng)域進(jìn)行政策制定時(shí)，應(yīng)當(dāng)進(jìn)一步完善通過(guò)設(shè)計(jì)保護(hù)隱私、默認(rèn)保護(hù)隱私、知情同意、加密等概念的標(biāo)準(zhǔn)。

提高智能算法透明化程度和可責(zé)性。2017年1月12日，美國(guó)計(jì)算機(jī)協(xié)會(huì)下屬美國(guó)公共政策委員會(huì)發(fā)布文件，闡述了關(guān)于人工智能算法透明化和可責(zé)性七條原則，旨在通過(guò)算法透明化及可追溯性，盡量減少潛在的風(fēng)險(xiǎn)及危害。2017年2月，歐盟議會(huì)通過(guò)《機(jī)器人民事法律規(guī)則》，強(qiáng)調(diào)算法透明原則，即對(duì)某個(gè)人或更多人的生活可能產(chǎn)生實(shí)質(zhì)性的影響，借助于人工智能所做出的決策，必須在任何情況下都可以提供其決策背后的算法設(shè)計(jì)規(guī)則。

2017年12月11日，紐約市議會(huì)通過(guò)《政府部門自動(dòng)決策系統(tǒng)法案》，這是美國(guó)針對(duì)人工智能算法進(jìn)行立法監(jiān)管的首個(gè)法案，其目的在于促進(jìn)政府自動(dòng)決策算法的公開(kāi)、公平，提高政府決策智能算法的公信力。

采取系列措施保障系統(tǒng)安全。2016年，美國(guó)發(fā)布《美國(guó)國(guó)家人工智能研發(fā)戰(zhàn)略計(jì)劃》，為確保人工智能系統(tǒng)的安全，提出通過(guò)采取一系列措施，比如增強(qiáng)人工智能的可解釋性和透明度、構(gòu)建信任體系、增強(qiáng)可驗(yàn)證與可確認(rèn)性，以保護(hù)人工智能系統(tǒng)免受攻擊，從而實(shí)現(xiàn)長(zhǎng)期的人工智能安全和優(yōu)化。

對(duì)策與建議

一是加快構(gòu)建隱私權(quán)保護(hù)的法律。針對(duì)人工智能技術(shù)應(yīng)用的不同領(lǐng)域，收集個(gè)人信息的來(lái)源，構(gòu)架出一套自下而上、逐層具體、全面完善的隱私權(quán)保護(hù)的法律。一是對(duì)于個(gè)人敏感信息，明確列舉哪些信息屬于個(gè)人敏感信息，需要采取特殊的保護(hù)手段和使用限制予以保護(hù)；二是對(duì)于需要采集和存儲(chǔ)個(gè)人信息和數(shù)據(jù)隱私的單位和個(gè)人，在采集和存儲(chǔ)前應(yīng)當(dāng)明確告知信息主體，特定范圍的信息需要取得信息主體的明示同意；三是明確規(guī)定可能會(huì)給信息主體造成一定風(fēng)險(xiǎn)的個(gè)人信息和數(shù)據(jù)的獲取的正當(dāng)性和必要性條件，規(guī)范信息獲取行為，降低信息和數(shù)據(jù)被非法獲取和使用的風(fēng)險(xiǎn)。

二是法律明確人工智能算法透明化和可責(zé)性要求。一是算法設(shè)計(jì)者應(yīng)該對(duì)訓(xùn)練數(shù)據(jù)的來(lái)源及可靠性加以說(shuō)明；二是算法設(shè)計(jì)機(jī)構(gòu)應(yīng)記錄模型、算法、數(shù)據(jù)和具體決策，以便在解決出現(xiàn)的問(wèn)題或依法監(jiān)管時(shí)有據(jù)可查；三是算法應(yīng)用機(jī)構(gòu)應(yīng)采取可靠的技術(shù)手段對(duì)其算法的程序進(jìn)行驗(yàn)證，以提高基于此算法所自動(dòng)做出的決策的可信度；四是定時(shí)評(píng)估系統(tǒng)的規(guī)范性，對(duì)錯(cuò)誤決策可以進(jìn)行調(diào)查并予以糾正。

三是通過(guò)立法強(qiáng)化人工智能系統(tǒng)安全義務(wù)?？煽康娜斯ぶ悄芟到y(tǒng)應(yīng)具有強(qiáng)大的安全性能，能夠有效應(yīng)對(duì)各類惡意攻擊，法律可以考慮通過(guò)安全標(biāo)準(zhǔn)、安全評(píng)估義務(wù)等規(guī)范達(dá)到強(qiáng)化系統(tǒng)安全的目的。一是提高人工智能產(chǎn)品研發(fā)的安全標(biāo)準(zhǔn)，從技術(shù)上增強(qiáng)智能系統(tǒng)的安全性和強(qiáng)健性；二是推行智能系統(tǒng)安全認(rèn)證制度，對(duì)人工智能技術(shù)和產(chǎn)品進(jìn)行嚴(yán)格測(cè)試，增強(qiáng)社會(huì)公眾信任；三是強(qiáng)化安全評(píng)估義務(wù)主體責(zé)任，針對(duì)人工智能應(yīng)用場(chǎng)景和應(yīng)用重要程度的不同，有針對(duì)性地制定技術(shù)標(biāo)準(zhǔn)和評(píng)估方案，滿足不同系統(tǒng)安全風(fēng)險(xiǎn)與保障的差異化需求。