閻國華, 閆 晨

(中國礦業(yè)大學(xué) 馬克思主義學(xué)院, 江蘇 徐州 221116)

人工智能研究由來已久,當(dāng)下已初步進(jìn)入應(yīng)用階段。借助于仿生材料、人工視覺、機(jī)械制造、語言合成與識別等學(xué)科的同步發(fā)展,人工智能的應(yīng)用領(lǐng)域日漸廣泛,在日常生活領(lǐng)域的突出應(yīng)用當(dāng)屬家庭智能機(jī)器人。目前,家庭智能機(jī)器人種類繁多,涵蓋醫(yī)療陪護(hù)、兒童看護(hù)及家用清潔等功能,且尚有更多種類處于開發(fā)之中。這些家庭智能機(jī)器人有的定位于單一功能,如地面清潔;也有的具備多種功能甚至提供用戶自開發(fā)功能,屬于泛用型智能機(jī)器人。后者也是本文的主要研究對象。因為功能強(qiáng)大,類人化趨勢不斷提升,家庭泛用型智能機(jī)器人會深度介入家庭生活,為家庭生活提供便利,但也常常引發(fā)安全風(fēng)險。這些安全風(fēng)險可能涉及到隱私信息泄露、生命財產(chǎn)安全及倫理與道德秩序調(diào)整等方方面面。本著揚(yáng)長避短、未雨綢繆的精神,有必要在家庭泛用型智能機(jī)器人大規(guī)模進(jìn)入普通家庭之前對這一問題開展深入研究,找出其安全風(fēng)險的表現(xiàn)形式、誘發(fā)風(fēng)險的內(nèi)在機(jī)制和消除風(fēng)險的改善策略。

一、 家庭泛用型智能機(jī)器人安全風(fēng)險評估

基于目前應(yīng)用和未來功能預(yù)期,家庭泛用型智能機(jī)器人會日漸深入地參與家庭工作、扮演家庭角色,以及介入家庭生活。從參與到扮演再到介入是一個不斷加深的過程,家庭泛用型智能機(jī)器人可以帶來生活便利,但其特殊工作模式也可能在信息安全、生命財產(chǎn)和倫理道德等領(lǐng)域引發(fā)安全風(fēng)險。

1. 信息隱私安全風(fēng)險

基于機(jī)器學(xué)習(xí)和智能體理論,家庭泛用型智能機(jī)器人在日常工作中需要收集家庭信息并進(jìn)行智能化處理,從而完成對家庭環(huán)境和自身行為的預(yù)設(shè)判斷[1]。收集信息的行為本身并不直接引發(fā)風(fēng)險,但全息化信息收集和信息長期累積勢必會讓機(jī)器人逐漸積累和貯存大量家庭內(nèi)部信息。這些信息被集中電子化貯存既方便機(jī)器人工作,也存在著兩個方面的數(shù)據(jù)安全風(fēng)險:①海量家庭信息電子化貯存的穩(wěn)定性問題。依靠卷積神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)世界抽象表征的深度學(xué)習(xí)是機(jī)器人的工作基礎(chǔ)。收集信息、分析數(shù)據(jù)是提高機(jī)器人自身智能化程度的基本需求[2]。為了滿足泛用性工作職能,家庭泛用型智能機(jī)器人的信息收集往往非常全面,甚至是不加選擇進(jìn)行全息化收集。這些信息可能包括家庭成員信息、家庭位置信息、家庭生活模式信息,其中以家庭成員信息尤為敏感。同時,信息收集形式也往往細(xì)膩而全面,可能包括聲音、圖像、視頻等多種形式。海量家庭信息被持續(xù)性、高細(xì)膩度、累積性地收集和電子化貯存本身就存在安全風(fēng)險,因為一旦機(jī)器人出現(xiàn)突發(fā)系統(tǒng)紊亂或遭遇病毒攻擊極易出現(xiàn)信息主動與被動泄露問題。②全息化信息收集誘發(fā)目的性竊取。家庭泛用型智能機(jī)器人的信息收集質(zhì)量很高,且具有持續(xù)性、全息化等突出優(yōu)點(diǎn)。這些信息有些屬于非敏感信息,有些則可能是覆蓋個人金融數(shù)據(jù)、健康狀況和商業(yè)機(jī)密的敏感與隱私信息。敏感與隱私信息可能會創(chuàng)造極高的經(jīng)濟(jì)價值,也常常因此為非法竊取提供了目的因與動力因,對個人隱私安全構(gòu)成威脅。例如,金融信息被盜取可能造成個人財產(chǎn)損失。同時,批量泄露的數(shù)據(jù)可能會被進(jìn)行再處理,在現(xiàn)代大數(shù)據(jù)技術(shù)的幫助之下,有可能用于呈現(xiàn)更加深層的相關(guān)性聯(lián)系而非因果性聯(lián)系,所提取出的強(qiáng)相關(guān)結(jié)論可能威脅使用泛用型智能機(jī)器人家庭的正常生活秩序[3]。

2. 生命財產(chǎn)安全風(fēng)險

家庭泛用型智能機(jī)器人能夠為家庭提供的服務(wù)及幫助日益增加,工作能力日益增強(qiáng),但其強(qiáng)大的活動能力是一把“雙刃劍”,在為家庭服務(wù)的同時也對家庭生命財產(chǎn)安全構(gòu)成潛在威脅。潛在生命財產(chǎn)安全風(fēng)險的誘發(fā)因素既包括本質(zhì)風(fēng)險、操作風(fēng)險,還包括外界風(fēng)險。具體主要有:①系統(tǒng)功能突發(fā)紊亂。技術(shù)發(fā)展往往存在階段性和技術(shù)極限。任何智能電子產(chǎn)品都無法實(shí)現(xiàn)絕對穩(wěn)定和可靠。系統(tǒng)功能突發(fā)紊亂使得機(jī)器人行為安全性無法絕對保障,給用戶正常生活帶來概率極低但卻無法完全消弭的不確定風(fēng)險。例如,因系統(tǒng)故障給所看護(hù)的病人重復(fù)喂藥,后果不堪設(shè)想。②系統(tǒng)遭遇非法劫持。機(jī)器人運(yùn)行常常需要網(wǎng)絡(luò)支持。因此,沿著網(wǎng)絡(luò)途徑,家庭泛用型智能機(jī)器人可能會被非法分子部分或整體劫持。在遭遇劫持的情況下,機(jī)器人運(yùn)行存在多種安全隱患。諸如,機(jī)器人的監(jiān)控系統(tǒng)能夠成為犯罪分子的“第三只眼睛”,幫助他們窺探家庭實(shí)時狀況從而為犯罪行為提供動機(jī)或時機(jī);機(jī)器人被遠(yuǎn)程控制成為直接“幫兇”,在家庭內(nèi)實(shí)施破壞行為;機(jī)器人協(xié)助他人實(shí)施犯罪行為,如打開家庭門鎖、關(guān)閉家庭安全保護(hù)裝置,等等。③用戶存在越界使用。智能機(jī)器人功能的穩(wěn)定性和準(zhǔn)確性注定會存在邊界。在超過邊界運(yùn)行的情況下,系統(tǒng)功能的穩(wěn)定性、可靠性乃至安全性將會急劇下降。因此,如果用戶對機(jī)器人的功能邊界掌控模糊,對機(jī)器人使用可能越界的指令,而機(jī)器人又沒有拒絕的情況下,可能會導(dǎo)致機(jī)器人自身或其他物品損壞。

3. 倫理道德安全風(fēng)險

家庭泛用型智能機(jī)器人具有與環(huán)境交互的能力,當(dāng)它與人類近距離共同生活時,往往會扮演一定的家庭角色,因此被賦予社會倫理屬性[4]。在“人-機(jī)”親密交互過程中,被人類深度賦能的智能機(jī)器人不斷提升自身力量和自主程度,而其不斷提升的智能性和家庭介入感顯著相關(guān)。家庭角色的獲取勢必會引發(fā)其與家庭成員的關(guān)系問題,不當(dāng)?shù)娜藱C(jī)關(guān)系處理會誘發(fā)倫理道德風(fēng)險[5]。因此,在購買機(jī)器人時,主人不僅需要做物質(zhì)上的付出,還要做好精神和心理上的準(zhǔn)備,注意應(yīng)對幾種可能的倫理道德風(fēng)險:①角色定位中的關(guān)系處理。智能機(jī)器人會成為我們的奴隸、伙伴、家人還是主人是一個急迫的問題。根據(jù)融入程度不同,智能機(jī)器人會獲取不同家庭角色[6]。機(jī)器人的角色定位由其功能發(fā)揮所決定,如果淺層介入就是家用工具,如果深度介入則成為家庭成員。深度介入的機(jī)器人會引發(fā)兩個方面的人機(jī)關(guān)系風(fēng)險:其一,人機(jī)相互信任。人機(jī)信任機(jī)制有可能順勢等同于人與人之間的信任機(jī)制,但基于程序運(yùn)行的機(jī)器人隨時處在被攻擊篡改的危險之中,容易誘發(fā)信任風(fēng)險[7]。其二,人機(jī)情感依賴。深度生活介入會幫助機(jī)器人獲得家庭成員地位,引發(fā)人對機(jī)器人的情感付出,產(chǎn)生情感依賴。同時,將機(jī)器人從“家用工具”提升為“家庭成員”還可能引發(fā)后續(xù)淘汰機(jī)器人時需要面對的善后處理風(fēng)險。②接納過程中的心理調(diào)適。智能機(jī)器人參與家庭生活,可能會使用戶心理上產(chǎn)生被機(jī)器人“監(jiān)控”的不適感。如果不能適應(yīng)機(jī)器人的“注視”,將有可能引發(fā)用戶的負(fù)面情緒,使其產(chǎn)生壓抑、尷尬等不適,進(jìn)而擾亂正常生活秩序[8]。此外,購買“進(jìn)口機(jī)器人”可能因文化差異產(chǎn)生道德風(fēng)險[9]。③溝通過程中的情感交流。機(jī)器人在運(yùn)行過程中將無可避免出現(xiàn)“犯錯”情況。部分家庭泛用型智能機(jī)器人具有模擬人類情感功能,如果不能幫助它分辨正確、錯誤及最恰當(dāng)?shù)男袨?機(jī)器人實(shí)際運(yùn)行可能會出現(xiàn)情緒化、盲目化、機(jī)械化問題,存在反智能性風(fēng)險。同時,由于機(jī)器學(xué)習(xí),如何為機(jī)器人創(chuàng)造良好的家庭學(xué)習(xí)參照系,避免交流缺失與不當(dāng)引導(dǎo)使智能機(jī)器人“性情”頑劣,擾亂正常生活秩序也是需要警惕的潛在風(fēng)險[10]。

二、 家庭泛用型智能機(jī)器人風(fēng)險成因

上述可知,家庭泛用型智能機(jī)器人在實(shí)際運(yùn)行過程中可能誘發(fā)各種風(fēng)險。這些風(fēng)險的成因來自不同層面,有任何產(chǎn)品因其工具性而產(chǎn)生的常規(guī)風(fēng)險和機(jī)器人功能定位帶來的特色風(fēng)險,還有機(jī)器人智能性引發(fā)的成長風(fēng)險。

1. 由于工具屬性引發(fā)的常規(guī)風(fēng)險

任何一件器物在作為工具出現(xiàn)時,都可能因為自身可靠性、應(yīng)用規(guī)范性、操作正確性等因素誘發(fā)風(fēng)險。家庭泛用型智能機(jī)器人首先是一種工具,因此也難以擺脫應(yīng)用時的常規(guī)風(fēng)險。對于由工具屬性決定的常規(guī)風(fēng)險,可從機(jī)器人自身主體和外界環(huán)境兩方面考察。①自身可靠性無法完全保證?？煽啃允潜ＷC安全性的重要條件,但可靠性又往往是相對的,沒有絕對的可靠,因此也就沒有絕對的安全。機(jī)器人也是一樣,其系統(tǒng)和功能設(shè)計不能確保沒有缺陷。越是復(fù)雜的系統(tǒng),可靠性越難以保證。硬件配置缺陷和軟件設(shè)計缺陷都可能會導(dǎo)致機(jī)器人在實(shí)際工作中無法完全達(dá)到預(yù)定目標(biāo)與外界期望[11]。這種情況下,如果使用者或機(jī)器人缺乏警惕,則可能會產(chǎn)生安全風(fēng)險。②操作正確性無法完全保證。電子產(chǎn)品的智能性很多源于對特定工作的批處理程序,但批處理程序在高效的同時,也讓一項命令承擔(dān)了更多的使命感。從這個意義上講,機(jī)器人智能性越高,人類操控便捷性越好,對人操作正確性的要求也會隨之提高,因為錯誤操作、違規(guī)操作、越界操作等都會在機(jī)器人的實(shí)際運(yùn)行中誘發(fā)不確定性風(fēng)險[12]。③意外狀況無法完全避免。除了機(jī)器人本身可靠性和使用者操作正確性之外,可能對安全形成挑戰(zhàn)的還包括意外狀況的發(fā)生。作業(yè)場地的限制、外界因素的干擾等問題也會使得機(jī)器人面臨不確定性風(fēng)險。例如,機(jī)器人對工作溫度、濕度、光線強(qiáng)度、目標(biāo)可辨識度等方面也有很高要求。

2. 由于功能定位引發(fā)的特色風(fēng)險

不同于一般性工具,依靠獨(dú)特的工作原理,機(jī)器人有著相對獨(dú)特的功能設(shè)定,也因此會引發(fā)一些特色風(fēng)險。基于家庭泛用型智能機(jī)器人的功能定位,其特色風(fēng)險來源主要有:①個體環(huán)境的千差萬別性。機(jī)器人在銷售之前雖力圖在多種環(huán)境測試,但還是難以擺脫有限環(huán)境參數(shù)的限制,存在面臨情況無限性和預(yù)設(shè)情況有限性的矛盾。在進(jìn)入消費(fèi)者家中之后,由于家庭環(huán)境迥異,機(jī)器人不僅功能發(fā)揮受到影響,還可能會遇到不可知的風(fēng)險。②人機(jī)動作轉(zhuǎn)換的復(fù)雜性。人類一些慣常性動作,輕而易舉可以完成的動作,在機(jī)器人完成時往往要分解成很多步驟,涉及多個關(guān)鍵技術(shù)。每個環(huán)節(jié)的準(zhǔn)確性,環(huán)節(jié)間的銜接可靠性都將影響整個工作完成的質(zhì)量和安全。例如,人可以輕松取來的茶杯,換做機(jī)器人去取,則需要視覺識別、準(zhǔn)確定位、機(jī)械抓取等環(huán)節(jié)的協(xié)同工作。因此,每一個動作就像一個系統(tǒng),動作越復(fù)雜,系統(tǒng)的邊界周長越大,可靠性也越差。③難以完全消除的機(jī)械性。智能機(jī)器人“類人”但“非人”,難以根本消除的“機(jī)械性”限定了它還無法像人一樣靈活處理問題。一邊是機(jī)器人的“墨守成規(guī)”、程式化和固定化,一邊是日常家庭生活存在隨機(jī)性和多樣性需求,二者之間的矛盾短期難以消除。④客戶需求的無限性。對于機(jī)器人,每個家庭、個人或單位,往往有不同的需求,而機(jī)器人的研發(fā)者很難根據(jù)每一種特定需求開發(fā)出相應(yīng)的應(yīng)用。尤其對于泛用型智能機(jī)器人,功能邊界的有限性和客戶需求的無限性之間往往存在分歧。

3. 由于智能屬性引發(fā)的成長風(fēng)險

智能性無疑是家庭泛用型智能機(jī)器人最炫目的名片,但“智能性”是把“雙刃劍”,給機(jī)器人帶來學(xué)習(xí)功能、應(yīng)變功能和發(fā)展功能的同時,也引發(fā)了相關(guān)的成長性風(fēng)險。成長風(fēng)險主要是指因為機(jī)器人功能成長而引發(fā)的風(fēng)險問題,而功能成長主要依靠的就是智能性。由智能屬性誘發(fā)的機(jī)器人成長風(fēng)險主要來源其自我決策、自我判斷與自我成長的質(zhì)量:①自我決策的不穩(wěn)定性。智能性賦予機(jī)器人自我運(yùn)算能力,使其可以通過對已收集信息的處理實(shí)現(xiàn)一定程度上的自我決策。但是,數(shù)據(jù)的有限性、運(yùn)算程序的先進(jìn)性都決定了機(jī)器人自我決策能力的有限性[13]。因此,機(jī)器人有限的決策能力和無限的實(shí)際情況之間常常存在尖銳的矛盾。這種矛盾決定著自我決策質(zhì)量,而低決策質(zhì)量的自我嘗試可能會導(dǎo)致機(jī)器人引發(fā)相應(yīng)風(fēng)險。②自我判斷的不準(zhǔn)確性。與智能機(jī)器人功能存在有限性邊界不同,外界對機(jī)器人的期望存在無限性需求。有限性與無限性的沖突可能引發(fā)用戶“超范圍”使用風(fēng)險。當(dāng)用戶下達(dá)的指令超過既定功能邊界,機(jī)器人的自我判斷能力就變得非常重要。然而在目前,機(jī)器人對自身能力的自我判斷往往還不夠準(zhǔn)確,一味地執(zhí)行用戶命令可能導(dǎo)致自身受損或傷及用戶。另一方面,機(jī)械本質(zhì)決定智能機(jī)器人理解的僵化性難以徹底消除,還不能像人一樣對指令進(jìn)行透徹理解,為使用過程增加了很多不確定性。③自我成長的不確定性。由于具有機(jī)器學(xué)習(xí)功能,機(jī)器人一定會對周圍所處環(huán)境進(jìn)行適應(yīng)和學(xué)習(xí)。家庭泛用型智能機(jī)器人的自我成長是處在變化中的存在,所處家庭環(huán)境的多樣性讓其自我成長也具有不確定性。在學(xué)習(xí)過程中,家庭環(huán)境可能為機(jī)器人提供正確、近乎正確、完全正確及不正確的參考原型。參考原型的不確定性可能讓機(jī)器人的自我成長面臨不確定性。由于機(jī)器人具有可塑性特質(zhì),因此在不同家庭環(huán)境下成長的機(jī)器人思想與行為模式可能存在較大偏差[14]。例如,在和諧家庭內(nèi)實(shí)現(xiàn)自我成長的機(jī)器人可能會比暴力家庭的機(jī)器人更加溫和,反之亦然。

三、 家庭泛用型智能機(jī)器人安全風(fēng)險應(yīng)對策略

上述分析可見,家庭泛用型智能機(jī)器人使用過程存在著諸多風(fēng)險,并不能簡單等同于使用非智能電子設(shè)備。不過,我們應(yīng)該努力去應(yīng)對科技發(fā)展可能帶來的風(fēng)險,而不是簡單限制或阻止技術(shù)的進(jìn)步[15]。目前投入使用的家庭泛用型智能機(jī)器人屬于人工智能技術(shù)初級階段的產(chǎn)品,未來被人類深度賦能的智能機(jī)器人所引發(fā)的安全風(fēng)險將更加嚴(yán)峻。然而,不管形勢多么嚴(yán)峻,家庭泛用型智能機(jī)器人引發(fā)安全風(fēng)險的底層邏輯是相對穩(wěn)固的,也正因如此,我們可以就其引發(fā)的主要安全風(fēng)險從以下幾個方面來加以應(yīng)對。

1. 創(chuàng)新信息收集與管理,增加信息安全

信息收集是支撐智能機(jī)器人工作的基礎(chǔ),但信息泛收集和長時間累積性儲存也的確存在巨大的信息安全風(fēng)險。因此,對于信息泄露引發(fā)的安全風(fēng)險必須從技術(shù)角度進(jìn)行規(guī)避。就智能機(jī)器人的信息收集與應(yīng)用機(jī)理來看,在不降低機(jī)器人智能特性的前提下,可以考慮實(shí)施以下幾種方式來增強(qiáng)信息安全:①增強(qiáng)脫敏技術(shù)強(qiáng)度,隱蔽重要個人信息。通過技術(shù)創(chuàng)新,家庭泛用型智能機(jī)器人可以實(shí)現(xiàn)信息收集與處理同步進(jìn)行,通過脫敏處理,隱匿重要私人信息,讓信息不再具有私密性,很難產(chǎn)生經(jīng)濟(jì)價值,從而使信息竊取與信息濫用失去必要條件,進(jìn)而有效應(yīng)對因信息泄露引發(fā)的安全風(fēng)險。②引入關(guān)鍵詞篩選制,減少盲目收集數(shù)量。由于泛收集,家庭泛用型智能機(jī)器人運(yùn)行中可能會收集許多跟自身無關(guān)、無用的信息。盲目收集的信息被儲存在機(jī)器人系統(tǒng)內(nèi),既造成儲存空間資源浪費(fèi),又給想要竊取信息的人以目的因和可趁之機(jī)。如果將機(jī)器人所需要的支撐數(shù)據(jù)建立索引,引入關(guān)鍵信息篩選,可以減少信息收集總量,從一定程度上降低對個人隱私的干預(yù)程度及信息泄露的可能性。③定期擦除過期數(shù)據(jù),防止人為竊取利用。對于所收集的時間久遠(yuǎn)且重復(fù)使用可能性極小的數(shù)據(jù)可以進(jìn)行定期刪除,既能徹底抹除數(shù)據(jù)中雖經(jīng)脫敏仍存留的信息,也可以降低被人為竊取后借助大數(shù)據(jù)處理技術(shù)提取深層關(guān)聯(lián)結(jié)果,對用戶造成生活困擾或威脅的機(jī)會。

2. 增強(qiáng)系統(tǒng)設(shè)計與防范,探索本質(zhì)安全

基于程序運(yùn)行的機(jī)器人隨時可能成為被攻擊篡改的對象。為最大程度降低機(jī)器人成為“幫兇”的可能性,我們可以在其系統(tǒng)中增添預(yù)防意外機(jī)制、安全保護(hù)機(jī)制等安全機(jī)制。在受到外界非法入侵時,家庭泛用型智能機(jī)器人可以進(jìn)入安全模式、脫機(jī)狀態(tài)或休眠狀態(tài)等自我閉鎖程序,實(shí)現(xiàn)阻礙非法犯罪行為、避免問題擴(kuò)大和減少用戶損失的目的。為了實(shí)現(xiàn)這一目標(biāo),主要可以考慮如下幾個途徑:①建立可遠(yuǎn)程控制的超級管理模式,防范意外風(fēng)險。人的隨機(jī)性具有比機(jī)器人的機(jī)械性更加靈活的應(yīng)變能力。建立可遠(yuǎn)程控制的超級管理模式,可以在突發(fā)意外時對機(jī)器人實(shí)施終極性控制。例如,對處于被“綁架”狀態(tài)的機(jī)器人下達(dá)超級指令。②定時更新防范機(jī)制,主動提升系統(tǒng)安全性。追求機(jī)器人功能性的同時,需要鞏固其安全性。家庭泛用型智能機(jī)器人的使用年限相對較長,需要對其進(jìn)行長期管理,不斷更新系統(tǒng),提升防御能力,從系統(tǒng)受到攻擊后被動修復(fù)漏洞,轉(zhuǎn)變?yōu)橹鲃痈孪到y(tǒng)防范,降低相關(guān)風(fēng)險產(chǎn)生率。此外,還可以增加安全緩沖區(qū),如閉鎖裝置和聯(lián)動裝置,來防止誤碰風(fēng)險。③探索安全標(biāo)準(zhǔn),打造機(jī)器人本質(zhì)安全。本質(zhì)安全是指通過設(shè)計等手段使生產(chǎn)設(shè)備或系統(tǒng)本身具有安全性,即使在誤操作或發(fā)生故障的情況下也不會造成事故的功能。機(jī)器人的安全使用一方面是避免系統(tǒng)問題或被劫持,更為重要的是實(shí)現(xiàn)家庭泛用型智能機(jī)器人的本質(zhì)安全。這一領(lǐng)域,國際標(biāo)準(zhǔn)化組織已經(jīng)作出了一些探索,出臺了關(guān)于“機(jī)器人和機(jī)器人裝置—協(xié)同工業(yè)機(jī)器人”的ISO/TS15066技術(shù)規(guī)范,提出了安全相關(guān)受監(jiān)控停止、手動控制、速度和距離監(jiān)控,以及壓強(qiáng)和力度限制等四個方面的主要指標(biāo)。同時,德國科學(xué)家正在開發(fā)一種人工神經(jīng)系統(tǒng),教機(jī)器人感受疼痛并作出反應(yīng),目的是幫助機(jī)器人避免其系統(tǒng)遭到損壞,從而避免意外的發(fā)生。漢諾威萊布尼茲大學(xué)的薩米·哈達(dá)丁(Sami Haddadin)教授所開展的“觸覺機(jī)器人”研究就是其中的突出代表。除此之外,在用戶沒有及時回應(yīng)時,機(jī)器人可以進(jìn)行自主選擇脫機(jī)狀態(tài)或自我閉鎖等[16]。這些努力都指向了一個更高的機(jī)器人安全標(biāo)準(zhǔn),即本質(zhì)安全型智能機(jī)器人。

3. 加強(qiáng)產(chǎn)品完善與售后,引導(dǎo)人機(jī)和諧

在研發(fā)過程中加入機(jī)器倫理思想能夠引導(dǎo)用戶與機(jī)器人的家庭相處模式,促進(jìn)人機(jī)交流,為智能機(jī)器人創(chuàng)造更利于其工作的環(huán)境,從而為用戶提供更優(yōu)質(zhì)的服務(wù)。家庭泛用型智能機(jī)器人在家庭的理想角色定位、交流模式、隱私規(guī)避等方面都應(yīng)完善設(shè)計,避免用戶盲目使用機(jī)器人所引發(fā)的倫理道德風(fēng)險?；趯Ξa(chǎn)品屬性和售后服務(wù)制度地思考,主要的完善措施包括:①增添人機(jī)情景思考,改進(jìn)可能引發(fā)尷尬的功能設(shè)計。在機(jī)器人設(shè)計過程中,應(yīng)當(dāng)增添實(shí)際生活情景的思考,引入關(guān)系理論[17]。在研發(fā)過程中,設(shè)計師應(yīng)盡可能設(shè)想和梳理可能引發(fā)用戶產(chǎn)生不適感、尷尬感的情景,并幫助機(jī)器人在投入使用后能自覺并且巧妙地避開這些場景,最大程度給予用戶原本的私有空間,緩解智能化產(chǎn)品帶來的相關(guān)風(fēng)險。人機(jī)情景思考不僅要考慮機(jī)器人應(yīng)用的技術(shù)條件,還需要思考機(jī)器人應(yīng)用的不同文化背景和環(huán)境[18]。②考察用戶體驗感受,及時發(fā)現(xiàn)和解決問題。預(yù)設(shè)情景有限性與實(shí)際情況無限性使機(jī)器人無法實(shí)現(xiàn)完全不犯錯。機(jī)器人偶爾“冒犯”可能并不會使用戶反感,但如果不及時調(diào)整行為模式,長期下去會造成較差的用戶體驗感,影響機(jī)器人的正常使用[19]。因此,對于生產(chǎn)方來說,有必要進(jìn)行定期的考察回訪,聽取用戶建議,及時幫助用戶糾正機(jī)器人的行為模式,促進(jìn)人機(jī)交流,使用戶能夠獲得適合自己家庭的智能機(jī)器人。③完善售后服務(wù)制度,實(shí)現(xiàn)安全綠色人性回收。鑒于對家庭的全面融入,智能機(jī)器人的淘汰問題也往往會引發(fā)信息和情感風(fēng)險。因此,制造商需要承擔(dān)相應(yīng)的道德責(zé)任和社會責(zé)任[20]。具體來說,制造商可以通過將定向回收作為家庭泛用型智能機(jī)器人售后服務(wù)的標(biāo)準(zhǔn)環(huán)節(jié),來達(dá)到生產(chǎn)與處理的責(zé)權(quán)利一致。同時,通過專業(yè)人員對被淘汰的智能機(jī)器人進(jìn)行信息擦除、整機(jī)拆卸、揀選可重復(fù)利用硬件及綠色處理廢棄元件等,可以實(shí)現(xiàn)安全回收、綠色回收、人性回收。

總之,在實(shí)際應(yīng)用中,家庭泛用型智能機(jī)器人存在因全息化信息收集誘發(fā)目的性竊取、數(shù)據(jù)庫系統(tǒng)安全難以絕對保障等為突出表現(xiàn)的信息安全風(fēng)險,因系統(tǒng)遭遇非法劫持、系統(tǒng)功能突發(fā)紊亂、功能邊界難以掌握等為突出表現(xiàn)的生命財產(chǎn)安全風(fēng)險,因角色定位中的關(guān)系處理、接納過程中的心理適應(yīng)、溝通過程中的情感交流等為突出表現(xiàn)的倫理道德風(fēng)險。就成因來講,這些安全風(fēng)險有因為工具屬性誘發(fā)的常規(guī)風(fēng)險、因為功能定位誘發(fā)的特色風(fēng)險,以及因為智能屬性誘發(fā)的成長風(fēng)險。工具屬性誘發(fā)風(fēng)險的原因主要在于功能自身可靠性、工具自身機(jī)械性、外界操作正確性、意外狀況可能性等;功能定位引發(fā)特色風(fēng)險的主要原因在于個體環(huán)境的千差萬別性、人機(jī)動作轉(zhuǎn)換的復(fù)雜性、難以完全消除的機(jī)械性和客戶需求的無限性;智能屬性誘發(fā)風(fēng)險的原因主要在于自我決策質(zhì)量不可靠、自我判斷不準(zhǔn)確、自我成長不確定。針對相關(guān)安全風(fēng)險,完善家庭泛用型智能機(jī)器人可以從三個方面進(jìn)行解決:一是創(chuàng)新信息收集與管理,增加信息安全。二是增強(qiáng)系統(tǒng)設(shè)計與防范,探索本質(zhì)安全。三是加強(qiáng)產(chǎn)品完善與售后,引導(dǎo)人機(jī)和諧。盡管目前家庭泛用型智能機(jī)器人的研發(fā)還處于人工智能宏偉藍(lán)圖的初級階段,引發(fā)的安全風(fēng)險可能會日益嚴(yán)峻,但其引發(fā)安全風(fēng)險的底層邏輯相對穩(wěn)固,使得安全管理并非不可為之。因此,不要因為安全風(fēng)險去限制和阻止機(jī)器人的發(fā)展和進(jìn)入家庭,而是要循著安全風(fēng)險的產(chǎn)生邏輯,在家庭泛用型智能機(jī)器人的設(shè)計、開發(fā)和應(yīng)用中不斷加以思考和應(yīng)對,從而最大限度的規(guī)避技術(shù)缺陷,降低技術(shù)風(fēng)險,保障技術(shù)成果優(yōu)勢得以展現(xiàn)。

:

[ 1 ] 林命彬. 哲學(xué)視角下智能機(jī)器在自我意識和行為意義上的突破[J]. 黑龍江社會科學(xué), 2016(6):8-14.

[ 2 ] 龔怡宏. 人工智能是否終將超越人類智能——基于機(jī)器學(xué)習(xí)與人腦認(rèn)知基本原理的探討[J]. 人民論壇, 2016(7):12-21.

[ 3 ] 維克托·邁爾-舍恩伯格,肯尼思·庫克耶. 大數(shù)據(jù)時代:生活、工作與思維的大變革[M]. 盛楊燕,周濤,譯. 杭州:浙江人民出版社, 2013:38.

[ 4 ] 杜嚴(yán)勇. 機(jī)器倫理芻議[J]. 科學(xué)技術(shù)哲學(xué)研究, 2016,33(1):96-101.

[ 5 ] Payr S. Towards Human-robot Interaction Ethics[M]. Berlin: Springer International Publishing, 2015:33.

[ 6 ] 李小燕. 從實(shí)在論走向關(guān)系論:機(jī)器人倫理研究的方法論轉(zhuǎn)換[J]. 自然辯證法研究, 2016,32(2):40-44.

[ 7 ] 于雪,王前. “機(jī)器倫理”思想的價值與局限性[J]. 倫理學(xué)研究, 2016(4):109-114.

[ 8 ] 李小燕. 老人護(hù)理機(jī)器人倫理風(fēng)險探析[J]. 東北大學(xué)學(xué)報(社會科學(xué)版), 2015,17(6):561-566.

[ 9 ] 王紹源. 應(yīng)用倫理學(xué)的新興領(lǐng)域:國外機(jī)器人倫理學(xué)研究述評[J].自然辯證法通訊, 2016,38(4):147-151.

[10] 李俊平. 關(guān)于約束人工智能情感的思考[J]. 科協(xié)論壇, 2013(1):85-87.

[11] 任曉明,王東浩. 機(jī)器人的當(dāng)代發(fā)展及其倫理問題初探[J].自然辯證法研究, 2013,29(6):113-118.

[12] 杜嚴(yán)勇. 情侶機(jī)器人對婚姻與性倫理的挑戰(zhàn)初探[J]. 自然辯證法研究, 2014,30(9):93-98.

[13] Ller V C. Introduction: Philosophy and Theory of Artificial Intelligence[J]. Minds and Machines, 2012,22(2):67-69.

[14] Coeckelbergh M. Moral Appearances: Emotions, Robots, and Human Morality[J]. Ethics & Information Technology, 2010,12(3):235-241.

[15] 約瑟夫·巴科恩,大衛(wèi)·漢森. 機(jī)器人革命:即將到來的機(jī)器人時代[M]. 潘俊,譯. 北京:機(jī)械工業(yè)出版社, 2015:214.

[16] Briggs G,Scheutz M. How Robots Can Affect Human Behavior: Investigating the Effects of Robotic Displays of Protest and Distress[J]. International Journal of Social Robotics, 2014,6(3):343-355.

[17] de Graaf M M A. An Ethical Evaluation of Human-Robot Relationships[J]. International Journal of Social Robotics, 2016,8(4):589-598.

[18] MacDorman K F,Cowley S J. Long-term Relationships as a Benchmark for Robot Personhood[C]∥IEEE International Symposium on Robot & Human Interactive Communication. Hatfield: IEEE, 2006:378-383

[19] Malle B F. Integrating Robot Ethics and Machine Morality: The Study and Design of Moral Competence in Robots[J]. Ethics & Information Technology, 2015,18(4):1-14.

[20] 周天策. 共處的“中道”——兒童陪護(hù)機(jī)器人的倫理風(fēng)險分析[J]. 自然辯證法研究, 2017,33(4):57-62.