刁生富,李思琦
(1.佛山科學(xué)技術(shù)學(xué)院 法學(xué)與知識產(chǎn)權(quán)學(xué)院,廣東 佛山 528000;2.佛山科學(xué)技術(shù)學(xué)院 馬克思主義學(xué)院,廣東 佛山 528000)
作為新一代信息技術(shù)的代表性產(chǎn)物,數(shù)字孿生(Digital Twin)集成與融合了互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能、物聯(lián)網(wǎng)、可視化技術(shù)等多種新興技術(shù),愈來愈成為當(dāng)下及未來科學(xué)決策和工程實踐的重要依據(jù),并深刻地影響著人們的生產(chǎn)和生活。在依托數(shù)字孿生形成決策的過程中,算法運作是核心和關(guān)鍵之所在。然而,算法所具有的“不透明性”所帶來的“算法黑箱”問題,使得人們對數(shù)字孿生算法形成的決策產(chǎn)生隱憂。本文提出了一個理解數(shù)字孿生算法黑箱的“五維三構(gòu)”模型,并分析了數(shù)字孿生算法黑箱的生成機制與相應(yīng)的治理路徑,以期幫助人們增強對數(shù)字孿生算法決策的可信任度。
數(shù)字孿生是指基于現(xiàn)實世界中的物理實體,在數(shù)字化空間中構(gòu)建其完整映射狀態(tài)下的全生命周期的虛擬模型,通過集成多學(xué)科、多物理性、多尺度的仿真過程,有效實現(xiàn)物理實體與虛擬模型之間的交互反饋與虛實融合,從而達到以虛控實,優(yōu)化現(xiàn)實物理世界的目的。[1]數(shù)字孿生具有精準映射、交互融合、動態(tài)仿真等特征,使得其算法黑箱的研究更具獨特性。
算法最開始被界定為“算術(shù)運算法則”,[2]隨后被理解為是包括輸入、輸出和隱層的一套程序指令或步驟。[3]一直以來,人們將算法的概念界定為進行某項工作或解決某種問題時的步驟和方法。[4]而隨著新一代信息技術(shù)的發(fā)展,算法概念的內(nèi)涵和外延有了更深層的發(fā)展,算法越來越成為一種決策參考的依據(jù)與技術(shù)力量的化身。
“黑箱”概念源于1956年英國學(xué)者艾什比在《控制論導(dǎo)論》一書中闡述的“黑箱也稱閉盒、暗盒或黑匣、暗匣,它是指這樣一個系統(tǒng),我們只能看到它的輸入值和輸出值,而不知道它的內(nèi)部結(jié)構(gòu)是什么,只有從觀察輸入變化引起的輸出反應(yīng),來認識其功能和特性?!盵5]學(xué)者們將其中難以窺探到的隱層稱為“黑匣子”。[6]自此,“算法黑箱”被界定為算法設(shè)計者運用不透明的程序?qū)⑤斎朕D(zhuǎn)換為輸出的過程,人們只能通過輸入和輸出來進行理解,而不知道其內(nèi)部工作原理。[7-8]
學(xué)術(shù)界對算法黑箱的研究大多聚焦在新聞傳播算法、人工智能算法等領(lǐng)域,而對于當(dāng)下及未來的研究熱點“數(shù)字孿生”較少有專門的“算法黑箱”研究。數(shù)字孿生作為一種集成式的技術(shù),呈現(xiàn)出與上述領(lǐng)域不同的算法黑箱新特點。對于這些特點的具體分析不僅有助于更好地認識算法黑箱,而且能夠推進數(shù)字孿生技術(shù)的進一步落地應(yīng)用。
按照著名學(xué)者陶飛教授等人在《數(shù)字孿生五維模型及十大領(lǐng)域應(yīng)用》一文中提出的數(shù)字孿生五維結(jié)構(gòu):物理層—連接層—數(shù)據(jù)層—模型層—服務(wù)層,[9]有:
MDT=(PE, CN, DD, VE, SS )。
(1)
再結(jié)合數(shù)字孿生算法(ADT)的數(shù)據(jù)處理過程:輸入(Ia)—處理(Pa)—輸出(Oa),即:
ADT=(Ia ,Pa, Oa) 。
(2)
綜合(1)和(2),從系統(tǒng)架構(gòu)的角度,提出數(shù)字孿生與算法之間運作過程的“五維三構(gòu)”模型,如圖1所示。
圖1 數(shù)字孿生算法運作過程——五維三構(gòu)模型
從圖1可以看出,物理實體、連接、數(shù)據(jù)、虛擬模型、服務(wù)構(gòu)成了一個閉環(huán)的信息物理系統(tǒng)。而在這個閉環(huán)的信息物理系統(tǒng)之內(nèi),輸入、數(shù)據(jù)(處理)與輸出的算法運作過程始終相伴存在?!拔寰S三構(gòu)”模型從數(shù)字孿生模型五個維度和算法運作過程三個層次結(jié)構(gòu),清晰地表達了數(shù)字孿生的算法運作過程,為進一步探究“算法黑箱”問題提供了模型化的表達。
首先,物理實體維度可作為數(shù)字孿生算法輸入的初始起點環(huán)節(jié)。虛擬孿生模型構(gòu)建所需要的各種數(shù)據(jù)信息和特征集合皆是對物理實體對象的“精準映射”,數(shù)字孿生算法初始輸入的各種參數(shù)信息正是經(jīng)過對物理實體對象進行特征選擇和特征提取之后的結(jié)果。這部分初始數(shù)據(jù)后續(xù)會作為基礎(chǔ)數(shù)據(jù)與物理對象生成的實時數(shù)據(jù)一同為數(shù)字孿生算法處理過程提供數(shù)據(jù)支撐。同時,數(shù)字孿生中的連接維度能將物理實體對象的各種信息和實時動態(tài)數(shù)據(jù)傳輸給虛擬孿生模型以供建模。因此,來源于現(xiàn)實物理實體的數(shù)據(jù)信息準確傳輸或精準映射到計算機數(shù)據(jù)平臺的過程,既是數(shù)字孿生算法輸入的過程,同時也是相應(yīng)孿生模型構(gòu)建的過程。
其次,虛擬模型維度與數(shù)據(jù)維度共同作為數(shù)字孿生算法處理的環(huán)節(jié)。二者為數(shù)字孿生算法處理過程提供了可視化的虛擬載體和必要的數(shù)據(jù)支撐。孿生數(shù)據(jù)是數(shù)字孿生運行的核心驅(qū)動,從算法運作的初始輸入環(huán)節(jié)——物理實體數(shù)據(jù),到算法處理過程中的虛擬模型數(shù)據(jù),以及虛實融合、動態(tài)交互過程中生成的融合數(shù)據(jù),正是這些數(shù)據(jù)的支撐,保障算法運作最終能夠到達算法輸出環(huán)節(jié),從而生成服務(wù)系統(tǒng)數(shù)據(jù)。數(shù)字孿生依托物理實體的各種幾何、物理、行為以及規(guī)則等數(shù)據(jù)信息,孿生模型才得以構(gòu)建。模型構(gòu)建完成之后,最為關(guān)鍵的便是虛擬模型數(shù)據(jù)及動態(tài)融合數(shù)據(jù)的算法處理、自動化決策生成的過程,這個過程對于人類目前來說仍處于“未知地帶”,而這種“未知地帶”被人們形象地稱為“算法黑箱”。
最后,服務(wù)維度可作為數(shù)字孿生算法輸出的最后終點環(huán)節(jié)。數(shù)字孿生本質(zhì)上是一種集成式的技術(shù)應(yīng)用,其最終目的是為了滿足人們的應(yīng)用需求,提高事物的運行效率。數(shù)字孿生的真正功能在于,在數(shù)字化空間中完成對虛擬孿生模型的構(gòu)建,從而搭建起虛擬孿生世界同現(xiàn)實物理世界之間的橋梁,并在物理實體對象全生命周期內(nèi)進行數(shù)據(jù)反饋與虛實融合,經(jīng)過大量的數(shù)據(jù)累積與迭代優(yōu)化,數(shù)字孿生能夠基于模型優(yōu)化物理對象,提高物理世界資源配置效率,賦能基于模型的正向研發(fā)和協(xié)同創(chuàng)新。就數(shù)字孿生的具體應(yīng)用而言,依據(jù)不同用戶的選擇和應(yīng)用需求,數(shù)字孿生的輸出服務(wù)層可提供仿真模型、智能運算、運行監(jiān)控、故障診斷等方面的服務(wù)供給;還能將用戶所需的各類數(shù)據(jù)、模型、算法、仿真、結(jié)果等進行服務(wù)化封裝,并以應(yīng)用軟件或移動端App的形式提供給用戶,實現(xiàn)對服務(wù)的便捷與按需使用。[10]因此,數(shù)字孿生模型通過算法運作生成算法決策的過程是為算法輸出環(huán)節(jié),最終形成服務(wù)并應(yīng)用到現(xiàn)實物理實體中,即為算法運作的終點環(huán)節(jié)。
實質(zhì)上,數(shù)字孿生的算法輸入、處理、輸出等環(huán)節(jié)的界限并非如此分明,它們是相互滲透存在的,且依靠連接維度實現(xiàn)實時動態(tài)連接與信息傳遞,依靠數(shù)據(jù)與模型雙驅(qū)動實現(xiàn)數(shù)字孿生的虛擬模型建構(gòu)與智能算法運行。但總體而言,數(shù)字孿生的五維模型與算法的三個層次結(jié)構(gòu)緊密相關(guān)。其中的數(shù)據(jù)不僅是孿生模型的核心驅(qū)動,更是算法運作過程中的重要數(shù)據(jù)支撐,而算法數(shù)據(jù)處理過程又伴隨著不為人知的“算法黑箱”。本文接下來將重點深入探討數(shù)字孿生算法黑箱形成的原因與治理路徑。
數(shù)字孿生算法黑箱的生成,既有源于數(shù)字孿生算法本身的機器學(xué)習(xí)技術(shù)的復(fù)雜性和數(shù)字孿生虛實融合的動態(tài)變化等內(nèi)部原因,又有諸如數(shù)字孿生內(nèi)嵌了人類非向善的價值觀念這一外部因素。
在數(shù)字孿生算法黑箱的成因分析中,數(shù)字孿生本身所運用的機器學(xué)習(xí)算法的復(fù)雜性是造成黑箱生成尤為重要的原因。數(shù)字孿生模型構(gòu)建的初衷是將物理世界中存在的各種數(shù)據(jù)信息同步于虛擬孿生世界,同時在數(shù)字孿生模型中進行各種參數(shù)變動與未來預(yù)測,從而以較低的成本、更快捷的速度作出符合當(dāng)下情境的最優(yōu)決策。其中最重要的一環(huán)就是數(shù)字孿生虛擬模型的構(gòu)建與應(yīng)用,與之始終相伴存在的即為機器學(xué)習(xí)算法。
機器學(xué)習(xí)通常被描述為“計算機模擬并實現(xiàn)人類的學(xué)習(xí)的行為過程,通過向系統(tǒng)提供訓(xùn)練數(shù)據(jù)或是學(xué)習(xí)數(shù)據(jù),能夠自動確定系統(tǒng)的參數(shù)?!盵11]換言之,機器學(xué)習(xí)通過訓(xùn)練集,不斷識別特征與建模,最后形成有效的模型,以達到能夠像人類一樣作出決策的目的。但正是由于機器學(xué)習(xí)能夠根據(jù)訓(xùn)練數(shù)據(jù)或者學(xué)習(xí)數(shù)據(jù)自動計算確定系統(tǒng)運行所需要的參數(shù),在提高決策效率與決策準確率的同時,也不可避免地帶來了算法黑箱的問題。
在實現(xiàn)數(shù)字孿生的過程中,無論是虛擬模型的構(gòu)建環(huán)節(jié),還是虛擬模型的應(yīng)用環(huán)節(jié),都離不開機器學(xué)習(xí)技術(shù)的應(yīng)用。機器學(xué)習(xí)按照訓(xùn)練方法,可分為監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、強化學(xué)習(xí)三種類別,與之相對的數(shù)字孿生的算法黑箱的“黑箱程度”也在不斷加深。
對于監(jiān)督式機器學(xué)習(xí)而言,其對數(shù)字孿生虛擬模型的構(gòu)建發(fā)揮著重要作用。數(shù)字孿生模型不同于之前的實體模型或數(shù)字化建模,它有著更高且更真實的“仿真性”,不僅需要對物理實體對象的幾何數(shù)據(jù)、物理數(shù)據(jù)進行模型構(gòu)建,更需要對其行為數(shù)據(jù)、規(guī)則數(shù)據(jù)進行虛擬映射。監(jiān)督式機器學(xué)習(xí)是指,人們事先已經(jīng)明確了自己想要的目標結(jié)果,在系統(tǒng)對訓(xùn)練集數(shù)據(jù)形成自己的判斷方法后,就能夠?qū)π碌臏y試集進行解答,得到人們想要的結(jié)果。[12]尤其是針對數(shù)字孿生模型構(gòu)建時的大規(guī)模數(shù)據(jù)采集的過程,借用監(jiān)督式機器學(xué)習(xí)算法,能夠高效率地將數(shù)據(jù)類型進行分類,準確地將這些數(shù)據(jù)信息歸為幾何類、物理類、行為類、規(guī)則類。在這個過程中,算法的輸入端和輸出端在一定程度上都是能夠被確定的,或者說處于人們可掌控的范圍之內(nèi),此時的算法黑箱可以理解為是從輸入值映射到期望輸出值的函數(shù)處理過程。
但是,對于無監(jiān)督式機器學(xué)習(xí)而言,無論是輸入數(shù)據(jù),亦或是輸出數(shù)據(jù),乃至中間的機器學(xué)習(xí)計算過程,人們都無法形成明確的認識。數(shù)字孿生在模型建構(gòu)與決策應(yīng)用環(huán)節(jié),采用的無監(jiān)督式機器學(xué)習(xí)算法所造成的算法黑箱的影響尤為嚴重。由于數(shù)字孿生所面對的數(shù)據(jù)集規(guī)模相當(dāng)之大,若采用監(jiān)督式機器學(xué)習(xí)算法,所需要負擔(dān)的成本相應(yīng)也會很高。無監(jiān)督學(xué)習(xí)的任務(wù)是從給定的數(shù)據(jù)集中挖掘出潛在的結(jié)構(gòu),相較于監(jiān)督式機器學(xué)習(xí),無監(jiān)督式機器學(xué)習(xí)是一個沒有標簽的數(shù)據(jù)集,是基于數(shù)據(jù)之間的相似性進行聚類分析學(xué)習(xí)。[13]這在降低數(shù)字孿生模型初始數(shù)據(jù)的分類成本的同時,不可避免地在系統(tǒng)的輸入端與輸出端以及中間的學(xué)習(xí)計算過程形成了一個全流程的閉環(huán),這時的算法黑箱表現(xiàn)為人們無法窺探到其中的任何一個環(huán)節(jié),黑箱程度明顯加深。
當(dāng)我們從人類認知角度對數(shù)字孿生進行界定時,會發(fā)現(xiàn)它是一種全新的認識客觀世界與人類自身的方法,而這種方法能夠得以實現(xiàn)的一大原因是數(shù)據(jù)的表征與計算。數(shù)字孿生虛擬模型的構(gòu)建實現(xiàn)了數(shù)據(jù)的表征化,這一過程將現(xiàn)實物理世界中繁雜的特征與信息轉(zhuǎn)換成計算機可以讀取和處理的數(shù)據(jù),并同步于孿生世界之中(即圖1算法輸入及孿生模型構(gòu)建過程);數(shù)字孿生虛擬模型的應(yīng)用實現(xiàn)了數(shù)據(jù)的計算化,而算法在其中起到了關(guān)鍵性作用(即圖1孿生模型運作及算法輸出過程)。尤其是學(xué)習(xí)型算法,它能夠在無需人為干預(yù)的自然狀態(tài)下,利用數(shù)據(jù)進行自動學(xué)習(xí),從而具有調(diào)整系統(tǒng)運行參數(shù)與形成決策規(guī)則以及進行未來預(yù)測的能力,最終生成各種服務(wù)以優(yōu)化物理世界的運行。
當(dāng)我們對數(shù)字孿生算法黑箱的成因進行深度分析時,就會發(fā)現(xiàn),數(shù)字孿生數(shù)據(jù)交互融合的動態(tài)性不僅是數(shù)字孿生技術(shù)的顯著特征,更是造成其算法黑箱形成的另一重要原因。就強化學(xué)習(xí)而言,數(shù)字孿生算法黑箱的黑箱程度已經(jīng)完全脫離了人類能夠掌控的范圍。數(shù)字孿生在虛擬孿生模型構(gòu)建完成后,就需要和現(xiàn)實物理世界進行實時的動態(tài)交互與虛實融合,在這個過程中,數(shù)字孿生系統(tǒng)內(nèi)會生成大量以供決策制定的經(jīng)驗參考。強化學(xué)習(xí)是一種常用于“時變系統(tǒng)控制規(guī)則構(gòu)建”的機器學(xué)習(xí)方法,這種學(xué)習(xí)方法一般是將機器置于一個能夠不斷進行反復(fù)試驗的環(huán)境當(dāng)中,通過對經(jīng)驗的自動學(xué)習(xí)與重復(fù)試錯,最后形成一套屬于自己的決策方法,同時還能夠從經(jīng)驗中學(xué)習(xí)最新的知識以對未來情況作出預(yù)測判斷。[14]強化學(xué)習(xí)重點關(guān)注的是機器與環(huán)境之間的交互與反饋,系統(tǒng)會根據(jù)強化學(xué)習(xí)的效果給予正獎勵或負懲罰。
數(shù)字孿生虛擬模型在進行應(yīng)用之時,即通過虛擬孿生數(shù)據(jù)與現(xiàn)實物理數(shù)據(jù)進行的實時交互以作出決策的過程中,強化學(xué)習(xí)正是通過學(xué)習(xí)這些從連續(xù)實時監(jiān)控中收集到的幾何、物理、行為與規(guī)則數(shù)據(jù),并以從環(huán)境和系統(tǒng)中得到的正獎勵作為生成動態(tài)決策的依據(jù)。數(shù)字孿生數(shù)據(jù)交互融合的動態(tài)性使得算法運行的難度較之前更為復(fù)雜化,數(shù)字孿生算法在應(yīng)用過程中不僅要考慮系統(tǒng)之內(nèi)的虛擬孿生數(shù)據(jù)的狀態(tài)與特征,更要結(jié)合系統(tǒng)之外的客觀物理世界中發(fā)生的實時動態(tài)變化的數(shù)據(jù)信息,如此才能作出符合當(dāng)下情境、適合數(shù)字孿生主體的準確決策。但也正是由于這種數(shù)據(jù)交互融合的動態(tài)性,使得數(shù)字孿生算法黑箱的黑箱程度更為加深。
例如,當(dāng)數(shù)字孿生應(yīng)用于人類自身構(gòu)建數(shù)字孿生人之時,算法運行的過程貫穿于生命體“全生命”周期之內(nèi)?,F(xiàn)實世界中的生命體一定會隨著環(huán)境的變化而發(fā)生變動,隨之而來的就是與生命體相關(guān)的數(shù)據(jù)的變動與更新。這種變動會隨時傳送到已經(jīng)構(gòu)建的數(shù)字孿生虛擬人中,當(dāng)算法想要作出符合數(shù)字孿生主體的決策之時,就不得不考慮二者之間的融合與交互。正是這種交互融合,大大加深了算法決策的復(fù)雜性,從而進一步加深了算法黑箱的黑箱程度。
如果將數(shù)字孿生機器學(xué)習(xí)算法的復(fù)雜性以及數(shù)據(jù)交互融合的動態(tài)性所造成的數(shù)字孿生的算法黑箱問題歸結(jié)為是數(shù)字孿生技術(shù)及算法本身所造成的,那么數(shù)字孿生技術(shù)內(nèi)嵌的價值非中立性則可歸結(jié)為是外部人為因素加深了數(shù)字孿生算法黑箱的黑箱程度。由于人之決策不僅容易受到“判斷誤差”的影響,更容易受到諸如認知程度、情緒波動、環(huán)境變化等“判斷噪聲”的影響,帶有極大的主觀性;而算法決策通過算法程序的運行,具有高度的專業(yè)性與客觀程序性以及極強的工具理性等特征。正是憑借著算法具備的決策高效率與高度精準化的特征,現(xiàn)如今越來越多的決策是依靠算法形成而非人為進行,人之決策逐漸讓位于算法決策。[15]當(dāng)下的數(shù)字孿生技術(shù)更是將這種算法決策推向了更高的維度,通過構(gòu)建現(xiàn)實物理世界中的虛擬孿生體,依托二者之間進行的實時的數(shù)據(jù)交互與虛實融合,人們期待數(shù)字孿生算法能夠作出符合現(xiàn)實物理世界中主客體需要的決策。但我們往往會發(fā)現(xiàn),在實現(xiàn)這種“準確且無偏”決策的過程中,工具化和技術(shù)化的算法決策往往由于內(nèi)嵌了人類的價值觀念而與人們最初的期待背道而馳。
數(shù)字孿生作為一種集成式的技術(shù)應(yīng)用,本應(yīng)該遵循著“技術(shù)中立”的原則,卻因為種種原因而無法實現(xiàn)其自身的“中立屬性”?!凹夹g(shù)中立”這一概念主要包括功能中立、責(zé)任中立和價值中立三個方面。[16]我們圍繞數(shù)字孿生算法決策,針對其中的“價值中立”,進一步探究數(shù)字孿生算法黑箱形成的原因。
數(shù)字孿生在對現(xiàn)實物理客體進行模型構(gòu)建之時,首先需要的就是大規(guī)模原始數(shù)據(jù)的輸入,在對數(shù)據(jù)進行處理的過程中,特征選擇與特征提取是必不可少的環(huán)節(jié)。而人們對這些規(guī)模龐大、紛繁復(fù)雜的數(shù)據(jù)進行處理,勢必要按照“人為的”價值觀念和要求進行篩選與判定。由此,數(shù)據(jù)在初始輸入環(huán)節(jié)就已經(jīng)內(nèi)嵌和負載了人為的價值選擇與價值判斷。從數(shù)字孿生技術(shù)的算法設(shè)計者角度而言,若出于商業(yè)利益考量,他們在很大程度上會出于保護商業(yè)秘密而在特征提取之際選擇不公開這部分數(shù)據(jù)信息。由此一來,這在一定程度會由于人為因素而加深數(shù)字孿生算法黑箱的黑箱程度。
數(shù)字孿生在對虛擬模型進行算法應(yīng)用的過程中,雖然從表面看來,人之決策確實讓位于算法決策,但從更深層次來看,這個過程中恰恰內(nèi)嵌了人類主體的價值選擇。就數(shù)字孿生機器學(xué)習(xí)方式而言,無論是監(jiān)督學(xué)習(xí),還是無監(jiān)督學(xué)習(xí),乃至強化學(xué)習(xí),在其背后都隱藏著要將模型訓(xùn)練成為符合人類意志要求、作出滿足人類需求決策的期許。而當(dāng)這些人為賦予的價值觀念一旦失去約束與掌控,其帶來的不僅是加劇數(shù)字孿生算法黑箱的黑箱程度,更會是不可想象的風(fēng)險挑戰(zhàn)。
在以往人工智能的算法黑箱治理分析中,人們通常向往采取“打開黑箱”的方法來解決這一問題,但這一方法存在著很多難以克服和解決的實操性難題。因此,對于數(shù)字孿生算法黑箱問題來說,本文關(guān)注的重點不是要去如何“打開黑箱”,而是將視線投放于人們依據(jù)數(shù)字孿生進行決策時如何減少對不確定性風(fēng)險的擔(dān)憂以及如何增強對決策的信任度上。
在上述討論數(shù)字孿生算法黑箱的生成原因時,首先歸因于數(shù)字孿生機器學(xué)習(xí)算法的復(fù)雜性,這是由于數(shù)字孿生應(yīng)用算法技術(shù)本身造成的技術(shù)黑箱。我們分析了對于監(jiān)督式機器學(xué)習(xí)而言,無論是數(shù)據(jù)的輸入還是輸出,都尚且在人們可掌控的范圍之內(nèi),此時的數(shù)字孿生算法黑箱被界定為“從輸入值映射到期望輸出值的函數(shù)處理過程”,其黑箱帶來的“不確定性風(fēng)險”尚不足以構(gòu)成人們的擔(dān)憂與恐懼;而到了無監(jiān)督式機器學(xué)習(xí),由于算法輸入的是“不帶標簽”的規(guī)模數(shù)據(jù),且人們不明確算法的數(shù)據(jù)輸出,更不知曉算法運作過程的具體機制,此時的數(shù)字孿生算法黑箱被界定為“從輸入端到輸出端的全流程閉環(huán)的未知地帶”,其黑箱帶來的“不確定性風(fēng)險”足以讓人們對數(shù)字孿生算法決策產(chǎn)生隱憂與畏懼。[17]
數(shù)字孿生算法能夠從數(shù)據(jù)本身出發(fā),構(gòu)建虛擬孿生模型,通過深度學(xué)習(xí)與迭代優(yōu)化,自動生成高級的認知結(jié)果,從而作出能夠影響現(xiàn)實物理世界的決策。面對這種算法技術(shù)本身所造成的“不確定性風(fēng)險”,就目前人類的認知水平與應(yīng)對能力而言,不得不承認,人們無法打破黑箱去窺探其內(nèi)里,但我們不能任由算法肆意運行。數(shù)字孿生算法作出的決策與人們的生產(chǎn)生活息息相關(guān),甚至在某種程度上將起到?jīng)Q定性作用,人們自然會想要了解其是“如何作出決策的?”以及將“如何影響我們的生產(chǎn)生活?”這時,算法解釋權(quán)的運用在一定程度上將有助于消解人們對數(shù)字孿生算法的疑團,緩解數(shù)字孿生因機器學(xué)習(xí)算法的復(fù)雜性而帶來的黑箱問題。
數(shù)字孿生技術(shù)下的算法解釋權(quán)指的是,當(dāng)算法依靠虛擬孿生數(shù)據(jù)作出的自動決策應(yīng)用到客觀物理實體時,與該客觀物理實體相關(guān)的任一人類主體都有權(quán)要求算法設(shè)計及實施者對這一過程作出“適當(dāng)?shù)慕忉尅?。我們在前面已?jīng)論述過,人們目前其實無法真正破解算法黑箱難題,即使人們采用將算法決策過程中的所有數(shù)據(jù)源及代碼都公開的方法,受影響的相關(guān)方由于個人認知能力局限,也不能完全理解算法的運算與決策過程。事實上,只有從“適當(dāng)?shù)慕忉尅边@一思路出發(fā),才能夠提高人們對數(shù)字孿生算法決策的認識與理解程度。算法解釋權(quán)所遵循的“適當(dāng)?shù)慕忉尅笔且砸环N能夠被受影響的相關(guān)方理解的方式,[18]解釋數(shù)字孿生算法決策到底是如何形成,以及對人們的生產(chǎn)生活又會造成哪些影響。其本質(zhì)意義上是在追求一種理性的結(jié)果,是在與自身利益進行權(quán)衡之后,對算法決策的理解與接受,這在很大意義上能夠減少人們對數(shù)字孿生算法所作出的自動決策帶來的不確定性風(fēng)險的擔(dān)憂。從某種程度而言,算法解釋權(quán)的運用就已經(jīng)緩解了因機器學(xué)習(xí)的復(fù)雜性而造成的數(shù)字孿生算法黑箱問題。
具體而言,數(shù)字孿生算法解釋權(quán)“適當(dāng)?shù)慕忉尅钡慕忉尫秶鷳?yīng)當(dāng)以虛擬孿生體與客觀物理實體之間的虛實融合為重點而展開,人們期待知曉數(shù)字孿生算法從數(shù)據(jù)輸入到算法運作及算法輸出過程環(huán)節(jié)的簡單操作,期待了解數(shù)字孿生是如何通過虛擬孿生模型的構(gòu)建來影響人們的生產(chǎn)生活的。因此,這種“適當(dāng)?shù)慕忉尅睉?yīng)該涵蓋對整個算法過程的解釋,以及對算法具體決策的解釋。[19]64-65當(dāng)受影響的相關(guān)方對于算法所作出的決策難以理解或者與自己預(yù)期不符,甚至出現(xiàn)嚴重損害自身利益的情況時,就需要數(shù)字孿生技術(shù)的算法設(shè)計與實施方能夠針對種種疑惑提供相應(yīng)的解釋,這一方面有助于消解公眾對于算法作出的適當(dāng)決策的質(zhì)疑而不至于否定其正確性;另一方面也有利于對算法決策確實出現(xiàn)偏頗與失誤的情況下能夠采取及時的救濟。就數(shù)字孿生算法解釋權(quán)“適當(dāng)?shù)慕忉尅钡恼归_形式而言,可以采用可視化、可交互的舉例解釋。[19]65尤其是對于涉及個人切身利益時,如當(dāng)數(shù)字孿生虛擬孿生人所作出的決策應(yīng)用到客觀生命體自身時,人們往往會更加謹慎也更傾向于得到更清晰準確的解釋。此時就可以通過舉例解釋的方式,采用諸如圖形文字、動畫演示等可視化的形式,具體生動地將虛擬孿生體與客觀生命體進行虛實融合的交互過程展現(xiàn)給受影響的相關(guān)方。這種具體的舉例解釋其實是幫助人們能夠以一種更加理性的方式對數(shù)字孿生算法作出的決策進行利益權(quán)衡,有助于增加人們對算法決策的可信任度,緩解人們對數(shù)字孿生算法黑箱的擔(dān)憂。
無論是現(xiàn)實中的客觀物理實體,還是系統(tǒng)內(nèi)的數(shù)字孿生虛體,乃至其中算法的設(shè)計與實施過程,都處于一個不斷變化與更新的狀態(tài)之中。物理實體和虛擬孿生體之間的虛實交互與融合是數(shù)字孿生技術(shù)的一大顯著特征,正是這種動態(tài)性變化加重了算法運算的復(fù)雜程度,進而加劇了算法黑箱的黑箱程度。那么如何才能更好地緩解這種因虛實融合的動態(tài)性變化而造成的算法黑箱呢?加強物理實體與數(shù)字孿生體之間的交流與協(xié)作不失為有效且可行的方法之一。
數(shù)字孿生作為一項技術(shù)手段,其想要達到的效果是將現(xiàn)實物理客體的特征與信息統(tǒng)統(tǒng)轉(zhuǎn)換成計算機可讀取的數(shù)據(jù)。當(dāng)數(shù)字孿生技術(shù)在未來實現(xiàn)全面落地應(yīng)用之時,人們對現(xiàn)實物理客體的研究通常不需要直接面向?qū)ο蟊旧?,而是在?shù)字孿生虛擬模型中進行數(shù)據(jù)分析與推演運算,依靠數(shù)字孿生算法得出準確且可靠的結(jié)論。而如何保證該研究結(jié)論的可信性,則需要以現(xiàn)實世界中物理實體的變動情況為衡量標準,即當(dāng)依據(jù)數(shù)字孿生算法作出的決策應(yīng)用到現(xiàn)實物理實體,能夠促使其向好的方向發(fā)展時,便說明該算法決策是值得信任的。這種信任度的達成始終是圍繞著現(xiàn)實物理實體與虛擬孿生體之間的交流與協(xié)作展開的。這可以從兩個方向維度來具體理解:一是從現(xiàn)實物理實體到虛擬孿生體數(shù)據(jù)輸入的過程(即圖1所示的算法輸入過程);二是從虛擬孿生模型的算法決策輸出到應(yīng)用于現(xiàn)實物理實體的過程(即圖1所示的算法輸出過程)。
首先,從物理實體到虛擬孿生體這一方向維度來看,在現(xiàn)實物理世界中的數(shù)據(jù)和信息傳遞到虛擬孿生體的過程當(dāng)中,對于關(guān)涉人類隱私與切身利益的數(shù)據(jù)特征提取,就需要現(xiàn)實客體與虛擬孿生體之間的交流與協(xié)作。通過充分的交流與溝通,找到一種能夠在維護人們隱私權(quán)的同時盡可能地提取到能夠依據(jù)其進行算法決策的數(shù)據(jù)特征。與此同時,也需要提高人們的算法素養(yǎng),此時的算法素養(yǎng)尤其是指人們在多大限度內(nèi)能夠允許涉及個人切身利益的算法數(shù)據(jù)的搜集,這個過程需要進行不斷的交流溝通與利益博弈。
另一方面,從虛擬孿生模型的算法應(yīng)用這一方向維度來看,首先要明確數(shù)字孿生技術(shù)所作出的算法決策的最終目的是為現(xiàn)實世界中的主客體服務(wù),是為滿足人類的發(fā)展和社會的進步。因此,數(shù)字孿生算法在形成決策過程中,一定要同現(xiàn)實世界中的實體進行充分的交流與數(shù)據(jù)反饋。因為現(xiàn)實世界總是處于動態(tài)變化過程之中,如果算法決策忽視了這一點,那么其作出的算法決策就會因為失去時效性而不能滿足人們的需求。與此同時,在數(shù)字孿生算法決策形成之后,其能否滿足現(xiàn)實客體需要,能否促進人們生產(chǎn)生活的優(yōu)化提升,是對算法決策制定好壞進行評判的標準。當(dāng)應(yīng)用效果顯著時,就形成了正向的積極反饋,將這種正向反饋繼續(xù)應(yīng)用到日后的算法決策當(dāng)中,那么數(shù)字孿生這種虛實融合的動態(tài)性特征將會提升人們對算法的信任程度,從而減輕因其造成的算法復(fù)雜性而加深的算法黑箱的影響程度。
數(shù)字孿生技術(shù)本身內(nèi)嵌了人類與社會所期許的價值觀念,而一旦這些人為賦予的價值觀念出于商業(yè)利益的考量或是被個人私欲所利用,就會加劇算法黑箱程度,從而導(dǎo)致數(shù)字孿生算法作出的決策損害公眾利益,此時就需要人們采取一些行動來減少此類行為的發(fā)生。
數(shù)字孿生技術(shù)賦能的實現(xiàn)離不開倫理底線的構(gòu)建。對數(shù)字孿生算法技術(shù)及算法黑箱的探究,恰恰就是在厘清技術(shù)發(fā)展的旨趣,構(gòu)筑技術(shù)與善的內(nèi)在一致性。[20]從宏觀角度來看,數(shù)字孿生歸根結(jié)底是一項能夠幫助人們更便捷認識世界、更快捷作出決策的技術(shù)手段,這種技術(shù)手段的應(yīng)用不能突破社會倫理的底線。而在數(shù)字孿生技術(shù)的應(yīng)用實踐過程中,往往會出現(xiàn)出于商業(yè)利益考量而植入“非向善”的價值觀念的情況。這種情況的出現(xiàn)“并非簡單的是技術(shù)不夠成熟的表現(xiàn),究其本質(zhì)而言,是由技術(shù)工具論的倫理維度缺席所致”。[21]而對數(shù)字孿生算法技術(shù)及黑箱問題的倫理反思和治理,也在推動著數(shù)字孿生技術(shù)及服務(wù)的不斷優(yōu)化與迭代升級。
因此,針對數(shù)字孿生技術(shù)內(nèi)嵌的“非向善”的價值觀念,要發(fā)揮機器算法在效率上的長處和人腦算法在結(jié)合價值計算后的審時度勢優(yōu)勢。值得注意的是,這里的“人腦算法在結(jié)合價值計算”,指的是符合人類合理利益需求與社會發(fā)展趨勢的“底線價值”。這種技術(shù)價值尋求的是機器算法在事實上的求真與人腦算法在道德上的求善之間的最佳協(xié)調(diào)。[22]
對于數(shù)字孿生技術(shù)而言,在可以預(yù)見的未來,當(dāng)與人們息息相關(guān)的決策都依托數(shù)字孿生虛擬模型作出的時候,由于算法黑箱的客觀存在,導(dǎo)致人們對數(shù)字孿生算法決策已經(jīng)產(chǎn)生了很大程度上的擔(dān)憂,我們更不能任由人類因個體私欲而在數(shù)字孿生技術(shù)中內(nèi)嵌自己非向善的價值觀念。對于數(shù)字孿生算法技術(shù)的設(shè)計與實施者而言尤為重要,因為他們不僅承擔(dān)著要幫助人們作出高效而準確決策的責(zé)任,更承擔(dān)著不加劇算法黑箱程度的責(zé)任。因此,對于數(shù)字孿生算法技術(shù)的從業(yè)人員以及相關(guān)利益方而言,守住道德倫理底線是數(shù)字孿生技術(shù)在未來落地應(yīng)用的題中應(yīng)有之義。
此外,還可以采取“算法標準化”等專項法律法規(guī)的形式,對數(shù)字孿生算法的日常運作進行合理監(jiān)督與檢查。我們可以類比上市公司的審計制度與藥品食品的生產(chǎn)流程,無論是上市公司,還是藥品食品生產(chǎn)過程,其背后都隱藏著“黑箱”的含義。但通過第三方公允專業(yè)的審計以及藥品食品監(jiān)察機構(gòu)對標準流程的監(jiān)督的方法,在一定程度上是可以消解人們的質(zhì)疑,取得公眾信任的。因此,對于在全流程中始終伴隨著人類價值觀念的數(shù)字孿生技術(shù)而言,也可以采取這種標準化的手段,對算法運作從初始環(huán)節(jié)到形成決策的全流程建立算法標準,以及采用第三方監(jiān)督的形式。[23]這在一定程度上可以減少人們非向善的價值觀念的嵌入,緩解因人為因素而加劇的算法黑箱的黑箱程度。