任 磊，賈子翟，賴?yán)铈戮?，周龍飛，張 霖，李伯虎

(1.北京航空航天大學(xué) 自動化科學(xué)與電氣工程學(xué)院，北京 100191； 2.杜克大學(xué) 高級成像實驗室，美國 達勒姆 27707)

0 引言

以云計算、大數(shù)據(jù)、人工智能、5G等為代表的新一代信息通信技術(shù)，正推動全球工業(yè)制造業(yè)邁向數(shù)字化、網(wǎng)絡(luò)化、智能化[1]。國務(wù)院《“十四五”數(shù)字經(jīng)濟發(fā)展規(guī)劃》(1)http://www.gov.cn/zhengce/content/2022-01/12/content_5667817.htm?type=1。指出：數(shù)據(jù)要素作為新型生產(chǎn)要素，成為推動數(shù)字經(jīng)濟發(fā)展的核心引擎。對于工業(yè)制造業(yè)來說，如何挖掘和發(fā)揮工業(yè)數(shù)據(jù)的內(nèi)在價值，也成為工業(yè)制造業(yè)數(shù)字化轉(zhuǎn)型的核心驅(qū)動力[2-3]。工業(yè)企業(yè)通過挖掘利用隱含在工業(yè)數(shù)據(jù)中的高價值要素，能夠促進企業(yè)提質(zhì)降本增效；進一步通過全產(chǎn)業(yè)鏈全價值鏈數(shù)據(jù)的深化利用，能夠促進產(chǎn)業(yè)鏈的整體優(yōu)化[4-6]。尤其是近年來工業(yè)互聯(lián)網(wǎng)、云制造等新型制造模式和技術(shù)的興起[7-8]，使得大規(guī)模多源異構(gòu)跨域工業(yè)數(shù)據(jù)的獲取和處理成為可能，形成了近年來工業(yè)大數(shù)據(jù)的研究熱潮。工業(yè)大數(shù)據(jù)具備多模態(tài)、高通量、重機理、強關(guān)聯(lián)等極具工業(yè)特色的領(lǐng)域特征[9]，并且廣泛存在機理不清的“黑盒”現(xiàn)象，因此傳統(tǒng)基于機理或經(jīng)驗知識建模分析的手段難以應(yīng)對工業(yè)智能化應(yīng)用面臨的諸多挑戰(zhàn)問題，迫切需要探索數(shù)據(jù)驅(qū)動的工業(yè)智能新理論與新技術(shù)體系。

與此同時，以深度學(xué)習(xí)為典型代表的新一代人工智能技術(shù)的迅猛發(fā)展，為工業(yè)智能的發(fā)展提供了新的視角與手段。2017年國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，將智能制造列為新一代人工智能在實體經(jīng)濟落地的首要任務(wù)。同時，工業(yè)人工智能(簡稱工業(yè)智能)也成為了國內(nèi)外新的研究熱點領(lǐng)域，工業(yè)智能的目標(biāo)之一是將新一代人工智能與工業(yè)領(lǐng)域問題進行深度融合，使得工業(yè)系統(tǒng)具有自感知、自學(xué)習(xí)、自決策、自執(zhí)行、自適應(yīng)等智能化特征，并應(yīng)用于產(chǎn)品研發(fā)設(shè)計、生產(chǎn)制造、經(jīng)營管理、運維服務(wù)等工業(yè)制造活動各環(huán)節(jié)，提升全生命周期智能化水平。其中，以深度學(xué)習(xí)為代表的、數(shù)據(jù)驅(qū)動的工業(yè)智能，成為近年來工業(yè)智能領(lǐng)域最具活力的國際前沿焦點研究領(lǐng)域。近年來，國內(nèi)外研究者從多種多樣的具體工業(yè)應(yīng)用問題出發(fā)，充分挖掘工業(yè)大數(shù)據(jù)中蘊藏的海量信息，將深度學(xué)習(xí)與工業(yè)智能應(yīng)用進行融合創(chuàng)新，形成了諸多新模型、新方法、新技術(shù)，并已在工業(yè)設(shè)備故障診斷、裝備健康預(yù)測、產(chǎn)品質(zhì)量管控、生產(chǎn)計劃調(diào)度、產(chǎn)品優(yōu)化設(shè)計等應(yīng)用中獲得成功應(yīng)用。然而，當(dāng)前的研究成果絕大多數(shù)聚焦于具體問題點的微觀創(chuàng)新層面，對于數(shù)據(jù)驅(qū)動的工業(yè)智能這一新興研究領(lǐng)域而言，迫切需要站在更高的宏觀層面，對該研究領(lǐng)域聚焦的對象與問題、目標(biāo)與任務(wù)，以及新理論與新技術(shù)的邏輯體系進行提煉與分析，以推動這一新興交叉研究領(lǐng)域更好地向前發(fā)展。

本文圍繞工業(yè)數(shù)據(jù)全生命周期中的3個關(guān)鍵環(huán)節(jié)：工業(yè)數(shù)據(jù)預(yù)處理、工業(yè)數(shù)據(jù)建模、工業(yè)數(shù)據(jù)分析應(yīng)用，分類分析探討了數(shù)據(jù)驅(qū)動的工業(yè)智能、尤其是基于深度學(xué)習(xí)的代表性新理論與新技術(shù)體系，并探討了面向智能制造的典型應(yīng)用，最后指出了數(shù)據(jù)驅(qū)動的工業(yè)智能研究領(lǐng)域面臨的挑戰(zhàn)和未來發(fā)展方向。

1 工業(yè)數(shù)據(jù)生命周期關(guān)鍵環(huán)節(jié)與工業(yè)智能

隨著工業(yè)互聯(lián)網(wǎng)、大數(shù)據(jù)等技術(shù)的不斷完善發(fā)展，工業(yè)制造業(yè)終端設(shè)備全過程數(shù)據(jù)、產(chǎn)品全生命周期數(shù)據(jù)、企業(yè)全系統(tǒng)數(shù)據(jù)、產(chǎn)業(yè)鏈供應(yīng)鏈全鏈條數(shù)據(jù)等各類工業(yè)數(shù)據(jù)的實時獲取與高效處理成為可能。工業(yè)大數(shù)據(jù)按來源劃分，可分為工業(yè)物聯(lián)網(wǎng)數(shù)據(jù)、企業(yè)信息化數(shù)據(jù)，以及外部跨界數(shù)據(jù)[9-10]。在當(dāng)前基于工業(yè)互聯(lián)網(wǎng)的分布式數(shù)據(jù)源環(huán)境下，一方面，工業(yè)領(lǐng)域物聯(lián)網(wǎng)傳感器在時刻收集工業(yè)現(xiàn)場生產(chǎn)設(shè)備以及產(chǎn)品產(chǎn)生的海量過程數(shù)據(jù)，這是當(dāng)前工業(yè)大數(shù)據(jù)中最為主要也是增長最快的組成部分；另一方面，來源于制造執(zhí)行系統(tǒng)(Manufacturing Execution System, MES)、企業(yè)資源計劃(Enterprise Resource Planning, ERP)、產(chǎn)品生命周期管理(Product Lifecycle Management, PLM)等各類自動化與信息化系統(tǒng)中的業(yè)務(wù)數(shù)據(jù)，也是工業(yè)大數(shù)據(jù)的重要組成部分；此外，與工業(yè)企業(yè)外部競爭環(huán)境相關(guān)的客戶數(shù)據(jù)、市場數(shù)據(jù)、競品數(shù)據(jù)、政策法規(guī)等動態(tài)變化的外部跨界信息，也逐漸成為工業(yè)大數(shù)據(jù)的重要來源之一。工業(yè)大數(shù)據(jù)的形成與發(fā)展，為工業(yè)智能的發(fā)展奠定了基礎(chǔ)。

從工業(yè)數(shù)據(jù)處理和應(yīng)用的角度出發(fā)，工業(yè)數(shù)據(jù)生命周期主要包含預(yù)處理、建模、分析應(yīng)用3大關(guān)鍵環(huán)節(jié)，如圖1所示。

(1)工業(yè)數(shù)據(jù)預(yù)處理 對于采集到的初始工業(yè)數(shù)據(jù)，第一個關(guān)鍵環(huán)節(jié)是通過自適應(yīng)的預(yù)處理方法對其進行規(guī)范化表征，并為后續(xù)智能化的數(shù)據(jù)分析模型提供有效的高質(zhì)量數(shù)據(jù)輸入。工業(yè)數(shù)據(jù)通常具有低質(zhì)高噪、多源、多模態(tài)、不均衡等特點[11]，因此,在預(yù)處理階段需要對低質(zhì)高噪的工業(yè)數(shù)據(jù)進行插補降噪處理，并對其進行多源融合表征，將潛藏于復(fù)雜結(jié)構(gòu)工業(yè)數(shù)據(jù)中的信息通過結(jié)構(gòu)簡單的數(shù)據(jù)模式進行統(tǒng)一表達。傳統(tǒng)的數(shù)據(jù)預(yù)處理與融合表征通常是利用先驗的行業(yè)知識進行人工處理，這顯然是低效的，且不完備的先驗知識很可能導(dǎo)致信息的丟失[12]?；谏疃葘W(xué)習(xí)的工業(yè)數(shù)據(jù)預(yù)處理技術(shù)，將跨域異構(gòu)、低質(zhì)高噪的工業(yè)數(shù)據(jù)自適應(yīng)智能化地表征為易于被數(shù)據(jù)分析模型處理的模式，以便于其隱藏的工業(yè)知識被數(shù)據(jù)分析模型有效挖掘。同時，對于非均衡數(shù)據(jù)樣本，例如小樣本或樣本缺失問題，還需進行智能化的數(shù)據(jù)樣本增強處理。

(2)工業(yè)數(shù)據(jù)建模 在工業(yè)數(shù)據(jù)預(yù)處理環(huán)節(jié)之后，第2個關(guān)鍵環(huán)節(jié)是提取核心特征并構(gòu)建工業(yè)數(shù)據(jù)模型。工業(yè)數(shù)據(jù)的各種核心特征提取與建模，涉及工業(yè)高維度數(shù)據(jù)的低維表征、周期性數(shù)據(jù)時序特征建模、顯著性局部特征建模、多特征抽取協(xié)同建模等，為后續(xù)分析應(yīng)用提供智能化模型。

(3)工業(yè)數(shù)據(jù)分析應(yīng)用 在建立智能化的工業(yè)數(shù)據(jù)模型基礎(chǔ)上，第3個關(guān)鍵環(huán)節(jié)是面向領(lǐng)域的工業(yè)數(shù)據(jù)分析應(yīng)用[13-14]。主要面向工業(yè)制造中各類實際應(yīng)用問題構(gòu)建具體分析應(yīng)用模型，從工業(yè)數(shù)據(jù)中探索模式與規(guī)律，并主要提供以下4類工業(yè)智能應(yīng)用：描述性分析、診斷性分析、預(yù)測性分析、指導(dǎo)性分析。具體而言，涉及故障診斷、缺陷檢測、目標(biāo)檢測、產(chǎn)品質(zhì)量預(yù)測、設(shè)備剩余壽命預(yù)測、供應(yīng)鏈風(fēng)險預(yù)測、生產(chǎn)資源調(diào)度、產(chǎn)品質(zhì)量管控、供應(yīng)鏈優(yōu)化等各類具體工業(yè)智能應(yīng)用。

2 基于深度學(xué)習(xí)的工業(yè)數(shù)據(jù)預(yù)處理

2.1 工業(yè)低質(zhì)高噪數(shù)據(jù)插補降噪

采集獲取的工業(yè)數(shù)據(jù)中廣泛存在各種不符合要求的噪聲數(shù)據(jù)、缺失值等現(xiàn)象，在數(shù)據(jù)融合時不同數(shù)據(jù)源的同類屬性字段也往往存在不一致性的情況，為了能夠為后續(xù)智能化工業(yè)數(shù)據(jù)分析模型的運行提供高質(zhì)量的數(shù)據(jù)輸入，工業(yè)數(shù)據(jù)需要在數(shù)據(jù)采集后進行高效的特征工程，達到改善和提高數(shù)據(jù)質(zhì)量的目的[15]。為了解決多噪聲數(shù)據(jù)的問題，文獻[16]提出一種系統(tǒng)層級的數(shù)據(jù)驅(qū)動方法來處理這些缺失值，并提出了隨機采樣數(shù)據(jù)來識別半導(dǎo)體晶圓缺陷。為了減少噪聲數(shù)據(jù)的影響，文獻[17]開發(fā)了具有動態(tài)加權(quán)小波系數(shù)的深度殘差網(wǎng)絡(luò)(DRN+DWWC)(如圖2a)以自適應(yīng)地濾除這些多噪聲數(shù)據(jù)，提高了變速箱故障診斷的精度。為了解決數(shù)據(jù)缺失的問題，文獻[18]提出一種稱為Itr-MS-STLEcImp的多分段間隙迭代的迭代框架，用于單變量時間序列數(shù)據(jù)中大間隙的缺失數(shù)據(jù)插補。文獻[19]提出一種稱為COF-GRE的兩步方法，用于在存在缺失數(shù)據(jù)以及出現(xiàn)任務(wù)級和單元級異常值的情況下，對多變量位置和散度矩陣做出穩(wěn)健估計。文獻[20]提出一種無監(jiān)督雙自編碼器(DVAE)，如圖2b所示，分別用兩個子模型獲得潛在特征的分布信息，可以很好地完成數(shù)據(jù)具有缺失值時的故障診斷任務(wù)。

2.2 工業(yè)多源異構(gòu)數(shù)據(jù)融合

當(dāng)前，工業(yè)智能化應(yīng)用中涉及的工業(yè)數(shù)據(jù)廣泛存在多源異構(gòu)特點，例如工業(yè)互聯(lián)網(wǎng)終端設(shè)備運行數(shù)據(jù)、產(chǎn)品生命周期數(shù)據(jù)、企業(yè)經(jīng)營管理數(shù)據(jù)、制造價值鏈數(shù)據(jù)以及外部協(xié)作數(shù)據(jù)等，迫切需要智能化的處理方法實現(xiàn)工業(yè)多源異構(gòu)數(shù)據(jù)的高效融合[21-24]。智能制造逐漸向復(fù)雜化、分布式、動態(tài)化發(fā)展，因此工業(yè)數(shù)據(jù)融合模型也需要向混合結(jié)構(gòu)、動態(tài)模式和分布式過渡[25]。文獻[26]提出一種像素級融合方法，將來自多源的數(shù)據(jù)合并為單分辨率數(shù)據(jù)，并總結(jié)了有利于擴大多源數(shù)據(jù)融合應(yīng)用的若干趨勢。文獻[27]旨在整合工廠現(xiàn)有的基于信息系統(tǒng)和物聯(lián)網(wǎng)的能源管理系統(tǒng)，開發(fā)了一個收集不同來源數(shù)據(jù)的數(shù)據(jù)分析架構(gòu)，以提高改進能源感知決策。所提出的方法從能源角度支持智能工廠的發(fā)展，提高了制造中機床的整體設(shè)備效率和生產(chǎn)率?，F(xiàn)代化工業(yè)利用大數(shù)據(jù)提高工作效率，然而數(shù)據(jù)采集節(jié)點的流量是有限的，因此文獻[28]提出一個基于壓縮感知的收集框架，這可以在確保數(shù)據(jù)質(zhì)量和生產(chǎn)率的同時減少數(shù)據(jù)采集量。文獻[29]提出一種基于寬度—深度—時序(WDS)模型的數(shù)據(jù)驅(qū)動方法，對生產(chǎn)過程多工序多維連續(xù)型時序數(shù)據(jù)，以及來源于供應(yīng)鏈多類別離散數(shù)據(jù)等異質(zhì)特征進行融合表征，為具有不同類型工業(yè)數(shù)據(jù)的工業(yè)過程提供可靠的質(zhì)量預(yù)測，如圖3a所示。文獻[30]提出一種智能工具狀態(tài)監(jiān)測(TCM)的大數(shù)據(jù)分析框架，采用多源信息融合的方法處理圖像數(shù)據(jù)、三維點云數(shù)據(jù)和頻率信號數(shù)據(jù)，實現(xiàn)了在不同工作條件下對加工過程的實時監(jiān)控和自適應(yīng)控制。文獻[31]提出一種基于特征學(xué)習(xí)的方法，如圖3b所示，通過注意力特征學(xué)習(xí)模型(MSAN)融合多源數(shù)據(jù)，從而自動提取特征并實時預(yù)測刀具的剩余使用壽命。

2.3 工業(yè)多模態(tài)數(shù)據(jù)統(tǒng)一表征

由于工業(yè)數(shù)據(jù)來源系統(tǒng)的復(fù)雜性，工業(yè)智能化應(yīng)用涉及的數(shù)據(jù)廣泛存在多模態(tài)的特點，結(jié)構(gòu)化、半結(jié)構(gòu)化、非結(jié)構(gòu)化數(shù)據(jù)并存，常面臨關(guān)系數(shù)據(jù)、文本、圖像、音視頻等多模態(tài)數(shù)據(jù)。如何將工業(yè)領(lǐng)域多模態(tài)數(shù)據(jù)高效融合、精準(zhǔn)表征，是工業(yè)數(shù)據(jù)預(yù)處理階段的重要任務(wù)。文獻[32]提出一種基于多分支深度神經(jīng)網(wǎng)絡(luò)的模型，如圖4a所示，其每個分支都是為處理某種類型的數(shù)據(jù)而設(shè)計的。文獻[33]提出一種基于自適應(yīng)動態(tài)封裝和過程操作編碼的新型多模態(tài)預(yù)測方法，通過經(jīng)驗?zāi)B(tài)分解處理目標(biāo)信號以識別特征固有模態(tài)函數(shù)，根據(jù)其重要性和建模復(fù)雜性對此類動態(tài)進行封裝，最后通過自組織圖對輔助信號反映的操作條件進行編碼并呈現(xiàn)給建模結(jié)構(gòu)。文獻[34]提出一種深度耦合自動編碼器(DCAE)模型，如圖4b所示，該模型可以處理不存在于相應(yīng)空間中的多模態(tài)感知信號，例如振動和音頻數(shù)據(jù)，并將多模態(tài)數(shù)據(jù)的特征提取無縫集成到故障診斷數(shù)據(jù)融合中。

2.4 工業(yè)非平衡數(shù)據(jù)增強

當(dāng)前盡管工業(yè)大數(shù)據(jù)在不同行業(yè)領(lǐng)域積累的規(guī)模日趨增大，但工業(yè)數(shù)據(jù)的分布廣泛存在不均衡現(xiàn)象。例如，在設(shè)備健康管理的故障預(yù)測與診斷任務(wù)中，有缺陷的樣本數(shù)據(jù)遠少于正常的樣本數(shù)據(jù)。同時，由于工業(yè)制造業(yè)逐漸向分布式、模塊化發(fā)展，不同工廠、車間采集的數(shù)據(jù)匯聚到一起時，數(shù)據(jù)難以做到完全均衡。而隨著工業(yè)設(shè)備的不斷復(fù)雜化、集成化，可能出現(xiàn)一些新的未知的狀況，缺乏歷史數(shù)據(jù)。數(shù)據(jù)不平衡會導(dǎo)致數(shù)據(jù)分析模型性能不佳，因為它們傾向于挖掘數(shù)據(jù)量更多的類別的特征。這種問題通常有兩種解決途徑：修改模型和數(shù)據(jù)增強。文獻[35]為了減輕不平衡工業(yè)數(shù)據(jù)中降維和特征保留之間的不一致性，提出一種基于重構(gòu)特征表示的智能異常檢測的變分長短期記憶(VLSTM)模型，如圖5a所示。文獻[36]中，通過引入次空間，提出一種基于距離的支持向量機(Support Vector Machine, SVM)加權(quán)降采樣(Weighted Undersampling, WU)方案。文獻[37]提出一種生成對抗網(wǎng)絡(luò)用于不平衡數(shù)據(jù)故障診斷，通過從數(shù)據(jù)分布中生成故障樣本來恢復(fù)不平衡數(shù)據(jù)集的平衡。文獻[38]提出了基于Wasserstein梯度懲罰生成對抗網(wǎng)絡(luò)(WGAN-GP)的數(shù)據(jù)增強方法，如圖5b所示，生成數(shù)據(jù)樣本來補充故障診斷的少樣本數(shù)據(jù)集，并提高故障診斷的準(zhǔn)確性。

3 基于深度學(xué)習(xí)的工業(yè)數(shù)據(jù)建模

3.1 適用于工業(yè)數(shù)據(jù)建模分析的常用深度學(xué)習(xí)模型與技術(shù)

基于深度學(xué)習(xí)的方法來構(gòu)建工業(yè)數(shù)據(jù)模型，實現(xiàn)對于工業(yè)數(shù)據(jù)內(nèi)在模式規(guī)律的分析與預(yù)測，已經(jīng)受到廣泛關(guān)注，典型代表性方法有：卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks, CNN)[39-40]、循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network, RNN)[41-42]、自動編碼器(Autoencoder)[43-44]以及圖神經(jīng)網(wǎng)絡(luò)(Graph Neural Network, GNN)[45-47]等深度學(xué)習(xí)方法。與傳統(tǒng)方法相比，基于神經(jīng)網(wǎng)絡(luò)的工業(yè)數(shù)據(jù)預(yù)測方法在趨勢性、單調(diào)性以及尺度相似性方面能夠獲得較好的效果[39]。

由于工業(yè)應(yīng)用場景的復(fù)雜性，完備的工業(yè)數(shù)據(jù)往往難以采集獲取，導(dǎo)致傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練模式難以滿足當(dāng)前工業(yè)數(shù)據(jù)分析任務(wù)的需求。隨著新一代人工智能技術(shù)的發(fā)展，研究者提出了一系列新的神經(jīng)網(wǎng)絡(luò)模型構(gòu)建策略，如遷移學(xué)習(xí)(transfer learning)[48-49]、對抗學(xué)習(xí)(adversavial learning)[50-51]、生成學(xué)習(xí)(generative learning)[52-53]、注意力機制(attention mechanism)[54-55]等，為日趨復(fù)雜的工業(yè)智能化應(yīng)用提供了解決思路。

3.1.1 工業(yè)數(shù)據(jù)建模分析常用的深度學(xué)習(xí)模型

(1)卷積神經(jīng)網(wǎng)絡(luò)類

CNN在挖掘數(shù)據(jù)的局部特征方面具有很好的性能，并且具有良好的特征提取能力和泛化能力，由此成為了應(yīng)用最廣泛的深度學(xué)習(xí)模型，可以用于工業(yè)數(shù)據(jù)的預(yù)測和分類。網(wǎng)絡(luò)的性能取決于網(wǎng)絡(luò)的深度、寬度、感受野尺寸等參數(shù)。近年來，在深度學(xué)習(xí)領(lǐng)域?qū)NN的研究持續(xù)不斷，研發(fā)出了ResNet[56]、GoogleNet[57]、EfficientNet[58]等性能優(yōu)越的CNN網(wǎng)絡(luò)。工業(yè)大數(shù)據(jù)分析領(lǐng)域，基于CNN的模型也是學(xué)者們關(guān)注的重點。例如，文獻[59]中設(shè)計了一個基于具有增量學(xué)習(xí)的寬卷積神經(jīng)網(wǎng)絡(luò)(BCNN)的故障診斷模型，可以提取故障趨勢和非線性結(jié)構(gòu)，以捕捉故障過程的特征，并更新診斷模型以包含新出現(xiàn)的異常樣本和故障類別。文獻[60]提出一種新穎的基于門控卷積神經(jīng)網(wǎng)絡(luò)的Transformer(GCT)，如圖6a所示，用于工業(yè)過程的動態(tài)軟傳感器建模。對時間序列數(shù)據(jù)的短期模式進行編碼，并利用改進的門控卷積神經(jīng)網(wǎng)絡(luò)自適應(yīng)地過濾重要特征，之后將多頭注意力機制應(yīng)用于任意兩個矩之間的相關(guān)性建模。文獻[61]提出一種云端-邊緣協(xié)同的輕量化時間卷積神經(jīng)網(wǎng)絡(luò)模型Cloud-Edge LTCN，在兼顧精準(zhǔn)性的同時大幅提升了推理速度,如圖6b所示。文獻[14]提出一種基于雙CNN模型架構(gòu)的設(shè)備的剩余使用壽命預(yù)測方法，分別通過兩個CNN模塊識別初始故障點和預(yù)測RUL。

(2)循環(huán)神經(jīng)網(wǎng)絡(luò)類

RNN類的神經(jīng)網(wǎng)絡(luò)可以用來挖掘時序數(shù)據(jù)的時序特征，典型的RNN類神經(jīng)網(wǎng)絡(luò)有長短期記憶網(wǎng)絡(luò)(Long Short-Term Memory, LSTM)[62-63]和門控制循環(huán)單元(Gated Recurrent Unit, GRU)[64-65]。LSTM和GRU是典型的門控網(wǎng)絡(luò)，在循環(huán)神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上加入門控機制，用于對長期記憶信息保存、舍棄，可以有效提取特征中長時間跨度的依賴關(guān)系，并且可以避免梯度爆炸和梯度消失。RNN類神經(jīng)網(wǎng)絡(luò)由于十分適用于挖掘工業(yè)物聯(lián)網(wǎng)時序類數(shù)據(jù)的內(nèi)在特征，成為了工業(yè)智能應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。例如，文獻[66]提出一種通過提取動態(tài)時延，以重構(gòu)多變量數(shù)據(jù)的改進的基于注意力的長短期記憶網(wǎng)絡(luò)預(yù)測模型，預(yù)測工業(yè)多元時間序列。文獻[67]通過引入輸入的動態(tài)信息來構(gòu)建新的網(wǎng)絡(luò)單元，提出一種用于復(fù)雜工業(yè)過程中的關(guān)鍵變量預(yù)測建模方法——差分長短期記憶網(wǎng)絡(luò)(DLSTM)，如圖7a所示。文獻[65]中提出一種多尺度密集門循環(huán)單元網(wǎng)絡(luò)(MDGRU)用于軸承剩余使用壽命預(yù)測，如圖7b所示，可以捕獲序列特征并集成不同時間尺度的信息。

(3)自動編碼器類

自動編碼器是一種無監(jiān)督的神經(jīng)網(wǎng)絡(luò)模型，可以用來挖掘數(shù)據(jù)的隱含特征[68]。自動編碼器包含編碼器(encoder)和解碼器(decoder)兩部分，分別用于挖掘數(shù)據(jù)的顯著特征和對原始輸入數(shù)據(jù)重構(gòu)。由于自動編碼器的模塊化的結(jié)構(gòu)屬性，使其相較于其他網(wǎng)絡(luò)結(jié)構(gòu)具有較好的可解釋性。當(dāng)前，自動編碼器成為了工業(yè)數(shù)據(jù)智能分析領(lǐng)域的常用模型[69-72]。文獻[73]提出一種堆疊局部保持自編碼器(S-LPAE)，如圖8a所示，利用局部保持自動編碼器(LPAE)訓(xùn)練數(shù)據(jù)集附加局部保持約束，從而使?jié)撛谔卣骺梢愿玫乇３志植繑?shù)據(jù)結(jié)構(gòu)，用于流程工業(yè)的過程監(jiān)控和預(yù)測。文獻[74]提出一種基于深度自動編碼器和深度神經(jīng)網(wǎng)絡(luò)(deep autoencoder)的軸承RUL預(yù)測框架，如圖8b所示。文獻[75]提出一種協(xié)作鏈路預(yù)測模型(CLPM)，該模型使用堆疊去噪自編碼器(SDAE)通過歷史鏈路信息預(yù)測基于IIoT的MD在下一時刻的鏈路。

(4)圖神經(jīng)網(wǎng)絡(luò)類

圖神經(jīng)網(wǎng)絡(luò)可以從非歐式空間獲取工業(yè)數(shù)據(jù)的關(guān)聯(lián)性特征信息，用來學(xué)習(xí)數(shù)據(jù)特征間的相關(guān)知識[76]，由此受到工業(yè)數(shù)據(jù)分析相關(guān)學(xué)術(shù)界學(xué)者的關(guān)注。文獻[45]提出一種基于新型半監(jiān)督圖卷積深度置信網(wǎng)絡(luò)算法的機電系統(tǒng)智能故障診斷方法(SSGCDBN)，如圖9a所示。文獻[77]使用結(jié)構(gòu)分析方法對故障進行預(yù)診斷，得到故障關(guān)聯(lián)圖，利用引入權(quán)重系數(shù)的圖卷積網(wǎng)絡(luò)(SA-GCN)構(gòu)建故障診斷模型，如圖9b所示。

(5)多種深度神經(jīng)網(wǎng)絡(luò)模塊混合模型類

各種不同神經(jīng)網(wǎng)絡(luò)模型的工業(yè)數(shù)據(jù)智能分析模型分別具有其獨特的優(yōu)勢和各種約束條件，可能難以應(yīng)對復(fù)雜的工業(yè)數(shù)據(jù)建模任務(wù)。為了利用各種神經(jīng)網(wǎng)絡(luò)的優(yōu)勢，兩種或多種神經(jīng)網(wǎng)絡(luò)模塊的集成或組合，經(jīng)常被用于各種工程應(yīng)用。例如，文獻[78]提出一種基于自編碼卷積長短期記憶網(wǎng)絡(luò)模型Auto-CNN-LSTM的制造業(yè)數(shù)據(jù)擴維特征提取方法，如圖10a所示。文獻[79]聚合CNN和LSTM提出一種新的態(tài)勢感知模型CNN-LSTM，如圖10b所示，具有在時空測量數(shù)據(jù)上實現(xiàn)協(xié)同數(shù)據(jù)挖掘的優(yōu)勢，可以同時檢測當(dāng)前準(zhǔn)確故障位置并預(yù)測系統(tǒng)未來穩(wěn)定性狀態(tài)。

3.1.2 新型工業(yè)數(shù)據(jù)建模策略

(1)遷移學(xué)習(xí)

遷移學(xué)習(xí)是一種工業(yè)數(shù)據(jù)智能分析問題的常用手段[80-86]。由于在高度動態(tài)的智能化生產(chǎn)環(huán)境中，生產(chǎn)的產(chǎn)品、工具和流程可能定期或隨時更換，需要遷移學(xué)習(xí)這種手段，通過任務(wù)間知識遷移，在之前的知識的基礎(chǔ)上構(gòu)建新的數(shù)據(jù)分析模型，以減少分析成本[83]。文獻[84]提出一種基于任務(wù)的偏置域適應(yīng)網(wǎng)絡(luò)(TBDA-Net)解決工業(yè)數(shù)據(jù)驅(qū)動的故障診斷中的小樣本問題，如圖11a所示，利用自適應(yīng)維度對齊子網(wǎng)克服不同域的維度對齊導(dǎo)致的目標(biāo)域信息丟失，并保護多源樣本的多樣性以提升模型泛化性。文獻[85]提出一種深度卷積遷移學(xué)習(xí)網(wǎng)絡(luò)(DCTLN)用于機器智能故障診斷，如圖11b所示，以解決歷史故障數(shù)據(jù)不平衡的問題。文獻[86]提出一種基于遷移學(xué)習(xí)的故障診斷方法，從多個旋轉(zhuǎn)機器的充足監(jiān)督數(shù)據(jù)中學(xué)習(xí)到的診斷知識通過域?qū)褂?xùn)練遷移到目標(biāo)設(shè)備。

(2)對抗學(xué)習(xí)

對抗學(xué)習(xí)是深度學(xué)習(xí)領(lǐng)域廣泛研究的神經(jīng)網(wǎng)絡(luò)構(gòu)建策略，運用博弈論的思想以充分利用數(shù)據(jù)資源[50-51]，并提升模型魯棒性和完備性[87]。對抗訓(xùn)練一般通過兩種方式實現(xiàn)：①以生成對抗網(wǎng)絡(luò)[88](Generative Adversarial Net, GAN)、域?qū)股窠?jīng)網(wǎng)絡(luò)[89](domain adversarial neuralnetwork)等模型為代表的神經(jīng)網(wǎng)絡(luò)，通過不同模塊間的對抗博弈實現(xiàn)；②以投影梯度下降[90](Projected Gradient Descent, PGD)、快速梯度法[91](Fast Gradient Method, FGM)等為代表的，通過不同優(yōu)化目標(biāo)間的對抗實現(xiàn)。由于工業(yè)數(shù)據(jù)分析的需求，對抗學(xué)習(xí)在近幾年逐漸受到相關(guān)領(lǐng)域?qū)W者的關(guān)注。例如文獻[92]提出一種對抗樣本選擇策略，提升模型對IIoT中干擾數(shù)據(jù)的魯棒性，如圖12a所示。文獻[72]提出對抗自編碼器(AAE)，如圖12b所示，獲取數(shù)據(jù)信息流形特征，用于構(gòu)建和監(jiān)控統(tǒng)計數(shù)據(jù)，提高故障檢測的穩(wěn)定性和可靠性。

(3)生成學(xué)習(xí)

在工業(yè)數(shù)據(jù)分析任務(wù)中，生成學(xué)習(xí)通常與其他任務(wù)相結(jié)合，通過生成各種類型的偽樣本，作為真實樣本的補充，或作為擾動樣本通過對抗訓(xùn)練提升模型魯棒性。常用的生成學(xué)習(xí)模型有生成對抗網(wǎng)絡(luò)[88]和變分自編碼器(variational autoencoder)[93]。文獻[94]提出使用生成對抗網(wǎng)絡(luò)訓(xùn)練的變分自動編碼器(VAE-GAN)以提升設(shè)備剩余使用壽命預(yù)測的魯棒性，如圖13a所示。文獻[95]提出一種基于GAN的缺陷圖像生成方法，用于缺陷檢測，如圖13b所示。

(4)注意力機制

注意力機制可以使模型將計算資源聚焦于更重要的信息。近年來由于Transformer這種基于Attention機制的神經(jīng)網(wǎng)絡(luò)的提出以及其優(yōu)越性能，Attention機制成為了深度學(xué)習(xí)領(lǐng)域極其火爆的熱點，并受到工業(yè)數(shù)據(jù)分析領(lǐng)域?qū)W者的廣泛關(guān)注[96-98]。例如，文獻[96]提出一種基于多通道時間注意力的網(wǎng)絡(luò)(MCTAN)用于飛機發(fā)動機的健康指標(biāo)預(yù)測，如圖14a所示，通過通道注意力衡量不同通道的貢獻，并通過多頭局部注意力機制有效提取潛在的長距離時間關(guān)系。文獻[54]提出一種基于特征注意的端到端的機器剩余使用壽命預(yù)測方法(AGCNN)，如圖14b所示，利用注意力機制為特征加權(quán)。

3.2 工業(yè)數(shù)據(jù)特征提取建模

工業(yè)數(shù)據(jù)特征提取與建模分析任務(wù)主要包括工業(yè)高維度數(shù)據(jù)的低維表征、工業(yè)數(shù)據(jù)周期性時序特征建模、工業(yè)數(shù)據(jù)顯著性局部信息抽取、工業(yè)數(shù)據(jù)多特征抽取協(xié)同建模等。

3.2.1 工業(yè)高維數(shù)據(jù)的低維表征

在制造系統(tǒng)中，物聯(lián)網(wǎng)以及大數(shù)據(jù)集成系統(tǒng)將各種不同數(shù)據(jù)匯集到一起，過于龐大的數(shù)據(jù)規(guī)模不僅會導(dǎo)致計算和存儲資源的浪費，同時冗余的信息還會導(dǎo)致數(shù)據(jù)分析模型性能的下降[99]。因此，需要對高維度的工業(yè)數(shù)據(jù)進行特征提取，在確保數(shù)據(jù)包含足夠的工業(yè)特征信息的同時，盡可能地壓縮數(shù)據(jù)的體量。針對該問題，文獻[100]提出一種基于協(xié)同深度動態(tài)特征提取和可變時延估計的新型數(shù)據(jù)驅(qū)動的工業(yè)質(zhì)量預(yù)測器，如圖15a所示，利用一種半監(jiān)督動態(tài)特征提取(SSDFE)網(wǎng)絡(luò)來提取非線性動態(tài)特征，以建立用于輸出質(zhì)量預(yù)測的回歸模型。文獻[101]提出了聯(lián)合高階正交迭代(J-HOOI)算法用于聯(lián)邦張量分解(FTD)模型，如圖15b所示，用于聯(lián)邦學(xué)習(xí)框架下的高維工業(yè)數(shù)據(jù)的特征提取和降維。

3.2.2 工業(yè)數(shù)據(jù)周期性時序特征建模

工業(yè)物聯(lián)網(wǎng)中，傳感器采集的數(shù)據(jù)大多是時序數(shù)據(jù)，例如震動數(shù)據(jù)、加速度數(shù)據(jù)、溫度數(shù)據(jù)等。這些信號在時間維度上的周期性變化可以詮釋物聯(lián)網(wǎng)中設(shè)備的狀態(tài)變化趨勢，對于提高預(yù)測精度具有重要意義。因此，對于工業(yè)大數(shù)據(jù)中時序性特征的挖掘就顯得極其重要[102]。為了處理時間序列數(shù)據(jù)，文獻[103]提出了一種自適應(yīng)滑動數(shù)據(jù)窗口方法來提取時間序列特征。為了分析工業(yè)大數(shù)據(jù)的時序性，文獻[104]開發(fā)了一種基于錯位時間序列卷積神經(jīng)網(wǎng)絡(luò)(DTS-CNN)的新型診斷框架，利用神經(jīng)網(wǎng)絡(luò)的錯位層，提取機械振動信號中的多尺度周期性特征。文獻[105]提出了一種張量方案以及一種稱為多元卷積神經(jīng)網(wǎng)絡(luò)(MVCNN)的新型深度學(xué)習(xí)架構(gòu)，如圖16a所示，用于多元時間序列分類，其中所提出的架構(gòu)考慮了多元和滯后特征。文獻[102]利用時間項張量和張量環(huán)分解技術(shù)提出一種多尺度輕量化的Transformer(TR-LT)，利用高維度的模型實現(xiàn)多時間尺度的特征提取，用于裝備核心部件的剩余壽命預(yù)測，如圖16b所示。在石油生產(chǎn)中，時間序列數(shù)據(jù)存在大量的非線性和復(fù)雜性，文獻[106]利用長短期記憶網(wǎng)絡(luò)，能夠解決傳統(tǒng)預(yù)測方法的局限性，提高了預(yù)測的準(zhǔn)確性。

3.2.3 工業(yè)數(shù)據(jù)顯著性局部信息抽取

工業(yè)物聯(lián)網(wǎng)所采集數(shù)據(jù)中的信息往往是稀疏的，針對某一工業(yè)問題，數(shù)據(jù)中的有用信息可能主要存在于與某一時空相關(guān)的數(shù)據(jù)中。因此，工業(yè)深度學(xué)習(xí)模型需要更專注于找到數(shù)據(jù)中顯著的當(dāng)前任務(wù)相關(guān)的有用信息，這對于工業(yè)預(yù)測模型的精度和速度都極其重要。為解決這一問題，文獻[107]提出了一種基于時空注意力的LSTM網(wǎng)絡(luò)(STA-LSTM)用于軟傳感器建模，如圖17a所示，它不僅可以識別與每個時間步的質(zhì)量變量相關(guān)的重要輸入變量，還可以自適應(yīng)地發(fā)現(xiàn)所有時間步與質(zhì)量相關(guān)的隱藏狀態(tài)。文獻[108]為了準(zhǔn)確預(yù)測滾動軸承的RUL，提出了一種具有雙重注意門的門控循環(huán)單元神經(jīng)網(wǎng)絡(luò)GDAU，如圖17b所示，比傳統(tǒng)的預(yù)測方法具有更高的預(yù)測精度和收斂速度。

3.2.4 工業(yè)數(shù)據(jù)多特征抽取協(xié)同建模

很多工業(yè)場景中，多種不同形式的工業(yè)特征信息同時存在于工業(yè)數(shù)據(jù)中，因此需要混合的模型協(xié)同地抽取這些工業(yè)信息。例如文獻[109]提出了一個自監(jiān)督長短期記憶深度分解機模型(LSTM-DeepFM)用于產(chǎn)品質(zhì)量預(yù)測。該文獻提出了一個主要包括預(yù)訓(xùn)練和微調(diào)階段的框架來探索不同的工業(yè)數(shù)據(jù)特征；預(yù)訓(xùn)練階段使用LSTM-Autoencoder預(yù)訓(xùn)練，基于兩種自監(jiān)督掩碼策略，利用LSTM-Deep探索特征之間的相互依賴關(guān)系和時間序列的動態(tài)波動；微調(diào)階段，依靠預(yù)訓(xùn)練的表征，分別從LSTM、DNN和FM分量中提取時序、高維和低維特征，如圖18a所示。文獻[63]提出一種量化張量訓(xùn)練分布式長短期記憶(QTT-DLSTM)，利用張量對工業(yè)數(shù)據(jù)的多種屬性表征，并從多屬性的角度對工業(yè)信息物理融合系統(tǒng)大數(shù)據(jù)進行處理和分析，如圖18b所示。

4 基于深度學(xué)習(xí)的工業(yè)數(shù)據(jù)分析應(yīng)用

海量的工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)為在已有的歷史數(shù)據(jù)的基礎(chǔ)上總結(jié)規(guī)律、發(fā)現(xiàn)問題并指導(dǎo)決策提供了數(shù)據(jù)基礎(chǔ)。工業(yè)數(shù)據(jù)分析技術(shù)，從應(yīng)用的角度劃分，大致可分為描述性分析(descriptive analysis)、預(yù)測性分析(predictive analysis)、診斷性分析(diagnostic analysis)和指導(dǎo)性分析(prescriptive analysis)應(yīng)用[110]。由于描述性分析實現(xiàn)手段相對簡單，因此不作為本文調(diào)研的重點。

4.1 預(yù)測性分析

利用基于深度學(xué)習(xí)的工業(yè)數(shù)據(jù)智能分析方法構(gòu)建模型，可以對工業(yè)行為的狀態(tài)監(jiān)控，以及對未來狀態(tài)做出預(yù)測[13-14]，根據(jù)預(yù)測結(jié)果對進一步的措施進行指導(dǎo)。此類應(yīng)用是當(dāng)前數(shù)據(jù)驅(qū)動的工業(yè)智能的核心主流應(yīng)用之一?；谏疃葘W(xué)習(xí)的工業(yè)數(shù)據(jù)智能分析模型可以幫助制造商理解趨勢和預(yù)測未來的結(jié)果，并解耦信息來提供洞察力和預(yù)測。相關(guān)的應(yīng)用場景非常多，例如產(chǎn)品質(zhì)量預(yù)測、設(shè)備的預(yù)后與健康管理、供應(yīng)鏈風(fēng)險預(yù)測等。例如，文獻[111]中提出了一種基于半監(jiān)督并行deepFM模型的高效軟傳感器，如圖19a所示，分別利用DNN和FM兩種網(wǎng)絡(luò)結(jié)構(gòu)分析物聯(lián)網(wǎng)時序數(shù)據(jù)和工業(yè)軟件的離散數(shù)據(jù)，用于產(chǎn)品質(zhì)量預(yù)測。文獻[112]依靠人工智能和供應(yīng)鏈專家之間的協(xié)同作用，提出了一個數(shù)據(jù)驅(qū)動的供應(yīng)鏈風(fēng)險預(yù)測框架，如圖19b所示。然后，通過在實際多層制造供應(yīng)鏈中預(yù)測交付延遲的情況下實施和應(yīng)用該框架來探索預(yù)測性能和可解釋性之間的權(quán)衡。文獻[113]將供應(yīng)鏈可見性問題作為鏈接預(yù)測問題，通過圖神經(jīng)網(wǎng)絡(luò)檢測買家未知的潛在鏈接。

4.2 診斷性分析

在工業(yè)大數(shù)據(jù)的協(xié)助下，工業(yè)數(shù)據(jù)分析模型可以對工業(yè)場景中已發(fā)生的事故的根源進行分析?；谏疃葘W(xué)習(xí)的工業(yè)數(shù)據(jù)智能分析方法，可以較快速地對異常定位。相關(guān)的應(yīng)用有工業(yè)設(shè)備故障診斷[114-115]、目標(biāo)識別等[116-118]。工業(yè)設(shè)備的故障診斷是工業(yè)大數(shù)據(jù)分析的重要任務(wù)之一，一直是學(xué)術(shù)界和產(chǎn)業(yè)界關(guān)注的熱點[119-122]。例如文獻[119]中提出一種用一維卷積神經(jīng)網(wǎng)絡(luò)提取故障信息的故障診斷模型，如圖20a所示。文獻[120]中提出了一種基于深度遷移卷積神經(jīng)網(wǎng)絡(luò)的在線故障診斷方法，如圖20b所示。目標(biāo)識別是工業(yè)生產(chǎn)中的重要應(yīng)用。文獻[121]中提出一種在不利的光照條件下穩(wěn)健地識別編碼目標(biāo)的算法。文獻[122]通過目標(biāo)RGB-D圖像的快速識別和深度方向的精確測量來強化工業(yè)視覺伺服系統(tǒng)的性能指標(biāo)。

4.3 指導(dǎo)性分析

利用行業(yè)相關(guān)的工業(yè)大數(shù)據(jù)，工業(yè)智能分析應(yīng)用可以對未來的行為做出指導(dǎo)和決策。典型的應(yīng)用場景有供應(yīng)鏈優(yōu)化管控[123]、生產(chǎn)計劃調(diào)度[124]、生產(chǎn)資源調(diào)度等[125]。文獻[123]提出了一種新型多智能體強化學(xué)習(xí)模型，如圖21a所示，同時優(yōu)化了供應(yīng)鏈配送問題中的路線長度和車輛的到達時間。該模型設(shè)計了多個路徑記錄器來提取車輛的路徑歷史信息并實現(xiàn)它們之間的通信。同時設(shè)計了一種多重采樣策略，并獲得了計算時間和性能提升之間的平衡邊界。文獻[124]提出了一種新的雙目標(biāo)模型來處理集成生產(chǎn)計劃和基于可靠性的多級預(yù)防性維護調(diào)度問題。文獻[125]提出了一種混合計算框架，如圖21b所示，并設(shè)計了一種智能資源調(diào)度策略，以滿足邊緣計算支持的智能制造的實時性要求。

5 面向智能制造的典型應(yīng)用

5.1 設(shè)備健康管理與預(yù)測性運維

工業(yè)大數(shù)據(jù)驅(qū)動的復(fù)雜裝備關(guān)鍵指標(biāo)預(yù)測與健康管理(Prognostics and Health Management, PHM)，通過分析生產(chǎn)制造流水線的過程監(jiān)控數(shù)據(jù)、設(shè)備運行的實時狀態(tài)數(shù)據(jù)等，揭示系統(tǒng)故障的特征，提前主動識別系統(tǒng)運行過程中的潛在異常，診斷異常的根本原因，預(yù)測系統(tǒng)的剩余壽命[126,78]。

在PHM任務(wù)中分析的工業(yè)數(shù)據(jù)包括設(shè)備的震動信號、加速度信號、溫度數(shù)據(jù)、光信號、聲信號、電氣屬性等。在以深度學(xué)習(xí)為代表的新一代人工智能廣泛應(yīng)用于PHM任務(wù)之前，PHM任務(wù)主要分為數(shù)據(jù)特征提取和之后的預(yù)測兩個步驟。而深度學(xué)習(xí)打破了這兩個步驟的邊界，可以直接利用采集的工業(yè)設(shè)備數(shù)據(jù)，對設(shè)備的健康狀況進行預(yù)測[74,127-128]。例如，文獻[129]開發(fā)了一種鋰電池的剩余使用壽命預(yù)測模型，在使用經(jīng)驗?zāi)B(tài)分解(EMD)方法后，將原始電池容量數(shù)據(jù)分解為一些固有模態(tài)函數(shù)(IMF)和一個殘差，之后，應(yīng)用長短期記憶(LSTM)模型來估計殘差，同時使用高斯過程回歸(GPR)子模型擬合具有不確定性水平的IMF，該方法可以直接同時捕獲容量的長期依賴性和容量再生引起的不確定性量化。文獻[130]提出一種使用時頻表示(TFR)和多尺度卷積神經(jīng)網(wǎng)絡(luò)(MSCNN)的剩余使用壽命估計方法。文獻[131]開發(fā)了一種基于強化學(xué)習(xí)的學(xué)習(xí)率調(diào)度器，用于故障分類，并有效地自動調(diào)度學(xué)習(xí)率，可以自適應(yīng)地實現(xiàn)PHM模型的訓(xùn)練。

5.2 產(chǎn)品質(zhì)量管控

在產(chǎn)品全生命周期管理(Product Life-cycle Management, PLM)中，數(shù)據(jù)驅(qū)動的工業(yè)智能技術(shù)能夠利用產(chǎn)品制造過程數(shù)據(jù)和質(zhì)量檢測數(shù)據(jù)[109]，進行產(chǎn)品質(zhì)量管理，實現(xiàn)產(chǎn)品生產(chǎn)的可追溯性，并對流程進行優(yōu)化[132]。通過對產(chǎn)品質(zhì)量與原材料質(zhì)量、設(shè)備狀態(tài)參數(shù)、工藝流程、車間環(huán)境等因素的相關(guān)性分析，確定影響產(chǎn)品質(zhì)量的主要因素；再此之上，通過構(gòu)建產(chǎn)品質(zhì)量與這些因素的線性、非線性映射關(guān)系，從而對產(chǎn)品的質(zhì)量做出精準(zhǔn)的預(yù)測。進一步，利用智能優(yōu)化算法對產(chǎn)品生產(chǎn)過程進行優(yōu)化調(diào)度，可以實現(xiàn)自適應(yīng)的產(chǎn)品質(zhì)量監(jiān)控和優(yōu)化管控。

產(chǎn)品質(zhì)量預(yù)測可以分解為兩個任務(wù)：①影響因素與產(chǎn)品質(zhì)量指標(biāo)的相關(guān)性分析，用于大數(shù)據(jù)分析的特征選擇，實現(xiàn)低成本、高效的預(yù)測；②數(shù)據(jù)驅(qū)動的產(chǎn)品質(zhì)量預(yù)測模型構(gòu)建，實現(xiàn)最終的質(zhì)量指標(biāo)預(yù)測。傳統(tǒng)的數(shù)據(jù)分析方法分析了各種因素與質(zhì)量指標(biāo)之間的相關(guān)性，從而揭示了產(chǎn)品質(zhì)量問題的原因。然而，這些方法使用的是人為定義的相關(guān)性指標(biāo)，這些指標(biāo)可能并不能全面深入地詮釋各種因素與質(zhì)量指標(biāo)的關(guān)系，因此，所分析的相關(guān)性可能是有偏差的，導(dǎo)致對關(guān)鍵因素識別的不準(zhǔn)確。以深度學(xué)習(xí)為代表的新一代人工智能技術(shù)，在這里可以看作是黑盒模型，可以自適應(yīng)地提取影響因素與產(chǎn)品質(zhì)量指標(biāo)間的關(guān)系，因此在該領(lǐng)域受到廣泛關(guān)注。文獻[133]提出了一種在批量操作期間實時預(yù)測最終產(chǎn)品質(zhì)量的方法，通過多模型協(xié)同，捕捉操作過程信息與最終產(chǎn)品質(zhì)量的時變關(guān)系，從而實時預(yù)測產(chǎn)品質(zhì)量。文獻[134]開發(fā)了域適應(yīng)極限學(xué)習(xí)機(DAELM)，建立了一個簡單的軟傳感器模型，適用于標(biāo)記數(shù)據(jù)有限的多級過程。此外，還開發(fā)了一種有效的模型選擇策略來選擇其模型參數(shù)。通過利用不同工況的有用信息，并將其傳遞給現(xiàn)有的軟傳感器，擴大了預(yù)測域，提高了預(yù)測精度。

5.3 工業(yè)機器視覺

新一代人工智能，特別是機器視覺技術(shù)已被廣泛應(yīng)用于工業(yè)制造過程中的產(chǎn)品質(zhì)量檢測和質(zhì)量保證。制造系統(tǒng)中的產(chǎn)品質(zhì)量檢驗過程是評估零件或產(chǎn)品的某些特征，通過將測量結(jié)果與指定的質(zhì)量要求進行比較來確定該零件或產(chǎn)品是否符合質(zhì)量標(biāo)準(zhǔn)。

在機械加工行業(yè)，機器視覺技術(shù)已被應(yīng)用于檢查機械加工表面，彈簧夾缺陷，以及裝配線上的部件損壞等[135]。為了實現(xiàn)對于生產(chǎn)車間中質(zhì)量檢測過程的遠程監(jiān)控，基于計算機視覺和網(wǎng)絡(luò)的質(zhì)量監(jiān)控系統(tǒng)也被開發(fā)和應(yīng)用。通過運用不同機器視覺分類方法，可以實現(xiàn)裝配機不同故障的檢測和分類，這些方法包括斑點分析、光流分析和運行平均法等。另外，機器視覺算法還被用于粉末機中粉體散布異常的自動檢測和分類，實現(xiàn)了生產(chǎn)現(xiàn)場質(zhì)量監(jiān)測和分析[136]。在汽車行業(yè)，機器視覺技術(shù)也被廣泛應(yīng)用于不同的任務(wù)，如表面質(zhì)量檢測、車輪定位和位置校準(zhǔn)等。機器視覺算法不僅可以實現(xiàn)平滑坡度變化區(qū)域的車輛表面質(zhì)量檢測，還可以實現(xiàn)在邊緣、角落和深凹處的表面缺陷檢測[137]。通過多尺度矩陣融合方法，可以從汽車5個側(cè)面的圖像中提取候選缺陷區(qū)域，并根據(jù)形狀、大小、統(tǒng)計等特征將這些候選缺陷區(qū)域分類為偽缺陷、凹痕和劃痕等[138]。另外，機器視覺技術(shù)還被應(yīng)用于紡織行業(yè)中纖維質(zhì)量的檢測、3D打印過程中的打印質(zhì)量檢查、顯示器質(zhì)量檢測、瓷磚對齊檢測等不同行業(yè)中的質(zhì)量控制問題[139]。

5.4 產(chǎn)業(yè)鏈供應(yīng)鏈優(yōu)化和生產(chǎn)計劃調(diào)度

產(chǎn)品的供應(yīng)鏈涉及從生產(chǎn)到銷售、服務(wù)的整個流程，供應(yīng)鏈的優(yōu)化對于減少成本、提升效率具有極其重要的意義，也是工業(yè)大數(shù)據(jù)分析的主要應(yīng)用場景之一[140]。供應(yīng)鏈優(yōu)化與預(yù)測作為一種系統(tǒng)級的復(fù)雜問題，包含需求預(yù)測[141]、風(fēng)險預(yù)測[112]、生產(chǎn)資源調(diào)度[142]、生產(chǎn)計劃調(diào)度[143]等子問題。供應(yīng)鏈的優(yōu)化與預(yù)測是企業(yè)經(jīng)營管理的核心問題之一。高質(zhì)量的供應(yīng)鏈管理系統(tǒng)可以有效分配生產(chǎn)資源，并可以對各種突發(fā)狀況表現(xiàn)出較高的魯棒性。然而，傳統(tǒng)的預(yù)測與調(diào)度方法主要關(guān)注靜態(tài)環(huán)境下性能和資源的優(yōu)化利用，這可能會導(dǎo)致靜態(tài)進度的惡化或失效。人工智能驅(qū)動的大數(shù)據(jù)分析[144]為動態(tài)環(huán)境中的生產(chǎn)計劃和調(diào)度的優(yōu)化提供了一系列有效的方法和手段。

工業(yè)大數(shù)據(jù)驅(qū)動的人工智能技術(shù)可以為供應(yīng)鏈預(yù)測和調(diào)度決策提供全面的信息支持。例如，文獻[145]提出一種基于人工神經(jīng)網(wǎng)絡(luò)的預(yù)測系統(tǒng)，對供應(yīng)鏈績效作出前瞻性診斷，并促進理性決策。文獻[146]提出一種深度強化學(xué)習(xí)方法，調(diào)度自動化生產(chǎn)線，避免手動提取特征并克服缺乏結(jié)構(gòu)化數(shù)據(jù)集的問題，提高了自動化生產(chǎn)線的適應(yīng)性和靈活性。文獻[147]提出一種有效的任務(wù)調(diào)度方法DDQN-TS來實現(xiàn)有限資源的高質(zhì)量服務(wù)，它利用雙DQN(DDQN)的自適應(yīng)學(xué)習(xí)能力來探索最優(yōu)的任務(wù)調(diào)度策略。文獻[148]提出了一種基于人工智能的優(yōu)化調(diào)度來協(xié)調(diào)不同天氣和負(fù)載條件下的氣體、熱量、電力和碳之間的相互作用。

此外，工業(yè)互聯(lián)網(wǎng)、云制造等網(wǎng)絡(luò)化制造環(huán)境中的計劃和調(diào)度問題也越來越受到研究者和工程人員的關(guān)注，主要方法包括基于啟發(fā)式智能優(yōu)化算法的調(diào)度[149-150]、基于仿真的動態(tài)調(diào)度[151]，以及跨企業(yè)生產(chǎn)物流協(xié)同調(diào)度[152-153]等。

6 工業(yè)智能面臨的挑戰(zhàn)以及發(fā)展方向

6.1 工業(yè)智能“黑盒”模型可解釋與高可信

近年來工業(yè)界所采用的新型人工智能技術(shù)大多基于深度神經(jīng)網(wǎng)絡(luò)的“黑盒”模型。盡管這些模型在部署成本、精度等方面表現(xiàn)優(yōu)異，然而深度神經(jīng)網(wǎng)絡(luò)內(nèi)部運行狀態(tài)的可解釋性較差，人們只能看到數(shù)據(jù)的輸入輸出，不能觀測到深度神經(jīng)網(wǎng)絡(luò)內(nèi)部的詳細運行狀態(tài)。這些工業(yè)智能“黑盒”模型具備高度復(fù)雜性和不確定性，缺乏透明度，以至于難以對這些模型的可靠性和可信度作出評估[154]。這導(dǎo)致工業(yè)智能“黑盒”模型難以在航空航天、核工業(yè)等具有高可靠性和高可信性要求的行業(yè)廣泛深入地應(yīng)用。不只是工業(yè)制造業(yè)，在各個領(lǐng)域，人工智能模型可信已經(jīng)成為了全球共識[155-157]。近幾年，可信相關(guān)的人工智能論文數(shù)量也在逐年增長。人工智能領(lǐng)域頂級會議AAAI連續(xù)數(shù)年組織可解釋人工智能(explainable AI)專題研討，并且保持火熱的研究態(tài)勢[158-160]。ACM也連續(xù)數(shù)年發(fā)起ACM FAccT(Fairness, Accountability and Transparency)學(xué)術(shù)會議[161]。因此，基于深度學(xué)習(xí)的工業(yè)智能模型的未來，將向可解釋、高可信的研究方向發(fā)展。目前已有學(xué)者對深度神經(jīng)網(wǎng)絡(luò)的可解釋性作出嘗試，例如通過建立適當(dāng)?shù)目梢暬瘷C制，對模型和中間態(tài)數(shù)據(jù)作出定性的解釋。

6.2 工業(yè)互聯(lián)網(wǎng)云邊端融合智能

隨著近年來工業(yè)互聯(lián)網(wǎng)、云制造等新模式新技術(shù)的發(fā)展[162]，工業(yè)應(yīng)用呈現(xiàn)出云、邊、端分布式、協(xié)同化的趨勢。一方面，工業(yè)云作為工業(yè)大數(shù)據(jù)匯聚與存儲的中央載體，承載著工業(yè)大數(shù)據(jù)集中化訓(xùn)練學(xué)習(xí)與分析處理的任務(wù);另一方面，工業(yè)互聯(lián)網(wǎng)連接的各類生產(chǎn)現(xiàn)場終端所產(chǎn)生的實時數(shù)據(jù)，亟需在工業(yè)現(xiàn)場進行實時性處理與分析。為了應(yīng)對工業(yè)云與工業(yè)現(xiàn)場的數(shù)據(jù)處理與分析矛盾，工業(yè)互聯(lián)網(wǎng)邊緣計算與邊緣智能成為近年來的研究熱點，邊緣側(cè)所承載的功能性和性能性目標(biāo)任務(wù)也日益增多[163]，工業(yè)云與工業(yè)邊緣計算的協(xié)同成為了解決該矛盾的關(guān)鍵技術(shù)，也成為了當(dāng)前工業(yè)互聯(lián)網(wǎng)領(lǐng)域的重要支撐技術(shù)[164]。目前，學(xué)術(shù)界已提出多種基于云計算、邊緣計算、霧計算的工業(yè)人工智能模型，并引起了產(chǎn)業(yè)界的廣泛關(guān)注[165-167]。然而，目前的研究還處于初級階段，如何根據(jù)工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)在云邊端分布的特征模式與工業(yè)應(yīng)用的獨特特點，設(shè)計適合工業(yè)互聯(lián)網(wǎng)應(yīng)用場景的分布式工業(yè)智能模型，如何實現(xiàn)工業(yè)智能模型在工業(yè)互聯(lián)網(wǎng)云邊端架構(gòu)下高效優(yōu)化協(xié)同運行，仍面臨諸多挑戰(zhàn)。因此，工業(yè)互聯(lián)網(wǎng)云邊端融合智能也是未來的重要研究方向。

6.3 工業(yè)智能模型泛化與自適應(yīng)

工業(yè)制造業(yè)的應(yīng)用場景千變?nèi)f化，且存在著廣泛的不確定性。例如，類似的工業(yè)制造任務(wù)在不同的工況下往往呈現(xiàn)不同的結(jié)果，當(dāng)工況發(fā)生變化時，之前行之有效的工業(yè)數(shù)據(jù)智能分析預(yù)測模型可能并不適用于新的工況。盡管基于新的工況并利用新的工業(yè)數(shù)據(jù)來學(xué)習(xí)與部署新的工業(yè)數(shù)據(jù)智能模型是一種可行的解決方案，但是這會造成大量的人力、資金和時間成本的浪費。同時，新的工業(yè)數(shù)據(jù)智能模型部署過程中，對之前應(yīng)用場景中老問題分析能力的退化，也是用戶不希望看到的。這需要工業(yè)智能模型既可以學(xué)習(xí)適應(yīng)新應(yīng)用場景的特性與規(guī)律，同時又能夠保持之前已有應(yīng)用場景的適應(yīng)性能力[168]。因此，如果能構(gòu)建一類具有適應(yīng)性和強泛化能力的工業(yè)智能模型，將大力推動工業(yè)智能模型在千變?nèi)f化的工業(yè)應(yīng)用場景的應(yīng)用落地。目前在深度學(xué)習(xí)領(lǐng)域，具有代表性的遷移學(xué)習(xí)已被廣泛應(yīng)用[169]。上述具有強泛化能力和自適應(yīng)能力的工業(yè)智能模型可以看作是遷移學(xué)習(xí)、多任務(wù)學(xué)習(xí)和終身學(xué)習(xí)的整合與創(chuàng)新，是未來的重要研究方向。

6.4 工業(yè)智能模型輕量化與實時解算

當(dāng)前研究界提出的大量工業(yè)智能模型，主要關(guān)注具體工業(yè)應(yīng)用中分析預(yù)測任務(wù)的精準(zhǔn)度，而忽略了工業(yè)智能模型在工業(yè)應(yīng)用中的計算時間效率和計算資源消耗問題[57]。受限于工業(yè)設(shè)備的數(shù)據(jù)計算和存儲能力，很多大型的深度神經(jīng)網(wǎng)絡(luò)模型并不能很好地勝任工業(yè)現(xiàn)場的分析預(yù)測任務(wù)。同時，高速機器人控制、產(chǎn)品質(zhì)量檢測等對于實時性要求極高的工業(yè)現(xiàn)場任務(wù)，要求工業(yè)智能模型的解算達到毫秒級。因此，設(shè)計輕量化、計算效率高的工業(yè)深度神經(jīng)網(wǎng)絡(luò)模型，成為了工業(yè)智能領(lǐng)域近年來的研究熱點與發(fā)展趨勢。目前，深度神經(jīng)網(wǎng)絡(luò)的壓縮方法有參數(shù)壓縮[63]、剪枝[170]、蒸餾[171]等，如何將這些方法融合應(yīng)用于適于工業(yè)應(yīng)用特性的深度神經(jīng)網(wǎng)絡(luò)壓縮，是解決工業(yè)智能模型輕量化的關(guān)鍵。同時，針對特定的工業(yè)應(yīng)用任務(wù)的數(shù)據(jù)特點，如何設(shè)計自適應(yīng)動態(tài)跳出(dynamic dropout)的神經(jīng)網(wǎng)絡(luò)[172]，也是一種可行的解決方案。工業(yè)智能模型的輕量化設(shè)計與實時解算算法，將是未來重要的研究方向。

6.5 工業(yè)智能“大模型”

近年來涌現(xiàn)的各類工業(yè)智能技術(shù)大多是源自特定工業(yè)領(lǐng)域應(yīng)用需求而形成的特定領(lǐng)域問題強相關(guān)的“小模型”技術(shù)，隨著新一代信息技術(shù)與工業(yè)制造業(yè)的融合發(fā)展，形成了日趨復(fù)雜的工業(yè)信息物理融合系統(tǒng)(cyber physical systems)，人工智能在工業(yè)制造業(yè)將面對越來越多大系統(tǒng)層面的復(fù)雜問題。例如，基于工業(yè)互聯(lián)網(wǎng)形成的大規(guī)模智能制造產(chǎn)業(yè)鏈供應(yīng)鏈系統(tǒng)的分析預(yù)測與優(yōu)化管控問題，涉及具有復(fù)雜關(guān)聯(lián)關(guān)系的跨行業(yè)、跨企業(yè)、跨流程的多層級工業(yè)制造系統(tǒng)，對此類復(fù)雜系統(tǒng)內(nèi)在運行機理與模式規(guī)律的學(xué)習(xí)，將面對超大規(guī)模多源異質(zhì)工業(yè)數(shù)據(jù)驅(qū)動的、大規(guī)模子問題深度學(xué)習(xí)的大集成問題，當(dāng)前已有的適用于特定領(lǐng)域單項子問題的工業(yè)智能“小模型”技術(shù)難以應(yīng)對，迫切需要探索適用于此類大型復(fù)雜工業(yè)系統(tǒng)問題的新型工業(yè)智能技術(shù)。基礎(chǔ)模型(foundation model)或大模型(big model)技術(shù)為該問題提供了一種可能的解決方案[173-174]。大模型作為深度學(xué)習(xí)領(lǐng)域剛剛興起的最新研究熱點，提供的是一種基礎(chǔ)性、同質(zhì)化的“基石”模型技術(shù)，能夠支持模型預(yù)訓(xùn)練和下游任務(wù)的快速適配，能夠突破當(dāng)前各類小模型結(jié)構(gòu)層面的精度局限，近年來已不斷突破百億、千億、甚至萬億級模型參數(shù)規(guī)模，并在自然語言處理、生物計算等領(lǐng)域獲得初步成功應(yīng)用，例如Bert[175]、GPT-3[176]、switch Transformer[177]和Alphafold[178]等模型已展現(xiàn)出驚人的性能。當(dāng)前，大模型在工業(yè)制造業(yè)的探索仍屬空白，工業(yè)智能“大模型”未來將有望成為解決工業(yè)制造業(yè)智能化進程中諸多高度復(fù)雜問題的顛覆性技術(shù)之一。

7 結(jié)束語

基于大數(shù)據(jù)和深度學(xué)習(xí)的新一代人工智能技術(shù)，在智能制造應(yīng)用需求的牽引下，正在推動全球新一輪工業(yè)革命向智能化方向發(fā)展。數(shù)據(jù)驅(qū)動的工業(yè)智能新理論和新技術(shù)，作為國際前沿研究熱點，在國內(nèi)外掀起了新一輪研究高潮。本文從工業(yè)數(shù)據(jù)全生命周期中數(shù)據(jù)預(yù)處理、數(shù)據(jù)建模、數(shù)據(jù)分析應(yīng)用等3個關(guān)鍵環(huán)節(jié)出發(fā)，分析了數(shù)據(jù)驅(qū)動的工業(yè)智能，尤其是基于深度學(xué)習(xí)的代表性新理論與新技術(shù)。同時，深入探討了面向智能制造的工業(yè)數(shù)據(jù)智能典型應(yīng)用。最后，指出了數(shù)據(jù)驅(qū)動的工業(yè)智能研究領(lǐng)域面臨的挑戰(zhàn)和未來發(fā)展方向，將為這一新興交叉研究領(lǐng)域的發(fā)展，提供重要的理論與技術(shù)參考。