余志才,鐘躍崎,2
(1.東華大學 紡織學院 上海 201620; 2.東華大學 紡織面料技術教育部重點實驗室 上海 201620)
隨著計算機硬件的不斷發(fā)展,數(shù)據(jù)科學獲得了紡織學界的廣泛關注,許多優(yōu)秀的學習算法被提出并應用到實際紡織生產(chǎn)中[1-3]。 同時,得益于三維掃描技術持續(xù)更新,越來越多的科研工作者著眼于織物三維懸垂模型的重建[4-6]。 但是,利用神經(jīng)網(wǎng)絡探究織物三維懸垂形態(tài)和織物力學性能的關系還鮮有涉及。 鑒于此,本文就織物三維懸垂形態(tài)及其力學性能之間的相互映射關系展開研究。
首先,探究通過織物經(jīng)向緯向的彎曲剛度和剪切剛度以及織物的面密度,預測織物懸垂特征,如懸垂系數(shù)、懸垂角的可行性[7],該研究屬于織物力學性能對織物懸垂形態(tài)的預測。 其次,通過懸垂形態(tài)特征和織物面密度預測其力學性能,即形態(tài)對力學性能的預測。 特別地,從形態(tài)預測織物力學性能的研究,有助于給用戶提供一種無需精密測試的儀器,可簡化了解織物基本力學性能的途徑,可用于網(wǎng)絡空間或者遠程交互場景。 需要說明的是,本文僅研究織物的彎曲剛度及剪切剛度與織物三維懸垂形態(tài)之間的關系,因Morooka 等[8-9]證明了織物的面密度、彎曲剛度和剪切剛度與織物的三維懸垂模型之間的關聯(lián)性最高,故選擇彎曲剛度和剪切剛度作為突破口更具代表性。
將51 種織物樣本在相同的條件下洗滌并熨燙以除去織物表面的褶皺。 在恒溫恒濕實驗室利用KES-FB1 織物風格測試儀(日本加藤技研株式會社)測試織物的經(jīng)向剪切剛度Swarp和緯向剪切剛度Sweft;用KES-FB2 織物風格測試儀(日本加藤技研株式會社)測試織物的經(jīng)向彎曲剛度Bwarp和緯向彎曲剛度Bweft;用MS105DU 精密天平(瑞士Mettler-Toledo)測試織物樣本的面密度Gk。
在遠離布邊的位置,從每種織物上裁剪出半徑為120 mm 的圓形樣本,并標記中心點位置。 將織物在恒溫恒濕實驗室,溫度為(20±2) ℃,相對濕度為(65±4)%,調濕24 h。 利用文獻[10]中給出的掃描裝置對51 種織物的懸垂形態(tài)進行掃描,并將掃描的三維點云封裝為三角形網(wǎng)格。 通過文獻[9]提出的網(wǎng)格重采樣方法對三角形網(wǎng)格進行重采樣,使其具有相同的頂點數(shù)目和三角形拓撲結構,在具體實現(xiàn)時,本文中所使用的每個重采樣之后的三維懸垂模型具有5 172 個頂點,然后對每個三維懸垂模型計算由多組懸垂指標的主成分所構成的形態(tài)特征ICpca,具體步驟如下。
圖1 織物懸垂模型及懸垂指標的定義
步驟2:將所有懸垂模型的懸垂指標串聯(lián)組成懸垂指標矩陣MS_Indicator, 矩陣中每行代表1 個三維懸垂樣本,每個樣本包含以上9 個懸垂指標作為其特征描述。
步驟3:將MS_Indicator中每列向量進行歸一化處理,去除各列的量綱。 然后用主成分分析法(Principal Components Analysis, PCA)計算MS_Indicator的主成分與其對應的累積貢獻率。 懸垂指標的主成分與累積貢獻率如圖2 所示。 由圖可見, MS_Indicator的前5 個主成分的累積貢獻率已經(jīng)超過95%,因此,可將懸垂指標的前5 種主成分組成的特征向量作為MS_Indicator的主成分特征矩陣MS_pca_Indicator, 用該矩陣的每行代表1 個三維懸垂樣本,記為Ipca∈R1×5。
圖2 懸垂指標的主成分與累積貢獻率
步驟4:計算重采樣懸垂模型頂點處的最大曲率值。 由于每個重采樣模型具有5 172 個頂點,因此每個模型對應5 172 個最大曲率值。
顯然,若直接用5 172 個曲率值構造特征向量會造成維度過高的現(xiàn)象,不利于計算和對比分析。因此同樣采用PCA 降維處理的思路,求得每個重采樣模型的曲率主成分特征Cpca∈R1×5, 然后按照ICpca=0.855×Ipca⊕0.145×Cpca求得每個重采樣模型的形態(tài)特征ICpca,其中⊕代表串聯(lián),使得ICpca∈R1×10。
本文實驗包含以下幾個步驟:
步驟1:將51 種織物對應的Gk、Bwarp、Bweft、Swarp、Sweft串聯(lián)組成1 個5 維特征向量Fg_m∈R1×5;
步驟2:計算51 種織物的對應懸垂模型懸垂系數(shù)(DC)和懸垂角(DA);
步驟3:搭建并訓練1 個BP 神經(jīng)網(wǎng)絡,如圖3所示,其中輸入層包含5 個節(jié)點,分別對應輸入特征Fg_m的5 個元素;輸出層包含1 個節(jié)點,即DC 或DA中的1 個。 換言之,利用相同結構的BP 神經(jīng)網(wǎng)絡訓練了2 組權重系數(shù),分別實現(xiàn)對DC 和DA 的擬合。 此外,該BP 神經(jīng)網(wǎng)絡的損失函數(shù)選用均方誤差(Mean Squared Error,MSE),并采用Sigmoid 函數(shù)作為非線性激活函數(shù)。
經(jīng)過多次實驗,發(fā)現(xiàn)當隱含層包含3 個節(jié)點時預測效果最佳,因此將隱含層的節(jié)點數(shù)目設置為3。
圖3 基于Fg_m預測DC 或DA 的BP 神經(jīng)網(wǎng)絡結構
為了避免數(shù)據(jù)分布不勻帶來的誤差,預測過程采用了 K 折交叉驗證方法(K - Fold Cross Validation)。 即將全部樣本(51 種織物)分成k = 10個不相交的子集{ds1,ds2,…,dsi,…,dsk}, 每次取出1 個子集作為測試集,其余k - 1 個子集作為訓練集。 10 折交叉驗證后每個樣本均被當作測試樣本測試1 次,即51 種織物均對應1 個預測值。 最后計算樣本的預測值相對誤差絕對平均值以及預測值與真實值的相關系數(shù)。
使用上述BP 神經(jīng)網(wǎng)絡對懸垂系數(shù)和懸垂角預測的結果如圖4 所示。
由圖4(a)可見,DC 預測值與真實值的相關系數(shù)為0.943 3,DC 預測值的相對誤差絕對平均值為8.15%。 圖4(b)中DA 預測值與真實值的相關系數(shù)為0.940 6;DA 預測值的相對誤差為5.1%。 該結果說明通過BP 神經(jīng)網(wǎng)絡,從織物的力學性能及面密度(即Fg_m)預測織物懸垂特征(DC 或DA)是可行的,但預測精度還有待進一步提升。
圖4 懸垂系數(shù)和懸垂角預測結果
將織物的面密度作為已知條件,結合織物的懸垂形態(tài)去預測織物的彎曲剛度和剪切剛度,主要出于兩方面考慮。 一是織物的面密度易于測量,且織物面密度與織物的其他結構參數(shù)和力學性能都存在很強的相關性[15];二是Pan 等[16]的研究結果證明,將織物的面密度引入到織物懸垂結果的分類中,會使得懸垂模型的分類更有意義。
因此,將ICpca與Gk結合,嘗試對織物的Bwarp、Bweft、Swarp、Sweft進行預測,具體步驟如下:
步驟1:將織物的面密度( Gk)與ICpca串聯(lián)組成1 個新的特征向量Fg_IC∈R1×11;
步驟2:創(chuàng)建以Fg_IC為輸入?yún)?shù)的BP 神經(jīng)網(wǎng)絡,具體結構如圖5 所示。
圖5 基于Fg_IC 的BP 神經(jīng)網(wǎng)絡結構
該BP 神經(jīng)網(wǎng)絡的輸入層包含11 個節(jié)點,輸出層僅包含1 個節(jié)點,用于預測織物力學指標Bwarp、Bweft、Swarp、Sweft中的1 個。 該網(wǎng)絡的損失函數(shù)為均方誤差,采用Sigmoid 函數(shù)作為非線性激活函數(shù)。為了避免數(shù)據(jù)分布不勻帶來的誤差,同樣采用10 折交叉驗證法進行預測。
需要說明的是,對應這4 種不同的力學預測值,需分別構造4 個相同架構的BP 神經(jīng)網(wǎng)絡。 訓練完成之后,可得4 組不同的神經(jīng)網(wǎng)絡權重矩陣。 通過大量實驗,發(fā)現(xiàn)當神經(jīng)網(wǎng)絡的隱含層包含4 個神經(jīng)元時預測效果最佳。
使用上述神經(jīng)網(wǎng)絡對經(jīng)緯向彎曲剛度和剪切剛度預測結果如圖6 所示。 圖6 示出,織物經(jīng)、緯向彎曲剛度預測值的相對誤差絕對平均值要高于經(jīng)、緯向剪切剛度預測值的相對誤差絕對平均值,而經(jīng)、緯向彎曲剛度預測值與真實值的相關系數(shù)略高于經(jīng)、緯向剪切剛度預測值與真實值的相關系數(shù)。
很顯然,使用BP 神經(jīng)網(wǎng)絡從織物形態(tài)特征預測其力學性能指標的準確率并不高。 但是,這種探索同時也說明了使用人工神經(jīng)網(wǎng)絡進行形態(tài)到力學性能的預測并非全無可能,未來還有更多的工作可以在該方向展開。 比如下面的分類實驗,將回歸問題降低難度,當作1 個分類任務進行探究。
織物懸垂形態(tài)與織物彎曲剛度或剪切剛度之間的預測問題也可當作織物柔軟等級的判定問題。 若將織物的經(jīng)向、緯向彎曲剛度之和與Gk的比值記為rb/g,則根據(jù)織物的懸垂形態(tài)預測織物rb/g的等級,相當于根據(jù)織物的懸垂形態(tài)預測織物的柔軟等級。
本文實驗包含以下步驟:
步驟1:利用K 均值聚類方法(K-Means)將51 種織物按照rb/g分為3 個類別,分類結果如圖7所示。
其中類別1 包含24 種織物,該類織物的rb/g值較小;類別2 包含20 種織物,該類織物的rb/g相對于類別1 的織物較大,類別3 包含7 種織物,其對應的rb/g最大。 需要說明的是,當織物的種類和樣本數(shù)量無窮大時,rb/g將會是一條連續(xù)曲線。 此時對其聚類,相當于人類主觀地分解一個連續(xù)數(shù)據(jù)空間,類似于指定人群的高矮胖瘦一樣。 這里所給出的3 個類別,可以看作是上述真實數(shù)據(jù)分布的一種簡化。
圖6 經(jīng)緯向彎曲剛度和剪切剛度預測結果
圖7 織物rb/g 的3 個類別
步驟2:利用文獻[10]采用的三維掃描裝置,在相同的實驗條件下,將每種織物對應的圓形試樣分別重復掃描50 次,51 種織物共采集2 550個懸垂模型。 根據(jù)圖8 所示的方法改變相機位置采集不同的懸垂模型圖像,具體做法為首先建立如圖8(a)所示的坐標系,在虛擬環(huán)境中確定7 個相機位置,其中位置1 在Z 軸上,相機2 ~7 均勻分布在與OZ 軸垂直的平面上,然后在虛擬環(huán)境中將懸垂模型渲染為圖8(b)所示的灰度圖像,渲染的參數(shù)為:三角形的邊設置為無色、三角形表面顏色設置為白色、三角形表面的漫反射系數(shù)設置為0.5、表面的環(huán)境光系數(shù)設置為0.3、表面的透明度設置為0.95。
圖8 改變相機位置采集不同的懸垂模型圖像
由圖8 可見,通過改變相機位置可以提高圖像的多樣性,每種織物均對應350(50×7)張灰度圖像,最終51 種織物共采集13 850(51×350)張圖像,每張圖像均用其rb/g類別作為分類任務的真值標簽。 即給定任意一張圖像,如果該圖像屬于圖7 中類別Ci中的任意一種織物,則將該圖像的標簽設置為i。
步驟3:將渲染的灰度圖像經(jīng)過翻轉、平移、旋轉、改變圖像明亮度和裁剪縮放等操作[17]進行數(shù)據(jù)增廣(Data Augmentation),最終統(tǒng)一為224×224 的RGB 圖像。 然后按照8 ∶1 ∶1的比例將13 850 張圖像分成14 280 張圖像組成的訓練集、1 785 張圖像組成的驗證集和1 785 張圖像組成的測試集。 進行數(shù)據(jù)增廣的目的是便于深度神經(jīng)網(wǎng)絡擁有足夠的數(shù)據(jù)進行訓練,同時保持良好的泛化性能。
步驟4:分別使用在ImageNet 圖像數(shù)據(jù)集上經(jīng)過 預 訓 練 的ResNet18、 ResNet34、 ResNet50[18]和EfficientNet-B0、EfficientNet-B1[19]進行遷移學習,實現(xiàn)對織物的rb/g分類。 本文研究采用ResNet 分類模型的原因在于其易于訓練,可以作為基準網(wǎng)絡來對比其他分類模型的效果;而EfficientNet 是目前公認的參數(shù)量相對較小且分類效果較好的分類模型,由于實驗室硬件限制,本文研究僅使用EfficientNet系列中參數(shù)量較小的2 種模型,即EfficientNet-B0、EfficientNet-B1。
由于本文所用數(shù)據(jù)量相對于ImageNet 等大型數(shù)據(jù)集來說較小,容易發(fā)生過擬合,因此在訓練過程中還需使用L2 正則化(L2 regularization);其中5 種分類模型的權重衰減系數(shù)均設置為0.001。 分類模型的運行平臺為便攜式計算機,其配置有主頻為2.8 GHz 的Core i7700 HQ 英特爾處理器和顯存為6 GB的NVIDIA GTX 1060 顯卡。 對于所有的分類模型,統(tǒng)一設置損失函數(shù)為交叉熵損失,優(yōu)化器的類型為隨機梯度下降法,學習率為0.000 5,訓練周期為16。
分類模型的驗證集和測試集準確率如表1所示。
由表1 可見ResNet18 在測試集上的分類準確率要優(yōu)于ResNet34 和ResNet50。 EfficientNet-B0 的分類準確率要優(yōu)于EfficientNet-B1。 RenNet18 和EfficientNet-B0 的模型相對簡單,因此過擬合的程度相對于其他網(wǎng)絡模型較小,其分類準確率要優(yōu)于其他網(wǎng)絡模型。 且EfficientNet-B0 的分類準確率優(yōu)于ResNet18,這與其網(wǎng)絡架構更寬更深有關,當分類任務更復雜時,這樣的網(wǎng)絡通常表現(xiàn)更佳。
表1 分類模型的驗證集和測試集準確率 %
由表1 可見,本文采用的5 種分類模型在對織物rb/g分類時,測試集的準確率均低于90%。 原因在于此前指定的類別真值實為連續(xù)曲線的人為分段,即這里的分類任務仍然面臨懸垂模型的模糊邊界問題。 雖然圖7 中織物具有不同的rb/g, 但是這不能證明類別1 和類別2 對應的懸垂模型具有清晰的分類界限,即圖7 中類別1 和類別2 仍然存在懸垂結果交叉的可能性,這與我們熟知的不同織物懸垂形態(tài)有可能高度相似這一現(xiàn)象是吻合的。
為了衡量上述5 種分類模型的分類準確率與人眼所能達到的分類準確率之間的關系,測試了織物rb/g3 個類別的人類大腦識別率,具體步驟如下。
步驟1:將上述51 種織物分成3 個類別,分類結果與圖7 相同;每種織物挑選5 組懸垂模型灰度圖像,51 種織物共計255 組圖像;
步驟2:對10 名具有紡織專業(yè)背景的技術人員進行培訓,告知步驟1 中所示的255 組圖像中每張圖像所屬的類別,囑其認真辨別每個類別的圖像特征;
步驟3:讓經(jīng)過培訓的技術人員測試153(51×3)組并未見過的懸垂圖像,即根據(jù)圖像判斷織物rb/g的類別,計算織物rb/g3 個類別的人類大腦識別率;
織物rb/g3 個類別的人類大腦識別率如表2 所示。 由表2 可見,織物rb/g3 個類別的人類大腦識別率均值為81.66%,該結果表明人眼在對織物懸垂形態(tài)進行分類時,同樣存在認知上的不確定性,該結果驗證了通過深度神經(jīng)網(wǎng)絡進行織物柔軟度分類識別的困難所在。 事實上,采用深度神經(jīng)網(wǎng)絡(如EfficientNet-B0)在3 個類別任務上所達到的驗證集與測試集最高準確率,即表1 中的79.89% 與79.01%與人類大腦識別率81.66%相比,相當于人類大腦識別率的96.8%~97.8%。 綜合來看,織物柔軟程度的分類問題通過深度學習的方法解決,同樣具有一定的可行性。
表2 織物rb/g 3 個類別的人類大腦識別率 %
本文旨在尋找通過人工神經(jīng)網(wǎng)絡建立織物懸垂形態(tài)與織物力學性能之間相互映射的可能途徑。 通過大量實驗驗證與分析,得出以下結論:
①為了能夠在織物的力學性能和懸垂形態(tài)之間建立一種互相映射關系,并探索出一種根據(jù)懸垂模型或織物面密度預測織物力學性能的可能途徑,探究了織物的力學性能到形態(tài)的映射。 設計了1 個BP 神經(jīng)網(wǎng)絡,利用K 折交叉驗證的方法,驗證了根據(jù)織物的面密度、經(jīng)向彎曲剛度、緯向彎曲剛度、經(jīng)向剪切剛度、緯向剪切剛度等5 種參數(shù)的組合特征Fg_m預測織物的懸垂系數(shù)和懸垂角是可行的。
②探究了織物的形態(tài)到力學性能的映射。 設計了1 個BP 神經(jīng)網(wǎng)絡,利用K 折交叉驗證的方法,驗證了根據(jù)織物的懸垂特征與面密度的組合特征Fg_IC預測織物的經(jīng)向緯向彎曲剛度和經(jīng)向緯向剪切剛度也是一種可行的辦法。 結果顯示基于Fg_m的懸垂系數(shù)和懸垂角預測結果要優(yōu)于基于Fg_IC的經(jīng)向緯向彎曲剛度和經(jīng)向緯向剪切剛度預測結果。
③將懸垂形態(tài)與力學性能間的關系看作1 個分類任務時,采用多種深度神經(jīng)網(wǎng)絡進行懸垂圖像的分類識別,與人類大腦在面臨同樣任務時的準確率水平較為類似,三分類任務相當于人類大腦識別率的97.8%,說明在織物形態(tài)到力學性能的推理過程中,特別是從最少量輸入條件下的“形態(tài)”推理預測“性能”時,深度學習方案是一個可行的選擇。