黃素葉

（閩西職業(yè)技術(shù)學(xué)院 信息與制造學(xué)院，福建 龍巖 364021）

目前信息時(shí)代不斷發(fā)展，面對(duì)海量的數(shù)據(jù)信息，分類標(biāo)記成為一種應(yīng)用廣泛的數(shù)據(jù)挖掘技術(shù)［1］.該項(xiàng)技術(shù)的作用就是在數(shù)據(jù)被標(biāo)記后，通過(guò)標(biāo)簽?zāi)軌蚩焖俚孬@取需要的信息［2］.面對(duì)種類豐富且規(guī)模較大的數(shù)據(jù)時(shí)，分類標(biāo)記已經(jīng)無(wú)法滿足相關(guān)任務(wù)需求，必須進(jìn)行深入研究.

文獻(xiàn)［3］采用多層極限學(xué)習(xí)機(jī)自動(dòng)編碼器，優(yōu)化輸入權(quán)重，提取電能質(zhì)量擾動(dòng)信號(hào)特征，采用多標(biāo)簽排位分類算法，結(jié)合各標(biāo)簽相關(guān)性，實(shí)現(xiàn)電能質(zhì)量擾動(dòng)分類，該算法具有較高的分類效率，但分類誤差較大.文獻(xiàn)［4］提出基于標(biāo)簽關(guān)聯(lián)性的多標(biāo)簽分類算法，建立多標(biāo)簽Scratch分類模型，提取Block使用特征，計(jì)算思維技能和復(fù)雜度分類特征，按照多標(biāo)簽之間關(guān)聯(lián)性，劃分標(biāo)簽子集，訓(xùn)練標(biāo)簽集子分類器，實(shí)現(xiàn)多標(biāo)簽分類，該算法的具有較強(qiáng)的適用性，但分類效果較差.針對(duì)上述問(wèn)題，提出基于隱空間映射的聯(lián)合嵌入式多標(biāo)簽分類算法研究，由于其具有迭代次數(shù)少并且數(shù)據(jù)收斂性較高的特點(diǎn)，被率先在電路優(yōu)化項(xiàng)目中，此后逐漸被應(yīng)用到數(shù)據(jù)標(biāo)記領(lǐng)域.

1 基于隱空間映射的聯(lián)合嵌入式多標(biāo)簽分類算法研究

1.1 獲取多標(biāo)簽分類指標(biāo)

多標(biāo)簽分類主要是將待分類的文本歸檔到一個(gè)或多個(gè)標(biāo)簽中的過(guò)程.設(shè)定左側(cè)空間A中包含n個(gè)實(shí)例，右側(cè)標(biāo)簽空間B中包含q個(gè)類別標(biāo)簽，通過(guò)對(duì)應(yīng)的訓(xùn)練集得出標(biāo)簽結(jié)果，當(dāng)標(biāo)簽數(shù)量較多時(shí)，這個(gè)過(guò)程就是多標(biāo)簽分類［5］.多標(biāo)簽分類任務(wù)是建立在標(biāo)簽的基礎(chǔ)上，先考慮單個(gè)標(biāo)簽在所有樣本上的結(jié)果，然后選取平均值進(jìn)行標(biāo)簽分類［6-7］.由于標(biāo)簽類別不平衡存在正例和負(fù)例問(wèn)題，因此選擇二分類損失焦點(diǎn)函數(shù)作為多標(biāo)簽分類指標(biāo)獲取的有效手段.公式如下：

其中，β與α為超參數(shù)，當(dāng)k=1時(shí)，表示標(biāo)簽類別為正例，k=0時(shí)，表示標(biāo)簽類型為負(fù)例.通常情況下，β表示損失函數(shù)更注重樣本數(shù)較少的正例樣本，α一般為大于0的正數(shù)，表示損失函數(shù)需重點(diǎn)處理難分類的樣本.假設(shè)兩個(gè)正例樣本經(jīng)過(guò)預(yù)測(cè)后的概率分別0.4和0.8，由于0.8的數(shù)值較大，因此更容易被分辨，融入系數(shù)α后，其損失前函數(shù)表示為0.2α；概率為0.4的樣本損失前系數(shù)為0.6α，根據(jù)指數(shù)為正的冪函數(shù)的單調(diào)遞增特性，得出概率較小的正例系數(shù)更大的結(jié)論［8-10］.k的數(shù)值越小，曲線越平滑，符合焦點(diǎn)損失函數(shù)特征，多標(biāo)簽分類指標(biāo)獲取完成.

1.2 提取聯(lián)合嵌入式多標(biāo)簽參數(shù)特征

根據(jù)多標(biāo)簽分類指標(biāo)，提取聯(lián)合嵌入式多標(biāo)簽參數(shù)特征，對(duì)標(biāo)簽空間B進(jìn)行聯(lián)合嵌入學(xué)習(xí)，采用矩陣分解的方式得到標(biāo)簽空間B的潛在表示項(xiàng)Q和對(duì)應(yīng)的解碼矩陣W，即：

其中，B表示標(biāo)簽空間，bgh指的是空間B中第g行第h列的元素，Pos（ug）表示（ug）包含的標(biāo)簽集合，經(jīng)過(guò)上述處理后，對(duì)實(shí)例空間A與標(biāo)簽空間B進(jìn)行緊密耦合，使二者在空間布局中具有最大相關(guān)性，具體計(jì)算公式為：

其中，Em∈Rns是指單位矩陣，ns表示潛在空間的維度，K表示聯(lián)合嵌入向量.對(duì)矩陣分解部分進(jìn)行參數(shù)優(yōu)化，以便后續(xù)進(jìn)行特征提取，表現(xiàn)為在對(duì)某個(gè)具體參數(shù)進(jìn)行優(yōu)化時(shí)，同時(shí)固定其它所有參數(shù)［11］.將公式（1）的損失函數(shù)的參數(shù)變量置0，則聯(lián)合嵌入式多標(biāo)簽參數(shù)可表達(dá)為：

其中，L和H空間維度，η表示多標(biāo)簽分類的學(xué)習(xí)速率，▽LΩ表示目標(biāo)函數(shù)Ω對(duì)權(quán)值矩陣L的梯度，▽H Ω表示的是目標(biāo)函數(shù)對(duì)權(quán)值矩陣H的梯度.經(jīng)過(guò)矩陣分解等步驟，完成對(duì)多標(biāo)簽參數(shù)特征的提取.

1.3 基于隱空間映射構(gòu)建分類算法

由于隱空間映射算法的映射關(guān)系在粗糙結(jié)構(gòu)中難以被分辨，因此，需要將粗糙結(jié)構(gòu)和空間映射關(guān)系融為一個(gè)整體，定義為替代結(jié)構(gòu)，針對(duì)替代結(jié)構(gòu)進(jìn)行呼叫即可得到響應(yīng)［12-13］.隱空間映射關(guān)系是通過(guò)對(duì)多標(biāo)簽參數(shù)的指標(biāo)和特征進(jìn)行提取并加以處理，以及對(duì)多標(biāo)簽參數(shù)進(jìn)行篩選優(yōu)化，保證粗糙結(jié)構(gòu)與精確結(jié)構(gòu)的響應(yīng)方式一致，在處理后的粗糙結(jié)構(gòu)中繼續(xù)優(yōu)化其他參數(shù)［14-15］.設(shè)定在第p次迭代過(guò)程中，將設(shè)定為第p次粗糙結(jié)構(gòu)的標(biāo)簽參數(shù)，將作為第p次優(yōu)化后滿足結(jié)果的粗糙結(jié)構(gòu)標(biāo)簽參數(shù)，x（p）表示第p次的預(yù)選參數(shù)量，因此，第p次粗糙結(jié)構(gòu)的響應(yīng)表示為，第p次迭代的目的是為了對(duì)標(biāo)參數(shù)xe、xa與x之間的映射關(guān)系S，具體表現(xiàn)為：

在公式（5）中，獲取x（p）的過(guò)程在隱空間算法中是參數(shù)處理的過(guò)程，則：

在滿足公式（6）的前提下，則下述公式成立：

根據(jù)公式（5）~（7），得出基于隱空間映多標(biāo)簽分類算法，先將參數(shù)x=0代入算法，如果不滿足條件，則對(duì)x+1進(jìn)行迭代計(jì)算，直到得出符合條件的參數(shù).將隱空間映射作為多標(biāo)簽分類算法的基礎(chǔ)，其主要思想是對(duì)原始標(biāo)簽參數(shù)進(jìn)行迭代計(jì)算，基于以上步驟，完成多標(biāo)簽分類算法構(gòu)建.

2 實(shí)驗(yàn)研究

2.1 定位多標(biāo)簽坐標(biāo)

為了驗(yàn)證基于隱空間映射的聯(lián)合嵌入式多標(biāo)簽分類算法的有效性，在Intel（R）Core（TM）i3-2120 CPU @ 3.30 GHz，8.00 GB 內(nèi)存，32 位 Window 7 操作系統(tǒng)的電腦上運(yùn)行，對(duì)多標(biāo)簽位置進(jìn)行定位，為進(jìn)行多標(biāo)簽分類效果測(cè)試提供數(shù)據(jù)基礎(chǔ).設(shè)定多標(biāo)簽組在基站的三維立體坐標(biāo)表示為（ai，bi，ci），由此得到基站i（i=1，2，3…）到基站m（m=1，2，3…）之間的水平距離di，m的表達(dá)公式為：

已知基站A的三維坐標(biāo)位置為（a1，b1，c1）、基站B的三維坐標(biāo)位置為（a2，b2，c2），把兩個(gè)基站內(nèi)的標(biāo)簽坐標(biāo)映射到二維水平面上，其坐標(biāo)分別表示為（a1，b1），（a2，b2）根據(jù)余弦定理公式進(jìn)行求解：

其中，si表示的是標(biāo)簽到基站A之間的水平距離，sm表示的標(biāo)簽到基站B的距離，di，m表示的是基站i到基站m之間的距離，待定位標(biāo)簽節(jié)點(diǎn)投影到基站A和基站B之間的所在直線，得到該標(biāo)簽的投影標(biāo)簽，該投影標(biāo)簽的坐標(biāo)在基站A和基站B的所在直線上，其坐標(biāo)表示為（a'，b'），得到待定標(biāo)簽的位置.

2.2 多標(biāo)簽分類測(cè)試

在此基礎(chǔ)上，隨機(jī)選取8、16組標(biāo)簽，分別采用文獻(xiàn)［3］算法、文獻(xiàn)［4］算法和本文算法，對(duì)比在不同條件下的多標(biāo)簽分類算法的分類效果.根據(jù)簡(jiǎn)單條件下不同算法的多標(biāo)簽分類對(duì)比結(jié)果可看出，在簡(jiǎn)單條件下一共有8組標(biāo)簽，本文算法能夠?qū)臻g內(nèi)的標(biāo)簽進(jìn)行有效分類，并且沒(méi)有丟失，而文獻(xiàn)［3］算法和文獻(xiàn)［4］算法都丟失了2組標(biāo)簽（見(jiàn)圖1）.

圖1 在簡(jiǎn)單條件下不同算法的分類效果對(duì)比

根據(jù)復(fù)雜條件下不同算法的多標(biāo)簽分類對(duì)比結(jié)果可看出，在復(fù)雜條件下一共有16組標(biāo)簽，本文算法均對(duì)16組標(biāo)簽進(jìn)行了有效分類，而文獻(xiàn)［3］算法丟失了4組標(biāo)簽，文獻(xiàn)［4］算法丟失了5組標(biāo)簽，由此可知，該算法的分類效果較好（見(jiàn)圖2）.為了進(jìn)一步驗(yàn)證本文算法的分類精度，將Hammningloss、MicroF1以及Accuracyde分類指標(biāo)作為8組標(biāo)簽的評(píng)價(jià)指標(biāo)，對(duì)比3種分類算法的分類誤差，誤差數(shù)值越小，表明分類精度越好，其對(duì)比結(jié)果見(jiàn)表1.

表1 不同分類指標(biāo)分類誤差對(duì)比結(jié)果

圖2 在復(fù)雜條件下不同算法的分類效果對(duì)比

由表1可知，本文算法的分類誤差值均小于文獻(xiàn)［3］算法和文獻(xiàn)［4］算法，由此可知，該算法的分類精度較高.

3 結(jié)語(yǔ)

筆者提出了基于隱空間映射的聯(lián)合嵌入式多標(biāo)簽分類算法，在一定程度上提高了聯(lián)合嵌入式多標(biāo)簽分類精度，確保了分類效果.但由于研究條件有限，此次設(shè)計(jì)的分類算法對(duì)稀疏標(biāo)簽的處理能力還有待提高.