甘樂　李功權(quán)

摘要：由于高維特征空間通常會(huì)導(dǎo)致不適定問題，針對(duì)高光譜影像的統(tǒng)計(jì)模式識(shí)別是非常艱巨的任務(wù)。隨著波段數(shù)目的增加，高光譜影像分析則面臨Hughes現(xiàn)象等障礙，因此促進(jìn)了降維方法的發(fā)展，它能夠有效處理有限訓(xùn)練樣本下的高維數(shù)據(jù)集情形。降維算法的目標(biāo)是在保持原始數(shù)據(jù)主要本征信息的同時(shí)獲取高維數(shù)據(jù)樣本的低維表示。為了能夠有效解決高光譜影像分析中的“維數(shù)災(zāi)難”問題，從而改進(jìn)后續(xù)計(jì)算復(fù)雜度，我們引入一種半監(jiān)督局部保持的降維算法。

關(guān)鍵詞：降維；主成分分析；局部費(fèi)舍爾判別分析；半監(jiān)督局部判別分析

中圖分類號(hào)：TP18 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1009-3044（2015）02-0169-02

Abstract：Statistical pattern-classification of hyperspectral imagery （HSI） is a difficult endeavor， due to the high-dimensional feature spaces often tend to result in ill-conditioned problem. Obstacles， such as the hughes phenomenon， arise as the data dimensionality increases， thus fostering the development of dimension reduction methods， which are able to deal with high-dimensional data sets and limited training samples. The goal of dimension reduction is to obtain a low-dimensional representation of high-dimensional data samples while preserving most of the 'intrinsic information' contained in the original data. In order to effectively solve the problem of 'dimension disaster'， thereby improving the computational complexity， we introduce a new semi-supervised local discriminant analysis algorithm.

Keywords：Dimension reduction ；Principal component analysis；Local Fisher Discriminant Analysis ；Semi-supervised local discriminant analysis

由于具備數(shù)百個(gè)可用波段，高光譜影像能夠?yàn)橛跋穹诸悵撛诘啬芴峁└泳_和詳細(xì)的信息。在模式識(shí)別中分類通常假定有足夠數(shù)量的訓(xùn)練樣本以獲取高分類精度。眾所周知，高光譜數(shù)據(jù)所表示地物的真實(shí)類別過程通常是非常困難且成本高。因此，在高光譜影像分類中，擁有足夠數(shù)量的訓(xùn)練樣本以定量估計(jì)地物是無法滿足的，此問題通常稱作“小樣本問題”[1]。為了解決此問題，一種方法是應(yīng)用特征抽取或選擇的方法減少原始數(shù)據(jù)的維度；另一種方法是修改分類器以適應(yīng)小樣本高維度問題。通常高光譜子降維算法主要通過兩種方式實(shí)現(xiàn)，即特征選擇和特征抽取。特征選擇是從原始波譜特征中選取部分波譜特征以使特定分類器達(dá)到最優(yōu)的分類精度，如克隆選擇法。特征抽取即尋求高維空間到低維子空間之間的最佳投影變換使得關(guān)鍵地物信息得到保存的同時(shí)最大限度降低原始數(shù)據(jù)維度，如PCA[2]、LDA[3]等算法。

傳統(tǒng)降維算法如PCA和LDA以及其相應(yīng)變種存在如下限制，即類條件分布必須是高斯分布。然而高光譜影像數(shù)據(jù)通常是非高斯的，極端情況下甚至是強(qiáng)多通道的。另外降維算法通常包括監(jiān)督和無監(jiān)督兩類[4]。在高光譜影像處理領(lǐng)域，標(biāo)注樣本獲取難度大且代價(jià)昂貴，我們只有少量的標(biāo)注樣本可以利用，由于過擬合問題，監(jiān)督方法通常表現(xiàn)不好，因此，我們需要利用未標(biāo)注樣本以改進(jìn)傳統(tǒng)降維算法的表現(xiàn)，我們將引入一種半監(jiān)督局部保持判別分析（SELF）降維算法。

1 半監(jiān)督局部判別分析

2.2 結(jié)果與分析

為了驗(yàn)證SELF算法的有效性，本文將驗(yàn)證該算法在SVM下的分類表現(xiàn)。SVM僅考慮鄰近類邊界的訓(xùn)練樣本，在處理小樣本和高維空間數(shù)據(jù)時(shí)表現(xiàn)非常高效。作為一種經(jīng)典降維算法，PCA尋求最小二乘準(zhǔn)則下原始高維數(shù)據(jù)空間像素點(diǎn)到其嵌入子空間的最佳線性投影變換，通常視為驗(yàn)證其它降維算法優(yōu)劣的重要標(biāo)準(zhǔn)。因此本文選用PCA算法作為對(duì)比算法，驗(yàn)證SELF的優(yōu)劣。

由于部分地物可用樣本數(shù)量比較少，我們從已知16類地物中選取最多的9類用于試驗(yàn)，并從每類地物中選取100像素作為訓(xùn)練樣本，余下的作為測(cè)試樣本。所有的算法均在相同的實(shí)驗(yàn)配置下進(jìn)行，目標(biāo)維度設(shè)置為13，驗(yàn)證SELF和PCA算法在SVM下的分類表現(xiàn)。圖1為兩種算法在SVM下的分類表現(xiàn)，PCA分類精度僅為67.18%，SELF分類精度為89.56%，不難發(fā)現(xiàn)SELF明顯優(yōu)越于PCA。這主要是由于SELF充分融合LFDA和PCA特征，有效地保持未標(biāo)注樣本包含的全局信息同時(shí)充分利用標(biāo)注樣本的判別信息。

3 結(jié)束語

本文論述了PCA和SELF兩種不同降維算法，在支持向量機(jī)分類器下的分類表現(xiàn)，由試驗(yàn)結(jié)果可知，SELF明顯優(yōu)越于PCA算法，這主要是由于其能利用未標(biāo)注樣本的全局信息同時(shí)能夠有效利用少量標(biāo)注樣本包含的標(biāo)注信息。本文只是簡(jiǎn)單的驗(yàn)證SELF算法在AVIRIS場(chǎng)景下的分類表現(xiàn)，并未驗(yàn)證該算法在不同場(chǎng)景下的分類表現(xiàn)，下一步的工作重點(diǎn)是驗(yàn)證該降維算法在不同高光譜場(chǎng)景和基于不同分類器的分類表現(xiàn)。

參考文獻(xiàn)：

[1] Chang C-I. Hyperspectral Data Processing： Algorithm Design and Analysis [M]. John Wiley & Sons， 2013.

[2] Jolliffe I. Principal component analysis [M]. Wiley Online Library， 2005.IGARSS '01 IEEE 2001 International， 2001： 2893-5 vol.6.

[3] Sugiyama M. Dimensionality Reduction of Multimodal Labeled Data by Local Fisher

Discriminant Analysis [J]. J Mach Learn Res， 2007， 8（1027-61.

[4] Qiao L， Chen S， Tan X. Sparsity preserving projections with applications to face recognition [J].

Pattern Recognition， 2010， 43（1）： 331-41.

[5] Sugiyama M. Local Fisher discriminant analysis for supervised dimensionality reduction [M].

Proceedings of the 23rd international conference on Machine learning. Pittsburgh， Pennsylvania；

ACM. 2006： 905-12.