田 露，劉 升

上海工程技術(shù)大學(xué) 管理學(xué)院，上海 201620

近年來(lái)，啟發(fā)式算法在工程優(yōu)化問(wèn)題中越來(lái)越受歡迎，由于它們具有易于實(shí)現(xiàn)、無(wú)需梯度信息、躲避局部最優(yōu)等優(yōu)勢(shì)，可以很好地滿(mǎn)足不同領(lǐng)域?qū)嶋H問(wèn)題的需求[1]。目前啟發(fā)式算法已被應(yīng)用于參數(shù)優(yōu)化、特征優(yōu)化、集成約簡(jiǎn)、原型優(yōu)化、加權(quán)投票集成以及核函數(shù)學(xué)習(xí)等機(jī)器學(xué)習(xí)領(lǐng)域[2-3]。

Abualigah等人于2021年受數(shù)學(xué)計(jì)算方法中算術(shù)運(yùn)算符啟發(fā)提出了算術(shù)優(yōu)化算法（arithmetic optimization algorithm，AOA）[4]。該算法利用運(yùn)算符的分布特性從候選解中尋找最優(yōu)解，由于其具有較好的尋優(yōu)性能，目前已被應(yīng)用到一些問(wèn)題中，如文獻(xiàn)[5]使用差分進(jìn)化算法增強(qiáng)AOA的局部開(kāi)發(fā)能力，并應(yīng)用于多閾值分割問(wèn)題中；文獻(xiàn)[6]使用高斯變異和正弦混沌策略改進(jìn)AOA，以提升質(zhì)子交換膜燃料電池模型識(shí)別的準(zhǔn)確性；文獻(xiàn)[7]使用擁擠距離機(jī)制和精英非優(yōu)勢(shì)排序策略改進(jìn)AOA，并用于求解多目標(biāo)優(yōu)化問(wèn)題；文獻(xiàn)[8]將SMA和AOA結(jié)合并利用隨機(jī)反向?qū)W習(xí)策略提高收斂速度，提出了隨機(jī)反向?qū)W習(xí)策略的黏菌與算術(shù)混合優(yōu)化算法；文獻(xiàn)[9]將灰狼信息反饋機(jī)制與反向?qū)W習(xí)引入AOA，并對(duì)非線(xiàn)性收斂系數(shù)MOP建立修正模型，提出了具有激活機(jī)制的多頭反向串聯(lián)算術(shù)優(yōu)化算法。

上述改進(jìn)雖然提高了算法的尋優(yōu)性能，但由于進(jìn)化過(guò)程中種群規(guī)模始終不變，改進(jìn)策略?xún)H在有限的種群數(shù)量?jī)?nèi)增加了種群多樣性。為了進(jìn)一步提高算法性能，本文從增加演化過(guò)程中種群數(shù)量的角度對(duì)AOA進(jìn)行改進(jìn)。AOA算法的子代生成方式為僅向當(dāng)前全局最優(yōu)解靠近，該策略使種群中其他個(gè)體攜帶的信息沒(méi)有得到充分利用，種群多樣性也較差，算法極易陷入局部最優(yōu)解。因此本文引入平衡優(yōu)化器算法中的平衡池概念，充分利用種群中個(gè)體包含的信息，通過(guò)四種突變策略及其平均候選解，增加種群的多樣性。但考慮到隨著平衡池中個(gè)體數(shù)量的增加，個(gè)體評(píng)價(jià)次數(shù)也隨之增加，同時(shí)平衡池中較差個(gè)體所攜帶的信息也會(huì)對(duì)算法演化產(chǎn)生不利影響。因此，本文使用支持向量機(jī)對(duì)平衡池中的個(gè)體進(jìn)行分類(lèi)，首先對(duì)適應(yīng)度值和距離進(jìn)行歸一化處理，并將二者轉(zhuǎn)化為個(gè)體留存率，用該指標(biāo)將個(gè)體劃分為優(yōu)勢(shì)個(gè)體和劣勢(shì)個(gè)體；然后將其轉(zhuǎn)化為訓(xùn)練集用以訓(xùn)練支持向量機(jī)模型；最后用訓(xùn)練好的模型從平衡池中選出優(yōu)勢(shì)個(gè)體，保留前N個(gè)個(gè)體用于構(gòu)建下一代平衡池。通過(guò)將SVMAOA與其他算法在基準(zhǔn)測(cè)試函數(shù)與特征選擇問(wèn)題上驗(yàn)證表明SVMAOA具有較優(yōu)的性能。

1 算術(shù)優(yōu)化算法

算術(shù)優(yōu)化算法根據(jù)運(yùn)算符不同的分布特性，在搜索空間內(nèi)中尋找最優(yōu)解。由于除法運(yùn)算符（D）和乘法運(yùn)算符（M）具有發(fā)散的性質(zhì)，搜索過(guò)程中步長(zhǎng)較長(zhǎng)，可以保證在搜索前期對(duì)搜索區(qū)域充分探索，避免陷入局部最優(yōu)解。而減法運(yùn)算符（S）和加法運(yùn)算符（A）具有收斂的性質(zhì)，搜索過(guò)程中步長(zhǎng)短，可以保證在搜索后期對(duì)在幾個(gè)密集區(qū)域上對(duì)搜索區(qū)域進(jìn)行深入探索搜索區(qū)域充分開(kāi)發(fā)，增強(qiáng)局部尋優(yōu)能力。

1.1 數(shù)學(xué)優(yōu)化加速函數(shù)

在算法開(kāi)始尋優(yōu)前，需要選擇搜索階段。設(shè)定隨機(jī)參數(shù)r1∈[0,1]與數(shù)學(xué)優(yōu)化加速函數(shù)（math optimizer accelerated，MOA）用于選擇搜索階段（即探索或開(kāi)發(fā)）。當(dāng)r1

其中，C_Iter為當(dāng)前迭代次數(shù)，M_Iter為最大迭代次數(shù)。Min=0.2表示加速函數(shù)的最小值，Max=0.7表示加速函數(shù)的最大值。

1.2 探索階段

AOA在全局探索階段基于除法搜索策略和乘法搜索策略搜索，位置更新公式如下：

其中，r2∈[0,1]，當(dāng)r2<0.5時(shí)，采用除法策略，否則采用乘法策略。μ為搜索過(guò)程控制參數(shù)，用以調(diào)節(jié)搜索過(guò)程，值為0.499。

為探索解空間的不同區(qū)域，保證解的多樣化，更新公式中考慮了一個(gè)隨機(jī)參數(shù)，即數(shù)學(xué)優(yōu)化概率（math optimizer probability，MOP），MOP計(jì)算公式如下：

其中，α為敏感參數(shù)，定義了迭代過(guò)程中的開(kāi)發(fā)精度，值為5。

1.3 開(kāi)發(fā)階段

AOA在局部開(kāi)發(fā)階段基于加法搜索策略和減法搜索策略進(jìn)行搜索。位置更新公式如下：

其中，r3∈[0,1]，當(dāng)r3<0.5時(shí)，采用減法策略，否則采用加法策略。

2 支持向量機(jī)

支持向量機(jī)（support vector machine，SVM）是機(jī)器學(xué)習(xí)領(lǐng)域中經(jīng)典的分類(lèi)算法之一，由Cortes等人于1995年提出[10]。SVM的核心思想是尋找一個(gè)保證分類(lèi)精度的同時(shí)，使分類(lèi)間隔最大化的最優(yōu)分類(lèi)超平面。算數(shù)優(yōu)化算法在尋優(yōu)過(guò)程中，用于將個(gè)體劃分為優(yōu)勢(shì)個(gè)體和劣勢(shì)個(gè)體，因此可以將其視作一個(gè)二分類(lèi)問(wèn)題。其中，種群中所有個(gè)體xi(i=1,2,…,N)為樣本集，N為種群中個(gè)體數(shù)量，個(gè)體的優(yōu)劣為yi={ }

1,-1。

3 支持向量機(jī)改進(jìn)的算術(shù)優(yōu)化算法

3.1 構(gòu)建平衡池

AOA的個(gè)體更新方式為向當(dāng)前全局最優(yōu)個(gè)體收斂，這種更新策略雖然能夠達(dá)到快速收斂的效果，但當(dāng)前全局最優(yōu)個(gè)體若為局部最優(yōu)解而非真正的全局最優(yōu)解時(shí)，該策略極易導(dǎo)致算法陷入局部最優(yōu)。同時(shí)，AOA算法沒(méi)有充分利用除當(dāng)前全局最優(yōu)個(gè)體以外的其他個(gè)體，忽略了種群其他個(gè)體所包含的信息，導(dǎo)致種群多樣性和全局搜索能力較差。

因此，本文引入平衡優(yōu)化器算法中平衡池的概念，池中除原始AOA算法子代生成方式外，還引入了基于成功歷史的自適應(yīng)差分算法（success-history based adaptive DE，SHADE）的四種突變策略（DE/rand/1、DE/best/1、DE/rand/2和DE/best/2）生成的個(gè)體，以及以上個(gè)體的平均候選解，并根據(jù)演化階段自適應(yīng)地選擇策略。

在探索階段，增加的兩種子代位置生成公式和平均候選解公式如下：

在開(kāi)發(fā)階段，增加兩種子代位置生成公式平均候選解公式如下：

其中，xri,t為第t代種群中除當(dāng)前全局最優(yōu)個(gè)體外隨機(jī)選擇的第i個(gè)個(gè)體，xpbest,t是從當(dāng)前種群中隨機(jī)選擇適應(yīng)度值排名在前100p%中的個(gè)體。

MOP為服從柯西分布的隨機(jī)數(shù)，其中μMOP初始值為0.5，1/c∈[5,20]。

公式中的MOP參數(shù)隨迭代次數(shù)的增加自適應(yīng)地調(diào)整搜索步長(zhǎng)。以上操作既保證了算法的收斂性，又避免僅向當(dāng)前全局最優(yōu)個(gè)體收斂，保持了種群多樣性。本文使用測(cè)試函數(shù)對(duì)改進(jìn)的SVMAOA算法與原始AOA算法的求解精度和收斂速度進(jìn)行對(duì)比，以驗(yàn)證構(gòu)建平衡池策略的有效性。

3.2 支持向量機(jī)分類(lèi)策略

針對(duì)AOA算法種群多樣性較差的特點(diǎn)，上文提出了構(gòu)建平衡池策略以增加種群多樣性。由于僅參考適應(yīng)度值可能導(dǎo)致種群多樣性的喪失，不能充分利用和探索未知的搜索空間，因此本文綜合考慮適應(yīng)度值和個(gè)體間距離，并將其轉(zhuǎn)化為個(gè)體留存概率。同時(shí)當(dāng)個(gè)體數(shù)量增加時(shí)，若對(duì)所有個(gè)體都進(jìn)行適應(yīng)度值評(píng)價(jià)，運(yùn)行時(shí)間不可避免地會(huì)增加，因此本文使用支持向量機(jī)依據(jù)個(gè)體留存概率對(duì)平衡池中所有個(gè)體進(jìn)行分類(lèi)，在進(jìn)化過(guò)程中保留優(yōu)勢(shì)個(gè)體，丟棄劣勢(shì)個(gè)體。

分類(lèi)問(wèn)題中的數(shù)據(jù)集以(X,D)的形式存在，本文中子代個(gè)體為D為留存標(biāo)志。將子代個(gè)體按留存率進(jìn)行降序排列，并使用n%的比例對(duì)數(shù)據(jù)集進(jìn)行劃分，對(duì)前100p%的個(gè)體標(biāo)記為1，代表保留，對(duì)剩余個(gè)體標(biāo)記-1，代表丟棄。留存率由適應(yīng)度值與個(gè)體間距離共同決定，為使適應(yīng)度值與個(gè)體間距離處于同一數(shù)量級(jí)，對(duì)二者進(jìn)行歸一化處理，計(jì)算公式如下：

其中，ymax和ymin分別為最大和最小適應(yīng)度函數(shù)值，Dmax和Dmin分別為Di的最大和最小值，ε為一個(gè)極小值以避免出現(xiàn)零除法。

使用支持向量機(jī)輔助進(jìn)化策略步驟如下：

步驟1計(jì)算種群中每個(gè)個(gè)體的留存率；

步驟2根據(jù)留存率轉(zhuǎn)換為訓(xùn)練數(shù)據(jù)集；

步驟3利用數(shù)據(jù)集訓(xùn)練分類(lèi)器；

步驟4使用上一代保留的個(gè)體構(gòu)建平衡池；

步驟5用分類(lèi)器對(duì)個(gè)體分類(lèi)，保留優(yōu)勢(shì)個(gè)體；

步驟6根據(jù)適應(yīng)度值對(duì)優(yōu)勢(shì)個(gè)體排名，選擇前N個(gè)個(gè)體作為下一代種群。

使用支持向量機(jī)輔助進(jìn)化的算術(shù)優(yōu)化算法（SVMAOA）偽代碼如下：

開(kāi)始

初始化主要參數(shù)設(shè)置初始化種群

計(jì)算種群中每個(gè)個(gè)體的留存率

根據(jù)留存率將其轉(zhuǎn)換為訓(xùn)練數(shù)據(jù)集

利用數(shù)據(jù)集訓(xùn)練分類(lèi)器

while t

根據(jù)式（1）更新MOA

if r1

使用式（2）、（5）、（6）、（7）生成子代個(gè)體及其平均候選解放入平衡池

Else

使用式（4）、（8）、（9）、（10）生成子代個(gè)體及其平均候選解放入平衡池

end if

通過(guò)分類(lèi)器對(duì)平衡池中個(gè)體進(jìn)行分類(lèi)，保留優(yōu)勢(shì)個(gè)體

對(duì)優(yōu)勢(shì)個(gè)體進(jìn)行排序，保留前N個(gè)個(gè)體

t=t+1；

end while

返回最佳位置

結(jié)束

SVMAOA具體實(shí)現(xiàn)流程如圖1所示。

圖1 SVMAOA算法流程圖Fig.1 Flow chart of SVMAOA algorithm

3.3 時(shí)間復(fù)雜度

SVMAOA的計(jì)算復(fù)雜度分為以下幾部分：初始化過(guò)程、訓(xùn)練分類(lèi)器、構(gòu)建平衡池解、對(duì)平衡池內(nèi)所有個(gè)體進(jìn)行分類(lèi)以及排序。設(shè)算法的種群規(guī)模為N，問(wèn)題維度為D，最大迭代次數(shù)為T(mén)，則算法的時(shí)間復(fù)雜度如下。

初始化階段的復(fù)雜度為O(N×D)，計(jì)算個(gè)體留存率為O(N)；訓(xùn)練分類(lèi)器的時(shí)間復(fù)雜度為O(N lg N)；構(gòu)建平衡池的時(shí)間復(fù)雜度為O(N×D×3)；使用分類(lèi)器對(duì)平衡池內(nèi)所有個(gè)體進(jìn)行分類(lèi)的時(shí)間復(fù)雜度為O(N×D×3)；設(shè)優(yōu)勢(shì)個(gè)體的比例為α，則計(jì)算優(yōu)勢(shì)個(gè)體留存率的時(shí)間復(fù)雜度為O(3×N×α)，對(duì)優(yōu)勢(shì)個(gè)體排序的時(shí)間復(fù)雜度為O((N+3×α)lg(N+3×α))。

綜上所述，SVMAOA的時(shí)間復(fù)雜度為O(T(3ND+(N+3Nα)lg(N+3Nα))。

3.4 收斂性分析

定理1 SVMAOA在演化中全局最優(yōu)適應(yīng)度值是單調(diào)非增的，即f(Xg,t)≤f(Xg,1)。

證明 根據(jù)算法的選擇策略，只有個(gè)體的適應(yīng)度值小于全局最優(yōu)值時(shí)，才對(duì)全局最優(yōu)值進(jìn)行更新，因此滿(mǎn)足下式：

其中，Xg,t為第t代時(shí)全局最優(yōu)個(gè)體的位置，因此全局最優(yōu)解的適應(yīng)度值單調(diào)不增，證明完畢。

定理2算法的狀態(tài)空間內(nèi)的隨機(jī)過(guò)程是馬爾科夫鏈。

證明 將狀態(tài)空間從{X(t)}轉(zhuǎn)移到{X (t+1)}的過(guò)程記為X(t+1)=T(X(t))，SVMAOA算法可以將此過(guò)程表示為：

其中，Ta代表初始化過(guò)程，Tb代表構(gòu)建平衡池過(guò)程，Tc代表選擇優(yōu)勢(shì)個(gè)體過(guò)程?？梢钥闯觯琗(t+1)只與X(t)有關(guān)，且三個(gè)過(guò)程均依賴(lài)于X(t)而不是t，算法的狀態(tài)空間內(nèi)的隨機(jī)過(guò)程是馬爾科夫鏈，證明完畢。

定理3算法的狀態(tài)空間{}X(t)收斂到全局最優(yōu)子集M*的概率為1。

證明SVMAOA算法從{X(t)}轉(zhuǎn)移到{X (t+1)}的狀態(tài)轉(zhuǎn)移概率為：

計(jì)算可得：

令

上式可表示為：

變換可得：

對(duì)兩邊求極限：

上述三個(gè)定理說(shuō)明算法的狀態(tài)空間是單調(diào)不增的馬爾科夫鏈，且收斂于最優(yōu)集的概率為1，由此可得算法具有全局收斂性。

4 實(shí)驗(yàn)仿真與結(jié)果分析

4.1 仿真實(shí)驗(yàn)環(huán)境

本仿真測(cè)試環(huán)境為：仿真軟件為MATLAB 2018b，操作系統(tǒng)Windows 10，內(nèi)存為16.0 GB，CPU為AMD Ryzen 5 4600U，主頻2.10 GHz。

4.2 測(cè)試函數(shù)

為了選取合適的數(shù)據(jù)集劃分比例以及驗(yàn)證SVMAOA的優(yōu)化效果和穩(wěn)定性?xún)?yōu)于其他算法，本文對(duì)多個(gè)不同特點(diǎn)的測(cè)試函數(shù)進(jìn)行函數(shù)優(yōu)化的對(duì)比測(cè)試，測(cè)試函數(shù)及其具體信息如表1所示。

表1 測(cè)試函數(shù)Table 1 Test function

4.3 參數(shù)選擇

由于數(shù)據(jù)集中優(yōu)勢(shì)個(gè)體與劣勢(shì)個(gè)體比例的劃分也對(duì)分類(lèi)器的性能有顯著影響，優(yōu)秀樣本過(guò)多會(huì)導(dǎo)致一些劣勢(shì)個(gè)體無(wú)法區(qū)分，優(yōu)秀樣本太少會(huì)導(dǎo)致一些優(yōu)勢(shì)個(gè)體分類(lèi)錯(cuò)誤。本文分別對(duì)適應(yīng)度值排名前20%、40%、60%和80%的優(yōu)勢(shì)個(gè)體打標(biāo)簽+1，對(duì)剩余劣勢(shì)個(gè)體打標(biāo)簽-1，以用來(lái)確定對(duì)算法尋優(yōu)性能最佳的數(shù)據(jù)集劃分策略，上述劃分策略分別用F20、F40、F60和F80表示，見(jiàn)圖2。

圖2 訓(xùn)練集轉(zhuǎn)換策略示意圖Fig.2 Schematic diagram of training set conversion strategy

通過(guò)基準(zhǔn)測(cè)試函數(shù)對(duì)上述策略進(jìn)行實(shí)驗(yàn)測(cè)試，種群規(guī)模設(shè)定為30，維數(shù)設(shè)定為30，最大迭代次數(shù)設(shè)定為500。

從表2可以看出，F(xiàn)40策略的SVMAOA可以使較多測(cè)試函數(shù)的尋優(yōu)精度達(dá)到最優(yōu)，同時(shí)具有一定穩(wěn)定性，整體表現(xiàn)最好。在接下來(lái)的實(shí)驗(yàn)中，選擇F40的訓(xùn)練集劃分策略。

表2 四種策略實(shí)驗(yàn)結(jié)果Table 2 Experimental results of four strategies

4.4 對(duì)比算法與參數(shù)設(shè)置

本文將改進(jìn)算法（SVMAOA）與原始算法（AOA）、其他學(xué)者改進(jìn)的改進(jìn)算法（DAOA、MOAOA、MFAOA[11]、IAOA[12]）以及其他算法（SSA[13]）進(jìn)行比較。種群規(guī)模設(shè)定為30，維數(shù)設(shè)定為30，最大迭代次數(shù)設(shè)定為500，各算法的參數(shù)設(shè)置見(jiàn)表3。

表3 對(duì)比算法參數(shù)Table 3 Compare algorithm parameters

4.5 種群多樣性分析

本文使用Booth函數(shù)對(duì)AOA與SVMAOA迭代典型時(shí)刻的種群分布圖進(jìn)行對(duì)比，以驗(yàn)證構(gòu)建平衡池的策略可以有效提升種群。Booth函數(shù)基本信息如表1所示，兩種算法在第5、50和100次迭代時(shí)刻的種群分布如圖3所示。

圖3中，迭代初期時(shí)AOA種群中有部分個(gè)體重疊，種群多樣性較差，且種群分布范圍較小；而SVMAOA中種群分布更均勻，搜索空間更大，種群多樣性更佳。當(dāng)?shù)?0次時(shí)，AOA中子代的分布以最優(yōu)解的橫縱坐標(biāo)為參考，呈現(xiàn)十字形，而SVMAOA在平衡池三種子代生成策略的作用下，使子代生成過(guò)程不再僅以最優(yōu)解為參照，此使種群以環(huán)狀的分布圍繞在最優(yōu)解附近，明顯改善了AOA種群分布圖中的十字分布。當(dāng)?shù)?00次時(shí)，AOA個(gè)體在原始的子代生成策略作用下，仍保持十字分布的狀態(tài)，有很大一部分個(gè)體沒(méi)有搜尋到最優(yōu)個(gè)體。而SVMAOA中的大部分個(gè)體已經(jīng)搜尋到（1，3）點(diǎn)，這是由于支持向量機(jī)分類(lèi)器輔助演化過(guò)程，減少了評(píng)價(jià)次數(shù)，加快了種群的收斂速度。

圖3 種群多樣性對(duì)比圖Fig.3 Comparative map of population diversity

4.6 求解精度與收斂性分析

本文通過(guò)23個(gè)基準(zhǔn)測(cè)試函數(shù)對(duì)算法性能進(jìn)行對(duì)比實(shí)驗(yàn)，為了避免偶然性帶來(lái)的結(jié)果偏差，算法在每個(gè)基準(zhǔn)測(cè)試函數(shù)上運(yùn)行30次并對(duì)其求均值和標(biāo)準(zhǔn)差，以對(duì)比算法的求解精度與穩(wěn)定性，實(shí)驗(yàn)結(jié)果見(jiàn)表4。

表4 測(cè)試函數(shù)實(shí)驗(yàn)結(jié)果Table 4 Experimental results of test function

F1~F7為單峰函數(shù)，一般用于檢測(cè)算法的全局尋優(yōu)性能。SVMAOA與原始AOA算法和SSA算法相比較，平均尋優(yōu)精度和標(biāo)準(zhǔn)差均有很大的提升，SVMAOA具有最佳的尋優(yōu)性能。與改進(jìn)算法相比較，除在F5函數(shù)上SVMAOA的平均尋優(yōu)精度和標(biāo)準(zhǔn)差略差于DAOA算法以外，在其他測(cè)試函數(shù)中平均尋優(yōu)精度和標(biāo)準(zhǔn)差都表現(xiàn)最優(yōu)，SVMAOA算法相比于其他基于AOA的改進(jìn)算法尋優(yōu)性能最佳?？傮w看來(lái)，SVMAOA在單峰測(cè)試函數(shù)中表現(xiàn)出較優(yōu)的尋優(yōu)性能。

F8~F23為多峰函數(shù)，一般用來(lái)評(píng)價(jià)算法的局部尋優(yōu)性能。SVMAOA與原始AOA算法相比較時(shí)，在F18函數(shù)上，兩種算法尋優(yōu)精度一樣，但是SVMAOA算法的標(biāo)準(zhǔn)差較小，穩(wěn)定性較高，在其他多峰測(cè)試函數(shù)中SVMAOA的最優(yōu)解平均尋優(yōu)精度和標(biāo)準(zhǔn)差均有很大的提升。與SSA相比較時(shí)，在F8函數(shù)上，SVMAOA算法平均尋優(yōu)精度雖略差于SSA算法，但標(biāo)準(zhǔn)差卻較小，算法在該函數(shù)上表現(xiàn)較穩(wěn)定。在F13函數(shù)上，SVMAOA的平均尋優(yōu)精度和標(biāo)準(zhǔn)差略差于SSA算法。在F14函數(shù)上，雖然SVMAOA相較于SSA平均尋優(yōu)精度雖略低，但標(biāo)準(zhǔn)差卻遠(yuǎn)小，改進(jìn)算法的魯棒性與其相比具有優(yōu)勢(shì)。在F14、F15函數(shù)上，SVMAOA的平均尋優(yōu)精度優(yōu)于SSA，但標(biāo)準(zhǔn)差卻略高。在其他多峰測(cè)試函數(shù)上，SVMAOA的平均尋優(yōu)精度和標(biāo)準(zhǔn)差都表現(xiàn)最佳。與其他改進(jìn)算法相比較時(shí)，在F8函數(shù)上，DAOA的平均尋優(yōu)精度略?xún)?yōu)于SVMAOA。在F13、F20函數(shù)上，DAOA的平均尋優(yōu)精度略和標(biāo)準(zhǔn)差均優(yōu)于SVMAOA。在F14函數(shù)上，MOAOA的平均尋優(yōu)精度略?xún)?yōu)于SVMAOA。在F16、F17、F18函數(shù)上，SVMAOA相較于IAOA的平均尋優(yōu)精度較高，但標(biāo)準(zhǔn)差卻略差。在其他多峰測(cè)試函數(shù)中，SVMAOA相較于其他基于AOA改進(jìn)的算法均表現(xiàn)出最佳的尋優(yōu)精度和穩(wěn)定性。總體看來(lái)，在多峰測(cè)試函數(shù)中，SVMAOA具有一定的競(jìng)爭(zhēng)力。

以上實(shí)驗(yàn)結(jié)果說(shuō)明平衡池策略有效地增加了提升了算法的全局尋優(yōu)性能和局部尋優(yōu)性能，為了進(jìn)一步說(shuō)明使用支持向量機(jī)分類(lèi)策略可以有效地篩選優(yōu)勢(shì)個(gè)體，避免劣勢(shì)個(gè)體對(duì)演化過(guò)程產(chǎn)生干擾，提升收斂速度，本文通過(guò)測(cè)試函數(shù)的迭代收斂曲線(xiàn)圖驗(yàn)證SVMAOA算法的收斂速度。從圖4可以看出，SVMAOA在收斂速度上也優(yōu)于其他算法。

圖4 收斂曲線(xiàn)圖Fig.4 Convergence curve

4.7 Wilcoxon秩和檢驗(yàn)

為檢驗(yàn)SVMAOA算法與其他算法的顯著性差異，本文使用Wilcoxon秩和檢驗(yàn)進(jìn)行驗(yàn)證。在α=5%顯著性水平下，若p<0.05則說(shuō)明算法具有顯著差異，反之則說(shuō)明算法差異不顯著。本文將SVMAOA與AOA、SSA、IAOA、MFAOA、DAOA、MOAOA在23個(gè)基準(zhǔn)測(cè)試函數(shù)上進(jìn)行30次運(yùn)算，結(jié)果見(jiàn)表5。其中，N/A表示算法結(jié)果接近，無(wú)法進(jìn)行顯著性判斷。在23個(gè)基準(zhǔn)測(cè)試函數(shù)中，多數(shù)實(shí)驗(yàn)結(jié)果均小于0.05，說(shuō)明SVMAOA的優(yōu)越性在統(tǒng)計(jì)上是顯著的。對(duì)于函數(shù)F9、F10和F11，SVMAOA與其他算法間的差異不明顯，說(shuō)明算法性能相當(dāng)。

表5 Wilcoxon秩和檢驗(yàn)結(jié)果Table 5 Wilcoxon rank sum test results

5 SVMAOA用于特征選擇問(wèn)題

特征選擇作為特征工程的關(guān)鍵環(huán)節(jié)，不僅可以剔除無(wú)關(guān)特征、提高算法的學(xué)習(xí)效率[14]，還能從數(shù)據(jù)集中尋找最優(yōu)特征子集[15]，提高模型精確度。本文將選取盡可能少的特征得到較高的分類(lèi)準(zhǔn)確率作為目標(biāo)，利用SVMAOA算法解決特征選擇問(wèn)題。

5.1 建立模型

SVMAOA用于求解特征選擇問(wèn)題時(shí)，個(gè)體代表一組特征子集，種群維度為數(shù)據(jù)集中特征數(shù)。由于特征選擇可以視作離散空間中的優(yōu)化問(wèn)題，故本文基于二進(jìn)制編碼方法，使用Sigmoid函數(shù)將個(gè)體向量轉(zhuǎn)化至0到1的區(qū)間內(nèi)，見(jiàn)式（24）。當(dāng)值大于0.5時(shí)，將其置為1，反之置為0，0和1分別表示對(duì)應(yīng)維度的特征沒(méi)有被選擇和被選擇。

v為了通過(guò)盡可能少的特征得到較高的分類(lèi)準(zhǔn)確率，本文將以式（25）作為適應(yīng)度函數(shù)[17]：

其中，α和β為分類(lèi)準(zhǔn)確率和特征子集長(zhǎng)度的控制權(quán)重，α∈[0,1]，β=1-β，本文α取0.85。γDR(D)為KNN（KNearest Neighbors）分類(lèi)器錯(cuò)誤率，k=5。||R為個(gè)體中被選擇的特征數(shù)，||N為數(shù)據(jù)集中特征數(shù)。

為評(píng)價(jià)SVMAOA用于求解特征選擇問(wèn)題的優(yōu)劣，本文選取分類(lèi)準(zhǔn)確率與特征選擇個(gè)數(shù)作為衡量指標(biāo)，分

類(lèi)準(zhǔn)確率定義見(jiàn)式（26）：

其中，TP為真正例樣本數(shù)，TN為真負(fù)例樣本數(shù)，P為正例樣本數(shù)，N為

5.2 實(shí)驗(yàn)結(jié)果

為驗(yàn)證算法在特征選擇問(wèn)題中的性能，本文選用UCI中的7個(gè)數(shù)據(jù)集上進(jìn)行測(cè)試，數(shù)據(jù)集信息見(jiàn)表6。

表6 實(shí)驗(yàn)數(shù)據(jù)集Table 6 Experimental datasets

本文將SVMAOA并與原始AOA算法、其他學(xué)者改進(jìn)算法以及其他群智能優(yōu)化算法進(jìn)行對(duì)比，所有算法獨(dú)立運(yùn)行10次，種群規(guī)模為30，最大迭代次數(shù)為100次，各算法參數(shù)設(shè)置見(jiàn)表3，實(shí)驗(yàn)結(jié)果見(jiàn)表7。

表7 特征選擇實(shí)驗(yàn)結(jié)果Table 7 Experimental results of feature selection

根據(jù)實(shí)驗(yàn)結(jié)果可以看出，本文改進(jìn)的SVMAOA算法用于求解特征選擇問(wèn)題時(shí)，在所有數(shù)據(jù)集上的分類(lèi)準(zhǔn)確率均高于原始AOA算法和其他學(xué)者改進(jìn)的算法。在D1、D3、D5、D6和D7數(shù)據(jù)集上數(shù)據(jù)集特征子集個(gè)數(shù)少于其他算法，在D2和D4數(shù)據(jù)集上略多于MFAOA算法?？傮w看來(lái)，在特征選擇問(wèn)題中，本文提出的SVMAOA算法與其他算法相比表現(xiàn)出色，能夠有效地剔除無(wú)關(guān)特征，尋找到最優(yōu)特征子集，提高模型精確度。

6 結(jié)束語(yǔ)

為了克服AOA無(wú)法充分利用個(gè)體信息、種群多樣性較少等問(wèn)題，構(gòu)建了包含四種突變策略及其平均候選解的平衡池，充分利用種群個(gè)體所攜帶的信息，增加種群多樣性；并且通過(guò)支持向量機(jī)分類(lèi)模型對(duì)平衡池中個(gè)體進(jìn)行分類(lèi)，以減少由于個(gè)體數(shù)量增多導(dǎo)致的評(píng)價(jià)次數(shù)增加，同時(shí)避免劣勢(shì)個(gè)體在演化過(guò)程中對(duì)算法造成的不良影響，逃離局部最優(yōu)解，使得算法獲得更好的收斂精度；最后根據(jù)留存率篩選個(gè)體，并用于下一代平衡池的構(gòu)建。本文通過(guò)基準(zhǔn)測(cè)試函數(shù)、統(tǒng)計(jì)檢驗(yàn)Wilcoxon秩和檢驗(yàn)和多樣性分析驗(yàn)證算法性能，將SVMAOA與其他改進(jìn)優(yōu)化算法、原始優(yōu)化算法進(jìn)行對(duì)比，并在7個(gè)UCI標(biāo)準(zhǔn)數(shù)據(jù)集中進(jìn)行特征選擇實(shí)驗(yàn)，結(jié)果表明SVMAOA算法具有更優(yōu)的性能。

在未來(lái)的工作中，可以嘗試不同的平衡池更新策略。此外，還可以嘗試使用不同的分類(lèi)器，以及不同的數(shù)據(jù)集劃分方式以增強(qiáng)算法性能。