一種混合核函數(shù)svm建模方法及其應(yīng)用
陽春華，王覺，朱紅求，桂衛(wèi)華
（中南大學(xué)信息科學(xué)與工程學(xué)院，湖南長沙410083）
摘 要：為了提高模型的泛化能力和精度，提出了一種基于混合核函數(shù)的支持向量機(jī)( svm)建模方法。所提出的混合核函數(shù)由徑向基函數(shù)和多項(xiàng)式函數(shù)加權(quán)組合而成，克服了支持向量機(jī)模型中單個(gè)核函數(shù)的局限性：并利用量子粒子群算法( qpso)對(duì)懲罰系數(shù)、核參數(shù)以及混合權(quán)重系數(shù)進(jìn)行綜合尋優(yōu)，求取****化參數(shù)組合，從而提高模型的精度。采用鋅濕法冶煉凈化過程現(xiàn)場數(shù)據(jù)對(duì)建模的方法進(jìn)行了測試，結(jié)果表明，所提出的混合核函數(shù)支持向量機(jī)模型具有較好的泛化性能和預(yù)測精度，預(yù)測結(jié)果滿足現(xiàn)場工藝生產(chǎn)的要求。
關(guān)鍵詞：混合核函數(shù)；支持向量機(jī)；qpso算法；凈化過程
中圖分類號(hào)：tp 273 文獻(xiàn)標(biāo)識(shí)碼：a
l引言
支持向量機(jī)( svm) 作為一種基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化學(xué)習(xí)訓(xùn)練方法，較好地解決了小樣本、高維數(shù)、非線性、局部極小值等實(shí)際問題，具有很強(qiáng)的泛化能力，在故障檢測與診斷、過程預(yù)測、文本分類、生物信息學(xué)、模式識(shí)別和冶金過程等領(lǐng)域獲得了廣泛的應(yīng)用[24]。
支持向量機(jī)求解模式識(shí)別問題的關(guān)鍵在于選擇一個(gè)合適的核函數(shù)。為了提高支持向量機(jī)模型的精度，人們提出了混合核函數(shù)方法，一般由一個(gè)高斯核和一個(gè)多項(xiàng)式核線性組合而成。模型中的參數(shù)選擇對(duì)混合核函數(shù)是否為****起著關(guān)鍵作用。本文采用qpso算法對(duì)svm模型的參數(shù)進(jìn)行尋優(yōu)。利用sinc函數(shù)對(duì)所提出支持向量機(jī)建模方法進(jìn)行了驗(yàn)證分析，并將該建模方法應(yīng)用于濕法煉鋅凈化過程離子濃度預(yù)測，結(jié)果表明，所提出的預(yù)測模型具有很好的泛化性能，模型預(yù)測精度滿足過程現(xiàn)場的工業(yè)技術(shù)要求，可以用來指導(dǎo)現(xiàn)場的過程操作優(yōu)化。
2混合核函數(shù)
核函數(shù)的選取在很大程度上影響著svm模型的擬合能力和預(yù)測精度。核函數(shù)的引入極大地提高了學(xué)習(xí)機(jī)器的非線性處理能力，同時(shí)也保持了學(xué)習(xí)機(jī)器在高維空間中的內(nèi)在線性，從而使得學(xué)習(xí)很容易得到控制。核函數(shù)將原空間的數(shù)據(jù)隱含地表示在高維的特征空間中，并在其中訓(xùn)練了一個(gè)線性的分類器，訓(xùn)練過程并不需要知道具體的非線性映射。通過調(diào)節(jié)不同的核參數(shù)，可以隱式的改變特征空間的vc維數(shù)，從而決定線性分類面能達(dá)到的最小經(jīng)驗(yàn)誤差。
smits g f和jordaan em提出了一種結(jié)合了全局核函數(shù)和局部核函數(shù)的混合核函數(shù)。局部性核函數(shù)學(xué)習(xí)能力強(qiáng)、泛化能力較弱，而全局性核函數(shù)泛化性能強(qiáng)、學(xué)習(xí)能力較弱，因此考慮把這兩類核函數(shù)通過線性加權(quán)疊加構(gòu)成新的核函數(shù)，解決現(xiàn)有核函數(shù)學(xué)習(xí)性能單一的缺陷。
polynomial核函數(shù)和rbf核函數(shù)是兩種典型的全局核函數(shù)和局部核函數(shù)：
polynomial核函數(shù)：
rbf核函數(shù)：
將兩類核函數(shù)混合，可得：
式中，kpoly、 krbf分別為多現(xiàn)實(shí)核函數(shù)及rbf核函數(shù)；λ為混合權(quán)重系數(shù)，可調(diào)節(jié)兩種核函數(shù)的作用大小。
3基于qpso的混合核svm方法
sun從量子力學(xué)的角度，通過對(duì)粒子收斂行為的研究，提出了量子粒子群算法。在qpso中，由于粒子滿足聚集態(tài)的性質(zhì)完全不同，使粒子能在整個(gè)可行解空間中搜索全局****解，因而qpso算法在搜索能力上遠(yuǎn)優(yōu)于標(biāo)準(zhǔn)粒子群算法。qpso中粒子的更新如下：
式中，mbest為所有個(gè)體當(dāng)前****位置的中心點(diǎn)；pij為第i個(gè)個(gè)體在第，維上的****位置；pgj為粒子群在第j上的****位置；pcij是介于pij與pgj之間的隨機(jī)位置；m為粒子群規(guī)模；φ，u為(0，1)之間的隨機(jī)數(shù)；α為收縮擴(kuò)張系數(shù)，它是qpso收斂的一個(gè)重要參數(shù)，第t次迭代時(shí)可取： |
