基于一種進化模型的rbf網(wǎng)絡(luò)參數(shù)優(yōu)化
張剛林，劉光燦
（長沙學(xué)院電子與通信工程系，湖南長沙410003）
摘 要：優(yōu)化rbf網(wǎng)絡(luò)中的參數(shù)是一個非常復(fù)雜的問題，因為其目標(biāo)函數(shù)包含大量的局部****點。提出一種基于群的算法發(fā)生器模型來優(yōu)化rbf網(wǎng)絡(luò)中的中心和寬度，并同時用最小二乘法優(yōu)化其線性權(quán)重：該進化模型的優(yōu)勢在于把搜索任務(wù)進行功能分解。一種****的mackey-glass混沌時間序列被用來檢驗算法的性能。無驗結(jié)果表明，提出的算法要優(yōu)于其他一些算法，如^均值算法、遺傳算法或粒子群算法的預(yù)測結(jié)果。
關(guān)鍵詞：rbf神經(jīng)網(wǎng)絡(luò)；參數(shù)估計；進化模型
中圖分類號：tp 27 文獻標(biāo)識碼：a
1引言
由于可以以任意精度逼近任何函數(shù)，前饋人工神經(jīng)網(wǎng)絡(luò)一直是學(xué)術(shù)界研究和應(yīng)用的熱點，在這一點上，rbf神經(jīng)網(wǎng)絡(luò)已經(jīng)從理論下被證明。由于其簡單的結(jié)構(gòu)、非線性逼近的精度和快速學(xué)習(xí)的能力，它已成為最流行的前饋神經(jīng)網(wǎng)絡(luò)之一。然而，由于目標(biāo)函數(shù)包含大量的局部****點，估計神經(jīng)網(wǎng)絡(luò)模型中的參數(shù)是一個非常困難的優(yōu)化問題。以往的研究表明，rbf網(wǎng)絡(luò)中心的選擇對模型的性能有著重大的影響，它也是優(yōu)化的主要任務(wù)。日前，比較常用的優(yōu)化rbf網(wǎng)絡(luò)中心的方法有遺傳算法、群蟻算法及粒子群等。本文提出了一種基于群的算法發(fā)生器模型來優(yōu)化rbf神經(jīng)網(wǎng)絡(luò)中的中心和寬度，并同時用最小二乘法優(yōu)化其線性權(quán)重。為其他一些算法比較，rbf神經(jīng)網(wǎng)絡(luò)被用來預(yù)測一種標(biāo)準(zhǔn)的時間序列。實驗結(jié)果表明提出的算法要優(yōu)于現(xiàn)存的一些算法。
2 rbf神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
rbf神經(jīng)網(wǎng)絡(luò)是一種特殊的3層的前饋網(wǎng)絡(luò)，包括輸入層、隱含層和輸出層。不失一般性，圖l含一個輸出結(jié)點的rbf網(wǎng)絡(luò)框架圖，如圖l所示。
其輸入輸出關(guān)系可表示為
式中，w0稱為偏差；wk(k=l，2，…，m)為連接隱含結(jié)點和輸出結(jié)點的權(quán)重；m為隱含層結(jié)點數(shù)目；φ(x，zi)為基函數(shù)，表示第i個結(jié)點輸入向量x和其中心zi的距離：
最常用的徑向基函數(shù)是高斯形式的：
式中，σ為寬度
結(jié)合方程(1)和(2)，高斯rbf神經(jīng)網(wǎng)絡(luò)可表示為
3 rbf神經(jīng)網(wǎng)絡(luò)的參數(shù)估計算法
估計rbf網(wǎng)絡(luò)中的參數(shù)是非常困難的，因為其目標(biāo)函數(shù)有大量的局部****點。進化算法是模仿自然界中生物群體的選擇、雜交、變異等行為而發(fā)展起來的一種優(yōu)化算法，它是建立在自然選擇和適者生存機理基礎(chǔ)上的迭代概率性搜索算法。利用進化算法可以在解空間內(nèi)對解進行多點隨機搜索，并找出****解，由于進化算法的隨機特性，所有解都有被搜索的可能，因而可以找到全局****解。而且進化算法作為一種全局搜索的算法有目標(biāo)函數(shù)不需可微或連續(xù)、易執(zhí)行和穩(wěn)健性等優(yōu)點。最近d提出了一種實數(shù)編碼的基于群的算法發(fā)生器。這種方法把搜索分為4個獨立的策略：選擇策略；生成后代策略；替換策略；更新策略�；谶@種基于群的算法發(fā)生器本文提出了一種進化模型來優(yōu)化rbf網(wǎng)絡(luò)參數(shù)。
算法的具體執(zhí)行步驟如下：
stepl 記rrf網(wǎng)絡(luò)的線性權(quán)重為
記中心和寬度為
為表述方便，把模型(3)寫成如下兩種形式：
step2在可能解空間初始化規(guī)模為n的群體來表示可能的rbf網(wǎng)絡(luò)中心和寬度向量記為：x1，x 2，…，xn。
|
