Adaline神經(jīng)網(wǎng)絡(luò)隨機逼近LMS算法的仿真研究
(4)仿真正確性和抗噪性。產(chǎn)生一系列加噪的正弦波和三角波作為輸入矢量,所疊加的噪聲服從正態(tài)分布N(0,σ2)。規(guī)定Pn為正確識別X0的概率,P1 為正確識別X1的概率,ERR為輸出錯誤的個數(shù)(總樣本:1 000),通過檢測可得表1。由表1可看出,當(dāng)噪聲的方差σ2較小時,使用隨機逼近算法的Adaline神經(jīng)元幾乎可以無誤地識別輸入矢量;但當(dāng)噪聲方差逐步加大時,錯判的概率也隨之加大。而在學(xué)習(xí)收斂的條件下,步幅α對神經(jīng)元輸出的正確性幾乎沒有影響。圖4是總樣本為200時,固定α=0.03.當(dāng)α2 =3x10-3時的分類結(jié)果示意圖。
5 仿真結(jié)果和分析
首先對兩種波形進(jìn)行64點采樣,再利用隨機逼近算法對兩種波形進(jìn)行分類,這也相當(dāng)于一個64 維空間中兩個點的分類問題。仿真結(jié)果表明:對于不同的初始步幅α,神經(jīng)元完成學(xué)習(xí)任務(wù)的訓(xùn)練時間不同;在保證學(xué)習(xí)收斂性的前提下,α越大,收斂速度越快,但收斂的穩(wěn)定性變差。權(quán)矢量的初始值W(0)對學(xué)習(xí)的收斂性沒有影響。最后,對神經(jīng)元的學(xué)習(xí)結(jié)果進(jìn)行檢驗,檢驗結(jié)果驗證了經(jīng)學(xué)習(xí)訓(xùn)練后,神經(jīng)元分類的正確性及抗噪性。從網(wǎng)絡(luò)的原理可看出,在隨機逼近算法中,若α(k)是時序k的非增函數(shù),且有
學(xué)習(xí)是收斂的。但本仿真中均采用恒定步幅值α,這樣只有在α的值比較小的情況下,才能保證學(xué)習(xí)收斂。為了改進(jìn)算法,可采用時變的步幅α(k)=1/pk+q,則既滿足步幅因子收斂的條件,又保證步幅因子在學(xué)習(xí)開始時較大,而隨著學(xué)習(xí)的進(jìn)行逐漸減小。
評論