神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)編碼器的設(shè)計(jì)及應(yīng)用
Tawel等提出了一種動(dòng)態(tài)調(diào)整溫度系數(shù)的方法,即在sigmoid函數(shù)中加入閾值和溫度系數(shù),如式3所示:
式中θ稱為闞值,λ稱為溫度系數(shù)。
2.4 權(quán)值和閾值的初始化
權(quán)值和偏置值的初始化一般有如下幾種方法:
(1)隨機(jī)初始化。
(2)逐步搜索法。
(3)根據(jù)Nguyen-Widrow初始化算法為層產(chǎn)生初始權(quán)重和偏置值,使得每層神經(jīng)元的活動(dòng)區(qū)域能大致平坦的分布在輸入空間。
2.5 輸入樣本
采集數(shù)據(jù)樣本時(shí)主要考慮兩方面:
(1)數(shù)據(jù)樣本要充分。
(2)減小數(shù)據(jù)樣本的冗余度。
本文設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)器時(shí),采用的訓(xùn)練圖像都是和測(cè)試圖像類似的自認(rèn)圖像,包括人物,建筑物,風(fēng)景,動(dòng)植物等24bits的全彩色圖像,這些全彩圖像采用CFA圖像。然后將每幅CFA訓(xùn)練圖像轉(zhuǎn)化成的歸一化的輸入訓(xùn)練的80%作為訓(xùn)練樣本,其余的20%作為驗(yàn)證樣本。
2.6 歸一化
即通過簡(jiǎn)單的線性變換,將網(wǎng)絡(luò)的輸入和輸出數(shù)據(jù)化為[O,1]區(qū)間或[一1,1]區(qū)間的數(shù)。
通過大量試驗(yàn)并結(jié)合所采用的傳輸函數(shù)的特性發(fā)現(xiàn)將輸入輸出限制在[O.2,O.9]網(wǎng)絡(luò)可以取得較好的預(yù)測(cè)效果,歸一化方法如式4所示:
式中,x即原始輸入,x′是歸一化后的輸入。
網(wǎng)絡(luò)得到預(yù)測(cè)值時(shí),按式5即可將預(yù)測(cè)結(jié)果映射到[O,255]之間:
式中,net是神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)器的輸出,y是映射后的輸出。
3 實(shí)驗(yàn)結(jié)果分析
訓(xùn)練好的多層前饋網(wǎng)絡(luò),具有預(yù)測(cè)評(píng)價(jià)功能??蓪⒍鄬忧皞骶W(wǎng)絡(luò)看作一“黑箱”,將由實(shí)測(cè)獲得的輸入和輸出數(shù)據(jù)作為樣本送入“黑箱”中讓其學(xué)習(xí),各輸入變量對(duì)輸出變量的影響在對(duì)樣本的學(xué)習(xí)過程中由“黑箱”自動(dòng)記錄下來(lái)。由于節(jié)點(diǎn)神經(jīng)元傳遞函數(shù)是非線性的,因此,“黑箱”也具有非線性。整個(gè)學(xué)習(xí)過程就是預(yù)測(cè)模型的建立過程,只要節(jié)點(diǎn)數(shù)和訓(xùn)練樣本數(shù)足夠多,“黑箱”便能實(shí)現(xiàn)對(duì)任意輸入的輸出預(yù)測(cè)。
由表1可以看出由于神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)器可以利用不同色分量的像素間的相關(guān)性和高階特性,以及神經(jīng)網(wǎng)絡(luò)本身的非線性,它得到的誤差圖像的熵的平均值最低,為5.2408,證實(shí)了神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)器相對(duì)于結(jié)構(gòu)分離法和插值法的有效性,同時(shí)其結(jié)構(gòu)簡(jiǎn)單,易于硬件實(shí)現(xiàn)。
評(píng)論