引言：徑向基函數（RBF，Radial Basis Function）神經網絡，是由 J.Moody 和 C.Darken 於 20 世紀 80 年代末提出的一種神經網絡，徑向基函數方法在某種程度上利用了多維空間中傳統的嚴格插值法的研究成果。算法
在神經網絡的背景下，隱藏單元提供一個「函數」集，該函數集在輸入模式向量擴展至隱層空間時爲其構建了一個任意的「基」；這個函數集中的函數就被稱爲徑向基函數。徑向基函數首先是在實多變量插值問題的解中引入的。徑向基函數是目前數值分析研究中的一個主要領域之一。微信
1 RBF 結構及工做原理網絡
1.1 徑向基函數神經網絡結構函數
最基本的徑向基函數（ RBF）神經網絡的構成包括三層，其中每一層都有着徹底不一樣的做用。輸入層由一些感知單元組成，它們將網絡與外界環境鏈接起來；第二層是網絡中僅有的一個隱層，它的做用是從輸入空間到隱層空間之間進行非線性變換，在大多數狀況下，隱層空間有較高的維數；輸出層是線性的，它爲做用於輸入層的激活模式提供響應。學習
基本的徑向基函數 RBF 網絡是具備單穩層的三層前饋網絡，結構以下圖。因爲它模擬了人腦中局部調整、相互覆蓋接受域（或稱感覺域， Receptive Field）的神經網絡結構，所以， RBF網絡是一種局部逼近網絡，現已證實它能以任意精度逼近任一連續函數。優化
1.2 RBF 網絡輸出計算人工智能
設輸入 n 維向量 X ，輸出 m 維向量Y ,輸入/輸出樣本對長度爲 L ，則 RBF 網絡隱層第i 個節點的輸出爲：spa
X : n 維輸入向量； ci ：第i 個隱節點的中心， i =1，2，…， h 。||•|| ：一般爲歐氏範數； R ()爲 RBF 函數，具備局部感覺的特性。它有多種形式，體現了 RBF 網絡的非線性映射能力。.net
網絡輸出層第 k 個節點的輸出爲隱節點輸出的線性組合：blog
wki ： qi → yk 的鏈接權； θ k ：第 k 個輸出節點的閥值。
2 RBF 學習算法
2.1 RBF 網絡的常規學習算法
設有 p 組輸入/輸出樣本 xp/ dp ， p =1，2，…， L，定義目標函數：
學習的目的是使 J ≤ε ；y p 是在 x p 輸入下網絡的輸出向量。 RBF 網絡的學習算法通常包括兩個不一樣的階段：
隱層徑向基函數的中心的肯定階段。常見方法有隨機選取固定中心法；中心的自組織選擇法等。
徑向基函數權值學習調整階段。常見方法有中心的監督選擇法；正則化嚴格插值法等。
此處介紹中心的自組織選擇法和中心的監督選擇法兩種算法。
1.中心的自組織選擇法
它是一種無導師學習也稱爲非監督學習，是對全部樣本的輸入進行聚類，求得各隱層節點的 RBF的中心 ci 。這裏介紹經常使用 k -均值聚類算法，算法部驟以下：
①初始化:給定各隱節點的初始中心 ci (0)。
②類似匹配：計算距離（歐氏空間）並求出最小距離的節點：
③調整中心：
β 是學習速率， 0＜ β ＜1。
④繼續：將t 值加 1，回到第二步，重複上述過程，直到中心cr 的改變量很小時爲止。
2.中心的監督選擇法
它是一種有導師學習也稱爲監督學習算法。徑向基函數的中心以及網絡的全部其餘參數都將經歷一個監督學習的過程。換句話說， RBF 網絡將採用最通常的方式，這個方法的天然後選是採用偏差修正學習過程，它能夠很方便地使用梯度降低法。當 ci 肯定後，訓練由隱層至輸出層之間權值，它是一個線性方程組，則求權值就成爲線性優化問題，如 LMS 算法、最小二乘遞推法等求得。
①LMS 算法：
LMS 算法，對於 RBF 網絡，權值調整算法爲：
α 是常值，0<α <2。當 J(t) ≤ε 時，算法結束。
②最小二乘遞推法（ RLS）
爲簡單起見，討論單輸出的狀況。
定義目標函數：
Λ p（） 是加權因子。若第 p 個樣本比第 p-k(p>k,K>1) 個可靠，則加權因子
要大，可取：
L 是樣本長度。
使 J 值最小的W 即爲所求，所以，由
可得最小二乘遞推算法（ RLS）：
本文分享自微信公衆號 - AI MOOC人工智能平臺（AIMOOC_XLAB）。
若有侵權，請聯繫 support@oschina.cn 刪除。
本文參與「OSC源創計劃」，歡迎正在閱讀的你也加入，一塊兒分享。