熱線電話:13121318867

登錄
首頁大數據時代前饋神經網絡基本原理是什么?
前饋神經網絡基本原理是什么?
2020-07-13
收藏

前饋神經網絡可以算是所有的神經網絡中最簡單,最容易,但也是最有效的一個。但對于剛剛入門的小白來說,難度還是比較大的。到底前饋神經網絡是如何實現的,下面就和小編一起來看推到過程吧。

如上圖中所示,前饋神經網絡中,每個神經元都分別屬于不同的層。各層的神經元也能夠對前一層神經元的信號進行接收,并將產生信號直接輸出到下一層。第 0 層稱為輸入層,最后一層為輸出層,其它的中間層就是隱藏層,相鄰兩層的神經元的關系為:全連接關系,也就是全連接神經網絡(FNN)。

一、符號說明

前饋神經網絡通過下面公式進行信息傳播:


上面兩式也可以得到:

或者

二、 反向傳播算法推導過程

反向傳播算法的含義是:第l層的一個神經元的殘差是所有與該神經元相連的第l+ 1 層的神經元的殘差的權重和,然后在乘上該神經元激活函數的梯度。

1)目標函數

給定一個包含m個樣本的訓練集,目標函數為:

采用梯度下降方法最小化J(W,b), 參數更新方式如下:

(2)計算

根據鏈式法則可得:

對于網絡其它層,殘差可通過如下遞推公式計算:

(3)計算

與上述(2)計算原理相同

綜上所述:

數據分析咨詢請掃描二維碼

若不方便掃碼,搜微信號:CDAshujufenxi

數據分析師資訊
更多

OK
客服在線
立即咨詢
日韩人妻系列无码专区视频,先锋高清无码,无码免费视欧非,国精产品一区一区三区无码
客服在線
立即咨詢