熱線電話:13121318867

登錄
首頁精彩閱讀神經網絡的泛化能力差嗎?
神經網絡的泛化能力差嗎?
2020-05-21
收藏
泛化能力,英文全稱generalization ability,指機器學習算法對新鮮樣本的適應能力,一種預測新的input類別的能力。

通過學習找到隱含在數據背后的規律,并對具有同一規律的學習集以外的數據,這種經過訓練的網絡可以給出合適的輸出,該能力就被稱為泛化能力。

對于神經網絡而言,一般越復雜說明該神經網絡承受的復雜度越高,描述規律的復雜度容量就越大,當然越好,當然也不是絕對的,但是這能說明一個容器容量的問題,這時該神經網絡泛化能力也越強。

我們需要知道結構復雜性和樣本復雜性、樣本質量、初始權值、學習時間等因素,都會影響神經網絡泛化能力。為了保證神經網絡具有較強的泛化能力,人們已做了很多研究,得到了諸多泛化方法,常用的包括剪枝算法、構造算法和進化算法等。

人工神經網絡泛化能力主要是由于透過無監督預學習可以從訓練集導出高效的特征集。復雜的問題一旦轉換成用這些特征表達的形式后就自然變簡單了。觀念上這個有點像是在做適用于訓練集的一種智能化的坐標轉換。

舉例來說,如果訓練集是許多人臉的圖片,那么預訓練做得好的話就能導出如鼻子,眼睛,嘴巴,各種基本臉型等特征。如果做分類時是用這些特征去做而不是基于像素的話,結果自然會好得多。雖然大型的神經網絡具有極多的參數,可是由于做分類時其實是基于少數的特征,因此也比較不會產生過擬合的情形。

同時,針對神經網絡易于陷入局部極值、結構難以確定和泛化能力較差的缺點,引入了能很好解決小樣本、非線性和高維數問題的支持向量回歸機來進行油氣田開發指標的預測。

數據分析咨詢請掃描二維碼

若不方便掃碼,搜微信號:CDAshujufenxi

數據分析師資訊
更多

OK
客服在線
立即咨詢
日韩人妻系列无码专区视频,先锋高清无码,无码免费视欧非,国精产品一区一区三区无码
客服在線
立即咨詢