熱線電話：13121318867

登錄
首頁精彩閱讀深度學習如何改進（四）
深度學習如何改進（四）
2019-02-20
收藏


在前面的文章中我們給大家介紹了很多關于深度學習改進的知識，相信大家應該對深度學習已經有了一定的了解了。深度學習改進中涉及到的知識點很多，比如神經網絡知識、循環神經網絡知識等。那么在今天的這篇文章中，我們就給大家介紹一下循環神經網絡的知識。


那么循環神經網絡中需要解決什么問題呢？其實就是上下文場景記憶的問題。我們在前面的文章中提到的神經網絡模型都不能解決“記憶暫存功能”，也就是對比較遠期輸入的內容無法進行量化，與當前內容一起反應到網絡中進行訓練，循環神經網絡可以解決，在自然語言處理中也應用最廣泛。其實循環神經網絡實現上下文場景記憶的時候我們無法忽略的一個基礎是，那就是隱馬爾可夫模型。


在隱馬爾可夫模型中，有一個重要的內容那就是馬爾可夫鏈。那么這個馬爾科夫鏈的核心是什么呢？馬爾可夫鏈的核心是：在給定當前知識和信息的前提下，觀察對象過去的歷史狀態，對將來的預測來說是無關的。在循環神經網絡中，隱含狀態下的馬爾可夫鏈會處理神經元之間的信息傳遞。但是理論上循環神經網絡是行得通的，但在實踐上工程師們發現訓練效果并不佳，所以現在用了長短期記憶網絡來取代傳統的循環神經網絡。長短期記憶網絡規避了傳統循環神經網絡中遇到的問題，并啟動了一個有效的機制，那就是忘記門，在訓練過程中長短期記憶網絡會把有潛在影響的關系學習，忽略無效的關系。而長短期記憶網絡目前應用在翻譯器、聊天機器人、分類器等場景。


那么循環神經網絡有什么局限性的呢？說到局限性，訓練過程中，目前只支持相對固定、邊界劃定清晰的場景，長短期記憶網絡對多場景問題也是無能為力的。而深度殘差網絡要解決的問題是傳統深度學習網絡中，網絡到一定深度后，學習率、準確率下降的問題。目前，DRN在圖像分類、對象檢測、語義分割等領域都有較好的識別確信度。這一點和循環神經網絡完全不一樣。


在這篇文章中我們簡單給大家介紹了循環神經網絡的知識，對于這些知識我們不難發現這些神經網絡通過改進解決了不少的問題，但是同樣都具有了局限性，所以我們要好好的利用這些方法，這樣我們才能夠解決我們的問題。


CDA數據分析師考試相關入口一覽（建議收藏）：

? 想報名CDA認證考試，點擊>>>   “CDA報名” 了解CDA考試詳情；

? 想學習CDA考試教材，點擊>>> “CDA教材” 了解CDA考試詳情；

? 想加入CDA考試題庫，點擊>>> “CDA題庫” 了解CDA考試詳情；

? 想了解CDA考試含金量，點擊>>> “CDA含金量” 了解CDA考試詳情；

神經網絡 深度學習

數據分析咨詢請掃描二維碼

若不方便掃碼，搜微信號：CDAshujufenxi

上一篇深度學習如何改進（三）
下一篇大數據的發展趨勢是什么（一）
數據分析師考試動態
CDA報考指南
數據分析學習
數據分析師資訊
更多

CDA教育閉環

常見問題

關于我們

CDA數據分析師公眾號

  • CDA數據分析師公眾號

CDA考試中心小程序

  • CDA考試中心服務號

CDA數據分析師App下載

  • CDA數據分析師App下載
Copyright © 2015-2021, www.ruiqisteel.com All Rights Reserved. CDA數據分析師(北京國富如荷網絡科技有限公司) 版權所有 京ICP備11001960號-9 京公網安備 11010802034615號 經營許可證編號：京B2-20210330
聯系電話：13321103290 (微信同號)

OK
客服在線
立即咨詢
日韩人妻系列无码专区视频,先锋高清无码,无码免费视欧非,国精产品一区一区三区无码
客服在線
立即咨詢