人工神經網絡概念梳理與實例演示

神經網絡是一種模仿生物神經元的機器學習模型，數據從輸入層進入并流經激活閾值的多個節點。

遞歸性神經網絡一種能夠對之前輸入數據進行內部存儲記憶的神經網絡，所以他們能夠學習到數據流中的時間依賴結構。

如今機器學習已經被應用到很多的產品中去了，例如，siri、Google Now等智能助手，推薦引擎——亞馬遜網站用于推薦商品的推薦引擎，Google和Facebook使用的廣告排名系統。最近，深度學習的一些進步將機器學習帶入公眾視野：AlphaGo 打敗圍棋大師李世石事件以及一些圖片識別和機器翻譯等新產品的出現。

在這部分中，我們將介紹一些強大并被普遍使用的機器學習技術。這當然包括一些深度學習以及一些滿足現代業務需求傳統方法。讀完這一系列的文章之后，你就掌握了必要的知識，便可以將具體的機器學習實驗應用到你所在的領域當中。

隨著深層神經網絡的精度的提高，語音和圖像識別技術的應用吸引了大眾的注意力，關于AI和深度學習的研究也變得更加普遍了。但是怎么能夠讓它進一步擴大影響力，更受歡迎仍然是一個問題。這篇文章的主要內容是：簡述前饋神經網絡和遞歸神經網絡、怎樣搭建一個遞歸神經網絡對時間系列數據進行異常檢測。為了讓我們的討論更加具體化，我們將演示一下怎么用Deeplearning4j搭建神經網絡。

一、什么是神經網絡？

人工神經網絡算法的最初構思是模仿生物神經元。但是這個類比很不可靠。人工神經網絡的每一個特征都是對生物神經元的一種折射：每一個節點與激活閾值、觸發的連接。

連接人工神經元系統建立起來之后，我們就能夠對這些系統進行訓練，從而讓他們學習到數據中的一些模式，學到之后就能執行回歸、分類、聚類、預測等功能。

人工神經網絡可以看作是計算節點的集合。數據通過這些節點進入神經網絡的輸入層，再通過神經網絡的隱藏層直到關于數據的一個結論或者結果出現，這個過程才會停止。神經網絡產出的結果會跟預期的結果進行比較，神經網絡得出的結果與正確結果的不同點會被用來更正神經網絡節點的激活閾值。隨著這個過程的不斷重復，神經網絡的輸出結果就會無限靠近預期結果。

二、訓練過程

在搭建一個神經網絡系統之前，你必須先了解訓練的過程以及網絡輸出結果是怎么產生的。然而我們并不想過度深入的了解這些方程式，下面是一個簡短的介紹。

網絡的輸入節點收到一個數值數組（或許是叫做張量多維度數組）就代表輸入數據。例如, 圖像中的每個像素可以表示為一個標量，然后將像素傳遞給一個節點。輸入數據將會與神經網絡的參數相乘，這個輸入數據被擴大還是減小取決于它的重要性，換句話說，取決于這個像素就不會影響神經網絡關于整個輸入數據的結論。

起初這些參數都是隨機的，也就是說神經網絡在建立初期根本就不了解數據的結構。每個節點的激活函數決定了每個輸入節點的輸出結果。所以每個節點是否能夠被激活取決于它是否接受到足夠的刺激強度，即是否輸入數據和參數的結果超出了激活閾值的界限。

在所謂的密集或完全連接層中，每個節點的輸出值都會傳遞給后續層的節點，在通過所有隱藏層后最終到達輸出層，也就是產生輸入結果的地方。在輸出層, 神經網絡得到的最終結論將會跟預期結論進行比較(例如，圖片中的這些像素代表一只貓還是狗?)。神經網絡猜測的結果與正確結果的計算誤差都會被納入到一個測試集中，神經網絡又會利用這些計算誤差來不斷更新參數，以此來改變圖片中不同像素的重要程度。整個過程的目的就是降低輸出結果與預期結果的誤差，正確地標注出這個圖像到底是不是一條狗。

深度學習是一個復雜的過程，由于大量的矩陣系數需要被修改所以它就涉及到矩陣代數、衍生品、概率和密集的硬件使用問題，但是用戶不需要全部了解這些復雜性。

但是，你也應該知道一些基本參數，這將幫助你理解神經網絡函數。這其中包括激活函數、優化算法和目標函數(也稱為損失、成本或誤差函數)。

激活函數決定了信號是否以及在多大程度上應該被發送到連接節點。階梯函數是最常用的激活函數, 如果其輸入小于某個閾值就是0，如果其輸入大于閾值就是1。節點都會通過階梯激活函數向連接節點發送一個0或1。優化算法決定了神經網絡怎么樣學習，以及測試完誤差后，權重怎么樣被更準確地調整。最常見的優化算法是隨機梯度下降法。最后, 成本函數常用來衡量誤差，通過對比一個給定訓練樣本中得出的結果與預期結果的不同來評定神經網絡的執行效果。

Keras、Deeplearning4j 等開源框架讓創建神經網絡變得簡單。創建神經網絡結構時，需要考慮的是怎樣將你的數據類型匹配到一個已知的被解決的問題，并且根據你的實際需求來修改現有結構。

三、神經網絡的類型以及應用

神經網絡已經被了解和應用了數十年了，但是最近的一些技術趨勢才使得深度神經網絡變得更加高效。

GPUs使得矩陣操作速度更快；分布式計算結構讓計算能力大大增強；多個超參數的組合也讓迭代的速度提升。所有這些都讓訓練的速度大大加快，迅速找到適合的結構。

隨著更大數據集的產生，類似于ImageNet 的大型高質量的標簽數據集應運而生。機器學習算法訓練的數據越大，那么它的準確性就會越高。

最后，隨著我們理解能力以及神經網絡算法的不斷提升，神經網絡的準確性在語音識別、機器翻譯以及一些機器感知和面向目標的一些任務等方面不斷刷新記錄。

盡管神經網絡架構非常的大，但是主要用到的神經網絡種類也就是下面的幾種。

3.1前饋神經網絡

前饋神經網絡包括一個輸入層、一個輸出層以及一個或多個的隱藏層。前饋神經網絡可以做出很好的通用逼近器，并且能夠被用來創建通用模型。

這種類型的神經網絡可用于分類和回歸。例如，當使用前饋網絡進行分類時，輸出層神經元的個數等于類的數量。從概念上講, 激活了的輸出神經元決定了神經網絡所預測的類。更準確地說, 每個輸出神經元返回一個記錄與分類相匹配的概率數，其中概率最高的分類將被選為模型的輸出分類。

前饋神經網絡的優勢是簡單易用，與其他類型的神經網絡相比更簡單，并且有一大堆的應用實例。

3.2卷積神經網絡

卷積神經網絡和前饋神經網絡是非常相似的，至少是數據的傳輸方式類似。他們結構大致上是模仿了視覺皮層。卷積神經網絡通過許多的過濾器。這些過濾器主要集中在一個圖像子集、補丁、圖塊的特征識別上。每一個過濾器都在尋找不同模式的視覺數據，例如，有的可能是找水平線，有的是找對角線，有的是找垂直的。這些線條都被看作是特征，當過濾器經過圖像時，他們就會構造出特征圖譜來定位各類線是出現在圖像的哪些地方。圖像中的不同物體，像貓、747s、榨汁機等都會有不同的圖像特征，這些圖像特征就能使圖像完成分類。卷積神經網絡在圖像識別和語音識別方面是非常的有效的。

卷積神經網絡與前饋神經網絡在圖像識別方面的異同比較。雖然這兩種網絡類型都能夠進行圖像識別，但是方式卻不同。卷積神經網絡是通過識別圖像的重疊部分，然后學習識別不同部分的特征進行訓練；然而，前饋神經網絡是在整張圖片上進行訓練。前饋神經網絡總是在圖片的某一特殊部分或者方向進行訓練，所以當圖片的特征出現在其他地方時就不會被識別到，然而卷積神經網絡卻能夠很好的避免這一點。

卷積神經網絡主要是用于圖像、視頻、語音、聲音識別以及無人駕駛的任務。盡管這篇文章主要是討論遞歸神經網絡的，但是卷積神經網絡在圖像識別方面也是非常有效的，所以很有必要了解。

3.3遞歸神經網絡

與前饋神經網絡不同的是，遞歸神經網絡的隱藏層的節點里有內部記憶存儲功能，隨著輸入數據的改變而內部記憶內容不斷被更新。遞歸神經網絡的結論都是基于當前的輸入和之前存儲的數據而得出的。遞歸神經網絡能夠充分利用這種內部記憶存儲狀態處理任意序列的數據，例如時間序列。

遞歸神經網絡經常用于手寫識別、語音識別、日志分析、欺詐檢測和網絡安全。

遞歸神經網絡是處理時間維度數據集的最好方法，它可以處理以下數據：網絡日志和服務器活動、硬件或者是醫療設備的傳感器數據、金融交易、電話記錄。想要追蹤數據在不同階段的依賴和關聯關系需要你了解當前和之前的一些數據狀態。盡管我們通過前饋神經網絡也可以獲取事件，隨著時間的推移移動到另外一個事件，這將使我們限制在對事件的依賴中，所以這種方式很不靈活。

追蹤在時間維度上有長期依賴的數據的更好方法是用內存來儲存重要事件，以使近期事件能夠被理解和分類。遞歸神經網絡最好的一點就是在它的隱藏層里面有“內存”可以學習到時間依賴特征的重要性。

接下來我們將討論遞歸神經網絡在字符生成器和網絡異常檢測中的應用。遞歸神經網絡可以檢測出不同時間段的依賴特征的能力使得它可以進行時間序列數據的異常檢測。

遞歸神經網絡的應用

網絡上有很多使用RNNs生成文本的例子，遞歸神經網絡經過語料庫的訓練之后，只要輸入一個字符，就可以預測下一個字符。下面讓我們通過一些實用例子發現更多RNNs的特征。

應用一、RNNs用于字符生成

遞歸神經網絡經過訓練之后可以把英文字符當做成一系列的時間依賴事件。經過訓練后它會學習到一個字符經常跟著另外一個字符（“e”經常跟在“h”后面，像在“the、he、she”中）。由于它能預測下一個字符是什么，所以它能有效地減少文本的輸入錯誤。

Java是個很有趣的例子，因為它的結構包括很多嵌套結構，有一個開的圓括號必然后面就會有一個閉的，花括號也是同理。他們之間的依賴關系并不會在位置上表現的很明顯，因為多個事件之間的關系不是靠所在位置的距離確定的。但是就算是不明確告訴遞歸神經網絡Java中各個事件的依賴關系，它也能自己學習了解到。

在異常檢測當中，我們要求神經網絡能夠檢測出數據中相似、隱藏的或許是并不明顯的模式。就像是一個字符生成器在充分地了解數據的結構后就會生成一個數據的擬像，遞歸神經網絡的異常檢測就是在其充分了解數據結構后來判斷輸入的數據是不是正常。

字符生成的例子表明遞歸神經網絡有在不同時間范圍內學習到時間依賴關系的能力，它的這種能力還可以用來檢測網絡活動日志的異常。

異常檢測能夠使文本中的語法錯誤浮出水面，這是因為我們所寫的東西是由語法結構所決定的。同理，網絡行為也是有結構的，它也有一個能夠被學習的可預測模式。經過在正常網絡活動中訓練的遞歸神經網絡可以監測到入侵行為，因為這些入侵行為的出現就像是一個句子沒有標點符號一樣異常。

應用二、一個網絡異常檢測項目的示例

假設我們想要了解的網絡異常檢測就是能夠得到硬件故障、應用程序失敗、以及入侵的一些信息。

模型將會向我們展示什么呢？

隨著大量的網絡活動日志被輸入到遞歸神經網絡中去，神經網絡就能學習到正常的網絡活動應該是什么樣子的。當這個被訓練的網絡被輸入新的數據時，它就能偶判斷出哪些是正常的活動，哪些是被期待的，哪些是異常的。

訓練一個神經網絡來識別預期行為是有好處的，因為異常數據不多，或者是不能夠準確的將異常行為進行分類。我們在正常的數據里進行訓練，它就能夠在未來的某個時間點提醒我們非正?；顒拥某霈F。

說句題外話，訓練的神經網絡并不一定非得識別到特定事情發生的特定時間點（例如，它不知道那個特殊的日子就是周日），但是它一定會發現一些值得我們注意的一些更明顯的時間模式和一些可能并不明顯的事件之間的聯系。

我們將概述一下怎么用 Deeplearning4j（一個在JVM上被廣泛應用的深度學習開源數據庫）來解決這個問題。Deeplearning4j在模型開發過程中提供了很多有用的工具：DataVec是一款為ETL（提取-轉化-加載）任務準備模型訓練數據的集成工具。正如Sqoop為Hadoop加載數據，DataVec將數據進行清洗、預處理、規范化與標準化之后將數據加載到神經網絡。這跟Trifacta’s Wrangler也相似，只不過它更關注二進制數據。

開始階段

第一階段包括典型的大數據任務和ETL：我們需要收集、移動、儲存、準備、規范化、矢量話日志。時間跨度的長短是必須被規定好的。數據的轉化需要花費一些功夫，這是由于JSON日志、文本日志、還有一些非連續標注模式都必須被識別并且轉化為數值數組。DataVec能夠幫助進行轉化和規范化數據。在開發機器學習訓練模型時，數據需要分為訓練集和測試集。

訓練神經網絡

神經網絡的初始訓練需要在訓練數據集中進行。

在第一次訓練的時候，你需要調整一些超參數以使模型能夠實現在數據中學習。這個過程需要控制在合理的時間內。關于超參數我們將在之后進行討論。在模型訓練的過程中，你應該以降低錯誤為目標。

但是這可能會出現神經網絡模型過度擬合的風險。有過度擬合現象出現的模型往往會在訓練集中的很高的分數，但是在遇到新的數據時就會得出錯誤結論。用機器學習的語言來說就是它不夠通用化。Deeplearning4J提供正則化的工具和“過早停止”來避免訓練過程中的過度擬合。

神經網絡的訓練是最花費時間和耗費硬件的一步。在GPUs上訓練能夠有效的減少訓練時間，尤其是做圖像識別的時候。但是額外的硬件設施就帶來多余的花銷，所以你的深度學習的框架必須能夠有效的利用硬件設施。Azure和亞馬遜等云服務提供了基于GPU的實例，神經網絡還可以在異構集群上進行訓練。

創建模型

Deeplearning4J提供ModelSerializer來保存訓練模型。訓練模型可以被保存或者是在之后的訓練中被使用或更新。

在執行異常檢測的過程中，日志文件的格式需要與訓練模型一致，基于神經網絡的輸出結果，你將會得到是否當前的活動符合正常網絡行為預期的結論。

代碼示例

遞歸神經網絡的結構應該是這樣子的：

MultiLayerConfiguration conf = new NeuralNetConfiguration.Builder(

.seed(123)

.optimizationAlgo(OptimizationAlgorithm.STOCHASTIC_GRADIENT_DESCENT).iterations(1)

.weightInit(WeightInit.XAVIER)

.updater(Updater.NESTEROVS).momentum(0.9)

.learningRate(0.005)

.gradientNormalization(GradientNormalization.ClipElementWiseAbsoluteValue)

.gradientNormalizationThreshold(0.5)

.list()

.layer(0, new GravesLSTM.Builder().activation("tanh").nIn(1).nOut(10).build())

.layer(1, new RnnOutputLayer.Builder(LossFunctions.LossFunction.MCXENT)

.activation("softmax").nIn(10).nOut(numLabelClasses).build())

.pretrain(false).backprop(true).build();

MultiLayerNetwork net = new MultiLayerNetwork(conf);

net.init();

下面解釋一下幾行重要的代碼：

.seed(123)

隨機設置一個種子值對神經網絡的權值進行初始化，以此獲得一個有復驗性的結果。系數通常都是被隨機的初始化的，以使我們在調整其他超參數時仍獲得一致的結果。我們需要設定一個種子值，讓我們在調整和測試的時候能夠用這個隨機的權值。

.optimizationAlgo(OptimizationAlgorithm.STOCHASTIC_GRADIENT_DESCENT).iterations(1)

決定使用哪個最優算法（在這個例子中是隨機梯度下降法）來調整權值以提高誤差分數。你可能不需要對這個進行修改。

.learningRate(0.005)

當我們使用隨機梯度下降法的時候，誤差梯度就被計算出來了。在我們試圖將誤差值減到最小的過程中，權值也隨之變化。SGD給我們一個讓誤差更小的方向，這個學習效率就決定了我們該在這個方向上邁多大的梯度。如果學習效率太高，你可能是超過了誤差最小值；如果太低，你的訓練可能將會永遠進行。這是一個你需要調整的超參數。