作者 | William G. Wong

出品 | CDA數據分析師

英文標題 | Machine Learning: The Magic is How it Works

雖然人工智能的發展還沒有達到人類的想象和預期，但機器學習工具已經可以使應用程序做一些神奇的事情了。

最近,我和朋友談論人工智能（AI）和機器學習（ML），大家認為，如果用魔術這個詞代替AI或ML，那么很多討論和研究會包含相當多有用的信息量。形成這總現狀的原因有很多，包括對AI，ML等當前發展的誤解，更具體地說，深度神經網絡（DNN） - 特別是ML模型實際上在做什么和理解ML模型如何被協同使用。

希望工作中涉及到ML的人們能夠接受我的解釋,因為他們的目標是那些想要理解和使用ML的工程師，即使ML公司正在大肆宣傳的炒作,但實際上他們還沒有做到宣傳的程度。超過一半的人正在研究ML，但只有一小部分實際上將其納入產品中。然而這個數字正在快速增長。

ML只是AI領域的一部分，許多ML工具和模型可供使用，或者正在使用，或者正在開發中（圖1）。DNN只是其中的一部分; 其他神經網絡方法進入混合，但后來更多。

神經網絡只是人工智能研究的機器學習部分的一部分。

開發人員應該更多地考慮ML模型，如快速傅里葉變換（FFT）或卡爾曼濾波器。它們是構建具有特定功能的構建塊，可以與類似的工具，模塊或模型結合使用來解決問題。將黑盒子串在一起的想法是可行的。FFT和DNN模型之間的區別在于配置。前者有一些參數，而DNN模型需要訓練。

某些類型的神經網絡的訓練需要數千個樣本，例如照片。這通常在云中完成，這樣可以應用大量的存儲和計算能力。訓練后的模型可以在終端使用，因為它們通常需要較少的存儲和計算能力作為其訓練對應物?？梢栽趦煞N情況下使用AI加速器來提高性能并達到降低功率要求。

滾動機器學習模型

可以訓練大多數ML模型以使用不同的訓練樣本集提供不同的結果。例如，貓照片的集合可以與某些模型一起使用以幫助識別貓。

模型可以執行不同的功能，例如檢測，分類和分割。這些是基于圖像工具的常見應用。其他功能可以包括路徑優化或異常檢測，或提供推薦等。

單個模型通常不會提供大多數應用程序所需的所有處理，輸入和輸出數據可能會受益于額外的處理。例如，降噪對于模型的音頻輸入可能是有用的。降噪可以由傳統的模擬或數字濾波器提供，或者同時存在于ML模型中。然后可以使用輸出來識別音素，單詞等，因為數據被處理直到可能識別語音命令。

同樣，可以使用模型或過濾器來識別圖像中的感興趣區域。然后可以將該子集呈現給基于ML的識別子系統等等（圖2）。詳細程度取決于應用程序。例如，基于視頻的門打開系統可能需要區分人和動物以及運動方向，使得門僅在人朝向它移動時打開。

可以使用不同的工具或ML模型來識別感興趣的區域，然后對這些區域進行隔離和處理以區分諸如人和汽車之類的物體。

模型可以是定制的和預訓練的，或者由開發者創建和訓練。很大程度上取決于應用程序的要求和目標。例如，保持機器運行可能意味著跟蹤系統中電動機的操作?？梢詮奶峁┙o電動機的功率到噪聲和振動信息記錄和分析許多因素。

H2O.ai和XNor等公司正在為那些不想從頭開始或使用可能需要集成和定制的開源模型的人提供預建或定制的模型和培訓。H2O.ai擁有針對特定平臺和服務的Enterprise Steam和Enterprise Puddle等軟件包。XNor的AI2Go使用菜單式方法：開發人員首先選擇目標平臺，如Raspberry Pi，然后是行業，如汽車，然后是一個用例，如艙內物體分類。最后一步是根據延遲和內存占用限制選擇模型（圖3）

顯示的是XNor AI2Go菜單選擇過程的尾部。開發人員可以通過指定內存占用和延遲時間來縮小對理想模型的搜索范圍。

這不是關于DNN的全部

在處理神經網絡和類似技術時，開發人員需要牢記許多因素。涉及概率，ML模型的結果通常以百分比定義。例如，訓練識別貓和狗的模型可能能夠提供圖像包含狗或貓的高度置信度。水平可以較低，區別于狗與貓等等，以至于識別出特定品種的動物。

通過額外的培訓，百分比通?？梢蕴岣?，但變化通常不是線性的?？赡芎苋菀走_到50％的標記，90％可能是一個很好的模型。但是，可能需要很多訓練時間才能達到99％。

最大的問題是：“在決策過程中有哪些應用要求以及有哪些替代方案？”這就是為什么在安全性和安全性是重要設計因素時使用多個傳感器的原因之一。

由于開源解決方案的可用性，包括TensorFlow和Caffe等平臺，DNN一直很受歡迎。他們已經從Xilinx，NVIDIA，Intel等公司那里獲得了廣泛的硬件和軟件支持，但它們并不是唯一可用的神經網絡工具。卷積神經網絡（CNN），遞歸神經網絡（RNN）和尖峰神經網絡（SNN）是其他一些可用選擇。

SNNS通過使用BrainChip和埃塔計算。BrainChip的Akida開發環境（ADE）旨在支持SNN模型的創建。Eta Compute 通過SNN硬件增強了其超低功耗Cortex-M3微控制器。雖然所有神經網絡方法都存在權衡，但SNN比DNN及其同類產品更容易訓練。

Neurala的終身DNN（LDNN）是另一種ML方法，類似于DNN，具有較低的SNN訓練開銷。LDNN是多年來開發的專有系統。它支持使用近似輕量級反向傳播的連續學習，允許學習繼續而無需保留初始訓練信息。LDNN還需要更少的樣本來達到與傳統DNN相同的培訓水平。

與DNN相比，精確度和識別水平存在折衷，但這種差異與涉及SNN的差異相似。由于涉及的因素很多，包括培訓時間，樣本等，因此不可能在系統之間進行直接比較。

LDNN可以受益于通用GPU（GPGPU）提供的AI加速。SNN更加輕巧，使其更易于在微控制器上使用。即便如此，只要模型不是太苛刻，DNN就可以在微控制器和低端DSP上運行。圖像處理可能不實用，但是跟蹤電機控制系統上的異常是可行的。

克服ML挑戰

處理ML時存在許多挑戰。例如，過度擬合是基于培訓的解決方案遇到的問題。當模型與訓練數據類似的數據很好地工作時，會發生這種情況，但對于新的數據則很差。LDNN使用基于閾值的自動合并系統，可減少冗余權重向量并重置權重，同時保留新的有效異常值。

ML模型可以高精度地成功解決許多任務。然而，這并不意味著所有任務，無論它們是傳統的分類或分割問題，都可以適應。有時，改變模型可以幫助或開發新模型。這是數據工程師可以派上用場的地方，盡管它們往往很少見且價格昂貴。

調試模型也可能是一個挑戰。ML模塊調試與調試傳統程序有很大不同。調試在應用程序中工作的模型是另一個問題。請記住，模型的精度通常低于100％; 因此，需要設計應用程序來處理這些條件。對于非關鍵應用程序而言，這不是一個問題。但是，像自動駕駛汽車這樣的應用需要冗余，重疊的系統。

雪崩式的進步

新系統繼續來自學術界和研究機構。例如，“使用神經形態傳感器學習感知運動控制：邁向超維度主動感知”是馬里蘭大學工程系的一篇論文。Anton Mitrokhin和Peter Sutor Jr.，CorneliaFermüller和計算機科學教授Yiannis Aloimonos開發了一個用于集成傳感器數據，ML分析和控制的超維度管道。它使用自己的超維記憶系統。

ML過去一直沒有像其他編程工具那樣進步。即使不轉向專用硬件，改進也很顯著。部分原因在于改進了軟件對優化的支持，這些優化可提高準確性或性能，同時降低硬件要求。開發人員面臨的挑戰是確定要使用的硬件，使用什么ML工具以及如何將它們結合起來以解決其應用問題。

現在制作大多數系統是值得的，而不是等待下一次改進。一些平臺將向上兼容; 但是，其他人可能不會。使用硬件加速解決方案將限制可支持但具有顯著性能增益的ML模型，通常是多個數量級。

使用ML的系統并不神奇，它們的應用可以使用傳統的設計方法。它們確實需要新的工具和調試技術，因此首次采用ML不應該是輕率的任務。另一方面，回報可能很大，ML模型可能經常提供傳統編程技術和框架所不具備的支持。

如上所述，單個ML模型可能不是特定應用所需的。組合模型，過濾器和其他模塊需要了解每個模塊，因此不要假設它只是選擇ML模型和進行有限數量的培訓。在某些情況下這可能就足夠了，特別是如果應用程序與現有模型匹配，但在嘗試之前不要指望它。