谷歌教你學 AI-第四講部署預測模型

Google Cloud發布了名為"AI Adventures"的系列視頻，用簡單易懂的語言讓初學者了解機器學習的方方面面。

觀看更多國外公開課，點擊"閱讀原文"

之前我們更新了前三講，關于機器學習的概念和具體步驟。后臺收到的反饋十分熱烈，今天讓我們繼續更新：第四講部署預測模型。

回顧之前內容：

谷歌教你學 AI -第一講機器學習是什么?

谷歌教你學 AI -第二講機器學習的7個步驟

谷歌教你學 AI-第三講簡單易懂的估算器

主講人還是來自Google Cloud的開發人員，華裔小哥Yufeng Guo。讓我們在學習AI知識的同時來提高英語吧。

CDA字幕組目前在對該系列視頻進行漢化，之后將繼續連載，歡迎關注和支持~

附有中文字幕的視頻如下：

AI Adventures--第四講部署預測模型

針對不方便打開視頻的小伙伴，CDA字幕組也貼心的整理了文字版本，如下：

一旦我們有了訓練好的機器學習模型，那么該如何進行預測呢? 敬請收看本期AI Adventures !

谷歌的Cloud Machine Learning Engine能夠讓你為TensorFlow模型創建預測服務，且不需要任何操作。通過從訓練的模型轉換為部署的、自動擴展的預測服務，我們可以用更多時間來處理數據。

進行預測:最后一步

我們收集了數據，最終完成了一個合適的模型并驗證了它的性能。我們現在終于準備好進入最后階段:進行預測。

在接受提供預測服務的挑戰時，我們希望部署一個專門為服務而構建的模型。特別是一個快速、輕量級的模型，而且是靜態的，因為我們不希望在提供服務時出現更新。

此外，我們希望預測服務器能夠按需擴展，這能夠解決更復雜的問題。

輸出TensorFlow模型

事實證明，TensorFlow有一個內置函數，能夠在提供預測服務時生成優化的模型。并且能夠進行需要的調整，這節省了大量的工作。

這個函數叫做 export_savedmodel()，當你對訓練模型的性能滿意時，我們可以直接在分類器對象上運行。

這將獲取模型的快照，并導出可以在其他地方使用的文件。隨著模型的改進，你可以繼續得出更新的模型，從而不斷提供模型的多個版本。

導出的文件由一個文件和一個文件夾組成。其中文件是 saved_model.pb，它定義了模型結構。變量文件夾包含兩個文件，在我們的模型中提供訓練權重。

生產中提供模型

一旦你導出模型就可以在提供到生產中了。這里有兩個主要的選擇: 使用TensorFlow Serving，或者Cloud Machine Learning Engine來提供預測服務。

TensorFlow Serving屬于TensorFlow，發布在GitHub上。如果你喜歡對開發環境設施進行配置，并且按需求進行擴展的話，這是不錯的選擇。

然而，今天我們將主要關注Cloud Machine Learning Engine的預測服務，盡管這兩者有相似的文件接口。

Cloud Machine Learning Engine能夠讓你用導出的TensorFlow模型，并將其轉換為預測服務，當中內置API端點且自動擴展，并將達到零(即當沒有人請求預測時沒有計算機會改變)。

同時它還包含功能豐富的命令行工具、API和UI，因此我們可以根據喜好以不同的方式進行交互。

部署新的預測模型

下面讓我們看看如何針對上期分辨鳶尾花的例子，使用Cloud Machine Learning Engine的預測服務。

輸出和上傳

首先在訓練的分類器上運行 export_savedmodel()  。這將生成一個導出模型，我們可以用于預測服務。

接下來，我們要將文件上傳到谷歌云存儲。當創建新的模型版本時，Cloud machine learning engine將從云存儲中讀取。

在創建bucket時，一定要選擇區域存儲類，以確保計算和存儲在同一區域。

創建新的模型

在云機器學習UI中，我們可以創建一個新的模型，這實際上是對所有發布版本的封裝。版本保存了單個導出模型，而模型抽象幫助將進入的流量導入選擇的適當版本。

以下是模型列表視圖，在這里我們創建一個新的模型。

創建模型需要給其命名，我們將其命名為iris_model。

創建新版本

接下來，我們將創建一個版本，通過為這個特定的模型版本命名，并將其指向存有導出文件的云存儲目錄。

就這樣，我們創建了模型! 整個過程只需要將服務指向導出模型，并給它命名。

為什么整個過程這么簡單呢?

因為服務處理了設置和保護端點的所有操作。此外，我們不需要編寫代碼，根據需求進行擴展。因為在云端，這種靈活性意味著當需求很低時，不需要支付未使用的計算。

通過為鳶尾花模型建立不需要任何操作的預測服務，我們可以在幾分鐘內將訓練的模型轉化為部署的、可自動擴展的預測服務，這意味著我們有更多的時間來處理數據!

歡迎收看本期的AI Adventures。別忘了，當你需要在生產中擴展機器學習服務時，Cloud Machine Learning Engine是不錯的選擇。