這里有些關鍵的機器學習概念可以幫助我們理解這一領域的相關知識。

在這篇文章中，你會接觸到一些相關的專業術語(常用的術語)，它們用來描述數據和數據集。你也會學習到一些相關概念和術語，它們用來描述數據的學習和建模過程，而這些又給你的學習旅程提供了一些關于機器學習的寶貴經驗。

數據

機器學習方法可以從實際案例進行學習。對于我們來說，掌握數據的輸入和各種描述數據的術語是很重要的，而在這一部分中，你會在涉及到數據的機器學習中學到一些相關術語。

但我在思考數據是什么樣的時候，我的感覺一般都是行和列，就像是一個數據集圖表或者是Excel的電子表。這是數據的傳統格式，而且在機器學習中也是一種常見的格。其它數據如圖像、視頻，以及文本，而所謂的沒有結構的數據并不會在這篇文章中進行描述。

展示一個相關例子、特征和數據集的形式的數據的圖表

實例：數據的單行稱之為實例。這是某一個域所觀察的結果。

特征：數據的單列稱之為特征。它是觀察的一個組成部分，而它也被稱之為一個數據實例的屬性。一些特征也許會輸入一個模型(預測值)，而其它可能有輸出或預測的特征。

數據類型：特征有其數據類型。它們也許是真實數或者是整數，又或者是分類值又或者又是序數。你可以有字符串、日期、時間或更多復雜的數據類型。但是，通常情況下，它們都會在使用傳統機器學習方法的時候被換算成實數或者是分類值。

數據集：實例的集合是一個數據集，而且當我們使用傳統機器學習方法的時候，我們通常需要幾個不同的數據集處理不同的問題。

訓練數據集：訓練數據集就是一個我們通過使用機器學習算法進行建模的數據集。

測試數據集：一個用于檢驗我們模型精準度而不用于建模的數據集。我們可以把它稱之為檢驗數據集。

我們也許會收集一些實例來建立我們的數據集，或者給定一個有限數據集，我們需要把它分解成若干個子數據集。

學習

機器學習，確切來說是一個動態的學習算法。在這一部分中，我們會考慮幾個學習方面的高級概念。

前序：機器學習算法通過一個叫歸納或者歸納學習的方法進行學習。歸納是一個合理的過程，它可以從一些特殊信息(訓練數據)進行概括總結。

概括：概括這一過程是必要的，那是因為模型是由機器學習算法為我們準備的，而我們需要用這個模型，基于在訓練過程中我們看不到的數據，我們會對它們進行預測或決策。

過度學習：當一個模型從一些訓練數據中學習過多而不能進行概括的時候，這個過程稱之為過度學習。結果就是處理數據的性能很差，而它有不同于訓練數據。這也稱之為過度擬合。

缺乏學習：當一個模型因為與它們相關的數據集提前結束學習過程，從而導致這個模型無法獲得一個完整的結果，這就稱之為缺乏學習。它的結果則是可以作一個好的概括但是對所有數據，包括訓練數據集在內的處理的性能卻很差。這也稱之為欠擬合。

在線學習：在線學習就是當一個域變得可用的時候，這種方法會從來自這個域的數據實例進行更新。在線學習需要數據在噪音情況下具有很強的健壯性，但是也要產生一個符合這個域當前狀態的模型。

線下學習：線下學習就是一個通過現成的數據進行創建的方法，而這個方法對未被觀察的數據進行相關操作。這個訓練過程可以被很好的控制和調整，原因在于訓練數據的范圍是未知的。在這個模型早已被創建好，同時在相關域發生了改變從而導致模型的性能可能被改變的情況下，這個模型不再進行更新。

監督學習：這是一個針對需要進行相關預測的問題進行概括的學習過程。一個“教學”過程會與一個有未知答案的模型進行比較，并對模型進行修正。

非監督學習：這是一個對不需要預測的數據的結果進行概括的學習過程。默認情況下，數據的結構都可以得到相關的確認和利用。

我們在之前的一篇文章 machinelearning algorithms就已經對監督學習和非監督學習過程進行詳細的闡述。

建模

一個由機器學習創建的產品被視為是一個程序的權利。

模型選擇：我們可以這樣認為，模型的設定和訓練過程就是模型的選擇過程。對于我們所擁有的每個模型的迭代可以讓我們選擇是直接使用這個模型，還是對它進行修改，甚至，算法的選擇也是模型選擇過程的一部分。然而，每個模型都存在一個共同的問題，那就是對于一個可能被選到的數據集的一個給定的模型以及模型的設置會提供一個最終的模型選擇。

誘導偏差：偏差就是選定模型所產生的限制。每個模型都存在其自己的偏差，這也引入了模型的誤差，以及對每個模型進行定義時產生的誤差(它們是來自觀察的概括)。偏差是通過一個包含模型的設定以及產生一個模型的算法的模型所做的概括引入的。一個機器學習方法可以創建一個或高或低的模型，而相關的手段可以對一個誤差較高的基本模型進行一定程度的誤差消除。

模型方差：方差就是檢驗對已經進行過訓練的數據建立的模型是否靈敏的術語。一個由數據集產生的模型的機器學習方法，都有一個或大或小的方差，而消除方差的相關手段有在不同的初始化環境下對一個數據集進行重復運行，然后取平均值精準度作為模型性能好壞的參考標準。

偏差方差權衡：模型的選擇可以被認為是一個權衡偏差和方差的過程。一個誤差較小的模型有較大的方差，這時我們要對相關數據進行多長且長時間的訓練以求得到一個合適的模型。一個誤差較高的模型往往其方差比較小，所以訓練時間短一點，但是要承擔性能差的后果。