作者 | CDA數據分析師

參數估計（parameter estimation）是根據從總體中抽取的樣本估計總體分布中包含的未知參數的方法。人們常常需要根據手中的數據，分析或推斷數據反映的本質規律。即根據樣本數據如何選擇統計量去推斷總體的分布或數字特征等。統計推斷是數理統計研究的核心問題。所謂統計推斷是指根據樣本對總體分布或分布的數字特征等作出合理的推斷。它是統計推斷的一種基本形式，分為點估計和區間估計兩部分。

一、點估計

點估計是依據樣本估計總體分布中所含的未知參數或未知參數的函數。簡單的來說，指直接以樣本指標來估計總體指標，也叫定值估計。通常它們是總體的某個特征值，如數學期望、方差和相關系數等。點估計問題就是要構造一個只依賴于樣本的量，作為未知參數或未知參數的函數的估計值。構造點估計常用的方法是：

①矩估計法，用樣本矩估計總體矩

②最大似然估計法。利用樣本分布密度構造似然函數來求出參數的最大似然估計。

③最小二乘法。主要用于線性統計模型中的參數估計問題。

④貝葉斯估計法。

可以用來估計未知參數的估計量很多，于是產生了怎樣選擇一個優良估計量的問題。首先必須對優良性定出準則，這種準則是不唯一的，可以根據實際問題和理論研究的方便進行選擇。優良性準則有兩大類：一類是小樣本準則，即在樣本大小固定時的優良性準則；另一類是大樣本準則，即在樣本大小趨于無窮時的優良性準則。

最重要的小樣本優良性準則是無偏性及與此相關的一致最小方差無偏估計，其次有容許性準則，最小化最大準則，最優同變準則等。大樣本優良性準則有相合性、最優漸近正態估計和漸近有效估計等。下面介紹一下最常用的矩估計法和最大似然估計法。

1、矩估計法

矩估計法, 也稱“矩法估計”，就是利用樣本矩來估計總體中相應的參數。它是由英國統計學家皮爾遜Pearson于1894年提出的，也是最古老的一種估計法之一。對于隨機變量來說，矩是其最廣泛，最常用的數字特征，主要有中心矩和原點矩。 由辛欽大數定律知，簡單隨機樣本的原點矩依概率收斂到相應的總體原點矩，這就啟發我們想到用樣本矩替換總體矩，進而找出未知參數的估計，基于這種思想求估計量的方法稱為矩法。用矩法求得的估計稱為矩法估計，簡稱矩估計。最簡單的矩估計法是用一階樣本原點矩來估計總體的期望而用二階樣本中心矩來估計總體的方差。

2、最大似然估計法

此法作為一種重要而普遍的點估計法，由英國統計學家R.A.費希爾在1912年提出。后來在他1921年和1925年的工作中又加以發展。設樣本X=(X1,X2,…,Xn)的分布密度為L(X，θ)，若固定X而將L視為θ的函數，則稱為似然函數，當X是簡單隨機樣本時，它等于?(X1，θ）?(X2，θ）…?(Xn，θ），其中，?(X，θ）是總體分布的密度函數或概率函數（見概率分布）。一經得到樣本值x，就確定x，然后使用估計g（θ），這就是g（θ）的最大似然估計。

二、區間估計

通過從總體中抽取的樣本，根據一定的正確度與精確度的要求，構造出適當的區間，以作為總體的分布參數(或參數的函數)的真值所在范圍的估計。用數軸上的一段經歷或一個數據區間，表示總體參數的可能范圍。這一段距離或數據區間稱為區間估計的置信區間。下面分別介紹一個總體參數的區間估計和兩個總體參數的區間估計。

1、一個總體參數的區間估計

總體均值適用的統計量及其置信區間：

總體比例適用的統計量及其置信區間：

2、兩個總體參數的區間估計