似然比、沃爾德、拉格朗日三大檢驗，加格蘭傑因果推斷

最新 09-24

《正文》

似然比檢驗

似然比檢驗（LRT）用來評估兩個模型中那個模型更適合當前數據分析。具體來說，一個相對複雜的模型與一個簡單模型比較，來檢驗它是不是能夠顯著地適合一個特定的數據集。如果可以，那麼這個複雜模型的附加參數能夠用在以後的數據分析中。

LRT應用的一個前提條件是這些待比較的模型應該是分級的巢式模型。具體來講，是說相對於簡單模型，複雜模型僅僅是多了一個或者多個附加參數。增加模型參數必定會導致高似然值成績。因此根據似然值的高低來判斷模型的適合度是不準確的。LRT提供了一個客觀的標準來選擇合適的模型。

LRT檢驗的公式LR = 2*(lnL1-lnL2)其中L1為複雜模型最大似然值，L2為簡單標準模型最大似然值LR近似的符合卡方分布。為了檢驗兩個模型似然值的差異是否顯著，我們必須要考慮自由度。LRT檢驗中，自由度等於在複雜模型中增加的模型參數的數目。這樣根據卡方分布臨界值表，我們就可以判斷模型差異是否顯著。

2.沃爾德檢驗

wald檢驗的思想是：如果約束是有效的，那麼在沒有約束情況下估計出來的估計量應該漸進地滿足約束條件，因為MLE是一致的。以無約束估計量為基礎可以構造一個Wald統計量（具體形式參見Greene），這個統計量也服從卡方分布。

wald檢驗一般適用於檢驗非線性的約束條件（當然也可以檢驗線性的約束條件），通過對原方程（無約束模型）進行估計，構造出檢驗統計量，該統計量在大樣本下服從卡方分布，自由度為約束條件。

3.拉格朗日乘數檢驗

拉格朗日乘數檢驗的思想是：在約束條件下，可以用拉格朗日方法構造目標函數。如果約束有效，則最大化拉格朗日函數所得估計量應位於最大化無約束所得參數估計值附近。這裡也是構造一個LM統計量（具體形式參見Greene），該統計量服從卡方分布。

對於似然比檢驗，既需要估計有約束的模型，也需要估計無約束的模型；對於Wald檢驗，只需要估計無約束模型；對於LM檢驗，只需要估計有約束的模型。一般情況下，由於估計有約束模型相對更複雜，所有Wald檢驗最為常用。對於小樣本而言，似然比檢驗的漸進性最好，LM檢驗也較好，Wald檢驗有時會拒絕原假設，其小樣本性質不盡如人意。

4.格蘭傑因果檢驗（不適用於非同階協整的倆變數）