OLS推定量を導出するための仮定

誰かが私のために簡単に説明できますか、なぜOLS推定量を計算するために6つの仮定のそれぞれが必要ですか？多重共線性についてのみ見つけました。それが存在する場合、マトリックスを反転（X'X）できず、全体の推定量を推定できません。その他（線形性、ゼロ平均誤差など）はどうですか？

完全な多重共線性がある場合を除き、OLS推定量はいつでも計算できます。この場合、X行列には完全な多重線形依存性があります。その結果、フルランクの仮定が満たされず、可逆性の問題のためにOLS推定量を計算できません。

技術的には、OLS推定量を計算するために他のOLSの仮定は必要ありません。ただし、ガウス–マルコフの定理によれば、推定器が青になるためには、OLSの仮定（clrmの仮定）を満たす必要があります。

ガウス–マルコフの定理とその数学的導出の詳細な議論はここにあります：

http://economictheoryblog.com/2015/02/26/markov_theorem/

さらに、OLSの前提の概要、つまり、その数、必要なもの、単一のOLSの前提に違反した場合の動作を探している場合は、ここで詳細な説明を見つけることができます。

http://economictheoryblog.com/2015/04/01/ols_assumptions/

それがお役に立てば幸いです！

以下は単純な断面に基づいています。時系列とパネルでは多少異なります。

1. 母集団、したがってサンプルでは、​​モデルは次のように記述できます これは、時々誤解された直線性の仮定、です。すなわち、 -モデルパラメータで線形であるべきであるβK。xを使って好きなことを自由に行うことができます $$\begin{align} \newcommand{\Var}{\rm Var} \newcommand{\Cov}{\rm Cov} Y &= \beta_0 + \beta_1 x_1 + … + \beta_k x_k + u \\ &= X\beta + u \end{align}$$ $\beta_k$自体を使用。対数、二乗など。これが当てはまらない場合、モデルはOLSで推定できません。他の非線形推定器が必要です。$x_i$
2. ランダムサンプル（断面用）これは、推論およびサンプルプロパティに必要です。これは、OLSの純粋なメカニズムにはやや無関係です。
3. 完全な共線性がないこれは、間に完全な関係が存在できないことを意味します。これは、（X ′ X ）− 1のように（X ′ X ）が特異でないことを保証する仮定です$x_i$$(X’X)$$(X’X)^{-1}$が存在する。
4. ゼロ条件付き平均：。これは、次のようにモデルを適切に指定したことを意味します。省略された変数がなく、推定した関数形式が（未知の）母集団モデルに対して正しいこと。これが実際に有効であるかどうかを知る方法がないため、これは常にOLSの問題のある仮定です。$E(u|X) = 0$
5. エラー項の分散は一定であり、すべての条件とします：V a r （u | X ）= $X_i$ OLSの力学のために再びこの手段は何も、それは通常の標準誤差が有効であることを確認してください。$\Var(u|X)=\sigma^2$
6. 正常; エラー用語Uは独立している、及び以下のUを〜N （0 、σ 2）。再び、これは、OLSのメカニズムとは無関係であるが、サンプリングの分布ことを保証β kが正常で、^ β K〜N （β K、V R （^ β K）$X_i$$u \sim N(0,\sigma^2)$$\beta_k$$\hat{\beta_k} \sim N(\beta_k , \Var(\hat{\beta_k}))$。

次に、意味合いについて説明します。

1. 1-6（古典的な線形モデルの仮定）の下でOLSはBLUE（最良の線形不偏推定量）であり、分散が最も低いという意味で最適です。また、すべての線形推定器、およびxの何らかの関数を使用するすべての推定器の間で効率的です。さらに重要なことは、1-6の下で、OLSは最小分散不偏推定量でもあります。つまり、すべての不偏推定量（線形だけでなく）の中で、OLSの分散が最小になります。OLSも一貫しています。

2. 1-5（Gauss-Markovの仮定）の下では、OLSは青で効率的です（上記のとおり）。

3. 1-4未満では、OLSは公平で一貫性があります。

実際、OLSはよりも弱い仮定の下で、つまり（1 ）E （u ）= 0および（2 ）C o v （x j、u ）= 0という一貫性もあります。仮定4との違いは、この仮定では、機能的な関係を完全に打ち消す必要がないことです。$(4)$$(1)\ E(u) = 0$$(2)\ \Cov(x_j , u) = 0$

別の質問のコメントでは、条件の重要性について疑問が提起され、回帰仕様に定数項を含めることで修正できるため、「簡単に無視できる」と主張しています。$E(\mathbf u \mid \mathbf X) =0$

そうではありません。回帰に定数項を含めることで、この条件付き平均が既に定数であり、リグレッサの関数ではないと仮定した場合、誤差項のゼロ以外の条件付き平均を吸収します。これがなされなければならない重要な仮定である独立して、我々は定数項を含めるかどうかを：

$$E(\mathbf u \mid \mathbf X) =const.$$

これが成立する場合は、その後、非ゼロ平均は、我々は単に定数項を含むことによって解決することができます迷惑になります。

しかし、これが成り立たない場合（条件付き平均がゼロまたは非ゼロの定数でない場合）、定数項を含めても問題は解決しません。この場合「吸収」するのは大きさですこれは、特定のサンプルとリグレッサの実現に依存します。実際には、一連の1に付けられた未知の係数は実際には定数ではなく変数であり、誤差項の非定数条件付き平均による回帰変数に依存します。

これは何を意味しますか？ 単純化するために、（iは観測にインデックスを付ける）がE （u i ∣ x i）= h （x i）である最も単純なケースを想定します。つまり、エラー項は、同時期のもの（Xでは一連のものを含みません）を除いて、リグレッサから平均的に独立しています。$E(u_i \mid \mathbf X_{-i})=0$$i$$E(u_i \mid \mathbf x_{i})=h(\mathbf x_i)$$\mathbf X$

定数項（一連の項の回帰変数）を含む回帰を指定すると仮定します。

$$\mathbf y = \mathbf a + \mathbf X\mathbf β + \mathbf ε$$

および圧縮表記

$$\mathbf y = \mathbf Z\mathbf γ + \mathbf ε$$

ここ= （、、。。。）'、Z = [ 1：X ]、γ = （、β）'、ε = U -。$\mathbf a = (a,a,a...)'$$\mathbf Z = [\mathbf 1: \mathbf X]$$\mathbf γ = (a, \mathbf β)'$$\mathbf ε = \mathbf u - \mathbf a$

その後、OLS推定量は

$$\hat {\mathbf γ} = \mathbf γ + \left(\mathbf Z'\mathbf Z\right)^{-1}\mathbf Z'\mathbf ε$$

以下のための不偏我々の必要性。だが$E\left[\mathbf ε\mid \mathbf Z\right] =0$

$$E\left[ ε_i\mid \mathbf x_i\right] = E\left[u_i-a\mid \mathbf x_i\right] = h(\mathbf x_i)-a$$

h （x i）が定数関数ではないケースを調べるため、すべてのに対してゼロにすることはできません。そう$i$$h(\mathbf x_i)$

$$E\left[\mathbf ε\mid \mathbf Z\right] \neq 0 \implies E(\hat {\mathbf γ}) \neq \mathbf γ$$

そして

もし私たちが回帰で定数項が含まれていても、その後、OLS推定器公平ではありません、つまり効率に関するガウス・マルコフの結果が失われることも意味し$E(u_i \mid \mathbf x_{i})=h(\mathbf x_i)\neq h(\mathbf x_j)=E(u_j \mid \mathbf x_{j})$ます。

さらに、誤差項 は、各iで異なる平均を持ち、分散も異なります（つまり、条件付きヘテロスケスティクスです）。そのため、リグレッサを条件とするその分布は、観測iで異なります。 $\mathbf ε$$i$$i$

しかし、誤差項があっても、この手段通常想定されるが、その後、サンプリングエラーの分布γは - γは、通常されますがないゼロ平均mormal、および未知のバイアスが。そして、分散は異なります。そう$u_i$$\hat {\mathbf γ} - \mathbf γ$

場合、そして私たちは、回帰の定数項を含めた場合でも、仮説検定は、もはや有効ではありません。$E(u_i \mid \mathbf x_{i})=h(\mathbf x_i)\neq h(\mathbf x_j)=E(u_j \mid \mathbf x_{j})$

つまり、「有限サンプル」プロパティはすべてなくなりました。

漸近的に有効な推論に頼るオプションのみが残されているため、追加の仮定を行う必要があります。

簡単に言えば、厳密な外生性は「簡単に無視する」ことはできません。