次のように、独立していない、同一に分布していない確率変数の集合の平均について、(一貫性に関連するものである)多数の(弱い)法則が成立するための十分条件のもう少し直感的な公式有限分散と共分散は、次のとおりです( "マルコフ条件")。
$$ \ text {Var} \ left(\ frac 1 {n} \ sum_ {t = 1} ^ n x_t \ right)\ rightarrow 0 $$
これは単に 十分 平均値の分散がゼロになること、直感的分解する、
$$ \ text {Var} \ left(\ frac 1 {n} \ sum_ {t = 1} ^ n x_t \ right)= \ frac 1 {n ^ 2} \ sum_ {t = 1} ^ n \ text { Var}(x_t)+ \ frac 1 {n ^ 2} \ sum_ {t \ neq s} \ text {Cov}(x_t、x_s)\ rightarrow 0 $$
すべての分散は有限であるため、最初の合計はゼロになります。 2番目の合計に関して、各要素がいくつあるかに関係なく他のすべての要素と相関している場合、この(二重)合計は$ n ^ 2-n $厳密にゼロでない要素を持ちます。 )$。その場合は、 違います ゼロになり、十分な条件が成り立たない。
これを確認する最も簡単な方法は、すべてのrvが等相関関係にあると仮定することです。
$$ \ text {Cov}(x_t、x_s)= c \; \ forall t、s \は\ text {Var} \ left(\ frac 1 {n} \ sum_ {t = 1} ^ n x_t \ right)を意味します= \ frac 1 {n ^ 2} \ sum_ {t = 1} ^ n \ text {Var}(x_t)+ \ left(1- \ frac 1n \ right)c \ rightarrow c $$
ちなみに、これは、「みんなとみんな」の相関で、標本平均にかかわらず標本平均が確率変数のままである理由を垣間見ることができる方法です。
それで、弱い$ \ text {LLN} $を得るために何が必要ですか?
私たちは、$ m- $依存関係、すなわち各rvが$ m $その他とのみ相関していると仮定することができます。これにより、標本平均の分散がゼロになります。
サンプルサイズが増えると、それに伴って非ゼロ共分散の数が増えるが、同じ率ではないと仮定することができる:$ m(n)/ n \ rightarrow 0 $。
各rvが相互に相関していることを維持したい場合(これは推定残差を扱うのでOPの場合です)、@ Oliv's answerに述べられている条件に到達します。サンプルの自然な順序付け(時間的または空間的)がある場合にのみ、「共分散は距離が増すにつれて減少する」。サンプルが本物の断面図であり、自由自在にrvを並べ替えることができる場合、条件は単なる数学的なものです。