混合効果モデルが依存関係を解決するのはなぜですか？

学生の試験の成績が、それらの学生が勉強する時間数によってどのように影響されるかに興味があるとします。この関係を調べるために、次の線形回帰を実行できます。

{exam.grades}_{i} = a + β_{1} \times {hours.studied}_{i} + e_{i}

$\text{exam.grades}_i = a + \beta_1 \times \text{hours.studied}_i + e_i$

しかし、複数の異なる学校の生徒をサンプリングすると、同じ学校の生徒は、異なる学校の生徒よりも互いに似ていると思われるかもしれません。この依存関係の問題に対処するために、多くの教科書/ Webでのアドバイスは、混合効果を実行し、ランダム効果として学校に入ることです。したがって、モデルは次のようになります。しかし、これにより、線形回帰？

{exam.grades}_{i} = a + β_{1} \times {hours.studied}_{i} + {school}_{j} + e_{i}

$\text{exam.grades}_i = a + \beta_1 \times \text{hours.studied}_i + \text{school}_j + e_i$

12歳の子供と話しているかのように返信してください

— ルチアーノ
ソース

依存関係の問題を「解決」するかどうかは、コンテキスト固有です。しかし、おそらく拡張モデルには、特定の学校に関連する効果を少なくとも部分的に説明できる用語があることがわかります。

— image_doctor

モデルにランダムな用語を含めることは、グレード間で共分散構造を誘導する方法です。学校のランダム係数は、同じ学校の異なる生徒間で非ゼロの共分散を引き起こし $0$ が、学校が異なる場合はです。

レッツ・書き込みなど、あなたのモデルどこインデックス学校とのインデックス（各学校では）学生を。用語中に描かれた独立した確率変数である。で描画独立確率変数である

Y_{s, i} = α + {hours}_{s, i} β + {school}_{s} + e_{s, i}

$Y_{s,i} = \alpha + \text{hours}_{s,i} \beta + \text{school}_s + e_{s, i}$

s

$s$

i

$i$

{school}_{s}

$\text{school}_s$

N (0, τ)

$\mathcal N(0, \tau)$

e_{s, i}

$e_{s, i}$

。

N (0, σ^{2})

$\mathcal N(0, \sigma^2)$

このベクターは期待た値労働時間の数によって決定されます。

{[α + {hours}_{s, i} β]}_{s, i}

$\left[ \alpha + \text{hours}_{s,i} \beta \right]_{s,i}$

と間の共分散は、場合はですこれは、生徒が同じ学校にいない場合、期待値からの成績の逸脱が独立していることを意味します。 $Y_{s,i}$ $Y_{s',i'}$ $0$ $s \ne s'$

間の共分散とあるとき、との差異あると同じ学校の生徒の成績が彼らの期待値から相関逸脱を持っています。。 $Y_{s,i}$ $Y_{s,i'}$ $\tau$ $i \ne i'$ $Y_{s,i}$ $\tau + \sigma^2$

例とシミュレーションデータ

ここでは5校から50人の学生のための短いRシミュレーションがある（ここでは私が取る）; 変数の名前は自己文書化されています。 $\sigma^2 = \tau = 1$

set.seed(1)
school        <- rep(1:5, each=10)
school_effect <- rnorm(5)

school_effect_by_ind <- rep(school_effect, each=10)
individual_effect    <- rnorm(50)

各生徒の期待される成績からの逸脱、つまり、という用語を、各学校の平均逸脱と一緒にプロットします（点線）。 $\text{school}_s + e_{s, i}$

plot(individual_effect + school_effect_by_ind, col=school, pch=19, 
     xlab="student", ylab="grades departure from expected value")
segments(seq(1,length=5,by=10), school_effect, seq(10,length=5,by=10), col=1:5, lty=3)

混合モデル

$\text{school}_s$ $\alpha + \text{hours} \beta$

この例の分散行列

$\text{school}_s$ $e_{s,i}$

[\begin{matrix} A & 0 & 0 & 0 & 0 \\ 0 & A & 0 & 0 & 0 \\ 0 & 0 & A & 0 & 0 \\ 0 & 0 & 0 & A & 0 \\ 0 & 0 & 0 & 0 & A \end{matrix}]

$\left[\begin{matrix} A & 0 & 0 & 0 & 0 \\ 0 & A & 0 & 0 & 0 \\ 0 & 0 & A & 0 & 0 \\ 0 & 0 & 0 & A & 0 \\ 0 & 0 & 0 & 0 & A \end{matrix}\right]$

10 \times 10

$10\times 10$

A

$A$

A = [\begin{matrix} 2 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 2 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 2 & 1 & 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 2 & 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 2 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 2 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1 & 2 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 2 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 2 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 2 \end{matrix}] .

$A = \left[\begin{matrix} 2 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1\\ 1 & 2 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1\\ 1 & 1 & 2 & 1 & 1 & 1 & 1 & 1 & 1 & 1\\ 1 & 1 & 1 & 2 & 1 & 1 & 1 & 1 & 1 & 1\\ 1 & 1 & 1 & 1 & 2 & 1 & 1 & 1 & 1 & 1\\ 1 & 1 & 1 & 1 & 1 & 2 & 1 & 1 & 1 & 1\\ 1 & 1 & 1 & 1 & 1 & 1 & 2 & 1 & 1 & 1\\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 2 & 1 & 1\\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 2 & 1\\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 2 \end{matrix}\right].$

— エルビス
ソース

エルビス：それはおそらく私よりも統計に詳しい人にとっては素晴らしい答えでしょう。しかし、私はそれからほとんど意味を引き出すことができません。12歳の人が理解できるように、回答を編集できますか？

— ルチアーノ

A ... 12歳？！うわー！これが役立つ場合は、いくつかのシミュレーションを追加します。

— エルビス

できたお役に立てれば。そうでない場合は、得られないものについてより具体的にしてください。12歳の子供も質問を理解できないことに注意してください...質問よりも簡単な回答を求めることはできません。

— エルビス