混合効果モデルにすべての可能性が含まれる場合の固定効果とランダム効果

混合効果モデルでは、可能なレベルがすべて含まれている場合（男性と女性の両方など）、固定効果を使用してパラメーターを推定することをお勧めします。さらに、含まれるレベルが母集団（可能性のある患者の宇宙から登録された患者）からのランダムなサンプルであり、平均値の代わりに母集団の平均と分散を推定する場合、変数を説明するためにランダム効果を使用することをさらにお勧めします個々の因子レベルの。

この方法で常に固定効果を使用することが論理的に義務付けられているのかどうか疑問に思っています。開発によって足/靴のサイズがどのように変化し、たとえば身長、体重、年齢に関連するかについての研究を検討してください。 ${\rm Side}$長年にわたる測定値が特定のフィート内にネストされ、独立していないという事実を説明するために、モデルに何らかの形で明確に含める必要があります。さらに、右と左はすべて存在する可能性です。さらに、特定の参加者の右足が左足よりも大きい（または小さい）ことは事実です。ただし、すべての人の足のサイズは足によって多少異なりますが、平均して右足が左足よりも大きいと考える理由はありません。サンプルに含まれている場合、これはおそらく、右足に内在するものではなく、サンプルに含まれる人々の遺伝学に関する何かによるものです。最後に、${\rm side}$は迷惑なパラメータのように見えますが、あなたが本当に気にするものではありません。

この例を作成したことに注意してください。それは何の役にも立たないかもしれません。アイデアを広めるためだけです。私が知っているすべての人にとって、旧石器時代の生存には大きな右足と小さな左足が必要でした。

このような場合、ランダムな効果としてモデルにを組み込むことは（より多く/より少なく/任意に）意味がある${\rm side}$でしょうか？ここで固定効果とランダム効果を使用する場合の長所と短所は何でしょうか？

「固定」および「ランダム」効果の一般的な問題は、それらが一貫した方法で定義されていないことです。Andrew Gelmanはそれらのいくつかを引用しています。

（1）固定効果は個人間で一定であり、ランダム効果は異なります。たとえば、成長の研究では、ランダムな切片 と固定勾配bを持つモデルは、異なる個人iの平行線、またはモデルy i t = a i + b tに対応します。したがって、KreftとDe Leeuw（1998）は、固定係数とランダム係数を区別しています。$a_i$$b$$i$$y_{it} = a_i + b_t$

（2）効果は、それ自体が興味深い場合は固定され、基礎となる母集団に関心がある場合はランダムです。Searle、Casella、およびMcCulloch（1992、セクション1.4）は、この区別を詳細に調査しています。

（3）「サンプルが母集団を使い果たすと、対応する変数は固定されます。サンプルが母集団の小さな（つまり無視できる）部分である場合、対応する変数はランダムです。」（Green and Tukey、1960）

（4）「効果が確率変数の実現値であると想定される場合、それはランダム効果と呼ばれます。」（LaMotte、1983）

（5）固定効果は最小二乗法（または、より一般的には最尤法）を使用して推定され、ランダム効果は収縮を使用して推定されます（Robinson、1991年の用語における「線形不偏予測」）。この定義は、マルチレベルモデリングの文献（たとえば、Snijders and Bosker、1999、Section 4.2を参照）および計量経済学の標準です。

そして、それらが一貫していないことに気づきます。彼の著書「回帰分析とマルチレベル/階層モデルを使用したデータ分析」では、一般にこれらの用語の使用を避けており、仕事ではグループの切片と勾配の間の固定または変化に焦点を当てています。

固定効果は、より高いレベルの分散が（モデル（1.1）で、これは次のようになり、ランダム効果の特殊な場合とみなすことができる ）に設定されている0または∞。したがって、フレームワークでは、すべての回帰パラメーターは「ランダム」であり、「マルチレベル」という用語はすべて包括的です。$\sigma^2_\alpha$$0$$\infty$

これは、すべての効果がランダムである混合モデルに一般的に使用されるベイジアンフレームワークで特に当てはまります。ベイジアンを考えているのであれば、「固定」効果とポイント推定値にあまり関心がなく、すべての効果をランダムとして扱うことに問題はありません。

このトピックを読んでいるほど、これはむしろ私たちが推定できる（またはすべき）ものと予測できるものに関するイデオロギー的な議論であると確信しています（ここであなた自身の答えも参照できます）。可能性のある結果のランダムなサンプルがある場合は、ランダム効果を使用するため、個々の推定値については気にせず、母集団の影響を気にしてから個人を気にします。したがって、あなたの質問の答えは、データが与えられた場合の固定効果を望むか、または推定できるかどうかについても考えます。すべての可能なレベルがデータに含まれている場合、次のことができます固定効果を推定します-また、あなたの例のように、レベルの数が少なくなる可能性があり、それは一般にランダム効果を推定するのには向かないでしょう。これにはいくつかの最小要件があります。

ベストケースシナリオの引数

無制限のデータ量と無制限の計算能力があるとします。この場合、固定効果を使用すると柔軟性が高まるため、すべての効果を固定として推定することを想像できます（個々の効果を比較できるようにします）。ただし、この場合でも、私たちのほとんどは、すべてに固定効果を使用したがりません。

たとえば、ある地域の学校の試験結果をモデル化し、その地域の100校すべてのデータがあるとします。この場合、すべてのレベルのデータを持っているため、学校を固定されたものとして脅威にさらすことができますが、実際には、おそらくそれらをランダムに考えるでしょう。何故ですか？

1. 理由の1つは、一般的にこの種のケースでは、個々の学校の影響に関心がなく（すべてを比較するのは難しい）、むしろ学校間の一般的なばらつきです。

2. ここでのもう1つの議論は、モデルの節約です。一般に、「あらゆる可能性のある影響」モデルには関心がないため、モデルには、他の可能性のある変動要因についてテストおよび制御する固定効果をほとんど含めません。これにより、混合効果モデルは、何かを推定して他のことを制御する統計モデリングに関する一般的な考え方に適合します。複雑な（マルチレベルまたは階層）データでは、多くの効果を含めることができるため、それらを制御するために「固定」と「ランダム」の両方を脅かします。

3. このシナリオでは、学校がそれぞれ独自のユニークな結果への影響を持っていると考えるのではなく、一般的に何らかの影響を与えている学校についても考えています。したがって、この議論は、個々の学校のユニークな効果を推定することは実際には不可能であると考えているため、可能性のある学校の効果のランダムなサンプルとしてそれらを脅かすことです。

混合効果モデルは、「すべてが修正された」シナリオと「すべてがランダムな」シナリオの間のどこかにあります。遭遇するデータにより、すべてを固定効果として推定するための期待を下げることができるため、比較する効果と制御する効果を決定するか、それらの影響について一般的な感覚を持ちます。データが何であるかだけでなく、データをモデル化する際にどのように考えるかということも重要です。

エグゼクティブサマリー

実際に、可能性のあるすべての因子レベルが混合モデルに含まれる場合、この因子は固定効果として扱われるべきであるとよく言われます。これは、2つの明確な理由に必ずしも当てはまりません。

（1）レベルの数が多い場合、[交差]因子をランダムとして扱うことは理にかなっています。

ここで@Timと@RobertLongの両方に同意します：すべてのモデルに含まれる多数のレベルがある場合（たとえば、世界のすべての国、または国のすべての学校、または対象を調査するなど）、それをランダムとして扱うことには何の問題もありません。

lmer(size ~ age + subjectID)                     # fixed effect
lmer(size ~ age + (1|subjectID))                 # random effect

（2）因子が別のランダム効果内にネストされている場合、レベル数に関係なく、因子をランダムとして扱う必要があります。

他の回答は上記のケース＃1に関するものであるため、このスレッドには大きな混乱がありました（コメントを参照）が、ここで示した例は異なる状況、つまりこのケース＃2の例です。ここには2つのレベルしかありません（つまり、「大きな数」ではありません！）、すべての可能性を使い果たしますが、別のランダム効果内にネストされ、ネストされたランダム効果を生成します。

lmer(size ~ age + (1|subject) + (1|subject:side)  # side HAS to be random

---

あなたの例の詳細な議論

想像上の実験の側面と主題は、標準的な階層モデルの例のクラスや学校のように関連しています。おそらく、各学校（＃1、＃2、＃3など）にはクラスAとクラスBがあり、これら2つのクラスはほぼ同じであると想定されています。クラスAとBを2つのレベルを持つ固定効果としてモデル化しません。これは間違いです。ただし、クラスAとBを2つのレベルを持つ「別個の」（つまり交差した）ランダム効果としてモデル化することはありません。これも間違いです。代わりに、クラスを次のようにモデル化します学校内でネストされたランダム効果。

こちらをご覧ください： 交差ランダム効果と入れ子ランダム効果：lme4でどのように違い、どのように正しく指定されていますか？

$i=1\ldots n$$j=1,2$

$$\text{Size}_{ijk} = \mu+\alpha\cdot\text{Height}_{ijk}+\beta\cdot\text{Weight}_{ijk}+\gamma\cdot\text{Age}_{ijk}+\epsilon_i + \color{red}{\epsilon_{ij}} + \epsilon_{ijk}$$ $$\epsilon_i\sim\mathcal N(0,\sigma^2_\mathrm{subjects}),\quad\quad\text{Random intercept for each subject}$$ $$\color{red}{\epsilon_{ij}}\sim\mathcal N(0,\sigma^2_\text{subject-side}),\quad\quad\text{Random int. for side nested in subject}$$ $$\epsilon_{ijk}\sim\mathcal N(0,\sigma^2_\text{noise}),\quad\quad\text{Error term}$$

自分で書いたように、「平均して右足が左足よりも大きいと信じる理由はありません」。したがって、右足または左足の「グローバルな」効果（固定またはランダムな交差のいずれでもない）が存在しないようにする必要があります。代わりに、各被験者は「片方の足」と「もう片方の」足を持っていると考えることができ、この変動性をモデルに含める必要があります。これらの「片方」と「もう片方」の足は被験者内にネストされているため、ランダム効果がネストされています。

コメントへの回答の詳細。[9月26日]

上記の私のモデルには、サブジェクト内にネストされたランダム効果としてサイドが含まれています。@Robertが提案する代替モデルを次に示します。Sideは固定効果です。

$$\text{Size}_{ijk} = \mu+\alpha\cdot\text{Height}_{ijk}+\beta\cdot\text{Weight}_{ijk}+\gamma\cdot\text{Age}_{ijk} + \color{red}{\delta\cdot\text{Side}_j}+\epsilon_i + \epsilon_{ijk}$$

@RobertLongまたは@gungに挑戦して、このモデルが同じサブジェクトの同じサイドの連続測定に存在する依存関係、つまり同じデータポイントの依存関係を処理する方法を説明します$ij$組み合わせの。

できない。

同じことが、交差ランダム効果としてのSideを持つ@gungの仮想モデルにも当てはまります。

$$\text{Size}_{ijk} = \mu+\alpha\cdot\text{Height}_{ijk}+\beta\cdot\text{Weight}_{ijk}+\gamma\cdot\text{Age}_{ijk} +\epsilon_i + \color{red}{\epsilon_j} + \epsilon_{ijk}$$

依存関係も考慮されません。

シミュレーションによるデモ[10月2日]

これは、Rでの直接のデモです。

5年連続で両足で測定した5人の被験者を含むおもちゃのデータセットを生成します。年齢の影響は線形です。各被験者にはランダムなインターセプトがあります。また、各被験者の足の1つ（左または右）が他の足よりも大きくなっています。

set.seed(17)

demo = data.frame(expand.grid(age = 1:5,
                              side=c("Left", "Right"),
                              subject=c("Subject A", "Subject B", "Subject C", "Subject D", "Subject E")))
demo$size = 10 + demo$age + rnorm(nrow(demo))/3

for (s in unique(demo$subject)){
  # adding a random intercept for each subject 
  demo[demo$subject==s,]$size = demo[demo$subject==s,]$size + rnorm(1)*10

  # making the two feet of each subject different     
  for (l in unique(demo$side)){
    demo[demo$subject==s & demo$side==l,]$size = demo[demo$subject==s & demo$side==l,]$size + rnorm(1)*7
  }
}

plot(1:50, demo$size)

ひどいRスキルをおApびします。データは次のようになります（連続する5つのドットはそれぞれ、長年にわたって測定された1人の足の1フィートです。連続する10のドットはそれぞれ同じ人の2フィートです）。

これで、多数のモデルを適合させることができます。

require(lme4)
summary(lmer(size ~ age + side + (1|subject), demo))
summary(lmer(size ~ age + (1|side) + (1|subject), demo))
summary(lmer(size ~ age + (1|subject/side), demo))

すべてのモデルには、の固定効果ageとのランダム効果が含まれていますsubjectが、処理side方法が異なります。

1. sideage$t=1.8$

2. sideage$t=1.4$

3. モデル3：のネストされたランダム効果side。これが私のモデルです。結果：age非常に重要です（$t=37$、はい、37）、残留分散はごくわずかです（0.07）。

これはside、ネストされたランダム効果として扱う必要があることを明確に示しています。

最後に、@ Robertはコメントでside、制御変数としてのグローバル効果を含めることを提案しました。ネストされたランダム効果を維持しながら、それを行うことができます。

summary(lmer(size ~ age + side + (1|subject/side), demo))
summary(lmer(size ~ age + (1|side) + (1|subject/side), demo))

これらの2つのモデルは、＃3と大差ありません。モデル4は、side（$t=0.5$）。モデル5は、side正確にゼロに等しい分散の推定値を生成します。

他の回答に追加するには：

OPで説明されている方法で常に固定効果を使用することを論理的に義務付けられているとは思わない。因子をランダムとして扱う場合の通常の定義/ガイドラインが満たされていない場合でも、多数のレベルがある場合は因子をランダムとしてモデル化する傾向があります。自由であり、面倒で控えめなモデルになります。

関心のある要因のすべての可能なレベルを知っており、効果を推定するためのデータも持っている状況について話している場合、間違いなくレベルをランダムな効果で表す必要はありません。

因子にランダム効果を設定する理由は、通常は未知であるその因子のすべてのレベルの効果を推測したいからです。この種の推論を行うには、すべてのレベルの効果が一般に正規分布を形成するという仮定を課します。ただし、問題の設定を考えると、すべてのレベルの影響を推定できます。その場合、確かにランダム効果を設定して追加の仮定を課す必要はありません。

これは、母集団のすべての値を取得できる状況のようなものです（したがって、真の平均を知っています）が、母集団から大きなサンプルを取得し、中心極限定理を使用してサンプリング分布を近似しようとしています。真の意味を推測します。