実際には、混合効果モデルでランダム効果共分散行列はどのように計算されますか？

19

基本的に私が思っているのは、異なる共分散構造がどのように適用され、これらの行列内の値がどのように計算されるかです。lme（）などの関数を使用すると、どの構造が必要かを選択できますが、それらの推定方法を知りたいと思います。

線形混合効果モデル考えます。 $Y=X\beta+Zu+\epsilon$

ここで、および。さらに： $u \stackrel{d}{\sim} N(0,D)$ $\epsilon \stackrel{d}{\sim} N(0,R)$

$Var(Y|X,Z,\beta,u)=R$

$Var(Y|X,\beta)=Z'DZ+R=V$

簡単にするために、ます。 $R=\sigma^2I_n$

基本的に私の質問は、さまざまなパラメーター化のデータからどの程度正確に推定するかです。が対角（ランダム効果は独立）であるか、完全にパラメーター化されている（現時点でより興味がある場合）か、他のさまざまなパラメーター化のいずれかであると仮定しますか？これらの簡単な推定量/方程式はありますか？（それは間違いなく繰り返し推定されるでしょう。） $D$ $D$ $D$

編集： 書籍Variance Components（Searle、Casella、McCulloch 2006）から、私は何とか次のように光り輝くことができました。

もし $D=\sigma^2_uI_q$ 次のように、その後、分散コンポーネントが更新され、計算されます。

$\sigma_u^{2(k+1)} = \frac{\hat{\textbf{u}}^T\hat{\textbf{u}}} {\sigma_u^{2(k)}\text{trace}(\textbf{V}^{-1}\textbf{Z}^T\textbf{Z})}$

$\sigma_e^{2(k+1)} = Y'(Y-X{\hat{\beta}}^{(k)}-{Z}\hat{{u}}^{(k)})/n$

ここで、 $\hat{\beta}^{(k)}$ および $\hat{{u}}^{(k)}$ はそれぞれ $k$ 番目の更新です。

$D$ がブロック対角または完全にパラメーター化されている場合の一般的な式はありますか？完全にパラメータ化されたケースでは、コレスキー分解を使用して、正定性と対称性を確保しています。

— dcl
ソース

2

arxiv.org/pdf/1406.5823（で記者における統計ソフトウェアのジャーナル ...役に立つかもしれません）

— ベンBolker

8

Goldstein .pdf @probabilityislogicリンクは素晴らしいドキュメントです。特定の質問について説明している参考文献のリストを次に示します。

Harville、1976：ランダム効果の推定を含むガウス・マルコフの定理の拡張。

Harville、1977：分散成分推定および関連する問題に対する最尤法。

Laird and Ware、1982：縦断データの変量効果モデル。

McCulloch、1997：一般化線形混合モデルの最尤アルゴリズム。

MIXEDプロシージャのSASユーザーガイドの抜粋には、共分散推定およびその他の多くのソースに関する素晴らしい情報があります（3968ページ以降）。

そこ縦/反復測定データの分析に多数の品質の教科書がありますが、ここでは（の作者からRに実装に関するいくつかの詳細に入る一つだlme4とnlme）：

Pinheiro and Bates、2000：SおよびS-PLUSの混合効果モデル。

編集：もう一つの関連論文：リンドストロームとベイツ、1988年：ニュートン・ラプソンと反復測定データの線形混合効果モデルのEMアルゴリズム。

編集2：そして別の：JennrichとSchluchter、1986：構造化共分散行列を持つ不均衡な反復測定モデル。

PinheiroとBates、特に第2章（理論と計算）を見てきましたが、共分散構造がどのように適用され推定されるかについて何も光っていませんでしたか？すぐにまた調べます。私はここに座っているそれらの論文のいくつかを持っています、私は間違いなく再びそれらを読む必要があります。乾杯。

— dcl

1

@dcl P＆Bの第2章を振り返ってみると、興味のあるステップのいくつかを明らかにしている可能性があります（共分散パラメーターに対する対数尤度の最適化について言及していますが、その方法については言及していません）。そうは言っても、セクション2.2.8はあなたの質問に最もよく対処するセクションかもしれません。

1

@dcl役立つソースをもう1つ追加しました。

リンクをありがとう。過去にこれらの論文を閲覧したことがありますが、そのうちのいくつかは非常に技術的なものです。もう1つブラウズしますが、一見すると、欲しいものが手に入らないようです。

— dcl

1

@dclリンクの壁で申し訳ありませんが、あなたの質問は、人が数回の完全な講義を議論するのに費やすことができるものです（混合効果モデルについて最初に学ぶとき、それは一種の敷物の下にスイープされるような非常に良い質問です）。文献を泳ぐこととは別に、できることの1つは、ソースコードをlme4調べて、この推定をどのように処理するかを確認することです。

7

ハーベイ・ゴールドスタインは始めるのに悪い場所ではありません。

ほとんどの複雑な推定方法と同様に、ソフトウェアパッケージによって異なります。ただし、多くの場合、次の手順が実行されます。

（たとえば）および（たとえば）の初期値を選択します。設定 $D$ $D_0$ $R$ $R_0$ $i=1$
上の条件および、推定値とと。推定値は呼び出しとおよび。 $D=D_{i-1}$ $R=R_{i-1}$ $\beta$ $u$ $\epsilon$ $\beta_i$ $u_i$ $\epsilon_i$
上の条件と及び、推定値と。推定値および呼び出す $\beta=\beta_i$ $u=u_i$ $\epsilon=\epsilon_i$ $D$ $R$ $D_i$ $R_i$
$i=i+1$

シンプルで高速な方法の1つはIGLSです。これは、2つの最小二乗法間の反復に基づいており、第2章で詳しく説明されています。欠点は、ゼロに近い分散成分ではうまく機能しないことです。

— 確率論
ソース

これが一般的な方法であることは知っていますが、DとRはどのように推定されますか、さまざまな構造にどの方程式が使用されますか？良い初期値とは何ですか？pdfを今すぐチェックします。

— DCL

1

次の記事は、Dの閉じた形式のソリューションを示しています。

J. Shao、Mari Palta＆Roger Qu、（1998）、「測定されていない共変量を含む混合効果モデルの回帰パラメータの最小二乗推定」、Communications in Statistics-Theory and Methods、27：6、1487-1501、DOI：10.1080 / 03610929808832172

— ラルカグイ
ソース

1

サールらとリンチとウォルシュ遺伝学と量的形質の分析による有用な分散成分である可能性のある2つの参照。リンチとウォルシュの本は、私が正しいことを思い出すと、ステップごとのアルゴリズムを提供します

— アショクラガベンドラン
ソース