ANOVAは最尤法ではなくモーメント法に依存していますか?


13

さまざまな場所で、ANOVAはモーメント法を使用して推定を行うと述べています。

瞬間の方法に精通していなくても、それは最尤法とは異なるものであり、同等ではないという私の理解だからです。一方、ANOVAは、カテゴリ予測変数との線形回帰として見ることができ、回帰パラメータのOLS推定は、ある最大尤。

そう:

  1. ANOVA手順をモーメント法として適格とするものは何ですか?

  2. ANOVAは、カテゴリカル予測子を使用したOLSと同等であるため、最尤ではありませんか?

  3. 通常のANOVAの特殊なケースでこれら2つの方法が何らかの形で同等であることが判明した場合、差異が重要になる特定のANOVA状況はありますか?不均衡な設計?繰り返し測定?混合(被験者間+被験者内)デザイン?


4
単純な設定では、一方向および二元配置のANOVAを意味します。ANOVAは、分散が等しい正規分布の下でLRTから導出されるため、使用される最尤法です。もちろん通常の場合、muleとmomの推定量は一致するため、区別はそれほど重要ではありません。ただし、より複雑な設定では、LRTを導出するのではなく、OLS回帰に依存します。OLSは、正規分布下のmleのみであり、残差と直交性を課す場合、より一般的な設定ではお母さんの推定量です。
JohnK

1
@JohnK、あなたのコメントに感謝しますが、私はそのいくつかの部分、特に2番目の部分を理解するのに苦労しています:ANOVAがLRTではなくOLSに依存する「より複雑な設定」とは何ですか?この「より一般的な設定」でOLSがMLEではないのはなぜですか?ANOVAシナリオでは常に通常のエラーが想定されると思いますか?残差との直交性は何をする必要がありますか?コメントを回答に展開していただければ幸いです。
アメーバは、モニカーを復活させる

2
@アメーバ。回答を編集して、ANOVAがモーメント推定器であるという最初のポイントに対処しました。これはランダム効果にのみ当てはまります。
プラキディア

回答:


12

1978年にオックスフォードで修士課程の学生だったときに初めてANOVAに出会いました。現代のアプローチでは、重回帰モデルで連続変数とカテゴリ変数を一緒に教えることで、若い統計学者が何が起こっているかを理解することが難しくなります。そのため、より単純な時代に戻ると役立ちます。

元の形式では、ANOVAは算術の練習であり、それによって平方和の合計を、処理、ブロック、相互作用などに関連する部分に分割します。バランスの取れた設定では、直観的な意味を持つ平方和(SSBやSSTなど)が調整された合計平方和になります。このすべては、コクランの定理のおかげです。Cochranを使用すると、通常の帰無仮説の下でこれらの項の期待値を計算でき、そこからF統計が流れます。

おまけとして、コクランと二乗和について考え始めると、直交コントラストを使用して二乗和の治療をスライスし、ダイシングすることは理にかなっています。ANOVAテーブルのすべてのエントリには、統計学者にとって関心のある解釈があり、検証可能な仮説を生成する必要があります。

最近、MOMメソッドとMLメソッドの違いが生じた回答を書きました。質問は、変量効果モデルの推定をオンにしました。この時点で、従来のANOVAアプローチは完全に最尤推定で部品会社にアプローチし、効果の推定はもはや同じではありません。設計のバランスが崩れている場合、同じF統計値も得られません。

σp2σ2σ2+nσp2nσb2^。ANOVAは、ランダム効果分散のモーメント推定量のメソッドを生成します。現在、このような問題は混合効果モデルで解決する傾向があり、分散成分は最尤推定またはREMLによって取得されます。

ANOVAは、モーメント法の方法ではありません。二乗和(または、より一般的には、応答の2次形式)を意味のある仮説を生成するコンポーネントに分割します。平方和にF検定のカイ二乗分布が機能するようにするため、正規性に強く依存します。

最尤フレームワークはより一般的であり、平方和が適用されない一般化線形モデルなどの状況に適用されます。一部のソフトウェア(Rなど)は、漸近カイ2乗分布を使用した尤度比検定にanovaメソッドを指定することで混乱を招いています。「anova」という用語の使用は正当化できますが、厳密に言えば、その背後にある理論は異なります。


2
一元配置および二元配置のANOVAのF検定尤度比検定であり、信じられない場合はHogg and Craig、Intrduction to Mathematical Statistics、chapter 9を参照してください。さらに、通常の回帰で使用されるF検定もLRTであり、そのための多くの参考文献があります。
JohnK

1
私が確認しておきます、チェックします。今のところ、段落を削除しました。
プラキディア

1
+1、答えてくれてありがとう。ところで、私の質問を引き起こしたのは、まさにあなたのリンクされた答えです。あなたが書いたことについて、私にはよくわからないことがたくさんあります。私はお正月に旅行し、それについて考える時間はありませんが、1月に戻ったらこのスレッドに戻ります。それまでの間、@ JohnKがコメントで指摘した点を拡大した回答を投稿することをもう一度お勧めします。おそらく特定の例を挙げて、技術的な説明を特に感謝します。メリークリスマスと新年おめでとうございます!
アメーバは、Reinstate Monica

1
あなたにもメリークリスマス。リンクされた投稿では、ランダム効果分散の推定について考えていました。これは、従来のアプローチのMOMです。私の発言が私が意図したより一般的なものだった場合は申し訳ありません。
プラキディア

2
1.5年後、私はあなたの答えを読み直し、それがかなり明確であることに気づいたので、ついに受け入れられたとマークしました:-)乾杯。
アメーバは、モニカを復活させる
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.