ANOVA：グループごとのサンプル数が少ない多くのグループの正規性の仮定のテスト

次の状況を想定します。

小さいグループサイズ（たとえばn = 3）で多数（たとえば20）があります。均一な分布から値を生成すると、エラー分布が均一であっても残差がほぼ正規に見えることに気付きました。次のRコードは、この動作を示しています。

n.group = 200
n.per.group = 3

x <- runif(n.group * n.per.group)
gr <- as.factor(rep(1:n.group, each = n.per.group))
means <- tapply(x, gr, mean)
x.res <- x - means[gr]
hist(x.res)

3つのグループのサンプルの残差を見ると、動作の理由は明らかです。

$r_1 = x_1 - \text{mean}(x1, x2, x3) = x1 - \frac{x_1+x_2+x_3}{3}=\frac{2}{3}x_1 - x_2 - x_3.$

ここに画像の説明を入力してください

以来、概ね異ならない標準偏差を有するランダム変数の和であり、その分布はかなり近い正規分布に個々の用語よりなります。 $r_1$

ここで、シミュレートされたデータではなく、実際のデータで同じ状況があると仮定します。正規性に関するANOVAの仮定が成り立つかどうかを評価したいと思います。最も推奨される手順では、残差の目視検査（QQプロットなど）または残差の正規性テストを推奨しています。上記の私の例のように、これは小さなグループサイズには本当に最適ではありません。

小さなサイズのグループが多数ある場合、より良い代替手段はありますか？

anova normal-distribution small-sample

— エリック
ソース

いくつかの理由により、これは問題ではないようです。まず、残差は均一に見えます。これを確認するには、膨大な数のグループのヒストグラムを見てください。第二に、残差の正規性はほとんどの分析にとってほとんど重要ではありません。重要なのは、サンプリング分布のおおよその正規性です。それでは、アプリケーションのどのような特別な側面が実際の問題があると思い込ませますか？

— whuber

a）私の残差は均一に見えません。20〜20000の多数のグループ（グループごとのサンプルではない）でこれをテストしました。質問に例を付けました。均一と正常の間の何かのように見え、正常への明確な傾向があります。b）サンプリング分布のおおよその正規性についてであることを知っています。残差は正常に見えますが、サンプリング分布はそうではないため、これが問題のポイントです。したがって、残差を使用してサンプリング分布のプロパティをテストすることはできません。

— エリック

それは正しいです。しかし、エラーの分布に本当に興味がありますか、それとも分散分析の実行に興味がありますか？（質問を無視すべきだと示唆するつもりはありません-これはあなたが提起した魅力的な問題です-しかし、データ分析を進めるために本当に答えが必要かどうか疑問に思っています。）

— whuber

ただし、同じシミュレーションを使用して、ANOVAの堅牢性を調査することができます！

— kjetil bハルヴォルセン

わずかに接線的ですが関連するコメント：一般に、仮説検定を行う前に正規性（または別のモデル仮定）の検定を使用すると、（少なくとも）3つの問題が発生します。1）行う場合、複数の検定を考慮する必要があります。2）「正常ではない」などの対立仮説を拒否しても、正常性を結論付けることができるわけではありません。3）モデル仮定のテストには独自のモデル仮定があるため、どこでやめますか？

— マーサ

$a<b$ $\frac{a+b}2{}$ $\sigma$ $(a,b)$ $\sigma<a$ $\sigma>b$ $\text{SD}<\sigma$ $n>100$

これで、フラストレーションで手を放すのではなく、通常の条件下でSDに少数の修正を適用できます。（ハ！私たちの悲惨さには解決策があります。）

$\frac{SD(n)}{\mu(n)}\,=\,\sqrt{\frac{2}{n-1}}\,\,\,\frac{\Gamma\left(\frac{n}{2}\right)}{\Gamma\left(\frac{n-1}{2}\right)} \, = \, 1 - \frac{1}{4n} - \frac{7}{32n^2} - \frac{19}{128n^3} + O(n^{-4})$ 見る $E[\mu]$

にとって $n=3$ 、これは $\Gamma(\frac{3}{2})=\frac{\sqrt{\pi }}{2}\approx0.8862269255$ 。つまり、SDをその分だけ割って推定する必要があります $\sigma$ 。

さて、あなたがプレゼンテーションを行う場合、他にもいくつかのことが起こっています。偶然にも、均一な分布の位置の最良の尺度は平均ではありません。サンプル平均とサンプル中央値はどちらも中点の不偏推定量ですが、どちらもサンプル中範囲ほど効率的ではありません。つまり、サンプル最大値とサンプル最小値の算術平均は最小分散不偏推定量UMVUです中間点の推定量（および最尤推定値）。

今、問題の肉に。極値の平均を使用する場合、データが真に均一に分布していれば、位置の測定値の分散は小さくなります。単一の極値テールが正常である可能性が高いため、正規分布する場合があります。ただし、3サンプルのみの場合、標準偏差を修正する必要があります。

— カール
ソース