正規性テストは「本質的に役に立たない」ですか？

元同僚はかつて次のように私に主張した：

通常、nullの下で、漸近的またはほぼ正常なランダム変数を生成するプロセスの結果に正規性テストを適用します （「漸近的」部分は大きくできない量に依存します）。安価なメモリ、ビッグデータ、高速プロセッサの時代では、正規性テストでは、大きなサンプル（非常に大きなものではないが）の正規分布のヌルを常に拒否する必要 があります。したがって、逆に、正規性テストは、おそらくより低いパワーとタイプIレートの制御が少ないと思われる小さなサンプルにのみ使用する必要があります。

これは有効な引数ですか？これはよく知られた議論ですか？正規性よりも「ファジーな」帰無仮説のよく知られたテストはありますか？

それは議論ではありません。正式な正規性テストでは、現在使用している膨大なサンプルサイズを常に拒否するという（少し強く述べた）事実です。nが大きくなると、完全な正規性からのわずかな偏差でも重要な結果につながることを証明するのは簡単です。また、すべてのデータセットにはある程度のランダム性があるため、単一のデータセットが完全に正規分布したサンプルになることはありません。しかし、応用統計では、問題はデータ/残差が完全に正常であるかどうかではなく、仮定が成り立つのに十分な正常です。

Shapiro-Wilkテストで説明しましょう。以下のコードは、正規性に近づくが完全に正規ではない分布のセットを構築します。次に、shapiro.testこれらのほぼ正規分布のサンプルが正規性から逸脱しているかどうかをテストします。Rで：

x <- replicate(100, { # generates 100 different tests on each distribution
                     c(shapiro.test(rnorm(10)+c(1,0,2,0,1))$p.value,   #$
                       shapiro.test(rnorm(100)+c(1,0,2,0,1))$p.value,  #$
                       shapiro.test(rnorm(1000)+c(1,0,2,0,1))$p.value, #$
                       shapiro.test(rnorm(5000)+c(1,0,2,0,1))$p.value) #$
                    } # rnorm gives a random draw from the normal distribution
               )
rownames(x) <- c("n10","n100","n1000","n5000")

rowMeans(x<0.05) # the proportion of significant deviations
  n10  n100 n1000 n5000 
 0.04  0.04  0.20  0.87 

最後の行では、すべてのサンプルサイズのシミュレーションのどの部分が正規性から大幅に逸脱しているかをチェックします。そのため、Shapiro-Wilksによれば、ケースの87％で、5000件の観測のサンプルが正常から大きく外れています。しかし、qqプロットを見ると、正規性からの逸脱を決定することはありません。以下に、ランダムサンプルの1つのセットのqqプロットの例を示します

p値付き

  n10  n100 n1000 n5000 
0.760 0.681 0.164 0.007 

正規性テストが「本質的に役に立たない」かどうかを考えるとき、最初にそれが何のために役立つと思われるかについて考えなければなりません。多くの人々（少なくとも...多くの科学者）は、正常性テストが答える質問を誤解しています。

質問の正規性テストの答え：ガウスの理想からの逸脱の説得力のある証拠はありますか？適度に大きな実データセットでは、答えはほとんど常に「はい」です。

科学者は、通常、正規性検定に答えることを期待します。データは、ガウス分布を前提とする検定の使用を「禁止」するガウスの理想から十分に逸脱していますか？科学者は通常、正規性テストを、従来の（ANOVAなど）テストをいつ放棄するかを決定し、代わりに変換されたデータを分析するか、ランクベースのノンパラメトリックテストまたはリサンプリングまたはブートストラップアプローチを使用するレフリーにすることを望んでいます。この目的のために、正規性テストはあまり役に立ちません。

正規性のテストは、グラフィカルな検査の仲間として役立つと思います。ただし、正しい方法で使用する必要があります。私の意見では、これは、シャピロ・ウィルク、アンダーソン・ダーリング、ジャーク・ベラなどの多くの一般的なテストを使用すべきではないことを意味します。

私の立場を説明する前に、いくつかの発言をさせてください。

• 興味深い最近の論文で ロション等。Shapiro-Wilk検定が2標本t検定に与える影響を調査しました。たとえば、t検定を実行する前に、正常性をテストする2段階の手順に問題がないわけではありません。この場合も、t検定を実行する前に正常性をグラフィカルに調査する2段階の手順はありません。違いは、後者の影響ははるかに難しい（それはグラフィカル正常調査する統計学者を必要とするように調査することであるということである$100,000$ ...またはそう回）。
• 正式なテストを実行したくない場合でも、たとえばサンプルの歪度を計算することにより、非正規性を定量化すると便利です。
• 多変量正規性は、グラフィカルに評価するのが難しい場合があります、多変量統計では漸近分布への収束が遅い場合があります。したがって、正規性のテストは多変量の設定でより有用です。
• 正規性のテストは、統計をブラックボックスメソッドのセットとして使用する開業医にとって特に有用です。正規性が拒否された場合、開業医は警戒する必要があり、正規性の仮定に基づいて標準手順を実行するのではなく、ノンパラメトリック手順の使用、変換の適用、または経験豊富な統計学者への相談を検討してください。
• 他の人から指摘されているように、$n$が十分に大きい場合、CLTは通常1日を節約します。ただし、ディストリビューションのクラスによって「十分に大きい」ものは異なります。

（私の定義では）正規性のテストは、あるクラスの代替に敏感であるが、他のクラスの代替には敏感ではない場合、代替のクラスに対して行われます。典型的な例は、スキューまたは尖度のある代替に向けられたテストです。最も単純な例では、テストの統計としてサンプルの歪度と尖度を使用します。

正規性の有向テストは、オムニバステスト（Shapiro-WilkおよびJarque-Beraテストなど）よりも間違いなく好ましい場合が多いと考えられます。。

スチューデントのt検定を例として考えてみましょう。我々は歪度と分布からのiidサンプルがあると$\gamma=\frac{E(X-\mu)^3}{\sigma^3}$と（過剰）尖度$\kappa=\frac{E(X-\mu)^4}{\sigma^4}-3.$場合$X$その平均、約対称である$\gamma=0$。$\gamma$とκの両方$\kappa$正規分布の場合、は 0です。

規則性の仮定の下で、我々は以下得る漸近展開検定統計量の累積分布関数のための$T_n$：

ここで、$\Phi(\cdot)$はcdfであり、$\phi(\cdot)$は標準正規分布のpdfです。

$\gamma$最初に時間を表示$n^{-1/2}$一方、用語$\kappa$で表示され$n^{-1}$用語。T nの漸近的性能は、尖度の形よりも歪度の形で正規性からの偏差にはるかに敏感です。$T_n$

シミュレーションを使用して、これが小さい$n$にも当てはまることが確認できます。したがって、スチューデントのt検定は歪度に敏感ですが、太い尾に対して比較的堅牢であり、t検定を適用する前にスキューの代替に向けられた正規性の検定を使用するのが妥当です。

以下のように親指のルール（ではない自然の法則）、手段についての推論は、分散についての歪度と推論に敏感である尖度に敏感です。

正規性の有向テストを使用すると、「危険な」代替案に対して高いパワーを獲得し、「危険性の低い」代替案に対して低いパワーを獲得するという利点があります。推論手順のパフォーマンスには影響しません。非正規性は、当面の問題に関連する方法で定量化されます。これは必ずしもグラフィカルに行うのが簡単ではありません。

以下のように$n$大きくなり、歪度および尖度はそれほど重要になる-と向かうテストは、これらの量が少量でもにより0からずれるかどうかを検出する可能性があります。そのような場合、たとえば$|\gamma|\leq 1$または（上記の拡張の最初の項を見て）

IMHO正規性テストは、次の理由によりまったく役に立ちません。

1. 小さなサンプルでは、​​母集団の真の分布が実質的に非正規である可能性が十分にありますが、正規性検定はそれを検出するのに強力ではありません。

2. 大規模なサンプルでは、​​T検定やANOVAなどは非正規性に対して非常に堅牢です。

3. 正規分布母集団の全体的な考え方は、とにかく便利な数学的近似にすぎません。通常、統計的に扱われる量はどれも、すべての実数をサポートする分布を持つ可能性がありません。たとえば、人々は負の身長を持つことはできません。何かが負の質量を持たないか、宇宙にある以上の質量を持つことはできません。したがって、実際の世界では何も正確に正規分布していないと言っても安全です。

正常性の事前テスト（グラフィックスを使用した非公式の評価を含む）がポイントを逃していると思います。

1. このアプローチのユーザーは、正常性評価が実質的に1.0に近いパワーを持つと想定しています。
2. Wilcoxon、Spearman、Kruskal-Wallisなどのノンパラメトリック検定の効率は、正規性が保たれている場合、0.95です。
3. 2.を考慮して、データが正規分布から生じない可能性を楽しませるなら、ノンパラメトリック検定の使用を事前に指定できます。
4. $Y$$Y$

テストまたは正規性の大まかなチェックが「有用」であるかどうかを尋ねる前に、質問の背後にある質問に答える必要があります：「なぜあなたは尋ねていますか？」

たとえば、データのセットの平均にのみ信頼限界を設定したい場合、データの量と逸脱の大きさに応じて、正常からの逸脱が重要である場合とそうでない場合があります。ただし、将来の観測値またはサンプリングした母集団の中で最も極端な値がどうなるかを予測する場合は、正規性からの逸脱が重要になりがちです。

小さなことを1つ追加し
ます。アルファエラーを考慮せずに正規性テストを実行すると、アルファエラーを実行する全体的な確率が高くなります。

アルファエラーの蓄積を制御しない限り、追加のテストがこれを行うことを決して忘れないでください。したがって、正常性テストを却下するもう1つの正当な理由。

ここでの回答は、いくつかの重要なポイントに既に対処しています。簡単にまとめると：

• 一連のデータが本当に分布に従うかどうかを判断できる一貫したテストはありません。
• テストは、データとモデルを視覚的に検査して、高レバレッジ、影響力の高い観測値を特定し、モデルへの影響についてコメントすることに代わるものではありません。
• 多くの回帰ルーチンの仮定は、正規分布の「データ」[残差]が必要であると誤って引用されることが多く、これは分析を進める前にアナリストが何らかの意味でこれを正式に評価する必要があると初心者の統計学者によって解釈されます。

私は、個人的に最も頻繁にアクセスされ、統計記事を読むために、最初に回答を追加します。「大規模な公衆衛生データセットにおける正常性の仮定の重要性」。等 全体を読む価値があります。要約の状態：

t検定と最小二乗線形回帰では、十分に大きいサンプルの正規分布の仮定は必要ありません。以前のシミュレーション研究では、「十分に大きい」とは通常100未満であり、非常に非通常の医療費データであっても500未満であることが示されています。 -testと線形モデルは、正規分布のデータだけでなく、多くのタイプのデータの違いと傾向を分析するための便利なデフォルトツールです。正規性の正式な統計的検定は、分布が重要な小さなサンプルではパワーが低く、分布が重要でない大きなサンプルでのみパワーが高いため、特に望ましくありません。

線形回帰の大標本特性は十分に理解されていますが、正規性の仮定が重要ではないために必要な標本サイズに関する研究はほとんどありません。特に、必要なサンプルサイズがモデル内の予測子の数にどのように依存するかは明確ではありません。

正規分布に焦点を当てると、これらの方法の実際の仮定から逸れる可能性があります。線形回帰では、結果変数の分散がほぼ一定であると想定していますが、両方の方法の主な制限は、結果変数の平均の変化を調べるのに十分であると想定することです。分布の他の要約が重要な場合、t検定と線形回帰は適切ではない可能性があります。

要約すると、通常、特定の科学的な質問に答えることの重要性とは対照的に、正規性は議論や注目に値するものではありません。データの平均差を要約したい場合、t検定とANOVAまたは線形回帰は、より広い意味で正当化されます。これらのモデルに基づくテストは、分布の仮定が満たされない場合でも、正しいアルファレベルのままです。ただし、電力は悪影響を受ける可能性があります。

正規分布が注目される理由は、ANOVAのF分布とT検定のスチューデントT分布に基づく正確なテストが得られる古典的な理由である可能性があります。真実は、科学の多くの現代の進歩の中で、私たちは一般的に以前に収集されたよりも大きなデータセットを扱っています。実際に小さなデータセットを処理している場合、それらのデータが正規分布しているという理論的根拠は、それらのデータ自体から来ることはできません。単に十分なパワーがありません。私の意見では、他の研究、複製、さらには測定プロセスの生物学や科学に言及することは、観測データの基礎となる可能性モデルを議論するためのはるかに正当化されたアプローチです。

このため、代替としてランクベースのテストを選択すると、ポイントが完全に失われます。ただし、ジャックナイフやブートストラップなどのロバストな分散推定量を使用すると、独立性やエラーの同一分布など、モデル仕様のより重要なさまざまな違反の下でテストを実行できる重要な計算上の代替手段が提供されることに同意します。

私が使用正規のテストは完全に無用だったことを考えるように。

しかし、今は他の研究者のコンサルティングを行っています。多くの場合、サンプルの取得は非常に高価であるため、たとえばn = 8で推論を行いたいと思うでしょう。

このような場合、ノンパラメトリック検定で統計的有意性を見つけることは非常に困難ですが、n = 8のt検定は正規性からの逸脱に敏感です。したがって、得られるものは、「まあ、正常性の仮定を条件として、統計的に有意な差を見つけた」と言うことができるということです（心配しないでください、これらは通常パイロット研究です...）。

次に、その仮定を評価する何らかの方法が必要です。私はキャンプの中途にいますが、プロットを見ることはより良い方法ですが、真実については多くの意見の相違がある可能性があり、あなたに同意しない人の一人が原稿の校閲者。

多くの点で、正規性のテストにはまだ多くの欠陥があると思います。たとえば、タイプIよりもタイプIIエラーについて考える必要があります。しかし、それらの必要性があります。

価値のあるものとして、私はかつて切り捨てられた正規分布の高速サンプラーを開発しました。関数のデバッグには正規性テスト（KS）が非常に役立ちました。このサンプラーは膨大なサンプルサイズでテストに合格しますが、興味深いことに、GSLのジグラットサンプラーはそうではありませんでした。

あなたが与えた議論は意見です。正常性テストの重要性は、データが正常から大きく逸脱しないことを確認することだと思います。推論手順にパラメトリックテストを使用するか、ノンパラメトリックテストを使用するかを決定するために時々使用します。このテストは、中程度および大規模のサンプル（中心極限定理が作用しない場合）で役立つと思います。私はWilk-ShapiroまたはAnderson-Darlingのテストを使用する傾向がありますが、SASを実行するとそれらすべてが得られ、一般的にかなりよく同意します。別の注意点として、QQプロットなどのグラフィカルな手順も同様に機能すると思います。正式なテストの利点は、客観的であることです。小さいサンプルでは、​​これらの適合度テストには実質的に力がなく、直観的に理にかなっているのは事実です。なぜなら、正規分布からの小さいサンプルは偶然ではなく非正規に見え、テストで考慮されるためです。また、多くの非正規分布と正規分布を区別する高い歪度と尖度は、小さなサンプルでは簡単に見られません。

ここでは、最大エントロピーアプローチが役立つと思います。正規分布を割り当てることができるのは、データが「正規分布」している（それが何を意味するにせよ）と考えているため、またはほぼ同じ大きさの偏差しか見ないためです。また、正規分布には十分な統計が2つしかないため、これらの量を変更しないデータの変更には影響されません。したがって、ある意味で、正規分布は、同じ1次モー​​メントと2次モーメントを持つすべての可能な分布の「平均」と考えることができます。これは、最小二乗法がうまく機能する理由の1つです。

役に立たないとは言いませんが、実際にはアプリケーションに依存します。注意してください、あなたは本当にデータがどこから来た分布を知っていることはなく、あなたが持っているのは実現の小さなセットです。サンプルの平均は常にサンプルで有限ですが、一部のタイプの確率密度関数では平均が未定義または無限になる可能性があります。3つのタイプのレビー安定分布、すなわち正規分布、レビー分布、コーシー分布を考えてみましょう。ほとんどのサンプルでは、​​テールに多くの観測値がありません（つまり、サンプル平均から離れています）。したがって、経験的には3つを区別するのは非常に難しいので、コーシー（平均値は未定義）とレビー（平均値は無限）は正規分布になりすますことが容易です。

最初の2つの質問は完全に回答されたと思いますが、質問3は解決されたとは思いません。多くのテストでは、経験的分布を既知の仮説分布と比較します。Kolmogorov-Smirnov検定の臨界値は、完全に指定されたFに基づいています。パラメータを推定したパラメトリック分布に対してテストするように変更できます。したがって、ファジーが3つ以上のパラメーターを推定することを意味する場合、質問に対する答えは「はい」です。これらのテストは、3つ以上のパラメーターファミリに適用できます。一部のテストは、特定のディストリビューションファミリに対してテストする場合に優れた能力を持つように設計されています。たとえば、正規性をテストする場合、帰無仮説の分布が正規である場合、アンダーソン-ダーリングまたはシャピロ-ウィルクテストはKSまたはカイ二乗より大きいパワーを持ちます。

分析にとって重要な「何か」が高いp値によってサポートされているテストは、間違っていると思います。他の人が指摘したように、大きなデータセットの場合、0.05未満のp値が保証されます。そのため、テストは基本的に、小さくてファジーなデータセットに対する「報酬」と証拠の欠如に対する「報酬」です。qqプロットのようなものがはるかに便利です。このようなことを常に決定するハードナンバーの欲求（はい/ノーノーマル/ノーノーマル）は、モデリングが部分的に芸術であり、仮説が実際にどのようにサポートされるかを見逃しています。

言及していないと思われる正規性テストの良い使用法の1つは、zスコアの使用が適切かどうかを判断することです。母集団からランダムなサンプルを選択し、母集団からランダムな個人を1人選択して80以上の値を取得する確率を見つけたいとします。これは、分布が正規の場合にのみ実行できます。これは、Zスコアを使用するために、母集団の分布が正規であるという前提があるためです。

しかし、私はこれも議論の余地があると見ることができると思います...