通常のエラーの代わりにtエラーを使用する必要があるのはなぜですか？

で、このアンドリュー・ゲルマンによって、ブログの記事、次の一節があります：

50年前のベイジアンモデルは絶望的に単純に見えます（もちろん、単純な問題を除いて）。そして、今日のベイジアンモデルは50年後には絶望的に単純に見えると思います。（簡単な例として：ほぼどこでも通常のエラーの代わりに日常的にtを使用する必要がありますが、馴染み、習慣、数学的利便性のため、まだ使用していません。政治では、保守主義には賛成で多くの良い議論がありますが、最終的には、より複雑なモデルに慣れると、その方向に進むと思います。）

なぜ「ほぼどこでも通常のエラーの代わりに通常tを使用する」必要があるのでしょうか？

なぜなら、通常のエラーを想定することは、大きなエラーが発生しないと想定することと事実上同じだからです！正規分布のテールは非常に小さいため、標準偏差以外のエラーの確率は非常に低く、標準偏差以外のエラーは事実上不可能です。実際には、その仮定はほとんど真実ではありません。適切に設計された実験から小さく整頓されたデータセットを分析する場合、残差を適切に分析すれば、これは重要ではないかもしれません。品質の低いデータでは、さらに重要になる場合があります。$\pm 3$$\pm 6$

尤度ベース（またはベイジアン）の方法を使用する場合、この正規性の効果（上記のように、事実上、これは「大きなエラーなし」-仮定です！）は、推論をほとんどロバストにしません。分析の結果は、大きなエラーの影響を大きく受けます！「大きなエラーがない」と仮定すると、メソッドは大きなエラーを小さなエラーとして解釈し、平均値パラメーターを移動してすべてのエラーを小さくすることによってのみ発生します。 これを回避する1つの方法は、いわゆる「堅牢な方法」を使用することです。http：//web.archive.org/web/20160611192739/http：//www.stats.ox.ac.uk/pub/StatMeth/Robustを参照して ください.pdf

しかし、堅牢な方法は通常、非常に非ベイジアンな方法で提示されるため、Andrew Gelmanはこれには向かないでしょう。尤度/ベイジアンモデルでt分布誤差を使用することは、分布の裾が通常よりも重いため、大きな誤差の大部分を許容するため、堅牢な方法を得るための別の方法です。そのような推定は、それはまた、非常に難しい問題である（（*）のための尤度関数法の頑健性を破壊するので、自由パラメータの度の数は、データから推定していない、事前に修正する必要があり、自由度の数は制限されていないため、非常に非効率な（一貫性のない）推定量につながります）。$t$$\nu$

たとえば、10個の観測のうち1個が「大きな誤差」（3 sdを超える）であると（恐れている）場合、2自由度の分布を使用できます。大きなエラーの割合は小さいと考えられています。$t$

上記で述べたことは、独立した分布誤差をもつモデルに対するものです。エラー分布として多変量分布（独立ではない）の提案もありました。その提案は、「ブラザーズの新しい服：多変量回帰モデルの批判」という論文で厳しく批判されています。51、nr。3、pp。269-286、多変量誤差分布が経験的に正規と区別できないことを示しています。しかし、その批判は独立したモデルには影響しません。 $t$$t$$t$$t$$t$

（*）これを示す1つのリファレンスは、Venables＆RipleyのMASS --- Modern Applied Statistics with S（第4版の110ページ）です。

それは単に「より重い尾」の問題ではありません—鐘形で重い尾を持つ分布がたくさんあります。

T分布は、ガウスモデルの事後予測です。ガウスの仮定を立てるが、証拠が限られている場合、結果のモデルは必然的に非中央スケーリングt分布予測を行っています。限界では、証拠の量が無限になると、t分布の限界がガウスになるため、ガウス予測になります。

なぜこれが起こるのですか？証拠が限られているため、モデルのパラメーターには不確実性があるためです。ガウスモデルの場合、平均の不確実性は単に分散を増加させるだけです（つまり、既知の分散を持つガウスの事後予測は依然としてガウスです）。しかし、分散に関する不確実性は、重い尾を引き起こすものです。モデルが無制限の証拠でトレーニングされている場合、分散（または平均）に不確実性はなくなり、モデルを使用してガウス予測を行うことができます。

この引数は、ガウスモデルに適用されます。また、尤度がガウス分布であると推定されるパラメーターにも適用されます。有限データが与えられた場合、パラメーターに関する不確実性はt分布です。通常の仮定（未知の平均と分散を使用）、および有限データがある場合は常に、t分布の事後予測があります。

すべてのベイジアンモデルに対して同様の事後予測分布があります。ゲルマンは、これらを使用することを提案しています。彼の懸念は十分な証拠によって緩和されるでしょう。