線形モデルとしての一般的な統計検定

（更新：私はこれをより深く掘り下げ、結果をここに投稿しました）

名前付き統計検定のリストは膨大です。一般的なテストの多くは、1標本t検定はただである例えば、単純な線形モデルから推論に頼る=β+εyのヌルモデルに対してテストされ、Y =μ+εことすなわちβ=μ μは、いくつかのヌルです値-通常はμ= 0。

これは、名前付きモデルのローテート学習、それらを使用するタイミング、およびそれらが互いに関係がないかのように仮定することよりも、教育目的にとってかなり有益であることがわかりました。そのアプローチは促進しますが、理解を促進しません。ただし、これを収集する優れたリソースが見つかりません。私は、モデルからの推論の方法よりも、基礎となるモデル間の同等性にもっと興味があります。私が見る限り、これらすべての線形モデルの尤度比検定は、「古典的な」推論と同じ結果をもたらします。

エラー項を無視し、すべての帰無仮説が効果の欠如であると仮定して、これまでに学んだ同等性を次に示します。 $\varepsilon \sim \mathcal N(0, \sigma^2)$

1標本t検定： 。 $y = \beta_0 \qquad \mathcal{H}_0: \beta_0 = 0$

対応のある標本のt検定： $y_2-y_1 = \beta_0 \qquad \mathcal{H}_0: \beta_0 = 0$

これは、ペアワイズ差分の1サンプルt検定と同じです。

2標本t検定： $y = \beta_1 * x_i + \beta_0 \qquad \mathcal{H}_0: \beta_1 = 0$

xはインジケータ（0または1）です。

ピアソン相関： $y = \beta_1 * x + \beta_0 \qquad \mathcal{H}_0: \beta_1 = 0$

バイナリx軸上の単なる回帰である2サンプルt検定との類似性に注意してください。

スピアマン相関： $rank(y) = \beta_1 * rank(x) + \beta_0 \qquad \mathcal{H}_0: \beta_1 = 0$

これは、ランク変換されたxおよびyのピアソン相関と同じです。

一元配置分散分析： $y = \beta_1*x_1 + \beta_2*x_2 + \beta_3*x_3 +... \qquad \mathcal{H}_0: \beta_1, \beta_2, \beta_3, ... = \beta$

ここ関連の選択指標である（1 1であり、他は0です）。モデルは、おそらくような行列形式で記述できます。 $x_i$ $\beta$ $x$ $Y = \beta * X$

二元配置分散分析： $y = \beta_1 * X_1 + \beta_2 * X_2 + \beta_3 * X_1 * X_2 \qquad \mathcal{H}_0: \beta_3 = 0$

2つの2レベルの要因。ここではベータのベクトルであり、インジケータベクトルによって選択されます。ここに示されているが、相互作用効果です。 $\beta_i$ $X_i$ $\mathcal{H}_0$

この線形モデルのリストに「名前付きテスト」を追加できますか？たとえば、多変量回帰、その他の「ノンパラメトリック」検定、二項検定、またはRM-ANOVA。

更新：SOの線形モデルとしてのANOVAとt検定に関する質問と回答があります。この質問とタグ付きの関連質問をご覧ください。

— ジョナス・リンデロフ
ソース

これらの比較は適切だと思いますが、ある時点で微妙な違いもあると思います。たとえば、一元配置分散分析を使用します：線形回帰は係数を提供し、ほとんどのソフトウェアパッケージではWald検定（適切ではない可能性があります）を使用して係数ごとの有意性を提供します。係数の1つはゼロとは大きく異なります。ヌルモデルと対象の回帰モデルの間の尤度比検定は、より匹敵する場合があります。そのため、これらのテスト/モデルを完全に同等にすることはできません。

— IWS

いい視点ね; 「基礎となるモデルからの推論の方法よりも、基礎となるモデル間の等価性にもっと興味がある」と言って、質問を更新しました。一元配置分散分析と交互作用項での尤度比検定では、検定が行われる限り、「古典的」分析と同じp値が得られます。

— ジョナスリンデロフ

十分に公平ですが、推論は別にして、回帰モデルは、非線形性を処理するときに追加の柔軟性を提供することに注意してください非連続従属変数も処理する一般化モデルのそれでも、名前付きテストの説明は、教育目的の回帰モデルの制限的なバリエーションとしてメリットがあるため、+ 1

— IWS

スピアマンの順位相関は本当に線形モデルですか？

— マーティンディーツ

@MartinDietz：はい、xとyをランク変換した後、線形になります。Rコード：x = rnorm(100); y = rnorm(100); summary(lm(rank(x) ~ rank(y))); cor.test(x, y, method='spearman')

— JonasLindeløv17年

完全なリストではありませんが、一般化線形モデルを含めると、この問題の範囲はかなり大きくなります。

例えば：

トレンドのコクラン-アーミテージ試験はによって製剤化することができる：

E [ロジット （ p ） | t] = β_{0} + β_{1} t H_{0} ： β_{1} = 0

$E[\mbox{logit} (p) | t] = \beta_0 + \beta_1 t \qquad \mathcal{H}_0: \beta_1 = 0$

分割表のピアソンカイ二乗独立性検定 $p \times k$ は、次の式で与えられるセル周波数の対数線形モデルです。

E [ログ （ μ ）] = β_{0} + β_{私 。} + β_{。 j} + γ_{私 j} 私 、 j > 1 H_{0} ： γ_{私 j} = 0 、 私 、 j > 1

$E[\log (\mu)] = \beta_0 + \beta_{i.} + \beta_{.j} + \gamma_{ij} \quad i,j > 1 \qquad\mathcal{H}_0: \gamma_{ij} = 0, \quad i,j > 1$

また、不等分散のt検定は、Huber Whiteのロバストな誤差推定を使用して近似されます。

— AdamO
ソース