Normalエラーの仮定は、YもNormalであることを意味しますか？

12

誤解しない限り、線形モデルでは、応答の分布には系統的な成分とランダムな成分があると想定されます。エラー項は、ランダム成分をキャプチャします。したがって、エラー項が正規分布であると仮定した場合、応答も正規分布であることを意味しないのでしょうか？私はそれを行うと思いますが、その後、次のようなステートメントはかなり混乱しているように見えます：

そして、このモデルの「正規性」の唯一の仮定は、残差（または「エラー」）が正規分布することであることが明確にわかります。予測子または応答変数の分布に関する仮定はありません。 $\epsilon_i$ $x_i$ $y_i$

出典：予測子、応答、および残差：正規分布に実際に必要なものは何ですか？

regression assumptions

— アーネストA
ソース

7

が確率的でない場合、

正規性は従属変数の正規性を意味します。確率的独立変数の場合、これは一般的に成り立たず、独立変数の分布に依存します。

x

$x$

ϵ

$\epsilon$

19

標準的なOLSモデルであるとのための固定された。 $Y = X \beta + \varepsilon$ $\varepsilon \sim \mathcal N(\vec 0, \sigma^2 I_n)$ $X \in \mathbb R^{n \times p}$

これは確かに、これは分布に関する我々の仮定の結果であるが、はなく、実際に想定されるよりも、。また、私はの条件付き分布について話していることに注意しての周辺分布ではなく、。私はそれがあなたが本当に求めているものだと思うので、条件付き分布に焦点を当てています。 $Y|\{X, \beta, \sigma^2\} \sim \mathcal N(X\beta, \sigma^2 I_n)$ $\varepsilon$ $Y$ $Y$

紛らわしいのは、これはヒストグラムが正常に見えることを意味しないということです。私たちは、全体のベクトルと言っている各要素が潜在的に異なる平均持つ多変量正規分布からのシングルドローで。これは、通常のiidサンプルと同じではありません。エラー実際にはiidサンプルであるため、それらのヒストグラムは正常に見えます（それが、応答ではなく残差のQQプロットを行う理由です）。 $Y$ $Y$ $E(Y_i|X_i) = X_i^T\beta$ $\varepsilon$

次に例を示します。6年生と12年生のサンプルの高さを測定しているとします。我々のモデルは、と。ヒストグラムを見ると、6年生に1つのピーク、12年生に1つのピークがあるバイモーダル分布が表示されますが、これは仮定の違反ではありません。 $H$ $H_i = \beta_0 + \beta_1I(\text{12th grader}) + \varepsilon_i$ $\varepsilon_i \sim \ \text{iid} \ \mathcal N(0, \sigma^2)$ $H_i$

— jld
ソース

誰かが表記明確にしてくださいでした

？

σ^{2} I_{n}

$\sigma^2 I_n$

— -snoram

それは意味

のスカラーで乗算単位行列

。

n \times n

$n \times n$

σ^{2}

$\sigma^2$

— jld

の単位行列時間いくつかの分散。

n \times n

$n\times n$

— Sycoraxは回復モニカ言う

11

したがって、エラー項が正規分布であると仮定した場合、応答も正規分布であることを意味しないのでしょうか？

リモートでも。私がこれを覚えているのは、残差がモデルの決定論的な部分を条件とする正常なものだということです。これが実際にどのように見えるかのデモです。

いくつかのデータをランダムに生成することから始めます。次に、予測子の線形関数である結果を定義し、モデルを推定します。

N <- 100

x1 <- rbeta(N, shape1=2, shape2=10)
x2 <- rbeta(N, shape1=10, shape2=2)

x <- c(x1,x2)
plot(density(x, from=0, to=1))

y <- 1+10*x+rnorm(2*N, sd=1)

model<-lm(y~x)

これらの残差がどのように見えるかを見てみましょう。結果yにiidの通常のノイズが追加されたため、それらは正規分布する必要があると思います。そして確かにそうです。

plot(density(model$residuals), main="Model residuals", lwd=2)
s <- seq(-5,20, len=1000)
lines(s, dnorm(s), col="red")

plot(density(y), main="KDE of y", lwd=2)
lines(s, dnorm(s, mean=mean(y), sd=sd(y)), col="red")

しかし、yの分布を確認すると、それは間違いなく正規ではないことがわかります！と同じ平均と分散で密度関数を重ねましたyが、明らかにひどい適合です！

このケースでこれが発生した理由は、入力データがリモートでも正常ではないためです。この回帰モデルについては、独立変数や従属変数ではなく、残差を除いて正規性を必要としません。

— シコラックス、モニカを復職させる
ソース

8

いいえ、そうではありません。たとえば、オリンピック選手の体重を予測するモデルがあるとします。体重は各スポーツのアスリート間で通常分配される可能性がありますが、すべてのアスリート間ではありません-ユニモーダルでさえないかもしれません。

— ピーター・フロム-モニカの復職
ソース