GLMのファミリーは、応答変数または残差の分布を表しますか？

私はこれについていくつかの研究室のメンバーと議論してきました、そして私たちはいくつかの情報源に行きましたが、まだ答えがありません：

GLMにポアソンのファミリーがあると言うとき、残差の分布または応答変数について話していますか？

競合のポイント

この記事を読むと、GLMの仮定は、観測の統計的独立性、リンクと分散関数の正しい仕様（応答変数ではなく残差について考えるようになる）、応答変数の正しい測定スケールであると述べています。単一ポイントの過度の影響の欠如
この質問には、それぞれ2つのポイントを持つ2つの答えがあります。最初に表示されるのは残差について、2番目は応答変数についてです。
このブログ投稿では、仮定について話しているときに、「残差の分布は他のもの、たとえば二項分布である可能性がある」と述べています。
この章の冒頭で、彼らはエラーの構造はポアソンでなければならないが、残差は確かに正と負の値を持っていると言います。どうしてポアソンになりますか？
この質問は、複製するためにこのような質問でよく引用されますが、受け入れられた答えはありません
この質問の答えは、残差ではなく応答について語っています
で、この Pensilvaniaの大学からのコースの説明彼らは仮定ではなく、残差に応答変数について話します

generalized-linear-model residuals assumptions

— デレク・コーコラン
ソース

回答:

glmモデルのファミリー引数は、応答の条件付き分布の分布ファミリーを決定します。残差（準モデルを除く）ではありません。

この方法を見てみましょう。通常の線形回帰のために、我々は、モデルを書くことができる

Y_{i} \sim Normal (β_{0} + x_{i}^{T} β, σ^{2}) .

$Y_i \sim \text{Normal}(\beta_0+x_i^T\beta, \sigma^2).$ これは、応答

Y_{i}

$Y_i$ が正規分布（一定の分散）を持っているが、期待は

i

$i$ ごとに異なることを意味します。したがって、応答の条件付き分布は正規分布です（ただし、

i

$i$ ごとに異なる分布です）。このモデルを書き込む別の方法は、

Y_{i} = β_{0} + x_{i}^{T} β + ϵ_{i}

$Y_i = \beta_0+x_i^T\beta + \epsilon_i$ 、各場合

ϵ_{i}

$\epsilon_i$ 分配される

Normal (0, σ^{2})

$\text{Normal}(0, \sigma^2)$ 。

したがって、正規分布ファミリの場合、両方の説明は正しい（正しく解釈された場合）。通常の線形モデルのために、我々はモデルで明確に分離有するからであるシステマティックパート（ $\beta_0+x_i^T\beta$ ）と外乱部（ $\epsilon_i$ 単に追加されます）。しかし、他の家族機能については、この分離は不可能です！残差が何を意味するのかという明確な定義すらありません（そのため、「残差」の多くの異なる定義）。

したがって、他のすべてのファミリでは、上記の最初に表示された方程式のスタイルの定義を使用します。つまり、応答の条件付き分布です。したがって、いいえ、ポアソン回帰の残差（定義されたものは何でも）にはポアソン分布がありません。

— kjetil b halvorsen
ソース

Kjetilの優れた答えに加えて、条件付き分布の意味を明確にするのに役立つ特定の例をいくつか追加したいと考えました。

湖から100匹の魚を無作為に採取し、魚の年齢がいくつかの結果変数にどのように影響するかを見てみたいとしましょう。

魚の体重（体重）;
魚が30cmより長いかどうか。
魚の鱗の数。

最初の結果変数は連続的で、2番目はバイナリ（0 =魚は30 cmより長くない、1 =魚は30 cmより長い）、3番目はカウント変数です。

単純線形回帰

年齢は体重にどのように影響しますか？次の形式の単純な線形回帰モデルを作成します。

Weight = β_{0} + β_{1} * Age + ϵ

$\text{Weight} = \beta_0+\beta_1*\text{Age} + \epsilon$

$\epsilon$ $\sigma$ $\beta_0 + \beta_1*\text{Age}$

単純なバイナリロジスティック回帰

年齢は、魚が30cmを超えるかどうかにどのように影響しますか？次の形式の単純なバイナリロジスティック回帰モデルを作成します。

l o g (\frac{p}{1 - p}) = β_{0} + β_{1} * Age

$log(\frac{p}{1-p}) = \beta_0+\beta_1*\text{Age}$

$p$ $\beta_0 + \beta_1*\text{Age}$ $p$ $p*(1-p)$

単純ポアソン回帰

年齢は魚の鱗の数にどのように影響しますか？次の形式の単純なポアソン回帰モデルを作成します。

l o g (μ) = β_{0} + β_{1} * Age

$log(\mu) = \beta_0+\beta_1*\text{Age}$

$\mu$ $\beta_0+\beta_1*\text{Age}$

要約すると、条件付き分布は、モデルに含まれる予測変数の特定の値の結果値の分布を表します。上に示した各タイプの回帰モデルは、Ageを指定した結果変数の条件付き分布に特定の分布仮定を課します。これらの分布の仮定に基づいて、モデルは（1）条件付き分布の平均が年齢の関数として変化する（単純な線形回帰）、（2）ロジット変換された条件付き分布の平均が年齢（単純な二項ロジスティック回帰）または（3）条件付き分布の対数変換平均は年齢の関数として変化します。

モデルのタイプごとに、モデルチェックの目的で対応する残差を定義できます。特に、ピアソンおよび逸脱残差は、ロジスティックおよびポアソン回帰モデルに対して定義できます。

— イザベラ・ゲメント
ソース

優れた答え。お二人に感謝します。「実際の」残差が正規分布の場合のように一般的なGLMフレームワークで実際に明示的であることは決してありませんでした。

— mlofton

@mlofton：優しい言葉をありがとう。優れた質問が優れた答えを招きました。私たちは皆、この知識の交換から利益を得ています。

— イザベラギーメント

私はGLMを長い間（10年前のように1年か2年の間）使用していましたが、それは常に私の混乱でしたが、それがとても明確に尋ねられ、とても明確に説明されるまで、それが私の混乱であるとは知りませんでした。そのため、混乱は正しい質問をすることさえできないことを意味する場合があります。再度、感謝します。

— mlofton

あなたは、絶対に正しい！混乱は学習の一部です。しばらくの間、何かに苦労すると、突然明確な説明を見つけたときに、それをよりよく理解できるようになります。

— イザベラゲーメント

@IsabellaGhement-

— パトリック