異なる従属変数を持つモデルのロジスティック係数を比較しますか？

14

これは私が数日前に尋ねた質問からのフォローアップ質問です。私はそれが問題に別の傾斜を置くと思うので、新しい質問をリストしました。

問題は、異なる従属変数を持つモデル間で係数の大きさを比較できますか？たとえば、単一のサンプルで、経済が下院での票または大統領の票のより強力な予測因子であるかどうかを知りたいと言います。この場合、2つの従属変数は下院での投票（民主党に1、共和党に0をコード化）と大統領（民主党に1、共和党に0）の投票であり、独立変数は経済です。私は両方のオフィスで統計的に有意な結果を期待していますが、どのように一方が他方よりも「大きな」効果があるかをどのように評価しますか？これは特に興味深い例ではないかもしれませんが、私は比較する方法があるかどうか興味があります。係数の「サイズ」だけを見ることができないことは知っています。そう、異なる従属変数を持つモデルの係数を比較することは可能ですか？そして、もしそうなら、どのようにそれを行うことができますか？

これのいずれかが意味をなさない場合、私に知らせてください。すべてのアドバイスとコメントを歓迎します。

regression logistic

— Ejs
ソース

2

係数の「サイズ」だけを見ることができないことをどのように知っていますか？

— ワンストップ

2つのアカウントを統合しました。FAQに示されているように、登録する必要があります。（@onestop複製を指すための

— Thx

以前の質問への回答の係数を見ても、モデル間で予測子の「効果」を比較できないと思いました。上記の私の例では物事は異なりますか？

— Ejs

2

バウンティを開始する-3つの非常に異なる答えを持つ重要な質問のように思えますが、どれも単一の投票を持ちません。もっとうまくやれるこの関連する質問に関する Andy Wのペーパーリンクは、適切なようです。

— マットパーカー

4

簡単な答えは「はい」です-しかし、「大きなモデル」の最尤推定値（MLE）を、両方に適合したいずれかのモデルのすべての共変量と比較する必要があります。

これはあなたの質問に答える確率理論を得るための「準公式」な方法です

この例では、とは同じタイプの変数（分数/パーセンテージ）であるため、比較可能です。同じモデルを両方に当てはめると仮定します。したがって、2つのモデルがあります。 $Y_{1}$ $Y_{2}$

M_{1} ： Y_{1 私} 〜 B 私 n （ n_{1 私} 、 p_{1 私} ）

$M_{1}:Y_{1i}\sim Bin(n_{1i},p_{1i})$

l o g （ \frac{p_{1 私}}{1 - p_{1 私}} ） = α_{1} + β_{1} {バツ}_{私}

$log\left(\frac{p_{1i}}{1-p_{1i}}\right)=\alpha_{1}+\beta_{1}X_{i}$

M_{2} ： Y_{2 私} 〜 B 私 n （ n_{2 私} 、 p_{2 私} ）

$M_{2}:Y_{2i}\sim Bin(n_{2i},p_{2i})$

l o g （ \frac{p_{2 私}}{1 - p_{2 私}} ） = α_{2} + β_{2} {バツ}_{私}

$log\left(\frac{p_{2i}}{1-p_{2i}}\right)=\alpha_{2}+\beta_{2}X_{i}$

したがって、評価したい仮説があります。

H_{0} ： β_{1} > β_{2}

$H_{0}:\beta_{1}>\beta_{2}$

$\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n}$

P = P r （ H_{0} | {Y_{1 私} 、 Y_{2 私} 、 {バツ}_{私}}_{私 = 1}^{n} 、 私 ）

$P=Pr(H_0|\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n},I)$

$H_0$

P = \int_{- \infty}^{\infty} \int_{- \infty}^{\infty} \int_{- \infty}^{\infty} \int_{- \infty}^{\infty} P r （ H_{0} 、 α_{1} 、 α_{2} 、 β_{1} 、 β_{2} | {Y_{1 私} 、 Y_{2 私} 、 {バツ}_{私}}_{私 = 1}^{n} 、 私 ） d α_{1} d α_{2} d β_{1} d β_{2}

$P=\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} Pr(H_0,\alpha_{1},\alpha_{2},\beta_{1},\beta_{2}|\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n},I) d\alpha_{1}d\alpha_{2}d\beta_{1}d\beta_{2}$

仮説は単に積分の範囲を制限するだけなので、次のようにします。

P = \int_{- \infty}^{\infty} \int_{β_{2}}^{\infty} \int_{- \infty}^{\infty} \int_{- \infty}^{\infty} P r （ α_{1} 、 α_{2} 、 β_{1} 、 β_{2} | {Y_{1 私} 、 Y_{2 私} 、 {バツ}_{私}}_{私 = 1}^{n} 、 私 ） d α_{1} d α_{2} d β_{1} d β_{2}

$P=\int_{-\infty}^{\infty} \int_{\beta_{2}}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} Pr(\alpha_{1},\alpha_{2},\beta_{1},\beta_{2}|\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n},I) d\alpha_{1}d\alpha_{2}d\beta_{1}d\beta_{2}$

確率はデータを条件としているため、各モデルの2つの別々の事後因子を考慮に入れます

P r （ α_{1} 、 β_{1} | {Y_{1 私} 、 {バツ}_{私} 、 Y_{2 私}}_{私 = 1}^{n} 、 私 ） P r （ α_{2} 、 β_{2} | {Y_{2 私} 、 {バツ}_{私} 、 Y_{1 私}}_{私 = 1}^{n} 、 私 ）

$Pr(\alpha_{1},\beta_{1}|\{Y_{1i},X_{i},Y_{2i}\}_{i=1}^{n},I)Pr(\alpha_{2},\beta_{2}|\{Y_{2i},X_{i},Y_{1i}\}_{i=1}^{n},I)$

$Y_{1i}$ $\alpha_{2},\beta_{2}$ $X_{i}$ $Y_{2i}$

$V_{1}$ $V_{2}$ $\alpha_{j}$

P = Φ （ \frac{{\hat{β}}_{2 、 M L E} - {\hat{β}}_{1 、 M L E}}{\sqrt{V_{1 ： β 、 β} + V_{2 ： β 、 β}}} ）

$P=\Phi\left(\frac{\hat{\beta}_{2,MLE}-\hat{\beta}_{1,MLE}}{\sqrt{V_{1:\beta,\beta}+V_{2:\beta,\beta}}}\right)$

$\Phi()$

— 確率論
ソース

3

何故なの？モデルは、任意のモデル予測子の1単位の変更が結果変数の「1」の確率にどの程度影響するかを推定しています。モデルは同じであると仮定します。モデルには同じ予測子があります。2つのモデルで特定の予測変数の相対的な大きさを比較する最も有益な方法は、モデルを使用して（決定論的に、またはシミュレーションでより良い）変化の有意な増分（たとえば、+ /-1 SD）を計算することです予測子は、それぞれの結果変数の確率に影響します-それらを比較してください！2つの推定値の信頼区間を決定するだけでなく、差が実質的かつ統計的に「有意」であることを確認できます。

— dmk38
ソース

dmk8、ありがとうございます。いくつかのフォローアップポイント/質問：これは、すべての制御変数をその平均値に保持しながら、関心のある変数（たとえば、悪い経済から良い経済へ）を変えることを指す場合にしばしば意味されるものですか？決定論的にはどういう意味ですか？確率に関する信頼区間を決定するにはどうすればよいですか？

— Ejs

2

王に相談してください。彼は失望しません。King、G.、Tomz、M.、＆Wittenberg。、J.（2000）。統計分析を最大限に活用する：解釈と表示を改善します。あ。J. Pol。Sci、44（2）、347-361。

— dmk38

2

「私の独立変数は経済である」ということは、特定の予測子の省略形を使用していると思います。

あるレベルでは、次のようなステートメントを作成しても何も問題はありません。

Xは_のオッズ比と[_、_]の95％信頼区間でY1を予測し、Xは_のオッズ比と[_、_]の95％信頼区間でY2を予測します。

@ dmk38の最近の提案は、この点で非常に役立ちます。

比較を容易にするために係数を標準化することもできます。

別のレベルでは、サンプルが一般化する可能性のある年の母集団の非ランダムサンプルを構成する場合、文字通り推論統計（標準誤差、p値、CI）を取得することに注意してください。

— rolando2
ソース

はい、「経済」は国民の経済状況の認識のための速記です。他の予測変数（コントロール）がモデルに含まれる場合、同じアドバイスが適用されますか？

— Ejs

@Ejs-あなたの最後の質問に対する短い答えはないのではないかと思います。統計的制御を使用するときに関係を評価することの意味を理解しようとしています。これは、広範な研究に値する途方もなく複雑なトピックです。また、おそらく変数選択のトピックにも興味がありますが、これも大きな問題です。これらのトピックの熱心な学生に最適な情報源は、Pedhazurのamazon.com/Multiple-regression-behavioral-research-Pedhazur/…–

— rolando2

1

2つのグループの人々を比較することに関心があるとしましょう。 $X_{1} = 1$ とそれらのもの $X_{1} = 0$ 。

の指数 $\beta_{1}$ 、対応する係数は、成功したオッズの比として解釈されます $X_{1} = 1$ 成功する可能性について $X_{1} = 0$ 、モデル内の他の変数を条件とします。

したがって、異なる依存変数を持つ2つのモデルがある場合、 $\beta_{1}$ 同じ変数セットに条件付けられていないため、変更されます。結果として、比較は直接ではありません...

— オクラム
ソース

これはroland2の提案に影響を与えますか？

— Ejs

@Ejs。標準化手順について言及していますか？ところで、私の答えは役立ちますか？質問を誤解しましたか？

— ocram