ロジスティック回帰で切片と係数を手動で計算する方法


9

私は現在、ロジスティック回帰について研究しています。しかし、切片()と係数()の計算に行き詰まっています。インターネットで探していましたが、Microsoft ExcelまたはRの組み込み関数を使用したチュートリアルしか取得していません。MaximumLikelihoodで解決できると聞いたのですが、使い方がわからないので統計的背景がない。係数を手動で計算するための簡単な説明とシミュレーションを誰かに教えてもらえますか?β0β1


一般的な意味で最適化を理解していますか?関数の最小値や最大値を見つけるような?
確率論的

1
もっと多くの人がこのような質問をしたいと思います。
マッデンカー2017

回答:


9

残念ながら、線形回帰とは異なり、ロジスティック回帰の最尤推定値の単純な式はありません。勾配降下法反復的に重み付けされた最小二乗法など、何らかの最適化アルゴリズムを実行する必要があります。


4
一般的にそうです。唯一の説明変数がカテゴリカルである場合、またはすべての説明変数がカテゴリカルであり、すべて(より高次)の相互作用がモデルに含まれている場合は、例外が存在します。その場合、係数は平均の変換です。
Maarten Buis 2016年

これのソースはありますか?
information_interchange

3

私の方法を提案し、それが役に立てば幸いです。

Epfj=Ep^fj

たとえば、クロス集計ベローは、名誉クラスにいる男性/女性の数を示しています。

           |         female
       hon |      male     female |     Total  
-----------+----------------------+----------
         0 |        74         77 |       151 
         1 |        17         32 |        49 
-----------+----------------------+----------
     Total |        91        109 |       200

Σyバツj=Σpバツj

logp1p=β0+β1バツp=11+eβ0+β1バツバツバツ=1バツ=0

32109=11+eβ0+β11

1791=11+eβ0+β10

β0β1

同じように、十分なデータが与えられれば、他のロジスティック回帰モデルの係数を手動で計算できます(ソフトマックス回帰にも適用されますが、この問題の範囲外です)。

私が正しいと思いますが、そうでない場合はお知らせください。ありがとう。


私が反対票を投じる理由を誰かに教えてもらえますか?ありがとう。
Lerner Zhang

3
私は反対投票ではないので、はっきりとは言えません。しかし、1)計算をロジスティック回帰が解決する最尤問題に関連付けること、2)この例は手動で機能できるが他の人は機能しない理由を説明すること、3)反復アルゴリズムを使用して回帰をフィッティングすること、および答えは同じであることを示しています。
Matthew Drury

@MatthewDrury私はいくつかの掘り下げの後に私の答えを更新しました。チェックしてください。
Lerner Zhang

ちょっと@Lernerあなたの必要性の乗算 1 /(1 + E-(β0+β1* 1))32倍、1 /(1 + E-(β0+β1* 0))17回。32/109のような単純な加算を使用するだけではありません。
Aerin 2017年

@BYORわかりました。すぐに確認して更新します。
Lerner Zhang
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.