Rで「手動」でAICを計算する

私はRの線形回帰のAICを計算しようとしましたが、次のAICように関数を使用しませんでした：

lm_mtcars <- lm(mpg ~ drat, mtcars)

nrow(mtcars)*(log((sum(lm_mtcars$residuals^2)/nrow(mtcars))))+(length(lm_mtcars$coefficients)*2)
[1] 97.98786

ただし、AIC異なる値を指定します。

AIC(lm_mtcars)
[1] 190.7999

誰かが私が間違っていることを教えてもらえますか？

r aic information-theory

— ルチアーノ
ソース

（答えをまだチェックせずに）：尤度は実際には乗法定数までしか定義されていないため、必ずしも間違ったことをしているわけではありません。2人で対数尤度を計算し、異なる数値を取得できます（ただし、対数尤度の違いは同じです）。

— Glen_b -Reinstateモニカ

Hong Ooisの答えはこの質問に関連していると思います。関数がAIC使用する式はです-2*as.numeric(logLik(lm_mtcars))+2*(length(lm_mtcars$coefficients)+1)。

— COOLSerdash 14

luciano：その式の「+1」は@COOLSerdashが分散パラメーター項から生じることを指します。注また、機能があることlogLikのためと言いlmモデルそれはすべての定数'を含む...そうもあるかもしれませんlog(2*pi)が、どこかで

— Glen_b -Reinstateモニカ

@Glen_b：尤度が乗算定数までしか定義されていないのはなぜですか？結局のところ、さまざまな分布ファミリーのネストされていないモデルを比較する場合（AICまたはCoxテストなど）、その定数を覚えておく必要があります。

— Scortchi -復活モニカ

@Scortchi定義は私のものではありません！RAFisherでそれを取り上げる必要があります。最初からそうだったと思う（1921）。少なくとも継続的な場合は、たとえば、「より正確に」始まる文で、ここを参照してください。

— Glen_b -Reinstateモニカ

回答:

機能のヘルプという注意logLikRでは、のためにと言うlmモデルそれはすべての定数'を含む...そうあるだろうlog(2*pi)が、どこかだけでなく、可能性が指数のための別の定数項で。また、あなたは事実カウントするように忘れることができないパラメータです。 $\sigma^2$

$\cal L(\hat\mu,\hat\sigma)=(\frac{1}{\sqrt{2\pi s_n^2}})^n\exp({-\frac{1}{2}\sum_i (e_i^2/s_n^2)})$

$-2\log \cal{L} = n\log(2\pi)+n\log{s_n^2}+\sum_i (e_i^2/s_n^2)$

$= n[\log(2\pi)+\log{s_n^2}+1]$

$\text{AIC} = 2p -2\log \cal{L}$

$\sigma^2$

つまり、これがあなたの答えを得る方法です：

nrow(mtcars)*(log(2*pi)+1+log((sum(lm_mtcars$residuals^2)/nrow(mtcars))))
       +((length(lm_mtcars$coefficients)+1)*2)

— Glen_b -Reinstate Monica
ソース

s^{2}

$s^2$

n

$n$

n - p

$n-p$

- 2 \log L (\hat{θ}) + 2 p

$-2\log\mathcal{L}(\hat\theta)+2p$

θ

$\theta$

\hat{θ}

$\hat\theta$

n

$n$

{\hat{σ}}^{2}

$\hat{\sigma}^2$

σ^{2}

$\sigma^2$

— Glen_b -Reinstate Monica

- 2 \log L = n \log (2 π) + n \log s_{n} + \sum_{i} (e_{i}^{2} / s_{n}^{2})

$-2\log \cal{L} = n\log(2\pi)+n\log{s_n}+\sum_i (e_i^2/s_n^2)$

\sqrt{2 π s_{n}^{2}}

$\sqrt{2\pi s^2_n}$

AIC $2k -2 \log L$ $L$ $k$ $n \log \frac{S_{\mathrm{r}}}{n} + 2(k-1)$ $S_{\mathrm{r}}$ $n$

— スコルチ-モニカの復職
ソース