線形モデル実行Rからの結果の集約


16

多くの場合、回帰モデリングは科学よりも「芸術的」であるため、回帰構造の多数の反復をテストすることがよくあります。「最適な」モデルを見つけるために、これらの複数のモデルの実行からの情報を要約する効率的な方法は何ですか?私が使用したアプローチの1つは、すべてのモデルをリストに入れ、summary()そのリスト全体で実行することですが、比較するより効率的な方法があると思いますか?

サンプルコードとモデル:

ctl <- c(4.17,5.58,5.18,6.11,4.50,4.61,5.17,4.53,5.33,5.14)
trt <- c(4.81,4.17,4.41,3.59,5.87,3.83,6.03,4.89,4.32,4.69)
group <- gl(2,10,20, labels=c("Ctl","Trt"))
weight <- c(ctl, trt)

lm1 <- lm(weight ~ group)
lm2 <- lm(weight ~ group - 1)
lm3 <- lm(log(weight) ~ group - 1)

#Draw comparisions between models 1 - 3?

models <- list(lm1, lm2, lm3)

lapply(models, summary)

5
データdrのように聞こえます。モデリングを開始する前に、適切なモデルであると思われるもの、共変量、変換など焦点を当てるべきではありません。Rは、良いモデルを見つけるためにすべてのモデルフィッティングを行ったことを知りません。
モニカの復活-G.シンプソン

3
@Gavin-これは非常に迅速にトピックから外れていることがわかりますが、簡単な答えはノーです。データdrを提唱したり、データセット内のランダム変数間の偽の関係を見つけることはしていません。収入を含む回帰モデルを検討してください。所得の変化をテストして、モデルへの影響を確認することは合理的ではありませんか?収入のログ、数十ドルの収入のログ、数百ドルの収入のログ...?これがデータのisであるとしても、多くのモデルの実行からの出力を集約できる機能/要約ツールはまだ役に立ちますか?
チェイス

回答:


17

それらをプロットします!

http://svn.cluelessresearch.com/tables2graphs/longley.png

それとも、あなたは、テーブルを使用しなければならない場合:apsrtableパッケージまたはmtable関数memiscのパッケージを。

を使用して mtable

 mtable123 <- mtable("Model 1"=lm1,"Model 2"=lm2,"Model 3"=lm3,
     summary.stats=c("sigma","R-squared","F","p","N"))

> mtable123

Calls:
Model 1: lm(formula = weight ~ group)
Model 2: lm(formula = weight ~ group - 1)
Model 3: lm(formula = log(weight) ~ group - 1)

=============================================
                 Model 1   Model 2   Model 3 
---------------------------------------------
(Intercept)      5.032***                    
                (0.220)                      
group: Trt/Ctl  -0.371                       
                (0.311)                      
group: Ctl                 5.032***  1.610***
                          (0.220)   (0.045)  
group: Trt                 4.661***  1.527***
                          (0.220)   (0.045)  
---------------------------------------------
sigma             0.696      0.696     0.143 
R-squared         0.073      0.982     0.993 
F                 1.419    485.051  1200.388 
p                 0.249      0.000     0.000 
N                20         20        20     
=============================================


1
@ Eduardo、+ 1、素敵なグラフ。ただし、従属変数の異なる変換が異なる回帰で使用される場合は、注意して使用する必要があります。
mpiktas

mpiktas、それはテーブルにも当てはまります。グラフは、精度を犠牲にして、よりコンパクトにします。
エドゥアルドレオニ

@Eduardoグラフのコードを共有してもらえますか?
-suncoolsu

2
@suncoolsu Rコードは、@ Eduardoの応答で指定された最初のリンクで利用できます。彼、彼、それgridlattice:)
chl

@Eduardo-詳細な回答をありがとう、memisc以前は気づかなかったが、身震いするのに非常に便利なパッケージのようだ!
チェイス

12

以下は質問に正確に答えていません。しかし、それはあなたにいくつかのアイデアを与えるかもしれません。1〜4個の独立変数(従属変数はdf1データフレームの最初の列にありました)を使用して、いくつかの回帰モデルの適合性を評価するために最近やったことです。

# create the combinations of the 4 independent variables
library(foreach)
xcomb <- foreach(i=1:4, .combine=c) %do% {combn(names(df1)[-1], i, simplify=FALSE) }

# create formulas
formlist <- lapply(xcomb, function(l) formula(paste(names(df1)[1], paste(l, collapse="+"), sep="~")))

as.character(formlist)の内容は

 [1] "price ~ sqft"                     "price ~ age"                     
 [3] "price ~ feats"                    "price ~ tax"                     
 [5] "price ~ sqft + age"               "price ~ sqft + feats"            
 [7] "price ~ sqft + tax"               "price ~ age + feats"             
 [9] "price ~ age + tax"                "price ~ feats + tax"             
[11] "price ~ sqft + age + feats"       "price ~ sqft + age + tax"        
[13] "price ~ sqft + feats + tax"       "price ~ age + feats + tax"       
[15] "price ~ sqft + age + feats + tax"

その後、いくつかの有用なインデックスを収集しました

# R squared
models.r.sq <- sapply(formlist, function(i) summary(lm(i))$r.squared)
# adjusted R squared
models.adj.r.sq <- sapply(formlist, function(i) summary(lm(i))$adj.r.squared)
# MSEp
models.MSEp <- sapply(formlist, function(i) anova(lm(i))['Mean Sq']['Residuals',])

# Full model MSE
MSE <- anova(lm(formlist[[length(formlist)]]))['Mean Sq']['Residuals',]

# Mallow's Cp
models.Cp <- sapply(formlist, function(i) {
SSEp <- anova(lm(i))['Sum Sq']['Residuals',]
mod.mat <- model.matrix(lm(i))
n <- dim(mod.mat)[1]
p <- dim(mod.mat)[2]
c(p,SSEp / MSE - (n - 2*p))
})

df.model.eval <- data.frame(model=as.character(formlist), p=models.Cp[1,],
r.sq=models.r.sq, adj.r.sq=models.adj.r.sq, MSEp=models.MSEp, Cp=models.Cp[2,])

最終的なデータフレームは

                      model p       r.sq   adj.r.sq      MSEp         Cp
1                price~sqft 2 0.71390776 0.71139818  42044.46  49.260620
2                 price~age 2 0.02847477 0.01352823 162541.84 292.462049
3               price~feats 2 0.17858447 0.17137907 120716.21 351.004441
4                 price~tax 2 0.76641940 0.76417343  35035.94  20.591913
5            price~sqft+age 3 0.80348960 0.79734865  33391.05  10.899307
6          price~sqft+feats 3 0.72245824 0.71754599  41148.82  46.441002
7            price~sqft+tax 3 0.79837622 0.79446120  30536.19   5.819766
8           price~age+feats 3 0.16146638 0.13526220 142483.62 245.803026
9             price~age+tax 3 0.77886989 0.77173666  37884.71  20.026075
10          price~feats+tax 3 0.76941242 0.76493500  34922.80  21.021060
11     price~sqft+age+feats 4 0.80454221 0.79523470  33739.36  12.514175
12       price~sqft+age+tax 4 0.82977846 0.82140691  29640.97   3.832692
13     price~sqft+feats+tax 4 0.80068220 0.79481991  30482.90   6.609502
14      price~age+feats+tax 4 0.79186713 0.78163109  36242.54  17.381201
15 price~sqft+age+feats+tax 5 0.83210849 0.82091573  29722.50   5.000000

最後に、Cpプロット(ライブラリwleを使用)

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.