1つの変数が他の変数の線形結合であるにもかかわらず、完全な多重共線性のためにこの回帰が失敗しないのはなぜですか?


15

今日、私は小さなデータセットで遊んでいて、完全な多重共線性のために失敗すると予想される簡単なOLS回帰を実行しました。しかし、そうではありませんでした。これは、多重共線性に関する私の理解が間違っていることを意味します。

私の質問は:どこが間違っているのですか?


私の変数の1つが他の変数の線形結合であることを示すことができると思います。これにより、フルランクを持たないリグレッサマトリックスが生成されるため、係数を特定しないでください。

私は小さな再現可能なデータセットを生成しました(以下のコード)

   exporter importer      flow     dist intraUS
1    Canada   Canada  996.8677 6.367287       0
2   Florida   Canada  995.8219 9.190562       0
3     Texas   Canada 1001.6475 4.359063       0
4    Mexico   Canada 1002.4371 7.476649       0
5    Canada  Florida 1002.8789 5.389223       0
6   Florida  Florida 1007.5589 6.779686       1
7     Texas  Florida  996.8938 1.570600       1
8    Mexico  Florida 1005.6247 5.910133       0
9    Canada    Texas  999.9190 7.887672       0
10  Florida    Texas 1004.1061 7.187803       1
11    Texas    Texas 1004.5949 7.564273       1
12   Mexico    Texas 1000.3728 2.021297       0
13   Canada   Mexico 1003.0991 5.887743       0
14  Florida   Mexico  999.2210 3.058495       0
15    Texas   Mexico  997.6092 6.835883       0
16   Mexico   Mexico 1006.7934 5.794425       0

輸出者と輸入者が米国の州である場合、ダミーintraUS1です。

今、私は(trade)flows exporterimporterダミー、distance、intraUSdummyの回帰を実行します。Rに次の式を入力lm(flow ~ dist + exporter + importer + intraUS, data = dat)すると、すべての係数の推定値が返され、欠損値や特異性に関する警告は返されません。

(Intercept)            dist exporterFlorida   exporterTexas  exporterMexico importerFlorida   importerTexas  importerMexico        intraUS1 
995.1033157       0.5744661      -1.2340338      -1.8792073       3.7375783       3.0361727       1.3256032       3.3225512       4.2429599

このパズル私、回帰行列は明らかにそれが示しているためintraUSの線形結合であるexporterFloridaimporterFloridaexporterTexasおよびimporterTexas

> mmat <- data.frame(model.matrix(lm(flow ~ dist + exporter + importer + intraUS, data = dat)))

   X.Intercept.     dist exporterFlorida exporterTexas exporterMexico importerFlorida importerTexas importerMexico intraUS1
1             1 6.367287               0             0              0               0             0              0        0
2             1 9.190562               1             0              0               0             0              0        0
3             1 4.359063               0             1              0               0             0              0        0
4             1 7.476649               0             0              1               0             0              0        0
5             1 5.389223               0             0              0               1             0              0        0
6             1 6.779686               1             0              0               1             0              0        1
7             1 1.570600               0             1              0               1             0              0        1
8             1 5.910133               0             0              1               1             0              0        0
9             1 7.887672               0             0              0               0             1              0        0
10            1 7.187803               1             0              0               0             1              0        1
11            1 7.564273               0             1              0               0             1              0        1
12            1 2.021297               0             0              1               0             1              0        0
13            1 5.887743               0             0              0               0             0              1        0
14            1 3.058495               1             0              0               0             0              1        0
15            1 6.835883               0             1              0               0             0              1        0
16            1 5.794425               0             0              1               0             0              1        0

計算するとexporterFlorida * importerFlorida + exporterFlorida * importerTexas + exporterTexas * importerFlorida + exporterTexas * importerTexas、驚くことではないが、の値が正確に得られますintraUS1

だから私の質問は、 1つの変数が他の変数の線形結合であることを考えると、なぜこの回帰失敗しないのですか?


完全なコードの下で、推定を再現します。

## Generate data ####

set.seed(1)
states <- c("Canada", "Florida", "Texas", "Mexico")
dat <- expand.grid(states, states)
colnames(dat) <- c("exporter", "importer")

dat[, "flow"] <- NA
dat[, "dist"] <- NA
dat[, "intraUS"] <- 0

for (i in 1:nrow(dat)) {
  dat[i, c("flow", "dist")] <- c(rnorm(1, mean = 1000, sd = 5), rnorm(1, mean = 6, sd = 2))
  if (dat[i, "exporter"] %in% states[2:3] && dat[i, "importer"] %in% states[2:3]) {
    dat[i, "intraUS"] <- 1
  }
}
dat$intraUS <- factor(dat$intraUS)

## Run regression - works! ####

summary(lm(flow ~ dist + exporter + importer + intraUS, data = dat))

## Show that "intraUS1" is a linear combination of the dummies. ####

mmat <- data.frame(model.matrix(lm(flow ~ dist + exporter + importer + intraUS, data = dat)))

cbind(mmat, test = with(mmat,
                        exporterFlorida * importerFlorida + exporterFlorida * importerTexas +
                        exporterTexas * importerFlorida + exporterTexas * importerTexas
                        ))[, c("intraUS1", "test")]

9
Downvoters、私が間違ったことを説明してもらえますか?私はCrossvalidatedにあまり詳しくないので、この質問の何が問題なのか知りたいので、次回はもっとうまくやれるでしょう。
CL。

回答:


30

exporterFlorida * importerFlorida + exporterFlorida * importerTexas + exporterTexas * importerFlorida + exporterTexas * importerTexas

これは、ないの線形結合exporterFloridaimporterFloridaimporterTexasexporterTexas。線形結合では、ベクトルの係数は定数でなければなりません。のようなもの

2*importerFlorida + 3*importerTexas - exporterFlorida - 2*exporterTexas

線形結合です。

あなたが持っているものは、おそらく二次的な組み合わせと呼ばれるかもしれませんが、それは用語を「私は物を作っている」土地に拡張しています。


2
くそー…これは数学のコースに参加したことがなく、代わりに統計から始めることに対する罰です。ありがとうございました!
CL。

4
心配ない。それが私たちがここにいる理由です!
マシュードゥルーリー
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.