Rの重回帰の変数の変換

で重回帰を実行しようとしていますR。ただし、私の従属変数には次のプロットがあります。

すべての変数を含む散布図行列です（WAR従属変数です）。

この変数（およびおそらく独立変数も）で変換を実行する必要があることは知っていますが、必要な正確な変換についてはわかりません。誰かが私を正しい方向に向けることができますか？独立変数と従属変数の関係に関する追加情報を提供できればうれしいです。

私の回帰からの診断グラフィックは次のように見えます。

編集

Yeo-Johnson変換を使用して従属変数と独立変数を変換すると、診断プロットは次のようになります。

ログリンクでGLMを使用する場合、診断グラフィックは次のとおりです。

ジョン・フォックスの著書「応用回帰のRコンパニオン」は、を使用した応用回帰モデリングに関する優れたリソースRです。パッケージcar私はこの回答で全体の使用に付随するパッケージです。本には、追加の章を含むWebサイトもあります。

応答の変換（別名従属変数、結果）

RlmboxCoxcar$\lambda$family="yjPower"

boxCox(my.regression.model, family="yjPower", plotit = TRUE)

これにより、次のようなプロットが生成されます。

$\lambda$$\lambda$

ここで従属変数を変換するにyjPowerは、carパッケージの関数を使用します。

depvar.transformed <- yjPower(my.dependent.variable, lambda)

lambda$\lambda$boxCox

重要：従属変数を単にログ変換するのではなく、GLMをログリンクに適合させることを検討する必要があります。詳細情報を提供するリファレンスをいくつか紹介します：first、second、third。でこれを行うにはR、次を使用しますglm。

glm.mod <- glm(y~x1+x2, family=gaussian(link="log"))

どこyが従属変数でx1、x2などが独立変数です。

予測変数の変換

変換厳密に正の予測因子は、従属変数の変換の後、最大尤度により推定することができます。これを行うにboxTidwellは、carパッケージの関数を使用します（元の論文については、こちらを参照してください）。次のように使用しますboxTidwell(y~x1+x2, other.x=~x3+x4)。ここで重要なことは、オプションが変換されないother.x回帰の条件を示すことです。これはすべてカテゴリー変数です。この関数は、次の形式の出力を生成します。

boxTidwell(prestige ~ income + education, other.x=~ type + poly(women, 2), data=Prestige)

          Score Statistic   p-value MLE of lambda
income          -4.482406 0.0000074    -0.3476283
education        0.216991 0.8282154     1.2538274

income$\lambda$income$\text{income}_{new}=1/\sqrt{\text{income}_{old}}$

独立変数の変換に関するサイト上の別の非常に興味深い投稿はこれです。

変換の欠点

対数変換された従属変数および/または独立変数は比較的簡単に解釈できますが、他のより複雑な変換の解釈は直感的ではありません（少なくとも私にとって）。たとえば、従属変数が変換された後、回帰係数をどのように解釈しますか$1/\sqrt{y}$$\lambda$$\lambda$

非線形関係のモデリング

非線形関係に適合する非常に柔軟な2つの方法は、分数多項式とスプラインです。：これらの3つの論文は、両方の方法に非常に良い入門提供まず、第二と第三の。分数多項式とについての本もありRます。R パッケージには、mfp多変量小数多項式を実装しています。この表示は、分数多項式に関して有益な場合があります。フィットスプラインには、関数を使用することができますgam（一般化加法モデルを参照してくださいここで優れた導入のためR）から、パッケージmgcvまたは機能ns（自然な3次スプライン）およびbs（キュービックBスプライン）パッケージからsplines（これらの関数の使用例についてはこちらをご覧ください）。を使用gamすると、s()関数を使用してスプラインを使用して近似する予測子を指定できます。

my.gam <- gam(y~s(x1) + x2, family=gaussian())

ここでx1は、スプラインを使用x2して、通常の線形回帰のように線形にフィットします。内部でgamは、のように分布族とリンク関数を指定できますglm。したがって、モデルを対数リンク関数に適合させるには、次のようにオプションfamily=gaussian(link="log")を指定できます。gamglm。

サイトからこの投稿をご覧ください。

応答（結果、従属）変数の性質について詳しく説明してください。最初のプロットから、ゼロに近い多くの値といくつかの負の値で強く正に歪んでいます。このことから、必然ではないが、その変換が役立ちますが、最も重要な問題は、変換によってデータが線形関係に近づくかどうかです。

応答の負の値は、直線の対数変換を除外しますが、log（response + constant）ではなく、対数リンクの一般化線形モデルではないことに注意してください。

このサイトには、統計の人々を分けるlog（response + constant）についての多くの回答があります：アドホックで作業しにくいと思う人もいれば、正当なデバイスと見なす人もいます。

ログリンク付きのGLMは引き続き可能です。

あるいは、モデルが何らかの混合プロセスを反映している場合もあります。その場合、データ生成プロセスをより密接に反映するカスタマイズされたモデルが良い考えです。

（後）

OPには、約100〜-2の範囲の値を持つ従属変数WARがあります。ゼロまたは負の値の対数を取る問題を克服するために、OPは0.000001にゼロと負のファッジを提案します。対数目盛（10を底）では、これらの値の範囲は約2（100程度）から-6（0.000001）までです。対数スケールのファッジポイントの少数は、現在では大規模な外れ値の少数です。これを確認するには、log_10（fudged WAR）を他のものに対してプロットします。