ノンパラメトリック回帰を使用するのはいつですか？

SASでPROC GLMを使用して、次の形式の回帰方程式を当てはめています

$$Y = b_0 + b_1X_1 + b_2X_2 + b_3X_3 + b_4t$$

結果の赤残差のQQプロットは、正規性からの逸脱を示します。変換は、残差を正規化するのに役立ちません。$Y$

この時点で、PROC LOESSなどのノンパラメトリックメソッドに安全に切り替えられますか？

私はすでにPROC LOESSを使用しており、PROC GLMよりフィット感が良く見えます。しかし、私はノンパラメトリック回帰についてはあまり知識がありません。パラメトリック回帰よりもノンパラメトリック回帰をいつ選択するかわかりません。

誰かがこれを手伝ってくれる？

先に進み、別の質問を追加します。以下は、モデル内の変数の説明です。 時々、負の予測コストを受け取ります。これは意味がありません。この問題にどのように対処できますか？

$$Y =\text{cost of medical care}\\ X_1 =\text{number of injections}\\ X_2 =\text{number of surgeries}\\ X_3 =\text{number of physical therapies}\\ t =\text{time}$$

残差のQQplotを調べる前に、モデルの予測子に対して（そしておそらく、使用していない他の変数に対して）残差をプロットすることにより、適合の品質を評価する必要があります。このプロットには非線形性が表示されます。変数の効果が実際に線形である場合、に対する残差のプロットは、構造が表示されない「水平」であると予想されます。$x$$x$

                                                                   *
*                 *
      *                               *
        *   
                                                  *
--------------------------------------*------------------------------x
   *     
           *

                                     *
       *                                                    *
                                *

つまり、線resid = 0を中心とする、ポイントのランダムな水平「ブロブ」です。

効果が非線形の場合は、このプロットにある程度の曲率が見られるはずです。（そして、上記のプロットを使用して、非線形性が整理されるまでQQplotsを無視してください！）

また、考えられる相互作用（通常は積項によってモデル化されます）についても検討する必要があります。つまり、1つの変数の効果は別の変数のレベルに依存します（3つの変数すべてが同時に高い値を持っている場合、おそらくいくつかの特に難しいことを示します）患者ですか？もしそうなら、相互作用が必要になる可能性があります）。

相互作用と変換を試みた後、非線形モデルを使用する場合（試してみましたlog(Cost)か？）いくつかのbox-cox変換を試してみましたか？あなたは多重回帰を持っているので、それloessはあなたが必要とするものではないと私は思います、あなたは探すべきですgam（一般化された付加モデル、SASはそれを持っているはずです、Rではパッケージにありますmgcv）。

LOESSは、データが本当に直線に沿っていない限り、常に回帰よりも適切な近似を提供します。LOESSは、データの近くを通過するように設計された局所線形近似です。これらのメソッドは基本的に探索的です。また、近似の限界を超えて線形モデルを外挿することは危険ですが、LOESSの場合、外挿は無謀です。

モデルが負のコストを与える場合、線形回帰が変数に適切でないことはかなり良い兆候です。あなたはあなたが変形を試みたと言います。予測因子に対するコストのログを取りましたか？

物事の性質上、コストとあなたが言及する変数の間に単純な関係があることはほとんどありません。線形回帰の目的は、ある種の相関関係が存在することを単に示すことであり、おそらく、適切な予測子のセットを選択することです。

残差分析を行うためのブラボー。一般的なアナリストよりも先に進みます。（ただし、モデルの説明は、エラー構造を説明しないことで不十分です。）Xの変換とYの変換を検討する必要があります。SASがRの背後でスプラインフィットを使用したモデリングを行っていることは理解していますが、最近のバージョンではその機能が提供されていることを理解しています。X項に制限付き3次スプラインフィットを追加することを検討してください。参考として、フランク・ハレルのテキスト「回帰モデリング戦略」は打ち負かすのが難しいです。このアプローチについては、確かな統計的議論があります。これは、他の方法では見落とされがちなデータの構造の発見を可能にするパラメトリックアプローチです。

kjetilからいくつかの良い提案があったと思います。非正規残差は、線形または非線形回帰からノンパラメトリック回帰にジャンプする必要があることを意味しないことを付け加えます。ノンパラメトリック回帰を行うことにより、関数型の構造を放棄します。あなたが最初に行くことができるOLS回帰に代わる堅牢な回帰があります。次に、次のステップが必要な場合は、一般化線形モデルと一般化加法モデル。LOESSは私の見解ではあなたの最後の手段であるべきです。私はその点でkjetilに同意すると思います。