R 2乗および高次の多項式回帰

以下のプロットは、移動時間への影響に対する道路の飽和度を示しています（自由流の移動時間に正規化）。

青い（BPR関数）曲線は、移動時間と飽和度を関連付けるためにフィールドで使用される標準化されたモデルを示しています。

私が収集した経験的データについて、赤で示されている3次多項式近似をプロットしました。この近似を評価するために、この3次近似のを見つけました。これは0.72と指定されました。 $R^2$

私は同僚にについて話しました、そして彼は私にこの記事を指摘しました。非線形回帰のR-Squaredがないのはなぜですか？ $R^2$

がより高次の多項式の適合を評価するために使用されているという多くの記事を見つけましたが、今はかなり混乱しています。 $R^2$

あるこの場合、不適切な？代わりに何を使用すればよいですか？ $R^2$

regression chi-squared r-squared

— ゆっくりと学ぶ
ソース

多項式回帰は線形です-モデルの行列ではなく、モデルの線形性を決定する係数です。実際には、この素晴らしい投稿をチェックしてください。だから私はあなたが正しい道にいると思います。

— Antoni Parellada 2016年

@AntoniParellada、ありがとうございます。それは素晴らしい読書になりました。一部の分析をやり直す必要がないので、自分勝手に嬉しく思います;）

— LearningSlowly

多項式を考えます。

β_{0} + β_{1} バツ + β_{2} {バツ}^{2} + \dots + β_{k} {バツ}^{k}

$\beta_0 + \beta_1 x + \beta_2 x^2 + \ldots + \beta_k x^k$

多項式がでは非線形であるが、では線形であることを確認します。を推定しようとしている場合、これは線形回帰です！ $x$ $\boldsymbol{\beta}$ $\boldsymbol{\beta}$ 直線性

y_{私} = β_{0} + β_{1} {バツ}_{私} + β_{2} {バツ}_{私}^{2} + \dots + β_{k} {バツ}_{私}^{k} + ε_{私}

$y_i = \beta_0 + \beta_1 x_i + \beta_2 x_i^2 + \ldots + \beta_k x_i^k + \epsilon_i$

β = (β_{0}, β_{1}, \dots, β_{k})

$\boldsymbol{\beta} = (\beta_0, \beta_1, \ldots, \beta_k)$ 重要なことです。上記の方程式を最小二乗法で推定すると、線形回帰のすべての結果が保持されます。

ましょ二乗の総和であり、正方形の説明和、及び残差平方和です。決意の係数次のように定義されます。 $\mathit{SST}$ $\mathit{SSE}$ $\mathit{SSR}$ $R^2$

R^{2} = 1 - \frac{S S R}{S S T}

$R^2 = 1 - \frac{\mathit{SSR}}{\mathit{SST}}$

$\mathit{SST} = \mathit{SSE} + \mathit{SSR}$ $R^2$

SST = SSE + SSR：いつそれが真で、いつそれが真ではないのですか？

レッツ $\hat{y}_i$ $y_i$ $e_i = y_i - \hat{y}_i$ $f_i = \hat{y}_i - \bar{y}$

$\langle ., . \rangle$

\begin{aligned} ⟨ f + e 、 f + e ⟩ & = ⟨ f 、 f ⟩ + 2 ⟨ f 、 e ⟩ + ⟨ e 、 e ⟩ \\ = ⟨ f 、 f ⟩ + ⟨ e 、 e ⟩ もし f そして e 直交、つまりそれらの内積は0 \end{aligned}

$\begin{align*} \langle \mathbf{f} + \mathbf{e}, \mathbf{f} + \mathbf{e} \rangle &= \langle \mathbf{f}, \mathbf{f} \rangle + 2\langle \mathbf{f}, \mathbf{e} \rangle + \langle \mathbf{e}, \mathbf{e} \rangle \\ &= \langle \mathbf{f}, \mathbf{f} \rangle + \langle \mathbf{e}, \mathbf{e} \rangle \quad \quad\text{if $\mathbf{f}$ and $\mathbf{e}$ orthogonal, i.e. their inner product is 0} \end{align*}$

⟨ a, b ⟩ = \sum_{i} a_{i} b_{i}

$\langle \mathbf{a}, \mathbf{b} \rangle = \sum_i a_i b_i$

$\langle \mathbf{f} + \mathbf{e}, \mathbf{f} + \mathbf{e} \rangle = \sum_i \left(y_i - \bar{y} \right)^2$
$\langle \mathbf{f}, \mathbf{f} \rangle = \sum_i \left(\hat{y}_i - \bar{y} \right)^2$
$\langle \mathbf{e}, \mathbf{e} \rangle = \sum_i \left(y_i - \hat{y}_i \right)^2$

したがって、 $SST = SSE + SSR$ $\mathbf{f}$ $\mathbf{e}$ $\mathbf{y}$ $\hat{y}_i$

— マシューガン
ソース