起源による回帰

：我々は、以下の点持っどのようにして、点を通る最適な直線を見つけることができますか？私の計算機には、これらの点を通る最適な直線を見つけるオプションがあります。

(0, 0) (1, 51.8) (1.9, 101.3) (2.8, 148.4) (3.7, 201.5) (4.7, 251.1) (5.6, 302.3) (6.6, 350.9) (7.5, 397.1) (8.5, 452.5) (9.3, 496.3)

$(0,0)(1,51.8)(1.9,101.3)(2.8,148.4)(3.7,201.5)(4.7,251.1) \\ (5.6,302.3)(6.6,350.9)(7.5,397.1)(8.5,452.5)(9.3,496.3)$

y = a x

$y=ax$

y = a x + b

$y=ax+b$

y = 53.28 x + 0.37

$y = 53.28x + 0.37$

最適なを見つけるにはどうすればよいですか？私はを補正せずにを削除できないのではないかと思います。 $y=ax$ $0.37$ $a$

regression intercept

— エドワードハリソン
ソース

やりたい理由はありますか？切片を抑制すると、切片が正確にゼロから無限小数位までである場合を除いて、バイアスモデルになります。それでも、効率はあまり向上しません。

— -モニカの

これらは物理実験の結果です。y切片があると、完全に正しくないものになります。

— EdwardHarrison 2013年

@gungつまり、削除するだけでしょうか。

0.37

$0.37$

— EdwardHarrison 2013年

「切片の抑制」は、モデルから推定値を単に削除することを意味するのではなく、原点を通るように線を強制する別の式を介してモデルを適合させることを意味します。

— ガン-モニカの回復

「物理実験。[...] yインターセプト[...]は、完全に正しくないものにつながるでしょう。」しかし、実験データが切片を示している場合（ところで、線の信頼区間が原点をカバーしているかどうかを確認できます）、これにより切片がどこから来ているのかが非常に難しくなります。私は分析化学者です。分析化学では、インターセプトなしで線形でなければならない関係もたくさんあります。しかし、計測器と測定の細部に渡る詳細のため、実際にはほとんど使用されていません。したがって、私たちは通常、切片を抑制することを非常に悪い考えと見なしています。

— cbeleitesは2013

回答:

切片が抑制されている場合の勾配の通常の最小二乗推定は次のとおりです。

\hat{β} = \frac{\sum_{i = 1}^{N} x_{i} y_{i}}{\sum_{i = 1}^{N} x_{i}^{2}}

$\hat{\beta}=\frac{\sum_{i=1}^N x_iy_i}{\sum_{i=1}^N x_i^2}$

— gung-モニカの回復
ソース

@gungがOLSの見積もりを示しました。それがあなたが求めていたものです。

ただし、線が原点を通過する必要がある物理量を扱う場合、エラーのスケールはx値によって変化するのが一般的です（概して、一定の相対エラーがあるため）。そのような状況では、通常の重み付けされていない最小二乗は不適切です。

そのような状況では、（いくつかの可能性のある）1つのアプローチは、対数を取り、yからxを差し引き、差の平均によって（元の変数の）対数勾配を推定することです。

あるいは、重み付き最小二乗法を使用することもできます。一定の相対誤差の場合、推定量（平均原点を通るすべての勾配の）。 $\hat{\beta}=\frac{1}{N}\sum_{i=1}^N \frac{y_i}{x_i}$

他のアプローチ（GLMなど）もありますが、電卓で行う場合は、最初の提案に頼ります。

また、行う前提の適切性についても検討する必要があります。

原点を通るWLSラインの派生を追加することは有益であるかもしれないと思ったので、「勾配の平均」とガングOLSは特別なケースです。

モデルはここで、 $y_i=\beta x_i+\varepsilon_i\,,$ $\text{Var}(\varepsilon_i)=w_i\sigma^2$

を最小化したい $S = \sum_i w_i(y_i-\beta x_i)^2$

$\frac{\partial S}{\partial \beta} = -\sum_i 2x_i.w_i(y_i-\beta x_i)$

LS液得るためにゼロに等しく設定我々が得、又は。 $\hat{\beta}$ $\sum w_ix_iy_i = \hat{\beta} \sum w_ix_i^2$ $\hat{\beta}=\frac{\sum w_ix_iy_i}{\sum w_ix_i^2}$

すべてのに対して場合、gungのOLSソリューションが生成されます。 $w_i\propto 1$ $i$

場合（平均とスプレッド増加場合に最適である）、これは「平均勾配の」溶液上に得られます。 $w_i \propto 1/x_i^2$

— Glen_b-モニカの復活
ソース