線形回帰の結果を評価する方法

線形回帰の問題があります。つまり、データセットがあり、それを2つのサブセットに分割しました。1つのサブセットは線形回帰を見つけるために使用され（トレーニングサブセット）、別のサブセットはそれを評価するために使用されます（評価サブセット）。私の質問は、この線形回帰の結果をデータの評価サブセットに適用した後、どのように評価するかです。

詳細は次のとおりです。

トレーニングサブセットでは、線形回帰を行います：、ここではグラウンドトゥルース（ターゲットとも呼ばれます）、は独立変数です。次に、とを見つけまし。（とはトレーニングサブセットで指定されます）。y x a b x $y = ax + b$$y$$x$$a$$b$$x$$y$

ここで、トレーニングサブセットから上記で見つかっとを使用し、それらを評価サブセットに適用します見つかりました。つまり、これらのはした線形回帰から求められます。ここで、に加えて、評価セットからもします。結果をどのように評価しますか（はとどれだけ異なるか）？それを行うための一般的な数学モデルはありますか？ある種の数学モデル/数式である必要があります。さまざまな方法を考えることができますが、それらはすべてアドホックまたはシンプルですが、これは科学的な研究のためのものであり、残念ながらアドホックなものはここでは使用できません。b y ′ = a x ′ + b y ′ x ′ y ′ y y ′$a$$b$$y' = ax' + b$$y'$$x'$$y'$$y$$y'$$y$

何か案が？

線形モデルにトレイン/テストスプリット（または相互検証のようなもの）を使用している人はめったに見られないという@Octernに同意します。このような非常に単純なモデルでは、（ほとんど）オーバーフィットは確かに問題ではありません。

モデルの「品質」を理解したい場合は、回帰係数の周囲の信頼区間（または同等のベイジアン）を報告することができます。これを行うにはいくつかの方法があります。エラーが正常に分布していることがわかっている、または想定できる場合は、簡単な式があります（最も一般的なデータ分析パッケージでこれらの値が得られます）。もう1つの一般的な代替策は、リサンプリング（たとえば、ブートストラップやジャックナイフ処理）を通じてそれらを計算することです。これにより、エラーの分布に関する仮定が少なくなります。どちらの場合も、計算には完全なデータセットを使用します。

線形学習モデルに本当に問題がなく、テストデータをどれだけ正確に予測できるかを知りたい場合は、既に持っている線形モデルの式を使用し、推定係数a（=切片）を含めるだけで済みます。と最初のモデルから得られたb（回帰係数、勾配とも呼ばれます）。

y = a + b * Xのように見えるはずですが、ここでは架空の数値がいくつかあります... y = 2 + 0.5 * X

どのソフトウェアを使用していますか？Rを使用していますか？その場合、predict.lm（）関数を使用して、2番目のデータセットに適用できます。

これは主に目標が何であるかによって大きく異なりますが、これを行う簡単で標準的な方法は、平均二乗誤差（MSE）を測定することです。したがって、入力/出力ペアで構成されるテストデータセットある場合、パラメータおよび場合、MSEは次のように計算できます。D = { （x 1、y 1）、（x 2、y 2）、… 、（x n、y n）} a $\mathcal{D}$$\mathcal{D} = \{(x_1, y_1), (x_2, y_2), \ldots, (x_n, y_n)\}$$a$$b$

これは、パラメータおよびを見つけるために使用した基準である可能性が高いため、おそらくエラーを測定するための賢明な方法でもあります。推定されたパラメーターがどれだけ一般化しているかについてより良いアイデアを得たい場合は、相互検証のようなものを検討する必要があります。$a$$b$