「パラメータの線形」とはどういう意味ですか？

線形回帰のモデルは、パラメーターが線形です。

これは実際にはどういう意味ですか？

次の形式の方程式を考えます

$y = \beta_0 + \beta_1x_1 + \beta_2x_2 + \epsilon$

ここで、は変数であり、はパラメーターです。ここで、yはの線形関数（パラメーターで線形）であり、の線形関数（変数で線形）でもあります。方程式を次のように変更した場合$x$$\beta$$\beta$$x$

$y = \beta_0 + \beta_1x_1 + \beta_2x_1^2 + \epsilon$

次に、（変数の二乗のため）変数では線形ではなくなりますが、パラメーターでは線形になります。そして、（複数の）線形回帰では、結局のところ、損失関数を最小化するのセットを見つけようとしているので、それだけが重要です。そのためには、線形方程式系を解く必要があります。その素晴らしい特性を考えると、それは私たちの生活を容易にする閉じた形のソリューションを持っています。非線形方程式を扱うと、状況はさらに難しくなります。$\beta$

あなたは、フォームの目的関数を最小化しようとしている：あなたは回帰モデルを扱っていないが、その代わりにあなたは数理計画問題を持っていると仮定：制約のセットに対象をA のx ≥ Bとのx ≥ 0。これは、変数に対して線形であるという意味で線形計画問題です。回帰モデルとは異なり、制約を満たし、目的関数を最小化するx（変数）のセットを見つけようとしています。これには、線形方程式のシステムを解くことも必要になりますが、ここでは変数で線形になります。パラメータは、その線形方程式系に影響を与えません。$c^Tx$$Ax \geq b$$x\geq0$$x$

これは単に、であることを意味します。ここで、Aはパラメーターです。変数Xには非線形関係が含まれる場合があります。例：X = [ $Y = A X$$A$$X$、まだ Yは、の線形関数である X。$X = [\alpha\; \alpha \beta\; \beta^2]^T$$Y$$X$

各項が定数であるか、パラメーターと予測子の積である場合、モデルは線形です。線形方程式は、各項の結果を加算することによって構築されます。これにより、方程式が1つの基本形式に制限されます。

$Response = constant + parameter * predictor + ... + parameter * predictor$

線形回帰の「パラメーターの線形」は、パラメーターが指数として表示されず、別のパラメーターで乗算または除算されないことを意味します。