多変量回帰またはいくつかの回帰分析を使用する必要がありますか？

私はそれぞれ96変数を持つ45人の参加者のデータセットを持っています（ただし、一部の測定値はありません）。年齢や障害など、一部の変数は単純ですが、他の測定値は特定のテストのスコアです（たとえば、1つのテストの結果として5つの値がある）。私は5つのテストのデータを持っています。3つの異なる時点で与えられ、前述のとおり、テストごとに複数のスコアが時々あります。

データセットは非常に大きいので（参加者の数に対する特徴の量が与えられた場合）、以前のすべての結果（年齢、障害、同じ以前のテストのすべてのスコアなど）を前提として、テストのスコアを予測することにしました。つまり、これは基本的に、回帰を使用して45人の参加者で約10の特徴を与えて5つの特徴を予測したいということです（正確な係数、p値、R二乗測定値を表示したい）。

予測したい特徴のそれぞれに対して定期的な回帰を行うべきですか、それとも一度に予測したいすべての特徴に対して多変量回帰を使用すべきですか？違いはなんですか？

レッツベクトル表し wehre、番目の応答を。あなたの例では、5つのテストスコアがあるので、は5です。ましょあること予測子の行列。個別の回帰を実装する場合（各 1つ）、$Y_i$$i$$i = 1, \dots, r$$r$$X$$n \times p$$r$$Y_i$

ここで、です。OLSを使用すると、見積もりを取得できます。多変量回帰を行うこともできます$\epsilon_i \sim N_n(0, \sigma^2_iI_n)$$\beta$

ここで、は応答の行列、は回帰係数の行列、は番目の列、。この場合、 OLS推定は、 OLS推定と同等です。$\mathbf{Y}$$n \times r$$\mathbf{B}$$p \times r$$\mathbf{E}$$i$$\epsilon_i \overset{iid}{\sim} N_n(0, \sigma^2_iI_n)$$\mathbf{B}$$r$$\beta_i$

ただし、で条件付けされていると仮定する理由がある場合、5つの予測子は相関します（これは、あなたのケースではそれは妥当な仮定のようです）、行は、。ここで、は予測子の相関構造も表します。$X$$\mathbf{E}$$j = 1, 2, \dots, n, \epsilon_j \overset{iid}{\sim} N_r(0, \Sigma)$$\Sigma$

この場合でも、推定値はOLS推定値と同じですが、推定値のエラー構造が変化するため、推定値の推論が変化することに注意してください。結果として、値が変化します。$\mathbf{B}$$p$

MRCE Rパッケージには、モデルのフィットが可能になります。また、このパッケージは、がと比較して十分に大きくない場合に正則化メソッドを使用するので、予測子の数を減らす必要はありません。また、やる気を起こさせる例とともに、ここでより詳細な理論を見つけることができます。著者は次の動機を述べています$n$$p$

この一般的なモデルのアプリケーションは、ケモメトリックス、計量経済学、心理測定学、および予測変数の単一のセットで複数の応答を予測するその他の定量的な分野で発生します。たとえば、その生産に関連する一連の変数を使用して、紙の品質のいくつかの尺度を予測します。

同様に、セットアップでは、同じ予測子から生じる5セットの応答があり、応答間に固有の相関構造があります。