多変量線形モデルを重回帰としてキャストする


20

多変量線形回帰モデルを多重線形回帰として再キャストすることは完全に同等ですか?私は、個別の回帰を実行するだけではありません。t

多変量線形モデルは重回帰として簡単に再パラメーター化できることを、いくつかの場所(ベイジアンデータ分析-ゲルマンら、および多変量オールドスクール-マーデン)で読みました。ただし、どちらのソースもこれについて詳しく説明していません。彼らは本質的にそれについて言及し、その後多変量モデルの使用を続けます。数学的には、最初に多変量バージョンを作成し、

Yn×t=Xn×kBk×t+Rn×t,
太字の変数は、その下のサイズの行列です。いつものように、はデータ、は設計行列、は正規分布の残差、\ mathbf {B}は推論の対象です。X R BYXRB

これを使い慣れた多重線形回帰として再パラメーター化するには、変数を次のように単純に書き換えます。

ynt×1=Dnt×nkβnk×1+rnt×1,

ここで使用される再パラメーター化は、y=row(Y)β=row(B)、およびD=XInrow()は、行列の行が端から端まで長いベクトルに配置されることを意味し、はクロネッカー、つまり外積です。

それで、これがとても簡単なら、なぜ多変量モデルに関する本を書いたり、それらの統計をテストしたりするのが面倒なのでしょうか?最初に変数を変換し、一般的な単変量技術を使用することが最も効果的です。少なくとも線形モデルの場合には、正当な理由があると確信しています。この再パラメータ化が適用されない、または実行できる分析の可能性を制限する、多変量線形モデルと正規分布ランダムエラーの状況はありますか?

私がこれを見たソース:マーデン-多変量統計:オールドスクール。セクション5.3-5.5を参照してください。この本は、http//istics.net/stat/から無料で入手できます。

ゲルマン等。-ベイジアンデータ分析。私は第2版を持っています。このバージョンにはCh。に小さな段落があります。19「多変量回帰モデル」というタイトルの「同等の単変量回帰モデル」

基本的に、多変量モデルで可能な同等の線形単変量回帰モデルですべてを実行できますか?もしそうなら、なぜ多変量線形モデルの方法を開発するのですか?

ベイジアンアプローチではどうですか?


いい質問ですね。構造ではなく基礎の観点からもっと多くを求めることができるかもしれません。
サブハッシュC.ダバール

1
構造ではなく基礎とはどういう意味ですか?詳しく説明してもらえますか?
bill_e

私は、長年の最初と大学院の学位の一部として、2つの論文しか学ばなかったことに注意してください。技術的な説明には手入れがありません。多変量解析には、多重線形回帰モデルまたは単純な線形回帰モデルと比較した場合に異なる仮定があることを理解しています。多変量解析の前提は異なります。つまり、数学的な予想が優先されます。多重線形回帰は、不均一分散性をもたらす特定の他の仮定を行います。ここで私が意味する構造は、方程式を指します。
サブハッシュC.ダバール

多変量(一般)線形モデルまたはベイジアン多変量回帰について話しているかどうかにかかわらず、タイトルまたは冒頭で明確に言う必要があります。
ttnphns

1
わかりましたのでそれは私のアプローチではなく私はこれを見た2つの場所を指摘しました。このアプローチが問題の核心です。多変量バージョンと再パラメーター化された単変量バージョンの違いは何ですか?
bill_e

回答:


5

基本的に、多変量モデルで可能な同等の線形単変量回帰モデルですべてを実行できますか?

答えはノーだと思います。

目標が単純に効果(パラメーター)を推定すること、またはモデルに基づいてさらに予測することのいずれかである場合は、2つのモデルのどちらを採用するかは問題ではありません。B

しかし、特に古典的な有意性検定を実行するために統計的推論を行うためには、多変量定式化は実際上置き換えられないようです。より具体的には、心理学の典型的なデータ分析を例として使用します。人の被験者からのデータは、n

Yn×t=Xn×kBk×t+Rn×t,

ここで、被験者間説明変数(因子または定量共変量)はXの列としてコード化され、t反復測定(または被験者内)因子レベルは同時変数またはYの列として表されます。k1XtY

上記の定式化により、一般的な線形仮説は次のように簡単に表現できます。

LBM=C,

ここで、被験者間説明変数間の重みで構成されながら、Lは、反復測定因子のレベルのうちの重みが含まれており、Cは定数行列、通常0LLC0

多変量システムの美しさは、被験者間および被験者内の2種類の変数間の分離にあります。この分離により、多変量フレームワークの下での3種類の有意性テスト(古典的な多変量テスト、反復測定多変量テスト、反復測定単変量テスト)を簡単に定式化できます。さらに、球形違反のモークリーテストと対応する修正方法(Greenhouse-GeisserおよびHuynh-Feldt)も、多変量システムでの単変量テストで自然になります。これは、統計パッケージのようなそれらのテストを実施して正確にどのようにある車の R、中GLMでのIBM SPSS統計では、その繰り返しの文 PROC GLM SASの。

定式化がベイジアンデータ分析で重要かどうかはわかりませんが、上記のテスト機能を単変量プラットフォームで定式化および実装できるかどうかは疑問です。


なるほど、これは理にかなっています。すばらしい回答をありがとう。ベイジアンの視点も聞きたいです。
bill_e

@PeterRabbit答えが気に入ったら、彼の答えを受け入れて、bluepoleに感謝してください。彼はポイントを獲得します。
pteetor

私は、誰かがベイジアンの視点を提供するかどうかを確認するために少しだけ差し出しました。
bill_e

4

適切な分散共分散構造に適合する場合、両方のモデルは同等です。変換された線形モデルでは、利用可能なコンピューティングソフトウェアでの可用性が限られているkronecker製品でエラー成分の分散共分散行列を近似する必要があります。線形モデル理論-単変量、多変量、および混合モデルは、このトピックの優れたリファレンスです。

編集済み

自由に利用できるもう1つの参考資料を次に示します。


2
ああ、そうです、通常の単変量モデルでは、DV内に共分散構造のタイプはありません。したがって、それに関する仮説検定は存在しません。ありがとうございました!その本を手に入れることができるかどうかを確認します。
bill_e
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.