モデレート回帰：予測子間の*積*項を計算するのはなぜですか？

12

モデレート回帰分析は、2つ以上の予測変数/共変量間の相互作用を評価するために、社会科学でよく使用されます。

通常、2つの予測変数を使用して、次のモデルが適用されます。

$Y = β_0 + β_1*X + β_2*M + β_3*XM + e$

モデレーションのテストは、積項 $XM$ （独立変数 $X$ とモデレーター変数間の乗算）によって操作可能になっていることに注意してください $M$ 。私の非常に根本的な質問は、なぜ $X$ と間の積項を実際に計算するの $M$ ですか？なぜ、たとえば、絶対的な違いはありません $|M-X|$ または単に合計 $X + M$ ？

興味深いことに、この問題へのケニーの暗示がここhttp://davidakenny.net/cm/moderation.htmと言って：「としては見られますが、節度のテストは常に、製品の長期XMことによって操作されていない」が、さらに説明が与えられていません。正式なイラストや証拠は啓発的なものになると思います。

regression interaction

— 分母
ソース

12

「モデレーター」は、に対するの回帰係数に影響します。モデレーターの値が変わると、それらが変わる場合があります。したがって、完全な一般性において、節度の単純な回帰モデルは $Y$ $X$

E (Y) = α (M) + β (M) X

$\mathbb{E}(Y) = \alpha(M) + \beta(M)X$

ここで、とは値の影響を受けない定数ではなく、モデレーター関数です。 $\alpha$ $\beta$ $M$ $M$

回帰を上に設立された同じ精神において線形近似との間の関係の及びは、我々は両方のことを期待することができる及び少なくとも約- -の線形関数である値の範囲全体にわたってでデータ： $X$ $Y$ $\alpha$ $\beta$ $M$ $M$

\begin{aligned} E (Y) & = α_{0} + α_{1} M + O (M^{2}) + (β_{0} + β_{1} M + O (M^{2})) X \\ = α_{0} + β_{0} X + α_{1} M + β_{1} M X + O (M^{2}) + O (M^{2}) X . \end{aligned}

$\eqalign{ \mathbb{E}(Y) &= \alpha_0 + \alpha_1 M + O(M^2) + (\beta_0 + \beta_1 M + O(M^2))X \\ &= \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX + O(M^2) + O(M^2)X. }$

非線形（ "big-O"）項をドロップすると、それらが小さすぎて問題にならないことを期待して、乗法（双線形）相互作用モデルが得られます。

\begin{matrix} (1) & E (Y) = α_{0} + β_{0} X + α_{1} M + β_{1} M X . \end{matrix}

$\mathbb{E}(Y) = \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX.\tag{1}$

この導出は、係数の興味深い解釈を示唆している：速度である変化切片をしながら速度である変化する勾配を。（と場合傾きと切片でありゼロに（正式）が設定されている。）「積項」の係数である。この方法で質問に答えます： $\alpha_1$ $M$ $\beta_1$ $M$ $\alpha_0$ $\beta_0$ $M$ $\beta_1$ $MX$

モデレーターが（平均して） vs 傾きと線形関係を持つと予想される場合、積項モデレーションをモデル化します。 $MX$ $M$ $Y$ $X$

興味深いのは、この導出がモデルの自然な拡張への道を指し示していることです。これは、適合度をチェックする方法を示唆するかもしれません。非線形性に関心がない場合- モデルが正確であることを知っているかまたは仮定している場合-削除された項に対応するようにモデルを拡張する必要があります。 $X$ $(1)$

E (Y) = α_{0} + β_{0} X + α_{1} M + β_{1} M X + α_{2} M^{2} + β_{2} M^{2} X .

$\mathbb{E}(Y) = \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX + \alpha_2M^2 + \beta_2 M^2X.$

仮説をテストする評価し、適合度。見積り及びどのような方法でモデルを示すことができる拡張が必要な場合があります：における非線形組み込むために（）、またはより複雑な緩和の関係（）、または可能性の両方を。（このテストは、一般関数のべき級数展開では示唆されないことに注意してください $\alpha_2=\beta_2=0$ $\alpha_2$ $\beta_2$ $(1)$ $M$ $\alpha_2 \ne 0$ $\beta_2 \ne 0$ 。） $f(X,M)$

最後に、あなたがいた場合、相互作用係数ことを発見するためにゼロと有意差は認められなかった、しかし、フィット感が非線形であること（の大きな値によって証明されるように、）、その後、あなたが結論でしょう（）節度があるが、（ b）項ではなく、始まる高次項によってモデル化されます。これはケニーが言及していた種類の現象かもしれません。 $\beta_1$ $\beta_2$ $MX$ $M^2X$

— ウーバー
ソース

8

予測子の合計を使用して相互作用をモデル化すると、方程式は次のようになります。

\begin{array}{rcl} Y & = & β_{0} + β_{1} X + β_{2} M + β_{3} (X + M) + e \\ = & β_{0} + β_{1} X + β_{2} M + β_{3} X + β_{3} M + e \\ = & β_{0} + (β_{1} + β_{3}) X + (β_{2} + β_{3}) M + e \\ = & β_{0} + β_{1}^{'} X + β_{2}^{'} M + e \end{array}

$\begin{eqnarray} Y &=& \beta_0 + \beta_1X + \beta_2M + \beta_3(X + M) + e\\ &=& \beta_0 + \beta_1X + \beta_2M + \beta_3X + \beta_3M + e\\ &=& \beta_0 + (\beta_1 + \beta_3)X + (\beta_2 + \beta_3)M + e \\ &=& \beta_0 + \beta_1'X + \beta_2'M + e \end{eqnarray}$

ここで、と。したがって、モデルには相互作用がまったくありません。明らかに、これは製品には当てはまりません。 $\beta_1'=\beta_1+\beta_3$ $\beta_2'=\beta_2+\beta_3$

絶対値の定義を思い出してください。

| X - M | = {\begin{cases} X - M, & X \geq M \\ M - X, & X < M \end{cases}

$|X-M| = \begin{cases} X-M, & X \geq M\\ M-X, & X < M \end{cases}$

Although you can reduce the model $\beta_0 + \beta_1X + \beta_2M + \beta_3|X-M| + e$ to the one with only $X$ and $M$ terms, using the def. of $|X-M|$ , the absolute value is a "specialized form of moderation that is unlikely to be realistic in many situations", as pointed out in the comment below.

— Milos
ソース

1

| X - M |

$|X-M|$

M

$M$

β_{2}

$\beta_2$

1

| X - M |

$|X-M|$ is a form of moderation, I got carried away by transformation and will edit the answer accordingly. Thanks for pointing this out.

— Milos

@Milos: Your example about the sum of predictors was an eye-opener, a somewhat embarrassing one, I must say because I should have already realized the mathematical implications ;) whuber: As far as I understand it, the absolute value is only useful when both predictor variables are measured in same units (e.g. two psychometric tests, using the same metric, such as z-scores or T-scores). The absolute difference between X and M is a useful metric, although not the only possible one (i.e. the prodcut term could also be used).

— denominator

6

You won't find a formal proof for using multiplicative moderator. You can support this approach by other means. For instance, look at the Taylor-MacLaurin expansion of a function $f(X,M)$ :

f (X, M) = f (0, 0) + \frac{\partial f (0, 0)}{\partial T} T + \frac{\partial f (0, 0)}{\partial M} M + \frac{\partial^{2} f (0, 0)}{\partial T \partial M} T M + \frac{\partial^{2} f (0, 0)}{2 \partial T^{2}} T^{2} + \frac{\partial^{2} f (0, 0)}{2 \partial M^{2}} M^{2} \dots

$f(X,M)=f(0,0)+\frac{\partial f(0,0)}{\partial T} T+\frac{\partial f(0,0)}{\partial M} M+\frac{\partial^2 f(0,0)}{\partial T\partial M} TM +\frac{\partial^2 f(0,0)}{2\partial T^2} T^2 +\frac{\partial^2 f(0,0)}{2\partial M^2} M^2\dots$

If you plug a function of this form $f(X,M)=\beta_0+\beta_XX+\beta_MM+\beta_{XM}XM$ into the Taylor equation, you get this:

f (X, M) = β_{0} + β_{X} X + β_{M} M + β_{X M} X M

$f(X,M)=\beta_0+\beta_XX +\beta_MM +\beta_{XM}XM$

So, the rationale here is that this particular multiplicative form of the moderation is basically a second order Taylor approximation of a generic moderation relationship $f(X,M)$

UPDATE: if you include quadratic terms, as @whuber suggested then this will happen:

g (X, M) = b_{0} + b_{X} X + b_{M} M + b_{X M} X M + b_{X 2} X^{2} + b_{M 2} M^{2}

$g(X,M)=b_0+b_XX +b_MM +b_{XM}XM+b_{X2}X^2 +b_{M2}M^2$ plug this into Taylor:

g (X, M) = b_{0} + b_{X} X + b_{M} M + b_{X M} X M + b_{X 2} X^{2} + b_{M 2} M^{2}

$g(X,M)=b_0+b_XX +b_MM +b_{XM}XM +b_{X2}X^2 +b_{M2}M^2$

This shows that our new model $g(X,M)$ with quadratic terms corresponds to a full second order Taylor approximation, unlike the original moderation model $f(X,M)$ .

— Aksakal almost surely binary
ソース

Since the basis of your argument is the Taylor expansion, why did you not also include the other two quadratic terms

X^{2}

$X^2$ and

M^{2}

$M^2$ ? True, they are not forms of moderation, but their inclusion in the model usually will affect $\beta_{XM}$ .

— whuber

@whuber, I decided to keep the post short - that's the main reason. Otherwise, I started writing about my preference to include second order terms whenever you have a cross term, then cut it out.

— Aksakal almost surely binary