1つの確率変数の関数の分散

既知の分散と平均を持つランダム変数があるとしましょう。問題は、与えられた関数f の分散は何ですか？私が知っている唯一の一般的な方法はデルタ法ですが、近似のみを提供します。今、私はに興味がありますが、いくつかの一般的な方法を知っておくといいでしょう。 $X$ $f(X)$ $f(x)=\sqrt{x}$

編集2010年12月29日
私はテイラー級数を使用していくつかの計算を行ってきたが、私は誰かができれば、私は喜んでいると思いますので、彼らは、正しいかどうかわからないんだけど、確認し、それらを。

まず、を近似する必要があります $E[f(X)]$
$E[f(X)] \approx E[f(\mu)+f'(\mu)(X-\mu)+\frac{1}{2}\cdot f''(\mu)(X-\mu)^2]=f(\mu)+\frac{1}{2}\cdot f''(\mu)\cdot Var[X]$

これで、 $D^2 [f(X)]$
$E[(f(X)-E[f(X)])^2] \approx E[(f(\mu)+f'(\mu)(X-\mu)+\frac{1}{2}\cdot f''(\mu)(X-\mu)^2 -E[f(X)])^2]$

の近似を使用すると $E[f(X)]$ 、 $f(\mu)-Ef(x) \approx -\frac{1}{2}\cdot f''(\mu)\cdot Var[X]$

これを使用して、次を取得します
$D^2[f(X)] \approx \frac{1}{4}\cdot f''(\mu)^2\cdot Var[X]^2-\frac{1}{2}\cdot f''(\mu)^2\cdot Var[X]^2 + f'(\mu)^2\cdot Var[X]+\frac{1}{4}f''(\mu)^2\cdot E[(X-\mu)^4] +\frac{1}{2}f'(\mu)f''(\mu)E[(X-\mu)^3]$
$D^2 [f(X)] \approx \frac{1}{4}\cdot f''(\mu)^2 \cdot [D^4 X-(D^2 X)^2]+f'(\mu)\cdot D^2 X +\frac{1}{2}f'(\mu)f''(\mu)D^3 X$

variance random-variable delta-method

— トメク・タルチンスキ
ソース

漸近分布にはデルタ法が使用されます。ランダム変数が1つしかない場合は使用できません。

— mpiktas

@mpiktas：実際、Deltaメソッドについてあまり知りません。ウィキペディアで読んだことがあります。これはwikiからの引用です：「デルタ法は2次テイラー展開を使用して、1つ以上のランダム変数の関数の分散を近似します」。

— トメックタルチンスキ

wikipediaにはまさにen.wikipedia.org/wiki/…があります。答えを再編集しますが、テイラー展開を過小評価しているようです。

— mpiktas

Tomek、（私によるものではない）行われた編集に同意しない場合は、いつでも再度変更したり、ロールバックしたり、単に違いを指摘して明確化を求めたりすることができます。

— Glen_b

@Glen_b：私は彼らE（X-MU）= 0と一致していないimplytないことE [（X-MU）^ 3] = 0

— Tomek Tarczynski

回答:

更新

テイラー展開を過小評価しています。彼らは実際に動作します。剰余項の積分は無制限であると仮定しましたが、少しの作業で、そうではないことを示すことができます。

テイラー展開は、有界閉区間の関数に対して機能します。有限分散チェビシェフ不等式を持つ確率変数の場合

P (| X - E X | > c) \leq \frac{V a r (X)}{c}

$P(|X-EX|>c)\le \frac{Var(X)}{c}$

だから、いずれかの、我々は十分な大きさを見つけることができますように、 $\varepsilon>0$ $c$

P (X \in [E X - c, E X + c]) = P (| X - E X | \leq c) < 1 - ε

$P(X\in [EX-c,EX+c])=P(|X-EX|\le c)<1-\varepsilon$

まず、推定します。我々は持っているここで、は次の分布関数です。 $Ef(X)$

\begin{aligned} E f (X) = \int_{| x - E X | \leq c} f (x) d F (x) + \int_{| x - E X | > c} f (x) d F (x) \end{aligned}

$\begin{align} Ef(X)=\int_{|x-EX|\le c}f(x)dF(x)+\int_{|x-EX|>c}f(x)dF(x) \end{align}$

F (x)

$F(x)$

。

X

$X$

最初の積分の領域は閉じた区間である区間あるため、テイラー展開を適用できます： $[EX-c,EX+c]$ ここで、、および等価の全てに当てはまる。テイラー展開では4つの項しか取りませんでしたが、一般に、関数が十分に滑らかである限り、好きなだけ取ります。

\begin{aligned} f (x) = f (E X) + f^{'} (E X) (x - E X) + \frac{f^{″} (E X)}{2} (x - E X)^{2} + \frac{f^{‴} (α)}{3} (x - E X)^{3} \end{aligned}

$\begin{align} f(x)=f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2+\frac{f'''(\alpha)}{3}(x-EX)^3 \end{align}$

α \in [E X - c, E X + c]

$\alpha\in [EX-c,EX+c]$

x \in [E X - c, E X + c]

$x\in[EX-c,EX+c]$

f

$f$

この式を以前の式に置き換えると、

これで、積分の領域を増やして次の式を得ることができます

\begin{aligned} E f (X) & = \int_{| x - E X | \leq c} f (E X) + f^{'} (E X) (x - E X) + \frac{f^{″} (E X)}{2} (x - E X)^{2} d F (x) \\ + \int_{| x - E X | \leq c} \frac{f^{‴} (α)}{3} (x - E X)^{3} d F (x) + \int_{| x - E X | > c} f (x) d F (x) \end{aligned}

$\begin{align} Ef(X)&=\int_{|x-EX|\le c}f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2dF(x)\\\\ &+\int_{|x-EX|\le c}\frac{f'''(\alpha)}{3}(x-EX)^3dF(x) +\int_{|x-EX|>c}f(x)dF(x) \end{align}$

\begin{aligned} E f (X) & = f (E X) + \frac{f^{″} (E X)}{2} E (X - E X)^{2} + R_{3} \end{aligned}

$\begin{align} Ef(X)&=f(EX)+\frac{f''(EX)}{2}E(X-EX)^2+R_3\\\\ \end{align}$

\begin{aligned} R_{3} & = \frac{f^{‴} (α)}{3} E (X - E X)^{3} + \\ + \int_{| x - E X | > c} (f (E X) + f^{'} (E X) (x - E X) + \frac{f^{″} (E X)}{2} (x - E X)^{2} + f (X)) d F (x) \end{aligned}

$\begin{align} R_3&=\frac{f'''(\alpha)}{3}E(X-EX)^3+\\\\ &+\int_{|x-EX|>c}\left(f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2+f(X)\right)dF(x) \end{align}$

P (| X - E X | > c)

$P(|X-EX|>c)$

E (X - E X)^{3}

$E(X-EX)^3$

f

$f$

E (X - E X)^{3} = 0

$E(X-EX)^3=0$

$f(x)$ $Ef(x)$

$E(f(x)-Ef(x))^2=(f'(EX))^2Var(X)+T_3$

$T_3$ $E(X-EX)^k$ $k=4,5,6$

$f^2(x)$

\begin{aligned} f^{2} (x) & = f^{2} (E X) + 2 f (E X) f^{'} (E X) (x - E X) \\ + [(f^{'} (E X))^{2} + f (E X) f^{″} (E X)] (X - E X)^{2} + \frac{(f^{2} (β))^{‴}}{3} (X - E X)^{3} \end{aligned}

$\begin{align} f^2(x)&=f^2(EX)+2f(EX)f'(EX)(x-EX)\\\\ &+[(f'(EX))^2+f(EX)f''(EX)](X-EX)^2+\frac{(f^2(\beta))'''}{3}(X-EX)^3 \end{align}$

\begin{aligned} E f^{2} (x) = f^{2} (E X) + [(f^{'} (E X))^{2} + f (E X) f^{″} (E X)] V a r (X) + {\tilde{R}}_{3} \end{aligned}

$\begin{align*} Ef^2(x)=f^2(EX)+[(f'(EX))^2+f(EX)f''(EX)]Var(X)+\tilde{R}_3 \end{align*}$

{\tilde{R}}_{3}

$\tilde{R}_3$

R_{3}

$R_3$

\begin{aligned} V a r (f (X)) = [f^{'} (E X)]^{2} V a r (X) - \frac{[f^{″} (E X)]^{2}}{4} V a r^{2} (X) + {\tilde{T}}_{3} \end{aligned}

$\begin{align} Var(f(X))=[f'(EX)]^2Var(X)-\frac{[f''(EX)]^2}{4}Var^2(X)+\tilde{T}_3 \end{align}$ where

{\tilde{T}}_{3}

$\tilde{T}_3$ have only third moments and above.

— mpiktas
ソース

I dont need to know the exact value of the variance, approximation should works for me.

— Tomek Tarczynski

Indeed, the approximate formula for

E [f (X)]

$\mathbb{E}[f(X)]$ in the OP is often used in risk analysis in economics, finance and insurance.

— Raskolnikov

@Raskolnikov, yes but it contradicts my admitedly stale knowledge of Taylor expansion. Clearly the remainder term must be taken into account. If the random variable is bounded, then no problem, since polynomials approximate continuous functions on bounded interval uniformly. But we deal with unbounded random variables. Of course for random normal we can say that it is effectively bounded, but still in general case, some nasty surprises can arise, or not. I will fix my answer when I'll have the clear answer.

— mpiktas

@Tomek Tarczynski, the third derivative of

\sqrt{x}

$\sqrt{x}$ goes to zero quite quickly for large

x

$x$ , but is unbounded near zero. So if you picked uniform distribution with support close to zero, the remainder term can get large.

— mpiktas

Note that in your link the the equality is approximate. In this answer all the equations are exact. Furthermore for the variance note that the first derivative is estimated at the

E X

$EX$ , not

x

$x$ . Also I never stated that this will not work for

\sqrt{x}

$\sqrt{x}$ , only that for

\sqrt{x}

$\sqrt{x}$ the approximate formula might have huge error if

X

$X$ domain is close to zero.

— mpiktas

To know the first two moments of X (mean and variance) is not enough, if the function f(x) is arbitrary (non linear). Not only for computing the variance of the transformed variable Y, but also for its mean. To see this -and perhaps to attack your problem- you can assume that your transformation function has a Taylor expansion around the mean of X and work from there.

— leonbloy
ソース