UMVUE

ましょう密度からのランダムサンプルである $(X_1,X_2,\ldots,X_n)$
$f_{θ} (x) = θ x^{θ - 1} 1_{0 < x < 1}, θ > 0$ $f_{\theta}(x)=\theta x^{\theta-1}\mathbf1_{0<x<1}\quad,\,\theta>0$

のUMVUEを見つけようとしています。 $\frac{\theta}{1+\theta}$

の結合密度は $(X_1,\ldots,X_n)$

\begin{aligned} f_{θ} (x_{1}, \dots, x_{n}) & = θ^{n} {(\prod_{i = 1}^{n} x_{i})}^{θ - 1} 1_{0 < x_{1}, \dots, x_{n} < 1} \\ = \exp [(θ - 1) \sum_{i = 1}^{n} \ln x_{i} + n \ln θ + \ln (1_{0 < x_{1}, \dots, x_{n} < 1})], θ > 0 \end{aligned}

$\begin{align} f_{\theta}(x_1,\cdots,x_n)&=\theta^n\left(\prod_{i=1}^n x_i\right)^{\theta-1}\mathbf1_{0<x_1,\ldots,x_n<1} \\&=\exp\left[(\theta-1)\sum_{i=1}^n\ln x_i+n\ln\theta+\ln (\mathbf1_{0<x_1,\ldots,x_n<1})\right],\,\theta>0 \end{align}$

母集団pdfは1パラメータ指数ファミリに属しているため、これは完全な十分な統計が $f_{\theta}$ $\theta$

T (X_{1}, \dots, X_{n}) = \sum_{i = 1}^{n} \ln X_{i}

$T(X_1,\ldots,X_n)=\sum_{i=1}^n\ln X_i$

以降、最初の考えで、の私に与えるUMVUEによってレーマン・シェッフェの定理。この条件付き期待値が直接見つかるか、条件付き分布を見つける必要があるかどうかはわかりません。 $E(X_1)=\frac{\theta}{1+\theta}$ $E(X_1\mid T)$ $\frac{\theta}{1+\theta}$ $X_1\mid \sum_{i=1}^n\ln X_i$

一方、私は次のアプローチを検討しました：

我々は、つまり。 $X_i\stackrel{\text{i.i.d}}{\sim}\text{Beta}(\theta,1)\implies -2\theta\ln X_i\stackrel{\text{i.i.d}}{\sim}\chi^2_2$ $-2\theta\, T\sim\chi^2_{2n}$

したがって、カイ2乗pdfを使用して計算された次の未加工モーメントは $r$ $-2\theta\,T$

E (- 2 θ T)^{r} = 2^{r} \frac{Γ (n + r)}{Γ (n)}, n + r > 0

$E(-2\theta\,T)^r=2^r\frac{\Gamma\left(n+r\right)}{\Gamma\left(n\right)}\qquad ,\,n+r>0$

したがって、異なる整数の選択に対して、異なる整数の累乗の不偏推定量（およびUMVUE）が得られるようです。たとえば、およびとのUMVUEを直接指定してください。 $r$ $\theta$ $E\left(-\frac{T}{n}\right)=\frac{1}{\theta}$ $E\left(\frac{1-n}{T}\right)=\theta$ $\frac{1}{\theta}$ $\theta$

さて、我々が持っている。 $\theta>1$ $\frac{\theta}{1+\theta}=\left(1+\frac{1}{\theta}\right)^{-1}=1-\frac{1}{\theta}+\frac{1}{\theta^2}-\frac{1}{\theta^3}+\cdots$

などのUMVUEを確実に取得できます。したがって、これらのUMVUEを組み合わせると、の必要なUMVUEを取得できます。この方法は有効ですか、それとも最初の方法から続行しますか？UMVUEが存在する場合、UMVUEは一意であるため、どちらも同じ答えを返すはずです。 $\frac{1}{\theta},\frac{1}{\theta^2},\frac{1}{\theta^3}$ $\frac{\theta}{1+\theta}$

明確にするために、

E (1 + \frac{T}{n} + \frac{T^{2}}{n (n + 1)} + \frac{T^{3}}{n (n + 1) (n + 2)} + \dots) = 1 - \frac{1}{θ} + \frac{1}{θ^{2}} - \frac{1}{θ^{3}} + \dots

$E\left(1+\frac{T}{n}+\frac{T^2}{n(n+1)}+\frac{T^3}{n(n+1)(n+2)}+\cdots\right)=1-\frac{1}{\theta}+\frac{1}{\theta^2}-\frac{1}{\theta^3}+\cdots$

つまり、

E (\sum_{r = 0}^{\infty} \frac{T^{r}}{n (n + 1) . . . (n + r - 1)}) = \frac{θ}{1 + θ}

$E\left(\sum_{r=0}^\infty \frac{T^r}{n(n+1)...(n+r-1)}\right)=\frac{\theta}{1+\theta}$

場合、必要なUMVUEがである可能性はありますか？ $\displaystyle\sum_{r=0}^\infty \frac{T^r}{n(n+1)...(n+r-1)}$ $\theta>1$

用、私はなるだろう、及びUMVUEが異なることになるので。 $0<\theta<1$ $g(\theta)=\theta(1+\theta+\theta^2+\cdots)$

最初のアプローチの条件付き期待値を直接見つけることができなかったと確信しており、、私は先に進みました条件付き分布を検索します。そのため、の結合密度が必要でした。 $E(X_1\mid \sum\ln X_i=t)=E(X_1\mid \prod X_i=e^t)$ $X_1\mid \prod X_i$ $(X_1,\prod X_i)$

I変数の変化使用よう全てについて。関節サポートこのリードである。 $(X_1,\cdots,X_n)\to (Y_1,\cdots,Y_n)$ $Y_i=\prod_{j=1}^i X_j$ $i=1,2,\cdots,n$ $(Y_1,\cdots,Y_n)$ $S=\{(y_1,\cdots,y_n): 0<y_1<1, 0<y_j<y_{j-1} \text{ for } j=2,3,\cdots,n\}$

ヤコビ行列式はことが判明しました。 $J=\left(\prod_{i=1}^{n-1}y_i\right)^{-1}$

の結合密度をとして $(Y_1,\cdots,Y_n)$

f_{Y} (y_{1}, y_{2}, \dots, y_{n}) = \frac{θ^{n} y_{n}^{θ - 1}}{\prod_{i = 1}^{n - 1} y_{i}} 1_{S}

$f_Y(y_1,y_2,\cdots,y_n)=\frac{\theta^n\, y_n^{\theta-1}}{\prod_{i=1}^{n-1}y_i}\mathbf1_S$

したがって結合密度は $(Y_1,Y_n)$

f_{Y_{1}, Y_{n}} (y_{1}, y_{n}) = \frac{θ^{n} y_{n}^{θ - 1}}{y_{1}} \int_{0}^{y_{n - 2}} \int_{0}^{y_{n - 3}} \dots \int_{0}^{y_{1}} \frac{1}{y_{3} y_{4} . . . y_{n - 1}} \frac{d y_{2}}{y_{2}} \dots d y_{n - 2} d y_{n - 1}

$f_{Y_1,Y_n}(y_1,y_n)=\frac{\theta^n\,y_n^{\theta-1}}{y_1}\int_0^{y_{n-2}}\int_0^{y_{n-3}}\cdots\int_0^{y_1}\frac{1}{y_3y_4...y_{n-1}}\frac{\mathrm{d}y_2}{y_2}\cdots\mathrm{d}y_{n-2}\,\mathrm{d}y_{n-1}$

ここで使用できる別の変換はありますか？これにより、結合密度の導出がより簡単になりますか？ここで正しい変換を行ったかどうかはわかりません。

コメントセクションのいくつかの優れた提案に基づいて、結合密度ではなくの結合密度を見つけました。ここで、および。 $(U,U+V)$ $(X_1,\prod X_i)$ $U=-\ln X_1$ $V=-\sum_{i=2}^n\ln X_i$

とは独立していることがすぐに。 $U\sim\text{Exp}(\theta)$ $V\sim\text{Gamma}(n-1,\theta)$

そして確かに、です。 $U+V\sim\text{Gamma}(n,\theta)$

以下のために、の関節密度ある $n>1$ $(U,V)$

f_{U, V} (u, v) = θ e^{- θ u} 1_{u > 0} \frac{θ^{n - 1}}{Γ (n - 1)} e^{- θ v} v^{n - 2} 1_{v > 0}

$f_{U,V}(u,v)=\theta e^{-\theta u}\mathbf1_{u>0}\frac{\theta^{n-1}}{\Gamma(n-1)}e^{-\theta v}v^{n-2}\mathbf1_{v>0}$

変数を変更し、私はの共同密度ましたなどを $(U,U+V)$

f_{U, U + V} (u, z) = \frac{θ^{n}}{Γ (n - 1)} e^{- θ z} (z - u)^{n - 2} 1_{0 < u < z}

$f_{U,U+V}(u,z)=\frac{\theta^n}{\Gamma(n-1)}e^{-\theta z}(z-u)^{n-2}\mathbf1_{0<u<z}$

したがって、条件付き密度は $U\mid U+V=z$

f_{U ∣ U + V} (u ∣ z) = \frac{(n - 1) (z - u)^{n - 2}}{z^{n - 1}} 1_{0 < u < z}

$f_{U\mid U+V}(u\mid z)=\frac{(n-1)(z-u)^{n-2}}{z^{n-1}}\mathbf1_{0<u<z}$

今、私のUMVUEは正確に。この投稿の冒頭に。 $E(e^{-U}\mid U+V=z)=E(X_1\mid \sum_{i=1}^n\ln X_i=-z)$

したがって、あとはを見つけるだけです

E (e^{- U} ∣ U + V = z) = \frac{n - 1}{z^{n - 1}} \int_{0}^{z} e^{- u} (z - u)^{n - 2} d u

$E(e^{-U}\mid U+V=z)=\frac{n-1}{z^{n-1}}\int_0^z e^{-u}(z-u)^{n-2}\,\mathrm{d}u$

しかし、その最後の積分はMathematicaによると不完全なガンマ関数に関して閉じた形をしており、私は今何をすべきか疑問に思います。

— 頑固な原子
ソース

の条件付き分布を見つける最初の方法を続行する必要があります。このアプリケーションでは、十分な統計量の形式で作業する方が簡単な場合があります。

X_{[1]} | \prod X_{i}

$X_{[1]} | \prod X_i$

— jbowman

を導入する時点（早い段階）では、変数観点から作業するように心がける必要がありそれは彼らがに比例していることはほぼ即時のだすぐの同時分布を考慮にあなたの問題を軽減分布、とこれにより、残りの2ページの数学が簡略化され、解決策にすばやく進むことができます。

T

$T$

Y_{i} = - \log X_{i} .

$Y_i=-\log X_i.$

Γ (1)

$\Gamma(1)$

(U, U + V)

$(U,U+V)$

U \sim Γ (1)

$U\sim\Gamma(1)$

V \sim Γ (n - 1) .

$V\sim\Gamma(n-1).$

— whuber

@whuber明確にするために、最初にの密度を見つけ、そこから？はレート（あなたが言うようにガンマ変数でもあります）の指数変数であることに気づきましたが、それを扱うことを考えていませんでした。

(- \ln X_{1}, - \ln X_{1} - \sum_{i = 2}^{n} \ln X_{i})

$(-\ln X_1,-\ln X_1-\sum_{i=2}^n\ln X_i)$

(X_{1}, \prod X_{i})

$(X_1,\prod X_i)$

- \ln X_{i}

$-\ln X_i$

θ

$\theta$

— StubbornAtom

@whuberしかし、どのように私はなるだろうから直接？

E (X_{1} ∣ . . .)

$E(X_1\mid ...)$

E (\ln X_{1} ∣ . . .)

$E(\ln X_1\mid ...)$

— StubbornAtom

@whuber編集内容をご覧ください。私はほとんどそれをしましたが、その積分で何をすべきかわかりません。私の計算が正しいと私はかなり確信しています。

— StubbornAtom

回答:

私の元の投稿の両方のアプローチ（私の最初の試みとコメントセクションの提案に基づく別の試み）は同じ答えを与えることがわかりました。質問に対する完全な回答を得るために、ここでは両方の方法の概要を説明します。

ここで、は、ガンマ密度意味しますここで、とは、平均がである指数分布を示します（）。明らかに、です。 $\text{Gamma}(n,\theta)$ $f(y)=\frac{\theta^n}{\Gamma(n)}e^{-\theta y}y^{n-1}\mathbf1_{y>0}$ $\theta,n>0$ $\text{Exp}(\theta)$ $1/\theta$ $\theta>0$ $\text{Exp}(\theta)\equiv\text{Gamma}(1,\theta)$

以来、するのに十分な完了及び、によってレーマン・シェッフェ定理はのUMVUEです。したがって、この条件付きの期待を見つける必要があります。 $T=\sum_{i=1}^n\ln X_i$ $\theta$ $\mathbb E(X_1)=\frac{\theta}{1+\theta}$ $\mathbb E(X_1\mid T)$ $\frac{\theta}{1+\theta}$

我々は注意。 $X_i\stackrel{\text{i.i.d}}{\sim}\text{Beta}(\theta,1)\implies-\ln X_i\stackrel{\text{i.i.d}}{\sim}\text{Exp}(\theta)\implies-T\sim\text{Gamma}(n,\theta)$

方法I：

ましょう及び、その結果、及び独立しています。実際、および、を意味し。 $U=-\ln X_1$ $V=-\sum_{i=2}^n\ln X_i$ $U$ $V$ $U\sim\text{Exp}(\theta)$ $V\sim\text{Gamma}(n-1,\theta)$ $U+V\sim\text{Gamma}(n,\theta)$

したがって、ます。 $\mathbb E(X_1\mid \sum_{i=1}^n\ln X_i=t)=\mathbb E(e^{-U}\mid U+V=-t)$

ここで、の条件付き分布を見つけます。 $U\mid U+V$

以下のためのと、の関節密度あります $n>1$ $\theta>0$ $(U,V)$

\begin{aligned} f_{U, V} (u, v) & = θ e^{- θ u} 1_{u > 0} \frac{θ^{n - 1}}{Γ (n - 1)} e^{- θ v} v^{n - 2} 1_{v > 0} \\ = \frac{θ^{n}}{Γ (n - 1)} e^{- θ (u + v)} v^{n - 2} 1_{u, v > 0} \end{aligned}

$\begin{align}f_{U,V}(u,v)&=\theta e^{-\theta u}\mathbf1_{u>0}\frac{\theta^{n-1}}{\Gamma(n-1)}e^{-\theta v}v^{n-2}\mathbf1_{v>0}\\&=\frac{\theta^n}{\Gamma(n-1)}e^{-\theta(u+v)}v^{n-2}\mathbf1_{u,v>0}\end{align}$

変数を変更すると、の結合密度がであることが即座になり $(U,U+V)$

f_{U, U + V} (u, z) = \frac{θ^{n}}{Γ (n - 1)} e^{- θ z} (z - u)^{n - 2} 1_{0 < u < z}

$f_{U,U+V}(u,z)=\frac{\theta^n}{\Gamma(n-1)}e^{-\theta z}(z-u)^{n-2}\mathbf1_{0<u<z}$

ましょうの密度である。したがって、条件付き密度は $f_{U+V}(\cdot)$ $U+V$ $U\mid U+V=z$

\begin{aligned} f_{U ∣ U + V} (u ∣ z) & = \frac{f_{U, U + V} (u, z)}{f_{U + V} (z)} \\ = \frac{(n - 1) (z - u)^{n - 2}}{z^{n - 1}} 1_{0 < u < z} \end{aligned}

$\begin{align}f_{U\mid U+V}(u\mid z)&=\frac{f_{U,U+V}(u,z)}{f_{U+V}(z)}\\&=\frac{(n-1)(z-u)^{n-2}}{z^{n-1}}\mathbf1_{0<u<z}\end{align}$

したがって、。 $\displaystyle\mathbb E(e^{-U}\mid U+V=z)=\frac{n-1}{z^{n-1}}\int_0^z e^{-u}(z-u)^{n-2}\,\mathrm{d}u$

つまり、のUMVUE は $\frac{\theta}{1+\theta}$ $\displaystyle\mathbb E(X_1\mid T)=\frac{n-1}{(-T)^{n-1}}\int_0^{-T} e^{-u}(-T-u)^{n-2}\,\mathrm{d}u\tag{1}$

方法II：

するための完全な十分統計量である、任意の不偏推定量の関数であり、のUMVUEなりリーマン・シェッフェの定理による。それで、分布がわかっているの瞬間を見つけることに進みます。我々は持っています、 $T$ $\theta$ $\frac{\theta}{1+\theta}$ $T$ $\frac{\theta}{1+\theta}$ $-T$

E (- T)^{r} = \int_{0}^{\infty} y^{r} θ^{n} \frac{e^{- θ y} y^{n - 1}}{Γ (n)} d y = \frac{Γ (n + r)}{θ^{r} Γ (n)}, n + r > 0

$\mathbb E(-T)^r=\int_0^\infty y^r\theta^n\frac{e^{-\theta y}y^{n-1}}{\Gamma(n)}\,\mathrm{d}y=\frac{\Gamma(n+r)}{\theta^r\,\Gamma(n)},\qquad n+r>0$

この方程式を使用して、整数ごとに不偏推定量（およびUMVUE）を取得します。 $1/\theta^r$ $r\ge1$

今のところ、私達持っている $\theta>1$ $\displaystyle\frac{\theta}{1+\theta}=\left(1+\frac{1}{\theta}\right)^{-1}=1-\frac{1}{\theta}+\frac{1}{\theta^2}-\frac{1}{\theta^3}+\cdots$

不偏推定量を組み合わせる、我々が入手 $1/\theta^r$

E (1 + \frac{T}{n} + \frac{T^{2}}{n (n + 1)} + \frac{T^{3}}{n (n + 1) (n + 2)} + \dots) = 1 - \frac{1}{θ} + \frac{1}{θ^{2}} - \frac{1}{θ^{3}} + \dots

$\mathbb E\left(1+\frac{T}{n}+\frac{T^2}{n(n+1)}+\frac{T^3}{n(n+1)(n+2)}+\cdots\right)=1-\frac{1}{\theta}+\frac{1}{\theta^2}-\frac{1}{\theta^3}+\cdots$

つまり、

E (\sum_{r = 0}^{\infty} \frac{T^{r}}{n (n + 1) . . . (n + r - 1)}) = \frac{θ}{1 + θ}

$\mathbb E\left(\sum_{r=0}^\infty \frac{T^r}{n(n+1)...(n+r-1)}\right)=\frac{\theta}{1+\theta}$

したがって、とすると、のUMVUE は $\theta>1$ $\frac{\theta}{1+\theta}$ $g(T)=\displaystyle\sum_{r=0}^\infty \frac{T^r}{n(n+1)...(n+r-1)}\tag{2}$

2番目の方法での場合については、確信が持てません。 $0<\theta<1$

Mathematicaによれば、方程式は不完全なガンマ関数の観点から閉じた形をしています。そして、式では、積を通常のガンマ関数で。これはおそらくと間の明白な関係を提供します。 $(1)$ $(2)$ $n(n+1)(n+2)...(n+r-1)$ $n(n+1)(n+2)...(n+r-1)=\frac{\Gamma(n+r)}{\Gamma(n)}$ $(1)$ $(2)$

Mathematicaを使用して、とが実際に同じものであることを確認できました。 $(1)$ $(2)$

— 頑固な原子
ソース

実際には、間の等価及びの級数展開書き込むことにより、以下のに、次いで積分和を入れ替えます。

(1)

$(1)$

(2)

$(2)$

e^{- u}

$e^{-u}$

(2)

$(2)$

— StubbornAtom

上部の不完全なガンマ関数に関してあなたがほのめかした、よりコンパクトな答えが得られると思います。最初の方法を使用して、私は式を見つけました

E [X_{1} | X_{1} X_{2} \dots X_{n} = e^{T}] = (n - 1) \int_{0}^{1} z^{r} {(1 - r)}^{n - z} d r,

$E \left[ X_1 | X_1X_2 \cdots X_n=e^T \right]=\left( n - 1 \right) \int_0^1 z^r \left( 1 - r \right)^{n-z}dr,$ ここで

z = e^{T} .

$z=e^T.$

Wolfram Alphaはこれを統合して

E [X_{1} | X_{1} X_{2} \dots X_{n} = e^{T}] = \frac{e^{T} (n - 1)}{T^{n - 1}} [(n - 2)! - Γ (n - 1, T)]

$E \left[ X_1 | X_1X_2 \cdots X_n=e^T \right] = \frac{e^T \left( n-1 \right)}{T^{n-1} } \left[ \left( n-2 \right) !-\Gamma \left(n-1,T \right) \right]$

が整数の場合、不完全ガンマ関数の項は閉じた形式になります。です $n$

Γ (n - 1, T) = \frac{Γ (n - 1)}{e^{T}} \sum_{j = 0}^{n - 2} \frac{T^{j}}{j!}

$\Gamma \left(n-1,T \right)=\frac{\Gamma \left(n-1 \right)}{e^T} \sum_{j=0}^{n-2} \frac{T^j}{j!}$

期待を書き換えて簡素化すると、

E [X_{1} | X_{1} X_{2} \dots X_{n} = e^{T}] = \frac{Γ (n)}{T^{n - 1}} [e^{T} - \sum_{j = 0}^{n - 2} \frac{T^{j}}{j!}]

$E \left[ X_1 | X_1X_2 \cdots X_n=e^T \right] = \frac{\Gamma \left( n \right)}{T^{n-1}} \left[ e^T-\sum_{j=0}^{n-2} \frac{T^j}{j!} \right]$

結果と同等性を検証するソフトウェアにアクセスできませんが、と手動計算はと一致します。 $(1)$ $(2)$ $n=2$ $n=3$ $(1)$

— Soakley
ソース

あなたが書いた場合はあなたが持っているべき

E [X_{1} ∣ x_{1} x_{2} \dots x_{n} = e^{T}],

$\operatorname E\left[ X_1\mid x_1x_2\cdots x_n=e^T \right],$

E [X_{1} ∣ X_{1} X_{2} \dots X_{n} = e^{T}] .

$\operatorname E\left[ X_1\mid X_1X_2\cdots X_n=e^T \right]. \qquad$

— Michael Hardy