Brain-teaser：均一な[0,1]分布から引き出されたときに単調に増加しているiidシーケンスの予想される長さは何ですか？

これは、ここで報告されている定量アナリストの立場に対するインタビューの質問です。均一な分布から描画し、描画がiidであると仮定すると、単調に増加する分布の予想される長さは何ですか？つまり、現在の描画が前の描画以下である場合、描画を停止します。 $[0,1]$

最初の数個を取得しました：

Pr (length = 1) = \int_{0}^{1} \int_{0}^{x_{1}} d x_{2} d x_{1} = 1 / 2

$\Pr(\text{length} = 1) = \int_0^1 \int_0^{x_1} \mathrm{d}x_2\, \mathrm{d}x_1 = 1/2$

Pr (length = 2) = \int_{0}^{1} \int_{x_{1}}^{1} \int_{0}^{x_{2}} d x_{3} d x_{2} d x_{1} = 1 / 3

$\Pr(\text{length} = 2) = \int_0^1 \int_{x_1}^1 \int_0^{x_2} \mathrm{d}x_3 \, \mathrm{d}x_2 \, \mathrm{d}x_1 = 1/3$

Pr (length = 3) = \int_{0}^{1} \int_{x_{1}}^{1} \int_{x_{2}}^{1} \int_{0}^{x_{3}} d x_{4} d x_{3} d x_{2} d x_{1} = 1 / 8

$\Pr(\text{length} = 3) = \int_0^1 \int_{x_1}^1 \int_{x_2}^1 \int_0^{x_3} \mathrm{d}x_4\, \mathrm{d}x_3\, \mathrm{d}x_2\, \mathrm{d}x_1 = 1/8$

しかし、これらのネストされた積分の計算はますます難しくなり、 $\Pr(\text{length} = n)$ に一般化する「トリック」が得られません。最終的な答えが構造化されていることはわかっています

E (length) = \sum_{n = 1}^{\infty} n Pr (length = n)

$\mathbb E(\text{length}) = \sum_{n=1}^{\infty}n\Pr(\text{length} = n)$

この質問に答える方法についてのアイデアはありますか？

— アマゾン
ソース

回答:

この質問を解決するための一般的なヒントを次に示します。

連続したIIDランダム変数のシーケンスがあるため、それらは交換可能です。これは、最初の $n$ 値に対して特定の順序を取得する確率について何を意味しますか？これに基づいて、最初の $n$ 値が昇順になる確率はどのくらいですか？基になる確率変数の分布を統合することなく、これを把握することができます。これをうまく行えば、均一な分布を仮定せずに答えを導き出すことができます。つまり、連続したランダム変数の交換可能なシーケンスに適用される答えを得ることができます。

完全な解決策は次のとおりです（これを自分で理解することになっているかどうかは見てはいけません）

レッツ独立した連続確率変数のあなたのシーケンスである、と聞かせては、シーケンスの開始時に増加する要素の数です。これらは連続的に交換可能なランダム変数であるため、ほぼ確実に互いに等しくなく、順序付けも同様に可能性が高いため、次のようになります。（この結果は、連続ランダム変数のIIDシーケンスに適用されることに注意してください。一様分布である必要はありません。）ランダム変数は確率質量関数があります。 $U_1, U_2, U_3, \cdots \sim \text{IID Continuous Dist}$ $N \equiv \max \{ n \in \mathbb{N} | U_1 < U_2 < \cdots < U_n \}$
$P (N ⩾ n) = P (U_{1} < U_{2} < \dots < U_{n}) = \frac{1}{n!} .$ $\mathbb{P}(N \geqslant n) = \mathbb{P}(U_1 < U_2 < \cdots < U_n) = \frac{1}{n!}.$ $N$ $p_{N} (n) = P (N = n) = \frac{1}{n!} - \frac{1}{(n + 1)!} = \frac{n}{(n + 1)!} .$ $p_N(n) = \mathbb{P}(N=n) = \frac{1}{n!} - \frac{1}{(n+1)!} = \frac{n}{(n+1)!}.$ この結果は、基礎となる値の積分を使用して計算した値と一致することに気付くでしょう。（この部分はソリューションには必要ありません。完全を期すために含まれています。）非負のランダム変数の期待値に既知の規則を使用すると、次のようになります。繰り返しますが、基礎となる一様分布を使用した作業は何もないことに注意してください。したがって、これは、連続ランダム変数の交換可能なシーケンスに適用される一般的な結果です。 $E (N) = \sum_{n = 1}^{\infty} P (N ⩾ n) = \sum_{n = 1}^{\infty} \frac{1}{n!} = e - 1 = 1.718282.$ $\mathbb{E}(N) = \sum_{n=1}^\infty \mathbb{P}(N \geqslant n) = \sum_{n=1}^\infty \frac{1}{n!} = e - 1 = 1.718282.$

さらなる洞察：

上記の作業から、この分布結果と結果の期待値は、連続分布である限り、基礎となる分布に依存しないことがわかります。これは、すべての連続スカラー確率変数が、一様なランダム変数の単調な変換を介して取得できるという事実を考慮すれば、驚くべきことではありません（変換はその変位値関数です）。単調変換はランク順を保持するため、任意のIID連続確率変数の順序付けの確率を調べることは、IID 一様確率変数の順序付けの確率を調べることと同じです。

— モニカを復活させる
ソース

よくできました！（+1）

— jbowman

@Ben最後の方程式まで続きます...期待される値は、 ...この部分について詳しく説明してください。

E (N) = \sum_{n = 1}^{\infty} P (N = n) * n = \sum_{n = 1}^{\infty} n^{2} / (n + 1)!

$E(N)=∑_{n=1}^∞P(N=n)*n=∑_{n=1}^∞ n^2/(n+1)!$

E (N) = \sum_{n = 1}^{\infty} P (N ⩾ n)

$E(N)=∑_{n=1}^∞P(N⩾n)$

— アマゾンの

これは、負でない確率変数の期待値に関するよく知られた規則です。合計の順序を入れ替える手法を使用すると、次のようになります。したがって、ことがわかります。

E (N) = \sum_{n = 1}^{\infty} n P (N = n) = \sum_{n = 1}^{\infty} \sum_{k = 1}^{n} P (N = n) = \sum_{n = 1}^{\infty} \sum_{k = n}^{\infty} P (N = k) = \sum_{n = 1}^{\infty} P (N ⩾ n) .

$\mathbb{E}(N) = \sum_{n=1}^\infty n \mathbb{P}(N=n) = \sum_{n=1}^\infty \sum_{k=1}^n \mathbb{P}(N = n) = \sum_{n=1}^\infty \sum_{k=n}^\infty \mathbb{P}(N =k) = \sum_{n=1}^\infty \mathbb{P}(N \geqslant n).$

\sum_{n} \frac{1}{n!} = \sum_{n} \frac{n^{2}}{(n + 1)!}

$\sum_n \tfrac{1}{n!} = \sum_n \tfrac{n^2}{(n+1)!}$

— モニカの

理由を詳しく説明してください。

P (N ⩾ n) = P (U_{1} < U_{2} < \dots < U_{n})

${P}(N \geqslant n) = \mathbb{P}(U_1 < U_2 < \cdots < U_n)$

— badmax

@badmax：ランダム変数は、シーケンスの開始時のの増加要素の数です（その定義を参照）。したがって、場合、シーケンスの開始時に少なくとも要素が増加することを意味します。これは、最初の要素がなければならないことを意味します。

N

$N$

U

$U$

N ⩾ n

$N \geqslant n$

n

$n$

n

$n$

U_{1} < U_{2} < \dots < U_{n}

$U_1 < U_2 < \cdots < U_n$

— モニカを

より一般的なケースの解決策を得る別の解法。

がような単調シーケンスの予想される長さであると仮定します。計算する値はです。そして、を知ってい。次の値の条件付け、 $F(x)$ $\{x_1, x_2, ...\}$ $x\leq x_1\leq x_2\leq\cdots$ $F(0)$ $F(1)=0$

F (x) = \int_{0}^{x} π (y) \cdot 0 d y + \int_{x}^{1} π (y) (1 + F (y)) d y = \int_{x}^{1} 1 + F (y) d y

$F(x) = \int_0^x \pi(y)\cdot 0 dy + \int_x^1\pi(y)(1+F(y))dy= \int_x^1 1+F(y) dy$

ここで、はU [0,1]密度です。そう $\pi(y)=1$

F^{'} (x) = - (1 + F (x))

$F'(x)=-(1+F(x))$

境界条件で解くと、ます。したがって、です。 $F(1)=0$ $F(x) = e^{(1-x)}-1$ $F(0)=e-1$

— jf328
ソース

これは非常に賢い方法です。ちょっと説明してください：あなたの観察は、1）が最長の最初の増加シーケンスの長さから1を引いたものであれば、を決定してを設定するのに十分です、及び2）あればゼロであるとさもなければ。以降我々が得る、これは均一な場合には直接解くことができます。

L

$L$

E (L | X_{0} = x) =: F (x)

$E(L|X_0=x)=:F(x)$

x = 0

$x=0$

E (L | X_{0} = x, X_{1} = y)

$E(L|X_0=x,X_1=y)$

y < x

$y<x$

1 + E (L | X_{0} = y)

$1+E(L|X_0=y)$

E (L | X_{0} = x) = E (E (L | X_{0} = x, X_{1})) = \int_{R} f_{X} (y) E (L | X_{0} = x, X_{1} = y) d y = \int_{x}^{1} f_{X} (y) (1 + E (L | X_{0} = y)) d y = \int_{x}^{1} f_{X} (y) (1 + F (y)) d y

$E(L|X_0=x)=E(E(L|X_0=x,X_1)) = \int_\mathbb{R} f_X(y) E(L|X_0=x, X_1=y) dy = \int_x^1 f_X(y)(1+E(L|X_0=y))dy= \int_x^1 f_X(y)(1+F(y))dy$

F^{'} (x) = - f_{X} (x) (1 + F (x))

$F'(x)=-f_X(x)(1+F(x))$

— マシュータワーズ

+1とても賢い。しかし、最終的な答えは分布に依存しないため（他の答えで説明しているように）、この計算も何らかの形で依存しないはずです。それを見る方法はありますか？@m_t_へのCC。

π (y)

$\pi(y)$

— アメーバは、モニカを復活

@amoebaはの分布に依存するべきではないことに同意しますが、他の値はそうすべきです。そのDEの一般的な解は

F (0)

$F(0)$

X

$X$

F

$F$

F = C e^{- \int π} - 1

$F=Ce^{-\int \pi}-1$

— マシュータワーズ

@MartijnWeterings 1 ではなく、であると思います。たとえば、均一なケースでは

C = e

$C=e$

e e^{- x} - 1

$e e^{-x} -1$

— マシュータワーズ

はい、あなたは正しいです。私は私のステートメントを推定する均一な場合に使用されるが誤って使用されの代わりに、

c e^{1 - x} - 1

$ce^{1-x}-1$

c e^{- x} - 1

$ce^{-x}-1$

— セクストス・エンペイリコス

別の解決方法は、積分を直接計算することです。

増加部分の長さがであるシーケンスを生成する確率は。ここで、。 $\geq n$ $f^n(0)$ $f^n(x) = \int_{x}^{1}\int_{x_1}^{1}\int_{x_2}^{1}...\int_{x_{n-2}}^{1}\int_{x_{n-1}}^{1}dx_ndx_{n-1}...dx_2dx_1$

行う必要があるのは、を計算することです。 $f^n(0)$

最初のいくつかのを計算しようとすると、おそらく $f^n(x)$ $f^n(x) = \sum_{t=0}^n \dfrac{(-x)^t}{t!(n-t)!}$

基本ケース：場合、 $n=1$ $f^1(x) = \sum_{t=0}^1 \dfrac{(-x)^t}{t!(n-t)!}=1-x=\int_{x}^{1}dx_1$

帰納仮説：場合、 $n=k$ $f^n(x) = \sum_{t=0}^k \dfrac{(-x)^t}{t!(k-t)!}\text{ , for }k \geq 1$

誘導ステップ：場合、 $n = k+1$

$\ \ \ \ \ f^{n}(x) = f^{k+1}(x) = \int_{x}^{1}f^{k}(x^*)dx^*$

$=\int_{x}^{1}\sum_{t=0}^{k} \dfrac{(-x^*)^t}{t!(k-t)!}dx^*$

$=\sum_{t=0}^{k} \dfrac{-(-x^*)^{t+1}}{t!(k-t)!\times(t+1)}\Biggr|_{x}^{1}\\=\sum_{t=0}^{k} \dfrac{-(-x^*)^{t+1}}{(t+1)!(k-t)!}\Biggr|_{x}^{1}$

$=\sum_{t=1}^{k+1} \dfrac{-(-x^*)^{t}}{t!(k-t+1)!}\Biggr|_{x}^{1}$

$=\sum_{t=1}^{k+1} \dfrac{(-1)^{t+1}}{t!(k-t+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\sum_{t=1}^{k+1} \dfrac{(-1)^{t+1}C_t^{k+1}}{(k+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\dfrac{1}{(k+1)!}+\sum_{t=0}^{k+1} \dfrac{(-1)^{t+1}C_t^{k+1}}{(k+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\dfrac{1}{(k+1)!}-\dfrac{(1-1)^{k+1}}{(k+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\sum_{t=0}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

数学的帰納法により、仮定が成り立つ。

したがって、 $f^n(0)=\dfrac{1}{n!}$

したがって、 $E(length)=\sum_{n=1}^{\infty} Pr(length\geq n)=\sum_{n=1}^{\infty} \dfrac{1}{n!}=e-1$

— 劉家維
ソース