クーポンコレクター時間の厳密な下限とは何ですか？

20

古典的なクーポンコレクターの問題では、ランダムに選択されたクーポンのセットを完了するのに必要な時間が、および満たすことがよく知られています。。 $T$ $n$ $E[T] \sim n \ln n$ $Var(T) \sim n^2$ $\Pr(T > n \ln n + cn) < e^{-c}$

この上限は、おおよそなるチェビシェフ不等式によって与えられる上限よりも優れてい $1/c^2$ ます。

私の質問は次のとおりです。よりも良い-チェビシェフが対応している下限のための $T$ ？（たとえば、 $\Pr(T < n \ln n - cn) < e^{-c}$ ）？

probability probability-inequalities coupon-collector-problem

— デビッド
ソース

明白な下限がある

Pr (T < n) = 0

$\Pr(T<n) = 0$ ...が、私はそれをあなたがしている認識して推測する

— ワンストップ

14

分析は完全に初歩的であり、正確に目的の結果を提供するため、これを2番目の回答として提供します。

命題についてはおよび、 $c > 0$ $n \geq 1$

P (T < n \log n - c n) < e^{- c} .

$\mathbb{P}(T < n \log n - c n ) < e^{-c} \>.$

証明の背後にある考え方は簡単です：

すべてのクーポンが収集されるまでの時間をとして。ここで、は番目（以前）の一意のクーポンが収集される時間です。、平均時間を有する幾何ランダム変数である。 $T = \sum_{i=1}^n T_i$ $T_i$ $i$ $T_i$ $\frac{n}{n-i+1}$
チェルノフ限界のバージョンを適用し、単純化します。

証明

任意のおよび任意場合、 $t$ $s > 0$

P (T < t) = P (e^{- s T} > e^{- s t}) \leq e^{s t} E e^{- s T} .

$\mathbb{P}(T < t) = \mathbb{P}( e^{-s T} > e^{-s t} ) \leq e^{s t} \mathbb{E} e^{-s T} \> .$

以来、と独立している、我々は書くことができ $T = \sum_i T_i$ $T_i$

E e^{- s T} = \prod_{i = 1}^{n} E e^{- s T_{i}}

$\mathbb{E} e^{-s T} = \prod_{i=1}^n \mathbb{E} e^{- s T_i}$

以来、今、幾何学的である、のは、成功の確率で言わせて、その後、簡単な計算ショー $T_i$ $p_i$

E e^{- s T_{i}} = \frac{p_{i}}{e^{s} - 1 + p_{i}} .

$\mathbb{E} e^{-s T_i} = \frac{p_i}{e^s - 1 + p_i} .$

この問題のは、、などです。したがって、 $p_i$ $p_1 = 1$ $p_2 = 1 - 1/n$ $p_3 = 1 - 2/n$

\prod_{i = 1}^{n} E e^{- s T_{i}} = \prod_{i = 1}^{n} \frac{i / n}{e^{s} - 1 + i / n} .

$\prod_{i=1}^n \mathbb{E} e^{-s T_i} = \prod_{i=1}^n \frac{i/n}{e^s - 1 + i/n}.$

いくつかのに対しておよびを選択し ましょう。次に、およびで、 $s = 1/n$ $t = n \log n - c n$ $c > 0$

e^{s t} = n e^{- c}

$e^{s t} = n e^{-c}$

e^{s} = e^{1 / n} \geq 1 + 1 / n

$e^s = e^{1/n} \geq 1 + 1/n$

\prod_{i = 1}^{n} \frac{i / n}{e^{s} - 1 + i / n} \leq \prod_{i = 1}^{n} \frac{i}{i + 1} = \frac{1}{n + 1} .

$\prod_{i=1}^n \frac{i/n}{e^s - 1 + i/n} \leq \prod_{i=1}^n \frac{i}{i+1} = \frac{1}{n+1} \> .$

これをまとめると、

P (T < n \log n - c n) \leq \frac{n}{n + 1} e^{- c} < e^{- c}

$P(T < n \log n - c n) \leq \frac{n}{n+1} e^{-c} < e^{-c}$

望んだ通りに。

— 枢機卿
ソース

それはとてもいいことで、医者が注文したものです。ありがとうございました。

— デビッド

好奇心が強い@David：意図したアプリケーションは何ですか？

— 枢機

長い話。私は、興味のあるアルゴリズムの実行時間を分析するために調理したマルコフ連鎖の混合時間の下限を証明しようとしています-これは、c .collectorの問題。ところで、私はまさにこの種のチェルノフスタイルの限界を見つけようとしていましたが、でその製品を取り除く方法を理解していませんでした。選択する良いコール:-)。

i

$i$

s = 1 / n

$s = 1/n$

— デビッド

@David、はほぼ確実に準最適ですが、を与えたため、試してみるのは明らかなことのようでした。上限。

s = 1 / n

$s = 1/n$

e^{s t} = n e^{- c}

$e^{s t} = n e^{-c}$

— 枢機

1

リクエスト：上記の証明は私自身のものです。問題が私を興味をそそったので、私は楽しみからそれで働きました。しかし、私は目新しさを主張しません。実際、同様の手法を使用した同様の証明がまだ文献に存在していないとは想像できません。誰かが参照を知っているなら、ここにコメントとして投稿してください。私は次のようになり非常に 1を知って興味を持って。

— 枢機

9

@cardinalは、私が探していた境界を正確に与える答えをすでに与えていますが、より強い境界を与えることができる同様のChernoffスタイルの引数を見つけました。

命題：（これはより強力です）

P r (T \leq n \log n - c n) \leq \exp (- \frac{3 c^{2}}{π^{2}}) .

$Pr (T \leq n \log n - c n) \leq \exp(- \frac{3c^2}{\pi^2} ) \> .$

c > \frac{π^{2}}{3}

$c > \frac{\pi^2}{3}$

証明：

の答えのように、は成功確率の独立した幾何学的ランダム変数合計であるという事実を使用できます。その次及び。 $T$ $T_i$ $p_i = 1 - i/n$ $E[T_i] = 1/p_i$ $E[T] = \sum_{i=1}^{n} E[T_i] = n \sum_{i=1}^n \frac{1}{i}\geq n \log n$

新しい変数、およびます。その後、 $S_i : = T_i - E[T_i]$ $S : = \sum_i S_i$

Pr (T \leq n \log n - c n) \leq Pr (T \leq E [T] - c n) = Pr (S \leq - c n)

$\Pr (T \leq n \log n - c n) \leq \Pr (T \leq E[T] - c n) = \Pr (S \leq - c n)$

= Pr (\exp (- s S) \geq \exp (s c n)) \leq e^{- s c n} E [e^{- s S}]

$= \Pr\left(\exp(-s S ) \geq \exp( s cn) \right) \leq e^{-s c n} E\left[ e^{-s S} \right]$

平均を計算すると、

E [e^{- s S}] = \prod_{i} E [e^{- s S_{i}}] = \prod_{i} \frac{e^{s / p_{i}}}{1 + \frac{1}{p_{i}} (e^{s} - 1)} \leq e^{\frac{1}{2} s^{2} \sum_{i} p_{i}^{- 2}}

$E[e^{-s S}] = \prod_i E[e^{-s S_i}] = \prod_i \frac{e^{s / p_i} } {1 + \frac{1}{p_i} (e^s -1)} \leq e^{\frac{1}{2}s^2\sum_i p_i^{-2}}$ ここで、不等式はおよびのための。

e^{s} - 1 \geq s

$e^s - 1\geq s$

\frac{e^{z}}{1 + z} \leq e^{\frac{1}{2} z^{2}}

$\frac{e^z}{1+z}\leq e^{\frac{1}{2}z^2}$

z \geq 0

$z\geq 0$

したがって、、書くことができます $\sum_i p_i ^{-2} = n^2 \sum_{i=1}^{n-1} \frac{1}{i^2} \leq n^2 \pi^2/6$

\begin{aligned} Pr (T \leq n \log n - c n) \leq e^{\frac{1}{12} (n π s)^{2} - s c n} . \end{aligned}

$\begin{align*} \Pr( T \leq n \log n - c n ) \leq e^{\frac{1}{12} (n \pi s)^2 - s c n}. \end{align*}$

で最小化すると、最終的に $s>0$

Pr (T \leq n \log n - c n) \leq e^{- \frac{3 c^{2}}{π^{2}}}

$\Pr( T \leq n\log n -cn ) \leq e^{-\frac{3 c^2 }{\pi^2}}$

— デビッド
ソース

1

（+1）いくつかの小さなタイプミスを法として、これは素晴らしいことです。あなたがやったように、平均に近いものを中心に拡大することは、しばしばよりうまくいきます。漸近的な結果に照らして、高次の収束を見て驚くことではありません。ここで、同様の上限を示すと、はVershyninの用語で準指数関数的であることが証明されます。これは、測定濃度に関して多くの意味を持ちます。

(T - n \log n) / n

$(T-n\log n)/n$

— 枢機

1

引数は上限に直接一般化しないようです。を（およびを）と交換すると、。ただし、この時点でできることは、、それはまだと私はしませんこれをどうするかわからない

c

$c$

- c

$-c$

s

$s$

- s

$-s$

E [e^{s S}] \leq \prod_{i} \frac{e^{- s / p_{i}}}{1 - \frac{s}{p_{i}}}

$E[e^{sS}] \leq \prod_i \frac{e^{-s/p_i}}{1 - \frac{s}{p_i}}$

\frac{e^{- z}}{1 - z} \leq \exp (\frac{z^{2}}{2 (1 - z)})

$\frac{e^{-z}}{1-z} \leq \exp( \frac{z^2}{2(1-z)} )$

E [e^{s S}] \leq e^{\frac{1}{2} s^{2} \sum_{i} \frac{p_{i}^{2}}{(1 - s / p_{i})}}

$E[e^{sS}] \leq e^{\frac{1}{2} s^2\sum_i \frac{p_i^2}{(1-s/p_i)}}$

— デビッド

2

ただし、興味深いことに、（下限の）引数全体は、クーポンコレクターの問題だけでなく、有界分散のある同一ではない独立した幾何学的変数の合計でも機能するようです。具体的に：与えられた場合、各は成功確率独立GVであり、ここで、その後

T = \sum_{i} T_{i}

$T = \sum_i T_i$

T_{i}

$T_i$

p_{i}

$p_i$

\sum_{i} p_{i}^{- 2} \leq A < \infty

$\sum_i p_i^{-2} \leq A < \infty$

Pr (T \leq E [T] - a) \leq e^{- \frac{a^{2}}{2 A}}

$\Pr ( T \leq E[T] - a ) \leq e^{-\frac{a^2}{2A}}$

— デビッド

4

重要な注意：この回答で元々提供した証拠を削除することにしました。それはより長く、より計算的で、より大きなハンマーを使用し、私が与えた他の証拠と比較してより弱い結果を証明しました。あらゆる点で、劣ったアプローチ（私の意見では）。あなたが本当に興味があるなら、私はあなたが編集を見ることができると思います。

私が最初に引用した漸近的な結果は、この回答でまだ見つかっていますが、として、すべての当てはまる他の回答で証明された限界よりも少し良くできることを示しています。 $n \to \infty$ $n$

次の漸近的な結果が成り立ちます

P (T > n \log n + c n) \to 1 - e^{- e^{- c}}

$\mathbb{P}(T > n \log n + c n ) \to 1 - e^{-e^{-c}}$

そして

P (T \leq n \log n - c n) \to e^{- e^{c}} .

$\mathbb{P}(T \leq n \log n - c n ) \to e^{-e^c} \>.$

定数および制限はとして取得されます。2つの結果に分かれていますが、どちらの場合もが非負に制約されないため、結果はほとんど同じであることに注意してください。 $c \in \mathbb{R}$ $n \to \infty$ $c$

例えば、Motwani and Raghavan、Randomized Algorithms、pp。60--63を参照してください。

また、 Davidは、この回答へのコメントで述べられている上限の証拠を親切に提供します。

— 枢機卿
ソース

n

$n$

1

A_{i}

$A_i$

i

$i$

n \log n + c n

$n \log n + cn$

P (τ > n \log n + c n) = P (\cup_{i} A_{i}) \leq \sum_{i} P (A_{i})

$P(\tau >n\log n+cn )=P (\cup_{i} A_i ) \leq \sum_i P(A_i)$

1 - n^{- 1}

$1 − n^{−1}$

i

$i$

\sum_{i} (1 - 1 / n)^{n \log n + c n} \leq n \exp (\frac{n \log n + c n}{n}) = e^{- c}

$\sum_i (1 - 1/n)^{n \log n + cn} \leq n \exp(\frac{n \log n + cn}{n} ) = e^{-c}$

@David、それは素晴らしく簡単です。私はすぐに別の用語で包含/除外式を拡張してみましたが、すぐにどこにも到達せず、さらに詳しく調べる時間もありませんでした。イベントは、後にクーポンが残らないイベントと同等です

{T < t_{n}}

$\{T < t_n\}$

t_{n}

$t_n$

@David、上記の証明にはサインの反転がありますが、他の読者にも明らかであると確信しています。

— 枢機卿

@David、あなたの質問に対する他の投稿された答えを見てください。この方法は、指定した上限とは異なりますが、ここで示した答えとは対照的に、使用するツールはほとんど基本的です。

— 枢機

2

Benjamin Doerr は、本「ランダム化検索ヒューリスティックの理論」の「ランダム化検索ヒューリスティックの分析：確率理論からのツール」の章で、オンラインPDFのリンクを参照してください。

$T$ $\Pr[T\le (1-\epsilon)(n-1)\ln n]\le e^{-n^{\epsilon}}$

$n$ $\epsilon$

これが証明スケッチです。

$X_i$ $i$ $t$ $\Pr[X_i=1]=(1-1/n)^t$ $X_i$ $I\subseteq[n]$ $\Pr[\forall i\in I, X_i=1]\le\prod_{i\in I}\Pr[X_i=1]$ $i$ $t$ $j$ $t$

$I$ $\Pr[\forall i\in I, X_i=1|X_j=1]\le\Pr[\forall i\in I,X_i=1]$ $j\notin I$ $\Pr[\forall i\in I, X_i=1|X_j=0]\ge\Pr[\forall i\in I,X_i=1]$ $j$ $I$ $I$ $k$ $\frac{|I|-k}{n-1}$ $\frac{|I|-k}{n}$ $j$ $I$

$\Pr[T\le (1-\epsilon)(n-1)\ln n]\le (1-(1-1/n)^t)^n$ $t=(1-\epsilon)(n-1)\ln n$

— ミフォーブ
ソース