測定濃度の不等式を理解する

この質問の精神で、ヘフディングの不平等で使用される補題の証明を理解することで、私はヘフディングの不平等につながるステップを理解しようとしています。

証明で私にとって最も謎になっているのは、指数変数がiid変数の合計に対して計算され、その後マルコフの不等式が適用される部分です。

私の目標は理解することです。なぜこの手法は厳しい不平等をもたらすのでしょうか。典型的な説明は、指数のプロパティを生成する瞬間を指します。しかし、これはあまりにもあいまいです。

Taoのブログhttp://terrytao.wordpress.com/2010/01/03/254a-notes-1-concentration-of-measure/#hoeffの投稿には、いくつかの回答が含まれている場合があります。

この目標を念頭に置いて、私の質問は、私が立ち往生しているタオの投稿の3つのポイントについてであり、一度説明した洞察を与えることができると思います。

Taoは、k番目のモーメントを使用して、次の不等式を導き出しこれは、任意のkに対して真であれば、彼は束縛指数を終了します。これは私が迷っているところです。
$P (| S_{n} | \geq λ \sqrt{n}) \leq 2 (\frac{\sqrt{e k / 2}}{λ})^{k} . (7)$ $\displaystyle {\bf P}( |S_n| \geq \lambda \sqrt{n} ) \leq 2 (\frac{\sqrt{ek/2}}{\lambda})^k. \ \ \ \ \ (7)$ $P (| S_{n} | \geq λ \sqrt{n}) \leq C \exp (- c λ^{2}) (8)$ $\displaystyle {\bf P}( |S_n| \geq \lambda \sqrt{n} ) \leq C \exp( - c \lambda^2 ) \ \ \ \ \ (8)$
Hoeffdingの補題を示します。補題1（Hoeffdingの補題）区間値を取るスカラー変数とします。次に、任意の、特に補題1の証明は、テイラー展開なぜ展開がその二次項によって制限されるのですか？また、式10はどのように続くのですか？ ${X}$ ${[a,b]}$ ${t>0}$
$E e^{t X} \leq e^{t E X} (1 + O (t^{2} V a r (X) \exp (O (t (b - a)))) . (9)$ $\displaystyle {\bf E} e^{tX} \leq e^{t {\bf E} X} (1 + O( t^2 {\bf Var}(X) \exp( O( t (b-a) ) ) ). \ \ \ \ \ (9)$ $E e^{t X} \leq e^{t E X} \exp (O (t^{2} (b - a)^{2})) . (10)$ $\displaystyle {\bf E} e^{tX} \leq e^{t {\bf E} X} \exp( O( t^2 (b-a)^2 ) ). \ \ \ \ \ (10)$ $\displaystyle e^{tX} = 1 + tX + O( t^2 X^2 \exp( O(t) ) )$
最後に、演習が行われます。
演習1 （10）のファクターをに置き換えることができること、そしてこれがシャープです。これは、Hoeffdingの不等式で使用される補題の証明の理解よりもはるかに短い証明を提供しますが、これを解決する方法はわかりません。 ${O(t^2(b-a)^2)}$ ${t^2 (b-a)^2/8}$

不平等の証拠またはより厳しい限界を導き出せない理由についてのさらなる直観/説明は、間違いなく歓迎します。

probability probability-inequalities

— レオ
ソース

オリジナルのHoeffdingの論文を読みましたか？

— アレコスパパドプロス

@AlecosPapadopoulos私は実際にはありません。私が探している説明が欠けている数学のコースで一般的に教えられる代数的ステップで構成されているという印象を受けています。そうでないと言えますか？

— レオ

読むことをお勧めします。jstorの安定したURLはjstor.org/stable/2282952です。「最も謎を抱えている」のは、論文の定理1、2、3であり、その証拠は論文のセクション4（最後ではない）にあり、それらは私にはかなり明確に見えます。あなたがいくつかの「非数学的な」直観を探しているかどうかはわかりません-はいの場合、それは常に存在するとは限りません。

— アレコスパパドプロス

指数モーメントの使用は、測定の不等式の集中を証明するプロセスの一般的なステップです。私の理解では、などである使用することにより、1）以下ののではなく、1つのキャプチャすべての瞬間だけではなく、最初の瞬間。したがって、それは常に結合に有利であるはなく、結合に詳細があるように、。なぜより多くの情報を持っていますか？非公式の説明は、テイラー展開であるという事実によって与えられます。すべての力を見ることができるように $\mathbb{E}e^X$ $\mathbb{E} X$ $X$ $\mathbb{E} e^X$ $\mathbb{E}X$ $\mathbb{E} e^X$ $\mathbb{E} e^X$ $e^{X}=1+X+\frac{X^2}{2}+\frac{X^3}{6}+\ldots$ $X$ 関与しています。したがって、、本質的にすべてのモーメントを制限します。 $\mathbb{E}X$ $X$

— gmravi2003
ソース

f

$f$

0

$0$

e^{X}

$e^X$

f (X)

$f(X)$

f

$f$

f (x) > 0

$f(x) >0$

X

$X$

e^{X}

$e^X$

調べたことはありませんが、指数関数は特定のプロパティを含んでいると思います。これには重要なものがあります。これは重要です。すべての係数は厳密に正でなければならず、絶対に収束するのが便利です。しかし、フーリエ変換とラプラス変換の特性に関連して、この関数が不可欠な理由はもっと深いと思います。メジャーの不等式の派生を調べて、指数のどのプロパティが実際に使用されているかを確認することは明らかかもしれません！（+1）

— whuber

P {x 1 + x 2 > 0} = E {1 [x 1 + x 2 > 0]} \leq E {e x p (t * x 1)} E {e x p (t * x 2)}

$P\{x1+x2>0\}=E\{1[x1+x2>0]\} \leq E\{exp(t*x1)\}E\{exp(t*x2)\}$

E {e x p (t * x 1)} < 1

$E\{exp(t*x1)\}<1$

：私はこれのバインド気密性についての質問に興味をご希望stats.stackexchange.com/questions/77019/...

— レオ