モーメント生成関数と分散の存在

有限平均と無限分散の分布にモーメント生成関数を使用できますか？有限平均と有限分散を持ち、無限高次のモーメントを持つ分布はどうですか？

variance moments mgf

— Mgf
ソース

ヒント：mgfがゼロ付近の間隔に存在する場合、たとえばがである場合、

テイラー展開と積分の単調性を考慮して解を見つけます。:)

(- t_{0}, t_{0})

$(-t_0,t_0)$

t_{0} > 0

$t_0 > 0$

e^{x}

$e^x$

— 枢機

収束の問題を無視して（mgfを正式なべき級数のみと考える）、瞬間が存在しなかった場合、mgfはどうなるでしょうか？

— whuber

枢機は、あなたが提供した命題に関するいくつかの参考文献を教えていただけますか？

この質問は、瞬間生成関数（mgf）に関するいくつかの事実を収集する良い機会を提供します。

以下の回答では、次のことを行います。

mgfが少なくとも1つの（厳密に）正の値と 1つの負の値に対して有限である場合、すべての正のモーメント $X$ は有限（非整数モーメントを含む）であることを示します。
上記の最初の項目の条件が、指数関数的に区切られたテールを持つの分布と同等であることを証明します。言い換えると、のテールは、指数関数的ランダム変数のテールと少なくとも同程度の速さで落ちます（定数まで）。 $X$ $X$ $Z$
項目1の条件を満たしている場合、mgfによる分布の特性化に関する簡単なメモを提供します。
直観を助けるために、特にmgfの有限性の欠如に過度の重要性を読み取ってはならないことを示すために、いくつかの例と反例を調べてください。

この答えは非常に長いので、事前に謝罪します。これが、ブログの投稿や他の場所などにより適切に配置される場合は、コメントでそのようなフィードバックを提供してください。

mgfはその瞬間について何と言っていますか？

ランダム変数のmgfは、として定義されます。は非負の測定可能な関数の積分であるため、常に存在することに注意してください。ただし、が有限でない場合があります。それは場合である（右の場所で）有限、そしてすべてのために（必ずしも整数）、絶対的な瞬間は（そして、そう、またです有限）。これは次の提案のトピックです。 $X \sim F$ $m(t) = \mathbb E e^{tX}$ $m(t)$ $p > 0$ $\mathbb E |X|^p < \infty$ $\mathbb E X^p$

命題：およびが存在し、および場合、のすべての次数のモーメントが存在し、有限です。 $\newcommand{\tn}{t_{n}}\newcommand{\tp}{t_{p}}\tn < 0$ $\tp > 0$ $m(\tn) < \infty$ $m(\tp) < \infty$ $X$

証明に飛び込む前に、2つの有用な補題を示します。

補題1：このようなとが存在するとします。次に、任意のに対して、。証明。これは、凸性と積分の単調性から生じます。そのような、ようなが存在します。ただし、したがって、積分の単調性により、。 $\tn$ $\tp$ $t_0 \in [\tn,\tp]$ $m(t_0) < \infty$
$e^x$ $t_0$ $\theta \in [0,1]$ $t_0 = \theta \tn + (1-\theta) \tp$

e^{t_{0} X} = e^{θ t_{n} X + (1 - θ) t_{p} X} \leq θ e^{t_{n} X} + (1 - θ) e^{t_{p} X} .

$e^{t_0 X} = e^{\theta \tn X + (1-\theta) \tp X} \leq \theta e^{\tn X} + (1-\theta) e^{\tp X} \>.$

E e^{t_{0} X} \leq θ E e^{t_{n} X} + (1 - θ) E e^{t_{p} X} < \infty

$\mathbb E e^{t_0 X} \leq \theta \mathbb E e^{\tn X} + (1-\theta) \mathbb E e^{\tp X} < \infty$

そのため、mgfが2つの異なるポイントで有限である場合、それらのポイント間の間隔のすべての値で有限です。

補助 2（スペースのネスト $L_p$ ）：場合、場合、。証明：この答えと関連コメントで2つのアプローチが与えられます。 $0 \leq q \leq p$ $\mathbb E |X|^p < \infty$ $\mathbb E |X|^q < \infty$

これにより、命題の証明を続けるのに十分です。

命題の証明。もしとが存在命題で述べたように、次に撮影、我々は最初の補題によって知ると。しかし、および右側は非負の項で構成されているため、特に、任意の固定さて、仮定によりです。積分の単調性により、ます。したがって、すべて $\tn < 0$ $\tp > 0$ $t_0 = \min(-\tn,\tp) > 0$ $m(-t_0) < \infty$ $m(t_0) < \infty$

e^{- t_{0} X} + e^{t_{0} X} = 2 \sum_{n = 0}^{\infty} \frac{t_{0}^{2 n} X^{2 n}}{(2 n)!},

$e^{-t_0 X} + e^{t_0 X} = 2 \sum_{n=0}^\infty \frac{t_0^{2n} X^{2n}}{(2n)!} \>,$

k

$k$

e^{- t_{0} X} + e^{t_{0} X} \geq 2 t_{0}^{2 k} X^{2 k} / (2 k)! .

$e^{-t_0 X} + e^{t_0 X} \geq 2 t_0^{2k} X^{2k}/(2k)! \>.$

E e^{- t_{0} X} + E e^{t_{0} X} < \infty

$\mathbb E e^{-t_0 X} + \mathbb E e^{t_0 X} < \infty$

E X^{2 k} < \infty

$\mathbb E X^{2k} < \infty$ さえの瞬間有限です。補題2を使用すると、すぐに「ギャップを埋める」ことができ、すべての瞬間が有限でなければならないという結論に達します。

X

$X$

アップショット

手元の質問に関する結論は、のモーメントのいずれかが無限であるか存在しない場合、 mgfは原点を含むオープンインターバルで有限ではないとすぐに結論付けることができるということです。（これは命題の単なる反対の声明です。） $X$

したがって、上記の命題は、そのmgfに基づいてのモーメントについて何かを言うために「正しい」条件を提供します。 $X$

指数関数的に区切られたテールとmgf

命題：mgfは、のテールが指数関数的に制限され ている場合に限り、原点を含むオープンインターバル有限です。つまり、一部のための及び。 $m(t)$ $(\tn,\tp)$ $F$ $\mathbb P( |X| > x) \leq C e^{-t_0 x}$ $C > 0$ $t_0 > 0$

証明。右側のテールについては別に扱います。左尾は完全に同様に処理されます。

$(\Rightarrow)$ いくつかのに対してと仮定し。次に、の右尾は指数関数的に制限されます。換言すれば、存在するおよびようこれを見るには、マルコフの不等式により、場合、取るおよびプルーフのこの方向を完了します。 $m(t_0) < \infty$ $t_0 > 0$ $F$ $C > 0$ $b > 0$

P (X > x) \leq C e^{- b x} .

$\mathbb P(X > x) \leq C e^{-b x} \>.$

t > 0

$t > 0$

P (X > x) = P (e^{t X} > e^{t x}) \leq e^{- t x} E e^{t X} = m (t) e^{- t x} .

$\mathbb P(X > x) = \mathbb P(e^{tX} > e^{tx}) \leq e^{-tx} \mathbb E e^{t X} = m(t) e^{-t x} \>.$

C = m (t_{0})

$C = m(t_0)$

b = t_{0}

$b = t_0$

$(\Leftarrow)$ ようなおよびが存在するとします。次に、場合、最初の等式はa非負のランダム変数の期待に関する標準的な事実。ような任意の選択します。その場合、右側の積分は有限です。 $C >0$ $t_0 > 0$ $\mathbb P(X > x) \leq C e^{-t_0 x}$ $t > 0$

E e^{t X} = \int_{0}^{\infty} P (e^{t X} > y) d y \leq 1 + \int_{1}^{\infty} P (e^{t X} > y) d y \leq 1 + \int_{1}^{\infty} C y^{- t_{0} / t} d y,

$\mathbb E e^{t X} = \int_0^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty C y^{-t_0/t} \, \mathrm dy \>,$

t

$t$

0 < t < t_{0}

$0 < t < t_0$

これで証明が完了しました。

mgfが与えられた分布の一意性に関する注意

mgfがゼロを含む開区間で有限である場合、関連する分布はそのモーメントによって特徴付けられます。つまり、モーメント持つ唯一の分布です。標準的な証明は、特性関数に関するいくつかの（比較的単純な）事実を手元に置いておくと短くなります。詳細は、ほとんどの最新の確率テキスト（ビリングスリーやデュレットなど）に記載されています。この回答では、いくつかの関連事項について説明します。 $\mu_n = \mathbb E X^n$

例と反例

（a）対数正規分布：正規確率変数場合、は対数正規です。したがって、確率1のです。ので、すべてのため、これはすぐに私たちにその指示するための全て。したがって、mgfは非負の半直線上で有限です（注意：の非負性のみを使用してこの事実を確立しているため、これはすべての非負のランダム変数から当てはまります。） $X$ $X = e^Y$ $Y$ $X \geq 0$ $e^{-x} \leq 1$ $x \geq 0$ $m(t) = \mathbb E e^{t X} \leq 1$ $t < 0$ $(-\infty,0]$ $X$

ただし、すべてのに対してです。正規の場合として標準対数正規を取ります。もし、次いで。変数を変更すると、以下のためにと十分な大きさ、我々は持っている上に与えられた境界で。しかし、すべてのに対してであるため、mgfはすべてのに対して無限です。 $m(t) = \infty$ $t > 0$ $x > 0$ $e^{x} \geq 1 + x + \frac{1}{2} x^2 + \frac{1}{6} x^3$

E e^{t X} = (2 π)^{- 1 / 2} \int_{- \infty}^{\infty} e^{t e^{u} - u^{2} / 2} d u .

$\mathbb E e^{t X} = (2\pi)^{-1/2} \int_{-\infty}^\infty e^{t e^u - u^2/2} \,\mathrm d u \>.$

t > 0

$t > 0$

u

$u$

t e^{u} - u^{2} / 2 \geq t + t u

$t e^u - u^2/2 \geq t+tu$

\int_{K}^{\infty} e^{t + t u} d u = \infty

$\int_{K}^\infty e^{t + tu} \,\mathrm du = \infty$

K

$K$

t > 0

$t > 0$

一方、対数正規分布のすべてのモーメントは有限です。したがって、上記の命題の結論には、ゼロ付近の間隔にmgfが存在する必要はありません。

（b）対数正規化の対称化：対数正規分布を「対称化」することにより、さらに極端なケースを得ることができます。密度考えるのためのように、前の例に照らして、mgfがに対してのみ有限であることを確認するのは難しくありません。しかし、偶数モーメントは対数正規のモーメントとまったく同じであり、奇数モーメントはすべてゼロです！そのため、mgfはどこにも存在せず（常に存在する原点を除く）、それでもすべての次数の有限モーメントを保証できます。 $f(x)$ $x \in \mathbb R$

f (x) = \frac{1}{2 \sqrt{2 π} | x |} e^{- \frac{1}{2} (\log | x |)^{2}} .

$f(x) = \frac{1}{2\sqrt{2\pi}|x|} e^{-\frac{1}{2} (\log |x|)^2} \>.$

t = 0

$t = 0$

（c）コーシー分布：この分布には、すべてのに対して無限のmgfがありますが、絶対モーメントは有限ではありません。MGFのための結果は以下のために以降のためになどの証明は類似しています。（おそらくあまり知られていないのは、Cauchyにはモーメントが存在するということです。この回答を参照してください $t \neq 0$ $\mathbb E|X|^p$ $p \geq 1$ $t > 0$ $e^x \geq x^3 / 6$ $x > 0$

E e^{t X} \geq \int_{1}^{\infty} \frac{t^{3} x^{3}}{6 π (1 + x^{2})} d x \geq \frac{t^{3}}{12 π} \int_{1}^{\infty} x d x = \infty .

$\mathbb E e^{tX} \geq \int_1^\infty \frac{t^3 x^3}{6\pi(1+x^2)} \,\mathrm dx \geq \frac{t^3}{12\pi} \int_1^\infty x \,\mathrm dx = \infty \>.$

t < 0

$t < 0$

0 < p < 1

$0 < p < 1$ ）

（d）半コーシー分布：が（標準）コーシーの場合、呼び出す半コーシーランダム変数。次に、前の例から、すべてのであることが簡単にわかります。それでも、はに対して有限です。 $X$ $Y = |X|$ $\mathbb E Y^p = \infty$ $p \geq 1$ $\mathbb E e^{tY}$ $t \in (-\infty,0]$

— 枢機卿
ソース

これを投稿してくれてありがとう-これは驚くほど簡単に理解できます。

— マクロ

ヒルベルト空間でのmgfに関する結果を知っていますか？

— badatmath