テイラー級数（特に残り）の期待値を取得する

42

私の質問は、広く使用されている方法、つまり、Taylor Seriesの期待値を正当化することに関するものです。正の平均および分散を持つランダム変数があると仮定します。さらに、などの関数があります。 $X$ $\mu$ $\sigma^2$ $\log(x)$

平均を中心にテイラー展開を行うと、ここで、通常どおり、はst。 $\log X$

\log X = \log μ + \frac{X - μ}{μ} - \frac{1}{2} \frac{(X - μ)^{2}}{μ^{2}} + \frac{1}{3} \frac{(X - μ)^{3}}{ξ_{X}^{3}},

$\log X = \log\mu + \frac{X - \mu}{\mu} - \frac12 \frac{(X-\mu)^2}{\mu^2} + \frac13 \frac{(X - \mu)^3}{\xi_X^3},$

ξ_{X}

$\xi_X$

| ξ_{X} - μ | < | X - μ |

$|\xi_X - \mu| < |X - \mu|$

予想を立てると、通常は自明の何かと呼ばれる近似式が得られます（最初の式の記号を参照してください） $\approx$ ：

E \log X \approx \log μ - \frac{1}{2} \frac{σ^{2}}{μ^{2}}

$\mathbb{E}\log X \approx \log \mu - \frac12 \frac{\sigma^2}{\mu^2}$

質問：剰余項の期待値が実際に無視できることを証明する方法に興味があります。つまり、（または、言い換えれば、）。

E [\frac{(X - μ)^{3}}{ξ_{X}^{3}}] = o (σ^{2})

$\mathbb{E}\left[\frac{(X - \mu)^3}{\xi_X^3}\right] = o(\sigma^2)$

E [o (X - μ)^{2}] = o (E [(X - μ)^{2}])

$\mathbb{E}\bigl[o(X-\mu)^2\bigr] = o\bigl(\mathbb{E}\bigl[(X-\mu)^2\bigr]\bigr)$

私が実行しようと何：と仮定し（これは、順に、手段で）、I は周囲、二つに積分を分割しようと一部とを -vicinity： $\sigma^2 \to 0$ $X \to \mu$ $\mathbb{P}$ $\mu$ $\varepsilon$ $N_\varepsilon$

\int_{R} p (x) \frac{(x - μ)^{3}}{ξ_{x}^{3}} d x = \int_{x \in N_{ε}} \dots d x + \int_{x \notin N_{ε}} \dots d x

$\int_\mathbb{R} p(x)\frac{(x-\mu)^3}{\xi_x^3} \,dx = \int_{x \in N_\varepsilon} \ldots dx + \int_{x \notin N_\varepsilon} \ldots dx$

最初の1つは、 $0 \notin N_\varepsilon$ 、したがって $1/\xi^3$ が気にしないという事実のために制限されます。しかし、2番目の場合、2つの事実があります：一方では、

P (| X - μ | > ε) \to 0

$\mathbb{P}(|X - \mu| > \varepsilon) \to 0$ （

σ^{2} \to 0

$\sigma^2 \to 0$ ）。しかし一方で、

をどうするかはわかりません

1 / ξ^{3}

$1/\xi^3$ 。

別の可能性としては、ファトーの補題を使用してみることもできますが、その方法はわかりません。

ヘルプやヒントをいただければ幸いです。これは非常に技術的な質問のようなものであることに気づきましたが、この「テイラーへの期待」の方法を信頼するためには、それを経験する必要があります。ありがとう！

PS私はここでチェックアウトしましたが、それは少し別のもののようです。

self-study mathematical-statistics expected-value

— アグロンスキー
ソース

テイラー展開の第3項の前にマイナス記号があるのはなぜですか？また、なぜ第4期にではなく？私は何が欠けていますか？

3

$3$

3!

$3!$

— アレコスパパドプロス

@Alecos：番目の導関数を見てください。それはあなたの両方の質問に答えます。

n

$n$

\log x

$\log x$

— 枢機卿

4

（+1）この問題は最近、瞬間を見つけることに関連する2つの質問の議論で取り上げられました。そのような問題にさらに注意を払うことは有益です。:

X^{- 1}

$X^{-1}$

— 枢機

1

平均値の定理により、実際には、一次近似の方が実際に優れている場合があります。平均値定理が一般的な場合に役立つかどうかはわかりません。

— 確率論的

1

方程式は限界と積分の交換であるため、支配的な収束定理がここで役立つ可能性があると思い。

E (o (. .)) = o (E (. .))

$E(o(..))=o(E(..))$

— 確率論的

32

あなたはこのアプローチに懐疑的であることは正しい。ヒューリスティックには真実の核が含まれていますが、テイラー級数法は一般に機能しません。以下の技術的な議論を要約すると、

強い集中は、テイラー級数法が素敵な関数に対して機能することを意味します
ヘビーテールの分布やあまり良くない関数では、事態は劇的に悪くなる可能性があります。

Alecosの答えが示すように、これは、データの裾が重い可能性がある場合は、テイラー級数法を廃止する必要があることを示唆しています。（金融の専門家、私はあなたを見ている。）

エルビスが指摘したように、重要な問題は、分散が高次モーメントを制御しないことです。理由を確認するために、主なアイデアを得るために質問を可能な限り単純化しましょう。

仮定我々は確率変数の配列を有しとなど。 $X_n$ $\sigma(X_n)\to 0$ $n\to \infty$

Q：をとして保証できます $\mathbb{E}[|X_n-\mu|^3] = o(\sigma^2(X_n))$ $n\to \infty?$

有限の2次モーメントと無限の3次モーメントを持つランダム変数があるため、答えは断固としてnoです。したがって、一般に、テイラー級数法は3次多項式でも失敗します。この引数を反復すると、ランダム変数のすべてのモーメントが適切に制御されない限り、多項式に対してもテイラー級数法が正確な結果を提供することを期待できないことがわかります。

それでは、何をする必要がありますか？確かにこの方法は、サポートがポイントに収束する有界ランダム変数に対して機能しますが、このクラスは小さすぎて面白くありません。シーケンスという代わりとしいくつかから来て高度に濃縮された（と言う）を満たしていることを家族 $X_n$

\begin{matrix} (1) & P {| X_{n} - μ | > t} \leq e^{- C n t^{2}} \end{matrix}

$\mathbb{P}\left\{ |X_n-\mu|> t\right\} \le \mathrm{e}^{- C n t^2} \tag{1}$

すべてのおよび。このようなランダム変数は驚くほど一般的です。たとえば、が経験的平均である場合 $t>0$ $C>0$ $X_n$

X_{n} := \frac{1}{n} \sum_{i = 1}^{n} Y_{i}

$X_n := \frac{1}{n} \sum_{i=1}^n Y_i$

素敵なランダム変数（たとえば、iidと有界）のさまざまな濃度不等式は、が（1）を満たすことを意味します。標準的な引数（ここの p。10を参照）は、そのようなランダム変数の番目のモーメントを制限します。 $Y_i$ $X_n$ $p$

E [| X_{n} - μ |^{p}] \leq {(\frac{p}{2 C n})}^{p / 2} .

$\mathbb{E}[|X_n-\mu|^p] \le \left(\frac{p}{2 C n}\right)^{p/2}.$

したがって、「十分に良い」分析関数（以下を参照）については、三角形の不等式を使用して項のテイラー級数近似で誤差を制限できます。 $f$ $\mathcal{E}_m$ $m$

E_{m} := | E [f (X_{n})] - \sum_{p = 0}^{m} \frac{f^{(p)} (μ)}{p!} E (X_{n} - μ)^{p} | \leq \frac{1}{(2 C n)^{(m + 1) / 2}} \sum_{p = m + 1}^{\infty} | f^{(p)} (μ) | \frac{p^{p / 2}}{p!}

$\mathcal{E}_m:=\left|\mathbb{E}[f(X_n)] - \sum_{p=0}^m \frac{f^{(p)}(\mu)}{p!} \mathbb{E}(X_n-\mu)^p\right|\le \tfrac{1}{(2 C n)^{(m+1)/2}} \sum_{p=m+1}^\infty |f^{(p)}(\mu)| \frac{p^{p/2}}{p!}$

場合。スターリングの近似により、切り捨てられたテイラー級数の誤差は、 $n>C/2$ $p! \approx p^{p-1/2}$

\begin{matrix} (2) & E_{m} = O (n^{- (m + 1) / 2}) as n \to \infty whenever \sum_{p = 0}^{\infty} p^{(1 - p) / 2} | f^{(p)} (μ) | < \infty . \end{matrix}

$\mathcal{E}_m = O(n^{-(m+1)/2}) \text{ as } n\to \infty\quad \text{whenever} \quad \sum_{p=0}^\infty p^{(1-p)/2 }|f^{(p)}(\mu)| < \infty \tag{2}.$

したがって、が強く集中し、が十分に良い場合、テイラー級数近似は実際に正確です。（2）に現れる不等式は、であるため、特にこの条件ではがwholeである必要があります。（1）は有界性の仮定を課さないため、これは理にかなっています。 $X_n$ $f$ $f^{(p)}(\mu)/p! = O(p^{-p/2})$ $f$ $X_n$

特異性がある場合に何がうまくいかないかを見てみましょう（whuberのコメントに従ってください）。を選択するとします。0と2の間で切り捨てられた分布からを取得すると、は十分に集中しますが、ごとにになります。言い換えれば、非常に集中した有界確率変数があり、関数に特異点が1つしかない場合でも、テイラー級数法は失敗します。 $f$ $f(x)=1/x$ $X_n$ $\mathrm{Normal}(1,1/n)$ $X_n$ $\mathbb{E}[f(X_n)] = \infty$ $n$

厳密さに関するいくつかの言葉。厳密な定理/証明形式で必要とされるdeus ex machinaよりも、派生として（2）に現れる条件を提示する方が良いと思います。議論を完全に厳密にするために、まず、（2）の右側が

E [| f (X_{n}) |] \leq \sum_{i = 0}^{\infty} \frac{| f^{(p)} (μ) |}{p!} E [| X_{n} - μ |^{p}] < \infty

$\mathbb{E}[|f(X_n)|] \le \sum_{i=0}^\infty \frac{|f^{(p)}(\mu)|}{p!} \mathbb{E}[|X_n-\mu|^p]< \infty$

上からのサブガウスモーメントの成長率によって。したがって、フビニの定理は

E [f (X_{n})] = \sum_{i = 0}^{\infty} \frac{f^{(p)} (μ)}{p!} E [(X_{n} - μ)^{p}]

$\mathbb{E}[f(X_n)] = \sum_{i=0}^\infty \frac{f^{(p)}(\mu)}{p!} \mathbb{E}[(X_n-\mu)^p]$

残りの証明は上記のように進みます。

— マイク・マッコイ
ソース

1

クイックリーディングでそれを見逃したかもしれませんが、の3番目の瞬間が十分に「制御されている」ことを（特に）主張している場合、期待値は、 [マクローリン]シリーズ？心配しているのは、少なくともの分布の裾と同じくらい重要な系列自体の収束特性への参照を見たことがないからです。

X

$X$

\log (X)

$\log(X)$

\log

$\log$

X

$X$

— whuber

2

@whuberあなたは正しいです。のサポートがテイラー級数のROCに含まれている必要があるため、特にほぼ確実です。これを反映するように投稿を更新します。

X

$X$

0 < X < 2 μ

$0<X<2 \mu$

— マイクマッコイ

2

まだ何かが足りないと思います。たとえば、が切り捨てられた正規分布を持つ場合、明らかに「非常に集中」し、平均を持ち、ほぼ確実に（を中心とする単位ディスクの内部で解析的であり、を含む）、まだは無限です。

X

$X$

(1, 1)

$(1,1)$

(0, 2)

$(0,2)$

μ = 1

$\mu=1$

f (x) = 1 / x = 1 / (1 - (1 - x))

$f(x)=1/x = 1/(1-(1-x))$

1

$1$

(0, 2 μ)

$(0,2\mu)$

E [f (X)]

$\mathbb{E}[f(X)]$

— whuber

1

@gronいくつかの小さなエラーが発生しました。場合、誘導体。ため条件は成立しませんいずれかのための。あなたはまた、（2）を満たす（2）も満たしていることを任意の関数ので、保持していない確認することができます、したがって持っています特異点はありません（リンクごとにその全体）。

f (x) = 1 / x

$f(x)=1/x$

| f^{(p)} (μ) | = p! / μ^{p}

$|f^{(p)}(\mu)|=p!/\mu^p$

(2) = \sum p! p^{(1 - p / 2)} μ^{p} \to \infty

$\text{(2)}=\sum p! p^{(1-p/2)} \mu^p \to \infty$

μ > 0

$\mu>0$

\log (p! f^{(p)} (μ)) / p \to - \infty

$\log (p! f^{(p)}(\mu) )/ p \to -\infty$

f

$f$

— マイクマッコイ

1

あなたは二つのことを必要とする@gron：（1）あなたのRVは、厳密ログの級数のROC内のサポートを持っていることを確認してください（すなわち、について）、および（2）RVのモーメントが十分に速く減少し、上記の誤差推定が有限であることを確認します。瞬間をどのように制御するかについては、あまりにも多くのキャラクターが使用されるため、新しい質問をする必要があります（そして、私自身も新しい方法に興味があります）。

[0 + ε, 2 μ - ε]

$[0+\varepsilon, 2 \mu-\varepsilon]$

ε > 0

$\varepsilon > 0$

E_{m}

$\mathcal{E}_m$

— マイクマッコイ

10

私の答えは他の答えの数学的洗練のレベルにどこにも近づきませんが、貢献するものがあると信じているので、投稿することにしました。

ライトトーンで、私はOPであると言うでしょう、「リスク回避」 OPが必要であるため、（ほとんどの人がそうであるように、だけでなく、科学そのもの）、十分なこと」への2次テイラー級数展開近似のための条件を許容」。しかし、それは必要条件ではありません。

まず、OPが要求するように、Remainderの期待値がrvの分散よりも低い次数であるために必要だが十分ではない前提条件は、シリーズが最初に収束することです。収束を想定する必要がありますか？番号。

調べる一般的な表現は

E [g (Y)] = \int_{- \infty}^{\infty} f_{Y} (y) [\sum_{i = 0}^{\infty} g^{(i)} (μ) \frac{(y - μ)^{i}}{i!}] d y [1]

$E\Big[g(Y)\Big] = \int_{-\infty}^{\infty}f_Y(y)\Big[\sum_{i=0}^{\infty}g^{(i)}(\mu)\frac{(y-\mu)^i}{i!}\Big]dy \qquad [1]$

以下のようLoistl（1976） Gemignaniの「微積分や統計」の本（1978、P。170）を参照の状態、無限和の収束のための条件は、（のアプリケーションである比検定収束のために）

y - μ < | y - μ | < lim_{i \to \infty} | (\frac{g^{(i)} (μ)}{g^{(i + 1)} (μ)} (i + 1)) | [2]

$y-\mu < |y-\mu|<\lim_{i\rightarrow \infty}\left | \left(\frac {g^{(i)}(\mu)}{g^{(i+1)}(\mu)}(i+1)\right)\right| \qquad [2]$

...ここではrvの平均です。これも十分な条件ですが（上記の関係が等しければ、比率検定は決定的ではありません）、不等式が他の方向で成り立つ場合、系列は発散します。 $\mu$

Loistlは、 3つの特定の関数形式、指数関数、べき乗、および対数を調べました（彼の論文はExpected UtilityおよびPortfolio Choiceの分野にあるため、凹関数関数を表すために使用される標準の関数形式をテストしました）。これらの関数型について、彼は指数関数型についてのみ制限が課されないことを発見しました。逆に、べき乗および対数の場合（すでにが存在する場合）、不等式有効性はと同等であることがわかります。 $g()$ $y-\mu$ $0 <y$ $[2]$

y - μ < μ \Rightarrow 0 < y < 2 μ

$y-\mu < \mu \Rightarrow 0 < y < 2\mu$

これは、変数がこの範囲外で変動する場合、変数の平均を展開中心とするテイラー展開が発散することを意味します。

そのため、一部の関数形式では、この点が展開中心からどれだけ離れていても、その領域のある点での関数の値は無限テーラー展開に等しくなります。他の関数形式（対数を含む）の場合、関心のあるポイントは、選択した拡張の中心にやや「近く」にあるはずです。rvがある場合、これは変数の理論的サポートの制限（または実験的に観察された範囲の検査）に変換されます。

Loitlは、数値例を使用して、切り捨ての前に展開の次数を増やすと、近似の精度が悪化する可能性があることも示しました。経験的に、金融セクターで観測された変数の時系列は、不平等で必要な変動よりも大きな変動を示すことに注意する必要があります。そのため、Loitlは、ポートフォリオ選択理論に関して、テイラー級数近似方法論を完全に廃止すべきであると主張し続けました。

リバウンドは18年後にHlawitschka（1994）からもたらされました。ここでの貴重な洞察と結果は、私が引用している

...シリーズは最終的に収束する可能性がありますが、その部分シリーズについてはほとんど何も言えません。系列の収束は、用語のサイズがすぐに小さくなることや、特定の用語が無視できるほど十分に小さいことを意味しません。実際、ここで示したように、シリーズが最終的に制限に収束する前に発散するように見える可能性があります。したがって、テイラー級数の最初のいくつかの項に基づく期待効用のモーメント近似の品質は、無限級数の収束特性によって決定できません。これは経験的な問題であり、経験的に、ここで検討した効用関数の2モーメント近似は、ポートフォリオ選択のタスクに適しています。 フラウィチカ（1994）

例として、Hlawitschkaは、テイラー級数が収束したかどうかにかかわらず、2次近似が「成功」したことを示しましたが、近似の次数を上げると悪化する可能性があるというLotlの結果も検証しました。しかし、この成功には修飾子があります。ポートフォリオの選択では、期待効用が証券やその他の金融商品のランク付けに使用されます。これは序数の尺度であり、基数ではありません。したがって、Hlawitschkaが見つけたのは、2次近似がの正確な値から生じるランキングと比較して、異なる証券のランキングを保存することであり、 $E(g(Y)$ この正確な値に十分に近い定量的結果が常に得られたこと（718ページの表A1を参照）。

では、それはどこに私たちを残すのでしょうか？リンボでは、私は言うだろう。理論と経験の両方で、2次テイラー近似の許容性は、研究中の特定の現象のさまざまな側面と採用された科学的方法論に大きく依存しているようです。観測されたシリーズの変動について...

しかし、これを前向きに終わらせましょう。今日では、コンピューターの力が多くのものに取って代わります。そのため、変数の値の範囲が広い場合、理論的問題でも経験的問題でも、2次近似の妥当性をシミュレートしてテストできます。

— アレコスパパドプロス
ソース

8

実際の答えではありませんが、物事はそれほど良くないことを示す例であり、この結果を真にするためには追加の仮説が必要です。

を均一なと通常のとの混合として定義し、確率で選択される均一成分、および確率の法線。あなたが持っているに、その分散が収束をとき無限大になると、誤解しない限り $X_n$ $U\left( \left[ -{1\over n} ; {1\over n} \right] \right)$ $\mathcal N({n \over n-1}, {1\over n})$ $1\over n$ $1 -{1\over n} = {n-1 \over n}$ $E(X_n) = 1$ $0$ $n$

E (X_{n}^{2}) = \frac{1}{3 n^{2}} \times \frac{1}{n} + ({(\frac{n}{n - 1})}^{2} + \frac{1}{n}) \times \frac{n - 1}{n},

$E\left(X_n^2\right) = {1\over 3 n^2} \times {1\over n} + \left(\left({n \over n-1}\right)^2+{1\over n}\right)\times{n-1 \over n},$

ここで、（およびなど定義します。ランダム変数は適切に定義されていますが、が定義されていないため、期待値はありません。大きさに関係なく。 $f(x) = 1/x$ $f(0) = 0$ $f(X_n)$

\int_{- \frac{1}{n}}^{\frac{1}{n}} \frac{1}{x} d x

$\int_{-{1\over n}}^{1\over n} {1\over x} \mathrm dx$

n

$n$

私の結論は、の大域的振る舞い、または予想される値から遠く離れたときにの密度が減衰する速度についての仮説が明らかに必要だということです。このような仮説は古典文学（および教科書）にも見られると確信しています。残念ながら、私のトレーニングは統計学ではなく、私自身も文学に苦労しています。 $f$ $X_n$

PS。この例は、ニックの答えの反例ではありませんか？誰が間違っていますか？

— エルビス
ソース

1

あなたの引数のより一般的なステートメントは、ということである存在し、有限である

E [X^{k}]

$E\left[X^k\right]$

k = 1, 2, 3

$k=1,2,3$

— probabilityislogic

上記のコメントは正しくないと思います-関数がポイントでテイラー級数展開を許可するということです。提供する例では、連続していないあり。これは、例としてをテイラー級数で展開できないことを意味すると思います。

f (x)

$f(x)$

x = μ

$x=\mu$

f (x) = \frac{1}{x}

$f(x)=\frac{1}{x}$

x = 0

$x=0$

f

$f$

— 確率論的

それはで、可能。次に、収束半径があります...無限の収束半径が必要な場合がありますか？！それは強い要件です。

μ = 1

$\mu = 1$

— エルビス

1

エルビス、はい、グローバルな条件が必要です。基本的に、残りの部分は、分布の裾で重み付けされた後、適切に動作する必要があります。最近出てきたあなたの例に似たものについては、こちら、こちら、こちらをご覧ください。

— 枢機卿

4

これは完全な答えではなく、2次近似に到達する別の方法です。

テイラー級数の剰余項を扱うのではなく、コーシーの平均値定理を使用するのが最善の方法だと思います。一度適用すると、

f (X) = f (μ) + f^{'} (ξ_{1}) (X - μ)

$f(X)=f(\mu)+f'(\xi_1)(X-\mu)$

いくつかのためのときまたは。私たちは今、再び平均値の定理を適用する我々は持っています $X\leq\xi_1 \leq \mu$ $X \leq \mu$ $X\geq\xi_1 \geq \mu$ $X \geq \mu$ $f'(\xi_1)$

f^{'} (ξ_{1}) = f^{'} (μ) + f^{″} (ξ_{2}) (ξ_{1} - μ)

$f'(\xi_1)= f'(\mu) + f''(\xi_2)( \xi_1-\mu)$

いくつかのためのときまたは。これを最初のフォーミュラに入れると $X\leq\xi_1\leq\xi_2\leq\mu$ $X\leq\mu$ $X\geq\xi_1\geq \xi_2 \geq\mu$ $X\geq\mu$

f (X) = f (μ) + f^{'} (μ) (X - μ) + f^{″} (ξ_{2}) (ξ_{1} - μ) (X - μ)

$f(X)=f(\mu)+ f'(\mu) (X-\mu) + f''(\xi_2)( \xi_1-\mu) (X-\mu)$

この結果は、が連続であり、と間で2階微分可能であることのみを必要とすることに注意してください。しかし、これは唯一の固定のために適用される、および変更、対応する変化を意味します。2次デルタ法は、のサポートの全範囲でおよびのグローバルな仮定を行うものとことができます。または少なくとも確率質量の高い領域で。 $f$ $X$ $\mu$ $X$ $X$ $\xi_i$ $\xi_1-\mu=\frac{1}{2}(X-\mu)$ $\xi_2=\mu$ $X$

— 確率論
ソース