通常のランダム変数の近似次数統計

38

特定のランダム分布の次数統計のためのよく知られた公式はありますか？特に、通常のランダム変数の最初と最後の統計値ですが、より一般的な回答も歓迎します。

編集：明確にするために、厳密な積分式ではなく、多少なりとも明示的に評価できる近似式を探しています。

たとえば、通常のrvの1次統計量（つまり最小値）について、次の2つの近似を見ました。

$e_{1:n} \geq \mu - \frac{n-1}{\sqrt{2n-1}}\sigma$

そして

$e_{1:n} \approx \mu + \Phi^{-1} \left( \frac{1}{n+1} \right)\sigma$

これらの最初のについては、およそを与えます。 $n=200$ $e_{1:200} \geq \mu - 10\sigma$

2番目はを与えますが、素早いモンテカルロはを与えます。さらに重要なことに、私はそれがどこから来たのかについて直感を持っていません。 $e_{1:200} \approx \mu - 2.58\sigma$ $e_{1:200} \approx \mu - 2.75\sigma$

助けがありますか？

— クリス・テイラー
ソース

4

Rを使用する場合は、ppoints関数を参照してください。

— 枢機

1

@probabilityislogicは、リストする近似値に対していくつかの良い直観を与えました。私が別の観点からもう少し話をした場合、またはこの問題についてあなたの好奇心を満たした場合、それはまったく役に立ちますか？

— 枢機

31

古典的なリファレンスはRoyston（1982）[1]であり、明示的な式を超えたアルゴリズムを持っています。また、Blom（1958）によるよく知られた式も引用しています：と。この式は、 -2.73の乗数を与えます。 $E(r:n) \approx \mu + \Phi^{-1}(\frac{r-\alpha}{n-2\alpha+1})\sigma$ $\alpha=0.375$ $n=200, r=1$

[1]：アルゴリズムAS 177：予想される通常次数統計（正確および近似） JPロイストン。王立統計学会誌。シリーズC（応用統計）Vol。31、No。2（1982）、pp。161-165

— アニコ
ソース

21

$\newcommand{\Pr}{\mathrm{Pr}}\newcommand{\Beta}{\mathrm{Beta}}\newcommand{\Var}{\mathrm{Var}}$ 連続ランダムのi次統計量の分布PDFの変数は、「ベータF」複合分布によって与えられます。この分布について考える直観的な方法は、サンプルでi次の統計量を考慮することです。ランダム変数のi次統計量の値がと等しくなるためには、3つの条件が必要です。

N

$N$

X

$X$

x

$x$

$i-1$ 未満の値。これは、各観測値確率を持ちます。ここで、は確率変数XのCDFです。 $x$ $F_{X}(x)$ $F_X(x)=\Pr(X<x)$
$N-i$ 上の値、これは確率 $x$ $1-F_{X}(x)$
を含む無限小区間内の1つの値、これには確率がありますは確率変数 PDF $x$ $f_{X}(x)dx$ $f_{X}(x)dx=dF_{X}(x)=\Pr(x<X<x+dx)$ $X$

この選択を行うには方法があります。 ${N \choose 1}{N-1 \choose i-1}$

f_{i} (x_{i}) = \frac{N!}{(i - 1)! (N - i)!} f_{X} (x_{i}) {[1 - F_{X} (x_{i})]}^{N - i} {[F_{X} (x_{i})]}^{i - 1} d x

$f_{i}(x_{i})=\frac{N!}{(i-1)!(N-i)!}f_{X}(x_{i})\left[1-F_{X}(x_{i})\right]^{N-i}\left[F_{X}(x_{i})\right]^{i-1}dx$

私の元の投稿で編集、私はこの点からさらに進むことで非常に悪い試みをしました、そして以下のコメントはこれを反映しています。私はこれを以下で修正しようとしました

このpdfの平均値を取得すると、次のようになります。

E (X_{i}) = \int_{- \infty}^{\infty} x_{i} f_{i} (x_{i}) d x_{i}

$E(X_{i})=\int_{-\infty}^{\infty} x_{i}f_{i}(x_{i})dx_{i}$

そして、この積分では、変数次のように変更します（@henryのヒントを使用）。積分は次のようになります。 $p_{i}=F_{X}(x_{i})$

E (X_{i}) = \int_{0}^{1} F_{X}^{- 1} (p_{i}) B e t a (p_{i} | i, N - i + 1) d p_{i} = E_{B e t a (p_{i} | i, N - i + 1)} [F_{X}^{- 1} (p_{i})]

$E(X_{i})=\int_{0}^{1} F_{X}^{-1}(p_{i})\Beta(p_{i}|i,N-i+1)dp_{i}=E_{\Beta(p_{i}|i,N-i+1)}\left[F_{X}^{-1}(p_{i})\right]$

したがって、これは逆CDFの期待値であり、デルタ法を使用して次のように近似できます。

E_{B e t a (p_{i} | i, N - i + 1)} [F_{X}^{- 1} (p_{i})] \approx F_{X}^{- 1} [E_{B e t a (p_{i} | i, N - i + 1)}] = F_{X}^{- 1} [\frac{i}{N + 1}]

$E_{\Beta(p_{i}|i,N-i+1)}\left[F_{X}^{-1}(p_{i})\right]\approx F_{X}^{-1}\left[E_{\Beta(p_{i}|i,N-i+1)}\right]=F_{X}^{-1}\left[\frac{i}{N+1}\right]$

より適切な近似を行うには、2次（微分を示す素数）に展開し、逆の2次導関数が次のようになることに注意します。

\frac{\partial^{2}}{\partial a^{2}} F_{X}^{- 1} (a) = - \frac{F_{X}^{^{″}} (F_{X}^{- 1} (a))}{{[F_{X}^{^{'}} (F_{X}^{- 1} (a))]}^{3}} = - \frac{f_{X}^{^{'}} (F_{X}^{- 1} (a))}{{[f_{X} (F_{X}^{- 1} (a))]}^{3}}

$\frac{\partial^{2}}{\partial a^{2}}F_{X}^{-1}(a)=-\frac{F_{X}^{''}(F_{X}^{-1}(a))}{\left[F_{X}^{'}(F_{X}^{-1}(a))\right]^{3}}=-\frac{f_{X}^{'}(F_{X}^{-1}(a))}{\left[f_{X}(F_{X}^{-1}(a))\right]^{3}}$

ましょう。それから私達にあります： $\nu_{i}=F_{X}^{-1}\left[\frac{i}{N+1}\right]$

E_{B e t a (p_{i} | i, N - i + 1)} [F_{X}^{- 1} (p_{i})] \approx F_{X}^{- 1} [ν_{i}] - \frac{{V a r}_{B e t a (p_{i} | i, N - i + 1)} [p_{i}]}{2} \frac{f_{X}^{^{'}} (ν_{i})}{{[f_{X} (ν_{i})]}^{3}}

$E_{\Beta(p_{i}|i,N-i+1)}\left[F_{X}^{-1}(p_{i})\right]\approx F_{X}^{-1}\left[\nu_{i}\right]-\frac{\Var_{\Beta(p_{i}|i,N-i+1)}\left[p_{i}\right]}{2}\frac{f_{X}^{'}(\nu_{i})}{\left[f_{X}(\nu_{i})\right]^{3}}$

= ν_{i} - \frac{(\frac{i}{N + 1}) (1 - \frac{i}{N + 1})}{2 (N + 2)} \frac{f_{X}^{^{'}} (ν_{i})}{{[f_{X} (ν_{i})]}^{3}}

$=\nu_{i}-\frac{\left(\frac{i}{N+1}\right)\left(1-\frac{i}{N+1}\right)}{2(N+2)}\frac{f_{X}^{'}(\nu_{i})}{\left[f_{X}(\nu_{i})\right]^{3}}$

さて、通常の場合に特化した

f_{X} (x) = \frac{1}{σ} ϕ (\frac{x - μ}{σ}) \to f_{X}^{^{'}} (x) = - \frac{x - μ}{σ^{3}} ϕ (\frac{x - μ}{σ}) = - \frac{x - μ}{σ^{2}} f_{X} (x)

$f_{X}(x)=\frac{1}{\sigma}\phi(\frac{x-\mu}{\sigma})\rightarrow f_{X}^{'}(x)=-\frac{x-\mu}{\sigma^{3}}\phi(\frac{x-\mu}{\sigma})=-\frac{x-\mu}{\sigma^{2}}f_{X}(x)$

F_{X} (x) = Φ (\frac{x - μ}{σ}) ⟹ F_{X}^{- 1} (x) = μ + σ Φ^{- 1} (x)

$F_{X}(x)=\Phi(\frac{x-\mu}{\sigma})\implies F_{X}^{-1}(x)=\mu+\sigma\Phi^{-1}(x)$

なお、そして、およそ次のようになります。 $f_{X}(\nu_{i})=\frac{1}{\sigma}\phi\left[\Phi^{-1}\left(\frac{i}{N+1}\right)\right]$

E [x_{i}] \approx μ + σ Φ^{- 1} (\frac{i}{N + 1}) + \frac{(\frac{i}{N + 1}) (1 - \frac{i}{N + 1})}{2 (N + 2)} \frac{σ Φ^{- 1} (\frac{i}{N + 1})}{{[ϕ [Φ^{- 1} (\frac{i}{N + 1})]]}^{2}}

$E[x_{i}]\approx \mu+\sigma\Phi^{-1}\left(\frac{i}{N+1}\right)+\frac{\left(\frac{i}{N+1}\right)\left(1-\frac{i}{N+1}\right)}{2(N+2)}\frac{\sigma\Phi^{-1}\left(\frac{i}{N+1}\right)}{\left[\phi\left[\Phi^{-1}\left(\frac{i}{N+1}\right)\right]\right]^{2}}$

そして最後に：

E [x_{i}] \approx μ + σ Φ^{- 1} (\frac{i}{N + 1}) [1 + \frac{(\frac{i}{N + 1}) (1 - \frac{i}{N + 1})}{2 (N + 2) {[ϕ [Φ^{- 1} (\frac{i}{N + 1})]]}^{2}}]

$E[x_{i}]\approx \mu+\sigma\Phi^{-1}\left(\frac{i}{N+1}\right)\left[1+\frac{\left(\frac{i}{N+1}\right)\left(1-\frac{i}{N+1}\right)}{2(N+2)\left[\phi\left[\Phi^{-1}\left(\frac{i}{N+1}\right)\right]\right]^{2}}\right]$

@whuberが指摘しているように、これは正確ではありません。実際には、異なるパラメーターを持つベータの歪度のために、それはより悪いかもしれないと思います

— 確率論
ソース

1

「確率変数の最尤推定量」？それが何なのかわかりませんが、あなたは（ほぼ）modeを計算したと思います。

— 枢機

1

警告や定義なしに突然とが表示されると、途中の3分の2で不思議なことが起こります。

μ

$\mu$

σ

$\sigma$

— whuber

2

「積み重ねる」つもりはありませんが、括弧内の数量を負の数値で近似する方法を理解するのも困難です。

— 枢機

1

微積分のレベルでは、あなたがいることを言うかもしれないが@probabilityislogic、このケースでは、我々は二変数関数を検討しているし、単に代わりに別の1つの変数の上に最大限に、私は、数学、統計的な理由があると思うし、教育的ではない何を呼び出すために「最尤推定」を完了しました。数が多すぎてこのスペースで列挙することはできませんが、私が十分に説得力があると思うのは、統計に特定の不可解な語彙を使用することです。単一問題の気まぐれで（S）... / ...誤解につながることを変える

— カーディナルを

2

修正された回答については、@ probabilityislogic（+1）。一つの提案は、「暗黙」を意味するに、おそらくがよりも優れていることです。収束の主張をしていないことに気付くには、数行を見つめる必要がありました。

\Rightarrow

$\Rightarrow$

\to

$\to$

— 枢機

13

Anikoの答えは、選択を含むBlomのよく知られた式に依存しています。この式自体は、G。Elfving（1947）、正常な集団からのサンプルの範囲の無症状分布、Biometrika、Vol。34、pp。111-119。Elfvingの式は、サンプルの最小値と最大値を対象としています。アルファの正しい選択はです。を近似すると、Blomの式が得られます。 $\alpha = 3/8$ $\pi/8$ $\pi$ $3$

Blomの近似ではなくElfvingの式を使用することにより、-2.744165の乗数が得られます。この数は、Blomの近似（-2.73）よりもErik P.の正確な答え（-2.746）およびMonte Carlo近似（-2.75）に近く、正確な式よりも実装が簡単です。

— ハル・M・スウィッキー
ソース

Elfving（1947）でに到達する方法について、もう少し詳しく教えていただけますか？記事では明らかではありません。

α = π / 8

$\alpha=\pi/8$

— アンソニー

1

Anthony-私は、パブのSamuel Wilksによる教科書Mathematical Statisticsに依存しています。ワイリー（1962）。p。8の演習8.21 249州：「x_（1）、x_（n）が連続cdf F（x）からのサイズnのサンプルの最小および最大次数統計である場合...ランダム変数2n * sqrt {[F（x_（ 1））] [1-F（x_（n））]}には、n->無限大、平均pi / 2および分散4-（pi ^ 2）/ 4の極限分布があります。 " （申し訳ありませんが、マークアップコードはわかりません！）対称分布の場合、F（x_（1））= 1-F（x_（n））。したがって、F（x_（n））は約pi /（4n）、またはx_（n）は約F ^（-1）（pi /（4n））です。Blomの式は、近似3 /（4n）を使用します。

— ハルM.スウィッキー

これは、インディアナ州議会に起因する悪名高い「」法案を思い出させます。（ウィキペディアの記事では、人気のあるバージョンのストーリーは正確ではないことが示唆されています。）

π = 3

$\pi=3$

— steveo'america

7

あなたが何をしたいかによって、この答えは助けになるかもしれませんし、助けにならないかもしれません-私はMapleの統計パッケージから次の正確な式を得ました。

with(Statistics):
X := OrderStatistic(Normal(0, 1), 1, n):
m := Mean(X):
m;

\int_{- \infty}^{\infty} 1 / 2 \frac{_t 0 n! \sqrt{2} e^{- 1 / 2 {_t 0}^{2}} {(1 / 2 - 1 / 2 e r f (1 / 2_t 0 \sqrt{2}))}^{- 1 + n}}{(- 1 + n)! \sqrt{π}} d_t 0

$\int _{-\infty }^{\infty }\!1/2\,{\frac {{\it \_t0}\,n!\,\sqrt {2}{ {\rm e}^{-1/2\,{{\it \_t0}}^{2}}} \left( 1/2-1/2\, {{\rm erf}\left(1/2\,{\it \_t0}\,\sqrt {2}\right)} \right) ^{-1+n}}{ \left( -1+n \right) !\,\sqrt {\pi }}}{d{\it \_t0}}$

これ自体はあまり有用ではありません（また、ランダム変数の最小値であるため、おそらく手動でかなり簡単に導出できます）が、特定の値に対して迅速かつ非常に正確な近似を可能にします-モンテカルロ： $n$ $n$

evalf(eval(m, n = 200));
evalf[25](eval(m, n = 200));

-2.746042447と-2.746042447451154492412344をそれぞれ与えます。

（完全な開示-このパッケージを維持します。）

— エリック・P
ソース

1

@ProbabilityIsLogicは、返信の前半ですべての注文統計についてこの積分を導き出しました。

— whuber