ガウス（正規）分布の最も驚くべき特徴は何ですか？

52

の標準化されたガウス分布は、密度を明示的に指定することで定義できます。 $\mathbb{R}$

\frac{1}{\sqrt{2 π}} e^{- x^{2} / 2}

$\frac{1}{\sqrt{2\pi}}e^{-x^2/2}$

またはその特徴的な機能。

この質問で想起されたように、それはサンプル平均と分散が独立している唯一の分布でもあります。

あなたが知っているガウス尺度の他の驚くべき代替の特徴は何ですか？最も驚くべき答えを受け入れます

— ロビン・ジラード
ソース

39

私の最も驚くべきことは、サンプルの平均と分散に関するものですが、ここに別の（おそらく）驚くべき特性があります：とがと独立の有限分散を持つIIDである場合、とは正常です。 $X$ $Y$ $X+Y$ $X-Y$ $X$ $Y$

直観的には、通常、変数が散布図で独立していない場合を識別できます。そのため、独立して見えるペアの散布図を想像してください。今度は45度回転してもう一度見てください。それがまだ独立しているようであれば、座標と座標は個別に正常でなければなりません（もちろん、これはすべておおまかに言っています）。 $(X,Y)$ $X$ $Y$

直感的なビットが機能する理由を確認するには、

[\begin{array}{cc} \cos 45^{\circ} & - \sin 45^{\circ} \\ \sin 45^{\circ} & \cos 45^{\circ} \end{array}] [\begin{matrix} x \\ y \end{matrix}] = \frac{1}{\sqrt{2}} [\begin{matrix} x - y \\ x + y \end{matrix}]

$\left[ \begin{array}{cc} \cos45^{\circ} & -\sin45^{\circ} \newline \sin45^{\circ} & \cos45^{\circ} \end{array} \right] \left[ \begin{array}{c} x \newline y \end{array} \right]= \frac{1}{\sqrt{2}} \left[ \begin{array}{c} x-y \newline x+y \end{array} \right]$

— user1108
ソース

3

ジェイ-これは基本的に、平均と分散が独立していることの再記述です。は再スケーリングされた平均で、は再スケーリングされた標準偏差です。

X + Y

$X+Y$

X - Y

$X-Y$

— 確率論的

5

@probabilityislogic-あなたが言ったことの直観は好きですが、はSDの正確な再スケーリングではないので、SDが符号を忘れるので、正確に言い換えるとは思いません。したがって、平均とSDの独立性は、、（場合）の独立性に基づきますが、その逆ではありません。それはあなたが「基本的に」意味したことかもしれません。とにかく、それは良いものです。

X - Y

$X - Y$

X + Y

$X+Y$

X - Y

$X-Y$

n = 2

$n = 2$

4

この物件の証拠はどこにありますか？

— ロイ

1

@Royiは16. hereを参照してください。（a）の場合、ことに注意してください。（b）では、あり、置換あなたが得る、そこから。場合、次に、従って全てのため、と配列があるようすべてのおよびであり、での連続性と矛盾し

2 X = (X + Y) + (X - Y)

$2X=(X+Y)+(X-Y)$

φ (2 t) φ (- 2 t) = (φ (t) φ (- t))^{4}

$\varphi(2t)\varphi(-2t)=(\varphi(t)\varphi(-t))^4$

ψ (t) = φ (t) φ (- t)

$\psi(t)=\varphi(t)\varphi(-t)$

ψ (t) = ψ^{2^{2 n}} (\frac{t}{2^{n}})

$\psi(t)=\psi^{2^{2n}}(\frac{t}{2^n})$

φ (t_{0}) = 0

$\varphi(t_0)=0$

ψ (t_{0}) = 0

$\psi(t_0)=0$

n

$n$

ψ (\frac{t_{0}}{2^{n}}) = 0

$\psi(\frac{t_0}{2^n})=0$

t_{n}

$t_n$

t_{n} \to 0

$t_n\to 0$

φ (t_{n}) = 0

$\varphi(t_n)=0$

n

$n$

φ

$\varphi$

0

$0$ 。（c）は簡単です[続き]

— ガブリエル・

1

（d）の場合、。、したがってことに注意してください。これを以前の等式にて、固定に対してあり、これはすべてのに対してを意味します。これは、が実数であり、（a）の等式が求められるものになることを意味します。再び、その証明と使用を取得してを取得します。したがって、および

γ (t) = γ^{2^{n}} (\frac{t}{2^{n}})

$\gamma(t)=\gamma^{2^n}(\frac{t}{2^n})$

φ (t) = 1 - \frac{t^{2}}{2} + o (t^{2})

$\varphi(t)=1-\frac{t^2}2+o(t^2)$

γ (t) = 1 + o (t^{2})

$\gamma(t)=1+o(t^2)$

t

$t$

lim_{n} γ^{2^{n}} (\frac{t}{2^{n}}) = 1

$\lim_n \gamma^{2^n}(\frac{t}{2^n}) = 1$

γ (t) = 1

$\gamma(t)=1$

t

$t$

φ

$\varphi$

φ (t) = φ^{2^{2 n}} (\frac{t}{2^{n}})

$\varphi(t)=\varphi^{2^{2n}}(\frac{t}{2^n})$

φ (t) = 1 - \frac{t^{2}}{2} + o (t^{2})

$\varphi(t)=1-\frac{t^2}2+o(t^2)$

lim_{n} φ^{2^{2 n}} (\frac{t}{2^{n}}) = e^{- t^{2} / 2}

$\lim_n \varphi^{2^{2n}}(\frac{t}{2^n}) = e^{-t^2/2}$

φ (t) = e^{- t^{2} / 2}

$\varphi(t)=e^{-t^2/2}$

X

$X$ は正常です。

— ガブリエルロモン

27

微分エントロピーを最大化する固定分散の連続分布は、ガウス分布です。

— みすぼらしい
ソース

22

これについて書かれた本全体があります：「通常の確率則の特性化」、AM Mathai＆G. Perderzoli。JASA（1978年12月）の簡単なレビューでは、次のことが言及されています。

ましょう独立な確率変数であるが。そして、とは独立しています。ここで、、が正規分布している場合に限ります。 $X_1, \ldots, X_n$ $\sum_{i=1}^n{a_i x_i}$ $\sum_{i=1}^n{b_i x_i}$ $a_i b_i \ne 0$ $X_i$

— whuber
ソース

3

ような条件がなければなりませんか？たとえば、n = 2 とは独立ではありません。

< a, b >= 0

$<a,b>=0$

a_{i} = b_{i} = 1

$a_i=b_i=1$

X_{1} + X_{2}

$X_1+X_2$

X_{1} + X_{2}

$X_1+X_2$

— ロビンジラール

1

@ロビン良いキャッチ。暗黙の量指定子についても困惑しています。残念ながら、私がアクセスできるのは、本からではなく、レビューからの（刺激的な）引用だけです。...それを通してライブラリやブラウズでそれを見つけることが楽しいだろう

— whuber

これは、G。ジェイカーンズ（現在は＃1）の答えを一般化したようなものです。

— vqv

Lukacs＆King（1954）の論文をお探しかもしれません。前述の論文へのリンクとともに、math.SEでこの回答を参照してください。

— 枢機

2

この命題は「どこ言うどこ」、それはスカラーのEVERYセットの意味がどこ「？私が見て嫌い『すべての『または『のためのいくつかのために』の代わりに使用する』どこで』。」ここで、ここで」のように、人の記法を説明するために使用されるべき『光の速度であり、国内総生産』、等である

a_{i} b_{i} \neq 0

$a_i b_i\ne 0$

a_{i} b_{i} \neq 0

$a_i b_i \ne 0$

c

$c$

g

$g$

— マイケルハーディ

17

ガウス分布は、有限分散を持つ唯一の和安定分布です。

— みすぼらしい
ソース

8

それらが合計安定であり、有限分散を持つユニークなものであるということは、両方ともCLTによって強制されます。この主張の興味深い部分は、他の和安定な分布が存在することです！

— whuber

1

@whuber：確かに！この特性評価は少しゆがめられており、他の和安定分布はおそらくより好奇心が強いでしょう。

— みすぼらしいシェフ

実際、@ whuberは、CLTがこの事実をどのように暗示しているかわかりません。漸近的に、法線の合計は正常であり、有限の合計が正規分布しているわけではないことを教えているようです。それとも、どういうわけかスルツキーの定理を使用する必要がありますか？

— みすぼらしいシェフ

3

通常の標準化を採用すると、2つの正規分布の合計は、1つの正規分布X_0とシリーズX_1、X_2、...の制限分布の合計であり、合計はX_0、X_1、...の制限分布です。 Lindeberg-LevyによるCLTは正常です。

— whuber

17

スタインの補題は、非常に有用な特性評価を提供します。は、持つすべての絶対連続関数に対してである場合、標準ガウスです。 $Z$

E f^{'} (Z) = E Z f (Z)

$E f’(Z) = E Z f(Z)$

f

$f$

E | f^{'} (Z) | < \infty

$E|f’(Z)| < \infty$

— vqv
ソース

12

定理[ハーシェル-マクスウェル]：レッツランダムベクトルである（i）は直交する部分空間への投影が独立しており、および（ii）の分布長さのみに依存する。次に、が正規分布します。 $Z \in \mathbb{R}^n$ $Z$ $\|Z\|$ $Z$

George Cobbによる統計の指導：いくつかの重要な緊張（Chilean J. Statistics Vol。2、No. 1、April、p。54。

Cobbは、微積分（または多くの確率理論）を使用せずに、この特性を、、および分布の導出の開始点として使用します。 $\chi^2$ $t$ $F$

— whuber
ソース

9

ましょうとよう、共通の対称分布を持つ2つの独立した確率変数であること $\eta$ $\xi$

P (| \frac{ξ + η}{\sqrt{2}} | \geq t) \leq P (| ξ | \geq t) .

$P\left ( \left |\frac{\xi+\eta}{\sqrt{2}}\right | \geq t \right )\leq P(|\xi|\geq t).$

その場合、これらのランダム変数はガウスです。（明らかに、とがガウス中心にある場合、それは正しいです。） $\xi$ $\eta$

これはボブコフ・フードルの定理です

— ロビン・ジラード
ソース

9

これは特性化ではなく推測であり、1917年に遡り、Cantelliによるものです。

場合上の正関数であるととであるの独立確率変数ように正常である場合、はほぼどこでも一定です。 $f$ $\mathbb{R}$ $X$ $Y$ $N(0,1)$ $X+f(X)Y$ $f$

ジェラード・レタックによる言及はこちら。

— した
ソース

言及するのは良いことです！直感がわからないよね？

— ロビンギラード

@robinこれがこの推測を非常に特別なものにします：完全に初歩的な文、悲惨に失敗するいくつかの明らかなアプローチ（特徴的な機能）、そして何も把握することができません...または偽？それも明らかではありません（私にとって）。

— DID

2

ジェラール・レタックがそれを証明することができなかった場合、かなり長い間オープンな予想のままである可能性があります...！

— 西安

@西安：もちろん私も完全に同意します。（あなたがウェブのこれらの四半期にローミングして知りませんでした...あなたがしていること朗報を。）

— DID

6

@ Xi'anこれは、Victor KleptsynとAline Kurtzmannによるプレプリントで、カンテリの推測に反例があります。作成では新しいツールを使用します。著者はこれをブラウン質量輸送と呼び、不連続関数を生成します。著者らは、が連続的である（それらは2つの連続関数の混合である）と尋ねた場合、Cantelliの推測が成り立つと信じていると述べています。

f

$f$

f

$f$

— でした

8

iidデータを使用して位置パラメーターを推定するとします。場合最尤推定量であり、次いで、サンプリング分布がガウス分布です。ジェインズの確率論：科学の論理 202-4ページによると、これはガウスがもともとそれを導き出した方法でした。 $\{x_1,...,x_n\}$ $\bar{x}$

— シアン
ソース

これを正規分布の特性評価として理解しているかどうかはわかりません。そのため、おそらく何かが欠けています。iid Poissonデータがあり、を推定したい場合はどうなりますか？MLEはが、サンプリング分布はないガウス型である-まず、合理的でなければなりません。それは、ガウス分布であれば第二に、そうであろうしかしのこと。

μ

$\mu$

\bar{x}

$\bar{x}$

\bar{x}

$\bar{x}$

\bar{x}

$\bar{x}$

\sum x_{i}

$\sum{x_i}$

Poisson (n μ)

$\text{Poisson}(n\mu)$

— シルバーフィッシュ14

2

ポアソン平均は位置パラメーターではありません！

— kjetil bハルヴォルセン

6

無限に割り切れる分布のクラスの中での正規分布のより具体的な特徴は、Steutel and Van Harn（2004）に示されています。

非縮退の無限に割り切れるランダム変数は、 $X$
$- \underset{x \to \infty}{lim sup} \frac{\log P (| X | > x)}{x \log (x)} = \infty .$ $-\limsup_{x\rightarrow\infty}\dfrac{\log{\mathbb P}(\vert X\vert>x)}{x\log(x)}=\infty.$

この結果は、尾の振る舞いに関して正規分布を特徴づけます。

— ユーザー10525
ソース

1

指定された制限の簡単な証明は次のようになります：が標準正規の場合、 as、したがって。しかし、なので、結果は次のようになります。ポアソンの場合の大まかなスケッチは、指定された制限がであることを示しているように見えますが、あまり厳密に確認していません。

X

$X$

x P (X > x) / φ (x) \to 1

$x \mathbb P(X>x)/\varphi(x)\to 1$

x \to \infty

$x\to \infty$

\log P (X > x) - \log φ (x) + \log x \to 0

$\log\mathbb P(X>x)−\log \varphi(x) + \log x \to 0$

2 \log φ (x) \sim - x^{2}

$2 \log \varphi(x) \sim −x^2$

λ

$\lambda$

— 枢機

6

画像の平滑化のコンテキスト（スケール空間など）では、ガウスが唯一の回転対称分離可能カーネルです。

つまり、（）が必要な場合、回転対称にはが必要ですこれはと同等です。

F [x, y] = f [x] f [y]

$F[x,y]=f[x]f[y]$

[x, y] = r [\cos θ, \sin θ]

$[x,y]=r[\cos\theta,\sin\theta]$

\begin{aligned} F_{θ} & = f^{'} [x] f [y] x_{θ} + f [x] f^{'} [y] y_{θ} \\ = - f^{'} [x] f [y] y + f [x] f^{'} [y] x = 0 \\ ⟹ \\ \frac{f^{'} [x]}{x f [x]} & = \frac{f^{'} [y]}{y f [y]} = c o n s t . \end{aligned}

$\begin{align} F_\theta &= f'[x]f[y]x_\theta+f[x]f'[y]y_\theta \\ &= -f'[x]f[y]y+f[x]f'[y]x = 0 \\ &\implies \\ \frac{f'[x]}{xf[x]} &= \frac{f'[y]}{yf[y]} = \mathrm{const.} \end{align}$

\log [f [x]]^{'} = c x

$\log\big[f[x]\big]'=cx$

その必要適切であるカーネルは、次いで定数が負の初期値の正、ガウシアンカーネルをもたらすことが必要となります。 $f[x]$

*確率分布のコンテキストでは、分離可能は独立を意味しますが、画像フィルタリングのコンテキストでは、2Dコンボリューションを2つの1Dコンボリューションに計算的に減らすことができます。

— GeoMatt22
ソース

2

+1しかし、これは2D でのHerschel-Maxwellの定理の即時適用からは得られませんか？

— whuber

@whuber確かに、このスレッドを見たとき、どういうわけか私はあなたの答えを見逃してしまいました！

— アメーバは、モニカーを復活させる

@whuberはい。私はこの古いスレッドを詳細に読んだことはなく、リクエストごとにこの回答を追加していました。

— GeoMatt22

1

@amoebaこちらもご覧ください。

— GeoMatt22

3

最近、Ejsmont [1]は、Gaussianの新しい特性を備えた記事を公開しました。

ましょうすべての瞬間と独立ランダムベクトルである非縮退であり、およびlet統計の分布は、のみに依存します。ここで、およびです。次いで独立しており、ゼロ手段と同じ正規分布有しのため。 $(X_1,\dots, X_m,Y) \textrm{ and } (X_{m+1},\dots,X_n,Z)$ $X_i$ $\sum_{i=1}^na_iX_i+Y+Z$ $\sum_{i=1}^n a_i^2$ $a_i\in \mathbb{R}$ $1\leq m < n$ $X_i$ $cov(X_i,Y)=cov(X_i,Z)=0$ $i\in\{1,\dots,n\}$

[1]。ウィクトル、Ejsmont。「ランダムなベクトルのペアの独立性による正規分布の特徴付け。」Statistics＆Probability Letters 114（2016）：1-5。

— ダニエル
ソース

1

それは繊細で魅力的な特徴です。このスレッドを共有して改善してくれてありがとう！

— whuber

1

その特性関数は、pdfと同じ形式です。私はそれを行う別のディストリビューションがわからない。

— ジェイソン
ソース

4

特性関数がpdfと同じであるランダム変数を作成する方法については、この私の答えを参照してください。

— ディリップサルワテ

-1

期待値プラスマイナス標準偏差は、関数の点です。

— タル・ガリリ
ソース

11

これは確かに正規分布のプロパティですが、他の多くの分布にもこのプロパティがあるため、それを特徴付けるものではありません。

— whuber