次元の2つのランダムな単位ベクトルのスカラー積の分布

場合と内の2つの独立したランダムな単位ベクトルでありそれらのスカラー積（内積）の分布が何であるか（均一単位球面上に分布）、？ $\mathbf{x}$ $\mathbf{y}$ $\mathbb{R}^D$ $\mathbf x \cdot \mathbf y$

ように私は推測迅速に配布を成長より高い次元でゼロと正常になる平均及び分散減少（？）しかしのための明示的な公式がある？ $D$

\underset{D \to \infty}{リム} σ^{2} （ D ） \to 0 、

$\lim_{D\to\infty}\sigma^2(D) \to 0,$

σ^{2} (D)

$\sigma^2(D)$

更新

簡単なシミュレーションをいくつか実行しました。最初に、のランダムな単位ベクトルの10000ペアを生成 $D=1000$ すると、それらのドット積の分布が完全にガウス分布であることが簡単にわかります（実際、すでに場合はかなりガウス分布です $D=100$ ）。左側のサブプロットを参照してください。次に、1から10000までの各に対して $D$ （ステップを増やしながら）1000ペアを生成し、分散を計算しました。ログ-ログプロットは右側に示されており、式が非常によく近似されていることは明らかです $1/D$ 。 $D=1$ および $D=2$ この式で正確な結果が得られることにも注意してください（ただし、後で何が起こるかわかりません）。

ランダム単位ベクトル間の内積

mathematical-statistics linear-algebra beta-distribution

— アメーバはモニカを復活させると言う
ソース

@KarlOskar：ありがとう、このリンクは非常に関連性があり、実際、私の質問はほとんど重複していますが、完全ではありません。したがって、明示的な公式があります。これは内積の累積分布関数です。導関数を使用してPDFを取得し、制限調べることができます。ただし、式はベータ関数と不完全なベータ関数の観点から与えられているため、計算は厄介である可能性があります。

P {(x, y) > ϵ}

$P\{(\mathbf{x}, \mathbf{y})>\epsilon\}$

D \to \infty

$D\to \infty$

— アメーバは2014

@KarlOskar：の単位球面上の一様分布から。この分布からランダムなベクトルを生成するには、単位分散のあるガウス分布からランダムなベクトルを生成し、それを正規化できます。

R^{D}

$\mathbb{R}^D$

— アメーバは2014

回答:

（よく知られているように）変量正規分布を正規化することで単位球上の均一分布が得られ、正規化ベクトルの内積はそれらの相関係数であるため、3つの答えは質問は次のとおりです。 $S^{D-1}$ $D$ $t$

$u= (t+1)/2$ にはベータ分布があります。 $((D-1)/2,(D-1)/2)$
の分散は等しくなります（質問で推測されます）。 $t$ $1/D$
の標準化された分布は、割合で正規性に近づき $t$ $O\left(\frac{1}{D}\right).$

方法

単位ベクトルのドット積の正確な分布は、幾何学的に簡単に取得できます。これは、これが最初の方向の2番目のベクトルの成分だからです。2番目のベクトルは1番目のベクトルから独立しており、単位球に均一に分布しているため、第1方向の成分は球の座標と同じように分布します。（最初のベクトルの分布は重要ではないことに注意してください。）

密度を見つける

したがって、その座標を最後にすると、での密度は、単位球上のと間の高さにある表面積に比例します。その割合は、高さおよび半径ベルト内で発生しますこれは、基本的に半径のから構成される円錐台です高さおよび勾配。確率はそれに比例します $t \in [-1,1]$ $t$ $t+dt$ $dt$ $\sqrt{1-t^2},$ $S^{D-2}$ $\sqrt{1-t^2},$ $dt$ $1/\sqrt{1-t^2}$

\frac{{（ \sqrt{1 - t^{2}} ）}^{D - 2}}{\sqrt{1 - t^{2}}} d t = （ 1 - t^{2} ）^{（ D - 3 ） / 2} d t 。

$\frac{\left(\sqrt{1 - t^2}\right)^{D-2}}{\sqrt{1 - t^2}}\,dt = (1 - t^2)^{(D-3)/2} dt.$

まかせ伴う。これを上記の値に代入すると、確率要素が正規化定数になります。 $u=(t+1)/2 \in [0,1]$ $t = 2u-1$

f_{D} （ あなたは ） d あなたは \propto （ 1 - （ 2 あなたは - 1 ）^{2} ）^{（ D - 3 ） / 2} d （ 2 あなたは - 1 ） = 2^{D - 2} （ あなたは - {あなたは}^{2} ）^{（ D - 3 ） / 2} d あなたは 。

$f_D(u)du \; \propto \; (1 - (2u-1)^2)^{(D-3)/2} d(2u-1) = 2^{D-2}(u-u^2)^{(D-3)/2}du.$

がベータ分布を持っているのは即座です。なぜなら、（定義により）その密度も $u=(t+1)/2$ $((D-1)/2, (D-1)/2)$

{あなたは}^{（ D - 1 ） / 2 - 1} {（ 1 - あなたは ）}^{（ D - 1 ） / 2 - 1} = （ あなたは - {あなたは}^{2} ）^{（ D - 3 ） / 2} \propto f_{D} （ あなたは ） 。

$u^{(D-1)/2-1}\left(1-u\right)^{(D-1)/2-1} = (u-u^2)^{(D-3)/2} \; \propto \; f_D(u).$

制限動作の決定

基本的な手法を使用して制限動作に関する情報が簡単に得られますを統合して、比例定数を取得できます ; を統合して（たとえばベータ関数のプロパティを使用して）モーメントを取得し、分散がで縮小することを示し（したがって、チェビシェフの定理により、確率は付近に集中します）; そして、制限分布は、比例する標準化された分布の密度の値を考慮して、 $f_D$ $\frac{\Gamma \left(\frac{n}{2}\right)}{\sqrt{\pi } \Gamma \left(\frac{D-1}{2}\right)}$ $t^k f_D(t)$ $1/D$ $0$ $t=0$ $f_D(t/\sqrt{D}),$ $t$ ：

\begin{aligned} ログ （ f_{D} （ t / \sqrt{D} ） ） & = C （ D ） + \frac{D - 3}{2} ログ （ 1 - \frac{t^{2}}{D} ） \\ = C （ D ） - （ 1 / 2 + \frac{3}{2 D} ） t^{2} + O （ \frac{t^{4}}{D} ） \\ \to C - \frac{1}{2} t^{2} \end{aligned}

$\eqalign{ \log(f_D(t/\sqrt{D})) &= C(D) + \frac{D-3}{2}\log\left(1 - \frac{t^2}{D}\right) \\ &=C(D) -\left(1/2 + \frac{3}{2D}\right)t^2 + O\left(\frac{t^4}{D}\right) \\ &\to C -\frac{1}{2}t^2 }$

ここで、は積分の（ログ）定数を表します。明らかにこれが正規性に近づく速度（対数密度が等しい）は $C$ $-\frac{1}{2}t^2$ $O\left(\frac{1}{D}\right).$

このプロットは、単位分散に標準化された 4、6、10の内積の密度とそれらの限界密度を示しています。の値は、とともに増加します（標準の標準密度では、青から赤、金、そして緑へと変化します）。濃度、この解像度で通常の密度と区別できないであろう。 $D=4, 6, 10$ $0$ $D$ $D=1000$

— ウーバー
ソース

（+1）@whuber、ありがとうございます。これは素晴らしい答えです！「フラスタム」という言葉に言及してくれてありがとう。あなたがあなたの質問を投稿するほんの数分前に別の回答を受け入れたことがたまたまあるので、今はそれを受け入れたくありません。ご理解いただければ幸いです。残念ながら、両方を受け入れることはできません！ちなみに、その答えからの分散の式の非常に単純な証明に注意してください。ベータ関数をいじることなく直接見ることができます！ドット積の分散は（記述したように）任意の球座標の分散に等しく、それらのすべてのの合計はである必要があります、QED

1 / D

$1/D$

D

$D$

1

$1$

— amoebaが2014

これは、分散に関する素晴らしい観察です。

— whuber

@amoeba、最近の活動もまたここに再び注目を集めました。あなたが私の答えを受け入れてくれたことに感謝しますが、この方がはるかに充実しています。あなたが変わっても私は全く気にしません。

— ekvall

@ Student001：これは公平で寛大なコメントです。受け入れられた答えを切り替えました。私はあなたの1人のQと1人のAがそれを補うために賛成票を投じるのを見つけました:)

— アメーバは、Reinstate Monica

分布@matであるの。これにより、間隔から間隔スケーリングおよびシフトされたベータ分布になります。

t

$t$

2 U - 1

$2U-1$

[0, 1]

$[0,1]$

[- 1, 1]

$[-1,1]$

— whuber

分布を見つけて、標準結果による分散を求めましょう。ベクトル積を考慮して、コサイン形式で記述します。つまり、ここではと間の角度です。最後のステップで、イベントとそれを使用しましたここで、用語考えます。は球体表面に対して均一に選択されるため、どのでも問題ないことは明らかです。

P （ {バツ}^{'} y \leq t ） = P （ | バツ | | y | \cos θ \leq t ） = P （ \cos θ \leq t ） = E P （ \cos θ \leq t ∣ y ） 、

$P(x'y\leq t)=P(|x||y|\cos\theta\leq t)=P(\cos\theta\leq t)=\mathbb{E}P(\cos\theta\leq t\mid y),$

θ

$\theta$

x

$x$

y

$y$

A

$A$

B

$B$

E P (A ∣ B) := E [E [χ_{A} ∣ B]] = E χ_{A} = P (A) .

$\mathbb EP(A\mid B):=\mathbb{E}[\mathbb{E}[\chi_A\mid B]]=\mathbb{E}\chi_A=P(A).$

P (\cos θ \leq t ∣ y)

$P(\cos\theta\leq t\mid y)$

x

$x$

y

$y$ 実際は、と間の角度だけが重要です。したがって、期待値内の項は実際には関数として一定であり、と仮定することができ次に、を取得しただし、は正規化されたガウスベクトルの最初の座標であるため、この論文の漸近結果を呼び出すことにより、は分散ガウスです。

x

$x$

y

$y$

y

$y$

y = [1, 0, 0, \dots]^{'} .

$y=[1,0,0,\dots ]'.$

P (x^{'} y \leq t) = P (x_{1} \leq t) .

$P(x'y\leq t)=P\left( x_1\leq t\right).$

x_{1}

$x_1$

R^{n},

$\mathbb{R}^n,$

x^{'} y

$x'y$

1 / n

$1/n$

分散の明示的な結果については、内積が独立によって平均ゼロであり、上記のように最初の座標のように分布するという事実を使用します。これらの結果から、を見つけることはを見つけることになります。ここで、構造であるため、ここで最後の等式はの座標が同じように分布していることから続きます。まとめると、 $x$ $\text{Var}(x'y)$ $\mathbb{E}x_1^2$ $x'x=1$

1 = E x^{'} x = E \sum_{i = 1}^{n} x_{i}^{2} = \sum_{i = 1}^{n} E x_{i}^{2} = n E x_{1}^{2},

$1=\mathbb{E}x'x=\mathbb{E}\sum_{i=1}^nx_i^2=\sum_{i=1}^n\mathbb{E}x_i^2=n\mathbb{E}x_1^2,$

x

$x$

Var (x^{'} y) = E x_{1}^{2} = 1 / n

$\text{Var}(x'y)=\mathbb{E}x_1^2=1/n$

— エクヴァル
ソース

ありがとう、しかし私は混乱している：正確に「望ましい結果」とは何であり、それは最後の方程式からどのように続くのか？最終的な確率分布は依存する必要があります。

D

$D$

— アメーバは2014

実際、最後の方程式の結果がどのように続くかは、見つけたmath.SEスレッドで説明されているとおりです。これにはベータ分布などが含まれ、制限の動作は（私には）明らかではありません。を確認するためのより簡単な直接的な方法があるはずです。

σ^{2} (D) \approx 1 / D

$\sigma^2(D) \approx 1/D$

— アメーバは、モニカーを復活させる14

であるため、次元に依存します。ここで、は生成されたガウスベクトルです。答えは今日または明日後で更新します。

x_{1} = z_{1} | z |^{- 1}

$x_1=z_1 |z|^{-1}$

z

$z$

— ekvall 14

球が半径持っている場合：うわー、あなたの最後のリンクは推論を完了するために、ページ1だから、上の第三式（Iが計算するために恐れていた）逆ベータ関数を含むその表現の限界に偉大な提供、次いで（漸近的に）として配布され。これは、単位半径の球体の分散が倍小さい、つまりことを意味します。しかし、私にはまだ懸念があります：1から4までのをチェックし、D = 1またはD = 2の分布が正規から非常に離れているにもかかわらず、は正確な分散を与えるようです。その背後にはもっと深い理由があるはずです。

\sqrt{D}

$\sqrt{D}$

x_{1}

$x_1$

N (0, 1)

$\mathcal{N}(0,1)$

D

$D$

1 / D

$1/D$

D

$D$

1 / D

$1/D$

— アメーバは、モニカを復活させる14

@amoebaはい、その証拠で更新されました。

— ekvall 14

質問の最初の部分に答えるには、ます。定義要素の積ここでとして示されるとのは、と共同分布に従って分布されます。その後、 $Z = \langle X,Y \rangle = \sum X_i Y_i$

f_{Z_{私}} （ z_{私} ） = \int_{- \infty}^{\infty} f_{Z_{1} 、 \dots 、 Z_{D}} （ z_{1} 、 \dots 、 z_{D} ） d z_{私}

$f_{Z_i}(z_i) = \int_{-\infty}^\infty f_{Z_1,\ldots,Z_D}(z_1,\ldots,z_D) \: d z_i$

i^{t h}

$i^{th}$

X

$X$

Y

$Y$

Z_{i}

$Z_i$

X_{i}

$X_i$

Y_{i}

$Y_i$

f_{Z_{私}} （ z_{私} ） = \int_{- \infty}^{\infty} f_{{バツ}_{私} 、 Y_{私}} （ バツ 、 \frac{z_{私}}{バツ} ） \frac{1}{| バツ |} d バツ

$f_{Z_i}(z_i) = \int_{-\infty}^\infty f_{X_i,Y_i}(x,\frac{z_i}{x})\frac{1}{|x|}dx$

Z = \sum Z_{i}

$Z = \sum Z_i$

f_{Z} （ z ） = \int_{- \infty}^{\infty} \dots \int_{- \infty}^{\infty} f_{Z_{1} 、 \dots 、 Z_{D}} （ z_{1} 、 \dots 、 z_{d} ） δ （ z - \sum z_{私} ） d z_{1} \dots d z_{d}

$f_Z(z) = \int_{-\infty}^\infty \ldots \int_{-\infty}^\infty f_{Z_1,\ldots,Z_D} (z_1,\ldots,z_d) \: \delta(z - \sum z_i)\: dz_1\ldots d z_d$

2番目の部分については、漸近的な動作について興味深いことを言いたい場合は、少なくともと独立性を仮定してから、CLTを適用する必要があると思います。 $\sigma$ $X$ $Y$

例えば、がおよびたい場合およびと言い。 $\{Z_1,\ldots,Z_D\}$ $\mathbb{E}[Z_i] = \mu$ $\mathbb{V}[Z_i] = \sigma^2$ $\sigma^2(D) = \frac{\sigma^2}{D}$ $\lim_{D\to\infty} \sigma^2(D) = 0$

— トム
ソース

ありがとう、しかし私は第二部について混乱しています。とはもちろん独立しているはずですが、これを質問に追加します。と言いますが、それは理にかなっていますが、の漸近的な振る舞いは何ですか？私が探している表現はのみに依存すべきだと思います。2Dでところで、私は間違っていないです場合は、より高い次元での真のこの遺跡...場合、私は疑問に思う

X

$X$

Y

$Y$

σ^{2} (D) = V a r (z_{i}) / D

$\sigma^2(D) = \mathrm{Var}(z_i)/D$

V a r (z_{i})

$\mathrm{Var}(z_i)$

D

$D$

V a r (z_{i}) = 1 / 2

$\mathrm{Var}(z_i)=1/2$

— アメーバが復活モニカ言う

とが単位長さであるという要件がある場合、を独立させることは本当に可能ですか？

z_{i}

$z_i$

X

$X$

Y

$Y$

— ekvall 14

@tom：ところで、私があった間違っ：2Dに 1であり、それは等しい1/2です。いくつかのシミュレーション結果で質問を更新しました。正しい式はです。

V a r (z_{i})

$\mathrm{Var}(z_i)$

V a r (z)

$\mathrm{Var}(z)$

1 / D

$1/D$

— アメーバは、モニカを復活させる14