ランダムベクトルの有限

もし $X \sim F$ のサポート $X$ ある $\mathbb{R}^p$ 。したがって、 $X = (X_1, X_2, \dots, X_p)$ です。次に、 $X$ は $k$ 有限モーメントがあると仮定します。ときに $p = 1$ 、私が知っているその手段

\int_{R} x^{k} f (x) d x < \infty,

$\int_{\mathbb{R}} x^k\, f(x)\, dx < \infty,$ ここで

f (x)

$f(x)$ は

関連密度です

F

$F$ 。

とき、

X

$X$ が

k

$k$ 有限モーメントを持つと仮定することの数学的な同等物は何ですか？

p > 1

$p > 1$

$k$

E ‖ X ‖^{k} = \int ‖ X ‖^{k} f (x) d x,

$E\|X\|^k = \int \|X\|^k f(x) \, dx,$

‖ \cdot ‖

$\| \cdot\|$

ここでの Glen_bの答えは、番目のモーメントがであることを示唆してい $k$

\int x_{1}^{k} x_{2}^{k} \dots x_{p}^{k} f (x) d x .

$\int x_1^kx_2^k \dots x_p^k \, f(x) dx.$

一方が有限であると仮定すると、もう一方が有限であることを意味しますか？

— Greenparker
ソース

この言語が使用されているところをどこかで見ましたか？基本的に、モーメントは次のテンソルになります。したがって、場合は平均ベクトル、場合は（共）分散行列、場合は次の「歪度」テンソルなどになります。（場合の平均についてのモーメントを想定。）

p > 1

$p>1$

p > 1

$p>1$

k_{t h}

$k_{th}$

k = 1

$k=1$

k = 2

$k=2$

k = 3

$k=3$

3_{r d}

$3_{rd}$

k > 1

$k>1$

— GeoMatt22

@ GeoMatt22正解です。はい、使用されている言語を見ました。たとえば、ここでは、ランダムなベクトルの有限モーメントについて話します。

2 + δ

$2 + \delta$

— Greenparker 2016

おそらく意味は、モーメントテンソルのすべてのエントリが有限であることでしょうか？

— GeoMatt22

@Greenparkerはテキストのその一節を引用できますか？見つかりません。

— ekvall

@ Student001申し訳ありませんが、リンクが間違っています。これが正しいリンクです。たとえば定理4、6ページの声明を見てください

— Greenparker

回答:

答えは否定的ですが、問題は修正できます。

何が問題なのかを確認するには、 2自由度のスチューデントt分布を持たせます。その顕著な特性は、は有限ですが、です。の二変量分布を考えます。ましょうその分配要素である（単数である：それだけ対角線上に支持されている）。対角線に沿って、、どこから $X$ $\mathbb{E}(|X|)$ $\mathbb{E}(|X|^2)=\infty$ $(X,X)$ $f(x,y)dxdy$ $x=y$ $||(x,y)||=|x|\sqrt{2}$

E (| | (X, X) | |^{1}) = E (\sqrt{2} | X |) < \infty

$\mathbb{E}\left(||(X,X)||^1\right) = \mathbb{E}\left(\sqrt{2}|X|\right) \lt \infty$

一方

\iint x^{1} y^{1} f (x, y) d x d y = \int x^{2} f (x, x) d x = \infty .

$\iint x^1 y^1 f(x,y) dx dy = \int x^2 f(x,x) dx = \infty.$

次元での類似の計算により、 $p$

\int \dots \int | x_{1} |^{k} | x_{2} |^{k} \dots | x_{p} |^{k} f (x_{1}, \dots, x_{p}) d x_{1} \dots d x_{p}

$\int\cdots\int |x_1|^k|x_2|^k\cdots |x_p|^k f(x_1,\ldots, x_p)dx_1\cdots dx_p$

これは実際にはではなく瞬間です。多変量モーメントの詳細については、「ランダムベクトルにする」を参照してください。されているの番目の瞬間と考えましたか？。 $pk$ $k$ $\mathbf{Y}$ $k$ $\mathbf{Y}$

多変量モーメントと標準のモーメントとの間の関係を理解するには、2つの不等式が必要です。してみましょう BE任意の次元ベクトルとしましょう正の数とします。それらの合計を書き込みます（すべてのに対してを意味します）。してみましょう任意の正の数とする（アプリケーションでは、ユークリッドノルムのため、それは価値についてそこの何も特別判明）。慣習通り、書く $x=(x_1, \ldots, x_p)$ $p$ $k_1, k_2, \ldots, k_p$ $k=k_1+k_2+\cdots k_p$ $k_i/k \le 1$ $i$ $q \gt 0$ $q=2$ $2$

| | x | |_{q} = {(\sum_{i} | x_{i} |^{q})}^{1 / q} .

$||x||_q = \left(\sum_i |x_i|^q\right)^{1/q}.$

最初に、AM-GM不等式を、重み持つ非負数にます。これは、加重幾何平均が加重算術平均を超えることはできないと主張します。 $|x_i|^q$ $k_i$

{(\prod_{i} (| x_{i} |^{q})^{k_{i}})}^{1 / k} \leq \frac{1}{k} \sum_{i} k_{i} | x_{i} |^{q} .

$\left(\prod_i (|x_i|^q)^{k_i}\right)^{1/k} \le \frac{1}{k}\sum_i k_i|x_i|^q.$

各を置き換えることにより右側を過大評価し、両側の乗を取る： $k_i/k$ $1$ $k/q$

\begin{matrix} (1) & \prod_{i} | x_{i} |^{k_{i}} = {({(\prod_{i} (| x_{i} |^{q})^{k_{i}})}^{1 / k})}^{k / q} \leq {(\sum_{i} | x_{i} |^{q})}^{k / q} = | | x | |_{q}^{k} . \end{matrix}

$\prod_i |x_i|^{k_i} = \left(\left(\prod_i (|x_i|^q)^{k_i}\right)^{1/k}\right)^{k/q} \le \left(\sum_i |x_i|^q\right)^{k/q} = ||x||_q^k.\tag{1}$

次に、各項をそれらの中で最大のもの、置き換えることにより、過大評価します。 $||x||_q$ $|x_i|^q$ $\max(|x_i|^q) = \max(|x_i|)^q$

| | x | |_{q} \leq {(\sum_{i} max (| x_{i} |^{q}))}^{1 / q} = {(p max (| x_{i} |)^{q})}^{1 / q} = p^{1 / q} max (| x_{i} |) .

$||x||_q \le \left(\sum_i \max(|x_i|^q)\right)^{1/q} = \left(p \max(|x_i|)^q\right)^{1/q} = p^{1/q} \max(|x_i|).$

乗をとると、 $k^\text{th}$

\begin{matrix} (2) & | | x | |_{q}^{k} \leq p^{k / q} max (| x_{i} |^{k}) \leq p^{k / q} \sum_{i} | x_{i} |^{k} . \end{matrix}

$||x||_q^k \le p^{k/q} \max(|x_i|^k) \le p^{k/q} \sum_i |x_i|^k.\tag{2}$

表記の問題として、

μ (k_{1}, k_{2}, \dots, k_{p}) = \int \dots \int | x_{1} |^{k_{1}} | x_{2} |^{k_{2}} \dots | x_{p} |^{k_{p}} f (x) d x .

$\mu(k_1,k_2,\ldots,k_p) = \int\cdots \int |x_1|^{k_1}|x_2|^{k_2}\cdots|x_p|^{k_p} f(x)\,dx.$

これは、次数 $(k_1,k_2,\ldots,k_p)$ （および全次数）の瞬間です。aginst統合することにより、不等式は $k$ $f$ $(1)$

\begin{matrix} (3) & μ (k_{1}, \dots, k_{p}) \leq \int \dots \int | | x | |_{q}^{k} f (x) d x = E (| | X | |_{q}^{k}) \end{matrix}

$\mu(k_1,\ldots,k_p) \le \int\cdots\int ||x||_q^k f(x)\,dx = \mathbb{E}(||X||_q^{k})\tag{3}$

そして不等式は $(2)$

\begin{matrix} (4) & E (| | X | |_{q}^{k}) \leq p^{k / q} (μ (k, 0, \dots, 0) + μ (0, k, 0, \dots, 0) + \dots + μ (0, \dots, 0, k)) . \end{matrix}

$\mathbb{E}(||X||_q^{k})\le p^{k/q}\left(\mu(k,0,\ldots,0) + \mu(0,k,0,\ldots,0) + \cdots + \mu(0,\ldots,0,k)\right).\tag{4}$

その右側は、定数倍まで、一変量 モーメントの合計です。一緒に、及びを表示 $k^\text{th}$ $(3)$ $(4)$

すべての一変量モーメントの有限性は、有限性を意味します。 $k^\text{th}$ $\mathbb{E}(||X||_q^{k})$
有限、すべての有限意味れる。 $\mathbb{E}(||X||_q^{k})$ $\mu(k_1,\ldots,k_p)$ $k_1+\cdots +k_p=k$

確かに、これらの二つの結論があることを示すための三段論法として組み合わせたオーダーの単変量瞬間の有限性、総受注のすべての多変量瞬間の有限性を暗示。 $k$ $k$

したがって、

すべてのため、の瞬間ノルム、総注文の全ての瞬間場合だけ有限であります有限の。 $q \gt 0$ $k^\text{th}$ $L_q$ $\mathbb{E}(||X||_q^{k})$ $k$

— whuber
ソース

高いモーメントはテンソルと見なされるため、テンソルノルムと見なされます。

— Henry.L 2016

@ヘンリーこれがこのスレッドで適切な考慮事項になる方法と理由について詳しく説明していただけますか？

— whuber

こんにちは、以下の私の答えをご覧ください。

— Henry.L 2016

@whuberの答えは正しく、適切に構成されています。

私はこのスレッドを書いて、テンソルの言語でそのような問題にうまく対処できる理由を詳しく説明しました。以前は統計コミュニティでテンソルの視点が広く受け入れられていると思っていましたが、今はそうではありません。

[McCullagh]のpp.46-47で、モーメントをテンソルと見なす方法を述べました。基本的には彼の言葉に従って説明した。してみましょうランダムベクトルであり、我々はその（中央）の瞬間議論することができます。我々はアフィン変換取る場合（等価的に、我々は行列表記で書き込むことができに確率空間の場合、の結果の（中央）モーメントは $\boldsymbol{X}=(X_{1},\cdots X_{p})$ $\kappa^{i,j}=E(X_{i}-EX_{i})(X_{j}-EX_{j})$ $Y_{r}=\boldsymbol{A}_{r}\boldsymbol{X}+b_{r}$ $\boldsymbol{Y=AX+b})$ $Y_{r},Y_{s}$

κ^{r, s} = \frac{\partial Y_{r}}{\partial X_{i}} \frac{\partial Y_{s}}{\partial X_{j}} κ^{i, j}

$\kappa^{r,s}=\frac{\partial Y_{r}}{\partial X_{i}}\frac{\partial Y_{s}}{\partial X_{j}}\kappa^{i,j}$ 変換式によって。したがって、モーメントは（0,1）反変テンソルのように動作します。そのようなテンソルビューを受け入れる場合、確率変数のノルム/モーメントはテンソルノルムとして扱うことができます。したがって、実際のところ、最高次のマルチインデックステンソルノルムは、必ずしも低次のマルチインデックステンソルノルムを制限するわけではありません。テンソルは1次微分演算子によって与えられるため、ソボレフテンソルノルムは自然に、たとえばウェーブレットで機能します。そして、最高次のノルムがソボレフ-ベソフ空間の低次のノルムを制限しない多くの反例があります。（MOポスト）

L^{p}

$L^{p}$

このような見方を採用すべき理由については、話はもっと長くなりますが、簡単なコメントが続きます。

この見方を確立する際の古典的な参考文献は[McCullagh]であり、後に「機械学習」文学に散在した作品です。しかし、そのような見解の起源は、実際にはベイジアンの作品[Jeffereys]のかなり早い段階で追求されています。そのような見方は間違いなく視覚化に役立ち、おそらくマルディアによる初期の作品のような統計的形状分析のいくつかの研究の動機となったでしょう。

$\blacksquare$ リファレンス

[McCullagh] http://www.stat.uchicago.edu/~pmcc/tensorbook/ch1.pdf

[ジェフリーズ]ジェフリーズ、ハロルド。デカルトテンソル。ケンブリッジ大学出版局、1931年。

— Henry.L
ソース