あることを証明する方法

私は不平等を確立しようとしています

$| T_{i} | = \frac{| X_{i} - \bar{X} |}{S} \leq \frac{n - 1}{\sqrt{n}}$ $\left| T_i \right|=\frac{\left|X_i -\bar{X} \right|}{S} \leq\frac{n-1}{\sqrt{n}}$

ここで、はサンプルの平均値、はサンプルの標準偏差、つまり。 $\bar{X}$ $S$ $S=\sqrt{\frac{\sum_{i=1}^n \left( X_i -\bar{X} \right)^2}{n-1}}$

であることがわかりやすいので、が、これは私が探していたものにあまり近くなく、有効な範囲でもありません。コーシーシュワルツと三角形の不等式を試してみましたが、どこにも行きませんでした。私がどこかで見逃している微妙なステップがあるに違いありません。どうぞよろしくお願いいたします。 $\sum_{i=1}^n T_i^2 = n-1$ $\left| T_i \right| < \sqrt{n-1}$

self-study descriptive-statistics bounds

— ジョンK
ソース

回答:

これはサミュエルソンの不等式であり、記号が必要です。あなたが取る場合はWikipediaのバージョンをして、それを手直しの定義あなたはそれがなっていることがわかります $\leq$ $n-1$ $S,$

\frac{| X_{i} - \bar{X} |}{S} \leq \frac{n - 1}{\sqrt{n}}

${{ \left| X_i-\bar X \right| } \over S} \leq {{n-1} \over \sqrt{n}}$

— Soakley
ソース

本では厳密な不平等として示されていますが、私はそれを修正しました、ありがとう。

— JohnK、2015

ルーチンの手順で問題を単純化した後、それを初等証明でよく知られている答えを持つ双対最小化プログラムに変換することで解決できます。おそらく、この二重化は、質問で言及されている「微妙なステップ」です。最大化することにより、純粋に機械的な方法で不等式を確立することもできますラグランジュ乗数を介して。 $|T_i|$

最初に、私は最小二乗の幾何学に基づいたよりエレガントなソリューションを提供します。これは、事前の単純化を必要とせず、ほとんど即時に行われ、結果に直接直感を提供します。質問で示唆されているように、問題はコーシー・シュワルツの不等式に減少します。

幾何学的ソリューション

を、通常の内積を持つユークリッド空間の次元ベクトルとして考えます。ましょうであり基底ベクトルと。書き込みとの正射影のためのとの直交補空間へ。（統計用語では、これらは平均に関する残差です。）次に、および $\mathbf{x} = (X_1, X_2, \ldots, X_n)$ $n$ $\mathbf{y} = (0,0,\ldots,0,1,0,\ldots,0)$ $i^\text{th}$ $\mathbf{1} = (1,1,\ldots, 1)$ $\mathbf{\hat x}$ $\mathbf{\hat y}$ $\mathbf{x}$ $\mathbf{y}$ $\mathbf{1}$ $X_i-\bar X = \mathbf{\hat x}\cdot \mathbf{y}$ $S = ||\mathbf{\hat x}||/\sqrt{n-1}$ 、

| T_{i} | = \sqrt{n - 1} \frac{| \hat{x} \cdot y |}{| | \hat{x} | |} = \sqrt{n - 1} \frac{| \hat{x} \cdot \hat{y} |}{| | \hat{x} | |}

$|T_i| = \sqrt{n-1}\frac{|\mathbf{\hat x} \cdot \mathbf{y}|}{||\mathbf{\hat x}||} = \sqrt{n-1}\frac{|\mathbf{\hat x} \cdot \mathbf{\hat y}|}{||\mathbf{\hat x}||}$

成分である内方向。Cauchy-Schwarzにより、が平行な場合に正確に最大化されます。、 QED。 $\mathbf{\hat y}$ $\mathbf{\hat x}$ $\mathbf{\hat x}$ $\mathbf{\hat y} = (-1,-1,\ldots,-1,n-1,-1,-1,\ldots,-1)/n$

T_{i} = \pm \sqrt{n - 1} \frac{\hat{y} \cdot \hat{y}}{| | \hat{y} | |} = \pm \sqrt{n - 1} | | \hat{y} | | = \pm \frac{n - 1}{\sqrt{n}},

$T_i = \pm \sqrt{n-1} \frac{\mathbf{\hat y}\cdot \mathbf{\hat y} }{ ||\mathbf{\hat y}||} = \pm\sqrt{n-1}||\mathbf{\hat y}|| = \pm\frac{n-1}{\sqrt{n}},$

ちなみに、このソリューションは、であるすべてのケースを網羅的に特徴付けています最大化されています：それらはすべての形式です $|T_i|$

x = σ \hat{y} + μ 1 = σ (- 1, - 1, \dots, - 1, n - 1, - 1, - 1, \dots, - 1) + μ (1, 1, \dots, 1)

$\mathbf{x} = \sigma\mathbf{\hat y} + \mu\mathbf{1} = \sigma(-1,-1,\ldots,-1,n-1,-1,-1,\ldots,-1) + \mu(1,1,\ldots, 1)$

すべての実際の。 $\mu, \sigma$

この分析は、が任意のリグレッサのセットに置き換えられた場合に簡単に一般化されます。明らかに、最大残存の長さに比例する、。 $\{\mathbf{1}\}$ $T_i$ $\mathbf{y}$ $||\mathbf{\hat y}||$

単純化

は場所とスケールの変更の下で不変なので、一般性を失うことなく、合計がゼロになり、それらの二乗の合計がなると仮定できます。これは識別します、（平均二乗）は。最大化することは、を最大化することと同じです。は交換可能であるため、を使用しても一般性は失われません。 $T_i$ $X_i$ $n-1$ $|T_i|$ $|X_i|$ $S$ $1$ $|T_i|^2 = T_i^2 = X_i^2$ $i=1$ $X_i$

ソリューションを介したデュアル製剤

二重の問題は、値を修正し、残りのの値が平方和を最小化するために必要かをその。ため与えられ、これは最小化の問題であると仮定。 $X_1^2$ $X_j, j\ne 1$ $\sum_{j=1}^n X_j^2$ $\sum_{j=1}^n X_j = 0$ $X_1$ $\sum_{j=2}^n X_j^2$ $\sum_{j=2}^n X_j = -X_1$

ソリューションは多くの方法で簡単に見つけることができます。最も基本的なものの一つは書くことです

X_{j} = - \frac{X_{1}}{n - 1} + ε_{j}, j = 2, 3, \dots, n

$X_j = -\frac{X_1}{n-1} + \varepsilon_j,\ j=2, 3, \ldots, n$

用。目的関数を拡張し、このsum-to-zeroアイデンティティを使用して単純化することにより、 $\sum_{j=2}^n \varepsilon_j = 0$

\sum_{j = 2}^{n} X_{j}^{2} = \sum_{j = 2}^{n} {(- \frac{X_{1}}{n - 1} + ε_{j})}^{2} = \sum {(- \frac{X_{1}}{n - 1})}^{2} - 2 \frac{X_{1}}{n - 1} \sum ε_{j} + \sum ε_{j}^{2} = Constant + \sum ε_{j}^{2},

$\sum_{j=2}^n X_j^2 = \sum_{j=2}^n \left(-\frac{X_1}{n-1} + \varepsilon_j\right)^2 = \\\sum \left(-\frac{X_1}{n-1}\right)^2 - 2\frac{X_1}{n-1}\sum \varepsilon_j + \sum \varepsilon_j^2 \\= \text{Constant} + \sum \varepsilon_j^2,$

一意の解がすぐに表示されるのは、すべてのに対してです。このソリューションでは、 $\varepsilon_j=0$ $j$

(n - 1) S^{2} = X_{1}^{2} + (n - 1) {(- \frac{X_{1}}{n - 1})}^{2} = (1 + \frac{1}{n - 1}) X_{1}^{2} = \frac{n}{n - 1} X_{1}^{2}

$(n-1)S^2 = X_1^2 + (n-1)\left(-\frac{X_1}{n-1}\right)^2 = \left(1 + \frac{1}{n-1}\right)X_1^2 = \frac{n}{n-1}X_1^2$

そして

| T_{i} | = \frac{| X_{1} |}{S} = \frac{| X_{1} |}{\sqrt{\frac{n}{(n - 1)^{2}} X_{1}^{2}}} = \frac{n - 1}{\sqrt{n}},

$|T_i| = \frac{|X_1|}{S} = \frac{|X_1|}{\sqrt{\frac{n}{(n-1)^2}X_1^2}} = \frac{n-1}{\sqrt{n}},$

QED。

ソリューションを介した機械

始めた簡略化されたプログラムに戻ります。

Maximize X_{1}^{2}

$\text{Maximize } X_1^2$

従う

\sum_{i = 1}^{n} X_{i} = 0 and \sum_{i = 1}^{n} X_{i}^{2} - (n - 1) = 0.

$\sum_{i=1}^n X_i = 0\text{ and }\sum_{i=1}^n X_i^2 -(n-1)=0.$

ラグランジュ乗数法（ほとんど純粋に機械的で簡単）は、これら3つの関数の勾配の非自明な線形結合をゼロに等しくします。

(0, 0, \dots, 0) = λ_{1} D (X_{1}^{2}) + λ_{2} D (\sum_{i = 1}^{n} X_{i}) + λ_{3} D (\sum_{i = 1}^{n} X_{i}^{2} - (n - 1)) .

$(0,0,\ldots, 0) = \lambda_1 D(X_1^2) + \lambda_2 D\left(\sum_{i=1}^n X_i\right ) + \lambda_3 D\left(\sum_{i=1}^n X_i^2 -(n-1)\right).$

コンポーネントごとに、これらの方程式は $n$

\begin{aligned} 0 & = 2 λ_{1} X_{1} + & λ_{2} & + 2 λ_{3} X_{1} \\ 0 & = & λ_{2} & + 2 λ_{3} X_{2} \\ 0 & = \dots \\ 0 & = & λ_{2} & + 2 λ_{3} X_{n} . \end{aligned}

$\eqalign{ 0 &= 2\lambda_1 X_1 +& \lambda_2 &+ 2\lambda_3 X_1 \\ 0 &= & \lambda_2 &+ 2\lambda_3 X_2 \\ 0 &= \cdots \\ 0 &= & \lambda _2 &+ 2\lambda_3 X_n. }$

それらの最後のは、またはいずれかを意味します。（最初の方程式は意味し、線形結合を自明化するため、後者のケースを除外する場合があります。）ゼロへの和の制約はます。二乗和制約は2つのソリューションを提供します $n-1$ $X_2 = X_3 = \cdots = X_n = -\lambda_2/(2\lambda_3)$ $\lambda_2=\lambda_3=0$ $\lambda_1=0$ $X_1 = -(n-1)X_2$

X_{1} = \pm \frac{n - 1}{\sqrt{n}}; X_{2} = X_{3} = \dots = X_{n} = \mp \frac{1}{\sqrt{n}} .

$X_1 = \pm\frac{n-1}{\sqrt{n}};\ X_2 = X_3 = \cdots = X_n = \mp\frac{1}{\sqrt{n}}.$

彼らは両方とも

| T_{i} | = | X_{1} | \leq | \pm \frac{n - 1}{\sqrt{n}} | = \frac{n - 1}{\sqrt{n}} .

$|T_i| = |X_1| \le |\pm\frac{n-1}{\sqrt{n}}| = \frac{n-1}{\sqrt{n}}.$

— whuber
ソース

補遺をありがとう、ジオメトリは非常に強力であり、3つのソリューションすべての中で最も直観的です。

— JohnK、2015年

上記の不平等は真実です。1つの値を選択することで不等式の最も困難なケース（つまり、指定されたの左ハンドル側を最大化）が得られ、他のすべての値を等しくしながら、をできるだけ大きくすることは直感的に明らかです。このような構成の例を見てみましょう。 $S^2$ $x_1$

n = 4, x_{1} = x_{2} = x_{3} = 0, x_{4} = 4, \bar{x} = 1, S^{2} = 4,

$n=4, \quad x_1=x_2=x_3=0, x_4=4, \bar{x}=1, S^2=4,$ 現在ははによって異なりますが、指定された上限は等しく、これは足りる。そのアイデアは証明に完成させることができます。

\frac{| x_{i} - \bar{x} |}{S} = {\begin{cases} \frac{1}{2} or \\ \frac{3}{2} \end{cases}

$\frac{|x_i-\bar{x}|}{S}=\begin{cases} \frac12 ~\text{or}~ \\ \frac32 \end{cases}$

i

$i$

\frac{4 - 1}{2} = 1.5

$\frac{4-1}{2}=1.5$

編集

上記で示唆したように、ここで主張を証明します。まず、この問題の特定のベクトルについて、上記の不等式のいずれの側も変更せずに置き換えることができます。したがって、以下ではと仮定し。が最大であると仮定して、ラベルを付け直すこともできます。次に、最初にを選択し、次にを選択することで、主張されている不等式が等しいことを簡単な代数で確認できます。なので、シャープです。 $x=(x_1, x_2, \dots, x_n)$ $x-\bar{x}$ $\bar{x}=0$ $x_1$ $x_1>0$ $x_2=x_3=\dots=x_n=-\frac{x_1}{n-1}$

次に、（凸）領域を与えられた正の定数。は、超平面と原点を中心とする球の交点であり、空間の球でもあることに注意してください。これで、問題はとして定式化できます以来 $R$

R = {x \in R : \bar{x} = 0, \sum (x_{i} - \bar{x})^{2} / (n - 1) \leq S^{2}}

$R = \{ x\in\mathbb{R} \colon \bar{x}=0, \sum(x_i-\bar{x})^2/(n-1) \le S^2\}$

S^{2}

$S^2$

R

$R$

(n - 1)

$(n-1)$

max_{x \in R} max_{i} | x_{i} |

$\max_{x\in R} \max_i |x_i|$

x

$x$ それを最大化することは、不平等の最も難しいケースになります。これは、一般に難しい問題（最小値は簡単です！）である、凸集合の上の凸関数の最大値を見つける問題です。ただし、この場合、凸領域は原点を中心とする球であり、最大化する関数は座標の絶対値です。その最大の境界球で発見されたことは明らかであり、と撮影することにより、最大の場合、最初のテストケースが強制されます。

R

$R$

| x_{1} |

$|x_1|$

— kjetil b halvorsen
ソース

@JohnKすぐにコメントを削除できます。投稿は修正されました

— kjetil b halvorsen

この答えは、不等式（それが真であると仮定して）が厳しいことを示していますが、その単一の計算がどのように「証明を完了」できるかは明らかではありません。それがどのように行われるかについて、いくつかの指標を提供できますか？

— whuber

でも、明日は、明日のクラスを準備しなければなりません。

— kjetil b halvorsen 2015

ありがとうございます。問題を慎重に説明していただきありがとうございます。しかし、あなたの「証拠」は、「それが明らかである」という声明に来るようです。仕事を完了するために常にラグランジュ乗数を適用することもできますが、（a）実際に証明であり、（b）洞察を提供するアプローチを見るとよいでしょう。

— whuber

@whuber時間があれば、ラグランジュ乗数ソリューションを投稿していただければ幸いです。不平等は全体として有名ではないと思います。

— JohnK、2015年