片側チェビシェフ不等式のサンプルバージョンは存在しますか?


32

チェビシェフ不等式の次の片側Cantelli版に興味があります。

P(XE(X)t)Var(X)Var(X)+t2.

基本的に、母平均と分散がわかっている場合、特定の値を観測する確率の上限を計算できます。(少なくとも私の理解はそうでした。)

ただし、実際の母集団の平均と分散の代わりに、標本の平均と標本の分散を使用したいと思います。

これにより不確実性が高まるため、上限が増加すると推測しています。

上記に類似した不等式はありますが、サンプルの平均と分散を使用していますか?

編集:チェビシェフ不等式の「サンプル」アナログ(片面ではない)が作成されました。Wikipediaのページには、いくつかの詳細を持っています。ただし、上記の片側のケースにどのように変換されるかはわかりません。


ありがとう、Glen_b。これは非常に興味深い問題です。チェビシェフの不等式は強力だといつも思っていました(確率分布を必要とせずに統計的推論を行うことができるため)。したがって、サンプルの平均と分散で使用できるのは非常に素晴らしいことです。
カサンドラ14年

回答:


26

はい、サンプルの平均と分散を使用して類似の結果を得ることができます。おそらく、プロセスでいくつかのわずかな驚きが生じます。

最初に、質問文を少し改良して、いくつかの仮定を設定する必要があります。重要なことは、母集団の分散を右側のサンプル分散で置き換えることを期待できないことは明らかです。後者はランダムであるためです。そこで、我々は同等の不平等に私達の注意を再び焦点を合わせる

P(XEXtσ)11+t2.
ケースでは、我々は単純に置き換えたこと、これらは同等であることに注意してください明確ではありませんttσ一般性を損なうことなく、元の不平等では。

第二に、我々は、ランダムなサンプルがあるとX1,,Xn、我々は、上位類似量行きに興味を持っている P(X1X¯tS)X¯サンプル平均であり、Sサンプルの標準偏差です。

半歩前進

そのすでに元の片側チェビシェフの不等式を適用することにより、注、我々はそれを得る PX 1 - ˉ XT σ 1X1X¯σ2=VRX1であり、より小さなオリジナルバージョンの右側より。意味あり!サンプルからのランダム変数の特定の実現は、母平均よりも貢献するサンプル平均に(わずかに)近い傾向があります。以下で説明するように、さらに一般的な仮定の下でσSに置き換えます。

P(X1X¯tσ)11+nn1t2
σ2=Var(X1)σS

片側チェビシェフのサンプルバージョン

主張PS = 0 = 0となるようなランダムサンプルとします。その後、PX 1 - ˉ XT S 1X1,,XnP(S=0)=0特に、バウンドのサンプルバージョンは、元のポピュレーションバージョンより厳密です。

P(X1X¯tS)11+nn1t2.

X iには有限平均または分散があると想定していませんXi

Proof. The idea is to adapt the proof of the original one-sided Chebyshev inequality and employ symmetry in the process. First, set Yi=XiX¯ for notational convenience. Then, observe that

P(Y1tS)=1ni=1nP(YitS)=E1ni=1n1(YitS).

Now, for any c>0, on {S>0},

1(YitS)=1(Yi+tcStS(1+c))1((Yi+tcS)2t2(1+c)2S2)(Yi+tcS)2t2(1+c)2S2.

Then,

1ni1(YitS)1ni(Yi+tcS)2t2(1+c)2S2=(n1)S2+nt2c2S2nt2(1+c)2S2=(n1)+nt2c2nt2(1+c)2,
since Y¯=0 and iYi2=(n1)S2.

The right-hand side is a constant (!), so taking expectations on both sides yields,

P(X1X¯tS)(n1)+nt2c2nt2(1+c)2.
Finally, minimizing over c, yields c=n1nt2, which after a little algebra establishes the result.

That pesky technical condition

Note that we had to assume P(S=0)=0 in order to be able to divide by S2 in the analysis. This is no problem for absolutely continuous distributions, but poses an inconvenience for discrete ones. For a discrete distribution, there is some probability that all observations are equal, in which case 0=Yi=tS=0 for all i and t>0.

We can wiggle our way out by setting q=P(S=0). Then, a careful accounting of the argument shows that everything goes through virtually unchanged and we get

Corollary 1. For the case q=P(S=0)>0, we have

P(X1X¯tS)(1q)11+nn1t2+q.

Proof. Split on the events {S>0} and {S=0}. The previous proof goes through for {S>0} and the case {S=0} is trivial.

A slightly cleaner inequality results if we replace the nonstrict inequality in the probability statement with a strict version.

Corollary 2. Let q=P(S=0) (possibly zero). Then,

P(X1X¯>tS)(1q)11+nn1t2.

Final remark: The sample version of the inequality required no assumptions on X (other than that it not be almost-surely constant in the nonstrict inequality case, which the original version also tacitly assumes), in essence, because the sample mean and sample variance always exist whether or not their population analogs do.


15

This is just a complement to @cardinal 's ingenious answer. Samuelson Inequality, states that, for a sample of size n, when we have at least three distinct values of the realized xi's, it holds that

xix¯<sn1,i=1,...n
where s is calculated without the bias correction, s=(1ni=1n(xix¯)2)1/2.

Then, using the notation of Cardinal's answer we can state that

P(X1X¯Sn1)=0a.s.[1]

Since we require, three distinct values, we will have S0 by assumption. So setting t=n1 in Cardinal's Inequality (the initial version) we obtain

P(X1X¯Sn1)11+n,[2]

Eq. [2] is of course compatible with eq. [1]. The combination of the two tells us that Cardinal's Inequality is useful as a probabilistic statement for 0<t<n1.

If Cardinal's Inequality requires S to be calculated bias-corrected (call this S~) then the equations become

P(X1X¯S~n1n)=0a.s.[1a]

and we choose t=n1n to obtain through Cardinal's Inequality

P(X1X¯S~n1n)1n,[2a]
and the probabilistically meaningful interval for t is 0<t<n1n.

2
(+1) Incidentally, as I was first considering this problem, the fact that maxi|XiX¯|Sn1 was actually the initial clue that the sample inequality should be tighter than the original. I wanted to squeeze that into my post, but couldn't find a (comfortable) place for it. I'm glad to see you mention it (actually a very slight improvement on it) here along with your very nice additional elaboration. Cheers.
cardinal

Cheers @Cardinal, great answer -just clarify for me -does it matter for your Inequality how one defines the sample variance (bias-corrected or not)?
Alecos Papadopoulos

Only ever so slightly. I used the bias-corrected sample variance. If you use n instead of n1 to normalize, then you'll end up with
1+t2c2t2(1+c)2
instead of
(n1)+nt2c2nt2(1+c)2,
which means the n/(n1) term in the final inequality will disappear. Thus, you'll get the same bound as in the original one-sided Chebyshev inequality in that case. (Assuming I've done the algebra correctly.) :-)
cardinal

@Cardinal ...which means that the relevant equations in my answer are 1a and 2a, which means that your inequality tells us that for t chosen to activate Samuelson Inequality, the probability of the event we are examining, cannot be greater than 1/n, i.e. not greater than randomly choosing any one realized value from the sample... which somehow makes some hazy intuitive sense: what is proven certainly impossible in deterministic terms, when approached probabilistically its probability bound does not exceed equiprobability... not clear in my mind yet.
Alecos Papadopoulos
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.