一貫性に必要な十分な条件の反例


8

推定量がthetaの不偏推定量であり、nが無限大になる傾向があるため、その分散が0になる傾向がある場合、それはthetaの一貫した推定量であることがわかります。しかし、これは十分であり、必要条件ではありません。一貫しているが、nが無限大になる傾向があるため、分散が0になる傾向のない推定量の例を探しています。助言がありますか?


3
たとえば、このコメントと関連するディスカッションを参照してください。
2014年

回答:


6

私の(正しくない)回答がさらに2つ生成され、死んだ質問が活発なQ&Aスレッドに変わったことをうれしく思います。だから、価値のあるものを提供しようとする時が来たと思います)

連続的に相関し、共分散が定常的な確率過程考え、平均および共分散。と仮定し(これにより、プロセスの2つの実現が時間ため、自己相関の「強さ」が制限されます)。それで{yt},t=1,...,nμ{γj},γjCov(yt,ytj)limjγj=0

y¯n=1nt=1nytm.sμ,asn

つまり、サンプル平均は平均二乗でプロセスの真の平均に収束するため、確率も収束します。つまり、一貫した推定量です。μ

分散あることが判明することができますy¯n

Var(y¯n)=1nγ0+2nj=1n1(1jn)γj

これは、が無限大になると簡単にゼロになることを示しています。n

カーディナルのコメントを利用して、推定量を考慮して、平均の推定量をさらにランダム化しましょう

μ~n=y¯n+zn

ここで、 はからも独立している独立した確率変数の確率過程であり(パラメーターで指定するパラメーター)の値を確率で取得します値確率そうでない場合、ゼロ。したがって、は期待値と分散があります{zt}yiata>01/t2at1/t2{zt}

E(zt)=at1t2at1t2+0(12t2)=0,Var(zt)=2a2

したがって、予測値と推定量の分散は

E(μ~)=μ,Var(μ~)=Var(y¯n)+2a2

確率分布を考えます 、:確率値を取り、確率値を取ります。そう|zn|P(|zn|ϵ),ϵ>0|zn|0(12/n2)an2/n2

P(|zn|<ϵ)12/n2=limnP(|zn|<ϵ)1=1

つまり、は確率で収束し(その分散は有限のままです)。したがってzn0

plimμ~n=plimy¯n+plimzn=μ

したがって、確率過程の平均値のこのランダム化された推定量は、一貫性を保ちます。ただし、が無限大になると、その分散はゼロになりません。また、無限大になることもありません。 yn

終わりに、なぜ自己相関的な確率過程で明らかに役に立たないすべての精緻化が必要なのでしょうか。枢機卿は、「数学的にそれを示すためだけに」のように、彼の例を「不条理」と呼ぶことによって修飾したので、ゼロではなく有限の分散をもつ一貫した推定量を持つことができます。
私は、それが必ずしも好奇心ではないことを、少なくとも精神的には示唆しました。実際の生活の中で、私たちの生活や活動をどのように組織化するかに関係する、新しいプロセス、人為的なプロセスが始まる場合があります。私たちは通常それらを設計し、それらについて多くのことを言うことができますが、それでも、それらは非常に複雑で、確率論として合理的に扱われる可能性があります(そのようなプロセスに対する完全な制御、またはそれらの進化に関する事前の知識、プロセスの幻想)それは、人と人との間の権利と義務の構造を交換、生産、または調整するための新しい方法を表す可能性がありますが、それは単なる幻想です)。またビーイング新しいです、それらがどのように進化するかについて信頼できる統計的推論を行うために、それらの十分な累積実現がありません。次に、アドホックな、そしておそらく「最適ではない」修正は、それでも実際の現象です。たとえば、現在が過去に依存していると強く信じているプロセス(したがって、自己相関確率プロセス)がありますが、実際にはそうではありません。方法をまだ知っている(したがって、共分散を推定するためにデータが蓄積するのを待つ間、その場限りのランダム化)。そしておそらく統計学者はそのような種類の深刻な不確実性に対処するより良い方法を見つけるでしょう-しかし多くの実体はそのような科学的サービスの恩恵なしに不確実な環境で機能しなければなりません。

以下は最初の(間違った)回答です(特にCardinalのコメントを参照)

確率変数に確率で収束する推定量が存在します。「偽の回帰」の場合が思い浮かびます。通常の最小二乗推定を使用して、2つの独立したランダムウォーク(つまり、非定常確率過程)を互いに回帰しようとすると、 、OLS推定量は確率変数に収束します。

ただし、一貫性は、推定値が、概念上、分散がゼロの定数に収束することとして定義されるため、非ゼロの分散を持つ一貫した推定量は存在しません。


1
@cardinal介入ありがとうございます。修正させていただきます。分散が有限数に収束する一貫した推定量を探す方法についてのヒントはありますか?(無限/未定義の分散ケースは既知のケースであり、言及されるべきでしたが、有限の非ゼロのケースは本当に興味深いケースです)。それとも一貫性の特性を間違って説明しましたか?
Alecos Papadopoulos 2014

1
OPへの私のメモにリンクされたコメントで私が挙げた例には、有限の制限分散があります。整合性は、確率の収束を扱います。これは、あなたが正しく指摘しました。しかし、分散をゼロにするには、テールを制御する必要があります(あまりにも)。これは、収束と確率の収束の関係に関連しています。Lp
2014年

ここでも、私の回答に常に正の有限分散がある確率で収束の例を示します。
ekvall 14年

@cardinal現在の回答が正しくないと思われる場合は、コメントを削除するか、新しいコメントを投稿して、現在の回答が正しくないことを確認できますか?読者の視点から見ると、回答が間違っているという賛成投票をすることは混乱を招きます(そして編集年代のチェックを開始するように強制します)。
Silverfish

@Silverfish Cardinalのコメントは確かに私の最初の回答(投稿の終わり近くの灰色のバーの下の部分)を参照しています。この最初の回答がまだ存在するコメントを生成したので、私はそれを削除せずに、新しい回答の下に残しました。少し混乱を避けるために、灰色のバーに何かを追加しました。
Alecos Papadopoulos

2

有限の期待値と無限の分散をもつ分布から任意のサンプルを取得しますたとえばを含むパレート)。次に、サンプルの平均は、法則または大きな数(存在のみを必要とする)により、期待値に収束しますの平均)および分散は無限になります。α(1,2]


たとえば場合、分散は無限ですか?それともそのような場合には未定義ですか?α=1.5
Alecos Papadopoulos 2014

積分を解釈するために曲線の下の領域を見ると、それは無限です。
mpiktas 2014年

1

確率が0に収束するが、分散が無限の確率変数のシーケンスの例を示します。本質的に、推定量は確率変数にすぎないため、少し抽象化すると、確率が定数に収束しても、分散がゼロに近づくことを意味しないことがわかります。

確率変数について考えます。ここで、考慮される確率測度はルベーグ測度です。明らかに、が、すべてのため、その分散はゼロになりません。ξn(x):=χ[0,1/n](x)x1/2[0,1]P(ξn(x)>0)=1/n0

ξn2dP=01/nx1dx=log(x)01/n=,
n

ここで、サンプルが大きくなるにつれて描画によって真の値を推定する推定器を作成します。この推定量は0に対して不偏ではないことに注意してください。ただし、不偏にするためには、を等しい確率1/2で設定し、それを推定量として使用できます。収束と分散に関する同じ議論が明確に当てはまります。μ=0ξnηn:=±ξn

編集:分散が有限である例が必要な場合は、、もう一度検討して wp 1/2。

ξn(x):=χ[0,1/n](x)n,
ηn:=±ξn
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.