M-推定量が真の平均に収束するための条件

10

ガウス分布とM-推定量からの、、プロパティが確率でを保証するのに十分ですか？ある厳密に凸と厳密に十分増加していますか？ $X_1,...,X_n \sim N(\mu,\sigma)$ $\mu_m = \underset{a}{\operatorname{argmin}} \sum\rho(|X_i-a|)$ $\rho$ $\mu_m \rightarrow \mu$ $\rho$

estimation

— キャタピラー
ソース

あなたがかかる場合がありますので、その後手段はそれもない、厳密に凸ことができることを、サンプルの平均であるが、厳密には、両方の、これ...私はどちらか置く厳密に凸状または厳密に増加、はい増加しますまだこれを証明する必要がありますが、十分なようです。直感的に厳密な凸性は、一意のグローバル最小値を保証します。厳密に増加させるには、重要なガウス性の仮定です。

ρ (x) = x

$\rho(x) = x$

μ_{m}

$\mu_m$

— Dmitrij Celov 2011

1

紙凸プロセスのminimisersための漸近がガウス分布に特化しない、それはコントラスト関数のより一般的な形態、すなわち考慮がHjortの及びPollardによっては、ここに役立つかもしれないそれらの表記があるが、。凸部に加えて、に、彼らは膨張必要における周りデータ分布に近い関連ある意味では、。したがって、単にが凸状または増加していると言うだけではなく、おそらく定理をガウス分布と $\rho(x,a)$ $g(y,t)$ $g$ $t$ $g$ $t$ $\theta_0$ $\rho$ $g$ 指定した形式にするために、よりきちんとした条件セットを取得できます。完全性のために、ここで彼らの定理を書き直します。少し言い換えます。

私たちが持っていると仮定します

$Y,Y_{1},Y_{2},\ldots$ iid from distribution $F$
対象のパラメータ $\theta_{0}=\theta(F)\in\cal{R}^{p}$
$\theta_{0}\in\arg\min_{t\in\cal{R}^{p}}\mathbb{E} g(Y,t)$ 、凸である。 $g(y,t)$ $t$
我々は、 "弱い膨張"を有する中での周り：のための下、平均ゼロのとは、正定行列場合はです。 $g(y,t)$ $t$ $\theta_{0}$ $g (y, θ_{0} + t) - g (y, θ_{0}) = D (y)^{T} t + R (y, t),$ $g(y,\theta_{0}+t)-g(y,\theta_{0})=D(y)^{T}t+R(y,t),$ $D(y)$ $F$ $E R (Y, t) = \frac{1}{2} t^{T} J t + o ({| t |}^{2}), as t \to 0$ $\mathbb{E} R(Y,t)=\frac{1}{2}t^{T}Jt+o(\left|t\right|^{2}),\mbox{ as }t\to0$ $J$
$\mbox{Var}[ R(Y,t) ]=o(\left|t\right|^{2})$ はとして。 $t\to0$
$D(Y)$ には有限共分散行列ます。 $K=\int D(y)D(y)^{T}\, dF(y)$

次に、任意の推定量はあり、でも一貫しており、漸近的に正常です $\hat{\theta}_{n}\in\arg\min_{\theta\in\cal{R}^{p}}\sum_{i=1}^{n}g(Y_{i},t)$ $\sqrt{n}$ $\theta_{0}$

\sqrt{n} ({\hat{θ}}_{n} - θ_{0}) \overset{d}{\to} N_{p} (0, J^{- 1} K J^{- 1}) .

$\sqrt{n}\left(\hat{\theta}_{n}-\theta_{0}\right)\stackrel{d}{\rightarrow}\mathcal{N}_{p}(0,J^{-1} K J^{-1}).$

— DavidR
ソース

0

あなたの問題を別の問題に減らすので、これは答えにはなりませんが、私はそれが役に立つかもしれないと思います。あなたの質問は基本的にM-estimatorの一貫性についてです。まず、一般的な結果を見てみましょう。以下は、ファンデルファールトの本（定理5.7、45ページ）の結果です。

定理レッツランダム関数であるとしましょう一定の関数であるようごとに $M_n$ $M$ $\theta$ $\varepsilon>0$

sup_{θ \in Θ} | M_{n} (θ) - M (θ) | \overset{P}{\to} 0,

$\sup_{\theta\in\Theta}|M_n(\theta)-M(\theta)|\xrightarrow{P}0,$

sup_{θ : d (θ, θ_{0}) \geq ε} M (θ) < M (θ_{0}) .

$\sup_{\theta:d(\theta,\theta_0)\ge\varepsilon} M(\theta)<M(\theta_0).$

次に、使用した一連の推定量は、確率で収束し $\hat\theta_n$ $M_n(\hat\theta_n)\ge M_n(\theta_0)-o_P(1)$ $\theta_0$

あなたの場合、、および $\theta_0=\mu$ $M(\theta)=E\rho(|X-\theta|)$ $M_n(\theta)=\frac{1}{n}\sum \rho(|X_i-\theta|)$

ここで重要な条件は、均一な収束です。46ページでファンデルファールトは言う

あなたの場合の平均では、この条件は関数セット（あなたの場合）がGlivenkoであることに相当します -カンテリ。十分な条件の1つの単純なセットは、がコンパクトであること、関数がすべての連続であること、および>積分可能な関数によって支配されることです。 $\{m_\theta, \theta\in\Theta\}$ $m_\theta=\rho(|x-\theta|)$ $\Theta$ $\theta\to m_\theta(x)$ $x$

でWooldridge定理は、大数の制服弱い法律、ページ347（初版）、定理12.1と呼ばれるように、この結果が処方されます。これは、ファンデルファールトが述べるものに測定可能性の要件を追加するだけです。

あなたのケースでは、いくつかのに対してを安全に選択できるため、次のような関数が存在することを示す必要があります。 $\Theta=[\mu-C,\mu+C]$ $C$ $b$

| ρ (| x - θ |) | \leq b (x)

$|\rho(|x-\theta|)|\le b(x)$

すべてのための、その結果、。あなたが基本的に取ることができるので、凸関数理論はここで助けになるかもしれません $\theta\in\Theta$ $Eb(X)<\infty$

b (x) = sup_{θ \in Θ} | ρ (| x - θ |) | .

$b(x)=\sup_{\theta\in\Theta}|\rho(|x-\theta|)|.$

この関数に優れたプロパティがある場合は、問題ありません。

— mpiktas
ソース