偏りがなく制限のある推定量を持つことは可能ですか？

間にあるパラメータがあります。実験を実行してを取得できるとします。ここで、は標準ガウスです。私が必要なのは、1）偏りのない2）ほぼ確実に境界がある推定です。要件（2）は私にとって重要です。 $\theta$ $[0,1]$ $\hat{\theta} = \theta + w$ $w$ $\theta$

行うべき自然な考え方は、を設定する新しい推定量を作成することです $\hat{\theta}$ $1$ 、それが上にある場合は $1$ とする $0$ それが以下であれば $0$ 。しかし、その後、推定量は偏りがありません。だから私は何をすべきですか？

正式に、問題は、関数が存在するか否かである $f: \mathbb{R} \rightarrow \mathbb{R}$ ように $f(\hat \theta)$ を満たす（1）及び（2）上記。さらに、複数のサンプルを描画した場合、状況は異なりますか？

— イヴ
ソース

あなたの状況についてもっと話してくれませんか？私は数学の統計学者ではありませんが、これは私には非常に抽象的なようです。これは、パラメータロジスティック回帰、を思い出させるい

π

$\pi$ 中になければならない

(0, 1)

$(0,1)$ 、及び

E [\hat{π}] = π

$E[\hat\pi]=\pi$ 、しかしのサンプリング分布

ガウス分布ではありません。（もちろん、

、であるが、その後に囲まれていないこと

\hat{π}

$\hat\pi$

logit (\hat{π})

$\text{logit}(\hat\pi)$

(0, 1)

$(0,1)$ 。）状況に関連するものはありますか？FWIW、私はあなたが望むような関数を見つけることができないと思います（つまり、それは有界です）、b / c

R

$\mathbb R$ は有界ではありません。（W /謝罪必要であれば、私はこのコメントを削除することができます。）

— GUNG -復活モニカ

条件を拡張して複数のサンプルを収集する場合でも、そのような関数

f

$f$ 存在しない可能性が高いことに同意します。ただし、その場合は、そのような関数が存在しないことの証明を見ることにも興味があります。

— yves 2013年

式

この場合不偏、推定の特性を決定しようとしたときに通常到着するかに理論的な表現です。しかし、未知のパラメーター

が含まれているため、これは推定器の実際の関数形式ではありません。有意義にあなたの質問を探求するために、我々は表現の必要な

データの関数として。これは一般的に答えることができません。

\hat{θ} = θ + w

$\hat{\theta} = \theta + w$

θ

$\theta$

\hat{θ}

$\hat \theta$

— Alecos Papadopoulos 2014

同じ質問があります！より正確には、問題が存在するかどうかである

と測定関数

そのような

私は答えはノーだと思いますが、そのような

がないことの証拠を探しています

- \infty < a < b < \infty

$-\infty< a < b < \infty$

f : R \to [a, b]

$f : \mathbb{R} \to [a,b]$

\forall μ \in [0, 1] \underset{X \leftarrow N (μ, 1)}{E} [f (X)] = μ .

$\forall \mu \in [0,1] ~~~~~ \underset{X \leftarrow \mathcal{N}(\mu,1)}{\mathbb{E}}[ f(X) ] = \mu.$

f

$f$ 存在します。

— トーマス

偏りのない推定量が制限された後でも、偏りのない状態が続く条件を示します。しかし、それらが興味深いものや有用なものになるかどうかはわかりません。

推定してみましょうの未知パラメータの連続分布のを、および。 $\hat \theta$ $\theta$ $E(\hat \theta) =\theta$

いくつかの理由のために、繰り返しサンプリングの下で、我々が生成する推定器は中にその範囲を推定すると仮定。我々は仮定する我々はときに便利なよう間隔書き込むことができるように、と正数もちろん未知のを。 $[\delta_l,\delta_u]$ $\theta \in [\delta_l,\delta_u]$ $[\theta-a,\theta+b]$ $\{a,b\}$

次に、制約付き推定量は

{\hat{θ}}_{c} = {\begin{matrix} δ_{l} & \hat{θ} < δ_{l} \\ \hat{θ} & δ_{l} \leq \hat{θ} \leq δ_{u} \\ δ_{u} & δ_{u} < \hat{θ} \end{matrix}}

$\hat \theta_c = \left\{\begin{matrix} \delta_l & \hat \theta <\delta_l\\\hat \theta &\delta_l \leq \hat \theta \leq \delta_u \\\delta_u & \delta_u < \hat \theta \end{matrix} \right\}$

そしてその期待値は

\begin{aligned} E ({\hat{θ}}_{c}) & = δ_{l} \cdot P [\hat{θ} \leq δ_{l}] \\ + E (\hat{θ} ∣ δ_{l} \leq \hat{θ} \leq δ_{u}) \cdot P [δ_{l} \leq \hat{θ} \leq δ_{u}] \\ + δ_{u} \cdot P [\hat{θ} > δ_{u}] \end{aligned}

$\begin{align} E(\hat \theta_c) &= \delta_l\cdot P[\hat \theta \leq \delta_l] \\&+ E(\hat \theta \mid \delta_l \leq\hat \theta \leq\delta_u )\cdot P[\delta_l \leq\hat \theta \leq \delta_u] \\ &+\delta_u\cdot P[\hat \theta > \delta_u]\end{align}$

インジケーター関数を定義する

I_{l} = I (\hat{θ} \leq δ_{l}), I_{m} = I (δ_{l} \leq \hat{θ} \leq δ_{l}), I_{u} = I (\hat{θ} > δ_{u})

$I_l = I(\hat \theta \leq \delta_l),\;\; I_m = I(\delta_l\leq \hat \theta \leq \delta_l),\;\; I_u = I(\hat \theta > \delta_u)$

と注意してください

\begin{matrix} (1) & I_{l} + I_{u} = 1 - I_{m} \end{matrix}

$I_l + I_u = 1- I_m \tag{1}$

（これらの指示関数、および積分を使用して、我々は、制約推定の期待値を書き込むことができるの密度関数であり、） $f(\hat \theta)$ $\hat \theta$

E ({\hat{θ}}_{c}) = \int_{- \infty}^{\infty} δ_{l} f (\hat{θ}) I_{l} d \hat{θ} + \int_{- \infty}^{\infty} \hat{θ} f (\hat{θ}) I_{m} d \hat{θ} + \int_{- \infty}^{\infty} δ_{u} f (\hat{θ}) I_{u} d \hat{θ}

$E(\hat \theta_c) = \int_{-\infty}^{\infty}\delta_lf(\hat \theta)I_ld\hat \theta + \int_{-\infty}^{\infty}\hat \theta f(\hat \theta)I_md\hat \theta + \int_{-\infty}^{\infty} \delta_uf(\hat \theta)I_ud\hat \theta$

= \int_{- \infty}^{\infty} f (\hat{θ}) [δ_{l} I_{l} + \hat{θ} I_{m} + δ_{u} I_{u}] d \hat{θ}

$=\int_{-\infty}^{\infty}f(\hat \theta)\Big[\delta_lI_l + \hat \theta I_m + \delta_uI_u\Big]d\hat \theta$

\begin{matrix} (2) & = E [δ_{l} I_{l} + \hat{θ} I_{m} + δ_{u} I_{u}] \end{matrix}

$=E\Big[\delta_lI_l + \hat \theta I_m + \delta_uI_u\Big] \tag{2}$

上限と下限を分解すると、

E ({\hat{θ}}_{c}) = E [(θ - a) I_{l} + \hat{θ} I_{m} + (θ + b) I_{u}]

$E(\hat \theta_c) = E\Big[(\theta-a)I_l + \hat \theta I_m + (\theta+b)I_u\Big]$

= E [θ \cdot (I_{l} + I_{u}) + \hat{θ} I_{m}] - a E (I_{l}) + b E (I_{u})

$=E\Big[\theta\cdot(I_l+I_u) + \hat \theta I_m\Big] -aE(I_l)+bE(I_u)$

$(1)$

= E [θ \cdot (1 - I_{m}) + \hat{θ} I_{m}] - a E (I_{l}) + b E (I_{u})

$= E\Big[\theta\cdot(1-I_m) + \hat \theta I_m\Big] -aE(I_l)+bE(I_u)$

\begin{matrix} (3) & \Rightarrow E ({\hat{θ}}_{c}) = θ + E [(\hat{θ} - θ) I_{m}] - a E (I_{l}) + b E (I_{u}) \end{matrix}

$\Rightarrow E(\hat \theta_c) = \theta +E\big[(\hat \theta -\theta)I_m\big]-aE(I_l)+bE(I_u) \tag {3}$

$E(\hat \theta) = \theta$

E [(\hat{θ} - θ) I_{m}] = E (\hat{θ} I_{m}) - E (\hat{θ}) E (I_{m})

$E\big[(\hat \theta -\theta)I_m\big] = E\big(\hat \theta I_m\big) - E(\hat \theta)E(I_m)$

だが

E (\hat{θ} I_{m}) = E (\hat{θ} I_{m} ∣ I_{m} = 1) E (I_{m}) = E (\hat{θ}) E (I_{m})

$E\big(\hat \theta I_m\big) = E\big(\hat \theta I_m\mid I_m=1\big)E(I_m) = E\big(\hat \theta \big)E(I_m)$

$E\big[(\hat \theta -\theta)I_m\big] =0$

\begin{matrix} (4) & \begin{aligned} E ({\hat{θ}}_{c}) & = θ - a E (I_{l}) + b E (I_{u}) \\ = θ - a P (\hat{θ} \leq δ_{l}) + b P (\hat{θ} > δ_{u}) \end{aligned} \end{matrix}

$\begin{align} E(\hat \theta_c) &= \theta -aE(I_l)+bE(I_u) \\ &= \theta -aP(\hat \theta \leq \delta_l)+bP(\hat \theta > \delta_u)\end{align}\tag {4}$

または代わりに

\begin{matrix} (4a) & E ({\hat{θ}}_{c}) = θ - (θ - δ_{l}) P (\hat{θ} \leq δ_{l}) + (δ_{u} - θ) P (\hat{θ} > δ_{u}) \end{matrix}

$E(\hat \theta_c) = \theta -(\theta-\delta_l)P(\hat \theta \leq \delta_l)+(\delta_u-\theta)P(\hat \theta > \delta_u)\tag {4a}$

$(4)$

\begin{matrix} (5) & a P (\hat{θ} \leq δ_{l}) = b P (\hat{θ} > δ_{u}) \end{matrix}

$aP(\hat \theta \leq \delta_l) = bP(\hat \theta > \delta_u) \tag {5}$

$(5)$ $\{a,b\}$

$a$ $b$ $a=b$ $\theta$ $P(\hat \theta \leq \delta_l) = P(\hat \theta > \delta_u)$ $\theta$

...と私たちは（十分条件として）、それを学ぶ場合は、制約のない推定量の分布が真の値の周りに対称である、そして、真の値の周りに間隔を対称に拘束推定も公平になります...しかし、これはありますほぼ自明で直観的ですよね。

それは私たちがいることを理解すれば、もう少し面白いとなり、必要かつ十分な （対称間隔を与えられた）条件）を必要としない対称分布を、「尾の」唯一の等しい確率質量（これは順番にということを意味するものではありません。各尾の質量の分布は同一である必要があります）およびb）区間内では、推定量の密度は、不偏性の維持と一致する非対称の形状をとることができます。それでも、制約付き推定量は不偏になります。

$\hat \theta = \theta + w,\;\; w \sim N(0,1)$ $\hat \theta \sim N(\theta,1)$ $(4)$ $a,b$ $\theta, \delta$ $[0,1]$

E [{\hat{θ}}_{c}] = θ - θ P (\hat{θ} \leq 0) + (1 - θ) P (\hat{θ} > 1)

$E[\hat \theta_c] = \theta -\theta P(\hat \theta \leq 0) +(1-\theta)P(\hat \theta > 1)$

$\theta$ $\Phi()$

E [{\hat{θ}}_{c}] = θ - θ P (\hat{θ} - θ \leq - θ) + (1 - θ) P (\hat{θ} - θ > 1 - θ)

$E[\hat \theta_c] = \theta -\theta P(\hat \theta-\theta \leq -\theta) +(1-\theta)P(\hat \theta -\theta > 1-\theta)$

= θ - θ Φ (- θ) + (1 - θ) [1 - Φ (1 - θ)]

$=\theta -\theta \Phi(-\theta) +(1-\theta)[1-\Phi(1-\theta)]$

$\theta =1/2$ $\theta$

— アレコスパパドプロス
ソース

これが質問に答えるとは思いません。切り捨てを分析しています。問題は、「切り捨ては機能しますか？」ではなく、「機能する切り捨ての代替手段はありますか？」です。OPは切り捨てが機能しないことを認識しているようです。

— トーマス

@Thomas OPは（OPの投稿の最後の文）、それが不偏であることを有界の推定量を持つことができるかどうかを尋ねます。私はまず問題の一般的な扱いを提示し、次にアプリケーションをOPの敷地内で直接提示します。これが「質問に答えない」理由がわかりません。

— Alecos Papadopoulos

f (\hat{θ}) = {\begin{matrix} δ_{l} & \hat{θ} < δ_{l} \\ \hat{θ} & δ_{l} \leq \hat{θ} \leq δ_{u} \\ δ_{u} & δ_{u} < \hat{θ} \end{matrix}}

$f(\hat \theta) = \left\{\begin{matrix} \delta_l & \hat \theta <\delta_l\\\hat \theta &\delta_l \leq \hat \theta \leq \delta_u \\\delta_u & \delta_u < \hat \theta \end{matrix} \right\}$

δ_{l}, δ_{u} \in R

$\delta_l,\delta_u \in \mathbb{R}$

f

$f$

f (\hat{θ}) = \sin (\hat{θ})

$f(\hat \theta) = \sin(\hat \theta)$

（同じ質問があるので、私はこの数年前の質問にコメントしています。特に、私が興味を持っている質問は、任意の有界推定量に関するものです。）

— Thomas

@Thomas私の探査は、その最も一般的なものの限界を扱っていません。また、非線形関数を使用して推定器を作成すると、一般に、変換を不偏にするための必要条件として、推定器自体にバイアスをかける必要があります。

— アレコスパパドプロス