切り捨てられたデータの尤度関数

切り捨てられたデータの可能性の概念と導出を理解するのに少し問題があります。

たとえば、分布からのサンプルに基づいて尤度関数を検索したいが、分布からサンプルを取得する場合、切り捨てられた値を観察します（カットオフがある $M$ 場合、つまり任意の $x_{i}>M$ として記録されます）： $M$

$x_{1}, x_{2}, M, x_{3}, M, x_{4}, x_{5}, ..., x_{10}$

場所の数 $M$ 値は $m$ です。次に、可能性はおそらく以下によって与えられます：

$L(x;\theta) = \prod_{i=1}^{10}f(x_{i};\theta)*[P(X>M)]^{m}$

これがそうである理由の説明/証明、非常に重要なのはなぜ2番目の要素がそうであるのかを私は非常に感謝します。可能であれば直感的かつ数学的に。よろしくお願いします。

dataset likelihood

— Delvesy
ソース

小文字の「

m

$m$ 」とは何ですか？

— Alecos Papadopoulos 2013

それはの出現箇所の数である

...つまり、私が観察している

うちのデータポイント、

切り捨てられませんが、そして

それらのは、（私はこれらの観察されている

すべての値で、ピック

）

M

$M$

10 + m

$10 + m$

10

$10$

m

$m$

m

$m$

M

$M$

— Delvesy

@Alecosが指摘するように、「切り捨てられた」特異的に使用しています。「検閲」は通常の用語です。

— Scortchi-モニカの回復

「天井/床の影響」、「ベータ回帰」、「ゼロ膨張モデル」など、検索したい用語がいくつかあります。

— DWin

回答:

あなたが説明することは特別な扱いを必要とします、それは私たちが通常「切り捨てられた確率変数」によって意味するものではありません-そして私たちが通常意味することは、確率変数が切り捨てられたサポートの範囲外にないこと、つまり確率質量の集中がないことです切り捨てのポイント。ケースを対比するには：

A）切り捨てられたrvの「通常の」意味
サポートを切り捨てた分布の場合、その密度を「修正」して、切り捨てられたサポートに統合されたときに1に統合されるようにする必要があります。変数が、でサポートされている場合、（pdf 、cdf ） $[a,b]$ $-\infty < a < b < \infty$ $f$ $F$

\int_{a}^{b} f_{バツ} （ バツ ） d バツ = \int_{a}^{M} f_{バツ} （ バツ ） d バツ + \int_{M}^{b} f_{バツ} （ バツ ） d バツ = \int_{a}^{M} f_{バツ} （ バツ ） d バツ + [1 - F_{バツ} （ M ）] = 1

$\int_a^bf_X(x)dx = \int_a^Mf_X(x)dx+\int_M^bf_X(x)dx = \int_a^Mf_X(x)dx + \left[1-F_X(M)\right]=1$

\Rightarrow \int_{a}^{M} f_{バツ} （ バツ ） d バツ = F_{バツ} （ M ）

$\Rightarrow \int_a^Mf_X(x)dx = F_X(M)$

LHSが切り捨て支持体上不可欠であるので、我々は切り捨てられ、RVの密度は、それを呼び出すことがわかり $\tilde X$ でなければなりません、

だから、オーバーユニティに統合することを。上の式の中期は、この状況を（正しく）条件付けの形式として考えさせます。

f_{\overset{〜}{バツ}} （ \overset{〜}{バツ} ） = f_{バツ} （ バツ | バツ \leq M ） = f_{バツ} （ バツ ） d バツ \cdot {[F_{バツ} （ M ）]}^{- 1}

$f_{\tilde X}(\tilde x) = f_{X}(x\mid X\le M)=f_X(x)dx\cdot \left[F_X(M)\right]^{-1}$

[a, M]

$[a, M]$ -しかし、別の確率変数ではなく、rv自体が取り得る可能な値について。ここで、通常のように、

切り捨てられたiid rvのコレクションの結合密度/尤度関数は、上記の密度の

倍になります。

n

$n$

n

$n$

B）確率質量濃度
ここで、あなたが質問で説明するものですが、物事は異なります。点は、よりも高い変数のサポートに対応するすべての確率質量を集中させます。これにより、密度に不連続点が生じ、2つの分岐ができます。 $M$ $M$

\begin{aligned} f_{{バツ}^{*}} （ {バツ}^{*} ） & = f_{バツ} （ {バツ}^{*} ） {バツ}^{*} < M \\ f_{{バツ}^{*}} （ {バツ}^{*} ） & = P （ {バツ}^{*} \geq M ） {バツ}^{*} \geq M \end{aligned}

$\begin{align} f_{X^*}(x^*) &= f_X(x^*) \qquad x^*<M\\ f_{X^*}(x^*) &= P(X^* \ge M) \qquad x^*\ge M\\ \end{align}$

非公式には、2番目は「離散rvのよう」であり、確率質量関数の各点は実際の確率を表します。ここで、そのようなiid確率変数が、それらの結合密度/尤度関数を形成したいとします。実際のサンプルを見る前に、どのブランチを選択する必要がありますか？私たちはその決定を下すことができないので、何とかして両方を含める必要があります。これを行うために、我々は、使用インジケータ機能する必要があります意味値をとるインジケータ関数 $n$ $I\{x^*\ge M\}\equiv I_{\ge M}(x^*)$ $1$ $x^*\ge M$ 、それ以外の場合は。そのようなrvの密度は次のように書くことができます $0$

の、したがって関節密度関数そのようなiid変数は

f_{{バツ}^{*}} （ {バツ}^{*} ） = f_{バツ} （ {バツ}^{*} ） \cdot [1 - 私_{\geq M} （ {バツ}^{*} ）] + P （ {バツ}^{*} \geq M ） \cdot 私_{\geq M} （ {バツ}^{*} ）

$f_{X^*}(x^*) = f_X(x^*)\cdot \left[1-I_{\ge M}(x^*)\right]+P(X^* \ge M)\cdot I_{\ge M}(x^*)$

n

$n$

f_{{バツ}^{*}} （ {バツ}^{*} | θ ） = Π_{私 = 1}^{ん} [f_{バツ} （ {バツ}_{私}^{*} ） \cdot [1 - 私_{\geq M} （ {バツ}_{私}^{*} ）] + P （ {バツ}_{私}^{*} \geq M ） \cdot 私_{\geq M} （ {バツ}_{私}^{*} ）]

$f_{X^*}(\mathbf X^*\mid \theta) = \prod_{i=1}^n\Big[f_X(x^*_i)\cdot \left[1-I_{\ge M}(x^*_i)\right]+P(X^*_i \ge M)\cdot I_{\ge M}(x^*_i)\Big]$

ここで、上記を尤度関数と見なして、これらの確率変数の実現からなる実際のサンプルが機能します。そしてこのサンプルでは、いくつかの観察された実現はしきい値よりも低くなり、いくつかは等しくなります。示すに等しいサンプル中のリアライゼーションの数、およびすべての残り、。実現において、尤度に残る密度の対応する部分がなることは即時です。 $n$ $M$ $m$ $M$ $v$ $m+v=n$ $m$ $P(X^*_i \ge M)$ 部分、実現では他の部分。その後 $v$

\begin{aligned} L （ θ | {{バツ}_{私}^{*}; 私 = 1 、 。 。 。 ん} ） & = Π_{私 = 1}^{v} [f_{バツ} （ {バツ}_{私}^{*} ）] \cdot Π_{j = 1}^{メートル} [P （ {バツ}_{j}^{*} \geq M ）] \\ = Π_{私 = 1}^{v} [f_{バツ} （ {バツ}_{私}^{*} ）] \cdot [P （ {バツ}^{*} \geq M ）]^{メートル} \end{aligned}

$\begin{align} L(\theta\mid \{x_i^*;\,i=1,...n\})&= \prod_{i=1}^v\Big[f_X(x^*_i)\Big]\cdot \prod_{j=1}^m\Big[P(X^*_j \ge M)\Big] \\& = \prod_{i=1}^v\Big[f_X(x^*_i)\Big]\cdot \Big[P(X^* \ge M)\Big]^m\\ \end{align}$

— アレコスパパドプロス
ソース

ありがとうございました。返信ありがとうございます。私の主な問題はセクションb）の最初のポイントだと思います。これは個別のpmfであり、pdfの定義から実際にはpdfを定義しません。このセクションについて詳しく説明してください。どうもありがとう。

— Delvesy 2013年

これらの確率変数は「混合型」と呼ばれます。つまり、これらは部分的に連続的で、部分的に離散的です。あなたの質問が示すように、直感的にそれは明白に理にかなっています。厳密な扱いについては、「混合型確率変数」または「混合型分布」を調べてください。それらを「混合物」と混同しないでください。

— Alecos Papadopoulos 2013

尤度理論はかなり一般的なフレームワークです。ほとんどの教科書は、連続したr.vsの分離した場合と、離散的なr.vsの場合の結果を述べています。ただし、実際には、ここにあるように、混合ケースが発生します。

離散RVのため、観測の可能性観測された値の取得の確率として定義され、と言う。連続rvの場合、尤度は通常、での密度として定義されます。たとえば、です。ただし、実際には、測定精度が制限されているため、 $A$ $a$ $a$ $p_A(a)$ $L$ $x$ $f_X(x)$ $x_{\textrm{L}} < X < x_{\textrm{U}}$ 可能性として使用されるべきです。服用、と小さい、我々は得るまで乗法 $\Pr\left\{x_{\textrm{L}} < X < x_{\textrm{U}}\right\}$ $x_{\textrm{L}}:= x - \textrm{d}x/2$ $x_{\textrm{U}}:= x + \textrm{d}x/2$ $\mathrm{d}x$ $f_X(x)$ $\mathrm{d}x$ 問題ではありません。したがって、通常の定義は、観測の精度が無限であると暗黙的に想定していると見なすことができます。

ジョイントタイプが離散/連続の混合であるいくつかのr.vs と場合、可能性はジョイント分布になります。これは通常、条件付き分布を使用して表されます。例： $A$ $X$ したがって、間隔

L ：= Pr {あ = a 、 {バツ}_{L} < バツ < {バツ}_{U}} = Pr {あ = a} \times Pr {{バツ}_{L} < バツ < {バツ}_{U} | あ = a} 。

$L := \textrm{Pr}\left\{ A = a, \, x_{\textrm{L}} < X < x_{\textrm{U}} \right\} = \textrm{Pr}\left\{ A = a \right\} \times \textrm{Pr} \left\{x_{\textrm{L}} < X < x_{\textrm{U}} \, \vert\, A = a\right\}.$

、長さ

が小さい場合、

は

条件とする

の密度の

倍、たとえば

(x_{L}, x_{U})

$(x_{\textrm{L}},\, x_{\textrm{U}})$

d x

$\textrm{d}x$

L

$L$

p_{A} (a)

$p_A(a)$

X

$X$

{A = a}

$\{A=a\}$

。繰り返しますが、

f_{X | A} (x | a)

$f_{X \vert A}(x \,\vert \,a)$

d x

$\mathrm{d}x$ 項ます。

ここで、例に戻り、1つの観察のみを考えてみましょう。次に、は成功確率ベルヌーイrv です。かどうかに応じて、のみを観察するか、と値の両方を観察します。どちらの場合も、上記の式を使用しますが、 $A = 1_{\{X > M\}}$ $\Pr\{X > M\}$ $X > M$ $A = 1$ $A = 0$ $x$ $X$ は $(x_{\textrm{L}},\, x_{\textrm{U}})$ 又は小さな長さの間隔としてを含む。確かに、これは得られる $(M,\,\infty)$ $\textrm{d}x$ $x$ 以来

L = {\begin{cases} Pr {バツ > M} \times 1 & もし バツ > M すなわち あ = 1 、 \\ Pr {バツ \leq M} \times f_{バツ | あ} （ バツ | a ） d バツ & もし バツ \leq M すなわち あ = 0。 \end{cases}

$L = \begin{cases} \textrm{Pr} \left\{X > M \right\} \times 1 & \textrm{if } X > M \textrm{ i.e. } A =1,\\ \textrm{Pr} \left\{X \leq M\right\} \times f_{X \vert A}(x \,\vert \,a)\,\textrm{d}x & \textrm{if } X \leq M \textrm{ i.e. } A = 0. \end{cases}$

、可能性は単に

f_{X | A} (x | 0) = f_{X} (x) / Pr {X \leq M}

$f_{X \vert A}(x \,\vert \,0) = f_X(x) / \textrm{Pr} \left\{ X \leq M \right\}$

2番目のケースでは

であり、無限の精度を持つ観測値の

項まで、主張された尤度を取得します。独立した観察

と

が行われる場合、可能性は、問題の式につながる限界尤度の積として得られます。

f_{X} (x) d x

$f_X(x)\,\textrm{d}x$

d x

$\mathrm{d}x$

A_{i}

$A_i$

X_{i}

$X_i$

— イヴ
ソース