ウィキペディアの可能性に関するエントリはあいまいに見える

「条件付き確率」と「可能性」に関する簡単な質問があります。（私はすでにこの質問をここで調査しましたが、役に立ちませんでした。）

ウィキペディアの可能性に関するページから始まります。彼らはこう言います：

結果与えられたパラメーター値のセットの尤度は、パラメーター値が与えられた場合に観測された結果の確率に等しい、つまり$\theta$$x$

$$\mathcal{L}(\theta \mid x) = P(x \mid \theta)$$

すばらしいです！そう英語で、私はこれを読んで、「シータ、所与のデータX = X、（左辺）を、等しいパラメータの可能性は、データXがXに等しい確率に等しい所定のパラメータことシータに等しい」。（太字は強調のためのものです）。

ただし、同じページの3行以上後に、Wikipediaのエントリは次のように続きます。

ましょ離散確率分布を持つ確率変数 、パラメータに応じて、。次に、関数$X$$p$$\theta$

$$\mathcal{L}(\theta \mid x) = p_\theta (x) = P_\theta (X=x), \,$$

関数と見なされるものは、（確率変数結果が与えられた場合の）尤度関数と呼ばれます 。時には値の確率のパラメータ値のためのとして書き込まれる。多くの場合のように記述を強調するために、このから異なる 条件付き確率されていないので、パラメータとしない確率変数です。$\theta$$\theta$$x$$X$$x$$X$$\theta$$P(X=x\mid\theta)$$P(X=x;\theta)$$\mathcal{L}(\theta \mid x)$$\theta$

（太字は強調のためのものです）。したがって、最初の引用では、文字通り条件付き確率について説明されていますが、その後すぐに、これは実際には条件付き確率ではなく、実際には？$P(x\mid\theta)$$P(X = x; \theta)$

それで、どれが？尤度は、実際には最初の引用の条件付き確率を暗示していますか？または、2番目の引用の単純な確率を暗示していますか？

編集：

これまでに受け取った有益で洞察に満ちたすべての答えに基づいて、私の質問を要約しました。

• で英語「可能性が観測されたデータを考えると、パラメータの関数である。」：、我々はと言います で数学：、我々は、のように記述。$L(\mathbf{\Theta}= \theta \mid \mathbf{X}=x)$
• 尤度は確率ではありません。
• 尤度は確率分布ではありません。
• 尤度は確率質量ではありません。
• ただし、英語では、尤度は「であり、パラメーター化された確率分布の積（連続的な場合）、または確率質量の積（離散的な場合）。 " 数学、我々は、次に、そのように書く：（連続ケース、はPDF）、および（離散ケース、は確率質量）。ここで重要なことは、ここではまったく$\mathbf{X} = x$$\mathbf{\Theta}= \theta$$L(\mathbf{\Theta}= \theta \mid \mathbf{X}=x) = f(\mathbf{X}=x ; \mathbf{\Theta}= \theta)$$f$
  $L(\mathbf{\Theta}= \theta \mid \mathbf{X}=x) = P(\mathbf{X}=x ; \mathbf{\Theta}= \theta)$$P$ 条件付き確率がまったく影響を及ぼします。
• ベイズの定理では、。口語的には、「が尤度である」と言われますが、は実際のランダム変数。したがって、正しく言うことができるのは、この用語は、尤度に単純に「類似」しているということです。（？）[これについてはよくわかりません。]$P(\mathbf{\Theta}= \theta \mid \mathbf{X}=x) = \frac{P(\mathbf{X}=x \mid \mathbf{\Theta}= \theta) \ P(\mathbf{\Theta}= \theta)}{P(\mathbf{X}=x)}$$P(\mathbf{X}=x \mid \mathbf{\Theta}= \theta)$$\mathbf{\Theta}$$P(\mathbf{X}=x \mid \mathbf{\Theta}= \theta)$

編集II：

@amoebasの回答に基づいて、私は彼の最後のコメントを描きました。私はそれが非常に解明されていると思うし、それが私が持っていた主な競合を解消すると思う。（画像上のコメント）。

編集III：

@amoebasのコメントをベイジアンのケースに拡張しました。

これは主に不必要な毛の分割だと思います。

条件付き確率のXが与えられたyが 2つのランダム変数に定義され、XおよびYの値とるのxおよびyは。しかし、我々はまた、確率について話すことができるP （X | θ ）のX与えられたθどこθは確率変数が、パラメータではありません。$P(x\mid y)\equiv P(X=x \mid Y=y)$$x$$y$$X$$Y$$x$$y$$P(x\mid\theta)$$x$$\theta$$\theta$

両方の場合において同じ用語「所定の」というメモと同じ表記を使用することができます。別の表記法を考案する必要はありません。さらに、「パラメーター」と呼ばれるものと「ランダム変数」と呼ばれるものはあなたの哲学に依存しますが、数学は変わりません。$P(\cdot\mid\cdot)$

ウィキペディアからの最初の引用は、その述べの定義によると。ここでは、θがパラメーターであると仮定します。二重引用符は、と言っているL（θ | xが）あるない条件付き確率。これは、xが与えられた場合のθの条件付き確率ではないことを意味します。そして実際には、そうすることはできません。なぜなら、θはここではパラメーターであると想定されているからです。$\mathcal{L}(\theta \mid x) = P(x \mid \theta)$$\theta$$\mathcal{L}(\theta \mid x)$$\theta$$x$$\theta$

ベイズ定理の文脈でaとbは両方とも確率変数です。しかし、我々はまだ呼び出すことができますP（B|）（の「可能性」）、そして今でもある善意（の条件付き確率B）。この用語は、ベイジアン統計の標準です。可能性に「似ている」と言う人はいません。人々は単にそれを可能性と呼びます。

注1：最後の段落では、は明らかにbの条件付き確率です。尤度としてL（| B ）それはの関数として見られています。ただし、！の確率分布（または条件付き確率）ではありません。aに対するその積分は、必ずしも1とは限りません。（一方、b上の積分は行います。）$P(b\mid a)$$b$$\mathcal L(a\mid b)$$a$$a$$a$$1$$b$

注2： @MichaelLewによって強調されるように、尤度は任意の比例定数まで定義されることがあります（ほとんどの場合、人々は尤度比に関心があるため）。これは便利ですが、常に行われるわけではなく、必須ではありません。

参照して、「可能性」と「確率」の違いは何ですか？特に@whuberの答えはそこにあります。

このスレッドでの@Timの回答にも完全に同意します（+1）。

すでに2つの良い答えが得られましたが、まだ不明確に思われるので、1つ提供させてください。尤度は次のように定義されます

そのため、データXが与えられると、パラメーター値θの可能性があります。これは、θでパラメーター化されたXの確率質量（離散ケース）または密度（連続ケース）関数fの積に等しくなります。尤度は、データが与えられたパラメーターの関数です。ことに注意してくださいθは、我々が最適化されていることをパラメータでありません、それはそれに割り当てられたすべての確率を持っていないので、確率変数。これが、ウィキペディアがランダム変数を条件付けていないため、条件付き確率表記を使用することは曖昧かもしれないと述べている理由です。一方、ベイジアン設定では、θは$\theta$ $X$$f$$X$$\theta$$\theta$$\theta$ 確率変数であり、分布を持っているので、他の確率変数と同様に作業でき、ベイズの定理を使用して事後確率を計算できます。ベイジアン尤度は、パラメーターが与えられたデータの尤度を示すため、尤度のままです。唯一の違いは、パラメーターが確率変数と見なされることです。

プログラミングを知っていれば、プログラミングのオーバーロード関数の尤度関数を考えることができます。一部のプログラミング言語では、異なるパラメータータイプを使用して呼び出されたときに異なる動作をする関数を使用できます。このように尤度を考える場合、デフォルトではifは引数としてパラメータ値を取り、このパラメータが与えられたデータの尤度を返します。一方、パラメーターがランダム変数であるベイジアン設定でこのような関数を使用すると、基本的に同じ出力が得られますが、ランダム変数を調整しているため、条件付き確率として理解できます。どちらの場合でも、関数は同じように機能します。使用するだけで少し異なります。

// likelihood "as" overloaded function
Default Likelihood(Numeric theta, Data X) {
    return f(X, theta); // returns likelihood, not probability
}

Bayesian Likelihood(RandomVariable theta, Data X) {
    return f(X, theta); // since theta is r.v., the output can be
                        // understood as conditional probability
}

さらに、ベイズの定理を次のように書くベイジアンを見つけることはできません。

$\theta|X$$\theta$$\theta$$\theta$$L$-記法は一般に、尤度設定のために予約されています。名前の尤度は、同様のことを示すために両方のアプローチで慣習により使用されます。モデルとパラメーターを指定すると、そのようなデータを観察する確率がどのように変わるかを示します。

混乱の原因となる方法で詳細が不正確または省略される可能性の一般的な説明には、いくつかの側面があります。ウィキペディアのエントリはその良い例です。

$x$

第二に、個々の尤度よりも尤度関数について考えるほうがより有用です。尤度関数は、尤度関数のグラフから明らかなように、モデルパラメーター値の関数です。また、このようなグラフを使用すると、モデルがそれらのパラメーター値に設定されたときにデータを予測する度合いに応じて、パラメーターのさまざまな値を尤度でランク付けできることがわかりやすくなります。私の意見では、尤度関数の調査により、元の質問で与えられたさまざまな式のコジティングよりも、データとパラメーター値の役割がはるかに明確になります。

（モデル内の）パラメーター値の観測データによって提供される相対的なサポートの度合いが未知の比例定数の問題を回避するため、尤度関数内の尤度のペアの比率を使用すると、これらの定数は比率で相殺されます。定数は、別々の尤度関数（つまり、異なる統計モデル）に由来する尤度の比で必ずしも相殺されないことに注意することが重要です。

最後に、尤度はデータだけでなく統計モデルによっても決定されるため、統計モデルの役割について明示することが有用です。異なるモデルを選択すると、異なる尤度関数が得られ、異なる未知の比例定数を得ることができます。

したがって、元の質問に答えるために、尤度はあらゆる種類の確率ではありません。彼らはコルモゴロフの確率の公理に従わず、さまざまなタイプの確率が果たす役割からの推論の統計的サポートにおいて異なる役割を果たします。

1. フィッシャー（1922）統計の数学的基礎について http://rsta.royalsocietypublishing.org/content/222/594-604/309

$L(\theta)$$\theta$$\theta$$\theta$

「私はこれを次のように読みます。」パラメータXシータ」。（強調のために太字は私のものです。）

$P(x|\theta)$$\mathcal{L}(\theta|x)$

$\theta$$\theta=\theta$$\theta$