機械学習コミュニティは「条件付け」および「パラメーター化」を乱用していますか？

たとえば、は依存しています。厳密に言えば、 $X$ $\alpha$

場合と両方とも確率変数である、我々は書くことができ ; $X$ $\alpha$ $p(X\mid\alpha)$
ただし、がランダム変数であり、がパラメーターである場合、を記述する必要があります。 $X$ $\alpha$ $p(X; \alpha)$

機械学習コミュニティは違いを無視して用語を悪用しているように見えることに何度か気付きます。

たとえば、有名なLDAモデルでは、はランダム変数ではなくディリクレパラメーターです。 $\alpha$

ここに画像の説明を入力してください

いけませんか？LDA論文の原著者を含む多くの人々がと書いているのを見ます。 $p(\theta;\alpha)$ $p(\theta\mid\alpha)$

machine-learning terminology

— シブスギャンブル
ソース

数学的に言えば、これはランダム変数の制限的なケースであるため、定数をいつでも条件付けることができます。ベイジアンの観点からは、すべての未知数は確率変数として扱われるため、条件付け表記法を全面的に使用することは理にかなっています。

— 西安

@ Xi'an「定数の条件付け」に関するあなたの主張は理解しています。しかし、私がを描くと想像してください

X

$X$ パラメータのカテゴリ分布から

、すなわち、

。私はような分布を書くことができ

？常に固定の

設定できるため、これは奇妙に見えます。

は私にとってより快適に見えます。

θ

$\theta$

X \sim C a t (θ)

$X\sim Cat(\theta)$

p (X ∣ θ)

$p(X\mid\theta)$

θ

$\theta$

p (X; θ)

$p(X;\theta)$

— シブスギャンブル

私は書面で問題が表示されていない

この特殊なケースで。繰り返しますが、条件付き表記法を使用すると、すべての未知のパラメーターに事前分布を導入する方法ができます。

p (X ∣ θ)

$p(X\mid\theta)$

— 西安

これは、機械学習対統計よりも、ベイジアン/非ベイジアン統計に関するものだと思います。

ベイズ統計では、パラメータもランダム変数としてモデル化されます。、共同分布がある場合 $X,\alpha$ 条件付き分布、何の物理的解釈がない問題でありおよび。1のみの固定とみなした場合はのか、そうでない場合を確率分布入れていない、との計算とまったく同じですと $p(X \mid \alpha)$ $X$ $\alpha$ $\alpha$ $\alpha$ $p(X; \alpha)$ $p(X \mid \alpha)$ 。また、任意の時点に1つの缶は、固定値を持つモデルに延びるように決定超える前に分布があるものに。少なくとも私には、この時点で分布表記法が変わるのは奇妙に思えます。そのため、ベイジアンの中には、すべてのパラメータをランダム変数として定義することに煩わされていなくても、条件付け表記法を使用することを好む人がいます。 $p(\alpha)$ $\alpha$ $\alpha$ $\alpha$

$p(X ; \alpha)$ $p(X \mid \alpha)$ $p$ $\mid$

— ジュホコッカラ
ソース