時変バイアスでバイアスされたコインをモデル化する方法は？

バイアスコインのモデルには、通常、1つのパラメーターます。一連の描画からを推定する1つの方法は、ベータ事前分布を使用し、二項尤度で事後分布を計算することです。$\theta = P(\text{Head} | \theta)$$\theta$

私の設定では、奇妙な物理的プロセスのために、私のコインのプロパティはゆっくりと変化し、は時間関数になります。私のデータは、順序付けられた描画のセット、つまりです。私は、離散的で通常の時間グリッドでは、ごとに1つのドローしかないと考えることができます。T { H 、T 、H 、H 、H 、T 、。。。} $\theta$$t$$\{H,T,H,H,H,T,...\}$$t$

これをどのようにモデル化しますか？私は、隠れた変数があるという事実に適応し、二項尤度を維持するカルマンフィルターのようなものを考えています。推論を扱いやすくするために、をモデル化するために何を使用できますか？P （θ （T + 1 ）| θ （T ）$\theta$$P(\theta(t+1)|\theta(t))$

次の回答を編集してください（ありがとう！）：HMMまたはカルマンフィルターで行われるように、を次数1のマルコフ連鎖としてモデル化したいと思います。私ができる唯一の仮定は、が滑らかであることです。私はをで小さなガウスノイズ（カルマンフィルターのアイデア）と書くことができますが、これはままにする必要があります。@J Davのアイデアに従って、プロビット関数を使用して実際の線をにマッピングすることができますが、これは非分析的な解決策を与えるという直感があります。平均ベータ分布θ （T ）P （θ （T + 1 ）| θ （T ））= θ （T ）+ ε ε θ [ 0 、1 ] [ 0 、1 ] θ （T $\theta(t)$$\theta(t)$$P(\theta(t+1)|\theta(t)) = \theta(t) + \epsilon$$\epsilon$$\theta$$[0,1]$$[0,1]$$\theta(t)$ そして、より広い分散はトリックを行うことができます。

この問題は非常に単純で、以前に研究されたに違いないと感じているので、この質問をします。

分析ソリューションを備えたモデルを思い付くことができるとは思いませんが、モデルの依存関係構造は単純なので、適切なツールを使用して推論を扱いやすくすることができます。機械学習の研究者として、次のモデルを使用することをお勧めします。推論は期待値伝播の手法を使用してかなり効率的にできるためです。

ましょのことな結果番目のトライアルを。時変パラメーターを定義しましょう$X(t)$$t$

T ≥ $\eta(t+1) \sim \mathcal{N}(\eta(t), \tau^2)$ for。$t \geq 0$

をとリンクするには、潜在変数を導入しますX （t $\eta(t)$$X(t)$

$Y(t) \sim \mathcal{N}(\eta(t), \beta^2)$、

そしてモデルは$X(t)$

$X(t) = 1$であれば、及びそれ以外の場合。実際に無視して、これらを周辺化して、と言うことができます（ cdf of標準法則）しかし、潜在変数の導入により推論が容易になります。また、元のパラメーター化ではことに注意してください。$Y(t) \geq 0$$X(t) = 0$$Y(t)$$\mathbb{P}[X(t)=1] = \Phi(\eta(t)/\beta)$$\Phi$$\theta(t) = \eta(t)/\beta$

推論アルゴリズムの実装に興味がある場合は、このペーパーを参照してください。非常によく似たモデルを使用しているため、アルゴリズムを簡単に適合させることができます。EPを理解するには、次のページが役立つ場合があります。このアプローチに興味がある場合は、お知らせください。推論アルゴリズムの実装方法について、より詳細なアドバイスを提供できます。

コメントについて詳しく説明すると、p（t）= p exp（-t）などのモデルは単純なモデルであり、最尤推定を使用してpを推定することにより、p（t）を推定できます。しかし、確率は本当に指数関数的に減衰します。このモデルは、成功の頻度が高い時間帯と早い時間帯と遅い時間帯で観察した場合、明らかに間違っています。振動動作は、p（t）= p | sint | としてモデル化できます。どちらのモデルも扱いやすく、最尤で解くことができますが、非常に異なるソリューションを提供します。$_0$$_0$$_0$

確率はによって変化しますが、マイケルが言ったように、方法はわかりません。線形かどうか？確率モデル選択問題のように見えます：$t$$p$

$p=\Phi(g(t,\theta))$は、非常に非線形な関数に依存する場合があります。は、0〜1の確率を保証する境界関数です。$g(t,\theta)$$\Phi$

単純な探索的アプローチは、異なる非線形を使用していくつかのプロビットを試行し、標準の情報基準に基づいてモデル選択を実行することです。$\Phi$$g()$$g()$

あなたに答えるために再eddited質問：

あなたがプロビットを使うことは数値解だけを意味するがあなたの代わりにロジスティック関数を使うかもしれないと言ったように：

ロジスティック関数：$P[\theta(t+1)] = \frac{1}{1+\exp{(\theta(t)+\epsilon)}}$

線形化：$\log{\frac{P}{1-P}} = \theta(t)+\epsilon$

これがカルマンフィルターアプローチの下でどのように機能するかはわかりませんが、またはランダム項のない他の多くのような非線形仕様が仕事をします。ご覧のとおり、この関数は連続的で微分可能であるという意味で「smoth」です。残念ながら、を追加すると、結果として生じる可能性のあるジャンプが生成されます。これは、望ましくないことなので、削除することをお勧めします。ϵ $\theta(t+1)=a t^3 +bt^2+ct + d$$\epsilon$$\epsilon$

ロジットの確率：$P[Coin_{t+1}=H | t] = \frac{1}{1+\exp{(\theta(t))}}$

ベルヌーイイベント（マルコフチェーン）にすでにランダムがあり、ためにそのソースを追加しています。したがって、問題は、を説明変数とする最尤法によって推定されたプロビットまたはロジットとして解決できます。その節約は非常に重要であることにあなたは同意するでしょう。主な目的が特定の方法（HMMおよびカルマンフィルター）を適用することであり、問​​題に対する最も簡単な有効な解決策を提供することでない限り。$\epsilon$$t$