逆確率重みの計算—条件付き（多変量）密度推定？

一般的なバージョン：

私は推定する必要があると連続して多変量です。良い関数形を心に留めておらず、は公平なものである必要があるため、ノンパラメトリックにしたいと思います。条件付きカーネル密度推定器を使用したかったのですが、最初にを量子化する必要があることに気付きました。それから私は推定するためのアイデアだったとという計算にデータや使用からの、または多分私はどこかでそれを読んで、覚えていませんどこ。 $f(A | X)$ $A$ $X$ $\hat{f}(A | X)$ $X$ $\hat{f}(A , X)$ $\hat{f}(X)$ $\hat{f}(A | X)$

この手順が有効ではない理由はありますか？カーネル密度よりも良いまたはより正直なアプローチはありますか？また、ノンパラメトリックにサンプル密度から人口密度を推定することに問題はありますか？データは調査データであり、私には調査の重みがあります。どういうわけかそれらを組み込む必要がありますか？

ケース固有のバージョン：

Robins（2000）（ゲートされていないPDF）のように、これらの推定値を周辺構造モデルでの治療の確率の逆数の重みに使用することに言及する価値があるでしょう。私は「治療」の配列観察 $\{a_t\}_{t=0}^{4}$ と時間変動交絡因子のシーケンス $\{x_t\}_{t=0}^{4}$ いくつかの結果に対する $\tilde{y}$ で生じる $t=T+1$ 。単純なパラメトリック因果関係、ただし、時変交絡因子があるため、は「平均治療効果」の偏った推定であり、因果パス上にあるため、交絡因子をリグレッサとして追加できません。もバイアスをかけます。幸いドクロビンスはI再重量私の観測場合、私はにより交絡/公平かつ合理的に効率的な推定値を得ることができることを考え出した $E[\tilde{Y} | \vec{a}]=\beta'\vec{a}$ $\beta$ $\beta$

w_{i} = \prod_{s = 0}^{4} \frac{f (a_{s} | a_{s < t})}{f (a_{s} | a_{s < t}, x_{s < t} ）}

$w_i = \prod_{s=0}^{4} \frac{ f(a_s | a_{s<t}) }{ f(a_s | a_{s<t},x_{s<t}) }$

私の質問：その重みのシーケンスは、実際に見積もりが必要なものです。ロビンスはロジスティック回帰を推奨しています。しかしはにあり、で測定され、すべての実際的な目的のために、その有限サブセットにあります。は閉じた間隔にありますが、それは実際にはいくつかの変数の平均であり、それぞれが有限サブセットで測定されているためです。 $a_t$ $[0,\infty)^7$ $\{0,\dots\}^{7}$ $x_t$ $\{0,\dots,12\}$

だから私はいくつかのアイデアを持っていました：

およびノンパラメトリックに推定 $f(a_t, a_{s<t}, x_{s<t})$ $f(x,a_{s<t})$
ベータ回帰を使用してを推定しノンパラメトリックに推定します $f(a_t | a_{s<t}, x_{s<t})$ $f( x_{s<t}, a_{s<t})$
推定値ベータ回帰と、および推定値）ベータ回帰を「連鎖」させて、全体を条件付きとして表現します。 $f(x_{t-1}|a_t,a_{s<t},x_{s<(t-1)})$ $f(a_t, a_{s<t},x_{s<(t-1)})$
確かに私が考えていなかった、不確実性の伝播において実際に首尾一貫して正直なもの。
ベイズ？私はスタンとJAGSを知っていますが、MCMCはおそらく私のコンピューターを爆発させます（EC2を扱いたくありません）。

因果モデリングでは多変量処理はまれであるため、文献にはヒントはありません。私は何をすべきか？

ボーナスポイント：ようなものではなく、を表す表記についてどう思いますか？ $a_{s<t}$ $\{a_s\}_{s=0}^{t}$ $\vec{a}_{t-1}$

— シャドウトーカー
ソース

基本的な考え方

どおりチェン、リントン、及びロビンソン（2001）、条件変量カーネル密度推定のための「デフォルト」技術は、帯域幅のために、見つけることである、 $a,b,c$

\frac{{\hat{f}}_{a b} (y, z)}{{\hat{f}}_{c} (z)} = {\hat{f}}_{a b c} (y | z ）

$\frac{\hat{f}_{ab}(y,z)}{\hat{f}_c(z)}=\hat{f}_{abc}(y|z)$

$(a,b)$ $c$ $a=b=c$ $y=x_t,z=x_{t-1}$

\sqrt{n a^{2}} ({\hat{f}}_{a b c = a a a} (y | z) - f (y | z)) \overset{d}{\to} N (0, V)

$\sqrt{na^2}\left(\hat{f}_{abc=aaa}(y|z)-f(y|z)\right)\xrightarrow{d}N(0,V)$

\begin{aligned} \hat{V} & = {(\int K (u)^{2} d u)}^{2} \cdot \frac{{\hat{f}}_{a a a} (y | z)}{{\hat{f}}_{a} (z)} \\ = {(\int K (u)^{2} d u)}^{2} \cdot {\hat{f}}_{a a} (y, z) \end{aligned}

$\begin{align} \hat{V}&=\left(\int K(u)^2du\right)^2\cdot\frac{\hat{f}_{aaa}(y|z)}{\hat{f}_a(z)}\\&=\left(\int K(u)^2du\right)^2\cdot\hat{f}_{aa }(y,z) \end{align}$

私は頻繁に加重モデルを見たことがありませんが（イントロスタットWLSでさえ）、推定された重みの分散を説明しようとします。とりあえずその慣習に従いますが、ここで結果が得られたら、不確実性をより正直に伝える完全なベイジアンモデルにそれを組み込めるかどうかを確認します。したがって、はい、結合密度と限界密度を推定することによって条件付き密度を推定することは、標準的な手順です。

私のケースへの適用性

$y=x_t$ $z=\left(x_s\right)_{s=1}^{t-1}$ $x_s=\left(\begin{smallmatrix} x_{s,1}\\ \ddots \\x_{s,D} \end{smallmatrix}\right)$ $x=\left(\left(x_{s,d}\right)_{d=1}^{D}\right)_{s=1}^{t-1}$

帯域幅

B = (\begin{matrix} B^{n u m e r a t o r} & 0 \\ 0 & B^{d e n o m i n a t o r} \end{matrix}) = (\begin{matrix} (\begin{matrix} a_{1, 1} & B_{1}^{n u m} \\ ⋱ \\ B_{2}^{n u m} & a_{t, D} \end{matrix}) & 0 \\ 0 & (\begin{matrix} c_{1, 1} & B_{1}^{d e n o m} \\ ⋱ \\ B_{2}^{d e n o m} & c_{t - 1, D} \end{matrix}) \end{matrix})

$B=\left(\begin{matrix} B^{numerator}&0\\0&B^{denominator} \end{matrix}\right)=\left(\begin{matrix} \left(\begin{matrix}a_{1,1}&&B^{num}_1\\&\ddots&\\B^{num}_2&&a_{t,D}\end{matrix}\right)&0\\0&\left(\begin{matrix}c_{1,1}&&B^{denom}_1\\&\ddots&\\B^{denom}_2&&c_{t-1,D}\end{matrix}\right) \end{matrix}\right)$

$H=hH_0$ $|H_0|=1$ $b^*\sim\sqrt[4+D]{N}$ $B^{num}$ $B^{denom}$ $B$

$a=b=c$ $z$ $y$ $z$ $z=\mu$ $\mu$ $\hat{a}(\mu)$

同じ結果のより一般的なバージョンは、「経験則」帯域幅と呼ばれるこれらの講義ノートの別のセクションにあります。また、一般的な相互検証手順の関数として最適な帯域幅を導き出します。

計算

私は3つの期間にわたって7次元の処理を行っているため、推定できるのは最大21次元の密度です。そして、ベースラインの共変量について忘れていました。30のベースライン共変量があるので、結局、51次元分布、44次元分布、および37次元分布を推定しようとします。そして、それは極端な次元が非常に大きなサンプルを必要とすることは言うまでもありません。スコット＆ワンド（1991） 1次元の50のサンプルサイズは優に超える100万8次元のと等価であることを報告... 30.ノー量の言及これらは私が今感じてどのように表現することはできません。

結論

だから私はこれで一週間の人生を無駄にしました。しかたがない。代わりに、MCMCを使用してパラメトリック治療と結果モデルを同時に適合させ、IPTの重みが最終的に治療モデルの事後予測密度の関数になるようにします。次に、処理モデルの線形、2次、および3次のフォームをステップ実行し、どれが最も適しているかを確認します。

— シャドウトーカー
ソース

「だから私はこれで一週間の人生を無駄にしただけだ。」それは学習と研究と呼ばれています。修士学生であることを受け入れる必要があります。多くの場合、誰も方法を知らないため、通常、研究にショートカットはありません。

— モモ