ノンパラメトリック推定：2つの連続変数の相互作用

バイナリの結果を観察する確率はy、2つの変数の関数ですy = f(x1, x2)。

両方x1とx2連続している、と私はの関数形には前を持っていませんf。私はカーネル密度推定の浅い知識を持っていますが、一変量変数の場合にそれを行うことしか見ていません。ここでどのように進める必要がありますか/これに関するいくつかの基本的な文献はありますか？

（最初は質問を誤解していた）モデルはバイナリのノンパラメトリック回帰です。私はクラインによるセミパラメトリックモデルを知っているとSpady、一般的なモデルを知らない http://www.ssc.wisc.edu/~bhansen/718/NonParametrics7.pdf せ、次のようにモデルがある 次に。リンクの詳細。別の可能性は、ジョイント分布（離散変数と連続変数の両方を持つ）を推定することです。g（y、x）をジョイントpdfとし、推定します。$x´=[x_1´ \quad x_2´]$$P(y=1|x)=E[y=1|x]=g(x'\beta)=f(x)$$g(y|x)=\frac{g(y,x)}{g(x)}=f(x)$。このタイプのジョイントの推定には、カテゴリカルデータと連続データの両方で回帰関数のノンパラメトリック推定をチェックできる製品カーネルが必要です。Journalof Econometrics、第119巻、2004年3月、99〜130ページ

以下のための連続、次の回答作品。まず第一に、データは確定的またはランダムです。決定論的であれば、補間を行いたいかもしれません。スプラインが最適なオプションです。データセットにノイズがある、または観測されていない変数があると思われる場合は、ノンパラメトリック回帰を実行できます。これはあなたが望むものだと思います。最初のステップは、実際にランダム性の構造について仮定することです。通常の仮定は、 あり、観測されていない変数直交-とすることです。次に、を高次多項式で置き換えることができます。$y$$y=f(x_1,x_2)+\epsilon$X ⊥ ε F X E [ Y | x ] = f （x 1、x 2）E [ y | X ] = ∫のYのF （Y | X ）のD のY F （Y | X ）= F （Y 、X $x´=[x_1´ \quad x_2´]$$x\perp\epsilon$$f$$x$非線形最小二乗を使用してこれを推定します。技術的には級数または多項式推定器と呼ばれます（fがわかっている場合はNLSが使用されますが、高次の多項式は真のfに近似すると主張できます）。
別の方法は、「カーネル」アプローチを使用することです。実際、fが条件付き期待値であると直接仮定できます。 。その場合、条件付き期待値 を$E[y|x]=f(x_1,x_2)$$E[y|x]=\int yf(y|x)dy$$f(y|x)=\frac{f(y,x)}{f(x)}$。この要素をカーネル推定器で置き換えると、Nadaraya-Watson推定器が得られ、グーグルで検索できます。3番目のオプションは、ローカル線形回帰を使用することです。より高度なオプションは、関数基底を使用してモデルを推定するSieves推定器を使用することです。fが条件付きの期待値ではない場合、インストルメンタル変数でノンパラメトリック回帰を使用する必要があります。これについては、Renault（およびその他）によるEconometricaに関する論文があります。要約すると、想定しているランダム構造に依存します。ノンパラメトリック回帰を学びたい場合に行くべき本は、Li＆Racine http://press.princeton.edu/titles/8355.html です。これらの計量経済学の手順は、オープンソースの統計言語「R "（パッケージ）" np "という名前で。