機械学習の問題を回帰フレームワークに変換する

私は説明変数のパネルがあるとため、、、ならびにバイナリ結果従属変数のベクトルを。したがって、は最終時間でのみ観測され、それ以前の時間では観測されません。完全に一般的なケースは、各ユニットに対して各時刻にに対して複数のを持たせることですが、簡潔にするためにケース注目しましょう。 $X_{it}$ $i = 1 ... N$ $t = 1 ... T$ $Y_{iT}$ $Y$ $T$ $X_{ijt}$ $j=1...K$ $i$ $t$ $K=1$

このような「アンバランス」ペアと時間相関の説明変数の適用例は、（毎日の株価、四半期ごとの配当）、（毎日の天気予報、毎年のハリケーン）または（各移動後のチェスポジションフィーチャ、勝ち/負け結果）です。ゲームの終わり）。 $(X, Y)$

私は、回帰係数（おそらく非直線的）に興味があります行うための予測のトレーニングデータに、初期の観測与えられたことを知って、のための、それが最終的な結果につながる $\beta_t$ $Y_{it}$ $X_{it}$ $t < T$ $Y_{iT}$

$\hat{Y}_{it} = f(\sum_{k=1}^{t} X_{ik} \beta_k), \quad t = 1 ... T$

計量経済学のバックグラウンドから来て、そのようなデータに適用される回帰モデリングはあまり見ていません。OTOH、私はそのようなデータに次の機械学習技術が適用されているのを見てきました。

データセット全体で教師付き学習を行う、例えば最小化

$\sum_{i,t}\frac{1}{2}(Y_{it} - f(X_{it} \beta_t))^2$

観測されたを過去のすべての時点に外挿/代入するだけで $Y$

$Y_{it} \equiv Y_{iT}, \quad t = 1... T-1$

これは、異なる時点間の一時的な相関関係を考慮しないため、「間違っている」と感じます。

やって強化学習パラメータの学習で、このような一時的な差としてのおよび割引パラメータ、再帰的解決のためにから始まる逆伝搬を通じて $\alpha$ $\lambda$ $\beta_t$ $t=T$

$\Delta \beta_{t} = \alpha (\hat{Y}_{t+1} - \hat{Y}_{t}) \sum_{k=1}^{t} \lambda^{t-k} \nabla_{\beta} \hat{Y}_{k}$

の勾配に対する。 $\nabla_{\beta} \hat{Y}$ $f()$ $\beta$

これは、時間構造を考慮に入れているため、より「正しい」ように見えますが、パラメータとは一種の「アドホック」です。 $\alpha$ $\lambda$

質問：上記の監視/強化学習手法を、古典統計/計量経済学で使用される回帰フレームワークにマッピングする方法に関する文献はありますか？特に、私は、パラメータを推定できるようにしたいと思い（すべてのためにすなわち、「一度」でこのようなモデルに（非線形）最小二乗または最尤を行うことによって同時に）なので $\beta_{t}$ $t=1...T$

$Y_{iT} = f(\sum_{t=1}^T X_{it} \beta_{t}) + \epsilon_{i}$

また、時差学習メタパラメータおよびが最尤定式化から回復できるかどうかを知りたいと思います。 $\alpha$ $\lambda$

regression machine-learning reinforcement-learning

— TemplateRex
ソース

3番目の段落で定式化を明確にしていただけますか？

、

から

を予測したいが、次の式は

を予測したいことを示唆しています。

Y_{i T}

$Y_{iT}$

X_{i t}

$X_{it}$

t < T

$t < T$

Y_{i t}

$Y_{it}$

— NRH

@NRHは実際には

のみを観察しますが、教師あり学習に関する文献で私が見たのは、観察されていない

を

と等しくなるように誘導し、フィッティングを行ってこの偽の

を実際に説明することです

から

（これは、各位置の評価関数がゲームの最終結果に当てはまるゲームプレイアプリケーションで行われます）。これが私の最初の処方から明らかでない場合は申し訳ありません。いずれの場合

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

X_{i t}

$X_{it}$

{\hat{Y}}_{i t}

$\hat{Y}_{it}$ 観測されたイベント

与えられると、（ゲームアプリケーションで）予測される「結果」になります。

X_{i t}

$X_{it}$

— TemplateRex

私は設定とあなたが観察することを理解していますが、質問の定式化は不明確です。言葉で書くときに

を予測するためのモデルをトレーニングしますか、それとも式が示すようにすべての

に対して

を予測するためのモデルをトレーニングしますか？たぶんそれは単なるタイプミスです。あなたが書くとき"... 予測の

..."あなたが意味するか"... 予測の

..."？

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

t

$t$

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

— NRH

これを行う理由は明らかではありません。実際の実用的なアプリケーションを説明できれば、より明確な答えが得られるかもしれません。一般に、各タイムスパンの最適な予測は、利用可能なデータ

に対して

回帰を

ごとに個別に行うことです。同時アプローチに利点があることは明らかではありません。データセットの統計モデルを指定する必要があると思うので、そのメリットはより明確になります。

Y_{T}

$Y_T$

X_{1}, \dots, X_{t}

$X_1,\dots,X_t$

— seanv507

@NRHは、はい、私は予測したい

から

、それが結果につながることを知っ

Iはまた、観察場所をテストデータに最適な行動をとるためには、トレーニングデータに

が、持っていない、まだ結果を観察しました。処方を更新します。

Y_{i t}

$Y_{it}$

X_{i t}

$X_{it}$

Y_{i T}

$Y_{iT}$

X_{i t}

$X_{it}$

— TemplateRex

問題の説明は私には完全に明確ではないので、いくつかの仮定を推測しようとします。これで質問に答えられない場合は、少なくとも問題をさらに明確にするのに役立つかもしれません。

私にとって明らかでない最初の事柄は、あなたがあなたの予測の基礎にしたいデータです。あなたは予測したい場合はするまでの観測データに基づいてこれはつまり、将来のデータを使用しますので、その後、あなたの方法2のように再帰的なアプローチは意味がありませんと。 $Y_T$ $t<T$ $X_\tau$ $\tau>t$

第二に、予測された特性が何であるかを述べない。一般に、時間で情報与えられると、条件付き期待値はL2の意味での「最良の予測子」です。条件付き期待値を本当に予測したい場合、通常の最小二乗法が実用的な推定の選択方法です。 $Y_t$ $X_1,\ldots, X_t$ $t<T$ $Y_t=\text{E}[Y_T \mid X_1,\ldots, X_t]$ $Y_T$

Furthermore, I do not understand your remark about the correlations not being reflected by the regression based on the $X_1, \ldots, X_t$ . This incorporates everything you know until $t$ including the correlations between your observations.

So summing up and phrasing this as an answer: If you want to make an optimal prediction in the L2 sense, based only on data observed until $t<T$ you can use least squares regression.

— g g
ソース

in the training data, I want to use the fact that a given

X_{i t}

$X_{it}$ observation will statistically lead to outcome

Y_{i T}

$Y_{iT}$ in order to predict

{\hat{Y}}_{i t}

$\hat{Y}_{it}$ for test data where I don't observe

Y_{i T}

$Y_{iT}$ until afterwards. If e.g. you know that after 3 windy days it will likely rain on day 7, you want to use that information to tell people to bring umbrellas after the weekend after a few windy days before.

— TemplateRex

$\alpha$
$\gamma$ controls the relative effort given to predictions depending on how far they are from the end of a sequence. Because these sequences are finite in length, you can set this to $\gamma=1$ , to put the same weight on all estimates.

— nsweeney
ソース

This does not really answer the question: e.g. how can the

α

$\alpha$ and

γ

$\gamma$ parameters be set optimally in a maximum-likelihood framework?

— TemplateRex

α

$\alpha$ controls the speed of convergence but should has no effect on the final model or the likelihood of that model. In practice, I set it by trial and error. You have to set

γ

$\gamma$ as it controls the relative importance of short term versus long term predictions if the same parameters are used across short and long predictions. That will be application specific depending on what you want to do with the predictions.

— nsweeney