エスティメータのOracleプロパティとは何ですか？

エスティメータのOracleプロパティとは何ですか？
オラクルのプロパティが関連するモデリングの目標は何ですか（予測、説明など）？

理論的に厳密で（特に）直感的な説明を歓迎します。

質問に対するしっかりしたワンストップショップの回答があると便利です。関連資料：Zou 「Adaptive LASSOとそのOracleプロパティ」、p。1（pp。1418）。

— リチャードハーディ

回答:

オラクルは真実を知っています。真のサブセットを知っており、それに積極的に行動します。oracleプロパティは、推定器の漸近分布が真のサポートのみでMLEの漸近分布と同じであることです。つまり、推定器は（漸近分布に関して）価格を支払うことなく、真のサポートを知ることに適応します。

たとえば、定理9.14のKeenerの理論統計で説明されているMLEの漸近的最適性の性質により、たとえばエラーがガウスである場合に保持するいくつかの技術的条件下で、ここではが真の係数であると仮定します真の支持体上に、。漸近分布の分散はフィッシャー情報の逆数であり、が漸近的に効率的であることを示しています。真のサポートを知っているMLEはこれを達成するため、oracleプロパティの一部としても必要です。

\sqrt{n} ({\hat{β}}_{S} - β_{S}^{*}) \to N (0, I^{- 1} (β_{S}^{*})),

$\sqrt{n} \left( \hat\beta_S - \beta^*_S \right) \to \mathcal{N} (0, I^{-1}(\beta^*_S)),$

β_{S}^{*}

$\beta^*_S$

S

$S$

{\hat{β}}_{S}

$\hat\beta_S$

ただし、漸近的な非漸近価格を支払っています。たとえば、

Hannes Leeb、Benedikt M.Pötscher、スパース推定量とオラクルプロパティ、またはHodges推定量の戻り値、Journal of Econometrics、Volume 142、Issue 1、2008、Pages 201-211

これは、「オラクル推定器」のリスク（Fan and Liの意味で2001年）には、無限に発散する上限があることを示しています。

— user795305
ソース

投げ縄状態followngのOracleプロパティ-SO：Oracleのプロパティ推定の漸近分布は唯一の真の支持体上にLASSOロジスティック回帰の漸近分布と同じであるということである

— Annalize Azzopardi

Oracleプロパティの定義は、コンテキストに大きく関連しています。線形回帰（非常に高次元の回帰）における非常に短いが正確な答えは次のとおりです。

Oracle推定器は、パラメーター推定と変数選択において一貫している必要があります。

変数選択で一貫性のある推定器は、パラメーター推定で必ずしも一貫性がないことに注意してください。数学的な定義については、適応なげなわ論文を参照するか、単にこのスライドを参照してください。

— TPArrow
ソース

adaLASSOの論文（私のコメントにリンクされています）では、彼らは収束率も最適でなければならないと述べています（一貫した推定に加えて）。それは重要で少し難しい概念です。それについて詳しく説明していただけますか？

— リチャードハーディ

収束率は、コンテキストに関連した仮定です。投げ縄であるのためのの観測の数。ただし、一貫性は投げ縄の漸近的な結果です。

\sqrt{n}

$\sqrt{n}$

n

$n$

— TPArrow

oracleプロパティの定義でレートが最適であるという要件を削除することをお勧めしますか？

— リチャードハーディ

一般的な定義では、速度に言及する義務はありません。しかし、理論的には、最適な速度を明確に知る必要があります。

— TPArrow

ありがとう。ここで定義について話しているので、これを選んでいます。そのため、正確にしようとしています。

— リチャードハーディ