Oracle不等式:基本的に


14

私はオラクルの不平等を使って何かを証明する論文を読んでいますが、それが何をしようとしているかを理解することはできません。「Oracle Inequality」についてオンラインで検索したところ、「Candes、Emmanuel J.「オラクル不平等による現代の統計的推定」という記事に導かれた情報源がありました。" https://statweb.stanford.edu/~candes/papers/NonlinearEstimation.pdfにあります。しかし、この本は私には重すぎるように思われ、いくつかの前提条件が欠けていると思います。

私の質問は次のとおりです。オラクルの不等式が数学以外の専攻(エンジニアを含む)にどのように説明しますか?第二に、上記の本のようなものを学ぶ前に、前提条件/トピックについてどのように推奨するか。

具体的に把握し、高次元統計の経験が豊富な人に答えてもらうことを強くお勧めします。


2
1k以上の評判をお持ちの方は、この質問に報奨金を提供してください。それは本当に役立つでしょう。ほとんどのユーザーは理論分析ではなくデータ分析に統計を使用しているため、一般的なCVユーザーはこの概念に精通しているとは思いませんが、統計に完全に基づいたコミュニティとして、これに適切に答えることができる誰かがいるに違いないと思います。この質問には十分な注目が集まっていないと思います。
— ウォルコット

1
私は同じ質問について考えていた
— -jeza

リンク「オラクルの不等式は、オラクルが提供する完全な情報に依存し、実際には利用できない理想的な推定器の性能と実際の推定器の性能を関連付けている」リンクの22ページで提供される「定義」。これはあなたに定義の本質を伝えませんか?
— マークL.ストーン

2
私のために@マークL.ストーン、それはありません
— -jeza

1
前のいくつかの文で提供された例と議論、つまり、神託の不平等の例としての定理4.1の声明と議論を見ても、そうではありませんか?素人の言葉で:ジー、私たちは使用すべき収縮率の最適値(オラクルによって提供される)を知りません。しかし、収縮率の最適な値は、オラクルからの最適な収縮率を持たない場合と比べて、MSEを2以下しか改善できないことを知っています。
— マークL.ストーン

回答:


8

線形の場合で説明しようとします。線形モデル検討 場合P ≤ N(独立変数の数が少ないか、その後の観察の数に等しい)と、計画行列がフルランクを有する、の最小二乗推定量bがあり、B = (X T X )-

Y私=∑j=1pβjバツ私(j)+ϵ私、私=1、。。。、n。
p≤nbと予測誤差である ‖ X (B - β 0)‖ 2 2
b^=(バツTバツ)−1バツTY
そこから、我々は推測することができるE‖X( B -β0)‖ 2 2
‖バツ(b^−β0)‖22σ2
これは、各パラメータを意味β 0 jが二乗精度で推定されるσ2/N、J=1、。。。、P。であるあなたの全体的な二乗精度はそれほど(σ2/N)のp。
E‖バツ(b^−β0)‖22n=σ2np。
βj0σ2/n、j=1、。。。、p。(σ2/n)p。

(p>n)Yk(σ2/n)k。

l1λβ^λλ

‖バツ(β^−β0)‖22n≤const。σ2ログ⁡pnk。
ログ⁡pconst。pn

厳密に言えば、後続のすべての部分が正しいために、観測値の数が独立変数の数より少ない必要はありません。
— jbowman

期待方程式(2番目から最後の方程式)と不等式(最後の方程式)がどのように得られたか説明できますか?
— user13985

‖バツ(b^−β0)‖22σ2(σ2/n)p
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.