統計学習理論の最近の進歩に関するリソース/本

私はVCディメンションの背後にある理論にかなり精通していますが、現在（過去10年間）の統計学習理論の進歩に目を向けています。定理、疑似次元、脂肪分解次元、パッキング数、Rademacher組成、そしておそらく私が知らない他の結果/ツール。

ウェブサイト、調査、記事のコレクション、または何よりも、これらのトピックをカバーする本はありますか？

または、単純なクラスのRademacher平均をバインドする方法の例を調べています。これは、人々が軸に揃えられた四角形を使用してVCディメンションをバインドする方法を示すのと同じです。

前もって感謝します。

分類理論：最近の進歩の調査をお楽しみいただけると思いますBoucheron、Bousquet、Lugosiによる。特に、Rademacherの複雑さを介して基本的な一般化理論を構築することから始まり、いくつかの便利なツールを紹介します（収縮原理など、Ashwinkumarの回答で参照されているShai＆Shaiのメモでその証拠を追跡できますが、（私は信じますか？） Ledoux＆Talagrandによる確率帳（無料ではありません）。これらを標準の分類方法に適用します（ブーストとサポートベクターマシンについては、その人気とERMを介してトレーニングされているため、両方について説明されています）。このテキストは2005年に発行されたため、たとえばローカルRademacher Complexitiesなど、先ほど触れた他のいくらか最近のトピックもいくつかあり、チェーンへの小さなプラグインさえあります。最後に、原稿はかなり短いですが、

あなたが言及する他のトピックのいくつかは、Devroye、Györfi、Lugosiによる「パターン認識の確率論」に入るほど古くなっています（特に、私が知っている他のどのテキストよりもパッキングに多くのことを持っています）。それはあなたが言及するより新しいトピックのいくつかを欠いていますが、これは私が学習理論で会ったすべての人が彼らの棚に持ってきた標準的な本です。おそらく、本の目次と索引を見つけて、それを試してみてください。

あなたが私が言及する他のトピックのいくつかは、本では完全に扱われていないが、それらは多くのコースノートに出てきた。たとえば、UPennのSham Kakadeのページにアクセスすると、2つの学習理論コース（1つはTTI-C、Ambuj Tewari）へのリンクが見つかり、トピックリンクは、これまでに説明した内容の一部と一致します。 、そして私の回答や他の場所に表示されていません。様々な学校で良いコースがたくさんあります。Avrim Blumは、彼の学習理論コースについて優れた非常に読みやすいノートを持っています（彼のwinnowの分析は、私が今まで見た中で最も短く、最もクリーンで、最も直感的です！）。

ただし、これらのいくつかは少し新しいかもしれませんが、ソースマテリアルに移動する必要があります。でも、もしあなたが本当に技術の手提げ袋を手に入れようとしているだけなら、私は調査を上に上げ、いくつかの学習理論クラスへの講義があなたに長い道のりを提供すると思います。

また、高度なテキストを探しているように聞こえるかもしれませんが、人々が非常に楽しんでいる2つの紹介テキストも挿入したいと思います。1つは、Kearnsと（U.）Vaziraniによる「計算学習理論の紹介」です。これは、古くからあります（たとえば、ブースティングはRobert Schapireの元の構造によってのみ提示され、不可知論的学習ではなくPACに重点が置かれています）。よく提示され、直感が良い。個人的に、上記の調査と同じ著者によって、統計学習理論の紹介で基本を学びました（ただし、Busquet、Boucheron、Lugosiの順に表示されますか？）。それは素晴らしい説明があり、一般化理論が本当に私のためにクリックし始めたのは初めてでした。

これは最近教えられたコースでした。http://www.cs.huji.ac.il/~shais/Handouts.pdf。私はそれを注意深く読んではいませんが、第7章にはRademacher Complexitiesに関する資料があります。それが役に立てば幸い。

Cesa-BianchiとLugosiによる本には、一般化の範囲と学習理論の現代的な側面の多くが含まれています。