機械学習の統計、ペーパー


10

私はコンピュータプログラミングと素数理論のバックグラウンドを持っていますが、実際の統計トレーニングはありません。最近、さまざまな技法の驚くべき世界が実際には統計の世界であることを「発見」しました。行列因数分解、行列補完、高次元テンソル、埋め込み、密度推定、ベイズ推定、マルコフ分割、固有ベクトル計算、PageRankはすべて非常に統計的な手法であり、そのようなものを使用する機械学習アルゴリズムは多くの統計を使用しているようです。

私の目標は、使用されている表記法、「証明」、統計的引数を理解しながら、そのようなことを論じた論文を読み、アルゴリズムを実装または作成できるようにすることです。私が最も難しいのは、行列を含むすべての証明に従うことです。

どのような基本的な論文から始められますか?それとも、取り組む価値のあるエクササイズを含む優れた教科書ですか?

具体的には、私が完全に理解したいいくつかの論文は次のとおりです。

  1. 凸最適化による正確な行列補完、Candes、Recht、2008
  2. 高速コーシー変換と高速ロバスト線形回帰、クラークソン他、2013年
  3. サポートベクターマシンのランダムプロジェクション、Paul et al、2013
  4. 深密度モデルを使用した高次元確率推定、Rippel、Adams、2013年
  5. 低ランクマトリックス補完のためのエラー最小化推定値と普遍的なエントリ単位のエラー範囲の取得、Király、Theran、2013年

1
たとえば、適用された線形代数コースを通じて、行列にすでに精通していますか、それとも、学習しようとしていることの一部ですか?あなたが挙げたリストの前半は、高度に統計的な手法(逆方向に行くように思われます)ではなく、統計において重要なトピックだと思います。統計的機械学習の学習に推奨される本には、いくつかの質問があります。あなたが遭遇した、理解したい特定の論文の例または2つを提供することをお勧めします。それはあなたが受け取る答えをよりよく集中するのに役立ちます。
枢機卿

2
うん、行列、線形代数、ベクトル空間、基底、ノルムの概念に精通していますが、LU分解のようなことは完全には理解していません。それらがなぜ機能するかについて完全に明確ではありません。また、固有行列アルゴリズムを実行せずに、ランダム行列の固有ベクトルをどのように導出できるかについても理解していません。
Cris Stringfellow 2013

回答:


2

私は、CourseraのAndrew Ngs Machine Learningコースをお勧めします。これは、すべての基本について見事にカバーしています。確率的グラフィカルモデルを使用して何かを勉強している場合は、ダフネコラーズコースも参照してください。

これは自習用リソースの宝庫でもあります。http://ragle.sanukcode.net/articles/machine-learning-self-study-resources/ハーブグロスマンの講義は素晴らしいものです。

この本https://www.openintro.org/stat/textbook.phpもお勧めします。私は常に自分自身を学んでおり、統計は私の背景ではないためです。

私の2セントは、物事や論文の数学の側面にありますが、バックグラウンドの数学に夢中になることはありません。基本を学び、あなたが言及したそれらの論文が基づいている論文を参照し、それらがより簡単であることを確認してくださいMLでの数学のさまざまな要素。うさぎの穴に吸い込まれるのは簡単です(これもまた、自分で何度かやったことです)。

幸運なことに、それは本当に興味深い分野です!

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.