機械学習と複雑性理論のよりエキゾチックなフォームを組み合わせた仕事はありますか?


13

機械学習/データマイニングの専門家はPとNPに精通しているようですが、より微妙な複雑度クラス(NC、BPP、またはIPなど)のいくつかと、データを効果的に分析するための影響についてはめったに話しません。これを行う仕事の調査はありますか?


2
私が知っている調査はありませんが、この投稿の「量子学習」(#5)へのこのポインターをチェックしてください:blog.computationalcomplexity.org/2012/10/quantum-workshop.html
Suresh Venkat

機械学習は、「グローバル」な最適化ではNPの外にあるが、NP内では「ローカル」な最適化の場合よりも困難である非常に難しい問題を定期的に攻撃します。.... 1は、アプリケーションに依存品質測定によって&意味で、より測定され、「十分に良い」結果はアルゴリズム(複数可)を実行するには、本当に知ら先験的をアレントのために最適化されたときにぼやけて取得する複雑性クラスの全体のコンセプトはとても
vzn

@vzn私にとって、その繊細さは複雑さに注意を払うべき理由のように思えます!非常に興味深い洞察を提供するかもしれません。
マイクIzbicki

学習理論、回路の複雑さ、暗号法の間には確かに関係があります。しかし、これは機械学習の実践から少し削除された学習理論のコーナーです。興味があれば、いくつかの指針を思いつくことができます
サショニコロフ

はい、別の例として、データベースアルゴリズム/データマイニングでBDD(二分決定グラフ)が使用されており、回路の複雑性と強いつながりがあります。しかし、多くの機械学習は実用的であり、適用されたMLの複雑さは、理論的に予測または厳密に分類することを試みるのではなく、アルゴリズムの実際の実装を分析することによって間接的/経験的に研究されることが多いため、質問全体は少し難しいかもしれません。
vzn

回答:


3

応用機械学習とTCS /複雑性理論の2つの分野の間には、アプローチに固有の違いや相違点があります。

これは、プリンストンの計算困難性センターでの主題に関する最近のワークショップで、多くのビデオがあります。

説明:機械学習の現在のアプローチの多くはヒューリスティックです。パフォーマンスまたは実行時間のどちらかについて適切な境界を証明することはできません。この小さなワークショップでは、パフォーマンスを厳密に分析できるアルゴリズムとアプローチを設計するプロジェクトに焦点を当てます。目標は、証明可能な境界が既に存在する設定を超えて見ることです。

TCSでは「学習」時々多分紛らわしいさえも呼ばれる「機械学習」の研究のメインエリアが呼び出されPAC理論おそらくほぼ正確の略です。1980年代初頭の起源は、「機械学習」に関するはるかに現代的な研究の前にありました。ウィキペディアはそれをフィールド計算学習理論の一部と呼んでいます。PACは、分布などの統計的サンプルが与えられたブール式の学習結果と、さまざまなアルゴリズムまたは制限されたサンプルが与えられた学習の達成可能な精度にしばしば関係します。これは、複雑性クラスとの連携により、厳密な理論的方法で研究されます。しかし、機械学習に関する応用研究とウィキペディアのページにはリストされていません。


5
「ウィキペディアの呼び出し」...あなたは実際に主題について何か知っていますか?1)機械学習のwikiには、計算学習理論のページにリンクするセクション理論があります2)Valiant、Vapnik、Schapireなどの学習理論の研究は、機械学習の実践に大きな影響を与えました。
サショニコロフ
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.