機械学習の手法が向上し続けている場合、将来のアルゴリズムの役割は何ですか?


23

30年後の未来を見てみましょう。楽観的になり、機械学習に関連する分野が過去10年間に見られたのと同じくらい迅速に発展し続けると仮定しましょう。それは素晴らしいことですが、そのような将来の伝統的なアルゴリズムの役割は何でしょうか?

ここで「従来のアルゴリズム」とは、TCSで従う通常のプロセスを指します。明確に定義された計算問題を形式化し、問題を解決するアルゴリズムを設計し、形式的なパフォーマンス保証を証明します。

今、私たちは、伝統的なアルゴリズムの設計と解析を使用する必要のあるアプリケーションの領域であり、将来的にも、機械学習のいずれかの進歩は、伝統的なアルゴリズミックスはほとんど無関係で作るということはほとんどありませんか?

最初はこれはばかげた質問のように思えるかもしれません。もちろん、将来的にもソート、検索、インデックス作成などを行えるようにする必要があります!もちろん、フーリエ変換を効率的に行い、大きな行列を乗算し、最短経路を見つけ、線形最適化問題を解決できる必要があります!

しかし、再び、私たちが伝統的に設計したアルゴリズムを使用しているアプリケーションをより深く見始めると、伝統的なアルゴリズムの設計と分析がそのような問題に対する正しい答えであることはまったく明らかではありません:検索に関連するアプリケーションでは、通常、数学的意味で最適なもの(最小編集距離など)ではなく、漠然とした不明確な意味(例:意味的類似性)で人間に近いものを見つけることに関心があります。ルート計画に関連するアプリケーション、通常、いくつかの数学的な意味で最適なルート(最短距離や最低価格など)ではなく、例に基づいて適切なルート(他の人が好むルートなど)を見つけることに関心があります。そして、画像に曖昧で不明確な人間の要素があれば、TCSの研究者を出そうとするのではなく、例に基づいて適切な答えを出すようにコンピューターに教えるほうがよい場合があります従来のアルゴリズムの設計と分析によって取り組むことができる正式な計算問題を持ちます。

そのため、過去にアルゴリズムで行ってきたことも、正しい方法(そして唯一可能な方法)で進歩を遂げることが絶対に明らかであるアプリケーション領域(実際の直接的な産業アプリケーションが望ましい)とは何ですか?未来?

機械学習手法でサブルーチンとして使用されるアルゴリズムは、明らかに将来性のある候補のように見えますが、これは使用する特定の機械学習手法に大きく依存しており、過去10年ほどで見たように、これは急速に変化する可能性があります。


2
これは、問題は自然にきれいDTIMEで近似できる問題(に対応するかどうかに依存しているようだいくつかのために)どちらも大き過ぎず小さすぎるが、DTIMEでapproximableではないと考えられている()。タスクがアルゴリズムの観点から非常に「簡単」であるが、リアルタイムの保証が必要な場合、または難しいが、市販の方法で解決するために硬度を抽象化する方法が明確でない場合、機械学習(およびその他の統計的手法)によって提供される基本的なプロセスは、最も実用的なアプローチかもしれません。nccncε
アンドラスサラモン

4
私はアプローチが排他的であるという見方に懐疑的です。機械学習アルゴリズムが解決する問題を正式に定義し、パフォーマンスを分析する優れた理論モデルを構築することは不可能だと考える理由はありますか?これには、データ駆動型アルゴリズム(記述的複雑度の高いアルゴリズムと考えられます)のより良いモデルが必要な場合がありますが、それは克服できない障害ですか?
ニールヤング

回答:


6

これは最近私を悩ませている質問なので、あなたがそれを聞いてくれてうれしいです。
ただし、(従来の)アルゴリズムの分野における進歩への影響よりも、機械学習が計算アプローチを支配するアプリケーション領域の分類にはあまり興味がありません。30年後、まだどのような「人間が作成したアルゴリズム」の研究に興味がありますか?確かに、これは一般に答えるのが難しい質問です。なぜなら、結果の品質が必要かどうかを決定するのはアプリケーションだからです。

列挙アルゴリズムは生存者の間で数が増えると思います。チップへのすべての入力をテストするか、徹底的な検索を行う必要があります。オブジェクト固有の注意、各オブジェクトインスタンスを正確に(または少なくとも)1回生成するために必要な微調整された設計。無駄な努力の実行時の増幅(オブジェクトの説明の関数として、インスタンスの指数関数的な数が存在する場合があります)-これらの要因は、汎用の自動学習プロセスが賢いものと一致する可能性があることに対して懐疑的ですこの分野での目的に合わせたソリューション。


4

機械学習ソリューションの問題は、彼らが本当にあなたが望むものを計算したかどうかを知る方法がないということです。

間違った結果が壊滅的ではないすべてのドメイン(つまり、現在ヒューリスティックを使用しているすべての場所)または結果を簡単に確認できる(ソリューションが存在することがわかっている問題を検索するため)解決策はありません」は難しいかもしれません))。

残りのドメインについては、アルゴリズムが公式に(たとえばCoq / Gallinaを使用して)頻繁に証明されることを期待しています。うまくいけば、機械学習により、最終的にそのようなシステムでのことを紙のように簡単に(またはさらに簡単に)証明できるようになります。人間が仕様を記述するだけで、アルゴリズムとその正当性の証明が機械学習を使用して見つかるまでに達する可能性もあります。(アルゴリズム自体は機械学習を使用していませんが、アルゴリズムとその正当性の証明は機械学習を使用して検出されたことに注意してください)

そのため、証明アシスタント、プログラム仕様、機械学習アルゴリズムのみを記述している場合があります。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.