人々が取り組んでいるAIには、どのような数学的な問題がありますか?


11

私は最近、数学部門で18か月のポスドク職を得ました。それは、私がやりたい研究の種類について、比較的軽い教育義務と多くの自由を持つ立場です。

以前は、確率と組み合わせ論の研究を主に行っていました。しかし、AIなど、アプリケーション指向の作業をもう少し行うことを考えています。(現在のポジションの最後にテニュアトラックポジションを取得できない可能性が十分にあることも考慮されています。他のキャリアの可能性のために少しAIが役立つかもしれません。)

人々が取り組んでいるAIには、どのような数学的な問題がありますか?聞いたところによると、

他の例はありますか?


3
最適化。おそらくAI MLにとって最もインパクトのある分野です。強化学習のような収束の証明が欠けています。
drerD

回答:


10

では、人工知能(とも呼ばれる機械の知能知能)、数学的な話題、特に最適化、統計、確率論、微積分と線形代数に基づいているいくつかの問題があります。

Marcus Hutterは、AIXIと呼ばれる人工一般知能の数学理論に取り組んでいます。これは、強化学習、確率理論(ベイズの定理と関連トピックなど)のメジャー理論アルゴリズム情報理論(たとえばコルモゴロフの複雑さ)、最適化、ソロモノフ帰納法普遍的なレビン探索および計算理論(たとえば、普遍的なチューリング機械)。彼の著書 『Universal Artificial Intelligence:Sequential Decisions Based on Algorithmic Probability』は非常に技術的で数学的な本であり、彼の最適なベイズ非マルコフ強化学習エージェントの理論について説明しています。

また、機械学習アルゴリズムの設計と分析を専門とする計算学習理論と呼ばれる研究分野もあります。より正確には、確率論、統計学、最適化、情報理論、幾何学などの分野の手法を使用した機械学習アルゴリズムの厳密な研究と数学的分析に焦点を当てています。Michael KearnsやVladimir Vapnikなど、数人が計算学習理論に取り組んできました。統計学習理論と呼ばれる関連分野もあります。

また、アリのコロニーの最適化など、組み合わせの最適化NP完全問題の近似(ヒューリスティック)を専門とする多くの研究努力があります。

AIの完全性についてもいくつかの作業がありますが、これはあまり注目されていません(上記の他の研究領域と比較して)。


4

私が精通しているAIで行われている数学の仕事のほとんどは、すでにnbroの答えでカバーされています。私が信じていないことの1つは、その答えでまだカバーされていません。アルゴリズムの同等性証明したり、同等のアルゴリズムを導出したりします。これに関する私のお気に入りの論文の1つは、Hado van HasseltとRichard Suttonによる「スパンの独立を予測する学習」です。

基本的な考え方は、最初にアルゴリズム(数式で、たとえば、トレーニングしているパラメーターのいくつかの更新ルール/式)を定式化し、次に別の更新ルール/式(つまり、別のアルゴリズム)を見つけることです。これは、最初の出力と同じであることを証明できます(つまり、常に同じ出力になります)。

これが役立つ典型的なケースは、最初のアルゴリズムが理解しやすい/直観に訴える/収束の証明やその他の理論的分析に便利である、2番目のアルゴリズムの方が効率的(計算、メモリ要件など)である場合です。 。)。


3

特にニューラルネットワークの数学的装置- ランダムマトリックス理論非漸近ランダム行列理論は、いくつかの中で使用されたニューラルネットワークのために勾配降下の収束の証明高次元のランダム風景ヘッセスペクトルへの接続では、に対して有するニューラルネットワークの損失表面を

トポロジーデータ分析は、ML、AIに関連する強力な研究のもう1つの分野であり、ニューラルネットワークに適用されます

ニューラルネットワークの熱帯幾何学に関するいくつかの作品がありました

ホモトピー型理論AIに関連しています

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.