ディープラーニングとAIに関する最新の「注目の」研究トピックは何ですか?


10

私はディープジェネレーティブモデルに関する修士論文を執筆しており、現在、新しいテーマを探しています。

Q:最近ディープラーニングコミュニティで多くの注目を集めている「最もホットな」研究トピックは何ですか?

いくつかの明確化:

  • 私は同様の質問を調べましたが、誰も私の質問に答えませんでした。
  • 私は純粋な数学のバックグラウンドを持っています。1年前にディープラーニングに移行しただけで、生成モデルに関する私の研究はほとんど理論的なものでした。つまり、私の仕事のほとんどは、構造化された確率モデルとおおよその推論を中心に展開されていました。とはいえ、ディープラーニングの実際のアプリケーションについてはまだ調査していません。
  • 質問をする前に宿題をしました。私の目標は、この問題についてai SEの意見を得て、人々が何に取り組んでいるかを確認することでした。

1
NASネットは本当にクールです。ニューラルネットワークを使用してニュートラルネットワークの構造を最適化しました
keiv.fly

OPが同様の質問を検討し、回答が見つからなかったので、私はオープンのままにします。とはいえ、(潜在的な重複を最近レビューしたことはありませんが)この質問を前の質問とできるだけ区別することをお勧めします。
DukeZhou

回答:


7

今日のホットなトピックは、明日の冷たい湿った灰かもしれません。たとえば、CNNおよびLSTMアプローチの収束速度は、特に組み合わせて、基本的なRNN設計からかなりの注意をそらしています。

同様に、今日の寒いトピックは明日の燃えさしの燃えさしかもしれません。もちろん、いくつかの冷たいトピックは冷たいままです。スイートスポットは、暖かくなりつつあり、持続可能なビルディングブロックの可能性が高い将来のテクノロジーを特定することです。

残留注意ネットワーク

LSTMネットワークのような残余注意ネットワークは、異なるアプローチを使用するRNNの改善です。アテンションネットワークはリソースを節約するように設計されているため、並列実行をサポートするために、ハードウェアとネットワークへの要求が少ないか、収束が速くなります。

非デカルトモデルの自動開発

モデリングの自動化に関する研究は、多くのAIアプリケーションにとって重要です。開発中のアルゴリズムの一部は、機能のテンソル(配列、行列、キューブ、ハイパーキューブ)を単に抽出するだけでなく、循環が許可されているかどうかに関係なく、有向または連想のグラフモデルを開発します。

平衡をサポートする信号トポロジー

多くの人がGANの重要性を無視しているのは、画像で興味深いことを行えるためではなく、トレーニングされた一連のパラメーターへの収束がレイヤーとブロックの1次元配列で達成される信号パスの単純なトポロジーからどのように逸脱するかが原因ですレイヤー。

GAN設計の識別コンポーネントと生成コンポーネントは、* GAN損失機能の理解に関するAI Stack Exchangeの別の質問で詳細に説明されています。GANアプローチとその概念的な子からの画像の生成は、人工ネットワーク空間での新しい機能を示していますが、このマルチネットワークの重要性の幅はすぐには明らかではない可能性があります。これはレイヤーの深さのスタックではなく、概念的にはメビウスの帯に非常によく似た、8の字型トポロジーの2つの深いネットワークのスタックです。

このトポロジーは、生成的(G)と識別的(D)の2つのネットワーク間のバランスを作成します。その設計者は、GとDが反対の役割を果たすため、これを敵対関係と呼びました。ただし、システム内でのそれらのアクションは実際には協調的であり、生物学における化学平衡または共生によく似たバランスを作成するため、特定の目的が達成されます。これは、今日のAIの最も有望な方向を明らかにするかもしれません。

ネットワーク間のコラボレーションと共生の追加の形式をサポートする信号トポロジーを設計します。各ネットワークは他のコンポーネントネットワークと連携してロールを学習するコンポーネントであり、集約システムがその機能を学習して、DNNでは不可能な形式の人工知能を合成できます。

ルールベースのシステムとディープネットワークは、信号フローの観点から1次元です。それ自体では、人間の脳の最も注目すべき特徴に近づくことは決してありません。

DSPとしてGPUを使用した並列処理

スパイクネットワークのVLSI実装は重要です。現在、https://github.com/Hananel-Hazan/bindsnetなどの実装があり、GPUハードウェアアクセラレーションを利用して、大企業が開発しているVLSIチップにアクセスせずにGPUハードウェアを調査しています。

エンドツーエンドTTSの音声認識と合成

GoogleのWaveNetなどのシステムを使用したシンセシスにおける最近の卓越性の出現により、より正確なTTS(テキストからサウンド)アプリケーションへの扉が開かれました。そのため、トレーニングサンプルセットで使用するための音声録音のエキスパートになるのはおそらく良い時期ですが、ライブスピーカーを使用してカスタムスピーチプロダクションハウスを始めるのは悪い時期です。

自動車両

さまざまなタイプの自動化車両には、半自動化と完全自動化を推進する強力な経済的および安全性のインセンティブを持つ幅広いタイプの車両のために、車両物理学、自動車製造、航空、および消費者製品の専門家が必要です。

  • 火星着陸船
  • 消費者向けドローン
  • 産業用ドローン
  • 軍用ドローン
  • 旅客機
  • 乗用車
  • リムジン
  • 電車
  • 車いす
  • 配送車両
  • 自動食品流通
  • 原子力発電所修理ロボット
  • 配電修理ロボット

概要

5年間でAIのホットテクノロジーが主流を維持するか、それとも温暖化テクノロジーのどれが猛烈に熱くなるかを事前に発見することは難しいかもしれませんが、上記はかなりの初期の約束を示し、高いビジネスがある、確かなテクノロジーです。産業、および消費者の需要。


1

確かに、研究に貢献できる分野はたくさんあります。あなたはディープジェネレーティブモデルで修士論文を作成したと言っているので、あなたは機械学習とディープラーニングに慣れていると思います。

デジタル疫学は、ディープラーニングを確実に適用できる分野の1つです。計算生物学の他の分野と比較すると、それはまだ比較的新しい分野です。例としては、オンラインデジタルレコードが疾患の予測とさらなる有病率に与える影響を確認することです。

このようなオンラインレコードは、さまざまな検索エンジン、ソーシャルメディアサイト、場合によっては政府機関から受け取ることができます。たとえば、ここでは「Skin Cancer」という検索語の例を見ることができ、対応するレコードは世界中でこの語の関心を示しています。このデータを使用して、新しい仮説を見つけることができます。たとえば、データが世界/国の特定の地域からの関心が高いことを示している場合、特定の疾患がその地域/地域/国でより一般的であることを示している可能性があります。同様の仮説を立て、引き出し、テストすることができます。そして確かに、ディープラーニングは、そのような仮説の検証に使用される従来のモデルの精度を向上させることができます。

もう1つの興味深い研究分野は、従来の時系列モデルに対する長期短期ニューラルネットワークの比較です。私はこの分野で成熟した研究があるとは思いません。たぶん、あなたはこの良いブログからここから始めることができます

信号処理は、ディープラーニングモデルに基づいて理論を構築および検証するための、もう1つの非常に興味深い、また非常に実用的な領域です。ただし、信号処理の数学はかなり難しい場合があります。ただし、これらのオプションはすべて、特定のドメインの人とチームで作業する必要があります。それは、質の高い研究を生み出したい場合です。

他の分野はNLP、特にヒンディー語からウルドゥー語またはペルシャ語への言語翻訳の場合、オンラインデジタルマーケティング、行動科学、製造、投資です。これらの分野の専門家を知っていれば、特定の研究分野がさらに改善される可能性があります。


お返事ありがとうございます。素晴らしい提案!実際、私はLSTMについて簡単に説明しました。それらは、PixelRNNで長時間依存する画像を生成するために使用できます。信号処理に関しては、私は数学の出身ですので、それが実際に私のお茶です。
Achraf Oussidi

2
AIへようこそ。貢献してくれてありがとう。医療分野での現在のAIメソッドの使用について、以前にいくつかの質問がありました。 (ここにリストするには多すぎますが、フィールドの一部に興味がある場合は、このスタックで "medical"を検索してください。)
DukeZhou

@DukeZhou洞察に満ちた知識を提供してくれてありがとう。常に人間の文明を救ってください。
キンタムニア2018年
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.