HTMのパフォーマンスに関する批判は何ですか?


16

私はこの階層的一時記憶(HTM)の存在について最近知りました。私はすでに「Hierarchical Temporal Memory:Concepts、Theory and Terminology」(Jeff Hawkins and Dileep Georgeによる)という文書を読んでいますが、理解しやすいと思われますが、1つの赤い旗は、文書が査読されておらず、なぜそうすべきかを説明しようとしていない詳細に作業します。

いくつかの独立したソースを探してみました。そのパフォーマンスを他のものと比較するいくつかの論文を見つけましたが、なぜそれがうまく機能する(またはそうでない)のかについては説明していません。私はそれが主流の専門家によって軽lookedされていると主張するコメントに気付きましたが、実際の批判を見つけることができませんでした。

HTMのパフォーマンスに関する批判は何ですか?HTMは汎用的であるため、ドメイン固有の批判は、より根本的な問題に関連している必要があります。

さらに、使用するトレーニングデータは膨大で、数か月のトレーニングセッションでも十分です。基本的に、トレーニングの規模や期間に関する批判は関係ありません。

回答:


6

ジェフ・ホーキンスに対する批判は、http://www.theregister.co.uk/2014/03/29/hawkins_ai_feature/から取られた以下のエッセイによく要約されてい ます

私自身、HTM理論には大きな可能性があり、真の機械知能の基礎になると信じています。IBMは最近、HTM理論のバックアップを発表し、数百人のメンバーを含むCortical Learning Centerを開始しました。

http://www.technologyreview.com/news/536326/ibm-tests-mobile-computing-pioneers-controversial-brain-algorithms/

エッセイで指摘されているように、Numentaの共同設立者であるDillep GeorgeはスタートアップVicariousを作りました。これは莫大な資金を集めており、その事実はHTM理論の可能性を示唆しています。

出典:Jeff Hawkinsに対する批判、The Register

彼のメディアに精通した自信のあるアプローチは、ホーキンスが広く公開されておらず、自分で多くのアイデアを発明していないことを正しく指摘している他の学者の間で、いくつかの不快感をかきたてたようです。

また、脳がどのように機能するかについてのホーキンスの特異な見解のために、Numentaにも問題がありました。

たとえば、2010年に、Numentaの共同設立者であるDileep Georgeは、有望なAIの分野で、より控えめなフルーツを選ぶために自分の会社Vicariousを設立するために辞職しました。私たちが理解していることから、この友好的な分離は、ジョージがより数学的なアプローチに向かっており、ホーキンスがより生物学的なアプローチに向かっていたため、ジョージとホーキンスの意見の違いから生じました。

ホーキンスはまた、インテリシアからのちょっとしたドローイングに参加しており、NYU心理学教授のゲイリー・マーカスは、ビッグデータがSteamrolledしたNew Yorkerの記事でヌメンタのアプローチを却下しています。

この記事のためにインタビューを受けた他の学者El Regは、彼の起業家のペルソナと組み合わされたHawkinsのピアレビューされた論文の欠如が彼のアプローチ全体の信頼性を低下させたと感じたため、引用したくありませんでした。

ホーキンスはこれらの批判を払拭し、彼とAIインテリジェンスの間の意見の相違に帰着すると信じています。

「これらは複雑な生物学的システムであり、完全に形式化するのは非常に難しい数学的原理によって設計されたものではない」と彼は語った。


2

私はしばらくHTMを勉強しています。それはちょっとクールです。HTMのデフォルトの動作は、一時的なデータを分析することです。一方、最近では、シーケンスからシーケンスへの問題(チャットボットなど)をモデル化するために、「派手な」ニューラルネットワーク(リカレントニューラルネットワークなど)が必要です。しかし、HTMはこの種の問題に自然に適用できます!

コントロールデータをビジュアルデータと共に送信し、ビジュアルデータをコントロールデータに制限して、何らかのインタラクティブテレビを作成することを計画しています(可能ですが、突然新しいビデオを夢見るとは思わないでください。それは起こりません)。しかし、私が言わなければならないのは、それについて最もクールなことは、あなたがそれを教えるビデオが再生時に出ないことであり、むしろそれの最も典型的なバージョンを示し、それは理解の形であり、実際にそれを実際に作ります涼しい。それはあなたがそこから抜け出す夢のようなものです。

テキストでHTMを使用している場合、

  1. それは手紙を保存し、
  2. その後、音節が生成されます。
  3. 次に、これらの音節を取り出し、これらから共通性を生成します。
  4. それから一般的な音節から単語を形成し、
  5. 次に、これらの単語を受け取り、それらの共通点を判断します。
  6. それはおそらくより大きな単語を形成し、
  7. その後、単語のグループを形成し、
  8. その後、文のグループを形成します

そのため、レベルが上がるたびに、もう少し「忘れる」ようになります。グループをよりしっかりと結び付けるためかもしれません。これらのより密接に染み込んだグループは、その中で再生されるレコードとは少し異なって再生されます。そして、この再生は多くの人には見られていません。

完全に独自の文章を思い付くのだろうか。

これにより、文の成長が少し遅くなり、はるかに良くなります。何も忘れずにレコードをフラットに再生するよりもずっと大変です。あなたの文章がゆっくりと成長すればするほど、あなたはそれをうまくやったと思うので、典型性を見つける方法がもっとあるなら、あなたはそれをするべきです。


2
これは、「HTMのパフォーマンスに関する批判とは何ですか?」
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.