人間のような知性は賢い目的ですか？[閉まっている]

それが最も進んでいると仮定して、それは常に人間の心の構成要素を近似するために文献の焦点であったようです。他の動物がAIランドスケープに入ってきた場合、それは霊長類を人間の研究に実用的ではない方法で研究するか、その神経系が単純であるため、ナメクジの神経活動をシミュレートすることだけでした。

おそらく、より低い生命体を望ましい人工知能のモデルとして使用することを検討する、より前向きな理由があります。私は他の種の共同能力についてEOウィルソンと他の人が言わなければならなかったことを読んでいます。細菌のように単純で順応性のある生物には、驚くべき品質があります。確かに、アリはコラボレーションのモデル種です。ミツバチは間違いなく最も建設に精通しており、ライフスタイルの持続可能性と他の種との相互関係を人間の知能の能力をはるかに超える芸術形式にもたらします。

オプションを特徴付けるためにスポーツの類推を使用して、人間の知性は、啓発前のグラディエータースポーツまたは少なくともアイスホッケーのようなものであり、対戦相手の負傷は賢明な戦略と見なされます。ミツバチが行うことは、登山のようなものであり、精密かつ注意深く建設されます。

アリが行うことはリレーレースによく似ており、トラックの各レーンが独立していてレーンにマークが付けられているのと同じように、各コロニーは反対側のチームにほとんど関心がありません。アリは同様に彼らの領土をマークし、領土の主張はウェストファリアの最高の地政学的政治と同様に尊重されています。誇り高きプライマシーのためだけのささいな嫉妬や競争はありません。アリの場合、スマートトラックやフィールドコーチの場合と同様に、目的はレースの各レッグがリレーレーサーの以前のベストに対してうまく機能することです。

バクテリアは長距離ランナーです。彼らはDNAを互いに交換し、痛みと恐怖のすべてのルールを無視します。彼らは当たり前のことは何も取らず、生存のためにすべてを使用する持続可能な方法で行動します。そして、彼らは地球の存在のほぼ全期間にわたって生き残りました。最初に太陽が超新星に進まなければ、人類がいなくなってから1千億年もたってしまうでしょう。

競争相手として際限なく行動するようにコンピュータをプログラムしたいのはなぜですか？人々は繰り返しチェスのプログラムをダウンロードして繰り返し失う可能性がありますか？いいえ、Android OSをダウンロードします。これは、連携して費用がかからないためです。win-winシナリオが可能な場所で、ゼロサム以外のゲームを見つけられませんか？

すでに私たち自身の種の中から、十分なバックバイティング、ゴシップ、超臨界剤がすでに存在していませんか？アリのように協調知の方向にAIを送ってみませんか？私たちの日々の仕事の負担を分担したい新しい人工的な友人がいる方がいいのではないでしょうか？

将来のロボットに、ミツバチのような六角形のロボットを作ってもらいませんか？あるいは、人間だけがそうであるように、90度の角度での不合理な主張のために、ロボットに私たちの例に従い、垂直構造で材料の70％を無駄にしたいですか？

私は人間を種としてかなり薄暗い見方をしており、人間が十分な人間性（仁）であると評価される逆チューリング試験を提案しました。 （冗談ですが、完全にではありません;）

あなたがバイオマスで行くならば、人間は明らかに地球上で最も成功した種ではありません：

それほど複雑ではない生命形態は非常に効果的であり、特定の問題をエミュレートする価値があることに完全に同意します（例として、Antコロニー最適化アルゴリズムを参照してください）。

しかし、アリによって実行されたとき、世界はどのように見えますか？それが私たちが住みたい世界ですか？

自然界での競争は絶対に残忍であるだけでなく、この残虐行為は種が最適化される（進化）メカニズムです。

人間には欠陥がありますが、私たちも大きな勝利を達成しました。私たちを動物から引き離す可能性があるのは、私たちの成功が「精神の勝利」のカテゴリに分類されることです。利己主義と貪欲が社会を一方向に動かす力がある場合、私たちは反対の力を持ち、別の方向に押します。

一部のゲームは単純にゼロサムであり、それを回避することはできませんが、「オールオアナッシング」でなければならないという意味ではありません（この理由から、チェスよりもパルチザン数独をお勧めします）。

パレート効率として知られている、注目に値する概念があります。世界経済の多くが現在基づいているように思われる金融投機は、あるエージェントの利益が別のエージェントの損失に完全に依存する「より愚かな」原則に依存しています。私たちの最悪の人は、実際のコミットメントを必要とせず、より強力な分析および/またはより良い情報と流動性を必要とするため、これらのメカニズムに焦点を当てて他のすべてを排除しているようです。

代わりに私たちの最高のものに到達しているように見えるのは、パレート改善です。これにより、他のエージェントを悪化させることなく、エージェントをより良い状態にすることができます。

ここでのポイントは、これらの条件を特定して定義するために人間の知性が必要だったことです。（自然はそれほど気にしないかもしれません。）パレート最適性はその起源のために議論の余地がありますが、それはテクノロジー産業の前であり、新しい機会を生み出すのに非常に優れており、社会の安定を最大化しようとします。 （つまり、少し悪くなる方が最適な場合があります。）

私たちの種に対する悲惨な見方は、非効率的またはしばしば愚かなことからではなく、歴史のこの段階では、木から降りてきたように行動し、代わりに部族主義と党派紛争に回帰しているという考えから来ています協力の。

あなたの論文に反して：

• 人間レベルのアルゴリズムによる知性を得ることが重要であるだけでなく、そのようなアルゴリズムを可能な限り「人間化」することは私たちの義務です。

スーパーインテリジェンスとAGIはまだ地平線上にあり、完全に理論的ですが、これらが達成され、これらのアルゴリズムが純粋なメカニズムである場合、私たち人間が最高の状態で大切にしている価値観を欠くだけで、進化プロセスのもう1つの犠牲者になってしまう可能性があります、新しい形の人工生命によって時代遅れになり、私たちが競争する機会はありません。

ある意味では、人間のようなものへのドライブは、より洗練された人間性の祭典と見なすことができますが、ミケランジェロのダビデとは精神がまったく異なるわけではありません。

人間の性質には多くの欠点がありますが、@ DukeZhouによって指摘されているように存在している限り、間違いなく最も成功しています。成功は、私たちが非常に機能的で有能な脳を持っているという事実に完全かつ完全にほのめかされています。他の種と比較して、私たちは物理的に（肉体的な能力）はるかに能力がありません。では、AIを作成しようとしている場合、最高のインテリジェントシステムである自分の脳をモデル化しようとすべきではないでしょうか。

あなたが逃した一つのことは、人間は他のすべての動物よりもはるかに平和であることです。動物は生存のために絶え間ない戦争にあり、私たち人間はそれをすべて克服することができました。そして私たちは千年紀の中で最も平和な時代に生きてきました。対立が発生する可能性があります。これはおそらく私たちの遺伝子に起因するものです。私たちの遺伝子は私たちの動物の祖先からのものであり、それらは多くのものを脅威として視覚化します（異性の同種の動物を含み、思考プロセスの反対も脅威として認識される可能性があります）。ですから、それは私たちの精神に浸透するはずです。変更できますか？おそらくない（多分それは自然の法則と自然選択に反する）。

競合がなかった2つのケースを見てみましょう。

• ジャラワス -これらの人々は島に人里離れた場所に住んでいます（今でも）。その結果、彼らはまだハンターギャザラーライフスタイルを送っています。これは、自分たちの生活や立場に脅威を感じていなかったため、変える必要性を感じなかったという事実に起因する可能性があります。私達は賢いので、彼らが彼らの領土に侵入することはありません。
• ネイティブアメリカン：ヨーロッパとアジアが戦争をしていた間、これらの人々は島に住んでいました（内戦のみで）。その結果、彼らの技術はほとんど進化せず、ほとんど消滅しました。

アリとミツバチが協力的であることは私にとっては間違った言い方です。特定のコロニーのすべてのアリ/ハチが兄弟であるという事実に完全に起因します（そうでなければ、彼らは他のコロニーを残酷に虐殺します）。また、内部に豊富なリソースがある限り、彼らは領土の境界を維持します。それ以外の場合は戦争があります（ソースを引用することはできませんが、他のアリの領土に侵入しているアリをたくさん聞きました）。

バクテリアは痛みも恐れもありませんが、協力のためにバクテリアが長く存在していたと言っても、私には完全に正しいとは思えません。彼らはおそらく効率的な生存メカニズムを持っています。

@Neil Slaterが言ったように、このすべてのポイントは、動物界のバラ色の絵がないということです。

AIの動作をどのように作成する必要があるのか​​。AIは今のところ遺伝子を持っていないので、その子孫に対する義務はなく、嫉妬もありません。つまり、生物の基本的な構成要素が欠如している（したがって、それに義務/興味がない）ことを意味します。しかし、AI間の競争は良いと思います。さもなければ、彼らは新しい戦略をどのように学ぶのでしょうか？したがって、嫉妬のない競争はAIエージェントの最良のシナリオです（動物の王国ではそうではないかもしれません）。競争がなければ、AI間の知識はおそらく停滞するでしょう。

私はゲーム理論の専門家ではありませんが、2人以上のエージェントが互いに競合している場合、ゲーム理論に従って結果を最大化する必要があります（おそらく、@ DukeZhouが指摘したようにパレート効率を説明するか、物理学の観点からは、エネルギーは作成も破壊もされません） 、システム間でのみ配布されます）。しかし、ここには落とし穴があり、環境に完全に依存する複数の実行可能な戦略があります。これは、コンピュータサイエンティストのAxelrodとHamiltonによって研究され、複数の戦略をテストしたトピックでした。彼らの実験の簡略版は、The Selfish Geneにあります。本の第12章。彼らの実験（コンピューターでシミュレート）は、いい人（無条件に好意を示す人）が必ずしも利己的な人に負けるとは限らないという証拠を明らかに示しています。AIのコロニーを実際に作成する場合は、これをさらに調査する必要があります。

TL; DR：AIと基本的な生存単位（遺伝子）が欠けているため、AIを動物界と比較するのは不公平です。人間は、動物界全体の中で、群を抜いて最も知的で平和です。嫉妬のない競争は、おそらくどんなコロニーや種においても最善の行動方針です。

人間の知性のいくつかの特性は、確かにAIの中核的な長期目標の一部です。これらの特性のほとんどは、明らかに他の種の特性でもあります。本当に重要な問題は、コンピューターが人間のような方法でだけではなく、どのように知覚できるかです。デジタルセンサーから発せられた記号は、何が感知されたかを示すものではありません。コンピュータが取得するのはすべてシンボルなので、コンピュータはどのようにして何かを認識できるでしょうか？

もう1つの本当に重要な問題は、人間とおそらく他のほとんどの動物がある程度一般的な知性を持っていることです。これまでに学んだことを新しい状況に適用することができます。人間には、言語に当てはまる一般的な知識の問題のバージョンがあり、それは純粋に人間のような問題です。しかし、多くの動物は明らかにある種の一般的な知識を持っています。AIはまだ一般的な知識を持つ機械を生産していません。自動運転車両のAIソフトウェアに対する「エッジケース」の悲惨な影響は、非常に心配な証拠です。一般的な知性をどのように得るかも、絶対に根本的な問題です。

だから私の答えを要約すると：現在のところ、人間のような知性は賢い目的ではありません。AIにはもっと根本的な問題があります。現在のスマートな目的は、知覚の原理と、これらをコンピュータに具体化する方法（これが可能であると想定）を理解し、一般的な知能の原理とこれらを具体化する方法を理解することです。

つまり、動物が自分の環境をどのように知っているか、そして過去の経験に基づいて新しい状況に動物がどのように適切に反応するかを解明することです。