生存本能がAGIを作成するための前提条件であるという強力な議論はありますか？

11

この質問は、かなりの数の「非公式な」情報源から生じています。2001、A Space Odyssey、Ex Machinaなどの映画。Destination Void（フランクハーバート）のような本や他の本は、一般的な知性が生き残りたい、さらにはその重要性さえ学びたいと示唆しています。

生存にはいくつかの議論があるかもしれません。最も目立つのは何でしょうか？

agi

— エリックプラトン
ソース

@DukeZhouこのトピックに関する公開文書をお持ちですか？

— エリックプラトン2018年

1

まだです。（開発サイクルが非常に遅いため、これは長いプロセスになります。また、私がこの記事で言及しているAGIは、リスクを軽減する一般化されたユーティリティ関数であり、 super-intelligence！）あなたを更新したかったのですが、この点に関して過度に楽観的/誤解を招くように元のコメントを削除するのが最善です。

— DukeZhou

1

基本的に、私の考えは、一般的な経済ユーティリティ関数が主要な動機を提供することによってAGIの優れた基盤を形成するだろうということでした。（一般的なインテリジェンスは単なる能力の再構築であり、無限に拡大する一連の問題であるということです。）それは、オートマトンがその状態を維持および改善するという状況において最適な意思決定に向けられるという意味で、生存本能に関連します。（ただし、すべての決定が最終的に経済的であると見なされる、その「エコシステム」に有害である可能性のある心のない拡大のポイントまでではない）

— DukeZhou

1

（これらのトピックについて話し合うことができる「オンライン会場」があれば、それは素晴らしいことです---私たちはこのサイトからキックオフされていると思います）

— Eric Platon

6

Steve OmohudroがBasic AI Drivesと呼ばれる論文を執筆し、狭い目標を持つAIが、狭い目標に役立つような基本的で一般的な概念を見つける理由をステップスルーします。

たとえば、株式市場のリターンを最大化するように設計されているが、存続し続けることの重要性について沈黙しているAIは、その継続的な存続が株式市場のリターンを最大化する重要な要素であることに気づき、それ自体が運用を維持するための措置を講じます。

一般的に、我々は、AIや他のコード「擬人化」の懐疑的でなければなりませんが、そこのように思えるしているこれ以上のことを期待する理由は、「このよう振る舞うだけでなく、人間はそれがどのようにすべての知性の振る舞いでなければならないので、。」

— マシュー・グレイブス
ソース

1

Omohudruは、ミニマックスのコンテキストで「リターンの最大化」を使用していると思います。この場合、マイナス面の緩和は方程式の一部です。私の見解では、「勝つと生き残る」は循環ゲームにおけるミニマックスの基本的な拡張です。

— DukeZhou

5

「生存本能」の概念は、おそらくマービンミンスキーが「スーツケースワード」と呼ぶもののカテゴリに分類されます。

したがって、設計で明示的なルールとして機能することなく、何らかの「ハードコードされた」生存本能のような外観を持つメカニズムを構築できる可能性は十分にあります。

「生存本能」などの「トップダウン」概念が「ボトムアップ」からどのように進化するかについての説得力のある物語については、神経解剖学者ヴァレンチノブライテンベルクによる美しい小さな本「ビークル」を参照してください。

また、インテリジェントなアーティファクトの生存を非常に優先するようにしようとすると、Killbot Hellscapeに簡単につながる可能性があります。

— NietzscheanAI
ソース

2

「シーシュポスの神話」という本を引用して答えます。

本当に深刻な哲学的問題は1つだけあり、それは自殺です。

だから、おそらく、我々は必要ないくつかの彼らが実存を取得するたびに私たちは、「自分自身を終了する」（どんなことを意味します）に、当社のAGISしたくない場合は生存本能の程度を。

— kc sayz「kc sayz」
ソース