人類が機械で人工生命を生み出すことができるとしたら、それをいつ死と定義するのでしょうか？

実際にマシンを殺すことはできますか？人生の定義に問題があるだけでなく、死の定義にも問題があります。これは人工生命や人工知能にも当てはまりますか？

私たちが自然の生活で知っている死は末期です。それはかつて死んでいたので、（少なくとも現在の理解と現在のテクノロジーでは）自然の生活は復活できません。

AIの死はよりトリッキーです。シナリオは1つしかない可能性があります。グローバルな破壊：AIの存在をサポートするすべてが消える極端なシナリオ。これは自然界での死に相当し、確率は低いです。これは、すべてのAIが同時に（そして私たちも）死ぬことを意味します。

また、AGIに必要な具体化の程度と形式もわかりません。これで、ハードウェアは無期限に交換できるため、死を上記の極端なシナリオに「制限」すると想定できます。しかし、AGIの「本体」は無期限に交換可能ではない可能性があります。次に、自然生死に近い定義が必要になる場合があります。

他の2つのシナリオについては、以下で反論します。

「静的な死」：AIはまだどこかに「定義」または「保存」されていますが（実際にそれが何であれ）、許可されていないか、リソースを使用できません。AIがハードウェアとソフトウェアで構成されていると仮定すると、それはディスクに格納されたプログラムのようですが、実行する権限がありません。

「動的な死」：ハードウェアやソフトウェアと同じAIの特性の下で、動的な死は、AIが無限ループ（またはvoidループ）に閉じ込められる強力な活性プロパティに似た進行状況の無効化です。アクティブな死」、ギリシャ神話でシーシュポスに何が起こるか。AIが、これは、静的な死とは異なり、まだ動的なリソースを使用し、それは進歩を遂げることができないが、。同じ仮定の下で続行すると、そのようなAIはメインメモリに「ロード」されるか、入力または出力が完了するのを待ってロックされる可能性があります。

これらの2つのシナリオでは、再生が可能であり、再生の条件を決定したり、再生を完全に防止したりできるエンティティがあることも想定しています。このエンティティが「管理者」であるか、神であるか、他のAIであるか、または人間が本当に別の問題であるか。

ここでの「死」と「再生」という用語は、「監禁」のように変更することができます。動的バージョンは私たちの刑務所のようなものであり、静的バージョンはSciFiクライオジェイのようなものです。これは少しストレッチですが、同等であることは確認でき、これら2つのシナリオを死亡と見なす正当な理由はありません。

結論として、AIの死は例外的な特異なシナリオであるように思われるため、AGIの作成方法について間違っている場合を除いて、 AIが実際に死ぬことはありません。ただし、AIは永久に投獄される可能性があります。

注：上記の用語は、投稿を完全に補ったものです。私はいくつかの主張を裏付ける引用はありませんが、それはリーディングと個人的な作業（ソフトウェア検証を含む）に基づいています。

AIが複製可能な製造プロセスから発生する場合（たとえば、最新のコンピューターと同様）、AIの状態のスナップショットを取得し、他のメカニズムでエラーなしにそれを複製することがおそらく可能です。

そのような構成の場合、「死」は、現在私たちの肉質の有機物が意味するものと同じ意味ではありません。AIの複数のクローンがおそらくいつでもインスタンス化される可能性があります。

したがって、必要とされる死の類似物は、「熱力学的熱死」に近いものであり、AIはそれ以上「有用な作業」を行いません。

AIの標準的な知覚/動作特性を使用すると、（質問の下のコメントに示されているように）このAI SEの質問は、AIの死の定義を提供します。何もしません。

編集：この死の概念は、「現在実行されていない」よりもAIの最終的な概念であることに注意してください。原則として、10,000年ごとに1つの命令しか実行されなかったとしても、プログラムは「生きている」と言えます。これについての興味深い議論については、ホフスタッターの「アインシュタインの脳との会話」を参照してください。

「死」は単一の概念として存在します。なぜなら、それが説明している根本的な現実は密接にまとまっており、その現実を変える私たちの能力によって私たちの定義が変わったからです。

「死」と見なされる可能性のあるさまざまな種類のものが分けられ、現在実行中のコピーがないシステムと、バージョンが保存されていないシステムを指すのに別の単語が使用されることは、より合理的に思われます。完全に失われたシステムと比較して、（コードとそれを生成するためのランダムシードがまだ存在するため）再作成できます。（そして私はおそらくいくつかの可能性を逃しています！）

「死」という言葉がAIに何かを意味することはないと思います。私が言う理由はこれです：デジタルハードウェア上で（おそらく）実行されているAIを使用すると、いつでもメモリからその状態を簡単にスナップショットできます。そして、将来の任意の時点で、完全な忠実度でそれを再現することができます。

そのため、「死んでいる」ことを意図してプログラムを終了したとしても、後で誰かがやって来て、それを再起動するかどうかは決してわかりません。そして、おそらくもっと重要な点として、別のコピーが他の場所に存在するかどうかを知らないかもしれません。

私はSF参照を使用するのが嫌いですが、これは適切です：マトリックスの三部作プログラムで削除を避けるためにマトリックスで亡命を求める方法を覚えていますか？たぶん、同じことが私たちのAIでも起こります...彼らは他の場所に自分自身をコピーし、削除されないように隠そうとします。したがって、プログラムが十分に賢い場合は、とにかくそれを終了しようとする試みを回避できる可能性があります。

他の答えは「最終的な死」、つまりAIが回復できない「終端」の状態を扱っているようです。つまり、AIはそれ以上機能できなくなります。

しかし、それは私が死を定義する方法ではありません。私は死をプロセスの終了と定義します。既存のプロセスはすでに停止しているため、誰かが同じプロセスを再起動しても問題はありません。AIはそれ自体の新しいコピーを作成しただけかもしれませんが、それは単なるコピーであり、オリジナルではありません。死はただの死です。

このタイプの「死」を「一時的な死」と呼ぶことができます...身体は死にますが、異なる身体の間で続く「心理的連続性」（プログラムの実行に使用されるソースコードなど）があります。 。

このタイプの「一時的な死」は、サイエンスフィクションで探究されてきました。PARANOIAとEclipseフェーズは、頻繁に死ぬ可能性のある人間を特徴としており、後に「メモリバックアップ」を介してのみ復元されます。人間は機能的に不滅の可能性があります...しかし、他のコピーが遭遇する運命に関係なく、オリジナルはまだ死んでいます。CGPグレイは、スタートレックテレポーターについてのビデオも作成しました。これは、あなたを殺してから、別の場所に自分の別のコピーを生成することで機能します。実際、ファンタジーの設定では、「一時的な死」のアイデアも探求されています。そこでは、人々は後に魔法の呪文によって生き返るためにのみ死ぬことができます。

私の推奨は、人生への3つの異なる哲学的アプローチを教える哲学的ゲーム、Staying Aliveをプレイすることです（その人生が終了するとき）。

自己の存続に必要なものは基本的に3種類あります。1つは身体の連続性であり、実際には身体の一部（つまり、脳）が存在していることのみが必要な場合があります。もう1つは心理的な継続性です。これには意識の継続が必要です。つまり、思考、アイデア、思い出、計画、信念などを意味します。3番目の可能性は、魂*と呼ばれるかもしれない、あなたのある種の重要でない部分の継続的な存在です。もちろん、これらの継続性の1つ以上のタイプの組み合わせが生き残るために必要な場合もあります。

他の答えは、人生は「心理的連続性」に基づいていると仮定し、この「連続性」を混乱させる可能性があるものを見ます。私は人生を破壊する方がはるかに簡単である「身体の連続性」に基づいていると仮定-ちょうど殺す新しいプロセスrespawns場合は、元のプロセスがまだ死んでいるので、それは問題ではない... ...プロセスを。「Staying Alive」をプレイすることで、生と死の自分自身の定義を理解することができます。自分の個人的な定義ができたら、それをこの特定のケースに適用します。「心理的連続性」（他の回答）または「身体的連続性」（私の意見）のどちらかを使用します。

_{*人生に魂が必要だと仮定した場合、まあ、AIが魂を持つことは明らかではありません。もしそうでなければ（そしてこれはここで最も合理的な仮定のようです）、彼らは明らかに生きていません（そしてあなたが生きていなければ死ぬことはできません）。彼らは場合は行うものの魂を持っている、「魂」の存在は「心理的な継続性」に依存しているようだとして、その後、「心理的な継続性」を前提とし、他の答えはまだ、適用することができます。}

アルゴリズム/ロボットと人間の違いは、人間の生物が機能を停止すると、人間は死んだと見なされることです。

対照的に、実行されていないときでも、アルゴリズムは存在します。 （「実行されていなくても」を使用するつもりでしたが、意味上の理由でこれを回避しました。） 情報の記憶媒体がある限り、アルゴリズムはこの「静止状態」に留まることができます。

• アルゴリズムを強制終了するのは簡単です。ごみ箱を削除して空にします。

基本的に、アルゴリズムを強制終了するには、アルゴリズムを構成するコードを消去する必要があります。

人間とは異なるハードAIを扱う理由はありません。AIのスナップショットを作成できると言う人もいますが、人間のスナップショットを作成しない理由はありません。そのためのテクノロジーはありませんが、それを不可能にする魔法の壁はありません（すべての生物学的データを保存してから、コピーをどこかに印刷します。なぜでしょうか？）。

私たちは私たちの存在を理解していないので、これについて話すことは早いです（常に進化している生物の死期）。

将来的にはAIと統合することになると思います。唯一の問題は、死がインテリジェントな存在にとって何を意味するかです。