技術的な特異点は、超知性でのみ発生するのでしょうか


10

本「人工知能:現代のアプローチ(第3版)」の第26章では、テキストは「技術的特異性」について説明しています。それは1965年に書いたIJグッドを引用しています:

超インテリジェントマシンを、どんな人のすべての知的活動よりもはるかに優れたマシンと定義してみましょう。機械の設計はこれらの知的活動の1つであるため、超インテリジェント機械はさらに優れた機械を設計できます。その場合、疑いなく「知性の爆発」が起こり、人間の知性ははるかに遅れたままになります。したがって、最初の超インテリジェントマシンは、そのマシンを制御下に置く方法を教えてくれるほど柔軟であるという条件で、人がこれまでに作成する必要がある最後の発明です。

後で教科書で、あなたはこの質問をします:

26.7-IJグッドは、インテリジェンスが最も重要な品質であり、超インテリジェントマシンを構築するとすべてが変わると主張しています。知性のあるチーターは、「実際には速度がより重要です。もし超高速のマシンを構築できれば、それはすべてを変えるでしょう」と知覚の象は、「あなたはどちらも間違っています。引数?

教科書の質問は、IJグッドに対する暗黙の議論のようです。人間の強みが「知性」と呼ばれるその特性にあるからといって、善は知性を価値あるものとして扱うかもしれません。しかし、代わりに他の特性(速度または強さ)を同等に評価することができ、感覚的な存在は、いくつかのマシンまたは別のマシンによって "最大化"されているそれらの好ましい特性について乱暴に推測する可能性があります。

これは、知性を最大化するのではなく、他の特性を最大化するマシンを構築した場合に特異点が発生するのではないかと不思議に思います(常に強度を増加させるマシン、または常に速度を増加させるマシン)。これらのタイプのマシンは、変革を起こすことができます。超高速マシンは、「ブルートフォース」により問題を迅速に解決する可能性があり、超強力マシンは、さまざまな物理的タスクにそのままの力を使用できます。おそらく、ウルトラXマシンは別のウルトラXマシンを構築することはできません(IJ Goodがマシンの設計を知的活動として扱っていたため)。それに依存しています。

技術的な特異点は超インテリジェントに限定されていますか?あるいは、「特異なAI」ではないが、「超」オプティマイザであるマシンによって、技術上の特異点が引き起こされるのでしょうか。

回答:


4

それはスピードや強さには当てはまりません。もしあなたが超強力な実体を持っていて、それが新しい材料を研究できないなら、それはすぐに制限されます、スピードも同じです。暴走の改善は不可能です。

私たちはすでに超強力で超高速の機械を持っていますが、それらは自動車、トラック、油圧プレス、産業用外骨格などです...しかし、古いものを使用してより良いものを構築することができたとしても、まだ研究する必要があります古いものでは改善できません。

特異点に必要なのは、それを改善することでさらなる改善が容易になる分野です。そして、これが知性を必要としない分野を知りません。存在する場合、非インテリジェンス主導の特異点が存在する可能性があります。


0

「モンテカルロ」は、現在、アルゴリズムによる創造性のための最良の方法のようです。(つまり、マシンはランダムな選択を行い、それらが有用なものにつながるかどうかを確認します。)

理解から形成された創造的なつながりはランダムなものより優れていることは明らかですが、マシンが十分に高速であれば、純粋な「ブルートフォース」で勝つことができるはずです。

すなわち、人間の指導以前の進化は知性に基づいていませんでした。*むしろ、進化は有益であるか有害であるランダムな突然変異に基づいていました。


*注意点は、人間がアルゴリズムを作成し、遺伝子を変更する(実験室で、または畜産や園芸によって)人間の知性と欲望に実際に根づいた新しい形態の進化であると言えるということです。


-1

これはあなたが探していたものではないかもしれませんが、技術的にはそうです。スピードとストレングスではありませんが。しかし、新しい数学的/物理的/化学的ソリューションをランダムに推測して、ランダム推測(基本的にはマシンがより高速に計算し、それらの発見の効果をシミュレートできるようにするもの)をより効率的にすることで、技術的に特異性に似たものを達成し、実際に(または人間レベルで)インテリジェンスを使用することです。

これは効率的ですか?いいえ、実現可能であるとは言えません。うまくいきますか?技術的には、はい。

それ自体が継続的に改善されるため、一種の特異点となるでしょうが、それ自体の知性を改善する必要はありません。

もちろん、いくつかの調査結果はよりインテリジェントになることを可能にするかもしれませんが、それはそれらの調査結果をそれ自体に適用しないと仮定しましょう。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.