特異点は真剣に取られるべきものですか?


10

シンギュラリティという用語は、主流のメディアで先見の明のあるテクノロジーを説明するためによく使用されます。それは、レイ・カーツワイルによって人気のある本「特異点が近くにあるとき:人間が生物学を超越するとき」(2005)で紹介されました。

カーツワイルは彼の著書で、ナノテクノロジー、コンピューター、遺伝子組み換え、人工知能を含む、人類の潜在的な将来について展望しています。ムーアの法則により、コンピューターが指数関数的に成長し、結果として超知性がもたらされると彼は主張している。

ある技術的特異点は、 AIの開発者によって真剣に取らまたはこの理論は、人気の誇大宣伝のちょうど負荷です何か?


特異点に関する議論は、いわゆるネオルダイト運動のサブトピックです。それは悲観的な見通しを持つ技術進歩についての哲学的議論です。ビルジョイは、2000年代に有名なエッセイを発表しました。ネオルダイト運動は、シリコンバレーのより強くより速くより賢い思考に対するある種の反イデオロギーです。特異点とは、議論を和らげることを目的とした、テクノロジーのイデオロギーとプロのテクノロジーを組み合わせたものです。
マヌエルロドリゲス

2
私は、特異性が遠隔でさえ可能であることを示唆する、AIに関連する堅固な科学的根拠を見つけるのは本当に難しいでしょう。
Andreas Storvik Strauman、2018

このQ&Aに興味がされることがあります。ai.stackexchange.com/questions/7337/...
ニール・スレーター

回答:


8

私が関わっているAI研究者の間では、それを解決された事実としてではなく、野生の推測として見ることがはるかに一般的であると言えます。

これはAI研究者の調査によって裏付けられており、80%の人が強力な形のAIは「50年以上」または「決して」出現しないと考えており、ほんの数パーセントがそのような形のAIは「近い」と考えています。

ソフトウェア開発者はAI研究者と同じではありません。私は、特異点神話が開発者の間ではるかに広まっていることを発見しました。それは素晴らしいリングを持っています:コンピュータはより速くなり続けます、ある時点で彼らは脳よりも速くなるでしょう、その時点で私たちは脳をシミュレートするだけです。その後すぐに、脳よりも優れたものをシミュレートします。

AIの研究者が楽観的ではない理由は、人間の知能をまだ十分に理解していない、またはそれをシミュレートするのに十分な脳の理解さえもないという事実に根ざしていると思います。たとえば、過去2週間で、これまで知られていなかった種類の脳細胞が発見されました。これにより、十分に高速なコンピューターがあったとしても、人間の脳を正確にシミュレートすることは不可能に近いという(正しい)印象を与えます。私たちは人間の脳が何であるかを本当に知りません。

私たちがそれを知っていたとしても、シミュレーションは必然的に損失を伴います。良いシミュレーション技術がないかもしれません。たとえ優れたテクニックがあったとしても、脳をシミュレートして、理解できない理由でシミュレーションが期待どおりに動作しない場合があります。これは、新しいシステムをシミュレートする場合に非常に考えられます。ある意味で、Singularityの支持者は、1940年代に気象管理が近かったと予測する人々に似ています。結局のところ、その時点ですでに単純な気象パターンをシミュレートし、ある程度機能した予測を生成することができました。完璧な予測を生成することは、どれほど複雑になるでしょうか?


2
この声明は、AIの研究者たちがインテリジェントマシンを構築するという彼らの夢を拒否し、提供するものがないことを認めるAIの冬の始まりのように読めます。現実をもう少し楽観的に説明できると思います。Blue brainプロジェクトでは、不滅は目標の1つであり、ナノボットで達成できます。彼らは心をある脳から別の脳にコピーすることができます。未来派によると、これは2030年に実現するでしょう。少なくともEUはこれが理にかなっており、10億米ドルのプロジェクトを支援していると信じています。その量は十分深刻ですか?
マヌエルロドリゲス

2
@ManuelRodriguez私は、技術の現実的で成熟した見方ほど、冬ではないと思います。私たちは本当にすることができますし、実際にされている今、AIとハードの問題の多くを解決します。それから不死、ナノボット、脳のコピーにジャンプするのは不合理です。最終的にはそのようなものになるかもしれませんが、それらのテクノロジーは機能に近いものではありません。彼らに対する基礎研究のサポートは良いですが、AIが50年代と60年代に資金を調達できなかったわけではありません。お金を使うからといって、10年間で不死身の頭脳やクローンが生まれるわけではありません。その考えは笑える。
John Doucette

私が10年以内に不死を個人的に信じていると言っているのではありません。EU人間の脳プロジェクト(10億米ドル)、米国の脳イニシアチブ(合計45億米ドル)、中国の脳プロジェクト(2億米ドル)などのいわゆる「全脳エミュレーション」プロジェクトには特異点があることを明確にしたいだけです。彼らの目標として。政府がナノボットの可能性について疑わしい場合、政府はそれほど研究に費やしません。
マヌエルロドリゲス

@ManuelRodriguezもちろんそうです。失敗したプロジェクトであっても多額の費用がかかる場合でも、非常に貴重な研究につながる可能性があります。
フォレスト

3

他の多くの重要な貢献の中で、少なくとも1人の非常に重要で真面目な AIサイエンティストが、真の人工知能とおそらくは超知性の創造を信じているようです。LSTMの共著者であるJürgenSchmidhuberです。実際、彼は最近、この究極の目的、つまり、汎用の人工一般知能を構築するためにNNAISENSEを設立しました。彼の講演でTEDxLausanneでクリエイティブマシンが人を追い抜くとき、シュミットフーバーは特異性オメガとも呼ばれます)について話します。彼のWeb記事「歴史は収束しているか?」も参照してください再び?(2012)または紙2006:AIの75年を祝う-歴史と展望:次の25年(2007)。


これは真実ですが、彼は間違いなく少数派のAI研究者です。確かにシュミットフーバーは十分な資格を持っていますが、私はほとんどのAI研究者がAIのこの要素に関する彼の見解を真剣に受け止めていないと思います。
John Doucette

1
@JohnDoucetteはい、同意します。私はこの興味深い例外的なケースを指摘したかっただけです。
nbro

0

「技術的特異性」は複数の分野(数学、統計学、科学哲学、認識論、社会学、政治学、経済学など)で構成されているため、同じページにアクセスするには、「技術的特異性」について言及する必要があります。

一般的に、adj + ai(ここでadj = {weak、strong、full、arrow、...})に関連する概念を考えると、投機のブレスはかなり大きく、開発者として(開発者I google xなどのプロジェクトマネージャーではなく、コーディング関連の問題に取り組んでいると想定してください)休憩中に同僚とお茶を楽しんでいない限り、私は心配しません。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.