「機械は驚きを引き起こすことができない」と言ったとき、チューリングは何を意味したのですか？

私はここでアラン・M・チューリング による以下の声明に遭遇しました：

「機械が驚きを引き起こすことはできないという見方は、哲学者や数学者が特に受けやすい誤acyによるものだと思います。これは、事実が心に提示されるとすぐに、その事実のすべての結果が生じるという仮定ですそれと同時に心。それは多くの状況で非常に有用な仮定ですが、それが間違っていることを簡単に忘れてしまいます。」

私は英語のネイティブスピーカーではありません。誰もがそれを平易な英語で説明できますか？

数学者や哲学者はしばしば、マシン（そしてここではおそらく「コンピューター」を意味する）が私たちを驚かせることはできないと考えています。これは、何らかの事実を学習すると、この事実のすべての結果をすぐに理解すると想定しているためです。多くの場合、これは有用な仮定ですが、誤っていることを忘れがちです。

彼は、シンプルで有限の記述を持つシステム（チューリングマシンなど）は非常に複雑な動作を示す可能性があり、これは一部の人々を驚かせると言っています。チューリングマシンの概念は簡単に理解できますが、停止する問題の決定不能など、複雑な結果をもたらすことがわかります。ここでの専門用語は、「知識は推論の下で閉じられない」ということです。つまり、事実を知ることはできますが、が暗示し  ていても、知ることはでき  ません  。$A$$B$$A$$B$

正直なところ、チューリングの議論が非常に良いかどうかはわかりません。おそらく、チューリングの約70年後に書くことのメリットがあり、私の理解では、典型的な数学者はチューリングの時代よりも数学論理について多くのことを知っているということです。しかし、数学者は複雑な振る舞いを持つ単純なシステムのアイデアにほとんど精通しているように思えます。たとえば、すべての数学者は、4つの単純な公理で構成されるグループの定義を知っています。しかし、今日もその後も、だれも「Aha。私は4つの公理を知っているので、グループに関するすべての事実を知っている」とは思わないでしょう。同様に、ペアノの公理は自然数の非常に短い説明を与えますが、それを読む人は誰も「今、自然数に関するすべての定理を知っています。

ほんの一例-チェスのルールを考えると、誰でもすぐにチェスをプレイするための最良の戦略を考えるべきです。

もちろん、機能しません。人々でさえ平等ではなく、事実から結論を出す能力が優れているため、コンピューターは私たちよりも優れているかもしれません。

これは創発の考え方であり、比較的単純なルールの相互作用から複雑な動作が生じる場合です。このリンクが指摘しているように、これには多くの例があります。昆虫のコロニー、鳥の群れ、魚の群れ、そしてもちろん意識。鳥の群れや魚の群れでは、群れの各個体は、すぐ近くにいる他の個体に基づいてのみ決定を下しますが、これらの個体の束をすべてこれらのルールに従ってまとめると、より協調的な行動を見るようになりますより高いレベルの計画なしで期待するでしょう。Youtubeに行って、ロボットの群れのデモンストレーションを見ると、それらはすべて互いに衝突することを避け、一致して動作することがわかります。驚くべきことに、単一の中央コンピューターが個々のロボットの動作を調整することでこれを達成する必要はありませんが、代わりに、昆虫や鳥や魚のように各ロボットがローカルな決定を下す群れロボティクスを使用して行うことができます緊急調整に。

緊急行動のもう1つの興味深いデモンストレーションは、ConwayのGame of Lifeです。ゲームのルールは非常に単純ですが、非常に魅力的な結果につながる可能性があります

人間の知能を獲得するコンピュータの能力に対する魅力的な議論は、彼らがプログラムされたものだけを正確に行うことができるので、彼らは私たちが彼らと一緒にプログラムする知能のみを示さなければならないということです。これが真実であれば、ニューロンの比較的単純な振る舞いが人間の知能を生み出すことも期待しません。しかし、私たちが知る限り、これは事実であり、意識は神経処理の新たな特性です。チューリングは、人工ニューラルネットワークを使用して今日何が可能になるのかを楽しみにしていたはずです。

プログラムを作成し、アルゴリズムを完全に理解し、バグがなければ、そのプログラムの出力がどうなるかを知っておくべきであり、それが私を驚かせるべきではないと人々は思うかもしれません。

Turingは、これは事実ではないと言っています（そして私も同意します）：出力は驚くべきものです。巡回セールスマンの問題の解決策は驚くべきものです。全加算器を作成する最良の方法は驚くべきことです。チェスゲームでの最高の動きは驚くべきことです。