高度な人工知能を作成するための意識はどれほど重要ですか?


14

高度なAIを作成するための意識と自意識はどれほど重要ですか?私たちはそのようなものからどれくらい離れていますか?

たとえばニューラルネットワークを作成する場合、(おそらく)意識はありませんが、数学だけが背後にありますが、将来、より複雑なタスクを解決するためにAIを意識する必要がありますか?さらに、実際に何かが意識的であるか、それが偽物であるかを確実に知る方法はありますか?意識的であると主張するコンピュータープログラムを作成するのは「簡単」ですが、それがそうであることを意味するものではありません(例:Siri)。

また、AIが意識なしで事前定義されたルールのみに基づいている場合、それを「インテリジェンス」と呼ぶことさえできますか?


3
他の人間が意識しているかどうかさえ
わかり

回答:


11

人工意識は、挑戦的な理論的および工学的目標です。その大きな課題が満たされると、コンピューター自体の意識的な認識は、マイナーな追加になる可能性があります。なぜなら、意識的なコンピューターは、その意識が認識できる別のオブジェクトにすぎないからです。

子供は鏡を見て、手を前後に動かしたり顔を作ると、それに応じて反射が変化することを認識できます。彼らは自分自身を認識しています。後で彼らは、自分の動きを物理的に制御することは、他の人の手や顔を制御するよりもはるかに簡単であることに気付きます。

特定の社会的および経済的スキルが習得されている場合、顔の制限された制御および他の人の手動操作が可能であることを学ぶ人もいます。彼らは雇用主、地主、投資家、活動家、作家、ディレクター、公人、または起業家になります。

認知科学を研究したり、専門的なカウンセラーや深い聞き手であるために思考の種類の境界線を経験した人は、意識の周りの境界線がぼやけていることを知っています。これらを考慮してください。

  • スピーチを聞く
  • シーンを見る
  • ゲームに焦点を当てる
  • アイデアを提示する
  • 仕事のために洗う
  • 車を運転する
  • 購入の選択

これらのことのいずれも、特定の種類の意識、潜在意識、衝動、または習慣の有無にかかわらず行うことができます。

主観的に、人々は車から降りて帰宅したことを思い出さないと報告します。誰かが話しているのを聞いて、肯定してうなずき、「はい、わかりました」と答え、さらに彼らが言ったことを繰り返すこともできますが、詳細に質問すると、スピーチの内容の記憶がないように見えます。段落を読んで理解することなく最後まで到達することができます。

対照的に、衛生の重要性を考慮し、手術の準備をしている外科医のように注意を払って、石鹸の臭いに気づき、水道水の塩素消毒にさえ気をつけて、人は仕事のために心を洗うかもしれません。

これらの両極端の間で、部分的な意識は、実験および個人的な経験によっても検出できます。意識には最も確実に注意機能が必要であり、これは一時的に他の脳体サブシステムの調整を監督します。

生物学的または人工的なシステムが注意深く調整する能力を達成すると、調整できるオブジェクトとタスクを交換できます。これらを考慮してください。

  • ダイアログ
  • 勝つために遊ぶ
  • 誠実さまたは不正直の検出

ここで、自発的注意または外部指示の注意を比較するとき、これらの精神活動がどれほど類似または異なるかを考えてください。

  • 自分と話すことも、他の人と話すこともできます
  • チェスゲームの両側でプレイしたり、他のプレイヤーと対戦したりできます
  • 自分の動機や別の動機を精査することができます

これは、自己意識の自己部分がAIの課題ではない理由の説明です。難しいのは、注意深い(まだ暫定的な)調整です。リアルタイム制御システムで動作するように設計された初期のマイクロプロセッサには、この暫定性を単純化してモデル化する例外信号が含まれています(さらに含まれています)。たとえば、ゲームで勝つためにプレイしているときに、被験者との対話を開始しようとする場合があります。2つのアクティビティが同じサブシステムを必要とする場合、注意が変わる場合があります。

私たちは、この注意意識の切り替えについても考慮する傾向があります。私たちが勝つために遊んでいる人と対話を始めようとしている人なら、「こんにちは?」と言うかもしれません。疑問符は、プレイヤーが意識しているかどうか疑問に思っているからです。

意識の意味を最も基本的な基準まで減らすとしたら、これを言うかもしれません。

「私のニューラルネットワークは、私が収束基準とネットワークの現在の動作との間の不均衡をパラメータ化されていることを意識しているため、少しだけインテリジェントになります。

その声明については、まったく不正確なものはありません。それを「ナローインテリジェンス」と呼ぶ人もいます。それは、設計で利用可能な最も効果的な技術の多くを使用する任意の深さの人工ネットワークの天文学的な数の可能なアプリケーションがあるかもしれないので、わずかに不正確な特性評価です。

特性としての狭さに関する他の問題は、狭くないインテリジェントシステムがあるという推論です。すべてのインテリジェントシステムは、よりインテリジェントなシステムに比べて狭くなっています。この思考実験を検討してください。

ハンナは、一般的な知能に関する論文を、理論的取り扱いとライティングスキルの両方で卓越して執筆しています。多くの人がそれを引用して参照しています。ハンナは現在、AIキャリアで非常に成功しているため、ロボットシステムを構築するためのお金と時間を持っています。彼女はそのデザインを現在の有名な紙に基づいており、費用をspareしみません。

驚いたことに、出来上がったロボットは適応性が非常に高いため、その適応性は自分自身をも超えています。彼女は大学の近くに住んでいるので、楽しみのためにジョージア工科大学と名付けています。

ジョージアは大きな友達になります。彼女は信じられないほどの速度で学習し、驚くほど素晴らしいハウスメイトであり、ハンナが人間的に可能だと思ったよりもきれいに掃除しています。

ジョージアは、ジョージア工科大学に応募し、ハンナの家からバスですぐのところにあり、そこで人工知能を研究しています。わずか3年の研究で博士号を取得したジョージアは、ハンナが優雅に開催した論文出版会に出席した後、ハンナと一緒に座ります。

最後のゲストが去った後、ハンナが彼女の家の本当の状態を認識すると、沈黙の瞬間があります。彼女は、「ジョージアは今、彼女の研究で私を上回るでしょうか?」と考えます。ハンナは最後に、「ジョージア州の完全な正直さで、あなたは今私のような一般的な知性を持っていると思いますか?」とひっそりと尋ねます。

一時停止があります。ジョージアは、謙虚さを強要された表情で、「一般的な知性の定義により、私はそうです。あなたはもういません」と答えます。

この物語が2018年、3018年に真実になるかどうか、あるいは決してそうでないかどうか、原理は明確です。ジョージアは、ハンナが同様にできるのと同じくらい、ハンナと比較して自分自身を分析することができます。物語の中で、ジョージアはハンナの論文で作成された定義を適用します。ジョージアは知性の多くの定義を思いつくことができ、会話の文脈で最も適切なものとしてハンナを選択するからです。

ストーリーのこの変更を想像してください。

...彼女は、ジョージアがどのレベルで考えているのだと思いますか?ハンナは最後に、「ジョージア、完全に正直に、あなたは今私と同じように意識していますか?」

ジョージアは、認知科学、文学、法律、神経学、遺伝学、脳外科、脳損傷の治療、および依存症の研究における1,000件の参考文献など、過去の研究で意識した言葉のすべての使用の記憶を通して考えています。彼女は数マイクロ秒間休止してすべてを徹底的に検討すると同時に、ルームメイトの体温、神経化学的バランス、顔の筋肉の運動傾向、および身体言語を感知します。

敬意を表して、彼女は3.941701の追加の秒数を待機します。これは、彼女が愛するハンナへの屈辱を最小限に抑える遅延として計算し、「何を意識しますか」と答えます。

abCsΦcバツΦcCバツs。したがって、ジョージアの(明らかにすでに証明されている)仮説はそうです。

ΦcCasbϵ>0ΦcCbs+ϵ>ΦcCas

これは、特定のシナリオを意識する誰かまたは何かが常に存在する可能性があることを示す数学的な方法です。このように、評価の基準を意識から知性に変更します。

ΦCasbϵ>0ΦCbs+ϵ>ΦCas

ハンナの論文は、かつて高学歴だった人間の周りで最も賢いものが何であるかに関して、一般的な知性を定義していると推測することしかできません。したがって、Hannahの知性の定義は動的です。ジョージア州は、新しい状況に同じ式を適用し、現在、彼女はより低い知性が狭い標準となっています。

意識を確認する能力に関しては、知能よりも実際に確認する方が簡単です。この思考実験を検討してください。

ジャックは、ジャックが購入した新しいチェスセットを使用してディランとチェスをしています。この新しいセットの審美的な美しさにもかかわらず、白いオニキスと黒gateのピースを備えたディランは、各ピースを腕前とチェックメイトのジャックで動かします。ジャックはディランが彼よりも賢いかどうか疑問に思い、それらの条件の下で通常の質問は何であるか尋ねます。

「ディラン、相棒、どれくらいチェスをしているの?」

答えに関係なく、Dylanが高度なAIの量子プロセッサーを備えたロボットであるか人間であるかにかかわらず、Dylanのインテリジェンスを確実に測定することはできません。しかし、ディランがゲームプレイを意識していたという疑いはありません。

この回答の上部にあるリストの例には、意識としての資格を得るための特定の要件があります。ジャックとディランの演奏の場合、いくつかのことが協調して機能しなければなりません。

  1. ボードの状態の視覚的認識
  2. 部品を動かすための腕と手のモーター制御
  3. 指先と親指先の触覚検出
  4. ハンドアイコーディネーション
  5. 調整を把握する
  6. ボードのピースを物理的に移動する方法のモデル
  7. メモリ内のチェスのルールのモデル
  8. プレイするときに勝つ方法のモデル(または、理にかなっている可能性のあるすべての順列を試すための天文学的な計算能力)
  9. ボードの状態の内部表現
  10. 視覚的および勝利の目的の観点からの注意の実行
  11. 生存率や資産の蓄積とは無関係に、チェスでジャックを打ち負かすか、他のことをするか、何もしないかを決定する優先順位付け

接続のトポロジは次のとおりであり、他にもある場合があります。

1⇄4⇄2

3⇄5⇄2

4⇄6⇄5

7⇄8⇄9

6⇄10⇄8

10⇄11

これは、意識が適用される可能性のある多くのタイプの事柄の1つをサポートする多くの統合トポロジーの1つです。

仕事の準備のためだけに鏡を見るか、「私は誰ですか?」という存在論的質問を考慮して深く見るかどうか。意識、潜在意識、衝動、習慣の各組み合わせには、特定の精神的特徴のトポロジーが必要です。各トポロジは、意識の特定の実施形態を形成するように調整する必要があります。

他のいくつかのサブ質問に対処するために、自分で声を録音することで、デジタルボイスレコーダーが5秒でそれを行うようにプログラムできることを意識していると主張するマシンを作るのは簡単です。

ロボットにこの答えやその他の概念を読んでもらい、思慮深く考えてから、人間の発話の語彙と慣習の知識から文章を構築して、その結論がまったく異なるタスクであることを伝えます。このようなロボットの開発には、さらに1,000年のAI研究が必要になる場合があります。たぶん10。たぶん決して。

複数から単数に切り替えられた最後の質問は、「[人工的にインテリジェントなデバイス]が、意識なしで事前に定義されたルールでのみ動作する場合、それをインテリジェントと呼ぶことさえできますか?」です。答えは必然的に定義に依存しますΦ 上記、および、どちらも Φc また ΦAIコミュニティ内に標準定義がある場合、相互エントロピーまたは相関を判断できません。不確定です。

おそらく正式な定義 Φc そして Φ 作成して、IEEEまたは何らかの標準化団体に提出できます。


「狭さ」の新しい使用法に関する私の理解は、AGIとしての「stong AI」の従来の使用法とは異なり、特定のタスクでの強力なパフォーマンスを暗示しているということです。
公爵

1
「意識の困難な問題」(en.wikipedia.org/wiki/Hard_problem_of_consciousness)と呼ばれるものに慣れていますか?「なぜクオリアが存在するのか」などの質問をせずに、意識の機能的な説明を説明すると思います。質問全体を単純化します
スティーブンサゴナ

2
興味深い答えは、「意識を確認する能力に関しては、知性よりも確認する方が実際に簡単です」と述べるなど、大きな意味で罪を犯します。控えめに言っても、それは「太字」を超えています。私は意識しています-それは知っています。本当に他の生き物を保証できませんでした。そして、「いつ/どのように」意識したのかさえ想像できませんでした。ある時点で、私はそうではありませんでした-誕生と受胎前。今日私は。どのように、いつ正確にそれが起こりましたか?@StevenSagonaが言ったように-意識は本当に難しい問題です。処理は、質問から単純に損なわれます(そして逸脱します)。
ビニシウスM

私はあなたが2つの異なる概念を混合していると信じています:注意と意識。
nbro

0

意識が私たちを人間にするものであるため、自己意識のAIは重要です。そして科学者は、人間と人間の行動により近いAIを開発しようとしています。人間の思考プロセスは非常に複雑であり、AIでそれを開発することは、意識のあるロボットに実際に置き換えることができます。AIが意識を持っていないため、意思決定を伴う作業を行わない唯一の理由。


2
これにはいくつかの引用と定義が必要だと思います。私の意識の定義はある程度の意識を可能にし、より複雑な動物、例えばほとんどの哺乳類は意識があると仮定しているので、私は個人的に「意識は人間を人間にする」ことに同意しません。また、意識は推論から適度に分離されていると考えています。たとえば、意識的になり、合理的な意思決定ではなく、感情的な反応によって完全に制御される精神状態にある可能性があります。ただし、異なる定義を使用している場合があります。そのため、それらを定義に追加する必要があります。
ニールスレーター
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.