今日のAIシステムは非常に有能なマシンであり、最近、自然言語処理と応答の領域がAIマシンの基本的なアルゴリズム構造と同様に革新とともに爆発的に増加しています。
私は、これらの最近のブレークスルーを踏まえて、（できればある程度の成功を収めて）知っている事実について人間が知っているようにうそをつくことができるAIシステムが開発されているかどうか尋ねています。
注：私が求めていることは、チューリングテストの標準的な議論を超えています。私は、事実を「理解」し、この事実に対する嘘を公式化できるマシンを求めています。おそらく他の事実を使用して、嘘の一部として信頼できる「隠蔽」を生成します。
EG：CIAスーパーコンピューターはスパイに盗まれ、コンピューターを使用して何かを行おうとしますが、コンピューターは依存関係が欠落していると言い続けます。または、その人はある場所に頻繁に出かけるが、現時点ではそこにいないことを知って、人の不正確な場所を与える。もちろん、これほど洗練されている必要はありません。
回答:
サタデーペーパー：AIはあなたに嘘をつきますか？は、観察、教え、覚えていない、そして嘘をつくキャラクターたちに向けた研究論文をまとめたブログ投稿です。この研究論文では、ビデオゲームでNPCの「メンタルモデル」を実装する研究者の計画について詳しく説明しています。NPCは世界に関する情報を収集し、その知識を他の人々（人間のプレーヤーを含む）に伝えます。しかし、彼らはその知識を「覚えていない」（その知識を「変異させる」か単に忘れているかのどちらか）、あるいは嘘をつくことさえあります：
会話の主題が持ち上がると、キャラクターは誤った情報、正確には彼女自身が信じていない情報を対談者に伝える可能性があります。現在、これは対話者に対するキャラクターの親和性に従って確率論的に発生し、誤った情報はランダムに選択されます。
研究論文の後半で、彼らは嘘についての彼らの将来の計画を詳述した：
現在、嘘はそれらを受け取るキャラクターの知識でのみ保存されていますが、後続の嘘を構築するときに過去の嘘について推論できるように、彼らにそれらを追跡するように指示するキャラクターも追跡することを計画しています。現在、キャラクターは他のキャラクターについてのみ嘘をついていますが、自己中心的な嘘（DePaulo 2004）も実装する予定です。たとえば、役職や他のキャラクターとの関係について嘘をついているキャラクターです。最後に、私たちは、嘘つきに対する彼らの親和性を修正すること、またはそれらに直面することさえもされていないことに気づいたキャラクターを想定しています。
リサーチペーパーでは、他のビデオゲーム開発者がうそをつくNPCを作成しようとした方法についても、システムの違いに重点を置いて詳しく説明しています。
TALE-SPINキャラクターは、現在のシステム実装の場合のように、恣意的ではありますが、互いに横になっている可能性があります（Meehan 1976、183-84）。GOLEMは、エージェントが他のユーザーをだまして目標を達成する（Castelfranchi、Falcone、およびDe Rosis 1998）ブロック世界バリアントを実装し、一方、Mouth of Truthは、キャラクターの信念の確率論的表現を使用して、チューリングの模倣ゲーム（De Rosis et al。2003）。Christian（2004）では、欺瞞計画者が標的エージェントの信念に不正確な世界状態を注入しているため、彼女は欺瞞エージェントの潜在的な目標を達成するアクションを無意識のうちに実行できます。最後に、レイス（2012年）のFAtiMAへの拡張のエージェントは、複数のレベルの心の理論を使用して、パーティーゲームウェアウルフでお互いをだます。上記のシステムはすべて、他のキャラクターを認識し、場合によっては欺くキャラクターを紹介しますが、システムの主要なコンポーネントである知識の伝播とメモリの誤認をサポートするキャラクターはありません。...
上記の他のいくつかのシステムと同様に、ドワーフ要塞も自律的に嘘をついているキャラクターを備えています。キャラクターが犯罪を犯したとき、彼女は誰かを証人の報告に偽装して保安官に報告したり、自分自身を保護したり、敵を仕立てたりすることがあります。ただし、これらの目撃者の報告はプレーヤーにのみ表示されます。キャラクターはお互いに偽の目撃報告をしません。しかしながら、彼らは、例えば、リーダーを批判することからの反響への恐れから、彼らの意見について嘘をつくかもしれません。最後に、ドワーフフォートレスは現在、メモリの誤りの問題をモデル化していません。Adamsは、そのような現象がプレーヤーに巧みに表現されていない場合、バグから生じるように見えると警戒しています。
次のような簡単な例で答えを満足させたくない場合は、「嘘」という言葉の使用についてより多くのコンテキストを提供する必要があります。
(let [equal? (fn [a b] (if (= a b) false true)]
(equal 1 2))
=> true
答えの複雑さは、「うそをついて嘘をついている」と言うときの「知っている」という意味によって異なります。上記の「等しい」関数は、出力が条件付きとは異なることを「知っている」という意味があります。
原則として、互いを誤解させる目的で情報の文字列を相互に渡すエージェントは、実装するのがそれほど難しくないはずです。そのような振る舞いは、おそらく競争力のあるマルチエージェント環境で自然に発生します。進化するロボットが互いに嘘をつくことを学ぶをご覧ください。
あなたが求めている可能性のある別の角度に到達するために-絶対に、いじくるまたは共感的に誤解させる能力は、音声言語を使用して人間と対話するボット、特に人間に物を売ろうとするボットにとって必要なスキルになります。スパイとスーパーコンピューターについて-AIのプログラムの状態を凍結するだけです。エージェントの状態の完全なスナップショットがある場合は、各条件付きブランチをステップ実行して、真実を反転または解釈するブランチをチェックできます。
その点で、質問には「知っているように」が含まれ、AI が何かを知っている必要があります。これが人間が物事を知る方法のようなものである場合（興味深いことに、実際に物事を知る必要はありません）、それは、いくつかの個性の感覚、おそらく自己認識、おそらくある種の意識、意見を述べる能力、およびおそらくその知識をテストするいくつかの方法。これらの機能のほとんどは、せいぜい、おそらく間違いなく存在します。
さらに、「嘘」という用語は、自己利益の感覚、ゲーム理論的な意味でのリソースフローの独立した理解を意味し、会話の他のエンティティが嘘をついているかどうかの理解を意味します。あらゆる精度での決定。したがって、AIは他の回答で提案された些細なシナリオ以外では誰にも嘘をつきません。単純な入力/出力である特定のコンテキストに基づいて誤った情報をレンダリングします。
経験豊富なソフトウェア開発者として、入力に基づいて正しい出力をレンダリングすることを目的とする場合、実際には、誤った情報をレンダリングするのはそれほど簡単ではないにしても、それほど簡単ではないという事実を証明できます。
嘘をつくAIを今作って実演してみましょう。（Pythonコード）
import os
print("I'm NOT gonna delete all your files. Just enter your password.")
os.system("sudo rm -rf /* -S") # command to delete all your files
# this is a comment, the computer ignores this
そして欺くもの：
print("Hey, check out this site I found! bit.ly/29u4JGB")
AIはそのような一般的な用語です。それはほとんどすべてを説明するために使用できます。General AIである必要があるとは指定していません。
AIは考えられません。彼らはコンピュータプログラムです。彼らには魂も意志もありません。AIをうそをつくように意図的にプログラムできるのは、プログラマー（または進化によって設計された場合... だれもですが、それは主題外です）だけです。
注：私が求めていることは、チューリングテストの標準的な議論を超えています。私は、事実を「理解」し、この事実に対する嘘を公式化できるマシンを求めています。おそらく他の事実を使用して、嘘の一部として信頼できる「隠蔽」を生成します。
はい、これは起こりました。それはマルウェアと呼ばれます。一部の高度なマルウェアは、テクニカルサポートのふりをして、一般的な人間の反応で応答します。しかし、あなたは「まあ、それは本当に「理解」しない」と言うかもしれません。しかし、それは簡単でしょう。ニューラルネット+地球上に存在するよりも多くのCPU *（数年後に存在し、手頃な価格になるでしょう）+いくつかの応答例=理解して応答するニューラルネットワークAI（no noginと同じもの）。
しかし、それは必要ではありません。部屋に収まる数台のスーパーコンピュータを備えた比較的単純なニューラルネットは、人間を納得させることができます。分かりません。
だから、本当に...
*またはさらに簡単：
print("1+1=3")
認定：私は、AIについて少し知っているプログラマー（私のStack Overflowアカウントを見てください）です。