AIについて議論するときに擬人化言語を使用する必要がありますか？

英語は人工知能について話すのにあまり適していません。そのため、AIが実際に「何をしているのか」について人間が互いに通信することは困難です。したがって、機械の内部特性が人類の内部特性に似ていない場合でも、機械の動作を説明するために「人間に似た」用語を使用する方が理にかなっています。

擬人化言語はテクノロジーで多く使用されていましたが（コンピュータープログラマーがテクノロジーを説明するときに擬人化用語を使用することを正当化しようとするハッカーの辞書の定義である擬人化を参照してください）、AIが進歩し続けるにつれて、技術的な聴衆と非技術的な聴衆の両方とのコミュニケーションに擬人化言語を使用する。私たちが何をしているのか説明できない場合、どうすればAIをうまく活用できますか？

関連記事のリストを表示するアルゴリズムを開発したいとします。アルゴリズムが素人にどのように機能するかを説明する方法は2つあります。

1. 非常に擬人化 -アルゴリズムはWebサイト上のすべての記事を読み取り、見ている記事に非常に類似している記事を表示します。
2. 非常に技術的 -アルゴリズムは各記事を「単語のバッグ」に変換し、各記事の「単語のバッグ」を比較して、どの記事が最も一般的な単語を共有しているかを判断します。バッグの中で最も多くの単語を共有する記事は、ユーザーに表示されるものです。

明らかに、＃2は＃1より「技術的に正しい」かもしれません。アルゴリズムの実装を詳しく説明することにより、私たちが大きく同意しない出力を生成した場合に、アルゴリズムを修正する方法を誰かが理解しやすくなります。

しかし、＃1はより読みやすく、エレガントで、理解しやすいです。アルゴリズムが実行する方法ではなく、アルゴリズムが実行していることの一般的な意味を提供します。コンピューターが記事を「読み取る」方法の実装の詳細を抽象化することで、アルゴリズムを実際のシナリオで使用することに集中できます。

したがって、ステートメント1で強調されている擬人化言語を使用したほうがよいでしょうか。そうでない場合、なぜでしょうか？

PS：答えが私が話している対象者に依存する場合（非技術者は＃1を好むかもしれませんが、技術者は＃2を好むかもしれません）、それも私に知らせてください。

明快さを目標とする場合は、擬人化言語を避けようとする必要があります。そうすることで、プログラムの機能について誤解を招くおそれさえあります。

これは、AI研究における悪質な罠であり、経験豊富な研究者でさえ、実際に価値があるよりもはるかに多くの理解をプログラムに与えている場合が多くあります。

ダグラス・ホフスタッターはこの問題を「根絶できないエリザ効果とその危険」という章である程度説明し、「人工知能は自然な愚かさを満たしている」という題名のドリュー・マクダーモットによる有名な論文もあります。

したがって、一般に、AIの擬人化を回避するために特別な努力をする必要があります。ただし、技術者以外のユーザーと話す場合、「サウンドバイト」の説明は（複雑な分野の場合と同様に）受け入れられます。これは、簡略化されたバージョンを取得していることをユーザーに知らせます。

あなたが参照している問題は、単にAIの問題ではなく、一般に高度な技術分野の問題です。疑問がある場合は、常に平易な言葉を使用することをお勧めします。

ただし、AIコミュニティがAIの擬人化された意味合いをしばしば避けている別の理由があります。一部のAI専門家は、人工の一般的な知能が私たちの人間の期待に反するような異質な振る舞いをする可能性があり、ロボットの黙示録につながる可能性があることを警告するのを好むことがよくあります。

ただし、エイリアンのような悪質なAGIに関するこの考え方は、2つの異なる一般性の概念を膨らませているAIコミュニティにおける広範な誤解に由来しています。

• チューリングマシンの一般性、および
• ヒューマンドメインの一般性

一般性と一般人が言う意味は後者です。AGI の公式の定義でさえ、その人間の偶発的な文脈に依存しています。

...人間ができるあらゆる知的タスクを実行します。

しかし、その定義では、行動を一般化しても、それはより異質なものにはなりません。一般化することは擬人化することです。ニーチェが言ったように、

「あなたが理想的なものを見るところ、私はわかります-悲しいかな、人間！あまりにも人間的なもの。」

正解は簡単ですが、役に立たないと思います。

他の技術者と話をしているときでも、擬人化された言葉や比喩を使うことがよくあります。特に会話の始めに。「コンピューターは..」を理解する必要があります。「アルゴリズムを変更して、不適切なデータのインスタンスの数と種類を減らし、結果として...の設定を不正確にする必要があります」など。しかし、技術者の間では、私たちは私たちが何を意味するのかを知っており、比喩的な言語を使用する方が簡単です。

コンピューターの技術的な問題を解決しようとするとき、私はしばしば漠然とした擬人化の概念から始めます。「テキスト内のすべての単語のリストを作成し、出現頻度に基づいて各単語に重みを割り当てる必要があります。しかし、「the」や「it」などの短い一般的な単語は無視する必要があります。次に、いくつか選択します最大の重みを持つ単語の数（おそらく10程度）... "すべては、コンピュータが実際にデータを操作する方法から遠く離れています。しかし、多くの場合、最初に「人間の」言葉でそれを考え、次にコンピュータにそれを実行させる方法を理解する方がはるかに簡単です。

技術者以外の人と話すときの問題は、擬人化言語を使用すると理解しやすくなるだけでなく、コンピュータは実際よりもはるかに人間的であるという印象を与えることだと思います。コンピュータやロボットは非常に正確で感情がないことを除けば、コンピュータやロボットは人と同じように考えているように見える多くの人がSF映画を見る必要があるだけです。