AIの特異点が引き継がれると、私たちに何を残すべきでしょうか？

最初の産業革命以来、機械は人々の仕事を引き受けてきており、自動化は過去3世紀の人間の社会の進化の一部でしたが、これらすべての機械はすべて、次のような機械的、高リスク、低スキルの仕事に取って代わっています自動車工場の生産ライン。

しかし最近、コンピュータの出現とAIの改善、そして特異点（つまり、人間よりも速く、より良く、より創造的で、より安価に考えることができ、自己改善が可能なコンピュータ）を見つけるための探求により、私たちの将来は、低スキル労働者だけでなく、高スキル労働者の置き換えにもつながるでしょう。AIとマシンがアーティスト、デザイナー、エンジニア、弁護士、CEO、映画製作者、政治家、地獄のプログラマーに取って代わる、遠くない未来について話している。これに興奮する人もいますが、正直、ちょっと怖いです。

ここではお金の問題について話しているわけではありませんが、私はアイデアのファンではありませんが、ユニバーサルインカムが実装されていて、うまく機能しているとしましょう。また、「機械が人間との戦争を繰り広げるターミネーターの世界」については触れていませんが、完全に友好的であるとしましょう。

ここでの問題は、私たち人間のモチベーションの問題です。AIの特異点が引き継がれると、私たちに何を残すべきでしょうか？毎日、一日中？

私たちは人生で何をするつもりですか？絵を描くのが大好きだとしたら、コンピューターがより優れたアートを作成し、私ができるようになるとしたら、どうすれば絵描きになるという夢を実現できますか？私の絵は単なる人間によって作成されたものなので、だれも気にしないことを知って、どのように生活できますか？たとえば、本当の私（私、ダンズマン）、私はコーディングが大好きで、9歳で最初のプログラミング言語を学び、それ以来ずっとそれを続けていました。 。そして、それはすべての職業に当てはまり、誰もが何かに情熱を傾けており、特異点があれば、一人一人が存在しなくなるだけです。

では、これから何をするのでしょうか？私は何をしますか？私の人生の残りの間、一日中、毎日ゴルフをします（誇張表現のスピーチですが、私の得点はわかりますか？）

また、私の子供たちの動機は何ですか？私は彼らに学校に行くように言うつもりですか？誰かが「大人になったら何になりたい？」と尋ねると、避けられない答えは何もありません。

高度なAIがすべての科学研究を制御する場合、私たちが学ぶ理由は何ですか？仕事がなく、科学的研究がAIだけで行われているために、知識が役に立たない場合、人間が何かを学ぶために何十年もの人生を捧げる必要があるのはなぜですか。

AIに関するすべての仮定が真であることが判明した場合、ある種のユートピアがあり、誰も作業する必要がなく、すべてがたくさんあります。けっこうだ。あなたの他の仮定は人間の本性に関するものであり、それは私があなたの結論に挑戦するところです：あるタスクで人間よりも優れたコンピュータがあるからといって、それを行うことからすべての楽しみを自動的に奪うわけではありません。

私の立場を支持する3つの議論があります。

• チェッカー、チェス、バックギャモン、スタークラフト、マスターマインド、ゴーなど、すでに人間よりも優れたコンピューターがあります。しかし、これらのゲームは、人間がコンピュータほど優れていることを望むことができなくても、まだプレイされています。
• 品質の評価が非常に曖昧または個人的であり、「より良い」という概念が客観的な意味で役に立たないドメインがあります。アートを中心に考えています。論点1を考えると、写真のカメラは、人間が望んでいるよりも現実の「画家」としてすでに優れていますが、人々はまだ絵を描いています。そして、彼らの絵画は、写真のようなものでさえ、高く評価されます。
• 「誰かがxで私よりも優れている場合、xをやる価値はない」という考え方全体が、すぐにその寿命を超えてしまうと思います。社会はいつも私が感じるように回転したわけではありませんでした。それは主に北米の生き方の影響によるものであり、常に＃1であり、その下のすべてがゴミであることを目指しています。グローバリゼーションはすでにこの考え方を危険にさらしており、多くの若者は幻滅したり落ち込んだりしています。AIが私たちを凌駕するのを待つ必要はありません。世界の他の国々はすでにそうです。結果として、私たちはその事実にアプローチする方法を採用し、それが私たちの価値を減少させると見るのをやめ、次に進む必要があります。

最後に、AIは私たちよりも優れていて、もう仕事をする必要がないなど、世界観のかなりの部分を本質的に変更しなければならないということは、一般の人々にとっての問題でもあります。すべて過去の経済革命、新石器時代、産業革命、そして最近ではデジタル革命は、人々が新しい世界に慣れることができるより長い移行期間を持っていました。そして、その移行にもかかわらず、多くの人々にとってそれは十分に困難でした。それでも、ほとんどはそれに対処し、後世は新しい変化がまだ存在しない世界を想像することはほとんどできません。また、次の革命がなぜ違うのかは個人的にはわかりません。

私たちは生物です。私たちはオピオイド受容体を活性化するものは何でも好きであり続け、側坐核のドーパミン受容体を活性化するものは何でも欲しがります。食べ物、飲み物、性別、社会的支配、利他的行為、目新しさ、虐待の薬物、肉体的習得、生殖、社交、晴れの天気、疲れたときの睡眠などは、私たちの頭脳がある限り、やりがいがあり、やる気を起こし続けます。神経生物学に関する論文をレビューするためのいくつかのリンク：

このトピックに関する詳細については、このペーパー「Pleasure Systems in the Brain」またはこの1つのDopamine in Motivational Control：Rewarding、Aversive、and Alertingも参照してください。

私は個人的にはバスケットボールをするのが好きですが、NBAの選手に対抗する機会はありません。私もどちらも支払われません。

また、私の子供たちの動機は何ですか？私は彼らに学校に行くように言うつもりですか？誰かが「大人になったら何になりたい？」と尋ねると、避けられない答えは何もありません。

同意しません。学校は進化します。子供たちはまだ社会的スキルを学び、友達を作る必要があります。少なくとも、彼らはすべてを行うコンピュータの使い方やインターフェースの仕方を学ぶ必要があります。彼らはまだ人文科学を読むことによってより良い人間であることを学ぶ必要があります。私は、彼らが言われるとは思わない「コンピュータは今あなたに代わってドストエフスキーを読みますが、それはあるMUCH BETTERは読書で、あなたが知っています」。手仕事、心理療法など、仕事の説明に「人間による」が含まれる仕事があるかもしれません。彼らは自分の好きなように成長することができます。人間は自分の職業によってのみ定義されるわけではありません。あなたは単なるコーダーではなく、それ以上のものではないと私は確信しています。

写真でのアルネのポイントから始めます。

写真が絵画をどのように変えたかを指摘したいと思います。写真のように表現しようと試みていた古典的な絵画は、写真が始まると関連性を失い、より抽象的な絵画、シュルレアリスム、キュービズムなど、いくつかの現代の動きが始まったことがわかります。

アートは自慢する媒体として「私はあなたよりも優れている」と見ることができます。写真が登場するまでは、「私はあなたよりもリアリズム技術を完成させるのが上手だ」と言えるでしょう。さて、この側面では、アーティストは何を自慢していますか？時には、大人のおもちゃを造形するときに彼らがどれほど進歩的であると主張することによって？彼らの白い球が「あなたには深すぎる」​​と主張することによって？

私は美術史家ではありませんが、これが、スキルが挑発に置き換えられた現在の現代の「アート」に進化したと私が感じている方法です。

写真は、人々が彼らをドワーフにするテクノロジーにどのように反応するかについて考えるための良い出発点であるかもしれません、そして、彼らはまだ＃1になりたいです。

-ここで注意すべき点があります：人々は良いアイデンティティを持つことを望んでいます

ポール・ラファルグはかつて「怠惰になる権利」を書きました。そこで、機械が私たちのために働くことができるので、人々がより少なく働いたら人類がどのように知的に進化するかを彼は主張しました。彼の議論の1つは、人々自身が知的モデル、ギリシャの哲学者であると見なし、働かず、考える時間がもっと多かったというものでした。私は彼がポイントを逃したと思います：誰もが哲学的な時間を楽しむことができるわけではありません。インターネットが大きな知識の時代に心を開くことを期待したとき、私たちが深く間違っていたのとは異なりません。人々はトピック的にインテリジェントではなく、愚かな人々がいて、人間は基本的に本能的なニーズに従っていることを忘れないでください。これが、インターネットの使用を開始してから20年後、lolcat、トロル、ゲーテッドコミュニティ、およびより多くの知的不寛容（sjw、alt rightの動きなど）がある理由です。

-ポイント＃2：「誰もが明るくなる」ユートピアに誰もが参加できるわけではない

キーは自分のアイデンティティです。誰もが「ポジティブなアイデンティティ」を望んでいる必要があると思います。彼らは自分の弱点を補うものを探します。これが私にとって、貧しい人々は自慢する傾向があり、成功した人々は自慢する傾向がない理由です。では、自分にあまり余裕がないときに、どのようにポジティブなアイデンティティを築くのですか？

私の周りでいくつかのことが起こります。-反逆者になる：自分を区別するために、あなたは対戦相手になります。しかし実際には、あなたは自分がどれほど独立しているかを自慢しながら、主な傾向を反映しているだけです。反対なので自由です。IAのフリースタンス（インターネットを使いたくない人、フリーソフトウェアを使用したい人など）から、より積極的な動きまで、さまざまなことができます。-保守的で敬虔なこと：多分変化して進歩的な社会への反応で、おそらく人々は保守的になり、これは依然として反抗的な傾向であり、保守的な投票（ナショナリズム）または宗教（仏教、反応としてのキリスト教、イスラム教）。私は伝統に従っているので、あなたの目新しさからは独立しています。社会が変わるとき、宗教は常に確かな価値です。-非常に進行的：社会が保守的すぎると思った場合、前の点と同じ反応。あなたの前に保守的な人々がいるとき、それは反抗的なスタンスです。私は誰よりも一歩先を行っています。私がどれだけ前衛的であるかを見てください。

-ポイント＃3：フィールドで優れていない場合は、反逆者になります。または、フォローできない場合は、脇に進み、ストリームをフォローしないでください。

つまり、もうやる必要はありません。IA制御の無人偵察機で育てられたたくさんの食物、すべての物質的なニーズが満たされ、あまり考えすぎることに興味がありません。時間のある人はどうしますか？シンプル：物質的なニーズや食物とは関係のない自然な衝動を満たします。いくつかの例：食べる、ゲームをする、セックスをする、オンラインで議論する、無駄になる。基本的に罪としてラベル付けされているすべてのもの。また、価値がないと感じる人々に見られる精神障害の形態もあるでしょう。そして、もっと多くの人が無価値だと感じるでしょう。

これはまた、これらの人々を楽しませるために、または苦しんでいる人々の世話をするために、より多くの仕事が必要になることを意味します。

-ポイント＃4：人生が楽になりすぎると、人々は罪人になります

これらのいくつかの例によって、ここで問題が発生します。「平凡な」人々が主流の社会に対抗することによって光沢のあるアイデンティティを得る傾向がある場合、AIの台頭後、主流の社会はどのように見えますか？

だから私は人々から3つの反応を見ます：-AIの上昇後に関連性がある、従うことができるもの-反逆者になる、従うことはできないが関連性を見せたいと思うもの-中立的、彼らの人間の衝動を満たす

そして一般的に、人々は3つを組み合わせて行います。

人類は、基本的に何にでも答えを与えることができるAIの助けを借りて、新しい質問、新しいプロジェクト、探索する新しいフロンティアを提供します。多くの人はまだ少し関連があります。AIが主流になるので、その利点を享受しながら、誰もが多かれ少なかれそれに反対するでしょう（テクノロジー/お金に依存しないと主張しているが、iPhoneを持っている人について考えてみてください）。人々は依然としてオンラインで議論し、奇妙なことをしているかわいい猫にクスクス笑います。彼らはより多くの自由時間を持っているので、多分もっと。

結論として、AIが適切になった場合、より多くの人々があまりにも多くの時間を手にしている世界を期待してください。私がこの結論を少し誤解しているのは、結局私が考えて書いたことです。：O

具体的な回答を投稿する代わりに、量子泥棒三部作のこの主題に関するハンヌラジャニエミの瞑想を紹介します。理由は次のとおりです。

1. アーティストは深い洞察を持つことができます。これは、フィリップ・ディックが、フィールドが正式化される約5年前に、Do Androids Dream of Electric Sheepで進化ゲーム理論について書いたことで示されている可能性があります。（私のお金にとって、これはまだAIに関する最も重要な本です。）

2. 多くの著者が特異点後のシナリオについて書いていますが、私が知っているのはラジャネイミだけで、ケンブリッジで数学物理学の博士号を取得している数学者です。件名。

AIには動機があると想定していますが、実際にはそうではありません。インテリジェントソフトウェアは、設計されたすべてのことを実行しますが、それはすべてです。訓練された動物ではなく、生存、再生、または自己の本能はありません。これらの関数を追加する理由がないためです。つまり、AIは事実上、別のツールであり、タスクを実行する際の精神的負担を軽減するツールです。1台の機械で溝を掘るのではなく、一連の機械を注文して運河システムを掘ることができます。または、より現実的には、運河の必要性について話し合い、コストを正当化し、利益を説明し、リスクを考慮し、許可を申請し、評議会とそのコンサルタント、さらに特別利益団体と話し合うことで、何時間もステークホルダーミーティングに費やします。

今日の社会では、お金は大きな動機であり、贅沢品と贅沢品を購入できる生活の必需品を提供するだけではありません。特異性のようなテクノロジーの出現により、すべてのニーズ（複雑なものも含む）が無料で満たされる世界では、動機はないと言えるでしょう。

しかし、本能的に、私たちの子供たちの動機はお金を貯めることではないので、子供たちが人生に飽きているのを見ることはありません。子供の頃、私は学ぶことができて嬉しかったです。他の人たちは、踊ったり、泳いだり、読んだり、絵を描いたりして喜んでいました。結局、人々は存在を求める社会的興奮です。

今日の社会経済状況は、いくつかの点で退屈をもたらし、何年も同じ仕事をすることは間違いなく悪いことです。

モチベーションは問題にならないと思います。