タグ付けされた質問 「decision-theory」

でポータル2私たちは、AIのは、パラドックスを考えることで、「殺された」ことができることを参照してください。 これは、コンピューターの意識を本質的に「フリーズ」させる無限ループにAIを強制することで機能すると想定しています。 質問：これは、今日のAIテクノロジーを混乱させて、破壊してしまうのでしょうか？もしそうなら、なぜですか？もしそうでなければ、将来可能になるのでしょうか？

148 decision-theory  mythology-of-ai  death 

明らかに、自動運転車は完璧ではないので、Google車（例として）が困難な状況に陥ったと想像してください。 以下に、一連のイベントによって引き起こされる不幸な状況の例をいくつか示します。 車は道路を横断する10人の群衆に向かっているので、時間内に停止することはできませんが、壁にぶつかって10人を殺す（乗客を殺す）ことは避けられます。 車の乗客にとって生存の可能性が高いことを考慮して、オートバイのライダーを殺さないようにします。 人間を支持して路上で動物を殺し、 犬を殺さないように車線を変更して別の車に衝突する、 そして、いくつかのジレンマがあります。 アルゴリズムは、人間と動物の違いを認識していますか？ 人間や動物の大きさは重要ですか？ 乗客数と前の人の数をカウントしますか？ 赤ちゃん/子供が乗船していることを「知っている」のですか？ 年齢も考慮されますか（例えば、古い方を先に殺すなど）。 アルゴリズムは、技術的な観点から何をすべきかをどのように決定しますか？上記のことを知っている（殺す確率を数える）か、知らない（単に自分自身の破壊を避けるために人々を殺す）か？ 関連記事： 自動運転車を殺すためにプログラムしなければならない理由 自動運転車が倫理的な決定を下せるようにする方法

74 philosophy  ethics  autonomous-vehicles  decision-theory 

では、Googleの自己駆動車用の障害物隠し記事我々はそれを読むことができます： Googleの車は、地図上にない一時停止標識を検出して応答することができます。これは、建設現場で使用される一時標識を処理するために導入された機能です。 グーグルは、その車はマッピングされていないほとんどすべての一時停止標識を識別でき、車両が常に交通、歩行者、その他の障害物を監視しているため、標識を見逃しても安全性を維持すると述べています。 一時停止の標識が印刷されたTシャツを着た車が（衝突経路上ではなく）その前の誰かを発見した場合、どうなりますか。車は反応して停止しますか？

19 object-recognition  decision-theory  autonomous-vehicles  google 

関数のPR下の（有名なZilberstein）（uning）アルゴリズムはどのようLP-dominateに開始されD=∅ますか？最初に呼び出され、線形プログラムが劣化します（つまり、制約式がない）。 procedure POINTWISE-DOMINATE(w, U) ... 3. return false procedure LP-DOMINATE(w, U) 4. solve the following linear program variables: d, b(s) ∀s ∈ S maximize d subject to the constraints b · (w − u) ≥ d, ∀u ∈ U sum(b) = 1 5. if d ≥ 0 then return b …

8 decision-theory