自動運転車は誰を殺すかについて倫理的な決定をどのように行うことができますか

明らかに、自動運転車は完璧ではないので、Google車（例として）が困難な状況に陥ったと想像してください。

以下に、一連のイベントによって引き起こされる不幸な状況の例をいくつか示します。

• 車は道路を横断する10人の群衆に向かっているので、時間内に停止することはできませんが、壁にぶつかって10人を殺す（乗客を殺す）ことは避けられます。
• 車の乗客にとって生存の可能性が高いことを考慮して、オートバイのライダーを殺さないようにします。
• 人間を支持して路上で動物を殺し、
• 犬を殺さないように車線を変更して別の車に衝突する、

そして、いくつかのジレンマがあります。

• アルゴリズムは、人間と動物の違いを認識していますか？
• 人間や動物の大きさは重要ですか？
• 乗客数と前の人の数をカウントしますか？
• 赤ちゃん/子供が乗船していることを「知っている」のですか？
• 年齢も考慮されますか（例えば、古い方を先に殺すなど）。

アルゴリズムは、技術的な観点から何をすべきかをどのように決定しますか？上記のことを知っている（殺す確率を数える）か、知らない（単に自分自身の破壊を避けるために人々を殺す）か？

関連記事：

• 自動運転車を殺すためにプログラムしなければならない理由
• 自動運転車が倫理的な決定を下せるようにする方法

自動運転車は誰を殺すかについて倫理的な決定をどのように行うことができますか

すべきではありません。自動運転車は道徳的なエージェントではありません。車は予測可能な方法で故障します。馬は予測可能な方法で失敗します。

車は道路を横断する10人の群衆に向かっているため、時間内に停止することはできませんが、壁にぶつかって10人を殺す（乗客を殺す）ことは避けられます。

この場合、車はブレーキを強く押す必要があります。10人が死亡した場合、それは残念です。私たちは車の外で何が起こっているかについての私たちの信念のすべてを単純に信頼することはできません。これらの10人が本当に人のように見えるように作られたロボットであるとしたらどうでしょう。もし彼らがあなたを殺そうとしているとしたら？

車の乗客にとって生存の可能性が大きいことを考慮して、オートバイのライダーを殺さないようにすること、

繰り返しますが、これらの種類の感情を車両にハードコーディングすると、「偽の」オートバイ運転者を含むあらゆる種類の攻撃に対して車両のライダーが開かれます。人間は、もしあったとしても、これらの決定を自分で行うことはほとんどできません。疑わしいときは、ただブレーキを叩いてください。

人間を支持して路上で動物を殺し、

繰り返しますが、ただブレーキを踏んでください。もしそれが赤ちゃんだったら？それが爆弾だったら？

犬を殺さないように車線を変更して別の車に衝突する、

いや。犬は間違った時間に間違った場所にいました。他の車はそうではありませんでした。できるだけ安全にブレーキを叩いてください。

アルゴリズムは、人間と動物の違いを認識していますか？

人間ですか？常にではない。人間が銃を持っている場合はどうなりますか？動物の歯が大きい場合はどうなりますか？コンテキストはありませんか？

• 人間や動物の大きさは重要ですか？
• 乗客数と前の人の数をカウントしますか？
• 赤ちゃん/子供が乗船していることを「知っている」のですか？
• 年齢も考慮されますか（例えば、古い方を先に殺すなど）。

人間はこれらのことに同意することはできません。これらの状況のいずれかで警官に何をすべきかを尋ねると、答えは「左に曲がって、あなたの頭のすべての関係者の重量を量り、すべての関係者の間の関係する年齢を評価し、少し右に曲がって、そして、あなたは8％以上の命を救ったでしょう。」いいえ、警官は「できるだけ早く安全に車両を停止させるべきだった」と言うだけです。どうして？警官は、人々が通常高速衝突シナリオに対処する能力がないことを知っているからです。

「自動運転車」の目標は、「人間と同等の道徳的エージェント」であってはなりません。ゴキブリの反応性の複雑さを備えたエージェントである必要がありますが、予想どおりに失敗します。

これらの質問の多くに対する答えは、デバイスのプログラム方法によって異なります。走り回り、道路の行き先を認識することができるコンピュータは、輪郭、画像、またはサイズに基づいているかどうかにかかわらず、人間と動物を視覚的に区別する能力を持っている可能性があります。十分に鮮明な画像認識により、別の車両の人数と種類をカウントできる場合があります。さらに、さまざまな種類の車両の人が負傷する可能性に関する既存のデータを使用することもできます。

最終的に、人々は関与する倫理的選択に同意しません。「ライフカウントのみを考慮する」対「若いライフがより価値がある」など、ユーザー/所有者が設定する「倫理設定」がある可能性があります。個人的には、人間を傷つける前に機械がそれ自体を損傷することはひどく物議をかもしているとは思いませんが、人々はペットの生活がどれほど重要であるかについて意見が分かれています。明示的にkill-this-first設定を行うと人々が不安になる場合は、ユーザーに与えられたアンケートから回答を決定できます。

個人的には、これは誇張された問題かもしれません。トロリーの問題は、状況が「3番目のオプション」を防ぐために最適化されている場合にのみ発生します。

車にはブレーキがありますか？「しかし、ブレーキが機能しない場合はどうなりますか？」さて、車はまったく運転できません。通常の交通でも、人間のオペレーターは、あなたが見ることができるエリア内で止まることができるようにあなたの速度が制限されるべきであると教えられます。このようなソリューションは、トロリーの問題の可能性を減らします。

動物に関しては...道路で人間に対処する明確な努力がなければ、動物も同じように扱われると思います。これは信じられないように聞こえます-ロードキルは頻繁に発生し、人間の「ロードキル」は望ましくありませんが、動物は人間よりもはるかに小さく見えにくいため、人間を検出することは簡単であり、多くの事故を防ぎます。

その他の場合（バグ、運転中の障害、複数の障害が互いに重なり合っている）、おそらく事故が発生し、分析され、同様の状況を引き起こさないように車両が更新されます。

これはよく知られているトロリー問題です。ベン・Nが言った、人々はトロッコ問題のシナリオのためのアクションの右側のコースに反対するが、自己駆動車で、信頼性がこれらのシナリオが本当にそうであることを非常に高いことに留意すべきです。そのため、少なくとも短期的には、あなたが説明している問題にそれほど労力をかけることはありません。

現実の世界では、決定は法律に基づいて行われ、Law.SEで述べたように、法律は一般に行動よりも不作為を支持します。

単一の事業体によって設計された無人運転車の場合、誰を殺すかを決定する最良の方法は、発生する可能性のある負債を推定して最小化することです。

その地域の潜在的な犠牲者すべてを完全に正確に特定する必要はなく、その意思決定に対する防御があります。人間と同様に、彼らを特定するだけです。

車内のすべての人の年齢と体調を知る必要さえありません。その情報を求めることができ、拒否された場合、乗客がそれを提供しないことを選択したため、それを奪う責任を負ったためですより良い決定を下す能力。

企業が訴訟にさらされるのを最小限に抑えるための実行可能なモデルさえあればよく、その後、時間の経過とともに改善して収益性を高めることができます。

「誰を救うかというこの道徳的な質問：エンジニアリング作業の99％は、こうした状況がまったく起こらないようにすることです。」—Christoph von Hugo、メルセデスベンツ

この引用文は、2016年10月7日、MICHAEL TAYLORが発行した2016年10月7日公開の、自動運転メルセデスベンツが歩行者よりも乗員の安全を優先するというタイトルの記事から引用したものです。

問題に対する技術的、実用的な解決策の概要を示す抜粋を次に示します。

世界最古の自動車メーカーは、トローリー問題として知られている1967年の質問と同様に、この問題をもはや解決不可能と見なしていません。メルセデス・ベンツは、危機の際に道徳的および倫理的な結び目に縛られるのではなく、自動運転車をプログラムして、車内の人々を救おうとしています。毎回。

自動車メーカーのドライバーアシスタンスシステムとアクティブセーフティのマネージャーであるクリストフフォンヒューゴによると、メルセデスベンツの将来のレベル4およびレベル5の自動運転車はすべて、携行する人々の安全を優先します。

この記事には、次の興味深い段落も含まれています。

サイエンス誌によって年半ばに発表された研究でも、空気が抜けませんでした。調査対象となった1928人の大半は、歩行者に衝突するよりも、自動運転車が居住者を犠牲にする方が倫理的に良いと考えていました。しかし、大多数はまた、車が自分たちよりも歩行者の安全を優先する場合、自動運転車を購入しないと述べました。

率直に言って、この問題（トロリー問題）は本質的に複雑すぎると思います。現実のソリューションはかなり簡単だからです。人間のドライバーと同様に、AIドライバーは常に一般的な倫理的方法で行動するようにプログラムされ、常に害のない、または可能な限り害の少ない行動を選択します。

AIドライバーが資産への差し迫った損傷などの危険に遭遇した場合、明らかにAIは激しくブレーキをかけ、衝撃を回避または最小化するために壊れやすい物体から車を遠ざけます。危険が歩行者、車、または建物に当たっている場合、最も貴重で高価な物体と衝突し、害を最小限に抑えることを選択します-建物や犬よりも人間に高い価値を置きます。

最後に、あなたの車のAIドライバーの選択が子供の上を走ったり壁にぶつかったりするなら...それは車とあなたを壁に誘導します。それは、良い人間なら誰でもすることです。優れたAIの動作が異なるのはなぜですか？

彼らはすべきではありません。人々はすべきです。

人々は倫理的決定の責任をコンピューターの手に委ねることはできません。コンピューターの意思決定をプログラムすることは、コンピューター科学者/ AI専門家としての私たちの責任です。これにより、人間の死傷者はまだ存在しますか？もちろん、彼らはそうします---人々は完璧ではなく、どちらもプログラムではありません。

このトピックについては、ここで優れた詳細な議論があります。私は特に、患者に潜在的に致命的な薬をテストするという並行した倫理的ジレンマに関するYann LeCunの議論が好きです。自動運転車と同様に、どちらも致命的ですが、長期的にはより多くの人を救うという善意を持っています。

自動運転車は誰を殺すかについて倫理的な決定をどのように行うことができますか

法的責任と消費者の安全を管理することにより。

消費者の安全を提供する車は、その消費者が購入する車になります。企業は、顧客を殺害したり、法的苦境に陥るような製品を販売したりすることを望んでいません。「消費者へのコスト」の観点から見た場合、法的責任と消費者の安全は同じ問題です。

そして、ここにいくつかのジレンマがあります：

• アルゴリズムは、人間と動物の違いを認識していますか？

動物/人間を法的に回避できない場合（および車が法的権利を持っている場合-そうでない場合は、AIの意思決定に関して他の何かが間違っている）、おそらくそうしません。車が障害物を安全に回避できる場合、AIが合理的にこの決定を行うのを見ることができます。開いている高速道路で別の車線に曲がります。責任とドライバーの安全性に重点が置かれていることに注意してください。

• 人間や動物の大きさは重要ですか？

障害物にぶつかる危険因子のみ。カバを打つことは、溝を打つことよりも望ましくないかもしれません。犬を打つことは、顧客の自動車を破壊するよりも望ましいと思われます。

• 乗客数と前の人の数をカウントしますか？

人々を乗客として数え、カープーリングレーンを利用できるかどうかを確認します。それは衝突の場合の危険因子として前方の人々を数えます。

• 赤ちゃん/子供が乗船していることを「知っている」のですか？

番号。

• 年齢も考慮されますか（例えば、古い方を先に殺すなど）。

いいえ、これは単に決定を下すための間違った抽象化です。リスクファクターを削減するための適切な行動方針の選択にこれをどのように重み付けできますか？オプション1が重大な居住者の損害の20％の確率で法的責任を持たない若い男にヒットし、オプション2が21％の重大な居住者の損害の法的責任を持たない年配の男性にヒットした場合、哲学者はたった1人でも説得できます決定を下すための公正かつ公平な重み？

ありがたいことに、多くの場合、速度を落とすために休憩をとることが最善の決定です（特に、歩行者と運転者がそれに応じて反応できるように予測可能な行動をとることが重要であると考える場合は特に）。それまでの間、ドライバーがいつ悪い判断を下し、他のアクション（リバースヒットなど）がブレークをヒットするよりも有益であるかを予測するという点で、より良い値の改善を行うことができます。この時点で、哲学者によって提案された倫理的決定を下すために情報を収集し始めることさえ価値がありません。したがって、この問題はセンセーショナルなジャーナリストや哲学者によって誇大宣伝されています。

ほとんどの場合、車は特定の選択肢に向かってまたは特定の選択肢から遠ざかるのではなく、デフォルトとして速度を下げることを主なオプションと考えています。他の人が言及したように、倫理に関連する設定を持つことは悪い考えです。反対の倫理的設定でプログラムされた2台の車が衝突しようとするとどうなりますか？車には、ユーザー設定を上書きして相互に有益なソリューションを選択するシステムが潜在的に備わっている可能性があります。それは確かに興味深い概念であり、広く実装される前に議論し、標準化する必要があるものです。倫理的な決定を機械の手に委ねることは、結果として生じる責任を想像するのが難しい場合があります。

車の中でこのような倫理設定を編集する方法はないと思います。でも、携帯電話が根付くことができるなら、なぜ車ではないのでしょうか？将来的には、特定のモデル用にLinuxビルドがあり、あなたがやりたいことができるようになると思います。

誰がそのような決定を下すかについては、今日のプライバシー問題によく似ています。OSプロバイダー（それぞれが独自の方法で負傷者の最小数に設定しようとする）、保険会社（支払いをしようとする）によって毛布に綱引きがありますより簡単にあなたの車を傷つけるために統計的に示されるOSのためのより多く、そしてあなたができるだけ早くあなたの車をゴミ箱に入れて欲しいので、あなたは新しいものを買うでしょう;またはばかげている必要がある車を作る$$$サービスの量）。

その後、内部告発者が出てきて、大人よりも幼い子供を殺すことを選択するコードを公開します-動物と子供を区別するのが難しくなり、人間としてより確実に認識できる人を救うチャンスを得るからです。OSの製造元は一般の人々から非難を受け、新しいコンセンサスが得られます。内部告発者は保険会社や自動車メーカーからも出てきます。

人類は熱いフライパンをつかんで火傷し、事前に手袋を着用することを学びます。私のアドバイスは、あなたがその手にならないことを確実にするだけです-すべての初期のミスが行われるまで、彼らから数年間離れてください。

唯一の賢明な選択は、予測可能な動作を使用することです。車の前の人々のシナリオでは、まず、車がブレーキを踏むと同時に、クラクションを鳴らし、コースを維持します。そうすれば、人々は邪魔されずに殺され、ゼロの人々が殺されることになります。また、フルブレーキ（時速50 kmから0になるのは車の長さ3未満）では、衝撃の状況はほとんど想像できません。完全に停止できない場合でも、歩行者への深刻な損害はほとんどありません。

もう1つのシナリオはおかしいです。そのため、距離は車の長さ3未満でなければならず、ステアリングに少なくとも1台の車の長さが必要です。車のクラッシュは制御不能な状況であり、回転して11人全員が死亡する可能性があります。

私は、ジレンマがある現実の例はないと信じているとは別に。これらのありそうもないケースでの解決策は、相手が同様に状況を緩和できるように、相手の期待に準拠する場合です。