自動運転車は毎日直面する倫理的課題

自動運転車に関する多くの議論と倫理的思考は、車が小学生のグループを駆け抜けるか、崖から飛び降りて自分の居住者を殺すかを決定しなければならないという仮説のような悲劇的なジレンマに焦点を当てています。 しかし、そのような状況は極端な場合です。

自動運転車がアリゾナ州テンペで歩行者を殺した最近のクラッシュが示すように、あらゆる横断歩道、ターン、および交差点での日常的で日常的な状況は、はるかに困難で幅広い倫理的不安を示しています。

極端な倫理

スタンフォードの自動車研究センターでエンジニアと協力する哲学者として、私は最初、簡単な質問だと思ったものを議論するために研究室のミーティングを費やしたことに驚きました：自動運転車はどのように横断歩道に近づくべきですか？

私の仮定は、車が乗客の生活と歩行者の生活との間でどのように決定すべきかを考えるだろうということでした。 これらの衝突シナリオは、「トロリー問題」と呼ばれる有名な哲学的な頭の体操に似ているので、このようなジレンマについて考える方法を知っていました。 5つを保存するために1つを殺す？

しかし、多くの哲学者は、今日、そのような質問を調査することは研究の実り多い道であると疑っています。 たとえば、スタンフォード大学の同僚であるバーバラ・フリードは、悲劇的なジレンマにより、人々は倫理的不安が主に極端で恐ろしい状況で生じると信じるようになったと主張しました。

実際、倫理的な不安はどこにでもあります。 日常のありふれた状況は、驚くほど面倒で複雑であり、多くの場合微妙です。 例：あなたの街は、糖尿病予防プログラムまたはより多くのソーシャルワーカーにお金を使うべきですか？ 地元の公衆衛生局は、レストランの衛生基準のために別の検査官を雇うべきですか、それとも無料の注射針と注射用品を提供するプログラムを続けるべきですか？

誰がどの程度影響を受けるかなど、結果に関する不確実性のため、これらの質問に答えることは非常に困難です。 極端で絶望的な状況に対して哲学者が提案した解決策は、ここではほとんど役に立ちません。

問題は自動運転車でも同様です。 極端な状況やクラッシュシナリオを熟考することは、ありふれた状況で生じる質問に答える助けにはなりません。

横断歩道での挑戦

横断歩道に近づいたり、交差点を運転したり、左折したりといった日常の交通状況で何が難しいのかと尋ねることができます。 横断歩道での視界が制限されていて、近くの歩行者が実際に通りを横断したいかどうかを見分けることが難しい場合でも、ドライバーは毎日これに対処します。

しかし、自動運転車の場合、このようなありふれた状況は2つの方法で課題をもたらします。

まず、人間にとって簡単なことは、機械にとっては難しい場合が多いという事実があります。 顔を認識している場合でも、自転車に乗っている場合でも、進化は私たちのためにこれらのスキルを構築したため、知覚と機械的なタスクが得意です。 ただし、これらのスキルを教えたり、設計したりすることは困難です。 これは「モラベックのパラドックス」として知られています。

第二に、すべての車が自動運転車である将来、運転行動の小さな変化が集合体に大きな違いをもたらすでしょう。 言い換えれば、今日のエンジニアの決定は、1台の車の運転方法ではなく、すべての車の運転方法を決定します。 アルゴリズムがポリシーになります。

エンジニアは、機械学習の方法を使用して、顔とオブジェクトを認識する方法をコンピューターに教えます。 機械学習を使用して、自動運転車が人間の運転方法を模倣するのを支援することもできます。 しかし、これは解決策ではありません。安全性とモビリティに関する幅広い決定がエンジニアによって下されるという問題を解決するものではありません。

さらに、自動運転車は人のように運転すべきではありません。 人間は実際にはあまり良いドライバーではありません。 そして、彼らは倫理的に厄介な方法で運転し、歩行者の年齢、人種、収入に基づいて、横断歩道で譲歩するかどうかを決定します。 たとえば、ポートランドの研究者は、黒い歩行者が2倍の車で追い越されており、白い歩行者よりも3分の1長く待たなければ横断できないことを発見しました。

自動運転車は、人々が行うよりも安全で公平に運転する必要があります。

ありふれた倫理

横断歩道、ターン、交差点などのありふれた状況で浮上する利益相反に注意を払うと、倫理的な問題が深まります。

たとえば、自動運転車の設計では、他の人（歩行者や自転車）の安全性と車の乗客の利益のバランスを取る必要があります。 車が歩くペースより速くなるとすぐに、最後の1秒間に道路に走る可能性のある子供に衝突するのを防ぐことができません。 しかし、もちろん歩くペースは遅すぎます。 誰もが場所に着く必要があります。 では、エンジニアはどのように安全性とモビリティのバランスをとるべきでしょうか？ そして、どの速度が十分に安全ですか？

他にも倫理的な問題があります。 エンジニアは、モビリティと環境への影響の間でトレードオフを行う必要があります。 国内のすべての車に適用されると、コンピューター制御の加速、コーナリング、ブレーキのわずかな変更が、エネルギー使用と汚染物質排出に大きな影響を与える可能性があります。 エンジニアは、旅行の効率と環境への影響をどのようにトレードオフする必要がありますか？

トラフィックの未来はどうあるべきか？

ありふれた状況は、新しい工学的および倫理的な問題を引き起こしますが、交通システムの基本的な仮定に疑問を投げかけることにもなります。

私自身にとって、「横断歩道」と呼ばれる場所が必要かどうか疑問に思い始めました。 結局、自動運転車は潜在的にどこでも道路を横断することを安全にすることができます。

そして、不要になるのは横断歩道だけではありません。 交差点の信号機も過去のものになる可能性があります。 人間は、誰もが衝突や混乱なしに交差点を通過できるように信号機が必要です。 しかし、自動運転車は、車同士をスムーズに調整できます。

ここでのより大きな問題は、自動運転車が人間のドライバーよりも優れていることを考えると、なぜ人間の誤りと人間の過ちのために設計された規則に従う必要があるのでしょうか？ また、この思考実験を拡張するために、より一般的な質問も検討してください。社会として、交通システムをゼロから設計できるとしたら、どのように見えるのでしょうか。

これらの難しい質問は、都市または社会の全員に関係するため、都市または社会が回答に同意することを必要とします。 それは、人々が横断歩道だけを考えているか、交通システム全体を考えているかどうかにかかわらず、すべての人にとって有効な方法で競合する利益のバランスをとることを意味します。

自動運転車により、社会は交通システムを再設計できます。 横断歩道から全体的な交通設計まで–本当に難しい質問をするのはありふれた状況です。 極端な状況は注意散漫です。

台車の問題は、これらの難しい質問には答えません。

Johannes Himmelreich、学際的倫理フェロー、スタンフォード大学McCoy Family Center for Ethics in Society