【クルマ】５人か１人か、どちらを救う？ 自動運転車が直面する「トロッコ問題」 [七波羅探題★]
■ このスレッドは過去ログ倉庫に格納されています
時事2022年07月20日17時00分
https://www.jiji.com/jc/v8?id=202207keizaihyaku064
（時事通信経済部 工藤玲）
◇倫理的な議論の意義
トロッコ問題は、当然ながら自動運転だけではなく、人間が自ら運転する場合にも起こり得る。ただ人間の場合、反射的にハンドルを切ったり、パニックで体が固まってしまったりと、冷静な判断が難しいケースが多い。一方の自動運転車は、考え得る限りのケースを想定し、あらかじめプログラミングした通りに作動する。つまりトロッコ問題に直面した自動運転車が、何を優先させてどのような動きを選択するかは、人間による事前の検討次第といえる。
そのまま直進すれば5人と衝突し、方向を変えれば1人が巻き込まれる場面。単純に犠牲者の数を最小限に抑えるのなら、瞬時にセンサーで人数を把握し、人数の少ない方に向きを変えることはできるだろう。1人の命より5人の命を優先する、言い換えれば5人を守り1人を犠牲にするプログラミングをすることになる。人間がとっさに判断する通常の車両よりも、事前に命の選別をも迫られるため、自動運転車の普及には倫理的な議論が不可欠だ。
メーカー側も、自動運転の技術を磨く上で、倫理的側面からの議論の必要性を感じている。ホンダで車両制御システムの研究開発に携わってきた波多野邦道氏は、「単に事故を起こさないことだけではなく、何をどのように配慮するのかという価値観（を考えること）が、非常に重要になってくる」と語る。
◇倫理ガイドラインの現状は
ドイツでは2017年、政府が立ち上げた倫理委員会が、自動運転車とコネクテッドカー（つながる車）に関する倫理指針を策定。命の軽重を年齢や性別といった個人の特徴で区別しないことや、責任の所在を明確にできる記録を残すことなど、20の規則を示している。自動運転に特化した同様の提言は欧州連合（EU）や米国にもある。日本政府は19年3月、人工知能（AI）の開発や活用に関する「AI社会原則」を策定しているものの、自動運転に特化したものではない。
そうした中、日本でも民間主導で、法学や倫理学、工学などさまざまな分野から専門家10人が集まり、「自動運転倫理ガイドライン研究会」が21年9月に立ち上がった。樋笠尭士代表（多摩大学専任講師、名古屋大学客員准教授）は、「メーカーが車内の人を守るのは当たり前だが、歩行者を犠牲にしてはならないのも当たり前。その対立が表れてしまうのが自動運転の世界だ」と話し、車に乗っていない人命にも影響が及ぶ特異性から、自動運転固有の倫理指針の必要性を強調。国にも働き掛けたい考えだ。
研究会は今年6月にシンポジウムを開催し、「自動運転倫理ガイドライン案」を公開した。乗員や歩行者の別を問わず人命を尊重することや、メーカーは自動運転システムが作動する条件などを誇張せず使用者に伝えることなど、計11の指針を示した。
ドイツの指針では、トロッコ問題は不測の事態が多く一般化が難しいため、事前のプログラミングはすべきでないとの立場を示している。樋笠代表は「ある意味（独の指針は）、メーカーを悩みから解放してあげている。でも、それでいいのかというのがわれわれの考え方だ」と説明する。
そこで研究会はトロッコ問題への対応について、指針の中で、時代によって変わっていく価値観に応じ、業界全体で方向性を定めることを目指すべきだとした。事前のプログラミングを否定せず、独の指針とは異なる立場を取った。
■プログラマーに責任？
メーカーが自動運転車のプログラミングを手掛ける際、トロッコ問題への対応として、▽特別なプログラミングをしない▽人数が少ない方を犠牲にするプログラミングを施す―など、幾つかの選択肢が考えられる。法学が専門の樋笠代表は、もし指針が何もない状態で事故が起き、犠牲者が出れば、プログラマーが罪に問われる可能性があると指摘する。
刑法３７条の緊急避難の規定は、「現在の危難を避けるため、やむを得ずにした行為は、これによって生じた害が避けようとした害の程度を超えなかった場合に限り、罰しない」と定めている。罪に問われないよう緊急避難を成立させるには、「やむを得ずした行為」でなければならない。プログラマーが別のプログラミングを施すこともできたと判断されれば、犯罪として成り立ちかねないのだという。
※以下リンク先で
どうやっても誰かが死ぬ状況になるのを前段階で防げない時点で欠陥AI >>725
ゲイツ殺したら後から暗殺されそう、ゲイツ助けたら無罪になりそう >>1
この絵で言うならしっかり道を歩いてる1人を救うわな
車の前に飛び出してこっちもみない5人を堂々とハねればいい
要は、より交通ルールを守ってる方を救えってことだ 衝突の瞬間まで状況を更新しながら計算し続けるで良いよ
人間と同じで有限の計算力だからこれでジレンマを回避できるしある程度は被害を減らすこともできる >>1
＞何を優先させてどのような動きを選択するかは、人間による事前の検討次第といえる
冒頭に結論が書いてあるじゃんｗ >>729
ジャンプして飛んでけば問題ないが、君の車の上に落ちてこない事を祈ります せいぜい最初のターゲットを避けた先の、次を避けようとしてちょっとハンドルｸﾘﾝｯてするけど避けられない的な動作するだけだろ そもそもAIの敵は人間なんだよ
人間が体当たりしてきたらどうにもならんので
AI同士は絶対に事故らないんだから、まず人間を道路から排除することを考えるべき 1か0だろ
救えるか救えないか
犠牲者を出すぐらいなら全滅 >>730
若者でも、無職引きこもりと、ノーベル賞を取った5人の老人なら、5人だろw 飛び出した人を轢く無関係な人は避ける
過失が認められる者を轢けば問題ないだろ 問題をよく見たら、交通ルールを守っていない５人を轢くべきだな 現実にはパニクった状態でなるようになるだけなんですけどね >>753
たしかに、絵をみたら問答無用で5人の方へ突っ込むのが正解 両者の命を天秤にかけた時の～とか
アキレスと亀みたいな思考に嵌まるアホなんやろな っていうかこれ、そもそもの前提がおかしい
絶対に5人死ぬと、絶対に1人死ぬなら、まず間違いなく1人が死ぬ方を選ぶだろ
そんなの当たり前
しかし現実にそんな事は起こり得ない、絶対にだ。言い切ってやる絶対に無い
だから本来はただ単に”どちらがより安全か？”だけの試行錯誤だけでいい
それが0.001％でもそっちにすればいいだけ 自動運転車つくって納入する前に
ファインチューニングして
大物をひかないようにする
大勢ひきころして損害賠償が大きくならないようにする
などなどレア事象に対する処理をだまってメーカーが施すかもしれない
しかしそんなことは検査項目になるのだろうか？
そういうのはマスメディアが安倍政権に忖度して政府攻撃をしなくなったのと似たような話だ
忖度行為の問題ということでもっと正確に追求したほうが実りがあろう >>762
これは一理あるな
自動運転専用道路が必要だな >>5
システムとしては、自分を一番に守るから、
自分が乗せているドライバーも一緒に守るだろ >>743
俺はある程度の基準をドライバーとメーカーが満たしたのなら完全に免責して補償は国がすべきだと思う 固定された線路では無いからトロッコ問題にならんだろ。
自動運転でドーナツターンが出来るとは思えんけどよ。
自力停止、最少人数（または最大人数）の被害で済ませる、自爆のいずれかだよ。 >>761
責任の話だよ
責任問題が片付かないから
自動運転は進まない
メーカーが絶対に出さないから >>1
若者子供を助けてじじばば殺せばいい
人数の問題ではない そんな冷静な判断ができる人は事故起こさないんじゃね 何事もケースバイケースでしょ
こんなの身内かどうか次第でしょ >>782
さようならしたけどまた来ちまった
あんたも轢かれるといいね ジジイになって いつかは歩行者や自転車に乗るやつにビーコンの装着が義務付けられるだろうね >>777
それは燃えながら5人をひき殺すだけじゃね？
慣性を消すだけの大爆発なら6人どころか周囲の車をまきこむ大惨事ｗ 5人か1人かより、まず同乗者の人間の命を最優先だろ・・・
例えば自爆装置を搭載してて、目の前に100人いたら自爆すんのか？ ありえないだろｗ
そーいう風にシンプルに考えろや >>760
そもそもゲイツは助けられたとか思わないだろ イキって道路でサッカーやってるやつを引いても酌量されるわ >>775
人間専用道路を作る
車道を通る時は人間ビーコン装着を義務付ける
それをつけてない場合はひき殺されても文句を言えない
googleが主導すると多分こんな感じだな まあフツーに考えて5人轢き殺す状況ってどんなレアケースだよ >トロッコ問題は、当然ながら自動運転だけではなく、人間が自ら運転する場合にも起こり得る。
ドライバーが何故か揃いも揃って子供の列に、まるで狙ったかのように突っ込む現象
人間は、視線の先に向かっていく習性があり、
自転車に載っている時に、道路に空き缶があったら絶対に空き缶を重視していは行けないと言われるのは、
空き缶ほ見ると、高い確率でその空き缶を踏むからだ。 トロッコ問題の本質って、どっちを選ぶかじゃなくて、選んだ選択肢を社会が許容する社会システムを事前に決めておけよってことだよ 自動運転なら速度が遅いから手動に切り替えてブレーキで終わりだよ
ハンドルは要らない使うなら物にぶつけるし
自動運転ならスピードが遅いの前提になるからスピードが出ている前提が崩れるし馬鹿な問題だよトロッコと条件が違いすぎる
トロッコはスピード制御が出来ないハンドルも無いという前提をしいているのが判って無いんだよ >>781
海外含めてレベル5なんて出てないし
今出てないのは普通に技術的問題だと思うけど 三大厨二病の奴が好きな単語
トロッコ問題
シュレディンガーの猫
粉塵爆発
あと一つは？ 全員にマイナンバーのチップ埋め込んで、人的資本が少ない方に突っ込むようにする未来がいつかくるのか AIが発達すれば
５人分の年収 と １人の生涯年収
少ないほうに突入とかできるようになるのかな テスラだと250m先まで
センサーで探知してるから
まっすぐ行くとぶつかる前提が
そもそもおかしくね 普通に1人が死ぬんだろうね
損害が一番小さくなるような行動を取るんだから ドライバーは自分の得のためだけに車を走らせてるんだ。
他人や社会は関係なくね。自分自身が楽だから走らせてる。
であるから、速やかに自爆してくれ。 カントに相反する具体的な例としてトリアージがあるんだし、トロッコとかもう要らないんじゃね Googleの自動運転車は肌の色が黒いとゴリラだと思って軽視するかもしれない
それは検査項目なのだろうか？
もはや保険屋さんしかわからないのではないか？
さあどうしよう？w
マスクしてないやつはひきころせ！
そうだまってバイアスかけたら？
忖度したら？
お前らこまったな！w >>798
画像のようなケースだろ
絵を見てしまうと5人をひき殺せばいいんじゃね？って思ってしまうなｗ >>781
それを解決しようとしているのがこの話題。私は解決していくと思うし、メーカーも法律作る側も、研究者も、解決しようとしてる。
あんたは枠の外で愚痴ってるだけ。 プログラマーは指示されて作るからプログラマーが罰せられるとかないから
管理職や経営者が罰せられるだけ そのうちAIが進化したらあらゆる事態を想定して
車を発進させないのがベストと判断して
すべての自動車が動かなくなったりな 瞬時に納税額を見極め
トータル納税額の低い方に襲い掛かればいいんじゃね >>797
これが対歩行者へのすべての問題を解決する答えだろうが
そんな世の中は嫌だな >>800
違う
実体を伴わないただの思考実験だ
考えても無駄だし
人類にとって何の得にもならないいちゃもん >>794
思ってなくてもほとんどの人がゲイツ助けるよ >>800
この場合、どちらも許容できないなら自動運転は成立できなくなる 「乳幼児の命と安倍晋三さんの命の重さは全然ちがう」三浦瑠璃 自動で動くものなら何でも当てはまるな
まだこんなことを考えるレベルには達してない >>818
嫌か？
実際は靴にビーコンを埋めこんで何らかの手段で充電するだけだ お前らはもしかしたら大物に嫌われていて
毎日熱心に多額を費やしてガチャをしてるのに全然当たりが出ないようになってるかもしれないぞ？
どうする？忖度されてたら！www >>725
人間なら咄嗟にそういう判断をしてしまうこともあるのかも知れないけど
AIのプログラムにそんなことまで仕込まれるようになってきたら怖い。 宇宙戦艦ヤマトでズォーダー大帝が
古代進に、森雪一人助けるか、多くの避難民全員助けるか選べ
加藤に、子供一人助けるか、地球を滅ぼすか選べ
って言ってたな 交通事故でF欄が死ぬのと宮廷が死ぬの、賠償金がちがうんだっけ。 >>3
たしかに車ほど行動の選択肢の多い乗り物はないのに
何故か二択で結論を急ぐんだな こんなもんその日の気分で変わると思う、手に負えないものをなにかの理由つけてどうにかしたいとか、あーでもないこーでもないと議論できるほど人間は万能じゃない >>800
トロッコをどこで買ったのか聞いて欲しい、のが正解なんだが >>750
加害者側である車の乗員は助ける優先度は低い
そもそも歩行者に危害を与える様な車が存在する事自体が間違いであり、
そんな車に乗っていること自体が間違い
歩行者側を助ける事が最優先であり、
その次の優先度を車の乗員で付けるべき話 AIの前に議論することあるだろ
自動ブレーキやコーナーセンサーをオプションにしてる時点で人世の中の殆どの交通事故は車メーカーの責任 本人含め、全員死亡が生命倫理的に正しい
138億年前のビックバンから今に至り、何故か人間だけが生き延び続けるべきだという思考の前提がおかしい。馬鹿げている。
宇宙は広い常識に囚われるな >>831
管理されたいのかと
理屈は通ってても人の心は違うってもんだ どっちにしろ他人を轢きそうのなら
乗員もろとも自爆しろと思う お前ら熱心にパンをたべてポイントためてるのに全然あたらないとしたらどうする？
忖度されてるかもしれないぞ！
もう全員あたるパンを食べるしかないな！
ざまあwww 兎に角自動運転は必要だ
これが前提条件なのがそもそもの間違い無い
間違いをほぼ起さない技術力や社会状況を得てこそ、始めて実現出来る
投資に対するリターンが早く欲しいからと、無茶しようとしてるぞ
殺されたく無ければ、要監視だ ■ このスレッドは過去ログ倉庫に格納されています
