X



【AI】Uberの自動運転車が女性をはねた死亡事故、女性検知していたことが判明 ソフトウェアが「誤検知」と判断、減速・回避せず
■ このスレッドは過去ログ倉庫に格納されています
0001スタス ★2018/05/11(金) 20:59:43.87ID:CAP_USER9
◆Uberの自動運転カーが女性をはねて死なせた事故はソフトウェアが人物を「誤検知」と判断したためと判明

Uberが開発を進めていた自動運転カーが夜間の公道を走行中に道路を横断していた女性をはねて死なせてしまった事故の調査が進み、事故の原因は自動運転カーのソフトウェアの誤判断に起因するものであったことが明らかになっています。

Uber Finds Deadly Accident Likely Caused By Software Set to Ignore Objects On Road ? The Information
https://www.theinformation.com/articles/uber-finds-deadly-accident-likely-caused-by-software-set-to-ignore-objects-on-road

Report: Software bug led to death in Uber’s self-driving crash | Ars Technica
https://arstechnica.com/tech-policy/2018/05/report-software-bug-led-to-death-in-ubers-self-driving-crash/

内部の事情に詳しい2人の情報提供者からの情報をもとにThe InformationのAmir Efrati記者が報じた内容によると、事故の際にUberの自動運転カーのソフトウェアは横断者を認識していたものの、「false positive(誤検知)」だと判断して減速や回避をとらず、そのまま跳ね飛ばしてしまったとのこと。
自動運転カーのソフトウェアにとって、実在する物体と錯覚的に存在するように見えるだけの物体を見分けることは重要な課題であり、車両や歩行者、道路に落ちた大きな石などを極めて高い精度で検知することが求められます。
しかし一方で、風に飛ばされてきたビニール袋や道路脇の空き缶など、安全性にそれほど影響がないと判断できる物体も道路上には存在しており、その見分けを行うことも安全かつ効率的に公道を走行するために重要な要素です。

ここには、安全と効率のトレードオフが存在します。
もし、車両のソフトウェアが注意深くなりすぎると何ら問題のない空き缶や新聞紙にまで反応してしまい、まともに走行することができなくなります。

逆に、検知を甘くすると多少の障害物には文字どおり「目もくれず」ガシガシと走り続けられるようになりますが、本当に避けなければならない障害物にぶつかってしまうことも起こりえます。
そして今回の事故では、まさにその障害物が道路を横断していた女性だったというわけです。

実際に女性がはねられてしまう瞬間の直前までの映像が公開されています。
以下の記事では、車両が減速や急ハンドルを行う様子なく女性に突っ込んでいる様子を確認することができます。

Efrati氏は「Uberが周囲の障害物についてのシステムの警戒度を下げたがっていたのには理由があります。自動運転カーを快適に乗れる車両にすることを目指していたためです」
「Uberは、年内にフェニックス地域においてドライバーなしの自動運転カーに乗客を乗せて走行するという社内目標を達成することを急いでいました」と記しています。

何かある度にいちいちブレーキがかかる自動運転カーなど、とても快適な乗り物とは呼べません。
この課題をクリアするためにUberは開発を行っており、そのさなかに今回の事故が起こってしまいました。
UberはThe Informationの取材に対し、国家運輸安全委員会の調査が行われていることを理由にコメントを拒否しています。

■写真
https://i.gzn.jp/img/2018/05/08/uber-fatal-crush-software-bug/00_m.jpg
https://i.gzn.jp/img/2018/03/22/uber-accicent-driver/00_m.jpg

GIGAZINE 2018年05月08日 13時00分
https://gigazine.net/news/20180508-uber-fatal-crush-software-bug/
0002名無しさん@1周年2018/05/11(金) 21:02:23.75ID:u8yt3u7Q0
安全と効率のトレードオフは当然想定していたはずで、故意に効率を優先した結果。
ほぼほぼ故意の殺人と言っていい。
0003名無しさん@1周年2018/05/11(金) 21:02:42.60ID:RKsiKo4s0
>>1

判別ソフトウェアが、このレベルなのに公道試験するとはおかしいw
0005名無しさん@1周年2018/05/11(金) 21:03:33.79ID:rS+L+86P0
AI「あ、これはゴミ袋か何かだな」

ガシャーーーーーーーーーーーン!!!
0006名無しさん@1周年2018/05/11(金) 21:03:53.41ID:DR2VH0au0
女を減らすことが人類にとって有益であるとAIが判断したんだよ
だからこれは正しい
0007名無しさん@1周年2018/05/11(金) 21:04:06.43ID:YSp9LCem0
朝鮮人だったのかな?
0008名無しさん@1周年2018/05/11(金) 21:06:11.17ID:rXnWjgYi0
普通こういう物は過剰なくらい安全方向に余裕を持たせるもんなんだけどな
テスト走行なら快適性以前の問題
間違いなく判断ができるくらい学習データを重ねてからこういうのは緩めるもんだ
0009名無しさん@1周年2018/05/11(金) 21:06:26.88ID:SYTko5+00
殺人カー
0010名無しさん@1周年2018/05/11(金) 21:06:56.31ID:uJ8UQrcy0
ソフトなんてバグはつきものだし人間の判断と同じようになんて
100%無理だからどこかで足切りしなきゃだし
その時の責任は全部メーカーがかぶりますってことになると
自動運転なんて成り立たなさそうだよな
0011名無しさん@1周年2018/05/11(金) 21:08:40.40ID:fUc33eRU0
 ,;:⌒:;,
8(・ω・)8 今の技術では自動車だけで対応するのは無理
      道路にもセンサーとかいると思うね
      人間の脳みそと視覚機能がAIで再現できるようになればいいんだろうけど全然だからな
0012名無しさん@1周年2018/05/11(金) 21:09:00.60ID:fXN51SDV0
テストだからなぁ
怖いけどどこまでオッケーか試してたのはあるかもな

でも動画見たけどあれ運転手がハンドル持ってても半分ぐらいの確率で轢く事案だと思うわ
0013名無しさん@1周年2018/05/11(金) 21:09:46.56ID:zieZZ3Pc0
試作車だろテスト走行や 取り敢えず安全に全フリして走らすもんやで、
ブレーキ掛けまくりやけど一度も事故りませんでした、を表に出さなアカンのや、
0015名無しさん@1周年2018/05/11(金) 21:11:15.94ID:u93sfDnsO
自動ドアにもなかなか認識してもらえないお前らはこの車にも轢かれる
0016名無しさん@1周年2018/05/11(金) 21:11:20.30ID:KrCS4oOk0
>>1
あれ動画観たらわかるけど
あんな近い距離で女が車道に出てきたら
AIだろうが人間だろうがどうしようもない
ブレーキ踏んでも車は急に止まれない
物理法則は変えられないから無理だ
0020名無しさん@1周年2018/05/11(金) 21:14:11.68ID:YGoxuVYy0
人が運転しようがAIが運転しようが死亡事故は起こるというのであれば
すべてAIに任せたほうがいいに決まってる

AIだと事故原因解析後、即スクラップに出来る

でも人は死刑にならない
その上税金も無駄に食う

理不尽で不愉快な気持ちを世の人々の植え付け
只刑務所で暮らしていたやつを社会に放逐させるの?

俺はゴメンだねwそんなヤツ即死刑にして欲しいよ!
0021名無しさん@1周年2018/05/11(金) 21:16:48.34ID:QzKyaWOr0
AI「ググったところこの黒い物体はゴリラと判定……轢いても問題ありませんね」
0022名無しさん@1周年2018/05/11(金) 21:17:47.07ID:lHWvPpuK0
確信犯だったか
0023名無しさん@1周年2018/05/11(金) 21:18:45.15ID:5wC9hsrp0
ぶっちゃけ、普通の車で実験するのがイカれてる。
事故ってもダメージが少ないような、バイクサイズの実験用機体を用意しろよ
0024名無しさん@1周年2018/05/11(金) 21:20:13.27ID:P3y9A1Ek0
>>16
馬鹿だろお前

人間なら回避できてたよ
動画はコントラストで印象操作してるだけ。
人間の目なら見えてるし、そもそもあんなスピード夜間で出さないしハイビーム出してる
0025名無しさん@1周年2018/05/11(金) 21:21:25.37ID:uAgjuyj20
始めのころは感度高めに設定していたが、誤動作が大杉て感度を下げていた?
感度/特異度は自動運転を実現する上で、かなり深刻な問題になりそう。
0026名無しさん@1周年2018/05/11(金) 21:22:48.67ID:y2oNHduq0
そもそもこの女もライトつけて走ってくる車がいるのになんでのこのこ車道突っ切ってんだよ
0027名無しさん@1周年2018/05/11(金) 21:22:53.63ID:vYxL/6Uo0
機械にとっては人間も単なる動物。サルかな〜、、轢いちゃえ、ドーン!
0028名無しさん@1周年2018/05/11(金) 21:23:54.39ID:P3y9A1Ek0
>>26
人間の車なら普通に減速してくれると予測してたんだろ
0029名無しさん@1周年2018/05/11(金) 21:23:58.89ID:Rdfdipga0
AI車が事故ると中からロボットがでてきて倒れた人にBLSやるのか?
0031名無しさん@1周年2018/05/11(金) 21:31:46.54ID:LA8qJPL00
自分が保険会社になったと思えば良い。

● 自動運転車の保険料はいくらにした方が良いのか?
● 人間の運転より下げた方が良いのか?いや上げた方が良いのか?
● いやいや自動運転車の運転は保険を引き受けにない方が良いのか?
0032名無しさん@1周年2018/05/11(金) 21:32:33.39ID:XlSa7lZf0
「何よりも安全を最優先します」とか標榜している企業に限って、とことん効率を追求してる
0033名無しさん@1周年2018/05/11(金) 21:33:52.65ID:sFgR3fNs0
自動運転で公道走らそうと本気で思ってるほうがマジキチ

どうしてもやるなら電車みたいに人が入ってこれないガードレールが必要

回避する対象が人間である限りこの手の開発は失敗する
0035名無しさん@1周年2018/05/11(金) 21:33:59.19ID:e7A7uDDz0
>>26
人間はAIじゃないから
0、1の世界を現実に持って適用させるなら、0、1で図れないこの世界をAIが知る必要がある
それは商業的である必要はない
0036名無しさん@1周年2018/05/11(金) 21:36:44.86ID:++cQT5zu0
中国でこれ走らせたら事故起こりまくる予感がする
0037名無しさん@1周年2018/05/11(金) 21:38:03.93ID:C6rzus+w0
自動運転をいきなり車で試しているところに疑問を持たざるを得ない
誰がどれくらい儲かってるんだろうな
0038名無しさん@1周年2018/05/11(金) 21:40:38.77ID:Ib0IvGo4O
>>29
そこまでやるならロボットに車を運転させた方が良い

中途半端なんだよ、救助義務は人間、下手すると事故の責任も人間(所有者か同乗者)になる
0039名無しさん@1周年2018/05/11(金) 21:40:51.15ID:4wWRpnzW0
人間で言うと「まさかそんな事はないな」って思ったって事か
人間の作ったもんだし、不完全なのも宜なるかな
0040名無しさん@1周年2018/05/11(金) 21:41:45.42ID:7bv9aeZx0
こんな開発研究やめたほうがよくない?
0041名無しさん@1周年2018/05/11(金) 21:45:32.05ID:NjLyiT1o0
人間が乗ってるなら減速したらアクセル踏めばいいと思うが…
自動運転にこだわり過ぎて今現在の商品としてはただの犯罪者養成装置
0042名無しさん@1周年2018/05/11(金) 21:47:15.58ID:t0L/slJg0
誤検知というかAIも

「こんな近距離で車の前に出てくるバカいねーからセンサーの誤検知だな」

って判断したんじゃねーの?
0043名無しさん@1周年2018/05/11(金) 21:49:40.82ID:3oLqIAbg0
LiDARは検知しているが、アプリが対応せず
真正面で減速せず 自動ブレーキが働かずに突っ込んだ
0044名無しさん@1周年2018/05/11(金) 21:52:10.51ID:Uj5/+Uxx0
検知はしたってご検知と判断してバンバン轢きます
0045名無しさん@1周年2018/05/11(金) 21:55:17.40ID:O7/5IEZy0
ソフト作った人逮捕されちゃうの?
0046名無しさん@1周年2018/05/11(金) 21:59:14.75ID:P3y9A1Ek0
AI「ニンゲン、愚かなる生き物、コロセ」
0047名無しさん@1周年2018/05/11(金) 22:03:34.59ID:LIYYtN8i0
>>16
今回、そのブレーキさえ踏まれていない、踏む気?さえなかったのが問題
まぁ、情報提供者の情報通りならの話しだけどね
0048名無しさん@1周年2018/05/11(金) 22:07:13.64ID:zieZZ3Pc0
>>26
現場は車線が広くなってて実質4車線…30m以上ある、
自転車を押して歩くと秒速1m以下やろな、ほぼ渡り終えてるから 30秒前には車は見えてなかったか、
街灯で明るいから避けてくれると思ってたんだろ、普通は避けるやろ、
時速72kmで秒速20m2秒前だと40m先…監視用の広角カメラだとオバサンは点だよ、スマホで40m先の人を撮してみたら判るが とても観察して識別できる大きさじゃないよ、、
この点では 広角を精密観察出来る人間の目にはマダマダ敵わないんや、
0049名無しさん@1周年2018/05/11(金) 22:07:49.41ID:A1aKkq8d0
>>16
ウーバーが公開した動画だけではなくて別の動画も見てみるといいよ
街灯の照明もあって現場はかなり明るいことがわかる

明るいからこそ横断者も油断したんだよ
車から自分のことは見えているはずだと
0050名無しさん@1周年2018/05/11(金) 22:08:21.65ID:DiWEw7/J0
自転車を押してたので人間とも自転車とも形状認識できなかったか
0051名無しさん@1周年2018/05/11(金) 22:15:07.34ID:+cUjzi7X0
>>37
飛行機でも電車でも実用化済みだぞ
0052名無しさん@1周年2018/05/11(金) 22:16:31.61ID:pjoBP1SU0
だからAIごときに自動運転とか永遠に無理なんだってばよ
0053名無しさん@1周年2018/05/11(金) 22:23:38.20ID:yM4VKgoi0
人間プラス自転車サイズの障害物を仮にビニール袋だったとしても突っ込む選択は有り得ない。
実質的にはレーンキープしかさせてなかったんだろ。
人にブレーキ踏ませるつもりで。
0054名無しさん@1周年2018/05/11(金) 22:48:04.06ID:zieZZ3Pc0
>>53
単眼カメラやから距離が見えないんや、シルエットだけで判断したからやろな、サーモーを使っても同じ…解像度から余計に悪いかな、
ワシも片目やから良くわかるわ、シルエットだけで判断しとるからなぁ、あと車間を取って地面を視界に入れるとものすごく楽やなんよ だからテールライトしか見えない夜は怖い、
流石にウーバーは 距離や対象物の大きさの判断に 地面を使う芸は出来んやろな、
0055名無しさん@1周年2018/05/11(金) 22:51:15.61ID:fkV8d/0X0
にしても運転手は何故ブレーキ掛けなかった

初物の機械を信用するなよ
0056名無しさん@1周年2018/05/11(金) 22:52:48.05ID:0aqcWGPH0
出てくるほうが悪いんだから引いちゃえって判断したんかな
0057名無しさん@1周年2018/05/11(金) 22:53:01.26ID:fkV8d/0X0
>>49
横断者も車の進路遮るなよ
走って逃げてれば避けれたのに
0059名無しさん@1周年2018/05/11(金) 23:08:13.09ID:NjLyiT1o0
多分、実用化するとしたら日本が最初だと思う…こういう物を実用化する能力に長けてる気がする
0060名無しさん@1周年2018/05/11(金) 23:18:36.57ID:YvbA36IO0
青森県知事の三村申吾なんですが、
父親の頃から公明党の会派で、

実家の三村興業社が
六ケ所村の再処理工場を運営する日本動燃から
仕事を受けていたみたいですね。^^

六ケ所村のある上北郡区は、
父親が初出馬した頃からの地盤であり、
もちろん推進派の中心的な人物です。^^

http://56285.blog.jp/archives/51946570.html


国民民主党の顔ぶれを見ると、
小沢グループや、前原グループにいた連中で
構成されていることがわかりますね。 ^^

つまり、公明党と仲のいい人たちということです。 ^^

三村知事も、その仲間である田名部センセーも、
日本新党 → 新進党 に参加していた議員で、
田名部さんについては、八戸戦争で
大島理森と対立しています。^^
                      
0061名無しさん@1周年2018/05/12(土) 00:30:11.49ID:PYSaYKMV0
こういうのって常に安全側に作用するようにプログラムするもんじゃないの?
AIがだろう運転してどうすんだよ
0063名無しさん@1周年2018/05/12(土) 01:25:15.20ID:bcy4UhBV0
AI「マンドクセー、おい運転手お前が運転しろよ」
0065名無しさん@1周年2018/05/12(土) 05:21:31.14ID:naTDaU1T0
よーく考えてみたら、自動運転って目の見えない人がナビの言うとおりにハンドル握ってる、みたいなもんなんだな
ナビとのやりとりがとんでもなく高速だから普段は問題ないってだけで

まあ人間も脳内で似たような事やってるんだけどさ
0066名無しさん@1周年2018/05/12(土) 07:25:12.02ID:PyGRUQSG0
もともとこの事故以前からウーバーのAIは完成度が低くて信号無視、急停車急発進、歩行者への異常な接近が多かったとか報じられてる
ほとんど1km走行ごとになんかしらの問題発生があるとも
そういうレベルのモノが特に制限も監視も受けず公的機関への報告義務も持たないまま走っている
0067名無しさん@1周年2018/05/12(土) 08:18:48.72ID:pd79b2lj0
ボロボロだった昔のWindowsもそうだったけど
やってみなはれ精神はアメリカの強みではあると思う
0070名無しさん@1周年2018/05/12(土) 10:55:21.87ID:n+ic5aqU0
>>61
フレーム問題があるし自動車の運転自体が制御安全だ
人間だって運転中に脇見してたら簡単に道路からはみ出てしまう
0071名無しさん@1周年2018/05/12(土) 12:04:39.11ID:zwHC1mA80
車優先の道に飛び出したババアの自業自得
来るべき超高齢化社会に自動運転は不可欠、こんな事で止めるわけには
0072名無しさん@1周年2018/05/12(土) 12:07:48.93ID:yN4cv0Pz0
ウボァ
0073名無しさん@1周年2018/05/12(土) 12:08:09.01ID:E3R+3izq0
こええ
0074名無しさん@1周年2018/05/12(土) 12:08:39.95ID:eZCmbAaw0
>>1
取り敢えず止まる方で調整しなかったのか?
そんなシステム怖過ぎるわ!
0076名無しさん@1周年2018/05/12(土) 12:19:24.08ID:XhYgzZVC0
ソフトバンクが筆頭株主になって開発を急いだ
0077名無しさん@1周年2018/05/12(土) 12:29:07.18ID:F/auOnJC0
被害者が成人だから今のところ微妙な空気だけどガキだったら世論は厳しかっただろうな
0078名無しさん@1周年2018/05/12(土) 16:50:51.59ID:PyGRUQSG0
これに対応できないなら例えば前を走るトラックの荷台から大きな荷物が落ちてもノーブレーキでまっすぐ突入する可能性がある
0079名無しさん@1周年2018/05/12(土) 18:01:40.56ID:ifgq5UgU0
単純に処理能力が全然人間に追いつかないのよね。
人間よりAIの方が賢いとか言ってるのはアホ。人間は集中力が全然もたないだけw
0080名無しさん@1周年2018/05/13(日) 19:13:58.96ID:9hKWW7pf0
まあ、自動運転ネタで美味しい御飯食べたい人達がワンサカ居るからね。
その人達が全力でネガティブ南話を潰し廻ってる、でも今回のようなのはさすがに潰しきれない
0081名無しさん@1周年2018/05/13(日) 20:43:04.39ID:tFMcO6Nh0
>>80

しかも事故が増えるほど声も大きくなるからな。事故がデータになるなんて万一メーカーが言って流出したら祭りになるな。
0082名無しさん@1周年2018/05/13(日) 21:58:00.43ID:CI/nHtv10
乗っていたテストドライバーは前科者だったようだし
会社ごと逮捕だろ
0083名無しさん@1周年2018/05/13(日) 22:12:56.53ID:21RzX0kR0
人間が運転していても避けられなかったという擁護はおかしいよね。

ビデオを見れば、横断する人を目視しても減速せずに突っ込んでる。
普通の人間の運転なら、目視したら急ブレーキは踏むので、衝突したとしてもあれよりは減速してぶつかってる。
衝突時の運動エネルギーは速度の2乗に比例するからブレーキ踏んでからぶつかるのと、ノーブレーキでぶつかるのとは大きな違いで、死亡させなかった可能性がかなりある。
0084名無しさん@1周年2018/05/13(日) 22:14:45.25ID:xDhLZbVU0
むしろ遺族は「女と認めてくれなったこと」に怒って賠償請求したりして
0086名無しさん@1周年2018/05/13(日) 23:48:28.25ID:y0VwsUpL0
>>32
JR西日本でっか
0087名無しさん@1周年2018/05/14(月) 00:01:31.75ID:EAqK3q4n0
>>85
飛行機でも離陸は未だ人力だし、鉄道の自動運転では線路上の障害物が「何か」を判別する必要はない
路上の自動運転車に必要とされる能力は、それらとは比較にならないほど高度だよね
0088名無しさん@1周年2018/05/14(月) 04:00:05.37ID:8mtoRJrx0
自動化が進んでいる航空機でも衝突回避は人間の仕事なんだよね
上に避けろとか下に避けろという指示は機械が出すけど
機械が自動で避けるところまではやってない

そして航空機とは違って自動車の運転は衝突回避の連続
0089名無しさん@1周年2018/05/14(月) 08:19:49.18ID:OM2ptsgU0
AIってこれといったブレイクスルーが無いまま急に実用化された印象。
0090名無しさん@1周年2018/05/14(月) 22:24:57.09ID:PkmxRsoR0
街灯も信号も人家もない道路を
黒い服着てゆっくり自転車押して横断しようとしてる
人間でも直前まで気づかない
0091名無しさん@1周年2018/05/14(月) 22:27:34.29ID:PkmxRsoR0
>>78
そこそこ混んでる雨上がりの高速道路で
水たまりに雲が映ったのを障害物と間違えて急ブレーキ掛けたら大事故だろ
0092名無しさん@1周年2018/05/15(火) 02:28:55.15ID:aNDheQU20
気づいて無いではなく

自動運転の味付けとして、意図して轢いたという事件なのに
0094名無しさん@1周年2018/05/15(火) 09:52:33.55ID:tlarAo8z0
>>90
街灯はあって人間ならちゃんと見える
事故発生当初「人が運転してても気づかなかっただろう」と発言した地元の警察署長は1週間も経たないうちにその発言を撤回して謝罪してる
0095名無しさん@1周年2018/05/15(火) 13:07:45.19ID:9zJuJlqo0
車線上を通過し始めた時点で、
一旦はバイクと認識されたしまった。
にもかかわらず進行方向に対しての速度がゼロ
(前方のバイクが急制動したとしても、いきなりの速度ゼロは有り得ない)
横から飛んできたビニール袋と認識されたか、
報道の誤検知と判断されスルーされた。

とりあえず簡単なアップデートは、
スルーしないで、ブレーキかかる制御にロジック分岐。

そもそも前方車線に割り込みされた場合、
(それだけの理由で)
速度を一旦おとすようには、プログラミングされていない。
たぶん、そうだろう。

予めこれが実装されてさえいれば、
急制動スタートの「間」を生み出すことが可能だ。
いきなりの急制動は、非現実的であるから、
事前、予備、仮などの軽くブレーキペダルに
足をかける動作が実装するだけで、
今回のノーブレーキと完全停止できないは、完全解決する。

俺はシロウトだが、この程度は理解できる。
とはいえ「車は急に止まれない」は、何も変わらない、当然だw
0096名無しさん@1周年2018/05/15(火) 13:14:13.00ID:l6/9T/hb0
電脳コイルみたいだな。
AIが認識する歩行者の位置と現実のそれとでズレが起きてはねられるみたいな…
0099名無しさん@1周年2018/05/15(火) 16:24:15.31ID:MGxzwGwY0
>>93
そういえば昔windowsが止まってアメリカの巡洋艦が漂流したことが有ったような無かったような
0100名無しさん@1周年2018/05/15(火) 16:30:39.30ID:6cXP16Gz0
>>6
まずおまえのママを消してくれる?有害だから
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況