【AI】Uberの自動運転車が女性をはねた死亡事故、女性検知していたことが判明 ソフトウェアが「誤検知」と判断、減速・回避せず
■ このスレッドは過去ログ倉庫に格納されています
◆Uberの自動運転カーが女性をはねて死なせた事故はソフトウェアが人物を「誤検知」と判断したためと判明
Uberが開発を進めていた自動運転カーが夜間の公道を走行中に道路を横断していた女性をはねて死なせてしまった事故の調査が進み、事故の原因は自動運転カーのソフトウェアの誤判断に起因するものであったことが明らかになっています。
Uber Finds Deadly Accident Likely Caused By Software Set to Ignore Objects On Road ? The Information
https://www.theinformation.com/articles/uber-finds-deadly-accident-likely-caused-by-software-set-to-ignore-objects-on-road
Report: Software bug led to death in Uber’s self-driving crash | Ars Technica
https://arstechnica.com/tech-policy/2018/05/report-software-bug-led-to-death-in-ubers-self-driving-crash/
内部の事情に詳しい2人の情報提供者からの情報をもとにThe InformationのAmir Efrati記者が報じた内容によると、事故の際にUberの自動運転カーのソフトウェアは横断者を認識していたものの、「false positive(誤検知)」だと判断して減速や回避をとらず、そのまま跳ね飛ばしてしまったとのこと。
自動運転カーのソフトウェアにとって、実在する物体と錯覚的に存在するように見えるだけの物体を見分けることは重要な課題であり、車両や歩行者、道路に落ちた大きな石などを極めて高い精度で検知することが求められます。
しかし一方で、風に飛ばされてきたビニール袋や道路脇の空き缶など、安全性にそれほど影響がないと判断できる物体も道路上には存在しており、その見分けを行うことも安全かつ効率的に公道を走行するために重要な要素です。
ここには、安全と効率のトレードオフが存在します。
もし、車両のソフトウェアが注意深くなりすぎると何ら問題のない空き缶や新聞紙にまで反応してしまい、まともに走行することができなくなります。
逆に、検知を甘くすると多少の障害物には文字どおり「目もくれず」ガシガシと走り続けられるようになりますが、本当に避けなければならない障害物にぶつかってしまうことも起こりえます。
そして今回の事故では、まさにその障害物が道路を横断していた女性だったというわけです。
実際に女性がはねられてしまう瞬間の直前までの映像が公開されています。
以下の記事では、車両が減速や急ハンドルを行う様子なく女性に突っ込んでいる様子を確認することができます。
Efrati氏は「Uberが周囲の障害物についてのシステムの警戒度を下げたがっていたのには理由があります。自動運転カーを快適に乗れる車両にすることを目指していたためです」
「Uberは、年内にフェニックス地域においてドライバーなしの自動運転カーに乗客を乗せて走行するという社内目標を達成することを急いでいました」と記しています。
何かある度にいちいちブレーキがかかる自動運転カーなど、とても快適な乗り物とは呼べません。
この課題をクリアするためにUberは開発を行っており、そのさなかに今回の事故が起こってしまいました。
UberはThe Informationの取材に対し、国家運輸安全委員会の調査が行われていることを理由にコメントを拒否しています。
■写真
https://i.gzn.jp/img/2018/05/08/uber-fatal-crush-software-bug/00_m.jpg
https://i.gzn.jp/img/2018/03/22/uber-accicent-driver/00_m.jpg
GIGAZINE 2018年05月08日 13時00分
https://gigazine.net/news/20180508-uber-fatal-crush-software-bug/ 人間プラス自転車サイズの障害物を仮にビニール袋だったとしても突っ込む選択は有り得ない。
実質的にはレーンキープしかさせてなかったんだろ。
人にブレーキ踏ませるつもりで。 >>53
単眼カメラやから距離が見えないんや、シルエットだけで判断したからやろな、サーモーを使っても同じ…解像度から余計に悪いかな、
ワシも片目やから良くわかるわ、シルエットだけで判断しとるからなぁ、あと車間を取って地面を視界に入れるとものすごく楽やなんよ だからテールライトしか見えない夜は怖い、
流石にウーバーは 距離や対象物の大きさの判断に 地面を使う芸は出来んやろな、 にしても運転手は何故ブレーキ掛けなかった
初物の機械を信用するなよ 出てくるほうが悪いんだから引いちゃえって判断したんかな >>49
横断者も車の進路遮るなよ
走って逃げてれば避けれたのに 多分、実用化するとしたら日本が最初だと思う…こういう物を実用化する能力に長けてる気がする 青森県知事の三村申吾なんですが、
父親の頃から公明党の会派で、
実家の三村興業社が
六ｹ所村の再処理工場を運営する日本動燃から
仕事を受けていたみたいですね。^^
六ｹ所村のある上北郡区は、
父親が初出馬した頃からの地盤であり、
もちろん推進派の中心的な人物です。^^
http://56285.blog.jp/archives/51946570.html
国民民主党の顔ぶれを見ると、
小沢ｸﾞﾙｰﾌﾟや、前原ｸﾞﾙｰﾌﾟにいた連中で
構成されていることがわかりますね。 ^^
つまり、公明党と仲のいい人たちということです。 ^^
三村知事も、その仲間である田名部ｾﾝｾｰも、
日本新党 → 新進党 に参加していた議員で、
田名部さんについては、八戸戦争で
大島理森と対立しています。^^
こういうのって常に安全側に作用するようにプログラムするもんじゃないの？
AIがだろう運転してどうすんだよ よーく考えてみたら、自動運転って目の見えない人がナビの言うとおりにハンドル握ってる、みたいなもんなんだな
ナビとのやりとりがとんでもなく高速だから普段は問題ないってだけで
まあ人間も脳内で似たような事やってるんだけどさ もともとこの事故以前からウーバーのAIは完成度が低くて信号無視、急停車急発進、歩行者への異常な接近が多かったとか報じられてる
ほとんど1km走行ごとになんかしらの問題発生があるとも
そういうレベルのモノが特に制限も監視も受けず公的機関への報告義務も持たないまま走っている ボロボロだった昔のWindowsもそうだったけど
やってみなはれ精神はアメリカの強みではあると思う >>67
Windowsにはさすがに殺されないから。 >>61
フレーム問題があるし自動車の運転自体が制御安全だ
人間だって運転中に脇見してたら簡単に道路からはみ出てしまう 車優先の道に飛び出したババアの自業自得
来るべき超高齢化社会に自動運転は不可欠、こんな事で止めるわけには >>1
取り敢えず止まる方で調整しなかったのか？
そんなシステム怖過ぎるわ！ 被害者が成人だから今のところ微妙な空気だけどガキだったら世論は厳しかっただろうな これに対応できないなら例えば前を走るトラックの荷台から大きな荷物が落ちてもノーブレーキでまっすぐ突入する可能性がある 単純に処理能力が全然人間に追いつかないのよね。
人間よりAIの方が賢いとか言ってるのはアホ。人間は集中力が全然もたないだけｗ まあ、自動運転ネタで美味しい御飯食べたい人達がワンサカ居るからね。
その人達が全力でネガティブ南話を潰し廻ってる、でも今回のようなのはさすがに潰しきれない >>80
しかも事故が増えるほど声も大きくなるからな。事故がデータになるなんて万一メーカーが言って流出したら祭りになるな。 乗っていたテストドライバーは前科者だったようだし
会社ごと逮捕だろ 人間が運転していても避けられなかったという擁護はおかしいよね。
ビデオを見れば、横断する人を目視しても減速せずに突っ込んでる。
普通の人間の運転なら、目視したら急ブレーキは踏むので、衝突したとしてもあれよりは減速してぶつかってる。
衝突時の運動エネルギーは速度の２乗に比例するからブレーキ踏んでからぶつかるのと、ノーブレーキでぶつかるのとは大きな違いで、死亡させなかった可能性がかなりある。 むしろ遺族は「女と認めてくれなったこと」に怒って賠償請求したりして >>85
飛行機でも離陸は未だ人力だし、鉄道の自動運転では線路上の障害物が「何か」を判別する必要はない
路上の自動運転車に必要とされる能力は、それらとは比較にならないほど高度だよね 自動化が進んでいる航空機でも衝突回避は人間の仕事なんだよね
上に避けろとか下に避けろという指示は機械が出すけど
機械が自動で避けるところまではやってない
そして航空機とは違って自動車の運転は衝突回避の連続 AIってこれといったブレイクスルーが無いまま急に実用化された印象。 街灯も信号も人家もない道路を
黒い服着てゆっくり自転車押して横断しようとしてる
人間でも直前まで気づかない >>78
そこそこ混んでる雨上がりの高速道路で
水たまりに雲が映ったのを障害物と間違えて急ブレーキ掛けたら大事故だろ 気づいて無いではなく
自動運転の味付けとして、意図して轢いたという事件なのに >>69
なら自動運転のシステムにwindowsが使われたら？ >>90
街灯はあって人間ならちゃんと見える
事故発生当初「人が運転してても気づかなかっただろう」と発言した地元の警察署長は1週間も経たないうちにその発言を撤回して謝罪してる 車線上を通過し始めた時点で、
一旦はバイクと認識されたしまった。
にもかかわらず進行方向に対しての速度がゼロ
（前方のバイクが急制動したとしても、いきなりの速度ゼロは有り得ない）
横から飛んできたビニール袋と認識されたか、
報道の誤検知と判断されスルーされた。
とりあえず簡単なアップデートは、
スルーしないで、ブレーキかかる制御にロジック分岐。
そもそも前方車線に割り込みされた場合、
（それだけの理由で）
速度を一旦おとすようには、プログラミングされていない。
たぶん、そうだろう。
予めこれが実装されてさえいれば、
急制動スタートの「間」を生み出すことが可能だ。
いきなりの急制動は、非現実的であるから、
事前、予備、仮などの軽くブレーキペダルに
足をかける動作が実装するだけで、
今回のノーブレーキと完全停止できないは、完全解決する。
俺はシロウトだが、この程度は理解できる。
とはいえ「車は急に止まれない」は、何も変わらない、当然だw 電脳コイルみたいだな。
AIが認識する歩行者の位置と現実のそれとでズレが起きてはねられるみたいな… >>93
そういえば昔windowsが止まってアメリカの巡洋艦が漂流したことが有ったような無かったような >>6
まずおまえのママを消してくれる？有害だから ディープラーニングというバズワードは、
自動運転に求められる安全性・精度には、無関係とおもわれ、
ＡＩも言葉が、勝手に一人歩きしている。
しょせんは、人が組み込んだロジックで分岐するだけのことだ。
本件に限らず、アナログ・ライクで
情緒的な御仁やマスコミには呆れてしまうw 逆に言えば背景のただの壁とかドアの動きとかではなく「何か」だとは検知していたということだろうからな こんなところをこうフラフラ動くのは紙袋だろう、とか
判断精度を上げていけばいいだけ 他社も問題を共有するからどんどん高まる ■ このスレッドは過去ログ倉庫に格納されています
