X
【交通】Uberの自動運転カーが女性をはねて死なせた事故は、ソフトウェアが歩行者を「誤検知」と判断したためと判明
■ このスレッドは過去ログ倉庫に格納されています
0001ニライカナイφ ★
垢版 |
2018/05/08(火) 22:18:50.04ID:CAP_USER9
◆Uberの自動運転カーが女性をはねて死なせた事故はソフトウェアが人物を「誤検知」と判断したためと判明

Uberが開発を進めていた自動運転カーが夜間の公道を走行中に道路を横断していた女性をはねて死なせてしまった事故の調査が進み、事故の原因は自動運転カーのソフトウェアの誤判断に起因するものであったことが明らかになっています。

Uber Finds Deadly Accident Likely Caused By Software Set to Ignore Objects On Road ? The Information
https://www.theinformation.com/articles/uber-finds-deadly-accident-likely-caused-by-software-set-to-ignore-objects-on-road

Report: Software bug led to death in Uber’s self-driving crash | Ars Technica
https://arstechnica.com/tech-policy/2018/05/report-software-bug-led-to-death-in-ubers-self-driving-crash/

内部の事情に詳しい2人の情報提供者からの情報をもとにThe InformationのAmir Efrati記者が報じた内容によると、事故の際にUberの自動運転カーのソフトウェアは横断者を認識していたものの、「false positive(誤検知)」だと判断して減速や回避をとらず、そのまま跳ね飛ばしてしまったとのこと。
自動運転カーのソフトウェアにとって、実在する物体と錯覚的に存在するように見えるだけの物体を見分けることは重要な課題であり、車両や歩行者、道路に落ちた大きな石などを極めて高い精度で検知することが求められます。
しかし一方で、風に飛ばされてきたビニール袋や道路脇の空き缶など、安全性にそれほど影響がないと判断できる物体も道路上には存在しており、その見分けを行うことも安全かつ効率的に公道を走行するために重要な要素です。

ここには、安全と効率のトレードオフが存在します。
もし、車両のソフトウェアが注意深くなりすぎると何ら問題のない空き缶や新聞紙にまで反応してしまい、まともに走行することができなくなります。

逆に、検知を甘くすると多少の障害物には文字どおり「目もくれず」ガシガシと走り続けられるようになりますが、本当に避けなければならない障害物にぶつかってしまうことも起こりえます。
そして今回の事故では、まさにその障害物が道路を横断していた女性だったというわけです。

実際に女性がはねられてしまう瞬間の直前までの映像が公開されています。
以下の記事では、車両が減速や急ハンドルを行う様子なく女性に突っ込んでいる様子を確認することができます。

Efrati氏は「Uberが周囲の障害物についてのシステムの警戒度を下げたがっていたのには理由があります。自動運転カーを快適に乗れる車両にすることを目指していたためです」
「Uberは、年内にフェニックス地域においてドライバーなしの自動運転カーに乗客を乗せて走行するという社内目標を達成することを急いでいました」と記しています。

何かある度にいちいちブレーキがかかる自動運転カーなど、とても快適な乗り物とは呼べません。
この課題をクリアするためにUberは開発を行っており、そのさなかに今回の事故が起こってしまいました。
UberはThe Informationの取材に対し、国家運輸安全委員会の調査が行われていることを理由にコメントを拒否しています。

■写真
https://i.gzn.jp/img/2018/05/08/uber-fatal-crush-software-bug/00_m.jpg
https://i.gzn.jp/img/2018/03/22/uber-accicent-driver/00_m.jpg

GIGAZINE　2018年05月08日 13時00分
https://gigazine.net/news/20180508-uber-fatal-crush-software-bug/
0739名無しさん＠１周年
垢版 |
2018/05/12(土) 06:03:51.29ID:qT234CMD0
センサーや機器の故障ならまだしも

味付けに匙加減で「轢け」と命令をしていた、という事件
0740名無しさん＠１周年
垢版 |
2018/05/12(土) 06:08:14.37ID:/0QNj1tv0
AIがよそ見をしていたらどうなるかな。
0741名無しさん＠１周年
垢版 |
2018/05/12(土) 06:11:23.17ID:tU9QmZQy0
つまりだ、AIも前方確認を誤って人並みに交通事故を起こす。

AIは人並みに優秀じゃねーか！なんら実用化しても問題はない！
0742名無しさん＠１周年
垢版 |
2018/05/12(土) 06:18:49.57ID:tU9QmZQy0
>>736
結局はそういうことなんだとオレは思った。AIは交通事故で人を轢いてしまった。でも日常的に人も交通事故で人を轢いてしまっているのが現実。
つまりはAIによる自動運転が問題なのではなく道路を車が自由に走れるという今の交通システムに安全上の問題があることが明確になったんじゃないか？
車の自動運転を実現するには今とは異なった交通システムの開発が必要となるだろう。発想の転換が必要だ。
0743名無しさん＠１周年
垢版 |
2018/05/12(土) 06:31:31.51ID:Qx6AazMY0
Uberは空でもって無人運転をやろうとしてて笑った
9.11の再現でもしたいのか
0744名無しさん＠１周年
垢版 |
2018/05/12(土) 06:32:22.06ID:6WWQX3V20
システムの警戒度を下げたたら全く意味ないね。
瞬時に解析して人間でないことが確認されるまでスルーしてはいけない。
0746名無しさん＠１周年
垢版 |
2018/05/12(土) 06:55:51.58ID:qT234CMD0
考え方として、

フェイルセーフとは正反対の概念で動かしていた、というかなり致命的な吐露
0747名無しさん＠１周年
垢版 |
2018/05/12(土) 07:14:51.32ID:NOQpOCNu0
黒人が銃をモッテマス
ガーン
0748名無しさん＠１周年
垢版 |
2018/05/12(土) 07:56:13.40ID:13Mz0vv10
>>718
ホンダは廃墟を利用したテストコース(GoMentum Station)で実験してる
トヨタも今年からGoMentum Stationでテストを開始する
0749名無しさん＠１周年
垢版 |
2018/05/12(土) 11:16:43.13ID:rwRdblGR0
AI自体が死にたくない(機能停止したくない)、他を傷つけたくない と「思う」ようになるまで人命に関わるような自律動作をさせてはダメだ。
0751名無しさん＠１周年
垢版 |
2018/05/12(土) 12:58:05.02ID:iWqaDdM00
そういや以前の応用情報技術者で自動ブレーキシステムについての問題あったなぁ
0752名無しさん＠１周年
垢版 |
2018/05/12(土) 14:21:16.73ID:3TJHXb7/0
このAIの「人」だと認識する基準が気になる
なんか完全に「人の姿」を認識して、その上で「人ではない」「減速の必要すらない」って判断下してんのよね、他の記事見ると

人間の目の「人間」「生き物」を検知するシステムって独特なんだろうなあ
点が三つあるだけで顔と認識しちゃうような誤作動起こすけど、そういうのが案外重要なのかもしらん
0753名無しさん＠１周年
垢版 |
2018/05/12(土) 14:40:03.04ID:S021vDR60
誤検知もクソもないじゃん、人か物体か識別できないんでしょ
まともに走れなくなるよりは人を轢くことを選んでるわけで、かなり悪質だよな
0754名無しさん＠１周年
垢版 |
2018/05/12(土) 14:48:43.85ID:WombEd6E0
自動運転カーはハッキングされたら一般車がそのまんま武器になるよね
0755名無しさん＠１周年
垢版 |
2018/05/12(土) 15:06:01.66ID:jG2ojyV80
>>754
普通の車だって乗っとられれば．．．と思ったが、はるかに低リスクか
同時に何台もハッキングされたら．．．とか考えるとたしかにかなり怖い
0757名無しさん＠１周年
垢版 |
2018/05/12(土) 17:52:38.23ID:rwRdblGR0
タチコマ「ねえねえ、君が僕たちのご先祖様？
殺すべきじゃない人を殺すとかだらしなさすぎでしょ。
恥ずかしいよ…」
0758名無しさん＠１周年
垢版 |
2018/05/12(土) 17:53:46.46ID:EX7/g3QE0
>>753
人間を物体としか認識しない間は、
交通誘導員の棒振りの意味をAIが解釈する日は遠いよな。
0760名無しさん＠１周年
垢版 |
2018/05/12(土) 18:38:44.50ID:w9OC178H0
でも女だったら殺してもよくね？
0761名無しさん＠１周年
垢版 |
2018/05/12(土) 18:42:05.85ID:59PuBdl+0
これ、公道で試験運転してるAIがどれほど人や物を判別出来るかを公的機関で調査すべきだろ
0762名無しさん＠１周年
垢版 |
2018/05/12(土) 19:30:20.57ID:CIgkxj/80
横断歩道も信号もお構いなしな国じゃ
自動運転なんて、まだまだまだ先
0764名無しさん＠１周年
垢版 |
2018/05/12(土) 20:28:48.94ID:GaaSILGb0
>>761
公的機関にそんな能力も資本も無い
0765名無しさん＠１周年
垢版 |
2018/05/12(土) 20:35:32.07ID:GTTunpHq0
新聞紙でも止まれよ。
再スタートは人間がボタンでも押せばいいだろ。
0766名無しさん＠１周年
垢版 |
2018/05/12(土) 20:57:52.63ID:Bk4ML/Hm0
>>763
どういう意味で？

このオヤジずっとよそ見してて
歩行者はだいぶ前からカメラに映ってたんだぞ？

明るい街燈もある3車線道でひき殺すとか運転手も車も舐めてんだよ
0767名無しさん＠１周年
垢版 |
2018/05/12(土) 21:08:21.24ID:xd5PYAK30
>>765
ていうか誤検知でも警告音を鳴らして、本当に誤検知なら解除ボタンを押して続行
本当にやばいならそのまま停止、これでいいんじゃないかと
自動運転は責任は運転者に行くみたいだし
0768名無しさん＠１周年
垢版 |
2018/05/12(土) 21:19:15.00ID:Bk4ML/Hm0
>>767

＞自動運転は責任は運転者に行くみたいだし

いわゆる自動運転はいかないよ
それを目指してるんだからさ

テスラみたいなのは”運転アシスト”だから運転手の責任だけど

http://www.mlit.go.jp/common/001174138.pdf
0769名無しさん＠１周年
垢版 |
2018/05/12(土) 21:28:03.30ID:Qh2oOgkX0
そもそもがシステムに無理があるんだもの。
無理なんだよ。
0770名無しさん＠１周年
垢版 |
2018/05/12(土) 22:21:20.88ID:1hNjYM2X0
今、連中が言ってるＡＩなるものは
そもそもホンモノじゃないしな。
昔からある人工無能に多数のデータ学習させて
それらしくしてあるだけで、知能があるわけでは
無いから、善悪の見境なんか勿論ない。
人を殺す罪悪感も無い。
だから、事故判断の枠から外れると簡単に
エラーを起こして事故る。
脳ミソが壊れてる知能障害者に自動車の運転を
覚えさせてるのと大差無い。
現状のウンコシステムではどれだけ実験しても
時間と金の無駄。
0771名無しさん＠１周年
垢版 |
2018/05/13(日) 05:40:58.11ID:VsTQECP+0
>>770
ホンモノのAIでも人を殺す罪悪感っていうものは無い
人の体があって宗教があってそれは初めて生まれる
車の運転程度でそんなものは必要無い
0772名無しさん＠１周年
垢版 |
2018/05/13(日) 09:31:17.96ID:vQx7uT270
センサーは事前に対象を捉えていたのに、乗り心地優先して
それが何かを判断できなかったうちに誤検知と判定させたなんて、
ブレーキ踏まずにスピードを落として検知を優先させる処理を
実装していなかっただけやん。
0773名無しさん＠１周年
垢版 |
2018/05/13(日) 11:25:00.63ID:I0GcznuC0
>>763
人間の運転なら、前方車両とあれだけ離れてたらハイビーム使うから、もっと早めに視認出来て避けられるんじゃね？
0775名無しさん＠１周年
垢版 |
2018/05/13(日) 11:31:59.31ID:Jm8JawMU0
複数の箇所と種類のセンサー・レーダーで総合的に見る、検知を優先させる
見える物体が何かを判断できる程度のAIを作るそれ必要なんだろうなー

でもとんでもなくお高くなりそうですね、まだ無理っぽいな
0776名無しさん＠１周年
垢版 |
2018/05/13(日) 13:51:36.19ID:T8nRu/aP0
>>774
youtube見てるとおかまいなしに擦りまくってるよ
AIが危険をかわしたっていうのはやらせのウソ動画だと思う
0777名無しさん＠１周年
垢版 |
2018/05/13(日) 13:59:05.95ID:FqUJhJ7q0
なんにしろ、あまりにもお粗末すぎる。
公道での実験禁止すべきだな。
0778名無しさん＠１周年
垢版 |
2018/05/13(日) 14:05:56.08ID:1QFyPyei0
完全自動運転なんて人間並みに思考できるようにならんと無理やろ
0779名無しさん＠１周年
垢版 |
2018/05/13(日) 14:08:37.60ID:/qOJI9uV0
人間と夜間のテールライトは同じモン　
人間と昼間のナイロン袋は　同じモン

ま〜見えてないんだから　走らせるな
0780名無しさん＠１周年
垢版 |
2018/05/13(日) 14:09:59.67ID:leYduke10
人間…

のようなモノ。轢いても問題ない。
0782名無しさん＠１周年
垢版 |
2018/05/13(日) 14:12:37.61ID:956odAal0
継続は力なり
技術を向上させ続ける事が肝心
0784名無しさん＠１周年
垢版 |
2018/05/13(日) 14:16:01.53ID:FqUJhJ7q0
で、被害者の遺族に誰がいくら賠償金を払うんだ？
0785名無しさん＠１周年
垢版 |
2018/05/13(日) 14:20:07.23ID:DwK5xWLt0
人じゃなかったんだろ。人か人じゃないかは人が決めるんじゃない時代が到来したってこと。
人と思われたいなら人側の努力が必要だよ
0788名無しさん＠１周年
垢版 |
2018/05/13(日) 19:29:10.55ID:gax9oX7O0
実験コースのテスト用の通行人は
ここにいる自動運転推奨派の連中を
使えば良いんだよ。
あいつらも自動運転車の礎になれれば
轢き殺されても本望だろwww
■ このスレッドは過去ログ倉庫に格納されています