X

【自動運転】カメラやセンサーを騙すことでTeslaのAutopilotを混乱させる攻撃 研究

■ このスレッドは過去ログ倉庫に格納されています
0001みつを ★
垢版 |
2019/04/07(日) 08:06:14.60ID:ZSUJdalR9
https://security.srad.jp/story/19/04/05/0652240/

テクノロジー
カメラやセンサーを騙すことでTeslaのAutopilotを混乱させる攻撃

ストーリー by hylom 2019年04月05日 15時55分だまし絵にころっと騙されそう 部門より

headless曰く、
TeslaのAutopilot機能を車載システムに侵入することなく攻撃する手法について、Tencent Keen Security Labが研究結果を公表している（Keen Security Lab Blog、SlashGear、Ars Technica、動画）。

Keen Security LabではTesla車のセキュリティ調査を以前から行っており、昨年のBlack Hat USA 2018ではTesla車のWi-Fi/3G通信機能を経由してAutopilot ECU（APE）に侵入し、のルート権限を取得する研究の成果を発表している。今回の研究ではルート権限を利用して外部からゲームコントローラーでハンドルを操作する手法に加え、車載カメラにadversarial exampleを撮影させ、自動ワイパー機能や車線検出機能のニューラルネットワークを混乱させる手法が検証されている。

従来の自動ワイパーではフロントガラスに落ちた雨粒による光の反射の変化を光センサーで検出する手法が用いられているのに対し、Teslaではカメラで撮影したフロントガラスの映像をニューラルネットワークで処理して降雨を判断しているという。研究ではカメラからの映像にわずかなノイズを加えることで降雨スコアが上昇することを確認しているが、映像を改変する攻撃は現実的ではない。そのため、車両前方に配置したテレビにノイズの画像を表示する実験を行い、ウォーリーノイズを表示した場合に降雨スコアが大きく上昇することを確認した。動画ではウォーリーノイズを画面に表示するとワイパーが動き出しており、先行車両のリアウィンドウや道路脇など、Teslaの魚眼カメラに写る場所へノイズ画像を表示することでワイパーを作動させることができるとみられている。

車線検出機能を混乱させる攻撃としては、車線を見失わせる攻撃と偽の車線を認識させる攻撃を検証している。車線を見失わせる攻撃では、カメラからの映像に強いノイズを加えたり、ペイント部分にパッチを加えたりすることで、ペイントが検出されなくなることが確認された。ただし、現実の道路でAPEが混乱するレベルまでペイント部分にステッカーなどのパッチを貼った場合、ドライバーが気付いてしまう可能性が高い。Teslaではペイントが消えかかっているなど状態の悪い道路の画像を学習させているとみられ、車線を見失わせる攻撃には強いようだ。一方、道路上に小さなステッカーをいくつか配置することで車線のペイントと誤認識することが確認されており、動画では車線を斜めに横切る形で数個のステッカーを貼るだけで対向車線に進ませるデモも行われている。
0078名無しさん＠１周年
垢版 |
2019/04/07(日) 11:31:49.33ID:jTxKV3MS0
>>72
首都高のブラインドなんて
人間でも普通に突っ込むし
機械だから何とかできるとするなら
十分な車間がとれてブレーキかけても
後続に多重オカマ掘られないくらいだ

基本的に危険回避は命が助かれば良しとしよう
車なんて保険でどうにでもなる
0079名無しさん＠１周年
垢版 |
2019/04/07(日) 11:35:40.12ID:NUpDSTkD0
ハイブリッド車みたいに、運転アシストAIの期間とってノウハウ蓄積してくしかないだろ
いきなり自動運転めざすなよ
0080名無しさん＠１周年
垢版 |
2019/04/07(日) 11:37:30.79ID:WgwT93U30
>>44
道路に紙切れが数枚落ちていたら車線と誤認識する可能性がある
0083名無しさん＠１周年
垢版 |
2019/04/07(日) 11:46:30.67ID:jIz4cgrj0
>>15
w
怖すぎ
0084名無しさん＠１周年
垢版 |
2019/04/07(日) 11:47:21.92ID:jIz4cgrj0
路面にタヌキや猫の横たわる絵を描くと避けるのかな？
008572
垢版 |
2019/04/07(日) 11:48:57.83ID:YWPnPQA40
>>78
１０年ほど前だが、俺は東名高速のブラインドコーナーの追い越し車線に「家」（庭とかに置く８畳タイプ）」が落ちてたのに遭遇したことがあってな。
前方の全車両がパニックブレーキを踏みスキール音を上げながら左車線になだれ込み、俺は後続車の追突を避けるために緊急車両レーンに逃げ込んで難を逃れた。
ああいう斜め上な事態をＡＩが適切に処理できるとは到底思えんのよ。
0086名無しさん＠１周年
垢版 |
2019/04/07(日) 11:50:16.36ID:aJvDPfqD0
AIで自動運転が出来るレベルにあるのなら
そのAIで信号機を制御しろよと言いたくなる。

視界の開けた交差点で
前後左右には自分以外誰もいないのに信号が赤になる非効率さ。
0087名無しさん＠１周年
垢版 |
2019/04/07(日) 12:01:06.29ID:DdLwLnkS0
自動運転が自動車側だけで完結すると思ってるやつとかいるの？
0089名無しさん＠１周年
垢版 |
2019/04/07(日) 12:09:31.75ID:FzmnD7wa0
>>1
フロントガラスの光の反射を捉えているなら、レーザー光とかプロジェクターでフロントガラスにハッキング用画像を投影すれば終わりだな。
何てお手軽ハッキングだよ
0091名無しさん＠１周年
垢版 |
2019/04/07(日) 12:18:01.46ID:WgwT93U30
完全自動運転ならワイパーはカメラのとこだけでいいんじゃない？
0092名無しさん＠１周年
垢版 |
2019/04/07(日) 12:29:56.90ID:Voo6LktX0
降雨判断なんてスタンドアローンでできるだろうに
わざわざネットワークを介してるってことはデータを交通情報とかウェザーニュースとかで換金する算段でもあるのかな
0093名無しさん＠１周年
垢版 |
2019/04/07(日) 12:45:49.18ID:WpPbNm3d0
>>85
家ってなんの間違いかしばらく考えたが、
要はプレハブが落っこちてたってことか
0095名無しさん＠１周年
垢版 |
2019/04/07(日) 12:49:12.31ID:jIz4cgrj0
>>94
愛には穴が不可欠
0096名無しさん＠１周年
垢版 |
2019/04/07(日) 13:37:42.11ID:i0aqZToc0
>>94-95
ﾜﾛﾀｗ
0098名無しさん＠１周年
垢版 |
2019/04/07(日) 14:25:31.60ID:cCuVlKr60
薄くS字になってる直線も衝突アラートなるから
gpsから道の予想はしてないって事やんな？
0099名無しさん＠１周年
垢版 |
2019/04/07(日) 14:28:54.19ID:z6f/z9vw0
自動運転車を改造して爆弾テロなどはやろうと思えば可能だよなぁ。
0100名無しさん＠１周年
垢版 |
2019/04/07(日) 14:34:23.02ID:SZH/jWO10
センターラインを書き換えて道路の形状を誤認させて、絶壁に突っ込ませるような
こともできちゃうんかな？
0103名無しさん＠１周年
垢版 |
2019/04/07(日) 14:43:58.10ID:r6FO2hB/0
>>102
完全自動運転には思考力が必要です。
0104名無しさん＠１周年
垢版 |
2019/04/07(日) 14:52:05.95ID:KpdZCYFL0
>>100

パンスト朝鮮顔のネトエラ（ネット工作の 在日朝鮮人）がものすごい勢いで暴れまくってるからな。


日本に密入国してきて図々しく居つき、
生活保護を受給しながら性犯罪を繰り返し、
日本人になりすましネット工作を続ける在日朝鮮人。

在日朝鮮人はスパイそのもの。
帰化人を含めて朝鮮人全員をいったん強制送還するしかない


●●● ネトウヨ連呼厨（ネトエラ）の正体 ●●●
http://www.fuyuu.com/home35/uyokunosyoutai.html

.
0105名無しさん＠１周年
垢版 |
2019/04/07(日) 14:53:24.75ID:Vxq9BUBbO
パソコンですら完成品にならないのに、自動運転とか夢見すぎ
0106名無しさん＠１周年
垢版 |
2019/04/07(日) 14:53:25.22ID:+ska2YRY0
お店の広告で車道近くにマネキン立たせてるやつ、あれも運転者を混乱させるからやめて欲しい
0109名無しさん＠１周年
垢版 |
2019/04/07(日) 18:41:42.18ID:tOhl56QB0
>>60
その条件の方が断然楽だろ
電子マップ上の道をトレースするだけだし
地吹雪舞う冬の北海道で歩行者や自転車がウロウロしてたら別だけど
0110名無しさん＠１周年
垢版 |
2019/04/07(日) 18:48:20.88ID:EiN3GD/m0
工事中によくある対向車線誘導とか対応できるのかね
0111名無しさん＠１周年
垢版 |
2019/04/07(日) 18:50:23.58ID:TJ5JN6uV0
やっぱ無理やん
0112名無しさん＠１周年
垢版 |
2019/04/07(日) 19:10:54.32ID:3UKkwFTV0
自車の車載センサーだけで自動運転に必要な情報を賄うとか不可能だよ
ていうかここの車両が自由に走り回る限り安全な自動運転は不可能
本気でやるなら集中制御と、制御対象外の物体の道路からの完全排除が必須
0114名無しさん＠１周年
垢版 |
2019/04/07(日) 19:16:50.85ID:4VipBxJu0
石油は30年後に枯渇ｗ
ノストラダムス1999年7月ｗ
高速増殖炉商用化ｗ
核融合発電ｗ
シンギュラリティｗ
自動運転ｗ

お前らって騙されてばっかりだなぁ
0115名無しさん＠１周年
垢版 |
2019/04/07(日) 21:05:17.69ID:X5gDvYYG0
AIが猿じゃ　さもありなん
自動運転なんぞサッサとやめちまえ
利益を享受する奴は極少数でしかない
短絡的な未来志向で自分の首が締まるだけ
0116名無しさん＠１周年
垢版 |
2019/04/07(日) 21:38:29.23ID:3Li4VnJU0
なんだっけ
チェーン店の看板ロゴに本田の自動運転が反応してブレーキ踏むとかなんとか
0117名無しさん＠１周年
垢版 |
2019/04/07(日) 21:48:45.65ID:wdSOyUNM0
日産車の試乗中に客が販売員に「自動ブレーキ搭載車なので試して」と言われ
試したら自動ブレーキが作動しなくて前の車に追突して
客が逮捕されたって事件のニュースがあったな
0118名無しさん＠１周年
垢版 |
2019/04/07(日) 21:56:34.27ID:KZPf8uMO0
車や道路の形状、システムやルールは全て人間が運転する前提で進化させてきた
物なのに、そのシステムそのままを機械に実行させるのは無駄無駄無駄だと思うんだがなぁ…
ロボットにお箸とお椀を持たせて「難しい技術！」と叫ばれても、ほーんとしか思えないようなもの。
道路全部ひっぺがして線路引いた方が楽そうだよ
0119名無しさん＠１周年
垢版 |
2019/04/07(日) 22:01:48.11ID:cjp/+E3s0
カメラやセンサー隠したら騙すもなにも動かねーよ馬鹿か？
0120名無しさん＠１周年
垢版 |
2019/04/07(日) 22:04:25.08ID:FcGIXAPC0
人間に対しても騙し絵トリックで落とし穴にはめて
殺すことは可能だな
0122名無しさん＠１周年
垢版 |
2019/04/07(日) 22:09:07.92ID:E4fyts+D0
　

そらそうだ

結局カメラや電波頼りなので、それを撹乱することは十分に可能

ましてカネ使える研究機関ならいくらでもそんなのは作れる
　
0123名無しさん＠１周年
垢版 |
2019/04/08(月) 00:45:02.44ID:4lwJfXRV0
車線を検知できるけどその車線が正しいかまだ判断できないのが
0125名無しさん＠１周年
垢版 |
2019/04/08(月) 19:57:31.64ID:K52m/2OO0
テロ的行為で処罰すれば良いだけ
0126名無しさん＠１周年
垢版 |
2019/04/08(月) 23:10:15.53ID:zgJtJucR0
この先自動運転本気でやるなら高速に自動運転専用レーン作るしかないわな
そして自動運転は自動車専用道だけ
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況