【自動運転】カメラやセンサーを騙すことでTeslaのAutopilotを混乱させる攻撃 研究
■ このスレッドは過去ログ倉庫に格納されています
https://security.srad.jp/story/19/04/05/0652240/
テクノロジー
カメラやセンサーを騙すことでTeslaのAutopilotを混乱させる攻撃
ストーリー by hylom 2019年04月05日 15時55分だまし絵にころっと騙されそう 部門より
headless曰く、
TeslaのAutopilot機能を車載システムに侵入することなく攻撃する手法について、Tencent Keen Security Labが研究結果を公表している（Keen Security Lab Blog、SlashGear、Ars Technica、動画）。
Keen Security LabではTesla車のセキュリティ調査を以前から行っており、昨年のBlack Hat USA 2018ではTesla車のWi-Fi/3G通信機能を経由してAutopilot ECU（APE）に侵入し、のルート権限を取得する研究の成果を発表している。今回の研究ではルート権限を利用して外部からゲームコントローラーでハンドルを操作する手法に加え、車載カメラにadversarial exampleを撮影させ、自動ワイパー機能や車線検出機能のニューラルネットワークを混乱させる手法が検証されている。
従来の自動ワイパーではフロントガラスに落ちた雨粒による光の反射の変化を光センサーで検出する手法が用いられているのに対し、Teslaではカメラで撮影したフロントガラスの映像をニューラルネットワークで処理して降雨を判断しているという。研究ではカメラからの映像にわずかなノイズを加えることで降雨スコアが上昇することを確認しているが、映像を改変する攻撃は現実的ではない。そのため、車両前方に配置したテレビにノイズの画像を表示する実験を行い、ウォーリーノイズを表示した場合に降雨スコアが大きく上昇することを確認した。動画ではウォーリーノイズを画面に表示するとワイパーが動き出しており、先行車両のリアウィンドウや道路脇など、Teslaの魚眼カメラに写る場所へノイズ画像を表示することでワイパーを作動させることができるとみられている。
車線検出機能を混乱させる攻撃としては、車線を見失わせる攻撃と偽の車線を認識させる攻撃を検証している。車線を見失わせる攻撃では、カメラからの映像に強いノイズを加えたり、ペイント部分にパッチを加えたりすることで、ペイントが検出されなくなることが確認された。ただし、現実の道路でAPEが混乱するレベルまでペイント部分にステッカーなどのパッチを貼った場合、ドライバーが気付いてしまう可能性が高い。Teslaではペイントが消えかかっているなど状態の悪い道路の画像を学習させているとみられ、車線を見失わせる攻撃には強いようだ。一方、道路上に小さなステッカーをいくつか配置することで車線のペイントと誤認識することが確認されており、動画では車線を斜めに横切る形で数個のステッカーを貼るだけで対向車線に進ませるデモも行われている。 航空機のオートパイロットプログラムより高度なものが求められそうな世界だよな
自動運転車って 騙すのはカメラでもセンサーでも無いんだけどな。
認識モデル、つまりソフト側 ゆえにAIに任せるのだ、
悪質なウイルスに対応するには人より優れたAIの誕生、
あ、シンギュラリティかｗなるほどｗ >>1
色々あると思うよ。
だから人間レベルの知能を持つまでは、
AIになんか任せられん。 横転した車の絵をバンの後ろに描くことは
今の法律ではテロでもなんでもないだろ。 測距センサーのジャミングするだけで事故や大渋滞になるのか スーパーの駐車場で空いていると思ったら軽が停まっているっていう誤認も頻発しそう 運用開始後にバグッたら詫び石がとんでもないことになるからしょうがないね >>12
法律違反ではないけどテロに利用出来るだろ >>12
何を視て横転していると判断するのか、、意味の無いラインや模様だけで誤認識して大事故になる予感がするよ >>19
法律が現状のままではテロではなくて
テスラの落ち度。 >16
詳しいことはわからんけど「AIにはまだまだ穴がある」でしょ。 >>20
車の底の絵を描く。
現状でも鏡のようなトラックとか
天下一品とか、自動運転の障害に
なるようなゴミは沢山あるけどな。 飛行機の操縦は機械制御の順番が決まっているから
操縦能力だけで飛行できるが
自動車は四方八方の確認作業を行いながら
常に運転状態を保たないといけない
瞬間的判断の連続を持続させるゆえに
自動運転車の制御はむずかしい 夜中に白線をガードレールに向かって塗り替えておいて
翌朝現場を見に行く
ってＤＱＮな遊びが流行りそう
ワクワクしてきたぞ 正直、画像認識やレーダーだけで自動運転は安全的に無理だろ
道路や標識みたいなインフラや、
周りの車ともリアルタイムで通信して情報を得て
双方が同じ結論が出てはじめて動けるみたいなシステムにしないと 人間が錯視に騙されるのと変わらん
ツボが違うだけだ >>27
高速道路で１００ｋｍ／ｈで走ってる時にセンサーからの情報と外部からの上方に矛盾が生じたらその場で急ブレーキかけるのかよ つべで比較テスト見たけど
チョンダイとdsだけぶつかってたな。 この実験自体は有意義なんだけど、自動運転特有の欠陥じゃ無いよね。
人間のドライバーにレーザー照射しても事故るし。 >>34
人間のドライバーはシール数枚で対向車線へは飛び出さない >>23
それは自動運転の技術のほうがまだまだ不完全なんだよ >>34
充分に欠陥
製作者が意図していない行動を起こすならばそれはバグであり欠陥である 自動運転は怖いよ
前からトラックが逆走して右か左かに避けなきゃならん時に右に有力政治家
左に貧乏人の俺がいたら左に切られるんだろうな >>11
テロじゃ無い
不完全な機器を差も万能であるかのように過信して
見切り発車すてうる不届き企業への警告 >>35>>37
Aという欠陥があるから廃止しようというのは、
人間の運転でもいくらでも言える。
意味のない論法。 >>34
ちょっと違うかなあ
レーザーは明白な攻撃だけど
道路にステッカー貼るのは攻撃なのかな？ >>43
それ自体違法だぞ？
公道に物を設置するってことでしょ？ >>43
ステッカー貼ることでダメージを与えられることを知った上でやるなら攻撃なんじゃない この記事見て早速ユーチューバーが反対車線に誘導しそう、逮捕者ゾロゾロだな 安易に自動運転をうたうメーカへの警鐘だよ
白線だけを頼りに車線をキープしていたら分岐帯に突入した、、馬鹿なメーカーとかあったし
顔認識システムも赤ん坊ですら出来る顔全体を認識するのでは無く 顔の要点数か所だけで判断しているだけだからトンデモナイ間違いを犯しているし
今回も同じ理由で簡単に胡麻化されている 自動運転なんてまだまだだよ これ、雪道走行はまったくできなさそうだな
センサー部位に鳥の糞とか虫がついてもダメそう 鉄道でも自動運転できてないのに、自動車でしかも一般道での自動運転なんぞ不可能だろう。 ひとつだけ大事なこと
自動運転車にはそれを知らせるマーク（初心者マークのようなもの）を提示する義務を課すべき。 >>48
ボーイング737Max、バードアタックで墜落な 熟練のSFおじさんはニューロマンサーの頃から知ってるはず >>28
AIでも人と同じような錯視が再現されたから
人の錯視の研究が進むとかテレビで言ってたな
AIでも錯視対策は必要なんだろうな 人間も紛らわしい標識には騙されるし
そもそも標識の上にシール貼られたらどうしょうもないだろう
安全というのをどう定義するかの問題だろ
安全というのは「人間レベルの事故率」というのなら今のAIでも達成しているが 路上に人の写真の立て札とか、騙し絵みたいな壁作ったら騙されるの？ >>43
置き石と似たようなもんじゃない？
将来的には法規制されるだろうね 地吹雪舞う冬の北海道を無事に走破できるなら自動運転を信じてあげる AIを騙して対向車線に進ませるなんてのは論外だが、
飛び出し事故が多い道路で道端に3m置きに横断者がいるように見せかけて
そのあたり数百メートルは徐行しかできないようにするとかなら
いい攻撃だと思う >>44
一時的なものなら違法ではなさそう
占有するとダメ、また簡単に取れるテープだとそのままでも違法性は問われないと思う 車線のペイントとか消えかかってる場所けっこう有るよな 人工知能を搭載しないと完全自動運転は不可能。
クルマを運転する人間はそれだけのことを思考して判断している。
よって、先ずは存在さえしていない人工知能を完成させる必要があるが、
現在の技術では論理的に不可能らしいね。
日本中の専門家が寄ってたかって得た結論が人工知能は技術的に不可能。 >>1
こういう風に固有名詞をアルファベット表記するの止めてくれないかな？
カッコイイつもりか？ 読み難いんだよ。 不具合が見つかるとアップデート
アップデートすると起動しなくなるなんてことも起きそう
>>65
個々の車に人工知能搭載すると、個体差が出て余計ややっこしいことになりそう >>66
カタカナだと元の意味が伝わらない。
Keenだと『鋭い』ってすぐにわかるし、Ars Technicaだとラテン語の威厳を利用した大仰な社名だという所まで読み取れる。 >>39
自動運転車「前方よりトラック。只今よりクラッシュテストを行います。」 >>67
君はアニメの見過ぎ。
人工知能は個性を持てない。 高速道路のブラインドコーナーを事故車と散乱した部品や荷物が塞いでたりしたら、自動運転車はちゃんと回避できるのかね。
検出される障害物が多すぎて、回避ルートの計算が間に合わないんじゃないかと思うんだが。 >>10
人間並みのレベルまで上げると錯覚しまくりで使い物になんない 金集めや話題性のためにL5自動運転のニュースばかり取り上げるのは自動運転の普及を妨げてる
L4自動運転なら容易に実用可能なのに >>72
動物の飛び出しや飛んでくる虫やゴミなども、全て正しく判断できるとは思えないよな >>72
首都高のブラインドなんて
人間でも普通に突っ込むし
機械だから何とかできるとするなら
十分な車間がとれてブレーキかけても
後続に多重オカマ掘られないくらいだ
基本的に危険回避は命が助かれば良しとしよう
車なんて保険でどうにでもなる ハイブリッド車みたいに、運転アシストAIの期間とってノウハウ蓄積してくしかないだろ
いきなり自動運転めざすなよ >>44
道路に紙切れが数枚落ちていたら車線と誤認識する可能性がある 路面にタヌキや猫の横たわる絵を描くと避けるのかな？ >>78
１０年ほど前だが、俺は東名高速のブラインドコーナーの追い越し車線に「家」（庭とかに置く８畳タイプ）」が落ちてたのに遭遇したことがあってな。
前方の全車両がパニックブレーキを踏みスキール音を上げながら左車線になだれ込み、俺は後続車の追突を避けるために緊急車両レーンに逃げ込んで難を逃れた。
ああいう斜め上な事態をＡＩが適切に処理できるとは到底思えんのよ。 AIで自動運転が出来るレベルにあるのなら
そのAIで信号機を制御しろよと言いたくなる。
視界の開けた交差点で
前後左右には自分以外誰もいないのに信号が赤になる非効率さ。 自動運転が自動車側だけで完結すると思ってるやつとかいるの？ >>1
フロントガラスの光の反射を捉えているなら、レーザー光とかプロジェクターでフロントガラスにハッキング用画像を投影すれば終わりだな。
何てお手軽ハッキングだよ 完全自動運転ならワイパーはカメラのとこだけでいいんじゃない？ 降雨判断なんてスタンドアローンでできるだろうに
わざわざネットワークを介してるってことはデータを交通情報とかウェザーニュースとかで換金する算段でもあるのかな >>85
家ってなんの間違いかしばらく考えたが、
要はプレハブが落っこちてたってことか 薄くS字になってる直線も衝突アラートなるから
gpsから道の予想はしてないって事やんな？ 自動運転車を改造して爆弾テロなどはやろうと思えば可能だよなぁ。 センターラインを書き換えて道路の形状を誤認させて、絶壁に突っ込ませるような
こともできちゃうんかな？ >>71
個性？？
車の制御が人工知能である必要がないし >>100
パンスト朝鮮顔のネトエラ（ネット工作の 在日朝鮮人）がものすごい勢いで暴れまくってるからな。
日本に密入国してきて図々しく居つき、
生活保護を受給しながら性犯罪を繰り返し、
日本人になりすましネット工作を続ける在日朝鮮人。
在日朝鮮人はスパイそのもの。
帰化人を含めて朝鮮人全員をいったん強制送還するしかない
●●● ネトウヨ連呼厨（ネトエラ）の正体 ●●●
http://www.fuyuu.com/home35/uyokunosyoutai.html
. パソコンですら完成品にならないのに、自動運転とか夢見すぎ お店の広告で車道近くにマネキン立たせてるやつ、あれも運転者を混乱させるからやめて欲しい >>60
その条件の方が断然楽だろ
電子マップ上の道をトレースするだけだし
地吹雪舞う冬の北海道で歩行者や自転車がウロウロしてたら別だけど 自車の車載センサーだけで自動運転に必要な情報を賄うとか不可能だよ
ていうかここの車両が自由に走り回る限り安全な自動運転は不可能
本気でやるなら集中制御と、制御対象外の物体の道路からの完全排除が必須 石油は30年後に枯渇ｗ
ノストラダムス1999年7月ｗ
高速増殖炉商用化ｗ
核融合発電ｗ
シンギュラリティｗ
自動運転ｗ
お前らって騙されてばっかりだなぁ AIが猿じゃ さもありなん
自動運転なんぞサッサとやめちまえ
利益を享受する奴は極少数でしかない
短絡的な未来志向で自分の首が締まるだけ なんだっけ
チェーン店の看板ロゴに本田の自動運転が反応してブレーキ踏むとかなんとか 日産車の試乗中に客が販売員に「自動ブレーキ搭載車なので試して」と言われ
試したら自動ブレーキが作動しなくて前の車に追突して
客が逮捕されたって事件のニュースがあったな 車や道路の形状、システムやルールは全て人間が運転する前提で進化させてきた
物なのに、そのシステムそのままを機械に実行させるのは無駄無駄無駄だと思うんだがなぁ…
ロボットにお箸とお椀を持たせて「難しい技術！」と叫ばれても、ほーんとしか思えないようなもの。
道路全部ひっぺがして線路引いた方が楽そうだよ カメラやセンサー隠したら騙すもなにも動かねーよ馬鹿か？ 人間に対しても騙し絵トリックで落とし穴にはめて
殺すことは可能だな
そらそうだ
結局カメラや電波頼りなので、それを撹乱することは十分に可能
ましてカネ使える研究機関ならいくらでもそんなのは作れる
車線を検知できるけどその車線が正しいかまだ判断できないのが この先自動運転本気でやるなら高速に自動運転専用レーン作るしかないわな
そして自動運転は自動車専用道だけ ■ このスレッドは過去ログ倉庫に格納されています
