【自動運転】カメラやセンサーを騙すことでTeslaのAutopilotを混乱させる攻撃研究

**みつを ★** · 2019/04/07(日) 08:06:14.60

https://security.srad.jp/story/19/04/05/0652240/

テクノロジー
カメラやセンサーを騙すことでTeslaのAutopilotを混乱させる攻撃

ストーリー by hylom 2019年04月05日 15時55分だまし絵にころっと騙されそう部門より

headless曰く、
TeslaのAutopilot機能を車載システムに侵入することなく攻撃する手法について、Tencent Keen Security Labが研究結果を公表している（Keen Security Lab Blog、SlashGear、Ars Technica、動画）。

Keen Security LabではTesla車のセキュリティ調査を以前から行っており、昨年のBlack Hat USA 2018ではTesla車のWi-Fi/3G通信機能を経由してAutopilot ECU（APE）に侵入し、のルート権限を取得する研究の成果を発表している。今回の研究ではルート権限を利用して外部からゲームコントローラーでハンドルを操作する手法に加え、車載カメラにadversarial exampleを撮影させ、自動ワイパー機能や車線検出機能のニューラルネットワークを混乱させる手法が検証されている。

従来の自動ワイパーではフロントガラスに落ちた雨粒による光の反射の変化を光センサーで検出する手法が用いられているのに対し、Teslaではカメラで撮影したフロントガラスの映像をニューラルネットワークで処理して降雨を判断しているという。研究ではカメラからの映像にわずかなノイズを加えることで降雨スコアが上昇することを確認しているが、映像を改変する攻撃は現実的ではない。そのため、車両前方に配置したテレビにノイズの画像を表示する実験を行い、ウォーリーノイズを表示した場合に降雨スコアが大きく上昇することを確認した。動画ではウォーリーノイズを画面に表示するとワイパーが動き出しており、先行車両のリアウィンドウや道路脇など、Teslaの魚眼カメラに写る場所へノイズ画像を表示することでワイパーを作動させることができるとみられている。

車線検出機能を混乱させる攻撃としては、車線を見失わせる攻撃と偽の車線を認識させる攻撃を検証している。車線を見失わせる攻撃では、カメラからの映像に強いノイズを加えたり、ペイント部分にパッチを加えたりすることで、ペイントが検出されなくなることが確認された。ただし、現実の道路でAPEが混乱するレベルまでペイント部分にステッカーなどのパッチを貼った場合、ドライバーが気付いてしまう可能性が高い。Teslaではペイントが消えかかっているなど状態の悪い道路の画像を学習させているとみられ、車線を見失わせる攻撃には強いようだ。一方、道路上に小さなステッカーをいくつか配置することで車線のペイントと誤認識することが確認されており、動画では車線を斜めに横切る形で数個のステッカーを貼るだけで対向車線に進ませるデモも行われている。

**名無しさん＠１周年** · 2019/04/07(日) 08:07:35.59

マジかよ、パヨクシナチョン最悪だな。

**名無しさん＠１周年** · 2019/04/07(日) 08:13:39.61

総統は曹洞宗　いやなんとなく；

**名無しさん＠１周年** · 2019/04/07(日) 08:14:32.54

天下一品と進入禁止の判別は
できるのかよ？

**名無しさん＠１周年** · 2019/04/07(日) 08:14:56.67

航空機のオートパイロットプログラムより高度なものが求められそうな世界だよな
自動運転車って

**名無しさん＠１周年** · 2019/04/07(日) 08:17:42.92

負の研究によって自動運転のレベルが上がればいいね

**名無しさん＠１周年** · 2019/04/07(日) 08:18:52.19

騙すのはカメラでもセンサーでも無いんだけどな。
認識モデル、つまりソフト側

**名無しさん＠１周年** · 2019/04/07(日) 08:22:09.39

テロが捗りますね。

**名無しさん＠１周年** · 2019/04/07(日) 08:29:14.67

ゆえにAIに任せるのだ、
悪質なウイルスに対応するには人より優れたAIの誕生、
あ、シンギュラリティかｗなるほどｗ

**名無しさん＠１周年** · 2019/04/07(日) 08:32:39.91

>>1
色々あると思うよ。
だから人間レベルの知能を持つまでは、
AIになんか任せられん。

**名無しさん＠１周年** · 2019/04/07(日) 08:41:16.36

それもうテロやんか

**名無しさん＠１周年** · 2019/04/07(日) 08:42:32.12

横転した車の絵をバンの後ろに描くことは
今の法律ではテロでもなんでもないだろ。

**名無しさん＠１周年** · 2019/04/07(日) 08:43:12.25

危なくて道歩けん

**名無しさん＠１周年** · 2019/04/07(日) 08:43:51.43

測距センサーのジャミングするだけで事故や大渋滞になるのか

**名無しさん＠１周年** · 2019/04/07(日) 08:45:59.03

壁にトンネルの絵を描くやつでも試してくれ

**名無しさん＠１周年** · 2019/04/07(日) 08:46:30.42

なにが言いたいんだかサッパリわからん。

**名無しさん＠１周年** · 2019/04/07(日) 08:48:09.80

スーパーの駐車場で空いていると思ったら軽が停まっているっていう誤認も頻発しそう

**名無しさん＠１周年** · 2019/04/07(日) 08:50:10.97

運用開始後にバグッたら詫び石がとんでもないことになるからしょうがないね

**名無しさん＠１周年** · 2019/04/07(日) 08:50:38.70

>>12
法律違反ではないけどテロに利用出来るだろ

**名無しさん＠１周年** · 2019/04/07(日) 08:50:49.85

>>12
何を視て横転していると判断するのか、、意味の無いラインや模様だけで誤認識して大事故になる予感がするよ

**名無しさん＠１周年** · 2019/04/07(日) 08:52:01.66

>>19
法律が現状のままではテロではなくて
テスラの落ち度。

**名無しさん＠１周年** · 2019/04/07(日) 08:53:43.39

>16
詳しいことはわからんけど「AIにはまだまだ穴がある」でしょ。

**名無しさん＠１周年** · 2019/04/07(日) 08:53:53.32

>>20
車の底の絵を描く。

現状でも鏡のようなトラックとか
天下一品とか、自動運転の障害に
なるようなゴミは沢山あるけどな。

**名無しさん＠１周年** · 2019/04/07(日) 08:55:12.04

飛行機の操縦は機械制御の順番が決まっているから
操縦能力だけで飛行できるが
自動車は四方八方の確認作業を行いながら
常に運転状態を保たないといけない
瞬間的判断の連続を持続させるゆえに
自動運転車の制御はむずかしい

**名無しさん＠１周年** · 2019/04/07(日) 08:56:39.69

夜中に白線をガードレールに向かって塗り替えておいて

翌朝現場を見に行く

ってＤＱＮな遊びが流行りそう

ワクワクしてきたぞ

**名無しさん＠１周年** · 2019/04/07(日) 09:00:02.78

目を盗まれたごっこ

**名無しさん＠１周年** · 2019/04/07(日) 09:03:56.90

正直、画像認識やレーダーだけで自動運転は安全的に無理だろ

道路や標識みたいなインフラや、
周りの車ともリアルタイムで通信して情報を得て
双方が同じ結論が出てはじめて動けるみたいなシステムにしないと

**名無しさん＠１周年** · 2019/04/07(日) 09:08:22.54

人間が錯視に騙されるのと変わらん
ツボが違うだけだ

**名無しさん＠１周年** · 2019/04/07(日) 09:08:41.37

レーザー光線とか大丈夫なのかな

**名無しさん＠１周年** · 2019/04/07(日) 09:10:53.73

俺の目に侵入しやがったなぁ！！

**名無しさん＠１周年** · 2019/04/07(日) 09:12:11.10

>>27
高速道路で１００ｋｍ／ｈで走ってる時にセンサーからの情報と外部からの上方に矛盾が生じたらその場で急ブレーキかけるのかよ

**名無しさん＠１周年** · 2019/04/07(日) 09:23:01.54

>>4
止まれの看板を90度曲げればいい

**名無しさん＠１周年** · 2019/04/07(日) 09:23:27.39

つべで比較テスト見たけど
チョンダイとdsだけぶつかってたな。

**名無しさん＠１周年** · 2019/04/07(日) 09:25:09.84

この実験自体は有意義なんだけど、自動運転特有の欠陥じゃ無いよね。
人間のドライバーにレーザー照射しても事故るし。

**名無しさん＠１周年** · 2019/04/07(日) 09:29:07.71

>>34
人間のドライバーはシール数枚で対向車線へは飛び出さない

**名無しさん＠１周年** · 2019/04/07(日) 09:30:04.10

>>23
それは自動運転の技術のほうがまだまだ不完全なんだよ

**名無しさん＠１周年** · 2019/04/07(日) 09:37:14.04

>>34
充分に欠陥
製作者が意図していない行動を起こすならばそれはバグであり欠陥である

**名無しさん＠１周年** · 2019/04/07(日) 09:39:44.77

>>21
そんなこと言うとらん

**名無しさん＠１周年** · 2019/04/07(日) 09:40:27.94

自動運転は怖いよ
前からトラックが逆走して右か左かに避けなきゃならん時に右に有力政治家
左に貧乏人の俺がいたら左に切られるんだろうな

**名無しさん＠１周年** · 2019/04/07(日) 09:41:57.27

早く寝てるだけで目的地につくようになって

**名無しさん＠１周年** · 2019/04/07(日) 09:42:08.27

>>11
テロじゃ無い
不完全な機器を差も万能であるかのように過信して
見切り発車すてうる不届き企業への警告

**名無しさん＠１周年** · 2019/04/07(日) 09:43:37.11

>>35>>37
Aという欠陥があるから廃止しようというのは、
人間の運転でもいくらでも言える。
意味のない論法。

**名無しさん＠１周年** · 2019/04/07(日) 09:54:27.37

>>34
ちょっと違うかなあ

レーザーは明白な攻撃だけど
道路にステッカー貼るのは攻撃なのかな？

**名無しさん＠１周年** · 2019/04/07(日) 09:56:41.92

>>43
それ自体違法だぞ？
公道に物を設置するってことでしょ？

**名無しさん＠１周年** · 2019/04/07(日) 09:57:10.98

>>43
ステッカー貼ることでダメージを与えられることを知った上でやるなら攻撃なんじゃない

**名無しさん＠１周年** · 2019/04/07(日) 09:58:00.22

この記事見て早速ユーチューバーが反対車線に誘導しそう、逮捕者ゾロゾロだな

**名無しさん＠１周年** · 2019/04/07(日) 10:00:51.42

安易に自動運転をうたうメーカへの警鐘だよ
白線だけを頼りに車線をキープしていたら分岐帯に突入した、、馬鹿なメーカーとかあったし
顔認識システムも赤ん坊ですら出来る顔全体を認識するのでは無く　顔の要点数か所だけで判断しているだけだからトンデモナイ間違いを犯しているし
今回も同じ理由で簡単に胡麻化されている　自動運転なんてまだまだだよ

**名無しさん＠１周年** · 2019/04/07(日) 10:01:59.18

これ、雪道走行はまったくできなさそうだな
センサー部位に鳥の糞とか虫がついてもダメそう

**名無しさん＠１周年** · 2019/04/07(日) 10:05:04.32

鉄道でも自動運転できてないのに、自動車でしかも一般道での自動運転なんぞ不可能だろう。

**名無しさん＠１周年** · 2019/04/07(日) 10:05:40.65

>>42
免許持ってる？

**名無しさん＠１周年** · 2019/04/07(日) 10:08:16.53

ひとつだけ大事なこと
自動運転車にはそれを知らせるマーク（初心者マークのようなもの）を提示する義務を課すべき。

**名無しさん＠１周年** · 2019/04/07(日) 10:08:43.14

>>48
ボーイング737Max、バードアタックで墜落な

**名無しさん＠１周年** · 2019/04/07(日) 10:09:23.13

まず、免許を持ってない奴は発言禁止な。

**名無しさん＠１周年** · 2019/04/07(日) 10:09:24.63

熟練のSFおじさんはニューロマンサーの頃から知ってるはず

**名無しさん＠１周年** · 2019/04/07(日) 10:12:55.33

>>28
AIでも人と同じような錯視が再現されたから
人の錯視の研究が進むとかテレビで言ってたな
AIでも錯視対策は必要なんだろうな

**名無しさん＠１周年** · 2019/04/07(日) 10:19:10.52

完全犯罪し放題じゃん

**名無しさん＠１周年** · 2019/04/07(日) 10:21:23.60

人間も紛らわしい標識には騙されるし
そもそも標識の上にシール貼られたらどうしょうもないだろう

安全というのをどう定義するかの問題だろ
安全というのは「人間レベルの事故率」というのなら今のAIでも達成しているが

**名無しさん＠１周年** · 2019/04/07(日) 10:22:36.04

路上に人の写真の立て札とか、騙し絵みたいな壁作ったら騙されるの？

**名無しさん＠１周年** · 2019/04/07(日) 10:30:57.81

>>43
置き石と似たようなもんじゃない？
将来的には法規制されるだろうね

**名無しさん＠１周年** · 2019/04/07(日) 10:31:14.53

地吹雪舞う冬の北海道を無事に走破できるなら自動運転を信じてあげる

**名無しさん＠１周年** · 2019/04/07(日) 10:31:16.64

AIを騙して対向車線に進ませるなんてのは論外だが、
飛び出し事故が多い道路で道端に3m置きに横断者がいるように見せかけて
そのあたり数百メートルは徐行しかできないようにするとかなら
いい攻撃だと思う

**名無しさん＠１周年** · 2019/04/07(日) 10:32:19.30

>>44
一時的なものなら違法ではなさそう
占有するとダメ、また簡単に取れるテープだとそのままでも違法性は問われないと思う

**名無しさん＠１周年** · 2019/04/07(日) 10:34:04.88

新種の迷彩とかになるんですかこれ

**名無しさん＠１周年** · 2019/04/07(日) 10:34:15.19

車線のペイントとか消えかかってる場所けっこう有るよな

**名無しさん＠１周年** · 2019/04/07(日) 10:41:27.85

人工知能を搭載しないと完全自動運転は不可能。
クルマを運転する人間はそれだけのことを思考して判断している。
よって、先ずは存在さえしていない人工知能を完成させる必要があるが、
現在の技術では論理的に不可能らしいね。
日本中の専門家が寄ってたかって得た結論が人工知能は技術的に不可能。

**名無しさん＠１周年** · 2019/04/07(日) 10:48:17.15

>>1
こういう風に固有名詞をアルファベット表記するの止めてくれないかな？
カッコイイつもりか？　読み難いんだよ。

**名無しさん＠１周年** · 2019/04/07(日) 10:58:33.32

不具合が見つかるとアップデート
アップデートすると起動しなくなるなんてことも起きそう

>>65
個々の車に人工知能搭載すると、個体差が出て余計ややっこしいことになりそう

**名無しさん＠１周年** · 2019/04/07(日) 11:00:14.13

運転放棄するなら公共交通機関使えばいいのに

**名無しさん＠１周年** · 2019/04/07(日) 11:02:03.50

>>66
カタカナだと元の意味が伝わらない。

Keenだと『鋭い』ってすぐにわかるし、Ars Technicaだとラテン語の威厳を利用した大仰な社名だという所まで読み取れる。

**名無しさん＠１周年** · 2019/04/07(日) 11:02:35.37

>>39
自動運転車「前方よりトラック。只今よりクラッシュテストを行います。」

**名無しさん＠１周年** · 2019/04/07(日) 11:02:57.82

>>67
君はアニメの見過ぎ。
人工知能は個性を持てない。

**名無しさん＠１周年** · 2019/04/07(日) 11:05:03.49

高速道路のブラインドコーナーを事故車と散乱した部品や荷物が塞いでたりしたら、自動運転車はちゃんと回避できるのかね。
検出される障害物が多すぎて、回避ルートの計算が間に合わないんじゃないかと思うんだが。

**名無しさん＠１周年** · 2019/04/07(日) 11:09:50.43

>>10
人間並みのレベルまで上げると錯覚しまくりで使い物になんない

**名無しさん＠１周年** · 2019/04/07(日) 11:17:44.67

>>72
それは回避しちゃダメだろｗ

**名無しさん＠１周年** · 2019/04/07(日) 11:20:42.88

金集めや話題性のためにL5自動運転のニュースばかり取り上げるのは自動運転の普及を妨げてる
L4自動運転なら容易に実用可能なのに

**名無しさん＠１周年** · 2019/04/07(日) 11:23:16.01

>>72
動物の飛び出しや飛んでくる虫やゴミなども、全て正しく判断できるとは思えないよな

**名無しさん＠１周年** · 2019/04/07(日) 11:30:23.39

プリウスの後をついて行ったらコンビニに突っ込んだ

【自動運転】カメラやセンサーを騙すことでTeslaのAutopilotを混乱させる攻撃 研究

【自動運転】カメラやセンサーを騙すことでTeslaのAutopilotを混乱させる攻撃研究