【セキュリティー】顔認識のＡＩ 別のＡＩ悪用で顔データ再現の恐れ
■ このスレッドは過去ログ倉庫に格納されています
https://www3.nhk.or.jp/news/html/20180219/k10011335121000.html?utm_int=news-new_contents_list-items_019
2月19日 18時31分
特定の人の顔を認識するという人工知能＝ＡＩの技術は、ロックの解除などさまざまなところで活用が広がっています。ところが、第三者が別のＡＩを悪用すると顔のデータを再現できてしまうおそれがあるとする実験結果を筑波大学の研究グループがまとめ、なりすましなどへのセキュリティーのあり方に一石を投じています。
ＡＩをめぐっては、特定の人の顔を見分ける顔認証の技術が急速に進歩していて、コンピューターのロックなどに導入されているほか、将来的にはさまざまな本人確認などへの応用も検討されています。
これに対し、筑波大学人工知能科学センターの佐久間淳教授の研究グループは、特定の人の顔を学習したＡＩを別のＡＩに攻撃させ、学習した顔を類推させる実験を行いました。
攻撃側のＡＩは、まず適当な画像を作り出して攻撃対象のＡＩに見せます。そして、学習した人の顔とどれくらい似ていると攻撃対象が識別したかを読み取ります。そのうえで、得られた結果をもとに顔を類推し、より似せた画像を作るという作業を高速で繰り返しました。
その結果、攻撃側が作った画像は初めは意味をなさないものでしたが、学習した人の顔に急速に似ていき、２日後には攻撃対象のＡＩも本人と認識するレベルになったということです。
通常はＡＩのプログラムを攻撃側が読み込むことは難しいため、直ちに悪用されるわけではありませんが、研究グループでは、何者かがＡＩをハッキングすれば本人の顔を再現できてしまうほか、将来的には顔認証が突破されるリスクも懸念されるとしています。
佐久間教授は「これまでＡＩの開発では学習データが第三者に見られることは想定していなかった。データの中には企業の非公表の情報や個人の顔などもあり、情報が漏えいするリスクへの対応が必要だ」と話しています。
活用進むＡＩの画像認識
人工知能＝ＡＩによる画像認識の技術は身近なところで活用が始まっています。
アメリカのＩＴ企業、アップルの最新のスマートフォン「ｉＰｈｏｎｅＸ」は、ＡＩを使って顔を見分け、持ち主しかロックを解除できない技術が搭載されています。
アメリカのハンバーガーチェーンでは、ＡＩが顔を認識して購入履歴からおすすめの商品を示したり、自動的に支払いを済ませたりする実験を行っています。
顔認証以外のものも含めると、車の自動運転で危険物を察知したり、病気の診断の支援に応用したりするなど画像認識の技術はさまざまな分野で活用が期待されています。
情報漏えいのリスクとは
人工知能＝ＡＩが学習した人の顔などの画像データが第三者に再現されてしまうとどのようなリスクがあるのでしょうか。
今回の研究を行った佐久間教授によりますと、ＡＩのプログラムが攻撃者の手にわたってしまうと、所有者の顔が知られるなどの個人情報の保護をめぐる問題が起きるおそれがあるということです。
また、第三者が本人になりすまして顔認証を突破してしまうと、その機器を自由に操作されてしまうセキュリティー上の問題も懸念されるということです。
佐久間教授は、今回の実験はさまざまな条件の下で行われているため、直ちに悪用されるリスクは考えにくいとしたうえで、万が一に備えた対策を検討していく必要があるとしています。
東京大学 松尾豊特任准教授「問題一つ一つ解決を」
人工知能＝ＡＩの画像認識をめぐっては、今回の実験のほかにもさまざまな課題が指摘されています。
その一つが、物を誤って認識する問題です。
マサチューセッツ工科大学の研究グループは、現状のＡＩが抱える画像認識の課題を突き、特殊な「亀」の模型を作りました。
するとＡＩはこの模型を「銃」と認識したということです。
また、ワシントン大学は、交通標識の模型にあるステッカーを貼ると、「一時停止」の標識をＡＩが「速度規制」と誤って認識することを実験で示しています。
人工知能に詳しい東京大学の松尾豊特任准教授は「これまでＡＩそのもののぜい弱性についてはあまり議論されてこなかった。ＡＩはまだ発展途上であり、セキュリティーの懸念など、さまざまな問題を一つ一つ解決しながら技術を前に進めていく必要がある」と指摘しています。 自分の顔見るの嫌だから、指紋認証のほうがいいでです クラウドAIサービスを利用といって、日本人のデータをamazonやmicrosoftに
渡しているバカ〜 www 少しずつ劣化していく嫁を毎日見ている俺でさえ、このぐらいは想像つく。 スレタイにあるようにAIよりもむしろセキュリティの問題だな
とりあえず比較点数が得られないことにはこれはできない アップルsiriとGoogleアシスタントの会話みたいだなぁw >>7
その管理が完全にデジタルなものだったらまだマシだったんだけど
できそこないのAIに権限持たせて誤認識上等じゃ洒落にならん パチンコの当たり、ハズレを 演出して見てA Iは見破れるのかな。 クラウド AI APIをサービスしている企業
Amazon, Google, IBM, Microsoft...
ここへデータを送ったら、全部使われちゃうよ〜www 「・・・学習した人の顔とどれくらい似ていると
攻撃対象が識別したかを読み取ります・・・」
って、簡単に言ってるけど、どうやって読み取るの？
ハッキングとかで言葉を濁すなよ 合致しているかどうかの0,1じゃなくどのくらい合致しているかの数値まで取れるの？
そこまでできるならもう元のデータを直接取ってこれるんじゃね？ ★★ 機械学習を勉強したい人へ ★★
1. D君は2枚の金貨を見せられた。
見た目大きさ手ざわり重さは変わりがない。
1枚は本物、コイントスしたときに表裏は50%ずつになる。
1枚は偽物、コイントスしたときに表60％裏40％になる。
D君が目を閉じて一枚取り、コイントスしたところ表が出た。
このときD君が取ったコインが偽物である確率はいくらか？
2. ある実験室で同じ実験をすると、
A君は結果が正規分布で平均40標準偏差は10となった。
B君は結果が正規分布で平均60標準偏差は5だった。
結果が82だったときB君が行った実験である確率はいくらか？
3. あるセンサーで良品と不良品を測定したとき、
良品は1.6±0.05、不良品は1.4±0.1であった。
1.84のとき良品である確率はいくつか？ 警備員による目視最強の時代がまた来ることになるとは胸熱だな
弁証法的にはあり得ないことじゃない ハッキングしたんなら登録してある顔写真をそのまま送った方が早いんでは。 >>24
ニューラルネットなんだからそれはできない
でも何度も試すと割と早く元のデータに近付くよって話
ハッシュや公開鍵暗号はぴったり一致してないと駄目だけどAIは似てるだけでOK 各国に情報機関がある以上、
こいつはイタチごっこに成らざるを得ん罠
セキュリティを作る側も突破する側も一所懸命だからな。 そりゃコンピュータのセキュリティなんてのはイタチゴッコだわな デジタルは欠陥だらけ
アナログ的な部分を増やさない限り破綻は目に見えてる ぶっちゃけ、生体認証自体 便利だけどセキュリティ自体は甘くならざるをえんだろ。
極端な話、指紋認証も掌静脈認証も肝心の鍵の場所がバレバレで奪い去ることが出来るからな。 （ AIハ AI）偽人工知能アルな <AI∀AI;>エセAIニダ （´・ω・｀; ）
◇世界とアジアの話題
http://ultiman2006.web.fc2.com/index.html
◇太平洋軍司令】中国との戦争に備えよ! 更に北へも強硬発言相次ぐ
◇習近平爆殺未遂にみる中共のドス黒い背景
◇近平ショック 日本人の中国親近度たった18% インドは一帯一路拒否 >>35
脳波を読み取って念じれば開くみたいなのができたらいいね。 いい加減幻想求めてデジタル化するのやめたら?疲れないか?
人間らしさを失ってるよ >>34
コインチェックとかでやらかしてるのにな
未来は現金はなくなるとかほざいてるんだぜゆとり共は そもそもどれくらい正解に近いかを返すパスワードシステムなんてない。 >>41
今はデジタル化じゃなくてコンピュータでアナログ的なことを自動化しようとしてる
というかそれが使い物になるかどうかに関わらずそれをネタに金集めしてる
投資って本来そういう性格のものだ ＡＩは危険だから日本ではやめようという広報かな
そろそろ静脈認証くらいで買い物したいぜ >>43
ニューラルネットの実態である行列データが流出したら
そのAIで認証しようとしていた顔がばれるってだけ
あちこちで使われだしたら当然流出もあるよ >>46
それは現行のパスワードデータが流出したのと同じだろ。 なんか知らんが、凄い世の中になってきたなぁ。。。。 kaodeta
『人生はリベンジマッチ』
↑
名曲、ユーチューヴ検索 >>28の答え
1.確率の比率は以下の通り
偽物 本物
表が出る 0.3 0.25 0.55
裏が出る 0.2 0.25 0.45
0.5 0.5 1
表が出た場合、偽物である確率=0.3/0.55=6/11 ＞1/2
2.Excelを使う
p=NORM.DIST(82, 60, 5, FALSE)/(NORM.DIST(82, 60, 5, FALSE)+
NORM.DIST(82, 40, 10, FALSE))≒0.46 46%
3.同上
p=NORM.DIST(1.84, 1.6, 0.05, FALSE)/(NORM.DIST(1.84, 1.6, 0.05, FALSE)+
NORM.DIST(1.84, 1.4, 0.1, FALSE))≒0.24 24% 不良品の確率が高い。 >>47
パスワードはハッシュ関数でハッシュ値に変換して保存される
同じパスワードでなければ同じハッシュ値にならず
ハッシュ値から元のパスワードを復元するのは困難なようにできていて
万一流出しても被害を抑えられるようにする
しかしアホなSEにかかるとパスワードを平文で保存してたりするわけだがｗｗｗ >>28の続き
4. 有名なモンティー・ホール問題、
3つのドアのうち1つを選んだら、司会者が残りのドアのうち1つを開けて
ハズレを示した。ドアを変えた方が良いか？
ドアを変えないと1/3、ドアを変えると2/3の確率で当たるから変えた方が
良いというのが一つの答えであるが、これには大きな前提がある。
1.〜3.の問題でも付きまとう、この前提は何か？ >>24
しかも学習のために何万回も攻撃を繰り返すわけだろ？ これ、AIを使ってブルートフォースより劇的に効率的なりました
って話とは違うんじゃね？
モザイク画像を手に入れました
ぼかしてもシャープにしても元の写真にはなりません・・・が
AIで画像をでっちあげて、それをモザイク化しました
元のモザイクとの差分をAIで類推して、より近いであろう画像を作り出し再度モザイク化
これを繰り返し、ほとんど同じモザイクが作り出せた時、でっちあげた画像は
モザイク化前の元画像に似てるって話じゃね？
だから顔認証用として保存していたモザイク的な情報が流出した時に
元の人の顔が作り出せてしまう
そしてその顔は他のサービスに使われてる顔認証用のパスワードとしても利用できてしまう
って話だと思った >>52
たしかに顔画像が復元されるということはデータの中に顔画像に近い要素が記録されているということだから
それが問題だな。
生体認証データはそのものを保存するのではなく復元不可能な形式で記録されるべきだと思う。 >>23
それさえ突破されなきゃ大丈夫なのか？
判定ＡとかＢとか判別速度とか判別不能の顔とかを
見せちまったらアウトか。 顔より性器認証がよいと思います
運用は難しそうだけど >>58
立体認証か
人に見せるもんじゃないからありかもな
いや、ねぇよ カメラの前でタブレット持って何時間も粘る人とか流石に怪しいわ AI使った総当たり攻撃でのパスワード解析の結果方が怖い AIが作ったAI対人間が作ったAIとメイトリクスの戦いみたいになってくるんだろうな。 デジタルのようなローテクに多くを頼ろうとすると問題が大きくなる
ヒントはだれの目の前にある
日本銀行券がなりすまし紙幣予防のためにどれだけのハイテクが駆使してあるのかと考えてみよう AI「認証がデータに集約される以上最終的にはどうにでもなる 顔認証とか指紋認証とかってそのデータをそっくりコピーされたらと思うとけっこう怖いな
暗証番号なんかは盗み取られたら新しく書き換えればいいけどさ ニューラルネットって単なる関数にすぎないわけ。Aさんの顔を表す画像を数値で入れると１が出、
Aさん以外の数値だと０が出る関数にすぎない。このとき、逆にどういう入力を入れたら１が出るか
を考えているのがこの問題。最初はでたらめに入力するから出力は０に近いが、ある入力だったら
少し数値が上がることが分かる。次はこれを手掛かりにより大きな出力があるように入力をいじる。
このいじりをAIにやらせようという訳。いじり続けていつの間にか１がでるような入力が得られるなら、
それはニューラルネットにとってはAさんの顔の入力と同じということになる。たとえそれを人間が画像
として見ても何の意味も分からないインキのシミであってもだ。こういうことが可能なのは、自分で
好きなだけニューラルネットがいじれる環境でなければならない。これも記事に書いてあること。以上
データ解析歴18年の俺様の説明。 ちなみに「たとえそれを人間が画像として見ても何の意味も分からないインキのシミであってもだ。」
というのは重要な論点で、人間には全く違うのにニューラルネットには同じに見えたり、その逆に人間
には見分けがつかないのにニューラルネットにはまったく違うように見えたりすることが大きな問題と
なっている。これも記事に書いてある通り。 差別とか騒がれるからあんまし報道されないが
黒人の判別はかなり難しいそうですよ ミリ波だかマイクロ波だかのレーダーで頭蓋骨構造認証すればいいんじゃね ■ このスレッドは過去ログ倉庫に格納されています
