【顔認証システム】ライブ顔認証システムが見つけた「容疑者」のうち81％は無実 ロンドン警視庁
■ このスレッドは過去ログ倉庫に格納されています
ロンドン警視庁が運用している、監視カメラの映像内に写った顔とデータベースの顔写真を照合して容疑者を見つけ出すライブ顔認証システム(LFR)は「極めて不正確な精度で運用も不透明」と指摘を受けています。このたび、ロンドン警視庁からの依頼を受けてLFRに関する調査が行われ、「容疑者」と認識された人のうち81％が無実だったという精度の低さが浮き彫りとなっています。
https://i.gzn.jp/img/2019/07/05/live-facial-recognition/00.jpg
met police live facial recognition trial concerns | University of Essex
https://www.essex.ac.uk/news/2019/07/03/met-police-live-facial-recognition-trial-concerns
https://i.gzn.jp/img/2019/07/05/live-facial-recognition/01.png
81% of 'suspects' flagged by Met's police facial recognition technology innocent, independent report says | Science & Tech News | Sky News
https://news.sky.com/story/met-polices-facial-recognition-tech-has-81-error-rate-independent-report-says-11755941
LFRは自動顔認証システム(AFR)とも呼ばれ、2016年8月に「ノッティングヒルカーニバル」で初めて導入されて以降、他のイベントでも使われてきました。しかし、2017年のUEFAチャンピオンズリーグの決勝戦では2000人以上のサッカーファンが犯罪の容疑者と誤判定されるなど、その精度には以前から疑問が投げかけられていました。
これを受けて、システムを運用しているロンドン警視庁はエセックス大学に調査を依頼。ピート・フュッシー教授とダラー・マレー博士が調査を行い、独立した報告書を提出しました。
(PDFファイル)Independent Report on the London Metropolitan Police Service's Trial of Live Facial Recognition Technology
https://i.gzn.jp/img/2019/07/05/live-facial-recognition/02.png
報告書では、国内法でLFRを使用するための明示的な許可がないため、裁判所が異議を申し立てた場合、警察によるLFRの展開が違法と判断される可能性が高いと指摘されています。
また、具体的な問題点として、調査対象の事案の中で、LFRにより抽出された容疑者の数は42人いましたが、本当に犯人だったケースは8人で、34人が無実だったという指摘があります。これは、LFRによる容疑者の認識精度がわずか19％だったことを示しています。その一方で、ロンドン警視庁の用いていた測定基準では、エラー率は「0.1％」でした。
そもそも、監視対象とする人物のリストに掲載される基準も明確ではなく、LFRで特定しようとしていた人々はカテゴリーもばらばらだったとのこと。リスト自体も正確さを欠き、すでに裁判が終わっている人物がリストに掲載されている事例もあったそうです。
運用自体にも問題が指摘されており、反監視キャンペーングループ・ビッグブラザーウォッチのシルキー・カルロ氏はSky Newsに対して「問題は、ロンドン警視庁がLFRの使用中止をいつ決定するかということです」と語っています。
一方で、LFRを運用するロンドン警視庁のダンカン・ボール氏は「報告書が否定的で不均衡なトーンであることに失望しています。我々は、ロンドンを安全にするために犯罪と戦うにあたり、大衆が革新的な方法を期待していると考えています」と述べています。
https://gigazine.net/news/20190705-live-facial-recognition/ 中国なら１人捕まえるのに４人犠牲にしてもいいんだけどね 顔認証、防犯カメラ、指紋、DNA、Nシステム
これらを全部使えば完全犯罪はむずかしい。
警察が揉み消さない限り。 こういうのって、特殊メイクで五ヶ所くらいにパテを盛ったらごまかせるみたいなポイントとかないの？ AIって期待されてるけど、この程度だと思う。
アレクサとかグーグルホームとか使ってると、AIに絶望感ある。 FBIの全米犯罪者台帳の指紋照合でも5名まで追い詰めて
逮捕状を出すのは各人の周辺情報を集積してからだそうな
指紋照合でさえ誤りが多く(犯罪現場がフロリダで本人の所在はシカゴとか)
そうせざるを得ないんだとか
指紋は大きく7つのパターンに分かれ1パターンに約10億人（世界の人口約70億人）
電子計算機で照合しても正確なところ10人程度までしか照合できないそうだ
日本の警察の指紋照合も本当は誤りだらけなのでは？
DNAもあんなモノじゃなく、1億対のDNAを全部明らかにしないと同定は出来ないと思う >>12
日本語の識別能力が低いから
99%になると変わるらしいけど、専門的なのは無理だろうな。
地名や天気とか限られた条件のものや、ニュースでやってた程度の話題くらいなら使えるだろう。ただ、突っ込んだ内容は無理だから、フェイクニュースの見極めが難しく、デマが蔓延しそうではある >>15
表情筋や顔の一部のパーツだけをごまかしても誤魔化せない
盲点もありそうなもんだけど、そんな情報出回らんしなあ。 19%で有能ってのはないよなあ
認識率の話なんだから AI「与えられたデータの中から目的に合致する確率の高いデータを抜き出して出力しています。
利用者に課せられるノルマを満たせるデータかどうかの判定には、
別途、利用者の上層部全ての功名心、野心、AIに対する信心等に関するデータ入力とプログラミングをお願いいたします。」 リアルタイムに音声をテキストに変換するの
あれも見てたらデタラメだらけだよな 例えばイスラム圏のヒゲ男なんて判別出来るのか？
冗談抜きでみんな同じに見えるぜ 中国がウイグルでやってる監視カメラの顔認証システムが精度最強 高卒警官の主観よりは、顔認証システムのほうが客観性があっていいだろ。
職務質問も「顔認証システムが～」でやりやすいんじゃね？
(´・ω・｀) 警察じゃだめだ。残念だが税金で食ってるやつにモチベはない。
民間の警備会社がそのうち有能なやつをだすわ。
警備ってカメラの性能とCPUだし。AIにやらせる時代になったら、人員削減につながっていい。 >>1
黒人をゴリラだと正しく認識したグーグルの画像認識システムを導入したらいいじゃん 東京ビッグサイトでやってたAI EXPOに仕事で行った時、顔認証から性別と年齢を予測するAIがあって、
俺（３９歳のヒゲ面）が２４歳の女性って出たから、顔認証は信用してない。 ＞＞２
＞＞３
その残り８１％の冤罪に自分がまきこまれた時にどんだけまずいシステムか理解できるぞ？ >>29
本当はもっと高い精度なのを、許容範囲を広くしてアラートを多く出させてるだけだろうし、
そのまま起訴とかはないはずなので、それは気にしなくて良いと思うけど。 >>21
それは身近で見かけない別人種については、顔の識別がうまくいかない類の話ではw
AIだと同じだけサンプルを用意して学習させればそういうバイアスが避けられる（サンプルに偏りがあるとうまくいかない）。 システムが無ければ見つけられなかった犯罪者が19%もいるなら十分でしょ？
何が問題なの？
文句がある奴は24時間365日俺と俺の家族が被害に遭わないように守ってくれるのか？
被害に遭った場合に補償でもしてくれるのか？ >>31
現状では、Googleの公開した顔認証AIで黒人とゴリラが区別がつかず、公開停止になったのが去年。 いいんだよ。
顔と背格好が似てるってことは遺伝子が近い構造であることを示してるんだから
犯罪者当人じゃなかったとしても同じ行動パターンの人物である可能性が高いんだ。 >>34
公開停止はもっと前のことでね？去年の記事は進捗を調べたやつ。
霊長類それぞれの種について、ヒトと同数学習させてもだめなのかねえ。 結局最先端の科学技術
指向解析のノウハウの賜物ですよ
だから ロシアと日本です ソースリンクは死んでるけど一応載せる
http://www.ansin-jp.com/info/new_detail.php?page=441
㈱店舗プランニング（東京・渋谷区幡ヶ谷、飛永泰男社長）では、10月1日から三菱電機の「顔認証」システムをベースとした「万引き事前防止システム」を小売店舗向けに新発売する。
同社は、三菱電機の「顔認証」システムに加えて、EAS(万引き防止装置)とも連動させることで不審者の顔情報を確実に得て、それを記録することにした。その不審者が次に来店した時、
システムが作動して店内に知らせ、それによって店員や保安警備員はその人物をそれとなく追尾し万引きをするかどうかを見張り、不審な行動があった時はそれとなく声掛けし、万引き
されることなくお帰りしてもらうのである。暴行沙汰など起こりようがない。
システムの費用は、ソフト(60万円)とパソコン、EAS、監視カメラ、三菱製DVRで、EASや三菱製DVRが導入済ならソフトとパソコンだけの購入で済む。
同社の主要取引先は、ヤマダ電機、ブックオフコーポレーションなどで小売店舗に滅法強い。万引きの相談を受けるのは毎日のこと。それで得た結論が三菱電機の「顔認証システム」で、
これにEASを組み合わせることで、より不審者情報を得ることが確実になった。 数十万分の1から5分の１まで絞り込めるんだろ
すげぇ効率的だ 自民党支持のネトウヨってこういうの好きそうだよね
なんなら警察に行って顔写真と指紋を登録してくればいいのに 五人に声かけたら一人当たりなんだろ？
すごい確率じゃないか プリズンブレイクとかで、防犯カメラの画面見て「シカゴにスコフィールドが現れた！」とかやってたの、全部空想科学の世界かよ >>30
アメリカとかみたいに、とりあえず逮捕が当たり前の国だと「どったの？」「なんか勘違いだったようだ」「ほーん」で終わるね
日本では無理だわな イギリスはスーパーレコグナイザーを何人も雇ってるよね 岡田真澄のお面をつけたらスターリン発見なんてな具合か？ 日本だとライブ顔認証システムが見つけた「容疑者」のうち81％は無理やり改竄して犯人扱いとかになりそう >>12
これでも、かなり性能が上がったんだけどね。
皆んなが期待する性能にするには、次の技術的なブレイクスルーがないと無理かも。 >>42
いや、誤認しちゃってるから
絞り込んだ中にいない可能性も高い
結局全部調べないといけない 最終判断を人間がやればフィルタリングとしては適度な甘さ iphoneの顔認証からして使えないからな
過大評価されてた技術ってことか 自分が知らないうちに犯罪者扱いにされて不利益をこうむるのが怖いね
もう実店舗は利用しない様にしよう
ってなるんじゃないかな >>57
システムが無ければどの道映像では探し出せないよ、そんな容疑者。 ちょっと違うけど万引き犯が対象の防犯カメラは顔認証より商品を取る動作とそれを鞄やポケットに入れる動作を検出する研究すればいいのにね？ 中国で密かに実装されているという人相でこれからそいつが起こす犯罪率を割り出すというシステム当てにならなそうだ ■ このスレッドは過去ログ倉庫に格納されています
