【おわび】Google Photosが黒人をゴリラと認識する事件が発生。開発者が謝罪 [記憶たどり。★]
■ このスレッドは過去ログ倉庫に格納されています
https://gigazine.net/news/20150702-google-photos-gorilla/
5月29日にリリースされたGoogleの新しいフォトアプリ「Google Photos」にはアップロードされた写真に対して人工知能が自動的にタグをつける機能がありますが、
黒人2人組が写る写真に対し「ゴリラ」というタグが付けられる「事件」が発生しました。
ことの発端となったのはJacky Alcinéさんが行ったツイート。「Google Photosは最悪。私の友だちはゴリラじゃない」というメッセージと共に写真がアップされています。
高層ビル、飛行機、車、などは正しく認識されていますが、下段真ん中に写っているAlcinéさんと友人が「ゴリラ」と認識されていました。
さらに、AlcinéさんがGoogle Photos内で「ゴリラ」と検索をかけても2人の写真が検索されることから、「Googleはどういう写真からデータを集めているの?」と不信に思っていた様子。
AlcinéさんはすぐにGoogleのソーシャル部門のチーフ・アーキテクトであるYonatan Zungerさんに連絡。Zungerさんは謝罪すると共に「バグの報告をありがとう」と対応し、
Alcinéさんの許可を得てアカウントにアクセスすることで、その日のうちにバグは修正されました。
またZungerさんは「このようなことはよくあります」としつつも「マシン自体にバイアスはありませんが、我々が注意しないと彼らは容易に私たちから人種差別を『学んで』しまいます」とAlcinéさんにメッセージを送っています。
これは、インターネットには黒人とゴリラを結びつける差別的な情報があふれており、それをマシンが機械学習してしまう、ということだと考えられます。
現在、Google Photos内から「ゴリラ」というタグは削除されていますが、チームは依然「なぜ人間の顔が正しく認識されないのか?」ということを調査中。
このようなバグは初めてのことではなく、Zungerさんによると一度は人種に関わらず全ての人が「犬」と認識されることもあったそうです。
Googleの広報担当は「このような事態が起こり本当に申し訳ないです。同様の結果を招かないよう、迅速に対応していきます。
自動タグ付け機能にはまだまだ問題があり、今後、今回のような間違いを起こさないようにする方法を探っています」とコメントしています。 うちの猫は"犬"と認識されたぞ
謝罪と賠償を要求する! 前にもあったのに、またかよ
と思ったら、前のニュースだった・・・ ゴリラ判定は草
AIだAIだ豪語しても
ドラクエ4のAIに毛が生えたようなもん
https://youtu.be/5JODF4QteNY 面白いと思うけどな
自分がどんなものに認識されるんだろ、
って興味持った 少し前にAIが黒人とゴリラ区別できないって記事あったのになぜ始めちゃったんだよ たまに白人をラクダあたりに認識させれば相殺されるんじゃね >>21
表面が黒い霊長類くらいでぼやかさないとダメだな 黒もじゃの着ぐるみに包まれた黒人は本当にゴリラと区別がつかん いくら教えても機械は納得しないだろ
人間が手動でタグ付けするしかない ずいぶん以前のニュースだよ。
今は改善されてる。
画像の特徴を数値化して数値をAIが判断するので、特徴が似たものに誤認するのはあり得る。 >>24
AIって女性差別とか黒人差別とか性格悪いよねw 犬の認識の方が難しいよね。
犬種ごとに特徴を覚えないとダメだし。 >>46
AIの性格が悪いんじゃない
情報を吹き込む人間の性格が悪いのだ >>17
気にすんな
面白ければスレ伸びる
面白ければいいんだよ
我々にはこういう面白い記事(餌)が必要 その謝罪はゴリラに失礼。大変な名誉ではないか。
ご先祖様の血統だぞ。 >>1
> これは、インターネットには黒人とゴリラを結びつける差別的な情報があふれており、それをマシンが機械学習してしまう、ということだと考えられます。
差別差別と大声で騒ぐからだろw
差別の自己再生産、自業自得だよ 誤判定された画像を見ないことには何とも言えんけど…。
黒人の写真をゴリラと誤認するか、ゴリラの写真を黒人と誤認するか、
「服を着てれば人間」みたいなインチキを入れといた方が安全かもね。 日本なら笑い話にしてメーカーも謝罪要求されてないのに
謝ったりするだろうけど
本場差別の国の人間は違うわ ゴリラにランクアップしたのにお詫びとは?意味不明w 2018年01月15日 11時30分ネットサービス
Googleはゴリラ画像を検索結果からブロックしている
対処法ワロタ >>9
あごを床につけて寝ているシーンとかは、
猫でも「犬」に分類されているわな。 黒人とゴリラを見分ける技術は難しいから、まずは日本人と韓国人を見分けられるAIを開発してくれ ゴリラは優しいし賢いから黒人より優れてるだろ
ゴリラ差別やめろ >>1
>5月29日にリリースされた
はい「ずいぶん前」とか言ってるネトウヨ論破♪ >>1
この記者は何が楽しくて2015年の記事を載せたの? なんでお詫びするw
確かにゴリラと似てるし
機械は正直だなー AIが差別するわけが無いだろ
ポリコレ抜きの判断だとゴリラ 2年前くらいに同じような機能のやつやったら真田だと言われてめちゃ喜んだ記憶。 >>1
7人いたら、
ザ・ゴリラ7ごっこができたのに、、、 今じゃスラムダンクも深刻な人種差別作品だといって批判にされられそうだ
ちょっと顔が猿っぽいだけでゴリだのボス猿だの丸ゴリだの呼ばわりしているし これはゴリラに失礼すぎる
ゴリラは黒人みたいに暴力的じゃ全くない
。゚(*゚´∀`゚)゚ノ彡☆ギャハハ八八ノヽノヽノヽノ \ / \/ \
ネット上でカラスのこと黒人で言ってたらそのうちカラスが黒人て判断されたりするんか ■ このスレッドは過去ログ倉庫に格納されています