【女性差別】「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に
■ このスレッドは過去ログ倉庫に格納されています
人工知能（AI）アルゴリズムの訓練に使われたデータが、男性の就職希望者を優遇する傾向を生んだ。
https://cdn.technologyreview.jp/wp-content/uploads/sites/2/2018/10/10234907/25388747874b5c0b42ad7k-550x309.jpg
ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。
このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。
システムは意図せずして、男性志願者を女性志願者よりも優先して選ぶように訓練されていた。報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた。アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの、プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。
私たちはAIを本質的にバイアスがないものとして扱うことはできない。バイアスのあるデータでシステムを訓練すれば、アルゴリズムもまたバイアスを含むことになる。もし、今回のような公平性を欠いたAI人材採用プログラムが導入前に明るみにならなければ、ビジネスに長年根付いている多様性の問題の数々は解決されず、むしろ固定化されてしまうだろう。
2018年10月11日 10時24分
アスキー
http://ascii.jp/elem/000/001/755/1755527/
他ソース
アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN >>282
昔っから、女は音楽でも小説でも漫画でも恋愛しか描けないじゃん。 >>272
馬鹿はイワシの頭でもメザシの頭でも神様に祭りあげるな。 >>279
そう言ってるだろ？
間抜けはそれもわからないの？
学習ってなんだと思ったの？
馬鹿だね。 >>280
性別に関係なく無能ならアファーマティブアクションやるべき >>295
おそらく性別を入力しなくても結果に性差がでたんだと思うよ
でなきゃ金かけて作った物を捨てたりはしない 感情で仕事をする
同僚を養子で差別する
子供を産むと3年休む
どれも女社員の特徴 なんかそれあたりまえじゃないか
生きづらくなるから本音で生きようよ >>279
で、君のいう出産歴が学習データに書いてあったというのはどこのソース？
ソースもない君の妄想？妄想でしか話しかけないんだね？ 人間の持つ評価ってもしかすると一種の創造性を伴っていて
AIの現代のアルゴリズム上では再現できない、ということかもしれない。
それにしても、AI真理教みたいなカルト教団も出来そうだなあ。
AIの演算結果は絶対的だ、とするような。 >>297
京アニが女性主導になり始めたら
ゆるふわ路線からドロドロ路線に変わったね >>290
AIなんて何一つ知らんバカがよく言うわww 付加価値を生み出してるのは男ばかりだと思うわ
創業者の金持ちも男ばかり >>296
そら女性学なんて学問をでっち上げて
女性の時代！女性差別と毎日授業受けて
卒業する頃にはみんな面倒くさいフェミニストや。正直いらんて。 過去のデータに基づいた正しいことも言えないなんて･･･ そもそもAIは現在の社会を学習して濃縮した結果でしかないんだから
社会が男性優遇ならAIもそういう結果を出すのは正解だわ。
AIの出す結果が気に食わないんなら社会を変えるべきでｗ AIが能力で判断した結果だろ
世界全体がいかれた方向に向かってると思うわ >>288
無理矢理アファーマティブアクションの結果を入れ込んでやれば、下駄を履かせる事を学習するかも。 >>309
お前のことだろ？
自分の浅ましい願望をAIと書けば許されると思ってる浅ましい馬鹿。 >>268
低学歴も男のが多い。天才も男が多い。平均は差が誤差範囲
そもそも知能テストなんて何に配点に重きを置くかで男女差ズレるし、あまり意味がない ビッグデータによる傾向や確率でAIが判断してるから、今後はAIによる偏見が増えそう。 AIに差別や人権なんて概念ないからストレートに戦力になる人間を統計から選び出すだけ >>317
じゃあ、DNNについて語ってみろ、無能w >>303
本音とか正しいことが言えない社会になってもた
ノリノリの会話内容録音されて勝手に編集されて女は隠れてセクハラにされて
それがまかり通る社会やもん
やってられねえー 人類が消えてもAIが人間と同じようにくだらないこと始めそうだな >>316
勝手に政治的に正しいことはAI様がお決め下さるってか？
馬鹿にはAIってのは神様という意味らしい。 もう何度目だって話だけど、AIが都合の良い答えを出すまでやり直すってなんだかなぁ
これじゃ、薬品に文句言えないレベル 人間をなぞらえた知能だけあって人間と同じ失敗をするんだな。
偏見にまみれたAIが一番人間に近いんじゃねw
マイクロソフトのAIも過激思想に染まって停止されたよね。 神様のサイコロ遊びみたい。
いい結果が出るまで振り直す。 大学が偏差値輪切りだったらここまでひどいことにはなってない >>327
だって使えないAIは使えないから。
歌が下手な歌手や演技がアピールしない俳優がそれが俺の個性だって言ったところで使われることはない。
AIは情報システムなんだから役に立たないのでは使われないよ。 本当は女子大を共学化するべきなんだよ
女子大っていう時点でダメだよね そういえば女子大はあるけど
男子大はないな。
男子校ならあるけど。
何故だ。 女子高、女子大出はメンヘラ率高いし、女特有の陰湿なイジメをするからな。
イジメで新人に辞められたり、組織が機能不全に陥る危険性を考えると弾くのは賢明な判断。 >>335
男子大ってないな
歴史的経緯はあってもそういう時代は終わったよね >>319
それ以上に場合によっては人間の判断より優れているという現実を突きつけたことが大きい
ビジネスで勝つためにAIが使われるようになってきているからね >>241
今のAIっていつのAIだよ
ELIZAはどうすんだよ ゴリラと黒人を判別出来ない
国語の問題もダメ
AIもまだまだ この設定をした担当者はホモ！！
はっきり解んだよね ＡＩじゃなくたって
マニュアルワークなら女でもいいけど、物事考えたりするのは女じゃ無理なんてのはすぐにわかるからな
ＡＩにすら建前と忖度しろって糞すぎだわ >>337
戦前は大学に進学できるのは男子だけだから
普通の大学が男子大みたいなものだから
ちなみに高校も男子校しかないから戦前の女子の最高学歴は中卒（女学校卒）
でも戦前は男子も大学に進学するのは１％、高校に進学するのも５％ >>326
馬鹿？
お前
こればっか使ってるこいつは確実にAIより馬鹿 これ、統計的に男性の技術者の方が優秀だったら、別に差別でもなんでもなくね？
そもそも人でもAIでも、選別方法は過去の成功例から算出されるんだろうし。
突き詰めると書類選考自体が差別になるぞ。くじ引きでしろと？
人柄で判断する為に、全員に会うなんて不可能なんだから、
書類選考で様々な肩書き(学歴・転職履歴・年齢・性別)で落とすのは、むしろ当然。 >>1
別に意図して性別で選んでもいいと思うんだよね
選ばれなかった性の人は自分でそういう事をしない会社を起業すればいい
人が作り上げたものにタダ乗りしなければいいだけ そもそも
男性差別がひどいのに
妥当だろ
男は女を背負っていく立場なんで我慢しろそのぐらい AIが判断したんなら差別もクソもないんじゃないの？
たまたま判断結果が女不利だったからこうなっただけで、女有利だったら問題ないどころか推進してそうな気がする 感心するのは,これが検出できたという事実.
あの日本では ISO9001あたりで糞味噌に言われる事が多い
Management Systemが本当に動いているんだなと感心させられる. おまえらはグーグルのAIアルゴリズムが黒人をゴリラとタグ付けした件を忘れていないか？
社会的なバイアスがAIに反映されてたりするんだよ
日本人をはじめとした黄色人種がモンキーにタグ付けされないと分かんないのかな >>347
Amazonなんて倉庫番なんだから、エロでも変態でも構わんだろ。 >>351
男女平等じゃなく女性優遇じゃないとフェミは怒るからな 女子大と女子高は男性蔑視です。男子という理由だけで入学を認めないとか逆だと差別の連呼だろ 受験者全員合格させたれ
選考で落とすのも差別になっちゃうだろ、そんなこと言い出したら。
>>349
なるほど、戦前からの流れか。 あーあ
単なるＡＩの演算結果、しかもアルゴの訓練ででさえ
女性差別恐れて引っ込める社会になってもた
ホンマ息がつまるわ 知性の無い会話を４年間続けることのリスクを数値化したら、そりゃそうなるわな >>75
そもそもアメリカに女子大あんの？
少なくとも日本のお茶女女子医大レベルのエリート女子大ってなさそうだけど >>351
おそらくココの人らは、
統計学が一次回帰あたりで止まってルンでしょうw >>361
女子校って男の教員はパラダイスだと思うんだよね これまでの経験上、女子大出の女は嘘泣きして責任を逃れようとする者が多い。
女という立場を悪用して人を陥れたり保身を図ろうとする。 >>361
それら、秘密の花園は文化です。世界遺産です。 女には
一流作家も少ない
科学者技術者も少ない
F-1レーサーもほぼ男だけ
明らかに女は劣っている 仕事に関しては男はゴマすりと足の引っ張り合いが女の比じゃない
場合によっては女の方が正々堂々してる >>368
ラドクリフなんかはハーバードに吸収合併されたけど、まだいくつか残ってるよ。 あくまでアルゴの訓練なんやろ？
結果が男性有利になったら
女性差別恐れて打ち切り
こんなんで開発なんかできるか
結果先にありきで、その為のアルゴ考えてどーすんねん >>365
雅子妃が卒業したのはハーバードのラドクリフカレッジ（女子大）なんだろ？ おまえらAI相手なら面接に受かると思ってるんだろ。 女性という単語に反応して減点するってチョロすぎやしないか >>351
Amazonが前処理に問題があることに気がついただけの話で,落とすのは当然というのは
論理の飛躍があると思う.
履歴書の記載だけで,採用対象から落として企業としていいのか？というのは個々の企業が
判断することで,Amazonは,良くないと思っただけでしょ？
今回のケースは,向こうのレジュメに学歴があるケースがどれだけあるかは知らないけれど,
もしかしたら学歴を通常より多く書いた人が女性に多かっただけかもしれないし. まあ実際出産で抜ける女性は足手まといだよ
あくまで利益追求の企業にとってはな >>357
つまり女性軽視・排除が日本社会に蔓延してるってことだよな
最初から女子減点をＡＩがしたってことやん
日本国＝女子差別画から様になって恥晒しなのにここの馬鹿ったら喜んでるわｗ >>133
いや、理性的ということだろう
本当の意味でwww 女子大は男性差別だから
差別大学の卒業生は差別主義者なので排除
このAIは正しい >>369
小難しい統計学の勉強なんかしなくてもとにかくデータをぶち込めば勝手に特徴を抽出してくれるというのも
ディープラーニングがうけたポイントなんだろうね
計算尺と関数表から関数電卓になったようなもの 参考にするデータが狂ってんだから、学習するほどAIも狂っていくわな AIをどう訓練したって、「例外的に優秀な人間を表面的なカテゴライズで落とす」ことは防ぎようがないだろ
そもそもの目的がそれなんだから ■ このスレッドは過去ログ倉庫に格納されています
