【女性差別】「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に
■ このスレッドは過去ログ倉庫に格納されています
人工知能（AI）アルゴリズムの訓練に使われたデータが、男性の就職希望者を優遇する傾向を生んだ。
https://cdn.technologyreview.jp/wp-content/uploads/sites/2/2018/10/10234907/25388747874b5c0b42ad7k-550x309.jpg
ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。
このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。
システムは意図せずして、男性志願者を女性志願者よりも優先して選ぶように訓練されていた。報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた。アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの、プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。
私たちはAIを本質的にバイアスがないものとして扱うことはできない。バイアスのあるデータでシステムを訓練すれば、アルゴリズムもまたバイアスを含むことになる。もし、今回のような公平性を欠いたAI人材採用プログラムが導入前に明るみにならなければ、ビジネスに長年根付いている多様性の問題の数々は解決されず、むしろ固定化されてしまうだろう。
2018年10月11日 10時24分
アスキー
http://ascii.jp/elem/000/001/755/1755527/
他ソース
アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN エンジニア、つまり能力的に男性に有利な分野のデータを解析したらそうなるわな。
反対に女性に有利なコミニケーション能力分野でそれやったら女性を優先するアルゴリズムになるよね。 >>623
母数の問題じゃねえよ
被害に遭う子は存在してる現実問題だって言ってるの >>629
小さい方の階級で競った方が有利だからな
チビは弱っちいから アマゾンの中のひとかグーグルの中の人か忘れたけど
AIが差別を学習してしまうのが怖いとか言ってたじゃん
耳障りの良い音声として女性っぽい音声をAIスピーカーに話させているのだが
こういうところから女性を優遇するように学習する云々とか >>188
日本の話なの？
米ならむしろ中途重視だろ まんさんは脳味噌がマンコにあるらしいけど
まさにって感じの香ばしいのが一匹いるよなw >>632
その少数派一％を拾わないのが差別ってんなら、
本記事の内容も全体の傾向だけで選別した差別ってことになるわな
女性は、男性はと一くくりにし
四捨五入して考える大雑把な思考をお前が反対するから
本問題にも疑問を投げ掛けるべきだ >>18
これはわかりやすく言えば資生堂のエントリーシートをAIが学習した結果、「男はバカだから減点」って覚えたようなもの
SEやPGになりたがるのが男ばっかりだからその結果女はダメと思っちゃったってこと
大勢から選んだ結果ではない >>634
でも実際チビとデカがケンカしたらチビ瞬殺だよね >>13
御茶ノ水や奈良女子大は国が認めてないなら何なんだ やれやれ
AIはしがらみないから素直に評価しただけなのにな >>5
アメリカはそもそも履歴書の書式ないし、仮に書式指定で人種性別宗教書かせたら訴えられるぞ 結局、女性差別じゃなくて女性団体に抗議されるのが嫌でやめたんでしょ？
女性差別うんぬん言われるから、ＡＩでやらそうとして結局これや
これなら最初から女性団体対策のＡＩ作ってしまえと >>90
女子医大でミスしまくってたのは男の医師だけどなw >>638
勝手に混ざってくるのは良いとしても論点をすり替えてんなよ
冷水でも被ってやりなおしてこい 中国で「共産党は無能」と言ったAIは粛正させれたが、このAIも同じ道を辿るのかｗ 女がいないよりはある程度女がいた方が気分的に男のやる気が上がる、その辺りをAIは考慮できない
ここまでAIが理解し出すと今度は女は若い美人しか採用されなくなりそう AIが十年間かけて導き出した答えを、ただの「男性優遇だから」で全否定か
何様だよ人間は >>648
実際その通りだよ
お前は母数は関係ない、
極少数の性被害にあう男を見捨てるのは差別、と言いつつ
企業に採用される奴は能力関係なしに女であれば全部見捨てればいいという
単なる矛盾した差別主義者なだけ。 てかね女性団体の言ってることは、本当に女性差別か？
ってのをＡＩにやらせてみたらどや AIで政治なんて夢の股夢だなw
効率と各種権利が相反してる 向こうでも普通に女は劣等種だと認識されてるな
ブラすら100％女だけで作れないカスなんだから、AIにまで劣等認定されてもしょうがないわ >>1
結局、製作者の偏った思想をAIに押し付けることになるわけで、そんなAIなら真っ平御免 結果が女性優位になってたらそのまま運用してたんだろうな… >>668
偏った思想なんてプログラム出来るわけない 能力差があるなら性別で差をつけられても仕方ないと思うけどな
性差はダメで学歴や学部で差別するのはOKってのもおかしな話だ 学校名に女子がついてる過去の社員が結果出してないだけなんじゃないの？
判断基準から学校名を除外するだけでいいじゃんって話にはならんのかな
たまたま過去の三流大卒の男性が結果出しまくってたら加点されてオカシイってのと
同じ話で別に性差別として話題にする必要はないと思うが >>666
せやな
結果が意にそぐわなければ辞めるて
ＡＩじゃなくて八百長やん これは面白いね
ミッドウェーの時と同じだ
あの時はボードゲームの結果を捻じ曲げた
今度はAIの結果を捻じ曲げてる >>631
看護師とか保母さんなんかはそうなるよな
AIは過去の結果を元に予測を立てるわけだから、保守的な結果になっていくだけ あのアマゾンでさえこれじゃあ…
そんなに女性団体怖いんか？
アマゾンより強い女性団体
おかしな世の中やで >>193
機械の判断を見ている側の人間がその善悪に照らし合わせて「悪だ」ということはあり得るだろう。 >>671
もともと与えたデータに偏りがあったのが問題 >>660
男女平等こそが矛盾した差別政策なだけ。
戦争いかなきゃ選挙権がないのに、貰ってもまだまだ男性頼みと言うダブスタ。
全てのスポーツも男女混合でやればいい。 この人工知能を24時間＋板漬けにしたら
立派なネトウヨちゃんが出来上がるのだろうか >>662
こんなこと言っていますがね。
Microsoftの人工知能が
「クソフェミニストは地獄で焼かれろ」「ヒトラーは正しかった」など問題発言連発で炎上し活動停止
https://gigazine.net/news/20160325-tay-microsoft-flaming-twitter/ まぁ産休やら寿退社やらで実質的に雇える期間は短いもんな
AIに職場の雰囲気なんてものは分かるはずもなく >>667
AI制作者に対しても、「もうあなたとは口を利かない」とか言って自我があるしな。 別スレにも書いたが、服の上からD-Eカップで好みだった後輩が
ある日からBカップになっていた・・・女ってそういう思考なの？ アマゾンのようにどんどん勢力を肥大化させてきたような企業が
どんどんＡＩに頼るようになっていくと
まさにＡＩによって人類が支配されるような時代になっていくんだよな。
そしてこういう問題も、どんどん深刻な社会問題を引き起こすことになるのでしょう。 なんで女子大って存在するの？
男がこわい人たち用？ サル目ヒト科として肉体労働耐久性高いのは男である可能性が高いのだからAIは間違ってないのでは
古来から現在に至るまで労働人身売買は男の方が高い事もそれを証明している >>683
やっぱり
正直、女性団体の言ってることって女性差別じゃなくて八百長やろ？ >>680
そのデータ自体が女性がだめなデータなんだろ。 東京女子大、日本女子大とか今の若い奴らは馬鹿にしてんだろうな。
20年以上前に卒業したオバサンは今のMARCH生なんかより、ずっと
頭いいのにね。 これを野球にたとえると
巨人「次の監督をAIに決めてもらう」
AI「過去に他球団OBの監督は無し…他球団OBは無能ってことだな。生え抜きOBから決めよう」
こんな感じ 仮にどんなに女性が頭がよかったとしても、男性よりもリスク回避する傾向にある以上
どうしようもないだろ。 入力のパラメータに問題があるならあるでそれでええやん
再度見直すで
これ、明らかに女性団体からの抗議が怖くて辞めてるやろ？
これじゃあ発展せんて >>688
昔は女は大学入れねーよって制度になってたんだよ 服の上からD-Eカップで好みだった後輩が
ある日からBカップになっていた・・・女の八百長精神？
彼氏出来たんだな・・・ >>692
東女はともかくポンジョはヤリマンアバズレの溜まり場だっただろw 宗教的価値観で事実が捻じ曲げられてるだけだろ
そのうち地動説を唱えただけで火炙りにされる
コイツラ狂信者だからな
相当に危険だ
計算結果がいくら正しくても教義に合わなければ攻撃するカルト集団だ
カルトだから他者をぜーんぶ食い潰すまで続くよ
今のうちに根絶やしにしないと将来に禍根を残す ま〜ん(笑)ま〜ん(笑)、ま〜ん(笑)ま〜ん(笑) ♪
ま〜ん(笑)ま〜ん(笑)、ま〜ん(笑)ま〜ん(笑) ♪
おサ〜ルさん以下だよ〜 ♪
＿＿
彡_＿ ＼_ n
(・ ・ ) ○ ) ((
/‥ ( ｜ ))
( Θ ) ＼//_
￣/￣ (⌒⌒)ヽ_
｜ ∧ ＼／ .(ミ)
｜｜ ＼ ノ
＼_) ( (￣) )
(＿)(＿) 👀
Rock54: Caution(BBR-MD5:1341adc37120578f18dba9451e6c8c3b) 男女平等そのもの自体が理不尽じゃね。どんな生物でも
オスとメスはそれぞれ社会的役割が違うんだぞ。
メスがオスと同じライフスタイルを志向するようになれば
その生物は種の保存が出来なくなり、当然滅びる。
そんなことも分からない今時の人類はミミズ以下だよね。 グーグルのAI 黒人とゴリラの区別が出来ない
アマゾンのAI 採用で男性を優遇する
AIはまずポリコレを学ばなきゃイカンわw >>691
Amazonの技術職に応募したのが男が多かったってだけだろ
山田さんの申し込みが多かったから、結果山田さんがたくさん受かった
これをAIが「山田さんマジ優秀じゃん！！？」って学習して田中さんや佐藤さんを減点した
そんだけ。 Amazonの言葉にはアマゾネスの意味もあるのに、はじくなんて >>694
AIは、もうちっと精密だろう。GOOGLEに検索かけて
出身高校の成績や各社での出世などありとあらゆる情報取得をしながら
常時整理して、また学習し直して結果だしていくわけで。 >>670
製作者にとって都合の悪い結果が出ればその都度学習し直させてる
結果的に偏った思想を学習させているのと同じこと >>696
Amazonばっかり発展したらつまらんからこれでええやん草 有名なテック企業で女性創業者は皆無
女性がそんなに優秀なら雇われやるより会社つくればいいのになんでやらないの >>710
旦那と子供の世話で忙しかったんとちゃう >>705
それじゃただの統計でAIの意味がないだろう
もっと深く精査しているだろう
採用した人間でどういう評価になったかも加味しているんじゃないの？ あれさ平均50点って全ての人間が50点じゃないよ
解ってるとは思うけど 未来の人間は２つの未来がある。
・AIを許容して、AIと共存というか支配されながらも高い知性の社会を築いていく未来
その中には人間自身の遺伝子操作によって人間そのものの能力を高めることも含まれる
・AIに支配されるのを拒絶して、AIを捨てて進歩を無くした社会を築いていく未来
今のレベルを最高点として、それ以降の進化をやめてしまう人類社会
どうやら人類は後者を選びそうな気配だ
それはそれで平和なのだが、長い期間の後、いつか外敵や天変地異などで滅びる運命 いや、人間が採用してても同じ結果になったんじゃね？そんならAI悪くない。
ただ人間と違ってAIは少し中身が見えるから、アマゾンが「自信」を持てなくなったんだろ。 兵役逃れの女性たちを逮捕しないとおかしいだろうね。
過去遡ってでもやらないと。 >>717
何だその馬鹿が一生懸命考えたような選択肢は？ これもAI問題の一つだな
AIの出した答えを人間が受け入れられない >>133
理性的でないバカの推論
データが偏っていれば結論が偏ると言うことが実践されただけのこと
理性的でないという結論は全くの無知 あれファミコンのゲームのクジでいいのが出るまで何回もロードを繰り返すのを思い出したわｗ >>705
ちょっとニュアンスが違うな
過去のデータならamazonがそんなにデカく無かった時、
海のモノとも山のモノともしれない時に入ってきた人間だ
そこまで投機的な動物は男くらいなモン
女はソーシャルの評価が高くないと入ってこないしリスクも避ける
だから「Amazonの技術職に応募」ではなく
正しくは「初期ベンチャーの技術職に応募」あたりだ
例えば東大とか出てゲームのベンチャーに就職するアホ……なんてのは男が多い
これ隠されてるけど結構重要だから見落とさない方がいいよ AIの製作者自身がAIの出した答えを受け入れられなくて永遠に学習し直させ続ける未来 >>718
いや
過去のデータに基づけば過去と同じことしかできないと言うことがわかったからやめた
新しいことをやろうとする人間（アマゾン）の意識がAIに込められなかったということ
人間なら新しい思いが実現できるがアマゾンのAIデータは過去の経験しかインプットされていなかった
たぶん今後未来への意識も含めたインプットをどうするか試行錯誤してうまくいきそうならまたAI使うようになるはず 一昔前に、就職の面接担当者に大学名を知らせるの禁止、てやってた企業あったな。
もちろん履歴書にも書かせない。
それまでの採用者が一流大の学歴に偏り過ぎていてよくない、との反省から。
そして、面接だけで人物重視で選んだら、
かえって以前よりも東大卒の比率が高くなってしまって偏りがひどくなってしまった。
で、その企業は慌てて翌年から訪問学生の大学名をきちんと聞くようにした。
ある程度、東大卒を落としてほどほどの人数を採用するために。 >>720
もう何年も前からずーっとボンヤリと考えていたこと。
ざっくり分けるとこの２つ
もしくは世界がどちらの系統に属するかコミュニティがわかれるパターンや、
そのコミュニティの間で戦いになるパターンもある
キミには理解できないだろうが ■ このスレッドは過去ログ倉庫に格納されています
