【女性差別】「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に
■ このスレッドは過去ログ倉庫に格納されています
人工知能（AI）アルゴリズムの訓練に使われたデータが、男性の就職希望者を優遇する傾向を生んだ。
https://cdn.technologyreview.jp/wp-content/uploads/sites/2/2018/10/10234907/25388747874b5c0b42ad7k-550x309.jpg
ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。
このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。
システムは意図せずして、男性志願者を女性志願者よりも優先して選ぶように訓練されていた。報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた。アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの、プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。
私たちはAIを本質的にバイアスがないものとして扱うことはできない。バイアスのあるデータでシステムを訓練すれば、アルゴリズムもまたバイアスを含むことになる。もし、今回のような公平性を欠いたAI人材採用プログラムが導入前に明るみにならなければ、ビジネスに長年根付いている多様性の問題の数々は解決されず、むしろ固定化されてしまうだろう。
2018年10月11日 10時24分
アスキー
http://ascii.jp/elem/000/001/755/1755527/
他ソース
アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN 仮にどんなに女性が頭がよかったとしても、男性よりもリスク回避する傾向にある以上
どうしようもないだろ。 入力のパラメータに問題があるならあるでそれでええやん
再度見直すで
これ、明らかに女性団体からの抗議が怖くて辞めてるやろ？
これじゃあ発展せんて >>688
昔は女は大学入れねーよって制度になってたんだよ 服の上からD-Eカップで好みだった後輩が
ある日からBカップになっていた・・・女の八百長精神？
彼氏出来たんだな・・・ >>692
東女はともかくポンジョはヤリマンアバズレの溜まり場だっただろw 宗教的価値観で事実が捻じ曲げられてるだけだろ
そのうち地動説を唱えただけで火炙りにされる
コイツラ狂信者だからな
相当に危険だ
計算結果がいくら正しくても教義に合わなければ攻撃するカルト集団だ
カルトだから他者をぜーんぶ食い潰すまで続くよ
今のうちに根絶やしにしないと将来に禍根を残す ま〜ん(笑)ま〜ん(笑)、ま〜ん(笑)ま〜ん(笑) ♪
ま〜ん(笑)ま〜ん(笑)、ま〜ん(笑)ま〜ん(笑) ♪
おサ〜ルさん以下だよ〜 ♪
＿＿
彡_＿ ＼_ n
(・ ・ ) ○ ) ((
/‥ ( ｜ ))
( Θ ) ＼//_
￣/￣ (⌒⌒)ヽ_
｜ ∧ ＼／ .(ミ)
｜｜ ＼ ノ
＼_) ( (￣) )
(＿)(＿) 👀
Rock54: Caution(BBR-MD5:1341adc37120578f18dba9451e6c8c3b) 男女平等そのもの自体が理不尽じゃね。どんな生物でも
オスとメスはそれぞれ社会的役割が違うんだぞ。
メスがオスと同じライフスタイルを志向するようになれば
その生物は種の保存が出来なくなり、当然滅びる。
そんなことも分からない今時の人類はミミズ以下だよね。 グーグルのAI 黒人とゴリラの区別が出来ない
アマゾンのAI 採用で男性を優遇する
AIはまずポリコレを学ばなきゃイカンわw >>691
Amazonの技術職に応募したのが男が多かったってだけだろ
山田さんの申し込みが多かったから、結果山田さんがたくさん受かった
これをAIが「山田さんマジ優秀じゃん！！？」って学習して田中さんや佐藤さんを減点した
そんだけ。 Amazonの言葉にはアマゾネスの意味もあるのに、はじくなんて >>694
AIは、もうちっと精密だろう。GOOGLEに検索かけて
出身高校の成績や各社での出世などありとあらゆる情報取得をしながら
常時整理して、また学習し直して結果だしていくわけで。 >>670
製作者にとって都合の悪い結果が出ればその都度学習し直させてる
結果的に偏った思想を学習させているのと同じこと >>696
Amazonばっかり発展したらつまらんからこれでええやん草 有名なテック企業で女性創業者は皆無
女性がそんなに優秀なら雇われやるより会社つくればいいのになんでやらないの >>710
旦那と子供の世話で忙しかったんとちゃう >>705
それじゃただの統計でAIの意味がないだろう
もっと深く精査しているだろう
採用した人間でどういう評価になったかも加味しているんじゃないの？ あれさ平均50点って全ての人間が50点じゃないよ
解ってるとは思うけど 未来の人間は２つの未来がある。
・AIを許容して、AIと共存というか支配されながらも高い知性の社会を築いていく未来
その中には人間自身の遺伝子操作によって人間そのものの能力を高めることも含まれる
・AIに支配されるのを拒絶して、AIを捨てて進歩を無くした社会を築いていく未来
今のレベルを最高点として、それ以降の進化をやめてしまう人類社会
どうやら人類は後者を選びそうな気配だ
それはそれで平和なのだが、長い期間の後、いつか外敵や天変地異などで滅びる運命 いや、人間が採用してても同じ結果になったんじゃね？そんならAI悪くない。
ただ人間と違ってAIは少し中身が見えるから、アマゾンが「自信」を持てなくなったんだろ。 兵役逃れの女性たちを逮捕しないとおかしいだろうね。
過去遡ってでもやらないと。 >>717
何だその馬鹿が一生懸命考えたような選択肢は？ これもAI問題の一つだな
AIの出した答えを人間が受け入れられない >>133
理性的でないバカの推論
データが偏っていれば結論が偏ると言うことが実践されただけのこと
理性的でないという結論は全くの無知 あれファミコンのゲームのクジでいいのが出るまで何回もロードを繰り返すのを思い出したわｗ >>705
ちょっとニュアンスが違うな
過去のデータならamazonがそんなにデカく無かった時、
海のモノとも山のモノともしれない時に入ってきた人間だ
そこまで投機的な動物は男くらいなモン
女はソーシャルの評価が高くないと入ってこないしリスクも避ける
だから「Amazonの技術職に応募」ではなく
正しくは「初期ベンチャーの技術職に応募」あたりだ
例えば東大とか出てゲームのベンチャーに就職するアホ……なんてのは男が多い
これ隠されてるけど結構重要だから見落とさない方がいいよ AIの製作者自身がAIの出した答えを受け入れられなくて永遠に学習し直させ続ける未来 >>718
いや
過去のデータに基づけば過去と同じことしかできないと言うことがわかったからやめた
新しいことをやろうとする人間（アマゾン）の意識がAIに込められなかったということ
人間なら新しい思いが実現できるがアマゾンのAIデータは過去の経験しかインプットされていなかった
たぶん今後未来への意識も含めたインプットをどうするか試行錯誤してうまくいきそうならまたAI使うようになるはず 一昔前に、就職の面接担当者に大学名を知らせるの禁止、てやってた企業あったな。
もちろん履歴書にも書かせない。
それまでの採用者が一流大の学歴に偏り過ぎていてよくない、との反省から。
そして、面接だけで人物重視で選んだら、
かえって以前よりも東大卒の比率が高くなってしまって偏りがひどくなってしまった。
で、その企業は慌てて翌年から訪問学生の大学名をきちんと聞くようにした。
ある程度、東大卒を落としてほどほどの人数を採用するために。 >>720
もう何年も前からずーっとボンヤリと考えていたこと。
ざっくり分けるとこの２つ
もしくは世界がどちらの系統に属するかコミュニティがわかれるパターンや、
そのコミュニティの間で戦いになるパターンもある
キミには理解できないだろうが >>5
英語のレジュメには性別生年月日写真は載せないもんだよ >>727
女が優秀なら旦那に家事育児させて起業しろ >>725
前にマイクロソフトがヒトラーを尊敬し出してのと同じ
インプットが偏ると結論が偏る
AIが悪いのではなくAIの教育が悪かった
AIは子供と同じ
何を教えられたかで結論が決まる >>730
お前の馬鹿な思考なんか誰が理解するんだ >>734
誰がどのように 「データの偏り」 を判定するんだ？ このアマゾンのＡＩを20000体倒したら
俺はレベルいくつになるんだろうなあ 今まで男性が主流だったというデータから女性を除外した訳だが、ではどういうデータを与えたら男女区別なく判定したんだろうな
男女差別はいけない、近年は女性でも技術者として活躍しているというデータを与えれば女性だからというだけで減点はしなくなるか
しかしまぁ自分に都合のいい結果だけ求めて色々バイアスかけたら結局AIにやらせる意味が無いような気もするが どの仕事も女性は下駄をはかせてもらいまくり。
そりゃ質が低下するわな。 ただ、このAmazonのＡＩが役に立たなさそうなのは
何となく察しが付く
既存のバイアスを強化する方向にしか働かんだろコレ >>739
なんか今の男女平等って根本的に間違ってるような気がする
結果、八百長になってるやん >>734
製作者の結論ありきじゃないか馬鹿
そんなAIに何の意味があるんだ？ 【女性差別】「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に ･
なんかシュールよなw
ウチの大学は女子しか入れませーん→採用でウチの大学を減点するな！差別だ差別だ！ >>740
学習機能があるから、どんなに公平を求めてもAIが男性を優遇してしまったらどうすんだろうね。 >>736
すでに研究からメソドロジーができていてそろそろ実用化されるとか噂が出てるくらいだからきっとすぐ世に出る ＞このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。
これ入社の後の勤務評価と履歴書の情報を合わせて学習させてるはずだから、結果的に男性優遇になっても
問題ないと思うがなぁ。人間より公平なのは間違いないよ、外見美醜とか性格の相性のバイアスとかないから。 >>743
そうですお。
「黄金のスカート(英語：golden skirt)」と言う立派な専門用語があるくらいですから。
女性採用こそ八百長なのよ。 正しくデータ処理した結果が女性を低く評価しないAIシステムが
あったらそれこそ信用できないわ。
現在進行形で女性差別から女性が辞めざるを得ない状況が多く
リスクが強制的に高くなるのに、それを評価できないシステムなんて
意味がない。
その現在社会が抱えるリスクを加味して人が補正して対等になる程度で
ないと、女性差別は今現在ないということになるぞ。 >>741
でも平均すると女性のほうが仕事出来るよね
男性は二極化する >>744
マイクロソフトは製作者ではなく外部データがすぐにインプットになった
つまり使用者側がどんどんヒトラー賛辞したらそうなったら
制作側じゃない
アマゾンは制作側がまあバカだったんだな >>740
産休育休を単なる休業が多い費用対効果悪い人材と評価して女性と関連付けてマイナス考課してると思う
企業理念じゃなくて企業利益という視点で学習重ねてきたんじゃないの >>750
八百長じゃあ、やる気でねえわ
男はつらいよ >>749
AI利用者が問題ないと思うなら問題ない
アマゾンが問題あると結論しただけ だいたい、アマゾンなんて特殊な企業の例で男女云々言うことがおかしい。
そこら辺の企業の受付嬢の採用でもAI入れてみろよ。
女性ってだけで大幅加点、逆に男性差別だぞ。
世の中はバランス取れてる
適材適所
大谷が大相撲に行ったってそこまで高い評価は受けないだろ。そういうものだよ、世の中は AIって学習すると
いつも人間の意図しない差別をし始めるイメージがついた
以前もナチスは間違っていないとか言い出したAIいたよね >>752
2極化した男性のうち、ダメな方をすべて切り捨てればよい。
そしたら、お前の理屈であっても平均的に男性ばかり採用した方が絶対良くなる。
それが、一流企業というもの。 AIでも事実を言うことを許されないのか
もうやだまんこ >>149
性別項目があるならともかく
エントリーシートで性別を記述する必要ってあるか？
私は女なので・・・とか書いてたらそりゃ減点対象だと思うが だから世界中のデータを吸収させて勝手に判断させておけ >>753
使用者側からのインプットであろうと、結果的に製作者が気に入らなければ採用しない
採用されるAIは、製作者の意図に沿ったものになるだけ
それが偏り >>760
元データが隔たっているとそうなるみたいだな。
完全に自分で学習データを生成する場合（α碁など）は
むしろ癖のない出力するようになる。 >>760
いつもじゃない
それから「人間の意図しない」というのも間違い
「人間は自分を都合よく見る」から人間側がそういう自己弁護の表現をするだけ まあ、本当にアカンのはアマゾンでもＡＩでもなく女性団体だと思うけどな
八百長やれってか？ >>9
無差別階級・オープントーナメントである共学出身者のほうが優秀 中立に見て男性優遇になったかも知れないじゃん？
それを男性優位だからと言って半々になるよう構造変えたり廃止したりしたら
いつまで立っても真のAIは完成しないと思うが？ >>766
一文目が偏りのある文章
製作者の意図で採用するようになっているかどうかも条件の一つ 公平に出て来た結果は男性が優れているって事
スポーツで確認できるではないか >>771
これからのAIに必要なのは、忖度する能力だと思うの。 >>770
それを思い込みというバイアスで断言するのも思い込み >>769
人間が意図していたなら
何故、AIの判断がおかしい差別的だと多くの人間が思うの？
わざとAIにこのように仕組んむ理由なんてないよ >>775
それは誰にとってのAIなんだよという話 男女で分けるから差別になる
化粧してるやつは水商売か芸人しか向いてない、これは男女問わずだ
実業するには無駄なコストだし、表情を誤魔化すことを覚えて実力を磨かないから >>772
企業利益のための採用を目指す学習して社会通念や社会的合意にそぐわないAIになってしまったので廃止
企業理念を踏まえた採用を考えるAIを目指せばよい結果になった気がする だから男女別に定員を定めればいいじゃん。そしたら、真の平等。
完全に実力主義で男女入り混じって戦わせるのは、女性差別。 ＡＩは人間の思考とか成長プロセスを理解したうえでの判断なんてできないわけで・・・
過去の傾向をパターン化し、より強化した結論を出すことだけしかできない。
そうなれば男性優位の結論出すのも当然だろうね。
この辺はとてつもなく高い壁、当分超えることはできないだろう >>774
多分そうなんだけど、女性様のエンジニアが欲しいから
ＡＩの判断をなかったことにしたと思われ。まぁ多様性が
強みになるという意見もあるし、より深い知恵を
10年かそこらのＡＩはまだ持ってないかもしれない。
ただ基本的にはデータを集めれば集めるほど精度とか洞察力が
上がるはずなので、20年分、30年分のデータを入れたら
また違った結論が出るかもしらん。 >>779
何故、AIの判断がおかしい差別的だと多くの人間が思う
というのはどこにかいてあった？ >>778
根拠を示さない結論は思い込み以外の何物でもないよ馬鹿 >>784
いや違う
今回アマゾンのデータがアマゾンの希望を表してなかったというだけ >>783
実力主義の何が女性差別なんだ？
その発想が男性差別だ >>789
Aiは子供
何を教えるかで結果が変わる >>786
じゃあ何も問題ないと思うのかね？
君は？
何も問題ないのに記事になるわけないだろ ■ このスレッドは過去ログ倉庫に格納されています
