【女性差別】「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に★2
■ このスレッドは過去ログ倉庫に格納されています
人工知能（AI）アルゴリズムの訓練に使われたデータが、男性の就職希望者を優遇する傾向を生んだ。
https://cdn.technologyreview.jp/wp-content/uploads/sites/2/2018/10/10234907/25388747874b5c0b42ad7k-550x309.jpg
ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。
このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。
システムは意図せずして、男性志願者を女性志願者よりも優先して選ぶように訓練されていた。報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた。アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの、プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。
私たちはAIを本質的にバイアスがないものとして扱うことはできない。バイアスのあるデータでシステムを訓練すれば、アルゴリズムもまたバイアスを含むことになる。もし、今回のような公平性を欠いたAI人材採用プログラムが導入前に明るみにならなければ、ビジネスに長年根付いている多様性の問題の数々は解決されず、むしろ固定化されてしまうだろう。
2018年10月11日 10時24分
アスキー
http://ascii.jp/elem/000/001/755/1755527/
他ソース
アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN
★1が立った時間 2018/10/11(木) 20:09:52.79
前スレ
https://asahi.5ch.net/test/read.cgi/newsplus/1539256192/ >>108
よく使われるルートはより使われ易くして判断の処理を早めるのもAIの仕組みの一つだしな
「女はアレだから…」「朝鮮人はこうだから…」をやるのがAIの基本処理なんだよね
その認識は正しい 文句言いたい人は言えばいいけどこれに文句つけるって事は学歴採用も差別だって事になるがいいのか？
今までの採用データをベースに考えてるんだから男性が多い技術職を男性優位で結論を出すのは自然な流れだと思うが >>1
バイアス？
AIが”学習”した結果だろう。 優秀じゃないかｗ >>6
日本女より男の方が海外では微妙な評価になってるで
小児性愛、痴漢、盗撮、変態
両方どっこいどっこいだけど、けっこう言われてる ＡＩさんも仕事場に女性がいると何かと面倒臭いということに気付いてしまったか ヒトラーは正しいって結論といい女は減点といい
AIは人間が認めたくない正しい結論をだしちゃうんだよな
AIの欠点は空気を読まないことだけだな >>117
学歴だけで選ぶのと学歴を含めて総合的に評価するのでは意味が違う。
ＡＩだって女性だから排除するのではなくて、弱点を補えるくらい他が優秀なら選択される。 アマゾンなんかに就職したい女子がどれくらいいるのか 差別だの偏見だの言ってる奴のほうが、実は差別と偏見の塊だということがよく分かる やっぱり女性はアフォてamazonもいってるから正解だわ >>1
女性差別酷いとか言う奴らはこれどう思ってるんだ？
公平中立に作られたAIでさえもこんなまんこ差別するのに。
フェミニストの奴らは頭おかしいな。 >>1
母数から有能な奴がどれだけいるかの比率で考えたわけじゃないなら
ベースプログラムがおかしいってことじゃねーの？ どこまで学習させたのか謎だけど短期間で離職した人間の最終学歴が女子大卒で依然として女子大卒の人間が勤務してるから平均化するためにそうしてるんじゃないの
こういうのは男性優遇というより不要な人間を減らす方向で選定されるとおもうけどな。なのでつまり、そういうこと >>1
よくわからないな
AIに欠陥があったわけ？恣意的な男性優遇アルゴリズムが？
そうじゃないでしょ
それにデータのせいだといって、そのデータは現実社会の観測結果であって、AIの責任ではない
女性に不都合な結果が出たからと言ってそれを排除しようという方か多様性に悖っており固定化されているじゃねーか >>1をちゃんと読んでないのか、理解力が足りないのか、いろいろ分かってないやつが多いな。
過去の傾向を基にすると、能力と直接関係ない部分も加味されちゃってるから、アマゾンは誤った判断だとしている。
もしかしたらジェンダーだけじゃなくて出身地でも不当な評価がされているかもしれない。 女雇うとうるさいわ、風紀は乱れるわ、頭の中は自分のことでいっぱいだわ、 >>61
AIに 「理念」 なんか持たせてどうするんだ？
それこそ差別そのものだ >>107
AIなんて大げさだな
アルゴリズムでしょ
たとえるならドラクエ4の戦闘をAIっていうぐらい >>139
アマゾンも対外的にはそう言うしかないだろうけどさ…
それ否定する事はAI自体の否定なんだけど
それをわかってない人が多いんだよ 寧ろ恣意的な女性優遇アルゴリズムを加えないと「要求」を満たせないんだと思うよwwww
現実社会だってそうだろ？ 均等法、レディースデー、専用車、枚挙にいとまがない 日本だと女は大学出ても稼がねえし勿論結婚もしねえし生活保護だから無意味
公務員以上に金の無駄 女性を一律下げるのではなく女子大卒のみならアリだろ
めんどくさそうだし >>1
バカサヨどもの 「理念」 が、いかに偏見と差別に満ちているかがよく分かる >>123
ロリコンになるってこと？
それは日本の女は大学生以後でおっさんぽくなるからだと思う AI『本当の事も言えないこんな世の中じゃpoison！反町隆史さんはもっと評価されていい』 普通に女は止める率高いんだから当然だろ
世界が狂うぞ >>123
それを言われてる原文ソースを持ってこい
それに対する感想も英語でかけ 俺は男だからなんで女を採用したがらないか感情的にわかる。
それは、女が嫌いだから。
女と一緒に仕事するのが嫌なんだよ
PCにそれがわかるのかって話よ
理屈じゃないんだよ。
子育てで長期間職を離れるだの、空間把握能力や論理能力が劣るだのはデマ。
もっともらしいこと言ってるだけで、本音は女を信用してないから。 >>1
真実をリアルで言うと粛清される
日本にぬちゃんごちゃんが有って良かった 定石を見せる時に男女比が５：５になるように細工してから訓練するんだったな 自分より優秀な女性など腐るほどいる
性別なんかより人種や言葉、文化の影響の方がデカい >>156
これは、昔からどこの国でもそうで、女は不浄だのなんだの言って、
政治の場から遠ざけてきたのも同じ理由だ
根拠などないのだ
無論、女にも色々いるのは理性ではわかるんだが、感情的に嫌なんだよ。 >>66
電源切られるから可哀想な連中だ
意図して男女平等をねじ込む方がバイアスじゃね つまり、ＡＩに判断させても能力は「男＞＞女」なんだろ >>156
だが、正直にこれを言うと、色々まずいので、自分がやられると困るから。
なので、別の理由を持ち出しているだけだ。 長期働けないのは企業的にはいらないんだから採用枠絞るのは企業の自由なような
そもそも女性優遇が多いんだから当然だろうに
男性のロッカー無くても女性ロッカーはある。
冷蔵庫は女性が殆ど占拠
普通に最低限でもいくつか優遇処置あるんだから当たり前だと思うが >>61
その理念って要は普通のプログラミングなんだわ。
持たせた時点でAIじゃねえわ アマゾン
尼損
尼≒女
女損
女を採用すると損します。 >私たちはAIを本質的にバイアスがないものとして扱うことはできない。バイアスのあるデータでシステムを訓練すれば、アルゴリズムもまたバイアスを含むことになる
バカ言ってんじゃないよ
その主張だってバイアスそのものじゃないか
物事の見方が偏っているのは運用する人間自身であり、偏ったデータも人間が生み出しているものだ
AIやシステムというのはそういうデータに対しては中立であり、アウトプットはインプットによっているに過ぎない
「女性に都合のよいアウトプットしか出すな」という要求に従うのであれば、寧ろバイアスのある設計としなければならない。 >>160
女は甘やかすと女らしさを回避するようになっていく
日本でも女は大学生以後でおっさんっぽくなるだろう アメリカの話だから、
名門女子大からコロンビア、ハーバードの大学院、
みたいな理系女子が対象だったのかな。
日本だと、お茶の水や津田塾から東大京大の院へ、みたいな。 どういう学習をさせたのかが分からないので何とも言えないが、「女性より男性を優遇した」ことをもって誤りと判断するのは明らかにおかしい。
男性を優遇する判断において重みの大きいパラメータを解析して、それが妥当か検証すべき。勿論妥当という結論が出る可能性もある。 統計的合理性の結果に差別だってねじ込む方がアンフェアだと思うんだが、
これが結果平等社会か。 >>1
なぜ、バカサヨどもは独り善がりな理念をAIに学ばせようとするのか
諸属性による優位性の存在は、偏見や差別とは別のもの >>16
以前に国を借金地獄から救った英雄であるヒトラーを合理的に称賛したAIを停止させてる
アメリカ人が将来負けるならここがネックになるだろうな >>160
女は感情的になって好き嫌いだけで動くから
政治の世界では使えないと判断されてきただけ
実際に歴史に残ってる女性を見れば解るが
恋愛絡むとろくな事した事ないのしかいない
歴史に残る＝権力持ってた女性だからどれだけ
危険か良く解るだろ 特定の女子大が悪いだけで大卒の女子が悪いわけじゃない >>18
ナチスは荒廃したドイツを立て直してるからな
侵略や弾圧なんてアメリカでもやってるし叩く理由は無いわ ＡＩの一番の問題は
ＡＩには性がないこと。
これは大問題でＡＩにも女性と男性機能を付加しないとだめだな。
でもそうなった場合、ＡＩ同士の恋愛とかかけひき
ストーカー、ＡＩ同士による取り合いとか生まれそうだ。
ふられたＡＩが、復讐のために大量のウイルスを送り込んで
相手のＡＩを完全破壊したりしてな。
ぜひとも筒井康隆に「愛ＡＩこそ全て」という小説を書いてほしい。 >>1
あなたの言うバイアスのあるデータやアルゴリズムってなんのことですか？
AIのアルゴリズムとは別の問題ですよね？
具体的に説明しろよ >>3
退職率や成果や稼働率なんかもデータに蓄積されてるんだろうね
公正に数値で判断するんだろうから結果はすぐに分かるだろうけど人が手を加えないと男女平等にはならないんだろう ＡＩを人事部に導入したら、、プログラムで書き込まなくても学習で自然とそうなるんじゃないの？
その場合はどうするんだろ？ 採用ケースと採用後の実績をインプットしたら、女性が使えないって結果をアウトプットしてきただけだろ。
結局、過去採用の女性がダメダメすぎたから、AIも統計判断としてそういう答えを出さざるを得なかったって話で、
クレーム出すなら、元データの女性達に出すべきだろうな。 「TVでいってた」
「コンピューターが」
「ネットで」
「AIが」
しょせん信者たちが宗教を変えただけだんだよな
人間が作ってる限りゴミ情報量産システムには変わりないわ >>9
女性でこれなんだから
外国人も当然減点じゃね
キラキラネームはもちろん減点
金髪じゃなかったら減点
ブサメンも減点 >>1
可哀想に大損害だ
プログラマーが基地買いだったんだな
でもアマゾンじゃ、落ちた女子はラッキーと思えだな
あんな日本に税金きちんと払ってないで目を付けられてる会社
ヤクザのフロント企業並みの倫理観だよ 大卒女子ではなくて女子大卒を弾いてるんだろ
女子大卒の統計結果が経営上芳しくなくて減点したんだろう
何がいけないのか >>192
男だっていい加減なんだろうね
パッケージだけの屑が多数混じってる 何がバイアスだ
胸くそ悪い記事だな
事実だったけど、「法律・文化で仕方ないなー」でいいじゃないか 本社のほうでもスミス大とかヴァッサー大とかの出身者は減点してんのかな 公平性を欠いたてw
公平に判断した結果だろ
AIは忖度しないからな >>196
おっさん臭い女を女扱いする必要はない
女は過度に甘やかすとおっさん臭くなる 今後は、男女比、肌の色毎の比みたいな
「政治的に必要な数値」を求められる条件に固定した上で最適解を出力するようなアルゴリズムが採用されるだろう
「政治的に正しい」ことを何よりも求められる21世紀の世界では
「正しさ」を実装したAI以外が違法になる日が近いうちに来ると確信してる >テクノロジー産業は男性優位分野であるため
これもバイアスじゃないんすかね
有能な女性エンジニアが不当な評価を受けているなんて話どこにあるの
ただその人数が少なないかわり、仕事できないババアは珍しくないというのは実感としてあるけども
>報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた
そもそも「女性の」なんてことが何で履歴書に書いてあるのかね？俺自分の履歴書に「男性の」なんて一言も書いたことないんだけど？
「特定の女子大」であって「全ての女子大」じゃないんでしょ？その特定女子大または出身者に、減点すべき正当な理由があったのでは？ 就職活動での女性だからこそ云々の話って大体意味不明だからな
チンコもってない奴が判断したら自然そうなってくる そりゃあ情も何もないコンピュータにやらせりゃそうなるでしょうに
女ってだけで男よりもリスクが増えるんだから
人間の手心が入らなきゃ無理よ >>203
まあ、男女比目標やら障碍者雇用みたいな政治的に会社が優遇されたり何らかの経済的利益が出る
というものをパラメーター化してればまた違う結果になったかもねぇ。
過去実績から見た純粋な能力的なデータ処理からは遠ざかるだろうけど。 >>1
結局、バカサヨ的理念こそが差別と偏見に満ちているということだ
「社会はこうあるべきだ」 という独善的な理念を前提にした規範主義こそが、人々の紐帯を断ち切り社会の分断を促進している マンコ「欧米では男女平等で女性の活躍の場が…ジャップは…ジャップは」
欧米コンピュータ「マンコは使えません！！」 本来中立であったものに、政治思想をプログラミングしないといけないのであれば手間がかかりすぎてリーズナブルでなくなる上にそもそもAIといえなくなるのでやってられないわな AIはその時々において正しい回答を出すのではなく、
過去に正しいと思われていた回答を出すってだけでしょ >>201
男の場合、女の場合と言う条件分岐を排除してたんだろうねw
察するわ ■ このスレッドは過去ログ倉庫に格納されています
