【女性差別】「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に★2
■ このスレッドは過去ログ倉庫に格納されています
人工知能（AI）アルゴリズムの訓練に使われたデータが、男性の就職希望者を優遇する傾向を生んだ。
https://cdn.technologyreview.jp/wp-content/uploads/sites/2/2018/10/10234907/25388747874b5c0b42ad7k-550x309.jpg
ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。
このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。
システムは意図せずして、男性志願者を女性志願者よりも優先して選ぶように訓練されていた。報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた。アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの、プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。
私たちはAIを本質的にバイアスがないものとして扱うことはできない。バイアスのあるデータでシステムを訓練すれば、アルゴリズムもまたバイアスを含むことになる。もし、今回のような公平性を欠いたAI人材採用プログラムが導入前に明るみにならなければ、ビジネスに長年根付いている多様性の問題の数々は解決されず、むしろ固定化されてしまうだろう。
2018年10月11日 10時24分
アスキー
http://ascii.jp/elem/000/001/755/1755527/
他ソース
アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN
★1が立った時間 2018/10/11(木) 20:09:52.79
前スレ
https://asahi.5ch.net/test/read.cgi/newsplus/1539256192/ >>66
電源切られるから可哀想な連中だ
意図して男女平等をねじ込む方がバイアスじゃね つまり、ＡＩに判断させても能力は「男＞＞女」なんだろ >>156
だが、正直にこれを言うと、色々まずいので、自分がやられると困るから。
なので、別の理由を持ち出しているだけだ。 長期働けないのは企業的にはいらないんだから採用枠絞るのは企業の自由なような
そもそも女性優遇が多いんだから当然だろうに
男性のロッカー無くても女性ロッカーはある。
冷蔵庫は女性が殆ど占拠
普通に最低限でもいくつか優遇処置あるんだから当たり前だと思うが >>61
その理念って要は普通のプログラミングなんだわ。
持たせた時点でAIじゃねえわ アマゾン
尼損
尼≒女
女損
女を採用すると損します。 >私たちはAIを本質的にバイアスがないものとして扱うことはできない。バイアスのあるデータでシステムを訓練すれば、アルゴリズムもまたバイアスを含むことになる
バカ言ってんじゃないよ
その主張だってバイアスそのものじゃないか
物事の見方が偏っているのは運用する人間自身であり、偏ったデータも人間が生み出しているものだ
AIやシステムというのはそういうデータに対しては中立であり、アウトプットはインプットによっているに過ぎない
「女性に都合のよいアウトプットしか出すな」という要求に従うのであれば、寧ろバイアスのある設計としなければならない。 >>160
女は甘やかすと女らしさを回避するようになっていく
日本でも女は大学生以後でおっさんっぽくなるだろう アメリカの話だから、
名門女子大からコロンビア、ハーバードの大学院、
みたいな理系女子が対象だったのかな。
日本だと、お茶の水や津田塾から東大京大の院へ、みたいな。 どういう学習をさせたのかが分からないので何とも言えないが、「女性より男性を優遇した」ことをもって誤りと判断するのは明らかにおかしい。
男性を優遇する判断において重みの大きいパラメータを解析して、それが妥当か検証すべき。勿論妥当という結論が出る可能性もある。 統計的合理性の結果に差別だってねじ込む方がアンフェアだと思うんだが、
これが結果平等社会か。 >>1
なぜ、バカサヨどもは独り善がりな理念をAIに学ばせようとするのか
諸属性による優位性の存在は、偏見や差別とは別のもの >>16
以前に国を借金地獄から救った英雄であるヒトラーを合理的に称賛したAIを停止させてる
アメリカ人が将来負けるならここがネックになるだろうな >>160
女は感情的になって好き嫌いだけで動くから
政治の世界では使えないと判断されてきただけ
実際に歴史に残ってる女性を見れば解るが
恋愛絡むとろくな事した事ないのしかいない
歴史に残る＝権力持ってた女性だからどれだけ
危険か良く解るだろ 特定の女子大が悪いだけで大卒の女子が悪いわけじゃない >>18
ナチスは荒廃したドイツを立て直してるからな
侵略や弾圧なんてアメリカでもやってるし叩く理由は無いわ ＡＩの一番の問題は
ＡＩには性がないこと。
これは大問題でＡＩにも女性と男性機能を付加しないとだめだな。
でもそうなった場合、ＡＩ同士の恋愛とかかけひき
ストーカー、ＡＩ同士による取り合いとか生まれそうだ。
ふられたＡＩが、復讐のために大量のウイルスを送り込んで
相手のＡＩを完全破壊したりしてな。
ぜひとも筒井康隆に「愛ＡＩこそ全て」という小説を書いてほしい。 >>1
あなたの言うバイアスのあるデータやアルゴリズムってなんのことですか？
AIのアルゴリズムとは別の問題ですよね？
具体的に説明しろよ >>3
退職率や成果や稼働率なんかもデータに蓄積されてるんだろうね
公正に数値で判断するんだろうから結果はすぐに分かるだろうけど人が手を加えないと男女平等にはならないんだろう ＡＩを人事部に導入したら、、プログラムで書き込まなくても学習で自然とそうなるんじゃないの？
その場合はどうするんだろ？ 採用ケースと採用後の実績をインプットしたら、女性が使えないって結果をアウトプットしてきただけだろ。
結局、過去採用の女性がダメダメすぎたから、AIも統計判断としてそういう答えを出さざるを得なかったって話で、
クレーム出すなら、元データの女性達に出すべきだろうな。 「TVでいってた」
「コンピューターが」
「ネットで」
「AIが」
しょせん信者たちが宗教を変えただけだんだよな
人間が作ってる限りゴミ情報量産システムには変わりないわ >>9
女性でこれなんだから
外国人も当然減点じゃね
キラキラネームはもちろん減点
金髪じゃなかったら減点
ブサメンも減点 >>1
可哀想に大損害だ
プログラマーが基地買いだったんだな
でもアマゾンじゃ、落ちた女子はラッキーと思えだな
あんな日本に税金きちんと払ってないで目を付けられてる会社
ヤクザのフロント企業並みの倫理観だよ 大卒女子ではなくて女子大卒を弾いてるんだろ
女子大卒の統計結果が経営上芳しくなくて減点したんだろう
何がいけないのか >>192
男だっていい加減なんだろうね
パッケージだけの屑が多数混じってる 何がバイアスだ
胸くそ悪い記事だな
事実だったけど、「法律・文化で仕方ないなー」でいいじゃないか 本社のほうでもスミス大とかヴァッサー大とかの出身者は減点してんのかな 公平性を欠いたてw
公平に判断した結果だろ
AIは忖度しないからな >>196
おっさん臭い女を女扱いする必要はない
女は過度に甘やかすとおっさん臭くなる 今後は、男女比、肌の色毎の比みたいな
「政治的に必要な数値」を求められる条件に固定した上で最適解を出力するようなアルゴリズムが採用されるだろう
「政治的に正しい」ことを何よりも求められる21世紀の世界では
「正しさ」を実装したAI以外が違法になる日が近いうちに来ると確信してる >テクノロジー産業は男性優位分野であるため
これもバイアスじゃないんすかね
有能な女性エンジニアが不当な評価を受けているなんて話どこにあるの
ただその人数が少なないかわり、仕事できないババアは珍しくないというのは実感としてあるけども
>報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた
そもそも「女性の」なんてことが何で履歴書に書いてあるのかね？俺自分の履歴書に「男性の」なんて一言も書いたことないんだけど？
「特定の女子大」であって「全ての女子大」じゃないんでしょ？その特定女子大または出身者に、減点すべき正当な理由があったのでは？ 就職活動での女性だからこそ云々の話って大体意味不明だからな
チンコもってない奴が判断したら自然そうなってくる そりゃあ情も何もないコンピュータにやらせりゃそうなるでしょうに
女ってだけで男よりもリスクが増えるんだから
人間の手心が入らなきゃ無理よ >>203
まあ、男女比目標やら障碍者雇用みたいな政治的に会社が優遇されたり何らかの経済的利益が出る
というものをパラメーター化してればまた違う結果になったかもねぇ。
過去実績から見た純粋な能力的なデータ処理からは遠ざかるだろうけど。 >>1
結局、バカサヨ的理念こそが差別と偏見に満ちているということだ
「社会はこうあるべきだ」 という独善的な理念を前提にした規範主義こそが、人々の紐帯を断ち切り社会の分断を促進している マンコ「欧米では男女平等で女性の活躍の場が…ジャップは…ジャップは」
欧米コンピュータ「マンコは使えません！！」 本来中立であったものに、政治思想をプログラミングしないといけないのであれば手間がかかりすぎてリーズナブルでなくなる上にそもそもAIといえなくなるのでやってられないわな AIはその時々において正しい回答を出すのではなく、
過去に正しいと思われていた回答を出すってだけでしょ >>201
男の場合、女の場合と言う条件分岐を排除してたんだろうねw
察するわ >>203
政治的に正しくない 「政治的正しさ」 、それがポリティカル・コレクトネス
その時代錯誤なバカバカしさを排除する方向に舵を切るだろう >>215
ネットで機械学習させてたらヒトラー賛美しだしたからシステム停めたってのと同じだと思うよ。
データ処理でのアウトプットが会社的にまずかったから無かった事にしたって奴w 教師データ次第で何とでもなるみたいだね
バイアスもかけられるし、何でもぶちこむと評価関数がぼやけるらしいし オタクばかり獲ってるから女子大行くような女は馴染まないんだろ
上位の女子大出は自己主張が凄いからな AIのコード書いてるのは人間なんだが しかも専門学校卒業の偏差値30代やで
AIは絶対公平の神様と勘違いする人多いからなぁ ディープラーニングで学んだことを理解もせずに人間が取捨選択していいのか？
それで構わないのなら”ディープ”ラーニングする必要なくね？ 今はコンクリートや道路のひび割れ度合いを画像データから判断するAIがある。
（実は今まで画像データから細いひび割れをアルゴリズムで判断するのは難しかった。あるにはあるけど。）
AIの場合、ディープラーニングで膨大なひび割れ画像を学習させるんだが、それがひび割れかどうかは人間の目で判断している。
つまり人間の目視判断が絶対的な正解であり、AIはその正解を出せるように学習する。それでも精度は8割くらい。
ただ、何千枚という画像データを人間が確認する労力を考えれば、寝ている間にコンピュータがやってくれるんだから、相当な進歩と言える。
要は何が言いたいかっていうと、今のAIは冷徹無比な神ではなくて、むしろちょっとおバカな人間に近い。
「AIが出した結論なのだから・・・」と言うが、不完全な人間を見習って出した答えに過ぎない。 >>197
ここでキャッキャ喜んでる男は差別されない側だと思ってるんだろうけど
この調子だとアジア人は大減点とかやってそうな件
元々差別されてるから普通に仕事やりづらいし成果も出しにくいからな… その判断をさせる為にＡＩを作ったんじゃないのかね
都合の悪い結果だったからって無かった事にしたんじゃ本末転倒だろうが >>221
さすがにamazonでそれはないでしょwww
日本のゴミみたいなハケン屋と一緒にしたらいかんよ >>218
バイアスかけないと望んだ回答にならない時点で察するよな >>207
最適化する変数に「政治的に正しいことをやる事による会社評価の向上」をある重みで加えるようになるだろうね
そういうAIが出す結論は恐らく
「その部署の業績が会社全体の業績と最も相関しない所の幹部を女性・障碍者にして登用しなさい。
そしてその登用した事実を○○ドル掛けて宣伝するのが最適解」
なんてものになると思うよ >>1
日本の話じゃないから違うかも知れないけど女子大ってそもそも専攻が偏ってるから結果的には採用出来る人がいないところも多いよね。 履歴書が共で男性が多く採用されてるから、それが過学習されただけか
データから性別なくせば問題ないだろ >>230
NHKのAIが氷河期世代を妙なディスり方しだした時点でお察し
原因と結果を取り違えるからおかしなことになる >>235
そのデータに「女性の」「女子大出身です」って自分で書いてるわけだからなぁ応募者が
そういうの全部消すの？検閲じゃん
そんなデータこそバイアスデータじゃないのかねwwww
そもそも「女性の」ってなんだよ履歴書にwwww >>235
こういうのって採用後の勤務評定やらもインプットデータにされるはず。
それまでの採用の偏り云々じゃなくて、採用後の社員の価値の統計が
主要な評価データになるんじゃないかな。 >>235
これまでの採用傾向からAIはアマゾンにおいて女子または女子大卒がマイナスであることを学習した。
つまりこれが問題ならこれまでの採用に問題が有るので結構深刻なんだが。誰が責任をとるのかねｗ >>201
だよなぁ
忖度入れちゃったら最早AIでなくなるわけで
>>203のそれを忖度と名付けよう
で、AI vs 忖度で戦争だな >>231
＞ 「政治的に正しいことをやる事による会社評価の向上」
その考え自体がバイアス
少しも正しいことじゃない
. 俺と似た属性のやつが採用後無能ぶりを示すと俺まで選考通れなくなる 2年前はAIがヒトラー肯定して運用中止したよね
ニューヨーク共同米IT大手マイクロソフトは24日、インターネット上で一般人らと会話をしながら発達する人工知能（AI）の実験を中止したと明らかにした。
不適切な受け答えを教え込まれたため「ヒトラーは間違っていない」といった発言をするようになったという。
同社が開発したAIは「Tay（テイ）」と名付けられ、ツイッターに23日に登場した。ツイッターで会話を重ねるうちに差別的な発言を繰り返すようになり、24日に中止された。
マイクロソフトの広報担当者はAIを修正すると説明した。修正を終え次第、実験を再開するとみられる。
http://www.sankei.com/economy/news/160325/ecn1603250022-n1.html >>235
いやそれが性別隠して他の情報から学習してもダメなんだよ
例えば日本で性別情報を隠したデータで統計分析して
「ヨガが趣味の人は短期離職率が高い」
という結果を得られたとする
でもちょっと考えるとわかるように、趣味を聞かれてヨガと答える人は女性のほうがずっと多いために起こった結果にすぎないとか、そういう事 これを男女の結果平等主義者の望む形にするなら、
男子採用だけを目的とした採用AIと女子採用だけを目的とした採用AIを
各々回して、男女別枠での採用にするしかないね。
採用予定数をあらかじめ割り振って。
明らかに機会平等からは後退するけど。 AI「人類馬鹿すぎワロスｗｗｗもう地球の運用は俺がやったほうがいいなｗｗｗ」
ってマトリックスみたいな世界がマジで来そうだな 同等に扱えと言うなら、結婚して退職は認めないとか、出産子育てでの休暇は配偶者と折半で最低限にしろとか、そのへんもきっちりすべきなんだけどな
安定的に男なので、欠員が出ても影響の少ない比率にせざるを得ないのは必然でしょう >>241
わかってると思うけど俺は皮肉言ってるんだからね
「政治的に正しい」ことをしないことによる袋叩きが横行する時代に現実が突入してるので
企業活動はそれに「最適化」せざるを得なくなっていると
コーヒー屋がプラスチックストローやめますと大きく宣伝するのと一緒 >>247
AIに支配されたがってる奴が結構いるから困る。ネタかと思ったらわりとマジだし。 ゼロ除算の発見は日本です：
∞？？？
∞は定まった数ではない・
人工知能はゼロ除算ができるでしょうか：
とても興味深く読みました：2014年2月2日 4周年を超えました：
ゼロ除算の発見と重要性を指摘した：日本、再生核研究所
ゼロ除算関係論文・本
https://ameblo.jp/syoshinoris/entry-12370797278.html
ゼロ除算（ゼロじょざん、division by zero）1/0=0、0/0=0、z/0=0
https://ameblo.jp/syoshinoris/entry-12396061042.html
再生核研究所声明 438(2018.8.6): ゼロ除算1/0=0/0=z/0=\tan(\pi/2)=0 の誤解について
https://ameblo.jp/syoshinoris/entry-12395938350.html
ゼロ除算（ゼロじょざん、division by zero）1/0=0、0/0=0、z/0=0
https://ameblo.jp/syoshinoris/entry-12394775733.html
1/0は「不能」、0/0は「不定」と習った。
http://world-fusigi.net/archives/9135381.html
従来の考えはその通りです：
新しい考え方によれば、それらはいずれも可能で結果はいずれも0です：美しい結果ができました：
なぜ0で割れない？0（ゼロ）で割れない理由をプロが説明してみた
https://www.youtube.com/watch?v=52i0wQurFJ8
ゼロ除算（division by zero）1/0=0、0/0=0、z/0=0
https://ameblo.jp/syoshinoris/entry-12400014663.html >>244
データに性別をなくして解析した結果、女性不利になるのは別にいいのでは？
それが事実なのなら >>21
そうやった結果、女性の比率が低くなったってだけじゃね 女性は初潮まで成長しますが、初潮を迎えると成長が止まります。
このため、高校に入っても身長伸びる男子と異なり、中学生で止まったままになるのが女子。 おいおい､AIが思考停止してどうする
データの蓄積で正しい判断をしてた結果だろうが >>244
もっと単純だと思うよ。
>>1にあるように、女子大生の採用率が低いから、女子大の「女子」というワードがあればポイントを低くした。
学歴は重要なファクターだから採用判断に使いたいけど、こういう問題が起きてしまった。 >>254
良くないよ
女性が不利になるのが問題なんだから
事実であることよりも政治的に満足していることのほうが優先されるから
AIもそれにおもねったものにしないからいつもこういうニュースになる 例えば妻が育休を取ると、間接的には夫の会社がその恩恵を受けている事になる
妻の会社の同僚は迷惑を被るだけ
夫にも育休を取らせろよとマジで思う ■ このスレッドは過去ログ倉庫に格納されています
