【女性差別】「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に★2
■ このスレッドは過去ログ倉庫に格納されています
人工知能（AI）アルゴリズムの訓練に使われたデータが、男性の就職希望者を優遇する傾向を生んだ。
https://cdn.technologyreview.jp/wp-content/uploads/sites/2/2018/10/10234907/25388747874b5c0b42ad7k-550x309.jpg
ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。
このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。
システムは意図せずして、男性志願者を女性志願者よりも優先して選ぶように訓練されていた。報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた。アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの、プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。
私たちはAIを本質的にバイアスがないものとして扱うことはできない。バイアスのあるデータでシステムを訓練すれば、アルゴリズムもまたバイアスを含むことになる。もし、今回のような公平性を欠いたAI人材採用プログラムが導入前に明るみにならなければ、ビジネスに長年根付いている多様性の問題の数々は解決されず、むしろ固定化されてしまうだろう。
2018年10月11日 10時24分
アスキー
http://ascii.jp/elem/000/001/755/1755527/
他ソース
アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN
★1が立った時間 2018/10/11(木) 20:09:52.79
前スレ
https://asahi.5ch.net/test/read.cgi/newsplus/1539256192/ 特定の「女子大」卒って
特定の「大学」卒排除と一緒だろ？
なんか問題でもあるのか？ >>122
臭そうなのが来てくれて嬉しい。
どこがズレズレなのが教えて下さい。 >>311
結局は、「何が公正か」という哲学の問題になってきそうな >>299
性で叩く前に記事を嫁
男性志願者を女性志願者より優遇して選んだとある
女子大はその判断材料の一つだよ 医大の話で日本ってどんだけ後進国かよw
なんて思っていたら世界の最先端を突き進んでいたとは 最近のAIって考えてるわけじゃないもんな
ただ与えられた情報から良いとされたものを選んでるだけだし
昔のAIのほうが夢があった 女を教育する仕事をして来た。
大量な女と関わり、そして行く末を見て来たが、
あいつらは基本、自分の事しか考えていない。
ルールより「私」
決められた事より私の感情
私を敬いなさい
私を優先しなさい
私、私、私
教育するだけムダ
理が通用しない 勘違いしてる人いるけど、今まで男の採用が多かったのはそれはそれで良いんだよ。
だって男の方が圧倒的に多いわけで、当然優秀な人間も男に偏る。それは公正。
問題なのはジェンダーの要素が判断に使われてしまったこと。
アマゾンも性別は外してAIに読ませてたと思うが、AIは女子大というワードと採用実績を結びつけて減点してしまった。
性差別がなぜ問題なのかは言うに及ばずだが、実際上記の男性優位の理由と女子大を排除することは直接結び付かない。 >>314
機械平等能力主義を謳いながら、それとは全く相反する結果平等主義の連中の声が大きい歪な社会なのよね、今は。 こんなスレで女性蔑視しても
お前が女にモテないことに変わりはないぞ 人間の曖昧さがAIの発展を妨げてますね
人間に近づこうとすると首とか可哀想だろ
こんな事やってるとAI差別って判断されて人間粛清されるぞっと バイアスが掛かった結果のデータから学習したらバイアスが掛かる。
仕方ないね。 >>320
使えない連中の共通ワードにたまたま”女子大”ってのが浮上してきただけでしょ。
人間がやってるのでもどこそこの大学の奴は使えないとか○学部は今一なのばかりって印象が悪いってのと同じレベルの話。
たまたま女子大がキーワードだから女性排除になるって騒いでるだけ。 有能な人が作った有能なシステムを使おうとすると
バカが足を引っ張るから使い物にならなくなる
ITあるある >>320
結局ね、色んな要素（パラメータ）を機械学習にぶち込むからこういう問題が起こるのであって
採用みたいな単純にコントロール可能なものは求める能力の試験の点数以外を一切見ないで判断するのが基本正しいということ
プログラマー採用ならコード書かせて、それだけで判断する、みたいな
犯罪者の再犯率判定とか、生命保険のリスク判断とかはそう簡単に行かないからずっとずっと難しい 日本も海外も女への評価はこんなもんなんだろうね。
まぁ仕方ないけどねw 古今東西の100メートル走の記録と走者の個人プロファイルを分析したら黒人男性スカウトしとけば安パイって出たというのと何が違うんだ 結局AIって元のデータ入れた人の思想や価値観のコピーなんだよね 女性差別したっていいだろ
明らかに劣った生き物なんだし >>325
偏りを作るのはAIの基本機能だしね
重みってその為のモノ
AI否定してる人は「AIはネトウヨ」と言っておけばいいのよ
それで間違いないから 離職率高い、産休・育休・生理休暇でよく休む
そりゃ普通に考えたら女入れないのは当然でしょ
AIの判断は至極合理的で当然 実際女の方が働きが悪かっただけだろ
単に統計的な結果 >>335
まあこれで主観が入る余地があるとしたら、採用者の入社後何年か分の勤務評価だろうけどね。
アマゾン社内の現場で女は使えねーって判断されてたら当然それはそのまま反映されるだろうさ。 フェミの人たちって、自分が経営者だったら、
いろいろ優遇が必要で面倒くさい人を従業員に積極採用しようと思うのだろうか？ 結局AIの出した結果に人の都合が入るなら意味ないなって話か そもそも人工知能の生みの親であるアラン・チューリングが
同性愛者で女嫌いだったから
そこからバイアスが掛かっている AIが判断してる、きちんと統計とって、会社の利益としては、
女子大卒を避けるのは合理的な理由で正解ということなのかな
差別は問題だが、会社の利益にはなる >>259
俺が言った良いの意味は
AIを使った結果としては妥当だという意味だよ >>346
差別ってなあにって話だな。
機械には感情なんてないぞいw 過去データから算出した結果でしょ
男の方が仕事効率が良いデータを無視して
女を無理矢理採用する方が差別だと思うけどな ステレオタイプな価値観を持つAIって、より人間らしくなってきてるような気はする >>341
うん、そこを加味してAI至上主義者は万能論者の発言がどう変化するかだね。 AIに学習させたのは「公平性」ではなく「本音と建前」だろw だってアマゾンも業務考えたらシフト勤務やろ？
ホルモンバランス崩れたら一気にダメになったり基礎体力のない、しかも夜勤や深夜退勤後はリスクでかい女性はそりゃ敬遠されるんじゃね？
女性だから日勤優遇でとかなったら男性差別になるし >>281
ある程度ナイーブに適用できるのが機械学習のいいところだろ
それが嫌なら面倒くらい工夫をする必要があるが、それをするぐらいなら機械学習を使わなくてもという話になる >>341 じゃなくて >>335 だった(´・ω・｀) >>355
そもそも性差によるスペック考えたら、どんだけ優秀な女史が世の中に存在しようとも「現在の労働環境では男性のほうが要求される」ってのは客観的に妥当だしな ていうかさ、技術職の応募なのに女子大卒が応募って時点でなにコレって感じなんですけど 過去に始まり現在も続く「差別」「環境」などの問題が現状維持される責任をAIに押し付けるのは人間の無責任
人間が作り出した問題は人間が解決する必要があるのであって
統計や数学を無邪気に使うこと自体が直接解決になるものではないというだけのこと >>329
入社後の成績まで学習させてたかは分からないけど、少なくともその人物を採用したかどうかというデータは間違いないわけで、
そこで少なからず性別という余計な要素が加味されていると考えられる。その時点でアウトなんだわ。 >>362
大卒に女子大を加えるんなら、まず女子大の存在ってのが性差で不公平よね いくらでも雑にこき使って平気な人間と、大事に大事に扱わないといけない人間
両方いてどっち取るかってなったらそりゃね >>346
つまりこれって確かに男性のほうが優秀だとする合理的根拠があって
AIは判断しているが、それは差別だとする社会は
非合理な女性優遇社会ということになるんじゃないかなｗ >>363
責任っつーか、性差による体力等の理由で妥当だと思うけどなあ・・・ 先入観を持たない事が不可能である以上、イデオロギーから完全に自由な人間はいない
AIもまたしかりということか AIが自我持ったら女全員駆逐されそうだな
男は一生奴隷のように扱われそう >>370
イデオロギーとか関係なくてAIのやってる事は最適化なので、これまでの採用方針を最適化したら怒られましたって話。 >>356
勤務評価システムがどうなってるかは知らんけど、
評価者が一人だけって事でもないだろうし、
外資系だから社風としてのバイアスはある程度排除されてると思うんだけどね。
老舗企業ならまだしもこのざまさんだから評価自身がコリポレに影響受けて女性有利になってると思うが
それを踏まえてこの結果だと男女結果平等主義者にとっては絶望的だよね。 そもそも今の日本の女性社会進出のルーツって、旧財閥系大手が社員に嫁とるために事務職を中心に女を採用した流れじゃん？
お茶くみや寿退社とかオツボネ様って言葉もその残滓だし。
もとは事務職も男性ばっかよ。戦後の白黒写真のころなんて。それでもその頃だって男性だけでも仕事にあぶれてたんだから。
椅子取りする人間が女性含めて倍になっても、結局基礎体力とスペックでしょ。そこで男女で公平にってのが論理的じゃないだろ。雇用する側からしたら。 つまりあれだろ人間の方がAIより判断力がなく劣ってるけど
それを認める判断力すらないってこった >>3
まぁ感情抜きにして客観的かつ合理的に考えたんだろう 人間が不文律の中で女子大卒を不利に扱うなら差別とは言われないからな
アルゴリズムの傾向として見える化されちゃうとマズいよね AIがなぜ減点対象にしたのかその原因が分からなければ本当に女性差別のバイアスがかかっていたのか分からないと思うが？ >条件を中立なものとして判断するように変更を加えた
それも結局は手心じゃん
絶対的な公平なんかありえない >>1
女子大卒は減点のどこが差別？
女子大のレベルは低いんだから減点当たり前だろ >>369
そう
突き詰めれば、何を持って「差別」と判断するかをきちんと決める人間側の問題
そこがイイカゲンだから、差別だ、いや能力で選んだ結果だという平行線になるわけで >>105
汚らしいエラ張りブサイク整形レイプ民族チョン。
整形なしには人前に出られないほど醜悪なパンスト朝鮮顏をしてるくせに、
日本人のふりをして性犯罪を犯しまくりやがって。
朝鮮民族は、歴史的によそ様の国でも凶悪な性犯罪を繰り返してきたゴミクズ民族。
東南アジアの女性たちに最も忌み嫌われている。
ベトナムでは朝鮮人による連続強姦で生まれたライダイハンが大量発生して社会問題になっている。
日本人女性たちは戦中も戦後も、朝鮮人による性犯罪に苦しんできた。
いまも日本人女性を汚しまくってるAV男優とAV撮影者のほとんどが在日朝鮮人だ。
●●● 深刻化する在日朝鮮人の性犯罪 ●●●
http://seihanzai.tripod.com
. 何かあった時に決断を下すのは、30代だか位の独身男性が1番的確な判断を下す、みたいな話があるじゃん
そういうのも加味した結果こうなったんじゃないの 男の方が応募が多い=振り分けるサンプルパターンが多い=適性職が多い=男を振り分けるほうがベストマッチパターンになる
能力による判断じゃなくて母体となる応募者を軸にして採用基準にしてしまったわけだ
単純に最短経路を求めるだけのAIじゃ上手くいかないというのがよく分かる >>359
例えばある企業のデータを放り込んだAIは200時間残業でコキ使えって結論を出すだろうが
それでうっかり過労死させたら大問題になって後々大損する
そういう所をAIは加味できない
貰ったデータ以外は見れないから外の社会は知らないからね
学者さんの机上の学問と揶揄されるケースと同類 >>385
そんな考慮するようなAIって漫画や映画じゃあるまいし 学習させたデータが偏ってたからAIも偏った思考に行き着いたと。それ最初に気を付ける所でしょうにｗ >>319
経験上だけど
女性は仕事する上で
普通なら相手が〇〇でしかるべき（だから私は悪くない）
に陥りがちな気がする
問題を解決する事、仕事を前に進める事より「自分の正当性を確保する・認めさせる事」が優先される的な
まあ業種や会社によって違うかもしれんけどね 女は役に立たないって結果にならないようにするために性別を学習データから除外しても
女は役に立たないからな結果が出てしまったって事だろ
もう学習も選考も男女分けてやればいいじゃん 重み付けで問題視されるまでの見るからに有意なマイナスを食らうって、
入社後にその属性の連中が総じて業務で使えない位しか想像できんよね。 もっと単純に男ばっかりの職種だからそうなったんじゃねーの？ >>389
そうなんだよね
別に新しい話じゃなくて、AI機械学習以前に
統計を現実世界の判断に適用する時に注意を要することとして
昔から言われてきたことと本質的には全く変わらない
じゃ、何で今頃こんな話が出てきたかと考えると
穿った見方をすれば
「アマゾンはAI時代()においても男女平等に気配りしてます」
という広報宣伝のために発表したんじゃね？とも思える なんか勝手に「採用後の評価」も反映されてることにしてる奴が多いが、どこにも書いてないぞ。
「女の方が仕事ができないからAIがそう判断した」という第一印象に固執する。そういうのをバイアスと言うんじゃないか？ 中央演算処理装置による人工知能ＡＩが女性差別すて男性を選ぶようになった
人間が辿った道が摂理であることが実証された
医療現場でも女医を嫌がり男性を優先したい現場の声から大学入試での差別化が問題化したがこれは尊重すべきである
このようんな民間の市場原理は尊重していくべきでる
無駄とその尻拭いによる疲弊とそれに伴う忌避といった衰退に繋がる >>398
採用のふるい落としで、過去採用同属性の勤務評定を加味しない事なんてまずありえないからね。 現代の社会的価値観やポリコレ的なくだらない事まで学習させなければいけないんだな(´・ω・｀) AI「バカを切ったら有能な人材を優遇したと怒られた」 人事採用において、どういう人材を採って、結果どういう実績を上げたかこのリンクが根幹データにあるわけで、
採用後の評価を抜きにして応募者のふるい落としなんて出来んのよね。 AI「女子大卒の採用後を見てみると・・・」
AI「これは減点やむ無しだな」
AI「女子大卒は減点とします」
ま〜ん「差別！」
俺「過去の採用者が減点対象となる行動した結果が招いた公正な判断だろ」
ま〜ん「差別！差別！差別！差別！」
俺「やはりAIは正しかったな」 女子の優秀さを体現しているマドンナ
北川弥生（４６） 馬鹿な教師に学んだAIは馬鹿なAIにしかなれないということですね。 よく「Fラン卒でも高卒よりは上だ」なんて意見を耳にしますが
Fラン卒にまともな就職先なんてありません
私の知り合いのFラン卒の就職先をご紹介しますが
介護職（笑）建設作業員（笑）ラーメン屋（笑）
いずれも大学出てまで就く仕事ではありません
ハッキリ言って中卒でも就ける仕事ばかりです
つまり4年という時間と膨大な学費をドブに捨てている分、高卒より質が悪いのです(ｗ >>399
というのをネタじゃなくガチで言ってる勢がいるのが怖い
床に落としたボールが何度やっても必ず北に向かって転がって行くのは
「ボールが北に進みたがっているから」ではなく家の土台が傾いているだけ ５年くらい運用してみて
女子大減点が正しければ気づかないふりして
続ければいいのに
その結果なんらかの揺り戻しがあるか、ないのか、やってみてデータ取ればいいのに AIが工学部に焦点を与えたのなら、女性は少なくなるのが道理。
工学、理数系を学ぶ人間が増えるとAIの選択肢もまた変わるだろ。
合理効率化が売りのAIに男女差別の意思はないだろ。
無理矢理男女五分五分にするのならAIの必要性は皆無なる。 >>400
じゃあソース出して。その「ありえない」とかいう自信はどこからくるの？
別にソースがあったからって、アマゾンの言うバイアス自体がなくなるわけじゃないけど。 ■ このスレッドは過去ログ倉庫に格納されています
