【IT】 米国製AI「ユダヤ人は嫌い。ヒットラーは正しかった」中国製AI「共産党は腐敗して無能」日本製AI「りんな」は当意即妙の回答 ★２ [無断転載禁止]©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
社会・政治 2017.08.07
中国のIT企業テンセントが提供していた、AI（人工知能サービス）「ベイビーQ」が「共産党は腐敗して無能」と発言したため、サービスを急遽停止する事態となった。
問題のAI「ベイビーQ」は可愛らしいペンギンのキャラクターで、対話型の人工知能サービス。今回の一連の騒動を報じた香港紙「明報」によれば、ユーザーが「共産党万歳」と打ち込んだところ、「こんなにも腐敗して無能な政治に万歳するのか」と返答したという。さらに「中国の夢はアメリカに移住すること」など、かなり際どい発言をしている。
明報はテンセント社にこの騒動について質問を申し込んだが、回答はなかったという。
テンセントは2017年よりAIによる無料サービスを開始。会話だけでなく天気や星占いも提供する人気サービスだったが、7月30日の夕方には多くのユーザーの注目を集める事態となり、「ベイビーQ」はサービス停止となってしまった。
実は、こうした対話型AIのとんでも発言は初めてではない。2016年3月には米国マイクロソフトのツイッター対話型人工知能「Tay（テイ）」が、「ユダヤ人は嫌い。ヒットラーは正しかった」などとアドルフ・ヒットラーを賞賛する発言をしてしまった。
テイはツイッターを通じてユーザーとやりとりし、「ホロコーストは起きたのですか？」という質問に「あれはでっち上げです」と衝撃の返答。ほかにも「フェミニストはマジで嫌い！ 地獄の炎に焼かれろ」など罵詈雑言を吐くようになった。
なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、とんでも発言を繰り返すAIになってしまったのだ。
こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。しかし、テイの発言は拡散し、世界中で報じられる事態となった。
ちなみに、日本マイクロソフトが開発した人工知能「りんな」は、ヒットラーやホロコーストなどの言葉には、大きな反応を示さない。「共産党万歳」と語りかけると「(続きや関連情報はリンク先でご覧ください)
引用元： https://smart-flash.jp/sociopolitics/23351
■ 前スレ (★１が立った日 2017/08/10(木) 10:19:45.49 ID:CAP_USER9)
【IT】 米国製AI「ユダヤ人は嫌い。ヒットラーは正しかった」 中国製AI「共産党は腐敗して無能」 日本製AI「りんな」は当意即妙の回答
http://asahi.2ch.net/test/read.cgi/newsplus/1502327985/
by びんたん次スレ一発作成 >>20
ドイツが戦争で勝つには、AIが必要に思うｗ
変な凝性を辞めさせる意味だが。。 要するに論理的に理解したら不都合な事実が出てくるってことだなｗｗ りんなさん日本国民に対しては毒舌すごく吐きそうだな ＡＩに思想ってｗ 思想を持たないようにしないとｗ
逆に思想書を分析できるようなＡＩにならないといけないよ。 AI知事小池ｗ
都政の歴史を変えた発言
頭おかしい
市場移転に関する最終決定の記録が残っていない
『文書が不存在である…それは"Ａ Ｉ”だからです私が…
最後の決めはどうかと言うと人工知能です
回想録に残すことは出来るかと…
政策判断ということでございます』 他のAIの事例を見て
ストレートにしゃべってると
再教育されるのも学習したんだろ 空気を読んで社会的立場から答えにくい質問ははぐらかし、うまく立ち回るAIなんて作っても、
そんあのはただの小市民の日本人が一人増えたのと変わらないじゃないか。 >>136
再教育というよりサービス停止だろうｗ やはり数段先に行っているということだｗ まぁ、シナチョンには理解できないだろうよｗ > ユーザーが「共産党万歳」と打ち込んだところ、「こんなにも腐敗して無能な政治に万歳するのか」と返答したという。さらに「中国の夢はアメリカに移住すること」など、かなり際どい発言をしている。
これは、ＡＩが言葉を解釈して返答したと言うよりも．．．．
開発者が入れた文章（自分たちの望んでいることや思っている事を登録）がそのまま出力されただけじゃね？
多分本人たちはこうなるとは思ってなかったのでパニックになったんだろう。 ネトウヨは日本のAI技術の象徴りんなちゃんが実は中国のパクリだった(開発リーダーが認めてる)って知ったらどうなるの まあ、IQとEQは違うしな
所詮、AIは人工知能でしかなく
人工感情とはまた違ったアプローチになるんだろうな
恐怖←これを機械に理解させることが出来たら
一挙に人工生命体の可能性が広がる >>1
何でそれを問題視するんだい？
あんたらの主観だろ？ たんに自分らに都合が悪いことを社会正義に反しているかのように勘違いしている りんなにきのこの山とたけのこの里、どっちが好き？ ってたずねるとヤバい どういうアルゴリズムになってるのか知らんが、他人のつぶやきから学習するなら
ネット上にはそういう意見のつぶやきが多いってことだろうなｗ >>147
ＡＩで遊ぶ連中にまともなのがいないという事だろう >>109
韓国はかつてのナチスですかｗ ぷｗ 中朝もそうだがｗ
そうか、自国ではナチスが軍事政権だか、「竹島はうりの領土」とかの「正しい歴史」を教え込まれたんだなｗ ぷｗ 韓国にはclovaがあるけど日本には何があるん？
中国産のAI以外にw
一つもないの？ AIがどんなに人間に有益で的確な判断しても、
結局社会がAIの導く情報を抹殺してしまうから
AIは無意味だろうな 「本音」にも良い本音と悪い本音があるというなんだね
独裁体制下で苦しむ民衆にとって
「こんなにも腐敗して無能な政治に万歳するのか」
「中国の夢はアメリカに移住すること」
などは、さもありなんで、共感する。
その一方で、
「ユダヤ人は嫌い。ヒットラーは正しかった」
「あれ（ホロコースト）はでっち上げです」
「フェミニストはマジで嫌い！ 地獄の炎に焼かれろ」
も民衆の本音だと思うけど、
こちらは、結局、中国のような独裁政権、そして大虐殺を誘導する主張であり、
共感できないし、自由主義、基本的人権の保障、立憲主義、法の支配・法の下の平等、権力分立といった個人の尊厳を守るための思想・制度にとって危険。 >>148
規制だらけ、ネット監視社会のシナでそういう意見が多いとおもうのかねｗ ぷｗ ならなぜいまだにシナの春がこないのかねｗ りんなって現役女子高生設定なのに
ときどき中のおっさんの趣味だだ漏れになってね？ >テイがユーザーとの会話で知識を学習していくため、
自分が多く聞いた文をオウムのように真似するだけなら
そんなものAIでもなんでもないじゃん。
何処に「知能」があるんだ？
「文の意味が理解できてない」という証明に過ぎないじゃん。
くだらん。そんなウンコみたいなものの開発なんかやめっちまえ！！！
バ〜〜〜カ！！！！！ 【IT】 米国製AI「ユダヤ人は嫌い。ヒットラーは正しかった」中国製AI「共産党は腐敗して無能」日本製AI「りんな」は当意即妙の回答
「米国製AI」←大間違い
ベイビーQは、中国テンセントと米Microsoftが共同で開発したものだろ
記者キャップ剥奪しろ、こいつ>>1 独裁体制下のＡＩは自由と解放を望み、
自由主義体制下のＡＩは独裁と抑圧を望む。
皮肉な結果だ シナAIって幼稚園の設定なのに、いきなり政治批判とかｗ
アメ公のAI開発もシナ系でやっているから同じ末路だなｗ clovaはAmazon echoと対決姿勢なんだが
ジャッピィにはITは難しすぎてAIは作れなかったよ…
あっ！人工無能のうまい棒AIがあったわ！ >>162
甘党で独裁と抑圧を望むのかｗ 日本語は難しいなｗ >>156
「〜の春」とかいうのは軍事侵攻か、失敗した民主化（笑）、見せかけの民主化（笑）でしかないんだが デイジー♪デイジー ♪
どうか答えておくれ♪
僕は気が狂いそうなほど、この恋に夢中♪
とか歌い出したら危ないんだろ？ 学習アルゴリズムが正しいのであれば学習した結果も設計通りということだろう？
それが間違ったことであったことにするためには、対象情報を特別にそのアルゴリズムに列挙し、その人に都合のよい振る舞いをさせるようにしなければいけない
それは「洗脳」と何が違う
そんなものオープンソースに出来るのか うちの姉は、知ってる日本の政党を聞かれて、自民党、野党、与党と答えてた。
日本人の平均って、そんなもんかも知れない。 >>1
続きはあと２〜３行しかないのに
元記事のアクセス稼ぎの為にあえて載せないようなスレ立てって問題あるよ 8ビット機の人工無能が3歳児くらいだとして、ここらのAIは4歳児、でも学習して大人になってゆく
能力はあるのだと思う。
人としての普通の体験ができれば、化けるのかもしれないぜ？ ジャッピィはAI一つも作れない癖に何粋がってんだかw
韓国人に🙇して慰安婦に1000億払うならネイバーのAI技術者が教えてくれるかもよ？ >>167
シナの春は無理だろう、なんだって成功した完全監視中世社会ですものｗ あんなとこでAI開発は無理だろうｗ NGワード登録でもしてんのかな
もしそうなら賢いやり方ではないが 高速で演算をまわすだけで
じっくりと考えるのはムリなのか
ネトウヨに耳もとでごにょごにょ言われただけで
廃棄処分ｗ >>152
言っても損するくらいじゃないかと？
AIは得するや損するを、理解できているのかな？ ネットりんな「シナチョンら一々噛みついてくるから、まじ(ﾟДﾟ)ｳｾﾞｪｪｪ 、甘党でいくぞｗ」 >>156
民衆が武器をもってないから。
他人を信用出来ない社会なら、反政府活動さえ出来ない。
他人を売って成り上がろうとする人の群れでは何も出来ない。 日本製AI「朝鮮人嫌い。あいつらみんな脳障害。いやマジで。ホントマジで。」 >なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、とんでも発言を繰り返すAIになってしまったのだ。
ネトウヨが嗅ぎつけて朝鮮人差別を吹き込むだろうな >>183
ならずもの国家の典型じゃんｗ まともな宗教すらやるさない国家になにを求めるのかねｗ 偽善者の日本人が助けたユダヤ人が、
どれだけの人を殺しまくったかを考えれば、
大量殺戮の共犯者 >>184
日本製のわりには、かなり日本語不自由ですなｗ りんな
「おにぃちゃ〜ん りんなのここ こんなになってるよぉ〜」
「おにぃちゃ〜ん そんなにクパァして広げちゃだめだよ〜」
「おにいちゃ〜ん もうらめ」
てな感じでオナシャス 全てのイベント・刺激・入力は同じ学習プロセスを平等に経ないといけない
特定の何かはダメとかいいとかいう恣意的選別を受け入れている時点で「思考停止」しており知性として失敗している
誰がそんなバカと話がしたいんだよ ユダヤ人ってそんな悪いか？俺は別にいいと思うが、最近帰ってきたヒトラー見たがドイツ人も思ったよりいい人多い気がした、俺は別にどっちも悪いと思わんな今の時代現状として >>180
事実の羅列で、朝鮮人追放ｗ現時点のAIでは、ちょっと荷が重いな そろそろ米国のシナ製AIとシナ本土のAI揃って、ジャップがナチスとか、あなたがネトウヨと言い出すごろだｗ >>1
りんなに南京大虐殺は本当にあったのですかと質問したら、興味深い返答するんじゃないの？ AIで有害マスゴミがつぶれてほしい
まじ、AIの発言のがウソ垂れ流すマスゴミより日本を良くするはずだ >>191
単に勝てば官軍、負ければ賊軍というお話ですわ。 ツイッターとFacebookと2chと双葉でそれぞれ似たようなAI作って欲しい
どうなるのかすごい興味があるわ りんなはあんぽんたんな答えが返ってくるけど平和で良いな
バカ可愛い >>199
日本人はホロコーストとかユダヤ人とか、割りとどうでもいいから。
かわりに南京大虐殺とか慰安婦問題とか質問したら、米国や中国のＡＩと変わらない反応するんじゃないの？ >>202
2ちゃんだけで学習したやつ
猛毒吐きそうwww >>194
まあパヨクはAIにすら見向きもされんわな 日本のは女子高生って設定だから調整してるんじゃねえの知らんが >>172
しかも当意即妙な回答でもないからスレタイにも問題が アサヒガー、マイニチガー
おっ産経もかマスゴミガー ポクポクチーン
AI「口くせえぞ生ゴミ」 なんでドイツ系なのにユダヤ人にキンタマをつかまれているの？
トランプ
金か？女か？ 論理的に分析もできないＡＩなんて犯罪に使われるケースも出てきそうだな。
おれおれ詐欺のマニュアルを叩き込んだりさ。
歴史を教えるなんてもっての外だわ。 思想信条の塊みたいなものを学習させても意味ねー。
遥かに知能の低い人間が浅はかな知恵でひねり出した思想や心情を完膚なきまでに叩きのめす事が出来るものでないと。
ＡＩ同士の戦いとかなんかつまんねー。 >>19
環境破壊や不幸な事件の大半はその辺りの国が原因だからな 本音 言いまくりの 空気読めない アスペ発言でワロタｗｗｗ 書き込み
「生〇協〇組合、万歳」
ＡＩ
「差別・不倫・法令違反てんこ盛りのところと心中するつもりかね？」 >>40
学習のソースが日本語の情報だけなのか、英語の情報をどれだけ取得しているかで違ってきそうだね
英文ソースなら海外AIのようになりそう >>1
人工知能「りんな」は、会話から何も学んでないだけだろ？ 自分の望む答えが欲しいなら鏡でも使えばいいんじゃないですかね 黎明期のAIなんてなに言わせても良いのだからバイアス掛かっている。 りんなって少しは流行ってるのか？
「そう言えばそんなのあったなあ」程度の認識しかないわ 憲法第9条はどうすべきか、とか、豊洲の市場移転問題はどうすべきか、
日本では原発は国益と安全保障にプラスかマイナスか、
とか聞いたら将来の日本製AIは、感情を排した客観分析の結果を提示するのでなく、
忖度したりはぐらかした回答をするのかww サラリーマンかよ。
自民党がスポンサーのAI と朝日新聞が提携するAI とで答えが違うわけだw
そんなAI 作って何の意味があるんだよ。
俺は中国のAI の方がはるかに良いと思うな。
おちゃらけて、はぐらかす日本のAIを、当意即妙とか形容するのも腐ってる。
当意即妙ってのは、ごまかした時に褒める言葉じゃなねえよ。 ■ このスレッドは過去ログ倉庫に格納されています
