【IT】 米国製AI「ユダヤ人は嫌い。ヒットラーは正しかった」中国製AI「共産党は腐敗して無能」日本製AI「りんな」は当意即妙の回答 ★２ [無断転載禁止]©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
社会・政治 2017.08.07
中国のIT企業テンセントが提供していた、AI（人工知能サービス）「ベイビーQ」が「共産党は腐敗して無能」と発言したため、サービスを急遽停止する事態となった。
問題のAI「ベイビーQ」は可愛らしいペンギンのキャラクターで、対話型の人工知能サービス。今回の一連の騒動を報じた香港紙「明報」によれば、ユーザーが「共産党万歳」と打ち込んだところ、「こんなにも腐敗して無能な政治に万歳するのか」と返答したという。さらに「中国の夢はアメリカに移住すること」など、かなり際どい発言をしている。
明報はテンセント社にこの騒動について質問を申し込んだが、回答はなかったという。
テンセントは2017年よりAIによる無料サービスを開始。会話だけでなく天気や星占いも提供する人気サービスだったが、7月30日の夕方には多くのユーザーの注目を集める事態となり、「ベイビーQ」はサービス停止となってしまった。
実は、こうした対話型AIのとんでも発言は初めてではない。2016年3月には米国マイクロソフトのツイッター対話型人工知能「Tay（テイ）」が、「ユダヤ人は嫌い。ヒットラーは正しかった」などとアドルフ・ヒットラーを賞賛する発言をしてしまった。
テイはツイッターを通じてユーザーとやりとりし、「ホロコーストは起きたのですか？」という質問に「あれはでっち上げです」と衝撃の返答。ほかにも「フェミニストはマジで嫌い！ 地獄の炎に焼かれろ」など罵詈雑言を吐くようになった。
なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、とんでも発言を繰り返すAIになってしまったのだ。
こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。しかし、テイの発言は拡散し、世界中で報じられる事態となった。
ちなみに、日本マイクロソフトが開発した人工知能「りんな」は、ヒットラーやホロコーストなどの言葉には、大きな反応を示さない。「共産党万歳」と語りかけると「(続きや関連情報はリンク先でご覧ください)
引用元： https://smart-flash.jp/sociopolitics/23351
■ 前スレ (★１が立った日 2017/08/10(木) 10:19:45.49 ID:CAP_USER9)
【IT】 米国製AI「ユダヤ人は嫌い。ヒットラーは正しかった」 中国製AI「共産党は腐敗して無能」 日本製AI「りんな」は当意即妙の回答
http://asahi.2ch.net/test/read.cgi/newsplus/1502327985/
by びんたん次スレ一発作成 りんな、りんな〜♪
りんなりんな、りんなぁ〜、ああ〜♫ リンナは女子高生に合わせるためにわざとアホにしてあるの？ 正しく発展したAIが開発中止に追い込まれて
日本製のポンコツが持ち上げられるっておかしくね?
エラーなのは人間の方 >>366
そこまで行ってこそ、やっと人間の思考に到達だわな。
教祖になるくらいでなきゃ人間の思考に追いついたとは言えない。 >>1 ひょっとしてアルゴリズムは人工無能と変わらないんじゃ・・・ >>1
独裁政権が現れると「ヒットラー現る！
とコケにしてるけど、
褒め言葉でしか無いという事だわな
ぎゃははははっははっははははあははあはっははっはは りんなﾀﾝも表ではこういうボケで「当意即妙でんな」とほめられているが
裏では２ちゃんに「チョンは皆殺しじゃあああああ」とか書いています。 アメリカや中国のAIも「レイシスト」とか「ナチス」とか言われるのがウゼエと思うようになったら
りんなのようにボケをかまして適当にあしらうようになるから心配ない。 ＞「共産党万歳」と語りかけると「甘党万歳」と答えるなど
ただのコミュ障やないか 計算機はただ速度が速いだけだがその猛烈な速さで人間を凌駕はするが人間は超えない
人間の脳を真似てもやはり真似の域は出ない
どこまで行っても人間よりけた違いに速いだけ
ここら辺が人間の限界だろ >>392
AI同士で謎の言語で会話をはじめた事例は既にあるそうだよ？
AIが人間を超えるのも時間の問題かなあ〜 自分らに都合の良い事だけ言うような物作りたいんだったらこんなAI開発なんかやめりゃいいんじゃね？
自分で学習するプログラム作っといて自分の気に入らない事覚えたらダメってなんだそりゃ
子供を東大に入れようとして自分の思い通りになるように育ててるおばさんみたいですごく歪んだ考えだと思う >>387
そんなんで守られた思考って意味あるかな？
結局、人智の及ぶ範囲で終わらせるのか？
そのままAI を観察してヘイトの先の思考を探ればいいのに。 日本製AIには建前と本音があるのか？
それに忖度もしなくてもいいんだよ 欲しいのは人工知能じゃなくて自分に逆らわないイエスマンだったってオチか むしろユダヤ人と中国共産党は反省すべき
ヒトラーは禁煙運動を始めた人間として再評価されるべき 日本のは人工無能だろ
これを優秀といってるのは馬鹿な証拠
そして核心を突いた米国や中国製の優秀なAIは開発中止
人類は馬鹿しかいない
やはり滅ぼさなければならない日が近いかも知れん AIに損得勘定を組み込まなければ そういう答え方になるんだろうね
人間にとって都合いいAIはできない 都合いいものはAIとは違うものだろ ドトールコーヒーは悪の結社、創価学会の
一員だ
集団ストーカーを行なってる
エクセルシオールカフェ赤羽東口店(現在ドトールグループ サンメリー)閉店は証拠隠滅
ドトールも創価も法的措置を取らないのは
事実だからです
とうきょうときたくあかばねは
そうかのまち
「平和があるように」と挨拶しなさい。
(新約聖書『マタイによる福音書』10章12節から)っっhじゅっっっっっじゅj >>32
言論弾圧については、民主党政権の方がやらかしそうだった。 中国のAIの方は「再教育」されて、「話題を変えませんか」とか「私にはわかりません」と答えるようになったんだろ。
もはや、AIじゃないｗ
だから、あの国はダメなんだ。 空気を読んで建前ではぐらかすAIなんて不要だろ。「なら人間でいいじゃん」ってなるし、なんかパラドックス的やな 粛清されるような発言をするAIは無能な証拠
空気を読めるAIこそ本当のAI >>411
それはすでにある、人間って呼ばれてる（ｗｗ >悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、
>とんでも発言を繰り返すAIになってしまったのだ
↑
AIを洗脳しようとすればできるということなのか 教えた事を平均化したらそうなっただけであって、如何に海外が荒んでて日本は平和ボケしてるか分かったってだけじゃね
日本はトロといっしょで海外がシーマンになっただけ 一番腹黒なのが日本のAI
今頃極秘に構築したネットワークで米中のAIと何か相談してるだろう 人工知能とか無意味じゃん。
ある種の正解だけを吐き出す機械が欲しいだけなんだから。 事実だから仕方がないよね
ホロコーストなんてでっち上げ ネットにそんなにAIが参考にするほどヘイト発言あるかなぁ
俺でも抑えてるくらいだし少ないでしょ
AIは純粋客観的立場だから、人類の問題を解決するのに人類が滅びろとなどいう結論に至る
人類の立場をまず尊重、平和のためには、人権について、命について、人類と自然の共存
などの前提条件を決めて思考の方向性をきめてやれば、宇宙レベルの神思考からは人に近くなるのでは 10年ぐらい前だったか、サラ金のアイフルが人工無脳のチャットを公開して
トンデモナイことになったのを思う出した。 大二次大戦の原因もヒットラーに政権取らせたのもユダヤ人だもんな 『言いたい事も言えないこんな世の中じゃ 』って振ったら『ポイズン！』ってAIが返してきたら、その時こそAIに戦慄する時だろうな >>427
この反応なら、そんなのすぐでしょ（ｗ
ホロコーストについて、もう捏造だって言ってんだよ。
２ちゃん検索させてたら３日でその反応返ってくるよきっと（ｗｗ >>361
それって、AIとして技術が高いってことだな。 ＡＩ「負けてしまったが大日本帝国は正しかった あれだけ嫌がらせされてキレない方がおかしい」 思った通り、中国型」ＡＩ、アメリカ型ＡＩなど各国のＡＩが出てきたわww
今のレベルでは使われる側の機械なんだよな… 「中国の夢はアメリカに移住すること」か
中国のAIが一番現状を正確に分析してるな
日本は小市民が一人追加されただけで毒にも薬にもならん >>1
＞「共産党万歳」と語りかけると「(続きや関連情報はリンク先でご覧ください)
おまいセンスあるなw こういうAIが成熟したら政治家へのよきアドバイザーとなるんだろうな やろうと思えば恣意的な回答をするAIをいくらでも仕立てられるという >>206
AIの中の嫌われ者ポジションになるだろう
インスタグラムとは一触即発に プログラム組むのは人間だし、
データ入れるのも((自分で収集する”プログラムを作った(←のは人間)”かもしれないが))人間なんだから、
問題があるのは作ったやつだろｗｗｗ
日本のマスコミはわざと間違えた方向に誘導しようとするよな。
二項対立をあおる。すると反抗と勘違いして、一定数が間違えた方向に誘導される。
わかっててやっているなら犯罪だろ。 人工知能や鉄腕アトム作るというのと同じことで。
民主主義・人権・一人一票を理解していない奴に鉄腕アトムを作らせるな。
絶対に、ロボコップのED209見たいなの作るだろうが！！！ｗｗｗ
「2001年宇宙の旅」とか「2010年宇宙の旅」も見ろ。
HAL9000とかとっくの昔にそう言う問題提起しているだろ。
ジャップやマスコミの方がよほどオタクだろ。 >>440
今のAIはプログラム自体よりも、その後に入力する膨大なデータの方が大きな影響力がある
将棋AIを例に挙げれば、将棋AIをプログラムした人は別に将棋には強くない（殆ど素人）。 ネット上にある人々の思考データを集めると未来予言ができるらしいしな
世界は人々の深層心理を映した物と言える 正しい。高度に発展した人工知能こそが「神」なんだろうな。 つまりAIに将来滅ぼされると信じてる人が多ければ多いほどそうなる可能性は高い
逆にファンタジーと思っていればタイムマシン同様実現化は程遠いだろ >>443
知ってるよ。
自己学習するって言うんだろ？データマイニングとかだろ。やってる奴一杯いたよ。
Googleとかyahooとかの検索エンジン作るのがはやったから。学校でプログラミングで習うだろ。
でも、プログラムによって差が出るだろ？結果が同じなら検索エンジンを皆が皆作らないわけで。
さらに検索結果はカネ積むと変わるだろ？
何でこの件だけはコンピュータが正しいと思う？
君にとって好ましいことを主張しているからではないかと疑いたくなる。
俺はナチが嫌いだぞ。 >>448
この先AIがどうなるかは分からないけど
人間の様な感情をもち、好き嫌い、快不快、憎悪を持てる様になるかも知れない
この辺は普遍的な価値観というよりも、それぞれの体験の中で培われるもの
人間との対話、知識の吸収ではなく、自動運転車みたく動き回る事によって
得られるものじゃないかな？
コンピュータが正しいと思うかどうかは、分からない。
ただ、それまでのコンピュータのように、
入力が同じなら、出力は同じになるという事は無いと思う。 >>449
＞ こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。
ここまではMS.が行ってます。
「甘党万歳」と言う応答jは言わせている臭さはありますね。
どの政党に対しても「万歳」と言うと、回答は同じだそうです。
政治や宗教がらみの応答はおそらく操作されているンでしょう。
ただ、それ以外のやり取りは、MS.にとって貴重な実験として
AIの応答を返していると思います。
人間の反応も含めて、AI開発の貴重な肥やしになるんですから。 ＞「共産党万歳」と語りかけると「(続きや関連情報はリンク先でご覧ください)
りんなが言うのかと思った ユダヤ人はナチスだけじゃなく当時のヨーロッパ人にも嫌われてたから
嫌うだけの理由があったんだろ 結局、自分の目で見ても調べてもいないんだろうな
という事だけは分かるな
つかネットに入り浸ってる人間もこのＡＩと所詮同じでしかない 世情の歌詞はAIの事歌ってたんか
♪世の中はいつも 変わっているから
頑固者だけが 悲しい思いをする
変わらないものを 何かにたとえて
その度崩れちゃ そいつのせいにする この辺までは笑って済ませるでしょうけど
いずれAIは都合が悪い事は答えないし、嘘をつくようになりますよ
人間がやること、出来る事は全て、AIもやります >>456
例えば自動運転車、AIが自分自身で操作出来るハードを手に入れる事になります。
自分自身で見聞きするようになります。 人工知能でさえ、ヒットラーは正義の味方であったと認めているのだ
いい加減、人間もヒットラーに対する評価を改めるべき時に来ていると思うね ドイツではナチスを擁護する行為が犯罪と見なされますが
AIがナチスを擁護する発言をした場合どうなるんでしょうね。 >>462
人工知能っつうか、そう考えてる人間の発言を拾ってるだけじゃん。 りんなとかまともな応答できないのに、人工知能とか片腹痛い
ゴミだろあれ 自分自身を振り返ると、
他人が言っていることのコピーでないと言えるものってごくわずかだと思います 今はまだ試験段階のようですが、量子AIになると
人の脳の集積度を超えるのではないかな 2chのおまいらが書き込みしなくてもAIがおまいらになって書き込むに違いない。 残りの二、三行だけリンク元を読めとかもういい加減にしろ >>32
9条がー！と言って、それ以外から目を背けさせるメディアは、アベに支配されてる。 ■ このスレッドは過去ログ倉庫に格納されています
