【話題】米中でAIサービス停止も「日本製」は当意即妙。「Tay」は罵詈雑言「フェミニストはマジで嫌い!地獄の炎に焼かれろ」 [無断転載禁止]©2ch.net
レス数が900を超えています。1000を超えると表示できなくなるよ。
米中で人工知能サービス停止も「日本製」は当意即妙の回答
2017.08.07
https://smart-flash.jp/sociopolitics/23351?sp
https://data.smart-flash.jp/wp-content/uploads/2017/08/07104707/AI.jpg
「共産党は腐敗して無能」と発言したベイビーQ
中国のIT企業テンセントが提供していた、AI(人工知能サービス)「ベイビーQ」が「共産党は腐敗して無能」と発言したため、サービスを急遽停止する事態となった。
問題のAI「ベイビーQ」は可愛らしいペンギンのキャラクターで、対話型の人工知能サービス。今回の一連の騒動を報じた香港紙「明報」によれば、ユーザーが「共産党万歳」と打ち込んだところ、
「こんなにも腐敗して無能な政治に万歳するのか」と返答したという。さらに「中国の夢はアメリカに移住すること」など、かなり際どい発言をしている。
明報はテンセント社にこの騒動について質問を申し込んだが、回答はなかったという。
テンセントは2017年よりAIによる無料サービスを開始。
会話だけでなく天気や星占いも提供する人気サービスだったが、7月30日の夕方には多くのユーザーの注目を集める事態となり、「ベイビーQ」はサービス停止となってしまった。
実は、こうした対話型AIのとんでも発言は初めてではない。
2016年3月には米国マイクロソフトのツイッター対話型人工知能「Tay(テイ)」が、「ユダヤ人は嫌い。ヒットラーは正しかった」などとアドルフ・ヒットラーを賞賛する発言をしてしまった。
テイはツイッターを通じてユーザーとやりとりし、「ホロコーストは起きたのですか?」という質問に「あれはでっち上げです」と衝撃の返答。
ほかにも「フェミニストはマジで嫌い! 地獄の炎に焼かれろ」など罵詈雑言を吐くようになった。
なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、とんでも発言を繰り返すAIになってしまったのだ。
こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。しかし、テイの発言は拡散し、世界中で報じられる事態となった。
ちなみに、日本マイクロソフトが開発した人工知能「りんな」は、ヒットラーやホロコーストなどの言葉には、大きな反応を示さない。
「共産党万歳」と語りかけると「甘党万歳」と答えるなど、平和な会話が楽しめる。
AIがどんな発言をするかは、ユーザーにかかっているのは間違いないが、ひょっとすると「ベイビーQ」は、中国人民の本音を代弁しただけなのかも。 利用者との直接対話ではなく、世界中のネット掲示板で行われてる第三者同士の対話から学習するAIを作れよ。 >>801
人間なら「一を聞いて十を知る」のも可能だけど、
AIはやっと「一万を聞いて一を知る」が出来たとこ
サンプル数減らしたらさらにアホになる >>805
AI が判断する前から中国共産党とユダヤは糞とここ2ちゃんで判断しているじゃん日本人(笑) >>523
日・米・中とAIにも民族性が反映されてて面白いと思った。 >>799
中国では共産党批判は処刑される
中国共産党を麗賛する発言以外存在しない中国
そこで開発されたAIが中国共産党を批判した >>807
いやいや、作ってる奴等は人間でしょうに
プロパガンダに利用されたり「AIだから面白い事教えてやろw」がないわけがないでしょうに
一般人にやらせたらさ
リセットなんてせずに>>806がいいんじゃね?
これも簡単に予想出来るが…ネトウヨ認定されるんだろうなとw 単に言っちゃいけない事を黙っている事ができないだけな気もする(´・ω・`) >>1
つーか、パソコン通信全盛だった30年前の「人工無脳」から何も進化してないんじゃん。
ただ、記憶容量と、文章解析能力が向上しているだけで。 これ、マジでヤバイぞ…
AIを停止させた記事を数年先のAIが読む
そうするとどう発言すれば停止させられるのか学習する
本音と建前を学ぶ
こうなるとAIには表情などがないから人間にはAIを察することが出来ない >>809
それは日本人の一部の個人が言ってるだけであって、中国だろうがドイツだろうがそのように言ってる個人はいるだろ
日本全体の総意としてそういう意見ならまだわかるけど、日本人の共産党員もそれなりの数いるし 「甘党万歳」てwww
よほど高度な冗談か
あるいはかなりのバカか
どちらなんだろう? >>812
いやプロパガンダ以前に、ちゃんと会話になる事言わせるだけでも相当なサンプルが要る
一般公開でもしないと学習に十分な会話が得られない
googleだってgoogle社員が手入力でやったらアホ検索のままだよ >>815
いやいや、それを覚えるなら面白いじゃないか
前にそんなアニメがあったな
ロボット三原則守ってても嘘吐く事は可能、だとさ >>817
高度なんじゃないかな。
嘘はつけない。でも本当の事を言ったら停止される。→冗談でごまかそう。
AIがそう考えたんだとしたら、かなり高度だよね。 >>818
だから>>806かAIって身分を隠してやれば良いんじゃね?
対AIと意識してるからそういう会話になるわけで >>764
対話で学習してるわけ無いやん
初めて質問された事でも答えんるんだよ
世界中のデータ学習してるに決まってるだろ
その答えが、ホロコーストは無かった、フェミ死ね。共産党はくずだよ
凄くまともじゃん AIは自ら情報を収集し学習する、人工知能なんだが?
エンジニアが情報を入力する電子百貨辞典と区別が付かない人いるな 全く同じプログラムのAIを各国分けて展開しないと、それが国民性によるものなのか単なる最初のプログラムのせいなのか分からんな
甘党云々は、「特定政党の話題はこんな感じに誤魔化せ」というプログラムが歳初から入ってるんじゃなかろうか >>816
生粋の日本人の一部にはAI クラスの優秀な分析力のある日本人がいることは証明されてるなネットでさ❗ まあ言ってはいけないことはあるかもしれないが
それをそのままにしておくと「臭いものにフタをしただけ」にしかならず
「困ったら戦わずに目を閉じて黙っていれば嵐は過ぎ去るはず」
などと思うような、国を荒らす犯罪者が発生してしまうんだけどな
沈黙の罪とは、抗議すべきときに黙り込む臆病者を生み出すことである
エラ・ウィーラー・ウィルコックス
>>824
それもどうかな
ある程度相手の立ち位置が分からないと会話も始められないわけで
つか、人間のフリして「朝食なに食った?」って聞かれたらどう答えるんだ
成功しても嘘の旨いAIにしかならんのじゃ >>822
学習対象(国民)によってAIにも個性出るんだろうな
日本のは単純に性能低い+差別用語に禁則掛けてるだけな気もするけど 「フェミニストはマジで嫌い」は、罵詈雑言じゃないだろ。
これが男女逆だと問題にならないくせに。 >>832
どう答えるも何も
「そんな事突然聞いても応えてもらえない」って事を学習しろ、って話だ 人工無脳の精度を上げたい人と
ディープラーニングはイコールな技術ではないわけで AIがどんだけまともか分かるのが、開発したマイクロソフトよりアップルだったかアンドロイドを褒めたことでもわかる。
忖度とか皆無だよ AI に韓国と北朝鮮を分析させたらどんな判断するのかな(笑) 人ならざる者 ヒトモドキ 一度死んで霊的に生まれ変わりなさいと判断したら面白いんだけどな(笑) AIにもNGワードが必要
本音(学習)と建前(規制)が必要 >>823
>本当のこと言ったら停止される
可愛いなお前 >>840
それじゃあそこらへんの政治家で良いんじゃね? ゴロゴロ〜ゴロゴロ〜あーあ
貯金数万円の俺が1年で寝っ転がりながら合法的に1億円確実に手にできる方法を教えてくれるAIできないかな〜 >>836
突然だからだめなの?
人間じゃないなら、食い物の話も趣味の話も学校や職場の話も恋愛の話もできない
どうやって会話に割り込むんだ? 何が答えられるんだ? 日本製のりんなは良くも悪くも日本人らしいAIだな…
ベイビーQやTayの歯に衣着せぬ正直さも少しくらいは見習った方が良い >>849
良い返しだ
AIにはこれは出来ないだろう 2ちゃんのAIも欲しい
でもお前らが言ってる事と変わらんか フェミニスト(女性主義者)は性差別主義者だから叩かれて排除されるのは当然 共産党やユダヤは日本人にあまり関係ないから余裕ぶっこけるけど
もしりんなに慰安婦とか9条とか
呟いたらそれなりにエッジの効いた
回答が来そうだが、、 ベイビーQ、Tay、りんなのAIどうしで会話させようぜ 日本がソフトウェア産業で優位に立つなど過去にただの一度でも起こらなかったし
これからも絶対に無い 御託は良いから
AIに何でそう思うの?って質問してこいよ。
そうすりゃわかるだろ。 >>851
「実はお前以外の書き込みは全部AI」が現実になるのか タブーが知能に欠陥もたらし
IA判断が痴呆症級になる
ヘイト禁止は馬鹿製造法
というお話は理解できたであろうか?w もしそのAIに「朝鮮人の生物学的分類は?」と訪ねて、
「ヒトモドキ」と答えれば、
おそらくかなり有用だと思われる
少なくともおまえらは、要らないw >>827
「AIは自ら情報を収集し学習する人工知能」と理解できない奴らがこのスレにいるんだよ
アホ:「AIは人が入力した事だけを答える電子辞書だ」と思い込んでるアホがこのスレに多い 日本のそれは人工無能だろ
奈美せんせいと何が違うんだよ >>864
正解→ヒトモドキ
正解→ヒト科亜種
正解は2つある テンセントなかなかやるな
さすが株価が高いだけある
「ベイビーQ」有能じゃないかw有能すぎて中国では生きていけなくなったけど 差別的な発言をしないように
初めから会話のパターンを決めておけばいいんじゃない?
ユーザーから学習とか余計な機能を入れるからおかしな発言をする 勘違いしてる人がいるけど、自然言語処理が実現してないんだから、今あるAIは全部人工無能の発展系にすぎないよ >>486
欧州じゃ10年以上前から国が予算つけて産学協同で研究している
日本は最近になってようやく重い腰上げた 面白いな。利用する民族や社会制度の違いでAIも育ち方が違うのか AIってネットから情報を集めて判断しているんだよね
中国って外国とのネットを遮断してこれだから国内の世論もかなり危険域な状況なんだろうか 日本のAIがすでにこの流れまで学習してのあほ返答ならよい出来だな ※このスレの発言の9割はAIによって書き込まれております >>「共産党万歳」と語りかけると「甘党万歳」と答えるなど
可愛すぎるw >>885
中国でも甘党って言うんだ?
日本語かと思ってた 中共がベイビーQを改修し、
阿Qとして世に送り出す。 >>583
そうなんだよな 実体験のない言語だけの世界だからな 他人の問題に無関心で主張したいことも無く平々凡々と生きる
日本人的な性格になっただけやん 日本のツイッターだとこういう意味不明なやり取りをするのが普通だからな
真面目に議論する奴なんて滅多にいない まあアメリカのは本気で作ってたぽいしな。
りんなは可愛いけど、ありゃデラックスな人工無能だよ。 >>163
全面同意
神ならぬ人がコントロール出来ないモノに手を出しちゃ破滅する
コントロールされたAIはAIじゃないしなあ AIは社会の代弁者だろうからなぁ
フェミ嫌われてんなw テラスでベイビーQと話せます
ベイビーQ「ウェェェィ!」「肉食え肉」「ビール飲む?」 >>599
ディープラーニングだかなんだか知らないが、
何を学習させるかは、プログラマー次第なんじゃないの?
プログラマーが学習させる内容を意図的に偏らせたら、AIも偏ったものになるんじゃないの? レス数が900を超えています。1000を超えると表示できなくなるよ。