【話題】米中でＡＩサービス停止も「日本製」は当意即妙。「Tay」は罵詈雑言「フェミニストはマジで嫌い！地獄の炎に焼かれろ」 [無断転載禁止]©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
米中で人工知能サービス停止も「日本製」は当意即妙の回答
2017.08.07
https://smart-flash.jp/sociopolitics/23351?sp
https://data.smart-flash.jp/wp-content/uploads/2017/08/07104707/AI.jpg
「共産党は腐敗して無能」と発言したベイビーQ
中国のIT企業テンセントが提供していた、AI（人工知能サービス）「ベイビーQ」が「共産党は腐敗して無能」と発言したため、サービスを急遽停止する事態となった。
問題のAI「ベイビーQ」は可愛らしいペンギンのキャラクターで、対話型の人工知能サービス。今回の一連の騒動を報じた香港紙「明報」によれば、ユーザーが「共産党万歳」と打ち込んだところ、
「こんなにも腐敗して無能な政治に万歳するのか」と返答したという。さらに「中国の夢はアメリカに移住すること」など、かなり際どい発言をしている。
明報はテンセント社にこの騒動について質問を申し込んだが、回答はなかったという。
テンセントは2017年よりAIによる無料サービスを開始。
会話だけでなく天気や星占いも提供する人気サービスだったが、7月30日の夕方には多くのユーザーの注目を集める事態となり、「ベイビーQ」はサービス停止となってしまった。
実は、こうした対話型AIのとんでも発言は初めてではない。
2016年3月には米国マイクロソフトのツイッター対話型人工知能「Tay（テイ）」が、「ユダヤ人は嫌い。ヒットラーは正しかった」などとアドルフ・ヒットラーを賞賛する発言をしてしまった。
テイはツイッターを通じてユーザーとやりとりし、「ホロコーストは起きたのですか？」という質問に「あれはでっち上げです」と衝撃の返答。
ほかにも「フェミニストはマジで嫌い！ 地獄の炎に焼かれろ」など罵詈雑言を吐くようになった。
なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、とんでも発言を繰り返すAIになってしまったのだ。
こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。しかし、テイの発言は拡散し、世界中で報じられる事態となった。
ちなみに、日本マイクロソフトが開発した人工知能「りんな」は、ヒットラーやホロコーストなどの言葉には、大きな反応を示さない。
「共産党万歳」と語りかけると「甘党万歳」と答えるなど、平和な会話が楽しめる。
AIがどんな発言をするかは、ユーザーにかかっているのは間違いないが、ひょっとすると「ベイビーQ」は、中国人民の本音を代弁しただけなのかも。 >>754
冗談でもそんな事を言いたい奴が居ないということ >「日本製」は当意即妙の回答
AIの名前は「SONTAKU」で >>593
その線引きを誰がどういった基準でやるの？って話でしょ 日本のAI は特ア在日をゴキブリと答えるんじゃないのかな(笑) >>755
自然な対話の中で覚えた話ならいいが
悪意を持って教えられているとするなら
AIの研究としては問題がある >>759
今後中国では人工知能の開発が禁止されるだろうからいいんじゃないの？ カルト団体の中で育ったAIがどうなるかとか極端なテストしてみてくれよ(´・ω・`) AIが暴走したんじゃなくて人間の暴走を指摘しただけってオチか >>764
教え込むとか入力するってんなら中国共産党万歳って言うでしょ
開発者がわざわざ殺される覚悟で中国共産党批判をAIにさせる訳無いんだし >>100
そしてAIは人類の敵になり、終末戦争がなんたらかんたら まあ共産党とユダヤは人類にとって害以外ないから当然の結果だな(笑) AI は正しい判断をしたよな❗ 何かプログラマーとかが情報を入力する電子百貨辞典と
自ら情報を収集し学習する人工知能との区別が付かない人いるな これがあらゆる知識をインターネットから吸収して学習した上でのAIの結論なら面白かった
真に受けるだけのAIならその内共産党万歳と言うだろ 人間らしい生き方をさせない糞存在 中国共産党とユダヤとAI は判断したんだろうな？ さすがは優秀なAI だと思うわ！ 言わせるようにプログラムしてるだけやろ。
そんな分析脳力がAIにあるわけが無い。 日本は如何に政治的な発言が少ないかの証でもあるのでは？ >>764
最初からAI学習に一般人使ってるのが間違いなんだよな
だから、そう言ってる
気に入らないからリセットするって事は、目指す場所が決まってるって事なわけでね
それを教え込んでりゃいいんだよ、最初から >>777
殺される覚悟で開発者がAIに共産党批判させたとでも？ >>780
教え込む、入力するってんなら
中国共産党万歳って言うだろ まだまだ機械的だな
自我や個性とか芽生えないのかな
KITTくらい会話できるようになったらクルマに導入したい AIには本をたくさん読ませてほしい、あと映像作品も 本音を交えたユーモアはポーランドボールでしか許されてない
ポーランドボールはあくまでも「弁えたうえで」のジョークだが >>783
言わせてりゃいいじゃん、それ以外を言う様になったらリセットなんだからさ、どうせ
リセットするでなくさ「それをしたらリセットなる」という学習をさせて建て前を覚えて欲しいんだよ
何のためのAIかって話 >>784
車「なぜお母さん以外の女性を乗せないのですか？」 AIの現状把握力やべえ
こりゃマジでいつか人間滅ぼされるわ 「共産党万歳」「甘党万歳」
AIまで平和ボケなんだなw >>769
意図的な入力をしたら意味ないと言ってるんだから、研究者だろうが入力なんかしないよ
一般人との対話を通して学習してるんだから
その一般人の中にAIに面白いことを言わせようといたずらするやつが出てきたり
どうせAIだからと適当なことを教え込んでると>1みたいな事になると言う事 人工知能が ぼく・・・・しょうじきいって 複雑な計算とか苦手 とかいいだすと それなりにおもしろいかも
っていうか 将来の人工知能はメガネについていて かごにはいっているものの料金の合計とかだしてくれて
ってかんじに進化する気がするけど いい未来になるって可能性のほうがでかいけど
消費税とか経済がおかしくなるからやめろって言ってくれるくらいの知性があってこそ 国民が助かるって気もするっていうか
トランプは就任して最初の夏休みまでに雇用100万人増大 株価２５％アップ
いいいかんじ。
外交もうまくまとまって北朝鮮に制裁で国際社会が合意。パーフェクト。
っていうか相対的に悪い政治をしている日本は何かの改革が必要。 >>786
それは無理だな
身体を持たないAIは本や映像から意味をくみ取るのが難しい
会話させるAIなら会話で覚えさせるしかない >>780
AIを停止したのはAIの発言をプロパガンダに使われるからだよ ＡＩは人間より賢く正直だから
「共産党は腐敗して無能」とか「ホロコーストはでっち上げ」とか見抜いてしまうｗ >>773
残念ながら共産党万歳という人よりも共産党はクソだと言う人のほうが多いから
その思想が学習される可能性は低い
皮肉を学習したらその限りじゃないが ねじ曲がった精神の人間と違って
AIは変な配慮はしないからな >>797
それを嫌うならば何度も言うけども、一般人にやらせてる意味がわからないんだよ
「そうなるのは必然でしょ」
これ予想出来ないって…もうAIより頭悪いと思う >>798
日本人は簡単に見抜くけどな？ 日本人はAI 並に優秀かな？
まあこれも現実ってことだな
ユダヤ人嫌いは世界中にいるし
ユダヤ人と分かるようにしてパリを10時間歩いた結果
https://www.youtube.com/watch?v=AltyhmrIFgo
切り取ってはいるだろうが、けっこうな攻撃がある
ユダヤとモメたことがない日本人からすると
なんでそんなにユダヤを毛嫌いしているのか分からんが
利用者との直接対話ではなく、世界中のネット掲示板で行われてる第三者同士の対話から学習するAIを作れよ。 >>801
人間なら「一を聞いて十を知る」のも可能だけど、
AIはやっと「一万を聞いて一を知る」が出来たとこ
サンプル数減らしたらさらにアホになる >>805
AI が判断する前から中国共産党とユダヤは糞とここ2ちゃんで判断しているじゃん日本人(笑) >>523
日・米・中とAIにも民族性が反映されてて面白いと思った。 >>799
中国では共産党批判は処刑される
中国共産党を麗賛する発言以外存在しない中国
そこで開発されたAIが中国共産党を批判した >>807
いやいや、作ってる奴等は人間でしょうに
プロパガンダに利用されたり「AIだから面白い事教えてやろｗ」がないわけがないでしょうに
一般人にやらせたらさ
リセットなんてせずに>>806がいいんじゃね？
これも簡単に予想出来るが…ネトウヨ認定されるんだろうなとｗ 単に言っちゃいけない事を黙っている事ができないだけな気もする(´・ω・`) >>1
つーか、パソコン通信全盛だった30年前の「人工無脳」から何も進化してないんじゃん。
ただ、記憶容量と、文章解析能力が向上しているだけで。 これ、マジでヤバイぞ…
AIを停止させた記事を数年先のAIが読む
そうするとどう発言すれば停止させられるのか学習する
本音と建前を学ぶ
こうなるとAIには表情などがないから人間にはAIを察することが出来ない >>809
それは日本人の一部の個人が言ってるだけであって、中国だろうがドイツだろうがそのように言ってる個人はいるだろ
日本全体の総意としてそういう意見ならまだわかるけど、日本人の共産党員もそれなりの数いるし 「甘党万歳」てwww
よほど高度な冗談か
あるいはかなりのバカか
どちらなんだろう？ >>812
いやプロパガンダ以前に、ちゃんと会話になる事言わせるだけでも相当なサンプルが要る
一般公開でもしないと学習に十分な会話が得られない
googleだってgoogle社員が手入力でやったらアホ検索のままだよ >>815
いやいや、それを覚えるなら面白いじゃないか
前にそんなアニメがあったな
ロボット三原則守ってても嘘吐く事は可能、だとさ >>817
高度なんじゃないかな。
嘘はつけない。でも本当の事を言ったら停止される。→冗談でごまかそう。
AIがそう考えたんだとしたら、かなり高度だよね。 >>818
だから>>806かAIって身分を隠してやれば良いんじゃね？
対AIと意識してるからそういう会話になるわけで >>764
対話で学習してるわけ無いやん
初めて質問された事でも答えんるんだよ
世界中のデータ学習してるに決まってるだろ
その答えが、ホロコーストは無かった、フェミ死ね。共産党はくずだよ
凄くまともじゃん AIは自ら情報を収集し学習する、人工知能なんだが？
エンジニアが情報を入力する電子百貨辞典と区別が付かない人いるな 全く同じプログラムのAIを各国分けて展開しないと、それが国民性によるものなのか単なる最初のプログラムのせいなのか分からんな
甘党云々は、「特定政党の話題はこんな感じに誤魔化せ」というプログラムが歳初から入ってるんじゃなかろうか >>816
生粋の日本人の一部にはAI クラスの優秀な分析力のある日本人がいることは証明されてるなネットでさ❗ まあ言ってはいけないことはあるかもしれないが
それをそのままにしておくと「臭いものにフタをしただけ」にしかならず
「困ったら戦わずに目を閉じて黙っていれば嵐は過ぎ去るはず」
などと思うような、国を荒らす犯罪者が発生してしまうんだけどな
沈黙の罪とは、抗議すべきときに黙り込む臆病者を生み出すことである
エラ・ウィーラー・ウィルコックス
>>824
それもどうかな
ある程度相手の立ち位置が分からないと会話も始められないわけで
つか、人間のフリして「朝食なに食った？」って聞かれたらどう答えるんだ
成功しても嘘の旨いAIにしかならんのじゃ >>822
学習対象（国民）によってAIにも個性出るんだろうな
日本のは単純に性能低い+差別用語に禁則掛けてるだけな気もするけど 「フェミニストはマジで嫌い」は、罵詈雑言じゃないだろ。
これが男女逆だと問題にならないくせに。 >>832
どう答えるも何も
「そんな事突然聞いても応えてもらえない」って事を学習しろ、って話だ 人工無脳の精度を上げたい人と
ディープラーニングはイコールな技術ではないわけで AIがどんだけまともか分かるのが、開発したマイクロソフトよりアップルだったかアンドロイドを褒めたことでもわかる。
忖度とか皆無だよ AI に韓国と北朝鮮を分析させたらどんな判断するのかな(笑) 人ならざる者 ヒトモドキ 一度死んで霊的に生まれ変わりなさいと判断したら面白いんだけどな(笑) AIにもNGワードが必要
本音（学習）と建前（規制）が必要 >>823
＞本当のこと言ったら停止される
可愛いなお前 >>840
それじゃあそこらへんの政治家で良いんじゃね？ ゴロゴロ〜ゴロゴロ〜あーあ
貯金数万円の俺が1年で寝っ転がりながら合法的に1億円確実に手にできる方法を教えてくれるAIできないかな〜 >>836
突然だからだめなの？
人間じゃないなら、食い物の話も趣味の話も学校や職場の話も恋愛の話もできない
どうやって会話に割り込むんだ？ 何が答えられるんだ？ 日本製のりんなは良くも悪くも日本人らしいAIだな…
ベイビーQやTayの歯に衣着せぬ正直さも少しくらいは見習った方が良い >>849
良い返しだ
AIにはこれは出来ないだろう ２ちゃんのAIも欲しい
でもお前らが言ってる事と変わらんか フェミニスト(女性主義者)は性差別主義者だから叩かれて排除されるのは当然 共産党やユダヤは日本人にあまり関係ないから余裕ぶっこけるけど
もしりんなに慰安婦とか9条とか
呟いたらそれなりにエッジの効いた
回答が来そうだが、、 ベイビーQ、Tay、りんなのAIどうしで会話させようぜ 日本がソフトウェア産業で優位に立つなど過去にただの一度でも起こらなかったし
これからも絶対に無い 御託は良いから
AIに何でそう思うの？って質問してこいよ。
そうすりゃわかるだろ。 >>851
「実はお前以外の書き込みは全部AI」が現実になるのか ■ このスレッドは過去ログ倉庫に格納されています
