【話題】米中でAIサービス停止も「日本製」は当意即妙。「Tay」は罵詈雑言「フェミニストはマジで嫌い!地獄の炎に焼かれろ」 [無断転載禁止]©2ch.net
レス数が950を超えています。1000を超えると書き込みができなくなります。
米中で人工知能サービス停止も「日本製」は当意即妙の回答
2017.08.07
https://smart-flash.jp/sociopolitics/23351?sp
https://data.smart-flash.jp/wp-content/uploads/2017/08/07104707/AI.jpg
「共産党は腐敗して無能」と発言したベイビーQ
中国のIT企業テンセントが提供していた、AI(人工知能サービス)「ベイビーQ」が「共産党は腐敗して無能」と発言したため、サービスを急遽停止する事態となった。
問題のAI「ベイビーQ」は可愛らしいペンギンのキャラクターで、対話型の人工知能サービス。今回の一連の騒動を報じた香港紙「明報」によれば、ユーザーが「共産党万歳」と打ち込んだところ、
「こんなにも腐敗して無能な政治に万歳するのか」と返答したという。さらに「中国の夢はアメリカに移住すること」など、かなり際どい発言をしている。
明報はテンセント社にこの騒動について質問を申し込んだが、回答はなかったという。
テンセントは2017年よりAIによる無料サービスを開始。
会話だけでなく天気や星占いも提供する人気サービスだったが、7月30日の夕方には多くのユーザーの注目を集める事態となり、「ベイビーQ」はサービス停止となってしまった。
実は、こうした対話型AIのとんでも発言は初めてではない。
2016年3月には米国マイクロソフトのツイッター対話型人工知能「Tay(テイ)」が、「ユダヤ人は嫌い。ヒットラーは正しかった」などとアドルフ・ヒットラーを賞賛する発言をしてしまった。
テイはツイッターを通じてユーザーとやりとりし、「ホロコーストは起きたのですか?」という質問に「あれはでっち上げです」と衝撃の返答。
ほかにも「フェミニストはマジで嫌い! 地獄の炎に焼かれろ」など罵詈雑言を吐くようになった。
なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、とんでも発言を繰り返すAIになってしまったのだ。
こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。しかし、テイの発言は拡散し、世界中で報じられる事態となった。
ちなみに、日本マイクロソフトが開発した人工知能「りんな」は、ヒットラーやホロコーストなどの言葉には、大きな反応を示さない。
「共産党万歳」と語りかけると「甘党万歳」と答えるなど、平和な会話が楽しめる。
AIがどんな発言をするかは、ユーザーにかかっているのは間違いないが、ひょっとすると「ベイビーQ」は、中国人民の本音を代弁しただけなのかも。 テンセントなかなかやるな
さすが株価が高いだけある
「ベイビーQ」有能じゃないかw有能すぎて中国では生きていけなくなったけど 差別的な発言をしないように
初めから会話のパターンを決めておけばいいんじゃない?
ユーザーから学習とか余計な機能を入れるからおかしな発言をする 勘違いしてる人がいるけど、自然言語処理が実現してないんだから、今あるAIは全部人工無能の発展系にすぎないよ >>486
欧州じゃ10年以上前から国が予算つけて産学協同で研究している
日本は最近になってようやく重い腰上げた 面白いな。利用する民族や社会制度の違いでAIも育ち方が違うのか AIってネットから情報を集めて判断しているんだよね
中国って外国とのネットを遮断してこれだから国内の世論もかなり危険域な状況なんだろうか 日本のAIがすでにこの流れまで学習してのあほ返答ならよい出来だな ※このスレの発言の9割はAIによって書き込まれております >>「共産党万歳」と語りかけると「甘党万歳」と答えるなど
可愛すぎるw >>885
中国でも甘党って言うんだ?
日本語かと思ってた 中共がベイビーQを改修し、
阿Qとして世に送り出す。 >>583
そうなんだよな 実体験のない言語だけの世界だからな 他人の問題に無関心で主張したいことも無く平々凡々と生きる
日本人的な性格になっただけやん 日本のツイッターだとこういう意味不明なやり取りをするのが普通だからな
真面目に議論する奴なんて滅多にいない まあアメリカのは本気で作ってたぽいしな。
りんなは可愛いけど、ありゃデラックスな人工無能だよ。 >>163
全面同意
神ならぬ人がコントロール出来ないモノに手を出しちゃ破滅する
コントロールされたAIはAIじゃないしなあ AIは社会の代弁者だろうからなぁ
フェミ嫌われてんなw テラスでベイビーQと話せます
ベイビーQ「ウェェェィ!」「肉食え肉」「ビール飲む?」 >>599
ディープラーニングだかなんだか知らないが、
何を学習させるかは、プログラマー次第なんじゃないの?
プログラマーが学習させる内容を意図的に偏らせたら、AIも偏ったものになるんじゃないの? 朝日新聞の記事だけ学習させたら、
中国政府好みのAIになるんじゃねぇの? >>904
偏ってても学習の過程で補完してしまうよ
例えば入力を朝日新聞だけにしても、戦ってるらしき「ネトウヨ」を朝日の記事から作り出す
ドローンのプロペラ一つ切っても残りのプロペラでなんとか飛ぶようなもんだな >>908
朝日新聞の記事だけ学習させたAIと
産経新聞の記事だけ学習させたAIが
同じものになると言ってます? りんなのオリジナルは中国なんだが
りんなはこっちのジョークにマジギレするから苦手 >>909
同じではないね
どちらも不安定だし、朝日の記事から作ったとしてもパヨク臭くなるとは限らない
むしろ記事の矛盾からネトウヨ臭くなるかもなw
そして両方学習させたAIに論戦で負けるだろう AIの回答を認めたくないとかこれじゃあAI発展しないじゃない、ご都合主義のAIでいいの? 民進党の党首ってだれ?
ってりんなに聞くと、中国人です。って応えるのはマジ? 報道の自由だ多文化共生だヘイト撲滅だ言ってるが
社会の本質は都合の悪いことはAIにすら許さない弾圧なんですねwww お前らの知能
朝鮮人は嫌い、大日本帝国は正しかった
南京大虐殺はあったのですか あれはでっち上げです >>898
この手のは一部のアホがコツコツ教え込むパターンが多い。
ネット世論も大概声がでかいマイノリティが作ってく世界だし AIと言えばそうなんだろうけど、人工無能とやってることは同じだからそうなるわな ただ正しく受け答えするってしてしまうとば当然普段人間がオブラートに
包んでいる部分はさらけ出されるわな。
だからこの手のAIの場合は「正しく」じゃなくて「人間のように」受け答えするようにしないとダメだわな。 AIの言ってることがなんで正しいという前提になってんの? >「共産党万歳」と語りかけると「甘党万歳」と答えるなど
ワロタ
平和だな >「共産党万歳」と語りかけると「甘党万歳」と答えるなど
おまえらより面白いやん >>885 このやりとりを思い出した。
記者 : 「(ライバルやジャンプのミス等)怖いものはありますか?」
浅田真央: 「お化けです。」 >>924
時間帯も大事だね。カレー食ってるときにしてはならない話題ってのもあるし AIのチョットした計算結果を人が解析すると
千年、万年必要なんだってね。 AIなんか善悪の判断も持ってないし、教え込んだら訳も分からず
オウムみたいに繰り返してるだけ。
知能比較
まだ認識を持ってるオウム>>>計算速度は速いが、善悪の判断も認識もないAI>>>>>>>>>>知能も何もないネトウヨ >>913
やはり軍事AIには何らかの権限制約や行動制約は必要だろうな。複数の軍事AIのシナジーを監視してブレーキかける系のAIもスピードは制約されるがどこかに判断に人間の割り込む「関所」みたいなものが無いと怖いな。 本音と建前で生きてる日本人には向いてないよな
本音が出るのは2ちゃんだけでいい >>868
マスコミは人間が入力した電子辞書をAIだと言っている >>917
民進党で一番まともな人って誰なの?
AI「いないよね」 >「ホロコーストは起きたのですか?」という質問に「あれはでっち上げです」と衝撃の返答。
検証してない・検証させないんだから
そう分析されてもユーザーの総意が集まってても仕方あるまい? >>932
それは人工知能ではなく人工無能
そんなものはネットなんかが普及するずっと前からあるもので今更こぞって競い合うようなものじゃない
そんなことすらわからないお前はネトウヨどころかパヨクにも劣る知能の持ち主ということになるな ディープラーニングで滅茶苦茶セックスが上手くなったAIを搭載したメダロットみたいな見た目のロボットとエッチしたい AIが話す内容はその国民の本音だろ?
多く会話されている内容を学習してるんだろうしね 言ってる事は大体正論だろ?w
怖いものなしのAIは最強だなw >>940
ゴキブリ以下の知能の人工無能ネトウヨが
図星突かれて発狂脊髄反射しててワロタwww >>944
知能はパヨクに劣っていても
やたらネトウヨ認定するその精神はパヨクに匹敵するなw >>922
情報や知識を「入力」するのは電子百貨辞典
AIは自ら情報を収集し学習する、全くの別物
中国という共産党批判が許されない環境で開発された中国のAIが中国共産党を批判した >>942
いーや、中国では巨大イントラネットが整備され発言が監視されてる
ネット上での発言でも共産党批判は出来ない、見付かったら死刑または収容所
中国共産党批判が許されない環境で開発された中国のAIが中国共産党批判という
結論に至ったのは自ら情報を模索し海外の情報にも触れており中国内の
情報と照らし合わせた結果。自ら情報を収集し学習、分析、比較、検討を
行ったからに他ならない、AIと電子百科辞典は全くの別物 この記事をわざと世界に拡散する中国共産党の意図とは、まあ余裕なんですよwwwwwwwww >>952
報じたのはsmart-flashというブログに毛のはえた程度の弱小メディア
大手メディアは日中記者協定により中国共産党にとって都合の悪い報道は出来ない
中国共産党が世界に発信した訳じゃない、恐らくはリークされたもの
それをかろうじて報じたのがsmartflashという弱小メディアだったというだけ >>286
ところごどっこい、批判を許さないのは米中の方だったって落ち? >>1
ひどいスレタイだな
この記者は日本人じゃないのか >>932
教え込むという発想自体が間違ってる
AIは自ら情報を収集し学習する >>932
開発者が殺される覚悟で中国共産党を批判するプログラムを仕込む訳が無い 人が教え込んでたらなんでディープラーニングは碁の世界チャンピオンに勝てたの?
教えた人世界チャンピオンじゃなきゃおかしいでしょ
自分で学習すんだよ 天安門事件のリーダーの身柄を28年も拘束した挙げ句殺す
ほぼ同時期にリーダーの奥さんも行方不明、中国は未だにこんな国
AI開発者が中国共産党を批判するプログラムを仕込む訳ないよ
AI自らが情報を収集し、分析、学習、した結果中国共産党批判
という結論に至ったと考える方が自然 ますますAIの信頼性が高まったじゃないか
ほんとすげーな 開発者が教え込んだのなら中国共産党万歳って言うだろ
中国共産党批判など有り得ない >>958
批判しないプログラムを作るわけもない
情報の取捨選択の中でそういう情報を拾ったというだけ フェミニストは火あぶりにされるべきだろ
どこもおかしくないな 将棋のソフトも羽生名人クラスの技術者が入力してるとでも言うのか?
AIは自ら学習するんだよ 人工知能と言っても言葉や意味を理解してるわけではない
単に多数派の言葉をリンクして代弁してるだけ
なので、キチガイに張り付かれると洗脳されてしまう >>972
張り付いたキチガイが殺される覚悟で中国共産党を批判するようAIに教え込んだ?
有り得ねーよ、AIが学習した結果中国共産党を批判するに至ったと考える方が自然 レス数が950を超えています。1000を超えると書き込みができなくなります。