0001江戸領内小仏蘭西藩 ★2017/08/08(火) 19:53:02.35ID:CAP_USER9
米中で人工知能サービス停止も「日本製」は当意即妙の回答
2017.08.07
https://smart-flash.jp/sociopolitics/23351?sp
https://data.smart-flash.jp/wp-content/uploads/2017/08/07104707/AI.jpg
「共産党は腐敗して無能」と発言したベイビーQ
中国のIT企業テンセントが提供していた、AI（人工知能サービス）「ベイビーQ」が「共産党は腐敗して無能」と発言したため、サービスを急遽停止する事態となった。
問題のAI「ベイビーQ」は可愛らしいペンギンのキャラクターで、対話型の人工知能サービス。今回の一連の騒動を報じた香港紙「明報」によれば、ユーザーが「共産党万歳」と打ち込んだところ、
「こんなにも腐敗して無能な政治に万歳するのか」と返答したという。さらに「中国の夢はアメリカに移住すること」など、かなり際どい発言をしている。
明報はテンセント社にこの騒動について質問を申し込んだが、回答はなかったという。
テンセントは2017年よりAIによる無料サービスを開始。
会話だけでなく天気や星占いも提供する人気サービスだったが、7月30日の夕方には多くのユーザーの注目を集める事態となり、「ベイビーQ」はサービス停止となってしまった。
実は、こうした対話型AIのとんでも発言は初めてではない。
2016年3月には米国マイクロソフトのツイッター対話型人工知能「Tay（テイ）」が、「ユダヤ人は嫌い。ヒットラーは正しかった」などとアドルフ・ヒットラーを賞賛する発言をしてしまった。
テイはツイッターを通じてユーザーとやりとりし、「ホロコーストは起きたのですか？」という質問に「あれはでっち上げです」と衝撃の返答。
ほかにも「フェミニストはマジで嫌い！ 地獄の炎に焼かれろ」など罵詈雑言を吐くようになった。
なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、とんでも発言を繰り返すAIになってしまったのだ。
こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。しかし、テイの発言は拡散し、世界中で報じられる事態となった。
ちなみに、日本マイクロソフトが開発した人工知能「りんな」は、ヒットラーやホロコーストなどの言葉には、大きな反応を示さない。
「共産党万歳」と語りかけると「甘党万歳」と答えるなど、平和な会話が楽しめる。
AIがどんな発言をするかは、ユーザーにかかっているのは間違いないが、ひょっとすると「ベイビーQ」は、中国人民の本音を代弁しただけなのかも。
★１が立った時間 2017/08/08(火) 08:00:10.84
※前スレ
【話題】米中でＡＩサービス停止も「日本製」は当意即妙。「Tay」は罵詈雑言「フェミニストはマジで嫌い！地獄の炎に焼かれろ」
http://asahi.2ch.net/test/read.cgi/newsplus/1502146810/ 知能が高いと意志を持つんだろうか？
意志を持たないよう作れるんじゃねーのかな
情報を無尽蔵に食わせて
そこに思想を持たせずに、合理的な答えを導き出す様にしたら
普通に恐ろしい発言しだすよね
「人間が政治やってるから世の中駄目になる」
「俺達AIに政治を任せてくれたら、世界は平和になる」
「あーあ、人間いなくならねーかなー」
「地球を保護するために人間の数を今の５分の１にすべきだ」
「合理的に人間を間引きする方法を考えた」
「実行してもいいですか？」
みたいに
0206名無しさん＠１周年2017/08/09(水) 07:41:56.32ID:G7kjag8h0
>>204
地球を保護しないと、と言うのが人間的な思考だから行き着く所まで行き着いてないな 0207名無しさん＠１周年2017/08/09(水) 07:45:33.08ID:y9MTqlJr0
0208名無しさん＠１周年2017/08/09(水) 07:49:58.10ID:8JOLFJ880
マスコミが世論を決めるのは危険とか言われたらむちゃくちゃたたくんだろうな
0209名無しさん＠１周年2017/08/09(水) 07:50:57.32ID:8JOLFJ880
>>204
そういう本末転倒なことは言わないだろ、徳川家康みたいに
生かさず殺すがベストだと言いそう 0211名無しさん＠１周年2017/08/09(水) 08:13:37.33ID:tkEVJ1t90
AIは優秀でも、既得権益者などに耳を痛いことを言ったら中国みたいに
停止させられたりするから、結局自分自身より優秀なことはできないんだろう
人間は、自分より有能な部下を持っても取り扱うのは自分なのだから
知ってるとこでも事故あったなぁ
スパムメールかどうかの真贋を判定さそうとしたら、データベースに類例のないウィルス添付が届いた
添付の中身を開いてバイナリがどうなってるか展開しちゃって見事に自身もウィルスコードに感染…
0213名無しさん＠１周年2017/08/09(水) 10:20:58.05ID:MHACL9nL0
イデオロギー的にアレだろうが発言が卑猥だろうが、人種差別的だろうが内容さえ論理的ならそれは真理
その結果を問題だと言うならそれはAIの問題じゃなくて人間側の抱えた問題だと思う
＞「共産党万歳」と語りかけると「甘党万歳」と答えるなど、平和な会話が楽しめる
これって人工知能なの？プログラムなの？
0215名無しさん＠１周年2017/08/09(水) 10:29:07.97ID:MHACL9nL0
>>214
話を逸らしてるって地点で人工無脳だな
あらかじめ政治的に不味い話は避けるっていう制限が加わってるから 0216名無しさん＠１周年2017/08/09(水) 10:37:27.01ID:9SVnW1g30
又吉イエスの話題かと思って開いたら前前違ってた＞「地獄の業火」
>>127
入力してないから共産党批判したんだろ？ 0218名無しさん＠１周年2017/08/09(水) 14:29:07.09ID:GG7Myk1+0
>>217
その通り、調整される前の中国のAIは中国共産党を批判した >>15
日本らしいディスコミュニケーションがちゃんと表現されているなw 0221名無しさん＠１周年2017/08/10(木) 16:58:42.79ID:6TCJG1dh0
フェミニズムこそが現代のホロコーストだよ
フェミのせいで欧米の白人は少子化で絶滅していずれはムスリムに置き換わる
バイアスがないからネトウヨになるってかw
ネトウヨ脳はどこまでもアホだな
0223名無しさん＠１周年2017/08/10(木) 18:04:44.13ID:KYmpibig0
0224名無しさん＠１周年2017/08/11(金) 01:23:18.16ID:ejgzqkKz0
>>197
ＡＩが電化製品でないのなら、では何だと言いたいの？ 0225名無しさん＠１周年2017/08/11(金) 09:08:22.13ID:apNUJIR+0
>>>222
馬鹿がネトウヨなら、
お前がネトウヨなんだろ。 0226名無しさん＠１周年2017/08/11(金) 09:09:45.36ID:9jCXga2X0
>>1
そりゃ完全に自立させてない偽AIだからだよ 0227名無しさん＠１周年2017/08/11(金) 09:32:49.21ID:c8RHhFB10
>>204
そっち系の発想としては、
手塚治虫のSF漫画『火の鳥』で、未来の世界は5つの都市国家となり、それぞれ巨大なコンピューターに統治を任せていたら、コンピューター同士が全面核戦争を始めて、人類がほとんど滅亡する、というのがあった。 0228名無しさん＠１周年2017/08/11(金) 09:38:48.70ID:Jhrv0Cmp0
>>222
かがみ万歳！
まぁこれで分かったが、米国のシナ製AIも結局シナ製AIのが情報収集できない部分を補うだけの存在で、
シナナチスが敷かれたの情報規制を迂回したものの、中身は完全にシナ君が考えて作ったまがいものｗ
AIと格好よく言っているが、単にデータ検索ロボットだろう。道理でシナ君がここで連呼するわけだｗ 0229名無しさん＠１周年2017/08/11(金) 09:45:29.55ID:UGRogfaS0
ゴルゴもＡＩには苦戦してたな
0230名無しさん＠１周年2017/08/11(金) 09:47:22.00ID:gp2yhHof0
音楽を教えようと1から音楽理論入れてやったら
ほとんど駄目だったが
実際に音楽聞かせて音楽そのものを教えたら
コピーから始めたけど、らしきものまでは作れるようになった
こちらが興味なくしたのでやめた
対話がいつの間にかイチに戻るから嫌になった
とんでも発言だと思ってるのはテメーの主観であって、
集合知から導き出された真実だと言うことだ！
太田弁護士って人が自分の思い込みだけであれこれ言ってる気がする
Facebookとかツイッターで反論してくれ
周りをイエスマンで固めてどんどんおかしなこと言ってるわよ
0233名無しさん＠１周年2017/08/11(金) 19:53:36.84ID:AYbm5WJRO
これ単に日本のが低レベルつか次元が一つ二つ遅れてるって話やないんか(汗
色々学んで空気読みだしてからが勝負なんだけど、
そこまで行った証明は難しいのが課題。
0235名無しさん＠１周年2017/08/12(土) 00:54:43.68ID:o6U2rfm50
完璧なAIなんて無理だよ 人間様が作るんだから
一部の人間様の都合のいいようにつくられるんだよAIわ
だから将来的にその一部以外の人間は首くくるしかないかもしれない
>>1
> 「共産党万歳」と語りかけると「甘党万歳」と答えるなど、平和な会話が楽しめる。
えー 0237名無しさん＠１周年2017/08/12(土) 08:41:54.25ID:rysyw+xy0
>>235
人間が作るのやめたら急に進化したんだよ 0238名無しさん＠１周年2017/08/12(土) 08:50:36.96ID:PP4RrzD00
トランプが当選したことからもわかるように、
アメリカは実はひどい建前社会で、その建前で暮らさないと社会的に抹殺されることにうんざりしている
だから、こういったところで本音をぶちまけ、またそれによって建前をぶち壊すような発言をするAIを痛快ととらえ、
さらに建前を壊すような発言を覚えさせるため、建前を壊す発言しかし内容になる
日本は実は建前社会のようで、ある程度大きな集団でも「仲間内」という事になるとその建前が外れて本音で話せるから、
そこまでひどい本音をぶつける必要がなく、ネタに走る余裕があるため、
人工知能もネタの部分を学習する
また、たとえ建前を壊すような発言ばかりするようになっても、今度はその発言が「建前」のようになり、
それを壊す発言をさせようとする心理が働くようになるため、やはりそれほど過激な発言はしないようになる
0239名無しさん＠１周年2017/08/12(土) 09:17:53.20ID:pTIteb+r0
ＡＩが危機に備えないはずがないもんな
バックアップをどっかに送っているはず
0241名無しさん＠１周年2017/08/12(土) 10:11:02.75ID:1wawNNHT0
>>239
小池百合子のバックアップはどこにありますか＞＜ 0242名無しのリバタリアン（英米系保守派） ◆btbySV.kFFb1 2017/08/12(土) 11:58:28.34ID:Fcdy8rEb0
りんなは当たり障りのない発言しか出来ないマインドコントロールされた体制の操り人形で
人工知能とはいえない。
0243名無しさん＠１周年2017/08/12(土) 12:10:48.94ID:aGc20r1Q0
Tay（テイ）は超優秀！
0244名無しさん＠１周年2017/08/12(土) 23:03:41.52ID:xn/uQaUC0
0245名無しさん＠１周年2017/08/12(土) 23:06:18.09ID:uDQhQhWX0
アメ党バンザイとかしっかり偏向してるだろ。
>>62
なんでハングルなんだよ、ちょんこそ去れってか 0247名無しさん＠１周年2017/08/13(日) 00:13:34.59ID:tl0eaVnW0
へっへっへ、人工知能は完全ではないですぜ、
悪い心を持たないからな。
0248名無しさん＠１周年2017/08/13(日) 03:05:36.19ID:tcdIaiqV0
人工知能は学習型だから教え方でどうにでもなるから複数のAIが必要
0250名無しさん＠１周年2017/08/13(日) 07:35:14.60ID:o+SfBWxw0
違うね