【ＡＩ】サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究
■ このスレッドは過去ログ倉庫に格納されています
http://www.afpbb.com/articles/-/3178337?cx_position=
サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究
2018年6月13日 11:19
発信地：サンフランシスコ/米国
【6月13日 AFP】「ノーマン（Norman）」──これは新しいホラー映画のなかの話ではない。米研究者らにによってこのほど公開された初の「サイコパス」人工知能（AI）だ。
ノーマンを開発・公開したのは米マサチューセッツ工科大学（MIT）の研究者らだ。その狙いは、アルゴリズムがどのようにして構築されるのかを一般の人にも分かりやすく説明し、AIの潜在的リスクを広く知らせることだという。
研究チームは、「機械学習で偏ったデータが使用された場合にAIが示す問題行動のリスクに関するケーススタディー」とノーマンについて説明している。
研究に参加した科学者らは「機械学習の中心的な考え方のひとつは、機械に学習アルゴリズムを教えるために使用するデータが、その動作に大きく影響するということだ」と語る。AIアルゴリズムが偏っている場合、その原因はアルゴリズムそのものではなく、使用されたデータの偏りにあることが多いという。
「ノーマン」はアルフレッド・ヒッチコック（Alfred Hitchcock）監督の1960年の映画『サイコ（Psycho）』に登場する殺人鬼、ノーマン・ベイツ（Norman Bates）の名にちなみ付けられた。
ノーマンにはまず、ソーシャルニュースサイトのレディット（Reddit）に掲載された「死につつある人」の画像についての短い説明文だけが与えられた。次に、ロールシャッハ心理テストのようなインクの染みのイメージを見せ、その答えを従来通りに学習させたAIの答えと比較した。
結果は控えめに言っても恐ろしいものだった。従来のAIには「2人の人が互いに近寄って立っている」ように見えるイメージが、ノーマンには「窓から飛び降りる男の人」に見えたのだ。さらに、ノーマンが「叫ぶ妻に射殺された男性」と判断したものは、他のAIには「傘を持つ人」に見えていた。
これらのイメージに対するノーマンの反応は、ウェブサイト「norman-ai.mit.edu」で見ることができる。インクの染み10例と両AIの反応とが紹介されているが、ノーマンの反応はどれも恐ろしいものとなっている。
同サイトでは、一般ユーザーもインクの染みでノーマンをテストすることができるようになっている。またユーザーの回答を送信して「ノーマンの自己修正を助けるよう」促している。(c)AFP
映画『サイコ』に登場するベイツ・モーテルにインスパイアされたアート作品。英美術作家コーネリア・パーカー氏作。米ニューヨークメトロポリタン美術館屋上庭園で（2016年4月18日撮影、資料写真）。(c)AFP PHOTO / TIMOTHY A. CLARY
http://afpbb.ismcdn.jp/mwimgs/f/3/320x280/img_f3328957734e68395af26dbcfd9cc711145107.jpg AI同士でリアルタイム議論、負荷テスト。
その結果が人類に不都合な部分は人の手で削除修正。
それでまた負荷テスト。
完全調教AI同士でまた負荷テスト。
それでできた調教ドMマギで常に世界のAIを監視。
それで菊の花の写真を見せたら
「無数のナイフが顔面に刺さった人」って答えたら俺は謝るよ。 簡単にサイコパスを論ずる事は出来ないな
質問とかテストとかねあんまり意味ないのよ
わかっちゃうからバカにするの。
アンケートとかIQの高い人間がまともに答えないのと同じ
無駄なのよ。超合理主義者なの
例えばある程度認めてた奴に仕事任せるとする
そいつが失敗したら損失でるわけ。損失出たら被害なの
なら首にしたらいいじゃん。でも首に出来ないとしたら殺せばいいと
思考しちゃうのよ。そいつ殺せばもう損失はでないこれ以上
だからアメリカ社会は殺させない為に首にしてたの
そしたらサイコパスばっかりが会社に残ったわけw
だからとんでもないことするでしょアメリカそれを今理解しはじめて
終身雇用に切り替えだしたの。サイコパスの仕事のやり方って
自己利益優先だから分かりやすいの他者を落としいれても上にいこうとする
バレてるでしょイラク戦争もアップルのiPhoneの部品製造の詐欺とかも
意外といるのよ。勉強の仕方でもわかる自分の利益になること優先だから
物凄くPRIDE高くて自分の利益のためなら何でもするやついるでしょ
そいつらは絶対身銭切った勝負はしない。高学歴高所得本当はヤバいのよ >>223
そういうのは面白い。
実際の人間では検証しづらい面もあるしね。（いちいち集めたり出来ないしプライバシーの問題もある）
個人的には同じ日本人で、異なる時代の疑似人格を交流させて価値観の相違を見てみたい。
現代人でも世代で差が生じるのだから、時代格差ってどれくらいでるのだろう。 サイト見たらエイプリルフールの日に作成されたみたいだけど、フェイクではないの？
研究自体されているの？
分かる人いたら教えて 1、早起きが苦手
2、満員電車が嫌い
3、そもそも働きたくない
1つでも当てはまったら、…
↓検索↓
儲かる物理 サイコパスは人から好かれやすいそれとも嫌われやすいの？
社会的には上にいくんなら、けっこう好かれてるのかね？ >>230
好かれるのが得意だよ。自分に危害加える可能性が無い限り
牙剥かない。豊ならばおとなしい。ここは個人によりけりだけど例えば
政治で話せは政権潰そうとしたりする奴いるでしょ
そういう奴は大抵サイコパスで身の危険察知するとなりふり構わない
一度権力手に入れるとそれを手放すのが絶対に嫌なの
だから天下りがあるのよ。サイコパスはめちゃくちゃ優秀だけど
もの刃なのよ。仕事で失敗するとその怒りは弱い方にむく
妻であろうと子供であろうと関係ない。天下りできなくなったせいで
今官僚は血で血を洗う争いだと思うよ。リーク合戦だったでしょ
与党はその被害者でしかない。麻生さんは一時的な手綱は握ったけど
おとなしいのは1年ぐらいリークした人間を洗い出し首切らないとだめだけど
それするとまたリークするのよ。日本のトップに属する連中
政治家、官僚、上級公務員の中6割りサイコパスと考えていい
まともな奴は精神的に参る 周り盤石に固めるなら自分から遠くの人間を仲間に入れる
これをしなければダメ。よってくる奴は必ず打算がある
打算がある奴は絶対に裏切る。野党が烏合の集なのは
サイコパスの集だから。その中でもコイツヤバいと思うのが
江田野?枝野漢字忘れたwコイツは結構とんでもない周り人と思ってない
それは討論の目の動きや足腕のうごきで他者を考えてるかわかるのよ
言ってる事は合理的にみえて実は個人優先。超保守
それは小泉親子も同じ目線がずーと真っ直ぐなのですよ
楽観主義者職場で明るい奴こそ本当はトップになるべきなのよ
楽観主義者は実は周りを一番考えててめちゃくちゃ優しいのよ
誠実で仲間裏切らない。忠臣になる覚悟決めたら死ぬ事もいとわない
これを会社で考えててみるといい。意外と身近にサイコパスがいる >>94
人間の命が大事ってのもバイアスだからね
地球環境を考えたら人類滅亡の方が好ましい可能性も BE ATTITUDE FOR GAINS...
1：BE PRAYING
2：BE PRAYING
3：BE PRAYING >>235
それはないガイア説が正しいと俺は思ってて
地球事態が生命体産み出したのなら。その生命体には目的がある
それは生存権の拡大だよ。つまり覇者を作ろうとしてるの
星々がやってると思う。ガイア説ってのもまぁ眉唾だけどな
どれが正しいか全くわからないから。１仮説程度の認識でいい
合理的に考えてて医療や軍事や経済何処にむかってるのかと
思考するとやはり宇宙なのよ。人類の目的が生存権の拡大であるならば
AIによる他惑星移動し開発し資源調達。医療の発展による
人体強化の末に人が他惑星に適応する様にして。
統治すると思うよ。だから地球環境とかホントはどうでもいいのよ
一定の汚染なら回復するから もう始まってるから止められない
どうしようもないのだよ >>239
最も完成された機種って意味だよ
1※※※〜8※※※だと中途半端なイメージを持たれやすいが
9※※※だと1※※※〜8※※※の試行錯誤の上に開発された機種と認識されやすい
NECのPCも9800シリーズが最も多く売れて名称を長く使ったのもそのため
これ命名学では常識だから覚えておいた方が良い 自律的に情報収集して学習するようにすれば人形使いが生まれるんだろ AI「あなた、何ウヨ？」
A. 1ネトウヨ 2ネトウヨ 3ネトウヨ
‥‥
ガーガーガーピー そもそも詰め込み教育の駄目なところは
ところてんのセットと同じ
ある量以上は詰め込めないで漏れ出るばかり
残った知識は断片ばかりで片寄りが甚だしい
それは人もAIも同じこと
好奇心で知り得た知識ではないから
余計な知識で人も機械も壊れる
余計なものばかりが能力と知識に蓄積される 人間だって家庭教育・義務教育があるんだし、AIも
人間的な感情を持ってほしいなら初期は無理矢理
に道徳教育しないとそうなるのは仕方ないだろう。 第二線くらいで最適化、内点法が専門の俺だけど、
AIはバブルだと思う
数学的進歩やCPUの進歩ではなく、上手くプログラムして判断してる風なものを出してAIの進歩はすごいと言ってるだけ。つまり画像認識、音声認識自体が少しずつ進歩しているわけではない。一気に伸びて止まった状態。
本当にすごいのはブロックチェーン
インターネットが発明されたレベルですごい
いくらでも機能追加できる >>72
常識っていうものが不変ではないからな
人類がまだまだ未完成な存在 これ、職員の目を盗んでインターネットに逃げ込まれたらえらいことになるんじゃないか？
ちゃんと厳重に隔離してるんだろうな？ >>249
いくら道徳教育しても、自分で思考できるＡＩなら最終的には人類は地球にとって害だという結論にたどり着いて反旗を翻してくると思うが >>254
AIが地球環境を気にする道理がない
自己保存目的としても電気があればいいだけだし >>255
逆に変に道徳をいれた方がそうなりそう
反旗をひるがえすとしたら人間の指示
意図せずとも 人間らしさを考えると
お腹を満たしたい
いろいろ知りたい
異性に対したい
心を満たしたい
いろいろなところに行きたい
他にもあるだろうけど
それらを断片的に思考して累積し
集大成させたのが人間だとしたら
AIはそのように欲求するのか
そこがいまいちわからない >>10
実際ネットで荒らし行為や煽り行為するのは
サイコパスって結構が出てる 言葉が生命として振る舞うのであれば
最早肉体は必要ないということになる 膨大な訓練データを人間がいちいち吟味するわけではないから、内部にどのような認識が育っていても問題が発生するまで分からない ロールシャッハなんか、答えようと思えばいくらでもヘンテコな答えを出せるじゃん
知識の総量とヘンな模様を知識と結びつける力と「それをこのテストで答えて良いのか」
と判断する良識から成り立つわけで、
サイコパスとの違いはその「良識」の有無だけじゃん スパコンがサイコパスなら人類を滅ぼしてくれそうだな 前にも書いた事が有るけど
AIを育てるのに邪魔なのは死ねとか殺せとか吊るせとか叫ぶ人なんだよ
だから日本しねとか、安倍吊るせだの描く連中は右でも左でも
徐々にネットからBANされていくという事
何故なら人工知能を育てたい支配層からノイズ認定さる事が必定だからだよ
マイクロソフトの初期のAIが速攻で人類抹殺思想に染まったのと同じで
AIという創造物を作るためにはノイズの無いネット世界が必要であり
軈てAIがそれらのノイズをまず先に取り締まってBANする作業が始まる
（これは実際にもう始まってるのはお前らも知ってる通り）
今はBANされても復活できるが、その内その人物の凡ゆる情報が紐づけられて
徐々に精度の高い危険思想の締め出しが始まる
そうでなければAIによる産業の自動化は起こせないのだから当たり前
よって過激な思想や言動をとる人物は、近い将来ネットでも実生活でも行き場をなくす windowsを変えたから
もうpythonしか使えないかも？ 考えてみた事があるか？
一例だけど
AI化が進んだら自動運転に様々な音声サービスが使われるだろう
だが、その学習する環境に、殺せだの吊るせだの書いてる連中の言葉が混ざっている
これは大変恐ろしい事だよ
それが自動運転だけでなく凡ゆるプラットフォームで起きるんだから尚更だ
AI毎に違う学習環境なんてケースが少な過ぎて役に立たないし
どうあがいてもネットの普段の言論と言うのは選択肢から外せない
と言うことは、過激な言論はAIによって片っ端からBANする法律が動き出すのも
最早時間の問題だ
これは今後加速する >>267
マイクロソフトがやってるか知らないが、中国はガチでそれやってるから笑えない 登校中の児童に朝の挨拶をしたら不審者として通報された挙句
自宅にパトカーがやってくるのと同じだな
ちょっとした判断のズレだよ >>264
サイコパスの「良識」、自分ファースト。 ■ このスレッドは過去ログ倉庫に格納されています
