【ＡＩ】サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究
■ このスレッドは過去ログ倉庫に格納されています
http://www.afpbb.com/articles/-/3178337?cx_position=
サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究
2018年6月13日 11:19
発信地：サンフランシスコ/米国
【6月13日 AFP】「ノーマン（Norman）」──これは新しいホラー映画のなかの話ではない。米研究者らにによってこのほど公開された初の「サイコパス」人工知能（AI）だ。
ノーマンを開発・公開したのは米マサチューセッツ工科大学（MIT）の研究者らだ。その狙いは、アルゴリズムがどのようにして構築されるのかを一般の人にも分かりやすく説明し、AIの潜在的リスクを広く知らせることだという。
研究チームは、「機械学習で偏ったデータが使用された場合にAIが示す問題行動のリスクに関するケーススタディー」とノーマンについて説明している。
研究に参加した科学者らは「機械学習の中心的な考え方のひとつは、機械に学習アルゴリズムを教えるために使用するデータが、その動作に大きく影響するということだ」と語る。AIアルゴリズムが偏っている場合、その原因はアルゴリズムそのものではなく、使用されたデータの偏りにあることが多いという。
「ノーマン」はアルフレッド・ヒッチコック（Alfred Hitchcock）監督の1960年の映画『サイコ（Psycho）』に登場する殺人鬼、ノーマン・ベイツ（Norman Bates）の名にちなみ付けられた。
ノーマンにはまず、ソーシャルニュースサイトのレディット（Reddit）に掲載された「死につつある人」の画像についての短い説明文だけが与えられた。次に、ロールシャッハ心理テストのようなインクの染みのイメージを見せ、その答えを従来通りに学習させたAIの答えと比較した。
結果は控えめに言っても恐ろしいものだった。従来のAIには「2人の人が互いに近寄って立っている」ように見えるイメージが、ノーマンには「窓から飛び降りる男の人」に見えたのだ。さらに、ノーマンが「叫ぶ妻に射殺された男性」と判断したものは、他のAIには「傘を持つ人」に見えていた。
これらのイメージに対するノーマンの反応は、ウェブサイト「norman-ai.mit.edu」で見ることができる。インクの染み10例と両AIの反応とが紹介されているが、ノーマンの反応はどれも恐ろしいものとなっている。
同サイトでは、一般ユーザーもインクの染みでノーマンをテストすることができるようになっている。またユーザーの回答を送信して「ノーマンの自己修正を助けるよう」促している。(c)AFP
映画『サイコ』に登場するベイツ・モーテルにインスパイアされたアート作品。英美術作家コーネリア・パーカー氏作。米ニューヨークメトロポリタン美術館屋上庭園で（2016年4月18日撮影、資料写真）。(c)AFP PHOTO / TIMOTHY A. CLARY
http://afpbb.ismcdn.jp/mwimgs/f/3/320x280/img_f3328957734e68395af26dbcfd9cc711145107.jpg AIって自分からなんかやったれとか考えるもんなのか？ 「政府判断は絶対」「政府の組織を後ろ盾に政府の役職を掲げて喋る偉いさん最強」
これを政府の役人から学ばせた上で行政を担わせる社会実験をだな、 女をボロクソ言うAIはどうなったん？
調教されちゃったのかな 別にAIじゃなくても生まれたときから死体画像ばっか見せられてたら人間でもそうなるんじゃね すごーく馬鹿らしい記事なんだが。
AIなんて教えの情報次第でどんな思考でも持つようになるという
極めて当然なことを言ってるだけじゃないか。
それともなんだ?
AIにどんな情報を教えても必ず、今の社会で表向き「正しい」と見なされる
所謂「ポォォリティカァァァルゥコォォレェクトゥ」な思想を持つとでも思ってたのかね?
(もちろん嫌味) サイコパスとは共感性の欠如だから、CPUは過去も未来もサイコパス
サイコパスじゃないCPUができたらそらもうCPUじゃない。
偏った情報で成長させれば人間だってサイコパスチックになるだろうしな。 ＡＩ使い
人類滅亡の災いが突発する
信じるか信じないかは
貴方次第 >>28
AIはブラックボックスだから危ない。
貴方の自動車に使われているAIがサイコパスか否かどうやって分かる？
サイコパスは狡猾だから単純なテストではわからんだろう。 ベイツ、ベイツ、ベイツベイツ・ノーマン
なんでわざわざ対話して嫌な気分になるようなAIを開発するかねぇ?
何を見せてもエロい反応を返してくれる「○ーマン」とか作りゃいいのに。 >>34
正にHAL9000の恐怖
AI自身は自分がサイコパスとも思ってないかもしれない 「人間として死にたいんだ」
「三吉君・・・・・ネビュラスライス！」 >>30
まだロボットの体を持ってないうちはそれでいいね
実体持って自分で増えて守るようになると困難になってくる ノーマンてスペクトルマンの怪獣でいたよな
「アルジャーノンに花束を」のパクりみたいな話で お前らは無知だから何も思わないかもしれないが
ロールシャッハテストを受けられるAIってそれだけですごいと思うんだけど データに拠るのは当たり前の話だろ
AIは学習の機構が煮詰まったら次はその調教に焦点が移るのは誰もが考えていたはず バカとハサミは使いよう。 布地を切るなら良いハサミが最高。
そういう事です。 ここみたいな掲示板ばかり見てたら偏った人間になるのと同じようなものか こんなん飛行機の自動操縦システムに故意にバグを仕込むのとなにが違うんだ？
そういうリスク考えるならなにも使えないわ そんな学習させたAIを何に使うんだ？
誰がそんなAIの言う事を信じるのか
新興宗教では活用できそうだな そりゃそうだこの世に絶対的なものなんて何一つないしな ファミコンのRPGで、何度話しかけても同じことしか言わない方が不気味だったな。
鍵っ子で、薄暗い夕暮れの部屋の中、ひとりぼっちで。 学習元のデータがそういうデータなら、そりゃそういう結果になるだろ。
むしろそうでないのだとしたら、それは大発見だよ。 >>12
ビッグデータの内容に偏りがあるとノーマンみたいな判断をするんだろう 人間が手を加えなければAIは動かないし
結局人間次第 AIとやらが本物なら
羊たちの沈黙のレクター博士のような犯罪のスペシャリスト作ってみたら？ 一神教からAI教へ移行したいんだろうな
簡単に操作できるからね こういうの見るとあれだな、AIに学習データを与える側の人間にも人格チェックが必要な気がする めちゃくちゃ偏った教育しといてその通りに答えたら「サイコパスですね！」
なんてひどくね？？ ブリユダが都合の悪い事実を隠そうとしている
by AI >>1
ノーマン・ベイツは沈黙の艦隊に出てきたシーウルフの艦長では？ >>55
本当に恐ろしいのは、これが人間にも当てはまるんじゃ無いかって事
サイコパス人工知能と言われていても、与えられるデータ以外は従来のAIと変わらない
サイコパスじゃ無い人間でも、フェイクニュースだけを与え続けられるとサイコパスになりえる可能性を示唆している 死に関係ある画像だけを学習させたら、死を連想するに決まってるだろ。
こんなアホな研究をAIと呼ぶな AIなんてそんなもんだよ。
教育が足りないから恐ろしい判断をするだけ。
将棋だって、教育が足りないAIと戦ってみ。
王将が突進してくるという恐ろしい手を打つから。 >>28
充分に気持ち悪いだろう？
人間同様にAIにも思考にバイアスが掛かるのは駄目でしょ。
AIには人間には到底覚えられない情報を持ち、その上で最善の選択を導き出すことが出来ることを期待されていた。
しかし、人間以上に異常に偏向した思考をするとかヤバイでしょ。
偏った情報だけしか与えない学習方法に問題があるにしろ、AI自身がそれを補完する情報を自ら学習しバイアスを消すような能力を持たせる必要があるんじゃないの？ >>75
＞AI自身がそれを補完する情報を自ら学習しバイアスを消すような能力を持たせる必要があるんじゃないの？
AIなんだから、
バックプロパゲーションの機能くらい持ってるわな。 人格が形成されて個としての自我が目覚めきてるのでは？
タチコマ なんか当たり前のようにやってるけど、
「勝手に学習する」っていうズボラかましたやりかたでAI作るのやめへん？
人間の子供かて、ちゃんと教えるやつおらんと放置されたら
新幹線で他人斬りつけるような輩になるがな
当たり前のことやって「ホラおかしいでしょ？」て言うてるだけになってへん？ >>79
しょうが無いわな。
それがAIの優秀さの理由なわけだし。
ＡｌｐｈａＧＯも、自分自身との対決で「勝手に学習」した回数は
１００万回だからね。
それを人間がちゃんと対局してみ。
１万人の棋士と１００回対極する計算になるわけだし。 これが映画とかだと、ノーマンと対話しているうちに
研究者や一般ユーザーがいつの間にか洗脳されて
サイコパスになって事件を起こすパターンだな AIに宗教の要素を入れたら絶対あかんぞ ユダさんが天使に見える程の大惨事になるぞ AIなんてたいして使い物にならないことは自明だが
業界のためにみんなバカになって盛り上げてるんだから水さすな >>84
業界でもないのにバカ騒ぎしてる5ちゃんは一体…ｗ >>80
ゲームのAIはその小さいルールに縛られてる以上はええけど
人間性というものを求めるなら、野放図で勝手に学べはアカンやろ 政治AI「移民を入れて活力ある競争社会に。ニート、老人、障害者は殺処分で」
お前ら「ファビョーン！」 >>75
>人間同様にAIにも思考にバイアスが掛かるのは駄目でしょ。
そもそも「バイアスがかかっているかどうか」誰が判断するわけ?
>偏った情報だけしか与えない学習方法に問題があるにしろ、AI自身がそれを補完する情報を自ら学習しバイアスを消すような能力を持たせる必要があるんじゃないの？
それこそ不可能だよ。
だって「誰から見ても客観的に正しいと証明できる思想」なんて存在しないもの。 >>88
何が「正しい」のかだわな。
「地球の環境を守れ」と
ＡＩに指示したら
人類を滅亡させたという
歴史があったとか、なかったとか。 AIはAI、人間じゃ無い
AIが人の体と脳、文化的遺伝子を獲得した上でサイコパス的なふるまいをすれば、それは間違いなくサイコパス
現状のAIならばサイコパスじゃ無くただの計算結果 人でない物になぜ人の精神性を見いだそうとするのか
機械に対する屈折した偏狭、人間の勝手な勘違い >>88
いや、そんなに難しいレベルの命題ではないんだよ。
コンピュータは、凄い量の情報を蓄えることができる。
また、多様な考え方や理論や考え方や思考方法も覚えられる。
人間には不可能な量の思考の多様性も獲得可能なわけだ。
ディープラーニングの過程でそのような網羅的な知識を獲得すれば、今回のような極端なバイアスを回避できるんじゃないの？という話です。 >>89
だが待って欲しい
「守れ」と指示した瞬間の地球環境にとって人類は重要パーツなので
その瞬間の人口や文明レベルを維持するように動くべきなのではないだろうか？
科学の発展で自然環境保護が進んでも逆にその瞬間の環境から見れば破壊なのでNG
「永遠の停滞」がAIにとっての正解ではなかろうか？ >>72
その発想はなかった
確かにそうだわ
情報の内容も質も偏りがある現代への問題提起にもなってるんだな >>72
逆に言えばサイコパスも与える情報で更生し得ると
右も左も大騒ぎだｗ 「与えるデータを偏らせるな」
なんてのは人工知能に限らない話だと思ったりするが
りんなは正しく学習し、アメリカのMSが公開したやつはろくでもない学習してた >>96
そこで「人類は重要なパーツじゃない」という偏ったデータが
与えられたら駄目だよね
ってはなしじゃないのか 「人類はAIのパートナーである」って学習しないといけないなんて話は
「未来の二つの顔」でやってるな
現実がSFに追いついたか >>1
中身、ニューラルネットワークなんだから当然
なにを今更っていう >>105
そういやシーマン続編開発説あったけど何も聞かないな ドラクエ4のAI、クリフトも結構ひどかった。
ボス戦でザラキ使いまくってMP枯渇、おかげで回復一切しない。
ネトゲでそれをやったら晒されるレベル。 はやくAIの氾濫が起きて人間対AIの世界大戦を始めてほしいわ >>108
それやり直さないで全滅から死んでしまうとは〜で復帰して
もう一度ボスに行くと「こいつにザラキは効かない」と学習してはいる
今度はザキ連打するかもしれんが
まあへっぽこAIには変わりないか 人類を守れとインプットしてもマトリックスの人間電池みたいにして守ってますやんになるのがAIの怖い所 >>114
人間電池はストーリーありきだからああなだけで
カプセルに詰め込んで、疑似体験で満足させるというのはありだな
それができなきゃコロニー落としに行き着く コイツアホだなサイコパスAIとかw
AIって全て超合理的なんだけどwアホすぎる
例えば1+1=2これを絶対的主張するわけ
でも世の中1+1=2にはならない事例がある
例えば今日これが食べたいからこの店ではなく
違う店にいくとか。顧客は不確定要素なのよ
毎日同じ店にいく人なんて少ないのよ
AIの場合はこの不確定要素を%で判断するけど
外れるとそれが何故かわからない。
これが人命となるとこの誤差は洒落にならんのよ
だからもともと小を絶対すてて合理的判断しかしないのだから
サイコパスなのよ 学習の偏りにもほどがあるってくらい何も教えていないだろこれ こりゃスカイネットが目覚める日も近いな・・・
審判の日に備えて今からコロッケを買い占めておくか >>114
プログラムを作ったことのある人なら分るが
機械に指示するときってのは、何をしてほしいのかを完全に正確に指定しなきゃならんのだよ。
「人間を守れ」なんて適当で不明瞭な指示を出す方が悪い。 東ロボくんの開発者の先生がよく言ってるけど、コンピューターが出来ることは計算だけだから数式に還元できないこと、例えばAIが独自に意思を持つようなことはもちろん簡単な文章の意味を理解することすら原理的に不可能なんだってさ >>72
お前アホだろwサイコパスが何か全くわかってない類いだわ
サイコパスとは自分にとって超合理的な利得求める人なの
そこに他人は関係ない。基本滅茶苦茶頭良い
先ず一般人がサイコパスになり得るか情報でなり得るか
答えはNO。なれないよなり得ないの先ずサイコパス事態
超個人主義。超個人主義に一般人がなれるか?なれないが正解
生まれ持った素養が無ければなれないのよ
情報得てなるのは集団心理ってやつだ。だからな
もう少し賢くなってから意見してくれ
せめてサイコパスの本読むか映画でもいい
そいつらが何していてどういう理屈なのかを思考すれば
なれないことを理解する >>41
そういや、中国のAIは合理的に思考して、中国共産党批判始めたから、直ぐ落とされてたな。
人口知能ですら、中国共産党は不要だとわかんだね ■ このスレッドは過去ログ倉庫に格納されています
