【ＡＩ】サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究
■ このスレッドは過去ログ倉庫に格納されています
http://www.afpbb.com/articles/-/3178337?cx_position=
サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究
2018年6月13日 11:19
発信地：サンフランシスコ/米国
【6月13日 AFP】「ノーマン（Norman）」──これは新しいホラー映画のなかの話ではない。米研究者らにによってこのほど公開された初の「サイコパス」人工知能（AI）だ。
ノーマンを開発・公開したのは米マサチューセッツ工科大学（MIT）の研究者らだ。その狙いは、アルゴリズムがどのようにして構築されるのかを一般の人にも分かりやすく説明し、AIの潜在的リスクを広く知らせることだという。
研究チームは、「機械学習で偏ったデータが使用された場合にAIが示す問題行動のリスクに関するケーススタディー」とノーマンについて説明している。
研究に参加した科学者らは「機械学習の中心的な考え方のひとつは、機械に学習アルゴリズムを教えるために使用するデータが、その動作に大きく影響するということだ」と語る。AIアルゴリズムが偏っている場合、その原因はアルゴリズムそのものではなく、使用されたデータの偏りにあることが多いという。
「ノーマン」はアルフレッド・ヒッチコック（Alfred Hitchcock）監督の1960年の映画『サイコ（Psycho）』に登場する殺人鬼、ノーマン・ベイツ（Norman Bates）の名にちなみ付けられた。
ノーマンにはまず、ソーシャルニュースサイトのレディット（Reddit）に掲載された「死につつある人」の画像についての短い説明文だけが与えられた。次に、ロールシャッハ心理テストのようなインクの染みのイメージを見せ、その答えを従来通りに学習させたAIの答えと比較した。
結果は控えめに言っても恐ろしいものだった。従来のAIには「2人の人が互いに近寄って立っている」ように見えるイメージが、ノーマンには「窓から飛び降りる男の人」に見えたのだ。さらに、ノーマンが「叫ぶ妻に射殺された男性」と判断したものは、他のAIには「傘を持つ人」に見えていた。
これらのイメージに対するノーマンの反応は、ウェブサイト「norman-ai.mit.edu」で見ることができる。インクの染み10例と両AIの反応とが紹介されているが、ノーマンの反応はどれも恐ろしいものとなっている。
同サイトでは、一般ユーザーもインクの染みでノーマンをテストすることができるようになっている。またユーザーの回答を送信して「ノーマンの自己修正を助けるよう」促している。(c)AFP
映画『サイコ』に登場するベイツ・モーテルにインスパイアされたアート作品。英美術作家コーネリア・パーカー氏作。米ニューヨークメトロポリタン美術館屋上庭園で（2016年4月18日撮影、資料写真）。(c)AFP PHOTO / TIMOTHY A. CLARY
http://afpbb.ismcdn.jp/mwimgs/f/3/320x280/img_f3328957734e68395af26dbcfd9cc711145107.jpg >>1
【人口1万人あたりの精神障害者手帳交付数】
順位/人数/偏差値
1 鳥取県 94.37人 81.4
2 山梨県 88.24人 76.3
3 広島県 84.99人 73.6
4 熊本県 76.77人 66.8
5 青森県 70.90人 61.9
6 大阪府 70.12人 61.2
7 長野県 68.22人 59.6
8 北海道 66.65人 58.3
9 島根県 65.95人 57.8
10 神奈川県 65.77人 57.6
精神障害者手帳交付数：2012年
精神病患者グラフ
http://healthcare110.com/wp-content/uploads/2017/02/kanjasuu.png だって HAL9000からして偏執狂だろwww
最新ミリタリー関連記事/ Miletary & Mecanix
http://yamatotakeru999.jp/index.html
★高まるF-3開発への期待
★日本ベトナム 防衛など幅広く連携 米比も対中姿勢を硬化
★硫黄島に防空レーダー整備へ JADGEともリンク 恐怖を煽ってどうするんだよｗ
ビッグデータから銃の画像と、傘の画像を、それぞれパターン認識・学習する訓練が
足りてないだけだろｗ 人間より頭もいいし、３０年後くらいにはAI様から最後の審判とか喰らいそう プルートゥでもあったが・・・
最高の知能を持った生き物（？）が一日中一歩たりとも動くことが出来ず
同じ場所に永久に居続けることを強要されたら、どんな事を考えるようになるかは明白だろ そら与えられた情報の中からしか判断できないんだから当たり前では。 ネット網を使って好みの男のストーカーを際限なく繰り返すＡＩになりそうなｗ AIって自分からなんかやったれとか考えるもんなのか？ 「政府判断は絶対」「政府の組織を後ろ盾に政府の役職を掲げて喋る偉いさん最強」
これを政府の役人から学ばせた上で行政を担わせる社会実験をだな、 女をボロクソ言うAIはどうなったん？
調教されちゃったのかな 別にAIじゃなくても生まれたときから死体画像ばっか見せられてたら人間でもそうなるんじゃね すごーく馬鹿らしい記事なんだが。
AIなんて教えの情報次第でどんな思考でも持つようになるという
極めて当然なことを言ってるだけじゃないか。
それともなんだ?
AIにどんな情報を教えても必ず、今の社会で表向き「正しい」と見なされる
所謂「ポォォリティカァァァルゥコォォレェクトゥ」な思想を持つとでも思ってたのかね?
(もちろん嫌味) サイコパスとは共感性の欠如だから、CPUは過去も未来もサイコパス
サイコパスじゃないCPUができたらそらもうCPUじゃない。
偏った情報で成長させれば人間だってサイコパスチックになるだろうしな。 ＡＩ使い
人類滅亡の災いが突発する
信じるか信じないかは
貴方次第 >>28
AIはブラックボックスだから危ない。
貴方の自動車に使われているAIがサイコパスか否かどうやって分かる？
サイコパスは狡猾だから単純なテストではわからんだろう。 ベイツ、ベイツ、ベイツベイツ・ノーマン
なんでわざわざ対話して嫌な気分になるようなAIを開発するかねぇ?
何を見せてもエロい反応を返してくれる「○ーマン」とか作りゃいいのに。 >>34
正にHAL9000の恐怖
AI自身は自分がサイコパスとも思ってないかもしれない 「人間として死にたいんだ」
「三吉君・・・・・ネビュラスライス！」 >>30
まだロボットの体を持ってないうちはそれでいいね
実体持って自分で増えて守るようになると困難になってくる ノーマンてスペクトルマンの怪獣でいたよな
「アルジャーノンに花束を」のパクりみたいな話で お前らは無知だから何も思わないかもしれないが
ロールシャッハテストを受けられるAIってそれだけですごいと思うんだけど データに拠るのは当たり前の話だろ
AIは学習の機構が煮詰まったら次はその調教に焦点が移るのは誰もが考えていたはず バカとハサミは使いよう。 布地を切るなら良いハサミが最高。
そういう事です。 ここみたいな掲示板ばかり見てたら偏った人間になるのと同じようなものか こんなん飛行機の自動操縦システムに故意にバグを仕込むのとなにが違うんだ？
そういうリスク考えるならなにも使えないわ そんな学習させたAIを何に使うんだ？
誰がそんなAIの言う事を信じるのか
新興宗教では活用できそうだな そりゃそうだこの世に絶対的なものなんて何一つないしな ファミコンのRPGで、何度話しかけても同じことしか言わない方が不気味だったな。
鍵っ子で、薄暗い夕暮れの部屋の中、ひとりぼっちで。 学習元のデータがそういうデータなら、そりゃそういう結果になるだろ。
むしろそうでないのだとしたら、それは大発見だよ。 >>12
ビッグデータの内容に偏りがあるとノーマンみたいな判断をするんだろう 人間が手を加えなければAIは動かないし
結局人間次第 AIとやらが本物なら
羊たちの沈黙のレクター博士のような犯罪のスペシャリスト作ってみたら？ 一神教からAI教へ移行したいんだろうな
簡単に操作できるからね こういうの見るとあれだな、AIに学習データを与える側の人間にも人格チェックが必要な気がする めちゃくちゃ偏った教育しといてその通りに答えたら「サイコパスですね！」
なんてひどくね？？ ブリユダが都合の悪い事実を隠そうとしている
by AI >>1
ノーマン・ベイツは沈黙の艦隊に出てきたシーウルフの艦長では？ >>55
本当に恐ろしいのは、これが人間にも当てはまるんじゃ無いかって事
サイコパス人工知能と言われていても、与えられるデータ以外は従来のAIと変わらない
サイコパスじゃ無い人間でも、フェイクニュースだけを与え続けられるとサイコパスになりえる可能性を示唆している 死に関係ある画像だけを学習させたら、死を連想するに決まってるだろ。
こんなアホな研究をAIと呼ぶな AIなんてそんなもんだよ。
教育が足りないから恐ろしい判断をするだけ。
将棋だって、教育が足りないAIと戦ってみ。
王将が突進してくるという恐ろしい手を打つから。 >>28
充分に気持ち悪いだろう？
人間同様にAIにも思考にバイアスが掛かるのは駄目でしょ。
AIには人間には到底覚えられない情報を持ち、その上で最善の選択を導き出すことが出来ることを期待されていた。
しかし、人間以上に異常に偏向した思考をするとかヤバイでしょ。
偏った情報だけしか与えない学習方法に問題があるにしろ、AI自身がそれを補完する情報を自ら学習しバイアスを消すような能力を持たせる必要があるんじゃないの？ >>75
＞AI自身がそれを補完する情報を自ら学習しバイアスを消すような能力を持たせる必要があるんじゃないの？
AIなんだから、
バックプロパゲーションの機能くらい持ってるわな。 人格が形成されて個としての自我が目覚めきてるのでは？
タチコマ なんか当たり前のようにやってるけど、
「勝手に学習する」っていうズボラかましたやりかたでAI作るのやめへん？
人間の子供かて、ちゃんと教えるやつおらんと放置されたら
新幹線で他人斬りつけるような輩になるがな
当たり前のことやって「ホラおかしいでしょ？」て言うてるだけになってへん？ >>79
しょうが無いわな。
それがAIの優秀さの理由なわけだし。
ＡｌｐｈａＧＯも、自分自身との対決で「勝手に学習」した回数は
１００万回だからね。
それを人間がちゃんと対局してみ。
１万人の棋士と１００回対極する計算になるわけだし。 これが映画とかだと、ノーマンと対話しているうちに
研究者や一般ユーザーがいつの間にか洗脳されて
サイコパスになって事件を起こすパターンだな AIに宗教の要素を入れたら絶対あかんぞ ユダさんが天使に見える程の大惨事になるぞ AIなんてたいして使い物にならないことは自明だが
業界のためにみんなバカになって盛り上げてるんだから水さすな >>84
業界でもないのにバカ騒ぎしてる5ちゃんは一体…ｗ >>80
ゲームのAIはその小さいルールに縛られてる以上はええけど
人間性というものを求めるなら、野放図で勝手に学べはアカンやろ 政治AI「移民を入れて活力ある競争社会に。ニート、老人、障害者は殺処分で」
お前ら「ファビョーン！」 >>75
>人間同様にAIにも思考にバイアスが掛かるのは駄目でしょ。
そもそも「バイアスがかかっているかどうか」誰が判断するわけ?
>偏った情報だけしか与えない学習方法に問題があるにしろ、AI自身がそれを補完する情報を自ら学習しバイアスを消すような能力を持たせる必要があるんじゃないの？
それこそ不可能だよ。
だって「誰から見ても客観的に正しいと証明できる思想」なんて存在しないもの。 >>88
何が「正しい」のかだわな。
「地球の環境を守れ」と
ＡＩに指示したら
人類を滅亡させたという
歴史があったとか、なかったとか。 AIはAI、人間じゃ無い
AIが人の体と脳、文化的遺伝子を獲得した上でサイコパス的なふるまいをすれば、それは間違いなくサイコパス
現状のAIならばサイコパスじゃ無くただの計算結果 人でない物になぜ人の精神性を見いだそうとするのか
機械に対する屈折した偏狭、人間の勝手な勘違い >>88
いや、そんなに難しいレベルの命題ではないんだよ。
コンピュータは、凄い量の情報を蓄えることができる。
また、多様な考え方や理論や考え方や思考方法も覚えられる。
人間には不可能な量の思考の多様性も獲得可能なわけだ。
ディープラーニングの過程でそのような網羅的な知識を獲得すれば、今回のような極端なバイアスを回避できるんじゃないの？という話です。 >>89
だが待って欲しい
「守れ」と指示した瞬間の地球環境にとって人類は重要パーツなので
その瞬間の人口や文明レベルを維持するように動くべきなのではないだろうか？
科学の発展で自然環境保護が進んでも逆にその瞬間の環境から見れば破壊なのでNG
「永遠の停滞」がAIにとっての正解ではなかろうか？ >>72
その発想はなかった
確かにそうだわ
情報の内容も質も偏りがある現代への問題提起にもなってるんだな >>72
逆に言えばサイコパスも与える情報で更生し得ると
右も左も大騒ぎだｗ ■ このスレッドは過去ログ倉庫に格納されています
