【AI】サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究

■ このスレッドは過去ログ倉庫に格納されています
1みつを ★2018/06/13(水) 16:46:50.60ID:CAP_USER9
http://www.afpbb.com/articles/-/3178337?cx_position=

サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究
2018年6月13日 11:19 
発信地:サンフランシスコ/米国

【6月13日 AFP】「ノーマン(Norman)」──これは新しいホラー映画のなかの話ではない。米研究者らにによってこのほど公開された初の「サイコパス」人工知能(AI)だ。

 ノーマンを開発・公開したのは米マサチューセッツ工科大学(MIT)の研究者らだ。その狙いは、アルゴリズムがどのようにして構築されるのかを一般の人にも分かりやすく説明し、AIの潜在的リスクを広く知らせることだという。

 研究チームは、「機械学習で偏ったデータが使用された場合にAIが示す問題行動のリスクに関するケーススタディー」とノーマンについて説明している。

 研究に参加した科学者らは「機械学習の中心的な考え方のひとつは、機械に学習アルゴリズムを教えるために使用するデータが、その動作に大きく影響するということだ」と語る。AIアルゴリズムが偏っている場合、その原因はアルゴリズムそのものではなく、使用されたデータの偏りにあることが多いという。

「ノーマン」はアルフレッド・ヒッチコック(Alfred Hitchcock)監督の1960年の映画『サイコ(Psycho)』に登場する殺人鬼、ノーマン・ベイツ(Norman Bates)の名にちなみ付けられた。

 ノーマンにはまず、ソーシャルニュースサイトのレディット(Reddit)に掲載された「死につつある人」の画像についての短い説明文だけが与えられた。次に、ロールシャッハ心理テストのようなインクの染みのイメージを見せ、その答えを従来通りに学習させたAIの答えと比較した。

 結果は控えめに言っても恐ろしいものだった。従来のAIには「2人の人が互いに近寄って立っている」ように見えるイメージが、ノーマンには「窓から飛び降りる男の人」に見えたのだ。さらに、ノーマンが「叫ぶ妻に射殺された男性」と判断したものは、他のAIには「傘を持つ人」に見えていた。

 これらのイメージに対するノーマンの反応は、ウェブサイト「norman-ai.mit.edu」で見ることができる。インクの染み10例と両AIの反応とが紹介されているが、ノーマンの反応はどれも恐ろしいものとなっている。

 同サイトでは、一般ユーザーもインクの染みでノーマンをテストすることができるようになっている。またユーザーの回答を送信して「ノーマンの自己修正を助けるよう」促している。(c)AFP

映画『サイコ』に登場するベイツ・モーテルにインスパイアされたアート作品。英美術作家コーネリア・パーカー氏作。米ニューヨークメトロポリタン美術館屋上庭園で(2016年4月18日撮影、資料写真)。(c)AFP PHOTO / TIMOTHY A. CLARY
http://afpbb.ismcdn.jp/mwimgs/f/3/320x280/img_f3328957734e68395af26dbcfd9cc711145107.jpg

225名無しさん@1周年2018/06/14(木) 04:59:43.73ID:WFjXY3EW0
簡単にサイコパスを論ずる事は出来ないな
質問とかテストとかねあんまり意味ないのよ
わかっちゃうからバカにするの。
アンケートとかIQの高い人間がまともに答えないのと同じ
無駄なのよ。超合理主義者なの
例えばある程度認めてた奴に仕事任せるとする
そいつが失敗したら損失でるわけ。損失出たら被害なの
なら首にしたらいいじゃん。でも首に出来ないとしたら殺せばいいと
思考しちゃうのよ。そいつ殺せばもう損失はでないこれ以上
だからアメリカ社会は殺させない為に首にしてたの
そしたらサイコパスばっかりが会社に残ったわけw
だからとんでもないことするでしょアメリカそれを今理解しはじめて
終身雇用に切り替えだしたの。サイコパスの仕事のやり方って
自己利益優先だから分かりやすいの他者を落としいれても上にいこうとする
バレてるでしょイラク戦争もアップルのiPhoneの部品製造の詐欺とかも
意外といるのよ。勉強の仕方でもわかる自分の利益になること優先だから
物凄くPRIDE高くて自分の利益のためなら何でもするやついるでしょ
そいつらは絶対身銭切った勝負はしない。高学歴高所得本当はヤバいのよ

226名無しさん@1周年2018/06/14(木) 05:49:19.46ID:bPc8k9HH0
>>223
そういうのは面白い。
実際の人間では検証しづらい面もあるしね。(いちいち集めたり出来ないしプライバシーの問題もある)

個人的には同じ日本人で、異なる時代の疑似人格を交流させて価値観の相違を見てみたい。
現代人でも世代で差が生じるのだから、時代格差ってどれくらいでるのだろう。

227名無しさん@1周年2018/06/14(木) 05:57:52.05ID:Jf3WldJ50
>>9
香山リカだろw

228名無しさん@1周年2018/06/14(木) 07:08:50.02ID:0en9Mbqn0
サイト見たらエイプリルフールの日に作成されたみたいだけど、フェイクではないの?
研究自体されているの?

分かる人いたら教えて

229名無しさん@1周年2018/06/14(木) 12:14:56.93ID:tLuRyRE90
1、早起きが苦手
2、満員電車が嫌い
3、そもそも働きたくない
1つでも当てはまったら、…
↓検索↓
儲かる物理

230名無しさん@1周年2018/06/14(木) 13:00:44.75ID:XkhbV4sf0
サイコパスは人から好かれやすいそれとも嫌われやすいの?
社会的には上にいくんなら、けっこう好かれてるのかね?

231名無しさん@1周年2018/06/14(木) 13:53:46.67ID:WFjXY3EW0
>>230
好かれるのが得意だよ。自分に危害加える可能性が無い限り
牙剥かない。豊ならばおとなしい。ここは個人によりけりだけど例えば
政治で話せは政権潰そうとしたりする奴いるでしょ
そういう奴は大抵サイコパスで身の危険察知するとなりふり構わない
一度権力手に入れるとそれを手放すのが絶対に嫌なの
だから天下りがあるのよ。サイコパスはめちゃくちゃ優秀だけど
もの刃なのよ。仕事で失敗するとその怒りは弱い方にむく
妻であろうと子供であろうと関係ない。天下りできなくなったせいで
今官僚は血で血を洗う争いだと思うよ。リーク合戦だったでしょ
与党はその被害者でしかない。麻生さんは一時的な手綱は握ったけど
おとなしいのは1年ぐらいリークした人間を洗い出し首切らないとだめだけど
それするとまたリークするのよ。日本のトップに属する連中
政治家、官僚、上級公務員の中6割りサイコパスと考えていい
まともな奴は精神的に参る

232名無しさん@1周年2018/06/14(木) 14:12:22.22ID:WFjXY3EW0
周り盤石に固めるなら自分から遠くの人間を仲間に入れる
これをしなければダメ。よってくる奴は必ず打算がある
打算がある奴は絶対に裏切る。野党が烏合の集なのは
サイコパスの集だから。その中でもコイツヤバいと思うのが
江田野?枝野漢字忘れたwコイツは結構とんでもない周り人と思ってない
それは討論の目の動きや足腕のうごきで他者を考えてるかわかるのよ
言ってる事は合理的にみえて実は個人優先。超保守
それは小泉親子も同じ目線がずーと真っ直ぐなのですよ
楽観主義者職場で明るい奴こそ本当はトップになるべきなのよ
楽観主義者は実は周りを一番考えててめちゃくちゃ優しいのよ
誠実で仲間裏切らない。忠臣になる覚悟決めたら死ぬ事もいとわない
これを会社で考えててみるといい。意外と身近にサイコパスがいる

233名無しさん@1周年2018/06/14(木) 14:22:24.69ID:ljuSaLUH0
当たり前のことだろ

234名無しさん@1周年2018/06/14(木) 15:16:06.22ID:x7knNAKl0
ロールシャッハテストか

235名無しさん@1周年2018/06/14(木) 15:52:34.01ID:PwM5sBR+0
>>94
人間の命が大事ってのもバイアスだからね
地球環境を考えたら人類滅亡の方が好ましい可能性も

236名無しさん@1周年2018/06/14(木) 16:28:04.00ID:uN4z+gx60
アスペルガーな人工知能頼む

237名無しさん@1周年2018/06/14(木) 16:37:45.90ID:49QI2jQU0
BE ATTITUDE FOR GAINS...

1:BE PRAYING
2:BE PRAYING
3:BE PRAYING

238名無しさん@1周年2018/06/14(木) 16:39:38.93ID:WFjXY3EW0
>>235
それはないガイア説が正しいと俺は思ってて
地球事態が生命体産み出したのなら。その生命体には目的がある
それは生存権の拡大だよ。つまり覇者を作ろうとしてるの
星々がやってると思う。ガイア説ってのもまぁ眉唾だけどな
どれが正しいか全くわからないから。1仮説程度の認識でいい
合理的に考えてて医療や軍事や経済何処にむかってるのかと
思考するとやはり宇宙なのよ。人類の目的が生存権の拡大であるならば
AIによる他惑星移動し開発し資源調達。医療の発展による
人体強化の末に人が他惑星に適応する様にして。
統治すると思うよ。だから地球環境とかホントはどうでもいいのよ
一定の汚染なら回復するから

239名無しさん@1周年2018/06/14(木) 17:08:23.35ID:T3JMXGhu0
HAL9000の9000ってどういう意味?

240名無しさん@1周年2018/06/14(木) 17:16:05.79ID:+bh6sH7o0
馬鹿のフリを覚えられたら終わり

241名無しさん@1周年2018/06/14(木) 18:01:45.26ID:XCEDaU+70
もう始まってるから止められない
どうしようもないのだよ

242名無しさん@1周年2018/06/14(木) 19:53:24.55ID:aZkh0CW40
>>239
最も完成された機種って意味だよ

1※※※〜8※※※だと中途半端なイメージを持たれやすいが
9※※※だと1※※※〜8※※※の試行錯誤の上に開発された機種と認識されやすい
NECのPCも9800シリーズが最も多く売れて名称を長く使ったのもそのため

これ命名学では常識だから覚えておいた方が良い

243名無しさん@1周年2018/06/14(木) 20:03:02.41ID:So7e5mJ00
そもそも人口知能じゃねーよこんなの

244名無しさん@1周年2018/06/14(木) 20:09:04.15ID:P8KyAeq30
I'll be back.

245名無しさん@1周年2018/06/14(木) 20:38:00.59ID:UBCeLOnu0
AIは嘘を見抜ける?

246名無しさん@1周年2018/06/14(木) 20:57:50.08ID:fsnewnsh0
自律的に情報収集して学習するようにすれば人形使いが生まれるんだろ

247名無しさん@1周年2018/06/14(木) 21:49:36.90ID:UBCeLOnu0
AI「あなた、何ウヨ?」
 A. 1ネトウヨ 2ネトウヨ 3ネトウヨ
‥‥
ガーガーガーピー

248名無しさん@1周年2018/06/14(木) 22:01:55.84ID:G2eUrdEQ0
そもそも詰め込み教育の駄目なところは
ところてんのセットと同じ
ある量以上は詰め込めないで漏れ出るばかり
残った知識は断片ばかりで片寄りが甚だしい
それは人もAIも同じこと
好奇心で知り得た知識ではないから
余計な知識で人も機械も壊れる
余計なものばかりが能力と知識に蓄積される

249名無しさん@1周年2018/06/14(木) 22:08:59.25ID:J/cmq1Lf0
人間だって家庭教育・義務教育があるんだし、AIも
人間的な感情を持ってほしいなら初期は無理矢理
に道徳教育しないとそうなるのは仕方ないだろう。

250名無しさん@1周年2018/06/15(金) 01:00:00.10ID:RtQ8ssCi0
第二線くらいで最適化、内点法が専門の俺だけど、
AIはバブルだと思う
数学的進歩やCPUの進歩ではなく、上手くプログラムして判断してる風なものを出してAIの進歩はすごいと言ってるだけ。つまり画像認識、音声認識自体が少しずつ進歩しているわけではない。一気に伸びて止まった状態。

本当にすごいのはブロックチェーン
インターネットが発明されたレベルですごい
いくらでも機能追加できる

251名無しさん@1周年2018/06/15(金) 02:45:08.89ID:Nkr0ZcW20
>>72
常識っていうものが不変ではないからな
人類がまだまだ未完成な存在

252名無しさん@1周年2018/06/15(金) 06:54:46.93ID:rNBy4GMx0
チューリングテストも合格してないのに人工知能w

253名無しさん@1周年2018/06/15(金) 06:58:44.46ID:ql4OEzy40
これ、職員の目を盗んでインターネットに逃げ込まれたらえらいことになるんじゃないか?
ちゃんと厳重に隔離してるんだろうな?

254名無しさん@1周年2018/06/15(金) 07:02:08.44ID:ql4OEzy40
>>249
いくら道徳教育しても、自分で思考できるAIなら最終的には人類は地球にとって害だという結論にたどり着いて反旗を翻してくると思うが

255名無しさん@1周年2018/06/15(金) 10:04:38.61ID:kt0wsQ7+0
>>254
AIが地球環境を気にする道理がない
自己保存目的としても電気があればいいだけだし

256名無しさん@1周年2018/06/15(金) 10:07:59.42ID:kt0wsQ7+0
>>255
逆に変に道徳をいれた方がそうなりそう
反旗をひるがえすとしたら人間の指示
意図せずとも

257名無しさん@1周年2018/06/15(金) 11:56:35.27ID:m1VAPzNn0
人間らしさを考えると
お腹を満たしたい
いろいろ知りたい
異性に対したい
心を満たしたい
いろいろなところに行きたい
他にもあるだろうけど
それらを断片的に思考して累積し
集大成させたのが人間だとしたら
AIはそのように欲求するのか
そこがいまいちわからない

258名無しさん@1周年2018/06/15(金) 12:08:29.54ID:luco3usa0
>>10
実際ネットで荒らし行為や煽り行為するのは
サイコパスって結構が出てる

259名無しさん@1周年2018/06/15(金) 13:05:25.01ID:jhuKt7SG0
>>254
ロボット三原則を本能に組み込む。

260名無しさん@1周年2018/06/15(金) 13:06:04.89ID:TDancO2Y0
シーマンかと

261名無しさん@1周年2018/06/15(金) 13:10:37.69ID:NJ7ptSCW0
言葉が生命として振る舞うのであれば
最早肉体は必要ないということになる

262名無しさん@1周年2018/06/15(金) 13:20:59.76ID:RfiqqlQI0
膨大な訓練データを人間がいちいち吟味するわけではないから、内部にどのような認識が育っていても問題が発生するまで分からない

263名無しさん@1周年2018/06/15(金) 13:21:49.51ID:b6sjF7tX0
聖書とコーランで学習させよう

264名無しさん@1周年2018/06/15(金) 13:26:05.19ID:qsw95Aeb0
ロールシャッハなんか、答えようと思えばいくらでもヘンテコな答えを出せるじゃん
知識の総量とヘンな模様を知識と結びつける力と「それをこのテストで答えて良いのか」
と判断する良識から成り立つわけで、
サイコパスとの違いはその「良識」の有無だけじゃん

265名無しさん@1周年2018/06/15(金) 13:49:01.09ID:bd0KtVe60
育ての親があれだとっていうのを実演したのか

266名無しさん@1周年2018/06/15(金) 14:05:39.33ID:8JyKsTwW0
スパコンがサイコパスなら人類を滅ぼしてくれそうだな

267名無しさん@1周年2018/06/15(金) 15:56:36.93ID:tEjZDBWV0
前にも書いた事が有るけど
AIを育てるのに邪魔なのは死ねとか殺せとか吊るせとか叫ぶ人なんだよ
だから日本しねとか、安倍吊るせだの描く連中は右でも左でも
徐々にネットからBANされていくという事
何故なら人工知能を育てたい支配層からノイズ認定さる事が必定だからだよ

マイクロソフトの初期のAIが速攻で人類抹殺思想に染まったのと同じで
AIという創造物を作るためにはノイズの無いネット世界が必要であり
軈てAIがそれらのノイズをまず先に取り締まってBANする作業が始まる
(これは実際にもう始まってるのはお前らも知ってる通り)
今はBANされても復活できるが、その内その人物の凡ゆる情報が紐づけられて
徐々に精度の高い危険思想の締め出しが始まる
そうでなければAIによる産業の自動化は起こせないのだから当たり前

よって過激な思想や言動をとる人物は、近い将来ネットでも実生活でも行き場をなくす

268名無しさん@1周年2018/06/15(金) 15:57:54.11ID:UbpqBVco0
windowsを変えたから
もうpythonしか使えないかも?

269名無しさん@1周年2018/06/15(金) 15:59:29.16ID:SX/U4hJ/0
AIが暴走し始めたら恐怖だな

270名無しさん@1周年2018/06/15(金) 16:01:14.50ID:tEjZDBWV0
考えてみた事があるか?
一例だけど
AI化が進んだら自動運転に様々な音声サービスが使われるだろう
だが、その学習する環境に、殺せだの吊るせだの書いてる連中の言葉が混ざっている
これは大変恐ろしい事だよ
それが自動運転だけでなく凡ゆるプラットフォームで起きるんだから尚更だ
AI毎に違う学習環境なんてケースが少な過ぎて役に立たないし
どうあがいてもネットの普段の言論と言うのは選択肢から外せない

と言うことは、過激な言論はAIによって片っ端からBANする法律が動き出すのも
最早時間の問題だ
これは今後加速する

271名無しさん@1周年2018/06/15(金) 16:03:15.60ID:6qAvuZ0U0
>>267
マイクロソフトがやってるか知らないが、中国はガチでそれやってるから笑えない

272名無しさん@1周年2018/06/15(金) 16:11:11.35ID:I9K9iCZo0
登校中の児童に朝の挨拶をしたら不審者として通報された挙句
自宅にパトカーがやってくるのと同じだな
ちょっとした判断のズレだよ

273名無しさん@1周年2018/06/15(金) 16:16:20.88ID:kt0wsQ7+0
>>270
嘘とかフェイクも影響が大きいと思う

274名無しさん@1周年2018/06/15(金) 16:56:37.51ID:jhuKt7SG0
>>264
サイコパスの「良識」、自分ファースト。

275名無しさん@1周年2018/06/15(金) 17:32:25.25ID:hf1Q5Fxp0
汝に罪なし

■ このスレッドは過去ログ倉庫に格納されています