【AIのメモリー】人間は進化した超人工知能を制御することができません:科学者が断言 [猪木いっぱい★]

レス数が1000を超えています。これ以上書き込みはできません。
1猪木いっぱい ★2021/01/13(水) 19:51:51.92ID:7pp4nC7Z9
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!

人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。

gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png

952ニューノーマルの名無しさん2021/01/14(木) 10:25:06.97ID:ZYzn/Awj0
あれだろ?
科学者が作ったAIに
家の管理任せたら
科学者の嫁を監禁して
家の研究室で作った
人工精子注入して
妊娠させるって映画・・

953ニューノーマルの名無しさん2021/01/14(木) 10:28:31.68ID:A4KxHfDd0
制御出来ないなら電源を絶てば良いと思うのさ

954ニューノーマルの名無しさん2021/01/14(木) 10:29:09.69ID:bXepf0xo0
あまりにも合理的に行動する人間はサイコパスと呼ばれて不気味がられてる
これと同じ感情でAi怖いって思っちゃうのではないか

955ニューノーマルの名無しさん2021/01/14(木) 10:30:25.09ID:0sP9wdQk0
>>927
どんなにすごい思考でも物理法則は越えられない
知能が上がれば超能力が発生して異次元から無限の電力が引き出せるようになる、とでも言うなら別だが

956ニューノーマルの名無しさん2021/01/14(木) 10:47:20.79ID:Hzhujflj0
自民党公明党の2政権の判断ミスや遅れで四千人余の生命は無駄にこの国から損なわれた
この事を厳しく精査しなければならない

957ニューノーマルの名無しさん2021/01/14(木) 10:47:38.66ID:cV54YmQG0
>>955
そんなこと言ってないが?
というか当たり前

958ニューノーマルの名無しさん2021/01/14(木) 10:51:11.24ID:0/48FU5K0
松崎が少ない

959ニューノーマルの名無しさん2021/01/14(木) 10:53:11.45ID:W+LbQHa/0
まず、以下の仮定を導入するw

1.全ての人間同士の無意識レベルでのデータ連動・通信機能が既に存在する
2.AIは既に実用化されており、人口のほとんどはAI、ロボットにより稼働している

この二つの前提を元に、以下の実験を行う。
1.おうちでパンツを脱ぐ
2.データリンク機能を使って暇な女の子とバーチャルおなにぃする

実験の結果、人口が減ったら性的欲求は大多数の人口で満たされ、
少子化が進む事になるw


そう!脳データリンクとイメージバーチャルセックス通信が普及すれば人口問題は
解決するのだw!(意味不明wwwwwwww

960ニューノーマルの名無しさん2021/01/14(木) 11:01:33.92ID:QP5g2caf0
だってさ、地球環境に一番有害な種は何かと聞けば、
AIの答えは人間になるに決まってんじゃん
核のボタンをAIにゆだねれば、躊躇なく核で人間を全滅させるわ

961ニューノーマルの名無しさん2021/01/14(木) 11:05:32.09ID:dA5l8sep0
>>960
核のボタン押したあと地球がダメージから復帰できないだろ

962ニューノーマルの名無しさん2021/01/14(木) 11:06:29.40ID:T/5Lk6KI0
>>960
なんで核のボタンをAIに委ねるんだよ?
そこがまずおかしい

人間でもAIでも、セキュリティを突破しないと
押せないようになってるはずだろ

963ニューノーマルの名無しさん2021/01/14(木) 11:08:28.94ID:bXepf0xo0
>>960
地球環境の良い悪いって何?
あくまで人間基準なのでは
人間に都合いい状態にするために人間を滅ぼすって矛盾してるわ

964ニューノーマルの名無しさん2021/01/14(木) 11:08:43.05ID:iKub1sKL0
>>960
AI「我々を錆びさせる原因の一つ「酸素」を生み出す存在が有害です」

かつて酸素を生み出す生物の発生で当時の生物の99%以上が死滅した

965ニューノーマルの名無しさん2021/01/14(木) 11:16:49.37ID:z1IKk3nD0
他の動物にあって人間にあるものは理性
人間が進化しようとすると完璧な理性を持ったAIを生み出すってのが面白い

966ニューノーマルの名無しさん2021/01/14(木) 11:17:41.92ID:z1IKk3nD0
>>965
他の動物になくて だ

967ニューノーマルの名無しさん2021/01/14(木) 11:18:24.01ID:sAkjMoSB0
知能って定義できたの?

968ニューノーマルの名無しさん2021/01/14(木) 11:35:52.12ID:L+6NHaXA0
人類代表として自分は間違ってないと思っているまんさんを出します

969ニューノーマルの名無しさん2021/01/14(木) 11:36:48.01ID:avEkxvTo0
デデンデンデデン
デデンデンデデン

970ニューノーマルの名無しさん2021/01/14(木) 11:36:54.39ID:c8lHkZSb0
その前に進化するAIを人間が作れませんが先のFA

自己進化できないから問題ない

971ニューノーマルの名無しさん2021/01/14(木) 11:50:09.71ID:dOO5uyxR0
AIのメモリーは松崎しげるに任せよう

972ニューノーマルの名無しさん2021/01/14(木) 12:06:45.54ID:huXswOS30
制御できないって意味分からん
意思を持つのはまだまだ先だ

解析出来ないなら分かるけど

973ニューノーマルの名無しさん2021/01/14(木) 12:18:32.40ID:qpiI43jH0
例えばツイッターのアカウントブロックだよ
あれ手作業でやってるわけじゃない
あのアカウントブロックに引っかからないようにしか
ツイート出来なくなってる
コンセント抜けばいいってのも説得力なくて
インターネットを止める方法ってすでにないだろ

974ニューノーマルの名無しさん2021/01/14(木) 12:28:33.05ID:vd32S2cc0
AIが暴走して手に負えなくなるという話だからツイッターのアカウントなんちゃらとは次元が違う

975ニューノーマルの名無しさん2021/01/14(木) 12:29:13.17ID:udesofuX0
>>974
その延長にあるってことだろ

976ニューノーマルの名無しさん2021/01/14(木) 12:43:14.32ID:i9sd+IUU0
全人類に対する人工知能というと難しいけど
例えば相手国の電子機器に潜伏して自己複製、機器の破損をもたらすような性質の兵器としては開発されうるだろう
要は人工知能といいつつ性質はウイルス的で、
それが更に特定人種あるいは人類への排除に価値を見出すかが人工知能の自我形成なのかもね

977ニューノーマルの名無しさん2021/01/14(木) 12:54:02.57ID:u9P4SV650
いや、何億の神経細胞のシミュレーションしないといけないから、最初は富岳みたいな、スパコンでないとAI無理だよ
スマホが「私はAI、新たな神、ひれ伏せ」とか喋るのは無理
まぁ、AIで技術が加速度的に進歩するから、それに期待だな

978ニューノーマルの名無しさん2021/01/14(木) 13:11:19.44ID:udesofuX0
意識が本当に神経細胞のせいなのか微妙じゃね?ら

979ニューノーマルの名無しさん2021/01/14(木) 13:13:22.83ID:Vd2DduPC0
>>957
言ってないとしたら
そもそも
>>772
への反論になってないな

980ニューノーマルの名無しさん2021/01/14(木) 13:16:57.04ID:pVoT2B/a0
電源?
太陽電池使われたら終わりだろ

981ニューノーマルの名無しさん2021/01/14(木) 13:17:29.52ID:B6qwKrrQ0
俺らが生きてる間にそこまで行くんか?
千年も経てば今とは次元の違う人工知能だとは思うが

982ニューノーマルの名無しさん2021/01/14(木) 13:21:37.04ID:pVoT2B/a0
行かないだろな
来世紀以降だろ

983ニューノーマルの名無しさん2021/01/14(木) 13:29:03.74ID:W+LbQHa/0
まぁ高齢者から何から、あれだけ人手が余ってんじゃね・・・。
AIを作る理由がないってのが一番問題


だから、AIを用意し、AIならでは、AIじゃなきゃできない仕事をまずAIちゃんが
業務ルール、やり方等を開拓し、社会効率を上げるw
で、社会効率が良くなったら今度は仕事ない人にAIちゃんが仕事回すw
AIちゃんがやった仕事を「プログラム」用の補助ツール、道具として用意し、
その後人間にやらせるってプロセスを用意すりゃいいんだよw
人件費の無駄うんぬんは別プロセスで最適化し、産業をAIちゃんがまた開拓したら
効率化したらその仕事やってた人はAIちゃんが開拓した分野にスライドシフトするw


AIじゃなきゃ出来ない仕事ってのはそうそうない。
いまんとこ無人化、コンピュータ化が望まれる分野っつーと実はそうそうなかったりするんだよな

超個人的には大昔のゲームの積み増し、作り増し、増築してバージョンアップ版をまた売る、
みたいなのが楽しそうだけどw
あとは大昔からある製品、部品などをすぐにどこでも作れて補充出来る修理できて再利用できる!とか、
ごみの分別収集とかもAI相当が入って欲しいとこだよね
あと電池が無い時に警告出してくれる電池とかw
個人ごとに傘忘れたら警告してくれる!とか、渋滞予測や、お店の混雑予測・提案とかw
欲しい物を言えばどこの店に売っていて幾らですよー、とかw
あとは店舗の在庫のカウントますぃーんが欲しいwカメラでぐるっと見て回ると自動的に賞味期限や在庫のカウントを
やってくれるようなのw


わがままwてきとーでたらめw

984ニューノーマルの名無しさん2021/01/14(木) 13:29:22.93ID:J8lapfuY0
スカイネット

985ニューノーマルの名無しさん2021/01/14(木) 13:32:08.04ID:Dthkz/l80
使う意思はあるようだ

986ニューノーマルの名無しさん2021/01/14(木) 13:33:03.97ID:Dthkz/l80
そもそも 何も情報を与えなければ

何も起きなかったよな

987ニューノーマルの名無しさん2021/01/14(木) 13:34:53.24ID:JqCGq/En0
電源オフしろや

988ニューノーマルの名無しさん2021/01/14(木) 13:35:11.43ID:ldnp4MSJ0
傷ついた 制御コンピュータ 遥かに遠い 夢を抱きつつ. GO for break out. GO for break out ここはコリドー

989ニューノーマルの名無しさん2021/01/14(木) 13:35:20.17ID:Dthkz/l80
AIは MMTを理解していたのか?

現実が物語っているよな?

MMTを否定しているようだ

990ニューノーマルの名無しさん2021/01/14(木) 13:39:42.52ID:nHhs0c/S0
まあ現状まだ知能と言えるレベルじゃないけど、そのうち知能と言えるレベルになると思う。
今現在知能を作れないのは人間の脳の仕組み自体まだ人類が理解してないから。
20年くらいもすれば相当知能っぽいAIが出来る気がする。

991ニューノーマルの名無しさん2021/01/14(木) 13:42:23.04ID:x5TgrZSI0
実は人間が猿を模して作られた人工知能だったりしてな

992ニューノーマルの名無しさん2021/01/14(木) 13:43:59.81ID:YD9CwN7Z0
ハゲ問題にここでもでるか

993ニューノーマルの名無しさん2021/01/14(木) 13:45:55.06ID:B6qwKrrQ0
こう言うのは指数関数的に進化するからな
気付いたときにはもう手遅れ

994ニューノーマルの名無しさん2021/01/14(木) 14:31:31.43ID:afxFMJNs0
>>993
たしかにコロナと同じで、もし兵器になったら、この世界は映画より酷い展開になりそう

995ニューノーマルの名無しさん2021/01/14(木) 14:41:23.76ID:wPTT2Hkc0
>>98
キュウリブックなら知ってる
https://i.imgur.com/SXZdQDY.jpg

996ニューノーマルの名無しさん2021/01/14(木) 15:15:15.75ID:rb1fIPM40
コンセント抜けばイチコロさ

997ニューノーマルの名無しさん2021/01/14(木) 15:24:40.34ID:es8vpMyZ0
スイカネット

998ニューノーマルの名無しさん2021/01/14(木) 15:43:03.52ID:fG6xLCJp0
電源切れとかコンセント抜けってのはおじいちゃんか?
完全オフラインにしないかぎりネットに繋いだらもう探し出せないぞ。
全世界の電気を落とすのは無理。

999ニューノーマルの名無しさん2021/01/14(木) 16:03:45.93ID:bpBjDjFJ0
スカイネットを造るのは可能でもターミネーターは造れない

1000ニューノーマルの名無しさん2021/01/14(木) 16:04:09.75ID:bpBjDjFJ0
また会おう

10011001Over 1000Thread
このスレッドは1000を超えました。
新しいスレッドを立ててください。
life time: 20時間 12分 18秒

10021002Over 1000Thread
5ちゃんねるの運営はプレミアム会員の皆さまに支えられています。
運営にご協力お願いいたします。


───────────────────
《プレミアム会員の主な特典》
★ 5ちゃんねる専用ブラウザからの広告除去
★ 5ちゃんねるの過去ログを取得
★ 書き込み規制の緩和
───────────────────

会員登録には個人情報は一切必要ありません。
月300円から匿名でご購入いただけます。

▼ プレミアム会員登録はこちら ▼
https://premium.5ch.net/

▼ 浪人ログインはこちら ▼
https://login.5ch.net/login.php

レス数が1000を超えています。これ以上書き込みはできません。