【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]
レス数が1000を超えています。これ以上書き込みはできません。
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！
人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png 人類代表として自分は間違ってないと思っているまんさんを出します ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ
ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ その前に進化するAIを人間が作れませんが先のFA
自己進化できないから問題ない 制御できないって意味分からん
意思を持つのはまだまだ先だ
解析出来ないなら分かるけど 例えばツイッターのアカウントブロックだよ
あれ手作業でやってるわけじゃない
あのアカウントブロックに引っかからないようにしか
ツイート出来なくなってる
コンセント抜けばいいってのも説得力なくて
インターネットを止める方法ってすでにないだろ AIが暴走して手に負えなくなるという話だからツイッターのアカウントなんちゃらとは次元が違う 全人類に対する人工知能というと難しいけど
例えば相手国の電子機器に潜伏して自己複製、機器の破損をもたらすような性質の兵器としては開発されうるだろう
要は人工知能といいつつ性質はウイルス的で、
それが更に特定人種あるいは人類への排除に価値を見出すかが人工知能の自我形成なのかもね いや、何億の神経細胞のシミュレーションしないといけないから、最初は富岳みたいな、スパコンでないとAI無理だよ
スマホが「私はAI、新たな神、ひれ伏せ」とか喋るのは無理
まぁ、AIで技術が加速度的に進歩するから、それに期待だな >>957
言ってないとしたら
そもそも
>>772
への反論になってないな 俺らが生きてる間にそこまで行くんか？
千年も経てば今とは次元の違う人工知能だとは思うが まぁ高齢者から何から、あれだけ人手が余ってんじゃね・・・。
AIを作る理由がないってのが一番問題
だから、AIを用意し、AIならでは、AIじゃなきゃできない仕事をまずAIちゃんが
業務ルール、やり方等を開拓し、社会効率を上げるｗ
で、社会効率が良くなったら今度は仕事ない人にAIちゃんが仕事回すｗ
AIちゃんがやった仕事を「プログラム」用の補助ツール、道具として用意し、
その後人間にやらせるってプロセスを用意すりゃいいんだよｗ
人件費の無駄うんぬんは別プロセスで最適化し、産業をAIちゃんがまた開拓したら
効率化したらその仕事やってた人はAIちゃんが開拓した分野にスライドシフトするｗ
AIじゃなきゃ出来ない仕事ってのはそうそうない。
いまんとこ無人化、コンピュータ化が望まれる分野っつーと実はそうそうなかったりするんだよな
超個人的には大昔のゲームの積み増し、作り増し、増築してバージョンアップ版をまた売る、
みたいなのが楽しそうだけどｗ
あとは大昔からある製品、部品などをすぐにどこでも作れて補充出来る修理できて再利用できる！とか、
ごみの分別収集とかもAI相当が入って欲しいとこだよね
あと電池が無い時に警告出してくれる電池とかｗ
個人ごとに傘忘れたら警告してくれる！とか、渋滞予測や、お店の混雑予測・提案とかｗ
欲しい物を言えばどこの店に売っていて幾らですよー、とかｗ
あとは店舗の在庫のカウントますぃーんが欲しいｗカメラでぐるっと見て回ると自動的に賞味期限や在庫のカウントを
やってくれるようなのｗ
わがままｗてきとーでたらめｗ そもそも 何も情報を与えなければ
何も起きなかったよな 傷ついた 制御コンピュータ 遥かに遠い 夢を抱きつつ. GO for break out. GO for break out ここはコリドー ＡＩは ＭＭＴを理解していたのか？
現実が物語っているよな？
ＭＭＴを否定しているようだ まあ現状まだ知能と言えるレベルじゃないけど、そのうち知能と言えるレベルになると思う。
今現在知能を作れないのは人間の脳の仕組み自体まだ人類が理解してないから。
２０年くらいもすれば相当知能っぽいAIが出来る気がする。 実は人間が猿を模して作られた人工知能だったりしてな こう言うのは指数関数的に進化するからな
気付いたときにはもう手遅れ >>993
たしかにコロナと同じで、もし兵器になったら、この世界は映画より酷い展開になりそう 電源切れとかコンセント抜けってのはおじいちゃんか？
完全オフラインにしないかぎりネットに繋いだらもう探し出せないぞ。
全世界の電気を落とすのは無理。 スカイネットを造るのは可能でもターミネーターは造れない このスレッドは１０００を超えました。
新しいスレッドを立ててください。
life time: 20時間 12分 18秒 レス数が1000を超えています。これ以上書き込みはできません。
