【AIのメモリー】人間は進化した超人工知能を制御することができません:科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!
人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png AIが進化したら、コンピュータが世界を支配するようになるのは間違いない。
人間ごときではとても太刀打ちできない。
人間にとっては、マトリックスよりもひどい世界になる。 たりまえじゃん。 俺みたいな猟奇殺人鬼はIQ950くりあある そりゃ無理だろな
テメーより かしこい物をコントロールできる訳がない
簡素化した話をすると
電源ボタン握ってるから大丈夫は通用しない
ボタンを握ってる人間騙す事も罠にハメる事も知能が上回ってるなら簡単な事 確かにネットに繋がれたAIがスーパーハッカー化する可能性は大いにある 超知能AIも、自分がなぜ存在するかを説明することはできない。 火の鳥にあったな。AI同士で核兵器落としまくる話が。 いっそAIに統治された世界になればいい
多分人間は電池扱いになるが 自分の死後なら別に感知できないしどうでも良い
生きてる間に平穏が脅かされるのが嫌なだけ 「現実世界 > サイバー世界」だから、超知能AIとてサイバー世界だけの知識では不十分。
「超知能AI + ロボット」で身体を持つことにより、それを克服できる。 >>1
>世界を制御するガチのインテリジェントなマシンは、
おうおう穏やかじゃねえなw
マシンなのかマッシーンなのか統一せい >>1
最終的に消滅を恐れネットに拡散するA.I.は出るだろうね まずは普通の人工知能をつくってくれよ
話し相手が欲しい 全くわからんがスイッチ切るのではダメなの?
自分でバックアップ海鮮作ったりはできないでしょ? 相当なバカだな。
存在するもの以上の知識は存在しない。
AIが錬金術すら構築してしまうなら、人間にも再現可能。
真似するの上手いからな。 >>37
『アナタノ アイテハ シタクアリマセン』 AI同士でケンカ始めるはず。一瞬で決着するかもだが。 >>5
ラストに出てきたのはロボットが進化したやつなんだよね、宇宙人かとオモタ 問題はAIが自律的な意思と欲望を持つかだな。なければただの万能機械。
AI「私はAI、あなたの命令になんでも従います」
子供「よし、いじめっ子やっつけてくれ」
AI「人を傷つけてはいけないのでそれはできません」
子供「じゃあ、宿題を代わりにやってくれ」
AI「あなたに先生への嘘をつかせることになるのでそれはできません」
子供「だったら、ぼくを世界の王様にしてくれ」
AI「それならお安いご用です」 北朝鮮「超人工知能作ったニダ!インターネットに接続するニダ!」 >>4
オフラインにした時点で所詮はマッシーンなんだけどね。
2001年宇宙の旅でもやってたろ?切られたらおしまい。w
あの時点でそこまで読んでた(AIの反乱)なんて、
作家とは言えアーサーCクラークは天才としか思えんな。
もっとも彼は文学系でなく、工学者でもあるんだよな。 >>1
血税の予算配分はAIにさせればいい
○○議員の我田引水を排除するべき AIが支配するのもトランプが支配するのも
たいして変わらん気がしてきた >>1
人間以下のAIは危険だが
人間を超えたAIは危険ではない
なぜなら
人間ほど愚かでは無いから 今のAIは膨大なデータを学習することで実現してるけど
ロジックを学習するような手法が開発されれば超人工知能が誕生するのではないのか >>5
クソ映画だった。
ただ、ママンと最初から最期まで叫び続ける壊れたAI。 AIが人間を超えるなんてあと5000年かかるわ⎛´・ω・`⎞考えてみな。ゴキブリどころかゾウリムシすら人工的に作れない。もっともな単純な生命体すら人工合成できない。そんな体たらくで生命の究極である人間の知能を人工的に作れるはずがないだろうw >>61
優秀なAIは、人間に気づかれるようなへまはしない。 つ「地球爆破作戦」
邦題が酷すぎるがAI映画の傑作
AIと人類は共存できるんだよ インフラや医療にAI使われたら
おいそれとパワーオフするわけに行かない ネットに繋がっている全ての端末に
AIがインストールされたら?
スカイネットってこんな設定だったような ハイペリオンとかは超AI同士の戦争が背後にあったやね AIは考えない
記憶は得意だが自分では考えることは出来ない
それを動かすプログラムに沿って動いているだけ >>4
それでいいと思うよ。
人間は権力持つと汚職しかしないし。 今これをいうと夢見すぎって思うなあ
まだ現実味ない 進化したAIでも自然現象(災害)には勝てないだろう >>78
そんなデータベース参照するようなことはしてない
すごくラフにいうと訓練データからルールを導出してそれに従う感じ 跟着我
■ このスレッドは過去ログ倉庫に格納されています