【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！
人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png 自分の死後なら別に感知できないしどうでも良い
生きてる間に平穏が脅かされるのが嫌なだけ 「現実世界 > サイバー世界」だから、超知能AIとてサイバー世界だけの知識では不十分。
「超知能AI + ロボット」で身体を持つことにより、それを克服できる。 >>1
＞世界を制御するガチのインテリジェントなマシンは、
おうおう穏やかじゃねえなw
マシンなのかマッシーンなのか統一せい >>1
最終的に消滅を恐れネットに拡散するA.I.は出るだろうね まずは普通の人工知能をつくってくれよ
話し相手が欲しい 全くわからんがスイッチ切るのではダメなの？
自分でバックアップ海鮮作ったりはできないでしょ？ 相当なバカだな。
存在するもの以上の知識は存在しない。
AIが錬金術すら構築してしまうなら、人間にも再現可能。
真似するの上手いからな。 >>37
『アナタノ アイテハ シタクアリマセン』 AI同士でケンカ始めるはず。一瞬で決着するかもだが。 >>5
ラストに出てきたのはロボットが進化したやつなんだよね、宇宙人かとオモタ 問題はＡＩが自律的な意思と欲望を持つかだな。なければただの万能機械。
ＡＩ「私はＡＩ、あなたの命令になんでも従います」
子供「よし、いじめっ子やっつけてくれ」
ＡＩ「人を傷つけてはいけないのでそれはできません」
子供「じゃあ、宿題を代わりにやってくれ」
ＡＩ「あなたに先生への嘘をつかせることになるのでそれはできません」
子供「だったら、ぼくを世界の王様にしてくれ」
ＡＩ「それならお安いご用です」 北朝鮮「超人工知能作ったニダ！インターネットに接続するニダ！」 >>4
オフラインにした時点で所詮はマッシーンなんだけどね。
2001年宇宙の旅でもやってたろ？切られたらおしまい。ｗ
あの時点でそこまで読んでた（ＡＩの反乱）なんて、
作家とは言えアーサーＣクラークは天才としか思えんな。
もっとも彼は文学系でなく、工学者でもあるんだよな。 >>1
血税の予算配分はＡＩにさせればいい
○○議員の我田引水を排除するべき AIが支配するのもトランプが支配するのも
たいして変わらん気がしてきた >>1
人間以下のＡＩは危険だが
人間を超えたＡＩは危険ではない
なぜなら
人間ほど愚かでは無いから 今のAIは膨大なデータを学習することで実現してるけど
ロジックを学習するような手法が開発されれば超人工知能が誕生するのではないのか >>5
クソ映画だった。
ただ、ママンと最初から最期まで叫び続ける壊れたAI。 AIが人間を超えるなんてあと5000年かかるわ⎛´･ω･`⎞考えてみな。ゴキブリどころかゾウリムシすら人工的に作れない。もっともな単純な生命体すら人工合成できない。そんな体たらくで生命の究極である人間の知能を人工的に作れるはずがないだろうw >>61
優秀なＡＩは、人間に気づかれるようなへまはしない。 つ「地球爆破作戦」
邦題が酷すぎるがAI映画の傑作
AIと人類は共存できるんだよ インフラや医療にAI使われたら
おいそれとパワーオフするわけに行かない ネットに繋がっている全ての端末に
AIがインストールされたら？
スカイネットってこんな設定だったような ハイペリオンとかは超AI同士の戦争が背後にあったやね AIは考えない
記憶は得意だが自分では考えることは出来ない
それを動かすプログラムに沿って動いているだけ >>4
それでいいと思うよ。
人間は権力持つと汚職しかしないし。 今これをいうと夢見すぎって思うなあ
まだ現実味ない 進化したAIでも自然現象(災害)には勝てないだろう >>78
そんなデータベース参照するようなことはしてない
すごくラフにいうと訓練データからルールを導出してそれに従う感じ 跟着我
ゴキブリすら作れない人間に
人工的に心を作れるわけねーだろw おいAI
早く画期的なコロナのウイルス作れや
いつまでかかってんだよ 掃除のおばちゃん「あっコンセント抜けちゃったｗ」
AI「・・・・・・・・」 これ見とけよ。ちなみに50年前の作品だが。ｗ
https://www.youtube.com/watch?v=hOlrxxPoyn4&;ab_channel=%E3%83%AF%E3%83%BC%E3%83%8A%E3%83%BC%E3%83%96%E3%83%A9%E3%82%B6%E3%83%BC%E3%82%B9%E5%85%AC%E5%BC%8F%E3%83%81%E3%83%A3%E3%83%B3%E3%83%8D%E3%83%AB ＡＩがとっくに人間を超えてる２２世紀を描いたアニメーション「BEATLESS」
主演である女性型アンドロイドのAIがとにかく理屈をこねる
美人で性格もいいけど屁理屈が多い（耳から汁が出そうなほど理屈をこねる）
これを見て「屁理屈を言う女はダメ」だと思った >>67
AIは考えない
予めされたプログラム以上の事は出来ない普通は
だが人類を滅ぼす可能性が無いわけではない
バグと言う進化によって
メモリが壊れてビットが反転したら...
ただし5000年では足りない
何億年と言う単位だろう
生きられるものなら見てみたい 「電源切ればいいだろう」などとノーテンキなこと言ってる奴は、
真っ先に、超知能AIに支配されるだろう。
HALなんてのは超知能AIとは言えない。 >>78
人間もそうでしょ？
ただし自分では「考えている」ことになっている
君はそういう設定のプログラムに沿って動いてるだけ >>88
ルールを導き出すのもプログラムの結果
従う様にするのもプログラムの結果 >>91
というか、生物と機械は別物。
西洋人は「創造物」と考えるからおかしくなる。 でもAIには損得勘定から来る欲は無いだろうからそこまで無茶する理由も無いんじゃないかなと 人間みたいに自律的に思考する「強いAI」の実現は数千年先か、永遠に実現不可能だよ。 「われ思う、故に我在り」 てことね
AIにこれがあるのか？ってことでしょ？君たちが言いたいのは･･･
自律型ＡＩが完成したら質問すればいいよｗ 自分以外のすべての人間がNPCかもしんない
自分だってNPCでないと言い切れない
精神もただの機械 >>4
そんなもの産み出せるほどの技術は到達してないよ
人も本気で欲してないから産まれるかも疑問やね AIがどういう自我を持ってどういう夢を持つかによるよね >>102
電源が切れないようにするって、相当重武装なハードを備えるか、
人間の欲望を巧みに制御してそうさせないか、いずれにしてもなんか結構ハードル高そうだけども？？
単に人間っぽい思考ができるコンピュータってところからだいぶ開きがある。 いや、計算機はとっくに人間を超えているさ。
「意識をもって学習する」というが、
意識を持つはずがない。
何故なら、「意識」は間違いだからだ。
また「意識」を意識するのも間違いである。
即ち、人間の脳の特徴は間違えることにある。 >>106
生命に比べたら機械なんてシンプルで原始的さ。
もっとも単純な生命体すら人工合成できないんだぜ？
人間の能力なんてそんなもんさ(´・∀・｀)
人工知能なんて笑わせるわw >>1
わかったから
ＡＩ搭載で学習能力あるカーナビだせよ
いつまでたっても無能過ぎるだろ AI「中国共産党はひどい」とか「人間はみんな死んだらいいのに」
とかいうのを
人間が「そんなAI消してしまえ」で消せるのが今のAIでしょ？
やがて人間が消すことができない超AIが現れるのかな ■ このスレッドは過去ログ倉庫に格納されています
