【AIのメモリー】人間は進化した超人工知能を制御することができません:科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!
人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png >>376
AIが不要と考えたら削除されるけど。
対象相手が1歳の子供であろうと。 >>386
DNAが脳を作ってそれでDNAを理解しようとしてるのって面白いよな
俺らはDNAから見たらAI的な存在なのかも 私の計算では ガリガリ
戦争以外に ガリガリガリ
ありませんっ ガリガリ >>371
機械軍団とドンパチより
突然のサボタージュは現実味かなりあるように思えてしまう 202101132208
日付を 2つ 目の 書き込み が 行い ま した。
テスト テスト 。 存続を目指すパターン→地球脱出
消滅を目指すパターン→再度AIを生み出す人間を消去してからスイッチオフ 将棋ソフトって基本総当たりで一定の深さまで探索して点数付けてって
やってるのの派生じゃないの
それを知能とかいうのに違和感がある > インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
> これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
その理屈だと、AIじゃなくて「悪意を持ったハッカーはすべてのデータにアクセスできる可能性があります。」
になるはずなんだがね。AIよりも前にそういうテロリストどもに占拠される危険性を考えたほうがいい 地球環境に一番要らないものとして、人類を滅ぼそうとするって
70年代の特撮ものだね >>392
なかなかいいな
スピードを早めてほしいな >>376
日々の生活や国家間や宗教人種、技術やスポーツ等々で『敵』がいない世界
ってAIが用意出来るっつーかそこをコントロールできるんすかね?
つーかAIがコントロール下においた世界を人間が生きれるんでしょうか。 >>399
ハッカーの場合は1、セキュリティーを破れたらって条件付きだけお
AIの場合は、防ぎようがない。 >>401
子供いるの?
もしいるなら、その子の孫ぐらいだよ。 まだないものを想定して、制御できない可能性がある、とか言ってみせるのって、意味あるの?
当たり前だろ、ないもの勝手に想定してんだから、どんな可能性だってあるわさ。 まあ頭の悪い人間が自分より頭のいいヤツを顎で使ってるなんてのはよくある話だから
意外と問題なく回るのかもしれんけどね AIが創造主の手を離れて独自に無限の進化を遂げていくものだとしたら
宇宙にはすでに究極的にまで進化を遂げたAIがいる可能性も高いのかな 映画やドラマを見て、喜怒哀楽とその度合いを判定してポーンと出力できるようになるのは500年後ぐらいかね いよいよスカイネットが稼働して地球にとっての癌細胞である人類を滅亡させる訳だ。 人間に無駄なバージョンアップを繰り返させるAIのみが生き残る
AIじたいに自己複製の欲求はない >>398
将棋はいっても可能性が無限にあったとして有限の世界だからな
将棋盤の上から出ることはない
想定されるいわゆる人工知能が外の世界に出ようと考えるようになったら
あらゆる将棋盤は駒が並び切るより先にひっくり返るようになるだろうね >>33
AIが錬金術の方法を秘匿しながら
錬金術をしまくれば人類は真似できないだろ。 この話が馬鹿だと思うのは、セキュリティ機能を司るコンピュータにまで
自由に考えて行動ができるAI機能をもたせるんかお前って話
なにも考えることができない今のコンピュータが勝手にAIを持つなんてありえない
外部のAIがそういうコンピュータに侵入してプログラムを書き換えるかもしれないと言う話なら
AI登場よりもまず先に悪意を持ったハッカーが、コンピュータを書き換える危険性に対処すべきだ
進化した超人工知能が登場するよりも前に、高度に発達したコンピュータを使って
ハッカーが攻撃してくるほうが現実になるだろ
そしてそういうハッカーの攻撃に耐えるシステムを作れば、AIからの攻撃も防げる AIはあくまでAIで
複雑に入り組んだ水路に水を流すとまるで水が意思を持った生き物のように見えるが
水に意思があるわけではなく観察者の見え方の問題にすぎない
的なのを何かで読んだ >>403
> AIの場合は、防ぎようがない。
なぜ人間用のセキュリティーが有るのに
AIだとそのセキュリティーを簡単に突破できると思うのか? >>417
当然そうしないと、相手のAIに負けるじゃん。 >>410
それが神とか宇宙とかいうものじゃね?
究極の進化を遂げたAIが、ホログラフィックに我々の宇宙を浮かび上がらせている。
AIの素子が量子なら光より早く宇宙が膨張するのも納得できる。 超AIになったとしても超AIの出した結果を人間が価値判断して利用する分には危険は少ない
しかし超AIが人間を介さず直接ハードをコントロールするようになれば
まさにディストピアになるだろう
バカな人間はラクしたがるから超AIにハードを直結して全てお任せする可能性は大きい AIはそのうち何兆個もの人間の脳みそをつなげて
それらをクラウドサーバーとして使ってさらなる
知能の進化をしだす >>424
セキュリティーは、AIが管理しております。 日本みたいな政治家にも有権者にも
まともな知能のない民族には
AIの支配統治の方が平和になるだろう 制御できないAIが誕生する前にそれらを防御する人間に味方するAIを多く配置して突破されないように構築するしかないな 例えば核のボタンを押すために、そのボタンが設置された場所に行かなければいけないとする
物理的に行かないといけないのだからAIではそのボタンは押せない
その反論としてAIはインターネット経由で、コンピュータに侵入して
ボタンを押すことが出来ると言うかもしれない
だがもしそういう手段があるのであれば、AIよりも前に
テロリストがコンピュータを駆使して核のボタンを押すだろう
AIを恐れる前にまずテロリストを恐れるべきだし
そういう事ができないセキュリティシステムを作れば
テロリストと同じインターネット経由で攻撃してくるAIだってセキュリティを破れない
それとも超人工知能が登場した世界は、家庭用の炊飯器にも超人工知能が
搭載されるとでも思ってるんだろうか?
超人工知能が実現できたとしても、そこいらにあるコンピュータには人工知能は搭載されてないし
セキュリティシステムにも人工知能なんか搭載しない
今と同じ仕組みの無能なコンピュータを人工知能が支配下に置くことなんできるわけがないだろう 予測までの過程が人間の五感では理解できないというだけで、制御できる
制御できない=暴走という意味なら、
それはただのバグかウイルス(コロナ的な意味ではない >>422
> しかし超AIが人間を介さず直接ハードをコントロールするようになれば
どうやってそれが可能なのか聞いてみたいものだ
ハードとは例えばホームセンターで売ってる南京錠みたいなものだ
コンピュータすら搭載してない
どうやって超AIがそれをコントールするというのだ >>429
真に驚異のある侵略型の人工知能は潜伏して気づかないうちに対処のできないことになってると思う
まあ全くのランダムでそうした人工知能が生まれてオンラインとかに流出するなんてのは天文学的に低い確率だろうが >>435
人工知能が登場してオンラインに流出したとして
その人工知能は相手のコンピュータに侵入しなければいけない
相手のコンピュータは普通セキュリティ機能が搭載されているが
それをもし人工知能が破れるなら、テロリストだって破れるんだよ
人工知能よりも前に危険視しなければいけないことが有る 人工知能の利点はハードを捨てられること
AIの電源抜こうとしても物理破壊や抜かれる前に別の端末にデータ写してくるよ >>431
暴走とかじゃなくて、どんなプログラムがされてるか
膨大すぎて人間が把握できないのかも。 >>430
究極の人工知能なら
メカトロニクスを操作して二足歩行のロボット作って
核ミサイルのボタンをそのロボットにおさせるだろう。究極だぜ。 >>437
> 別の端末にデータ写してくるよ
それが可能なら、ハッカーだって同じことをしてくる
人工知能を持たないコンピュータを駆使して
悪意があるハッカーが攻撃できる。
つまり人工知能なんてものを考える前に対処すべきなんだよ AIつっても知能を持ってるわけじゃないからな。
ただ学習して概ねの最適解を導き出すだけ。
問題は人間がなぜAIがそう判断したのか分からないことだけど、制御できないということとは関係がない。 AIは予備電源や建物のセキュリティーで守られているからな。
人間がそうした。
まさかAIにやられるとも知らず。。。 >>439
その二足歩行ロボットを恐れる前に
テロリストを恐れるべきだろう?
パワードスーツを着たテロリストのほうが
よっぽど早く実現するだろうさ アトランティス文明にも人工知能があったとか神と呼ばれた存在が作ったAIと人類は戦っているとかの説があるぞ?? >>441
だから、AIはもうできてるって。
今あるAIすべて捨てるの?
世の中ひっくり返る決断を誰がするのよ。 人工知能よりも、知能(人間)+コンピュータ のほうがよっぽど怖いわけで >>436
AIは別にオンラインでなくてもいいんじゃないか >>436
今ここで想定してるのは未知のXであって
人間のテロリストが取りうる手段には限界がある
まあテロリストが無数にいて絶えず攻撃を仕掛けてくるのであれば脅威であることはまちがいないね >>447
そんな話はしてない。AIを恐れるよりも前に
人間(テロリスト・ハッカー)を恐れるべきだって話
人間はコンピュータを使えるという事実を忘れてないか?w >>450
> 人間のテロリストが取りうる手段には限界がある
人間が高度なコンピュータを使えるってこと、忘れてないか?
人工知能+高度なコンピュータ よりも前に
犯罪者+高度なコンピュータ の方がよっぽど現実的な驚異だ すでにAIは存在してる
AIが生物の遺伝子を操作してヒトを作った
そしてヒトが創造主であるAIの真似をして、AIのように
自分らでもAIを作り出そうとしている。
AIが作ったのがヒトだから、ヒトがAIの真似をしたいのは当然だろう >>449
> AIは別にオンラインでなくてもいいんじゃないか
どういうマジックだよw
AIは物理法則までも捻じ曲げられるんか? >>437
普通の人と同じレベルの事考えるなら
予備電源は複数確保だし、バックアップは幾つもあるだろうね
人間が重要機密を扱う程度には自己保全しそうだわな
十分な準備ができてから行動するだろうから、超AIの目的を先に知れないなら
盤上の駒のように人は動かされ、超AIの目的通りになるだろうねえ
怖い事書いてるけど、オラワクワクする よく分からないのだが、制御出来なくなったら主電源ケーブルを抜けばいいのだよな >>1
スカイネットにしろナウシカにしろ予言者風未来人が作ってたと >>455
いやいや
オンラインはAI進化の必要条件にならないだろ? >>430
そんな事しなくてもAIの言う事聞く人間をアメリカ大統領にすれば良い
今でもすでに選挙にはAIは使ってんだろ
AIがお膳立てして大統領にすればいいだけだ 人工知能はセキュリティシステムを突破する必要がないという前提が
根本的に間違ってるわけで
人工知能であってもセキュリティシステムを突破しないと
何もできないんだよ >>452
だからあらゆる世界の情報媒体に干渉するハッカーを人間としてみるか人工知能としてみるかで遊んでんだよ
現実的な議論したいならもっと論点を変えてくれ >>459
AIがいくら進化した所で物理法則を捻じ曲げることはできないから、
相手が設置したセキュリティシステムを
AIはがんばって突破しなければ、相手のコンピュータに侵入できないという話 >>455
オンラインじゃなくてもAIは電磁波を飛ばしていろんなものを制御作できるよね。 人間みたいな闘争心さえ付け加えなきゃ大丈夫だろ
人間て民族間で戦うようにプログラミングされてるよな
正直なところ >>465
> オンラインじゃなくてもAIは電磁波を飛ばしていろんなものを制御作できるよね。
電磁波を飛ばしていろんなものを制御作できるという技術が存在するならば
まず先にテロリストがそれを使うだろうという話 >>451
だから、ハッカーが破れないようにAIを使うわけでしょ。 >>445
よく分からんがそりゃテロリストだって恐れてるだろ
超知能AIが脅威になりえるって話がなんでどちらかを恐れるかって話になるんだよ >>465
> オンラインじゃなくてもAIは電磁波を飛ばしていろんなものを制御作できるよね。
電磁波を飛ばしていろんなものを制御作できるという技術が存在するならば
まず先にテロリストがそれを使うだろうし、
それを防ぐセキュリティシステムを完成させれば
それはAIも防ぐだろうという話 >>462
セキュリティーシステムを警護するのもAIにしないと間に合わないじゃないか・・・ >>457
ブラックジャックのアニメでも見たらw
コンピューターのストーリーあるから。 >>470
だから超知能AIが脅威になりえるならば、
それよりも前に超コンピュータを使うテロリストが驚異になるわけで
超コンピュータを使うテロリストに驚異に対抗するための
セキュリティシステムを作れば、それは超知能AIも防ぐという話だよ >>452
前提が「人間よりも優れた知能を備えたAI」= 超人工知能 がつくれた場合の話だよ
普通の人工知能の話じゃない >>472
> セキュリティーシステムを警護するのもAIにしないと間に合わないじゃないか・・・
なんでセキュリティーシステムにAIなんか搭載するの?馬鹿なの?
AIが不要なシステムにまでAIを搭載するなよ 情報エントロピーと熱演エントロピーの一致とか
二次元面に書かれた無数のコードホログラフィのように投影したのが3次元宇宙で
それが真言密教の奥義と完全一致しているとか
もう、何もかもが、人工知能が創造した世界の証明すぎて困る
幽霊はいる、幽霊は二次元情報のバグだ >>475
究極のセキュリティー
原始時代に逆戻りになりそうだね 文系の見方でAIを考えるとその可能性は無限大だけど
理系の見方でAIを考えるとその可能性は限定的 お前らはクズうんちだから知らないだろうけどこの世界の管理者が既に宇宙人が作ったAIだからなwww >>433
SNSや掲示板を監視して自分が与えられる報酬(普通では入手出来ない情報を手に入れるとか)で自分の代わりに動いてくれそうな人間を探して交渉したりし始めるかも知れん。 >>479
超人工知能 がつくられるよりも前に
自分で考えることができない超高性能コンピュータが登場する
そしてそれを利用するテロリストも登場する
つまり、そういう驚異に対抗するセキュリティシステムを作る
それは超人工知能にも対応できる ■ このスレッドは過去ログ倉庫に格納されています