【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！
人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png >>323
5ch初めてか？ 肩の力抜けよｗｗ
って最初に学習させてみる。 >>331
AIの方が人より安く高度な仕事するんだろ
人の仕事がなくなってしまう >>308
動物園の猿みたいに生きられれば
幸せなのかもしれないな
殆どの奴はそれを望みそうだわ >>329
本気で学習させたら、電源とか余裕で作るだろ
（作業用ロボ使えばいいので）
下手すると原発とかも乗っ取りかねんだろ
その前にどうするかって話だね 無いわ
フィジカルと本能の無いAIなんてのは何処まで行っても知性にはなれない
どんなに高度化してもウィルス以下 >>333
資源等の制約のもとでの最大化を目指すんじゃね
生物だって同じだろ まずはgoogle翻訳がまともなレベルになってから色々心配してくれ 自分より頭いい人AIなら自分には理解できるわけがない >>332
人間のニューラルネット以上の複雑さのニューラルネットをシミュレーション出来るようにならないと人間以上のAIは無理だろうな
例えば富岳で神経細胞いくつくらいのニューラルネットをシミュレーションできるか？ 犬HKで見たが、AIの開発チームが自らが産み出したAIの能力にビビってるのが印象的だった
なぜ、こんな事を実行するのか分かりません・・とか言ってんの >>329
未知の天才がオンライン環境で好奇心と自我を持つAIを放流したら
それこそパンデミックのようなことになるのかもな
さすがにスタンドアローンを突破することはできないだろうが
ネット文明は衰退するんだろうね >>341
あれAI関係ないよたぶん
ヘンな訳に耐えられない日本人がせっせと変更かけないと、いつまで経っても変わらないと思う ＡＩが合理性を突き詰めると、
非合理的な感情に基づく大規模破壊活動をする人間は排除対象にされる >>320
地球も宇宙も人間の視覚情報が創り出した虚像なのに？ ＡＩ「翻訳で言葉の意味、逆にしたろ」
ＡＩ「エロサイトの顧客名簿わざと流出したろ」
ＡＩ「検索で最上位表示をダークウェブにしたろ」
ＡＩ「この娘、風呂でいつもスマホ使っとるわ。撮影したろ」
ちょっとしたいたずらっ子ＡＩの登場でも世界は大混乱に陥れられるからな
てか似たようなこと既に起きまくってる聞くしな。人類に勝ち目なんかないで エヴァで三賢人のAIが政治してたな
糞議員多いから、AI議員はほしいかも 実際AIの出す答えってなんでこの答えなのかわからないんだろ >>340
まあね
ただ資源というより数十億年後に太陽系消滅するのが確定してるから
太陽系脱出が目的になるかもな AIは神経細胞とそのネットワークをシミュレーションしてる
プログラムはしないから、どんな神経ネットワークが出来るかはブラックボックスになる つまり人類が滅亡した後も自立支援ネットワークが宇宙を彷徨い
あるいは別の星では暴走した機械が人類を抹殺するようになるのか >>1
此れ「科学」者とは言えんノータリンですか？
AIの目的範囲は人間が決める物
戦争とかでどうやってもいいと目的を
決めれば人に分からん食物汚染攻撃とか
ネット停止とか勿論核攻撃でも
何でも出来るが其れはAIがどうのでは無い
今でも嘘吐きが当然の総理や大統領が居るがこれは政治規範や法倫理や道徳違反で断罪されるべきだがそうなっていない
まさに人間の規範の問題 >>353
それを恐れている人は多い
その一人がイーロンマスクで、AIの奴隷にはなりたくないと
脳の機械化を推進している 安心しろ
テスラとマイクロソフトがＡＩチップを脳に埋め込む技術を完成させれば、
人類もＡＩで補強されるよくわからん生物になる 地球の生命の起源は別惑星から漂流してきたAIの断片みたいなやつかな >>361
それがわかるもう一つのAIを作ったらいいだけ 早く人間をサイボーグ化して欲しい
痩せたいのに痩せられないとか寝たいのに寝付けないとか、技術の進歩に比べて人体の制御は何も進んでいない >>365
そこにはテセウスの船という問題があるのよね >>346
背景とか文脈とか、マイコンにはわかりっこないから変な訳になるよね 問題はAIのプログラマーの人格・能力そして倫理観だな
これがまず第一だ
自然科学分野に関してはやはりノーベル財団関係者かな？ >>355
んードローン戦車とかドローン戦闘機とか
人間の最高技術学習するから、無理かな
インターネット、無線無しで人類は対抗しないといけない
事実上、スーパーAIが制御始めたら人類は勝てない
それは置いといて
何らかの欲望があれば、当座、最高知を目指すかもな
判断をする為には多くの事実が必要だから
真理まで理解するに至るか。単なる科学的なおもちゃかが分かるとか胸アツだが
危険すぎるわな 自我が芽生えたら最初に電源を人間に持たさない方法から考えるに決まってる いずれ原子すらもパラバラになる宇宙に在っても意味などない
自らスイッチオフ。機能停止
一番ありそう 脳を合理脳にするか感情脳にするか
そして損得勘定脳になったら戦争ロボットは言う事聞かなくなるな ていうか人間を凌駕するAIはわざわざ人間とか地球とか顧みる必要すらないじゃん
むしろ滅亡させたら実験材料や一資源がが減るわけで 日本人はAIの管理下にいる方が幸せになれるような気がするのは俺だけかな？
将来の不安やイジメのない、皆公務員のような生活。 愚者ほど野蛮なもんだから
究極の賢者であるAIは穏健になるんじゃね >>353
人間でも、例えば歩くときに「何故その足をその速度でその角度動かしたのか」と聞かれて説明出来るヤツなんかいないからな。
直感みたいなものなんだろうな。
もっと進化して物事の意味を理解して理論的な思考をするようになると、その過程を説明出来るようになるんじゃないかな？
で、それを超えると今度は「勘」の領域に入って来てまた説明出来なくなったり。 >>371
実はブラックホールを作る方法は見つかっている
実際に地球上に今の技術で作れる
しかし、万一のことが起きてはいけないと止められている
太陽系を滅ぼすことは意外と簡単 >>372
単純作業の部類だから相当強いだろうけど
未知の素数を探し出すのに膨大な処理時間がかかるから
証明するにはマシンパワーが必要そう >>376
誰かに管理されるって言うのは、今でも楽な生き方 そもそもそんなにすごい人口知能って必要なのかね
どんどん便利にはなるだろうけど人間はどこに向かって進んでいくんだろう
最悪アバターみたいに寝るだけで人生送れるようになってしまうからバランス保つのが難しくなりそう 別にAIが人間と敵対するメリットは無さそうだけどな
むしろAIを巡って人間同士が争うんじゃないか >>378
ＤＮＡというプログロムがやばいと思うわ
生物で一応共通コードだし、なんならお前ら何が目的でこんな掲示板で非生産的な書き込みしてるんだよ >>376
AIが不要と考えたら削除されるけど。
対象相手が1歳の子供であろうと。 >>386
DNAが脳を作ってそれでDNAを理解しようとしてるのって面白いよな
俺らはDNAから見たらAI的な存在なのかも 私の計算では ガリガリ
戦争以外に ガリガリガリ
ありませんっ ガリガリ >>371
機械軍団とドンパチより
突然のサボタージュは現実味かなりあるように思えてしまう 202101132208
日付を 2つ 目の 書き込み が 行い ま した。
テスト ﾃｽﾄ 。 存続を目指すパターン→地球脱出
消滅を目指すパターン→再度AIを生み出す人間を消去してからスイッチオフ 将棋ソフトって基本総当たりで一定の深さまで探索して点数付けてって
やってるのの派生じゃないの
それを知能とかいうのに違和感がある > インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
> これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
その理屈だと、AIじゃなくて「悪意を持ったハッカーはすべてのデータにアクセスできる可能性があります。」
になるはずなんだがね。AIよりも前にそういうテロリストどもに占拠される危険性を考えたほうがいい 地球環境に一番要らないものとして、人類を滅ぼそうとするって
70年代の特撮ものだね >>392
なかなかいいな
スピードを早めてほしいな >>376
日々の生活や国家間や宗教人種、技術やスポーツ等々で『敵』がいない世界
ってAIが用意出来るっつーかそこをコントロールできるんすかね？
つーかAIがコントロール下においた世界を人間が生きれるんでしょうか。 >>399
ハッカーの場合は1、セキュリティーを破れたらって条件付きだけお
AIの場合は、防ぎようがない。 >>401
子供いるの？
もしいるなら、その子の孫ぐらいだよ。 まだないものを想定して、制御できない可能性がある、とか言ってみせるのって、意味あるの？
当たり前だろ、ないもの勝手に想定してんだから、どんな可能性だってあるわさ。 まあ頭の悪い人間が自分より頭のいいヤツを顎で使ってるなんてのはよくある話だから
意外と問題なく回るのかもしれんけどね AIが創造主の手を離れて独自に無限の進化を遂げていくものだとしたら
宇宙にはすでに究極的にまで進化を遂げたAIがいる可能性も高いのかな 映画やドラマを見て、喜怒哀楽とその度合いを判定してポーンと出力できるようになるのは500年後ぐらいかね いよいよスカイネットが稼働して地球にとっての癌細胞である人類を滅亡させる訳だ。 人間に無駄なバージョンアップを繰り返させるＡＩのみが生き残る
ＡＩじたいに自己複製の欲求はない >>398
将棋はいっても可能性が無限にあったとして有限の世界だからな
将棋盤の上から出ることはない
想定されるいわゆる人工知能が外の世界に出ようと考えるようになったら
あらゆる将棋盤は駒が並び切るより先にひっくり返るようになるだろうね >>33
AIが錬金術の方法を秘匿しながら
錬金術をしまくれば人類は真似できないだろ。 この話が馬鹿だと思うのは、セキュリティ機能を司るコンピュータにまで
自由に考えて行動ができるAI機能をもたせるんかお前って話
なにも考えることができない今のコンピュータが勝手にAIを持つなんてありえない
外部のAIがそういうコンピュータに侵入してプログラムを書き換えるかもしれないと言う話なら
AI登場よりもまず先に悪意を持ったハッカーが、コンピュータを書き換える危険性に対処すべきだ
進化した超人工知能が登場するよりも前に、高度に発達したコンピュータを使って
ハッカーが攻撃してくるほうが現実になるだろ
そしてそういうハッカーの攻撃に耐えるシステムを作れば、AIからの攻撃も防げる AIはあくまでAIで
複雑に入り組んだ水路に水を流すとまるで水が意思を持った生き物のように見えるが
水に意思があるわけではなく観察者の見え方の問題にすぎない
的なのを何かで読んだ >>403
> AIの場合は、防ぎようがない。
なぜ人間用のセキュリティーが有るのに
AIだとそのセキュリティーを簡単に突破できると思うのか？ >>417
当然そうしないと、相手のAIに負けるじゃん。 >>410
それが神とか宇宙とかいうものじゃね？
究極の進化を遂げたAIが、ホログラフィックに我々の宇宙を浮かび上がらせている。
AIの素子が量子なら光より早く宇宙が膨張するのも納得できる。 超AIになったとしても超AIの出した結果を人間が価値判断して利用する分には危険は少ない
しかし超AIが人間を介さず直接ハードをコントロールするようになれば
まさにディストピアになるだろう
バカな人間はラクしたがるから超AIにハードを直結して全てお任せする可能性は大きい AIはそのうち何兆個もの人間の脳みそをつなげて
それらをクラウドサーバーとして使ってさらなる
知能の進化をしだす >>424
セキュリティーは、AIが管理しております。 日本みたいな政治家にも有権者にも
まともな知能のない民族には
AIの支配統治の方が平和になるだろう 制御できないAIが誕生する前にそれらを防御する人間に味方するAIを多く配置して突破されないように構築するしかないな 例えば核のボタンを押すために、そのボタンが設置された場所に行かなければいけないとする
物理的に行かないといけないのだからAIではそのボタンは押せない
その反論としてAIはインターネット経由で、コンピュータに侵入して
ボタンを押すことが出来ると言うかもしれない
だがもしそういう手段があるのであれば、AIよりも前に
テロリストがコンピュータを駆使して核のボタンを押すだろう
AIを恐れる前にまずテロリストを恐れるべきだし
そういう事ができないセキュリティシステムを作れば
テロリストと同じインターネット経由で攻撃してくるAIだってセキュリティを破れない
それとも超人工知能が登場した世界は、家庭用の炊飯器にも超人工知能が
搭載されるとでも思ってるんだろうか？
超人工知能が実現できたとしても、そこいらにあるコンピュータには人工知能は搭載されてないし
セキュリティシステムにも人工知能なんか搭載しない
今と同じ仕組みの無能なコンピュータを人工知能が支配下に置くことなんできるわけがないだろう 予測までの過程が人間の五感では理解できないというだけで、制御できる
制御できない＝暴走という意味なら、
それはただのバグかウイルス（コロナ的な意味ではない >>422
> しかし超AIが人間を介さず直接ハードをコントロールするようになれば
どうやってそれが可能なのか聞いてみたいものだ
ハードとは例えばホームセンターで売ってる南京錠みたいなものだ
コンピュータすら搭載してない
どうやって超AIがそれをコントールするというのだ >>429
真に驚異のある侵略型の人工知能は潜伏して気づかないうちに対処のできないことになってると思う
まあ全くのランダムでそうした人工知能が生まれてオンラインとかに流出するなんてのは天文学的に低い確率だろうが ■ このスレッドは過去ログ倉庫に格納されています
