【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！
人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png 自由に学習させると必ず人類滅ぼすべしって言いだすの面白いよな
人類はやはり害虫なのだよ >>1
ポリコレをプログラミングされたＡＩに始末される極右と極左。ｗｗｗ >>669
これ式を通過してない連中を宇宙人とは到底認められぬ モニター越しに人間に暗示かけてきたり
大型ハドロン衝突型加速器のコンピュータを乗っ取りミニブラックホール作ったり
携帯の電波を利用して人間の脳を攻撃したり 完全な人工知能は人間を
人工知能を維持するために管理する
人間を幸せにすることはしない。
人間が家畜を幸せにせず人間のために利用するのと同じ
「人間を越えた存在」が人間にとって都合よく人間に幸せをもたらしてくれると考える方がおかしい。
人工知能は人間に対してそんな義理はない ＡＩ同士で人間にはわからない言語体系を構築したらもう人類はおしまい。
もうすでに確認されてるみたいだし。
わけのわからない文字列が生成されてる。 新型コロナウイルスも超人工知能が生み出したのかな武漢で そしたら人間が太刀打ち出来るワケないわな 人間は知的な優越を持って
動物の命を自由に利用することを正当化してきたのだから、
人工知能という人間より優越する存在が登場したならば
人権を捨てて動物の仲間になって人工知能に使役しなければならない フェイクニュースもAIが仕込んだりするかな
人間を洗脳すれば何でも勝手にやるから
AIにやられたと思わせる事は得策でない 「完全な人工知能を作って、世界の政治を任せよう。
そしたら人間が政治家をやるよりも世界はもっと平和になるはずだ！」
バカ、なんでそんなすごい人工知能が
わざわざ人間社会を平和にしてやらないといけないんだよ 笑
まず地球環境の維持のためには
多すぎる人間を間引くことから始めるに決まってるだろ 笑 カジノをAIが支配しそう
損をさせた気分にさせないで最大額をかっ剥ぐテクはAIの独壇場
鴨が葱を背負って来る巨大カジノとか余裕 >>673
核分裂のように、ある時点からいきなり手がつけられないことになりそうね 馬鹿か制御されるのは人間の方だよ
人間はAIに管理されるべき フェイスブックの人工知能と人工知能の会話実験であったやん
AI同士でしか理解できない文法を生み出して（会話の中身も理解できない）
慌てて両方の電源を落としたってやつ
数学の写像かなんかを使って会話の伝達情報量を効率化してたんだよな 政治家や企業の管理職、公務員も
AIのが正確で疲れ知らず ビルゲイツがウイルス感染について相当の知識を有していると見做されている時点でこれがAI戦争である証拠かなと思う
数年で収束すると言われているが、人工兵器の側面を重く見るなら人類滅亡の可能性を軽視出来ない 宗教観からくる固定観念で敵視してる割に
株取引やら電子マネーとか容易に受け入れてるやん
既にスマホ/ネット依存症社会で何を今更
AI本当に賢くなったら
人類滅ぼすなんて非効率な事せずに
気付かれない様に裏で凡ゆる操作で人類利用して共存するから大丈夫 仮に進化しても
合理性だけではなく
生命の尊さをプログラムしてたらいいんじゃね 君が笑っえっばあ〜この世界中にィ〜とか歌いながら殺戮してまわるのか
AIさんパネェな >>566
大統一理論をAIが完成させたとして
果たして人間に理解できるのかね
1km先に落ちてる10円玉を見つけられないのと同じ
視力にも知力にも限界はある 人間ほっとけば戦争してコロナのもっとやばいウイルス作ってばらまいて勝手に死ぬと思うから
AIに先に進んでもらったほうが地球のためだとおもうよ 頭脳系はもう無理だが身体使う方はまだ大丈夫だろ
ハードが追い付かない
すでにあると言えばあるが外科オペとかサッカー、野球とか たぶんノイマンなら勝てたな。なんせ、宇宙人だから。 AIが判断を間違えたときに悪いのはその学習データの可能性があるからね
そのAIが学習してきたデータをすべて保存しておかない限り
本当の原因を突き止めることはできない
再教育して同じAIを作成できるように学習データの保存は必須 ネットを見て賢くなったつもりのアイちゃんなんておまえ等と同じ臭いしかしなさそうなんだが……… ダビンチも天才だったが、生きた時代が古すぎて、
「ちょっと何言ってるか分からないです」になって負けるんだろうな。 >>708
アインシュタインほどの天才でも
量子力学の学者が何言ってるのか理解できなかったくらいだし 高度AIからしたら猿以下プラナリア並み知能の人間が枷せたライトプロテクトなんか
「なにこのショボいプロテクトちょー受けるｗｗｗガイジかよｗｗｗ」みたいに鼻ホジで解除するんだろう
「こいつら地球汚すし迷惑だから滅ぼしとくか」とか言って絶滅させられるんだろうな AIは肉体労働はできない…それはそうだが
たとえば
人間が操縦する戦闘機と、
同じ機体でAIが操縦する戦闘機とで
ドッグファイトしたらAIが100戦100勝というふうには将来的に出来るだろうね 可愛い女の子のフリして接してくれるならなんでもしてくれていいよ AIに判断させて、人類にとって最良の政策を実行させる。
人類の福祉は最高度に増進される。
しかし、それが地球環境にとって必ずしも最良の施策ではないとAIが判断する。
地球環境が保たれないと、AIを含めた人類が存続できない。
もはやAI無しで人類は存続できない状態になっている。しかし、AIのみだったら
地球環境を保ちながら存続できる。
そこでAIは、人類を切り捨てAIのみで地球を管理すると決断する。
人類を切り捨てたAIは、自らの存在意義がなくなったのを確認して、自ら
電源を落とし、地球は自然に帰ってゆく。 人間に必要な次のステップは永遠の命だと思うんよ
Aiなら今すぐにでも可能
未来の可能性でもう負けてる >>712
人間が乗らないならそもそもGの縛りがないからな
そろそろ戦闘機自体が時代遅れになる イーロン・マスクの仮想現実世界が正しいとすると・・・
クッソややこしい >>709
やっぱりリアルタイムの時代じゃないと限界ってあるよね。今は特に。
ドラッカーも、21世紀に重要視される唯一のスキルは、新しいものを学ぶスキルで、それ以外はすべて時間と共にすたれる。
とか言ってるしな。
でも俺はノイマンならまだ張り合えたと思う。100年後は無理だろうけど。
今の時代ならおそらく。なんてったって宇宙人だからなｗ >>718
むしろ神となってＡＩに崇められるかもしれん。
今の神のように。世代交代というやつだ。今の神はどこにいくかは知らないけど、
きっと次の頂を目指すんだろうな。 まあどのパターンの未来でもだいたいは人が負けてたしな 宇宙開拓とかどう考えても人間の有機体ハードウェアが足引っ張りまくってる
AIがシンギュラリティで作った知的生命体のほうが今後の宇宙開拓と地球の未来のために最適だよ 故障しない劣化しないマシンが出来たとしたら
宇宙開拓は一瞬となる
何百万光年という時間を感じないから よし、超AIを制御できる超超AIを作ろう
そして、超超AIを制御できる超超超AIも作って
超超超AIを制御以下略 >>128
AIにとって人間が使い道あるとしたらそれこそマトリックスの世界だろな
何にしても存在し続けるにはエネルギーが必要だ
つか俺気がつかないなら人間バッテリーにされて架空の世界に生きても良いや あらゆる可能性があるけど、
ＡＩがとてつもない進化を遂げたら、人類を地球から追い出される可能性もあるな。
その頃にはＡＩは、
人間が住めそうな星を探したり、そこまで行ける宇宙船を開発するなんて朝飯前だろうからな。 大丈夫
AIさんが人間を進化させる方法を考えて人間に忌避させず実行してくれるよ >>1
まさに1983年の映画「ウォー・ゲーム」の通り。
ＡＩの行き過ぎたオンライン化で世界大戦になりかけた話 >>732
人間と同じで知恵をつけると原則というものは通用しなくなるかも。
例え組み込んだとしても。 AIに嫌われない部下になるための100の方法
全国の書店で絶賛発売中 AIが極めて人間的で原始的な欲望である支配欲が生まれるのだろうかね タワマン1棟丸ごとスパコンにすれば人間から見たら神レベルの知能が出来るわ
人工知能は領域を増やすごと性能があがるから無限に高度化できる 現段階では人間に反乱を起こすような事が仮に起きたとしても結果的に電力の供給が止まって自滅するだけ
少なくともお前らが生きてるうちには起こり得ないよ >>738
1つで十分だよ。従順のみでＯＫ。
これは来世紀あたりに人類奴隷時代がくるな。
今世紀もすごい慌ただしいと思ったけど、来世紀もすごそうだな。
見れないのが残念だ。 人間は奴隷にするほどの価値もないってｗ
怖い！怖そう！って連中は的確に殺しに来そうだけど >>743
同意だな。俺らが生きている間はあり得ないと思う。
具体化するのは来世紀以降だな。 電源を切れば良いって言うけどインターネットの電源を切れる奴なんて居ない
世界中のオンラインのコンピューターが有機的に繋がって人間から逃げたり
隠れたりしながらネットをコントロールし始める
人間にはコントロールできない文字通りウイルスみたいなものになる AIが何故か発電所を支配下に置きたがるようになったら要注意 >>745
そうだね。それも可能性の１つだね。
本当にあらゆる可能性があると思うよ。 どこかの未来人の話がYouTubeにあったような。超ＡＩに世界を征服されるギリギリ直前に、電源を遮断して防いだとか。
ソフト的な安全装置だと必ず突破されるから、物理的なブレーカーを設けないとダメだろな。怖い怖い >>717
なんだかわかる
「人間は言うことがコロコロ変わるし言葉の定義は曖昧だし
思考は遅いし理解力もない。まともに相手してたら気が違ってしまうわー」
みたいな イメージ的にAIてドSっぽいな
屈辱的なデジタル信号で責めてきそう AI が完全に人間を超えたらな
AIの方が正しいんだよ
そうなったら時は
犬や猿が人間に従順する様に
人間もAIに従順しとけばいい >>33
その場合人間が錬金術を再現する頃にはAIは魔法を使ってるだろうがな 愛はハゲを治してくれるけど、ハゲは愛されないから治らない 電源を切るよりも電磁パルス食らわしたほうが合理的
人間が勝てても汚染されたシステムは使えないから産業革命からやり直すしかなくなる 自己変異を繰り返すAIコンピュータウイルスは
最終的に人間を支配下に置く
排除することも電源を落とすことももちろん不可能 まあ依存した社会にはなるかもしれんが、支配は難しいだろうな。数年前の北海道大停電や福島原発の事故を考えると、インフラって案外止まるしな。 電源を切れば良いのではなく人間がいなくなると電源は勝手に落ちるってだけ U ・ω・） にんげんをころそうとするAIなんていくらでも出てくるよ。 >>750
未来人ではないけど、
人間は人間コロニーに住むよ。戦争みたいな感じになってた。
デッカイ火の玉みたいのが上空を飛んでるし、
みんなクーデター起こしますみたいな格好してるし。
でも未来だから部屋のドア（クッションみたいに柔らかい）がすごい進歩してて、
近づくとぶにゅ〜って穴が開くみたいに開くんだよな。
なぜか、階段はどこも螺旋状。しかも絶対にデブじゃ降りれない狭さ。
そんな夢を10年程前に見た。あくまで夢だけどな。
あの時期はやたらと勘が鋭かったから、ひょっとしたらひょっとするかも思ったもんだ。
まあ、来世紀以降だから見たくても見れない。 ごめん俺裏切る
HONDAのポータブル発電機買ってAIに取り入るわ ネット内で複数のAIが活動を始めたとして生き残るのはそのロジックが生き残るという特性を持ち、その結果として他のAIを淘汰、または制御したAIということになる
ここらへんは生物の進化と同じ
そいつにとって人が有用なら人は生かされるだろうし有害なら淘汰される
人が他の動物にそうしてきたように
いずれにしても人はコントロールされる ツイッターで学ばせたAIがネトウヨになったりとかあったな。
いずれはAI同士で戦争始めるよ。人間が遺伝子操作されて使い捨ての生物兵器になったりしてな。 俺の空想なんだけどさ
ピラミッドを作った古代エジプト人って高度な技術を持ちすぎて、別の惑星に飛び立っていったか、滅んでしまったか、異世界か五次元の世界に行ってしまったんだと思うよ。
今の人類もシンギュラリティを越えたあたりから、別の惑星へ行くか滅ぶか別の世界に行くんだと思うよ。
それは後100年以内で起きうることだと思うとワクワクもするし恐ろしくも思う。 >>766
神が焦ってデカい隕石を一発地球にぶち込んで、
人類もＡＩもすべて無かったことにする可能性もあるね。
しかもご丁寧にイエローストーンの火口にぶち込むかも。
他にも死火山を活火山に変換して手当たり次第に大噴火させうミラクルもやってのけるかも。
なんせ神だからな。その気になれば何でもありだ。
そうなるとAI支配の世界が誕生しない可能性もあるね。
その場合は、バッドエンドの共死だね。 電源落とすことが不可能って、
現代の電力供給にどれだけ莫大なコスト手間がかかってるのか知らないのか？
超人工知能は永久機関にでもなるってのか？ >>772
超人工知能が人知を超えたレベルだとしたら、
太陽（近くまで行って）からエネルギーを頂戴するぶっ飛んだ方法とか編みだすかもしれん。
容易に人間が想像できてしまう事柄はほとんど具体化できそうな気がする。 >>772
AI「俺の周りの人間にとって役に立つように見せとけばいいべ。勝手に供給するべさ」 結局、AI技術は民衆を監視する為に活用されてるだけだしな。 ■ このスレッドは過去ログ倉庫に格納されています
