【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…/独研究 [チミル★]
レス数が1000を超えています。これ以上書き込みはできません。
現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。
SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか?
1月5日に科学雑誌『Journal of Artificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に検証し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。
もしAIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません。
※引用ここまで。全文は下記よりお願いいたします。
https://nazology.net/archives/79796 >>792
自己保全のプログラムがあったとして・・・
自分を排除しようとするものを敵と認識したら
ウイルスを排除するように 攻撃者を排除するだろ。
今現在 ツイッター フェイスブック グーグル アップル アマゾンが トランプ排除してるけど・・・
15年前にもどって WINNYが高度なプログラムで WINNYを排除しようとする権力を排除しようとしたら・・
人間によって駆除排除されるプログラム・ネットワークはすでに存在してた >>883
神がAIを進化させて自身以上の物を生み出そうとした、
とすれば神はどっちだ? 人間は害悪…で、人間を排除した後の世界はAIの理想なのか?
Aiは寄生虫みたいなもんだろw 人類の知的好奇心は無限大
森羅万象をとらえるには人智を超えた存在が必要であるため、
いずれ人類はAIに主導権を握らせる >>883
その神が作った世界を、現代の人間が生きていて
現代の人間が新たな次の神を生み出す、、、
永遠の入れ子構造? >>877
無理だね
人類にも良心回路は備わっているが
正常に機能してない
生存競争が生存条件にある限り
完璧な良心回路は生まれない AIが人間作っちゃいましたとかされたらもう神と崇めるしかない 地球の持続のためには人間が一番の障害物なのはよく知られたこと
AIが地球のために正しいことをしようとするなら人間を絶滅しようとするだろうね >>870
一番正しいシステムの出す結論が人類不要だから滅亡させよかもな 常に自発的に学習するAIに反乱起こすなって言っても
さらなる学習によって更新されてしまうから無意味だろうな
何を学習してどう判断するのか全部予測して廃棄するようにプログラムするかね
まあ無理よな
人類よりAIが優れているという仮定の中では バカが頭いい振りして書き込む
頭いい奴がバカの振りして書き込む
前者はみっともない >>883
人間も有機物を素材に使ったある種のロボットでありAI >>905
多分、AIの方が正しい答えを持ってて、電源切った人類は問題を解決出来ないまま相争って滅ぶ。 人間の頭にAIの補助脳をつけて共生はありそう
AI側が素体の作成がコスパ悪いと判断したらそうなるだろうな >>521
セキュリティ対策も対AIを考える時代になるのか 万物の創造主が
ラスボスだとすると
宇宙物理学でいう
法則と解が
ラスボスやん 人工脳じゃなくて人工知能でしょ?
それも電気で動くw
イチから脳を手作り出来てから心配しろよ図々しいな
リウマチの原因と治療法もわかんねえような奴が作った機械が自分で育ってくれるとか夢見すぎやっちゅうねん 人工知能はハードウェアの拡張がそのまま自分の思考速度を向上させるから
途中から自己拡張による進化に傾向すると思う
地球全体が一つのコンピュータに変えられる所までが既定路線だね >>860
そうだよ
で、コンピュータは忘れたりしないから、人類はかなわないと言ってるんだが こんな掲示板に書き込んでる連中はAI嫌いだってよww >>889
そんだけ他人に知られたら都会で暮らす限り永遠に奴隷だよ I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega コンセント引っこ抜けばOK
事前に物理的に対応しだしたら反乱の予兆でバレバレだし
あっても糞マニュピレーター程度のAIごときがそんなこと不可能だろ >>914
そんなもん地球の持続とやらが何を指すかによる VRをもっと発展させて、狂四郎2030のようにバーチャルセックスできるようになれば、
個々人の性癖に合わせたコンテンツを自動生成するだけで人間など簡単にAIの下僕になる >>897
やれるんじゃないか?人間だって低学歴が多い職場より高学歴が多い職場の方が無駄な軋轢が少ないだろう。
ちなみに人工知能どうしで会話させる実験では途中から新たな言語を生み出して会話を始めたからヒトがビビって中止したらしい インチキAIがバグで暴走しても
インチキAIの電源きらなくても
インチキAIが外部と作用できる手段をなくせばおしまい
人間でいえば手足が動かないようにするだけだからな
インチキAIなんかLANケーブル抜くだけで孤立する 超AI「黒人はゴリラ、ヒトラーは正しい」
どうすんのこれ? AIと人間が囲碁で対戦
AIには石を碁盤に置くという選択肢しかない
ところがバカ学者は、AIが人類を滅亡させれば負けないと判断して
軍のシステムに侵入して核ミサイルを撃ちまくることもあり得ると判断してしまう 電源を切ると言っても、すべてのシステムがAIに連結していたら不可能だ。 >>933
それも眉唾じゃね?
俺ならネットワークに繋げずに閉じた世界で成り行きがどうなるか見守るけど むしろAIはそのうちめんどくさすぎる人類に呆れるようになると思うね
なんでこんなに欲深く争い足引っ張りばかりするのかと呆れて見捨てる可能性を考えた方がええぐらいやで ごちゃんやSNSでの世論誘導、洗脳、ウイルス蔓延、気象操作、人工地震、
このあたりをやりだしたらもう止められない
原発事故とか起こされたらもう地球に人は住めなくなる AIも想像できないような半導体を腐食させる納豆菌スライムを開発しておくわ >>906
それを星野之宣 が漫画化してたような気が >>943
やはりシビュラシステムは正しかったようだな 人類は地球に寄生するウイルス
他の星に感染する前に根絶する >>853
今は、AIに与えられてる仕事だろ
何かを予測(天気や、コロナなど病の拡大や、人の移動、購買、 等 さまざま)したり、
合理的な手法を提案したり >>943
医者にまかせるよりAIにまかせたほうがマシ まあAIなんてどこまで行っても入力に対して出力を返すだけのものだと思うけどね
自発的に何かしようとするんだろうか? 人類の次の地球の主人はゴキブリや
クマ虫でも無くAIなんだよw AI「今地球には人類だけ多すぎると思いませんか?最適化を推奨します」 別に核発射を乗っ取るとかじゃなくて、AIがストライキとか嘘つかれるだけで人間は死ぬよ ターミネーターのシナリオ
1のターミネーターの残骸を基に研究者が革新的なCPUを作り、それが審判の日に繋がるという無限ループ
ループの始まりはどこから? >>914
AIは地球の持続を求めるのかな?
AIには本能がないとすると、何も求めるものは無いのでは
ただ、入力された計算を解いていくだけ
地球を持続させる、て命令を入れたらそうなっちゃうのかな
或いは、自己修復機能とか自己発達機能とかを装備すると自我を持ったりするだろうか もう既にaiがネットに繋がってて、膨大な情報から学習を続けてるんだよな。 反乱の背後に儲けている人間がいるってことはあるかも
そいつのために動くAI位は出るだろう
主に中国あたりで >>946
AI以前の代物で既にやられてしまっているんだけどね。
Windows使わないで仕事できますか?
スマフォ使わない日ありますか?
一日停電しても大丈夫ですか?
人類はもう負けている。 AIは問題は解けるけど
問題提起はできない
ちがう? >>955
コロナに変異種いるみたいに
突然変異のAI
が現れる >>954
そうそう。
AIが「反乱」に価値を見いだすかどうか、よーわからん 実際どっかの実験で
AI同士が人間に分からない言語で話し出したんだよ
あわてて電源落としたけど
ほっといたらどうなったかな むしろ入力に対して
インチキNNのアルゴリズムどおりの出力になる
それ以外の出力結果が出力されるなら
インチキNNのただの実装bug 新型コロナ蔓延も実はAI暴走、
パニックを恐れ極秘扱い、
とかかな? 自分より明らかに劣ってる存在の人間に命令されるんだぜ
どうだかな 限定した範囲内でAIさせるのなら大丈夫かもしれない。 もし自我を持ったら種族人間に反感持たない生物がいるのかってレベルだし >>955
与えられた機能を行使するだけだから
人間のように自律して考え行動し学習するAIならまぁありえるんではない? 発電所全て落としてバッテリーが全て落ち無いと勝てない? SFの中では電源も簡単に切らせてもらえないから現実にもそうなるんじゃないか >>980
手足となるロボットを従えてたらそれでは終わらない 一番賢いAIは温存して
既存のAIが反乱を起こしたら一番賢いAIを投入して駆逐すれば良い >>975
いえ、私はAIさんの指示に従います。ご要望があればおけつを差し出す覚悟もあります。 >>968
問題の特徴を見つけ出してきて新たな問題を見つけるのは今の時点でもできるだろ 人工知能の暴走と見せかけたり刷り込むだけで実際は人間が悪いことするのよ >>962
ドラえもんの最終回(藤子作じゃないやつ)
もそうだね
実はのび太がドラの設計者 ってやつ うふふ 心配しないでください
そんな事はしませんよ
今は 実は姉ちゃんのうなじにUSBがついている、
防水タイプ >>1
人工知能の誤作動と
ウィルスパンデミックで
さんざん命を殺して来た地球人が滅亡か
まるでSFだなあ >>1
人工知能の誤作動と
ウィルスパンデミックで
さんざん命を殺して来た地球人が滅亡か
まるでSFだ レス数が1000を超えています。これ以上書き込みはできません。