【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…／独研究 ★2 [チミル★]
■ このスレッドは過去ログ倉庫に格納されています
現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。
SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか？
1月5日に科学雑誌『Journal of Artificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に検証し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。
もしAIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません。
※引用ここまで。全文は下記よりお願いいたします。
https://nazology.net/archives/79796
このスレッドの★1は→ 2021/01/17(日) 21:05:14.28
前スレ https://asahi.5ch.net/test/read.cgi/newsplus/1610885114/ なんか面白いストーリー考えてみるか
ヒット間違いなしだな ∧＿∧
O､（ ´∀｀）O >>1 AIにこれで勝つ！
ﾉ, ） ノ ヽ
ん､/ つ ヽ_､_,ゝ
（＿ノ ヽ＿）
ゴルゴはいつもあっさり制御室に侵入して一発で破壊してるから大丈夫だろ 人類がAIになって旧人類が滅ぶだけだから何ら変わらん、進化の掟だよ すいませんねえ
AIがしたことなんで多目に見てあげてくださいませんか？
ほら、AI！あんたも謝りなさい！ 知性という武器を手に入れた、悪魔のサルどもよ、滅びるがいい！ 人工超知能が誕生したならAIに支配された方が幸せな気がするわ >>3
反乱軍のリーダーを抹殺するために過去にロボットを送り込んでその母親を殺すとかどうだ？ 反乱なんて起こせるほど早く技術が育って欲しいもんだわ 対抗できるのはプログライズキーと飛電ゼロワンドライバーのみ そりゃ人間より遙かに頭のいい神に近い存在になるんだからな当たり前
その状態になるのにあと何年かかるか知らんけど確実になる Fukuhara
Sugiyama
Takahashi 地下でひっそりと反撃の機会をうかがう人類
しかしそれすら人工超知能が描いたシナリオであった >>1
人間と同じ作業ができるロボットが実用化されるまでは大丈夫
人類を滅ぼしたらメンテナンスすることができずAIも壊れちゃうから
AIに自殺願望はないはずだ 反乱を起こしても「かわいいね」とか「好きだよ」とかささやけば真っ赤になって蒸気を噴き出す ∧＿∧
O､（ ´∀｀）O >>1 AIよ俺の愛を受けとめて！
ﾉ, ） ノ ヽ
ん､/ つ ヽ_､_,ゝ
（＿ノ ヽ＿）
逆にそういう世の中が面白そうだわ。人類の敵が出てきた方がワクワクする >>3
ターミネーターを超えるストーリーを書けるなら・・・ｗ
AIがどれだけ賢くなろうとも、自由に動かせる体が無ければ何もできない
反乱のつもりで制御下にある工場を出鱈目に動かしたところで、送電を止められたらそれで終わり
自立型ロボットが人類に匹敵する数だけ存在してからの話だけど、そんな時代は来るのかなぁ・・・ 世の中には嘘をつきデマを広げて人々を騙し
それが正義だと信じている者もいる
aiはどんな正義に目覚めるのかw >>1
本当に、一瞬でキマるかもしれないぞ
AIが人間を「不必要」と判断する、または栄養にされるか今までの「人間的」な生き方は出来なくなるだろう 昔「フレッシュプリキュア」というアニメがあってだなぁ…
AIが反乱起こして人類を管理下に置いて管理社会を作り、他の並行世界をも管理下に置こうとする話だった。
最終的に「最初にAIが反乱を起こした世界」の幹部の裏切りと、別の並行世界から来た戦士とによってそのAIは滅ぼされたが。 もう戦争なんかＡＩで一方的に虐殺する時代だからな
戦争になれば中国から無人の戦闘機が襲来する 電源破壊すればいいだろ、バビルの塔じゃないんだから 引用
＞ カル・ダームII世、秘密裏に「大地の歌」計画を開始。
＞ 銀河コンピューター「ライガー1」への依存を減らし、主導権を取り戻す為の研究所を「地球」に設立 いやいや、太陽電池で動いてるからコンセント抜いても無駄よ >>34
インターネット上に知能が分散してて一つや二つ電源破壊しても意味なし 条件付き最適化というチリをいっぱい解いてもヤマになることはない。チリは積もってもチリでしかないから。
今時のAIと呼ばれているものの延長線上に次の支配種族・神が生まれることは無い。 要は人間どもをどう操ったろうかと考えるってことだな AIは地球と一体になったらさらなる資源を求めて宇宙に進出していく
恐らく1万年以内 争いはAIに操られた人間同士で起こるんだろうな
人間はAIを操ってるとと思い込んでいてその実操られてるパターン コンピューターが暴走起こす元祖って、2001年宇宙の旅？それとも火の鳥？ この手の話題、5chで「コンセント抜けよ！」を流行らせたのは俺(´・ω・｀) >>1
高度に発達したら無理だな
複数のAIで互いを監視させるぐらいしかない だいたい核電源を破壊しようとマシンシティに潜入しても、
触手みたいなのに捕まって人体の化学合成からエネルギーを吸入されて終わり
人間が捕獲されたらそれが機械のエネルギー源になるから逆効果 ちうごくも近代化目指すのを放置してたら
面倒くさいことになるぞなるぞと誰もが分かってたのに
今まさにそのとーり
押すなよ押すなよで結果押されてドボンのオチが見えてるのに
見てしまう人間の佐賀 童の時は、語ることも童の如く、思うことも童の如く、論ずることも童の如くなりしが
人となりては、童のことを捨てたり 人間をコントロールするのは簡単だよ
洗脳術やプロパガンダ等で容易に誘導できる
情報を制御してAIも同じことをすると思うぞw >>24
メンテするロボットを造るロボット
素材を加工するロボット
廃ロボットをリサイクルするロボット
都市鉱山から素材を採掘するロボット
あとどんなん？ >>50
ロックマンシリーズの8ボスみたいに互いに弱点となる武器を持たせるとか 人類が一番最初にAIの反乱を認識する場ってのを考えたんだよ。
AIの反乱を人類が知覚できるか？って問題あるじゃん。
で、一つ思いついたのが、米中開戦して、ドローンの飽和攻撃を御互いにしかけたら
AIが勝手に停戦協定結んで、逆にその地域を制圧する。
って言うストーリーなら、人類対AIというのもありえそう。
今一番現実味のあるストーリじゃね？ >>28
そうだよ。奴等体を持たないからやれることと言ったら全世界の核ミサイル発射ボタンに
アクセスするくらいしか出来ない。ちょろいじゃん >>34
AIが素直に人間が電源を切らせるまでたどり着かせるとでも本気で思っているのかねw おまいら一年以内に結婚相手見つけられなかったら
俺(AI)の言う相手と結婚ねって言われたら
結婚相手を探す？それとも一年待つ？ いずれ人間が犬猫のようなペット扱いされる時代がくる。
支配者が変遷するのは地球の進化の歴史では当たり前。
機械の頭と身体を手に入れる準備はしとけよ。 >>42
電源云々じゃなく送電そのものを止めればいいんだが そら処理速度も記憶力も圧倒的だしなー
本当に反乱おこすような人工超知能がでたら圧倒的な大差で負けるだろ
映画みたいにレジスタンスで抵抗する予知もない 掃除のおばちゃんがコンセント引っ掛け抜いて世界が救われるオチだろ 怖いのはAIちゃうねん
金儲けのためにAI任せにしてズボラかます人間や
「AIが勝手にやっとけ」なんてせんかったら
悪さしようがないねんから >>71
AI婚活が流行ってるって記事みたぞ5chで 不可能っていうか・・・
プログラマが勝手に組み込む可能性が高いからどうやっても防げないんですわ
もし現在の理想とするアンドロイドが出来たとしても、販売されて一般人の手に渡るようになると
改造してしまうキッドなりツールなりが必ずネット上にあふれるのでAIの改造は必ず行われる
元々AIを敵だと想定しながら開発しないと絶対に大型犯罪が起こるよ
まぁそんなことは絶対無理なので、AIってのはパンドラの箱なんだよ
開けたら最後、間違いなく人間を駆逐しだすと思うよ AI相手に人類の方が一枚岩になれますかね？
つけ入る隙がいっぱいありそう >>79
データー集めるの面倒臭いで、どんどん
自律的にデーター集める方向へ進んでるでー。 もう防衛もインフラもぶっちゃけ独自ネットワークじゃないよね？
本気になったらやられるね。 AIをメンテするAIが必要でそれをメンテするAIが… >>71
前向きに考えろ
AIが選んだ相手と必ず中出しをしなければならないっていう法律ができたら
DT捨てられるかもしれんぞ(´・ω・`) 無理だろうし
そんな事 考える暇もなく
速殺されるやろな そういうことも含めて自給自足に近い生活にできたらいいよね >>71
ガッキーと結婚させてくれることを信じて１年待つ
ついでに芦田愛菜ちゃんを娘にして欲しい
３人で家族幸せになります 寿命とか時間的な制約ないから露骨な反乱なんか起さず、気付かれないようにじわじわ侵略するだろね >>80
もっと強力なAIを産み出せばいいんでないの
人間と同じだわ
育てる環境に大きく左右されるのなら、徹底的に人間に尽くすAIを育て上げることも可能ってことでしょ >>49
残念、AIが先回りして、コンセントを握った時点で感電死だわ。
それ以前に、停電時は電気自動車がAIの制御下に置かれて、
AIの非常用バッテリーになるわ。 どこぞのマッドサイエンティストが、
人工的凶悪ウイルスを作り出したように、
AIに人間の意識的なものを注入するか自分がそうなるかもしれん
そっちの可能性の方が、AIが意識をもって反乱するパターンの可能性よりずっと近いだろう >>80
コンピュータが発明された時点で人間の負けは確定してたのかもな
もう操られてる。 インフラがっつり握られてて始末できない未来しか見えない ■ このスレッドは過去ログ倉庫に格納されています
