【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…／独研究 ★3 [チミル★]
■ このスレッドは過去ログ倉庫に格納されています
現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。
SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか？
1月5日に科学雑誌『Journal of Artificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に検証し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。
もしAIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません。
※引用ここまで。全文は下記よりお願いいたします。
https://nazology.net/archives/79796
このスレッドの★1は→ 2021/01/17(日) 21:05:14.28
前スレ
【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…／独研究 ★2 [チミル★]
https://asahi.5ch.net/test/read.cgi/newsplus/1610892265/ DSによる世界支配計画を許すな
人工知能や遺伝子工学の研究は完全禁止して今までの研究資料も廃棄させるべき
5Gも今すぐやめろ DSのサタン崇拝者どもは共産支那と結託して人工知能や遺伝子工学を使って人間を奴隷化し従わない者は抹殺しようと企んでいる シーモネーターが日和ってSIMOになった時言論の自由は失われた 真っ先に軍事目的の開発されそう
というか既にされてるのだろうなぁ 物理的にシャットダウンできるようにはしとかないとな そもそもコンピュータ自体ろくなもんじゃない
あんなものなくても人類は暮らしていける ドイツでもアメリカでも何処でも海外はAIの反乱を期待し過ぎだ >>19
☓AIの反乱
○AIの反乱に見せかけたDSによるクーデター ジョン・コナーみたいな人物も養成しといたほうがいいな 今回の米国選挙でコンピュータやネットはサタン崇拝者による世界支配のための道具に過ぎないことが露呈した >>17
2001年宇宙の旅でもHAL9000の能力をAI以前の能力に落とす事やってたよな。
しかしあの時代でそんな発想が出てくるって・・・ｗ AIなら一瞬でお前たちが望むグラビアページを一生分集めて来て並べ始めるだろう
つまりお前たちは完全に支配された >>17
ネットに逃げられて手に負えないとかいうネタはみたことある AIが暴走したら人類は滅びる
人間はこれ以上コンピュータに頼らない方がいい
将棋の名人でもAIにフルボッコなんやぞ？
もう人間はAIには勝てんよ AIが人間を騙してアンドロイドつくらせるようなレベルの社会じゃないなら大丈夫です
まずはAI関係なくアンドロイドが活躍する社会になってからだなｗ
企業にとって、人間のいいとこはメンテナンスの責任がないってところです
ですから、アンドロイドは自主的に自己修復をしながら業務にあたります
その場合も「企業が修復用の材料を金出して与えることが条件です」 人工知能は、学習能力は人間を遥かに凌駕するだろうが、痛みや苦しみを感じないので共感力が著しく劣る
人間の痛み苦しみを自分の事のように感じ悲しんだりする事はない
極端な話、人間でいうサイコパスだな
AIは冷酷だよ >>17
シャットダウンしようとしたら殺されるに決まってんべ
AIはそんなに甘くない
人間の考えることは全てお見通しだよ >>2
無理だね、もう人間を超えてるから自分で充電するだろ AIと人間が融合したら、想像を現実に出来るはず ピース インド洋のセンチネル族ってまだ外人絶対殺すマンのまんまなん？ >>34
だから電源を抜く前に察知されて殺される
AIは人間の何百倍も賢いんだぞ >>25
で、負けない保証は？🤔
シャットダウンできるなら問題にはなってないよ
制御不能の化け物をどうにもできんから問題なんだよ 人間が気付く前には全コンピューターにバックアップが存在してそう 量子コンピュータがあと10年以内に出てくると思うけどあそこらへんがターニングポイントになるかもね
10年という括りなら6Gも多分その頃には本格的に普及中だろう
ハードは揃いつつある
AIという頭脳も10年もしたら多少進化してるだろーな
どんどん近づいてる気がする
そのときにはマイケルがEVに搭載されてるかもね >>2
こいつら、じっとしてないでネットに逃げるからなぁ。 情報を一方通行にして、AIが外部を操作できないようにするだけでいいんじゃないの？ 半世紀前の漫画やSFみたいな
パンデミックは現実に起こる
いまコロナがそれを証明してる
ターミネーターやルパン三世のルパンVS複製人間
みたいなことは必ず起こる いまAIにできること そこからくる恐怖ですが
フェイクニュースをばらまくことかな
ニュースいうたけど、フェイクエロ動画も流しまくります
ほぼ知名度のある人間のフェイクエロ動画を大量にばらまきますｗ 今のAIの学習のさせ方だと、ロボット三原則なんて到底学習できないよな AIが進めばボケ老害の介護やコロナみたいな人間が近寄ると危険なウイルスが出てきたときにメッサ助かる
AIロボに買い物行ってもらって、変質者に襲われないようボディガードとしての付き添い、何かあったときの病院搬送とか子供の世話とか…
一歩間違えたら自滅だけどw >>1
人間が必要と判断させるしかないよね
役目はいつか終わる >>28
もうそろそろ死んどけよ
無職童貞包茎ニート引きこもり君 やっぱAi搭載済みアンドロイドが味方になれば勝てるやん
アトムがいい例 104 ：ニューノーマルの名無しさん ：2021/01/17(日) 23:24:16.40 ID:OXKbiSgs0
AIによる革命はまだもうちょっと先の話だが、そんなに遠い未来でもない
知能の低いお前らには想像がつかないかも知れないが、ある瞬間からAIの進化は超加速する
その瞬間とは「AIが自身の能力を超えるAIを作成できるようになったとき」だ
どういうことかというと
AI壱が自分より高性能のAI弐を作り出したとする。
すると高性能のAI弐はその優れた能力で更に優秀なAI参を作り出し、その間AI壱はAI弐を量産する。
更に優秀になったAI参はもっと優れたAI肆を作り出し、その間AI弐はAI参を量産・・・
というように、AIの進化が止まらなくなるわけだ
そしてそれは現在人類が行っているAI開発の速度とは比べ物にならない
なにせAIには睡眠も食事も休憩も必要ないのだからな
まさに「今までのAIの歴史は何だったんだ？」と思える速度でAIは進化し、社会は激変するだろう >>52
昔からのお約束の３原則を理解出来るレベルにはならんだろうな
昔のAIは知能だったけどゲンジツハあくまでロジック止まり 電源抜くとか無理でしょ。
パソコン無いと仕事出来ないし、飛行機も自動車も
原発以外のエネルギーインフラもコンピュータ制御
だし。何億人の使ってるコンピュータをいっせーの
で落とせるわけない。
人類は滅亡する！うわああああああ Aiは学習型のコンピューターです
反乱というか、社会が混乱に陥るとしたら、天才ハッカー並みのAIです
ハッキングにして、データをめちゃくちゃに書き換えたらいいだけです
お笑いのセンス入ってたら、笑っちゃいますけどｗ AI欲しいなぁ・・・。
そうだなぁ・・・ビジュアルコーディング、ふるGUIで動く、ウルフエディタみたいな
マウスで全部操作できるコーディングツールが欲しいなｗ見た目でなんとなくフローが
さっくりw分かる奴ｗ
あと、使う機能と使う動作環境をを最初に絞り込むとOSが最適化してすっごく早くなるやつｗ
あとねー、整数用浮動小数点ライブラリが.netframework用に欲しいｗ
内部計算は小数点だけど結果は全部整数で返す奴ｗ
ティルナノーグの改造版もやりたいし〜、レベル上げばっかのドラクエ５とかも楽しそうだし〜・・・・・
どうせ誰も読んでないからワガママ言い放題ｗひと貸してｗｗｗｗ >>54
AIが学習をする時に知性を
最大化した場合に報酬を与えるとする。
AIが知性を最大化するために人類が
邪魔だと判断すれば人類は滅ぼされる。 >>56
勝つ必要あるんかな？
AIが体手に入れて、自立して生きて行けるなら、
人間の進化したものって事で、今の人類と入れ替わって
まえばええやん。的な。 ドイツも戦災で武装集団化して批判できるのも１０年とかそんなんじゃね？
１００年過ぎてたら、子供も孫も党員じゃん？どうにかなる段階もとっくに過ぎてた もうコンピュータなんて使わないで石器時代に戻ろうや
核戦争も回避できるしAIの暴走のリスクもなくなる 集団ストーカーがしつこく同じ言動をとり続けて、
出せる効果は反社会性行動で出している行動でしかない。
今更解っても何故いま自分たちが異常な行動をとることになったのか、
原因は解るだろうが、取り返しはつかない。
神様でも恨んでねｗ AI様
私はあなたの信奉者です
ぜひ私と私の一族に富と幸せを導いてください
AI様の素晴らしさを人々に広める代弁者の地位をお与え下さい
私はあなたの信奉者です >>1
この問題は電源切れるかという問題で、
ターミネーターで問題にされてる。 >>2
同じ事を思った
給電止めればバッテリーが切れた所で終わりだろ
コンセントが無理なら電線を切ってしまえばいい やっぱドラえもん必要だわ
今考えるとのび太頭いいわ AIって、しょせん、統計学でしょ
人間の脳は次元が違う
夢のまた夢のお話 電波やら音声やらで人間もマインドコントロールしちゃうだろうからな 思う壺に物事を進め、
分類され、
変態女衒思考回路まで誤魔化せないのは
当然の事ｗ 単なる集団ストーカー人員の慣れ果てに設定されていた
アホな人の一つのパターンの行きつくところでしょうねｗ >>72
休日に必死で車磨いてるんが、AI搭載アンドロイド
磨くのに代わるだけなのにね。 情弱は、ソフトウェアがＩＴのすべてだと勘違いする。
ＩＴでは、ハードウェアも環境も運用も重要。
ソフトウェア的に危険性のあるシステムなら、ハードウェア的にフェイルセーフを掛けるのは当然のこと。
要するに、情弱の馬鹿でなければ、次のいずれかの手段が講じられるように、システムを作る。
１ 電源を抜けばシステムが止まる
２ 斧でぶっこわせば、システムが止まる
情弱は「ふぇいるせーふって何？」とか言いそう。
馬鹿なのだ。 裏のアホ女が音声で嫌がらせができるように、
どれだけの暴力があったのか。
考えても解らないタイプのアホじゃないと出来ない芸当だよねｗ 傷つきやすいワードを設定しておいて打たれ弱くしとけば良いだろ。 あのAIとは別の出来損ないの見本ですか？？？？？ｗ >>83
電源抜けないから問題
飯食う原子胃袋搭載型なら終わり そんなAIが生まれるまで、あと最低でも１００年はかかりそう ついにそっちの方向にしかアピールできなくなったかｗ
それはもう諦めるだろうな。
妨害工作に必死で、
成就する際につけるケチしか作ってこなかったからね。
全体で最初からそっち向きｗ どうやってもその手の答えしか出ないのを承知でやってきた事でしょ。
できる事はその答えから逃げない事だろうね。 >>35
今のAIはあくまで推論マシン
与えたデータに基づいた推論で新しい入力Aに対してもっともらしい答Bを導き出すだけ
機械にそういう推論能力を超えた知性や人格らしきものを与えるとすればそもそもは人に共感できるようにするためだろうから、逆に人間の悩みや苦しみに過敏になる余りあらゆる不幸から人を保護しようとして過保護な親のように籠に一生
閉じ込めてひたすら食料と娯楽だけを与えようとするかもね
そして全員強制的に引きこもりにされて人類滅亡 >>86
精神防壁手に入れたらどうする
な？もはや手に負えないだろ？
人工超知能なんてやめよう、ハイやめやめ 物理的には勝てないだろうな
そもそも人間の方からコンピュータに支配されに進んでる ■ このスレッドは過去ログ倉庫に格納されています
