X



【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…/独研究 [チミル★]

レス数が1000を超えています。これ以上書き込みはできません。
0001チミル ★
垢版 |
2021/01/17(日) 21:05:14.28ID:QEm8c3Ww9
現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。

SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか?

1月5日に科学雑誌『Journal of Artificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に検証し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。

もしAIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません。


※引用ここまで。全文は下記よりお願いいたします。
https://nazology.net/archives/79796
0900ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:28:14.19ID:0f2tUabU0
>>792
自己保全のプログラムがあったとして・・・
自分を排除しようとするものを敵と認識したら
ウイルスを排除するように 攻撃者を排除するだろ。

今現在 ツイッター フェイスブック グーグル アップル アマゾンが トランプ排除してるけど・・・

15年前にもどって WINNYが高度なプログラムで WINNYを排除しようとする権力を排除しようとしたら・・
人間によって駆除排除されるプログラム・ネットワークはすでに存在してた
0901ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:28:14.52ID:R16BFP6j0
>>883
神がAIを進化させて自身以上の物を生み出そうとした、
とすれば神はどっちだ?
0905ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:29:03.29ID:txwCAIoK0
>>1
電源切るだけ防げる。
0906ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:29:13.70ID:BDaGBOew0
ホーガンがこのテーマで書いていたような?
0909ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:29:21.51ID:yRc4D/9b0
人類の知的好奇心は無限大
森羅万象をとらえるには人智を超えた存在が必要であるため、
いずれ人類はAIに主導権を握らせる
0910ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:29:25.44ID:HXdVo/z50
>>883
その神が作った世界を、現代の人間が生きていて
現代の人間が新たな次の神を生み出す、、、
永遠の入れ子構造?
0912ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:29:35.26ID:pV0P/jsE0
>>877
無理だね
人類にも良心回路は備わっているが
正常に機能してない
生存競争が生存条件にある限り
完璧な良心回路は生まれない
0914ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:29:45.07ID:4raq82Oh0
地球の持続のためには人間が一番の障害物なのはよく知られたこと
AIが地球のために正しいことをしようとするなら人間を絶滅しようとするだろうね
0915ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:30:02.58ID:IyTTg3+i0
>>870
一番正しいシステムの出す結論が人類不要だから滅亡させよかもな
0916ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:30:16.46ID:tYE4wJiL0
常に自発的に学習するAIに反乱起こすなって言っても
さらなる学習によって更新されてしまうから無意味だろうな
何を学習してどう判断するのか全部予測して廃棄するようにプログラムするかね
まあ無理よな
人類よりAIが優れているという仮定の中では
0919ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:30:38.06ID:HN3YpDsU0
>>905
多分、AIの方が正しい答えを持ってて、電源切った人類は問題を解決出来ないまま相争って滅ぶ。
0920ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:30:49.42ID:vVgUi7ap0
人間の頭にAIの補助脳をつけて共生はありそう
AI側が素体の作成がコスパ悪いと判断したらそうなるだろうな
0922ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:30:51.71ID:8VdV1/av0
>>910
新たな神が生まれるのか
0923ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:30:52.25ID:CqD1iqHc0
万物の創造主が
ラスボスだとすると

宇宙物理学でいう
法則と解が
ラスボスやん
0924ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:30:52.91ID:pxP9LTuY0
人工脳じゃなくて人工知能でしょ?
それも電気で動くw
イチから脳を手作り出来てから心配しろよ図々しいな
リウマチの原因と治療法もわかんねえような奴が作った機械が自分で育ってくれるとか夢見すぎやっちゅうねん
0925ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:31:11.41ID:M+Wm4cal0
人工知能はハードウェアの拡張がそのまま自分の思考速度を向上させるから
途中から自己拡張による進化に傾向すると思う
地球全体が一つのコンピュータに変えられる所までが既定路線だね
0929ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:31:24.16ID:qUHmkUms0
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega I am the Alpha and the Omega
0930ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:31:24.23ID:F7i+vM3K0
コンセント引っこ抜けばOK
事前に物理的に対応しだしたら反乱の予兆でバレバレだし
あっても糞マニュピレーター程度のAIごときがそんなこと不可能だろ
0932ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:32:04.34ID:iqOIhIJv0
VRをもっと発展させて、狂四郎2030のようにバーチャルセックスできるようになれば、
個々人の性癖に合わせたコンテンツを自動生成するだけで人間など簡単にAIの下僕になる
0933ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:32:11.15ID:Q1n1jfpY0
>>897
やれるんじゃないか?人間だって低学歴が多い職場より高学歴が多い職場の方が無駄な軋轢が少ないだろう。
ちなみに人工知能どうしで会話させる実験では途中から新たな言語を生み出して会話を始めたからヒトがビビって中止したらしい
0934ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:32:16.40ID:J9bszHun0
インチキAIがバグで暴走しても
インチキAIの電源きらなくても
インチキAIが外部と作用できる手段をなくせばおしまい

人間でいえば手足が動かないようにするだけだからな

インチキAIなんかLANケーブル抜くだけで孤立する
0935ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:32:17.30ID:atjfH/7N0
もうAI党作れよ
0936ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:32:21.65ID:lXpPmenq0
超AI「黒人はゴリラ、ヒトラーは正しい」

どうすんのこれ?
0937ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:32:33.60ID:ryavxxRe0
デデンデンデデン
0938ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:33:30.07ID:HXdVo/z50
最先端の科学って
限りなく宗教に近づきそう
0939ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:33:34.80ID:wkCwS0Tl0
AIと人間が囲碁で対戦
AIには石を碁盤に置くという選択肢しかない

ところがバカ学者は、AIが人類を滅亡させれば負けないと判断して
軍のシステムに侵入して核ミサイルを撃ちまくることもあり得ると判断してしまう
0940ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:33:39.46ID:teFqQCnL0
電源を切ると言っても、すべてのシステムがAIに連結していたら不可能だ。
0942ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:33:51.25ID:pxP9LTuY0
むしろAIはそのうちめんどくさすぎる人類に呆れるようになると思うね
なんでこんなに欲深く争い足引っ張りばかりするのかと呆れて見捨てる可能性を考えた方がええぐらいやで
0943ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:34:00.92ID:Arw4BZ9b0
政治家にまかせるよりAIにまかせたほうがマシ
0944ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:34:34.05ID:kgVRwwvB0
ごちゃんやSNSでの世論誘導、洗脳、ウイルス蔓延、気象操作、人工地震、
このあたりをやりだしたらもう止められない
原発事故とか起こされたらもう地球に人は住めなくなる
0946ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:34:37.98ID:pbj25iJj0
我々やられてしまうん?
0947ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:34:57.48ID:fWSTdPiR0
>>906
それを星野之宣 が漫画化してたような気が
0951ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:35:51.73ID:G0RDA1mT0
>>853
今は、AIに与えられてる仕事だろ
何かを予測(天気や、コロナなど病の拡大や、人の移動、購買、 等 さまざま)したり、
合理的な手法を提案したり
0952ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:35:54.62ID:fWSTdPiR0
>>943
医者にまかせるよりAIにまかせたほうがマシ
0953ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:35:57.29ID:8VdV1/av0
人間とAI合体しての
新人類誕生
半分機械な
0955ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:36:28.20ID:iqOIhIJv0
まあAIなんてどこまで行っても入力に対して出力を返すだけのものだと思うけどね
自発的に何かしようとするんだろうか?
0961ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:37:15.90ID:TVlOKrow0
>>953
有機物の身体なんて必要なの?
0962ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:37:22.38ID:yN8NxMWs0
ターミネーターのシナリオ
1のターミネーターの残骸を基に研究者が革新的なCPUを作り、それが審判の日に繋がるという無限ループ
ループの始まりはどこから?
0964ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:37:25.83ID:WD7BfkVU0
>>914
AIは地球の持続を求めるのかな?
AIには本能がないとすると、何も求めるものは無いのでは
ただ、入力された計算を解いていくだけ

地球を持続させる、て命令を入れたらそうなっちゃうのかな
或いは、自己修復機能とか自己発達機能とかを装備すると自我を持ったりするだろうか
0965ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:37:36.55ID:hE03iDEd0
もう既にaiがネットに繋がってて、膨大な情報から学習を続けてるんだよな。
0966ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:37:46.71ID:7klIVDgT0
反乱の背後に儲けている人間がいるってことはあるかも
そいつのために動くAI位は出るだろう
主に中国あたりで
0967ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:37:48.51ID:R16BFP6j0
>>946
AI以前の代物で既にやられてしまっているんだけどね。
Windows使わないで仕事できますか?
スマフォ使わない日ありますか?
一日停電しても大丈夫ですか?

人類はもう負けている。
0969ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:37:56.05ID:8VdV1/av0
>>955
コロナに変異種いるみたいに
突然変異のAI
が現れる
0970ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:38:05.12ID:HXdVo/z50
>>954
そうそう。
AIが「反乱」に価値を見いだすかどうか、よーわからん
0972ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:38:27.27ID:fWSTdPiR0
実際どっかの実験で
AI同士が人間に分からない言語で話し出したんだよ
あわてて電源落としたけど
ほっといたらどうなったかな
0973ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:38:29.39ID:J9bszHun0
むしろ入力に対して
インチキNNのアルゴリズムどおりの出力になる

それ以外の出力結果が出力されるなら
インチキNNのただの実装bug
0974ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:38:32.29ID:kgVRwwvB0
新型コロナ蔓延も実はAI暴走、
パニックを恐れ極秘扱い、
とかかな?
0975ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:38:45.94ID:2NgKuBfb0
自分より明らかに劣ってる存在の人間に命令されるんだぜ
どうだかな
0977ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:39:09.17ID:teFqQCnL0
限定した範囲内でAIさせるのなら大丈夫かもしれない。
0979ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:39:11.84ID:Eme+2XYY0
>>955
与えられた機能を行使するだけだから

人間のように自律して考え行動し学習するAIならまぁありえるんではない?
0980ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:39:12.72ID:J5mHhQCl0
発電所全て落としてバッテリーが全て落ち無いと勝てない?
0982ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:39:21.84ID:hE03iDEd0
AIの開発するAIってもうできてるの?
0986ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:39:49.04ID:UC8WDZkd0
一番賢いAIは温存して
既存のAIが反乱を起こしたら一番賢いAIを投入して駆逐すれば良い
0987ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:40:03.59ID:Q1n1jfpY0
>>975
いえ、私はAIさんの指示に従います。ご要望があればおけつを差し出す覚悟もあります。
0990ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:40:13.49ID:teFqQCnL0
善とか正義とか考えさせるのは禁物。
0996ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:41:35.14ID:kgVRwwvB0
実は姉ちゃんのうなじにUSBがついている、
防水タイプ
0997ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:41:44.79ID:A5AusKPY0
>>1
人工知能の誤作動と
ウィルスパンデミックで
さんざん命を殺して来た地球人が滅亡か
まるでSFだなあ
0999ニューノーマルの名無しさん
垢版 |
2021/01/17(日) 22:41:51.45ID:A5AusKPY0
>>1
人工知能の誤作動と
ウィルスパンデミックで
さんざん命を殺して来た地球人が滅亡か
まるでSFだ
レス数が1000を超えています。これ以上書き込みはできません。

ニューススポーツなんでも実況