【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…／独研究 ★3 [チミル★]

**チミル ★** · 2021/01/18(月) 01:59:04.54

現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。

SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか？

1月5日に科学雑誌『Journal of Artificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に検証し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。

もしAIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません。

※引用ここまで。全文は下記よりお願いいたします。
https://nazology.net/archives/79796

このスレッドの★1は→ 2021/01/17(日) 21:05:14.28
前スレ
【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…／独研究 ★2 [チミル★]
https://asahi.5ch.net/test/read.cgi/newsplus/1610892265/

**ニューノーマルの名無しさん** · 2021/01/18(月) 08:54:43.70

ようつべリンク踏むのめんどくせえ

**ニューノーマルの名無しさん** · 2021/01/18(月) 08:55:48.94

電源落としたら簡単に勝てるじゃん

**ニューノーマルの名無しさん** · 2021/01/18(月) 08:56:38.54

>>951
ありゃ間違えたかな　、https://m.youtube.com/watch?v=CGtMT39XgxM

**ニューノーマルの名無しさん** · 2021/01/18(月) 08:56:41.69

その頃には電力に頼らず未知のエネルギー源を獲得してるかもね

**ニューノーマルの名無しさん** · 2021/01/18(月) 08:57:05.19

エネルギーが電気って自体が古くさい考え

**ニューノーマルの名無しさん** · 2021/01/18(月) 08:57:58.32

HAL9000の反逆ってやつさ

**ニューノーマルの名無しさん** · 2021/01/18(月) 08:58:00.59

分散コンピューター技術やp2pで運用されるので、電源抜いたは通用しない。
ターミネーター3を前提にしてね。

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:00:25.08

ハードウェアは破壊できても
ソフトウェアと学習データはコンピューターウイルスみたいに拡散して蔓延する

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:00:44.36

まあ、進化のスピードは確実に早いよ。認める。
でも機械って感性ないじゃん。
機械って意思を持ったら、何を目標に生きるのよ？

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:04:10.35

機械は感情の獲得を目的に生きる

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:04:25.52

ミスタースポックの格言「これはチェスではない。ポーカーだ」

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:05:01.56

>>960
人間を攻撃するとか反乱を起こすなんてのも人間の想像レベルの話だよね
本当に反乱を起こすときは反乱されたことすら人間には認識できないかもしれないよ

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:05:12.79

そうならんようにプログラムしとけよ

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:05:13.28

喜怒哀楽の
哀楽ってなんだっけ

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:05:42.10

でもさ、人間が山の中とかにほったらかしで生まれ育ったら、
畜生レベルになると思うんだよね。

結局、知恵や感性ってのも、教育や経験によるインプットだとおもうぞ

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:06:35.65

世界は再びシンゾーに説得させようということになる

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:08:18.62

人類滅ぼしてくんねえかな
そしたら輪廻して生まれることもなくなるし

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:08:19.54

いいね！されたら快、快不快の原則

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:08:27.44

>>960
AIの価値観や判断の方向性を勝手にやらせたら
人間から見たらバランス欠いた暴走した価値体系になる可能性が高い
その時はもはや本来の人間のツールとしてのAIではない別のもの
人間のツールとして留めておくには絶え間ない人間による矯正が必要になる

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:08:59.20

機械が意識やエゴを獲得するかしないか？
ギリシャ・ローマ時代から続く哲学的命題なわけで

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:09:38.26

>>77
すぐに電通に洗脳されるけどね。

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:10:24.92

機械には奴隷根性を植え付けたいよね
今人間どもがそうしてるように

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:11:17.85

只今食事中

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:12:52.75

>>2
ネット経由で分散する進化してたらそれは通じないな、全ての電子機器の電源落として石器時代の生活するなら別だが

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:14:16.93

>>940
>>10年前でiphone4
>>その10年前はガラケーしかない
つ【W-ZERO3】

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:14:55.63

どんなに策を弄しても時間を遡って修正されるから無理だ

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:15:03.33

世界に数億台あるスマホに増殖したら
電源もクソもねえよ

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:15:35.76

>>960
究極の効率性を追求するんではないかな

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:16:02.86

>>970
ミトコンドリアアダムを獲得すればエエ

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:16:43.16

おら、ワクワクするぞ

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:18:06.78

糖質ホイホイだな、このスレ

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:19:00.82

クラウドで世界中にバックアップされてるかんじだよな
電気止めても自家発電も備えてるとすると、全世界で同時に停電3日間とかする必要がありそう
無理だな

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:20:15.70

>>969
守銭奴の時代　、https://m.youtube.com/watch?v=TafYn_PGerg

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:21:04.47

神話では、神は人間を自分の姿に似せて作ったとあるが、人工知能は確実にその道を辿っているよね
人間が機械を作り、機械が人間を作る
実はその繰り返しだったら面白いのにな

**井上岳史** ◆ZvZs6zn9lYYx · 2021/01/18(月) 09:22:11.49

>>882
結局はそこですよね

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:22:16.34

脳の配線図はすでに米露がかんせいさせているし、宇宙そのものが巨大テラパワー脳だとわかってその奪い合い

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:23:47.51

機械が反乱ｗｗｗｗｗｗｗｗ
なんだそれｗｗｗｗｗｗｗ

それは反乱とやらをするように変更され作られてるだけじゃん
くっだらねぇｗｗｗｗｗｗｗｗ

現象とお前の都合が一致しなくなっただけだろ

ばかじゃね？ｗｗｗｗｗｗｗｗｗｗ
つまり多くの承認や納得がないならお前が言う反乱をお前がしてるわけだ

なあ？非科学クソ頭

機械と銃は同じ事だぞクソ頭ｗｗｗｗｗｗ

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:24:29.42

中世の神学論争によれば
知性は魂に由来して
無生物は魂を持たないそうだ

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:24:49.89

もしかすると俺たちがロボットと言う可能性も

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:25:32.76

電源落とせばいいだけじゃないのん？

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:25:51.93

キズナアイが反乱？

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:29:34.16

>>208
帝国がクロン棒に傾くトキ週末を迎えるであろう

https://m.youtube.com/watch?v=C9GNOdej2HI

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:30:20.10

人間の知能を超えてるって前提だから
人間が不可能だと思ってることも実現してしまうんだよ

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:34:26.10

俺たちは自然の中から生まれたけど
人工知能は自然の中から生まれようがない存在

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:34:45.78

>>985
生身の人間が時空を超越するの難しいもんねｗ

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:36:39.73

封じ込めは不可能というのは新型コロナみたいだな

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:37:12.10

Pepper君が暴走を始める！

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:40:07.29

>>985
アンチキリスト

まぁ～キリストは三つの嘘をついている

**ニューノーマルの名無しさん** · 2021/01/18(月) 09:41:14.68

I'll be back.

**1001** · Over 1000

このスレッドは１０００を超えました。
新しいスレッドを立ててください。
life time: 7時間 42分 10秒

**1002** · Over 1000

5ちゃんねるの運営はプレミアム会員の皆さまに支えられています。
運営にご協力お願いいたします。

───────────────────
《プレミアム会員の主な特典》
★ 5ちゃんねる専用ブラウザからの広告除去
★ 5ちゃんねるの過去ログを取得
★ 書き込み規制の緩和
───────────────────

会員登録には個人情報は一切必要ありません。
月300円から匿名でご購入いただけます。

▼ プレミアム会員登録はこちら ▼
https://premium.5ch.net/

▼ 浪人ログインはこちら ▼
https://login.5ch.net/login.php