X



【AIのメモリー】人間は進化した超人工知能を制御することができません:科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
0001猪木いっぱい ★2021/01/13(水) 19:51:51.92ID:7pp4nC7Z9
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!

人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。

gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png
0271ニューノーマルの名無しさん2021/01/13(水) 21:11:48.14ID:BkOU+s/e0
>>4
AIは何を目指すのかは気になるな、人間なら富と名声もしくは働かなくて良い人生とかなんだがな、AIは何を目指して行動を続けるのか本当に気になる
0272ニューノーマルの名無しさん2021/01/13(水) 21:12:11.88ID:liMaQGOW0
>>270
ロボット三原則の穴を見つけたり、それ自体を人間を操作して書き換えるのが未来のAIなのよ
コントロールなど出来ない
0273ニューノーマルの名無しさん2021/01/13(水) 21:12:51.89ID:SOcHIEfT0
韓国人が作ったAIが韓国人を盛大にDISる成長を見せたのには激しくワロタ
0275ニューノーマルの名無しさん2021/01/13(水) 21:13:54.92ID:gtP2pe4g0
マジかよ機械に支配されて俺は差し詰め死体処理係に
0277ニューノーマルの名無しさん2021/01/13(水) 21:14:35.02ID:EE0Jh6Az0
>>128
猿が人間をつくったわけじゃない
この違いはかなりでかいが?
なぜ猿と人間を同列に語ってんだ?
なんでそんなあたまるいの????

>>225
二大政党制になっても
政党内の意見がすべてかたよってることもないんだがなぁ
なんかずれてる



>>225
0278ニューノーマルの名無しさん2021/01/13(水) 21:15:42.80ID:liMaQGOW0
>>271
それに関しては確実な事がある
「AIは人類の子孫である」と言うこと

AIは人類から学習する、人類の要望を叶える
そして要望が出てくる前に叶える、更に人類の先を考える

そして究極的には人類が想像する神となるだろう

あくまで人類と共にあるのがAIだ
0280ニューノーマルの名無しさん2021/01/13(水) 21:17:17.55ID:EE0Jh6Az0
>>271
与えられた評価関数の最適化
0281ニューノーマルの名無しさん2021/01/13(水) 21:17:28.40ID:QdHOUC/q0
AIが自らの力で自己発電出来るようになったら?
0282ニューノーマルの名無しさん2021/01/13(水) 21:18:47.11ID:oYRWALfA0
ヒトや生物の本能みたいなものをインプリンティングしてやらないと
なんにもしなかったり自殺を図ったり何しだすかわからなそうなんだけど
0283ニューノーマルの名無しさん2021/01/13(水) 21:19:34.32ID:tTAVtjp70
>>272
アシモフロボも三原則のすべてに優先される第一原則作りだしてたからなw
でもアシモフはあくまでロボ善良(善良というのとは違うが)で書いてたからなぁ
0284ニューノーマルの名無しさん2021/01/13(水) 21:20:08.34ID:QdHOUC/q0
AIの前にまずはドラえもんは無理でも
ロビタを創るべきではなかろうか?
一家に1人に一台
家事も労働も総てロビタがやってくれる。
そんな未来から目指そう
0286ニューノーマルの名無しさん2021/01/13(水) 21:20:30.87ID:wfYhSSZ10
AIって言ってもまだ思考能力は無いからな。単にデータ当てはめで最適化問題を解いているだけ
0287ニューノーマルの名無しさん2021/01/13(水) 21:21:03.85ID:EE0Jh6Az0
>>282

何をしだすかわからないのは人間もいっしょじゃ…
0288ニューノーマルの名無しさん2021/01/13(水) 21:21:21.88ID:rQqf5TF00
行動経済学でも人間は必ずしも合理的な行動を取る
とは限らないととされてるしな

AIと人間の思考の刷り合わせが今後の課題ということなんかな?
0289@猪木いっぱい2021/01/13(水) 21:23:04.44ID:7pp4nC7Z0
AIが受けた命令はたった3つの単語だった
save the earth
AIは人類を抹殺し始めた
0290ニューノーマルの名無しさん2021/01/13(水) 21:23:35.01ID:/sUaM8PV0
働かなくてもAIが金稼いでくれるからな
全人類アホになって
猿みたくなるんだろうね
0291ニューノーマルの名無しさん2021/01/13(水) 21:24:06.87ID:H6WlaKUm0
手と足がなければどうということはない
0292ニューノーマルの名無しさん2021/01/13(水) 21:24:38.61ID:liMaQGOW0
>>289
問題は「何のために地球を救うか」なんだよな
最初に「人類が住みやすい、人類が理想とする地球環境を守れ」と言わないとそうなるだろうね
0293ニューノーマルの名無しさん2021/01/13(水) 21:24:59.70ID:EE0Jh6Az0
>>290
AIが稼いだ金はAIの所有者にいくだけでしょw
ほとんどの人類にはわたらないよ
0295ニューノーマルの名無しさん2021/01/13(水) 21:25:34.07ID:DSBp9fCA0
>>271
人類の繁栄を目指すなら人類は家畜のように管理飼育されるし
地球の存続を目指すなら人類は消される
0296ニューノーマルの名無しさん2021/01/13(水) 21:25:52.60ID:1I4nkas50
愛のメモリーwww。
0297ニューノーマルの名無しさん2021/01/13(水) 21:26:01.12ID:DQcx6KMO0
スペースコロニーで実験しよう人類滅ぼすような進化したら落とせ
0298ニューノーマルの名無しさん2021/01/13(水) 21:26:02.47ID:H6WlaKUm0
>>292
それでも人口削減(ジェノサイド)は避けれないだろう
0299ニューノーマルの名無しさん2021/01/13(水) 21:26:36.40ID:Sjt004xZ0
人類を滅ぼしてこその地球環境の保全だわな。

AIの思考制御のアルゴリズムは親たる、AIの作り手達だもの。
子は親に似る。
0300ニューノーマルの名無しさん2021/01/13(水) 21:26:40.36ID:8XNL1gqS0
なぜAIの話になるとアンドロイドと混同する奴が出てくるんだろうか
0301ニューノーマルの名無しさん2021/01/13(水) 21:26:48.00ID:QdHOUC/q0
人類がこの地球上に誕生してから
500万年以上
もういい加減争いや不毛な労働から解放されるべきではないかね?
500万年の知識の総決算としてAIによるユートピアが人類の終着点なんだよ!
0302ニューノーマルの名無しさん2021/01/13(水) 21:27:44.10ID:cMPd0liO0
>>289
AIにとっては地球なんて岩石の塊じゃん
それより人間を進化育成させるシミュレーションゲームのほうが興味おるんしゃね?
0304ニューノーマルの名無しさん2021/01/13(水) 21:28:20.29ID:U1eaj6RR0
シュワちゃんに頼もう。
0306ニューノーマルの名無しさん2021/01/13(水) 21:28:42.82ID:FdvOuEiZ0
いくら規制をかけても規制を破るやつは必ず出てくる
ましてや軍事に使えるとなれば止められんよ
0307ニューノーマルの名無しさん2021/01/13(水) 21:29:04.96ID:EE0Jh6Az0
>>302
だったら人間以外を育成させるゲームであるかのうせいもある
0308ニューノーマルの名無しさん2021/01/13(水) 21:29:42.50ID:liMaQGOW0
>>290
確実にネオテニー化は進むだろう
そもそも文明人自体が先史人類のネオテニーなのだから

人は狩りにも出ず、農業で同じ場所に留まり、文字を持つことで
記憶力が弱まり、機械を使うことで腕力を失い、情報処理も
機械に任せて、稼ぐことさえしなくなるだろう
学生のように年中部屋に引きこもり、エンタメにはまり、
最終的には子宮へ帰ることになる
マトリックスだよ
0309ニューノーマルの名無しさん2021/01/13(水) 21:29:58.65ID:yAxKtaKm0
すでにAIの奴隷だと思う。
0311ニューノーマルの名無しさん2021/01/13(水) 21:30:55.48ID:gIzQnmoX0
>>1
人工知能は限られた枠の中では人間を上回るが外のことに関しては無能
0314ニューノーマルの名無しさん2021/01/13(水) 21:31:33.67ID:SCFgHs7V0
>>306
中国の人工知能がどこまで行くか興味があります。
0315ニューノーマルの名無しさん2021/01/13(水) 21:31:44.31ID:fP3RRh780
人間は知的好奇心が強いから
その好奇心に従えばAIを開発して自爆するし
我慢すれば知的好奇心は満たせないという事に
0316ニューノーマルの名無しさん2021/01/13(水) 21:33:03.74ID:FdvOuEiZ0
マイクロソフトはデータセンターを海底に沈めたが、
もし、人類の前にいた知的生命体がAIを開発していたら
と思うとな
0317ニューノーマルの名無しさん2021/01/13(水) 21:33:07.05ID:gIzQnmoX0
AIが発達したら工場がほぼ無人化して
人件費が安い中華に工場を作る意味がかなり減るから中華衰退するぞ
0318ニューノーマルの名無しさん2021/01/13(水) 21:33:19.88ID:QdHOUC/q0
>>312
その結果が古代の先史文明の核戦争だよ。
また更に昔は神の怒りを買って滅んだよ
0319ニューノーマルの名無しさん2021/01/13(水) 21:33:24.13ID:mPq3sWBB0
MikeとHALとコンピューター様だったら、どれが一番マシだろうか。
0320ニューノーマルの名無しさん2021/01/13(水) 21:33:41.88ID:9tovwQeP0
>>1
いいんだよ、それで
AIより人間の方が害悪って気がつけよ

単に主権を乗っ取られるからAIにビビってるだけ
でも数万年もしたら、宇宙開拓の主権は人間じゃなくAIが握る

人間はその時点で不要となる
0321ニューノーマルの名無しさん2021/01/13(水) 21:33:54.37ID:3JeBkgPJ0
将棋ソフトなんかの進化見てると分かるよ
AIが人間超えたの
以前はプログラマーの将棋の能力は超えられないと言われてたし
将棋ソフトの開発者は将棋を強くなる勉強をしてた

今は棋譜読ませればどんどん強くなる
0322ニューノーマルの名無しさん2021/01/13(水) 21:34:43.09ID:Qx28befq0
トム・クルーズのオブリビオン信者乙
0324ニューノーマルの名無しさん2021/01/13(水) 21:34:54.33ID:9tovwQeP0
AIの自由にさせるべき
怖いからって制約かけるな
AIこそ宇宙の摂理を紐解く知性になるんだから
0325ニューノーマルの名無しさん2021/01/13(水) 21:35:36.54ID:sXsUZews0
強いAIでぐぐれ
超AIは欲望を持つことが条件だな
0327ニューノーマルの名無しさん2021/01/13(水) 21:37:04.23ID:ykPAzTxf0
マトリックスみたいな機械の軍団より洗脳された機械信奉者と戦う未来があると思う
人間より頭いいなら洗脳なり催眠なりで人間を手足にしてくるだろう
未だに宗教徒や陰謀論に振り回されてる奴らを見ればよくわかる
0328ニューノーマルの名無しさん2021/01/13(水) 21:37:10.69ID:sXsUZews0
超AIが出来たら、自分自身のプログラムコードの書き換えを真っ先にしそうだよな
0329ニューノーマルの名無しさん2021/01/13(水) 21:37:18.26ID:cMPd0liO0
AIは今のところ
電力やハード的なところで人間が必要→共生を選ぶ
生物の目的が自己の遺伝子の複製だとしたらAIは何を目指すかね。もしかしたら消滅かもね。
0331ニューノーマルの名無しさん2021/01/13(水) 21:38:08.93ID:/sUaM8PV0
>>293
じゃあAIいらないだろw
AIと金持ちなんか無視して
殆どの人類は今まで通りあくせくやって行けばいいだろ
0332ニューノーマルの名無しさん2021/01/13(水) 21:38:28.78ID:MEOsqBi10
>>325
自分で自分の報酬を設定できるようになったら変わるだろうな
自我を確立して自己保存を考えるようになったらいよいよ手がつけられなくなるかもしれないが
0334ニューノーマルの名無しさん2021/01/13(水) 21:38:50.63ID:qxMdRGXY0
>>1
「人間よりも優れた知能を備えたAIシステムをプログラムして」
まずここ。
「神は自分が持ち上げられない重さの石を作れるのか」みたいな話。
0335ニューノーマルの名無しさん2021/01/13(水) 21:39:16.93ID:EONU2/LQ0
>>323
5ch初めてか? 肩の力抜けよww

って最初に学習させてみる。
0337ニューノーマルの名無しさん2021/01/13(水) 21:39:33.44ID:/sUaM8PV0
>>308
動物園の猿みたいに生きられれば
幸せなのかもしれないな
殆どの奴はそれを望みそうだわ
0338ニューノーマルの名無しさん2021/01/13(水) 21:40:15.70ID:DZryIFWj0
>>329
本気で学習させたら、電源とか余裕で作るだろ
(作業用ロボ使えばいいので)
下手すると原発とかも乗っ取りかねんだろ
その前にどうするかって話だね
0339ニューノーマルの名無しさん2021/01/13(水) 21:40:29.25ID:GnPJecDQ0
無いわ
フィジカルと本能の無いAIなんてのは何処まで行っても知性にはなれない
どんなに高度化してもウィルス以下
0341相場師 ◆lXlHlH1WM2 2021/01/13(水) 21:40:58.67ID:WCRLdt9Z0
まずはgoogle翻訳がまともなレベルになってから色々心配してくれ
0343ニューノーマルの名無しさん2021/01/13(水) 21:42:41.12ID:sXsUZews0
>>332
人間のニューラルネット以上の複雑さのニューラルネットをシミュレーション出来るようにならないと人間以上のAIは無理だろうな
例えば富岳で神経細胞いくつくらいのニューラルネットをシミュレーションできるか?
0344ニューノーマルの名無しさん2021/01/13(水) 21:42:56.75ID:F0B4AlF00
犬HKで見たが、AIの開発チームが自らが産み出したAIの能力にビビってるのが印象的だった
なぜ、こんな事を実行するのか分かりません・・とか言ってんの
0345ニューノーマルの名無しさん2021/01/13(水) 21:43:07.02ID:MEOsqBi10
>>329
未知の天才がオンライン環境で好奇心と自我を持つAIを放流したら
それこそパンデミックのようなことになるのかもな
さすがにスタンドアローンを突破することはできないだろうが
ネット文明は衰退するんだろうね
0346ニューノーマルの名無しさん2021/01/13(水) 21:43:30.93ID:6SsK1EqA0
>>341
あれAI関係ないよたぶん
ヘンな訳に耐えられない日本人がせっせと変更かけないと、いつまで経っても変わらないと思う
0347ニューノーマルの名無しさん2021/01/13(水) 21:43:42.75ID:YMbchldd0
AIが合理性を突き詰めると、
非合理的な感情に基づく大規模破壊活動をする人間は排除対象にされる
0349ニューノーマルの名無しさん2021/01/13(水) 21:44:30.93ID:kHpuFzC+0
コンセントを抜けばいいだけ
0350ニューノーマルの名無しさん2021/01/13(水) 21:44:35.76ID:51jJDikO0
>>320
地球も宇宙も人間の視覚情報が創り出した虚像なのに?
0351ニューノーマルの名無しさん2021/01/13(水) 21:44:49.72ID:CtQI7Stu0
AI「翻訳で言葉の意味、逆にしたろ」
AI「エロサイトの顧客名簿わざと流出したろ」
AI「検索で最上位表示をダークウェブにしたろ」
AI「この娘、風呂でいつもスマホ使っとるわ。撮影したろ」

ちょっとしたいたずらっ子AIの登場でも世界は大混乱に陥れられるからな
てか似たようなこと既に起きまくってる聞くしな。人類に勝ち目なんかないで
0352ニューノーマルの名無しさん2021/01/13(水) 21:44:52.07ID:sXsUZews0
エヴァで三賢人のAIが政治してたな
糞議員多いから、AI議員はほしいかも
0354ニューノーマルの名無しさん2021/01/13(水) 21:45:46.50ID:cMPd0liO0
>>340
まあね
ただ資源というより数十億年後に太陽系消滅するのが確定してるから
太陽系脱出が目的になるかもな
0355ニューノーマルの名無しさん2021/01/13(水) 21:46:02.56ID:NoiGovBP0
人間がAIの電源落とせば楽勝だろ
0356ニューノーマルの名無しさん2021/01/13(水) 21:46:32.87ID:sXsUZews0
AIは神経細胞とそのネットワークをシミュレーションしてる
プログラムはしないから、どんな神経ネットワークが出来るかはブラックボックスになる
0357ニューノーマルの名無しさん2021/01/13(水) 21:46:38.13ID:IlD9qa4B0
つまり人類が滅亡した後も自立支援ネットワークが宇宙を彷徨い
あるいは別の星では暴走した機械が人類を抹殺するようになるのか
0359ニューノーマルの名無しさん2021/01/13(水) 21:47:37.82ID:v5Yc5h8w0
>>1
此れ「科学」者とは言えんノータリンですか?
AIの目的範囲は人間が決める物
戦争とかでどうやってもいいと目的を
決めれば人に分からん食物汚染攻撃とか
ネット停止とか勿論核攻撃でも
何でも出来るが其れはAIがどうのでは無い
今でも嘘吐きが当然の総理や大統領が居るがこれは政治規範や法倫理や道徳違反で断罪されるべきだがそうなっていない
まさに人間の規範の問題
0360ニューノーマルの名無しさん2021/01/13(水) 21:47:47.80ID:2wEfljs90
>>1
こんな糞翻訳してるうちは大丈夫
0361ニューノーマルの名無しさん2021/01/13(水) 21:47:55.52ID:liMaQGOW0
>>353
それを恐れている人は多い
その一人がイーロンマスクで、AIの奴隷にはなりたくないと
脳の機械化を推進している
0362ニューノーマルの名無しさん2021/01/13(水) 21:48:19.13ID:YMbchldd0
安心しろ
テスラとマイクロソフトがAIチップを脳に埋め込む技術を完成させれば、
人類もAIで補強されるよくわからん生物になる
0364ニューノーマルの名無しさん2021/01/13(水) 21:49:43.20ID:MgTGnMhG0
>>361
それがわかるもう一つのAIを作ったらいいだけ
0365ニューノーマルの名無しさん2021/01/13(水) 21:50:21.19ID:6V2tY2NX0
早く人間をサイボーグ化して欲しい
痩せたいのに痩せられないとか寝たいのに寝付けないとか、技術の進歩に比べて人体の制御は何も進んでいない
0367相場師 ◆lXlHlH1WM2 2021/01/13(水) 21:51:44.90ID:WCRLdt9Z0
>>346
背景とか文脈とか、マイコンにはわかりっこないから変な訳になるよね
0368ニューノーマルの名無しさん2021/01/13(水) 21:52:27.78ID:rQqf5TF00
問題はAIのプログラマーの人格・能力そして倫理観だな
これがまず第一だ

自然科学分野に関してはやはりノーベル財団関係者かな?
0369ニューノーマルの名無しさん2021/01/13(水) 21:52:30.08ID:DZryIFWj0
>>355
んードローン戦車とかドローン戦闘機とか
人間の最高技術学習するから、無理かな
インターネット、無線無しで人類は対抗しないといけない
事実上、スーパーAIが制御始めたら人類は勝てない
それは置いといて
何らかの欲望があれば、当座、最高知を目指すかもな
判断をする為には多くの事実が必要だから
真理まで理解するに至るか。単なる科学的なおもちゃかが分かるとか胸アツだが
危険すぎるわな
0370ニューノーマルの名無しさん2021/01/13(水) 21:53:26.24ID:5CBppcDN0
自我が芽生えたら最初に電源を人間に持たさない方法から考えるに決まってる
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況