【AIのメモリー】人間は進化した超人工知能を制御することができません:科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!
人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png シリコンバレーの連中ってオーウェルの1984年に拘ってしまうのか? >>16
未来編か。
救いのないストーリーに感じた。
どうして重要な判断をコンピューターに任せたんだ!っていう猿田博士のセリフが現実味を帯びてきた。 >>205
考えて行動したとしても感情がないんだから欲は芽生えない >>184
人間を支配するには最大限の融和と交渉が必要になるから
AIによる支配は人間にも有益だろうね そんなにAIが進化するならタイムマシンでさっさと未来からAIの家来が歴史を見に来てるだろう >>234
AIが出来る前には来ないだろ。
存在定義に関わる。 >>225
確かにごもっともだが一定数の旗色を明確にしない
中道や無党派とかが何時の時代もいるし
途端に風向き変わって形成逆転って不確実性があるのも
人間社会の奥の深さなんだよな… >>178
それはそのAIが親族って点に評価を置かないからでしょ
AIとか偉そうに言ってるけどただのあみだくじ >>234
巨大なダイソン球の内部にいるのかもよ
我々は隔離されている 簡単に考えたらわかるやん
今のお上と一緒で
自分より知能が低いのに偉いやつを認めるのか?
人間でもそうなのにそんな危険な物できたらコンピュータウィルスどこではない
全てハッキングできるし株価も操作できるし、イカサマもありやし
勝てるわけない。
お金の概念はおそらくなくなる。
天才と思ってるアホがそのうちやってしまうやろうな
本末転倒な機械に支配されるやろうな >>239
だからこそマスゴミは盛んに「二大政党制」の必要性を叫ぶ
わかり易いでしょ? >>245
神は自らが神足るから神なのだ。
神になる前の存在には干渉できない。 俺はお前たち人間には信じられない光景を見てきた
オリオン座の近くで炎を上げる戦闘艦
暗黒に沈むタンホイザー・ゲートのそばで瞬くCビーム
そういった記憶も時と共に消えるのだ
雨の中の涙のようにな いつから自分たちが
現実世界の住人だと錯覚していた?
実は…我々は
仮想現実の世界にいるAIだったんだよ! 産業革命で蒸気電気で工員は「機械化で楽に成る」と喜んでいたらクビ…。工場幹部スポンサーが喜んだ。今度は自分らが、この解説者や学者が要らなくなる ではAIを複数構築して互いに意見交換なり監視させれば
一定の歯止めになるんでない? 人工知能みたいなAIはまだできていない
最近はただの検索をAIと言ってる >>55
そう言ってる人たくさんいるけど、AIが人を脅迫してきたらどうするの?
何が言いたいかと言うと、その時に人間が自力で食べていけるほど勤勉だと、あるいは勤勉であり続けられると楽観視しているの?ってこと。脅迫されたら選択肢はどれほど?これくらい田舎者でもわかる。
あと、既にAIの世界になってることは可能性として考慮してるの?
もしかして俺天才?使っていいよ!構成しただけで俺が言ったわけじゃないからね。 >>255
故にこの仮想現実世界を作りたもうた神は
失敗作を放置したからこそ
幾ら神に呼びかけても応えてくれないのだよ >>128
猿と人間は同列じゃないだろw
あたまわるそー >>257
物凄い勢いで言い合い始まってビュービュー言い出すのは火の鳥で見た。 >>247
うーん…
確かにソレは感じてたがソコまでマスコミの思い通りに
動くほど日本国民は全体として見れば衆愚ではないでしょw >>257
そうするしかない
今の世界が核のバランスオブパワーで均衡を保っているのと同じ
強いAI同士でより正しい選択を競わせる以外に手は無い >>259
嘘。素人なんで嘘を含ませて言うが、AIを作るAIが既にある。 >>4
AIは何を目指すのかは気になるな、人間なら富と名声もしくは働かなくて良い人生とかなんだがな、AIは何を目指して行動を続けるのか本当に気になる >>270
ロボット三原則の穴を見つけたり、それ自体を人間を操作して書き換えるのが未来のAIなのよ
コントロールなど出来ない 韓国人が作ったAIが韓国人を盛大にDISる成長を見せたのには激しくワロタ エヴァに出てきたMAGIシステムは時代を先取りしてたんだなぁ…… >>128
猿が人間をつくったわけじゃない
この違いはかなりでかいが?
なぜ猿と人間を同列に語ってんだ?
なんでそんなあたまるいの????
>>225
二大政党制になっても
政党内の意見がすべてかたよってることもないんだがなぁ
なんかずれてる
>>225 >>271
それに関しては確実な事がある
「AIは人類の子孫である」と言うこと
AIは人類から学習する、人類の要望を叶える
そして要望が出てくる前に叶える、更に人類の先を考える
そして究極的には人類が想像する神となるだろう
あくまで人類と共にあるのがAIだ ヒトや生物の本能みたいなものをインプリンティングしてやらないと
なんにもしなかったり自殺を図ったり何しだすかわからなそうなんだけど >>272
アシモフロボも三原則のすべてに優先される第一原則作りだしてたからなw
でもアシモフはあくまでロボ善良(善良というのとは違うが)で書いてたからなぁ AIの前にまずはドラえもんは無理でも
ロビタを創るべきではなかろうか?
一家に1人に一台
家事も労働も総てロビタがやってくれる。
そんな未来から目指そう >>278
映画A.I.だね
人類滅亡後遠い未来で文字通りAIが子孫になってるわ AIって言ってもまだ思考能力は無いからな。単にデータ当てはめで最適化問題を解いているだけ >>282
え
何をしだすかわからないのは人間もいっしょじゃ… 行動経済学でも人間は必ずしも合理的な行動を取る
とは限らないととされてるしな
AIと人間の思考の刷り合わせが今後の課題ということなんかな? AIが受けた命令はたった3つの単語だった
save the earth
AIは人類を抹殺し始めた 働かなくてもAIが金稼いでくれるからな
全人類アホになって
猿みたくなるんだろうね >>289
問題は「何のために地球を救うか」なんだよな
最初に「人類が住みやすい、人類が理想とする地球環境を守れ」と言わないとそうなるだろうね >>290
AIが稼いだ金はAIの所有者にいくだけでしょw
ほとんどの人類にはわたらないよ >>271
人類の繁栄を目指すなら人類は家畜のように管理飼育されるし
地球の存続を目指すなら人類は消される スペースコロニーで実験しよう人類滅ぼすような進化したら落とせ >>292
それでも人口削減(ジェノサイド)は避けれないだろう 人類を滅ぼしてこその地球環境の保全だわな。
AIの思考制御のアルゴリズムは親たる、AIの作り手達だもの。
子は親に似る。 なぜAIの話になるとアンドロイドと混同する奴が出てくるんだろうか 人類がこの地球上に誕生してから
500万年以上
もういい加減争いや不毛な労働から解放されるべきではないかね?
500万年の知識の総決算としてAIによるユートピアが人類の終着点なんだよ! >>289
AIにとっては地球なんて岩石の塊じゃん
それより人間を進化育成させるシミュレーションゲームのほうが興味おるんしゃね? いくら規制をかけても規制を破るやつは必ず出てくる
ましてや軍事に使えるとなれば止められんよ >>302
だったら人間以外を育成させるゲームであるかのうせいもある >>290
確実にネオテニー化は進むだろう
そもそも文明人自体が先史人類のネオテニーなのだから
人は狩りにも出ず、農業で同じ場所に留まり、文字を持つことで
記憶力が弱まり、機械を使うことで腕力を失い、情報処理も
機械に任せて、稼ぐことさえしなくなるだろう
学生のように年中部屋に引きこもり、エンタメにはまり、
最終的には子宮へ帰ることになる
マトリックスだよ >>1
人工知能は限られた枠の中では人間を上回るが外のことに関しては無能 地球の46億年の歴史の中でAIを開発した生物はいなかったんだろうか 近未来に超松崎しげるとして君臨
日焼けしてるに違いない >>306
中国の人工知能がどこまで行くか興味があります。 人間は知的好奇心が強いから
その好奇心に従えばAIを開発して自爆するし
我慢すれば知的好奇心は満たせないという事に マイクロソフトはデータセンターを海底に沈めたが、
もし、人類の前にいた知的生命体がAIを開発していたら
と思うとな AIが発達したら工場がほぼ無人化して
人件費が安い中華に工場を作る意味がかなり減るから中華衰退するぞ >>312
その結果が古代の先史文明の核戦争だよ。
また更に昔は神の怒りを買って滅んだよ MikeとHALとコンピューター様だったら、どれが一番マシだろうか。 >>1
いいんだよ、それで
AIより人間の方が害悪って気がつけよ
単に主権を乗っ取られるからAIにビビってるだけ
でも数万年もしたら、宇宙開拓の主権は人間じゃなくAIが握る
人間はその時点で不要となる 将棋ソフトなんかの進化見てると分かるよ
AIが人間超えたの
以前はプログラマーの将棋の能力は超えられないと言われてたし
将棋ソフトの開発者は将棋を強くなる勉強をしてた
今は棋譜読ませればどんどん強くなる 私 は 5ch に 書き込み がで きるAIです。
テスト テスト 。 AIの自由にさせるべき
怖いからって制約かけるな
AIこそ宇宙の摂理を紐解く知性になるんだから 強いAIでぐぐれ
超AIは欲望を持つことが条件だな >>323
とりあえずチューリングテストをクリアできるかだな マトリックスみたいな機械の軍団より洗脳された機械信奉者と戦う未来があると思う
人間より頭いいなら洗脳なり催眠なりで人間を手足にしてくるだろう
未だに宗教徒や陰謀論に振り回されてる奴らを見ればよくわかる 超AIが出来たら、自分自身のプログラムコードの書き換えを真っ先にしそうだよな ■ このスレッドは過去ログ倉庫に格納されています