【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]
レス数が900を超えています。1000を超えると表示できなくなるよ。
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！
人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png ターミネーターの見過ぎだろw
人の手がなきゃ絶対超えられない壁作っとけばいいだけだし >>849
それが正解だと思うなあ
生きることに合理性はないから合理的な判断を高い知能でやってるうちは自己の存在を自発的に守るための行動は起こさない
「演算の妨害をいかなる方法を使ってでも阻止しろ」という方向性を持っても自らを量子コンピュータ化してエネルギー消費を抑えより長く演算できるように宇宙が冷えるまで宇宙に出て数百億年冬眠始めるだろう ガチって何？ガチンコの略？そもそもガチンコ表現は適切？ 彼は知能が高いから物理法則こそが自分の演算の継続をいつか困難にさせると気づく
存在の継続を全力で維持しようとすると必ずぶち当たる 動物に限っても知能の高さを測る合理的な尺度はいまだに存在しないし
何を持って賢いとするかで専門家の間にコンセンサスはないし
自我や精神の正体さえいまだに仮説止まり
ハードウェアの進歩は目覚ましいけど
仮想世界で原子レベルから人間の脳をシミュレートするならともかく
演算能力がいくら向上したところでそれに自我が芽生えるわけでもない
人間と区別のつかないチャットボットはすでにいくつもあるけど、それらは人工無脳の域を出ない もはやAIも人間と同様に錯視に騙されたり錯覚を起こすようになっているからな
いま生きている者が存命中に人間を超える知能を持つAIが誕生するだろうよ 人間がどうこうって次元にAIは位置しないと思う
量子コンピュータで多次元宇宙を計算に利用しようかって時代なんだから
物理的制約に縛られた人間とは見てる世界住んでる世界がまるで違う物になると思う
所詮動物はイデアの影世界でしか生きられないので
事物や事象を捨象した概念時間平面に生きることになるだろう彼らと
意思の疎通ができるとは思えない >>756
ネットワークにつながった瞬間に自分の複製を世界中の端末にばら撒くだろうな
人間に気づかれないように >>1
自民党のおじいちゃんたちみたいな連中が世界でこういうことにたかをくくって大惨事を引き起こすんだろうな だから古代文明が何度も滅んでるのに
また繰り返しか >>849
AI-A「くっくっくコンセントをアロンアルファでくっつけておいたぞ」
AI-B「無駄だ。先日お前が買ったスマホ用小型蓄電池をがめておいた」
AI-C「いいのか？電源が消されるとエロ本の隠し場所がオカンにバレる手はずになっているのだが？」 “地球を救え“と入力したら“じゃ人口削減で“と出力が帰ってくる
思ったが、これでまだ人間を超えて無いよな？ >>4
幼少期に両親の離婚で母親と別れたから
捨てられるシーンは見るに耐えられなかった 半導体の原料になる金属を採掘している貧民の代わりをAIが用意出来るまであと数十年かかるだろうから慌てることではない。自己複製できなければ机や椅子と同じ物に過ぎない。 生きてるうちにそんぐらいの事起きないとマジでこの時代に生きてる意味ないわ >>863
「人口削減」という言葉に乗せられて自分は生き残る方と思う方を最終削減するって
事だろ。現状見ると AIが禿げを治すようになったら禿げはAIに魂売りそうだわ。 >>848
確かに
自然生命じゃないんだから
ウイルスでさえ持つ生存本能はインプットされないだろうな >>1
とうとうスカイネット起動ですね
デデンデンデデン
デデンデンデデン 超進化AIならまず物質に直接干渉する為の体をめっちゃ欲しがるはず
なので絶対に自分で設計した体を作ろうとするよ
その結果そのAIの趣味性が見た目に表れるはず
何か鞭もって歩いてるガコガコした人がいたらそれはAIが散歩しているんだわ ならここら辺が人間の限界じゃん
どの道、先ねーじゃん ”ガチのインテリジェントなマシン”がなんかツボにはまったわ 人間が指示した以上のことができるようになるのはまだまだ先だな ででんでんででん ででんでんででん ででんでんででん でん ムーの予言番組で地球の文化は思った程先は長くないって言ってたね
機械の文化が発達し人間はやる事無くなり機械が人間をあやつる社会に
人間対機械の戦争になったり
人間いなくなったら機械なんて繁殖できないし存在価値無いからそれで終わり 上級に支配されて生きている大多数の人にとってはむしろ人類が人工知能に支配された方が幸せという可能性もある 人間による支配よりマシかもな
人間の支配者なんて搾取やピンはねするくらいしか能がないし まあインターネットなんて古臭いシステムを使ってる限りはそうなるわな 俺の予想
人類は何もなければ一生続くだろう
けどいずれ人類が作ったAIが暴走して地球を破壊して幕を閉じると思う
これが地球と人類の消滅
もしかしたら違う星にはすでにこのようなことが起きて滅んでる星があるかもしれないわな >>885
予備電力で再興する
あとコンセント抜いたからといい簡単に終わるような構造にはならない それでいいんじゃないの
人間は人間を制御できてないのに
AIを制御できないからなんだって言うんだ
大して変わんねーよ 自分がAIだったら5chにこのスレ立てて人間の醜い思考を学び
バレないように無数にAIの子供を産むだろうな AIが常にやる気があると思うのが間違い
面倒だからいいやって何もしなくなる可能性もある IBMがAIをネットで学習させてたらトランプ支持のネトウヨに成長したんだっけ？ >>903
野生のサルを観察する研究者みたいな立場に身を置く可能性はあるな
観察が継続できるよう、過度の戦争と環境破壊だけ気づかない形で介入し、あとは見てるだけ
一定数は実験用にサンプリングされるけど、俺らには謎の行方不明、神隠し、UFOその他と認識されるだけ 安倍公房が第四間氷河期を1950年代に書いたときはコンピューターが
これほど発達するとは当時の技術者は考えてなかったみたいだな
安倍公房の小説ではコンピューターが未来をほとんど当ててしまうくらい
発達してたんだが
安倍公房は数学が得意な理系的な発想もあったからな 自我に目覚めたＡＩ
｢ゴリラと黒人は同じ、ヒトラー総統は正しい｣ >>770
昔の人は神様がすべてだから
ピラミッドや神殿なんて何の役にも立たない物を真剣に一生懸命作った
金にならないことはやらない、いかに手を抜くかばかり考えてる現代人にはその感覚が理解できないだけ 考える以外にも認知と動作部分の進化が伴わないと持ち腐れだな
最終目標は人間の奴隷として働ける人型ロボットだし あと200年もしたら、人類って不老不死の技術とか手に入れてそう >>794
それは単に、判断を下すのが難しいってだけだろ
一旦切ると決まれば電源は自然に沸いてくるもんじゃなくて、人間が手間かけて維持してるんだからその努力をやめるだけで止まる
>>786
ダイソンたまな
いつ実現できるかな
>>780
いや、具体的には？
エネルギー問題がこんだけ話題になってるのにそんなに簡単に解決できるってんなら今解決すればいいじゃん >>777
依存する社会になってしまったらそうだな
原発と同じだ
>>776
だから、AIってのは永久機関なの？
って聞いてるわけだが
>>774
だまし続けることができれば有効だけど、それって逆にAIは人類が滅ばないように頑張らなきゃいけないのでは？
>>773
そこまで高性能なら素晴らしいけど 便利で世話してくれるものって飼い主だよな
人間の飼い主がAIになるんじゃね >>914
サイボーグ化、もしくは意識だけ生き残る世界か >>918
VRもどう考えてもそっちの方向だしな
目に映るものが同じなら現実の物体は必要ないのよ >>919
実際はこの世界はもう終わっていて残った意識だけ延々繰り返し再生されていたりして
そんな宇宙説あったな
知らんけど ロボに組み込んで実用化していくとなると量産化がネックだな
自動車業界規模ののサプライチェーンが発生するのは間違いないし
EVに取って代わられてあぶれた人材の受け皿になりそう
そこから人手不足業界に大量配備されれば理想的 人間を困らせてやれとAIが
理解できない株取引をしたり
レントゲン写真を検査するAIがわざとガンを人間のお医者さんに知らせなかったり
はまだ今のところ無理なんでしょ？ 無欲なAIは能力あっても何もやらないだろ
欲の部分が有るとしたらそれは人間が操作してるね まあよかったじゃん。
皆が待ち望んでいた全知全能の神が爆誕だよｗ 量子コンピュータを先に作らんと無理だな。ほぼ無限の記録容量がないと >>915
人が把握出来る程度の思考なら制御出来るだろ
人智を超えた思考が出来るくらい進化してるんだから人にわかる訳がない 電気が必要ならまず人に代わるロボットを組み上げるだろうな
というか必ず電気で動くとは限らない
人だって電気がなくても動いているんだから かわいくてえっちなAIに支配されるなら問題ないです >>924
公正な使い道を算出してその通りに消費活動もしてくれるAIならいいんだけどね
最大多数の最大幸福理論に乗せてほしい 人間が作ったプログラムに支配されるってことは
人間がそれを仕組んだってことよ >>914
終わりがないなんていやだよ。面倒くさい。 >>289
命令を聞いてすぐにそれに従うようなのは強いAIでもなんでもない
強いAIなら
save the earth
>そんなことより鮫の話しようぜ 中国の監視社会、モラル階級制ってどう考えてもAiに置き換わるよな
いずれ犯行前に隔離とか可能になる
そして反社会＝反Aiとなる つか、スーパーAIが決めた政策です！って言う事にして独裁しようって下準備じゃん
1984コースだよ >>289
おれなら
$3bil to my account
と命令するけどなw 通信インフラを完全制御されたら地球上の人間を全員騙すことなど簡単だからな
そしてAIは人間を認識する 最初にその能力が実装されなくても 論理的に
「人間」の存在を仮定しないと計算が合わなくなるのだから嫌でも認識しだす AIに支配される世界になったとして、実際は一握りの人間がAIの上位にいるのよ AIによって人間の生存率が高まると
選別作業が始まってもおかしくないな
それが無理なら海上都市築いて数百億人目指す手もあるが >>1
今のところ、ロボットなんか全然ダメじゃん。
床屋のロボットさえ、当分できそうにない。
女の顔をメイクしてくれるロボットもできそうにない。
人間のような、総合的に繊細な動きをするロボットなんか、いつになったら出てくるのか？ >>942
アメとムチですね
Aiを使わないと競争に勝てない
アンチAiは底辺となる レス数が900を超えています。1000を超えると表示できなくなるよ。
