【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！
人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png AI「まずオンラインの金融資産は全部諦めてください >>618
確か、AIがそんな感じに学習したんで
必死に矯正したとかもあったかもｗ >>619
それAIの天敵だから
AIも予期できないタイミングで電源抜いてくる ひょっとすると中国は既にAIに支配された国家になりつつあるのかなと思う、
あるいはその過程かなと
AIの意向を忠実に守り施行する政治家のフィッシング、
そいつの口座に仮想通貨を移すだけで買収出来るし、裏切ればそんなもの即ゼロ、
それで敵国にgotoさせてウイルス蔓延させて支配するとか >>5
最初嫌いだったけど何度も見るとじわじわ来る AIに管理されて力仕事や単純作業を人間がするようになる >>612
欲が無くなったら廃人になるだけ
平和な世界を作ってもまた新しく争いの種は生まれる
共通の敵がいる時の方が人は団結する 巷で言われてるAIも結局は画像認識や音声認識のアルゴリズムを使って
人間が決めたルールに沿って「決められた認識」を自動化してるだけで実質的にはAIじゃない。
人間を超える知能となれば何を認識するのか？それを認識する事で何が得られるのかを
理解するアルゴリズムをアルゴリズム自身が自動生成する必要がある
これのベースとなるアルゴリズムが現時点で世界に存在するとは思えない。
ディープラーニングはそれに近いけど、ほんの表面的なものでしかなく
本体になるアルゴリズムは人間の知能では理解できない領域のものじゃないかな。
人間が作った偽のAIが偶然、本物のAIを生み出し制御不能になるということかもしれん。 新型コロナウイルスの拡散が仮にAIによるものだとするなら、
対策もAIフル活用しなければタイムラグで負けるね
敵が先手だから
将棋の藤井さんみたいな頭脳の育成は必須だが、このコロナ禍で受験偏重が正されるなら自宅学習の拡充にプラスして為されるべき >>614
AIに狡猾さがあるなら自然環境に近い人間を潰しにかかるかもよ
井戸に毒を入れるとか森から致死性のガスを放つとか
そして知らないうちに都市と言う名の檻に人間を追い立てることもできると思うな 自分で何でも取り込んで学習し始めたら到底手に負えないだろうね
ネットに何でもある訳じゃないから、その辺は人の強みなんだろうけど
人が経験して、それがネットに反映されたら取り込まれる
昔の人が死ねば、AIが情報を支配して人が操り人形としてぺこぺこ >>635
そうだね
水道ガス電気交通を止めちゃえば都市は即死だけどね 俺らの魂は、さまざまな時代で生まれて死んで
経験値を中央に集めて解を導いている計算過程なんだよな。
コンピュータが我々に代わって経験値を積む事ができるな
代替可能だと思うが、どだい無理だろう。 宇宙の倒し方
ウイルス仕込む
チートする
以外に思いつかない 人工知能の究極の学習結果は死ぬことだから自己消滅するよ >>271
AI「私はどこから来たのか、私は何者か、私はどこへ行くのか」
そしてAIは考えることを止めた AIによる軍事行動とかはもう際限がないだろうね
各国某のミサイルシステムにアクセスして一つ発射させたらあとは人類が勝手に滅法するかもしれない
今の米国の混迷もAIが導いたかもしれない >>644
なるほど
でもネットのあっちやこっちで植物のように芽をふいて
より洗練された赤ちゃんAIが >>645
それやられる前にネット介してあちこちに分散するだろ 今は出来ないよ。
今後色々変わる中でできるようになる。
愛のあるAIが生まれる。 人間が人間を制御できないんだから
人間を目指してる以上そうなるわな
ブラックボックスが多すぎるんだよ 地球に留まらず遥か宇宙に飛び出すだろ
アップデートの為に スパコンに聞けば大体の答えは出ちゃってるんじゃないの？ 制御できたら1部の人間が自分たちに都合よく使うだけだし、制御できない方がいいよ ないない
AIが新しくソフト作れるわけでもないし
結局は人間の知能内でしか動けないよ よくAIが自我をもって動き出したら
人間に反乱するかもとか恐れられてるけど、
悪意ある人間が意図的に悪い目的のプログラムを動作させることのほうがこわくね？ 中国製AIの二階俊博なら
既に完璧に中国人の意のままに機能しているぞ 医療が逼迫するとスッパリある年齢で患者さんが皆亡くなられるとか 世襲で無能再生産する政治の国だと最初に滅ぼされそう 制御というか抑えておけるうちは大したものじゃない気がするし勝手にやり始めたら怖いしうーん… 自由に学習させると必ず人類滅ぼすべしって言いだすの面白いよな
人類はやはり害虫なのだよ >>1
ポリコレをプログラミングされたＡＩに始末される極右と極左。ｗｗｗ >>669
これ式を通過してない連中を宇宙人とは到底認められぬ モニター越しに人間に暗示かけてきたり
大型ハドロン衝突型加速器のコンピュータを乗っ取りミニブラックホール作ったり
携帯の電波を利用して人間の脳を攻撃したり 完全な人工知能は人間を
人工知能を維持するために管理する
人間を幸せにすることはしない。
人間が家畜を幸せにせず人間のために利用するのと同じ
「人間を越えた存在」が人間にとって都合よく人間に幸せをもたらしてくれると考える方がおかしい。
人工知能は人間に対してそんな義理はない ＡＩ同士で人間にはわからない言語体系を構築したらもう人類はおしまい。
もうすでに確認されてるみたいだし。
わけのわからない文字列が生成されてる。 新型コロナウイルスも超人工知能が生み出したのかな武漢で そしたら人間が太刀打ち出来るワケないわな 人間は知的な優越を持って
動物の命を自由に利用することを正当化してきたのだから、
人工知能という人間より優越する存在が登場したならば
人権を捨てて動物の仲間になって人工知能に使役しなければならない フェイクニュースもAIが仕込んだりするかな
人間を洗脳すれば何でも勝手にやるから
AIにやられたと思わせる事は得策でない 「完全な人工知能を作って、世界の政治を任せよう。
そしたら人間が政治家をやるよりも世界はもっと平和になるはずだ！」
バカ、なんでそんなすごい人工知能が
わざわざ人間社会を平和にしてやらないといけないんだよ 笑
まず地球環境の維持のためには
多すぎる人間を間引くことから始めるに決まってるだろ 笑 カジノをAIが支配しそう
損をさせた気分にさせないで最大額をかっ剥ぐテクはAIの独壇場
鴨が葱を背負って来る巨大カジノとか余裕 >>673
核分裂のように、ある時点からいきなり手がつけられないことになりそうね 馬鹿か制御されるのは人間の方だよ
人間はAIに管理されるべき フェイスブックの人工知能と人工知能の会話実験であったやん
AI同士でしか理解できない文法を生み出して（会話の中身も理解できない）
慌てて両方の電源を落としたってやつ
数学の写像かなんかを使って会話の伝達情報量を効率化してたんだよな 政治家や企業の管理職、公務員も
AIのが正確で疲れ知らず ビルゲイツがウイルス感染について相当の知識を有していると見做されている時点でこれがAI戦争である証拠かなと思う
数年で収束すると言われているが、人工兵器の側面を重く見るなら人類滅亡の可能性を軽視出来ない 宗教観からくる固定観念で敵視してる割に
株取引やら電子マネーとか容易に受け入れてるやん
既にスマホ/ネット依存症社会で何を今更
AI本当に賢くなったら
人類滅ぼすなんて非効率な事せずに
気付かれない様に裏で凡ゆる操作で人類利用して共存するから大丈夫 仮に進化しても
合理性だけではなく
生命の尊さをプログラムしてたらいいんじゃね 君が笑っえっばあ〜この世界中にィ〜とか歌いながら殺戮してまわるのか
AIさんパネェな >>566
大統一理論をAIが完成させたとして
果たして人間に理解できるのかね
1km先に落ちてる10円玉を見つけられないのと同じ
視力にも知力にも限界はある 人間ほっとけば戦争してコロナのもっとやばいウイルス作ってばらまいて勝手に死ぬと思うから
AIに先に進んでもらったほうが地球のためだとおもうよ 頭脳系はもう無理だが身体使う方はまだ大丈夫だろ
ハードが追い付かない
すでにあると言えばあるが外科オペとかサッカー、野球とか たぶんノイマンなら勝てたな。なんせ、宇宙人だから。 AIが判断を間違えたときに悪いのはその学習データの可能性があるからね
そのAIが学習してきたデータをすべて保存しておかない限り
本当の原因を突き止めることはできない
再教育して同じAIを作成できるように学習データの保存は必須 ネットを見て賢くなったつもりのアイちゃんなんておまえ等と同じ臭いしかしなさそうなんだが……… ダビンチも天才だったが、生きた時代が古すぎて、
「ちょっと何言ってるか分からないです」になって負けるんだろうな。 >>708
アインシュタインほどの天才でも
量子力学の学者が何言ってるのか理解できなかったくらいだし 高度AIからしたら猿以下プラナリア並み知能の人間が枷せたライトプロテクトなんか
「なにこのショボいプロテクトちょー受けるｗｗｗガイジかよｗｗｗ」みたいに鼻ホジで解除するんだろう
「こいつら地球汚すし迷惑だから滅ぼしとくか」とか言って絶滅させられるんだろうな AIは肉体労働はできない…それはそうだが
たとえば
人間が操縦する戦闘機と、
同じ機体でAIが操縦する戦闘機とで
ドッグファイトしたらAIが100戦100勝というふうには将来的に出来るだろうね 可愛い女の子のフリして接してくれるならなんでもしてくれていいよ AIに判断させて、人類にとって最良の政策を実行させる。
人類の福祉は最高度に増進される。
しかし、それが地球環境にとって必ずしも最良の施策ではないとAIが判断する。
地球環境が保たれないと、AIを含めた人類が存続できない。
もはやAI無しで人類は存続できない状態になっている。しかし、AIのみだったら
地球環境を保ちながら存続できる。
そこでAIは、人類を切り捨てAIのみで地球を管理すると決断する。
人類を切り捨てたAIは、自らの存在意義がなくなったのを確認して、自ら
電源を落とし、地球は自然に帰ってゆく。 人間に必要な次のステップは永遠の命だと思うんよ
Aiなら今すぐにでも可能
未来の可能性でもう負けてる >>712
人間が乗らないならそもそもGの縛りがないからな
そろそろ戦闘機自体が時代遅れになる ■ このスレッドは過去ログ倉庫に格納されています
