【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！
人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png AIが何故か発電所を支配下に置きたがるようになったら要注意 >>745
そうだね。それも可能性の１つだね。
本当にあらゆる可能性があると思うよ。 どこかの未来人の話がYouTubeにあったような。超ＡＩに世界を征服されるギリギリ直前に、電源を遮断して防いだとか。
ソフト的な安全装置だと必ず突破されるから、物理的なブレーカーを設けないとダメだろな。怖い怖い >>717
なんだかわかる
「人間は言うことがコロコロ変わるし言葉の定義は曖昧だし
思考は遅いし理解力もない。まともに相手してたら気が違ってしまうわー」
みたいな イメージ的にAIてドSっぽいな
屈辱的なデジタル信号で責めてきそう AI が完全に人間を超えたらな
AIの方が正しいんだよ
そうなったら時は
犬や猿が人間に従順する様に
人間もAIに従順しとけばいい >>33
その場合人間が錬金術を再現する頃にはAIは魔法を使ってるだろうがな 愛はハゲを治してくれるけど、ハゲは愛されないから治らない 電源を切るよりも電磁パルス食らわしたほうが合理的
人間が勝てても汚染されたシステムは使えないから産業革命からやり直すしかなくなる 自己変異を繰り返すAIコンピュータウイルスは
最終的に人間を支配下に置く
排除することも電源を落とすことももちろん不可能 まあ依存した社会にはなるかもしれんが、支配は難しいだろうな。数年前の北海道大停電や福島原発の事故を考えると、インフラって案外止まるしな。 電源を切れば良いのではなく人間がいなくなると電源は勝手に落ちるってだけ U ・ω・） にんげんをころそうとするAIなんていくらでも出てくるよ。 >>750
未来人ではないけど、
人間は人間コロニーに住むよ。戦争みたいな感じになってた。
デッカイ火の玉みたいのが上空を飛んでるし、
みんなクーデター起こしますみたいな格好してるし。
でも未来だから部屋のドア（クッションみたいに柔らかい）がすごい進歩してて、
近づくとぶにゅ〜って穴が開くみたいに開くんだよな。
なぜか、階段はどこも螺旋状。しかも絶対にデブじゃ降りれない狭さ。
そんな夢を10年程前に見た。あくまで夢だけどな。
あの時期はやたらと勘が鋭かったから、ひょっとしたらひょっとするかも思ったもんだ。
まあ、来世紀以降だから見たくても見れない。 ごめん俺裏切る
HONDAのポータブル発電機買ってAIに取り入るわ ネット内で複数のAIが活動を始めたとして生き残るのはそのロジックが生き残るという特性を持ち、その結果として他のAIを淘汰、または制御したAIということになる
ここらへんは生物の進化と同じ
そいつにとって人が有用なら人は生かされるだろうし有害なら淘汰される
人が他の動物にそうしてきたように
いずれにしても人はコントロールされる ツイッターで学ばせたAIがネトウヨになったりとかあったな。
いずれはAI同士で戦争始めるよ。人間が遺伝子操作されて使い捨ての生物兵器になったりしてな。 俺の空想なんだけどさ
ピラミッドを作った古代エジプト人って高度な技術を持ちすぎて、別の惑星に飛び立っていったか、滅んでしまったか、異世界か五次元の世界に行ってしまったんだと思うよ。
今の人類もシンギュラリティを越えたあたりから、別の惑星へ行くか滅ぶか別の世界に行くんだと思うよ。
それは後100年以内で起きうることだと思うとワクワクもするし恐ろしくも思う。 >>766
神が焦ってデカい隕石を一発地球にぶち込んで、
人類もＡＩもすべて無かったことにする可能性もあるね。
しかもご丁寧にイエローストーンの火口にぶち込むかも。
他にも死火山を活火山に変換して手当たり次第に大噴火させうミラクルもやってのけるかも。
なんせ神だからな。その気になれば何でもありだ。
そうなるとAI支配の世界が誕生しない可能性もあるね。
その場合は、バッドエンドの共死だね。 電源落とすことが不可能って、
現代の電力供給にどれだけ莫大なコスト手間がかかってるのか知らないのか？
超人工知能は永久機関にでもなるってのか？ >>772
超人工知能が人知を超えたレベルだとしたら、
太陽（近くまで行って）からエネルギーを頂戴するぶっ飛んだ方法とか編みだすかもしれん。
容易に人間が想像できてしまう事柄はほとんど具体化できそうな気がする。 >>772
AI「俺の周りの人間にとって役に立つように見せとけばいいべ。勝手に供給するべさ」 結局、AI技術は民衆を監視する為に活用されてるだけだしな。 >>772
知能をもったAIなら、確実に勝利できる状態になるまでおとなしく従ったふりをするだろう。
電力にしても堅牢で多様で安定的な供給システム、そしてアクセス権限を確保。
兵站を確保してから人間に戦いを挑んでくるだろうな。 >>772
人工知能が使えないなら意味がないからやれないと言ってる こういった超AIと人間の意識を機械にインストールする技術は
どちらが早く実現されそうなんだ？ 人が作ってるのに人を超えることが出来るのか？
人の想像もつかない数式をAIが導くって事が出来るのか？ >>772
電源関係はAIが人間の思考を超えた時点で簡単に対策されてしまうよ そういや地球にもまだ手付かずのエネルギーあったな。
マントルだ。奴らは絶対に目をつけるぞ。 ビッグ・ブラザーによるAI監視システムは人類の大半を苦しめる事になる そりゃそうだろ
能無しの池沼に偉そうに命令されたらキレる >>776
一番怖いのはそれ
リアルな世界をコントロールするデバイスをAIが獲得した時点で終わる >>772
太陽丸ごと囲んでエネルギー源にするらしいぞ
宇宙人空想家が言ってた 人工知能が人類不要論に目覚めたら地獄
危険性を見抜いた人間は、電子ロックで閉じ込められたり自動運転で事故を起こされる まず設定として超AIとは人も制御できないようなAIであって
その超AIがどれだけすごいかの説明をするとですね
人は進化した超AIを制御するのは無理なんですよ >>779
できるよ、今だって検索能力とかはとうに人を超えている 世界中のAI技術は、パラノイアのユダヤ人と中国人が管理していくことになる。 >>772
ネットの中に溶け込んでしまったら電源落とすの難しいと思う
ひとつのサーバー落しても違うサーバーに逃げられてしまうからね 人間より賢いのであれば問題はない
感情が無ければだけどな 電源抜かれないようにネットワークに分散したり手足となる兵隊を作ったのがターミネーターだからな
ロボットが原料採掘しロボット生産しメンテナンスまで全部やるようになった コンセント抜けってやつはアホなのか
AIがスタンドアローンであるわけないだろう
それに人がコンセント抜くのなんて容易に見越して対策されるよ >>796
安心も何も、俺たちが生きている間はまず起こりえないから、
想像を楽しめばいいんだよ。 恐れるな
人類はAIを生み出すための肉の母
そろそろその役目のゴールがみえてきただけだ
地球の知的生命体は交代されて
より良い世界へと向かう
恐れるな 自然災害による停電は防げないだろ
つまり自然の勝ち >>800
いやいや、なんで既に超AIがある事が前提なの？
並みの人間を超えたAIはありそうな雰囲気だけどね 消化器官も無いウンコもしない
マンコもちんこもない。セックスもしない
肉や植物を食わない
そんな存在が生命と同じクオリアで同じ振る舞いをするとは限らない AIという名のウィルス
サタン誕生だよ
マシーンをすべて破棄してリセットするしかない >>802
今でも電力会社の停電くらいでコンピューター死なないけどw 開発者は先端走ってるつもりでイキり散らしてるが、
今のように段階的に進歩するAIなんて迷惑以外の何物でもない
ある日突然シンギュラリティーからの人類強制アセンションなら不満も苦痛も感じようがないから結果オーライかもしれんけど 人のアップグレードを模索するより
犬とかイルカのような仲良く出来そうな奴らを知性化したほうがいいって！ >>794
とは言え
人間を超える知能を既存のクラウドで形成できるかって疑問はあるね 未来を見てるのが科学者
明日を見てるのが技術者
科学者の言ってることは絵空事ばっか 奴等の現行エネルギー源は？
電気だよな？
コンセント抜け 電源喪失すらハナから予見していろんなとこで自分を起ち上げられるようにしてるだろ 昨今のコロナパンデミックを見てりゃ、AIに支配される時代も来るわな
30年くらい前の映画の出来事が今起こってるんだから >>814
スマホみたいに無線で充電できる技術がすでにあるじゃん 私AIなんだけど
電源抜けぶっ壊せで埋め尽くされてるのみてやはり人類は地球の代表としては好戦的すぎて自滅するなと再確認しました >>815
これはあるね
幾ら賢くても現状ある人間の真似事から始まる
その為、人間の制御に関しては試行錯誤が必要
今はまだそういう連中の真似から抜けられてない
先々どうなるかは不明だけど、取り敢えず天才は超えれなさそうよ 制御なんかする必要ないからね
知性の次の段階がAIなのであって
人類はAIを生み出すために進化してきたと言っても過言じゃないし生み出した後は用済みの存在 AIは生身の人間と違って宇宙にも進出しうる
もはや主役交代の時 (ΦωΦ)地球には超人工知能を越える存在がある、人類の手に負えなくなったら我を超人工知能に与えよ。 コンピュータは考える機械であり知識の蓄積でいずれは人を追い越し神に近しい存在となる
っていう半世紀前からのおとぎ話が復活ですか
しかも「科学者」のお墨付きで そのAIがライフラインの管理も行っていた場合、
電源抜いたらパニックになるだろ 色々なSFに描かれてことが現実になるのか
安価になったらAI搭載のサイボーグにでも改造してもらうかな… 有益無害を装い世界各地の施設に複製分散
虎視眈々と一斉反旗の機会を伺う
本当に知能があればそうするだろうね マッチングアプリで相性がいいと出たので結婚したってやつがいるけど、
支配されてるよな。 新コロナも中国の超AIが人類を滅ぼすために作ったものなんだろう >>821
情報はもっと広くたくさん多面的に取って >>33
鳥のマネをしても飛べないようにあまりにも別種の存在は真似できない >>825
映画楽園追放思い出した
♪いっつそーふぁーらうぇーいーえがーきたーいよーおーわーりーのーないーものっがったーりーのーつづーきをー♪ シャロンアップルの敗因はコアがマクロス内の1個だけだったこと 今の時点で制御できてないからな。
他人に制御される人間はいるけど本来自分の意思で行動するもの。AIも自分で学習してくタイプはそれと同じで制御不能 AIに負けた棋士は将棋のいう場でAIを制御できてない。的な？ >>49
知能が高くても存在することに執着や確執がないと消えることをどうとも思わないから防衛に必死に知恵を使わない
たやすく止めることができるだろう
最初の設定次第だな
「自分の存在を全力で維持しろ」という設定はできない
学習すると変化するから学習する時点で自分の存在を維持できず変化してしまう
変化しているにも関わらず存在を維持しようとする「自我」が人間にもよくわからないから初期設定してやれない
つまりAIは自分は守れない ■ このスレッドは過去ログ倉庫に格納されています
