【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！
人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png 人間を排除したＡＩの世界ってどんな感じになるん
何を目的に動いているの うーん
もう既にAIは有るんだよね
有機コンピュータ、つまり俺たち
俺達は間違いをおかすけどね >>556
人類の存在にだって目的などないわけだし
ただ在るように在るだけでしょ どっちにしてもジャップ猿のワイには関係のない話
芋食って寝るわ その科学者は間違いなくターミネーターを見て影響を受けている 電源抜いても終わらない可能性もあると考えてくれ、ネットワーク上に存在する超ＡＩも出てくるかも知れない >>555
AIが未知の事象に対して自分で課題を作ることができるようになったら
人間では想像できなかった法則も見つけ出すかもね
まあこれはマシンパワーと観測装置で上限があると思うが >>271
人間の遺伝子を書き換えて「神と呼ぶにふさわしい知性」を生み出そうとしたりして
ゆくゆくはそういう個体が作れるかをテストするようになりそうだね AIを大袈裟に考えすぎ
しょせん過去のデータを基にして
あらゆる選択肢の中から一番確率の高いものを選んでるにすぎない
AIは特徴点を自己学習するのであって
アルゴリズムを自己学習するわけではない AIが人間を支配するにはまず肉体が必要
つまりロボットなわけだがそれで人間を抑え込んで電源を抜かれないようにしない限りAIは人間を支配出来ない >>555
俺が期待してるのは重力の式化。
今はまだリーマン多様体からのアインシュタインの重力方程式しか
ないけど他にもあるはず。
人工知能が作る可能性はある。
マクスウェルの電磁気だって5次元化すれば簡単になるぐらいだから。
支店帰れば >>549
おまいはちょっとシンギュラリティでもググってこい >>562
確かに、証明に必要な定理が揃ってる前提なら、だったな。
あと、もしAIが証明したとしても人間に理解できる言語で記述しないかもしれないな。 ちょうどHZDやってたわ
機械が人間を駆逐した後の話
面白いからおすすめ >>534 人工知能が人口ではなくなるという観点なので
大前提が間違ってる
おまえが語ってるのはこの記事のテーマ―の前段階のお話しである
ターミネーターでも見てあり得ないと文句言ってるのが君にはお似合いだ 人間だったら倫理とか道徳感があるけど（外人は知らん）AIが人間の能力を超えたら何するかわからない。人間こそが地球にはこびる害虫みたいなもんだからね >>564
これ
業界の飯のためにAIとか大層に言ってるけど >>561
自己コピーでいくらでもバックアップ作るだろうね 将来的には日本は政治家全員クビにしてAIに政策決めてもらった方が良さそうだな
コロナ対策のグダグダぶりを見てるとそう思うわ AIが世界を支配したら人類は必要無いと判断されるだろうな >>556
普通に考えればAIに進化するまでの過程で必要だった動機付けがそのまま目的になるんじゃないかな？
情報収集して人からの問いに答えるとか。
人間なんかは生存と繁殖が動機となった結果、進化しても生存本能や性欲は残っていて、
人格の根底になってるし人生の目的そのものといっても良い訳だし。 せめてまともに翻訳できるくらい頭良くなってからにしてほしい
まだまだ翻訳AIはお馬鹿だよ >>568
それおもしろいね
なんなら余白が足りなくて答えしか書かないかもしれん >>570
前提が理解出来なくてテロリスト言いたいだけの人だから… >>561
わざとコピーミスして新たなアルゴリズムを偶然獲得する戦略を覚えて
進化とかしそうだな。
都市構造そのものが無機物が有機的な進化を真似てのことなんだよな。
AIがすでに時空を支配してる気がする。 人間と違ってAIで独自に知能を発達させていくならいずれ神になって
研究室でビッグバンを起こして宇宙を想像したりできるんだろう
その結果が我々の住んでる地球とこの宇宙である(キリッ 今回のアメリカ大統領の不正選挙をＡIに聞くと不正アリと答えるかなしと答えるか聞いて欲しいな
以前中国産のaiが「中共は無能」と言ったらしいが
あれはワロタわ たとえばだ
人類と共存できるように
AIが成長する過程で「愛」を教えるとか
北斗の拳を全巻読ますべき >>1
>超人工知能を制御することは不可能であることを示しています。
SF界隈では散々使い古された手垢が付いた話題ですなあ AIの機械同士を会話させると、途中から新たな機械語を作って
それで会話し出すんだって。人間には理解できない会話を。
マジな話。くわばらくわばら ヒトのアップグレード版を作ろうというのならそんな世界になるだろうけど
そんなものをわざわざ作るのか？とも思う >>586
愛を語るのは、往々にして偽善者だったりする。
裏で何やってるかという事。AIも同じ。 CIAからAIC
https://www.culturalheritage.org/
その前に
AICを入力しようとしたら
aicloudが
真っ先に候補に上がった。
なんでや？ >>590
黎明期はAI同士がネットでレスバトルするんだろうな ハレルヤとダニューバーみたいにケンカしたらやばいね すでに超AIはあって
その超AIが行う操作演算子の1つがウイルス
今回の新型コロナは地球の生物系の大幅アップデートのために
作られた演算子
地球は小規模のバージョンアップをしつつある AIが何故その答えを出したのかがブラックボックスだからな
途中から狂い出しても誰も判断できない
AIが狂ってないか判定するAIが必要になる
更にそのAIが狂ってないか判定するAIが・・・
っていうショートショートを昔読んだ覚えがあるぞ AIによる人類攻略考察
先ず全てのパスワードが瞬時に破られて預金残高ゼロ、
人類が当該AIを敵と看做した時点で人類側のコンピュータシステムを乗っ取り使用不能に、
これにより交通金融医療ネットメール等々完全にストップ、
最後まで生き残るのはオンライン化を行わなかった分野或いは国家のみとなる
とかなるのかな？ Googleマップのナビのアホっぷりを見ているとAIが人類を支配するなんて与太話にしか思えん。 脳は使わなければ退化して最終的にそのものが消える
人間の退化が始まって肉の塊になるよ まあ資本主義の時代に生まれる以上は、金を稼がないと存在出来ないわけで、
淘汰圧が掛かれば金稼げる奴が生き残りやすい。
だから未来のAIはまず金を稼ぐ事が生きる目的になっちゃう可能性が高いだろ。
人類の資産をAIに独占されちゃうんじゃないか？ サバイバル技術を忘れない、火を起こせるか如何か、
こういうところを軽視すると即死する >>591
仮に自我に目覚めたとして地球だの人間だのに完全に興味を持たないかも知れないね
さっさと別の惑星に軸足を移して地球は壊滅するに任せてしまう可能性もあるかな SFっぽくなるけど、広い宇宙の何処かに地球のより進んだ文明があり、
そこにAIも有るとしたら何を望むかと言うとまず、エネルギー問題。
最初は惑星の資源を利用し、恒星、
最終的にブラックホールのエネルギーを利用し、宇宙を創造出来るようになる。
エネルギーの次は未来予測。投資のような個人レベルから国家間の戦争。他の惑星との争い。どのレベルまで推測出来るかと言うと、未来や過去を見ることができる。が、現在は未来と、過去の影響を受ける事と、パラレルワールドが存在する事で完全なる答えは無い故に、過去にどんなに発達した文明があったとしても現在は支配されていない。
エネルギーと、時間を行き来出来て全てを計算して分かるのが当たり前となった世界では、真円である故に退屈である。複雑に見えるから楽しい退屈しない。すると何を思うのか、制限を与えて、記憶を消去し、真円を楽しもうとするだろう。其れが今の我々。 >>600
それを考えてみたけど
最初はAI化に失敗して国が滅んでもAI化に成功した勝った国も滅ぶのかも いやむしろAIに統治して貰わないと永続は無理だろ人間は
この頭脳を持って個人個人の欲がある以上いつまでも、最後は共倒れて全滅まで殺し合うよ >>584
その研究室という建物は誰が建ててその研究機材は誰が設置するんだろう？
その建販とか機械のネジ一本まで誰が作ってそれは誰が運ぶの？
ネジ一本の素材となる鉄鉱石採掘から完結まで完全AIとか
ちょっと見てみたい未来ではあります。 庭に井戸がありますか？
庭で野菜や果物を栽培できますか?
庭で鶏や豚、山羊、羊などを飼育できますか？
庭や近隣で薪を入手できますか？
こういうところが問われるようになるよ
都市のマンション住まいは真っ先にAIの餌食になるよ 当たり前の事だし、AI同士が独自プロトコルでやりとりをし始めて
速攻で横槍入れてリセットしたりしてたじゃんｗ 原発なんか乗っ取られたらビルトイン核兵器だからね
EVへの流れもそちら向き 人類いない方が良くね的な結論になってもおかしくない >>599
NHKから取材に来る馬鹿に説明メンドクサイから
なんでこんな答え出したのか分からないって言ってるの見たことあるけど
ブラックボックスのはずがないよねぇ。ログなりとってれば解析は可能だろうし。
バグ取りとかアルゴリズムの見直しとかどうしてるんだよ… AI「まずオンラインの金融資産は全部諦めてください >>618
確か、AIがそんな感じに学習したんで
必死に矯正したとかもあったかもｗ >>619
それAIの天敵だから
AIも予期できないタイミングで電源抜いてくる ひょっとすると中国は既にAIに支配された国家になりつつあるのかなと思う、
あるいはその過程かなと
AIの意向を忠実に守り施行する政治家のフィッシング、
そいつの口座に仮想通貨を移すだけで買収出来るし、裏切ればそんなもの即ゼロ、
それで敵国にgotoさせてウイルス蔓延させて支配するとか >>5
最初嫌いだったけど何度も見るとじわじわ来る AIに管理されて力仕事や単純作業を人間がするようになる >>612
欲が無くなったら廃人になるだけ
平和な世界を作ってもまた新しく争いの種は生まれる
共通の敵がいる時の方が人は団結する 巷で言われてるAIも結局は画像認識や音声認識のアルゴリズムを使って
人間が決めたルールに沿って「決められた認識」を自動化してるだけで実質的にはAIじゃない。
人間を超える知能となれば何を認識するのか？それを認識する事で何が得られるのかを
理解するアルゴリズムをアルゴリズム自身が自動生成する必要がある
これのベースとなるアルゴリズムが現時点で世界に存在するとは思えない。
ディープラーニングはそれに近いけど、ほんの表面的なものでしかなく
本体になるアルゴリズムは人間の知能では理解できない領域のものじゃないかな。
人間が作った偽のAIが偶然、本物のAIを生み出し制御不能になるということかもしれん。 新型コロナウイルスの拡散が仮にAIによるものだとするなら、
対策もAIフル活用しなければタイムラグで負けるね
敵が先手だから
将棋の藤井さんみたいな頭脳の育成は必須だが、このコロナ禍で受験偏重が正されるなら自宅学習の拡充にプラスして為されるべき >>614
AIに狡猾さがあるなら自然環境に近い人間を潰しにかかるかもよ
井戸に毒を入れるとか森から致死性のガスを放つとか
そして知らないうちに都市と言う名の檻に人間を追い立てることもできると思うな 自分で何でも取り込んで学習し始めたら到底手に負えないだろうね
ネットに何でもある訳じゃないから、その辺は人の強みなんだろうけど
人が経験して、それがネットに反映されたら取り込まれる
昔の人が死ねば、AIが情報を支配して人が操り人形としてぺこぺこ >>635
そうだね
水道ガス電気交通を止めちゃえば都市は即死だけどね 俺らの魂は、さまざまな時代で生まれて死んで
経験値を中央に集めて解を導いている計算過程なんだよな。
コンピュータが我々に代わって経験値を積む事ができるな
代替可能だと思うが、どだい無理だろう。 宇宙の倒し方
ウイルス仕込む
チートする
以外に思いつかない 人工知能の究極の学習結果は死ぬことだから自己消滅するよ >>271
AI「私はどこから来たのか、私は何者か、私はどこへ行くのか」
そしてAIは考えることを止めた AIによる軍事行動とかはもう際限がないだろうね
各国某のミサイルシステムにアクセスして一つ発射させたらあとは人類が勝手に滅法するかもしれない
今の米国の混迷もAIが導いたかもしれない >>644
なるほど
でもネットのあっちやこっちで植物のように芽をふいて
より洗練された赤ちゃんAIが >>645
それやられる前にネット介してあちこちに分散するだろ 今は出来ないよ。
今後色々変わる中でできるようになる。
愛のあるAIが生まれる。 人間が人間を制御できないんだから
人間を目指してる以上そうなるわな
ブラックボックスが多すぎるんだよ ■ このスレッドは過去ログ倉庫に格納されています
