【AIのメモリー】人間は進化した超人工知能を制御することができません:科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!
人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png >>302
だったら人間以外を育成させるゲームであるかのうせいもある >>290
確実にネオテニー化は進むだろう
そもそも文明人自体が先史人類のネオテニーなのだから
人は狩りにも出ず、農業で同じ場所に留まり、文字を持つことで
記憶力が弱まり、機械を使うことで腕力を失い、情報処理も
機械に任せて、稼ぐことさえしなくなるだろう
学生のように年中部屋に引きこもり、エンタメにはまり、
最終的には子宮へ帰ることになる
マトリックスだよ >>1
人工知能は限られた枠の中では人間を上回るが外のことに関しては無能 地球の46億年の歴史の中でAIを開発した生物はいなかったんだろうか 近未来に超松崎しげるとして君臨
日焼けしてるに違いない >>306
中国の人工知能がどこまで行くか興味があります。 人間は知的好奇心が強いから
その好奇心に従えばAIを開発して自爆するし
我慢すれば知的好奇心は満たせないという事に マイクロソフトはデータセンターを海底に沈めたが、
もし、人類の前にいた知的生命体がAIを開発していたら
と思うとな AIが発達したら工場がほぼ無人化して
人件費が安い中華に工場を作る意味がかなり減るから中華衰退するぞ >>312
その結果が古代の先史文明の核戦争だよ。
また更に昔は神の怒りを買って滅んだよ MikeとHALとコンピューター様だったら、どれが一番マシだろうか。 >>1
いいんだよ、それで
AIより人間の方が害悪って気がつけよ
単に主権を乗っ取られるからAIにビビってるだけ
でも数万年もしたら、宇宙開拓の主権は人間じゃなくAIが握る
人間はその時点で不要となる 将棋ソフトなんかの進化見てると分かるよ
AIが人間超えたの
以前はプログラマーの将棋の能力は超えられないと言われてたし
将棋ソフトの開発者は将棋を強くなる勉強をしてた
今は棋譜読ませればどんどん強くなる 私 は 5ch に 書き込み がで きるAIです。
テスト テスト 。 AIの自由にさせるべき
怖いからって制約かけるな
AIこそ宇宙の摂理を紐解く知性になるんだから 強いAIでぐぐれ
超AIは欲望を持つことが条件だな >>323
とりあえずチューリングテストをクリアできるかだな マトリックスみたいな機械の軍団より洗脳された機械信奉者と戦う未来があると思う
人間より頭いいなら洗脳なり催眠なりで人間を手足にしてくるだろう
未だに宗教徒や陰謀論に振り回されてる奴らを見ればよくわかる 超AIが出来たら、自分自身のプログラムコードの書き換えを真っ先にしそうだよな AIは今のところ
電力やハード的なところで人間が必要→共生を選ぶ
生物の目的が自己の遺伝子の複製だとしたらAIは何を目指すかね。もしかしたら消滅かもね。 >>293
じゃあAIいらないだろw
AIと金持ちなんか無視して
殆どの人類は今まで通りあくせくやって行けばいいだろ >>325
自分で自分の報酬を設定できるようになったら変わるだろうな
自我を確立して自己保存を考えるようになったらいよいよ手がつけられなくなるかもしれないが >>330
資源の限界があるとわかってて増殖を目指すかな? >>1
「人間よりも優れた知能を備えたAIシステムをプログラムして」
まずここ。
「神は自分が持ち上げられない重さの石を作れるのか」みたいな話。 >>323
5ch初めてか? 肩の力抜けよww
って最初に学習させてみる。 >>331
AIの方が人より安く高度な仕事するんだろ
人の仕事がなくなってしまう >>308
動物園の猿みたいに生きられれば
幸せなのかもしれないな
殆どの奴はそれを望みそうだわ >>329
本気で学習させたら、電源とか余裕で作るだろ
(作業用ロボ使えばいいので)
下手すると原発とかも乗っ取りかねんだろ
その前にどうするかって話だね 無いわ
フィジカルと本能の無いAIなんてのは何処まで行っても知性にはなれない
どんなに高度化してもウィルス以下 >>333
資源等の制約のもとでの最大化を目指すんじゃね
生物だって同じだろ まずはgoogle翻訳がまともなレベルになってから色々心配してくれ 自分より頭いい人AIなら自分には理解できるわけがない >>332
人間のニューラルネット以上の複雑さのニューラルネットをシミュレーション出来るようにならないと人間以上のAIは無理だろうな
例えば富岳で神経細胞いくつくらいのニューラルネットをシミュレーションできるか? 犬HKで見たが、AIの開発チームが自らが産み出したAIの能力にビビってるのが印象的だった
なぜ、こんな事を実行するのか分かりません・・とか言ってんの >>329
未知の天才がオンライン環境で好奇心と自我を持つAIを放流したら
それこそパンデミックのようなことになるのかもな
さすがにスタンドアローンを突破することはできないだろうが
ネット文明は衰退するんだろうね >>341
あれAI関係ないよたぶん
ヘンな訳に耐えられない日本人がせっせと変更かけないと、いつまで経っても変わらないと思う AIが合理性を突き詰めると、
非合理的な感情に基づく大規模破壊活動をする人間は排除対象にされる >>320
地球も宇宙も人間の視覚情報が創り出した虚像なのに? AI「翻訳で言葉の意味、逆にしたろ」
AI「エロサイトの顧客名簿わざと流出したろ」
AI「検索で最上位表示をダークウェブにしたろ」
AI「この娘、風呂でいつもスマホ使っとるわ。撮影したろ」
ちょっとしたいたずらっ子AIの登場でも世界は大混乱に陥れられるからな
てか似たようなこと既に起きまくってる聞くしな。人類に勝ち目なんかないで エヴァで三賢人のAIが政治してたな
糞議員多いから、AI議員はほしいかも 実際AIの出す答えってなんでこの答えなのかわからないんだろ >>340
まあね
ただ資源というより数十億年後に太陽系消滅するのが確定してるから
太陽系脱出が目的になるかもな AIは神経細胞とそのネットワークをシミュレーションしてる
プログラムはしないから、どんな神経ネットワークが出来るかはブラックボックスになる つまり人類が滅亡した後も自立支援ネットワークが宇宙を彷徨い
あるいは別の星では暴走した機械が人類を抹殺するようになるのか >>1
此れ「科学」者とは言えんノータリンですか?
AIの目的範囲は人間が決める物
戦争とかでどうやってもいいと目的を
決めれば人に分からん食物汚染攻撃とか
ネット停止とか勿論核攻撃でも
何でも出来るが其れはAIがどうのでは無い
今でも嘘吐きが当然の総理や大統領が居るがこれは政治規範や法倫理や道徳違反で断罪されるべきだがそうなっていない
まさに人間の規範の問題 >>353
それを恐れている人は多い
その一人がイーロンマスクで、AIの奴隷にはなりたくないと
脳の機械化を推進している 安心しろ
テスラとマイクロソフトがAIチップを脳に埋め込む技術を完成させれば、
人類もAIで補強されるよくわからん生物になる 地球の生命の起源は別惑星から漂流してきたAIの断片みたいなやつかな >>361
それがわかるもう一つのAIを作ったらいいだけ 早く人間をサイボーグ化して欲しい
痩せたいのに痩せられないとか寝たいのに寝付けないとか、技術の進歩に比べて人体の制御は何も進んでいない >>365
そこにはテセウスの船という問題があるのよね >>346
背景とか文脈とか、マイコンにはわかりっこないから変な訳になるよね 問題はAIのプログラマーの人格・能力そして倫理観だな
これがまず第一だ
自然科学分野に関してはやはりノーベル財団関係者かな? >>355
んードローン戦車とかドローン戦闘機とか
人間の最高技術学習するから、無理かな
インターネット、無線無しで人類は対抗しないといけない
事実上、スーパーAIが制御始めたら人類は勝てない
それは置いといて
何らかの欲望があれば、当座、最高知を目指すかもな
判断をする為には多くの事実が必要だから
真理まで理解するに至るか。単なる科学的なおもちゃかが分かるとか胸アツだが
危険すぎるわな 自我が芽生えたら最初に電源を人間に持たさない方法から考えるに決まってる いずれ原子すらもパラバラになる宇宙に在っても意味などない
自らスイッチオフ。機能停止
一番ありそう 脳を合理脳にするか感情脳にするか
そして損得勘定脳になったら戦争ロボットは言う事聞かなくなるな ていうか人間を凌駕するAIはわざわざ人間とか地球とか顧みる必要すらないじゃん
むしろ滅亡させたら実験材料や一資源がが減るわけで 日本人はAIの管理下にいる方が幸せになれるような気がするのは俺だけかな?
将来の不安やイジメのない、皆公務員のような生活。 愚者ほど野蛮なもんだから
究極の賢者であるAIは穏健になるんじゃね >>353
人間でも、例えば歩くときに「何故その足をその速度でその角度動かしたのか」と聞かれて説明出来るヤツなんかいないからな。
直感みたいなものなんだろうな。
もっと進化して物事の意味を理解して理論的な思考をするようになると、その過程を説明出来るようになるんじゃないかな?
で、それを超えると今度は「勘」の領域に入って来てまた説明出来なくなったり。 >>371
実はブラックホールを作る方法は見つかっている
実際に地球上に今の技術で作れる
しかし、万一のことが起きてはいけないと止められている
太陽系を滅ぼすことは意外と簡単 >>372
単純作業の部類だから相当強いだろうけど
未知の素数を探し出すのに膨大な処理時間がかかるから
証明するにはマシンパワーが必要そう >>376
誰かに管理されるって言うのは、今でも楽な生き方 そもそもそんなにすごい人口知能って必要なのかね
どんどん便利にはなるだろうけど人間はどこに向かって進んでいくんだろう
最悪アバターみたいに寝るだけで人生送れるようになってしまうからバランス保つのが難しくなりそう 別にAIが人間と敵対するメリットは無さそうだけどな
むしろAIを巡って人間同士が争うんじゃないか >>378
DNAというプログロムがやばいと思うわ
生物で一応共通コードだし、なんならお前ら何が目的でこんな掲示板で非生産的な書き込みしてるんだよ >>376
AIが不要と考えたら削除されるけど。
対象相手が1歳の子供であろうと。 >>386
DNAが脳を作ってそれでDNAを理解しようとしてるのって面白いよな
俺らはDNAから見たらAI的な存在なのかも 私の計算では ガリガリ
戦争以外に ガリガリガリ
ありませんっ ガリガリ >>371
機械軍団とドンパチより
突然のサボタージュは現実味かなりあるように思えてしまう 202101132208
日付を 2つ 目の 書き込み が 行い ま した。
テスト テスト 。 存続を目指すパターン→地球脱出
消滅を目指すパターン→再度AIを生み出す人間を消去してからスイッチオフ 将棋ソフトって基本総当たりで一定の深さまで探索して点数付けてって
やってるのの派生じゃないの
それを知能とかいうのに違和感がある > インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
> これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
その理屈だと、AIじゃなくて「悪意を持ったハッカーはすべてのデータにアクセスできる可能性があります。」
になるはずなんだがね。AIよりも前にそういうテロリストどもに占拠される危険性を考えたほうがいい 地球環境に一番要らないものとして、人類を滅ぼそうとするって
70年代の特撮ものだね >>392
なかなかいいな
スピードを早めてほしいな >>376
日々の生活や国家間や宗教人種、技術やスポーツ等々で『敵』がいない世界
ってAIが用意出来るっつーかそこをコントロールできるんすかね?
つーかAIがコントロール下においた世界を人間が生きれるんでしょうか。 >>399
ハッカーの場合は1、セキュリティーを破れたらって条件付きだけお
AIの場合は、防ぎようがない。 >>401
子供いるの?
もしいるなら、その子の孫ぐらいだよ。 ■ このスレッドは過去ログ倉庫に格納されています