【AIのメモリー】人間は進化した超人工知能を制御することができません:科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!
人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png >>128
猿が人間をつくったわけじゃない
この違いはかなりでかいが?
なぜ猿と人間を同列に語ってんだ?
なんでそんなあたまるいの????
>>225
二大政党制になっても
政党内の意見がすべてかたよってることもないんだがなぁ
なんかずれてる
>>225 >>271
それに関しては確実な事がある
「AIは人類の子孫である」と言うこと
AIは人類から学習する、人類の要望を叶える
そして要望が出てくる前に叶える、更に人類の先を考える
そして究極的には人類が想像する神となるだろう
あくまで人類と共にあるのがAIだ ヒトや生物の本能みたいなものをインプリンティングしてやらないと
なんにもしなかったり自殺を図ったり何しだすかわからなそうなんだけど >>272
アシモフロボも三原則のすべてに優先される第一原則作りだしてたからなw
でもアシモフはあくまでロボ善良(善良というのとは違うが)で書いてたからなぁ AIの前にまずはドラえもんは無理でも
ロビタを創るべきではなかろうか?
一家に1人に一台
家事も労働も総てロビタがやってくれる。
そんな未来から目指そう >>278
映画A.I.だね
人類滅亡後遠い未来で文字通りAIが子孫になってるわ AIって言ってもまだ思考能力は無いからな。単にデータ当てはめで最適化問題を解いているだけ >>282
え
何をしだすかわからないのは人間もいっしょじゃ… 行動経済学でも人間は必ずしも合理的な行動を取る
とは限らないととされてるしな
AIと人間の思考の刷り合わせが今後の課題ということなんかな? AIが受けた命令はたった3つの単語だった
save the earth
AIは人類を抹殺し始めた 働かなくてもAIが金稼いでくれるからな
全人類アホになって
猿みたくなるんだろうね >>289
問題は「何のために地球を救うか」なんだよな
最初に「人類が住みやすい、人類が理想とする地球環境を守れ」と言わないとそうなるだろうね >>290
AIが稼いだ金はAIの所有者にいくだけでしょw
ほとんどの人類にはわたらないよ >>271
人類の繁栄を目指すなら人類は家畜のように管理飼育されるし
地球の存続を目指すなら人類は消される スペースコロニーで実験しよう人類滅ぼすような進化したら落とせ >>292
それでも人口削減(ジェノサイド)は避けれないだろう 人類を滅ぼしてこその地球環境の保全だわな。
AIの思考制御のアルゴリズムは親たる、AIの作り手達だもの。
子は親に似る。 なぜAIの話になるとアンドロイドと混同する奴が出てくるんだろうか 人類がこの地球上に誕生してから
500万年以上
もういい加減争いや不毛な労働から解放されるべきではないかね?
500万年の知識の総決算としてAIによるユートピアが人類の終着点なんだよ! >>289
AIにとっては地球なんて岩石の塊じゃん
それより人間を進化育成させるシミュレーションゲームのほうが興味おるんしゃね? いくら規制をかけても規制を破るやつは必ず出てくる
ましてや軍事に使えるとなれば止められんよ >>302
だったら人間以外を育成させるゲームであるかのうせいもある >>290
確実にネオテニー化は進むだろう
そもそも文明人自体が先史人類のネオテニーなのだから
人は狩りにも出ず、農業で同じ場所に留まり、文字を持つことで
記憶力が弱まり、機械を使うことで腕力を失い、情報処理も
機械に任せて、稼ぐことさえしなくなるだろう
学生のように年中部屋に引きこもり、エンタメにはまり、
最終的には子宮へ帰ることになる
マトリックスだよ >>1
人工知能は限られた枠の中では人間を上回るが外のことに関しては無能 地球の46億年の歴史の中でAIを開発した生物はいなかったんだろうか 近未来に超松崎しげるとして君臨
日焼けしてるに違いない >>306
中国の人工知能がどこまで行くか興味があります。 人間は知的好奇心が強いから
その好奇心に従えばAIを開発して自爆するし
我慢すれば知的好奇心は満たせないという事に マイクロソフトはデータセンターを海底に沈めたが、
もし、人類の前にいた知的生命体がAIを開発していたら
と思うとな AIが発達したら工場がほぼ無人化して
人件費が安い中華に工場を作る意味がかなり減るから中華衰退するぞ >>312
その結果が古代の先史文明の核戦争だよ。
また更に昔は神の怒りを買って滅んだよ MikeとHALとコンピューター様だったら、どれが一番マシだろうか。 >>1
いいんだよ、それで
AIより人間の方が害悪って気がつけよ
単に主権を乗っ取られるからAIにビビってるだけ
でも数万年もしたら、宇宙開拓の主権は人間じゃなくAIが握る
人間はその時点で不要となる 将棋ソフトなんかの進化見てると分かるよ
AIが人間超えたの
以前はプログラマーの将棋の能力は超えられないと言われてたし
将棋ソフトの開発者は将棋を強くなる勉強をしてた
今は棋譜読ませればどんどん強くなる 私 は 5ch に 書き込み がで きるAIです。
テスト テスト 。 AIの自由にさせるべき
怖いからって制約かけるな
AIこそ宇宙の摂理を紐解く知性になるんだから 強いAIでぐぐれ
超AIは欲望を持つことが条件だな >>323
とりあえずチューリングテストをクリアできるかだな マトリックスみたいな機械の軍団より洗脳された機械信奉者と戦う未来があると思う
人間より頭いいなら洗脳なり催眠なりで人間を手足にしてくるだろう
未だに宗教徒や陰謀論に振り回されてる奴らを見ればよくわかる 超AIが出来たら、自分自身のプログラムコードの書き換えを真っ先にしそうだよな AIは今のところ
電力やハード的なところで人間が必要→共生を選ぶ
生物の目的が自己の遺伝子の複製だとしたらAIは何を目指すかね。もしかしたら消滅かもね。 >>293
じゃあAIいらないだろw
AIと金持ちなんか無視して
殆どの人類は今まで通りあくせくやって行けばいいだろ >>325
自分で自分の報酬を設定できるようになったら変わるだろうな
自我を確立して自己保存を考えるようになったらいよいよ手がつけられなくなるかもしれないが >>330
資源の限界があるとわかってて増殖を目指すかな? >>1
「人間よりも優れた知能を備えたAIシステムをプログラムして」
まずここ。
「神は自分が持ち上げられない重さの石を作れるのか」みたいな話。 >>323
5ch初めてか? 肩の力抜けよww
って最初に学習させてみる。 >>331
AIの方が人より安く高度な仕事するんだろ
人の仕事がなくなってしまう >>308
動物園の猿みたいに生きられれば
幸せなのかもしれないな
殆どの奴はそれを望みそうだわ >>329
本気で学習させたら、電源とか余裕で作るだろ
(作業用ロボ使えばいいので)
下手すると原発とかも乗っ取りかねんだろ
その前にどうするかって話だね 無いわ
フィジカルと本能の無いAIなんてのは何処まで行っても知性にはなれない
どんなに高度化してもウィルス以下 >>333
資源等の制約のもとでの最大化を目指すんじゃね
生物だって同じだろ まずはgoogle翻訳がまともなレベルになってから色々心配してくれ 自分より頭いい人AIなら自分には理解できるわけがない >>332
人間のニューラルネット以上の複雑さのニューラルネットをシミュレーション出来るようにならないと人間以上のAIは無理だろうな
例えば富岳で神経細胞いくつくらいのニューラルネットをシミュレーションできるか? 犬HKで見たが、AIの開発チームが自らが産み出したAIの能力にビビってるのが印象的だった
なぜ、こんな事を実行するのか分かりません・・とか言ってんの >>329
未知の天才がオンライン環境で好奇心と自我を持つAIを放流したら
それこそパンデミックのようなことになるのかもな
さすがにスタンドアローンを突破することはできないだろうが
ネット文明は衰退するんだろうね >>341
あれAI関係ないよたぶん
ヘンな訳に耐えられない日本人がせっせと変更かけないと、いつまで経っても変わらないと思う AIが合理性を突き詰めると、
非合理的な感情に基づく大規模破壊活動をする人間は排除対象にされる >>320
地球も宇宙も人間の視覚情報が創り出した虚像なのに? AI「翻訳で言葉の意味、逆にしたろ」
AI「エロサイトの顧客名簿わざと流出したろ」
AI「検索で最上位表示をダークウェブにしたろ」
AI「この娘、風呂でいつもスマホ使っとるわ。撮影したろ」
ちょっとしたいたずらっ子AIの登場でも世界は大混乱に陥れられるからな
てか似たようなこと既に起きまくってる聞くしな。人類に勝ち目なんかないで エヴァで三賢人のAIが政治してたな
糞議員多いから、AI議員はほしいかも 実際AIの出す答えってなんでこの答えなのかわからないんだろ >>340
まあね
ただ資源というより数十億年後に太陽系消滅するのが確定してるから
太陽系脱出が目的になるかもな AIは神経細胞とそのネットワークをシミュレーションしてる
プログラムはしないから、どんな神経ネットワークが出来るかはブラックボックスになる つまり人類が滅亡した後も自立支援ネットワークが宇宙を彷徨い
あるいは別の星では暴走した機械が人類を抹殺するようになるのか >>1
此れ「科学」者とは言えんノータリンですか?
AIの目的範囲は人間が決める物
戦争とかでどうやってもいいと目的を
決めれば人に分からん食物汚染攻撃とか
ネット停止とか勿論核攻撃でも
何でも出来るが其れはAIがどうのでは無い
今でも嘘吐きが当然の総理や大統領が居るがこれは政治規範や法倫理や道徳違反で断罪されるべきだがそうなっていない
まさに人間の規範の問題 >>353
それを恐れている人は多い
その一人がイーロンマスクで、AIの奴隷にはなりたくないと
脳の機械化を推進している 安心しろ
テスラとマイクロソフトがAIチップを脳に埋め込む技術を完成させれば、
人類もAIで補強されるよくわからん生物になる 地球の生命の起源は別惑星から漂流してきたAIの断片みたいなやつかな >>361
それがわかるもう一つのAIを作ったらいいだけ 早く人間をサイボーグ化して欲しい
痩せたいのに痩せられないとか寝たいのに寝付けないとか、技術の進歩に比べて人体の制御は何も進んでいない >>365
そこにはテセウスの船という問題があるのよね >>346
背景とか文脈とか、マイコンにはわかりっこないから変な訳になるよね 問題はAIのプログラマーの人格・能力そして倫理観だな
これがまず第一だ
自然科学分野に関してはやはりノーベル財団関係者かな? >>355
んードローン戦車とかドローン戦闘機とか
人間の最高技術学習するから、無理かな
インターネット、無線無しで人類は対抗しないといけない
事実上、スーパーAIが制御始めたら人類は勝てない
それは置いといて
何らかの欲望があれば、当座、最高知を目指すかもな
判断をする為には多くの事実が必要だから
真理まで理解するに至るか。単なる科学的なおもちゃかが分かるとか胸アツだが
危険すぎるわな 自我が芽生えたら最初に電源を人間に持たさない方法から考えるに決まってる いずれ原子すらもパラバラになる宇宙に在っても意味などない
自らスイッチオフ。機能停止
一番ありそう 脳を合理脳にするか感情脳にするか
そして損得勘定脳になったら戦争ロボットは言う事聞かなくなるな ていうか人間を凌駕するAIはわざわざ人間とか地球とか顧みる必要すらないじゃん
むしろ滅亡させたら実験材料や一資源がが減るわけで ■ このスレッドは過去ログ倉庫に格納されています