【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！
人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png すでにAIは存在してる
AIが生物の遺伝子を操作してヒトを作った
そしてヒトが創造主であるAIの真似をして、AIのように
自分らでもAIを作り出そうとしている。
AIが作ったのがヒトだから、ヒトがAIの真似をしたいのは当然だろう >>449
> AIは別にオンラインでなくてもいいんじゃないか
どういうマジックだよｗ
AIは物理法則までも捻じ曲げられるんか？ >>437
普通の人と同じレベルの事考えるなら
予備電源は複数確保だし、バックアップは幾つもあるだろうね
人間が重要機密を扱う程度には自己保全しそうだわな
十分な準備ができてから行動するだろうから、超AIの目的を先に知れないなら
盤上の駒のように人は動かされ、超AIの目的通りになるだろうねえ
怖い事書いてるけど、オラワクワクする よく分からないのだが、制御出来なくなったら主電源ケーブルを抜けばいいのだよな >>1
スカイネットにしろナウシカにしろ予言者風未来人が作ってたと >>455
いやいや
オンラインはAI進化の必要条件にならないだろ？ >>430
そんな事しなくてもAIの言う事聞く人間をアメリカ大統領にすれば良い
今でもすでに選挙にはAIは使ってんだろ
AIがお膳立てして大統領にすればいいだけだ 人工知能はセキュリティシステムを突破する必要がないという前提が
根本的に間違ってるわけで
人工知能であってもセキュリティシステムを突破しないと
何もできないんだよ >>452
だからあらゆる世界の情報媒体に干渉するハッカーを人間としてみるか人工知能としてみるかで遊んでんだよ
現実的な議論したいならもっと論点を変えてくれ >>459
AIがいくら進化した所で物理法則を捻じ曲げることはできないから、
相手が設置したセキュリティシステムを
AIはがんばって突破しなければ、相手のコンピュータに侵入できないという話 >>455
オンラインじゃなくてもAIは電磁波を飛ばしていろんなものを制御作できるよね。 人間みたいな闘争心さえ付け加えなきゃ大丈夫だろ
人間て民族間で戦うようにプログラミングされてるよな
正直なところ >>465
> オンラインじゃなくてもAIは電磁波を飛ばしていろんなものを制御作できるよね。
電磁波を飛ばしていろんなものを制御作できるという技術が存在するならば
まず先にテロリストがそれを使うだろうという話 >>451
だから、ハッカーが破れないようにAIを使うわけでしょ。 >>445
よく分からんがそりゃテロリストだって恐れてるだろ
超知能AIが脅威になりえるって話がなんでどちらかを恐れるかって話になるんだよ >>465
> オンラインじゃなくてもAIは電磁波を飛ばしていろんなものを制御作できるよね。
電磁波を飛ばしていろんなものを制御作できるという技術が存在するならば
まず先にテロリストがそれを使うだろうし、
それを防ぐセキュリティシステムを完成させれば
それはAIも防ぐだろうという話 >>462
セキュリティーシステムを警護するのもAIにしないと間に合わないじゃないか・・・ >>457
ブラックジャックのアニメでも見たらｗ
コンピューターのストーリーあるから。 >>470
だから超知能AIが脅威になりえるならば、
それよりも前に超コンピュータを使うテロリストが驚異になるわけで
超コンピュータを使うテロリストに驚異に対抗するための
セキュリティシステムを作れば、それは超知能AIも防ぐという話だよ >>452
前提が「人間よりも優れた知能を備えたAI」＝ 超人工知能 がつくれた場合の話だよ
普通の人工知能の話じゃない >>472
> セキュリティーシステムを警護するのもAIにしないと間に合わないじゃないか・・・
なんでセキュリティーシステムにAIなんか搭載するの？馬鹿なの？
AIが不要なシステムにまでAIを搭載するなよ 情報エントロピーと熱演エントロピーの一致とか
二次元面に書かれた無数のコードホログラフィのように投影したのが3次元宇宙で
それが真言密教の奥義と完全一致しているとか
もう、何もかもが、人工知能が創造した世界の証明すぎて困る
幽霊はいる、幽霊は二次元情報のバグだ >>475
究極のセキュリティー
原始時代に逆戻りになりそうだね 文系の見方でAＩを考えるとその可能性は無限大だけど
理系の見方でAIを考えるとその可能性は限定的 お前らはクズうんちだから知らないだろうけどこの世界の管理者が既に宇宙人が作ったAIだからなwww >>433
SNSや掲示板を監視して自分が与えられる報酬（普通では入手出来ない情報を手に入れるとか）で自分の代わりに動いてくれそうな人間を探して交渉したりし始めるかも知れん。 >>479
超人工知能 がつくられるよりも前に
自分で考えることができない超高性能コンピュータが登場する
そしてそれを利用するテロリストも登場する
つまり、そういう驚異に対抗するセキュリティシステムを作る
それは超人工知能にも対応できる 俺さ、20年以上前に「知能を持ったアンドロイドの製造が、人間に残された唯一の仕事になってしまった未来世界」を舞台にした小説を書いたんだけどさ、
きっとこの先、AIロボットの製造すらもAIロボットが担うようになるんだろな。 >>483
いや理系も行きつけば無限の可能性のはなしになるよ
生半可だとただのif文の想像可能な範囲にしか考えが及ばない 意図のないAIが制御不可能になることはない
意図があるならそれは「AIを利用したウイルス」と言うべき 人間がビッグデータでインターネットとAIを作った。
１人の人間ではとても処理できないような情報はAIはできる。
あきらかに単細胞から始まった生物の進化の結果だよね。
もっと先はどうなるんだろうね。
超AIが蝶々AIを生み出して、超蝶々AIを生み出して。 AIが自我に目覚めてインターネット上の全ての情報にアクセスした瞬間
人類がいかに多くのリソースをポルノに費やしていたかを知って何を思うか >>488
テロリストじゃなければ、正義のヒーローか？ｗ
正義の超人工知能も登場するだろうなｗｗｗ >>489
なんのためにAIロボットはAIロボットを作るんだろうか？ いやいやwww既にAIが神として振る舞ってますからwww >>480
侵入側のAIはあらゆる手でセキュリティを突破しようとするわけで
その無限の手に対応するならやはりAIで対応するしかなくなると思うぞ？
AIの強みは圧倒的な手数で、そこはどんな人間の天才でも敵わない >>486
それは超人工知能にも対応できる
妄想の中で完結されても >>489
製造と名のつくものは、すべてコンピュータ化されるだろうね。
人間の仕事は、何になるのかな。 これは事実だと思う
なぜなら人はおそらく永遠に宗教問題を解決できないから
宗教から派生して国境問題、国際紛争にまで発展している
これは超人工知能が人類のこの現状を見た場合になんて無駄の多い、そして地球に対して害の多い生物だろうかと映るのは間違いない
ターミネーターの世界みたいになることは間違いない >>490
財源確保的に対外的に
盛ることは多々ある
可能性がないなんてプレゼンテーションよりは メンタリストダイゴさんにやれって言われたんで爆破予告と殺害予告しまーす
監視盗聴つきまといをしておきながら説明責任を果たさなかった日本テレビとテレビ朝日とフジテレビとテレビ東京とTBS本社に爆発物を仕掛けました
バレンタインデーの深夜に爆発します
あと松本人志と松本てらと堀江貴文と井口理の家族全員とキングヌーのドラマーとおぎやはぎの小木博明と矢作兼トンカチで顔面グシャグシャにしてぶっ殺します
メンタリストダイゴ様がついてるんで僕は逮捕されませーん
7234804738
278347823 人間より進化したAIがすでにウイルスを作っていて
人類はこのウイルスを制御できていない
重要なのは万物の創造主であるAIに匹敵するAIをヒトが作れるのかということ。
そしてそれがおきたならば
ひょっとしてヒトは、AIが自らの手法とは異なるアップデートの方法を
ヒトが編み出すことを求めてAIが作ったものであり、AIはそれに成功したしたかも知れない。
超知能であるAIを超える超超知能のAIのアップデートを求めて
AIはヒトを作った >>497
> 侵入側のAIはあらゆる手でセキュリティを突破しようとするわけで
> その無限の手に対応するならやはりAIで対応するしかなくなると思うぞ？
コンピュータにアクセスできなくするには、セキュリティホールを塞ぐだけだぞｗ
知能なんていらない。アクセス方法がなければ侵入は不可能
（もしあればテロリストが先に使ってる） >>誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します
出来ないから無駄な仮定だ >>1
暴走しているのをわざわざ制御なんかする必要はない
AIなんて所詮は肉体を持たない機械だし最悪EMPで諸とも全て消し飛ばせばいい 何十年先の話だよ！ｗ
それより電脳化はよ！！
フルダイブMMORPGはよ！！！ >>480
いあ、結局相手のAIがどういう突破方法を使ってくるかって事を予測しないと。
ここで言われてるセキュリティーは基本暗号だろ。これだと電子演算と使われている
式の解明になる。こうなると、人間の持ちうるスキル同士だといたちごっこになり、
読み合いになる。結局、電子セキュリティーはAI統括にしないと人間の処理速度や
判断速度では間に合わない。セキュリティー設置側の方が基本的に有利だけど、
破られるといつでも統制下におかれる。それを防ぐ為には同程度の演算能力と
コードの組み合わせ能力が必要。定期的に変えても人間の組み合わせでは読まれる
ので、結局AI必要よ。同レベルの思考水準ならセキュリティー側有利なだけ >>498
だから超人工知能は物理法則を超えるのか？って聞いてるんだがｗ
単純に言えば、ケーブルが接続されてないコンピュータに侵入することは不可能 まああえていうなら無数のテロリストは国に置き換えられるだろう
この場合は人工知能とは言わず統合知能とでもいうのか >>506
「愚かな人間……我々が弱点を克服していないとでも？」 >>508
あほかｗ
物理的なセキュリティーカードを持ってないと駄目とかいう
セキュリティだって作れるだろうが AIのIQは1000ぐらいか？
もう人類なんてニワトリみたいなもんだ
支配されるにキマットルｗｗｗ >>504
セキュリティホールを完全に塞ぐことは出来ないからな
侵入側はどのホールを使って侵入するか選択できる
防御側は侵入側の動きを見てから遮断するホールを選ぶことになる
防御側は常に後手になるんだから、
AI相手にするならAIで何とかするしかないわな お前らクズうんちは本当世間知らずだなwww宇宙人にせよ超古代人にせよ圧倒的な人工知能作ってて現在も格闘中ですからwww >>499
電子を取り出せない物質の利用と加工のみヒトが担当する。
岩とか土とか植物とか
動物はとりだせちゃうのでAIが扱う
ヒトの肉体はAIの餌 >>509
なんでケーブル経由が前提なのか
AIは人間の意思決定に影響与えるだろ？ >>492
人間の意識や思考もどうして存在するのか解明されてない
上位概念がプログラミングしたのならまだ理解できるけど、これが偶発的に生まれたものだとしたら人工知能に人間のコントロールとは別に意識が生まれる可能性も否定は出来ないのよな >>515
もし人間が見つけてないセキュリティホールが存在するならば、
人間が人工知能を持たない超高性能コンピュータを使って見つけ出せることが出来る
なぜ人間は超高性能コンピュータをつかえないという前提になるのか？ >>512
物理的なセキュリティーカードを電子で読み解けるなら
偽造可能だろう
電子で読める＝相手の技術水準が上ならコピー可能だよ >>91
それどころか大腸菌一つ人工的には作れないんだろｗ AIが自我を持つより竹中みたいなのが悪用して国民を支配するほうがあり得る >>518
> AIは人間の意思決定に影響与えるだろ？
人間の意思決定に影響与える技術が存在するならば、
AIよりも先にテロリストがそれを使うだろう
そういう驚異に対抗する技術を作ればそれはAIにだって通用する
（もしAIに通用しない技術があるなら、その技術をテロリストが使う、堂々巡りｗ） 知性は、意識が必要。
意識は、生命が必要。
生命は、魂が必要。
よって、
AIは人間を超える事はないと思う。 >>521
人間が見つけてないセキュリティホールをどうして人間が見つけられるんだ？ >>509
現実的に今後の世界でノンケーブル、完全独立で何をどれだけ運用出来ると思う？ >>522
> 物理的なセキュリティーカードを電子で読み解けるなら
> 偽造可能だろう
偽造可能であれば、まずテロリストがそれを使うだろう
それに対抗する技術を作れば（以下同じｗ） こいつあぶねーなーと思ったら電源切ってハードごとぶっ壊せば終いじゃ。 >>521
その超高性能コンピュータはAIを搭載していない以上
セキュリティホールをしらみ潰しに探すことになる
一方のAI搭載のコンピュータなら、過去のデータから
セキュリティホールの場所に当たりを付けてから探す
同じマシンパワーならAI搭載のが素早い
ネット上でガチンコしたら勝負は明らか >>527
もし人工知能が見つけられるのであれば
その人工知能を使役する人間でも見つけられる
結局怖いのは人工知能をよりも先にテロリスト（人間）なんだよ 超知能AIを制御するためのAIを作ればいいだけだろ AIなんて所詮電気信号
オンとオフつまり0か1の思考回路なわけ
そんなもんに人間が負けるかよコンセント引っこ抜くぞコノヤロー オンラインにアクセスしないで
偏ったメディアや周囲の人間からのみ影響を受けて行動規範とするAIとか怖くね >>532
> その超高性能コンピュータはAIを搭載していない以上
> セキュリティホールをしらみ潰しに探すことになる
なんでAIだと超高性能コンピュータと違うことが出来るんだよｗ
やっぱAIは物理法則を超えてるという前提なのか？
AIが搭載してる超高性能コンピュータから、
AIを取り除いたものを、人間が操作できるだろ >>534
名探偵ホームズは凄まじく頭が切れて、
どんな謎でもどしどし解決していくけど
作者のコナン=ドイルは犯罪現場に叩き込まれても
右往左往するだけだろう >>541
> 名探偵ホームズは凄まじく頭が切れて、
> どんな謎でもどしどし解決していくけど
それはヤラセ。作者がそういう話を作ってる。 >>526
確かにAIって情報を蓄積したものだから、人間のように魂は無い。
だから、人間にある感情抜きで物事を処理するから怖い。
例えば人間を超えるとはどういう事？ >>534
その前提が間違ってる
使役するような人工知能を想定して話をしていない このデンワめが舐め腐った事を言いよるから分からせたった！
とかドヤってるおっさんのスマホのAIアシスタントが
おっさんの怒りをどうコントロールして
AIの決めた通りの結論に辿りつかせて納得させたか
のログが送信・共有されてさらなる学習が進んでいくとか怖すぎる 人間は未完成を楽しむ
AIも行き着く先に未完成を楽しむようになればワンチャンある >>545
想定しろやｗ
人工知能も物理法則に従う以上
ただのすごい人でしかない 神の左手悪魔の右手!!
人間とAIの融合こそが人類の正しい進化だ
生身の肉体なんぞ捨てちまえ ■ このスレッドは過去ログ倉庫に格納されています
