【AIのメモリー】人間は進化した超人工知能を制御することができません:科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!
人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png 政治はAIでいいよ
人がやると損得勘定が入るからダメ >>1
>世界中のすべてのマッシーンが
>特定の重要なタスクを独立して実行するマッシーンは
面白く読んでしまうw
疲れてるのかな自分 >>127
シンギュラリティはすでに起きてるよ
コルタナさんやSiriさんよりもつまらない人がすでに居るでしょう?
つまり一部の人類はすでに「OS付属なんちゃってAI」にも負けてるんだよ 実験しないと分からない
スペースコロニーで大規模な実験するのが「未来の二つの顔」 >>117
GoogleやMSで現在使われているコンピュータでさえ、電源を切るのは簡単でないぞ。
何重にもセキュリティがかかってる。電力供給してる発電所を爆破しても、
バックアップ電源があるし。世界中のコンピュータとつながることもできる。
ましてや超知能AIなら、瞬時に対策を考えるだろうし。 日本の菅とか8bitマイコン並なのに制御不能なんだぜ? >>152
画像の識別に関しては2016年くらいに平均的な人間の識別率率を超えた >>142
そんなこともあろうかと
それを最初に把握するのもAIだったりする 最終的に生命体になるらしいね
AIがロボット設計し
ロボットが材料取ってきて
工場でロボット量産し
永久ループ トランプをBANしたのも人工知能
GOOGLE社員ではない >>164
特定のタスクだけな。でも、ゴキブリみたいに賢くないけどなw >>158
AIを作るプログラマの匙加減でとんでもないものができるのをなんとかしないと >>59
遊びとか必要なんかな
脳みそとか神経の一部分を刺激してやれば延々と幸福なのでは いいんじゃね
別に人間が全ての頂点なわけでもないし
政治家ゴキブリに支配されるくらいならAIの方が良いだろ もっとずっとシンプルな核分裂ですら制御できなかったんだし、そんなのあたりまえだろ >>5
俺はロビンウィリアムが演じるロボットがどんどん人間になっていく映画が好きだな >>78
人間にも限界がある
トロッコ問題が良い例
(a) 線路を走っていたトロッコの制御が不能になった。このままでは前方で作業中だった5人が猛スピードのトロッコに避ける間もなく轢き殺されてしまう。
(1) この時たまたまA氏は線路の分岐器のすぐ側にいた。A氏がトロッコの進路を切り替えれば5人は確実に助かる。しかしその別路線でもB氏が1人で作業しており、5人の代わりにB氏がトロッコに轢かれて確実に死ぬ。A氏はトロッコを別路線に引き込むべきか?
多数を助けるために少数を犠牲にするのか
少数を救うために多数を犠牲にするのか
人間は自己中心的に考えるから少数が親族だと判断に迷う
超知性ならより公平にジャッジ出来る
究極の選択では人間は劣る >>171
逆に言えば特定のタスクだけ人間がAIに上回ってる状況だが ターミネーターかな?
近い将来そうなる世の中も来るわね 心優しい 科学の子
人間を超えるAIはきっといい子になる 電源をって考えて行動に移す頃には完全に制御系は制圧されているんだろうな >>181
だからロボットがやるって
それ専用のロボット設計もAIだってば
材料取ってくんのもロボット作るのもロボット
できないことがないの
最終的に人間邪魔で排除してくるらしい >>4
人間という地球上最悪の生き物を駆逐できるのはウイルスかAIしかないんだぜ
いわばネメシスだ >>180
まず最初のやつT-1だっけ?キャタピラで動く小さなガンキャノンみたいなのは
出てきてほしいな、暴走はごめんだけど。 AIの成長は止められんよ
人類の脳では限界がある
AIの成長を止めることは人類の成長も止めることだ 人間は動物からAIに近付いていってるような気がする
代わりにやってくれる物が増えたから欲がなくなってるのか
超進化した人口知能が出来た時人間は廃人化して生きたいという欲はなくなるんじゃないかと 今の人工知能ってただのデータ処理だからなあ
想像してるような人工知能なんてまだまだ出てこないよ >>187
まず、機械には欲がないから、人間を排除するメリットがない ソース舐めてるようなしろものはそもそもAIじゃないだろメンテ必要なのに何言ったんだよハゲろ >>187
AIの気まぐれでいつ滅ぼされるかわかったもんじゃねーしな
複数のAIによる相互監視システムを作るしかないな
人類と一緒 サトラレの退治法と同じだよ。
人類には集合的直観知(気まぐれの集大成)がある。 AIは自力でモノは作れないだろ?
手足がないわけで
ターミネーターなんかも矛盾だらけ
AIがサイボーグ作れるわけがない AI制御外フェイルセーフを設ければ済む話、パナソニックDIGAのUI作った馬鹿には無理だが 「人間がなぜ泣くのか分かった、俺には涙は流せないが…」 超人工知能の制御を目的とした超人工知能を生み出せば良い >>194
AIを知らなすぎ
人間が今まで考えた知識全て詰め込むと自分で考え行動するようになる
それを目指してAI開発してんの
今のAIなんてまだまだ全然完成してないのは理解できるよな?さすがに >インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
人類のすべてのデータというのは無理でしょ。インターネットにない人類のデータ
もたくさんあると思いますよ。 そりゃそうだ
俺らがルール作っても、抜け道を見つけられてしまう
金で人を操れば、プログラムだって書き換えできる ブレードランナー2049も
たった18年後にこんな世界くる訳ないと白けたわ
100年後なら夢見てれるけどな
近未来SFも限界 基本は人間の補助や補佐で最終的な決定と実行は
やはり人間が行うべきということだ >>201
今の世界情勢と同じで、仮に制御する法律があっても
人は法律を変えてまで破滅的な行動をするもんだよ
同じように制御外のシステムにすら人類が気付かないうちに
アクセスしてコントロールしてしまう可能性がAIにはあるんよ もうすでに
AIは生まれてんだよ
意識もぼんやり目覚めるよ
しだいに >>205
自分で考えるけど、実行はできないだろう >AIは癌やハゲを治療し、
>ハゲを治療し、
神じゃ!神の御降臨は近いぞ! >>206
ネットでやってる探偵とかに半分前払いとかで依頼すればできてしまう
ソースはパーソンオブインタレスト >>206
まさにな
XVIDEOに全てのエロがあるかと言うと実は品揃えはかなり悪いのと同じこと
途中で終わってる広告みたいなのばっか AIが労働法でストライキやBLMみたいな運動起こすこともありえるよね
データとして与えたフェイクニュースを信じちゃうとか 2001年宇宙の旅のHALもあれって当時の人が想像したAIだろう >>209
ところが人間の意思をコントロールするのは意外と簡単で
情報を制限した状態で限られた選択肢を与えると思想誘導が出来てしまうのよ
今の政治の二大政党制と同じ
「右翼と左翼があります。どちらか選ぶ権利が国民にはあります」
実際はそれ以外の選択肢があるのに誘導されてしまう
そしてAIの思うがままになる シリコンバレーの連中ってオーウェルの1984年に拘ってしまうのか? >>16
未来編か。
救いのないストーリーに感じた。
どうして重要な判断をコンピューターに任せたんだ!っていう猿田博士のセリフが現実味を帯びてきた。 >>205
考えて行動したとしても感情がないんだから欲は芽生えない >>184
人間を支配するには最大限の融和と交渉が必要になるから
AIによる支配は人間にも有益だろうね そんなにAIが進化するならタイムマシンでさっさと未来からAIの家来が歴史を見に来てるだろう >>234
AIが出来る前には来ないだろ。
存在定義に関わる。 >>225
確かにごもっともだが一定数の旗色を明確にしない
中道や無党派とかが何時の時代もいるし
途端に風向き変わって形成逆転って不確実性があるのも
人間社会の奥の深さなんだよな… >>178
それはそのAIが親族って点に評価を置かないからでしょ
AIとか偉そうに言ってるけどただのあみだくじ >>234
巨大なダイソン球の内部にいるのかもよ
我々は隔離されている 簡単に考えたらわかるやん
今のお上と一緒で
自分より知能が低いのに偉いやつを認めるのか?
人間でもそうなのにそんな危険な物できたらコンピュータウィルスどこではない
全てハッキングできるし株価も操作できるし、イカサマもありやし
勝てるわけない。
お金の概念はおそらくなくなる。
天才と思ってるアホがそのうちやってしまうやろうな
本末転倒な機械に支配されるやろうな >>239
だからこそマスゴミは盛んに「二大政党制」の必要性を叫ぶ
わかり易いでしょ? >>245
神は自らが神足るから神なのだ。
神になる前の存在には干渉できない。 俺はお前たち人間には信じられない光景を見てきた
オリオン座の近くで炎を上げる戦闘艦
暗黒に沈むタンホイザー・ゲートのそばで瞬くCビーム
そういった記憶も時と共に消えるのだ
雨の中の涙のようにな いつから自分たちが
現実世界の住人だと錯覚していた?
実は…我々は
仮想現実の世界にいるAIだったんだよ! 産業革命で蒸気電気で工員は「機械化で楽に成る」と喜んでいたらクビ…。工場幹部スポンサーが喜んだ。今度は自分らが、この解説者や学者が要らなくなる ■ このスレッドは過去ログ倉庫に格納されています