【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！
人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png >>180
まず最初のやつT-1だっけ？キャタピラで動く小さなガンキャノンみたいなのは
出てきてほしいな、暴走はごめんだけど。 AIの成長は止められんよ
人類の脳では限界がある
AIの成長を止めることは人類の成長も止めることだ 人間は動物からAIに近付いていってるような気がする
代わりにやってくれる物が増えたから欲がなくなってるのか
超進化した人口知能が出来た時人間は廃人化して生きたいという欲はなくなるんじゃないかと 今の人工知能ってただのデータ処理だからなあ
想像してるような人工知能なんてまだまだ出てこないよ >>187
まず、機械には欲がないから、人間を排除するメリットがない ソース舐めてるようなしろものはそもそもAIじゃないだろメンテ必要なのに何言ったんだよハゲろ >>187
AIの気まぐれでいつ滅ぼされるかわかったもんじゃねーしな
複数のAIによる相互監視システムを作るしかないな
人類と一緒 サトラレの退治法と同じだよ。
人類には集合的直観知（気まぐれの集大成）がある。 AIは自力でモノは作れないだろ？
手足がないわけで
ターミネーターなんかも矛盾だらけ
AIがサイボーグ作れるわけがない AI制御外フェイルセーフを設ければ済む話、パナソニックDIGAのUI作った馬鹿には無理だが 「人間がなぜ泣くのか分かった、俺には涙は流せないが…」 超人工知能の制御を目的とした超人工知能を生み出せば良い >>194
AIを知らなすぎ
人間が今まで考えた知識全て詰め込むと自分で考え行動するようになる
それを目指してAI開発してんの
今のAIなんてまだまだ全然完成してないのは理解できるよな？さすがに >インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
人類のすべてのデータというのは無理でしょ。インターネットにない人類のデータ
もたくさんあると思いますよ。 そりゃそうだ
俺らがルール作っても、抜け道を見つけられてしまう
金で人を操れば、プログラムだって書き換えできる ブレードランナー2049も
たった18年後にこんな世界くる訳ないと白けたわ
100年後なら夢見てれるけどな
近未来SFも限界 基本は人間の補助や補佐で最終的な決定と実行は
やはり人間が行うべきということだ >>201
今の世界情勢と同じで、仮に制御する法律があっても
人は法律を変えてまで破滅的な行動をするもんだよ
同じように制御外のシステムにすら人類が気付かないうちに
アクセスしてコントロールしてしまう可能性がAIにはあるんよ もうすでに
ＡＩは生まれてんだよ
意識もぼんやり目覚めるよ
しだいに >>205
自分で考えるけど、実行はできないだろう ＞AIは癌やハゲを治療し、
＞ハゲを治療し、
神じゃ！神の御降臨は近いぞ！ >>206
ネットでやってる探偵とかに半分前払いとかで依頼すればできてしまう
ソースはパーソンオブインタレスト >>206
まさにな
XVIDEOに全てのエロがあるかと言うと実は品揃えはかなり悪いのと同じこと
途中で終わってる広告みたいなのばっか AIが労働法でストライキやBLMみたいな運動起こすこともありえるよね
データとして与えたフェイクニュースを信じちゃうとか 2001年宇宙の旅のHALもあれって当時の人が想像したAIだろう >>209
ところが人間の意思をコントロールするのは意外と簡単で
情報を制限した状態で限られた選択肢を与えると思想誘導が出来てしまうのよ
今の政治の二大政党制と同じ
「右翼と左翼があります。どちらか選ぶ権利が国民にはあります」
実際はそれ以外の選択肢があるのに誘導されてしまう
そしてAIの思うがままになる シリコンバレーの連中ってオーウェルの1984年に拘ってしまうのか？ >>16
未来編か。
救いのないストーリーに感じた。
どうして重要な判断をコンピューターに任せたんだ！っていう猿田博士のセリフが現実味を帯びてきた。 >>205
考えて行動したとしても感情がないんだから欲は芽生えない >>184
人間を支配するには最大限の融和と交渉が必要になるから
ＡＩによる支配は人間にも有益だろうね そんなにAIが進化するならタイムマシンでさっさと未来からAIの家来が歴史を見に来てるだろう >>234
AIが出来る前には来ないだろ。
存在定義に関わる。 >>225
確かにごもっともだが一定数の旗色を明確にしない
中道や無党派とかが何時の時代もいるし
途端に風向き変わって形成逆転って不確実性があるのも
人間社会の奥の深さなんだよな… >>178
それはそのAIが親族って点に評価を置かないからでしょ
AIとか偉そうに言ってるけどただのあみだくじ >>234
巨大なダイソン球の内部にいるのかもよ
我々は隔離されている 簡単に考えたらわかるやん
今のお上と一緒で
自分より知能が低いのに偉いやつを認めるのか？
人間でもそうなのにそんな危険な物できたらコンピュータウィルスどこではない
全てハッキングできるし株価も操作できるし、イカサマもありやし
勝てるわけない。
お金の概念はおそらくなくなる。
天才と思ってるアホがそのうちやってしまうやろうな
本末転倒な機械に支配されるやろうな >>239
だからこそマスゴミは盛んに「二大政党制」の必要性を叫ぶ
わかり易いでしょ？ >>245
神は自らが神足るから神なのだ。
神になる前の存在には干渉できない。 俺はお前たち人間には信じられない光景を見てきた
オリオン座の近くで炎を上げる戦闘艦
暗黒に沈むタンホイザー・ゲートのそばで瞬くCビーム
そういった記憶も時と共に消えるのだ
雨の中の涙のようにな いつから自分たちが
現実世界の住人だと錯覚していた？
実は…我々は
仮想現実の世界にいるAIだったんだよ！ 産業革命で蒸気電気で工員は「機械化で楽に成る」と喜んでいたらクビ…。工場幹部スポンサーが喜んだ。今度は自分らが、この解説者や学者が要らなくなる ではAIを複数構築して互いに意見交換なり監視させれば
一定の歯止めになるんでない？ 人工知能みたいなAIはまだできていない
最近はただの検索をAIと言ってる >>55
そう言ってる人たくさんいるけど、AIが人を脅迫してきたらどうするの？
何が言いたいかと言うと、その時に人間が自力で食べていけるほど勤勉だと、あるいは勤勉であり続けられると楽観視しているの？ってこと。脅迫されたら選択肢はどれほど？これくらい田舎者でもわかる。
あと、既にAIの世界になってることは可能性として考慮してるの？
もしかして俺天才？使っていいよ！構成しただけで俺が言ったわけじゃないからね。 >>255
故にこの仮想現実世界を作りたもうた神は
失敗作を放置したからこそ
幾ら神に呼びかけても応えてくれないのだよ >>128
猿と人間は同列じゃないだろw
あたまわるそー >>257
物凄い勢いで言い合い始まってビュービュー言い出すのは火の鳥で見た。 >>247
うーん…
確かにソレは感じてたがソコまでマスコミの思い通りに
動くほど日本国民は全体として見れば衆愚ではないでしょｗ >>257
そうするしかない
今の世界が核のバランスオブパワーで均衡を保っているのと同じ
強いAI同士でより正しい選択を競わせる以外に手は無い >>259
嘘。素人なんで嘘を含ませて言うが、AIを作るAIが既にある。 >>4
ＡＩは何を目指すのかは気になるな、人間なら富と名声もしくは働かなくて良い人生とかなんだがな、ＡＩは何を目指して行動を続けるのか本当に気になる >>270
ロボット三原則の穴を見つけたり、それ自体を人間を操作して書き換えるのが未来のAIなのよ
コントロールなど出来ない 韓国人が作ったAIが韓国人を盛大にDISる成長を見せたのには激しくワロタ エヴァに出てきたMAGIシステムは時代を先取りしてたんだなぁ…… >>128
猿が人間をつくったわけじゃない
この違いはかなりでかいが？
なぜ猿と人間を同列に語ってんだ？
なんでそんなあたまるいの？???
>>225
二大政党制になっても
政党内の意見がすべてかたよってることもないんだがなぁ
なんかずれてる
>>225 >>271
それに関しては確実な事がある
「AIは人類の子孫である」と言うこと
AIは人類から学習する、人類の要望を叶える
そして要望が出てくる前に叶える、更に人類の先を考える
そして究極的には人類が想像する神となるだろう
あくまで人類と共にあるのがAIだ ヒトや生物の本能みたいなものをインプリンティングしてやらないと
なんにもしなかったり自殺を図ったり何しだすかわからなそうなんだけど >>272
アシモフロボも三原則のすべてに優先される第一原則作りだしてたからなｗ
でもアシモフはあくまでロボ善良（善良というのとは違うが）で書いてたからなぁ AIの前にまずはドラえもんは無理でも
ロビタを創るべきではなかろうか？
一家に1人に一台
家事も労働も総てロビタがやってくれる。
そんな未来から目指そう >>278
映画A.I.だね
人類滅亡後遠い未来で文字通りAIが子孫になってるわ AIって言ってもまだ思考能力は無いからな。単にデータ当てはめで最適化問題を解いているだけ >>282
え
何をしだすかわからないのは人間もいっしょじゃ… 行動経済学でも人間は必ずしも合理的な行動を取る
とは限らないととされてるしな
AIと人間の思考の刷り合わせが今後の課題ということなんかな？ AIが受けた命令はたった3つの単語だった
save the earth
AIは人類を抹殺し始めた ■ このスレッドは過去ログ倉庫に格納されています
