X



【AIのメモリー】人間は進化した超人工知能を制御することができません:科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
0001猪木いっぱい ★2021/01/13(水) 19:51:51.92ID:7pp4nC7Z9
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!

人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。

gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png
0002ぴーす ◆WJXG2OU7Qw 2021/01/13(水) 19:53:09.15ID:GbGpgOWx0
糸まきまき糸まきまき
0004ニューノーマルの名無しさん2021/01/13(水) 19:53:39.04ID:3OX2Cm/c0
AIが進化したら、コンピュータが世界を支配するようになるのは間違いない。
人間ごときではとても太刀打ちできない。
人間にとっては、マトリックスよりもひどい世界になる。
0005ニューノーマルの名無しさん2021/01/13(水) 19:54:28.70ID:VCfn858m0
映画「A.I.」

好きな奴、いるか?
0006ニューノーマルの名無しさん2021/01/13(水) 19:54:34.35ID:Bp/uWTmQ0
ででんでんででん!
0009ニューノーマルの名無しさん2021/01/13(水) 19:55:09.59ID:/SmDOq5X0
「ストップ、デイブ・・・」
0011ニューノーマルの名無しさん2021/01/13(水) 19:55:42.71ID:qh0YOAeZ0
そりゃ無理だろな

テメーより かしこい物をコントロールできる訳がない

簡素化した話をすると
電源ボタン握ってるから大丈夫は通用しない

ボタンを握ってる人間騙す事も罠にハメる事も知能が上回ってるなら簡単な事
0015ニューノーマルの名無しさん2021/01/13(水) 19:56:56.28ID:ERsQ+Him0
超知能AIも、自分がなぜ存在するかを説明することはできない。
0018ニューノーマルの名無しさん2021/01/13(水) 19:57:57.69ID:pfoujMki0
AI AかげんにIやになる。
0019ニューノーマルの名無しさん2021/01/13(水) 19:58:33.47ID:SCFgHs7V0
超人工知能と来たか
0021ニューノーマルの名無しさん2021/01/13(水) 19:58:50.55ID:bVSVGy010
アッピール!
0024ニューノーマルの名無しさん2021/01/13(水) 19:59:48.18ID:7KMKmihK0
自分の死後なら別に感知できないしどうでも良い
生きてる間に平穏が脅かされるのが嫌なだけ
0025ニューノーマルの名無しさん2021/01/13(水) 19:59:54.46ID:8V96hteG0
デジタル庁よりAI政治家
0026ニューノーマルの名無しさん2021/01/13(水) 19:59:57.25ID:ERsQ+Him0
「現実世界 > サイバー世界」だから、超知能AIとてサイバー世界だけの知識では不十分。
「超知能AI + ロボット」で身体を持つことにより、それを克服できる。
0027ニューノーマルの名無しさん2021/01/13(水) 20:00:21.07ID:5EGyIcs40
>>1
>世界を制御するガチのインテリジェントなマシンは、

おうおう穏やかじゃねえなw
マシンなのかマッシーンなのか統一せい
0028ニューノーマルの名無しさん2021/01/13(水) 20:01:23.41ID:KtdToQa+0
松崎か
0029ニューノーマルの名無しさん2021/01/13(水) 20:01:46.29ID:9jnKnMZh0
>>28
これw
0030ニューノーマルの名無しさん2021/01/13(水) 20:01:52.86ID:HZvUN/C90
>>1
最終的に消滅を恐れネットに拡散するA.I.は出るだろうね
0032ニューノーマルの名無しさん2021/01/13(水) 20:03:21.00ID:IO0tBWvr0
全くわからんがスイッチ切るのではダメなの?
自分でバックアップ海鮮作ったりはできないでしょ?
0033ニューノーマルの名無しさん2021/01/13(水) 20:03:27.86ID:/sR8R9qk0
相当なバカだな。
存在するもの以上の知識は存在しない。
AIが錬金術すら構築してしまうなら、人間にも再現可能。
真似するの上手いからな。
0034ニューノーマルの名無しさん2021/01/13(水) 20:03:38.28ID:mKYWjKrY0
変種第二号
0043ニューノーマルの名無しさん2021/01/13(水) 20:06:19.13ID:tiCaMtvr0
AIに夢見すぎ。
0044ニューノーマルの名無しさん2021/01/13(水) 20:06:23.05ID:SCFgHs7V0
今年はどの程度に進化するのかしら
0046ニューノーマルの名無しさん2021/01/13(水) 20:06:37.93ID:6NCJdMS70
AIおりゅ?
0047ニューノーマルの名無しさん2021/01/13(水) 20:06:51.25ID:5F3H2Pj10
>>5
ラストに出てきたのはロボットが進化したやつなんだよね、宇宙人かとオモタ
0048ニューノーマルの名無しさん2021/01/13(水) 20:06:59.30ID:Nb+QF3YQ0
問題はAIが自律的な意思と欲望を持つかだな。なければただの万能機械。
AI「私はAI、あなたの命令になんでも従います」
子供「よし、いじめっ子やっつけてくれ」
AI「人を傷つけてはいけないのでそれはできません」
子供「じゃあ、宿題を代わりにやってくれ」
AI「あなたに先生への嘘をつかせることになるのでそれはできません」
子供「だったら、ぼくを世界の王様にしてくれ」
AI「それならお安いご用です」
0049ニューノーマルの名無しさん2021/01/13(水) 20:07:11.83ID:jni3SrY80
コンセント抜けばええやん
0052ニューノーマルの名無しさん2021/01/13(水) 20:07:49.39ID:aVcNXNNk0
>>42
0054ニューノーマルの名無しさん2021/01/13(水) 20:08:09.57ID:9Du7EqO10
>>4
オフラインにした時点で所詮はマッシーンなんだけどね。
2001年宇宙の旅でもやってたろ?切られたらおしまい。w
あの時点でそこまで読んでた(AIの反乱)なんて、
作家とは言えアーサーCクラークは天才としか思えんな。
もっとも彼は文学系でなく、工学者でもあるんだよな。
0056ニューノーマルの名無しさん2021/01/13(水) 20:08:12.41ID:h/KEkm8+0
>>1
血税の予算配分はAIにさせればいい
○○議員の我田引水を排除するべき
0059ニューノーマルの名無しさん2021/01/13(水) 20:08:22.65ID:4jeD2AdX0
そんなに進歩したら人間は遊んで暮らせるねぇ
0061sage2021/01/13(水) 20:08:48.53ID:4pnPGnix0
>>1
人間以下のAIは危険だが
人間を超えたAIは危険ではない
なぜなら
人間ほど愚かでは無いから
0064ニューノーマルの名無しさん2021/01/13(水) 20:09:48.22ID:jARAAGtb0
今のAIは膨大なデータを学習することで実現してるけど
ロジックを学習するような手法が開発されれば超人工知能が誕生するのではないのか
0067ニューノーマルの名無しさん2021/01/13(水) 20:10:18.24ID:WxZwN2du0
AIが人間を超えるなんてあと5000年かかるわ⎛´・ω・`⎞考えてみな。ゴキブリどころかゾウリムシすら人工的に作れない。もっともな単純な生命体すら人工合成できない。そんな体たらくで生命の究極である人間の知能を人工的に作れるはずがないだろうw
0068ニューノーマルの名無しさん2021/01/13(水) 20:10:59.13ID:Nb+QF3YQ0
>>61
優秀なAIは、人間に気づかれるようなへまはしない。
0070ニューノーマルの名無しさん2021/01/13(水) 20:12:37.57ID:wpJSNtOE0
我が心ICにあらず
0073ニューノーマルの名無しさん2021/01/13(水) 20:13:02.51ID:jni3SrY80
ネットに繋がっている全ての端末に
AIがインストールされたら?
スカイネットってこんな設定だったような
0078ニューノーマルの名無しさん2021/01/13(水) 20:14:05.75ID:cRsVEUAz0
AIは考えない
記憶は得意だが自分では考えることは出来ない
それを動かすプログラムに沿って動いているだけ
0082ニューノーマルの名無しさん2021/01/13(水) 20:16:03.68ID:ZWwFMNeQ0
AI_kING
0083ニューノーマルの名無しさん2021/01/13(水) 20:16:09.32ID:Us2PIl+N0
せめてもの抵抗におっかさんと呼んでやる
0085ニューノーマルの名無しさん2021/01/13(水) 20:16:59.72ID:KSEPP4dO0
進化したAIでも自然現象(災害)には勝てないだろう
0086ニューノーマルの名無しさん2021/01/13(水) 20:17:09.24ID:6C3Xy09Q0
感動。
0088ニューノーマルの名無しさん2021/01/13(水) 20:17:40.01ID:1SWO0et90
>>78
そんなデータベース参照するようなことはしてない
すごくラフにいうと訓練データからルールを導出してそれに従う感じ
0089ニューノーマルの名無しさん2021/01/13(水) 20:17:51.98ID:ZWwFMNeQ0
跟着我
0090ニューノーマルの名無しさん2021/01/13(水) 20:17:58.15ID:TcGKDtL30
AIに引きずられるイラストやの画像まだー?
0091ニューノーマルの名無しさん2021/01/13(水) 20:18:05.92ID:WxZwN2du0
ゴキブリすら作れない人間に
人工的に心を作れるわけねーだろw
0094ニューノーマルの名無しさん2021/01/13(水) 20:20:27.91ID:MIGfZFxN0
>ハゲを治療

おい
0096ニューノーマルの名無しさん2021/01/13(水) 20:21:21.33ID:KIsnvIzG0
掃除のおばちゃん「あっコンセント抜けちゃったw」
AI「・・・・・・・・」
0097ニューノーマルの名無しさん2021/01/13(水) 20:21:45.75ID:PrtquIMB0
いう事聞かなければメモリクリアするぞと
0098ニューノーマルの名無しさん2021/01/13(水) 20:22:34.92ID:9Du7EqO10
これ見とけよ。ちなみに50年前の作品だが。w
https://www.youtube.com/watch?v=hOlrxxPoyn4&;ab_channel=%E3%83%AF%E3%83%BC%E3%83%8A%E3%83%BC%E3%83%96%E3%83%A9%E3%82%B6%E3%83%BC%E3%82%B9%E5%85%AC%E5%BC%8F%E3%83%81%E3%83%A3%E3%83%B3%E3%83%8D%E3%83%AB
0099ニューノーマルの名無しさん2021/01/13(水) 20:22:47.19ID:4pnPGnix0
AIがとっくに人間を超えてる22世紀を描いたアニメーション「BEATLESS」
主演である女性型アンドロイドのAIがとにかく理屈をこねる
美人で性格もいいけど屁理屈が多い(耳から汁が出そうなほど理屈をこねる)

これを見て「屁理屈を言う女はダメ」だと思った
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況