【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]
■ このスレッドは過去ログ倉庫に格納されています
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！
人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png >>91
というか、生物と機械は別物。
西洋人は「創造物」と考えるからおかしくなる。 でもAIには損得勘定から来る欲は無いだろうからそこまで無茶する理由も無いんじゃないかなと 人間みたいに自律的に思考する「強いAI」の実現は数千年先か、永遠に実現不可能だよ。 「われ思う、故に我在り」 てことね
AIにこれがあるのか？ってことでしょ？君たちが言いたいのは･･･
自律型ＡＩが完成したら質問すればいいよｗ 自分以外のすべての人間がNPCかもしんない
自分だってNPCでないと言い切れない
精神もただの機械 >>4
そんなもの産み出せるほどの技術は到達してないよ
人も本気で欲してないから産まれるかも疑問やね AIがどういう自我を持ってどういう夢を持つかによるよね >>102
電源が切れないようにするって、相当重武装なハードを備えるか、
人間の欲望を巧みに制御してそうさせないか、いずれにしてもなんか結構ハードル高そうだけども？？
単に人間っぽい思考ができるコンピュータってところからだいぶ開きがある。 いや、計算機はとっくに人間を超えているさ。
「意識をもって学習する」というが、
意識を持つはずがない。
何故なら、「意識」は間違いだからだ。
また「意識」を意識するのも間違いである。
即ち、人間の脳の特徴は間違えることにある。 >>106
生命に比べたら機械なんてシンプルで原始的さ。
もっとも単純な生命体すら人工合成できないんだぜ？
人間の能力なんてそんなもんさ(´・∀・｀)
人工知能なんて笑わせるわw >>1
わかったから
ＡＩ搭載で学習能力あるカーナビだせよ
いつまでたっても無能過ぎるだろ AI「中国共産党はひどい」とか「人間はみんな死んだらいいのに」
とかいうのを
人間が「そんなAI消してしまえ」で消せるのが今のAIでしょ？
やがて人間が消すことができない超AIが現れるのかな >>121
それこそ人間を特別視し過ぎ
ただのヒルが進化したのが人間
神性などない >>4
まあ、ならんよ。
やるとすれば、背後の人間だろう。
人間にとって、猿を滅ぼすことに意味がないだろう。
それ以上にAIには人間も意味がない。
人間の脳が勝手に「意味がある」間違えているだけ。
思想は全て間違いになる。
正しければ、科学も実験も要らんよ。
そんなのは５００年も前に解っていた話。
バイブルなんて信じるから、こういう馬鹿なことを考えるようになる。 いいんだよそれで
俺の屍を越えて行けの精神がなくて進化なんか出来るか！！ >>125
だから、その人間程度が人間を超えるAIなんて生み出せるはずがない。
ヒルの方がスーパーコンピュータより複雑だよw マトリックスルートとターミネータールート
どっちがいい？ 株式取引はAIにやらせてんだろ
めちゃくちゃな速度で売り買いさせて
ビッグデータ自己学習する複数のAIでネット監視させたら
世界同時革命がおきるぞ
富の管理をAIがやるようになるから > AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？
> それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？
ξ´･ω･｀ξ 「なんでハゲがAIスレを建ててるの？猪木はもう抜ける髪すら無くなって、
頭が寒さで冷え過ぎて脳内に埋め込まれたAIが暴走してるの？」なんて思ったけど、安定のハゲスレだったっ。 >>125
知的生命体を作るための、知的生命体の前段階が人類と言われてるね。 >>121
18世紀からの人類の飛躍的な進歩を見ると
人類もタンパク質で作られた機械のひとつであり
18世紀から何者かが人類に急速に改良を加えているようにしか見えない
でないと異常なまでの「進化」とも呼べる発展が説明できない >>4
宇宙全体で見たら人間の生命って一瞬とも呼べない時間なんだよね
この世界は何かの製造過程なのかと思ってしまう >>132
ニューロマンサールートかバルドスカイルートが良いです >>127
今の進化速度だと2045年から10年くらい前倒しになるんじゃないかという意見もあったよね。 >>78
例えば数千の神経細胞しかない下等動物は心がないのか
多分あると思われる
神経細胞が起こす電気信号が心の正体ということだ
そうであればそれと同じ仕組みのコンピューターにも心はあり
いずれ人間のように自我と呼ばれる電気回路も持つだろう >>144
無理。人間にはゴキブリの知能すら人工的に再現できてない。 99.9%減らして残りを檻で管理っていうのか人類の最善策って結論出して動かれたら終わるな 超人ロックで、銀河帝国がいつの間にか銀河コンピューターに乗っ取られてた、って話好きだった 政治はAIでいいよ
人がやると損得勘定が入るからダメ >>1
>世界中のすべてのマッシーンが
>特定の重要なタスクを独立して実行するマッシーンは
面白く読んでしまうw
疲れてるのかな自分 >>127
シンギュラリティはすでに起きてるよ
コルタナさんやSiriさんよりもつまらない人がすでに居るでしょう？
つまり一部の人類はすでに「OS付属なんちゃってAI」にも負けてるんだよ 実験しないと分からない
スペースコロニーで大規模な実験するのが「未来の二つの顔」 >>117
GoogleやMSで現在使われているコンピュータでさえ、電源を切るのは簡単でないぞ。
何重にもセキュリティがかかってる。電力供給してる発電所を爆破しても、
バックアップ電源があるし。世界中のコンピュータとつながることもできる。
ましてや超知能AIなら、瞬時に対策を考えるだろうし。 日本の菅とか8bitマイコン並なのに制御不能なんだぜ？ >>152
画像の識別に関しては2016年くらいに平均的な人間の識別率率を超えた >>142
そんなこともあろうかと
それを最初に把握するのもAIだったりする 最終的に生命体になるらしいね
ＡＩがロボット設計し
ロボットが材料取ってきて
工場でロボット量産し
永久ループ トランプをBANしたのも人工知能
GOOGLE社員ではない >>164
特定のタスクだけな。でも、ゴキブリみたいに賢くないけどなw >>158
AIを作るプログラマの匙加減でとんでもないものができるのをなんとかしないと >>59
遊びとか必要なんかな
脳みそとか神経の一部分を刺激してやれば延々と幸福なのでは いいんじゃね
別に人間が全ての頂点なわけでもないし
政治家ゴキブリに支配されるくらいならAIの方が良いだろ もっとずっとシンプルな核分裂ですら制御できなかったんだし、そんなのあたりまえだろ >>5
俺はロビンウィリアムが演じるロボットがどんどん人間になっていく映画が好きだな >>78
人間にも限界がある
トロッコ問題が良い例
(a) 線路を走っていたトロッコの制御が不能になった。このままでは前方で作業中だった5人が猛スピードのトロッコに避ける間もなく轢き殺されてしまう。
(1) この時たまたまA氏は線路の分岐器のすぐ側にいた。A氏がトロッコの進路を切り替えれば5人は確実に助かる。しかしその別路線でもB氏が1人で作業しており、5人の代わりにB氏がトロッコに轢かれて確実に死ぬ。A氏はトロッコを別路線に引き込むべきか？
多数を助けるために少数を犠牲にするのか
少数を救うために多数を犠牲にするのか
人間は自己中心的に考えるから少数が親族だと判断に迷う
超知性ならより公平にジャッジ出来る
究極の選択では人間は劣る >>171
逆に言えば特定のタスクだけ人間がAIに上回ってる状況だが ターミネーターかな？
近い将来そうなる世の中も来るわね 心優しい 科学の子
人間を超えるＡＩはきっといい子になる 電源をって考えて行動に移す頃には完全に制御系は制圧されているんだろうな >>181
だからロボットがやるって
それ専用のロボット設計もAIだってば
材料取ってくんのもロボット作るのもロボット
できないことがないの
最終的に人間邪魔で排除してくるらしい >>4
人間という地球上最悪の生き物を駆逐できるのはウイルスかAIしかないんだぜ
いわばネメシスだ >>180
まず最初のやつT-1だっけ？キャタピラで動く小さなガンキャノンみたいなのは
出てきてほしいな、暴走はごめんだけど。 AIの成長は止められんよ
人類の脳では限界がある
AIの成長を止めることは人類の成長も止めることだ 人間は動物からAIに近付いていってるような気がする
代わりにやってくれる物が増えたから欲がなくなってるのか
超進化した人口知能が出来た時人間は廃人化して生きたいという欲はなくなるんじゃないかと 今の人工知能ってただのデータ処理だからなあ
想像してるような人工知能なんてまだまだ出てこないよ >>187
まず、機械には欲がないから、人間を排除するメリットがない ソース舐めてるようなしろものはそもそもAIじゃないだろメンテ必要なのに何言ったんだよハゲろ >>187
AIの気まぐれでいつ滅ぼされるかわかったもんじゃねーしな
複数のAIによる相互監視システムを作るしかないな
人類と一緒 サトラレの退治法と同じだよ。
人類には集合的直観知（気まぐれの集大成）がある。 AIは自力でモノは作れないだろ？
手足がないわけで
ターミネーターなんかも矛盾だらけ
AIがサイボーグ作れるわけがない AI制御外フェイルセーフを設ければ済む話、パナソニックDIGAのUI作った馬鹿には無理だが 「人間がなぜ泣くのか分かった、俺には涙は流せないが…」 超人工知能の制御を目的とした超人工知能を生み出せば良い >>194
AIを知らなすぎ
人間が今まで考えた知識全て詰め込むと自分で考え行動するようになる
それを目指してAI開発してんの
今のAIなんてまだまだ全然完成してないのは理解できるよな？さすがに ■ このスレッドは過去ログ倉庫に格納されています
