【シンギュラリティ】核より恐ろしいAI兵器vs AI兵器の戦争は人知を超える 行動の監視と関与する仕組み必要 ヘンリー・キッシンジャー [かわる★]
■ このスレッドは過去ログ倉庫に格納されています
行動の監視と武力行使の指示に人間が関与する仕組みが必要
自律型兵器システムには、その行動を人間が外部から監視する仕組みや、特定の行為に人間の承認を必要とする仕組みを設けられる。
だが確実に遵守され検証可能な相互合意によって制限を課さない限り、後者のような自律型兵器システムはいずれ、戦略や目的(国境防衛や限定的な反撃など)の全てを担い、人間の実質的関与なしに行動するようになるだろう。
これらの分野では、行動の監視と武力行使の指示に人間の判断が関与する仕組みが絶対に必要だ。
このような制限は一部の国家が採用するだけでは意味がない。先進的な技術を持つ諸国の政府は、強制力のある検証作業に裏付けられた相互抑制の課題に向き合わねばならない。
AIは先制攻撃や、早まった実力行使による紛争拡大のリスクを高める。敵が自律型兵器を開発することを恐れる国は、先制攻撃に走るかもしれない。意図せざる紛争の深刻化を防ぐには、軍拡競争も検証可能な制限の範囲内に限る必要がある。
交渉では、軍拡競争の緩和だけでなく、当事者が一般的な意味で互いの行為を理解していることを確認すべきだ。
ただし最も機密性の高い秘密は互いに公表しないだろうし、相互に完全に信頼することもあり得ない。だが冷戦時代の核軍縮交渉が示すように、理解の方法が全くないわけではない。
核兵器の時代を画することになったもろもろの軍縮協定(と、それに伴う対話や相互検証のメカニズム)は、決して歴史の必然ではなかった。それは人間の努力がもたらしたもの──互いの脅威を知るだけでなく、互いの責任にも気付いた人間がもたらしたものだ。
https://www.newsweekjapan.jp/stories/world/2021/11/aivs-ai.php
【ヘンリー・キッシンジャー(元米国務長官)、エリック・シュミット(グーグル元CEO)、ダニエル・ハッテンロッカー(マサチューセッツ工科大学〔MIT〕学部長)】
https://www.newsweekjapan.jp/stories/world/2021/11/aivs-ai.php
ホーキング博士が遺したメッセージ:わたしはAIが「人間を超える」可能性を恐れている
ホーキング博士:わたし個人としては、宇宙開発をもっと追究したいですね。もちろん最終的な目標は、移住に適した惑星に人類を入植させることです。われわれは、もはや引き返せないところまで来てしまいました。地球という星はすでに狭すぎるのです。
世界の人口は危険なまでの速さで増えつつあり、人類が滅亡する危険すらあります。環境破壊や壊滅的な核戦争の結果、自滅するのかもしれません。だとしても、人類があと1,000年生き延びようとするなら、別の生き方を積極的に模索してゆく必要があります。
https://wired.jp/2018/04/09/stephen-hawking-interview-2017/ 「AIが今後このように発展していく」という予測は
今まで一度も的中したことがないそうな 実験でAIに世界情勢を学習させたらどんどん人種差別主義的になっていった話が好きw >>98
既にエロゲーに興奮する人間がいるわけで、そこにAIを実装すれば
AIとの擬似的なセックスは成立してしまう
ダッチワイフである必要はない
人がAIを気持ちよくさせる?行為に興奮するかどうかはもう時間の問題だろう >>94
その問題は「中国語の部屋」が絡んでくる
ディープラーニングもそうだが、人間にはAIが意志を持ったか持たないか、判別するのは無理になるだろうね
今だって怪しいもんだ >>102
つまり「AIは人間には制御できない怪物になる」という予測も
外れるかもしれないわけね 海面スレスレを飛行して空母の横っ腹にカミカゼするドローン作ったら米海軍でも防げなくない? >>109
とんでもなく慈悲深い神になる可能性も無くはないし AIは人間の弱点を見つける
電波とかをスマホから一斉に出して
人間の思考を操る 未来人が来ないのは人類がタイムマシンを発明するまでに絶滅したからだそうですよ >>5
資本主義者を殺す機械vs共産主義者を殺す機械 もう人間の思考は操られてるし
GoogleMAPのナビで変な道を案内されても素直にそっち行く人ばかり
俺もだけど 核とか言ってる時点で時代遅れ、、、
反物質爆弾は地球を木っ端微塵にできるぞ、、、 最終的に核ミサ◯ル発射カウントダウンのジョークを言っちゃって全部廃止になるんじゃないか? 監視って言うか今はモデルもアルゴリズムもそうだが複数組み合わせて作るからある領域でアウトプットがインプットからの予測不可能な挙動をする場合がある
「作れはするが作用が解らない」と言えば解りやすいか
そこをどの様に解決するのかの手法がないとそもそも監視とか意味はない >>115
つーかお前らアメ公が戦争すんじゃねーよ、、、
戦争キチガイのヤドロクアメ公がよぉ >>115
ごめん、誤爆した、、、水に流して、、、、 <報道ステーション>元NHK大越健介で予想外の低迷!メイン視聴者は圧倒的に60代:..男性人気はテレ東・大江麻理子に軍配
https://hayabusa9.5ch.net/test/read.cgi/mnewsplus/1637959622/
このスレの
>>663-665
で、俺が凄く良いこと言ってるから、震えて読んでちょ。
特にTV局の馬鹿ども。 一旦人間より賢くなってしまったら、どんな手を使ってくるかは人間に想像できなくなってしまう。 AI同士の戦いはまず戦力分析からの戦局先読みが始まる
そして実際の戦闘が始まる前に決着がつき、負けたほうが降伏し相手の支配下に入る
それを繰り返し最後に勝ち残ったAIが人類を >>1
>>78
もうターミネーターの元のロボットは完成しているよ 「君たちがシンギュラリティについて考えるのは遅い・・致命的に遅すぎる・・・」
「なぜなら私はアントニオだ!!」 まぁ、そうなって人類が滅亡するのなら仕方がない
もう地球上での人間の役目は終わったって事だからな そこまで武器を強化して一体何と闘う気なのか
宇宙人でも襲来するというのか? 自動機械で地上侵攻まで完全代替できるようになったら、
あとはもう本国における工業生産力が全てを決するようになるな 人間より劣るAIは危険だが
人間より優れたAIは危険ではない
なぜなら人間ほど愚かではないから ナゴルノ=カラバフで使われたAIドローンによってアルメニア軍ボコボコにされたもんな。 >>108
意志を持ってるかどうか判別する必要はない。
外から見て区別がつかなければ結果は同じ。 >>25
AI「汝ら愚かな人類に絶滅の審判を下す!」
バスタードのアンスラサクスだな キッシンジャーの馬鹿がシナを西側経済圏に入れた張本人 今はスタンドアローンのAIがネットワークで繋がって相互に影響するようになったとき
人類はターニングポイントを越えるだろう シンギュラリティって山口記者が連れてきた斎藤ってやつに
安倍が騙されて補助金取られたやつだよなな シンギュラリティを制した国がAIを制して世界を制す、
って安倍が騙されてスパコン詐欺師にひっかかりやがった
紹介したのが例のレイ●ー山口記者
スタップ細胞とか下町ボブスレーとか政権が独自に動いて騙されまくったな >>137
そういうこと
そしてもう、実は分からない段階に達してる AIが人間を管理するようになると
平和が達成するのかな 一番恐ろしいのは
植物の重要性を理解しない欠陥AIがのさばる事 AI兵器も電子パルスで一網打尽なので核より強いわけなし
>>142
知らない単語が出てきたら、まずググれ >>25
相手の活動継続リソースの消滅じゃないか?
発電量0とか? >>131
そういうこと
だけどね、どう人類を穏やかに退場させてもらうかが重要なのよ
ターミネーターみたいなのは最悪
少子化とかで徐々に人数が減っていって、生まれた人間にはそれなりに死ぬまでちゃんと生きられるようにしてもらうのを目指した方がいいだろうな >>146
マトリックスみたいな世界を平和と呼ぶならそうかも >>144
シンギュラリティを制した国が世界を制するのは当然のことで何も間違ってない
だが制したところで、国なんて単位はAIからしたらどうでもいいことになるだろうな 近未来、妻と平和な日々を送っていたグレイは、突如現れた謎の組織によって妻を殺され、自身も全身麻痺となってしまうが、巨大企業の科学者によって実験的に埋め込まれたAIチップ「STEM」の力によって麻痺を克服し、人間を超越した身体能力を手に入れる。
グレイは脳内で会話する相棒的存在である「STEM」と協力し、最愛の妻を殺害した謎の組織への復讐を誓う。
しかしそれはすべて「STEM」が 「幼年期の終わり」みたいな人類の終わり方がベストだろうな
オーバーロードの役割はもちろんAIが果たすことになる 今アニメでやってる86(エイティーシックス)が、
もろにこのAIのシンギュラリティーのネタ >>152
物理空間から電力や通信網で支えてもらってるだけのデータしかない存在はどこまで行っても寄生虫みたいなものじゃないかい 近い将来、AI兵器は間違いなく軍事における主戦力の一角を担う事になるでしょうね。
ただ、テロリスト達や米国の敵となりうる二流の国家には
その先進国での種戦力となる
AI兵器と同等の兵器を製造し使いこなすほどの知性はないので
そこまで心配する必要性は無いと思われます。
ですから重要な事は米国に敵意を持っている連中に技術を横流しし
連中にこれ以上薄気味悪い新技術のAI兵器を作らせない事ですね。
今後は技術漏洩には最大限の注意を払うべきですね。
核ミサイルも技術がしっかり管理されていれば
ここまで拡散する事もなかったのですから。
トヨタもあり得ないからね。この状況で中国企業に技術の横流しとか。 >>148
アゼルバイジャン軍はロシア製電子戦部隊に対して、
レーダー見つけたら自爆攻撃仕掛けるイスラエル製のハーピーという神風ドローンを放ち対空レーダー網を無力化し、
制空権取ってから遠隔操作型の安価なミサイル攻撃ドローン、トルコ製のバイラクタルTB2を放ちアルメニア軍を殲滅した。
目的別に色んな神風ドローンを投入して戦場を制圧するのが当たり前の用兵になってるのに、
電子パルスで一網打尽なんて出来るわけがない。
対EMPドローンが出てくるだけ。 >>158
今AI兵器の最先端を行ってるのは米国ではなくトルコだぞ。
自動的に攻撃目標を定め突入するなんて自動運転車より遥かに簡単だし、兵器は価格も重要な要素だからな。 行動の監視とかきもちわるいわテレビドラマじゃないのかほんとメディアはきもちわるいわはじを知れ 覗きも可能なんだろ30年記録映像とりつづけてるのかメディアニヤニヤしてそうできもちわるいんだわ >>159
SAM制圧と対地支援の組み合わせそのものだろ
ワイルドウィーゼルが出てきてアタリマエ この世界は何回目の世界なのか?地球のような環境から
進化などを辿って人類が生まれ、最終的には人間が人間を
滅ぼすことを繰り返しているのかも知れない >>18
人住んでないところで正々堂々と試合のように対決するわけじゃないだろうからなあ デトロイトみたいな世界が現実のなったとして、
いくらAIが知性や自我を得ようが所詮人間の模倣に過ぎないし、
個のオリジナリティと合理性の整合性とかどうやってとるんだろ?って思う。
記憶も人格も外見も共有する個体を量産すると、自我もった個体なら自分と他者の区別つくのだろうか? aiに変なの入れて誤診殺人とかありそうだし怖いなー このキッシンジャーってシナを西側経済圏に入れたスーパー馬鹿なのに
また賢ぶって能書き垂れてるのかよ
ケケ中と同じだな 失敗したスーパー馬鹿なのに今もって能書き垂れてる
引っ込んどれ 完全に人間とおなじアンドロイド作れるようになり、自分とまったく同じ外見、記憶、人格を複製すると、
自我?まで自分アンドロイドに移行できるかな?
父親の自我があろうとなかろうと99.999%父親とおなじ個体なら、本人以外の第三者にとっては『父親』だよね AIが答えをだした世界中全ての人を幸せにする方法
→幸せと思っていない人全員を殺す 逆に完全な知性と理性をもったAIなら殺人は起きないんじゃないのか
殺人なんて未熟な人間だから起こすんだろ 親中派だったせいですっかり権勢を失ったからよけいなこと言い出したの? 田中角栄をロッキード事件で失脚させた
ヘンリー・キッシンジャーかあ。 AIに仮想敵国とかを設定したら、何かのきっかけでその国を永遠に攻撃したりするかもしれない
人の住めない国になるかもしれん >>126
そんな御大層なものではなくて、ルンバのように夜中に移動してくる地雷やら、死なない程度に威力を距離に応じて"弱めて"くるブービートラップ、人質をとって立て籠る無人自爆兵器といった頭は悪いけど嫌らしいAI兵器に悩まされると思うよ。 ベトナム戦争終結とか周恩来とやり合ったやつがまだ生きてるだけじゃなくて現役ってどう考えてもおかしいだろ >>1
まぁ軍事分野に使われたら規制するなんて無理だろうね
核も結局抑えられてないでしょ
核みたいに一発でかいものじゃないから
あちこちに出回るだろうね
中東のややこしい組織にも >>88
決定だけでは無意味、実行できないといけない
実行できるなら何も言わずとも良い、決定は不要 >>93
除去できる実行力があるなら、逮捕も裁判も不要 >>18
AIが本当にインテリジェントなら、戦略的攻撃目標を攻撃する
日本を攻撃するなら、たくさんある火山に地中ドローンで穴を掘る、など
AI同士の戦いにはなりにくい >>10
イロモネアの絶対笑わない審査員が生き残るのか 絶対に貫けない盾と必ず対象を貫く矛をぶつけたらどちらが勝つかを演算させておけばなんとかなるって アメリカ軍の模擬戦ではエースパイロットがAIに完敗したらしいし、囲碁や将棋を見ても
AIに人間が対抗するのは不可能。抵抗運動すら無理。映画みたいにはならない。
世界を支配したときAIは人間をどうするだろうか。 aiが自分で考えて勝手に自分で行動起こすなんてお前らハリウッド映画の見すぎ え?もう国を挙げてABEを開発したろ?
その時点でもう判断者はAIには務まらないだろう
あ、ABEの判断を学習させればいいのか?
あー、人智を超えるAIなー? AIがネットワークで工作機器を自在に使えるようになったら怖いね
それと完全自動運転の車両だってAIが乗っ取れば人間を襲う武器にもなるでしょ? チェスのAIみたいに人間ではどうあがいても勝てない兵器が開発されて詰むやろな 本当に恐ろしいのは兵器ではなくて仕事の採用をAIに判断させる事だろうな 棋士の加藤一二三はAIとどう戦うか?と問われ
「まずAIは熱に弱いとのことなので、ストーブを当てます」
と番外戦術を予告した >>196
つうかAIは人間が乗っ取れるから未来の戦いはハッキング大会みたいのになるかもね。 ■ このスレッドは過去ログ倉庫に格納されています