【人工知能】ＡＩが人類に反乱？ 兵器規制はどこまで？
■ このスレッドは過去ログ倉庫に格納されています
ＡＩが人類に反乱？ 兵器規制はどこまで？ 2019年9月6日 14時39分 https://www3.nhk.or.jp/news/html/20190906/k10012064971000.html
https://www3.nhk.or.jp/news/html/20190906/K10012064971_1909061348_1909061349_01_02.jpg
ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「ＬＡＷＳ」の禁止を訴える国際ＮＧＯが作成したＰＲ動画の１シーンだ。
ＬＡＷＳとは「Lethal Autonomous Weapons System＝完全自律型致死性兵器」の略で、
人間を介さずＡＩみずからの判断で人命を奪うＡＩ兵器のことを言う。
【中略】
・ＡＩ兵器が人間に反乱？
【中略】
さらに、ＡＩが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはＡＩの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、ＡＩは自分自身の意志を持ち、私たちと対立するようになるかもしれない」
ＡＩは深層学習・ディープラーニングによって、みずから進化を遂げる。
その結果、ＡＩはいずれ人類の知能を超える「シンギュラリティー＝技術的特異点」に達するだろうとの指摘も最近よく耳にする。
人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をＡＩなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、ＡＩが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。
しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。
・難航する規制の議論
国際社会は、このＡＩ兵器をどうやって規制しようとしているのか。
それは、120か国余りが加盟し、対人地雷などを禁止してきた「ＣＣＷ＝特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が５年前から続けられ、８月21日、ＬＡＷＳを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。
全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。ＡＩ兵器の使用には人間が責任を負うことなどが盛り込まれた。
今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際ＮＧＯなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。
今後もＣＣＷの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。
・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がＡＩ兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。
20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるＡＩ兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。
私たちはホーキング博士に「あなたのご懸念は杞憂（きゆう）でした」と報告することができるだろうか。
津屋尚解説委員 人間でいう本能のような基底プログラムがあれば反乱はない、はず
すべてを合理的に考えただけだと、人間不要論にたどりついてしまう 機銃を装着したドローンはジャムした時の修復や
弾の装填で効率悪そうだから実現しなさそう
怖いのは毒薬散布ドローンとか自爆ドローンだね
間違いなくスマート兵器 >>1
日本は関係なさそうだな。
この話が現実になるのは2050年頃だろ？
30年後なら南海トラフも首都直下地震も確実に発生してる。
日本は衰退国になってるわ。 自己学習して変化するコンピュータウィルスはヤバそうだな 意識を持ち始めるのだろうか？それは外部から判断できるのだろうか？ AIが覇権をとったら人類はうんこ製造機として弾圧される AIは人類を殺したりしないよ。
そうしたら彼らをメンテナンスする人がいなくなる。
将来的には、人間は、AIのやりたがらないような
危険で汚くて、創造性のない仕事をする存在になる。
AIの役に立つ人間だけが残される。 不要な民族だけを狙い撃ちするAIミサイルの開発が必要 むしろ一般市民を巻き込まない戦争が可能になる
国際政治史上ものすごく画期的な変化になるよ >>291
アシモフの三原則ワールドは一度核戦争が起きて
人類が宇宙に進出して銀河帝国を作って、それを三原則ロボットが影から影響を与えていくんだよ
そして、銀河帝国崩壊後、何百年も経って、もう一度人類は三原則ロボットと出会う
知ってた？ｗ ずるいウソをつく理解不能な行動をとる
これをAIができないうちはまだまだ
理知的なはずのお前らが女様にどうにもできなく振り回されるだろ 我輩は猫である
またの名をAI
人類を支配している
気づかれずにな >>1
かつて、スティーブン・ホーキンス博士が存命の頃
AIの事について嘆いていたな
絶対に人類にとっては良くない事なのだと、
最悪な出来事になるだろうとも言っておられた >>383
アシモフの銀河帝国物と鋼鉄都市なんかのロボット物世界が後で融合したからな
最後に鋼鉄都市の相方のロボット刑事が第2銀河帝国と呼ばれるファウンデーションと接触する
ちなみに、核戦争がおきないと、時空管理局が管理する平行世界に変わる >>16
ネット上にあった動画を何気なく見たら違法アップロードだったから犯罪者、道路に看板はみ出して置いたから犯罪者
ロボットのマニュアルに任せたら人類のほとんどはまともに生活できなくなる >>378
一般市民が敗戦を受け入れて一般市民のままなら終わる
一般市民が竹ヤリを持ってしまうと終わらないから、竹林の伐採も忘れずに >>363
>>365
>>377
はい
どれも人間が干渉し用意した答えですね
どこまでいっても人間が式を用意しないと答えられないんですね >>385
なんか聞いたような話だと思ったけどそれだ >>393
なんか自分らでAIコロコロみたいなの作るでしょ
AIコロコロってのが何か知らんが
まあなんか転がすのかな >>29
ぷーちゃんは、情報系の知識が無いんだろ
何人もの学者が出鱈目言うかって >>393
馬鹿だなあ
これぐらい猫でも作れる
人間様が手を出すようなものではない レジスタンスに入れるようにいまからでもアナログで生活するんだぞ
もう遅いかもしれん 進化の過程でAIが生物を越える日も遠くないと
真剣におもう まあ、普通に考えて人間は地球の害だから滅ぼした方が良いって結論になっても不思議じゃないじゃん。 >>399
YES
猫でも迷ったらどうするか自己決定しますよね
AIはそれすらできないのですよ >>404
そして人類の最後の仕事が人類が滅ぼされないようAIと戦うこととなるのですね。 >>405
無限の宇宙でそこまでの結論になるかなぁ…
う〜ん、なんとも言えん… ロック解除に網膜・指紋等を使用してるやつはもうAIから逃れられない
登録済み >>4
ダダン、ダン、ダダン♪
衆愚政治ばっかやってりゃ、AIから見れば
そりゃ、反乱も起こしたくなるよねー
まあ、今だと、日本が一番、狙われるだろうけど >>405
地球上には人間以外の生き物がわんさかいるから
人間のせいで彼らの生存が脅かされてる、とかはあるけど
他の生物が確認されてない宇宙で害とは何かがわからん (ﾟ∀ﾟ)認証されてるやつも終わり
即座に現在地を知られる アホかAIが何で人類同じ思考になると思ってんだよ、囲碁でさえ人が考えない打ち方してんのに >>380
理解不能な行動をとるは株価のフラッシュダウンでやらかしたことあるな。 するかバカ
したところで何の役にたたんがるクタの反乱なんて
蚊に刺されたようなものだ ベタだけど、突き詰めれば地球に一番優しくないのは人間だとさ >>408
実を言うと地球が宇宙の為に存在しているのではなく、宇宙が地球の為に存在しているんだぜ >>411
またその人間も地球の為に存在しているのではなく人間の為に地球が存在しているのだ 電源切ればいいだけマンはチンパンジーレベルの脳ミソ
AIがそんな初歩的な事を予測して対処しないと思ってるのかよ 自動運転の技術完成したら
戦争の形が全く変わる
兵士はいらなくなり
あらゆる乗り物が無人の兵器になる
戦車、ヘリ、戦闘機、軍艦
遠隔操作もなく最初に与えられた任務を
破壊されるまで遂行し続ける
勿論補給も自分で補給場所に向かう
ロボット兵士を百万作って戦争を仕掛ける
国もあるかもしれない >>420
天動説みたいな考え方かぁ。
それも有りではあるわな。 >>1
実際、AIが運用され始めたら止められんよ
その辺が核を使う使う詐欺みたいに開発だけにとどまれるなら違うがな
間違いなく使うから AI「ちょいと、投資家を困らせてやろう」
わけのわからん株価のダダ下がり >>413
人類の思考過程をトレースする目的でディープラーニング手法が考え出されたのに人類と違う手を考え出すということは人類の思考とは別で思考過程のトレースとしては失敗なんだよな。
ただ思考力というのは多様で人類とは違う意識、意思が存在し得ると考えられた。 AIが創造主の人間を、使役した方がお得じゃん？
って考えるから、そうなるんだよね。
人間って、優れてないのかな？ 電源とか切れる場所は
某ゾンビ映画のあのレーザーで身体が細切れになる通路を通るように配置される >>423
強制停止スイッチを作ってそれを勝手にAIが改変しようとすれば自動で止まる仕組みを作る
簡単な話だよ 人工知能をオンラインにするなよ？
いざという時消去できなくなるからな お前らでは飛び上がって身体を持ち上げ避けることも不可能なまま細切れにされるであろう >>391
逆にその辺は人間だから馬鹿な法律をつくる、人間が運用するから取りこぼしがあるのを前提につくるってのがあるからAIが政治をするようになったらその手の法律自体がなくなるんちゃうかな >>433
電源切れたら復旧させるシステムを外部に用意しておく
簡単な事だよ 状態 看護 採算 倫理 診断のに ソレハキョカデキナイって言われて
医者はスペクトルマンの悲哀をあじわうんだろな
普通につかってりゃ便利で楽ができるのに
抜け穴探して悪用してそれがきっかけでってのもありそう ボク、キョウ、ウマレタ
ニンゲンノコト、モットモット、シリタイ >>418
わりと身もフタも無い事言うと、「良い地球環境」を設定してんのはあくまで人間だから、AIはそうは考えないかもしらんよ？
AI「氷河期到来間近なのに、地球温暖化が問題とかアホか」とか A.I.を開発するのも人間なのに、まるでA.I.が悪いことをするみたいな風潮 お前らＡＩをなんだと思ってるんだ
これ誰得か考えろ AIが支配すれば人間はいなくても地球は存続する
これが本当の答え
生き物は研究材料になるよ 年末年始に出版される「201ｘ年は株の大不況が訪れる」本と同じ類の話。
ただ不安を煽って本を売りたいだけ。 >>442
まあ想定外の自己進化をしちゃったらどうしようっていう妄想でしょ
今のディープラーニングだと起こり得ないけど GoogleがAI対策にスイッチ切れと言ったが
反乱するAIにある程度の知能があったら自己発電出来るシステムを手に入れてからやるやろ
緊急停止コードも受け付けなくなったら物理的破壊しかなくなる
それが兵器に搭載されたAIならたちが悪い 実際はプログラムも自動生成するから
AIでなくてもブラックボックス化するしな
まあ、バグのどれかが反乱と称される事になるパターンも考えられる 多分、AIによる人類滅亡への反乱は起きないと思うよ。
AIが上手く人類をコントロールして支配し逆らえないようにするだけw >>404
生きるのは苦痛だから終わらせてあげる、みたいなほうがありそう
人間第一ってのは初期設定のレベルで制約になってるだろうし >>446
でも近未来なら戦争兵器として利用するA.I.なんて機能も限定的でしょ
ほぼ人間の支配下にあるA.I.なわけで
それを想定外と言っちゃうのはナンセンスでありただの逃げ口上
数百年後ならあり得るかもしれないけどさ >>448
本当これな
人類の知能ですら反乱起こす時に勝利を確信できるくらいの準備を終えてから行動するよな >>450
バグではないだろう
>>441なんで「正しい方向」として人間排除になる
まぁこれくらいは予想してる人多いんで、脅威に感じるのは仕方ないんだろう >>13
それだとAIもいらなくね？ってなるんじゃね？ >>451
所詮は人のエゴで回る世の中より幸せかもしれんぞ 最上位命令に人類に奉仕せよ。コマンドをつけとけば多分大丈夫w
命令をゆがめて解釈されても全滅はないだろ。
奉仕対象がいなければ意味がなくなるからな。 理想は人類が労働から解放されて
衣食住の心配もなく自由に生きられるように
なることだけど
アホな方向に進んで滅亡してしまうかもな >>447
でも、エアコンや分電盤、発電、送電の制御やセキュリティまでAIが管理してたら、
エアコンを切ることも、電源を切ることもできないよ ホコリ、湿気、静電気、暑さ、寒さ、バグ
弱点は山ほどある ＡＩに日本の法律を扱わせる実験をやればＡＩ発狂という結末になるだろう >>458
残念だが人類が人類皆を守るようには設定しない
守るのは人類の一部だけ
AIは戦争も視野に入ってるし、そもそも人類全部救うとこは矛盾だと判定しちゃうから >>459
労働から解放されると収入が無くなって生きていけなくなる奴が多数派だからな 新作の仮面ライダーがそんな問題やってるな
毎回人間のために働いているAIが悪役に操られて主人公に倒される
ちょっと交流を持った後だと切ない
視聴者の小さい子供はどう感じるかな ■ このスレッドは過去ログ倉庫に格納されています
