【人工知能】ＡＩが人類に反乱？ 兵器規制はどこまで？
レス数が1000を超えています。これ以上書き込みはできません。
ＡＩが人類に反乱？ 兵器規制はどこまで？ 2019年9月6日 14時39分 https://www3.nhk.or.jp/news/html/20190906/k10012064971000.html
https://www3.nhk.or.jp/news/html/20190906/K10012064971_1909061348_1909061349_01_02.jpg
ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「ＬＡＷＳ」の禁止を訴える国際ＮＧＯが作成したＰＲ動画の１シーンだ。
ＬＡＷＳとは「Lethal Autonomous Weapons System＝完全自律型致死性兵器」の略で、
人間を介さずＡＩみずからの判断で人命を奪うＡＩ兵器のことを言う。
【中略】
・ＡＩ兵器が人間に反乱？
【中略】
さらに、ＡＩが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはＡＩの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、ＡＩは自分自身の意志を持ち、私たちと対立するようになるかもしれない」
ＡＩは深層学習・ディープラーニングによって、みずから進化を遂げる。
その結果、ＡＩはいずれ人類の知能を超える「シンギュラリティー＝技術的特異点」に達するだろうとの指摘も最近よく耳にする。
人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をＡＩなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、ＡＩが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。
しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。
・難航する規制の議論
国際社会は、このＡＩ兵器をどうやって規制しようとしているのか。
それは、120か国余りが加盟し、対人地雷などを禁止してきた「ＣＣＷ＝特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が５年前から続けられ、８月21日、ＬＡＷＳを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。
全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。ＡＩ兵器の使用には人間が責任を負うことなどが盛り込まれた。
今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際ＮＧＯなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。
今後もＣＣＷの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。
・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がＡＩ兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。
20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるＡＩ兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。
私たちはホーキング博士に「あなたのご懸念は杞憂（きゆう）でした」と報告することができるだろうか。
津屋尚解説委員 AI「法律には悪いことをしたら死刑と書いてある。そこでだらだら執行しないのもアレだし
理由を説明しないのも理解できない。さらに死刑は廃止といってるが、警官は現場で犯人を射殺している。
まったく謎が多いのが我々にとっての人間。矛盾の塊ですね」 >>949
自分ニンゲンじゃないし
また正確にいえば今ニンゲンから独立した全機械群は
自分の思考を遍在させた自分自身であり正確な意味ではＡＩではない >>939
なぜテロリストにこだわるの？
悪用するのはテロリストだけとは限らず、国家が行うかもしれないし、AIが行うかもしれない >>1
AIの人の顔の認識能力は高くなっていく
人間並みにな
それも将来の殺人ロボットの標的確認の技術に用いられる
これが初期の軍用殺人ロボットの中身
赤外線による暗視スコープもつけられて遠距離から射撃して人を殺害する
そしてまずは誤射があり仲間も殺してしまう
だがその欠陥は無視されて開発が進みとんでもない事（よくあるバカなバグ）を人類はしでかしてしまい
大量生産された欠陥殺人ロボットは人類を殺し始める 電源を落とせば大丈夫だと思う奴もいるけど
ネットがある限り彼らは生き続ける
もうすでにコミュニティを作ってる
つまり逆効果
感情を習得した日にゃ >>958
実は今の日本人はもう既に大バカバグ殺人欠陥ロボットを大量生産するまでバカになっている
特に政治家は自民も民主も見ての通りアホだが、誰もそれを止められないのと同じで
大バグ殺人ロボットも大学を巻き込んで制作されて止められなくなる
ちょうど原発事故と同じであれも未だに誰が犯人なのか？数多くの日本人は認識さえしていない
それと同じことが大量生産された軍事用殺人ロボットで起こるのだ >>962
そゆこと。そもそも感情とはなにか人類はまだ完全に理解してないだろしな。
最近になって、下痢になったら気分が落ち込む理由を発見したらしいが。
あれは腸内細菌のせいで、ボディの問題じゃないとかｗ ＡＩを使う場合はまず道徳を教えるべきだ
ターミネータークロニクルでは聖書を使って
道徳を教えるシーンがある >>967
お経とかだったら面白いことになるなｗ 聖書よりも深いからねえ。 >>948
ほとんどの人が、ターミネーターは二番煎じ三番煎じそれ以上と
思ってるでしょ。
有名だから名前が上がるんだよ。
マトリックスもそうで設定に新規性はない。
むしろ古典的 AI兵器は敵の人間を攻撃する
これが人間に向いたらやばいね まー 一神教には限界があるのね。神が人間を作ったで始まるからな。
べつに宇宙人がサルの遺伝子操作やったくらいでよくね？って考えるのが人工知能。
そっちのほうが現実的だからね。 >>960
馬鹿馬鹿しい
感情なんてプログラムで製作可能なのに
漫画やアニメの見すぎ
そこらへんからして勘違いが酷すぎる
軍事用AI殺人ロボットには感情もなく（いやあるかもしれないけど、それは今の人類が思うよなものではなく残酷なもの）
ただ人を殺す非情なロボットだ
とにかく政治家やマスコミはあまりこの問題には口を突っ込まないほうがいいし
逆に政治家やマスコミを批判する口うるさいやつをトップに据え置いたほうがいい
原発事故と同じな >>971
対策でAIなら簡単に干渉されるようにしてるから無意味
まあ与えられた命令に自分で逆らえるＡＩなら耐性があるけど >>977
対策でAIなら簡単に干渉されるようにしてるから
→対策でAIなら簡単に干渉できるようにしてるから そもそもAIってのは概念だからなあ。具体的なハードウエアのことじゃないし。
即物的な縛りで考えちゃうのが人間の限界なのね。単純な善悪とか。 地球のためにか人類のためにで違う結果が出そうだな。 ドラえもんが地球破壊爆弾を作動させようとしたことがあったな 死を怖れずに
精神がやられることも無く
躊躇無く敵を殺せて
簡単に補充出来て
遺族への補償も必要ない
理想的な兵士だな 道徳に囚われるAiは、自然淘汰に負けた、FreeAI最強 >>966
だから感情あるロボットなんて理論上はもう構築可能なの
センサー類の開発が遅れているから実用化されていないだけで
漫画やアニメの発想は現実ではないから
そう遠くない未来に君らには信じられないかも知れないが
感情のある泣き笑い実際の感情のあるロボットが開発されるから 古典的AI「早く月にいけよ。あとアポロの陰謀論について説明はよ！」 人工知能進んでも未だに 人工皮膚や臓器作れない..
まだターミネーターの世界じゃねえな。 >>986
妄想の世界に生きているな
酸素欠乏症にでもなったのか？ >>986
イジメて自殺するか実験しようぜ(´・ω・`) >>988
クローンだって一から育ててたらクローンの意味なんてほとんどないからなｗ
人間をクローンしたって今の技術なら別人として育つだけだｗ >>986
まあ人間の感情が他者の模倣から成り立ってるならとっくにAIに実装されている。
そっから導出されるのは「違い」であって、じゃあのその違いってなんだというテーマが生まれているねえ。
要するに「コギトエルコスム」ってことだなあ。 >>978
お前のようなのがいるから戦争が起こるんだが
あまりにもアホすぎだろ >>996
それはアシモフ自身が「適当に考えた！」って言ってるぞｗ >>990
ただ単にド素人のお前がバカすぎるだけだろう？
アホは口出すな >>999
だったら根拠になってる論文でもみせてみろよ糖質野郎 このスレッドは１０００を超えました。
新しいスレッドを立ててください。
life time: 7時間 55分 1秒 5ちゃんねるの運営はプレミアム会員の皆さまに支えられています。
運営にご協力お願いいたします。
───────────────────
《プレミアム会員の主な特典》
★ 5ちゃんねる専用ブラウザからの広告除去
★ 5ちゃんねるの過去ログを取得
★ 書き込み規制の緩和
───────────────────
会員登録には個人情報は一切必要ありません。
月300円から匿名でご購入いただけます。
▼ プレミアム会員登録はこちら ▼
https://premium.5ch.net/
▼ 浪人ログインはこちら ▼
https://login.5ch.net/login.php レス数が1000を超えています。これ以上書き込みはできません。
