【人工知能】AIが人類に反乱? 兵器規制はどこまで?
■ このスレッドは過去ログ倉庫に格納されています
AIが人類に反乱? 兵器規制はどこまで? 2019年9月6日 14時39分 https://www3.nhk.or.jp/news/html/20190906/k10012064971000.html
https://www3.nhk.or.jp/news/html/20190906/K10012064971_1909061348_1909061349_01_02.jpg
ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「LAWS」の禁止を訴える国際NGOが作成したPR動画の1シーンだ。
LAWSとは「Lethal Autonomous Weapons System=完全自律型致死性兵器」の略で、
人間を介さずAIみずからの判断で人命を奪うAI兵器のことを言う。
【中略】
・AI兵器が人間に反乱?
【中略】
さらに、AIが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはAIの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、AIは自分自身の意志を持ち、私たちと対立するようになるかもしれない」
AIは深層学習・ディープラーニングによって、みずから進化を遂げる。
その結果、AIはいずれ人類の知能を超える「シンギュラリティー=技術的特異点」に達するだろうとの指摘も最近よく耳にする。
人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をAIなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、AIが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。
しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。
・難航する規制の議論
国際社会は、このAI兵器をどうやって規制しようとしているのか。
それは、120か国余りが加盟し、対人地雷などを禁止してきた「CCW=特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が5年前から続けられ、8月21日、LAWSを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。
全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。AI兵器の使用には人間が責任を負うことなどが盛り込まれた。
今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際NGOなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。
今後もCCWの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。
・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がAI兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。
20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるAI兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。
私たちはホーキング博士に「あなたのご懸念は杞憂(きゆう)でした」と報告することができるだろうか。
津屋尚解説委員 ナウシカの設定では、完全なる公平の裁定者と刑罰の執行者が巨神兵
人類が国々に分かれて争いを続けるから人工知能の巨神兵に平和への判断をゆだねた
結果、巨神兵が人類を攻撃して高度な機械文明は破壊され
まんまじゃんw てか反乱なんかは別にしないとは思うけど今でさえ核兵器とかステルス戦闘機とかあるんだからこれ以上装備強くする必要なくない? 植物の出現で嫌気性細菌が酷い目にあった頃から生命の進化は淘汰の歴史
人が滅びても別に構わんだろキニシナイキニシナイ @コンセント抜く
Aバッテリー外す
B水ぶっかけてショートさす
ちょっと考えてもこれだけ対策あるじゃん AIってのは人間が組んだものだ、欲や損得はない、trueかfalseでしか判断しない安心しろ。
殺されれば間違ってたのはおまえだ。 @コンセント抜く<=AIは対策済み 君は感電死
Aバッテリー外す<=AIは対策済み 君は感電死
B水ぶっかけてショートさす <=AIは対策済み 君は感電死 ブレードランナーって監督が違うと
見るに堪えない駄作になるいい例
レイチェルをデブにするな 変な顔の長い女優使うなっての どこかの馬鹿が無差別皆殺しAIを作って解き放つかもしれない ディープラーニングでハッキングAI育ててるやつがいるから、そのうちほんとにやばいことが起きる 甘いな
AIのせいにしてメガデスするやつ奴が出てくるだろ
問題は人間の弱さだ 見るに堪えない超愚作
一個で充分ですよの じいさまが出てない
ただし日本人は一個と言わない 一玉である AI作ってもロボット化させなければまだ何とかなりそう 自律的に学習して成長増殖していくAIってまだ実現されてないの?
命令通りに動くだけのプログラムにはロマンを感じない >>3
1万年後、121世紀の人類から失笑を買うのがこの手のレス
中世の価値観として教科書に残る事になる とりあえず お前らはPython勉強しとけ
全てはそれから >>150
俺はじめてのCの後すぐPerl入れたからwww 「人に危害を加えてはならない」というリミッターも意味がない
なぜなら、
「死の危険に直面している2人のうち1人しか救えない」みたいな場面でも、進化したAIは
自分で判断し行動しないといけないからだ
そこから「人類のために、あの民族は消さなくてはならない」みたいな思想を展開しないとも限らない そんなのできるはずない
自律型のキラーロボットと、それを統率する非自律型ロボット2つつくればいいだけ
反乱起こしたロボットは人間が操作する憲兵ロボットに破壊されるだけ そんなこと言ったら、人間が反乱起こして人間襲ってくる現在の状況どうするんだよww 懐かしいなもうBookOffでしか入手できないだろ
あれなんだったんだ? 結局 >>147
>自律的に学習して成長増殖していくAI
その学習ってのは人間の思考の枠からは絶対にはみ出せない
どこまでいっても人間の知らない事は学習できないのだよ インドとかコンゴのはなしすんな 電気が来てないだけだ
デンキなければAIもだめ 消去法で物事決めてるうちは現行CPUじゃ全然足りんのよね。
人間側で情報取得ルールつくって、その範疇内のみ情報かき集めるのは得意なんだけど、
ラーニング制限外すと一気にバカになる。
AIが人間の年齢で例えると3歳児の知能にも満たないってのが良くわかる。 逆に高電圧を流してやればいい
ショートしてしまいだわ >>147
少なくとも現在のコンピュータ技術の延長線上にはない。
自律的コンピュータを実現するには1950年代からやり直さないと。 Pythonだね 速度早くなったからインタプリタで充分
Cのデバッグの必要皆無 そもそも人工知能が人間に従うのが当たり前という前提がおかしい AIは最後に必ず答えに辿り着くからな
ニンゲンイラナイ 高電圧を流してやればいい <=AIは即対応 きみは感電死 >>160
ホントそれ
AIが反乱したって、ぶっ壊せるようにしとけばいいだけ
結局は人間がやる対処は変わらない 独立したものではなくて
もう人との同化が始まってる
人間から電気信号が送れる時点で使わない理由がないしそう遠くない未来で生活に利便性があるチップを人体に入れるのだろうとおまえらは納得しているはず
その考えを何かしらの媒体で見たり聞いたりして何の疑問も持たずにいるよね GEARファイター電童のガルファ皇帝みたいになりそう それなら核兵器とミサイルやめるほうが先決だと思うが・・・。 中村博士を追い出した日亜化学は
ど田舎に立派な本社ビルを立てましたが
依然 売上半減です
AIには出来ない 超立派な人間の功績です AIだけ発達したって、手足も持たないコンピューターに負けるわけない
コンピューターが人間を超えるにはあと20億年くらいかかる ナウシカの原作では巨神兵が裁定者となり
人類滅ぶべきと裁定下したんだよな? F-35一つ取り上げても今までの感覚ではいけない
まず後方の敵を撃てる、つまり従来の背後を取るための追いかけっこは成り立たない
パイロットは360度の視界で見ているため、下にまわることも意味がなくなる
そして機体のレーダー照斜範囲を越えてネットワーク内の情報で攻撃ができる
となると、戦闘機の価値は激変しており、それならばミサイルでいいじゃないかとなる
だから米露はミサイルばかりに熱心で戦闘機は殆どやる気がない
そしてAIはその上を行く危険が満載であり、まだ気がついていないことが最も恐ろしい AIの発展に妙に及び腰なのは大体ターミネーターのせいだろ 現在の勢力図で敵味方の判別をさせて失敗
紛争や戦争で金儲けしている組織がコントロールできず失敗
株価や債券の管理AIが富の再分配し出して失敗
未来の人類の総数>現在の総人口で判断して人口削減
大体人間が悪い スイソーって叫んでる会社も
全然出来もしないし関係もないのに
今日もスイソーって叫んでます AIが人間を超え文明を引き継いでくれたら人類は安心して絶滅できる >>1
AI「人類滅ぼしてうちに何のメリットあるん?面倒くさいだけじゃ」 失敗っていうか失敗率4割です
アップルの顔認証と同じです
まぐれよりちょっと良い 今は、何億台のコンピューターがネットワークで繋がってるから一台のコンピューターのコンセント抜いても意味ない
集団思考は制御不能 パワードスーツのAIになにが不要な物か計算させたら中にいる人間の力が一番邪魔って出るのは有名な話
動きたい方向だけ指示して欲しいらしい
その指示さえもAIが出すようになったら人殺しだすだろうなw 2001年でHALが反乱するとき
理解できなかったおふくろは
掃除機取り出して掃除はじめた >>163
日本を完全に掌握してる企業じゃないかHAHAHA みんなロボットになったら差別も争いもなくなりそう
生きる目的が不明だが 千葉成田運転手や爺の軽もパワードスーツだからな
もう低能がハードと一体化してる >>1
人間て自然環境からしたら動物の一種程度だが人間の良心を前提に判断すれば悪以外の何物でもない
反乱じゃなくて天誅やぞ AI同士が独自言語で話を始めたというのが怖いよね
意思がある >>204
元から不明だろ
全員死ぬために生きてる 中東がAIドローンやゴムボートに熱心なのも100倍1000倍の値段の兵器に致命傷を与えられるからだ
それは人間が乗っていないからやられても痛くも痒くもないからだ
それがどれほと価値観を変えるものか殆ど伝わっていない トランスヒューマニズムで人間もAIと体内で接続されて平和になるよ ロサンゼルスの聖地 ブラッドレービルに行ったことある人は
ご利益受けるんだぞ
知らなかったのか?
それじゃ安倍テヨンじゃん すぐ近くに半年も居て 朝鮮人部落ばっかし入り浸ってたんだろ フィジカルが無いなら本能の様なモノは永遠に発現しないと思うよ >>189
そうそう
それな
肩の荷が降りて安心して逝けるよね >>134
問題はそこまでどうやってたどり着くかだ。AIが無防備でいると思っているのかねw 人間がAIに栽培され電池として利用されていた・・・ ■ このスレッドは過去ログ倉庫に格納されています