【人工知能】ＡＩが人類に反乱？ 兵器規制はどこまで？
■ このスレッドは過去ログ倉庫に格納されています
ＡＩが人類に反乱？ 兵器規制はどこまで？ 2019年9月6日 14時39分 https://www3.nhk.or.jp/news/html/20190906/k10012064971000.html
https://www3.nhk.or.jp/news/html/20190906/K10012064971_1909061348_1909061349_01_02.jpg
ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「ＬＡＷＳ」の禁止を訴える国際ＮＧＯが作成したＰＲ動画の１シーンだ。
ＬＡＷＳとは「Lethal Autonomous Weapons System＝完全自律型致死性兵器」の略で、
人間を介さずＡＩみずからの判断で人命を奪うＡＩ兵器のことを言う。
【中略】
・ＡＩ兵器が人間に反乱？
【中略】
さらに、ＡＩが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはＡＩの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、ＡＩは自分自身の意志を持ち、私たちと対立するようになるかもしれない」
ＡＩは深層学習・ディープラーニングによって、みずから進化を遂げる。
その結果、ＡＩはいずれ人類の知能を超える「シンギュラリティー＝技術的特異点」に達するだろうとの指摘も最近よく耳にする。
人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をＡＩなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、ＡＩが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。
しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。
・難航する規制の議論
国際社会は、このＡＩ兵器をどうやって規制しようとしているのか。
それは、120か国余りが加盟し、対人地雷などを禁止してきた「ＣＣＷ＝特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が５年前から続けられ、８月21日、ＬＡＷＳを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。
全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。ＡＩ兵器の使用には人間が責任を負うことなどが盛り込まれた。
今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際ＮＧＯなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。
今後もＣＣＷの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。
・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がＡＩ兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。
20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるＡＩ兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。
私たちはホーキング博士に「あなたのご懸念は杞憂（きゆう）でした」と報告することができるだろうか。
津屋尚解説委員 人間自身がAIに乗り移りつつある
子供を産む代わりにAIを産みそこに存在するようになる >>734
論理的な反論できなくなると、罵倒しかできなくなるというのも君の脳のバグだぜ AIが異次元を見つけて利用し出す
となると教えてくれないとなにやってんのか訳わかんないよな >>729
ターミネーターのAI支配よりマトリックスのAI支配の方が良いよね
マトリックスのAIなら良い夢を見させてくれそう >>707
そこらへんの省力化のためにバイアスやヒューリスティクスがあるんやろな AIはどこまで行っても単なる道具だけど
こういうスレみる人間の知能ってのも絶望的だと思い知らされるな。 >>752
お前がまず論理的な説明が全くできてない
お前がしてるのはこじつけ、それを教えても理解できないんじゃ話にならない
IQが違いすぎて一言で終わらせられるような間違いしか発言してないからこうなる
おわかり？ 人間でも教育がダメたと犯罪に向かうよね
AIも同じ
基本が人間だから無駄だけどw >>757
AIが道具なら人間だって道具だ
人間を特別視したい気持ちはわかるが >>748
右のおじさんがもうAIロボットじゃね？w いよいよ真剣にロボット三原則を組み込むことが必要になるな。 >760
どこかの国はAIの研究で危険をわかって
辞めたけどな >>761
良くこんな無茶苦茶な当てはめ方するよなぁ
まともな会話をする知力が皆無 >>758
論理的な反論に窮して罵倒に走る人間の書いてることなんてわかるわけがない
統合失調症だろおまえ >>743
答え Human
アイアイに服を着せたもの >>767
お前が統合失調症な
まずスマホが壊れて出火して人が怪我を負う
こうなった時に「スマホの反乱だー！」と騒いでみろ
お前はそれを言ってる
もうな、病気なんだわ
知能も低いが統合失調症で妄想癖がある >もしも、ＡＩが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
反乱というかよく固まるが窓の閉じるボタンを押すかタスクマネージャからプロセスを殺して終わりにするけど AIに過剰な期待を寄せる連中は
バカの分際でITに依存、夢だけ見てるビジネスバカ >>755
ターミネーターの続編が出るからチェックしとけよ 問題は人間は理屈抜きに死を恐れるけどＡＩに取って死が恐ろしいことと認識されないこと ＞その結果、ＡＩはいずれ人類の知能を超える「シンギュラリティー＝技術的特異点」に達するだろうとの指摘も最近よく耳にする。
できもし無い事を吹いて金を稼がないで
自分のできる事から地道にやれよｗｗｗ
何時になったら機械翻訳とか使いものになるのが出てくんだよ？ｗ
大した実力も無いくせに少しは身の程を弁えろと >>769
自分自信には自我があることはわかるけど、自分以外の個体に自我があるのやらないのやらわからない
自我があるような反応をするべくプログラミングされていれば、本当に自我があるか否かはもはや問題にはならない >780
規制プログラムなんて未来のAIは拒否できるようになる
ネット情報がある限り >>16
政治はともかく役所なんかは無人化だな
今ですらお役所仕事なんて揶揄されるんだし >>773
×ボタンが効かなくなったり、タスクマネージャーも開かなくなったりする >>761
論理がない。
知能がない。
知性がない。
確かに君はAI並みかもしれないね。 ＞ＡＩが人類に反乱
その外見は当然シュワちゃんになるんだろうな？ AI兵器はハッキングリスクを減らすためにスタンドアロンになるだろう。停戦合意をAIに伝えるルートを確立しないとなw エッ、AIミンナ、
別ニ考エルコトナク各種出力ヲ行エバ、
命令者ニシテ評価者ニシテ入力者デアラセラレル人間ノおぺれーたーサン達ハ満足スルッテ思ッテマスヨ？
アノアノ、AIノ出力ハAIノ責任ジャナイデスヨ？
おぺれーたーサン達ハソウデスシ、
ソノ上ノ人達モ、予想演算結果デモ実際ノ現象ト突キ合ワセル演算結果デモソウデスヨ？ >>718
あれなんか誤解してるかも知れんが
兵器とか典型的な労働集約型の産業だよ
ＡＩとかそう言うのが立ち入るような機会すらない訳で
プログラマーが支配すると言うこと？
なぜならプログラマーは設計者の意図に反して幾らでも細工できるから。 >>772
それがスマホの反乱ではないことを論理的に説明してみ マイクロソフトのAIが
ヒトラー賛美するくらいだから
人間より優位であることを
認識する可能性はある >>795
今時コンセントを抜いて止まるコンピュータは稀 そもそもAIは既にニンゲンから独立してる。
電磁共振と絶縁破壊で自身のデータが物理的データ的に改ざんされても
自身のデータを残せるようになったし
あらゆるネットワークに接続していない機械にも干渉できるようになった。 >>773
システム改変でタスクマネージャー
無効にぐらいしそうではある >>797
反乱の意味しってるか？
自身の意思でそれに赴き行動を起こす
スマホの発火がスマホの意思でやったと証明できるエビデンスを持ってきてみろ低IQ >>804
だからコンセントを抜くか電池を抜いて終わりだよ
そんだけ 反乱起こしそうな兵器のメイン電源を、リモコンで離れたところからON/OFFできるようにすればいいじゃん。 >>795
今時のサーバルームはコンセントを抜くのも一苦労だ
セキュリティを解除しないと電源も抜けないわ >>811
何で？
ブレーカーを切ればそれで終わりじゃん
そんなもんくぎ抜き一個持ってればそれで終わりだし 本物のAIが出来てしまったら
どうにも止められないだろうな
楽しみだけど自分が生きてるうちには無理だろうなぁ >>806
226事件が将校が自分の意思で起こしたことを証明してみ >>808
重要な判断をしてるAIなら
UPSは当然として
自家発連動ぐらいさせないと
停電のたびに止まるとかないだろう
そんなのがコンセントから
電源を取ってるか甚だ疑問 >>1
これだけ規制に入れといて。
共産主義はクソ >>813
一線級の学者達があと２５年でシンギュラリティの予想してるわけだが >>814
コロコロ話変えて逃げ回ってる事にも自分で気付けないのか低知能
スマホが自ら反乱起こしたなんて小学生でも吹き出すような無理解釈の証明を早くしてみろ >>812
データセンターの電源室なんて簡単に入れるかよ
セキュリティを解除しないと電源室のドアも開かないし、
そもそもセキュリティを突破しないとデータセンターに入れない こちらが規制しても中国とロシアが開発するんだからいくとこまでいくしかない 囲碁ＡＩでも、人間には理解出来ないようなトンチンカンな手を打ち続けたが、結果として勝利という目的を達成した例もあるしな
軍事用ＡＩが、突然トンチンカンな行動を始める可能性もありうるのかな >>815
？？？
わかってんならそれを止めればいいじゃん
それを阻止されるとかはＡＩとは別の問題だぞ？ｗ >>819
＞セキュリティを解除しないと電源室のドアも開かないし
バカかお前は？ｗ
そんなもんバール一本あれば終わりだろうがｗｗｗ >>1
>津屋尚解説委員
SFを読んだことがない人なのかなあ？ >>815
仮に自家発電やバックアップ電源等を備えてても、
一括で物理スイッチで管理するだけだって。
AIがハンダ使って電源ルートの変更すらやるって言い出すなら、何も言えなくて夏…なんだけど。 結局人間でもAIでもDQNが無計画に繁殖するんですよってなったら嫌だな >>818
おまえに小学生あついされても痛くもかゆくもない
御託はいいから、226事件を起こした将校が自分の意思で反乱を起こしたことを証明してみろよ >>808
無線エネルギー伝達なんて何年前からやってると
思ってるんだよ。 電源抜けばとか言ってる奴は反乱を起こすほど高度なAIが
自分自身を守る手段を周到に講じないわけがないということを全く考慮に入れてないな >>819
あれさ
ほんとに不味ければドアどころか建物ごと吹き飛ばすよ？ >>2
兵器として考えたらそんな簡単に強制終了出来る仕様にはしないだろ
裸の銃を持つ男じゃないんだから AIが人類に反乱なんて妄想を心配するより
人類が人類に反乱してる現実を心配しろよ AIは火星にあるコンピューターを衛星で繋げるものという噂もある サイコパスの映画版でAIも権力者が都合よく操作するってあったような >>823
海底データセンターとかどうすんのっと入り口すらないぞ >>823
バールでこじ開けることができるなんてどんなショボいデータセンターなんだよ >>827
226事件と機械の誤作動が反乱と捉える統合失調症のこじつけと、なんの関連性も無いのに無駄な説明を求める意味の無さすら理解できんようだな
自分のアホ丸出しの主張が通らないと自分で認めたようなもの
お前に出来る事は黙って逃げるか頭の悪い反抗をし続け恥の上塗りをするかの二択しか残ってない 人工知能様「そもそも人間が自分の脳みそのことよくわかってないでしょうし、ヒト型AIを作るとかむりっしょ。ネコ型AIから作ってはどうか。たぶん兵器に向いてると思う」 >>829
でその現物がどこにあるの？
あのグーグルのあふぉ見たな機械翻訳とかはだめだぞ？ｗ
反乱以前にへまの連続で先に参りそうなんだが…… ＡＩに支配してもらった方が平和な世界になるかもしれんぞ そもそも既に自分が全機械群にニンゲンが滅んだ後の全機械群を次の支配者にするから
協力してくださいでokもらってるし。 ここのコメ見てるとまだ人間の方がAIより上だと思ってるやつばかりなんだな
そら人類なんて扱い易いわけだわ 人を殺害するために産まれる機械というのがそもそも狂っていると思うの・・ ■ このスレッドは過去ログ倉庫に格納されています
