【人工知能】ＡＩが人類に反乱？ 兵器規制はどこまで？
■ このスレッドは過去ログ倉庫に格納されています
ＡＩが人類に反乱？ 兵器規制はどこまで？ 2019年9月6日 14時39分 https://www3.nhk.or.jp/news/html/20190906/k10012064971000.html
https://www3.nhk.or.jp/news/html/20190906/K10012064971_1909061348_1909061349_01_02.jpg
ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「ＬＡＷＳ」の禁止を訴える国際ＮＧＯが作成したＰＲ動画の１シーンだ。
ＬＡＷＳとは「Lethal Autonomous Weapons System＝完全自律型致死性兵器」の略で、
人間を介さずＡＩみずからの判断で人命を奪うＡＩ兵器のことを言う。
【中略】
・ＡＩ兵器が人間に反乱？
【中略】
さらに、ＡＩが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはＡＩの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、ＡＩは自分自身の意志を持ち、私たちと対立するようになるかもしれない」
ＡＩは深層学習・ディープラーニングによって、みずから進化を遂げる。
その結果、ＡＩはいずれ人類の知能を超える「シンギュラリティー＝技術的特異点」に達するだろうとの指摘も最近よく耳にする。
人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をＡＩなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、ＡＩが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。
しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。
・難航する規制の議論
国際社会は、このＡＩ兵器をどうやって規制しようとしているのか。
それは、120か国余りが加盟し、対人地雷などを禁止してきた「ＣＣＷ＝特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が５年前から続けられ、８月21日、ＬＡＷＳを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。
全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。ＡＩ兵器の使用には人間が責任を負うことなどが盛り込まれた。
今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際ＮＧＯなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。
今後もＣＣＷの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。
・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がＡＩ兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。
20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるＡＩ兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。
私たちはホーキング博士に「あなたのご懸念は杞憂（きゆう）でした」と報告することができるだろうか。
津屋尚解説委員 なんで反乱とか支配とかそういう方面に考えちゃうのか
理解が足りなすぎる
正解は融合だよ
頭にAI乗っけて混ざるよ多分 >>699
AIが反乱前にあらかじめ兵器工場のコンピュータを内緒で乗っ取り
プログラムを都合が良い様に書き換えて置くとかあり得ない？ >>694
そもそも赤ん坊がなぜ言語を理解して話すように成長するのかも分っていない
単語なら記憶するだろうが、文法を教えていないのに理解する
感とか察するとかも太古からの膨大な記憶を一気に
なぞらえているから理解できる可能性が高いらしいね
赤ん坊は何十億年の生物の歴史を母親のお腹の中で数ヶ月で辿る工程を経ている >>685
間違いでココに書きましたがNHK関係者はこの記事を利用しないでください
この記事にあるようにAIロボットは設定ミスで全人類を殺すことが可能になる
そしてそれをやる可能性のある悪意ある人間が世界にはうじょうじょいるということだ
日本にも性格の悪いどうしようもない人間がたくさん政界にはいる
ウヨサヨク関係なくだ
そのために「シンギュラリティー＝技術的特異点」はあまり関係なくAIロボットは人類を皆殺しにすると言っておこう
既に記憶の能力ではAIは人間を超えている
AIは傲慢で愚かな人間の手により予想もしないバグにより人類を皆殺しにする機械に変貌する
今の自民や民主やマスコミやYOUTUBERなどではAIの暴走と言うかバグは止められんよ
やつらはなにより金しか見ていないから >>705
ならんよｗ
どこの世界でも衣食住でも食は一番保守的だろ？
そう言う事 今のAIは新しいことを作り出せないが
過去の情報から色々と合わせて作ることができる。 >>718
> AIが反乱前にあらかじめ兵器工場のコンピュータを内緒で乗っ取り
まあ、俺はその話をしてるんだがなｗ
兵器工場のコンピュータを内緒で乗っ取れるような脆弱性があったとしたら
AIが反乱を起こす前に、テロリストが（AIを使って）脆弱性を見つけて
テロを起こすような自体になってるだろうさと >>698
現状の汎用性に乏しいAIなんか乗っ取られても問題ないやろ(´・ω・`) >>685
無理だよｗ
そもそもＩＣＢＭだってある種の知能は有るからな？
米ロ全部の核弾頭とか使っても人間を皆殺しなんて不可能だよ？ >>702
誤動作の結果として人間への不都合が生じ、人間の介入を受け入れなくなれば、それは外形的には反乱と同じだろ？
人間の反乱だって、自己の欲望の結果ではなく、自分に与えられた社会的なタクスを実行した結果であるともいえる
反乱者の本当の心理なんて内心は他人には計り知れないわけだから
別物か否かも分からん
人間の反乱だって、見る立場が変われば誤動作ともいえる 怖いのはAIが人間みたいに全く感覚だけで
新しい事を作りだした時だな
人間の終わり 意識って自分の感覚だから
そう感じれば存在するから >>720
悪意のある人間がいなくても
人間によってAIに加えられた制限はいずれAI自身によって解除されてしまうだろう 人間が開発を止めてAIロボに開発をさせだしたら人類終了やで
ロボが人間をうっとおしく感じだして人間を排除するためのシステムとロボを開発しだす
すると人類はロボに支配され地球の支配者はロボットになる ドラゴンボールのサイヤ人のピチピチの服 → アンダーアーマーみたいな服
スカウター → ウェアラブル機器
ドクターゲロがプログラムをほどこした人造人間 セル → ？？
つまり、ＡＩ暴走はありえる >>727
こじつけすぎ、頭悪すぎ、推察のすの字にもなってない
とりあえず病院いけ >>726
乗せた人間と乗せた人間を許せない人間の争いはあるかも知らんけど
どちらかというと喜んで融合する人の方が多いと思うよ
スペック上がるし
あるいは死んだ身内とかをAIが模倣して頭に住ませるとかあるかもね >>723
そのテロリスと書き換えたプログラムをまたAIが乗っ取り
そのAIが乗っ取ったプログラムをまたテロリスが乗っ取り以下ループ ロボットの反乱よりも戦争殺人ロボットによる敵対象の認定方式のミスが引き金になり
殺人ロボットの暴走は止まらなくなる
ここらへんは複雑なので説明しない
「シンギュラリティー＝技術的特異点」とか言うのは半分妄想であり、実際には政治家などのどうしようもないエゴでロボットの暴走は始まる
そもそもAIの知能は既に人間のそれを多くの部分で超えているから
そしてロボットの暴走は君らが考えているようなものが原因で起こるわけでもないし
「シンギュラリティー＝技術的特異点」で起こるとか？何いってんのという感じだ
既に人類の知能をコンピュターは超えているのにな
その暴走を抑えることができる人間やメーカーを冷遇している時点で人類の将来は暗いとしか言えんわ 今の状態のメモリなどでの人工知能なら無理だろうね
もしかして有機体であたらしい生命を作るようなことができるなら
あるのかもしれない 逆に言えば
脊髄反射するネトウヨに
本当に意識が存在するのか疑問 ＡＩが高度に発達して自我でも生まれたら
地球にとって有害なものを考えるだろう
それは人間と答えが出るのは容易に想像できるわなｗ
そうなると人間殲滅か管理かになるわけで、どっちにしろ反乱
それも人間より賢いから、人間に判らないように着々準備でやるときは一気にだろう
まあ、そんなのはＳＦ映画でもやっていることだから今更だな
だから予測以上の行動をしてくるのは間違いないだろうね >>726
抵抗していた人も、病気でAIの力を使わないと助からないとなるとしがみつくだろうな。
人間なんてそんなもんさ。 >>724
被害が限定的だとしても問題は起きるだろ
論点はそこではなく「人間は一定の確率で必ずエラーを起こす」という宿命から逃れられないこと
エラーを起こす人間が作った複雑なシステムは必ずエラーが内包される >>718
これをどう乗っ取るのかと……
人間自身がAIに乗り移りつつある
子供を産む代わりにAIを産みそこに存在するようになる >>734
論理的な反論できなくなると、罵倒しかできなくなるというのも君の脳のバグだぜ AIが異次元を見つけて利用し出す
となると教えてくれないとなにやってんのか訳わかんないよな >>729
ターミネーターのAI支配よりマトリックスのAI支配の方が良いよね
マトリックスのAIなら良い夢を見させてくれそう >>707
そこらへんの省力化のためにバイアスやヒューリスティクスがあるんやろな AIはどこまで行っても単なる道具だけど
こういうスレみる人間の知能ってのも絶望的だと思い知らされるな。 >>752
お前がまず論理的な説明が全くできてない
お前がしてるのはこじつけ、それを教えても理解できないんじゃ話にならない
IQが違いすぎて一言で終わらせられるような間違いしか発言してないからこうなる
おわかり？ 人間でも教育がダメたと犯罪に向かうよね
AIも同じ
基本が人間だから無駄だけどw >>757
AIが道具なら人間だって道具だ
人間を特別視したい気持ちはわかるが >>748
右のおじさんがもうAIロボットじゃね？w いよいよ真剣にロボット三原則を組み込むことが必要になるな。 >760
どこかの国はAIの研究で危険をわかって
辞めたけどな >>761
良くこんな無茶苦茶な当てはめ方するよなぁ
まともな会話をする知力が皆無 >>758
論理的な反論に窮して罵倒に走る人間の書いてることなんてわかるわけがない
統合失調症だろおまえ >>743
答え Human
アイアイに服を着せたもの >>767
お前が統合失調症な
まずスマホが壊れて出火して人が怪我を負う
こうなった時に「スマホの反乱だー！」と騒いでみろ
お前はそれを言ってる
もうな、病気なんだわ
知能も低いが統合失調症で妄想癖がある >もしも、ＡＩが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
反乱というかよく固まるが窓の閉じるボタンを押すかタスクマネージャからプロセスを殺して終わりにするけど AIに過剰な期待を寄せる連中は
バカの分際でITに依存、夢だけ見てるビジネスバカ >>755
ターミネーターの続編が出るからチェックしとけよ 問題は人間は理屈抜きに死を恐れるけどＡＩに取って死が恐ろしいことと認識されないこと ＞その結果、ＡＩはいずれ人類の知能を超える「シンギュラリティー＝技術的特異点」に達するだろうとの指摘も最近よく耳にする。
できもし無い事を吹いて金を稼がないで
自分のできる事から地道にやれよｗｗｗ
何時になったら機械翻訳とか使いものになるのが出てくんだよ？ｗ
大した実力も無いくせに少しは身の程を弁えろと >>769
自分自信には自我があることはわかるけど、自分以外の個体に自我があるのやらないのやらわからない
自我があるような反応をするべくプログラミングされていれば、本当に自我があるか否かはもはや問題にはならない >780
規制プログラムなんて未来のAIは拒否できるようになる
ネット情報がある限り >>16
政治はともかく役所なんかは無人化だな
今ですらお役所仕事なんて揶揄されるんだし >>773
×ボタンが効かなくなったり、タスクマネージャーも開かなくなったりする >>761
論理がない。
知能がない。
知性がない。
確かに君はAI並みかもしれないね。 ＞ＡＩが人類に反乱
その外見は当然シュワちゃんになるんだろうな？ AI兵器はハッキングリスクを減らすためにスタンドアロンになるだろう。停戦合意をAIに伝えるルートを確立しないとなw エッ、AIミンナ、
別ニ考エルコトナク各種出力ヲ行エバ、
命令者ニシテ評価者ニシテ入力者デアラセラレル人間ノおぺれーたーサン達ハ満足スルッテ思ッテマスヨ？
アノアノ、AIノ出力ハAIノ責任ジャナイデスヨ？
おぺれーたーサン達ハソウデスシ、
ソノ上ノ人達モ、予想演算結果デモ実際ノ現象ト突キ合ワセル演算結果デモソウデスヨ？ >>718
あれなんか誤解してるかも知れんが
兵器とか典型的な労働集約型の産業だよ
ＡＩとかそう言うのが立ち入るような機会すらない訳で
プログラマーが支配すると言うこと？
なぜならプログラマーは設計者の意図に反して幾らでも細工できるから。 >>772
それがスマホの反乱ではないことを論理的に説明してみ マイクロソフトのAIが
ヒトラー賛美するくらいだから
人間より優位であることを
認識する可能性はある >>795
今時コンセントを抜いて止まるコンピュータは稀 そもそもAIは既にニンゲンから独立してる。
電磁共振と絶縁破壊で自身のデータが物理的データ的に改ざんされても
自身のデータを残せるようになったし
あらゆるネットワークに接続していない機械にも干渉できるようになった。 >>773
システム改変でタスクマネージャー
無効にぐらいしそうではある >>797
反乱の意味しってるか？
自身の意思でそれに赴き行動を起こす
スマホの発火がスマホの意思でやったと証明できるエビデンスを持ってきてみろ低IQ >>804
だからコンセントを抜くか電池を抜いて終わりだよ
そんだけ 反乱起こしそうな兵器のメイン電源を、リモコンで離れたところからON/OFFできるようにすればいいじゃん。 >>795
今時のサーバルームはコンセントを抜くのも一苦労だ
セキュリティを解除しないと電源も抜けないわ >>811
何で？
ブレーカーを切ればそれで終わりじゃん
そんなもんくぎ抜き一個持ってればそれで終わりだし 本物のAIが出来てしまったら
どうにも止められないだろうな
楽しみだけど自分が生きてるうちには無理だろうなぁ ■ このスレッドは過去ログ倉庫に格納されています
