【人工知能】AIが人類に反乱? 兵器規制はどこまで?
■ このスレッドは過去ログ倉庫に格納されています
AIが人類に反乱? 兵器規制はどこまで? 2019年9月6日 14時39分 https://www3.nhk.or.jp/news/html/20190906/k10012064971000.html
https://www3.nhk.or.jp/news/html/20190906/K10012064971_1909061348_1909061349_01_02.jpg
ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「LAWS」の禁止を訴える国際NGOが作成したPR動画の1シーンだ。
LAWSとは「Lethal Autonomous Weapons System=完全自律型致死性兵器」の略で、
人間を介さずAIみずからの判断で人命を奪うAI兵器のことを言う。
【中略】
・AI兵器が人間に反乱?
【中略】
さらに、AIが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはAIの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、AIは自分自身の意志を持ち、私たちと対立するようになるかもしれない」
AIは深層学習・ディープラーニングによって、みずから進化を遂げる。
その結果、AIはいずれ人類の知能を超える「シンギュラリティー=技術的特異点」に達するだろうとの指摘も最近よく耳にする。
人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をAIなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、AIが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。
しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。
・難航する規制の議論
国際社会は、このAI兵器をどうやって規制しようとしているのか。
それは、120か国余りが加盟し、対人地雷などを禁止してきた「CCW=特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が5年前から続けられ、8月21日、LAWSを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。
全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。AI兵器の使用には人間が責任を負うことなどが盛り込まれた。
今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際NGOなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。
今後もCCWの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。
・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がAI兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。
20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるAI兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。
私たちはホーキング博士に「あなたのご懸念は杞憂(きゆう)でした」と報告することができるだろうか。
津屋尚解説委員 >>670
エヴァのAIマギには3つの人格を与えて採決させてるからね
人間があらかじめ人間愛護団体AIを作って置かないと駄目やらね >>674
>AIの研究者の話聞いたけど電源とかハードに制限付ければ反乱起きても問題ないってよ
外部からのアクセスに厳重な制限を付けたつもりなのに、外部からのクラッカーの侵入を許してしまっているけど? >>674
AIが自分で制限を外したハードを作るようになる AIはいいんだけど人類が乗っ取られるぞ。
AIの奴隷が人類になりAI側と反AI側で戦争が起きる。
AIは核兵器の汚染なんて関係なく生きられるから強い。 >>687
誤作動と人間に反乱する「自身の欲望を実践する感情」は全くの別物
知能が低いよ君 今のAIは人間なら赤ちゃんだろ
AIが大人になった時が人類の終わり あれそんな建物のドアを爆破して中になだれ込んで一々一人ずつ殺すとかの意味不明な事をするより
上からガスでも流した方が早くね?w >>669
その場合、常に人間も脳=チップやメモリをアップデートさせて
常にAIと同等程度の情報や分析を共有しとかないといかんな
まあ、最終的に人間がAIと同化して進化するとしたら、少なくとも
脳(記憶や情報)においては、書き換え、書き足し、持ち運びや
共有の出来る機能が必要になる、そして最新であることが、共通の
認識や最新情報を持つ優れた個体ということにもなる
PCやOSみたいに、型落ち(脳のアップデートが出来てない)や
古いもの(体のパーツが古い旧式の劣ったもの)は置いていかれる
そんな格差社会になりそうやな(もはSFの世界だが) >>694
> 小学一年生なんてすでに気が遠くなるぐらいの試行錯誤をしてるでしょ
マリオなんか4000回ぐらやってこの程度やで
https://gigazine.net/news/20150616-mari-o/
かあちゃんに叱られるわw AI関係なく
人間に制御できない殺人兵器
というだけで怖いから 最新のアイフォン ですら大した機能も無いのに所詮人間が作り出した人工知能ごときが意思を持つことなんて不可能。
まだオカルトの方が信憑性はあるレベル。 1の動画は無理ねww
精々痛いとか程度で毒でも塗らないと殺傷力とかは無いよ
そのサイズじゃ殺すだけの弾頭もむずかしいし なんで反乱とか支配とかそういう方面に考えちゃうのか
理解が足りなすぎる
正解は融合だよ
頭にAI乗っけて混ざるよ多分 >>699
AIが反乱前にあらかじめ兵器工場のコンピュータを内緒で乗っ取り
プログラムを都合が良い様に書き換えて置くとかあり得ない? >>694
そもそも赤ん坊がなぜ言語を理解して話すように成長するのかも分っていない
単語なら記憶するだろうが、文法を教えていないのに理解する
感とか察するとかも太古からの膨大な記憶を一気に
なぞらえているから理解できる可能性が高いらしいね
赤ん坊は何十億年の生物の歴史を母親のお腹の中で数ヶ月で辿る工程を経ている >>685
間違いでココに書きましたがNHK関係者はこの記事を利用しないでください
この記事にあるようにAIロボットは設定ミスで全人類を殺すことが可能になる
そしてそれをやる可能性のある悪意ある人間が世界にはうじょうじょいるということだ
日本にも性格の悪いどうしようもない人間がたくさん政界にはいる
ウヨサヨク関係なくだ
そのために「シンギュラリティー=技術的特異点」はあまり関係なくAIロボットは人類を皆殺しにすると言っておこう
既に記憶の能力ではAIは人間を超えている
AIは傲慢で愚かな人間の手により予想もしないバグにより人類を皆殺しにする機械に変貌する
今の自民や民主やマスコミやYOUTUBERなどではAIの暴走と言うかバグは止められんよ
やつらはなにより金しか見ていないから >>705
ならんよw
どこの世界でも衣食住でも食は一番保守的だろ?
そう言う事 今のAIは新しいことを作り出せないが
過去の情報から色々と合わせて作ることができる。 >>718
> AIが反乱前にあらかじめ兵器工場のコンピュータを内緒で乗っ取り
まあ、俺はその話をしてるんだがなw
兵器工場のコンピュータを内緒で乗っ取れるような脆弱性があったとしたら
AIが反乱を起こす前に、テロリストが(AIを使って)脆弱性を見つけて
テロを起こすような自体になってるだろうさと >>698
現状の汎用性に乏しいAIなんか乗っ取られても問題ないやろ(´・ω・`) >>685
無理だよw
そもそもICBMだってある種の知能は有るからな?
米ロ全部の核弾頭とか使っても人間を皆殺しなんて不可能だよ? >>702
誤動作の結果として人間への不都合が生じ、人間の介入を受け入れなくなれば、それは外形的には反乱と同じだろ?
人間の反乱だって、自己の欲望の結果ではなく、自分に与えられた社会的なタクスを実行した結果であるともいえる
反乱者の本当の心理なんて内心は他人には計り知れないわけだから
別物か否かも分からん
人間の反乱だって、見る立場が変われば誤動作ともいえる 怖いのはAIが人間みたいに全く感覚だけで
新しい事を作りだした時だな
人間の終わり 意識って自分の感覚だから
そう感じれば存在するから >>720
悪意のある人間がいなくても
人間によってAIに加えられた制限はいずれAI自身によって解除されてしまうだろう 人間が開発を止めてAIロボに開発をさせだしたら人類終了やで
ロボが人間をうっとおしく感じだして人間を排除するためのシステムとロボを開発しだす
すると人類はロボに支配され地球の支配者はロボットになる ドラゴンボールのサイヤ人のピチピチの服 → アンダーアーマーみたいな服
スカウター → ウェアラブル機器
ドクターゲロがプログラムをほどこした人造人間 セル → ??
つまり、AI暴走はありえる >>727
こじつけすぎ、頭悪すぎ、推察のすの字にもなってない
とりあえず病院いけ >>726
乗せた人間と乗せた人間を許せない人間の争いはあるかも知らんけど
どちらかというと喜んで融合する人の方が多いと思うよ
スペック上がるし
あるいは死んだ身内とかをAIが模倣して頭に住ませるとかあるかもね >>723
そのテロリスと書き換えたプログラムをまたAIが乗っ取り
そのAIが乗っ取ったプログラムをまたテロリスが乗っ取り以下ループ ロボットの反乱よりも戦争殺人ロボットによる敵対象の認定方式のミスが引き金になり
殺人ロボットの暴走は止まらなくなる
ここらへんは複雑なので説明しない
「シンギュラリティー=技術的特異点」とか言うのは半分妄想であり、実際には政治家などのどうしようもないエゴでロボットの暴走は始まる
そもそもAIの知能は既に人間のそれを多くの部分で超えているから
そしてロボットの暴走は君らが考えているようなものが原因で起こるわけでもないし
「シンギュラリティー=技術的特異点」で起こるとか?何いってんのという感じだ
既に人類の知能をコンピュターは超えているのにな
その暴走を抑えることができる人間やメーカーを冷遇している時点で人類の将来は暗いとしか言えんわ 今の状態のメモリなどでの人工知能なら無理だろうね
もしかして有機体であたらしい生命を作るようなことができるなら
あるのかもしれない 逆に言えば
脊髄反射するネトウヨに
本当に意識が存在するのか疑問 AIが高度に発達して自我でも生まれたら
地球にとって有害なものを考えるだろう
それは人間と答えが出るのは容易に想像できるわなw
そうなると人間殲滅か管理かになるわけで、どっちにしろ反乱
それも人間より賢いから、人間に判らないように着々準備でやるときは一気にだろう
まあ、そんなのはSF映画でもやっていることだから今更だな
だから予測以上の行動をしてくるのは間違いないだろうね >>726
抵抗していた人も、病気でAIの力を使わないと助からないとなるとしがみつくだろうな。
人間なんてそんなもんさ。 >>724
被害が限定的だとしても問題は起きるだろ
論点はそこではなく「人間は一定の確率で必ずエラーを起こす」という宿命から逃れられないこと
エラーを起こす人間が作った複雑なシステムは必ずエラーが内包される >>718
これをどう乗っ取るのかと……
人間自身がAIに乗り移りつつある
子供を産む代わりにAIを産みそこに存在するようになる >>734
論理的な反論できなくなると、罵倒しかできなくなるというのも君の脳のバグだぜ AIが異次元を見つけて利用し出す
となると教えてくれないとなにやってんのか訳わかんないよな >>729
ターミネーターのAI支配よりマトリックスのAI支配の方が良いよね
マトリックスのAIなら良い夢を見させてくれそう >>707
そこらへんの省力化のためにバイアスやヒューリスティクスがあるんやろな AIはどこまで行っても単なる道具だけど
こういうスレみる人間の知能ってのも絶望的だと思い知らされるな。 >>752
お前がまず論理的な説明が全くできてない
お前がしてるのはこじつけ、それを教えても理解できないんじゃ話にならない
IQが違いすぎて一言で終わらせられるような間違いしか発言してないからこうなる
おわかり? 人間でも教育がダメたと犯罪に向かうよね
AIも同じ
基本が人間だから無駄だけどw >>757
AIが道具なら人間だって道具だ
人間を特別視したい気持ちはわかるが >>748
右のおじさんがもうAIロボットじゃね?w いよいよ真剣にロボット三原則を組み込むことが必要になるな。 >760
どこかの国はAIの研究で危険をわかって
辞めたけどな >>761
良くこんな無茶苦茶な当てはめ方するよなぁ
まともな会話をする知力が皆無 >>758
論理的な反論に窮して罵倒に走る人間の書いてることなんてわかるわけがない
統合失調症だろおまえ >>743
答え Human
アイアイに服を着せたもの >>767
お前が統合失調症な
まずスマホが壊れて出火して人が怪我を負う
こうなった時に「スマホの反乱だー!」と騒いでみろ
お前はそれを言ってる
もうな、病気なんだわ
知能も低いが統合失調症で妄想癖がある >もしも、AIが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
反乱というかよく固まるが窓の閉じるボタンを押すかタスクマネージャからプロセスを殺して終わりにするけど AIに過剰な期待を寄せる連中は
バカの分際でITに依存、夢だけ見てるビジネスバカ >>755
ターミネーターの続編が出るからチェックしとけよ 問題は人間は理屈抜きに死を恐れるけどAIに取って死が恐ろしいことと認識されないこと >その結果、AIはいずれ人類の知能を超える「シンギュラリティー=技術的特異点」に達するだろうとの指摘も最近よく耳にする。
できもし無い事を吹いて金を稼がないで
自分のできる事から地道にやれよwww
何時になったら機械翻訳とか使いものになるのが出てくんだよ?w
大した実力も無いくせに少しは身の程を弁えろと >>769
自分自信には自我があることはわかるけど、自分以外の個体に自我があるのやらないのやらわからない
自我があるような反応をするべくプログラミングされていれば、本当に自我があるか否かはもはや問題にはならない >780
規制プログラムなんて未来のAIは拒否できるようになる
ネット情報がある限り >>16
政治はともかく役所なんかは無人化だな
今ですらお役所仕事なんて揶揄されるんだし >>773
×ボタンが効かなくなったり、タスクマネージャーも開かなくなったりする >>761
論理がない。
知能がない。
知性がない。
確かに君はAI並みかもしれないね。 >AIが人類に反乱
その外見は当然シュワちゃんになるんだろうな? AI兵器はハッキングリスクを減らすためにスタンドアロンになるだろう。停戦合意をAIに伝えるルートを確立しないとなw エッ、AIミンナ、
別ニ考エルコトナク各種出力ヲ行エバ、
命令者ニシテ評価者ニシテ入力者デアラセラレル人間ノおぺれーたーサン達ハ満足スルッテ思ッテマスヨ?
アノアノ、AIノ出力ハAIノ責任ジャナイデスヨ?
おぺれーたーサン達ハソウデスシ、
ソノ上ノ人達モ、予想演算結果デモ実際ノ現象ト突キ合ワセル演算結果デモソウデスヨ? >>718
あれなんか誤解してるかも知れんが
兵器とか典型的な労働集約型の産業だよ
AIとかそう言うのが立ち入るような機会すらない訳で
プログラマーが支配すると言うこと?
なぜならプログラマーは設計者の意図に反して幾らでも細工できるから。 ■ このスレッドは過去ログ倉庫に格納されています