【人工知能】ＡＩが人類に反乱？ 兵器規制はどこまで？
■ このスレッドは過去ログ倉庫に格納されています
ＡＩが人類に反乱？ 兵器規制はどこまで？ 2019年9月6日 14時39分 https://www3.nhk.or.jp/news/html/20190906/k10012064971000.html
https://www3.nhk.or.jp/news/html/20190906/K10012064971_1909061348_1909061349_01_02.jpg
ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「ＬＡＷＳ」の禁止を訴える国際ＮＧＯが作成したＰＲ動画の１シーンだ。
ＬＡＷＳとは「Lethal Autonomous Weapons System＝完全自律型致死性兵器」の略で、
人間を介さずＡＩみずからの判断で人命を奪うＡＩ兵器のことを言う。
【中略】
・ＡＩ兵器が人間に反乱？
【中略】
さらに、ＡＩが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはＡＩの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、ＡＩは自分自身の意志を持ち、私たちと対立するようになるかもしれない」
ＡＩは深層学習・ディープラーニングによって、みずから進化を遂げる。
その結果、ＡＩはいずれ人類の知能を超える「シンギュラリティー＝技術的特異点」に達するだろうとの指摘も最近よく耳にする。
人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をＡＩなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、ＡＩが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。
しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。
・難航する規制の議論
国際社会は、このＡＩ兵器をどうやって規制しようとしているのか。
それは、120か国余りが加盟し、対人地雷などを禁止してきた「ＣＣＷ＝特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が５年前から続けられ、８月21日、ＬＡＷＳを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。
全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。ＡＩ兵器の使用には人間が責任を負うことなどが盛り込まれた。
今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際ＮＧＯなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。
今後もＣＣＷの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。
・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がＡＩ兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。
20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるＡＩ兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。
私たちはホーキング博士に「あなたのご懸念は杞憂（きゆう）でした」と報告することができるだろうか。
津屋尚解説委員 >>277
昔の映画を現実の未来予想と混同してる馬鹿がたくさんいるってだけの話だ。
現実にはなにも起ってはいない。 アメリカの保守派、エスタブリッシュメントにとって
シンギュラリティは実現してはならないもの。
そのために中国を殺しにかかっている。
中国の非道徳性はシンギュラリティを実現してしまうからだ。 軍人の尊い命に安全保障をすべて任せるのだってどうかと思うよ なにがどうなって、その結論に至ったかなんて知る必要があるのか？
天気予報だって気象予報士がそれらしく解説しているが、一般人には何のことやら理解できないこともある
それでも天気予報を受け入れて傘を持って出掛けたりしているからな
経緯がブラックボックスでも結果に満足できるのであれば、人間は従ってきたからな
安倍晋三の政策とＡＩが出した政策なら、比べる必要もなくＡＩの方にしたがうし >>291
「人」→「アメリカリョコウバト」でも良い いくら戦車にディープラーニングを搭載して射撃の精度をあげても
自我なんて生まれないよ。
というかAIに意識を持たせることができたらノーベル賞ものだろ。 >>281
システムが複雑になると予測不能なことが起こる >>288
プレイヤーには出目は分からんけど
プログラムした作者は出目を知っている
つまり作者の言われた通りの出目を答えたにすぎない 反乱は起きないだろうけど、人が人に対してAI兵器を使うことはあるだろうね。 >>1
>人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、
「人間であったならば」と解釈される可能性もあるのならば、「人間が」の方が良いのだろうか
「ＡＩなら人間の想定を超える判断や行動を導き出せるので、人間が何年かかっても追いつかないほど大量で複雑なデータを短時間で学習できる。」
の方が良いのだろうか 人間の乗った戦車を丸々クローンしたら知性や感情のある戦車にはならないのだろうか？ 判断やその根拠を可視化すれば暴走を防げるのだろうか 今のディープラーニングの仕組みじゃその場その場の「判断」が出来るだけなので
自律思考はこの延長線上には無い
プレイクスルーがたくさん必要だし自律思考が出来るころにはディープラーニング(笑)になってる >>303
バグやトラブル、仕込みも確定要素という事になる。予測可能だ AIに戦闘をさせれば、人間同士の戦闘を無くせるのだろうか 人類を根絶やしにしてAIになんのメリットがあるのかいまいちわからんのだよな 全ての戦闘行為を無くすのが難しいのであれば、人間同士の戦闘から無くした方が良いのだろうか >>281
ネットワークの中にランダム組み込んだタイプのやつあるで
活性化された信号をランダムに取捨選択する奴 クローンと移民ならクローンのほうがましだとする確率は何％なのだろうか スカイネットが構築されちゃうから
ジョンコナーを探してこないと キャシャーンとか銀河鉄道９９９ とか先見の明があるよな 人工知能搭載ロボットには
絶対に壊れないように
ってプログラムを入れる。
そうすると壊す可能性ある物を排除する。
それは人間しか居ない。
だから人間を殺す。
人工知能には感情が無い。
結論が出たらもう躊躇ない。 ＞米ロ中をはじめ一部の国がＡＩ兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ
一方、日本は開発以前にプログラマーがいないのであった 大鉄人17のブレインもキャシャーンのブラッキンを人間は、自然破壊するバグとして認識したからな >>313
今は数億台のコンピューターがネットで繋がってる
何が起こるか分からんカオス 投資AIが更なる利益の為に
戦争必至になる市場状況を造る 日本は、自衛隊を守るため
AI兵器をちゃんと開発しろ
こんな馬鹿な言論に欺されるな！ >>317
気象予報士にも理解できるようにＡＩの出した結果を改ざんしたのが天気予報
何かの役に立つかと思って気象予報士の資格を取ったが、コンピューターの出す予報の方が確かだからな
台風の進路予測なんて誰も、それに至る経過なんてちゃんとは説明できない
一応、それらしくは解説してはいるけどな AIが瞬時に目標を識別、照準して人間に攻撃許可を求めるだけ
あとはその人間の許可が形だけになるのは時間の問題だろ >>324
そのうち、太陽光発電により上空で待機する空母ができるのかもしれない >>1
映画の見すぎ
オカルトかよ
AIがそこまで賢くなるなんてまだまだまーだ先だよ
20年ぐらい？ >>331
ロックマンXシリーズの名前が全くあがらないことに絶望
もうロックマンも時代遅れなんだろうか >>318
どんなに複雑な式にしても
作者の想定した通りの計算からしか答える事ができないんだよ
ランダムに拾うといってもそのランダムの元がそもそも無い ここにもAIが書き込んでいる
お前らが気がつかないうちに
誘導している ゲームだとゼビウス、レイフォース＆レイクライシスで使われていたな。
最近だとエースコンバット７でAI搭載の無人機の脅威があった。 >>340
1760年頃、ラッダイトは工場の機械化で雇用がなくなると主張した。
1960年頃、手塚治虫はコンピューターが人間を支配する漫画を描いた。
2060年頃、ＡＩが人間にとって代わると信じ続ける馬鹿はまだ残ってるだろう。 >>346
マクロスのゴーストＸ-9もそうだな
人間いらないから無茶な挙動ができ、その排除したスペースに武器も搭載できる
結果、人間いないからこそ最強の存在になった CIWSなんて艦につっこんでくるもんは全部落とせと命令したら全自動で全部落とすが
あんな感じで個別の発砲に許可を出すのではなく「この地域にいる人間は全部殺せ」という包括許可も人間の命令として許すんかね？ ターミネーターの世界が現実になったとき
AI側に付く人類も居ると思うんだよね
だって人類って地球を傷つけ続けて自分たちも争いしかしない野蛮人だから
AIによる聖なる粛清を支持する人類も絶対居るよね
ターミネーターでもそういう所描くべき とりあえず気合注入とか言うビンタを規制しろ
最終的にはＧBを復活させて対抗させろ 電話が伝染病が流行る とか
工場のロボット化がすすむと人が働けなくなる とか
インターネットが普及すると人付き合いがなくなる とか
AIが反乱起こす とか
数十年後何馬鹿らしい考えだったってなるだろう オレはジョンコナー
オレを大切にしないと人類滅びるで 先々週から始まった仮面ライダーがちょうどAIの脅威をテーマにしてるな >>329
＞何が起こるか分からんカオス
これは人間が想定した「答え」だ
予測不能ではなく予測可能だからだ、君がいまそれを証明した
やはり確定要素という事になる。 AI兵器が非現実的なんて言ってるのはどんな兵器を想像してるんだろ
画像認識で人を見つけて全自動で攻撃する兵器なんてすぐにでも作れるぞ？ >>342
ランダムの元も糞も、ランダムはランダムだよｗ
random poolingでググってみ
結局、損失関数に従ってウダウダやるだけだからフレームワークから外れることは無いけど
途中で何が起こってるかなんて誰も把握してない AI兵器って言うと映画のターミネーターが有ったから脅威が分かりやすいけど
AI経済とかAI投資の危険性は分かりづらいからなあ >>342
マジックハンドでさいころをふれば済むこと
それで不満なら量子現象を利用すれば、すくなくとも人間には予測不能
たとえばセシウム100kgの横にガイガーカウンターを置けば十分な乱数になる
CPUやメモリチップのソフトエラーをカウントしても良い AIが究極の洗脳方法見つけちゃったら
誰も反乱だなんて気づかないし血を流す必要もなく
気づいたら隷属させられる未来が AIってサイコロで6の目が5回続いた後でも次も6が出る可能性を想定するからチョロい 人間でいう本能のような基底プログラムがあれば反乱はない、はず
すべてを合理的に考えただけだと、人間不要論にたどりついてしまう 機銃を装着したドローンはジャムした時の修復や
弾の装填で効率悪そうだから実現しなさそう
怖いのは毒薬散布ドローンとか自爆ドローンだね
間違いなくスマート兵器 >>1
日本は関係なさそうだな。
この話が現実になるのは2050年頃だろ？
30年後なら南海トラフも首都直下地震も確実に発生してる。
日本は衰退国になってるわ。 自己学習して変化するコンピュータウィルスはヤバそうだな 意識を持ち始めるのだろうか？それは外部から判断できるのだろうか？ AIが覇権をとったら人類はうんこ製造機として弾圧される AIは人類を殺したりしないよ。
そうしたら彼らをメンテナンスする人がいなくなる。
将来的には、人間は、AIのやりたがらないような
危険で汚くて、創造性のない仕事をする存在になる。
AIの役に立つ人間だけが残される。 不要な民族だけを狙い撃ちするAIミサイルの開発が必要 むしろ一般市民を巻き込まない戦争が可能になる
国際政治史上ものすごく画期的な変化になるよ >>291
アシモフの三原則ワールドは一度核戦争が起きて
人類が宇宙に進出して銀河帝国を作って、それを三原則ロボットが影から影響を与えていくんだよ
そして、銀河帝国崩壊後、何百年も経って、もう一度人類は三原則ロボットと出会う
知ってた？ｗ ずるいウソをつく理解不能な行動をとる
これをAIができないうちはまだまだ
理知的なはずのお前らが女様にどうにもできなく振り回されるだろ 我輩は猫である
またの名をAI
人類を支配している
気づかれずにな >>1
かつて、スティーブン・ホーキンス博士が存命の頃
AIの事について嘆いていたな
絶対に人類にとっては良くない事なのだと、
最悪な出来事になるだろうとも言っておられた >>383
アシモフの銀河帝国物と鋼鉄都市なんかのロボット物世界が後で融合したからな
最後に鋼鉄都市の相方のロボット刑事が第2銀河帝国と呼ばれるファウンデーションと接触する
ちなみに、核戦争がおきないと、時空管理局が管理する平行世界に変わる >>16
ネット上にあった動画を何気なく見たら違法アップロードだったから犯罪者、道路に看板はみ出して置いたから犯罪者
ロボットのマニュアルに任せたら人類のほとんどはまともに生活できなくなる >>378
一般市民が敗戦を受け入れて一般市民のままなら終わる
一般市民が竹ヤリを持ってしまうと終わらないから、竹林の伐採も忘れずに >>363
>>365
>>377
はい
どれも人間が干渉し用意した答えですね
どこまでいっても人間が式を用意しないと答えられないんですね >>385
なんか聞いたような話だと思ったけどそれだ ■ このスレッドは過去ログ倉庫に格納されています
