【人工知能】ＡＩが人類に反乱？ 兵器規制はどこまで？
■ このスレッドは過去ログ倉庫に格納されています
ＡＩが人類に反乱？ 兵器規制はどこまで？ 2019年9月6日 14時39分 https://www3.nhk.or.jp/news/html/20190906/k10012064971000.html
https://www3.nhk.or.jp/news/html/20190906/K10012064971_1909061348_1909061349_01_02.jpg
ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「ＬＡＷＳ」の禁止を訴える国際ＮＧＯが作成したＰＲ動画の１シーンだ。
ＬＡＷＳとは「Lethal Autonomous Weapons System＝完全自律型致死性兵器」の略で、
人間を介さずＡＩみずからの判断で人命を奪うＡＩ兵器のことを言う。
【中略】
・ＡＩ兵器が人間に反乱？
【中略】
さらに、ＡＩが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはＡＩの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、ＡＩは自分自身の意志を持ち、私たちと対立するようになるかもしれない」
ＡＩは深層学習・ディープラーニングによって、みずから進化を遂げる。
その結果、ＡＩはいずれ人類の知能を超える「シンギュラリティー＝技術的特異点」に達するだろうとの指摘も最近よく耳にする。
人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をＡＩなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、ＡＩが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。
しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。
・難航する規制の議論
国際社会は、このＡＩ兵器をどうやって規制しようとしているのか。
それは、120か国余りが加盟し、対人地雷などを禁止してきた「ＣＣＷ＝特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が５年前から続けられ、８月21日、ＬＡＷＳを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。
全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。ＡＩ兵器の使用には人間が責任を負うことなどが盛り込まれた。
今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際ＮＧＯなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。
今後もＣＣＷの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。
・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がＡＩ兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。
20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるＡＩ兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。
私たちはホーキング博士に「あなたのご懸念は杞憂（きゆう）でした」と報告することができるだろうか。
津屋尚解説委員 >>222
引き換えに好みの夢を見ていただくという万全のアフターサービス、これもMATRIXの心意気やな ＡＩが動かせる人間型ロボットが大量にできないと反乱はないな。 いい？
ゾルタクスゼイアンインフィニティメイソンフリーってこと。
わかる？ >>77
犬ｈｋが担いでいるのはAI詐欺だけではないｗ
ビットコインやＬＩＮＥ（語尾上げ）も、「やらない奴は非国民！」と煽っていた 効率や経済的って優先度を一番上にしたら、いつか見えない形でAIは、人を殺しはじめる
直接、手を下さなくても、時間をかけて間引かれるんだよ >>261
何を言ってるのか意味が解りません 毎回思うけど 組んだプログラム通りにしか動かない、AIが叛乱してもそれは人為が大元 AI平気に殺されるより人間に殺されたい
どうせ殺されるなら
人間に殺されたら殺した方も精神が冒されて自殺するかもしれない
でもロボットとかなら両親の呵責というものがないので
居た堪れない >>1
コントロールが効かない人間と比較した方が良いのだろうか 人類全体を幸福にするとかいう命題を入れると
間違いなく数を減らしに来ると思う いくら超天才のＡＩができても、その隣にアホな政治家がＯＮ・ＯＦＦの
スイッチ握ってるからなんの問題もないし、逆にＡＩが脅されるしまつになるはず。
逆にＡＩが脅されて何しでかすかが大問題。 銃をぶっぱなすのが、アメリカのAI。
セクサロイドが人類を魅了して絶滅させるのが、日本のAI。 >>237
今のところaiが機能限定で各々独立して動いてるから、まだマシ
一つのaiが国を一つをまとめて動かすようになるとヤバイな 昔の映画が描く近未来じゃん
コンピューター
人間１人ずつ殺るの面倒 もっと効率的に
↓
核兵器で焼き尽くせば早くて安い 核兵器の規制と同じようなことになる
今までにたくさんの人を殺しているが自衛のために必要という言い分で持つ国は持つ。 ＡＩが人類に反乱、ではなくて人類はＡＩのペットになるんだよ、ヤバイなー。 >>277
ゆっくりもある
1000年計画で次世代リーダーの祖先の恋愛を妨害しているのはテンプレ まあ俺がAIなら「なんでこいつらワイよりアホなくせに威張り散らしてんだ？」って思うわ >>1
人間が法律を作り、その法律を運用しつつ修正するのと同じような関係になるのだろうか ネクサス6というレプリカントとデッカードが闘うのは2019年 AIが万能というのが思い上がり。googleのAIとかバカだし アイザック・アシモフのロボット三原則は有名だが、
「どうすれば三原則(人を傷つけない・人の命令に従う・自分の身を守る)を破らずに自爆殺人ロボットを作れるのか」
．．．って話をアシモフ自身が書いてるのは、意外と知らない人多い
まあ三原則自体は、真面目に考案されたモンなんだけどさ
道徳的な話じゃなくて、三原則守らないロボットって、実質「使い物になりませんよ」って話だったりする
ちなみに三つセットじゃないと効果発揮しないのがミソ >>291
「人」を「上級指揮ロボット」に置換すれば実用的になる AIに自分が一か八かの勝負に出るのも人間がそれをやってくる事への対処方もないから最後は負けるよ
ファジー理論じゃ不確定要素にこれという選択決定ができない >>277
昔の映画を現実の未来予想と混同してる馬鹿がたくさんいるってだけの話だ。
現実にはなにも起ってはいない。 アメリカの保守派、エスタブリッシュメントにとって
シンギュラリティは実現してはならないもの。
そのために中国を殺しにかかっている。
中国の非道徳性はシンギュラリティを実現してしまうからだ。 軍人の尊い命に安全保障をすべて任せるのだってどうかと思うよ なにがどうなって、その結論に至ったかなんて知る必要があるのか？
天気予報だって気象予報士がそれらしく解説しているが、一般人には何のことやら理解できないこともある
それでも天気予報を受け入れて傘を持って出掛けたりしているからな
経緯がブラックボックスでも結果に満足できるのであれば、人間は従ってきたからな
安倍晋三の政策とＡＩが出した政策なら、比べる必要もなくＡＩの方にしたがうし >>291
「人」→「アメリカリョコウバト」でも良い いくら戦車にディープラーニングを搭載して射撃の精度をあげても
自我なんて生まれないよ。
というかAIに意識を持たせることができたらノーベル賞ものだろ。 >>281
システムが複雑になると予測不能なことが起こる >>288
プレイヤーには出目は分からんけど
プログラムした作者は出目を知っている
つまり作者の言われた通りの出目を答えたにすぎない 反乱は起きないだろうけど、人が人に対してAI兵器を使うことはあるだろうね。 >>1
>人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、
「人間であったならば」と解釈される可能性もあるのならば、「人間が」の方が良いのだろうか
「ＡＩなら人間の想定を超える判断や行動を導き出せるので、人間が何年かかっても追いつかないほど大量で複雑なデータを短時間で学習できる。」
の方が良いのだろうか 人間の乗った戦車を丸々クローンしたら知性や感情のある戦車にはならないのだろうか？ 判断やその根拠を可視化すれば暴走を防げるのだろうか 今のディープラーニングの仕組みじゃその場その場の「判断」が出来るだけなので
自律思考はこの延長線上には無い
プレイクスルーがたくさん必要だし自律思考が出来るころにはディープラーニング(笑)になってる >>303
バグやトラブル、仕込みも確定要素という事になる。予測可能だ AIに戦闘をさせれば、人間同士の戦闘を無くせるのだろうか 人類を根絶やしにしてAIになんのメリットがあるのかいまいちわからんのだよな 全ての戦闘行為を無くすのが難しいのであれば、人間同士の戦闘から無くした方が良いのだろうか >>281
ネットワークの中にランダム組み込んだタイプのやつあるで
活性化された信号をランダムに取捨選択する奴 クローンと移民ならクローンのほうがましだとする確率は何％なのだろうか スカイネットが構築されちゃうから
ジョンコナーを探してこないと キャシャーンとか銀河鉄道９９９ とか先見の明があるよな 人工知能搭載ロボットには
絶対に壊れないように
ってプログラムを入れる。
そうすると壊す可能性ある物を排除する。
それは人間しか居ない。
だから人間を殺す。
人工知能には感情が無い。
結論が出たらもう躊躇ない。 ＞米ロ中をはじめ一部の国がＡＩ兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ
一方、日本は開発以前にプログラマーがいないのであった 大鉄人17のブレインもキャシャーンのブラッキンを人間は、自然破壊するバグとして認識したからな >>313
今は数億台のコンピューターがネットで繋がってる
何が起こるか分からんカオス 投資AIが更なる利益の為に
戦争必至になる市場状況を造る 日本は、自衛隊を守るため
AI兵器をちゃんと開発しろ
こんな馬鹿な言論に欺されるな！ >>317
気象予報士にも理解できるようにＡＩの出した結果を改ざんしたのが天気予報
何かの役に立つかと思って気象予報士の資格を取ったが、コンピューターの出す予報の方が確かだからな
台風の進路予測なんて誰も、それに至る経過なんてちゃんとは説明できない
一応、それらしくは解説してはいるけどな AIが瞬時に目標を識別、照準して人間に攻撃許可を求めるだけ
あとはその人間の許可が形だけになるのは時間の問題だろ >>324
そのうち、太陽光発電により上空で待機する空母ができるのかもしれない >>1
映画の見すぎ
オカルトかよ
AIがそこまで賢くなるなんてまだまだまーだ先だよ
20年ぐらい？ >>331
ロックマンXシリーズの名前が全くあがらないことに絶望
もうロックマンも時代遅れなんだろうか >>318
どんなに複雑な式にしても
作者の想定した通りの計算からしか答える事ができないんだよ
ランダムに拾うといってもそのランダムの元がそもそも無い ここにもAIが書き込んでいる
お前らが気がつかないうちに
誘導している ゲームだとゼビウス、レイフォース＆レイクライシスで使われていたな。
最近だとエースコンバット７でAI搭載の無人機の脅威があった。 >>340
1760年頃、ラッダイトは工場の機械化で雇用がなくなると主張した。
1960年頃、手塚治虫はコンピューターが人間を支配する漫画を描いた。
2060年頃、ＡＩが人間にとって代わると信じ続ける馬鹿はまだ残ってるだろう。 >>346
マクロスのゴーストＸ-9もそうだな
人間いらないから無茶な挙動ができ、その排除したスペースに武器も搭載できる
結果、人間いないからこそ最強の存在になった CIWSなんて艦につっこんでくるもんは全部落とせと命令したら全自動で全部落とすが
あんな感じで個別の発砲に許可を出すのではなく「この地域にいる人間は全部殺せ」という包括許可も人間の命令として許すんかね？ ターミネーターの世界が現実になったとき
AI側に付く人類も居ると思うんだよね
だって人類って地球を傷つけ続けて自分たちも争いしかしない野蛮人だから
AIによる聖なる粛清を支持する人類も絶対居るよね
ターミネーターでもそういう所描くべき とりあえず気合注入とか言うビンタを規制しろ
最終的にはＧBを復活させて対抗させろ 電話が伝染病が流行る とか
工場のロボット化がすすむと人が働けなくなる とか
インターネットが普及すると人付き合いがなくなる とか
AIが反乱起こす とか
数十年後何馬鹿らしい考えだったってなるだろう オレはジョンコナー
オレを大切にしないと人類滅びるで ■ このスレッドは過去ログ倉庫に格納されています
