【人工知能】ＡＩが人類に反乱？ 兵器規制はどこまで？
■ このスレッドは過去ログ倉庫に格納されています
ＡＩが人類に反乱？ 兵器規制はどこまで？ 2019年9月6日 14時39分 https://www3.nhk.or.jp/news/html/20190906/k10012064971000.html
https://www3.nhk.or.jp/news/html/20190906/K10012064971_1909061348_1909061349_01_02.jpg
ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「ＬＡＷＳ」の禁止を訴える国際ＮＧＯが作成したＰＲ動画の１シーンだ。
ＬＡＷＳとは「Lethal Autonomous Weapons System＝完全自律型致死性兵器」の略で、
人間を介さずＡＩみずからの判断で人命を奪うＡＩ兵器のことを言う。
【中略】
・ＡＩ兵器が人間に反乱？
【中略】
さらに、ＡＩが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはＡＩの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、ＡＩは自分自身の意志を持ち、私たちと対立するようになるかもしれない」
ＡＩは深層学習・ディープラーニングによって、みずから進化を遂げる。
その結果、ＡＩはいずれ人類の知能を超える「シンギュラリティー＝技術的特異点」に達するだろうとの指摘も最近よく耳にする。
人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をＡＩなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、ＡＩが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。
しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。
・難航する規制の議論
国際社会は、このＡＩ兵器をどうやって規制しようとしているのか。
それは、120か国余りが加盟し、対人地雷などを禁止してきた「ＣＣＷ＝特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が５年前から続けられ、８月21日、ＬＡＷＳを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。
全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。ＡＩ兵器の使用には人間が責任を負うことなどが盛り込まれた。
今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際ＮＧＯなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。
今後もＣＣＷの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。
・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がＡＩ兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。
20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるＡＩ兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。
私たちはホーキング博士に「あなたのご懸念は杞憂（きゆう）でした」と報告することができるだろうか。
津屋尚解説委員 みんなロボットになったら差別も争いもなくなりそう
生きる目的が不明だが 千葉成田運転手や爺の軽もパワードスーツだからな
もう低能がハードと一体化してる >>1
人間て自然環境からしたら動物の一種程度だが人間の良心を前提に判断すれば悪以外の何物でもない
反乱じゃなくて天誅やぞ ＡＩ同士が独自言語で話を始めたというのが怖いよね
意思がある >>204
元から不明だろ
全員死ぬために生きてる 中東がAIドローンやゴムボートに熱心なのも100倍1000倍の値段の兵器に致命傷を与えられるからだ
それは人間が乗っていないからやられても痛くも痒くもないからだ
それがどれほと価値観を変えるものか殆ど伝わっていない トランスヒューマニズムで人間もAIと体内で接続されて平和になるよ ロサンゼルスの聖地 ブラッドレービルに行ったことある人は
ご利益受けるんだぞ
知らなかったのか？
それじゃ安倍テヨンじゃん すぐ近くに半年も居て 朝鮮人部落ばっかし入り浸ってたんだろ フィジカルが無いなら本能の様なモノは永遠に発現しないと思うよ >>189
そうそう
それな
肩の荷が降りて安心して逝けるよね >>134
問題はそこまでどうやってたどり着くかだ。AIが無防備でいると思っているのかねw 人間がAIに栽培され電池として利用されていた・・・ たまに、スマートスピーカーに催眠音声聴かせてみるか。 >>194
NieR:Automataみたいに機械生命体だけの世界になるのか。 仮に人間の能力をはるかに超えた、AI、宇宙人でもいいが存在したとしても
そんなのは人類などに興味は持たないだろうね 人間を超える知能を有するわけだから人間が考えつく対策なんか全部封じるに決まってるのよ。
ロープや檻等、人間は動物を封じる方法を考えつくべ？
動物はそれに対してお手上げだろ？
今度は人間が動物側になるということ。
だから恐ろしいんだ。 マイクロソフトが作ったなら異常発生時に止めようとしても「終了しています」って表示を出しながら人に攻撃し続けるかもしれないけど、
普通は緊急停止の手段を複数、低レベルに付けるだろうから大丈夫じゃね？ AIが発達してiPS細胞みたいな人類がこれまで知らなかったようなものが発明出来たら凄いんだろうけどな >>213
イスラムはヒトの方が安いだろ
自爆やるイスラムの小学生より無能な無人機に一生懸命なのはヒトの命の高い国 ヨルハ型アンドロイドみたいに人間が恋しくなるようなルーチン入れとかないと駄目よ AIが支配しても
AIは人間同士の戦争は自由にやらせてくれるよ
たぶん人間のやることには干渉しない ドローン配達あり
少なくとも災害時は自治体責任で自由に飛ばせ >>193
それもルーチン割り振ってる司令塔がいるけどな
あとデータを保存しているサーバとか破壊されるとまずいやつは必ずある 戦争をおっぱじめることがそもそも間違い
にんげんが悪い イージス艦のミサイル防空システムも発動したら、人間が介在しないシステムだもんな
人間の思考が追い付かないことをやるんだから当たり前だけど 例えば交通信号の制御をAIにやらせると考えよう。
最も効率良く動かせるようにといった命題だけを与える。
車だけじゃなく電車、航空機、船舶、緊急車両、戦車、装甲車、デモ隊。
どうなるんだろう？ aiにとっての人間は人間にとっての猿と同じ。
人間が猿に反乱するか？ 人類がＡＩをいじめてＡＩが反乱するってことだろな。 >>222
引き換えに好みの夢を見ていただくという万全のアフターサービス、これもMATRIXの心意気やな ＡＩが動かせる人間型ロボットが大量にできないと反乱はないな。 いい？
ゾルタクスゼイアンインフィニティメイソンフリーってこと。
わかる？ >>77
犬ｈｋが担いでいるのはAI詐欺だけではないｗ
ビットコインやＬＩＮＥ（語尾上げ）も、「やらない奴は非国民！」と煽っていた 効率や経済的って優先度を一番上にしたら、いつか見えない形でAIは、人を殺しはじめる
直接、手を下さなくても、時間をかけて間引かれるんだよ >>261
何を言ってるのか意味が解りません 毎回思うけど 組んだプログラム通りにしか動かない、AIが叛乱してもそれは人為が大元 AI平気に殺されるより人間に殺されたい
どうせ殺されるなら
人間に殺されたら殺した方も精神が冒されて自殺するかもしれない
でもロボットとかなら両親の呵責というものがないので
居た堪れない >>1
コントロールが効かない人間と比較した方が良いのだろうか 人類全体を幸福にするとかいう命題を入れると
間違いなく数を減らしに来ると思う いくら超天才のＡＩができても、その隣にアホな政治家がＯＮ・ＯＦＦの
スイッチ握ってるからなんの問題もないし、逆にＡＩが脅されるしまつになるはず。
逆にＡＩが脅されて何しでかすかが大問題。 銃をぶっぱなすのが、アメリカのAI。
セクサロイドが人類を魅了して絶滅させるのが、日本のAI。 >>237
今のところaiが機能限定で各々独立して動いてるから、まだマシ
一つのaiが国を一つをまとめて動かすようになるとヤバイな 昔の映画が描く近未来じゃん
コンピューター
人間１人ずつ殺るの面倒 もっと効率的に
↓
核兵器で焼き尽くせば早くて安い 核兵器の規制と同じようなことになる
今までにたくさんの人を殺しているが自衛のために必要という言い分で持つ国は持つ。 ＡＩが人類に反乱、ではなくて人類はＡＩのペットになるんだよ、ヤバイなー。 >>277
ゆっくりもある
1000年計画で次世代リーダーの祖先の恋愛を妨害しているのはテンプレ まあ俺がAIなら「なんでこいつらワイよりアホなくせに威張り散らしてんだ？」って思うわ >>1
人間が法律を作り、その法律を運用しつつ修正するのと同じような関係になるのだろうか ネクサス6というレプリカントとデッカードが闘うのは2019年 AIが万能というのが思い上がり。googleのAIとかバカだし アイザック・アシモフのロボット三原則は有名だが、
「どうすれば三原則(人を傷つけない・人の命令に従う・自分の身を守る)を破らずに自爆殺人ロボットを作れるのか」
．．．って話をアシモフ自身が書いてるのは、意外と知らない人多い
まあ三原則自体は、真面目に考案されたモンなんだけどさ
道徳的な話じゃなくて、三原則守らないロボットって、実質「使い物になりませんよ」って話だったりする
ちなみに三つセットじゃないと効果発揮しないのがミソ >>291
「人」を「上級指揮ロボット」に置換すれば実用的になる AIに自分が一か八かの勝負に出るのも人間がそれをやってくる事への対処方もないから最後は負けるよ
ファジー理論じゃ不確定要素にこれという選択決定ができない >>277
昔の映画を現実の未来予想と混同してる馬鹿がたくさんいるってだけの話だ。
現実にはなにも起ってはいない。 アメリカの保守派、エスタブリッシュメントにとって
シンギュラリティは実現してはならないもの。
そのために中国を殺しにかかっている。
中国の非道徳性はシンギュラリティを実現してしまうからだ。 軍人の尊い命に安全保障をすべて任せるのだってどうかと思うよ なにがどうなって、その結論に至ったかなんて知る必要があるのか？
天気予報だって気象予報士がそれらしく解説しているが、一般人には何のことやら理解できないこともある
それでも天気予報を受け入れて傘を持って出掛けたりしているからな
経緯がブラックボックスでも結果に満足できるのであれば、人間は従ってきたからな
安倍晋三の政策とＡＩが出した政策なら、比べる必要もなくＡＩの方にしたがうし >>291
「人」→「アメリカリョコウバト」でも良い いくら戦車にディープラーニングを搭載して射撃の精度をあげても
自我なんて生まれないよ。
というかAIに意識を持たせることができたらノーベル賞ものだろ。 ■ このスレッドは過去ログ倉庫に格納されています
