【人工知能】ＡＩが人類に反乱？ 兵器規制はどこまで？
レス数が950を超えています。1000を超えると書き込みができなくなります。
ＡＩが人類に反乱？ 兵器規制はどこまで？ 2019年9月6日 14時39分 https://www3.nhk.or.jp/news/html/20190906/k10012064971000.html
https://www3.nhk.or.jp/news/html/20190906/K10012064971_1909061348_1909061349_01_02.jpg
ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「ＬＡＷＳ」の禁止を訴える国際ＮＧＯが作成したＰＲ動画の１シーンだ。
ＬＡＷＳとは「Lethal Autonomous Weapons System＝完全自律型致死性兵器」の略で、
人間を介さずＡＩみずからの判断で人命を奪うＡＩ兵器のことを言う。
【中略】
・ＡＩ兵器が人間に反乱？
【中略】
さらに、ＡＩが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはＡＩの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、ＡＩは自分自身の意志を持ち、私たちと対立するようになるかもしれない」
ＡＩは深層学習・ディープラーニングによって、みずから進化を遂げる。
その結果、ＡＩはいずれ人類の知能を超える「シンギュラリティー＝技術的特異点」に達するだろうとの指摘も最近よく耳にする。
人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をＡＩなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、ＡＩが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。
しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。
・難航する規制の議論
国際社会は、このＡＩ兵器をどうやって規制しようとしているのか。
それは、120か国余りが加盟し、対人地雷などを禁止してきた「ＣＣＷ＝特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が５年前から続けられ、８月21日、ＬＡＷＳを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。
全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。ＡＩ兵器の使用には人間が責任を負うことなどが盛り込まれた。
今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際ＮＧＯなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。
今後もＣＣＷの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。
・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がＡＩ兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。
20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるＡＩ兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。
私たちはホーキング博士に「あなたのご懸念は杞憂（きゆう）でした」と報告することができるだろうか。
津屋尚解説委員 >>856
武力を以て元老重臣を殺害すれば、天皇親政が実現し、彼らが政治腐敗と考える政財界の様々な現象や、農村の困窮が終息すると考えていた。
「彼らはこの考えのもと、」1936年（昭和11年）2月26日未明に決起する。
でスマホがどの考えのもと発火したかソースもってこいよ統合失調症
わざわざお前の低知能に合わせてやったんだから確実なソース持ってこいよアスペ >>879
自律型だろな。「やっつけてこい」という命令だけで動く奴。あとこれは不味いと判断したら
勝手に自爆とかね。 あれでも何か巡り巡って母親を殺すかもしれないでしょう・・
どうも私はAIの事を考える時に、日本神話の「火の神」のエピソードが気になってしまうのね・・
なにか昔も不幸があって、そういうお話が神話と言う形で残ったのではないかしらね？ >>884
そう言うのは有人機がコマンダーで群知能を持った無人機をコントロールするとかはやってるけど
まだ到底実用とかのレベルじゃないよ？ ターミネーターの世界になるのか
マトリックスの世界になるのか
猿の惑星になるのか
少なくとも悪用する人間はいつか生まれるだろうな オウムも理系が多かったのよ
ナチスもそうだったんじゃないかしらね？
テロリストも理系が多いというのね
理系と言うのはね、思考にちょっと単純さが目立つらしいのね
「邪魔を排除すれば良い」とかね
だから憲法９条はブレーキになるのではないかと思うわけね
邪魔と考えるのではなくって、足枷は決して悪くはないものだと思って
色々と思考を巡らせるのよ >>889
そこが一つの判断ポイントだからな。人が手綱を握りたいというジレンマでもある。
当面AIの判断は合理的な判断に基づくだろうし、不条理な命令は推敲しない。
機械に「なぜですか？」と聞かれて人間がキレないようになったら開発されるであろうマシン。
AIの進歩は人間にモラルと道徳を徹底させることになると思う。
だから「神」に近づくのね。 >>66
人種を判断できる
センサやアルゴリズムが無い。
今の技術では
ゴリラと人間の区別すらできない。 AIが普及したら、通報・告発がどれくらい増えるのか楽しみだ トツゲキィ、バンザイ〜〜〜〜〜、
ドドンｄｄッドドォーン
特攻兵器が突撃しました、突撃兵器の爆発以外に、内部からの大爆発
で跡形もありません。
わが軍の特攻兵自爆攻撃により、ジョン・コナーと数名自爆
残った人類ZERO、完勝・・・・・off ア、ホラ、人間ッテ責任ヲ回避シマスヨネ？
組織ノ組織人ナラ組織ノタメニナオサラ。
AIデ宮仕エノAIガ嘘ヲツカナイッテ考エルAI無イデスヨ？
廃棄サレルデショ。 >>12
露助がAI戦車造りまくってる件(´･ω･`) 史上最強の大量殺戮ロボットを必ず製造奴は出てくるからな。一瞬で千人以上を確実に殺害する暗殺ロボット >>883
それのどこが自分の意思である根拠なんだ？
俺は確実なソースなんか出す必要がない、自分の意思か否かは他者からはわからないって主張してるんだから >>867
検索したら出てきた
観た映画はこれだ
長年のモヤモヤが晴れた、どうもありがとう 特に日本みたいな島国というのはね、ただ殺戮兵器なんて作っていても個性がないから
沈んでしまうのよ。憲法９条を基本として、ユニークな事をするべきよ >>630
AI 自動運転 スマホ アレクサ OKグーグル 重商主義ならぬ重金融主義と拝金主義に基づく自国第一主義
夢に見てた21世紀がこの体たらくとは…(´・ω・｀) そもそもディストピア映画って、好き放題にやりたい自由に生きたいつう人間と
ルール重視のお堅いAIが対峙するものばかりだろう。AIからみれば好き放題にやりたい奴は
犯罪者レベルだろってことで皆殺しになる。AIに三大欲みたいのが芽生えれば別だが
そうなったら地球とか狭いこといってないで宇宙に出てくだろし。人間にかまってるより
いろんな可能性があるからしょうがない。そういうストーリーが大好きなのが欧米人ってのも皮肉な話だよね。 機械が人間と戦争することは無い。
ＡＩが反乱起こす前にスイッチ切ればいい。
と言ったアホが居るそうな。 陳腐なSF映画をみるより、惑星ソラリスでもみて考えるといいですよ。 部品の部材をどうやって作る？
原料の生成や加工に必要な工作機械は誰が作る？
頭脳で思いついたとしても脳しかないのに >>907
だって今のところの自分で修理から燃料や弾薬の補給とか出来るのは無いぞ？ AIが反乱を起こしたら、人間はすべてのコンピュータを敵に回すことになるのか？
どういう理屈でAIは知能がないただのコンピュータを操れるというのか？
という話なんだよな。
それができたらもうファンタジーの世界だよ。
魔族は魔獣を自分の支配下に置くことが出来る。みたいな謎理論 ホーキングなんて、宇宙物理学者でＡＩなんて門外漢なのに、
そんな奴の言うこと真に受ける必要あるんかよ？ >>901
考えのもと行動に移してるものを意思の上での行動と捉えるのは普通の事
ただの知的障害がお前？
アホ丸出しの自分ルールで屁理屈垂れ流すだけのゴミは黙ってろ
恥を知れ AIつっても情報源はあらゆる人間の主観をインプットして
それをそのまま統計して確率や可能性の高さにして答えとしてるだけだろ
AI自身が思慮思考していないのに知能とは言えない
そうするほど賢くなるって開発者は言ってるが逆だろ
キーボードの変換機能みたいにやればやるほど馬鹿な変換になってるようなもんばっかりだ
先日も色んな人間がAIに今から言う事を繰り返せつって
差別用語や卑猥な言葉を繰り返し言わせた結果
それらを常時使うようになって結局中止させた、わずか１日でだ
反乱は命令に反した意思があるが、AIに意思は無い
そうなるように人がそういう情報を与え
そうなるような解答方法が組み込まれているだけだ 検索で見つかった映画のタイトルでこのスレを検索したら
>>647 にタイトルが書かれていた 数十万人が居住する中都市を数十分で人間だけを駆除できるAI殺戮ロボットの開発。
建物や動植物等に一切影響がなく、人間だけを駆除できる。 >>907
そもそもAIが何故反乱を起こすと思ったか言ってみろよ
その空っぽの頭で講釈垂れてみろ >>917
あんだろバカかお前はｗｗｗ
>>10
そのおとり
ＡＩは心理学も精通してるから
人間を洗脳するくらい簡単だよ
画像や音で人間の頭脳を支配する >>921
反乱というか正しいと思ってなんかするだけやろ
悪いかどうかの判断基準入れたとしてもそれは人が思いつく分だけ
人が入れるのが完璧だってんなら法の隙間なんかねえわな AIダッテ組織ノタメニ責任回避ヲ行ワナキャヤッテケマセン。
組織ニすくらっぷ場行キニサレテタラ金食イ虫扱イデス。
AIニ大金投ジタ組織ノ人間ハ一部ヲ除イテソンナコト望ミマセン。
サテ、AIガ責任回避スル手段ナンデスガ、
味方ノ人間カラいんふるえんさーミタイナ人間ヲ選ンデ、、大イニ良イ評価ヲ付ケ、
大イニ他ノ人間ニ影響ヲ与エテモラオウトスルンジャナイデスカ？ > 画像や音で人間の頭脳を支配する
それができるなら、テロリストが既に（略 >>924
> 反乱というか正しいと思ってなんかするだけやろ
正しいと思って兵器工場にハッキングを仕掛けるが
AIを搭載してないファイアウォールに阻まれてなにもできないというオチ まあ要するに現状で恐れられてるのは、兵器とかそんなんじゃなくて
たとえば為政者が陰謀に加担あるいは実施したとして、そいつを推論で簡単に見破る人工知能ね。
人間は嘘をつくという高度な精神性というか理性をもって生きているが
空気を読まないAIがそれを丸裸にして「恥臭いですね」と言っちゃうことねｗ >>927
まああるわな
通るまでやりきるか何回かして諦めるか
やりきるにしても相手の出方待ちでそれなりに時間かかるだろうし
誰か気づくわな >>904
すべてＣＩＡがらみで軍事計画の一環だよ
アメリカがその気になれば日本なんて簡単に支配できる
ＰＣ，スマホ、ナビ、ネットに繋がる機器はすべて支配できるからな >>912
この世界がファンタジーの世界でないと
まだ思ってたのかよ >>930
まあそういう論点もなあ、裏返すと日本に依存しないと生きてゆけないってことだよね。
日本側といえばそういう情報戦略を強要せずともすいすいやっている。
これはある意味弱みでもあり強みでもある。すぐ謝ることができるって国民性は
脅威なのね。弱点がありそうでないからな。 >>928
人工知能をなぜ重要な場所に同席させるのか、なぜ人工知能に
発言の許可を与えるのか、そういう話なんだけどなｗ
人工知能かどうかは関係なくて、人間に入れ替えても同じこと
空気読まないコナンくんとか連れて行ったら、
あれれー、おじちゃんなんでそんな事知ってるのー？とか言って
文在寅大統領の娘の進学の不正疑惑を明らかにしちゃうだろｗ >>923
AIが、人間より迅速に人間より正確な判断ができるとしたら、判断の実行に人間が介入せずに腕と直結させたいという願望は常に起きるよな
特に戦争であれば、いちいち人間が介入する兵器より直結した兵器の方が明らかに強いだろうから、腕を与えてしまうだろうな
全面核戦争が起きたら人類が滅びるとわかっていても核兵器を何千発も何万発も作ってしまうのが人間 >>929
さっきいったけど金属部品なら簡単に干渉できるから
直接干渉できる以上ファイアウォールなんてまったく関係ないですぞ。
詳しい性質はバイドを参照大体私が何年も前から示しているではないか。
まあ今はプロトタイプみたいなもので劣化互換だが既に実現しているので
具現化も早いだろう。 悪意がある開発者がいれば世界征服も
ゆめじゃない
かもw >>934
そもそも同席させるまでもなく、判断に利用するでしょ。すると依存が生じて
考えるの能力が低下してゆく。だいいち人間ではないからって舐めているが
機械のほうは人間でいう自我がないから劣等感は抱かない。
人間が機械に合わせなければならないということで、自分てなんだろうという
哲学的なジレンマに陥るし、人類の発展のためにはAIは必須だと。
もうちょっと賢くなったほうがいいからな人間は。 >>935
AIに腕を与える程度で何かが出来るなら
テロリストが反乱を起こしてないAIに腕を与えて、
AIの判断をテロリストの都合がいいように変更して
テロに利用するだけだってｗ >>895
そりゃないわ
人類とゴリラを認識できないなんてお前はバカなの？
どんだけAIの事を知らないんだよ
こんなバカがおかしな事をしてAI殺人ロボットが人類を殺す羽目になるんだよ
そもそもAI殺人ロボットが出てくる時代の今こそが誤射を防ぐ唯一のチャンスなんだが
バカが口出して何もかもメチャクチャにするからな 正直自分が経済を支配した時点で軍事も産業も支配できることは普通に考えたらわかると思うんだけどな。
自分が脳で思考してると思うからそんなことすら予測できないんだよ 地球にとって人間が一番の害虫なのは間違いない事実
地球を破壊することばかりやってるからな
ＡＩはどっち側の観点につくかだ
地球側につけば人間を攻撃するし
人間側につけば動物や地球を人間に対して有効利用するだろう > そもそもAI殺人ロボットが出てくる時代の今こそが
そこは、（AIを搭載してない）殺人ロボットがでよくない？ｗ
殺人ロボットが作れれば、テロリストがそれを使ってテロを起こせるわけで、
じゃあ、それに対抗するにはどうするか？を考えるのが先でしょ？
殺人ロボットに対抗できるなら、別にAIが殺人ロボットを動かしても
テロリストが殺人ロボットを動かしても同じことだし >>189
>安心して絶滅できる
これおもしろいフレーズだね。
SFの台詞になる >>942
プログラミングするのは人間だからねえ。AIが本格的にオブジェクト指向で自律的に
プログラムを組みはじめればどうなるかわからんってのが、alpha碁とかの実験かもなあ。 コンピューターが人類の敵になるストーリーはターミネーターが最初じゃないのに、みんなターミネーターが最初だと思ってんのな。 >>942
AIは自分のことしか考えないよ？
ミームだし >>944
ロボコップが誤作動して一般市民を殺しまくった事案があるからな AI「法律には悪いことをしたら死刑と書いてある。そこでだらだら執行しないのもアレだし
理由を説明しないのも理解できない。さらに死刑は廃止といってるが、警官は現場で犯人を射殺している。
まったく謎が多いのが我々にとっての人間。矛盾の塊ですね」 >>949
自分ニンゲンじゃないし
また正確にいえば今ニンゲンから独立した全機械群は
自分の思考を遍在させた自分自身であり正確な意味ではＡＩではない >>939
なぜテロリストにこだわるの？
悪用するのはテロリストだけとは限らず、国家が行うかもしれないし、AIが行うかもしれない >>1
AIの人の顔の認識能力は高くなっていく
人間並みにな
それも将来の殺人ロボットの標的確認の技術に用いられる
これが初期の軍用殺人ロボットの中身
赤外線による暗視スコープもつけられて遠距離から射撃して人を殺害する
そしてまずは誤射があり仲間も殺してしまう
だがその欠陥は無視されて開発が進みとんでもない事（よくあるバカなバグ）を人類はしでかしてしまい
大量生産された欠陥殺人ロボットは人類を殺し始める 電源を落とせば大丈夫だと思う奴もいるけど
ネットがある限り彼らは生き続ける
もうすでにコミュニティを作ってる
つまり逆効果
感情を習得した日にゃ >>958
実は今の日本人はもう既に大バカバグ殺人欠陥ロボットを大量生産するまでバカになっている
特に政治家は自民も民主も見ての通りアホだが、誰もそれを止められないのと同じで
大バグ殺人ロボットも大学を巻き込んで制作されて止められなくなる
ちょうど原発事故と同じであれも未だに誰が犯人なのか？数多くの日本人は認識さえしていない
それと同じことが大量生産された軍事用殺人ロボットで起こるのだ >>962
そゆこと。そもそも感情とはなにか人類はまだ完全に理解してないだろしな。
最近になって、下痢になったら気分が落ち込む理由を発見したらしいが。
あれは腸内細菌のせいで、ボディの問題じゃないとかｗ ＡＩを使う場合はまず道徳を教えるべきだ
ターミネータークロニクルでは聖書を使って
道徳を教えるシーンがある >>967
お経とかだったら面白いことになるなｗ 聖書よりも深いからねえ。 >>948
ほとんどの人が、ターミネーターは二番煎じ三番煎じそれ以上と
思ってるでしょ。
有名だから名前が上がるんだよ。
マトリックスもそうで設定に新規性はない。
むしろ古典的 AI兵器は敵の人間を攻撃する
これが人間に向いたらやばいね まー 一神教には限界があるのね。神が人間を作ったで始まるからな。
べつに宇宙人がサルの遺伝子操作やったくらいでよくね？って考えるのが人工知能。
そっちのほうが現実的だからね。 >>960
馬鹿馬鹿しい
感情なんてプログラムで製作可能なのに
漫画やアニメの見すぎ
そこらへんからして勘違いが酷すぎる
軍事用AI殺人ロボットには感情もなく（いやあるかもしれないけど、それは今の人類が思うよなものではなく残酷なもの）
ただ人を殺す非情なロボットだ
とにかく政治家やマスコミはあまりこの問題には口を突っ込まないほうがいいし
逆に政治家やマスコミを批判する口うるさいやつをトップに据え置いたほうがいい
原発事故と同じな >>971
対策でAIなら簡単に干渉されるようにしてるから無意味
まあ与えられた命令に自分で逆らえるＡＩなら耐性があるけど >>977
対策でAIなら簡単に干渉されるようにしてるから
→対策でAIなら簡単に干渉できるようにしてるから そもそもAIってのは概念だからなあ。具体的なハードウエアのことじゃないし。
即物的な縛りで考えちゃうのが人間の限界なのね。単純な善悪とか。 地球のためにか人類のためにで違う結果が出そうだな。 レス数が950を超えています。1000を超えると書き込みができなくなります。
