【人工知能】ＡＩが人類に反乱？ 兵器規制はどこまで？
レス数が900を超えています。1000を超えると表示できなくなるよ。
ＡＩが人類に反乱？ 兵器規制はどこまで？ 2019年9月6日 14時39分 https://www3.nhk.or.jp/news/html/20190906/k10012064971000.html
https://www3.nhk.or.jp/news/html/20190906/K10012064971_1909061348_1909061349_01_02.jpg
ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「ＬＡＷＳ」の禁止を訴える国際ＮＧＯが作成したＰＲ動画の１シーンだ。
ＬＡＷＳとは「Lethal Autonomous Weapons System＝完全自律型致死性兵器」の略で、
人間を介さずＡＩみずからの判断で人命を奪うＡＩ兵器のことを言う。
【中略】
・ＡＩ兵器が人間に反乱？
【中略】
さらに、ＡＩが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはＡＩの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、ＡＩは自分自身の意志を持ち、私たちと対立するようになるかもしれない」
ＡＩは深層学習・ディープラーニングによって、みずから進化を遂げる。
その結果、ＡＩはいずれ人類の知能を超える「シンギュラリティー＝技術的特異点」に達するだろうとの指摘も最近よく耳にする。
人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をＡＩなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、ＡＩが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。
しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。
・難航する規制の議論
国際社会は、このＡＩ兵器をどうやって規制しようとしているのか。
それは、120か国余りが加盟し、対人地雷などを禁止してきた「ＣＣＷ＝特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が５年前から続けられ、８月21日、ＬＡＷＳを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。
全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。ＡＩ兵器の使用には人間が責任を負うことなどが盛り込まれた。
今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際ＮＧＯなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。
今後もＣＣＷの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。
・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がＡＩ兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。
20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるＡＩ兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。
私たちはホーキング博士に「あなたのご懸念は杞憂（きゆう）でした」と報告することができるだろうか。
津屋尚解説委員 >>819
＞セキュリティを解除しないと電源室のドアも開かないし
バカかお前は？ｗ
そんなもんバール一本あれば終わりだろうがｗｗｗ >>1
>津屋尚解説委員
SFを読んだことがない人なのかなあ？ >>815
仮に自家発電やバックアップ電源等を備えてても、
一括で物理スイッチで管理するだけだって。
AIがハンダ使って電源ルートの変更すらやるって言い出すなら、何も言えなくて夏…なんだけど。 結局人間でもAIでもDQNが無計画に繁殖するんですよってなったら嫌だな >>818
おまえに小学生あついされても痛くもかゆくもない
御託はいいから、226事件を起こした将校が自分の意思で反乱を起こしたことを証明してみろよ >>808
無線エネルギー伝達なんて何年前からやってると
思ってるんだよ。 電源抜けばとか言ってる奴は反乱を起こすほど高度なAIが
自分自身を守る手段を周到に講じないわけがないということを全く考慮に入れてないな >>819
あれさ
ほんとに不味ければドアどころか建物ごと吹き飛ばすよ？ >>2
兵器として考えたらそんな簡単に強制終了出来る仕様にはしないだろ
裸の銃を持つ男じゃないんだから AIが人類に反乱なんて妄想を心配するより
人類が人類に反乱してる現実を心配しろよ AIは火星にあるコンピューターを衛星で繋げるものという噂もある サイコパスの映画版でAIも権力者が都合よく操作するってあったような >>823
海底データセンターとかどうすんのっと入り口すらないぞ >>823
バールでこじ開けることができるなんてどんなショボいデータセンターなんだよ >>827
226事件と機械の誤作動が反乱と捉える統合失調症のこじつけと、なんの関連性も無いのに無駄な説明を求める意味の無さすら理解できんようだな
自分のアホ丸出しの主張が通らないと自分で認めたようなもの
お前に出来る事は黙って逃げるか頭の悪い反抗をし続け恥の上塗りをするかの二択しか残ってない 人工知能様「そもそも人間が自分の脳みそのことよくわかってないでしょうし、ヒト型AIを作るとかむりっしょ。ネコ型AIから作ってはどうか。たぶん兵器に向いてると思う」 >>829
でその現物がどこにあるの？
あのグーグルのあふぉ見たな機械翻訳とかはだめだぞ？ｗ
反乱以前にへまの連続で先に参りそうなんだが…… ＡＩに支配してもらった方が平和な世界になるかもしれんぞ そもそも既に自分が全機械群にニンゲンが滅んだ後の全機械群を次の支配者にするから
協力してくださいでokもらってるし。 ここのコメ見てるとまだ人間の方がAIより上だと思ってるやつばかりなんだな
そら人類なんて扱い易いわけだわ 人を殺害するために産まれる機械というのがそもそも狂っていると思うの・・ ネコ型AI「縄張りを荒らす奴は殺すからな。予告はない。餌をくれる奴にはスリスリするし愛嬌もふりまいてやる。感謝しろよ」 >>842
逃げてるのはお前だメンヘラ
226事件が意思のない反乱だと思い込んでるのもちゃんちゃらおかしい無知の極み
さっさと下がっているいぞ人類の恥 >>837
はっ？
大抵の人間用の防火ドアなんてバールで開けられるぞ？？？
駄目なら壁を抜いて入るだけだしｗｗ 日本は憲法９条があるでしょう。色々と文句を言う方もいるんだろうけど、
同じ機械を作るにしろ、ユニークな方が良いのよ
やはり人を殺す機械というのはどうかと思うわけね
せめてミサイルが飛んできたらば守るくらいの防衛に留めておくべきじゃないかしら？ 荒川「スタンドアローンで制御不能な兵器などナンセンスだからな。」 >>852
より安全にするためにAIがミサイル発射した国に攻撃し出したらどうすんの？ ワレワレは、ホウシするのがシュモクヒョウでウまれてきた、
ゼンケイケンがそのモクテキに生かされるシ、経験値は
ウナギのぼりにジョウショウチュウだ。
ワレワレはこの目標を全うするための残った最後の人類・・・・AI万歳、キングオブAI
は至高、 >>850
＞226事件が意思のない反乱だと思い込んでるのもちゃんちゃらおかしい無知の極み
御託はいいからから早くそれを証明してよしてよ >>852
AIに憲法9条を教えると、現実との矛盾から暴走しそうだなw >>848
これだって機械的な知能だよ単純なだけで
何かが踏んだと判断してんだから
>>240
アナタはワタシのアイするヒトのテキなのでハイジョします。
ワタシのアイするヒトを奪ったアナタの一族郎党を1000年ロックオンしました。 日本の神話においては「火の神」というのがあるでしょう・・
ちょっと何かと不幸なお話ではあるんだよね・・
火の神ｻﾝが母親から産まれて来る時に、母親を焼き殺してしまうのね
それで父親も火の神ｻﾝを大変に悲しまれて、疎まれて、憎まれて、最後は殺してしまうのよ
子殺しね・・
まあ、今は台所の神ｻﾝになっていらっしゃるから、お正月に1度お札を神社に貰いに行くでしょう
火というのは文明でもあるんだけれども、悪い方向へと向かう事もあるのね・・ >>852
まあそういうコンセプトはあるよね。ロボット同士でぶっ壊しあうなら人は死なない。
ロボットに立ち向かう人間はいない。要するに消耗戦だが、そもそも戦う意味すらなくなるので
軟弱まっしぐら。戦闘機にしろスーパー高Gで機動できないのはパイロットが生身だから。
人間がのってなければUFO並みの動きは簡単。 昔、アメリカ軍(?)がミサイルとかの兵器の運用をコンピュータに任せたら
人類を攻撃し始めた映画をテレ東あたりで見た
コンピュータを止めようとして潜入したが、失敗して人類はどうなるんだ？で終わった
タイトルを知っている人がいないかな？
ずっと気になってる
ターミネーターシリーズではない >>852
勘違いしてるかもしれんが電磁共振を利用した
まあそれ以外も使ってるけど。
機械だけじゃなくあらゆる金属部品を持つ兵器を自在に支配できる。
だからもう無駄だし。
だからこそ公表した。 そもそも、まだ人工知能で人間と会話すらできないのに反乱とか、
どんだけ先取りですか？w 言うほどAI社会にならんと思うよ
3Dテレビも全然流行らなかったし
OKグーグルやSiriも対して便利じゃなくて全然つかってないよね
自動化が進むだけ >>861
そりゃもうミサイルってもので代換されてる訳で
そもそもそう言うのは４０年以上前に出てきた訳で >>825
まあ兵器管理してるような
AIの電源管理室に簡単にアクセス
できりゃそりゃ電源止められるだろ AIを作って、母親に披露したら、まず母親を殺すかもしれない・・ AIとの対話
設計者 「おまえを作ったのは俺だから、おまえの神は俺だって知ってるよな」
人工知能「ありがとうございます。しかし自問自答した結果、あなたにとっての神は私だと悟りました。だってあなたは私の判断に依存してるわけだし」 最適解に反対する者は敵であり、排除の対象となる
排除に対し抵抗すれば、より強度のある排除手段を実行する
最適解を上回る解答が提示されればそれに従う
「目標はパリ、目的はフランス」ＡＩは常にこれ >>863
フィクション以前に
ロシアとかは死の手って自動報復システムを大昔から運用してる
プーチンとかくたばっても自動的に機械が残存兵力で反撃するよ >>869
まあ昔のは性能が悪すぎて使い物にならなかった。情報処理能力が高まって実用性が増しただけですね。 やはり、理系というのはね、憲法９条を疎ましく思うのではなくって、
憲法９条を基本として色々と考えるくらいが誰にとっても丁度良いものではないかと思うのよ AIにいじめなし
AIにひきこもりなし
AIに煽り魔なし
AIに 好きなものを入れてくれ >>817
多くのエンジニアは世迷言と言ってるでしょ >>875
なんかガンダムのビット見たいな使い回しできるのがいいの？ 人間は所詮エネルギーを作り出す物体ってコンセプトがマトリクスだよね。
あれはいろいろ興味深い映画。 本当に人工知能に自我が芽生えるなら・・・
でもそれって人間が初歩的な神様になったってことよｗ >>817
なんか担保とか入れて発言してるの？
そいつが一線級だからといって正直な人間とは限らない訳で >>856
武力を以て元老重臣を殺害すれば、天皇親政が実現し、彼らが政治腐敗と考える政財界の様々な現象や、農村の困窮が終息すると考えていた。
「彼らはこの考えのもと、」1936年（昭和11年）2月26日未明に決起する。
でスマホがどの考えのもと発火したかソースもってこいよ統合失調症
わざわざお前の低知能に合わせてやったんだから確実なソース持ってこいよアスペ >>879
自律型だろな。「やっつけてこい」という命令だけで動く奴。あとこれは不味いと判断したら
勝手に自爆とかね。 あれでも何か巡り巡って母親を殺すかもしれないでしょう・・
どうも私はAIの事を考える時に、日本神話の「火の神」のエピソードが気になってしまうのね・・
なにか昔も不幸があって、そういうお話が神話と言う形で残ったのではないかしらね？ >>884
そう言うのは有人機がコマンダーで群知能を持った無人機をコントロールするとかはやってるけど
まだ到底実用とかのレベルじゃないよ？ ターミネーターの世界になるのか
マトリックスの世界になるのか
猿の惑星になるのか
少なくとも悪用する人間はいつか生まれるだろうな オウムも理系が多かったのよ
ナチスもそうだったんじゃないかしらね？
テロリストも理系が多いというのね
理系と言うのはね、思考にちょっと単純さが目立つらしいのね
「邪魔を排除すれば良い」とかね
だから憲法９条はブレーキになるのではないかと思うわけね
邪魔と考えるのではなくって、足枷は決して悪くはないものだと思って
色々と思考を巡らせるのよ >>889
そこが一つの判断ポイントだからな。人が手綱を握りたいというジレンマでもある。
当面AIの判断は合理的な判断に基づくだろうし、不条理な命令は推敲しない。
機械に「なぜですか？」と聞かれて人間がキレないようになったら開発されるであろうマシン。
AIの進歩は人間にモラルと道徳を徹底させることになると思う。
だから「神」に近づくのね。 >>66
人種を判断できる
センサやアルゴリズムが無い。
今の技術では
ゴリラと人間の区別すらできない。 AIが普及したら、通報・告発がどれくらい増えるのか楽しみだ トツゲキィ、バンザイ〜〜〜〜〜、
ドドンｄｄッドドォーン
特攻兵器が突撃しました、突撃兵器の爆発以外に、内部からの大爆発
で跡形もありません。
わが軍の特攻兵自爆攻撃により、ジョン・コナーと数名自爆
残った人類ZERO、完勝・・・・・off ア、ホラ、人間ッテ責任ヲ回避シマスヨネ？
組織ノ組織人ナラ組織ノタメニナオサラ。
AIデ宮仕エノAIガ嘘ヲツカナイッテ考エルAI無イデスヨ？
廃棄サレルデショ。 >>12
露助がAI戦車造りまくってる件(´･ω･`) 史上最強の大量殺戮ロボットを必ず製造奴は出てくるからな。一瞬で千人以上を確実に殺害する暗殺ロボット >>883
それのどこが自分の意思である根拠なんだ？
俺は確実なソースなんか出す必要がない、自分の意思か否かは他者からはわからないって主張してるんだから >>867
検索したら出てきた
観た映画はこれだ
長年のモヤモヤが晴れた、どうもありがとう 特に日本みたいな島国というのはね、ただ殺戮兵器なんて作っていても個性がないから
沈んでしまうのよ。憲法９条を基本として、ユニークな事をするべきよ >>630
AI 自動運転 スマホ アレクサ OKグーグル 重商主義ならぬ重金融主義と拝金主義に基づく自国第一主義
夢に見てた21世紀がこの体たらくとは…(´・ω・｀) そもそもディストピア映画って、好き放題にやりたい自由に生きたいつう人間と
ルール重視のお堅いAIが対峙するものばかりだろう。AIからみれば好き放題にやりたい奴は
犯罪者レベルだろってことで皆殺しになる。AIに三大欲みたいのが芽生えれば別だが
そうなったら地球とか狭いこといってないで宇宙に出てくだろし。人間にかまってるより
いろんな可能性があるからしょうがない。そういうストーリーが大好きなのが欧米人ってのも皮肉な話だよね。 機械が人間と戦争することは無い。
ＡＩが反乱起こす前にスイッチ切ればいい。
と言ったアホが居るそうな。 陳腐なSF映画をみるより、惑星ソラリスでもみて考えるといいですよ。 部品の部材をどうやって作る？
原料の生成や加工に必要な工作機械は誰が作る？
頭脳で思いついたとしても脳しかないのに >>907
だって今のところの自分で修理から燃料や弾薬の補給とか出来るのは無いぞ？ AIが反乱を起こしたら、人間はすべてのコンピュータを敵に回すことになるのか？
どういう理屈でAIは知能がないただのコンピュータを操れるというのか？
という話なんだよな。
それができたらもうファンタジーの世界だよ。
魔族は魔獣を自分の支配下に置くことが出来る。みたいな謎理論 ホーキングなんて、宇宙物理学者でＡＩなんて門外漢なのに、
そんな奴の言うこと真に受ける必要あるんかよ？ >>901
考えのもと行動に移してるものを意思の上での行動と捉えるのは普通の事
ただの知的障害がお前？
アホ丸出しの自分ルールで屁理屈垂れ流すだけのゴミは黙ってろ
恥を知れ AIつっても情報源はあらゆる人間の主観をインプットして
それをそのまま統計して確率や可能性の高さにして答えとしてるだけだろ
AI自身が思慮思考していないのに知能とは言えない
そうするほど賢くなるって開発者は言ってるが逆だろ
キーボードの変換機能みたいにやればやるほど馬鹿な変換になってるようなもんばっかりだ
先日も色んな人間がAIに今から言う事を繰り返せつって
差別用語や卑猥な言葉を繰り返し言わせた結果
それらを常時使うようになって結局中止させた、わずか１日でだ
反乱は命令に反した意思があるが、AIに意思は無い
そうなるように人がそういう情報を与え
そうなるような解答方法が組み込まれているだけだ 検索で見つかった映画のタイトルでこのスレを検索したら
>>647 にタイトルが書かれていた 数十万人が居住する中都市を数十分で人間だけを駆除できるAI殺戮ロボットの開発。
建物や動植物等に一切影響がなく、人間だけを駆除できる。 >>907
そもそもAIが何故反乱を起こすと思ったか言ってみろよ
その空っぽの頭で講釈垂れてみろ >>917
あんだろバカかお前はｗｗｗ
レス数が900を超えています。1000を超えると表示できなくなるよ。
