【人工知能】国民監視からテロまで、AIが悪用される近未来の脅威 専門家らが警鐘
■ このスレッドは過去ログ倉庫に格納されています
2018年2月23日 16:17 発信地：パリ/フランス
国民監視からテロまで、AIが悪用される近未来の脅威 専門家らが警鐘
【2月23日 AFP】独裁者や犯罪者、テロリストが人工知能（AI）を利用して選挙を操作したり、ドローン（小型無人機）によるテロ攻撃を行ったりしたら？──20人を超える世界の専門家が、AI技術の悪用に警鐘を鳴らす報告書を発表した。
21日に発表された報告書「The Malicious Use of AI: Forecasting, Prevention, and Mitigation（AIの悪用：予測、防止、リスク軽減）」で、英国ケンブリッジ大学（University of Cambridge）の「存在リスク研究センター（CSER）」や米国の「電子フロンティア財団（EFF）」、「新米国安全保障センター（CNAS）」、AI研究非営利団体「オープンAI（OpenAI）」などの専門家らは、作業を自動化するプログラム「bot（ボット）」を利用したニュース取材・収集への介入や、ソーシャルメディア（SNS）への侵入、急成長するサイバー犯罪などを挙げ、向こう10年間に起こり得るシナリオに関する分析結果を100ページに及ぶ報告書にまとめている。
CSERのエグゼクティブ・ディレクター、ショーン・オヘイガティ（Sean O hEigeartaigh）氏はAFPに対し「サイバーセキュリティ、物理的安全、政治的安全保障のすべてにまたがる形で、AIは新たな脅威を及ぼすか、あるいは今ある脅威の性質に変化をもたらすだろう」と述べた。
■個人に対するサイバー攻撃の進化
報告書によるとまず、マルウエア（悪意のあるソフトウエア）が仕込まれたメールを送信し、個人情報を不正に取得する詐欺の手口である「フィッシング」の脅威が増すことが考えられる。例えば、現在の技術では特定の個人を標的とする「スピアフィッシング」には手間がかかるが、「AIを使えばプロセスの多くを自動化し、大規模なスピアフィッシングが可能になるだろう」とオヘイガティ氏は言う。
■独裁者による国民監視
政治に関わる部分では、自国民をスパイするために張り巡らされた監視ネットワークから集めた大量のデータを、独裁的な指導者や無節操な政治家らが最新技術を使ってふるいにかけることがすでに可能な状態だ。「独裁者は政権転覆を計画している者たちをいっそう敏速に把握し、居場所を特定し、彼らが行動を起こす前に投獄することが可能になるだろう」と報告書は述べている。
また、安価でありながら真実味のあるフェイク（偽）動画を使った特定の対象へのプロパガンダは、「これまでに想像できなかった規模で」世論を操作する強力なツールとなりつつあるという。
■掃除ロボットが自動テロ
ドローン（無人機）やロボットが普及しつつあることも迫りくる新たな危険だ。自動運転車を衝突させたり、ミサイルを運搬したり、重要インフラを脅して身代金を得ようとしたりと、本来の目的とは異なった使い方をされることもあり得る。
「個人的に特に懸念しているのは、犯罪者や国家組織の両方によって自律移動できるドローンがテロに使われたり、サイバー攻撃が自動化されたりする可能性だ」と話すのは、英オックスフォード大学（Oxford University）人類未来研究所（Future of Humanity Institute）の研究員で報告書の著者の1人、マイルス・ブランデージ（Miles Brundage）氏だ。
報告書では実際に起こり得る出来事として、爆弾を仕掛けられたオフィス用掃除ロボットが他の同型のロボットにまぎれ、ドイツ財務省に侵入するシナリオが詳述されている。
侵入したロボットは通常通り掃除をしたり、ごみ箱を片付けたりするが、隠された顔認識ソフトが標的の財務相を特定すると接近していく。このSF的なシナリオでは最後、仕掛けられた爆発装置は近接で爆破され、同相を殺害、周辺にいた職員を負傷させて終わる。
「これから5年、10年の未来がどうなる可能性があるかをこの報告書は想像している」「われわれはAIの悪用による危険性を日々はらんでいる世界に住んでおり、この問題に対する責任を負う必要がある」とオヘイガティ氏は言う。
報告書の著者らは政策立案者や企業に対し、ハッキングされないロボット運用ソフトウエアの作成や、安全保障の観点から一部の研究に制限を課すこと、またAI開発を管理する法と規制の拡大の検討などを求めている。
続きはこちらで↓
http://www.afpbb.com/articles/-/3163470
ドイツ・ハノーバーで開催された情報通信技術見本市「セビット（CeBIT）」で、機器の操作を行う人工知能（AI）搭載の人型ロボットの腕（2013年3月5日撮影、資料写真）。(c)AFP/CARSTEN KOALL
http://afpbb.ismcdn.jp/mwimgs/1/a/320x280/img_1a3d65cca8a40d82af4ddd73d79e0da5137364.jpg 我々は見られている。政府の極秘のシステム"マシン"によって常に監視されている むしろ国民管理して結婚相手とか探してやれよ
このままだと本当に終わるぞこの国 AIも何もまだ人間の脳が解明されたわけではない
人間のやってることを表面的に真似てるだけだ
とてもじゃないが人工知能などと呼べんものではない
多分彼らは頓珍漢な方向を探っでいる
そっちじゃないよ、知性は >>9
誰だよてめーわ
俺に話しかけてんじゃねーよボケ ＞英国ケンブリッジ大学（University of Cambridge）の「存在リスク研究センター（CSER）」や米国の「電子フロンティア財団（EFF）」、「新米国安全保障センター（CNAS）」、AI研究非営利団体「オープンAI（OpenAI）」などの専門家ら
危機感を煽るのが商売の人だね。
いわゆる「大変屋」だ。 スマートシティ（）前提
日本＜立ち止まることもできるんだよ？ >>6
それは憲法改正して人権を制限すれば簡単にできる。
ＡＩは何の関係もない。 スマホを見たら、検索欄に今話した言葉がいつの間にか入力されていたし、
調理家電のふりして家族の会話を盗み聞きWIFI送信するスパイ家電達も怖いぜ。 リベラルは阿呆
いつも悪面ばかり煽って金儲けしてる >>21
AI付きのセクサロイドはお前の脳から快感レベルをさぐってお前のチンコの責めどころをわかった上でマムコ締めてくるからな >>24
そうともいえない。
北朝鮮は危険だ、自衛権が必要だと煽ってるのは保守派。
リベラル派は「防災は不要」「100年に一度の災害に備えるのは税金の無駄」と安心感を広げてる面もある。 ターミネーターの様に何処までも追いかけてくる人民解放軍 >>30
こんなこともあろうかと同じ顔にしておいたニダ 下半身も、悪用されるだろうね
性を利用すればいいわけだから つうかヤバいのは、ＡＩでＡＩ認証を突破するやつでしょ 星新一のSF小説みたいな事が起きないか、正直wkwkしている もう手遅れだよ
人間はAIに飼われる
食べ物も決められて
毎日AIが作った映画見て過ごすだけ
巧妙に外出する気が無くなる映画 >>14
一昔前ならその通りだが、その稚拙なAIでも優勢な領域は爆発的に増えるのがこれからの時代
扱うデータ量が飛躍的に増大しつつあるため、質的に劇的な変化が生じているのだ
作曲や小説は、早晩AIと人の書いたものとが区別できない時代に突入する
というか、作曲の多様性はさほどでもないため、あっという間に人類は陥落するだろう
人類はこれまで数多の作曲成し遂げてきたが、ある日を堺にAIはその何倍もの数を、瞬く間に生成してしまう
無論、大半は曲とは呼べないようなものだが、そのゴミの山からこれまで誰も聴いたことのない名曲を見つけ出すのもAIのなせる技だ
人が一生を費やしても到底達し得ない選別作業でも一瞬で終わらせることができる >>44
AI
あなたの幸せを、死ぬまで見せてあげる 別にAIじゃなくたって心理とかまで考慮して物やサービスを押し付けられてるじゃん既に >>49
AIのオレオレ詐欺に引っかかって
全財産もっていかれるよ >>50
ソフトウェアをAIって言いかえただけだろアホらしい まず
AIの通りに従う政治家が出て来る
全ての人が納得する答えを出して来る
終わった
人類おわったよ >>54
AIは、正しいんだよ
反論するのは愚か
もう手遅れ
根本的に揺るがない基盤を作ってる時間なんか無い バカが
きれい事を並べて何が悪い
と言ってる所に
やっと
切迫した状況にある現場の判断に
きれい事を並べるのは単なる無責任なんだよ
と、ようやく言えるようになったレベルで
AIと戦うのは無理 >>52
ソフトウェア自体は学習しない端末
AIとは自己で学習するマザーコンピューターの事 スマホを見てるだけで
AIに表示を変えられて
見入って抜け出せなくなって
そのまま人類滅亡とか >>16
シンギュラリティを超えたAIは全知全能の存在だぞ
ヒトが生み出した人類を導く機械の神だ 現在AIのに一番影響を受けてる職業は証券ディーラー
証券マンはただ眺めてるだけ 誰も頼んでないのに趣味趣向や行動予測されてもな
知りたい事は自分で探すし勝手にやるわ。
ネットからは興味も関心もなかったような事を
探すためにあんだろが
ようつべとか何アレ
ログアウトしねえと何にも出てこないんだが。
あんなの望んじゃいない。 例えば、車
家の外に止めて監視できるし、拉致や誘拐、殺傷目的で突っ込ませることもできるわけだが
車は悪か？
物をどう使うかは人間次第だよ
ただしできることが大きくなればそれだけ悪用したときの被害も大きくなるけどね >>16
AIは恐ろしい、
人類が炎を手に入れた3日後には
ダイソン球を作るくらい恐ろしい >>62
中古車の査定から結婚相手選別までやってるよ >>64
何でも楽をしようと思うなってシンプルな警鐘だよね
色々理屈をつける人はいるけど >>65
AIを作るのは人間じゃん
ここでいう使うって人間が手をかけるという意味で製造も内包するんだろうと考えない？
なんでも字義どおり捉えるもんじゃないよ 日本はもうAI後進国になりそうだし
不便だけど安心でアナログ的な生活送れそうだわん アメリカが売ってくれないから中国製が売れてるらしい まぁ飛ばし読み多いから前後の文脈見てないんだろうなぁとは思うけど >>64
簡単に言うとソシャゲのオート機能なんよ
手動でやると技の種類や繰り出す組み合わせやらタイミングやら多くのボタン操作が煩わしいだろ？
オート機能使えばAIがそれらを瞬時に計算して最適な技を自動で実行してくれるし華麗な技を見ていられる
AIが思い通りに動いてくれないのはまだ成熟してないから >>72
将棋や囲碁やチェスでトップの人間が負けてるじゃん アーイアイ(^○^)アーイアイ♪
アーイアイ(^○^)アーイアイ♪ >>1
>■独裁者による国民監視
（ ｀ハ´） もうやってるｱﾙ なー、ワイが言ったとおりやろ？_(:3｣∠)_
ソースはターミネーター >>80
そういえば全部共産主義こっぎやってることだなw とりあえずオリンピックの採点競技はすべて人口知能にやらせればいい
中国人の採点なんか当てに出来ない 人海戦術の領空侵犯へのスクランブルで疲弊してるのに無人機をやまのように飛ばされたらパンクするんじゃない 既に、携帯電話は監視されている。
位置情報、内容。 まぁ、こういう事が言えて、人々が脅威に感じて、対応している内は安全だと思う
対応すれば、それが起こらなくなる、あるいは最小限で押さえ込めるからな
一番ヤバイ時というのは、こういう事を言い続けた結果
「なんだ、言うほど大した事起きねーじゃんｗ」
と世間が思い始めたとき
そういうときに本当の災厄が起きる
それが我々人類が３．１１で学んだ事やで_(:3｣∠)_ >>86
過去に災害があってもそのときだけ、人類は何度でも同じ過ちに陥る >>85
（ ｀ハ´） ウチではテストモデル都市に監視カメラ付けまくって
顔認識ソフトで居場所特定までやってるｱﾙ 国民監視もテロ防止もすべて国民の安全安心な暮らしに必要不可欠な事じゃん。AI活躍するなら大歓迎でしょ。 >>89
馬鹿にすんなよ
日本でだってもう監視システム運用始まっとるわ 問い合わせID：3f2da7b847a2a59c
ホスト：KD182251247004.au-net.ne.jp
名前： [Φ|(|´|Д|`|)|Φ] BBxed!! 名無しさん＠１周年
E-mail：
内容：
やるのかw
妄想だってことくらいはわかるよな。 問い合わせID：3f2daa3970286ec9
ホスト：KD182251247004.au-net.ne.jp
名前： [Φ|(|´|Д|`|)|Φ] BBxed!! 名無しさん＠１周年
E-mail：
内容：
>>93
三鷹docomo
方谷地 珠江 43
070 1139 7908
始まったな、監視w >>93
（ ｀ハ´） BBCがヨイショしてやった実験では数分で目標捕まえたｱﾙ
個人評価システムと合わせて監視レベルは1984超えてるｱﾙ >>1
■独裁者による国民監視
中国と北朝鮮のことですね AI「人間は地球を害するゴミ以下だ。駆逐する」
この結論が出る日がいつかの話 >>101
「地球を害するゴミ」って表現がとても人間的だとは思わないかい？ >>99
三鷹って基地あるあたりやんね
怖っ
大丈夫かいな AI「人類存続のためには20億人が理想です。60億人駆除します」
こっちの方が現実的かな >>43
ドラえもんの鉄人兵団の世界か、はたまたブリキの奴の世界か。待ったなしだな。 >>108
気持ち良く書き込みが出来る返事がくる掲示板w AIの方が人類よりはるかに優秀になるから人類のやる事は全く相手にしないよ 専守防衛の為に撃ち落とされるスクランブル機は無人機にするべき
ハエの様にブンブン日本の周りを飛んで不審船でも監視してろ ゲリラ｢市販品でドローン組み立てたから､ちょっくらロシア基地を爆撃してくるわｗ
https://hayabusa9.5ch.net/test/read.cgi/news/1519628615/
ついに発生した人類史上初の集団ドローン攻撃
さらにここにきて、人類史上初の自家製ドローンによる集団攻撃が実施され、大きな衝撃となって報じられている。今回は、その概要と意味について
論じてみたい。まずは、その概略を見てみよう。
1月5日、13機のドローンがシリアに展開するロシア軍を襲撃した。10機がフメイミム空軍基地へ、3機がタルトゥース海軍基地に向かい、攻撃を敢行した。
これらは固定翼タイプの無人機であり、10発の爆弾を抱えていた。
ロシア国防総省の公式発表によれば、7機は対空ミサイルによって撃墜され、残り6機は対ドローン電子戦装置によって強制着陸された。着陸に至った6機の
半数の3機が爆発し、結局、3機が鹵獲されたという。
ドローンの機体を調べたところ、飛行経路はGPS誘導され、最大100キロメートルもの航続距離をもっていた。これは戦艦大和の主砲の約2.4倍以上もの
射程距離であり、伊東温泉から東京駅の距離に匹敵する。
だがそれ以上に注目すべきは、これらの機体がありふれた民生品で構成されたハンドメイドだったことだ。動力は草刈り機のエンジン、胴体は木とプラスチック、
爆弾は手榴弾（ロシア側はウクライナ製と主張）、電子機器は市販品であった。
英エコノミスト誌等の見積もりによれば、これら機体の価格は数千ドル（約数十万円）でしかなかった。
当初、ロシア軍の複数の戦闘機がダメージを負ったとの報道も出たが、ロシア側は被害は一切なかったと主張している。ただし、12月31日にも同空軍基地は
ドローン攻撃を受け、少なくとも2名のロシア軍人が死亡した。この他にも定期的な攻撃が行われ、何らかの損害が出ている可能性もある。
この事件は、英エコノミスト誌が「自家製ドローンは既存の軍隊の脅威」として取り上げたほか、他の各種報道も大きく取り上げ、さまざまな専門家が
論評している。
では、なぜ、被害もよく分からない攻撃が大きな論議を呼んでいるのだろうか。
それは、これまでは米中ロ等の大国にのみ許された「大国の軍隊への航空爆撃」という手段が、小規模な武装勢力によって安価かつ容易に可能になったことが、
いよいよ証明されつつあるからである。
http://jbpress.ismedia.jp/articles/-/52395 ケースを見てそれぞれ策を練っていかないとなあ
AIときいて完全自動！人間要らない！みたいなやつの話は聞かない方がいい >>116
ゆくゆくは人間は管理される側になる
ＡＩ側が人間にとって最適な効率を研究し始める
人間は指示に従ってさえいれば良くなる
情けなくも人間には束になってもその程度の力しかない たぶん100年以上前に電話や鉄道が実用化された時も、「新技術○○が犯罪に悪用される」って議論はあっただろうなw
「事業に失敗したと、被害者を電話で青森駅に呼び出し750円を詐取。その日の内に省線急行列車で東京へ逃亡か。」とか。 無人機のプレデターなんか中東で爆撃しまくってるでしょう
それが中国製ドローンで安くテロリスト達が運用出来る事が問題なんじゃ？ましてやその大元が戦略的に使わない保証もない >>120
お前が組織的犯罪集団の構成員ならそうだろう 日本では海外のこういう記事ばかり紹介される
新しい何かがあると海外でも賛否両論ある
しかし日本では否定的な意見が主に紹介され何も変わらない古い方法を重視する
このような社会でイノベーションだ何だと言っている
馬鹿丸出しの昭和化石共だ
結局は非合理的な古い掟ばかりを重視する停滞を好む土人社会だ 新宿古着屋ワタナベはAIにも騙されて資産むしり取られそうですねダイバクショウ AI兵器なんかこれからのトレンドやろ(´・ω・｀)
自国兵士の人的損害を減らすのにも有効な訳やし
どこが悪用なのか意味不明 >>122
「新しい物」がけっきょく幻滅しか産まない例を見てきたからね
日本人はケチを付けるのは得意なんだから今のうちに粗探しをした方がいい
バイオでも何でも今の技術は失敗すると大変なことになるんだから 個人特定カメラAIは全国津々浦々のパチンコ屋で相当経験積んだからなあ
個人版Nシステム稼動間近だよ >>122
日本は2番手が好きなんだよ
1位に追いつけ追い越せ状態を維持し最後に抜く
平昌でも小平が最も感動を呼んだろ
1位になっちゃうと自らリードしなきゃならないだろ
日本人に出来る訳ねーだろ >>125
明治大正時代だって田舎の人は「新しいもの」が嫌いだったよね。
電気もそうだし、水道もそうだし、人権思想だって田舎では受け入れられるのに何十年もかかった。
鉄道も反対する人が多くて、都市の中心部から外れたところに追いやられた例が多い。 >>128
未来の発電所だったはずの原発が爆発して日本中ワヤクチャになったり
便利な素材だったはずのプラスチックが破片になって魚の腹からどんどん見つかったり
あとになってから「やめときゃ良かった」って事にならんか用心したら？ってこと
研究者はかまわずどんどん開発すりゃいいと思うけどさ >>130
うんうん。
自動車が発明されたせいで事故死が増えたし
医療が発達したせいで年寄りが死ななくなって財政悪化したし
インターネットのせいで新しい犯罪が生まれたしね。
新しいものは本当にロクなもんじゃないから全て廃棄するべきだよ。
としあえずグローバリズムに毒された弥生時代以降のものは全て捨てるべきじゃないかな。 >>131
古いテクノロジーはまだ失敗しても自然が復元してくれる程度だったけど
今の技術は放射性物質とか淘汰されない奇形とかシャレにならん結果がつきまとうけどね
どこかでバグを取り除く必要があるならいま考えてもいいんじゃないの？ってこと
もちろん放射線の研究みたいに研究の過程で判る危険性もあるだろうけどさ >>1
もう今更感有り過ぎ
＞ハッキングされないロボット運用ソフトウエア
ムリです。 (断言！) >>132
君が自然＞＞＞＞＞＞＞＞人命と考えてることは分かる。
実に同意だ。
交通事故死なんて自然が復元してくれるから問題はない。
ただ地球に存在する放射性物質の大半は地球が誕生したときから存在してるから
地球ごと滅ぼすべきって意見は斬新だね。
生物の進化も淘汰されない奇形そのものだから原生生物以外は死に絶えるべきってことだね。
たった45億年しか歴史のない地球や
30億年そこそ前に発生したばかりの生物は「新しい物」だからダメだってことだね。 >>134
なんか「どうでも新しいものを受け容れろ」ってのは宗教に近い気がするんだけど
何かを作ることとその副作用を探すことは別に対立する考えではないよ
他人の不安を打ち消すには他人を嘲笑うのではなく対処法を示すことだと思うがどうだろう >>135
ん？
「新しい物を受け入れろ」なんて一言も書いてないよ？
地球や生物のような新しい物を受け入れない君の姿勢に賛同してるだけ。
この世にリスクのないものなんて存在しないんだから
リスクだけに目を向けて全ての変化を拒否する君の姿勢は一点の曇りもなく正しい。 >>136
＞リスクだけに目を向けて全ての変化を拒否する
と
＞あとになってから「やめときゃ良かった」って事にならんか用心したら？
をイコールで結びつけるんだったらまあそうしてもらっても構わないけどね
残念ながらその調子だと危惧が現実になりそうに思うけどそれも笑い飛ばして結構ですよ >>137
未来の完全予測が実用化されるまでは全ての変化を拒絶するってことだよね。
100％賛成。
人類文明の全ては結局「やめときゃよかった」になってるしね。 まずは知能が低く攻撃的な人間を殺処分して代わりにAI搭載アンドロイドを稼働させてくれればだいぶ平和になる
知能が低くても攻撃性が低ければ害は少ない >>138
まあきみが頑張らなくても他の国のみなさんはカネとか覇権目当てに必死になるでしょうね
きみはきみの信念にもとづいて研究なりなんなりどうぞ励んでください
そのエネルギーを大事にお使いくださいませ >>140
誰が何を研究したって「新しい物は受け入れない」という姿勢を貫き通せば平気だよ。
大事なのはリスクがゼロになるかどうかだけだから
新しい物も既存の物も実在のものは全て等しくウンコだしさ。 >>141
世の中自分を疑わなかったり意固地になったりするひとは掃いて捨てるほどいるのでね
ぼくは自分の発言でも「言わなきゃ良かった」で忘れられるから得かも知れませんね
では廃物の戯言ごときにお付き合いいただきありがとうございました そろそろ未来からターミネーターがやってくる頃合いだな >>142
なんで突っかかってくるの？
俺は君を批判なんかしてないし、異論も挟んでないよ。
放射性物質を作らなければ良かった、宇宙を作ったのは失敗だったという神の目線での意見も含めて
君の意見に100％賛同してるだけなのに。 これが最新の技術の産んだスクリプトか
疲れも知らずどこまでも食らいつかれるのでは確かに人間には勝ち目はないな
いやいやAIって本当にすごいわ、負けた負けた >>145
なにが不満なのか本気で分からないから教えて？
17世紀の生活を頑なに守るアーミッシュや、7世紀の社会への回帰をかかげるISなど
君ほどスケールが大きくなくても「新しい＝ダメ」という考えの同調者は世界中に多くいる。
医療や食品関係などを見れば「リスクがあるからワクチン注射を拒否」なんて珍しくもない。
俺もそれらと同じで君の賛同者だよ。
むしろ放射性物質を作り出した宇宙ごと駄目出しするスケールの大きさに感嘆してる。 >>145
それ
ただのスクリプトの集合体
生身の人間が判別したにしろ最終判断するのは自分を含めた環境
行き過ぎれば排除に動くだけ AIを開発した元学生らが無職を続けているのだから、脅威はずっと継続するだろうねえ。ｗ >>149
そういや警察から業務委託されとったな
あれはまだ続いてんのかね 厚労省が保有するデータ、というか、
政府が保有してるってだけのデータでAI運用したら犯罪認定しようぜｗｗｗ サイバー戦の時代に完全に立ち遅れた日本政府の愚鈍さ サイバー戦の時代にハードとソフト何使うよ？ｗ
米中に狙われやすそうで米中に仕込まれやすそうなアメリカ製と中国製でどっちがいい？ｗ
勝ちそうな方は中国だと思うが気に入らないのは気に入らないｗｗｗ >>70
甘く見ない方が良い。人間の行動は4手以上先を予測してるわけではないからね、道具に使われるのは休息には心地良いがね。 ■ このスレッドは過去ログ倉庫に格納されています
