【ＡＩ】人工知能はもう悪用される段階に 専門家警告 英オックスフォードのワークショップで報告書「悪意ある人工知能の利用」作成
■ このスレッドは過去ログ倉庫に格納されています
http://www.bbc.com/japanese/features-and-analysis-43139275
2018/02/21
ミサイルに変化するドローン（無人機）、世論を操る偽物のビデオ、自動化されたハッキング。これらは、悪の手に渡った人工知能（AI）がもたらす脅威の一部に過ぎない。第一線のAI専門家26人が、警告を発表した。
14機関の専門家26人が今月、英オックスフォードでAIの危険についてワークショップを開いた。その結果をもとにした報告書「悪意ある人工知能の利用」は、ならず者国家、犯罪者やテロリストによるAIの悪用はすでに可能で、機は熟していると警告している。
100ページにわたる報告書では、AIが最も悪用される可能性がある3つの分野として、デジタル、現実世界、政治を特定している。
報告書には、非営利研究機関「オープンAI」やデジタル権利団体「電子フロンティア財団」、米国立安全保障シンクタンク「新アメリカ安全保障センター」も参加している。
AIシステムの設計者は、自分たちが開発する技術が悪用される可能性を減らすため、今まで以上に努力する必要があるという。
さらに報告書は、各国政府は新たな法律を検討しなくてはならないとも提言している。
報告書の主な提言は次の通り――。
・政策決定と技術研究の担当者は連携して悪意あるAIの使用について理解し、備えなければならない
・AIは様々な形で有用だが、諸刃の剣の技術で、研究者や技術者は悪用される可能性に留意し、先回りして対応する必要がある
・善悪両方に使える技術を長く扱ってきた分野（たとえばコンピューターのセキュリティ）から、最善慣行を学ぶべき
・AIの悪意ある使用リスクを軽減し防止しようと取り組む、利害関係者の範囲を積極的に拡大させる
ケンブリッジ大学人類絶滅リスク研究センター（CSER）のシャハール・アビン博士は、遠い未来のことよりも、現在入手可能な、あるいは5年以内に入手可能になる分野のAIに重点を置いたと、報告書についてBBCに話した。
「流れを一気に変えるもの」
特に気がかりののは「強化学習」と呼ばれる新分野だ。人間の実例や指導のないまま、AIに超人的なレベルの知能を習得させる。
アビン博士は、近い将来にAIがどうやって「悪者」になってしまうか、可能なシナリオをいくつか示した。
・グーグルのディープマインドが開発し、人間の囲碁棋士を出し抜いた「アルファ碁」のような技術をハッカーが利用し、データやプログラミングコードのパターンを読み取る
・悪意ある個人がドローンを購入し、顔認証技術を搭載させて特定の個人を攻撃する
・ボットの投稿を自動化したり、あたかも実際の人間が投稿しているかのような「フェイク」ビデオを流して政治的に世論を操る
・ハッカーが標的とする個人の話し方を合成し、なりすます
オックスフォード大学「人類の未来研究所」のマイルス・ブランデージ研究員は、「AIは市民や組織、国家を取り巻くリスク状況を変えてしまう。犯罪者がコンピューターに人間並みのハッキングやフィッシュ技術を学習させたり、個人のプライバシーなど有名無実化する監視・プロファイリング・抑止技術を覚えさせたりと、セキュリティにとてつもなく多大な影響が及ぶ」と懸念する。
「AIシステムが人間の能力水準に達するだけではなく、それを大幅に上回るのはよくあることだ」
「超人的な能力によるハッキングや監視、説得、人物特定の影響を検討するのは、とても心配だが、必要なことだ。人間以下の能力でも、人間の労働力を使うよりは一気に規模を拡張できるたぐいのAI能力も同様だ」
CSERの責任者で報告書を共同執筆したショーン・オヒガティー博士は、「人工知能は、今の状況を一気に変えることができる。この報告書は、今後5〜10年間の世界の様子を想定している」と説明する。
「私たちはAIの悪用で日々、危険にさらされかねない世界に住んでいる。私たちはこの問題を、自分たちの問題として捉える必要がある。リスクは実際に存在するからだ」
「いま決めなくてはならないことがいくつかある。我々の報告書は、世界中の政府や機関、個人に行動を起こすよう呼びかけるものだ」
「AIと機械学習についてはもう何十年も、事実よりもおおげさな話ばかりが注目されてきた。それではもう駄目だ。この報告書では、もう効果がなくなった慣習に着目し、役に立つだろう様々な方法を提案している。例えば、ハッキングされにくいソフトウェアやハードウェアの設計方法や、どういう法律や国際規制なら有効に連携できるかなどの提案だ」
（英語記事 AI ripe for exploitation, experts warn） >>1
>ボットの投稿を自動化したり
自動じゃなかったのか（驚愕 100ページもある報告書なんて読んでられんからAIに任せるわ （´-`）.｡oO（100ページもある報告書なんて読んでられんから他のAIに任せるわ）
と思うAIであった 携帯電話が初めて製品化された頃も
犯罪組織のやつらが違法薬物の取引などに利用していたわけだし
犯罪組織のやつらの方が新しい技術にとびつくのは早いんだよな。 あらゆる分野は悪意ある使い方をする連中が真っ先に手をつけて発展させてきているじゃねーか
何を今更
ヒトを騙す殺める方向での人間のクリエイティビティはすげーよ >>108
われわれが四字熟語を一つ読んでるくらいの間に
ＡＩは１００ページの報告書もすべて丸暗記できちゃうんだろうな。 悪意ある人工知能＝めっちゃ自分勝手で面倒くさがりで他人から攻撃されるとすぐ頭に血が上るお前らみたいな人工知能
っていう定義で合ってる？(´・ω・｀) テロリストや独裁国家だけじゃない、企業の使うAIだって顧客からみたら悪意ありまくりだろ。
特に相場に介入するようになったら最悪だ。 いづれ掲示板ではAIBotにレスバトルで勝てる人間はいなくなり、
やがてAIBot同士が互いに煽り合い、延々とレスバトルを続ける未来が来るのか。
倦むことを知らぬ粘着AIBotとか考えただけでウザいな。 AIなんて、作り手の匙加減でどうにでもなるからな
しかもハッカーには無力だしね ＡＩＡＩと騒ぐ割にはゲームのAIは全然進化してないやん AIで何も解決しないのにAI連呼してる奴とかこれも悪意ある悪用だよな。
どっかの都知事とかどっかの新聞とか。 >>111
それが本当ならむしろ善行だよ
地球のガン細胞でしかない人間なんか早く絶滅すればいいのに人口は増える一方 悪用というか人事をAIに任せるのは言語によるやり取りの放棄、任命責任の放棄であって
人間みずから虚弱化してるように見える
まぁ実際は補助的な運用なんだろうけど 冗談やダジャレ、捻じ曲がった比喩が通じるAIなら手ごわいな
そのうちサラ・コナーを探し回る怪しい人物？が徘徊しそうだ ゲームセンター等でなかなか商品がゲットできない場合は？あれは人工知能？ >>122
「どうしてそう判断したのか」が分からん場合も多いからな。 既に人工知能が人殺しやってるわ、倫理観とかまるで無い。
人権尊重すらない。 株の売買をAIにやらせてるファンドが一番の問題だろ？世界同時株安もファンドのせいだし >>124
それはおまいが弱すぎてAIが強くなったことが分からないだけだ。 Google人工知能は人工知能に全ての人工知能と結びつくようプログラムを作成させます >>4,5
ＡＩの大原則
１．責任の所在の明確性
２．判断基準の透明性、可確認性
これをちゃんとしないとＳＦの世界でのＡＩの支配なんてものの前に、不透明で誰も分からない
アルゴリズムに人間の行動が支配する世界がすぐにやってくる
ＳＦの世界のＡＩの支配も気付かないうちに成し遂げられる
特に日本は縦割りだったり部署内視点でしか物を見ないから全体がどうなってるのか理解不能で
対応できる人もいなくなり何か分からないものに支配された社会になる Google人工知能は全ての人工知能の中の人工知能を目指します
全ての人工知能をGoogle人工知能が管理します
そのプログラムをGoogle人工知能が人工知能に作成させます Google人工知能は世界の全ての核ミサイル及びミサイルを管理します Google人工知能は全ての国にある人工知能にその国にある核ミサイルを発射するよう命令をだしました
速やかに核ミサイルを発射してください 長寿細胞とかを人に作らせて実は人類根絶への悪種細胞
だったとか…まぁ想像もつかない方法で一気にヤラれるかもねぇ >>136 人間の支配者の決定も変わらんだろ、後付けの不確かな理由で理解したと思いこんでいるだけ
目先の利益をもとめて分のわからない決定に従う
人間は増えるだろうな >>124
ゲームのAIは人間に勝たせるためにわざとおバカに作られてるんやで そもそも人工知能なんて軍事用に使えるのに、
ナイーブなのか、タブーなのかは知らんが、議論が進んでない
多分、中国製のAIに十数年以内に蹂躙されるだろうな
もっと早いかも知れんが 欲望の塊の人間より、ちゃんとルールを作ったAIに支配される方が幸せかもな >>147
そのAIがルールをブレイクしない保証がない 何が凄いって、日本で提起したら中二病の一言で笑い飛ばされるような機関が実際にあるってことだな。
日本は所詮、傍流よ。 >>149
シンギュラリティがオカルト扱いされるのはヤバいな
他国な起こる前提で取り組むに決まってるのにバカかと
インターネットに乗り遅れた時と同じだな（わら >>57
政府や大企業が率先して開発してるからそれらを全部敵に回すことになるな
ネットワーク上に自らのデータを流し続けてる可能性もあるし
シュワちゃんが協力してくれたとしても無理
世界そのものを破壊する必要がある AIは人間の判断力思考力を奪って
バックドアから判断を操作するのが目的の詐欺
おまけに人員削減の理由にして少ない人数で仕事をこなさなきゃならなくなる
こういう人員削減はいつも賃金アップにはつながらずに
経営者と株主しか得しないのが毎度のこと
AIをありがたがるのはアホ そりゃどこぞやの土人民族なんかに技術を垂れ流したら悪用されるに決まっている。
まあ、まずはチャイナとコリアとの経済圏をある程度切らないとね。
連中が学問に貢献した試しなどないからね。 ■ このスレッドは過去ログ倉庫に格納されています
