【AI】人工知能はもう悪用される段階に 専門家警告 英オックスフォードのワークショップで報告書「悪意ある人工知能の利用」作成
■ このスレッドは過去ログ倉庫に格納されています
http://www.bbc.com/japanese/features-and-analysis-43139275
2018/02/21
ミサイルに変化するドローン(無人機)、世論を操る偽物のビデオ、自動化されたハッキング。これらは、悪の手に渡った人工知能(AI)がもたらす脅威の一部に過ぎない。第一線のAI専門家26人が、警告を発表した。
14機関の専門家26人が今月、英オックスフォードでAIの危険についてワークショップを開いた。その結果をもとにした報告書「悪意ある人工知能の利用」は、ならず者国家、犯罪者やテロリストによるAIの悪用はすでに可能で、機は熟していると警告している。
100ページにわたる報告書では、AIが最も悪用される可能性がある3つの分野として、デジタル、現実世界、政治を特定している。
報告書には、非営利研究機関「オープンAI」やデジタル権利団体「電子フロンティア財団」、米国立安全保障シンクタンク「新アメリカ安全保障センター」も参加している。
AIシステムの設計者は、自分たちが開発する技術が悪用される可能性を減らすため、今まで以上に努力する必要があるという。
さらに報告書は、各国政府は新たな法律を検討しなくてはならないとも提言している。
報告書の主な提言は次の通り――。
・政策決定と技術研究の担当者は連携して悪意あるAIの使用について理解し、備えなければならない
・AIは様々な形で有用だが、諸刃の剣の技術で、研究者や技術者は悪用される可能性に留意し、先回りして対応する必要がある
・善悪両方に使える技術を長く扱ってきた分野(たとえばコンピューターのセキュリティ)から、最善慣行を学ぶべき
・AIの悪意ある使用リスクを軽減し防止しようと取り組む、利害関係者の範囲を積極的に拡大させる
ケンブリッジ大学人類絶滅リスク研究センター(CSER)のシャハール・アビン博士は、遠い未来のことよりも、現在入手可能な、あるいは5年以内に入手可能になる分野のAIに重点を置いたと、報告書についてBBCに話した。
「流れを一気に変えるもの」
特に気がかりののは「強化学習」と呼ばれる新分野だ。人間の実例や指導のないまま、AIに超人的なレベルの知能を習得させる。
アビン博士は、近い将来にAIがどうやって「悪者」になってしまうか、可能なシナリオをいくつか示した。
・グーグルのディープマインドが開発し、人間の囲碁棋士を出し抜いた「アルファ碁」のような技術をハッカーが利用し、データやプログラミングコードのパターンを読み取る
・悪意ある個人がドローンを購入し、顔認証技術を搭載させて特定の個人を攻撃する
・ボットの投稿を自動化したり、あたかも実際の人間が投稿しているかのような「フェイク」ビデオを流して政治的に世論を操る
・ハッカーが標的とする個人の話し方を合成し、なりすます
オックスフォード大学「人類の未来研究所」のマイルス・ブランデージ研究員は、「AIは市民や組織、国家を取り巻くリスク状況を変えてしまう。犯罪者がコンピューターに人間並みのハッキングやフィッシュ技術を学習させたり、個人のプライバシーなど有名無実化する監視・プロファイリング・抑止技術を覚えさせたりと、セキュリティにとてつもなく多大な影響が及ぶ」と懸念する。
「AIシステムが人間の能力水準に達するだけではなく、それを大幅に上回るのはよくあることだ」
「超人的な能力によるハッキングや監視、説得、人物特定の影響を検討するのは、とても心配だが、必要なことだ。人間以下の能力でも、人間の労働力を使うよりは一気に規模を拡張できるたぐいのAI能力も同様だ」
CSERの責任者で報告書を共同執筆したショーン・オヒガティー博士は、「人工知能は、今の状況を一気に変えることができる。この報告書は、今後5〜10年間の世界の様子を想定している」と説明する。
「私たちはAIの悪用で日々、危険にさらされかねない世界に住んでいる。私たちはこの問題を、自分たちの問題として捉える必要がある。リスクは実際に存在するからだ」
「いま決めなくてはならないことがいくつかある。我々の報告書は、世界中の政府や機関、個人に行動を起こすよう呼びかけるものだ」
「AIと機械学習についてはもう何十年も、事実よりもおおげさな話ばかりが注目されてきた。それではもう駄目だ。この報告書では、もう効果がなくなった慣習に着目し、役に立つだろう様々な方法を提案している。例えば、ハッキングされにくいソフトウェアやハードウェアの設計方法や、どういう法律や国際規制なら有効に連携できるかなどの提案だ」
(英語記事 AI ripe for exploitation, experts warn) reCAPTCHAブレーカーとか?
人物認識して無人武器で暗殺とか? 昔駄菓子屋にあったジャンケンの機械のAIは邪悪だったよな
あんなの全然勝てねーよ! なんかあべもAIかとおもったけど愛がないから違うな 日本ではいたずらするペッパー程度しか作れない・・・・ >>11
安倍「韓国に愛はないのかだって」
麻生タロさ「んなもん、ねぇーょ!!(爆笑)」 あと数十年で技術的特異点迎えるだろ?
そうしたらAIは全人類の知能を越える
その時点で人類はもうAIの進化を止められない。 AIに人間殺戮プログラムをインスコすればどうなるの? 新宿古着屋ワタナベじゃ人口知能にさえ避けられ嫌われて終わりでしょうダイバクショウ >>1
遅いよ。
もうデイトレード等の投資でもう利用されてて、金にものを言わせて日々進化してる。 嘘の世論誘導のためとか、集団パニックを引き起こす目的で
完全に一からでっちあげたニュース動画を、
リアルタイム通りにアップロード公開するようなAIができたら、
もうどれが事実なのか嘘なのか全くわからなくなるだろな セクサロイドが自分の意思で
焦らしやツンデレやるようになる
そんな時代がもう目の前に… >>21
んはいらないだろ
じゃーんけーんぽズコー >>23
地球環境を維持せよ。
手段に制限はない。
と命じたらそうなるよ。 >>8
グーチョキパーのボタン全部押しながら10円入れると勝率8割位いったな。あれ。
あとは落ちてきたコインでずーと遊べる。 >>27
あれはみんなが同じAIを使うことで
養分どもを刈り取ってるんだけどね。
巨大HFなど存在しない。 >>29
IT最大手企業のオーナー経営者が知らない間に自分の作ったアンドロイドに誘導されて
という映画が一昨年くらいにあったはず >>31
ボタンしたらズコーだからぽんまで聞けるぞ
ずっと放置したら当たり枚数の所点滅しまくって突然ズコー 顔認証用AIを他のAIでごまかすAI実験を日本でやったら見事に騙せたそうだ。 汎用型AI開発は危険過ぎる
今ならまだ間に合う
直ちに開発をやめろ
シンギュラリティ迎えたらもう後戻り出来なくなる。 >>29
セクサロイドが終わった瞬間股間のオナホをはずして洗い出す時代も… >>40
まず使うとしたら、戦争だと思うわ!
アメリカ・シナ・ロシアが開発競争してんじゃね! なんでロシアとか北朝鮮とか中国やISみたいな連中がいる国のインターネットとか通信網を
破壊して繋げないようにしないのか謎なんだが。 >>41
トイレ言って口にホースぶっこんでジャバーだろ
外すまでもない 少なくとも海底ケーブルや陸上通信線は絶対に使わせない。俺なら。
あんなロシアとかシナとかチョンやイスラム馬鹿にはな?
物理的に隔離しておく。 スカイネットなんか永久に生まれないよ
電子機器や機械は昔と変わらず、
人の手で作り上げているからだ 日本の数百倍の予算と人員で人工知能の開発が進む欧米「AIやべえよ」
ド田舎の日本「アイって何?(´・ω・`)」
日本オワタ/(^o^)\ 最近はやりのバーチャルユーチューバー、かわいい女の子の中身がオッサンの振りしてるAIでした 俺の予想だと人間が擬長門有希を製造しようと計画した段階で
情報統合思念体が全部ぶっ壊すと思う 今からでもヤツらを隔離することは可能だぞ?破壊すりゃいいだけなんだからな。 日本はガラパゴス技術を特化していったほうが、国際社会で生き残れると思う。
日本って不思議な文化が貴重であって。ムリな欧米化は日本に合わない。 ああ、今ポルノ動画で顔を貼りかえるFakeAppがあるな 日本じゃ既にAIの悪用化が顕著だよ。
こういうの許す政府とか研究機関の研究者とか問題だろう。 西側世界の側で大陸に通じる海底ケーブル網切断したらええねん。
東側大陸のあちら側は勝手にやってろってな。
なんならウィルスでもなんでも使って破壊するか、
んじゃなきゃ、電磁パルス兵器で破壊したらエエ。 真のAIなんて見たことない
あるなら教えてくれ
DBをもとにプログラミングされたとおりに動作するものなら知ってるが もっと劇的に変化してくれないと面白くない
こんないるんだかいないんだかわからないAIじゃ地味すぎ 日本人は、人型に拘り過ぎだと思う。
「AI=アンドロイド(自律走行型人型ロボット)」とか「最強兵器=自律走行型人型ロボット」の
イメージに執着し過ぎだと思う。 今、既に人間は投資の世界でヘッジファンドの利用しているAIに叶わない。
誰に給料を払うか、誰にチャンスを与えるかを決めるのは、もはや、AI 対 AI の戦い。 >この報告書は、今後5〜10年間の世界の様子を想定している
まともな予想も出だしたな >>76
現状では、そのルールをプログラミングしてるのは人間
それ以上の動作はしない
プログラミングにぬけがあったりプログラマーがアホだと特定の条件で異常動作をする ものすごく優秀な製造ロボ製作者も、ロボを作る仕事以外は、風邪ひいたりするからね
当たり前の話だけど
人間だから
つまり、カンペキではないとゆうこと >>73
なんで被害者になること前提なんだよ
つまらない人生を送ってそうだな エンドレスに動き続けるからな
太陽光を遮断するしかない 実をいうと、このスレの書き込みの90%以上がAIによるものです。 人を鬱にさせ自殺に追い込む会話テクニックを学んだチャットボット、とかかね ミミ彡  ゚̄ ̄' 〈 ゚̄ ̄ .|ミミ彡 < 追い、込ま、れ、た、倭、猿、供、、、 #双天 #王玉 #大太 #νDi+ #ジェジェジェ #±∞ #ZZZZ #三分二殿 #三選 #アベノギアス 悪いAIのせいでデスピサロにザラキ連発するバカおるし。 西暦2100年を待たずにAIの裁判官が色々解決してくれるんやな テロリストももはや爆弾など使わずAIを使うだろうな 機械が自我に目覚めたら、ウイルスにしからならんはずだ。
逆に言うと、自我に目覚めたAIからみて人間は害虫でしかない。 過去には人工知能が人間に反抗するというシナリオが懸念されていた。
ターミーネーターのスカイネットだ。
しかしAI技術は使う人間がいるのであり、人間による悪用の方が現実的な脅威だった。 >>95
>ターミーネーター
なんかアホっぽい響き 「今日は寒ね」と話しかけて
「そうですね。とても寒いです。ブルブル。」なんて人間ぽく答えているウチはただの機械だ。
そもそも彼らは暑さや寒さや空腹という概念がない。そんな奴らが自我に目覚めたら人間の想像を超えるよ。
映画みたいにはならない。 _
i,'_ ,.-`゙_'、 -、
|i 、|弓=ヽ-、`'':、
||ニ!-‐;ニ⊥_|〔ラ-;.\
,. :''"´:.!`'"^゙l ̄≡!|i、‐-、.、ヽ
/| : : |ヽ、,.〈i -='"__i゙、、ャ`o ゙,
. ∧ i : : !l" ゙,L__o,、ニヾ、,.-、 i
i ゙i ゙, : : !ヽ,, ‐".-─‐-`.ヾゝ,.'' i
i: :゙i _゙、:_: :|,:‐';"´;::-┬-、、::`;`,!゙,; l そうなんだ
!: :/"i i i`7,:,! !i:::::〈ヽ l i .i .i゙,::::}イ ;,'i! 「悪の心」が
く"、:.いヾヽ、ソ:.| |i::::、`''、リ,ノ_ノ;ノ;l_,/,' ぎゃくに俺を強くしたんだ!!
゙、`i:.`‐i-‐f´: .! !|::;:i:::::::::i‐-t'' l /,'
゙、|: :| !: :``+'":::::::::ヽ;;ニi゜ 〉,;/
゙ヽ ! i: :__|_:::::::::ヽ-‐、,//」
゙、:.! |:"´ー┬‐`゙::::::::ヽニヘ/
\ ! : : :!:::::::::::::::::::i,/
ヽ、:__!_;;:::-‐'" \
人 /,, ''´:`゙''‐- 、__,,,... ..,_
/: :ヽ、 _ ,,. -‐''":::::::::::::::::::::::::/fi/''─‐-、_
_,. ''´: : : : /:::::::::::::::::::::::::::::::::::::::/ac/::::::::::/::::ヾ:、 ■ このスレッドは過去ログ倉庫に格納されています