【ＡＩ技術】深刻化する「deep fake」ビデオの脅威 政治目的の悪用を懸念 アメリカで法案措置の動きも
■ このスレッドは過去ログ倉庫に格納されています
※全文はソースでどうぞ
深刻化する「deep fake」ビデオの脅威
斎藤 彰 （ジャーナリスト、元読売新聞アメリカ総局長）
2019/02/12 Wedge
http://wedge.ismedia.jp/articles/-/15330?layout=b
AI技術の著しい進歩により、最近アメリカで本物そっくりの偽ビデオやオーディオが次々に登場、深刻な問題となりつつある。今後その精度がさらに一段と向上するにつれて、政治目的などに悪用され社会混乱の原因にもなりかねず、米議会でも被害を最小限に食い止めるための法案措置の動きまで出始めている。
問題となってきたAI技術は「ディープ・フェイク(deep fake)」と呼ばれ、AIが可能にした「ディープラーニング」と「フェイク」をミックスした新造語。真偽をただちにチェックし注意を喚起できる従来の「フェイク・ニュース」などとは異なり、本物との区別がほとんど不可能なほど巧妙に造られている点に特徴がある。
その最たるものが、いわゆる「ディープ・フェイク」ビデオの存在だ。ある人物の顔の形、しわ、目鼻、まゆ、唇の動きなどをコンピューター・グラフィックで微細にわたるまでスキャン、そのデータを別の人物の顔にかぶせ、異なる部分を入念に修正した上で再現する。顔つき、表情のみならず、発声、発音もオーディオ・データのコンピューター分析によって細かく記録、それを唇の動きに合わせて再生させるため、素人目には容易に本人と間違いやすくなる。
その一例として、アメリカで大きな話題として取り上げられたのは、昨年4月公開された、オバマ大統領があたかも実際に演説しているかのように見せかけたビデオ作品だった。
新興ネット・メディアとして最近躍進著しい「BuzzFeed」がワシントン州立大学コンピューター・サイエンス技術チームの協力を得てハリウッドの映画製作会社と共同で作り上げたもので、とくにこの作品の中で“オバマ氏”がトランプ大統領のことを「とんでもない間抜け(complete dipshit)」とののしっている部分があり、またたくまにフェイスブックなどを通じて全米に画像が広がり話題騒然となった。
もちろん、現実に前大統領が現職大統領をこのような下品な言葉でけなすことなどありえず、これを製作、公表した「BuzzFeed」最高経営者も、作品が最初から贋作であることを断っているとした上で「今後、AI技術が超スピードで一層発達し、この種のdeep fake videoが出回ることによって社会混乱が起こりうることを警告したかった」と、その意図について語っている。
今後、こうした「ディープ・フェイク・ビデオ」が悪用されかねないケースとして米メディアで指摘されているのが、わいせつなポルノ・ビデオの主人公として本物に見せかけた有名人や特定の政治家などを登場させ、品位を貶める、敵対国の選挙に介入し“好ましからざる候補”の偽造演説ビデオを流布するなど、SNSを駆使したかく乱工作だ。
さらには、最悪のシナリオの一例として、“トランプ大統領”が「中国を標的にした核ミサイル発射の最終決定を下した」とする「重要演説」動画をSNSで流すといったケースまで議論に上がっている。
※以下省略 ＞最悪のシナリオの一例として、“トランプ大統領”が「中国を標的にした核ミサイル発射の最終決定を下した」
＞とする「重要演説」動画をSNSで流すといったケース
怖いな、これは。洒落にならんぞ。 >>7
どっちかっていうと
トランプが言いそうだよな ベンジャミン・フルフォードの言ってたことが
正しかった
朝堂院大覚さんは、フルフォードを見直すべきかな >さらには、最悪のシナリオの一例として、“トランプ大統領”が「中国を標的にした核ミサイル発射の最終決定を下した」とする「重要演説」動画をSNSで流すといったケース
これは別にかまわんってか、最良のシナリオじゃないか ネトウヨを処分しないと
フェイク撒き散らしてるのって１００％ネトウヨだから >>1
杉田水脈氏の問題について、まったく許せないのは、
ＮＨＫ、朝日新聞、週刊文春、地元の神戸新聞といった
メジャーなマスメディアが信じがたく酷い人権侵害を、
本人や家族に行い「身の安全」すら“危惧”される様にした。
『ＮＨＫ』は8月3日ニュースウォッチ9で
「LGBTが生きる価値はないという杉田発言」という様な放送を、
相模原の施設での大量殺人事件とからめてした。
これを受けて、杉田氏の家族に危害を加える脅迫がされる
事態になっている様だが、「LGBT自体が生きる価値はない」
というような趣旨は杉田氏の寄稿文は主張していない。
『朝日新聞社』が運営しているAERAオンラインでは、
杉田議員のいかにも人相の悪そうな写真を選び出して掲載し、
「幸せに縁がない」人相だという観相学の専門家の記事を載せた。
容貌を元に、この様な“人格攻撃”をするとはあきれ果てた仕業だ。
さすがに朝日新聞も慌てて、即刻“お詫び記事”をネット上で出したが､
本来なら新聞紙上でも不祥事として取り上げるべきものだろう。
【徳島文理大学 教授 八幡 和郎】
http://agora-web.jp/archives/2034089.html
. 可愛い女優をCG化して「オマンコ！オマンコ！」と叫ばして興奮するのが俺の趣味
そのためにグラボだけで２０万円を費やしたｗ 80年代に書かれた村上龍の小説「愛と幻想のファシズム」でそんなのあったな。 >>15
『神戸新聞』は、杉田氏が市役所時代に市民と取っ組み合いになりかかった
と非難したが、私が聞いている事実はこうだ。
保育所民営化を議論する健康福祉委員会で、中核派の活動家を支援するために、
全国から仲間が集まり、傍聴席に座わり、ヤジを飛ばしていたので、
係長だった杉田水脈が傍聴席に「ヤジは辞めてください！」と注意した。
すると、委員会終了後、傍聴席にいた活動家に囲まれ、
「お前はなんの権限があってあんなことを言ったんだ！」
「ルールを守らないから注意したのみ」「なんだと！貴様！」と、
掴み合いになりそうなところを上司に押さえられたという事件のことらしい。
あとで、共産党系の労組から、「あれは中核派やから相手にしたらあかん」
といわれた事件で、以前から“武勇伝”として知られていたものである。
もともと杉田氏が政治を志したのは、市役所のこうした長いものに巻かれろ式の
弱腰の事なかれ主義に反発して、行政改革を標榜していた江口克彦参議院議員
（当時みんなの党）に相談したのがきっかけと聞いている。
こういうのを地元の事情をよく知る新聞が否定的に取り上げて、
リンチするだからあきれたものだ。
あたかも、一般市民が相談か何かにきたのに暴力を振った様な印象になっている。
神戸新聞は蓮舫事件の時は、二重国籍など赤信号無視程度の事と書いていたそうだ。
【徳島文理大学 教授 八幡 和郎】
http://agora-web.jp/archives/2034089.html
. 通貨偽造と同罪にすれば良い
更に、国や個人等に損害が出たらその分も厳しく負担させる
要は、明らかに意図的な犯罪をした者が金銭的責任から
絶対に逃れられない仕組みをつくる事が重要 戦争の端緒を記録する方法を新たに構築しないとイカンってことかもな
フェイクを使えない国は自国の正当性を主張する権利すら奪われるということか Juliaの作品の顔を経理の智子さんの顔に替えてください。 >>12
中国に核攻撃することが最悪といってるわけでなく、
核攻撃するつもりもないのに、中国が核攻撃されると思いこんで
対抗手段に出ることが最悪だといっているの 残念な事にIT技術が低い我々ジャップでは縁が遠いことのようだな 日本のエロ動画検索してもかなり昔の新垣のと西野の奴が出てくるんだな
新作どんどん作れよ 逆に利用した方がいいと思うんだよな
特に芸能界とか女優やアイドルをフェイクでＡＶ化してもいいっていう権利作っちゃえば芸能事務所も儲かるでしょ
ＡＶで直でやるのは嫌だけど素材だけ提供して遊ぶ分には別にいいよっていうグラドルとか多そうだけどな
ＭＵＴＥＫＩが日本でそういうビジネスやればいいのに >>9
言いそうというカードを持ってるだけで、超ど阿呆なら2回も大富豪になってないわ。 >>29
中国人はもともと被害妄想の毛があるからaiでなくても同じかなあっと。 >>31
従来の発想では想定できないことを公言して実行する権力者という意味では
トランプを例に挙げるのはわかりやすいと思う
現在進行形でのリスクを思考実験で体感できる それを言うなら、
月刊〇ーとか、種々の、陰謀論を唱えた書籍が出版禁止になってないのはなんでなんだよ >>34
浜崎はVチューバーに専念するだろ。
リアルではもう無理。 隣の国の人が一生懸命何か作って日本に謝罪と賠償を求めまくって来る未来が見えます 朝日とかTBSがよくやってるじゃん
都合のいい切り貼り
時間軸ずらしたり 株価操作にピッタリの技術だな
法律決めるときゃよっぽど厳罰にせんとやり得になるわ >>29
中共が先制攻撃の口実としてフェイクを流すってことか
自衛のためだーと喚き立てて先制攻撃
完全に勝ち切れるならそれもありかもしれんな
勝ち切れるとはとうてい思えんが 朝日は映像加工しなくたって自分の手でサンゴ削ったりするから大丈夫 >>29
そんなもんで核攻撃は決めない
頭の悪い中国人ではあるが、さすがにバカにしすぎ video killed the radio star ♪
video killed the radio star ♪ >>38
「東スポは情報ソースとして認めない」という凡例がある位だからな
ああいうものという立ち位置が確立している「ムー」を信じて宇宙人が偽装していると思ったので隣人を殺しましたと証言しても「ムー」の責任は問われないんじゃね？
deepfakeの問題は「第三者」がSNSを通じて「一般的には証拠能力がると思われるソースでの発言」を偽装出来ることにある ジェフ・ベゾフがポルノ画像で脅されたってニュースがあったけど、それもこれなんじゃないか。 >>38
事実をいう
ただひとつのメディアだからだよ 不可視光捉えた情報なり、人間の耳には聞こえない音の情報も含めてやれば見破れそうだけどな〜 >>48
党の上位に行くにはバカでは難しいけれど、解放軍はそうじゃないだろ
トリガーを握ってるのが独立性の高い部隊の、バカ指揮官だったら危ないわ
宇宙とかサイバー空間だと起こりえるだろ
クリムゾンタイドみたいなの >>15
カルトサイトのアゴラを引用する地方住み高卒の図 >>59
数年後に突然、哨戒機の低空飛行の証拠映像が！ こないだテレビでやってた、スター・ウォーズ・ローグワンは
旧作に出てて、もう死んじゃったピーター・カッシングをCGで蘇らせ
レイア姫も若いまま出てきたからな
普通に見てる分にはあれがCGだったとは気が付かないレベルにきてる
著作権切れの往年の名優を集めた映画も作れる時代がもうすぐ そもそも人間が賢くて騙される可能性が低ければ問題はないんだけどね
結局は人間が騙されやすいことを悪用してるのがテレビで新聞という、不都合な真実からは目をそらすテレビと新聞の卑劣さ AV男優の部分がいろいろ修正されて
橋下がアヘアヘしてるような作品が作られるってこと サンモニで石原都知事のニュースを
真逆に報道してたよね。 >>1
つべにある
中国の南京大虐殺ビデオとか
韓国の慰安婦ビデオこそ
政治目的の悪用フェイクそのものだろ 自分とセクシー女優とのセクロス動画作れる用になるんか 1本作るのに3千円くらいのサーバー利用費だから
好きなアイドルのAVを買えると思えば安いもんだよ 政治家が失言したら「あれはフェイク画像だ」と言い訳する為に大急ぎで画像作ったりするようになるんだろ 村上龍の『愛と幻想のファシズム』であったなぁ
偽映像で敵団体同士を戦わせる、てやつ なんていうか、将来は芸能人とかいらなくなるんだろうな
全部作れるから >>1
1種類だけ投稿されたビデオは信用できない時代が来るかもな
皆カメラ持ってるからシーンを色んな角度から撮ってるビデオは信用できるかもしれない 今までだって、写真は加工できたけど
それが広まりはしなかったろ
出処はどこか、誰が撮って、誰が公開したか
を見れば嘘はわかる 韓国「話しは聞かせてもらったニダ。日本のレーダー照射証拠動画はフェイク動画！」 とりあえずフェイクと言っときゃいい時代になりました 政治家の突拍子もない発言をごく自然に見せかけるのは中々の難しさだろうけどね
今後はこういう技術があるってことが認知されて疑いの目が厳しくなるし
ただ治安が安定してるときはいいけど 災害や戦争なんかの混乱期にやられるとヤバイかも 法的な証拠とかまで捏造されるようになったらやばいな 監視カメラをいくら付けても単純な証拠にはならないな
あとコリアンが捏造するのに便利そう 技術のベクトルがそっち向いてるなら政治的な阻止は不可能だな
歴史的必然 deep fake newspaper なら日本にも沢山あるな リアルタイム映像にこれが可能となる世界がどれだけ早く来てしまうかだな
今でも昼の会見→夜のニュースで意図的な切り抜き、テロップによる発言曲解で実質同じこと起こってるけど そのうち仮想と現実の区別がつかなくなって
みんな統合失調症みたいになるのかな ある程度体格とか輪郭を似せた俳優を使った方が精度が上がりそうだけど、そんなことをしてるうちに、わざわざ俳優を修正するより全部CGで作った方が早いって時代になりそう。 アメリカの映画、ドラマでは、すでに実用化されてるように描かれてるよね
テロリストの顔を変えたりとか >>88
せっかく普及した監視カメラやドラレコの映像ももう真偽判別不能で証拠能力なくなったり >>8
ホンモノの映像と勘違いしたやつが多数いた。 もっと進化すると実際に目視したはずの現行犯が実はホログラフィックのフェイクでしたなんて風にも 確かに画質が荒くても許される類のやつは悪用されやすいのかもな
本人が否定しても世間は疑いの目で見るし 真贋判定も進化はするんだろうけど民衆を煽る引き金に使われる場合
偽物と分かったところで手遅れみたいな事も起きるんだろうな これを悪用すれば、大衆操作ももっと簡単になるな。
が、これを見抜く技術も多くなる。 しかし９・１１でもCG使っていたんで、このテクニックが民間に広まるのが怖いんだろうな。
今まで散々、大衆を騙してきた手口が一般化する。
ディープッステート支配者層への大打撃が始まる序曲でもあるな。 朝日新聞とかはフェイクと知っていて報道する怖れもある。
今まで何度騙されたことか >>94
ハリウッドだと、昔のキャラクター、ブレードランナーのレイチェルとかスターウォーズのレイア姫とかを続編で実際に合成させたりしてる。 buzfeedのフェイクニュースにころっと騙されて報道する朝日新聞がヤバいな。
朝日新聞は、トランプや安倍の悪ニュースだと確認せずに嬉々として報道するからな >>57
例えばmp3の音声は、人間の知覚しにくい
音域を削って情報を圧縮しているし
映像はそもそも三原色だとかで
人間の目の構造に合わせているし 石原慎太郎の発言改変をはじめとして、
日本のテレビ局の得意中の得意じゃないですか！ このディープフェイクタクシーと日本の雑コラ勢とどっちが技術が上なの これはまだまだフェイクの段階だが、その内本当に全然見分けがつかないレベルまで行くな。 このオバマのビデオアメリカのニュースで見たわ。マジで分からんかった。 逆に考えたら「これフェイクビデオ」って言い張れるね >>1
>今後、こうした「ディープ・フェイク・ビデオ」が悪用されかね
>ないケースとして米メディアで指摘されているのが、わいせつなポ
>ルノ・ビデオの主人公として本物に見せかけた有名人や特定の政治
>家などを登場させ
くわしく話を聞こうか >>96
あえて植草の連続マバタキを入れてフェイクとわかるようにしたのは製作者の良心 数百年前からやってるよね。
AIではないけどやってることは一緒だろ。 日本なんてそんな事されなくても
反日されてるけどな 画質荒い方が説得力ありそうだよなディープスロートからのリークとか設定すると 現代版アイコラってだけで、昔から偽装写真でニュース作ってたろ。 AI+不適切動画のシチュエーションを考えるだけの仕事がありそうだ
オバマ氏は本当に嘘つきの猿芝居か〜それは原爆への拍手なのか〜 - むのきらんＢｌｏｇ
www.munokilan.com/entry/2016/06/01/210556
2016-06-01
オバマ氏の広島訪問への支持が強い状況の中で、異論が出ています。「世界の場で、原爆投下映像に拍手を送っていたオバマ氏にダマされて拍手なんて送るな！」と、長谷川豊氏が主張しています。広島のオバマ氏の言動は猿芝居だという主張です。
異論が出るのは健全なことです。しかし、その異論がフェアかどうか。オバマ氏は嘘つきなのかどうか。検証してみました。
さて、この長谷川氏の主張は正しいのか、どうか。問題の映像を確認します。
youtu.be
確かに、１分５０秒ごろに、原爆の映像があり、オバマ氏他が拍手。そして、メルケル氏は拍手せず。プーチン氏は十字を切っています。「プーチン氏の十字」はTBSのカメラが捉えた、と説明されています。
式典全体ではどうか？
では、式典の全体ではどうでしょう。以下の式典ロングフル映像（※）の２時間３５分頃を見てみてください。原爆があり、オバマ氏他が拍手しています。プーチン氏の十字は出てきません。
youtu.be これをどう解釈するか。
これはノルマンディー上陸記念式典
大前提として、これはノルマンディー上陸記念式典（an international D-day commemoration ceremony）です。
連合軍がドイツへの反撃のためにフランスに上陸した作戦を記念した７０周年式典。スクリーンの映像とステージのパフォーマンスは何を表しているか。それはフル映像を見れば明らか。
２時間３５分目の原爆投下までは、第二次世界大戦の終わりを描いています。パリ解放、ロンドン、モスクワなどの歓喜の映像があり、その後、原爆投下で一区切り。そこで拍手。続く映像は、廃墟となった都市や死者を映しています。
■オバマ氏の拍手の意味
オバマ氏たちの拍手は、原爆ということではなく、連合国が戦争を終結させたことへの拍手でしょう。
戦勝国としては当然のことです。ここで拍手しないということは、ノルマンディ上陸作戦の意義も否定することになってしまいます。また、その時点で拍手はわき上がっていました。オバマ氏だけでなく、戦勝国側出席者は、こぞって拍手をしていたと推定できます。
ただし、原爆の映像の際には、パフォーマーたちは、嬉しそうにしていません。
それまでの陽気な音楽が終り、原爆の映像となった瞬間、ストップモーション的に演技を停止しています。口に手を当てている女性など、むしろ被爆する側の瞬間を表現しようとしているようにも見えます。
原爆の映像は、戦争の終わりを示すとともに、戦争の惨禍を示すものとしても使われていると理解できます。そうでなければ、原爆の後で、第二次大戦終結を祝う、たとえばニューヨークの映像が挿入されるはずです。
■メルケル氏はなぜ拍手しないか
メルケル氏が拍手していないかどうかは確認できませんが、拍手していないと推定されます。それは、戦争に負けた側なので、当然です。ここでメルケル氏が拍手したら奇異です。原爆どうこう、ということとは別問題でしょう。
■プーチン氏の十字
プーチン氏の十字ですが、どこの時点の十字かは映像からはわかりません。が、流れとして理解するのは、原爆投下も含めた惨禍の死者に対する追悼の動作、と理解するのが適切でしょう。
もちろん、プーチン氏は戦勝国ソ連の後継国であるロシア大統領なので、戦勝国として勝利に対して拍手したとしても不思議はありません。拍手していたかどうかは、映像からはわかりませんが。私は拍手したと推定します。
そしてむしろプーチン氏の十字のシーンは、続く悲惨な映像の時に撮られたものではないでしょうか。
長谷川氏の「プーチン氏が親日家」に至っては、あきれるばかり。元KGBで柔道好きというだけ。本当の親日家ならば、北方領土を返してくれるはずです。（というのは言い過ぎですが）
■「日本的な見方」に要注意
そもそも、原爆はノルマンディー上陸作戦記念式典の中心テーマではないわけです。ノルマンディー上陸作戦がもたらした戦勝の歓喜と戦争の惨禍、これを同時に分かち合うのが記念式典です。
その全体像を忘れ、原爆にだけ焦点をあてて読み解くのは、客観性を欠いた日本的な見方と言わざるを得ません。
映像でのＪＮＮの貞包史明氏の解説を信じるかどうか、鵜呑みにするかどうかで、だいぶ見方が変わってくるでしょう。
少なくとも長谷川氏のように、貞包史明氏の解説を鵜呑みにするのは危険ではないか、というのが私の見方です。
UFO偽写真と同じだろ。
専門家なら分かるが、素人はコロッと騙されるw ビンラディンの音声は合成だったのではといわれているがな。 >>21
あったっけ？
覚えてないなぁ
カルト教団みたいのが出てくる話じゃなかったっけ？ CGじゃないけどハンニバルで使用された人形はそっくりで驚いたな >>139
病院で親父の写真撮った時に謎の光というかもやが入ってた
写真部の経験もある自分が撮ってるので指とか紐は入ってない
ネガにも残ってる。ネガなので黒っぽい筋
DPEの機械で現像ムラって出るもんなのか…？しかもネガで薄く出るムラならともかく黒くでる現像ムラなんてあるのか？ ■ このスレッドは過去ログ倉庫に格納されています
