日本でも被害拡大するディープフェイクとは?

AI(人工知能)は、今までの仕事や生活のあり方を大きく変える技術です。AIによって、今まで以上に便利で使いやすいサービスが次々に開発され、私たちの生活の中にも徐々に浸透しつつあります。しかし、その一方でAIを悪用した「ディープフェイク」というものを皆さんはご存知でしょうか。

今回は、ディープフェイクの概要から危険性や問題点、事例について紹介した後、ディープフェイクに引っかからないために心得ておくべきことを解説します。

ディープフェイクとは?

皆さんのなかには、ディープフェイクという言葉を初めて聞いた方も多いのではないでしょうか。

ディープフェイクは、AIのディープラーニング(深層学習)とフェイク(偽物)をあわせた造語です。AI技術を悪用した高品質な合成画像や映像・音声の偽物を表し、素人には判別できないほど精巧であることが特徴です。

AI技術は非常に進化しており、今や本物との違いがわからないほど精巧な偽物を作り出すことができるようになっています。こうしたディープフェイクによる画像や映像・音声などは、主にインターネット上のコンテンツとして悪用目的で利用されることが多いです。

ディープフェイクで作られた偽物の動画や音声は、ディープフェイクビデオやディープフェイクボイスと表現されることもあり、従来の技術では偽物を作ることが難しかった動画・音声の分野で利用されることが多いのです。

ディープフェイクの問題点・事例

精巧な偽物を作り出すディープフェイクには、次に挙げるような危険性・問題点が存在します。それぞれの問題点や事例について、一つずつ見ていきましょう。

政治上の印象操作|オバマ元大統領がトランプ大統領を批判した偽の演説動画

ディープフェイクを用いることで、政治家が言ってもいないことをでっち上げることができてしまいます。たとえば、ディープフェイクの演説動画を使って、政治上の印象操作を行うなどのことが可能です。後ほど紹介しますが、実際にこのような事例は存在しており、場合によっては国際問題に発展する可能性もあります。

アメリカでは、オバマ元大統領がトランプ大統領に対して「うんざりだ」という旨の発言をしている動画がYouTubeで公開されています。こちらは、ディープフェイクの驚異を世界に知らしめるために制作されたものですが、非常に精巧であり、本物との違いがほとんどわかりません。
引用元:オバマ元大統領の演説動画(YouTube)

ほかにも、Facebookの創始者であるマーク・ザッカーバーグ氏の演説動画のディープフェイクがInstagramで公開されています。こちらは「スペクター」と呼ばれる芸術イベントの作品として公開されたものですが、同様に精巧なものであることがわかるでしょう。
引用元:マーク・ザッカーバーグ氏の演説動画(Instagram)

フェイクポルノ|既存のポルノ動画に著名人の顔を貼り付け人権侵害

「フェイクポルノ」とは、既存のポルノ動画に女優の顔を貼り付けた偽動画のことです。海外の女優エマ・ワトソンさんや、メイジー・ウィリアムズさんのフェイクポルノが有名であるほか、日本人の女優やアイドルも標的とされており、ディープフェイクに特化したポルノサイトも存在しているほどです。

オランダのサイバーセキュリティ企業「ディープトレース」は、2019年時点でディープフェイクビデオの96%はポルノ関連であるとしており、深刻な人権侵害の問題となっています。

また、被害の対象は著名人だけではなく私たち一般人にも危険性があります。リベンジポルノとして脅迫などに利用されることも考えられ、女性だけでなく男性にとっても人権侵害・信用失墜の危険性があります。さらに、顔写真が250枚ほどあればディープフェイクが作成できるサービスが存在しています。フェイクポルノによる被害は、誰にでも起こり得る可能性があることを覚えておきましょう。

フェイクボイス|CEOになりすまし約2,600万円の詐欺被害

音声合成技術は、従来の機械的な音声合成ではなく、実在する人物が話しているような音声が作れるまでに進化しています。すでに電話では判別できないほどのレベルに達しており、電話を利用したオレオレ詐欺等の事例が増える危険性があるのです。

イギリスでは、ディープフェイクボイスを利用した詐欺事例が報告されています。イギリスを拠点とするエネルギー企業のCEOによって、至急22万ユーロ(約2,600万円)を送金するように指示されたところ、実際はディープフェイクボイスだった、という事例です。
大きな企業のCEOともなれば、メディアの露出が増えます。そのため、ディープフェイクボイスの元となるデータを集めやすいといえるでしょう。

先ほどのディープフェイクの動画を見ればわかるとおり、電話越しの音声だけでは本人と判別がつかなくなっており、注意が必要であることがわかる事例です。
参照元:CEOになりすましたディープフェイクの音声で約2600万円の詐欺被害か(ZDNet Japan)

ディープフェイクに騙されないために

私たちは非常に精巧なディープフェイクに対して、どのような対策を取ればよいでしょうか。ディープフェイクに騙されないために心得ておくべきことを紹介します。

情報をすべて鵜呑みにしない

インターネット上にはさまざまな情報が溢れていますが、すべてが真実とは限りません。私たちが得る情報は本物なのか、と疑う習慣を身につけるべきでしょう。特に著名人のポルノ動画などは冷静に考えると「あり得ない」という判断ができるはずです。

ディープフェイクは今まで以上に情報の真偽の見極めが難しいものです。しかし、まずはこのような嘘の情報があることを知り、情報をすべて鵜呑みにしないことを意識することからはじめましょう。

事実確認、検証をする

ディープフェイクは非常に精巧な作りであるとはいえ、完璧なものではありません。少しでも違和感があるのであれば、まずは情報源を確認しましょう。たとえば、政府の動画に見せかけたディープフェイクであったとしても、情報源が政府とは関係のないWebサイトであれば偽物だと判断することが可能です。情報を公開している人物を確認することでも判断可能でしょう。例えば、前述したザッカーバーグ氏の演説動画には「CBSN」のロゴが入っているため、同社のWEBサイトからこのニュースが本物かどうか、確認をすることができます。

ディープフェイクに関わらず、情報源となる一次情報の確認は、インターネット上から情報収集をする上では非常に大切なことです。

安易に拡散しない

SNSが非常に発達しており、多くの人が気軽に情報を発信できる世の中ですが、面白がって安易に情報を拡散しないように気をつけましょう。嘘の情報を拡散してしまうと、多くの被害者が発生することになります。

情報を拡散する場合は与えられた情報を鵜呑みにせず、事実確認や検証をした上で拡散する習慣を身につけるとよいでしょう。もし、何も考えずに拡散してしまった場合、拡散した情報が特定の人を傷つけるものであれば、あなたも加害者の一人になってしまうかもしれません。

嘘の情報に騙されない!ディープフェイクに気をつけよう

ディープフェイクは、AI技術を悪用した、高品質な合成画像や映像・音声で、偽物です。ディープフェイクビデオやディープフェイクボイスなどは、非常に精巧な作りであるため、素人目には本物との区別がつきづらいという特徴があります。

ディープフェイクに騙されないように、すべての情報を鵜呑みにせず、情報の事実確認や検証を行う習慣を身につけるとよいでしょう。また、安易に拡散して被害者を増やすことのないように、情報を拡散する際には注意することを意識してみてください。

このように、私たちの日常生活には皆さんが気づきにくいネットトラブルがたくさん潜んでいます。被害に遭った、不安があり悩んでいる、といった際はドコモの「ネットトラブルあんしんサポート」をぜひご活用ください。
コールセンターにお電話いただければ専門スタッフが悩みをお聞きして、ネットトラブルの解決を全面的にサポートします。ぜひ一度ご相談ください。

※こちらの記事はドコモの「ネットトラブルあんしんサポート」を未契約の方でもご覧いただける無料記事です。
※ドコモの「ネットトラブルあんしんサポート」をご契約いただいた方が、専門コールセンターでの電話相談をご利用いただくことができます。

(株)エルテス 新規事業室 チーフコンサルタント 池田 啓宏
東京大学経済学部卒業後、コンサルティングファーム、ベンチャーキャピタルを経てエルテスへ入社。
経営コンサルティング業務に長年携わっており、経営視点での課題抽出を得意とする。エルテスでは、ディープフェイク等の新たなテクノロジー・メディア普及の反動として生じるニューリスクに対する研究等を行っている