インターネット知識の泉

「ディープフェイクの動画にだまされた！」ってインターネットに書いている人がいるけど何のことかな？

ディープフェイクは、たくさんの情報から特徴（とくちょう）を見つけて学習するAI（人工知能）技術の「ディープラーニング」と、偽物（にせもの）という意味がある「フェイク」を組みあわせたことばだよ。AIを使って人物の動画や画像の一部を別の動画に結合して、新しい動画を作り出す技術のことだね。

AIの技術を使うんだね。

その人が実際にやっていない動作をしたり、言っていないことを発言したりしているかのような動画を作成することができるんだよ。特定の人物の声をAIに学習させることで、音声も簡単に作成できるよ。

そうなんだ！

最近ではディープフェイクの動画を作成できるアプリもあるから気軽に使っている人もいるよ。でもディープフェイクで作成された動画は本物の動画と見分けがつかないことも増えていて、本人が言っていない内容の動画や音声を作成して、詐欺（さぎ）や脅迫（きょうはく）などの犯罪に使用されることもあるよ。悪用が目立ってしまって「ディープフェイク」ということばを「偽動画」という意味で使うことが広まってしまっているね。

■ディープフェイクの技術でできることは？

ディープフェイクを使うと具体的にどんなことができるの？

例えば、特定の人物の声を録音したサンプルデータを用意して、アプリにしゃべらせたいセリフを入力すると、AIがサンプルデータの音声を使ってセリフをしゃべってくれるんだ。その音声を別の動画や画像と組みあわせ、セリフに合わせて口や表情を動かすことで、本人が話しているのとほとんど見分けがつかないような動画が作成できるんだよ。

それはすごいね！

ディープフェイクはこれまでにないようなやり方で動画や音声を簡単に作成できるから、ビジネスでの活用も期待されているよ。例えば以下のような活用例があるかな。

• タレントやモデルの代役
  →実在もしくは架空（かくう）の人物を作成して、テレビなどでタレントやモデルの代役を務める
• ニュースキャスターの代役
  →実在のアナウンサーから合成したニュースキャスターを作って、深夜の生放送などアナウンサーがいない場合でもニュース番組が放送できる
• 映像制作での活用
  →映画などでセリフを変える必要があっても、とり直しをせずにセリフを変えられる

■ディープフェイクの問題点は？

ディープフェイクは便利な技術みたいだけど、問題もあるんでしょ？

実際の動画や音声の一部を加工して、やっていない動作や言っていないことばを発言させるなど、ウソの情報を混ぜて、本当の発言や行動のように見せかけて人々をだます行為（こうい）が問題になっているよ。インターネットを使いこなしている人でも見破れないような偽動画もあるね。

だまされそうでこわいね。

政治家や芸能人など、影響力（えいきょうりょく）のある人の偽動画を作成して人々をだます行為も増えているね。例えば総理大臣が実際には話していないのに、ひどいことを話している偽動画を公開することで、社会や経済が混乱する危険性もあるんだよ。

信じてしまう人もたくさんいそうだね。

外国では偽動画によって選挙運動を妨害（ぼうがい）したり、ニュース番組のアナウンサーの偽動画でウソの情報を呼びかけたりして人々をだますような行為もあるね。偽の音声を作成して企業（きぎょう）の幹部になりすまし、社員をだまして金銭をぬすむような手口もあるよ。

気をつけないといけないね。

■ディープフェイクで作成された偽動画の対策は？

ディープフェイクで作成された偽動画を見破ることはできるの？

現時点では、ディープフェイクの動画はイントネーションが不自然で、同じ動きをくり返すなどの違和感（いわかん）もあるから、おかしいなと気づくこともあると思うよ。でも今後、技術が進歩すると、人間の目ではディープフェイクの動画を見ぬくのは難しくなるだろうね。

個人でできる対策はないの？

偽動画にだまされないためには、SNSや動画サイトなどにあがっている動画をすぐには信じないことや、実際に本人が発言したのかどうかを検索（けんさく）したり公式サイトの情報などで調べたりすることが必要だね。少しでもおかしいなと思ったらちゃんと確認した方が良いね。

わかった！

ディープフェイクで作成された偽動画への対策にもAIを使う方法も考えられているんだよ。動画が本物かどうかを判定するためのAIだよ。

偽動画を見破るのにもAIを使うんだね。

ディープフェイクの問題点もいろいろあるけど、いろいろな分野で活用されて、今後なくてはならない技術になるかもしれないね。

うん！