ディープフェイクとは？AIで偽画像・偽音声を作る仕組みと見分け方

結論：ディープフェイクは、AIを使って人物の画像や音声を本物らしく合成・改変する技術です。見た目や声がもっともらしくても、本人が発信した事実までは示しません。ITパスポートでは、生成AIの活用と同時に、情報源を別経路で確認する姿勢を押さえましょう。

ディープフェイクとは

ディープフェイクは、深層学習などのAI技術を用い、画像、動画、音声を合成または改変して、本物らしく見せる技術です。本人が話していない内容を話しているように見せたり、存在しない画像を作ったりできます。

技術そのものは、映像制作、音声の補助、学習用の素材づくりなどにも使われます。一方で、実在人物になりすました画像や音声が使われると、受け取った人が発信者や内容を誤認するおそれがあります。IPAのITパスポート試験シラバスVer.6.5では、生成AIに関する用語が扱われています。

仕組み：学習した特徴から画像や音声を作る

生成AIは、多数の画像や音声に含まれる顔つき、口の動き、声の高さ、話し方などの特徴を学習します。指示や素材を受け取ると、その特徴を基に新しい画像や音声を作ります。ディープフェイクでは、この出力を特定の人物に似せる目的で利用する場合があります。

1. 素材や特徴を学習する：画像・音声などに見られる共通の特徴をAIが捉えます。
2. 条件を与える：人物、表情、話す内容、声の特徴などを指定します。
3. 出力を合成する：学習した特徴を基に、画像・動画・音声を作成または置き換えます。
4. 受け手が確認する：出力の自然さではなく、発信元と一次情報を別に確かめます。

映像が滑らかであることや音声が似ていることだけでは、本物だと判断できません。技術は変化するため、一つの見た目の特徴だけで真偽を決めず、発信元と内容を確認することが重要です。

AIハルシネーション・フィッシングとの違い

まずAIハルシネーションとは？生成AIの出力を確認する方法を読むと、もっともらしい文章と偽画像・偽音声を、何を確認すべきかという軸で区別できます。

画像生成の技術的な背景を補うには、敵対的生成ネットワーク（GAN）とは？ITパスポートで出る生成AIの基本が役立ちます。生成器と識別器の関係を知ると、AIが本物らしいデータを作る考え方を整理できます。

仕事と日常生活での確認場面

仕事では、経営者や取引先を名乗る音声・動画で振込や機密情報の送付を求められても、その連絡だけで手続きを進めません。登録済みの電話番号、社内の承認手順、別の担当者への確認など、元の連絡とは別経路で確認します。画像や音声は判断材料の一つであり、承認の代わりにはなりません。

日常生活では、SNSや動画で著名人が商品や投資を勧めているように見えても、本人や提供元の公式アカウント・公式サイトを確認します。拡散前には、元の投稿、報道機関、公式発表などを探し、出所が確認できない画像・音声を事実として広めない判断が必要です。

なりすましから認証情報を守る手順は、ITパスポート対策！フィッシングの正体と偽サイトを見破る極意で確認できます。連絡内のリンクではなく公式の入口を使う考え方は、ディープフェイクを含む不審な連絡にも共通します。

ITパスポート試験での要点

• ディープフェイクは、AIで画像・動画・音声を本物らしく合成・改変する技術として捉える。
• 自然な映像や音声であっても、発信者・根拠・元情報は別に確認する。
• 文章の事実誤認を扱うAIハルシネーション、認証情報を狙うフィッシングと、対象と目的で区別する。

設問では、AIが何を作っているかに注目します。人物の声や映像をもっともらしく作る説明ならディープフェイク、もっともらしい誤った文章や出典ならAIハルシネーション、偽サイトへ誘導して情報を入力させる説明ならフィッシングです。

確認問題

問題

AIを用いて、実在人物が話していない内容を話しているように見える動画を作成する技術として最も適切なものはどれですか。

1. AIハルシネーション
2. ディープフェイク
3. フィッシング
4. 教師あり学習

答えと解説

答え：Bのディープフェイクです。ディープフェイクは画像・動画・音声を本物らしく合成・改変する技術です。AIハルシネーションは主に生成AIの内容が事実と異なる問題、フィッシングは情報をだまし取る手口を指します。

まとめ

ディープフェイクは、映像や音声の見た目だけで判断しないために知っておくべき生成AIの用語です。技術の特徴を理解したうえで、重要な連絡や拡散前の情報は、公式の連絡先や一次情報へ戻って確認しましょう。