Deepfake
本物を装った、AI生成の偽造画像・動画・音声。
ディープフェイクとは、AIによって作成または加工され、実際には言っていないことを話したり、していないことをしたりする人物を、本物らしく見せる画像、動画、音声のことです。
疑わしいコンテンツがご自身に関するものであっても、まず作成に使われたソフトを特定する必要はありません。投稿のURLとアカウント情報を保存し、なりすましや権利侵害としてサービスに報告してください。脅迫、恐喝、詐欺が関係する場合は警察に相談し、金銭が関係する場合はすぐに銀行にも連絡してください。悪用の責任を負うのは実行者であり、肖像を使われた人ではありません。
例：聞き覚えのある声で送金を求められる
日本で親に電話がかかってきた場面を想像してください。成人した娘に似た声で、「携帯電話をなくした。急いでお金が必要だけど、話せない」と告げられます。これは詐欺の想定例であり、私たちが実施した実験の説明ではありません。偽の声によって話の信ぴょう性が高まることはありますが、AIを使わなくても同様の話で詐欺を行うことはできます。
声の聞こえ方だけを信じて、コードを伝えたり送金したりしないでください。電話を切り、以前から知っている娘の番号にかけ直すか、別の家族に連絡してください。画面に表示される番号も偽装されている可能性があります。相手が伝えてきた番号やリンクではなく、別の手段で依頼を確認しましょう。時間を急かされたり、ほかの人への連絡を禁じられたりしたら、音声が自然に聞こえても通話をやめる理由になります。
見た目で決めつけずにディープフェイクを見分けるには
まず、情報源と背景を確認しましょう。最初に公開したのは誰ですか？数十秒の切り抜きではなく、全編の映像はありますか？本人や組織が公式チャンネルで発言を認めていますか？プロフィールの認証バッジがあっても、すべての動画の真正性が確認されたわけではありません。
公開日を確認し、特徴的な発言の一部を検索してみましょう。公開済みの、プライベートな内容ではない素材から一コマを切り出して、画像検索する方法もあります。古い動画に新しい説明を付けて公開するのは、ディープフェイクが使われていなくても、文脈を操作する行為です。一方、検索結果がないからといって、映像が本物だとは限りません。
不自然な口の動き、変化する顔立ち、消えるアクセサリー、不自然な音声のつなぎ目などは手掛かりになることがあります。ただし、決定的な判定方法ではありません。圧縮や通常の編集でも不自然な痕跡は生じますし、精巧なすり替えにはそうした痕跡がない場合もあります。手や歯、まばたきが自然に見えるからといって、動画を本物だと判断しないでください。
自動検出ツールの結果は、追加の手掛かりとして扱いましょう。結果は素材によって異なり、誤判定もあり得ます。AIの判定をうたう無関係なサイトに、プライベートな映像や親密な写真をアップロードしないでください。判断が争われる場合は、元ファイルや出所の確認、専門家による分析が必要になることがあります。
顔や声を無断で使われたときにすべきこと
-
発生したことを記録してください。正確なURL、アカウント名とID、日付、脅迫メッセージ、報告受付番号を保存します。通常の投稿であれば、URLが見えるスクリーンショットも役立ちます。注意喚起として有害なコンテンツを知人に転送しないでください。説明とリンクを適切な機関に伝えるほうが、さらなる拡散を抑えられます。
-
該当する投稿とアカウントを報告してください。状況に合ったカテゴリを選びます。なりすまし、詐欺、嫌がらせ、同意のない親密な画像の公開などが該当します。自分がしていないこと、言っていないことを具体的に伝えてください。報告の確認記録を保存し、申し立ての手段がある場合は、却下された後に利用しましょう。
-
詐欺に遭った場合は、銀行の公式電話番号またはアプリから銀行に連絡し、警察にも届け出てください。恐喝を受けても、追加の写真やお金を送らないでください。信頼できる人に助けを求めましょう。110番は差し迫った危険がある場合に利用するもので、インターネット上の投稿を通常報告するための窓口ではありません。
-
実行者から連絡されるおそれのある人に、「誰かが私になりすましています。お金の依頼は、以前から知っている私の番号に確認してください」と警告しましょう。アカウントも乗っ取られている場合は、アクセスを取り戻し、パスワードを変更して、不明なセッションを終了させてください。ディープフェイクだけでは不正アクセスの証拠にならないため、この2つの問題は分けて対処しましょう。
これらの対応は、銀行への連絡や警察への届け出の代わりにはなりません。電話の相手は、必ず別の手段で確認しましょう。
親密なディープフェイクを報告するには
StopNCII.orgは、報告者本人を描いた合成の親密なコンテンツにも対応しています。このサービスは、コンテンツ内の人物も含め、年齢要件を満たす成人を対象としています。ファイルのデジタル指紋を端末上で作成するため、画像そのものが送信されることはありません。対応しているプラットフォームで機能しますが、インターネット上のすべてのコンテンツを削除するものではなく、加工された画像がすべて消えることを保証するものでもありません。
18歳未満の人に関するコンテンツの場合は、信頼できる大人や警察に助けを求め、Take It Downも確認してください。通報するために、未成年者の親密なコンテンツをダウンロードしたり、他人に転送したりしないでください。Take It Downでは、端末にすでに保存されているファイルのみを使うよう明確に案内しています。公開先のURLを報告するために、画像を拡散する必要はありません。
よくある誤り：偽物を見分ける単一の特徴を探すこと
「目が不自然ならディープフェイク」「動画が滑らかなら本物」といった単純なルールはありません。より重要なのは、素材の出所、独立した確認、そして行動によって生じる影響です。動画が送金や個人情報の開示、話題の情報を急いで拡散するよう促しているなら、まずその行動を止めてください。AIが使われたと確信できなくても、慎重に行動することはできます。