ディープフェイクはAI技術を活用して、実在する人物の顔や声を他の映像や音声に合成する技術です。当初、この革新的な技術は、エンターテインメントや映像制作の分野で活用されることを目的としていましたが、近年では思わぬ形で悪用されています。
最初に注目を集めたのは、ポルノ動画に有名人の顔を合成するような「ディープフェイクポルノ」の登場でした。これはプライバシーの重大な侵害であり、特に女性タレントを標的としたケースが多く、世界的に大きな社会問題となりました。
ディープフェイク性犯罪については、こちらの記事で詳しく紹介していますので、ぜひご覧ください。
https://school-guardian.jp/useful/deep-fake-risk/
現在では、こうしたディープフェイクの作成に高度な技術や機材は不要です。誰でもスマートフォン1台、あるいはウェブサービスを使えば、手軽に以下のようなコンテンツが生成できるようになっています。
・他人の顔を自分の動画に合成する「顔入れ替え動画」
・芸能人の声そっくりの音声合成（AIボイス）
・実在しない人間の顔画像（生成AIによるフェイクポートレート）
・有名人が発言していない内容を話しているように見せる「偽インタビュー動画」
これらの技術は一見エンタメやSNSの「ネタ」として拡散されがちですが、本物と見分けがつかないほどのリアルさを持つことが多く、次のようなリスクをはらんでいます。
ディープフェイクが悪用される例をいくつか紹介します。
最も多く報道されてきたのが、女性芸能人の顔を無断で合成した性的動画（ポルノ）の作成と拡散です。2023年には、韓国でK-POPアイドルの顔を使ったディープフェイク動画が出回り、犯人が検挙される事件がありました。
日本でも複数のアダルトサイトやSNSで「本物そっくり」なフェイク動画が売買・拡散されていたことが問題視されました。
ディープフェイクは、社会的な信用を破壊する情報兵器としても使われ始めています。特に注目されているのは以下のような例です。
・政治家が「暴言を吐いた」「差別的発言をした」ように見せかけた偽動画
・有名人が謝罪しているように見せる「AI謝罪動画」（実際には一言も謝罪していない）
・選挙期間中に相手候補のスキャンダルを捏造し、票を操作しようとする工作
2024年のアメリカ大統領選挙を前に、AIによって生成されたバイデン大統領の偽音声（「投票しないでくれ」と呼びかける内容）が拡散され、大問題となりました。このようなフェイクは一度SNSで広がると、削除しても完全には消せず、「印象」だけが残るため、極めて危険です。
特に若年層のあいだでは、「バズりたい」「ウケるから」と軽い気持ちで他人の顔や声を合成し、拡散する行為が横行しています。
TikTokやXでは「AIネタ」や「ディープフェイクチャレンジ」といったコンテンツが流行していますが、その中には明らかに人権を侵害しているものも含まれています。
たとえ“遊び”や“ジョーク”であっても、それが他者を傷つけるならば立派な加害行為です。そして、その責任は、「作った人」だけでなく「拡散した人」にも及ぶ可能性があります。
ディープフェイクの被害を受けるのも、加害に加担してしまうのも、特別な誰かではありません。SNSを使う私たち一人ひとりに起こりうる現実です。では、私たちはどのようにすれば、ディープフェイクによるトラブルを回避できるのでしょうか。
ディープフェイクの最大の特徴は、「本物にしか見えないリアルさ」です。常に「これは本当に本人の発言・映像なのか？」と疑う目を持つようにしましょう。
SNSには、衝撃的な内容や強い感情をあおるような動画が多く流れてきますが、そうしたものほど、一度立ち止まって考える習慣が必要です。特にディープフェイクの場合、非常にリアルで信じたくなるような内容になっていることもありますが、「SNSで見た＝本物」とは限りません。
できるだけその映像の出典や投稿日時を確認し、信頼できる情報源かどうかを自分で判断することが重要です。最近では、AIによる合成かどうかをチェックできる無料のツールも登場しています。そうしたツールを活用するのも、誤情報に惑わされない一つの手段です。
自分の顔や声などの個人情報をむやみに公開しないことも大切です。
SNSに投稿した画像や動画は、他人によって保存され、加工されたり、AIの学習素材として使われたりするおそれがあります。特に顔がはっきり写っている投稿は慎重になりましょう。
また、SNSのプライバシー設定を見直すようにしましょう。例えば、投稿の公開範囲を限定したり、自分がタグ付けされる写真を確認してから表示する設定にしておくことで、自分の情報が広がるリスクを抑えることができます。
さらに、知らないアカウントからのフォローやメッセージに安易に応じないようにするなど、オンライン上でも「知らない人には気をつける」という意識を持ちましょう。
自分自身がディープフェイクの拡散や加害に関わらないための行動モラルを持つことが求められます。
例えば、誰かがAIで作成した合成動画を「おもしろい」と感じたとしても、それを軽い気持ちでシェアしたり保存したりする行為は、他人を傷つけたり、誤解を広めたりする手助けになってしまう可能性があります。
特に、「ふざけて作っただけ」「ネタとしてウケると思った」という理由で友達の顔を使ったディープフェイクを作成し、SNSに投稿するような行為は、明確な肖像権侵害であり、法的責任を問われることもあります。
加害者にならないためには、冗談や遊びのつもりでも、人の顔や声を勝手に使わないという基本的なモラルを忘れてはいけません。
ディープフェイクは、技術としての面白さや可能性を持つ一方で、ちょっとした使い方の違いで、人を大きく傷つけたり、トラブルのもとになったりすることがあります。
SNSで見た映像が「本物に見える」からといって、それが本当に事実かどうかは分かりません。拡散やシェアをする前に、それが誰かの人生に影響を与えるかもしれない、ということを一度考えてみることが大切です。
スクールガーディアンでは、SNSを安全に使用する上での注意点を生徒に伝える「ネットリテラシー講演」を行っています。ご興味がある際には、お声掛けください。
