ディープフェイクの脅威と「ゼロ社会」への挑戦
近年、「ディープフェイク」という技術が急速に広まっています。これは、AIを使って本物そっくりの偽の映像や音声を簡単に作り出すことができる技術です。以前は専門家だけが扱っていたものですが、今では誰もが手軽に使えるようになり、社会全体に深刻な問題を引き起こしています。
例えば、SNSでのうその情報拡散、本人になりすます行為、子どもの性的被害、企業への悪い評判のリスク、金融詐欺など、その被害は多岐にわたります。
このような状況に対し、AIデータ株式会社（以下、AIデータ社）は、国立情報学研究所（NII）が開発している最先端のAI技術「SYNTHETIQ VISION」を活用し、ディープフェイク対策の新しいモデルを社会に導入するための検討と検証を本格的に始めました。AIデータ社はこれまで、警察や自治体、企業へのデジタルフォレンジック（デジタル証拠の調査・分析）支援で培った経験を活かします。
3つの分野で社会全体を巻き込む対策モデル
AIデータ社は、「ディープフェイクゼロ社会」の実現を目標に掲げ、以下の3つの分野が協力し合うことで、フェイク映像を見つけ出し、その被害を防ぐ仕組みを社会の基盤として作り上げていくことを目指しています。
1. 法執行機関（警察・検察・サイバー犯罪対策部門）
ここでは、以下のような場面での活用が考えられています。
-
子どものフェイクポルノなどの初期段階でのチェックを支援する。
-
SNSに投稿された映像が本物かどうかを確認し、偽物だった場合に削除を求めるための技術的な証拠を提供する方法を検討する。
-
サイバー詐欺対策として、映像証拠をAIで鑑定する可能性を評価する。
2. 教育現場・自治体（学校・教育委員会・青少年支援など）
教育現場や自治体では、以下のような活用が検討されています。
-
生徒の顔が合成された「いじめ動画」などを見つけ出す支援を行い、通報や相談の仕組みに組み込む可能性を検証する。
-
教材やコンテンツにディープフェイクの表現が含まれていないかをチェックする運用モデルを検討する。
-
SNSに関する教育や、偽のメディア情報を見抜くリテラシー研修で、実際の例を見せたり、練習ツールとして活用したりする可能性を評価する。
3. 企業・民間セクター（金融・メディア・EC・人材・PRなど）
企業や民間では、ビジネスにおけるリスク対策として、以下の活用が想定されています。
-
オンラインでの本人確認（eKYC）において、提出された本人確認映像が偽物でないかをさらに厳しくチェックする（既存の顔認証システムと併用するモデルの検証）。
-
自社のブランド映像やCM素材に偽物が混じっていないかを確認するプロセスを検討する。
-
インフルエンサーを使ったマーケティングや、一般のユーザーが作ったコンテンツ（UGC）の透明性を確保するための運用モデルを検討する。
これらの検討は、現時点での想定であり、実際の導入や運用は、今後の検証結果や各分野の専門機関との話し合いを経て慎重に決められる予定です。
技術の要となる「SYNTHETIQ VISION」
この取り組みの技術的な中心となるのが、国立情報学研究所（NII）が研究開発を進めているフェイク映像検出AI「SYNTHETIQ VISION」です。この技術には、以下のような特徴があると言われています。
-
AIが、AIによって作られた顔の映像に特有の「ごくわずかな痕跡」を分析し、それが本物か偽物かの可能性を数値で示すことを目指しています。
-
人間の目では見分けが難しい映像でも、AIがその真偽を数値的に評価するアプローチを取っています。
-
映像が圧縮されたり、加工されたりした後でも、検出能力を維持できるように設計されています。
-
判定結果や関連する記録を保存し、後から確認したり、監査のプロセスで参照したりできる仕組みを備えています。
AIデータ社は、このSYNTHETIQ VISIONを重要な技術の一つとして、以下のような点を検証していきます。
-
警察、教育、企業のそれぞれの現場で、フェイク映像の検出や被害防止にどれくらい役立つか。
-
既存の調査の流れや監査のプロセスと、どのような役割分担や連携方法で組み合わせるべきか。
-
証拠としての信頼性、説明責任、そして個人のプライバシー保護を考慮した上で、記録の管理やデータの運用をどのように設計すべきか。
※このプレスリリースは、AIデータ社がSYNTHETIQ VISIONの性能を保証するものではなく、「この技術を使ったソリューションモデルの検討と実証を行っている」という事実を伝えるものです。
社会実装に向けた提供方法の検討
この仕組みを社会に広めるための提供方法として、AIデータ社は現在、いくつかの候補を検討しています。これらはあくまで検討段階のものであり、提供開始を約束するものではありません。
-
SaaS型: 映像をアップロードすると、フェイクの疑いに関するスコアや記録をすぐに確認できるサービス。
-
API連携: 既存のシステムと連携させるための接続方法。
-
OEM提供: 他社の製品やサービスの中に、フェイク検出機能を組み込むモデル。
-
セキュア導入: 政府機関や金融機関、自治体など、高いセキュリティが求められる閉鎖されたネットワーク環境での導入の可能性。
みんなで作り上げる「ディープフェイクゼロ社会」へ
この取り組みは、AIデータ社とNIIの技術連携から始まりますが、将来的には、警察や検察といった法執行機関、教育委員会や学校、青少年支援機関、金融機関、報道機関、一般企業、そして関係する省庁や地方自治体など、さまざまな立場の人たちとの意見交換や実証実験を通じて進められていく予定です。
ディープフェイクの問題は、単なる「技術」の問題ではなく、社会全体で協力して解決すべき「構造的な社会課題」であると認識されています。
AIデータ社は、関係機関との共同検証や実証実験の企画・実施、運用ルール作りのための技術的な情報提供、そして既存のデータ復旧やデジタルフォレンジックサービスとの連携による一貫した調査・証拠保全支援などを通じて、「偽の映像を見抜き、被害を食い止める仕組み」が社会にしっかりと根付くことを目指し、「ディープフェイクゼロ社会」の実現に向けた包括的な取り組みを段階的に進めていきます。
AIデータ社に関する詳細情報は、以下のウェブサイトで確認できます。
