近年、AI技術の進化により、まるで本物のような偽物の映像や音声、いわゆる「フェイク映像」が簡単に作れるようになりました。これにより、オンラインでの本人確認をすり抜けたり、SNSで間違った情報が広まったり、子どもの顔を使ったなりすましや偽のポルノといった深刻な問題が起きています。これまで「映像は客観的な証拠になる」と考えられてきましたが、その常識が揺らいでおり、見ただけではわからない映像の真偽をどう判断するかが、社会全体にとっての大きな課題となっています。
AIデータ株式会社は、この問題に対処するため、国立情報学研究所（NII）が開発したフェイク映像検出AI「SYNTHETIQ VISION」を使い、社内で「フェイク映像検出基盤」を構築し、その有効性や実際の運用方法について検証を始めました。この基盤は、eKYC、SNSの投稿審査、児童保護などの現場での活用を想定しています。
フェイク映像検出AI「SYNTHETIQ VISION」とは
「SYNTHETIQ VISION」は、国立情報学研究所（NII）が研究しているフェイク映像を見つけるためのAIです。このAIは、生成・合成された顔の映像に特有の「ごくわずかな生成された痕跡」を解析し、その映像が本物か偽物かの可能性を数値で示そうと開発されています。人間には見分けが難しい映像でも、その真偽を数値で評価するアプローチが採用されており、映像が圧縮されたり加工されたりした後でも、検出能力を維持することを目指しています。また、判定結果や関連する記録を保存する機能も備わっており、後から確認したり、監査の際に参照したりできるような仕組みになっています。
AIデータ社は、この「SYNTHETIQ VISION」の技術を使い、以下のような観点から「実際に仕事で使えるフェイク検出基盤」となるかを検証しています。
-
eKYC審査、SNSの通報対応、児童保護といった実際の業務で、どのくらいフェイク映像を見つけるのに役立つか。
-
現在行われている目視での確認や、不正を見つけるシステムと、どのように役割分担し、組み合わせるのが一番良いか。
-
証拠として使えるか、また説明責任を果たすために、判定の記録をどのように管理・保存すべきか。
想定される活用シーン
このフェイク検出基盤は、検証の進み具合や関係機関との話し合いによって、様々な分野での活用が期待されています。
eKYC / 金融セキュリティ
-
録画された映像やAIで作られた顔を使った、なりすましによる口座開設や不正な取引を見つける手助け。
-
既存の顔認証AIと組み合わせることで、「二段階の本人確認プロセス」に組み込めるかの評価。
SNS投稿審査 / 動画配信プラットフォーム
-
ユーザーが投稿した動画やライブ配信映像を、事前に自動でチェックする仕組み。
-
通報された映像について、削除要請や利用停止の判断に役立つ技術的な証拠を提供する方法の検証。
児童保護 / 教育現場
-
児童・生徒の顔を使った偽のポルノやいじめ動画を見つける手助け。
-
学校、教育委員会、捜査機関と連携し、問題が起きた際の初期対応プロセスに組み込めるかの評価。
これらはあくまで現時点で考えられている利用シナリオであり、具体的な導入や運用の方法は、今後の実証結果や各分野の関係機関との協議を通じて決まっていく予定です。
今後の展望
AIデータ株式会社は、「SYNTHETIQ VISION」の技術を活用し、様々な利用シーンでの検証を進めることで、ディープフェイクの広がりに対抗できる「技術的な防波堤」を社会に作り上げていくことを目指しています。今後は、eKYC、SNS、教育、自治体など、それぞれの分野の業務に合った検証や実証実験（PoC）を進めていきます。また、国や地方公共団体、研究機関と協力して、運用モデルやガイドライン、ルールの作成にも貢献していく考えです。さらに、同社のデータ復旧・デジタルフォレンジック事業と連携し、一貫した調査や証拠保全の支援も検討し、フェイク映像の検出と抑止を支えるAIセーフティネットの一部を担えるよう、技術面と運用面の両方で準備を進めていくとしています。
AIデータ株式会社について
AIデータ株式会社は、2015年4月に設立された、企業データとAIの利活用を専門とする企業です。20年以上にわたり、企業や個人のデータ資産を守り、活用する事業を展開しており、データ共有、バックアップ、復旧、移行、消去を包括する「データエコシステム事業」では、BCNアワードで16年連続販売本数1位を獲得しています。また、経済産業大臣賞を受けたフォレンジック調査や証拠開示サービスを通じて、法務分野でも高い評価を得ています。グループ会社が提供する特許検索・出願支援システム『Tokkyo.Ai』や特許売買を可能にするIPマーケットプレイスの構築により、知財管理と収益化も支援しています。これらの技術を統合し、生成AI『AI孔明™』によるデータと知財の融合プラットフォームを展開しています。防衛省との連携による若手エンジニア育成にも力を入れ、データ管理と知財保護を通じて社会基盤の強化に貢献しています。
-
会社名：AIデータ株式会社
-
所在地：東京都港区虎ノ門5-1-5 メトロシティ神谷町ビル4F
