ディープフェイク対策に向けたAIデータと国立情報学研究所の連携

近年、ディープフェイク技術は急速に普及しており、一般の利用者でも容易にアクセスできる状況となっています。その影響で、SNSやメディアにおける誤情報の拡散、成りすまし、さらには知的財産の侵害や金融詐欺など、深刻な社会的問題を引き起こしています。これを受けて、AIデータ株式会社が国立情報学研究所(NII)と連携し、“DeepFakeゼロ社会”の実現に向けた新たな取り組みを始めました。

ディープフェイクとは？

ディープフェイクは、AI技術を用いて生成された合成映像のことです。その特性上、ほとんどの人が容易にその真偽を判断できないため、情報の信頼性に対する懸念が高まっています。特に、児童に対する不適切なコンテンツや、企業のブランドに対する風評被害といった問題が社会全体に深刻な影響を与えています。

“DeepFakeゼロ社会”への挑戦

AIデータ社は、これまで培ったデジタルフォレンジック技術を活かし、法執行機関、教育機関、民間セクターにわたる包括的な対策モデルを検討しています。このプロジェクトでは、次の三つの柱を基に、社会におけるディープフェイクの検出と抑止を図ることを目指します。

1. 法執行機関との連携

警察や検察といった法執行機関では、ディープフェイクによる犯罪への対策として、子どもを守るためのポルノ映像の一次スクリーニングや、SNS上の投稿の真偽を判断するための技術的エビデンスを提供することを検討しています。これにより、実際の事件での迅速な対応が期待されます。

2. 教育現場での教育支援

学校や教育委員会などの教育機関においては、生徒をターゲットにしたいじめ動画の検知支援を行い、通報や相談に対するフローを確立することが重要です。また、教材やコンテンツにディープフェイク表現が含まれているかどうかをチェックする運用モデルの開発も進めています。これにより、フェイクメディアリテラシーを育成することが目指されています。

3. 民間セクターとの協力

企業や金融機関においても、ディープフェイクの影響は無視できません。特に、本人確認に関するeKYC（電子KYC）プロセスにおいて、既存の顔認証システムと連携を図り、本人確認映像の検証を強化する取り組みが進められています。また、マーケティング活動におけるインフルエンサーやユーザー生成コンテンツ（UGC）への透明性を確保するためのモデル設計も考えられています。

技術基盤「SYNTHETIQ VISION」

この取り組みの技術的な基盤として位置づけられるのが、「SYNTHETIQ VISION」です。これはNIIが開発したフェイク映像検出AIであり、生成された顔映像には独特の微細な生成痕跡が存在することを基に設計されています。このAIが真偽を評価することで、より高精度なフェイク映像の検出を期待できます。また、映像が加工されても、検出能力が維持されるモデルとなっています。

今後の展望

AIデータ社とNIIは、共に力を合わせることで、ディープフェイクに立ち向かう社会インフラの構築を目指します。このプロジェクトは技術面だけでなく、法執行機関、教育機関、そして民間企業との協力を通じて、社会全体での意識改革も促す必要があります。今後も各関係機関との連携を強化し、持続可能な“DeepFakeゼロ社会”の実現に向けた取り組みを進めてまいります。