AIデータ社、NIIとの提携でディープフェイク対策の実証実験を開始

ディープフェイク映像への新たな対策が始動

AIデータ株式会社は、国立情報学研究所（NII）との提携により、急速に進化を続ける生成AI技術によるディープフェイク映像の危険に立ち向かう新たな取り組みを始めました。ディープフェイク技術は、人物の顔を精巧に合成することが可能であり、その使用が急増しています。これにより社会的なリスクが高まっていることから、特にリベンジポルノやなりすまし詐欺、さらに子どもを対象としたいじめや中傷のケースも増加の一途をたどっています。これらの問題が全国の警察署で深刻な課題として浮上している中、AIデータ社が手を差し伸べることになりました。

計画の背景と目的

AIデータ社は、捜査機関の現場での真偽判定の負担を軽減するために、技術提携を行いNIIから提供されるAI技術「SYNTHETIQ VISION」を活用します。この技術は、人間の目では見抜けない微細な合成痕跡を捉える能力を持ち、高精度な判定を可能にします。また、判定結果は数値化され、記録として保存されるため、将来的な分析にも役立つのです。

SYNTHETIQ VISIONの特長

「SYNTHETIQ VISION」は、NIIの名前の通り、シンセティックメディア国際研究センターが開発したもので、次のような特長があります。まず、微細な合成痕跡を検出する能力があり、さらに圧縮や編集が行われた場合でも高精度の判定が行えます。そして、得られた判定結果をスコアとして保存できるため、今後の研究や捜査に役立つデータを提供します。特に顔の置換やAIで生成された人物に対する識別能力が期待されており、この分野における真偽確認の手段として大いに注目されています。

捜査機関向けの運用支援

AIデータ社では、この技術をもとに捜査機関向けの運用支援を進めます。それには、少年課やサイバー課向けのフェイク動画鑑定支援や、SNSで拡散された動画の真偽確認、削除依頼の根拠の提供支援、さらに児童保護や教育委員会との連携支援が含まれます。また、証拠能力を高めるための鑑定ログの記録と報告書の提供も行います。このように、従来は人手に頼っていた真偽判定プロセスをAIによってより定量的で迅速なものにシフトする予定です。