AI技術で挑むDeepFake犯罪対策の新たな試み

AI技術で挑むDeepFake犯罪への対策

DeepFakeがもたらす新たな脅威

近年、DeepFake技術が急速に進展する中、それを悪用した犯罪行為が増加しています。SNS上では、著名人がなりすましで登場する偽動画や、児童の顔を無断で合成したポルノ映像が拡散され、名誉やプライバシーの侵害といった深刻な問題を引き起こしています。さらに、AIが生成した映像を利用したオンライン本人確認詐欺や、株価操作を目的とした偽の発言動画など、金融や行政、法務の世界においてもその悪用が報告されています。このような脅威の中で映像が持つ「証拠」という前提が揺らいでいるため、映像の真偽を客観的に評価できる基盤が求められています。

AIデータ社の取り組み

東京都港区に本社を構えるAIデータ株式会社は、国立情報学研究所（NII）によって開発されたDeepFake判定AI技術「SYNTHETIQ VISION」を利用し、AI映像鑑定基盤の検証を始めました。この基盤においては、以下の要素を中心に実使用を見据えたテストが行われています。

- 様々な犯罪やトラブルケースを想定したサンプル映像の判定
- 従来の目視確認との効果比較
- 法的証拠としての信頼性と内部監査プロセスへの適合性
- 捜査機関や企業との連携を考慮した運用フロー

商用サービスの提供については、これらの検証結果を基に今後検討が進められます。

SYNTHETIQ VISIONの機能

「SYNTHETIQ VISION」は、生成や合成された顔映像に特有の微細な痕跡をAIが解析し、真偽の可能性を数値で評価します。この技術は、人間の目には難しい映像をも高精度で識別することを目指しています。また、圧縮や再エンコードなどの加工が施された映像にも対応できる設計がされています。判定結果の保存機能により、後の検証や監査の際にも活用可能です。

AIデータ社では、これらの機能を活用しながら、実務におけるAI映像鑑定をどのように実現するか、また既存の不正検知システムとの統合方法を模索し、証拠性を担保した運用ルールを整備しています。

AI映像鑑定基盤の活用可能性

このAI映像鑑定基盤は、今後の検証結果に基づき、さまざまな分野での活用が期待されます。例えば、捜査機関や教育委員会では、児童の顔を無断で合成した動画に対して初期スクリーニングを支援するほか、被害報告時の証拠映像整理を行います。また、自治体や行政機関では、なりすまし動画の真偽判定や技術的根拠資料の整備をサポートします。金融機関では、本物かどうかの疑わしい顔動画を機械的に抽出し、高リスク取引の評価に役立てることが可能です。

メディア企業やSNS運営者には、投稿動画や広告に対する事前チェックや通報受付時の二次審査でAIによるスコア活用が提案されています。

今後の展開

AIデータ社は、データ復旧やデジタルフォレンジックの知見を生かして、この映像鑑定基盤の高度化を進めていく方針です。実務に即したテストデータを用いた評価や、捜査機関・教育機関との共同研究、法的なガイドラインとの整合性を保った運用ルールの整備を目指します。加えて、既存のデータ管理サービスとの連携を模索し、DeepFakeによる犯罪防止に繋げていく考えです。

AIデータ社は、映像の真偽を技術で検証する仕組みが社会のインフラとして機能する未来を見据え、継続的に関係機関や研究者との協力を強化していく意向です。

AIデータ株式会社の概要

AIデータ株式会社は、2015年に設立され、東京都港区に本社を置いています。1億円の資本金を持ち、企業と個人のデータ資産の保護・活用を展開してきました。16年連続でBCNアワードの販売本数1位を獲得しているほか、経済産業大臣賞も受賞しています。彼らはデータを守るだけでなく、知的財産の管理や収益化支援にも力を入れており、社会基盤の強化に貢献しています。