Shisa.AIが国連のAI悪用対策イニシアチブに参加し新たな取り組みを開始

Shisa.AIが国連のAI悪用対策イニシアチブに参加

東京都港区に本社を構えるShisa株式会社の子会社であるShisa.AIが、Behavioral AI Labが主導する国際的な取り組み「Global Partnership for Detecting and Preventing AI-Enabled Manipulation and Scams」に参画しました。このイニシアチブは、国連が後押しするAIのガバナンスに関するプログラムの一環として、AIを悪用した詐欺やフェイクニュースに立ち向かうことを目指しています。

Shisa.AIはこのプロジェクトにおいて主要な技術的寄与を担い、悪用されるAI技術に対抗するための戦略的な技術開発を行います。この取り組みは、主に行動経済学とAI技術の融合を目指すBehavioral AI Labの創設者である田中智美氏が中心となって進められています。

悪質な詐欺に立ち向かう

現在、多言語化が進む詐欺やフェイク情報はセキュリティ上の重大な課題です。特に、ロマンス詐欺やなりすましなど、長期にわたって行われるパーソナライズされた詐欺行為に対して、従来の詐欺検知システムは効果的ではありませんでした。これらのシステムは通常、固定されたルールやキーワードリストに依存しており、変化するメッセージの流れには柔軟に対応できないからです。

Shisa.AIの参画するイニシアチブでは、最新の言語モデルや分類モデルを活用し、異なる言語にまたがる文脈的なパターンを特定することで、詐欺をより早期かつ信頼性高く検知することを目指しています。このプロジェクトを通じて、数々の詐欺メッセージのデータを解析し、検知精度を向上させるライブラリの開発が進められます。

技術開発の具体的な施策

Shisa.AIは、データセットの開発、モデルの訓練、評価手法の設計・実装に至るまで、広範な技術的能力を持っています。また、多言語モデルに関する豊富な知識をもとに、安全性の向上やバイアスの低減、そしてAIの整合性に関する研究を行い、プロジェクトに貢献します。

今後、発表される予定のオープンソースの成果物には、以下の5項目が含まれています：
1. Behavioral Manipulation Taxonomy v1 および実装ガイダンス（2026年第4四半期公開予定）
2. 多言語行動リスクデータセットおよび評価ベンチマーク（2027年第2四半期公開予定）
3. Safety by Designフレームワーク（詐欺防止のための設計）(2027年第2四半期公開予定）
4. 参加型能力構築ワークショップ（少なくとも3か国で、実施予定：2027年6月）
5. パイロット実装（少なくとも3つのグローバルパートナー組織との実施予定：2027年6月）

Shisa.AIのビジョン

Shisa.AIの共同創業者兼CTOであるレナード・リン氏は、「私たちの使命はAIを用いて日本の人々の生活を具体的に向上させることです。このプロジェクトを通じて、より多くの人々を詐欺や不当な操作から保護できることを嬉しく思っています」と述べています。世界中の人々を守るための技術開発の先頭を切ることが、Shisa.AIの重要な目標です。

日本やシンガポール、アメリカ、イギリス、東南アジアなど、様々な国々と連携を深め、AIのセーフティ基盤やプライバシーに配慮した実践的な防御技術の推進に努めていきます。今後の進展が楽しみです。