CODE BLUE 2025でCyCraftが生成AIセキュリティの最新研究を発表

CODE BLUE 2025でのCyCraftの発表

2025年11月18日、東京のベルサール高田馬場にて、サイバーセキュリティの専門企業CyCraftが生成AIに関連する重要な発表を行います。今回のイベントでは、AI技術が進化する中でのセキュリティ対策をテーマに、特に生成AIの安全性向上に関する取り組みが紹介されます。CyCraftはこの分野での最新の研究成果を持ち寄り、参加者にとって実践的な知識を提供するとともに、実際の検証事例も交えながら具体的な防御策を議論する予定です。

講演内容の概要

CyCraftが発表するセッションのタイトルは「AIセキュリティの実践：インジェクション攻撃とガードレール防御」。近年、特に大規模言語モデル（LLM）の普及が進む中で、新たな攻撃手法、たとえばPrompt InjectionやPrompt Extraction、Jailbreakといったものが登場しています。これらは従来のセキュリティ対策では対応が難しく、セキュリティの新たな課題として注目されています。

本セッションでは、AIシステムの防御のために不可欠な二つの柱、「アドバーサリアル・レッドチームテスト」と「ガードレール防御」について深掘りします。

1. アドバーサリアル・レッドチームテスト

- 多様なインジェクションシナリオを活用して、LLMが持つ潜在的な脆弱性を明らかにする手法です。このプロセスでは、攻撃の模擬実施を通じて、どのようなリスクが存在するのかを明確にし、適切な対策を講じるための基礎データを収集します。これにより、組織は自らのAIシステムを継続的に改善し、強化することが可能となります。

2. ガードレール防御

- 検証可能な多層コントロールの構築により、悪意のあるプロンプトを抑止するための手法です。この防御機能は、AIモデルの安全な挙動を保証し、意図しない結果を引き起こさないように設計されています。参加者は具体的な実証例を通じて、安全で信頼性の高いAIシステムの構築について学ぶことができるでしょう。

参加の意義

CODE BLUE 2025は、AI時代の最新のセキュリティ脅威にどう立ち向かうべきかを考える貴重な機会です。CyCraftのセッションを通じて、いかにして新しい攻撃手法に対処し、安全なAI開発を行うかを探求していきます。業界の専門家による具体的な知見を得ることができるこの場を、ぜひお見逃しなく。

イベント詳細

- 日時: 2025年11月18日（火）14:25 - 14:55
- 会場: ベルサール高田馬場 Hall A (Track 2)
- 講演者: Renata Chang（レナタチョウ）

株式会社CyCraft Japan Architect Consultant

詳細情報は公式ウェブサイトにてご確認ください。

公式サイト: CODE BLUE

CyCraftについての背景や最新情報も公式サイトでチェックし、あなたの知識を深めましょう。AIとサイバーセキュリティの融合が、我々の未来をどのように変えるのか、一緒に見届けましょう。