SherLOCK、ヘルスケア領域向けAIセーフティ評価ガイドを支援

SherLOCK、ヘルスケアにおけるAIセーフティ評価観点ガイドを策定

AI技術の進展によって、ヘルスケア分野でも多くの期待が寄せられていますが、それと同時に多くの課題も浮上しています。特に、生成AIがもたらす誤情報（ハルシネーション）やプライバシー侵害、セキュリティリスクは、正確な医療情報を必要とする現場では深刻な問題です。そんな中、AIセキュリティスタートアップのSherLOCK株式会社が、ヘルスケア領域に特化した「AIセーフティ評価観点ガイド」の策定を技術支援しました。これはAIセーフティ・インスティテュート（AISI）の事業の一環で行われたもので、医療現場での安全性確保を目的としています。

背景と目的

多様なAI技術が広まりを見せる中で、特にヘルスケアにおける「信頼できるAI」の実現が急務です。2026年の「Hiroshima Global Forum for Trustworthy AI」では、国際的な観点からこのテーマが議論されました。SherLOCKは、企業が製品開発の初期段階から安全性を重視し、ビジネス価値と安全の両立を目指すために技術的な支援を行っています。

SherLOCKの支援内容

具体的には、以下のような支援を行いました：
1. AIレッドチーミングテストの実施
医療現場で起こりうる重大な危険を特定し、悪意のある情報誘導やプライバシーリスクに関する評価基準を整備しました。これにより、事前にテストを行うことでリスクを認識しやすくします。
2. データ品質評価の構築
RAG（検索拡張生成）などを通じ、医療情報が正確であることの保証を目指した評価ポイントを明確にしました。
3. 第三者による評価の助言
専門的知見を持つ第三者によるAIレッドチーミングテストが、企業の信頼性向上に寄与する方法を提示しました。

ガイドの特長

本ガイドは、専門家が少ない企業でも実践しやすい内容になっています。以下の特徴があり、すぐに現場に役立てることが可能です。

- AIライフサイクルに沿った5フェーズ評価

プロダクト設計から導入運用までの各段階で必要な評価ポイントを示します。

- 多角的セーフティ評価観点

AIによる医療現場でのリスクを広範囲にカバーし、評価が不十分な場合の影響についても明示しています。

- 具体的なリスクマネジメント支援

現場担当者が即座に活用できる具体的リスクと対策が整理されております。

SherLOCK代表のコメント

SherLOCKのCEOである築地テレサ氏は、「ヘルスケアという責任の重い領域において、AISIや他のメンバーとともに信頼構築のためのAIセーフティガイドを策定できたことを誇りに思います。AIセーフティ評価は、AIの革新を妨げるものではなく、むしろ安全な社会実装を加速させるために不可欠な活動です」と指摘しています。

まとめ

AIセキュリティの重要性が高まる中で、SherLOCKが提供するヘルスケア向けのAIセーフティ評価観点ガイドは、持続可能な医療の実現に向けて非常に重要な役割を果たしています。詳細については、公式サイトやAISIのページでご確認いただけます。例えば、 AISIのガイドのダウンロードも可能です。これからのAIの進展に注目です。