医療分野におけるAIの安全性評価ガイドを公開したUbieとJaDHA

最近の技術革新によって、医療領域ではAIがますます重要な役割を果たしています。Ubie株式会社がワーキングリーダー役を務める日本デジタルヘルス・アライアンス（JaDHA）は、AIの安全な社会実装を目的とした「ヘルスケア領域におけるAIセーフティ評価観点ガイド」を策定しました。このガイドは、ヘルスケア特有のリスクや課題を反映したものとなっています。

ガイドの背景と目的

近年、生成AIは医療従事者の業務効率化や患者とのコミュニケーション支援に寄与し、医療分野に革命的な変化をもたらしました。しかし、ハルシネーション（意味のない情報の生成）によるリスクや高度なプライバシーの保護といった課題も浮上しています。国際的には「Trustworthy AI（信頼できるAI）」を構築することが大きなテーマとなり、UbieはJaDHAとして、このガイドの策定を牽引しました。

ガイドの主な特長

ガイドは、以下のような特長を備えています。
1. AIライフサイクルに沿った評価法の提案。AIプロダクトの開発・設計の段階での明確な評価基準が設定されています。特に、プロダクトの目的やリスク評価に基づいて、詳細なガバナンス体制を構築。
2. 多角的な評価観点を設け、具体的なリスクの想定を行いました。評価観点には有害情報の出力制御やプライバシー保護といった重要なテーマが含まれています。

具体的な評価観点

本ガイドでは、以下のようなリスクを考慮しています：

- 有害情報の出力制御：誤った情報が生成された場合、患者や医療従事者に重大な影響を与えるリスク。
- 偽誤情報の出力防止：生成された情報が不適切な時、作業における損害を引き起こす恐れがあるという懸念。
- プライバシー保護とセキュリティ：個人情報の漏洩や不正利用が起こることで、患者の信頼が失われるリスク。

想定する読者層

本ガイドは経営者、プロダクトマネージャー、エンジニア、UXデザイナー、医療専門家、など幅広い読者に向けて作成されています。特に、ヘルスケア分野におけるAIに対する理解や安全性を高めるための有用な情報を提供します。

今後の展望

Ubieは、本ガイドを通じて生成AIのさらなる安全な社会実装を目指し、変わりゆく技術や社会状況に応じてガイドの更新を行っていく予定です。また、AIサービスにおける実用的な活用事例やプロンプトの掲載を進め、ユーザーが自社のニーズに合わせた安全性観点を取り入れられるよう支援していきます。

Ubie、JaDHAは今後も「Trustworthy AI」の実現を目指して、業界全体の協力のもと、イノベーションと安心・安全な環境の両立に取り組んでいきます。