ヘルスケア領域のAIセーフティ評価観点ガイドを策定
概要
AIセーフティ・インスティテュートのヘルスケアSWGは、生成AIの安全な社会実装を促進するため、医療・ヘルスケア特有の機微性やリスクを踏まえた実務者向けガイドを策定した。AIライフサイクルに沿う5フェーズの評価ポイントと10項目の評価観点を示し、今後は具体例を含む実践ガイドの公開や、技術・社会情勢・規制動向に応じた更新を予定している。
要点
- ヘルスケア分野で生成AIを安全に社会実装するための実務向け指針が整備された。
- 安全性の確認を開発・設計から導入・運用までの流れに組み込む構成となっている。
- 安全・安心とビジネス価値を両立できる環境の整備を目的に策定された。
概要
AIセーフティ・インスティテュート（AISI）の事業実証ワーキンググループに属するヘルスケアサブワーキンググループは、ヘルスケア領域の生成AI技術を安全に社会実装するため、「ヘルスケア領域におけるAIセーフティ評価観点ガイド」を策定した。
生成AIは医師の業務効率化や患者とのコミュニケーション支援に活用される一方、ハルシネーションによる健康被害、高度なプライバシー保護、セキュリティ確保が課題となっている。
本ガイドは、AISIのAIセーフティ評価観点ガイドを土台に、医療・ヘルスケア特有の機微性とリスクを反映した具体的な評価手法を示す実務者向け資料である。
主要数値
- ガイド公開日
- 2026年4月3日
- 人工知能基本計画の閣議決定時期
- 2025年12月
- Hiroshima Global Forum for Trustworthy AIの開催時期
- 2026年1月
- 評価フェーズ数
- 5つのフェーズ
- 評価観点数
- 10項目
影響
本ガイドは、生成AIの開発・設計段階から安全性を確保し、ヘルスケア事業者がビジネス価値と安全・安心を両立する環境の整備に寄与することを目的としている。
医療・健康に関する誤情報や危険情報の評価を怠ると、患者の生命や健康に直接的な被害が生じ得るため、評価観点の体系化はAI活用時のリスクマネジメントに関係する。
人工知能基本計画で医療・ヘルスケア分野のAIの開発、実証、導入、社会実装の促進が示され、国際的にもTrustworthy AIが重要課題として議論される中、本ガイドはヘルスケア領域のAIセーフティ評価を実務面から整理している。
ヘルスケアSWGは、技術や社会情勢、国際的な規制動向に応じてガイドを適宜更新し、安全な社会実装と持続可能なビジネス価値創出への貢献を目指している。
詳細
ガイドでは、AIライフサイクルに沿って、プロダクト設計、モデル選定、プロダクト実装、プロダクト検証、プロダクト導入・運用の5つのフェーズを設定し、各段階で評価すべきポイントを整理している。
評価観点は10項目で、AISIの評価観点をヘルスケア領域に適用する際に必要となる事項を、多角的に整理している。普遍的なリスクからヘルスケア固有のリスクまでを対象とし、各観点を評価しなかった場合に想定されるリスクも併記する。
専門家が少ない企業でも利用しやすいよう実務向けに構成されており、今後は評価観点に基づく評価を実施するため、プロンプトやエージェントスキルなどの具体例を載せた実践ガイドも公開予定である。
参加組織は、Ubie株式会社、株式会社Awarefy、味の素株式会社、SB Intuitions株式会社、シミックホールディングス株式会社、SherLOCK株式会社、日本デジタルヘルス・アライアンス（JaDHA）、株式会社MICIN、公益財団法人東京財団、株式会社三菱総合研究所で、Ubie株式会社がSWGリーダー、三菱総合研究所がSWG事務局を務める。