制定医疗健康领域AI安全评估要点指南
概述
AI安全研究所医疗健康工作组为促进生成式AI安全落地社会应用，结合医疗与医疗健康领域特有的敏感性和风险，制定了面向实务人员的指南。指南依据AI生命周期设置5个阶段的评估要点和10项评估维度，今后还计划发布包含具体示例的实践指南，并根据技术、社会形势和监管动向适时更新。
要点
- 为在医疗健康领域安全推动生成式AI落地社会应用，面向实务人员的指导方针已经建立。
- 指南将安全性确认纳入从开发、设计到导入、运营的完整流程。
- 指南旨在建设兼顾安全、安心与商业价值的环境。
概述
隶属于AI安全研究所（AISI）业务验证工作组的医疗健康子工作组，为安全推动医疗健康领域生成式AI技术落地社会应用，制定了《医疗健康领域AI安全评估要点指南》。
生成式AI一方面被用于提高医生工作效率和支持与患者沟通，另一方面也面临幻觉导致健康损害、严格保护隐私以及确保安全等课题。
本指南以AISI的AI安全评估要点指南为基础，是一份面向实务人员的资料，展示了反映医疗与医疗健康领域特有敏感性和风险的具体评估方法。
主要数据
- 指南发布日期
- 2026年4月3日
- 人工智能基本计划内阁决定时间
- 2025年12月
- Hiroshima Global Forum for Trustworthy AI举办时间
- 2026年1月
- 评估阶段数量
- 5
- 评估维度数量
- 10
影响
本指南旨在从生成式AI的开发、设计阶段开始确保安全性，并帮助医疗健康服务提供者建设兼顾商业价值与安全、安心的环境。
如果不评估医疗和健康相关的错误信息或危险信息，可能会直接危及患者的生命和健康，因此，系统化整理评估维度关系到使用AI时的风险管理。
人工智能基本计划提出促进医疗和医疗健康领域AI的开发、验证、导入及社会应用；在国际社会也将可信赖的AI作为重要课题展开讨论之际，本指南从实务角度整理了医疗健康领域的AI安全评估。
医疗健康子工作组将根据技术、社会形势和国际监管动向适时更新指南，致力于促进安全的社会应用，并为创造可持续的商业价值作出贡献。
详情
指南依据AI生命周期设置产品设计、模型选择、产品实施、产品验证、产品导入与运营5个阶段，并整理各阶段应评估的要点。
评估维度共10项，全面整理了将AISI评估要点应用于医疗健康领域时所需考虑的事项。评估对象涵盖普遍性风险和医疗健康领域特有风险，并同时列出未评估各维度时可能产生的风险。
指南面向实务构建，便于专业人员较少的企业使用；今后还计划发布实践指南，载入提示词和智能体技能等具体示例，以便依据评估维度开展评估。
参与组织包括Ubie株式会社、Awarefy株式会社、味之素株式会社、SB Intuitions株式会社、希森美康控股株式会社、SherLOCK株式会社、日本数字健康联盟（JaDHA）、MICIN株式会社、公益财团法人东京财团和三菱综合研究所株式会社；Ubie株式会社担任子工作组负责人，三菱综合研究所担任子工作组事务局。