AISI召开会议报告AI安全评估实证与评估环境建设工作
概述
AISI报告了业务实证工作组上半年度的活动及下半年以后的推进计划，以及AI安全评估环境研讨工作组的活动。会议分享了各分组的成果以及后续验证和完善指南的方针，Anthropic和OpenAI也介绍了最新动向。文章末尾表示，将进一步推动各项活动，以实现AI安全。
要点
- 业务实证工作组分享了上半年度的活动情况及下半年以后的推进计划。
- 6个分组报告了各领域的成果、验证工作和指南完善情况。
- 评估环境研讨工作组分享了2026年度的活动。
概述
AISI业务实证工作组召开报告会，汇报各分组（SWG）2026年度上半年度的活动情况，并在相关人员之间分享信息，为下半年度及下一年度以后的业务实证工作做好推进准备。Anthropic和OpenAI作为特邀演讲嘉宾出席，介绍了最新动向。
在另一场全体会议上，分享了AISI与民营企业共同探讨开发和强化评估环境的工作组2026年度活动，以及以OSS形式公开的评估工具概要。
影响
AISI计划今后进一步推动包括研讨工作组在内的各项活动，以实现AI安全。
详情
医疗保健SWG将从AI提供方的角度验证2026年4月公开的《医疗保健领域AI安全评估观点指南》的实用性，并收集医疗机构等方面的意见后进行修订。机器人SWG在上半年度公开了汇总实机评估成果的《AI机器人安全评估观点指南》，下半年度正在验证评估观点的实用性，并推进针对AI机器人运行设计领域（ODD）的实证实验。
数据质量SWG在上半年度制定并公开了检查清单，还将通过实际业务验证其有效性和面临的问题，以推动改进，并验证元数据质量等内容。符合性评估SWG与国际标准化活动协作，探讨包括人类与AI协作为内容的AI系统符合性评估制度框架。该组还将与标准型BRiDGE项目联动，编制报告和指南。
教育SWG于本年度成立，并梳理了初等和中等教育阶段使用生成式AI的相关风险。该组计划与专家等多方反复交换意见，汇总使用案例、风险和评估观点。地理AI SWG正在探讨发布通用框架指南，以及利用AI绘制数值地形图的公共测量手册，以便在AI系统中安全使用地理空间信息。
AI安全评估环境是一款OSS，用于支持AI系统开发者和提供方开展安全性评估。该工具于2025年9月公开，并于2025年10月成立由民营企业参与的研讨工作组。工作组正在结合用户反馈和技术动向，探讨功能强化及今后的发展方向。