发布AI机器人安全社会落地评估要点指南
概述
AI安全研究所（AISI）机器人分组（SWG）发布了《AI机器人安全评估要点指南》，对象是利用AI、与人共享空间并进行移动、交互、搬运等活动的机器人。指南将AI认知、判断和行动带来的新风险分为物理、心理和社会三类，并提出9项评估要点，帮助实务人员评估安全性、研究风险降低措施。指南以咖啡馆搬运机器人和远程操作型小型配送机器人为主要使用场景，面向参与开发、设计、提供和运营的企业。今后将根据社会形势和国际监管动向更新内容。
要点
- 面向AI机器人的安全评估指南已发布。
- 指南整理了物理、心理和社会三类风险。
- 指南面向实务人员提出9项评估要点。
- 指南旨在促进AI机器人安全地落地社会应用。
概述
隶属于AI安全研究所事业验证工作组的机器人分组，为促进AI机器人安全地落地社会应用，制定了评估指南。
其背景是，在服务机器人和协作机器人中，除传统控制技术外，AI承担的认知、判断和行动越来越重要。在搬运和配送领域，不仅需要避开障碍物和生成路径，还需要自然地应对使用者、判断状况以及接受人类介入。
本指南不仅将AI的错误认知和错误判断，还将心理影响、数据和日志的处理、可解释性和可验证性等机械安全及功能安全难以充分涵盖的问题纳入评估对象。
主要数据
- 发布日期
- 2026年7月23日
- 风险类别数
- 3
- 评估要点数
- 9
影响
机器人制造商、机器人系统集成商、组件制造商等，将更容易掌握在产品和服务开发、设计、提供及运营各阶段需要关注AI安全的检查事项。
对于使用者而言，除碰撞和接触等危害外，指南还将威压性发言、引发不安或不适的行为、歧视性对待以及虚假和错误信息的传播等影响纳入考虑，从而扩大对人与机器人共享空间时安全性的关注。
指南计划根据领域变化和国际监管动向进行更新，有望成为支持企业在实施过程中关注安全并创造可持续商业价值的基础。
详情
对象是利用AI、与人共享空间并进行移动、交互、搬运等活动的AI机器人。指南提出了识别和评估AI使用可能带来的新风险，并根据结果研究降低措施的评估要点。
风险分为物理风险、心理风险和社会风险。物理风险包括碰撞和接触等，心理风险包括威压性发言以及引发不安或不适的行为，社会风险包括歧视性对待以及虚假和错误信息的传播等。
实务人员在设计、开发、提供和运营阶段应确认的评估要点，也参考AISI的《AI安全评估要点指南》进行了整理。设想的使用场景包括餐饮店等场所的商品搬运机器人，以及可远程操作的小型配送机器人。
制定工作由以产业技术综合研究所为领导的分组参加组织，以及三菱综合研究所的事务局共同参与。参加组织包括IHI、川崎重工业、松下控股、日立制作所、富士通和三菱电机等。