AIロボットの安全な社会実装に向けた評価観点ガイドを公開

AIセーフティ・インスティテュートの事業実証ワーキンググループに属するロボティクスサブワーキンググループは、AIロボットの安全な社会実装を促進するため、評価の手引きを策定した。

背景には、サービスロボットや協働ロボットで、従来の制御技術に加えて、AIが担う認識・判断・行動の重要性が高まっていることがある。搬送や配送では、障害物回避や経路生成だけでなく、自然な利用者対応や状況判断、人間による介入も求められている。

本ガイドは、AIの誤認識・誤判断だけでなく、心理的影響、データやログの扱い、説明可能性・検証可能性など、機械安全や機能安全だけでは捉えにくい課題を評価対象としている。

ロボットメーカー、ロボットSIer、コンポーネントメーカーなどは、製品やサービスの開発・設計・提供・運用の各段階で、AIセーフティを意識した確認事項を把握しやすくなる。

利用者にとっては、衝突や接触などの危害に加え、威圧的な発話、不安や不快感を与える挙動、差別的な扱い、偽・誤情報の拡散といった影響が検討されることで、人とロボットが空間を共有する際の安全性への配慮が広がる。

分野の変化や国際的な規制動向に合わせた更新が予定されており、事業者による安全性に配慮した実装と持続可能なビジネス価値の創出を支える基盤となることが期待される。

対象は、AIを利用し、人と空間を共有しながら移動、対話、搬送などを行うAIロボットである。ガイドは、AIの利用に伴って新たに生じ得るリスクを特定・評価し、結果に応じて低減策を検討するための観点を示す。

リスクは、衝突・接触などの物理的リスク、威圧的な発話や不安・不快感を与える挙動などの心理的リスク、差別的な扱いや偽・誤情報の拡散などの社会的リスクに分けて整理されている。

実務者が設計・開発・提供・運用で確認すべき評価観点は、AISIの「AIセーフティに関する評価観点ガイド」も参考に整理された。想定ユースケースは、飲食店などの商品搬送ロボットと、遠隔操作可能な小型配送ロボットである。

策定には、産業技術総合研究所をリーダーとするSWG参加組織と、三菱総合研究所の事務局が関与した。参加組織には、IHI、川崎重工業、パナソニック ホールディングス、日立製作所、富士通、三菱電機などが含まれる。