AIセーフティ評価環境のOSS公開と検討タスクフォース総会
概要
AIセーフティ・インスティテュート（AISI）は、2026年2月26日に「AIセーフティ評価環境 検討タスクフォース」総会を開催し、総勢100名が参加した。総会では、2025年度の活動、「AIセーフティ評価環境」の概要、機能説明・デモ、検討タスクフォースの活動状況を共有した。後半にはAIレッドチーミング／ガバナンス、AIエージェント／エージェンティックAI、2026年のAIビジネスをテーマとする討議を実施した。AIエージェントは複数のテーマで取り上げられ、AIセーフティとAIビジネスの両面で注目度の高い技術であることが示された。AISIは2026年度以降も、検討タスクフォースを含む活動を活性化する方針を示した。
要点
- 評価環境を軸に、AIセーフティの実務的な評価活動を広げる枠組みが示された。
- 利用者からのフィードバックや技術動向を、評価環境の方向性や機能強化の検討に反映する活動である。
- AIエージェントは、安全性とビジネスの両面で共通して注目された。
概要
AIセーフティ・インスティテュート（AISI）は、AIシステムの開発者や提供者によるAIセーフティ評価を推進する公的機関として、評価のためのツールを整備している。所長は村上明子で、独立行政法人情報処理推進機構に属する。
AISIは2025年9月に「AIセーフティ評価環境」をオープンソースソフトウェア（OSS）として公開し、AIセーフティ評価を行うための基盤を提供した。
2025年10月からは、AISIと複数の民間企業が「AIセーフティ評価環境 検討タスクフォース」を組織し、利用者からのフィードバックや技術動向を踏まえて、環境の方向性と機能強化案を議論している。
主要数値
- 公開日
- 2026年3月6日
- 総会開催日
- 2026年2月26日
- 総会出席者数
- 総勢100名
- 評価環境のOSS公開時期
- 2025年9月
- 検討タスクフォースの活動開始時期
- 2025年10月
- 今後の活動時期
- 2026年度以降
影響
OSSとして評価環境が公開されたことで、AIシステムの開発者や提供者がAIセーフティ評価を行うための評価ツールが提供される形となった。
民間企業とAISIによる継続的な検討では、利用者からのフィードバックや技術動向を踏まえ、評価環境の今後の方向性や機能強化案が議論されている。
総会でAIエージェントが複数の議論で取り上げられたことは、この技術がAIセーフティだけでなくAIビジネスの観点からも関心を集めていることを示した。AISIは検討TFを含む活動を2026年度以降も活性化し、AIセーフティの実現を目指す。
詳細
総会は一般参加者とオンライン参加者を含めて開催され、前提知識がない参加者にもAISI、評価環境、検討TFの概要を伝え、関心を高めてもらうことを目的とした。前半ではAISIの活動紹介、評価環境の機能説明・デモ、検討TFの活動報告、メンバー紹介を行った。
後半では、検討TFのメンバーをパネリストとする三つの討議を実施した。テーマは「AIレッドチーミング／ガバナンス」「AIエージェント／エージェンティックAI」「2026年のAIビジネス」で、AIセーフティと事業の両面から意見交換を行った。
開催日時は2026年2月26日13時30分から17時10分まで、会場は株式会社三菱総合研究所の会議室だった。登壇企業はSB Intuitions、NTT、NTTデータグループ、NTTドコモビジネス、Citadel AI、日本電気、野村総合研究所、富士通、Preferred Networks、Ridge-iの10社である。