AISIの事業実証ワーキンググループのビジョンペーパー第2.0版

目次
  1. 要点
  2. 時系列
  3. 資料の位置づけ
  4. 内容の読み解き
    1. 活動のゴールと年度ごとの計画
    2. ヘルスケアとロボティクスのガイド
    3. 新設の教育SWGとジオAI SWG
    4. データ品質と適合性評価
  5. これまでとの違い
  6. 用語
  7. 未確認の事項
  8. 出典
  9. 更新記録

AIセーフティ・インスティテュート(AISI)の事業実証ワーキンググループは2026年10月6日、分野ごとのAIセーフティ評価の方向性を示す「ビジョンペーパー(第2.0版)」を、本文と概要版のPDFでAISIのサイトに掲載した⁠[3]。2025年に公開した版を、新規のサブワーキンググループ(SWG)も含めて更新した版である⁠[3、5]。

要点

要点
項目内容資料
発行元AIセーフティ・インスティテュート(AISI)事業実証ワーキンググループ⁠[1]
資料ビジョンペーパー(第2.0版)の本文(PDF、45ページ)と概要版(PDF、17ページ)。日本語⁠[1、2、3]
主題ヘルスケア・ロボティクス・教育・ジオAIの4分野と、データ品質・適合性評価について、AIセーフティ評価の枠組みを整えるためのビジョン⁠[3]
主な内容事業実証WGの目的・体制・ロードマップ、分野別SWG 4つの取組み、分野横断SWG 2つの取組み⁠[1]
前提と限界ロボティクスのガイドの評価観点は一部のユースケースのリスクに限る。ヘルスケアの対象はNon-SaMDのテキスト生成AIで、随時見直す想定⁠[1]

目次へ

時系列

時系列
日付区分内容資料
2024年2月その他日本政府がAISIを設立した⁠[1]
2025年3月その他AISIが事業実証WGを設置した⁠[1]
2025年6月30日前の版ビジョンペーパー第1.0版を公開した⁠[5]
2025年7月10日公開一部の記載を直した第1.01版を出した⁠[1、4]
2026年4月公開ヘルスケアSWGが評価観点ガイドを公開した⁠[1]
2026年7月公開ロボティクスSWGが評価観点ガイドを公開した⁠[1]
2026年10月6日公表第2.0版の本文と概要版を公開した⁠[3]
2026年10月7日その他AISIが事業実証WGの2026年度上期報告会を開いた⁠[6]

目次へ

資料の位置づけ

文書は自らを、信頼とイノベーションが両立するAI社会の実現に向けたアジェンダ及び指針として機能することを目標にし、AIセーフティ評価に関する共通理解の醸成と具体的な実装への道筋を示すものと位置付けている⁠[1]。読み手として、AI開発・提供事業者には基盤モデルやプロダクト・サービスの評価を行う場面を、ユーザー企業や自治体等には課題整理や受容性の判断の手がかりを、政策担当者や認証機関等には今後の評価指針の策定に向けた議論を想定している⁠[1]。

文書の更新履歴は、第2.0版の内容を「既存 SWG のビジョンを更新」「新設 SWG のビジョンを追記」と記載している⁠[1]。AISIの開催報告では、上期報告会に関係者130名が出席し、新たに組織した教育SWGとジオAI SWGの活動方針を共有した⁠[6]。

目次へ

内容の読み解き

活動のゴールと年度ごとの計画

文書によると、事業実証WGの目的は、産業界・行政・専門家が協働してAIの社会実装におけるAIセーフティの確保を支える仕組みを作ることにある⁠[1]。核心のゴールには、利用者のリスク理解を前提とした説明可能性・適合性・データ品質などの多面的評価を可能とする枠組みの整備を挙げた⁠[1]。言い換えると、利用者がリスクを理解していることを前提に、AIを複数の面から評価できる枠組みを作るのが中心の目標である⁠[1]。体制は分野別SWGと分野横断SWGを組み合わせたもので、今後も必要に応じてSWGの増設を計画する⁠[1]。

中長期の目的として、文書は2つを掲げている⁠[1]。AIの円滑な導入と普及を通じて医療・労働・高齢化などの社会課題の解決に資する機会を作ることと、評価手法や観点をAI開発・提供事業者と利用者の共通言語にする環境を整えることである⁠[1]。こうした評価の枠組みを「攻めのセーフティ」として積極的に使う考え方も示した⁠[1]。

ロードマップでは、2025年度に重点分野のユースケースを踏まえた評価観点の整理と試行評価を行い、評価ガイド(指針)を策定した⁠[1]。2026年度以降の中期には、現場での適用と運用を通じたフィードバックループの確立と評価手法の精緻化を進め、AIエージェントシステムなど評価対象の技術の多様さにも対応するとしている⁠[1]。概要版は、この中期の取組みの期間を2026年度〜2027年度と記載している⁠[2]。長期には、AGI等の実現に伴って生じる新たなAIセーフティリスクも視野に入れ、評価を続けて運用するための基盤を高度化するとした⁠[1]。

ヘルスケアとロボティクスのガイド

ヘルスケアSWGは、まずテキスト生成AIを対象とし、Non-SaMDを想定して評価に取り組む⁠[1]。同SWGの評価観点ガイドは、AIセーフティに関する10の評価観点をヘルスケア領域に当てはめてリスクを整理し、開発フェーズごとの重要な評価項目をチェックリストの形にしている⁠[1]。想定するリスク例は、患者の生命・身体・精神への直接的影響と、要配慮個人情報を含む取り扱うデータの機微性である⁠[1]。中期には、事業者がガイドを使って現場での有用性を確かめる効果検証の段階に移るとしている⁠[1]。

ロボティクスSWGは、想定リスクを物理的リスク・心理的リスク・社会的リスクに分け、互いに影響し合う関係を前提にしている⁠[1]。2025年度は「飲食店等における商品搬送ロボット」と「遠隔操作型の配送ロボット」をユースケースに選び、シナリオに基づく評価実験を行った⁠[1]。文書は、同SWGのガイドで整理した評価観点について、一部のユースケースに関連するリスクに対するもので、AIロボティクス全般を網羅的に対象としたものではないと断っている⁠[1]。

新設の教育SWGとジオAI SWG

教育SWGは、当面は初等中等教育段階を対象に検討する⁠[1]。文書は教育分野のリスク例に、AIへの情緒的依存、生産的な試行錯誤の喪失、AI依存による成績低下、プロンプトインジェクションによる評価操作を挙げた⁠[1]。2026年度を活動の初年度とし、ヒアリング等で意見を交わしたうえで、各リスクの評価観点・項目をガイドの形で取りまとめていく⁠[1]。

ジオAI SWGについて、文書は地理空間情報とAIの融合に、整備・更新・可視化にAIを使う「AI for 地理空間情報」と、地理空間情報をAIによる解析やシミュレーションに使う「地理空間情報 for AI」の2つの方向性があると説明している⁠[1]。2026年度は2次元マップ(建物)を対象にガイドラインを検討し、2027年度以降は対象を広げて、成果をISO/TC 211とOGC(Open Geospatial Consortium)に提案する計画である⁠[1]。AISIの開催報告によると、ジオAI SWGは2026年度、地理空間情報の整備・更新に関わる共通フレームワークガイドラインと、AI活用による数値地形図の公共測量マニュアルの公開を目指している⁠[6]。

データ品質と適合性評価

データ品質SWGは、データ品質を共通の基準で評価・比較できる「評価尺度(メジャー)」の整備を取組みの中核に置く⁠[1]。2025年度には、官報データを題材に、データ品質の違いが生成AIの応答と安全性に与える影響を検証した⁠[1]。

適合性評価SWGは、ISO/IEC 42007の国際標準化が進んでいることを踏まえ、自己適合性評価を含むAIの適合性評価手法と、実行できる運用手順の確立を目指す⁠[1]。その枠組みとして、論証構造型アプローチの導入も検討している⁠[1]。

目次へ

これまでとの違い

これまでとの違い
項目これまで今回資料
表紙の日付2025年7月10日(第1.01版)2026年10月6日(第2.0版)⁠[1、4]
SWGの構成4つ(ヘルスケア・ロボティクス・データ品質・適合性評価)6つ(教育・ジオAIが加わった)⁠[2、4]
章の立て方第3章「SWG のビジョン」に4つのSWG第3章「分野別 SWG のビジョン」と第4章「分野横断 SWG のビジョン」に分けた⁠[1、4]
ヘルスケアSWGのガイド令和7年度にガイドの策定を進める予定2026年4月に評価観点ガイドを公開⁠[1、4]
ロボティクスSWGの取組みロボット類型ごとのリスクの抽出と評価シナリオの設計を進める予定2026年7月に評価観点ガイドを公開⁠[1、4]
AIに関する法律の記載2025年6月にAI推進法が公布2025年9月にAI法が全面施行、2026年7月に現行の人工知能基本計画を閣議決定⁠[1、4]
参考文献の数6件14件⁠[1、4]
PDFのページ数33ページ45ページ⁠[1、4]

目次へ

用語

AIセーフティ
人間中心の考え方をもとに、社会的リスクを低減させるための安全性・公平性、プライバシー保護、セキュリティ確保、透明性が保たれた状態⁠[1]。
分野別SWGと分野横断SWG(Vertical SWG・Horizontal SWG)
分野別は各分野向けの評価観点ガイドの検討を通じて実装に取り組むサブワーキンググループ、分野横断は分野共通の評価手法を検討するサブワーキンググループ⁠[1]。
攻めのセーフティ
受容可能なリスクに抑える考え方や手法を明確にして説明責任を果たす手段とし、過剰な安全対策のコストを抑えつつ「信頼できるAI」の利活用と実装を加速させる枠組み⁠[1]。
Non-SaMD(Non-Software as a Medical Device)
医療機器または医療機器プログラムには該当しないプロダクト・サービス⁠[1]。
論証構造型アプローチ(Argumentation-based Approach)
特定の評価ゴールごとに、段階的かつエビデンスベースで適合性を証明していく手法⁠[1]。

目次へ

未確認の事項

  • 第2.0版の英語版の公開の有無と時期(第1.0版は2025年7月10日に英語版を公開⁠[5])
  • 第1.01版から改めた箇所の一覧(更新履歴は概要だけを記載⁠[1])
  • ロードマップと体制の図、表3-1と表3-2の中だけにある情報

出典

更新記録

  • 2026年11月18日12時16分:掲載した(2026年10月6日の公表分を遡って記録)。

目次へ

最終確認:2026年11月18日。この記事は、この時点で出典の資料に書かれていた内容をもとにした解説です。機能・料金・提供範囲は変わることがあります。利用の前に、出典の公式資料で最新の内容を確かめてください。広告・紹介リンクは置いていません。