AISIの事業実証ワーキンググループのビジョンペーパー第2.0版
- タグ
- 日本政府
目次
AIセーフティ・インスティテュート(AISI)の事業実証ワーキンググループは2026年10月6日、分野ごとのAIセーフティ評価の方向性を示す「ビジョンペーパー(第2.0版)」を、本文と概要版のPDFでAISIのサイトに掲載した[3]。2025年に公開した版を、新規のサブワーキンググループ(SWG)も含めて更新した版である[3、5]。
要点
| 項目 | 内容 | 資料 |
|---|---|---|
| 発行元 | AIセーフティ・インスティテュート(AISI)事業実証ワーキンググループ | [1] |
| 資料 | ビジョンペーパー(第2.0版)の本文(PDF、45ページ)と概要版(PDF、17ページ)。日本語 | [1、2、3] |
| 主題 | ヘルスケア・ロボティクス・教育・ジオAIの4分野と、データ品質・適合性評価について、AIセーフティ評価の枠組みを整えるためのビジョン | [3] |
| 主な内容 | 事業実証WGの目的・体制・ロードマップ、分野別SWG 4つの取組み、分野横断SWG 2つの取組み | [1] |
| 前提と限界 | ロボティクスのガイドの評価観点は一部のユースケースのリスクに限る。ヘルスケアの対象はNon-SaMDのテキスト生成AIで、随時見直す想定 | [1] |
時系列
資料の位置づけ
文書は自らを、信頼とイノベーションが両立するAI社会の実現に向けたアジェンダ及び指針として機能することを目標にし、AIセーフティ評価に関する共通理解の醸成と具体的な実装への道筋を示すものと位置付けている[1]。読み手として、AI開発・提供事業者には基盤モデルやプロダクト・サービスの評価を行う場面を、ユーザー企業や自治体等には課題整理や受容性の判断の手がかりを、政策担当者や認証機関等には今後の評価指針の策定に向けた議論を想定している[1]。
文書の更新履歴は、第2.0版の内容を「既存 SWG のビジョンを更新」「新設 SWG のビジョンを追記」と記載している[1]。AISIの開催報告では、上期報告会に関係者130名が出席し、新たに組織した教育SWGとジオAI SWGの活動方針を共有した[6]。
内容の読み解き
活動のゴールと年度ごとの計画
文書によると、事業実証WGの目的は、産業界・行政・専門家が協働してAIの社会実装におけるAIセーフティの確保を支える仕組みを作ることにある[1]。核心のゴールには、利用者のリスク理解を前提とした説明可能性・適合性・データ品質などの多面的評価を可能とする枠組みの整備を挙げた[1]。言い換えると、利用者がリスクを理解していることを前提に、AIを複数の面から評価できる枠組みを作るのが中心の目標である[1]。体制は分野別SWGと分野横断SWGを組み合わせたもので、今後も必要に応じてSWGの増設を計画する[1]。
中長期の目的として、文書は2つを掲げている[1]。AIの円滑な導入と普及を通じて医療・労働・高齢化などの社会課題の解決に資する機会を作ることと、評価手法や観点をAI開発・提供事業者と利用者の共通言語にする環境を整えることである[1]。こうした評価の枠組みを「攻めのセーフティ」として積極的に使う考え方も示した[1]。
ロードマップでは、2025年度に重点分野のユースケースを踏まえた評価観点の整理と試行評価を行い、評価ガイド(指針)を策定した[1]。2026年度以降の中期には、現場での適用と運用を通じたフィードバックループの確立と評価手法の精緻化を進め、AIエージェントシステムなど評価対象の技術の多様さにも対応するとしている[1]。概要版は、この中期の取組みの期間を2026年度〜2027年度と記載している[2]。長期には、AGI等の実現に伴って生じる新たなAIセーフティリスクも視野に入れ、評価を続けて運用するための基盤を高度化するとした[1]。
ヘルスケアとロボティクスのガイド
ヘルスケアSWGは、まずテキスト生成AIを対象とし、Non-SaMDを想定して評価に取り組む[1]。同SWGの評価観点ガイドは、AIセーフティに関する10の評価観点をヘルスケア領域に当てはめてリスクを整理し、開発フェーズごとの重要な評価項目をチェックリストの形にしている[1]。想定するリスク例は、患者の生命・身体・精神への直接的影響と、要配慮個人情報を含む取り扱うデータの機微性である[1]。中期には、事業者がガイドを使って現場での有用性を確かめる効果検証の段階に移るとしている[1]。
ロボティクスSWGは、想定リスクを物理的リスク・心理的リスク・社会的リスクに分け、互いに影響し合う関係を前提にしている[1]。2025年度は「飲食店等における商品搬送ロボット」と「遠隔操作型の配送ロボット」をユースケースに選び、シナリオに基づく評価実験を行った[1]。文書は、同SWGのガイドで整理した評価観点について、一部のユースケースに関連するリスクに対するもので、AIロボティクス全般を網羅的に対象としたものではないと断っている[1]。
新設の教育SWGとジオAI SWG
教育SWGは、当面は初等中等教育段階を対象に検討する[1]。文書は教育分野のリスク例に、AIへの情緒的依存、生産的な試行錯誤の喪失、AI依存による成績低下、プロンプトインジェクションによる評価操作を挙げた[1]。2026年度を活動の初年度とし、ヒアリング等で意見を交わしたうえで、各リスクの評価観点・項目をガイドの形で取りまとめていく[1]。
ジオAI SWGについて、文書は地理空間情報とAIの融合に、整備・更新・可視化にAIを使う「AI for 地理空間情報」と、地理空間情報をAIによる解析やシミュレーションに使う「地理空間情報 for AI」の2つの方向性があると説明している[1]。2026年度は2次元マップ(建物)を対象にガイドラインを検討し、2027年度以降は対象を広げて、成果をISO/TC 211とOGC(Open Geospatial Consortium)に提案する計画である[1]。AISIの開催報告によると、ジオAI SWGは2026年度、地理空間情報の整備・更新に関わる共通フレームワークガイドラインと、AI活用による数値地形図の公共測量マニュアルの公開を目指している[6]。
データ品質と適合性評価
データ品質SWGは、データ品質を共通の基準で評価・比較できる「評価尺度(メジャー)」の整備を取組みの中核に置く[1]。2025年度には、官報データを題材に、データ品質の違いが生成AIの応答と安全性に与える影響を検証した[1]。
適合性評価SWGは、ISO/IEC 42007の国際標準化が進んでいることを踏まえ、自己適合性評価を含むAIの適合性評価手法と、実行できる運用手順の確立を目指す[1]。その枠組みとして、論証構造型アプローチの導入も検討している[1]。
これまでとの違い
| 項目 | これまで | 今回 | 資料 |
|---|---|---|---|
| 表紙の日付 | 2025年7月10日(第1.01版) | 2026年10月6日(第2.0版) | [1、4] |
| SWGの構成 | 4つ(ヘルスケア・ロボティクス・データ品質・適合性評価) | 6つ(教育・ジオAIが加わった) | [2、4] |
| 章の立て方 | 第3章「SWG のビジョン」に4つのSWG | 第3章「分野別 SWG のビジョン」と第4章「分野横断 SWG のビジョン」に分けた | [1、4] |
| ヘルスケアSWGのガイド | 令和7年度にガイドの策定を進める予定 | 2026年4月に評価観点ガイドを公開 | [1、4] |
| ロボティクスSWGの取組み | ロボット類型ごとのリスクの抽出と評価シナリオの設計を進める予定 | 2026年7月に評価観点ガイドを公開 | [1、4] |
| AIに関する法律の記載 | 2025年6月にAI推進法が公布 | 2025年9月にAI法が全面施行、2026年7月に現行の人工知能基本計画を閣議決定 | [1、4] |
| 参考文献の数 | 6件 | 14件 | [1、4] |
| PDFのページ数 | 33ページ | 45ページ | [1、4] |
用語
- AIセーフティ
- 人間中心の考え方をもとに、社会的リスクを低減させるための安全性・公平性、プライバシー保護、セキュリティ確保、透明性が保たれた状態[1]。
- 分野別SWGと分野横断SWG(Vertical SWG・Horizontal SWG)
- 分野別は各分野向けの評価観点ガイドの検討を通じて実装に取り組むサブワーキンググループ、分野横断は分野共通の評価手法を検討するサブワーキンググループ[1]。
- 攻めのセーフティ
- 受容可能なリスクに抑える考え方や手法を明確にして説明責任を果たす手段とし、過剰な安全対策のコストを抑えつつ「信頼できるAI」の利活用と実装を加速させる枠組み[1]。
- Non-SaMD(Non-Software as a Medical Device)
- 医療機器または医療機器プログラムには該当しないプロダクト・サービス[1]。
- 論証構造型アプローチ(Argumentation-based Approach)
- 特定の評価ゴールごとに、段階的かつエビデンスベースで適合性を証明していく手法[1]。
未確認の事項
出典
- [1]AIセーフティ・インスティテュート『ビジョンペーパー AI 利活用促進に向けた AI セーフティ評価に関する事業実証 ~信頼とイノベーションが両立する AI 社会の実現に向けて~(第2.0版)』(2026年10月6日公開、PDF、2026年11月18日確認)
- [2]AIセーフティ・インスティテュート『ビジョンペーパー AI利活用促進に向けたAIセーフティ評価に関する事業実証(第2.0版 概要版)』(2026年10月6日公開、PDF、2026年11月18日確認)
- [3]AIセーフティ・インスティテュート『AISI事業実証ワーキンググループ・ビジョンペーパー(第2.0版) ~信頼とイノベーションが両立するAI社会の実現に向けて~ の公開』(2026年10月6日公開、2026年11月18日確認)
- [4]AIセーフティ・インスティテュート『ビジョンペーパー AI 利活用促進に向けた AI セーフティ評価に関する事業実証 ~信頼とイノベーションが両立する AI 社会の実現に向けて~(第1.01版)』(2025年7月10日公開、PDF、2026年11月18日確認)
- [5]AIセーフティ・インスティテュート『AISI事業実証ワーキンググループ・ビジョンペーパー ~信頼とイノベーションが両立するAI社会の実現に向けて~ の公開』(2025年6月30日公開、2026年11月18日確認)
- [6]AIセーフティ・インスティテュート『AISI事業実証WG 2026年度上期報告会を開催しました』(公開日不明、2026年11月18日確認)
更新記録
- 2026年11月18日12時16分:掲載した(2026年10月6日の公表分を遡って記録)。
最終確認:2026年11月18日。この記事は、この時点で出典の資料に書かれていた内容をもとにした解説です。機能・料金・提供範囲は変わることがあります。利用の前に、出典の公式資料で最新の内容を確かめてください。広告・紹介リンクは置いていません。
