Anthropicの蒸留攻撃への対策の説明
Anthropicは2026年10月12日、Claudeの推論の記録を狙う蒸留攻撃への対策と、その効果の見積もりを、記事「Strengthening our defenses against distillation attacks」として公式サイトに掲載した[1]。同社は、新しい方法で蒸留攻撃の効果を下げる大きな進展があったと説明している[1]。
要点
時系列
| 日付 | 区分 | 内容 | 資料 |
|---|---|---|---|
| 2026年 | 前の版 | 前の説明「Detecting and preventing distillation attacks」を公開した | [4] |
| 2026年 | 変更 | Claude Fable 5.1で、思考ブロックの前の内容が変わっていないかを確かめる仕組みを加えた | [3] |
| 2026年 | 当局 | NISTのCAISIがGLM-5.3のサイバー能力の評価を公表した | [7] |
| 2026年 | 変更 | 出力の前に届いた拒否のうち、一部の分類への課金を再開した | [3] |
| 2026年 | 変更 | Claude Sonnet 5.5の思考ブロックを、作ったアカウントと結び付いたアカウントでだけ働くようにした | [3] |
| 2026年 | 公表 | 蒸留攻撃への対策の記事を公式サイトに掲載した | [1] |
資料の位置づけ
文書は、Anthropicが公式サイトのSafeguardsの区分に載せた記事である[1]。文書によると、蒸留攻撃は不正なアカウントの網を使って行われることが多い[1]。
同じ主題の前の説明で、Anthropicは、3つの研究所が約24,000の不正なアカウントを通じてClaudeと1,600万回を超えるやり取りを生んだと記載していた[4]。9月の脅威の報告によると、Anthropicは2月の公表の後に、中国に拠点を置く7つの研究所による追加の攻撃を特定して妨げた[5]。今回の文書は、開発者とプラットフォームが攻撃を防ぐ方法と対策の得失を理解する助けになることを望むと記載している[1]。
内容の読み解き
不正な蒸留への懸念
Anthropicは懸念の理由を2つ挙げている[1]。1つ目は、蒸留で作られたモデルが能力の先端に近づく一方、釣り合った安全対策なしに公開されてきたことで、そうしたモデルは生物学やサイバーセキュリティの分野で大きな害に使われうる[1]。
例として、Anthropicは、Zhipuが「GLM-5.3」の開発中に米国の主要なモデルのサイバー能力を蒸留したと記載している[1]。ZhipuはClaude Fable 5の蒸留も試みたが、サイバーの安全対策で攻撃が弱まったため、古いClaudeのモデルと別の研究所のモデルに切り替えた[1]。同社は、米国のCAISSI〔注1〕がGLM-5.3をこれまでに公開された中で最もサイバー能力の高いオープンウェイトのモデルと評価したことを引き、自社の研究ではGLM-5.3の安全対策は容易に回避できたと述べた[1]。
2つ目は国家安全保障上のリスクで、米国のモデルを蒸留する企業は、得た能力を外国の軍事・情報・監視のシステムに組み込んでいる[1]。事例として文書が挙げたのは、MoonshotのKimiのモデルへの要求が密かにClaudeに転送され、その1件が、中国人民解放軍に関係するとAnthropicがみる利用者による、特定の個人の監視カメラの映像の分析を求める要求だったというものである[1]。
推論の記録を守る対策
文書によると、蒸留を行う者は大きなモデルから数百万の応答を作り、小さなモデルにその振る舞いをまねさせる[1]。最も価値の高いデータは推論の記録で、Anthropicの対策はほぼ全面的に、推論に近づきにくくすることに絞っている[1]。初期の対策では、Claudeに推論を要約させてから利用者に見せた[1]。
Anthropicは自社の評価として、Claude Opus 4.8の記録で訓練した事前学習済みのClaudeのモデルのSWE-bench Verifiedのスコアを、推論の全文の記録では80.4%、要約した記録だけでは71.8%と記載している[1]。その後、攻撃者は受け身の収集から、Claudeに推論の全文を出させようとする能動的な抽出に移り、数十万の不正なアカウントを操る中継の網を作った[1]。
現在の対策は3つの方法から成り、正規の利用者への影響は最小だと文書は説明している[1]。1つ目の「推論の行き先の管理」では、Claude Fable 5.1とClaude Opus 5.5でpreserved thinkingを導入し、8月31日以降に作られた新しいAPIのアカウントがClaudeの前の文脈を書き換えられないようにした[1]。言い換えると、新しいアカウントからは、Claudeがそれまでに受け取った会話の内容を後から改められない[1]。推論をより古いモデルが読めないようにし、Claude Sonnet 5.5では推論の記録を、その記録を生んだ要求の組織だけが読めるようにもした[1]。
リリースノートによると、Claude Fable 5.1でこうしたアカウントがsystemプロンプト・ツール・前のメッセージを変えた後に思考ブロックを送り返すと、APIは400エラーを返す[3]。
2つ目の「抽出の試みの遮断と修正」では、Constitutional Classifiersの研究で説明した種類の2段階の分類器を作った[1]。蒸留を行う者の抽出の試みの記録を使って社内と社外で攻撃を試し、見つかった弱点を直した[1]。Anthropicの説明では、この安全対策は生物兵器の製造の手助けを防ぐ対策とほぼ同じ程度に頑健で、誤検知の率は0.1%未満である[1]。
分類器は一般提供の中で最も能力の高いモデル(Claude Sonnet 5.5、Claude Opus 5と5.5、Claude Fable 5と5.1)で動かしており、蒸留を行う者にとって同じく魅力のある今後のモデルにも使う予定だと記載している[1]。攻撃者がこの安全対策をかわす方法を見つけるとAnthropicはみており、監視を続けて、新しい手法を見つけるたびに安全対策をすぐ更新する[1]。
3つ目の「繰り返しの試みを難しくすること」では、推論を引き出そうとし続ける利用者に厳しい利用の上限をかけ、繰り返しの執拗な試みを検知するとアカウントを停止する[1]。誤検知の率が0.1%未満の分野(蒸留を含む)では、Claudeが応答する前に安全対策が止めた要求への課金を再開した[1]。リリースノートは課金の対象を、出力の前に届いた拒否のうちstop_details.categoryが「bio」「frontier_llm」「reasoning_extraction」のものとし、ほかの分類の出力前の拒否は課金しないと記載している[3]。
効果の測り方と限界
Anthropicは効果を測るため、自社のプラットフォームで蒸留を行う者が引き出したClaudeの推論のトークン数を見積もっている[1]。分類器の導入後、そのトークン数は導入前より一貫して10〜100分の1になった[1]。初期の証拠からは、集められるデータの量が約90〜99%減ったことが示唆されるとも記載している[1]。
図の説明では、引き出せた推論のトークン数が測れないほど少ない日もあった[1]。一般提供の中で最も能力の高いモデルでは、分類器が9月の報告で説明した蒸留の手法をすべて捉えている[1]。この防御で蒸留に関わる数万のアカウントを停止し、多くはアカウントが蒸留を始めてから2時間以内だった[1]。
限界として、Anthropicは成果がどのくらい続くかはまだ分からず、蒸留をめぐるいたちごっこが続くと予想している[1]。高度で執拗な回避の試みも、まだ見ていない[1]。
利用者と業界への影響
Anthropicは、蒸留を行う者からの相当な収益と、数兆トークン分の有料の通信を断った[1]。正規の利用者への影響として同社が挙げたのは、preserved thinkingで一部の開発者に連携の更新が必要になったこと、分類器が無害な要求を誤って判定・遮断することがあること、その要求にも課金していることである[1]。そのうえで、得失があってもこの措置は費用に見合うと考えていると説明した[1]。
Anthropicは、蒸留を行う者が通信をAnthropicのAPI、他社のクラウドのプラットフォーム、ほかの推論の提供者に分散させるとし、開発者と並んでプラットフォームにも蒸留を減らす役割があると述べた[1]。防御には費用がかかり、不正に蒸留する者も有料の顧客である[1]。Anthropicは、実行できる別の道があることを示すために方法を公開すると書いている[1]。
これまでとの違い
| 項目 | これまで | 今回 | 資料 |
|---|---|---|---|
| 対策の挙げ方 | 検知・情報の共有・アクセスの管理・対抗策の4つ(対抗策は開発中) | 推論の行き先の管理・抽出の試みの遮断と修正・繰り返しの試みを難しくすることの3つ | [1、4] |
| 効果の数値 | 公式資料に記載なし | 集められるデータの量が約90〜99%減ったことを初期の証拠が示唆 | [1、4] |
| 名指しした研究所 | DeepSeek・Moonshot・MiniMax | Zhipu・Moonshot | [1、4] |
| 正規の利用者への影響 | 正規の顧客の体験を損なわない対抗策を開発中と記載 | その目標を完全には達成できていないと記載 | [1、4] |
| 推論の要約 | 公式資料に記載なし | 初期の対策として推論を要約して表示し、その効果を自社で評価 | [1、4] |
| 遮断した要求への課金 | 該当なし(新規) | 誤検知の率が0.1%未満の分野で課金を再開 | [1] |
用語
- 蒸留(distillation)
- 能力の低いモデルを強いモデルの出力で訓練する手法で、広く使われる正当な訓練の方法でもある[4]。
- 蒸留攻撃(distillation attacks)
- あるモデルの能力を引き出して別のモデルで再現する、元の開発元の許可の無い隠れた産業規模の取り組み[1]。
- 推論の記録
- Claudeが応答の前に書き出す思考の過程の記録[1]。
- preserved thinking
- prefix checkを行うモデルで、前のターンから送り返した思考ブロックをモデルが使えるかを決める仕組み[2]。
- Constitutional Classifiers
- モデルの入力と出力を監視し、有害なおそれのある内容を検知して止める安全対策[6]。
- 2段階の分類器
- 軽い1段目の分類器がすべてのやり取りを調べ、印を付けたものだけをより正確な2段目の分類器に回す仕組み[6]。
報道と反応
NISTのCAISIは、文書が引いたGLM-5.3の評価で、そのサイバー能力は現在の米国の先端のモデルより大幅に低く、CAISIのサイバーのベンチマークの総合で米国の先端に約4か月遅れていると公表した[7]。
ActuIAは、90〜99%の減少はAnthropicのプラットフォームだけを対象にした1つの指標に基づくもので、文書自身が蒸留を行う者は通信を他社のクラウドなどに分散させると書いていると指摘した[8]。ActuIAは、APIでエージェントを作る企業にとっては連携の作り直しと課金される拒否を意味し、その見返りの保護の利益は主に提供元と、Anthropicの主張では米国の国家安全保障に向かうと評した[8]。
未確認の事項
- 推論のトークン数の見積もりの方法と、比べた期間
- Anthropic以外のクラウド・推論の提供者での効果
- 誤検知の率の算出の条件
- 停止したアカウントの正確な数
- 名指しされた研究所の反応
注
出典
公式資料
- [1]Anthropic PBC『Strengthening our defenses against distillation attacks』(2026年10月12日公開、2026年11月18日確認)
- [2]Anthropic PBC『Preserved thinking』(公開日不明、2026年11月18日確認)
- [3]Anthropic PBC『Claude Platform release notes』(公開日不明、2026年11月18日確認)
- [4]Anthropic PBC『Detecting and preventing distillation attacks』(2026年2月23日公開、2026年11月18日確認)
- [5]Anthropic PBC『Detecting and countering misuse of AI: September 2026』(公開日不明、2026年11月18日確認)
- [6]Anthropic PBC『Next-generation Constitutional Classifiers: More efficient protection against universal jailbreaks』(2026年1月9日公開、2026年11月18日確認)
公的機関
- [7]National Institute of Standards and Technology『CAISI’s Assessment of Z.ai’s GLM-5.3 Cyber Capabilities』(2026年9月17日公開)
報道機関
- [8]ActuIA『Anthropic locks Claude against distillation, clients pay a share』(2026年10月16日公開)
更新記録
- 2026年11月18日12時35分:掲載した(2026年10月12日の公表分を遡って記録)。
最終確認:2026年11月18日。この記事は、この時点で出典の資料に書かれていた内容をもとにした解説です。機能・料金・提供範囲は変わることがあります。利用の前に、出典の公式資料で最新の内容を確かめてください。広告・紹介リンクは置いていません。
