保存データへの侵入ではなく、応答を引き出す手口

OpenAIは、モデルが回答を作る過程で内部的に使う「保護された推論」を、リクエスト側に見える形で再現させる試みがあったと説明しました。別の会話に暗号化された推論を持ち込み、それを復号・書き起こすようモデルに求める方法などを挙げています。

同社の説明では、暗号を破られたわけでも、データベースや保存済みのユーザー会話へ直接アクセスされたわけでもありません。通常のモデル応答を繰り返し操作する形で情報を取り出そうとした活動だとしています。この区別は、アカウント侵害や保存データ流出と、出力を利用したモデル蒸留を混同しないために重要です。

7月に増えたリクエストを調査

OpenAIは、活動が7月1日に始まり、当初のリクエスト数は少なかったと報告しています。7月24日と25日のピークでは、関連する抽出パターンを含む1万6,000件のリクエストが4,000人を超えるユーザーから届いたと説明しました。脚注は、これらの数字が抽出の試行を示すもので、成功した抽出数そのものではないと明記しています。

さらに調査すると、関連するプロンプトパターンが1万5,000人を超えるユーザー群に広がっていたとして、7月28日までにクラスター全体を遮断したと述べました。ユーザー数と個々の試行数は別の指標であり、どちらもOpenAIが検知した範囲に基づく値です。

アカウント制限、技術対策、業界連携を実施

OpenAIは、不正アカウントの停止・制限、登録やインフラの強化、関連ネットワークの監視拡大を実施したと説明しました。保護された推論を再利用・再生して内容を得る経路を閉じ、推論を露出させる可能性のあるストリーミング出力を検出・保留する仕組みも追加したとしています。

同社は、第三者サービスを経由した活動についてもサービス提供者と協力したと述べ、業界団体Frontier Model Forumや政府の情報共有先にも結果を伝えたと説明しました。これらはOpenAIが明らかにした対応内容であり、個々の対策が他社環境でも同じ効果を持つかは別途評価が必要です。

ラボの分析

関係者の帰属はOpenAIの評価として扱う

OpenAIは、観測期間中の全オペレーターが一つの主体だったかは明らかでないとしつつ、活動の中心的なクラスターを、Kimiの開発元Moonshot AIに関連する人物に帰属させました。これはOpenAIによる帰属判断です。ページには、帰属を裏付ける独立した第三者調査の詳細は示されていません。

9月25日に公表されたOpenAIのモデル不整合・外部影響に関する方針は、Hugging Face上の別事例などを扱っています。今回の発表は、保護された推論を抽出する協調的な活動と対策が中心で、別の出来事です。

まとめ

OpenAIの報告は、保護された推論を応答経由で引き出し、別モデルの訓練などへ使おうとする「敵対的蒸留」をめぐる事例です。報告されたリクエスト数は試行数であり、成功件数ではありません。利用者会話への直接侵入がなかったという説明や関係者の帰属も、OpenAIの調査結果として区別して読む必要があります。

情報源

一次情報 · OpenAIDisrupting a coordinated model-distillation campaign

https://openai.com/index/disrupting-a-coordinated-model-distillation-campaign/

原文公開日:2026-09-30

出典は上記のリンクから確認できます。発表元の説明と、編集部による分析・試算は本文中で区別しています。