文字を加えず、言葉の選択に信号を持たせる
文章生成モデルは、次に出す語やその一部を選びながら文章を作っています。この選ぶ単位が「トークン」です。textGrainでは、トークンを選ぶ確率に小さな調整を加えて、言葉選びに統計的な傾向を残します。透かし専用のトークンや隠し文字、余分な空白は追加されないので、読者の画面に印が表示されることもありません。
検出器は文章の傾向を調べて、OpenAIの透かし信号が含まれているかを判定します。OpenAIは、EU AI Act(人工知能法)の透明性要件への対応として、この仕組みを公表しました。同法第50条はAI生成・操作コンテンツの透明性義務を定めていますが、適用条件や例外もあります。そのため、今回の発表を「世界のAI文章すべてに同じ透かしが必要になる」という話として読むのは、正確とは言えません。
ChatGPT・CodexはEUから、APIは世界で任意設定
今回発表されたのは、EU域内での段階導入です。世界のChatGPTに一斉に、しかも既定で適用する計画ではなく、日本の一般ユーザーへの一律適用も発表されていません。
APIでは、世界の顧客が対応モデルを選んで有効化できます。初期設定はオフです。クラウドサービスの提携先経由でも、対象となるOpenAIモデルの出力で対応を進めるとしています。ただし、提供状況は提携先やモデルによって違います。
検出率や品質評価はOpenAI自身の試験結果
OpenAIは、誤検出率の目標を1%に置いて評価しました。心理学の質問に対する英語の回答文では、200トークンで信号を約80%、400トークンで約95%検出できたと報告しています。一方、数学のように言葉の選択肢が少ない文章では、検出率が大きく下がります。
OpenAIが行った400トークンの英語文章での評価では、同義語に置き換えると信号が弱まりました。単語の10%を置き換えたとき、検出率は約92%から66%に下がり、25%を置き換えた場合は17%でした。これは特定の条件での自社評価なので、日常の日本語の文章にそのまま当てはまるとは限りません。同社は、複数のベンチマークでも性能に意味のある差はなく、生成速度への影響も小さいとしています。
検出器は一般には公開されません。誤検出と見逃しがあるため、同社は当初のアクセスを、審査済みの研究者や専門組織に限っています。
信号があっても、書き手や正確さは分からない
信号が見つかっても、誰が書いたのか、人がどれだけ手を加えたのかは分かりません。検出器は、個人や組織、アカウント、プロンプト、会話を特定しません。著作権の所在や法的責任、内容の正しさも判定できません。分かるのは、OpenAIのモデルが文章の一部を生成または処理した可能性を示す手掛かりまでです。
反対に、検出されなかったからといって、人間が書いた証拠にはなりません。短文やコード、数学のように表現の幅が小さい文章や、編集・翻訳を経た文章では、信号を見つけにくくなります。未検出という結果だけで執筆者を判断するのは、避けておくのがよさそうです。
よくある5つの質問
- 読者の画面に印が見える? 見えません。検出器が、言葉選びの統計的な傾向を調べる仕組みです。
- 検出器で書き手が分かる? 分かりません。OpenAIは、利用者や組織などとは結び付けないと説明しています。
- 検出されたら文章全部をAIが書いた証拠? いいえ。人がどれだけ加筆したかは分かりません。
- 検出されなければ人間の文章? そうとは限りません。短文や、編集・翻訳をしたあとの文章では、見つからないこともあります。
- 日本のChatGPTにもすぐ一律で付く? 今回発表されたのはEU域内の段階導入と、世界のAPIでの任意設定です。日本のChatGPT全体への一律適用は発表されていません。
まとめ
textGrainが示すのは、OpenAIのモデルが文章に関わった可能性までです。検出結果だけでは、著者や所有者、文章の正しさは判定できません。
ラボの分析としては、利用者や組織を評価するときに、検出結果だけで書き手を決めつけず、作成の経緯なども合わせて確かめておくのがよさそうです。
情報源
https://openai.com/index/eu-text-provenance/
原文公開日:2026-10-05
https://help.openai.com/en/articles/8912793-provenance-signals-in-openai-generated-content
https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
出典は上記のリンクから確認できます。発表元の説明と、編集部による分析・試算は本文中で区別しています。