「この画像は本物なのか」。生成AIによって実物の写真と見分けがつかない画像や動画を作れるようになり、AIが生成したコンテンツをどう識別するかが課題になっている。そこで注目されるのが「AI透かし」だ。画像や音声、動画、文章などに、人間には分かりにくい情報を埋め込み、後からコンピューターでAIによる生成・加工を見分ける手掛かりとして期待されている。
EUでは2日、AI法の透明性に関する規定が適用され、一定のAIシステムについて、AIが生成・操作したコンテンツを機械が検出できるよう、識別情報を施すことなどが求められるようになった。特定の透かし方式が指定されているわけではなく、ファイルにメタデータを付与する方法や、暗号技術を利用して作成・編集などの来歴を証明する方法も認められている。
こうした動きに対応する企業の一つが、生成AI「Claude」を開発する米Anthropicだ。同社は今後のClaudeモデルから、生成した文章に目に見えない機械可読の透かしを組み込む方針を明らかにした。文章の場合は、AIが次の単語を選ぶ際に使う乱数を、直前の単語列と秘密の鍵に基づいて調整し、文章全体に検出可能なパターンを組み込む。画像などには、C2PAという国際標準に基づく来歴情報を付ける。これは画像そのものに模様を埋め込むのではなく、作成・編集などの来歴情報を記録し、後から検証できるようにする仕組みだ。
重要なのは、Anthropicが文章への透かしをEU向けに限定せず、世界規模で適用する方針を示している点だ。EUの規制への対応が、日本を含むEU域外の利用者にも波及する具体例といえる。
こうした動きはEU以外にも広がっている。中国では2025年9月から、AIで生成・合成した文章や画像、音声、動画などに、利用者が確認できる表示と、ファイルに埋め込む識別情報の両方を求める制度が始まった。米国でもカリフォルニア州で、AI生成物に明示的・潜在的な識別情報を付けることなどを求める法律が2026年1月から実施されている。さらに、OpenAIは生成画像にC2PAの来歴情報を、GoogleもSynthIDを導入するなど、企業による対応も広がっている。
ただし、AI透かしは万能ではない。文章を大幅に書き換えるなどすると、透かしを検出できなくなる場合がある。そのため「透かしがない＝人間が作った」とは限らないのが現状だ。
日本の利用者がEUのAI法を直接守る必要があるわけではないが、世界でサービスを展開する企業にとって、地域ごとに異なる仕組みを用意するより、世界共通の仕様を導入する方が効率的な場合がある。今後、日本で使うAIサービスにもAI生成を示す情報が付くようになる可能性がある。AI生成物を「見た目」だけで判断するのではなく、コンテンツが持つデジタルな証拠も確認する――。EUの新ルールは、AI時代の情報の見分け方を世界に広げるきっかけになりそうだ。
Coalition for Content Provenance and Authenticity / Wikimedia Commons / CC BY-SA 4.0
（冒頭の画像はイメージ）