AI

エーアイ

公開：2024-10-25

Google DeepMindがAI生成テキスト識別技術SynthID Textを発表、デジタルウォーターマークによる判別機能を実現

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• Google DeepMindがAI生成テキスト識別技術を発表
• デジタルウォーターマークで目に見えない印を埋め込み
• AIによって生成されたテキストの判別が可能に

Google DeepMindが発表したSynthID Textの詳細

米Google傘下のGoogle DeepMindは、AI生成テキストを識別する革新的な技術SynthID Textを2024年10月23日に発表した。デジタルウォーターマークを用いてAI生成テキストに人間の目には見えない特殊な印を埋め込むことで、AIによって生成されたテキストかどうかを判別することが可能になった。^[1]

SynthID Textはテキスト生成モデルの出力層に作用するロジットプロセッサとして機能し、テキスト生成時に透かし情報をエンコードした疑似乱数関数を使用して生成される単語の確率分布を調整する。テキストの一部を切り取ったり、単語を変更したり、言い換えを行ったりしても検出可能な堅牢性の高さが特徴だ。

Google DeepMindは限界についても言及しており、事実を淡々と述べるテキストでは効果が低くなることや、大幅な書き換えや他言語への翻訳時には検出が難しくなる可能性を指摘している。悪意ある利用者を直接阻止する設計ではないものの、HuggingFace Transformersライブラリでの利用が可能になっている。

SynthID Textの機能まとめ

デジタルウォーターマークについて

デジタルウォーターマークとは、電子的なコンテンツに目に見えない形で情報を埋め込む技術のことを指しており、主な特徴として以下のような点が挙げられる。

• コンテンツの改変検知や著作権保護に活用
• 人間の知覚に影響を与えない形で情報を付加
• コンテンツの真正性や出所の証明が可能

SynthID Textで使用されるデジタルウォーターマークは、テキスト生成モデルの出力層で単語の確率分布を微調整することで実現されている。この技術により、AIが生成したテキストに特殊な識別情報を埋め込むことが可能となり、テキストの改変や部分的な編集が行われても検出できる堅牢性を持たせることに成功している。

SynthID Textに関する考察

AIが生成したテキストを識別できるSynthID Textの登場は、デジタルコンテンツの信頼性確保において画期的な進展となっている。この技術は特にジャーナリズムや学術分野において、AI生成コンテンツと人間が作成したコンテンツを明確に区別する手段として重要な役割を果たすことが期待できるだろう。

一方で、事実的な文章での効果低下や大規模な書き換えによる検出困難性など、技術的な課題も存在している。悪意のある利用者が意図的にウォーターマークを破壊または改変しようとする可能性も考えられ、より強固な検出システムの開発が今後の重要な課題となるだろう。

将来的には、AI生成テキストの識別技術の標準化や、複数の言語モデル間での互換性確保が重要になってくる。特に多言語対応や異なるAIモデル間での識別精度の向上など、技術の発展と実用性の両立が期待される。

参考サイト

1. ^ Google AI for Developers. 「SynthID: Tools for watermarking and detecting LLM-generated Text | Responsible Generative AI Toolkit | Google AI for Developers」. https://ai.google.dev/responsible/docs/safeguards/synthid, (参照 24-10-25).
2. Google. https://blog.google/intl/ja-jp/

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧