AI

エーアイ

公開：2024-10-29

Google DeepMindがAI生成テキスト検出ツールSynthID Textを公開、電子透かしでAIコンテンツの識別が可能に

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• Google DeepMindがAIテキスト検出ツールを公開
• 電子透かしでAI生成コンテンツを識別可能に
• SynthID Textがオープンソースとして提供開始

Google DeepMindがAI生成テキスト検出ツールをオープンソース化

Google DeepMindは2024年10月24日、AIが生成したテキストを検出できる電子透かしツール「SynthID Text」をオープンソース化して公開した。大規模言語モデルが生成するテキストに電子透かしを埋め込むことで、AI生成コンテンツの識別を可能にする技術で、Responsible Generative AI Toolkitを通じて開発者が利用できるようになった。^[1]

SynthID Textは生成テキストの品質や精度を損なうことなく電子透かしを埋め込むことができ、テキストが3文程度の短い文章から使用可能となっている。テキストの長さが長くなるほど検出の精度が向上する特徴があり、一部の単語の言い換えや軽微な編集にも対応できる堅牢性を備えている。

ただし事実に関する記述や大幅な文章の書き換え、別言語への翻訳といった変更を加えた場合は検出精度が低下する可能性がある。AIによって生成されたコンテンツの透明性を確保し、情報の信頼性を担保するための重要な技術として期待されている。

SynthID Textの機能まとめ

電子透かしについて

電子透かしとは、デジタルコンテンツに対して人間には知覚できない形で情報を埋め込む技術のことを指す。主な特徴として以下のような点が挙げられる。

• コンテンツの品質を損なわずに情報を付加可能
• 著作権保護や改ざん検知に活用
• 埋め込んだ情報の耐久性と検出可能性を両立

SynthID Textで採用されている電子透かし技術は、AIが生成したテキストの確率スコアを微調整することで実現されている。生成される文章の品質や創造性を維持しながら、AIによって生成されたコンテンツであることを識別できる革新的な手法となっている。

SynthID Textに関する考察

SynthID Textのオープンソース化は、AI生成コンテンツの透明性確保に向けた重要な一歩となる可能性が高い。電子透かしによってAI生成テキストを識別できる仕組みは、偽情報の拡散や著作権侵害といった問題に対する有効な対策となり得るだろう。

しかし大規模な文章の書き換えや翻訳に対する耐性が低いという課題も存在しており、悪意のある改変に対する対策が必要となってくる。電子透かしの検出精度を向上させつつ、より広範な変更にも対応できる堅牢性を確保することが今後の技術的な課題となるだろう。

また開発者コミュニティの協力を得ることで、さまざまなユースケースに対応した改良や機能拡張が期待できる。AIの発展に伴って重要性を増す生成コンテンツの識別において、オープンソースという形での公開は技術の進化を加速させる可能性を秘めている。

参考サイト

1. ^ Google DeepMind. 「SynthID - Google DeepMind」. https://deepmind.google/technologies/synthid/, (参照 24-10-29).
2. Google. https://blog.google/intl/ja-jp/

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧