　米Google傘下のGoogle DeepMindは10月23日（現地時間）、AI生成テキストを識別する技術「SynthID Text」を発表した。デジタルウォーターマーク（電子透かし）技術を用いて、AIが生成したテキストに人間の目には見えない特殊な印を埋め込むことで、そのテキストがAIによって生成されたものかどうかを判別することを可能にする。

　同社は昨年8月には、Imagenで生成した画像向けの電子透かし「SynthID」をリリースしている。

　SynthID Textは、テキスト生成モデルの出力層に作用するロジットプロセッサとして機能する。これは、モデルがテキストを生成する際に、透かし情報をエンコードした疑似乱数関数を用いて、生成される単語の確率分布をわずかに調整することで、透かしを埋め込むというものだ。

　テキストの一部を切り取ったり、単語を少し変更したり、言い換えをしたりといった操作を加えても検出可能であり、堅牢性が高い点が特徴という。

　Google DeepMindは、SynthID Textは画期的な技術ではあるが、限界もあるとしている。例えば、事実を淡々と述べるテキストでは効果が低くなるし、大幅に書き換えたり他の言語に翻訳されたAI生成テキストでも検出しにくくなる。また、悪意ある利用者を直接阻止するようには設計されていない。こうした限界を克服するための研究を続けているという。

　SynthID Textは、Hugging Face Transformersライブラリで利用可能。開発者は自身のテキスト生成モデルに統合できる。また、ウォーターマークの検出ツールもGitHubで公開されている。

YouTubeで6秒の生成AI動画制作可能に　DeepMindの「Veo」で
Google傘下のYouTubeは、クリエイターに生成AIで6秒動画を制作するツールを提供すると発表したGoogle DeepMindのAI動画生成モデル「Veo」を「Dream Screen」に統合することで実現する。
Google検索結果の「この画像について」にC2PAの来歴技術導入へ
Googleは、Google検索結果の画像の生成AI利用透明化を目指し、「この画像について」に標準化団体C2PAの技術を導入する。Googleは2月にC2PAに参加した。将来的には広告やYouTubeにも導入する計画だ。
OpenAI、DALL・E 3で生成した画像にCP2Aの電子透かし追加
OpenAIは、画像生成AIモデル「DALL・E 3」で生成された画像にC2PAメタデータを含ませるようにしたと発表した。画像を「Content Credentials Verify」などにドロップすると発行元がOpenAIだと表示される。
Google DeepMind、Imagenで生成した画像に電子透かしを埋め込む「SynthID」リリース
Google DeepMindはGoogle Cloudと提携し、AIで生成した画像を識別するツール「SynthID」のβ版をリリースした。まずはVertex AI上のImagenで生成した画像に電子透かしを入れられるようになる。