Google Gemini Ganha Recurso de Detecção de Imagens Geradas por IA
Pontos principais
- O aplicativo Gemini agora permite que os usuários perguntem "Isso é gerado por IA?" para verificar imagens.
- A verificação depende da marca d'água invisível SynthID do Google.
- O suporte para detecção de vídeo e áudio está planejado para o futuro próximo.
- O Google pretende adotar credenciais C2PA em toda a indústria para detecção mais ampla.
- As imagens do modelo Nano Banana Pro incluirão metadados C2PA incorporados.
- O TikTok usará metadados C2PA para sua própria marca d'água de conteúdo gerado por IA.
O Google adicionou uma ferramenta ao aplicativo Gemini que permite aos usuários perguntar se uma imagem foi criada ou editada por um modelo de IA do Google. O recurso atualmente funciona para imagens e depende da marca d'água SynthID do Google, com planos para expandir para vídeo, áudio e credenciais C2PA mais amplas da indústria.
Aplicativo Gemini Pode Identificar Imagens Geradas por IA
O Google está tornando mais fácil para os usuários do Gemini detectar pelo menos algum conteúdo gerado por IA. A partir de hoje, os usuários podem perguntar ao Gemini "Isso é gerado por IA?" e receber uma determinação sobre se uma imagem foi criada ou editada por uma ferramenta de IA do Google. O lançamento inicial é limitado a imagens, e a verificação é baseada na SynthID, a marca d'água invisível de IA do Google.
Expansão Futura para Outros Tipos de Mídia
O Google afirma que a verificação de vídeo e áudio virá "em breve", e a empresa pretende expandir a funcionalidade além do aplicativo Gemini, incluindo integração na Pesquisa. O objetivo de longo prazo é apoiar credenciais de conteúdo C2PA em toda a indústria, o que permitiria a detecção de conteúdo gerado por IA de uma variedade mais ampla de ferramentas e softwares criativos.
Integração de Metadados C2PA
Em conjunto com o novo recurso de detecção, o Google anunciou que as imagens geradas por seu modelo Nano Banana Pro terão metadados C2PA incorporados. Isso marca o segundo desenvolvimento recente para a C2PA, após a confirmação do TikTok de que usará metadados C2PA como parte de sua própria marca d'água invisível para conteúdo gerado por IA.
Implicações para a Verificação de Conteúdo
A verificação manual no Gemini é um passo útil, mas o Google reconhece que a adoção mais ampla de credenciais C2PA e outros tipos de marca d'água, como a SynthID, só será verdadeiramente eficaz quando as plataformas de mídia social melhorarem a flagração automática de conteúdo gerado por IA, em vez de depender dos usuários para confirmar a autenticidade por conta própria.