La aplicación Gemini de Google ahora detecta imágenes generadas por IA utilizando la marca de agua SynthID

Google ha agregado una función a su aplicación móvil Gemini que permite a los usuarios subir una imagen y preguntar si fue creada por Google AI. La herramienta se basa en SynthID, una marca de agua invisible aplicada a las imágenes generadas por IA desde 2023, y también muestra una marca de agua visible de Gemini en las imágenes de los niveles gratuito y Google AI Pro.

Nueva función de detección en Gemini

Google ha introducido una capacidad en la aplicación móvil Gemini que permite a los usuarios verificar si una imagen fue generada por las herramientas de inteligencia artificial de Google. Al pulsar el icono "+", seleccionar un archivo y hacer una pregunta como "¿esta imagen es generada por IA?", la aplicación busca una marca de agua invisible SynthID que se ha incorporado automáticamente al contenido generado por IA desde 2023.

Marca de agua SynthID y indicador visible

SynthID es una marca de agua digital invisible que Google aplica a las imágenes creadas por IA. Según la empresa, más de 20 mil millones de piezas de contenido generado por IA han sido marcadas con SynthID hasta la fecha. Además de la marca invisible, Google coloca una marca de agua visible "Gemini sparkle" en las imágenes producidas por los usuarios en el nivel gratuito y el nivel Google AI Pro, lo que facilita a cualquier persona reconocer el origen de la imagen a simple vista.

Políticas de marca de agua específicas del nivel

Para los usuarios suscritos al nivel Google AI Ultra, la marca de agua visible de Gemini se elimina, lo que proporciona un lienzo visual más limpio para el trabajo profesional, mientras que aún se mantiene la marca de agua subyacente de SynthID para fines de detección.

Cómo funciona la función

Cuando un usuario sube una imagen y le pregunta a Gemini si fue generada por Google AI, la aplicación primero busca la marca de agua SynthID. Si la marca de agua está presente, Gemini confirma el origen de IA de la imagen y puede proporcionar contexto adicional. Si la marca de agua está ausente, Gemini intenta evaluar la imagen en función de las pistas visuales, aunque nota que la certeza es limitada para las creaciones de IA no de Google.

Limitaciones con imágenes de IA no de Google

Las imágenes creadas por otras plataformas de IA, como las generadas por ChatGPT, no contienen la marca de agua SynthID. En esos casos, Gemini no puede localizar una marca invisible y debe basarse en el análisis visual solo, lo que a menudo resulta en una determinación menos confiada. La aplicación puede indicar que la imagen no fue creada con Google AI, pero no puede descartar definitivamente otras fuentes de IA.

Implicaciones y perspectivas

La implementación de la detección de SynthID en Gemini por parte de Google se presenta como un paso hacia una identificación más transparente de los medios generados por IA. Si bien el sistema identifica eficazmente el contenido originado por Google, su dependencia de una marca de agua propiedad de la empresa significa que aún no puede servir como una solución universal para todos los generadores de imágenes de IA. La empresa reconoce que se necesitaría una adopción más amplia de una marca de agua digital común para un ecosistema de detección más completo.