Google Gemini obtiene una nueva función de detección de imágenes generadas por IA
Puntos clave
- La aplicación Gemini ahora permite a los usuarios preguntar "¿Es esto generado por IA?" para verificar imágenes.
- La verificación se basa en la marca de agua invisible SynthID de Google.
- Se planea el soporte para la detección de video y audio en el futuro cercano.
- Google pretende adoptar credenciales de contenido C2PA de la industria en general para una detección más amplia.
- Las imágenes del modelo Nano Banana Pro incluirán metadatos C2PA incrustados.
- TikTok utilizará metadatos C2PA para su propia marca de agua invisible para contenido generado por IA.
Google ha agregado una herramienta a la aplicación Gemini que permite a los usuarios preguntar si una imagen fue creada o editada por un modelo de IA de Google. La función actualmente funciona para imágenes y se basa en la marca de agua SynthID de Google, con planes para expandirse a video, audio y credenciales C2PA de la industria en general. Google también anunció que las imágenes de su modelo Nano Banana Pro llevarán metadatos C2PA. TikTok ha confirmado que utilizará metadatos C2PA para su propia marca de agua invisible, lo que indica una adopción más amplia de los estándares de verificación de contenido de IA.
La aplicación Gemini puede identificar imágenes generadas por IA
Google está haciendo que sea más fácil para los usuarios de Gemini detectar al menos algunos contenidos generados por IA. A partir de hoy, los usuarios pueden preguntarle a Gemini "¿Es esto generado por IA?" y recibir una determinación sobre si una imagen fue creada o editada por una herramienta de IA de Google. El lanzamiento inicial se limita a imágenes, y la verificación se basa en SynthID, la marca de agua invisible de IA de Google.
Expansión futura a otros tipos de medios
Google dice que la verificación de video y audio llegará "pronto", y la empresa pretende expandir la funcionalidad más allá de la aplicación Gemini, incluyendo la integración en Búsqueda. El objetivo a largo plazo es apoyar las credenciales de contenido C2PA de la industria en general, lo que permitiría la detección de contenido generado por IA de una variedad más amplia de herramientas y software creativo.
Integración de metadatos C2PA
En conjunto con la nueva función de detección, Google anunció que las imágenes generadas por su modelo Nano Banana Pro llevarán metadatos C2PA incrustados. Esto marca el segundo desarrollo reciente para C2PA, después de que TikTok confirmara que utilizará metadatos C2PA como parte de su propia marca de agua invisible para contenido generado por IA.
Implicaciones para la verificación de contenido
La verificación manual en Gemini es un paso útil, pero Google reconoce que la adopción más amplia de credenciales C2PA y otras marcas de agua como SynthID solo será verdaderamente efectiva cuando las plataformas de redes sociales mejoren la flagración automática de contenido generado por IA, en lugar de depender de que los usuarios confirmen la autenticidad ellos mismos.