Desarrollador afirma haber crackeado el marca de agua de inteligencia artificial de Google, empresa dice que la herramienta no cumple

Un desarrollador de software que utiliza el seudónimo Aloshdenny en línea dice que ha descubierto una forma de eliminar y insertar las marcas de agua ocultas que identifican las imágenes generadas por inteligencia artificial. La afirmación, publicada en GitHub y explicada en un ensayo candoroso en Medium, se basa en un principio simple: generar 200 imágenes completamente negras o blancas con el modelo Gemini de Google, aumentar el contraste y la saturación, y luego desenoizar para revelar el patrón de la marca de agua.

La explicación de Aloshdenny, salpicada de humor autodeprecatorio sobre "demasiado tiempo libre" y una mención breve a la marihuana, guía a los lectores a través de un proceso de tres pasos. Primero, promedia los patrones extraídos en todo el conjunto de imágenes para calcular la magnitud y la fase de la señal de la marca de agua en cada frecuencia por canal de color. Luego, busca esas frecuencias en nuevas imágenes y las elimina parcialmente en el ángulo exacto en el que se insertaron originalmente. El resultado, admite, no elimina completamente la marca de agua; en cambio, confunde al decodificador lo suficiente como para que se rinda.

SynthID, la marca de agua casi invisible de Google, incrusta una señal directamente en los datos de píxel en el momento en que se crea una imagen. Diseñada para sobrevivir al procesamiento posterior típico, la marca de agua etiqueta el contenido de la suite de inteligencia artificial de Google, incluidos modelos como Nano Banana y Veo 3, así como clones de creadores generados por inteligencia artificial en YouTube. Google promociona SynthID como un elemento disuasivo, aumentando el costo del mal uso al hacer que la eliminación sea técnicamente exigente.

La respuesta de Google fue rápida. La portavoz Myriam Khan le dijo a The Verge que la herramienta de Aloshdenny "es incorrecta al decir que esta herramienta puede eliminar sistemáticamente las marcas de agua SynthID". Reafirmó que SynthID sigue siendo "una herramienta de marca de agua robusta y efectiva para el contenido generado por inteligencia artificial". La postura de la empresa subraya que, si bien la marca de agua se puede ensuciar, no se ha roto completamente.

El intercambio subraya una tensión más amplia en la comunidad de inteligencia artificial. Los ingenieros y los investigadores están ansiosos por probar los límites de las tecnologías de atribución, mientras que las empresas como Google buscan proteger la integridad de sus herramientas contra actores maliciosos. Aloshdenny mismo elogió la ingeniería de SynthID, señalando que el hecho de que solo pudiera "confundir al decodificador" habla de la fuerza del sistema. También advirtió que el método es técnicamente complejo, y es poco probable que sea utilizado por script-kiddies casuales.

A medida que los medios generados por inteligencia artificial proliferan, la capacidad de rastrear las historias de origen se vuelve cada vez más importante para las plataformas, los editores y los reguladores. Las soluciones de marca de agua como SynthID buscan incrustar la procedencia sin degradar la calidad visual, ofreciendo un punto medio entre la transparencia y la experiencia del usuario. Si el último esfuerzo de ingeniería inversa provocará que Google ajuste su algoritmo sigue siendo un misterio, pero el diálogo en sí mismo señala que la batalla sobre la atribución de contenido de inteligencia artificial está lejos de estar resuelta.