CEO de Instagram pide huellas dactilares de medios reales para combatir contenido generado por IA
Puntos clave
- Adam Mosseri advierte que el contenido auténtico se está volviendo escaso en las plataformas sociales.
- Sugiere cambiar el enfoque de crear contenido a crear contenido únicamente personal.
- Mosseri propone huellas dactilares de medios reales utilizando metadatos existentes como EXIF y XMP.
- Las herramientas de IA actuales de Meta, OpenAI, Google Gemini y Perplexity pueden producir tanto estéticas pulidas como imperfectas.
- Un estándar universal para la identificación de contenido podría permitir filtros para publicaciones generadas por humanos.
- Permanece la incertidumbre sobre la huella dactilar de contenido de texto y audio.
- Mosseri espera que la adopción generalizada de huellas dactilares restaure la confianza en las redes sociales.
El jefe de Instagram, Adam Mosseri, advirtió que el contenido auténtico se está volviendo escaso a medida que las publicaciones generadas por IA inundan las fuentes de noticias. Argumentó que el enfoque debería cambiar de crear contenido a producir trabajo que solo el creador pueda hacer. Mosseri propuso huellas dactilares de medios genuinos, utilizando metadatos existentes como EXIF y XMP, en lugar de marcar agua la salida de IA.
Antecedentes
Las plataformas de medios sociales están cada vez más saturadas de imágenes y videos generados por IA, lo que dificulta que los usuarios distingan el contenido genuino. Esta tendencia ha generado preocupaciones entre los creadores y los líderes de las plataformas sobre la erosión de la autenticidad en línea.
Perspectiva de Mosseri
El director ejecutivo de Instagram, Adam Mosseri, observó que "la autenticidad se está convirtiendo rápidamente en un recurso escaso". Notó un cambio en las expectativas de los creadores, pasando de la pregunta "¿puedes crear?" a "¿puedes hacer algo que solo tú puedas crear?" Mosseri también describió una creciente preferencia por contenido no pulido y natural que contrasta con el aesthetic muy procesado promovido por algunos fabricantes de teléfonos inteligentes.
Enfoque propuesto
En lugar de continuar marcando agua los medios generados por IA, Mosseri sugirió que las plataformas deberían centrarse en huellas dactilares de medios reales. Argumentó que puede ser más práctico etiquetar el contenido genuino antes de que llegue a los usuarios. Los estándares de metadatos existentes, como EXIF para fotos y XMP para video, ya incorporan detalles sobre la cámara, lente, ajustes, ubicación y fecha, que son difíciles de falsificar.
Consideraciones técnicas
Mientras que los metadatos de imágenes y videos proporcionan una ruta clara para huellas dactilares, Mosseri reconoció la incertidumbre sobre cómo aplicar técnicas similares a textos escritos por humanos o grabaciones de audio. También mencionó la posibilidad de utilizar la historia del autor y publicaciones anteriores como marcadores adicionales de autenticidad, aunque la escalabilidad de dichos métodos sigue siendo incierta.
Implicaciones para la industria
Mosseri destacó que las principales empresas de tecnología, incluidas Meta, OpenAI, Google Gemini y Perplexity, están desarrollando herramientas de IA que pueden generar tanto estéticas muy pulidas como deliberadamente imperfectas. Estas herramientas podrían permitir que los creadores produzcan contenido que parezca auténtico mientras sigue siendo asistido por IA. Mosseri enfatizó la necesidad de un estándar universal para identificadores de contenido, que permita a cualquier plataforma ofrecer a los usuarios un filtro simple para ver solo publicaciones generadas por humanos.
Mirando hacia adelante
El jefe de Instagram expresó la esperanza de que el próximo año verá una adopción generalizada de métodos de huellas dactilares, restaurando la utilidad y la confianza en los medios sociales. Citó un ejemplo que involucra al fotógrafo de aves Carl Bovis, donde los espectadores lucharon por diferenciar entre imágenes generadas por IA y reales, subrayando el desafío actual. La visión de Mosseri llama a una acción coordinada de la industria para proteger la autenticidad mientras se abrazan las posibilidades creativas de la IA.