Jefe de Instagram afirma que fingerprinting de medios reales es más práctico que etiquetar falsificaciones de IA
Puntos clave
- Las imágenes generadas por IA están llenando rápidamente las fuentes de Instagram.
- Las herramientas de etiquetado actuales, como marcas de agua, son poco confiables.
- Mosseri propone fingerprinting criptográfico de medios auténticos en el momento de la captura.
- Los fabricantes de cámaras podrían incrustar firmas para verificar el origen del contenido.
- Las imágenes raw y sin retoques pueden convertirse en una nueva marca de autenticidad para los creadores.
- Meta puede cambiar su enfoque de perseguir falsificaciones a habilitar la verificación de medios reales.
El jefe de Instagram de Meta, Adam Mosseri, advirtió que las imágenes generadas por IA están llenando rápidamente la plataforma y que los métodos tradicionales de etiquetado pronto pueden ser ineficaces. Argumentó que una solución más realista es fingerprinting criptográfico de medios auténticos en el momento de la captura, lo que permite a los usuarios verificar contenido real en lugar de intentar perseguir falsificaciones sintéticas.
Contenido de IA domina las fuentes de Instagram
Adam Mosseri, el ejecutivo que lidera Instagram, observó que la corriente visual de la plataforma está cada vez más llena de imágenes sintéticas creadas por inteligencia artificial. Describe esta tendencia como un cambio fundamental, destacando que las herramientas que permiten a cualquiera producir imágenes realistas ahora son de acceso generalizado.
Desafíos de etiquetar medios generados por IA
Mosseri explicó que los enfoques existentes, como marcas de agua o etiquetas de nivel de plataforma, han demostrado ser poco confiables. Las marcas de agua pueden ser eliminadas o ignoradas, y el propio sistema de etiquetado de Meta no identifica de manera consistente el contenido generado o manipulado por IA. Advirtió que, a medida que los modelos de IA mejoran, la detección se volverá aún más difícil.
Fingerprinting de medios reales como alternativa práctica
En lugar de perseguir cada falsificación, Mosseri abogó por un sistema que "fingerprinting" los medios auténticos en el momento de la captura. Sugirió que los fabricantes de cámaras podrían incrustar firmas criptográficas en fotos y videos, creando una cadena de custodia que verifica el origen del contenido. Este enfoque, argumentó, haría que sea más fácil para los usuarios confiar en lo que ven.
Implicaciones para creadores y fotógrafos
El cambio hacia fuentes llenas de IA ya ha frustrado a muchos creadores que dependen de Instagram para su exposición. Mosseri destacó que el clásico estilo "pulido" está desapareciendo, y que las imágenes raw y sin retoques pueden convertirse en una nueva marca de autenticidad para los creadores. Implicó que los creadores que adopten este estilo podrían demostrar mejor que su trabajo es genuino.
Perspectiva futura
Aunque reconoce la dificultad del problema, Mosseri sigue confiando en que un esfuerzo colaborativo, particularmente con los fabricantes de cámaras, podría proporcionar una solución viable. Enfatizó que la responsabilidad de la plataforma puede ser menos sobre la vigilancia de cada pieza de medios sintéticos y más sobre empoderar a los usuarios para reconocer contenido real verificado.