Jefe de Instagram advierte que la evolución de imágenes de IA amenaza la autenticidad
Puntos clave
- Adam Mosseri advierte que las imágenes de IA están haciendo que la autenticidad sea más difícil de verificar.
- Él enfatiza la necesidad de cambiar el enfoque de la contenido de la imagen a la identidad del creador.
- Propone la firma criptográfica de fotos para probar que no son generadas por IA.
- Llama a un etiquetado claro de contenido generado por IA en Instagram.
- Insta a los fabricantes de cámaras a incorporar la verificación de autenticidad en el momento de la captura.
- Recomienda herramientas y cambios en la clasificación que recompensen el contenido original y hecho por humanos.
- Destaca el auge de los generadores de IA como Nano Bananas de Google y Sora de OpenAI.
El jefe de Instagram, Adam Mosseri, destacó el rápido ascenso de las imágenes generadas por IA y la creciente dificultad para distinguir las fotos reales de las sintéticas. Advirtió que la plataforma debe adaptarse rápidamente, enfatizando la necesidad de nuevos señales de credibilidad, firma criptográfica de fotos y etiquetado claro de contenido de IA. Mosseri también instó a los fabricantes de cámaras a ayudar a verificar la autenticidad en el momento de la captura y pidió herramientas que permitan a los creadores competir con los medios producidos completamente por IA.
El impacto rápido de la IA en los medios visuales
En una publicación de fin de año, el jefe de Instagram, Adam Mosseri, abordó los grandes cambios que la IA está causando en la fotografía. Observó que la IA está haciendo que sea imposible distinguir las fotos reales de las imágenes generadas por IA, ya que los creadores cada vez más adoptan estéticas sin pulir y crudas que la IA está comenzando a imitar.
La autenticidad se convierte en un desafío fundamental
Mosseri advirtió que la autenticidad se está convirtiendo en "infinitamente reproducible", y que Instagram enfrenta el riesgo de quedarse atrás mientras el mundo cambia más rápido de lo que la plataforma puede adaptarse. Argumentó que el enfoque tendrá que cambiar de lo que se muestra a quién lo dice, una transición que podría tomar años y puede sentirse incómoda porque los humanos están predispuestos a confiar en sus ojos.
Llamadas a nuevas herramientas de credibilidad
Para abordar la crisis de autenticidad, Mosseri sugirió varios pasos. Abogó por la firma criptográfica de fotos en el momento de la captura, lo que permite una cadena de propiedad verificable que prueba que una imagen no es generada por IA. También criticó a los fabricantes de cámaras por ofrecer herramientas que hacen que todos los aficionados parezcan profesionales pulidos, calificando a tales "imágenes halagüeñas" de baratas y aburridas.
Etiquetado y clasificación de contenido de IA
Mosseri describió una hoja de ruta para Instagram: construir herramientas tradicionales y impulsadas por IA para ayudar a los creadores a competir con contenido completamente creado por IA; etiquetar claramente el medio generado por IA; colaborar con los fabricantes para incorporar la verificación de autenticidad en los dispositivos; y mejorar los algoritmos de clasificación para recompensar la originalidad. Enfatizó que mostrar señales de credibilidad permitirá a los usuarios decidir a quién confiar.
Contexto dentro de la plataforma
Instagram, propiedad de Meta, agregó características de IA en 2025 y ya ha visto versiones de IA de los usuarios aparecer en anuncios. La plataforma, como otras redes sociales, está lidiando con una inundación de contenido generado por IA que puedecrow out publicaciones hechas por humanos. Los generadores de imágenes y videos de IA notables como Nano Bananas de Google y Sora de OpenAI ilustran la escala del avance de la tecnología.
Mirando hacia adelante
Mosseri concluyó que Instagram debe evolucionar rápidamente en múltiples frentes para mantener la credibilidad y apoyar a los creadores en un paisaje visual dominado por la IA.