OpenAI Lanza Sora: Aplicación de Video de Deepfake con Tecnología de Inteligencia Artificial y Salvaguardas de Seguridad
Puntos clave
- OpenAI lanzó Sora, una aplicación para iOS para crear videos cortos generados por inteligencia artificial con representaciones digitales creadas por el usuario.
- La aplicación utiliza una pantalla de alimentación desplazable "Para Ti" similar a TikTok, que muestra clips de inteligencia artificial de tamaño bite.
- Durante el proceso de inscripción, los usuarios graban un video breve para crear un modelo facial y de voz para su uso posterior.
- Los controles de privacidad permiten a los usuarios restringir quién puede usar su representación y proporcionan notificaciones sobre su uso.
- Las salvaguardas de seguridad bloquean el contenido sexual, la violencia gráfica, la propaganda extremista, el discurso de odio y el material de daño autoinfligido.
- Las solicitudes que involucran a ciertas figuras públicas o personajes con derechos de autor son denegadas para respetar las salvaguardas.
- OpenAI reconoce el potencial adictivo del servicio y el riesgo de acoso, lo que lleva a la implementación de salvaguardas integradas.
- Las pruebas iniciales muestran resultados realistas con imperfecciones ocasionales, destacando tanto el potencial creativo como las preocupaciones éticas.
OpenAI ha lanzado Sora, una aplicación para iOS que permite a los usuarios crear videos cortos generados por inteligencia artificial con sus propias representaciones digitales. La plataforma ofrece una pantalla de alimentación desplazable de clips de tamaño bite y cuenta con salvaguardas de seguridad integradas para restringir el contenido sexual, la violencia gráfica, la propaganda extremista, el discurso de odio y el daño autoinfligido.
Visión General de la Aplicación
OpenAI presentó Sora como su primer producto que combina video generado por inteligencia artificial con avatares digitales creados por el usuario. La aplicación está disponible actualmente solo en iOS y opera a través de un proceso de inscripción solo por invitación. Una vez dentro, los usuarios encuentran una pantalla de alimentación al estilo de TikTok donde aparecen clips generados por inteligencia artificial en una página continua "Para Ti". La experiencia se presenta como un espacio de juego creativo para generar videos cortos que incorporen la propia representación del usuario.
Experiencia del Usuario y Creación de Representación
Durante el proceso de incorporación, la aplicación solicita a los usuarios que graben un video breve de sí mismos hablando una serie de números mientras giran la cabeza. Estos datos se utilizan para crear una representación digital de la cara y la voz del usuario. OpenAI enfatiza la consistencia en los personajes generados, señalando que el equipo trabajó "muy duro en la consistencia de los personajes". Los usuarios pueden agregar su representación a los videos tocando caras en la página de generación e ingresando prompts simples, como una breve descripción de un escenario.
Cuando se crea un video que incluye la representación de un usuario, el individuo recibe una notificación breve que incluye el clip completo, lo que les permite ver dónde y cómo se utilizó su persona digital. La aplicación también ofrece controles de privacidad, lo que permite a los usuarios limitar el uso de su representación a ellos mismos, contactos aprobados o la comunidad en general.
Salvaguardas de Seguridad y Restricciones de Contenido
OpenAI reconoce la naturaleza adictiva de un servicio como este y el potencial de acoso. En una publicación del blog de la empresa, Sam Altman escribió que OpenAI es "consciente de cómo podría volverse adictivo un servicio como este, y podemos imaginar muchas formas en que podría usarse para el acoso". En consecuencia, la aplicación incorpora una serie de medidas de seguridad. Se bloquea el contenido que incluye material sexual, violencia gráfica que involucra a personas reales, propaganda extremista, contenido de odio o temas que promueven el daño autoinfligido o el trastorno alimentario.
Ejemplos específicos de las salvaguardas en acción incluyen la negativa a generar videos de usuarios en trajes de baño o como "personajes de anime musculosos" debido a reglas de "material sugerente o atrevido", mientras que se permitieron solicitudes que involucraban el uso de marihuana. El sistema también bloquea prompts que podrían representar el daño autoinfligido, como un usuario saltando desde un puente hacia un dragón.
Figuras Públicas y Material con Derechos de Autor
La aplicación aplica un control adicional sobre las representaciones de figuras públicas y personajes con derechos de autor. Se denegaron intentos de generar videos que presentaban personalidades bien conocidas como Taylor Swift o entidades ficticias como Darth Vader por violar las salvaguardas de similitud y derechos de autor. Por el contrario, la plataforma produjo clips con personajes de Pokémon, lo que indica una postura más permisiva hacia cierto contenido con licencia cuando los titulares de los derechos no han optado por salir.
Recepción e Implicaciones
Los primeros testers notaron tanto el realismo impresionante de los videos generados como los bordes ocasionales toscos. La capacidad de crear deepfakes personalizados de manera fluida ha generado entusiasmo sobre nuevas formas de entretenimiento mientras plantea preocupaciones sobre el uso indebido. El enfoque en capas de OpenAI —combinando permisos de representación controlados por el usuario con filtros de contenido robustos— busca equilibrar la innovación con la responsabilidad.
En general, Sora representa un paso significativo en la generación de video de inteligencia artificial orientada al consumidor, ofreciendo una mezcla de libertad creativa y salvaguardas protectoras diseñadas para mitigar los posibles daños.