La herramienta de video Sora 2 de OpenAI genera controversia sobre el uso de celebridades fallecidas
Puntos clave
- La herramienta de video Sora 2 de OpenAI bloquea las representaciones de figuras públicas vivas por defecto, pero no restringe las imágenes de personas fallecidas.
- Los creadores han producido videos de IA que presentan a celebridades fallecidas en nuevos y a menudo humorísticos contextos.
- Se agrega una marca de agua en movimiento a cada video generado para identificarlo como sintético.
- Zelda Williams pidió públicamente a los creadores que dejaran de enviarle videos de IA de su padre fallecido, Robin Williams.
- OpenAI ofrece una función de "cameo" voluntaria que permite a las personas vivas subir sus semejanzas con control total y derechos de revocación.
- La controversia plantea preguntas éticas sobre el consentimiento, la protección del legado y el uso responsable de la tecnología de deep-fake.
OpenAI presentó Sora 2 como un modelo de generación de video que bloquea las representaciones de figuras públicas por defecto, pero una laguna permite a los creadores insertar personalidades fallecidas en clips generados por IA. La plataforma incluye un marca de agua en movimiento para señalarizar el contenido sintético, pero las familias y los fanáticos se sienten ofendidos por las representaciones póstumas, como lo ejemplifica la petición pública de Zelda Williams para que dejen de enviarle videos de IA de su padre fallecido. OpenAI también ofrece una función de "cameo" que permite a las personas vivas subir sus semejanzas de forma voluntaria, con controles para revocar el acceso y moderar el uso, destacando la tensión entre la libertad creativa y las salvaguardas éticas.
Las salvaguardas previstas por OpenAI
Cuando OpenAI lanzó el generador de video Sora 2, la empresa anunció que el sistema bloquearía las representaciones de figuras públicas por defecto. El objetivo era prevenir la creación de footage engañoso que incluyera a personalidades vivas sin consentimiento. Para reforzar esto, cada video generado lleva una marca de agua en movimiento que identifica el contenido como sintético, un paso destinado a reducir el riesgo de que los espectadores sean engañados.
Laguna que permite figuras fallecidas
A pesar de estas medidas, los creadores han descubierto que el bloqueo por defecto no se aplica a las personas que ya no están vivas. Las plataformas de redes sociales ahora están llenas de clips generados por IA que presentan a celebridades fallecidas en nuevos y a menudo caprichosos escenarios. Ejemplos incluyen una entrevista póstuma entre Tupac Shakur y Malcolm X, Bruce Lee presentando un set de DJ de "energía dragón", Michael Jackson realizando comedia stand-up en una cocina, Stephen Hawking montando una rampa de skateboard gigante, Mister Rogers apareciendo en un show de acrobacias, Kurt Cobain robando dedos de pollo de KFC, y Martin Luther King Jr. tropezando con un discurso famoso. La lista sigue creciendo a medida que los usuarios experimentan con las capacidades de la herramienta.
Reacción pública y preocupaciones familiares
La resurrección de estas imágenes ha provocado fuertes reacciones de los familiares y fanáticos. Zelda Williams, hija del fallecido Robin Williams, publicó una historia de Instagram ahora eliminada pidiendo a los creadores que dejaran de enviarle videos de IA de su padre. Ella escribió, "Por favor, dejen de enviarme videos de IA de papá... Es una tontería, es una pérdida de tiempo y energía, y créanme, no es lo que él hubiera querido". Su declaración subraya el impacto emocional que estas representaciones sintéticas pueden tener en aquellos que recuerdan a los individuos reales.
La función de "cameo" de OpenAI para usuarios vivos
En paralelo con la controversia, OpenAI comercializa una opción de "cameo" que permite a las figuras públicas vivas subir un escaneo de su rostro a través de un smartphone. Esta función permite a los usuarios insertarse en cualquier escena de Sora 2 con alta fidelidad, mientras retienen el control sobre cómo se utiliza su semejanza. OpenAI afirma que los participantes del cameo pueden revocar el acceso a sus escaneos en cualquier momento y tienen herramientas de moderación para limitar el uso no autorizado. La empresa enfatiza que el sistema está diseñado para garantizar el consentimiento y el control de extremo a extremo para los sujetos vivos.
Equilibrar la creatividad y la ética
La situación destaca un debate más amplio sobre las responsabilidades de los desarrolladores de IA en la gestión de la tecnología de deep-fake. Mientras que Sora 2 abre nuevos caminos creativos, la capacidad de resucitar a personalidades fallecidas plantea preguntas sobre el respeto a los legados, el consentimiento y el potencial de mal uso. La marca de agua y las salvaguardas de cameo de OpenAI abordan algunas preocupaciones, pero la laguna para las figuras fallecidas permanece sin llenar, dejando a las familias y al público para luchar con las implicaciones éticas de los tributos generados por IA que pueden no alinearse con los deseos de aquellos representados.