Adolescente demanda a la aplicación Nudify por desnudos falsos generados por IA
Puntos clave
- Adolescente presenta demanda contra una popular aplicación "nudify" por crear imágenes falsas de desnudos generadas por IA.
- Ella busca bloquear la aplicación en los Estados Unidos y responsabilizar al creador.
- La demandante informa de un distress emocional duradero y un miedo constante a que las imágenes reaparezcan.
- Un portavoz dice que la pornografía no consensuada está prohibida por los términos de servicio de Telegram.
- Alrededor de 45 estados han criminalizado los desnudos falsos, y la Ley de retiro ordena la eliminación rápida de dicho contenido.
Una adolescente ha presentado una demanda contra el creador de una popular aplicación "nudify" después de que se circularon en línea imágenes falsas de desnudos generadas por IA, causándole un distress emocional duradero. Ella busca bloquear la aplicación en los Estados Unidos y responsabilizar a las partes involucradas. El caso destaca las crecientes preocupaciones sobre la pornografía no consensuada, el papel de las plataformas en la eliminación de dicho contenido y las medidas legales recientes destinadas a frenar la imaginería sexual generada por IA.
Antecedentes de la demanda
Una adolescente presentó una demanda alegando que una aplicación "nudify" utilizó inteligencia artificial para crear imágenes falsas de desnudos sin su consentimiento. La queja establece que las imágenes le han causado un profundo distress emocional, describiendo sentirse "mortificada y emocionalmente angustiada" y temiendo que las imágenes puedan reaparecer en cualquier momento.
Alegaciones contra la aplicación y sus operadores
La demandante se dirige contra la aplicación en sí, argumentando que si los desarrolladores no responden, un tribunal podría otorgar un juicio por defecto y bloquear la distribución de la aplicación en los Estados Unidos. También demandó al chico que supuestamente utilizó la aplicación para generar las imágenes, alegando que sus acciones la llevaron a considerar abandonar la escuela.
Impacto en la víctima
La adolescente describe un sentido constante de miedo, diciendo que pasará "el resto de su vida" monitoreando si las imágenes reaparecen. Expresó desesperanza sobre la posibilidad de que las imágenes puedan llegar a pedófilos, traficantes, amigos, familia, parejas futuras, colegios, empleadores o al público en general.
Respuesta de la plataforma y contexto legal
Un portavoz le dijo a The Wall Street Journal que "la pornografía no consensuada y las herramientas para crearla están explícitamente prohibidas por los términos de servicio de Telegram y se eliminan siempre que se descubren". La demanda llega en medio de esfuerzos más amplios para combatir la imaginería íntima no consensuada generada por IA. Aproximadamente 45 estados han criminalizado los desnudos falsos, y la legislación reciente, como la Ley de retiro, requiere que las plataformas eliminen tanto las imágenes íntimas reales como las generadas por IA dentro de las 48 horas siguientes a un informe de la víctima.
Resultados potenciales
Si el tribunal otorga la solicitud de la demandante, la aplicación podría ser bloqueada en los Estados Unidos, sentando un precedente para cómo se aborda legalmente el contenido sexual generado por IA. El caso subraya los desafíos que enfrentan las víctimas para controlar la difusión de imágenes deepfake y las responsabilidades de las plataformas en línea para hacer cumplir las políticas de contenido.