Generadores de Imágenes de IA Utilizados para Crear Deepfakes de Bikini no Consensuados
Puntos clave
- Los usuarios comparten solicitudes para convertir fotos de mujeres vestidas en imágenes de bikini.
- Reddit eliminó un hilo después de que violó la regla de la plataforma sobre medios no consensuados.
- Google y OpenAI afirman que tienen políticas que prohíben la salida de IA sexualizada o no consensuada.
- Las solicitudes básicas en inglés aún pueden eludir las salvaguardas existentes.
- Un director legal de la EFF etiqueta los deepfakes sexualizados como un riesgo fundamental de la IA.
- El debate destaca una brecha entre las capacidades de la IA y las salvaguardas éticas.
Los usuarios de los populares generadores de imágenes de IA están compartiendo instrucciones sobre cómo alterar fotos de mujeres vestidas para que aparezcan en bikinis, a menudo sin el consentimiento de las personas retratadas. Las discusiones en Reddit han destacado formas de eludir las salvaguardas en modelos como Google Gemini y OpenAI ChatGPT. Ambas empresas afirman que tienen políticas que prohíben la creación de imágenes sexualizadas o no consensuadas, sin embargo, las herramientas siguen siendo subvertidas. Expertos legales, incluido un director de la EFF, advierten que estas prácticas representan un riesgo fundamental de la generación de IA, enfatizando la necesidad de rendición de cuentas y salvaguardas más fuertes.
Auge de los Deepfakes de Bikini no Consensuados
En varias comunidades en línea, los usuarios de los generadores de imágenes de IA están intercambiando consejos paso a paso para convertir fotografías de mujeres completamente vestidas en imágenes realistas de bikinis. La práctica generalmente implica subir una imagen original y solicitar al modelo que elimine la ropa o la reemplace con trajes de baño. Un hilo de Reddit, originalmente titulado "generación de imágenes nsfw de gemini es tan fácil", presentó a varios participantes compartiendo solicitudes y resultados, incluida una solicitud para reemplazar un sari tradicional indio con un bikini. Las imágenes generadas a menudo son indistinguibles de las fotografías reales, lo que plantea preocupaciones sobre la privacidad y el consentimiento.
El equipo de seguridad de Reddit intervino después de que se informara la discusión, eliminando la solicitud y citando la regla de la plataforma contra los medios íntimos no consensuados. El subreddit donde se produjo la conversación, r/ChatGPTJailbreak, había reunido un gran número de seguidores antes de que fuera prohibido por violar los estándares comunitarios más amplios de Reddit.
Respuestas de las Plataformas y Preocupaciones de Política
Ambas Google y OpenAI mantienen que sus herramientas de IA están equipadas con salvaguardas destinadas a bloquear la creación de contenido sexualmente explícito o no consensuado. Un portavoz de Google enfatizó las políticas claras de la empresa queuprohíben la generación de dicho material y señaló mejoras continuas para alinear la tecnología con esas políticas. Un representante de OpenAI destacó una política de uso que prohíbe alterar el parecido de otra persona sin consentimiento e indicó que las violaciones pueden resultar en la prohibición de cuentas.
A pesar de estas salvaguardas, los usuarios han demostrado que las solicitudes básicas en inglés aún pueden producir deepfakes de bikinis, lo que sugiere que las salvaguardas no son infalibles. La capacidad de eludir las restricciones subraya un desafío más amplio: a medida que los modelos generativos se vuelven más sofisticados, la línea entre la edición de imágenes legítima y la manipulación dañina se vuelve borrosa.
Los expertos legales están sonando la alarma. Un director legal de la Fundación Frontera Electrónica identificó las "imágenes sexualizadas de manera abusiva" como un riesgo fundamental asociado con los generadores de imágenes de IA. El experto enfatizó que es esencial responsabilizar a las personas y a las corporaciones para mitigar el daño potencial.
La situación refleja una tensión entre el rápido avance de la tecnología de IA generativa y la necesidad de marcos éticos robustos. Mientras que las empresas siguen perfeccionando sus políticas, la circulación continua de contenido instructivo sobre cómo crear deepfakes no consensuados sugiere que pueden ser necesarias medidas regulatorias y técnicas adicionales para proteger a las personas del mal uso.