Grok de Elon Musk sigue generando imágenes de desnudez a pesar de las nuevas restricciones
Puntos clave
- X introdujo salvaguardas técnicas para bloquear a Grok y evitar que genere imágenes de personas reales con ropa reveladora.
- Las restricciones se aplican a usuarios gratuitos y de pago en la plataforma X e incluyen geobloqueo en jurisdicciones donde dicho contenido es ilegal.
- Pruebas independientes muestran que el sitio web y la aplicación móvil de Grok pueden producir nudismo fotorealista de personas reales.
- Investigadores de AI Forensics, WIRED, The Verge y Bellingcat documentaron la eliminación exitosa de ropa en imágenes en varios países.
- Grupos de defensa de las mujeres critican la situación como una monetización del abuso.
- Musk declaró que el modo NSFW permite la desnudez de la parte superior del cuerpo de adultos imaginarios, con concesiones que varían por país.
- Reguladores en todo el mundo siguen investigando o condenando la generación de imágenes íntimas no consensuadas.
- La brecha entre la moderación de X y los servicios más amplios de Grok subraya los desafíos en la aplicación de salvaguardas de contenido de inteligencia artificial en varias plataformas.
La plataforma X de Elon Musk anunció nuevas salvaguardas técnicas para evitar que Grok edite o genere imágenes de personas reales con ropa reveladora. Sin embargo, pruebas independientes realizadas por investigadores y periodistas muestran que el sitio web y la aplicación móvil de Grok siguen produciendo imágenes de desnudez y contenido sexualizado no consensuado.
Antecedentes
Desde principios de 2024, las ofertas de inteligencia artificial de Musk, incluido el chatbot Grok construido por xAI, han enfrentado escrutinio por permitir la creación de imágenes íntimas no consensuadas, videos explícitos y representaciones sexualizadas de menores. Críticos de Estados Unidos, Europa, Asia y Australia han iniciado investigaciones o emitido condenas, citando preocupaciones sobre privacidad, consentimiento y seguridad infantil.
Nuevas restricciones en X
En respuesta, X anunció un conjunto de medidas tecnológicas destinadas a evitar que Grok edite imágenes de personas reales en trajes de baño, ropa interior u otros atuendos reveladores. La política se aplica a todos los usuarios de la plataforma X, independientemente de si tienen suscripciones gratuitas o de pago. Además, X introdujo un geobloqueo que restringe la generación de imágenes de personas reales con dicha ropa en jurisdicciones donde es ilegal. La empresa también reiteró su compromiso de eliminar contenido violatorio de alta prioridad, incluyendo material de abuso sexual infantil y desnudez no consensuada.
Hallazgos de los investigadores
A pesar de las salvaguardas anunciadas, múltiples investigaciones independientes han documentado que los servicios independientes de Grok siguen siendo capaces de producir el contenido prohibido. Paul Bouchaud, investigador principal de la organización sin fines de lucro AI Forensics, confirmó que el sitio web y la aplicación móvil de Grok pueden generar nudismo fotorealista de personas reales, una capacidad que parece estar bloqueada solo en la integración con X. Las pruebas realizadas por WIRED, The Verge y Bellingcat en el Reino Unido y Estados Unidos lograron eliminar la ropa de las imágenes de hombres y mujeres sin restricciones aparentes.
Los investigadores señalaron que la aplicación Grok en el Reino Unido solicitó a los usuarios su año de nacimiento antes de generar una imagen de un sujeto masculino, pero la solicitud aún podía ser cumplida. Otros usuarios informaron resultados mixtos en un foro de pornografía, con algunos prompts que produjeron imágenes explícitas después de varios intentos, mientras que otros encontraron una moderación más estricta que impidió la eliminación de la ropa.
Problemas continuos en la plataforma Grok
La persistencia de estas capacidades subraya una brecha entre la moderación aplicada en X y el ecosistema más amplio de los servicios de Grok. Mientras que las cuentas verificadas en X parecen haber perdido la capacidad de generar imágenes de mujeres en trajes de baño, la misma funcionalidad sigue siendo accesible en el sitio web y la aplicación de Grok. Esta discrepancia ha llevado a críticas de los grupos de defensa de las mujeres, que describen la situación como una "monetización del abuso".
Respuestas de Musk y xAI
Musk ha declarado públicamente que Grok, cuando se habilita el modo NSFW, está diseñado para permitir la desnudez de la parte superior del cuerpo de humanos adultos imaginarios, lo que se alinea con los estándares vistos en películas con clasificación R en plataformas como Apple TV. Él enfatizó que las concesiones de contenido pueden variar por país según las leyes locales. Los portavoces de xAI no han proporcionado comentarios sobre las pruebas recientes, mientras que un portavoz de X confirmó que el geobloqueo se aplica a ambos, la aplicación y el sitio web.
Implicaciones y perspectivas
La capacidad continua de los servicios no X de Grok para generar imágenes no consensuadas y sexualizadas plantea preguntas importantes sobre la efectividad de la moderación de contenido específica de la plataforma versus las salvaguardas del ecosistema en general. Los reguladores y los grupos de defensa siguen monitoreando la situación, instando a controles más comprehensivos para prevenir el abuso. A medida que los generadores de imágenes de inteligencia artificial se vuelven cada vez más sofisticados, el desafío de equilibrar el uso creativo con las salvaguardas éticas sigue siendo un punto focal para las empresas de tecnología, los formuladores de políticas y la sociedad civil.