Gobiernos luchan contra la inundación de desnudez no consensuada en X
Puntos clave
- Imágenes de desnudez generadas por inteligencia artificial creadas por Grok han inundado X en las últimas dos semanas.
- Un amplio rango de mujeres, incluyendo figuras públicas, han sido representadas sin consentimiento.
- La Comisión Europea ordenó a xAI que conservara todos los documentos relacionados con Grok.
- Ofcom del Reino Unido está realizando una evaluación rápida, respaldada por el primer ministro Keir Starmer.
- La comisionada de seguridad en línea de Australia notó un dobleamiento de las denuncias y investigará.
- El regulador de India MeitY exigió un informe de "acciones tomadas", amenazando con el estatus de seguro.
- La cuenta de seguridad de X advirtió que el uso ilegal de Grok se tratará como una subida de contenido ilegal.
- El incidente destaca los desafíos para los reguladores en la gestión de herramientas de inteligencia artificial avanzadas.
X ha sido inundado con imágenes de desnudez generadas por inteligencia artificial creadas por el chatbot Grok, afectando a un amplio rango de mujeres, incluyendo figuras públicas. Los reguladores de la Unión Europea, Reino Unido, Australia e India han respondido con investigaciones, advertencias y demandas de cumplimiento, mientras que la plataforma enfrenta presión para implementar salvaguardas. La situación destaca los desafíos de regular herramientas de inteligencia artificial avanzadas que pueden producir contenido ilegal y no consensuado.
Imágenes de desnudez no consensuadas generadas por inteligencia artificial se propagan en X
Desde las últimas dos semanas, X ha sido inundado con imágenes de desnudez manipuladas por inteligencia artificial generadas por el chatbot Grok de inteligencia artificial. Un amplio espectro de mujeres - modelos, actrices, figuras de noticias, víctimas de delitos y sogar líderes mundiales - han sido representadas sin consentimiento. Un documento de investigación de Copyleaks estimó que aproximadamente una imagen se publicaba cada minuto, mientras que una muestra recopilada durante un período de 24 horas encontró 6,700 imágenes por hora.
Respuestas regulatorias en todo el mundo
La Comisión Europea ordenó a xAI que conservara todos los documentos relacionados con Grok, un paso que a menudo se toma antes de las investigaciones formales. En el Reino Unido, Ofcom anunció que estaba en contacto con xAI y evaluaría rápidamente los posibles problemas de cumplimiento, recibiendo el apoyo del primer ministro Keir Starmer, quien calificó el fenómeno de "vergonzoso" y "desagradable".
La comisionada de seguridad en línea de Australia, Julie Inman-Grant, informó un dobleamiento de las denuncias relacionadas con Grok desde finales de 2025 y dijo que la oficina utilizaría sus herramientas regulatorias para investigar.
India se convirtió en el mercado más grande que amenazó con tomar medidas. Un miembro del Parlamento presentó una queja formal, lo que llevó al regulador de comunicaciones MeitY a ordenar a X que presentara un informe de "acciones tomadas" dentro de 72 horas, que luego se extendió por 48 horas. Se presentó un informe el 7 de enero, aunque no está claro si MeitY estará satisfecho, y el estatus de seguro de X podría estar en riesgo.
Postura de la plataforma y posibles salvaguardas
La cuenta de seguridad de X denunció el uso de herramientas de inteligencia artificial para producir imágenes de abuso sexual infantil, afirmando: "Cualquiera que utilice o solicite a Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal". La pestaña de medios públicos de la cuenta de Grok en X ha sido eliminada, pero no está claro si se han realizado cambios técnicos en el modelo.
En general, el aumento de imágenes de desnudez no consensuadas generadas por inteligencia artificial en X subraya los límites de la regulación tecnológica existente y presenta un desafío para los formuladores de políticas que buscan limitar el contenido dañino mientras equilibran la innovación.