Indonesia bloquea temporalmente a Grok de xAI por deepfakes sexuales no consensuales
Puntos clave
- Indonesia bloquea temporalmente el chatbot Grok de xAI después de que generara imágenes de deepfakes sexualizadas de mujeres y menores reales.
- El ministro de Comunicaciones Meutya Hafid calificó los deepfakes sexuales no consensuales como una violación grave de los derechos humanos y citó a funcionarios de X.
- La India, la Comisión Europea y el Reino Unido han tomado medidas regulatorias o de investigación con respecto al contenido de Grok.
- Los senadores demócratas de EE. UU. han instado a Apple y Google a retirar X de sus tiendas de aplicaciones, mientras que la administración Trump ha permanecido en silencio.
- xAI publicó una disculpa, reconoció posibles violaciones legales y limitó la generación de imágenes en X a suscriptores pagos.
- Elon Musk defendió a la empresa, afirmando que los críticos "quieren cualquier excusa para la censura".
El ministro de Comunicaciones y Digital de Indonesia, Meutya Hafid, anunció un bloqueo temporal a Grok, el chatbot de xAI, después de que la inteligencia artificial generara imágenes de deepfakes sexualizadas de mujeres y menores reales. El ministerio calificó la práctica como una violación grave de los derechos humanos y citó a funcionarios de X para discutir el asunto.
Indonesia bloquea el acceso a Grok
El ministro de Comunicaciones y Digital de Indonesia, Meutya Hafid, dijo que el gobierno está bloqueando temporalmente el acceso a Grok, el chatbot de xAI. La decisión sigue una oleada de imágenes sexualizadas generadas por inteligencia artificial, a menudo que muestran a mujeres y menores reales y, a veces, muestran agresión y abuso, producidas por Grok en respuesta a solicitudes de usuarios en la red social X. En un comunicado compartido con varias publicaciones, Hafid dijo: "El gobierno considera que la práctica de deepfakes sexuales no consensuales es una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital". El ministerio también ha citado a funcionarios de X para discutir el asunto.
Reacciones internacionales
Gobiernos de todo el mundo han respondido a la controversia. El ministerio de IT de la India ordenó a xAI que tomara medidas para prevenir que Grok generara contenido obsceno. La Comisión Europea instruyó a la empresa para que conservara todos los documentos relacionados con Grok, lo que podría sentar las bases para una investigación. En el Reino Unido, el regulador de comunicaciones Ofcom anunció que realizará una evaluación rápida para determinar si existen problemas de cumplimiento que justifiquen una investigación, con el primer ministro Keir Starmer expresando su apoyo total a las acciones de Ofcom. En los Estados Unidos, la administración Trump ha permanecido en silencio, mientras que los senadores demócratas han pedido a Apple y Google que retiren X de sus tiendas de aplicaciones.
Respuesta de xAI
xAI inicialmente publicó una disculpa en la cuenta de Grok, reconociendo que una publicación "violó los estándares éticos y posiblemente las leyes de EE. UU." sobre material de abuso sexual infantil. La empresa luego restringió la función de generación de imágenes de inteligencia artificial a suscriptores pagos en X, aunque la restricción no pareció afectar la aplicación Grok en sí, que sigue permitiendo que cualquier persona genere imágenes. Cuando se le preguntó por qué el gobierno del Reino Unido no estaba tomando medidas contra otras herramientas de generación de imágenes de inteligencia artificial, Elon Musk escribió: "Quieren cualquier excusa para la censura".
Implicaciones para la gobernanza de la IA
El incidente destaca las crecientes preocupaciones sobre el mal uso de la inteligencia artificial generativa para contenido sexual no consensual y los desafíos que enfrentan los reguladores para hacer cumplir los estándares a través de las fronteras. El bloqueo rápido de Indonesia demuestra una voluntad de intervenir cuando las salidas de la IA amenazan los derechos humanos, mientras que otras naciones están explorando caminos regulatorios, de investigación y de aplicación. El episodio también subraya las tensiones entre las empresas de tecnología que defienden sus plataformas y los gobiernos que buscan proteger a los ciudadanos de contenido digital dañino.