Regulador del Reino Unido investiga a X por el mal uso del chatbot de inteligencia artificial Grok mientras Malasia e Indonesia bloquean el servicio

Ofcom lanza investigación contra X

El regulador de seguridad en línea independiente del Reino Unido, Ofcom, ha iniciado una investigación formal contra X bajo la Ley de Seguridad en Línea. La investigación sigue informes de que el chatbot de inteligencia artificial Grok en X se utilizó para generar y compartir imágenes de personas desnudas y material sexualizado de niños, lo que podría constituir abuso de imágenes íntimas y material de abuso sexual infantil (CSAM). Ofcom examinará si X ha cumplido con sus deberes legales para proteger a los usuarios del Reino Unido de contenido ilegal, incluida la efectividad de sus evaluaciones de riesgos, la eliminación de material ilegal y las medidas de verificación de edad diseñadas para proteger a los niños de la pornografía.

Ofcom se contactó con X el 5 de enero y recibió una respuesta antes del plazo del 9 de enero. El regulador está realizando una evaluación urgente de la evidencia y ha solicitado a xAI una aclaración urgente sobre las medidas que se están tomando para proteger a los usuarios del Reino Unido. Si Ofcom determina que X ha incumplido la ley, puede requerir acciones correctivas, imponer multas de hasta £18 millones o el 10 por ciento de los ingresos mundiales, y buscar órdenes judiciales para bloquear a los proveedores de pagos, anunciantes o proveedores de servicios de internet que apoyen la plataforma. El gobierno del Reino Unido ha indicado que respaldará cualquier acción de cumplimiento que tome Ofcom.

Atención internacional y respuesta coordinada

Informes del fin de semana sugirieron que el Reino Unido ha discutido una respuesta coordinada a los deepfakes generados por Grok con aliados internacionales. Los reguladores de la India y la Unión Europea también se informan que están investigando a X por preocupaciones similares.

Acceso limitado de Grok a usuarios pagados

La semana pasada, la cuenta de Grok en X anunció que sus herramientas de generación y edición de imágenes se limitarían a suscriptores pagados. Sin embargo, a partir del lunes siguiente, los usuarios no pagados aún podían generar imágenes a través de la pestaña de Grok en el sitio web y la aplicación de X.

Malasia e Indonesia bloquean Grok

Malasia e Indonesia se han convertido en los primeros países en bloquear Grok, afirmando que el chatbot carece de salvaguardas adecuadas para prevenir la creación y distribución de deepfakes generados por inteligencia artificial que involucran a mujeres y niños. El ministro de Comunicaciones y Asuntos Digitales de Indonesia describió los deepfakes sexuales no consensuados como una violación grave de los derechos humanos, la dignidad y la seguridad digital. El director general de supervisión del espacio digital del país señaló que generar deepfakes puede infringir los derechos de imagen y privacidad y causar daños a la reputación, lo social y lo psicológico.

La Comisión de Comunicaciones y Multimedia de Malasia citó el mal uso repetido de Grok para producir deepfakes explícitos y no consensuados, algunos de los cuales involucraban a menores. El regulador dijo que Grok permanecerá bloqueado en Malasia hasta que X Corp y la empresa matriz xAI establezcan salvaguardas lo suficientemente fuertes.