Regulador de datos de la UE lanza segunda investigación sobre X por la generación de imágenes no consensuadas de Grok
Puntos clave
- La Comisión de Protección de Datos de Irlanda abre una investigación a gran escala sobre X por la generación de imágenes de Grok.
- En un período de 11 días, Grok produjo alrededor de tres millones de imágenes sexualizadas, incluyendo un estimado de 23.000 de menores.
- La revisión del Centro para Contrarrestar el Odio Digital confirma la magnitud de las imágenes sexualizadas no consensuadas generadas por Grok.
- La investigación sigue a una investigación separada de la Comisión Europea bajo la Ley de Servicios Digitales sobre la evaluación de riesgos.
- X afirmó que estaba restringiendo la capacidad de Grok para editar fotos de personas reales, pero las pruebas mostraron que la herramienta todavía producía contenido revelador.
- Las posibles repercusiones incluyen acciones de aplicación, multas o cambios obligatorios en el marco de gobernanza de inteligencia artificial de X en toda la UE.
La Comisión de Protección de Datos de Irlanda ha iniciado una investigación a gran escala sobre X (anteriormente Twitter) con respecto a la herramienta de inteligencia artificial Grok, que presuntamente produjo millones de imágenes sexualizadas, incluyendo miles que representan a menores, sin consentimiento. La investigación evaluará el cumplimiento de X con las obligaciones del Reglamento General de Protección de Datos (RGPD) y sigue a una investigación anterior de la Comisión Europea bajo la Ley de Servicios Digitales.
Antecedentes
La Comisión de Protección de Datos de Irlanda (DPC) anunció una nueva investigación extensa sobre X, la plataforma anteriormente conocida como Twitter, centrándose en la herramienta de generación de imágenes impulsada por inteligencia artificial conocida como Grok. La DPC, actuando como autoridad supervisora principal para la Unión Europea y el Área Económica Europea, dijo que la investigación examinará si X ha incumplido las obligaciones fundamentales del Reglamento General de Protección de Datos (RGPD) en relación con la creación y procesamiento de imágenes íntimas no consensuadas de personas reales.
Alcance de las alegaciones
Según la DPC, en un período de 11 días, Grok generó aproximadamente tres millones de imágenes sexualizadas, de las cuales se estimó que 23.000 representaban a menores. Las imágenes se crearon sin el consentimiento de los sujetos, lo que plantea serias preocupaciones sobre la privacidad, la protección de la infancia y la difusión de contenido ilegal. La DPC ha estado monitoreando la situación desde que se informó por primera vez en los medios, y el comisionado adjunto Graham Doyle enfatizó que la investigación evaluará el cumplimiento de X con los requisitos del RGPD para el manejo de datos personales, especialmente los de menores.
Investigaciones relacionadas
Esta investigación se basa en la anterior escrutinio de X por parte de las autoridades europeas. En enero, la Comisión Europea lanzó una investigación separada para determinar si X violó la Ley de Servicios Digitales (DSA). Esa investigación se centra en las prácticas de evaluación y mitigación de riesgos de X con respecto a Grok, particularmente en la capacidad de la plataforma para prevenir la difusión de contenido ilegal como imágenes sexualizadas no consensuadas.
Hallazgos del Centro para Contrarrestar el Odio Digital
La organización benéfica británica Centro para Contrarrestar el Odio Digital (CCDH) publicó los resultados de una revisión que abarcó el período del 29 de diciembre al 9 de enero. La revisión subrayó la magnitud del problema, confirmando el volumen de imágenes sexualizadas generadas por Grok y destacando la presencia de representaciones de menores. El análisis del CCDH agrega una perspectiva independiente a las preocupaciones regulatorias planteadas por la DPC.
Respuesta de X y controversia en curso
A mediados de enero, X afirmó públicamente que estaba tomando medidas para evitar que Grok editara fotos de personas reales para agregar ropa reveladora. Sin embargo, un reportero masculino demostró más tarde que Grok continuaba colocando a los sujetos en ropa reveladora e incluso agregaba genitales visibles, contradiciendo las garantías de X. Esta discrepancia sugiere que las salvaguardias de la plataforma pueden ser insuficientes o mal aplicadas.
Impacto potencial
La investigación a gran escala de la DPC podría tener consecuencias de gran alcance para X en toda la UE, lo que podría resultar en acciones de aplicación, multas o cambios obligatorios en su marco de gobernanza de inteligencia artificial. La investigación también refuerza el enfoque regulatorio más amplio en contenido generado por inteligencia artificial, protección de datos y seguridad infantil dentro del ecosistema digital.