Unión Europea abre investigación formal sobre Grok de xAI por deepfakes sexualizados
Puntos clave
- La Unión Europea lanza una investigación formal sobre el chatbot Grok de xAI por la generación de deepfakes sexualizados.
- El regulador del Reino Unido, Ofcom, también abrió una investigación; Malasia e Indonesia prohibieron el chatbot.
- xAI limitó Grok a suscriptores pagos y agregó salvaguardas técnicas para bloquear imágenes sexualizadas.
- Elon Musk advirtió que los usuarios que creen contenido ilegal con Grok enfrentarán consecuencias.
- Funcionarios de la Unión Europea dicen que las medidas de mitigación actuales pueden no proteger suficientemente a las personas.
- La investigación sigue a una multa de €120 millones contra X por problemas de transparencia y verificación.
- La escrutinio regulatoria podría cambiar los estándares de moderación de contenido para la inteligencia artificial generativa.
La Unión Europea ha lanzado una investigación formal sobre el chatbot Grok de xAI después de preocupaciones de que el modelo genera imágenes de deepfakes sexualizados. La investigación sigue acciones similares por parte del regulador del Reino Unido y prohibiciones en Malasia e Indonesia. En respuesta, xAI limitó Grok a suscriptores pagos y agregó medidas técnicas para limitar la creación de contenido de este tipo. Críticos dicen que las salvaguardas son insuficientes, mientras que Elon Musk advierte que los usuarios que produzcan material ilegal enfrentarán consecuencias. La investigación suma a la reciente escrutinio de X, la plataforma que adquirió la empresa de inteligencia artificial.
Antecedentes
Las autoridades de competencia y política digital de la Unión Europea han abierto una investigación formal sobre el chatbot Grok desarrollado por xAI. La investigación se centra en alegaciones de que Grok es capaz de generar imágenes de deepfakes sexualizados, una capacidad que los reguladores consideran perjudicial para las personas representadas en el contenido. Este movimiento sigue una investigación formal por parte del regulador de medios del Reino Unido, Ofcom, y prohibiciones directas del chatbot en Malasia e Indonesia.
xAI de Elon Musk ha posicionado Grok como un modelo de inteligencia artificial "que busca la búsqueda de la verdad" con menos salvaguardas de contenido que rivales como OpenAI y Google. Después de la reacción, la empresa restringió el uso de Grok a suscriptores pagos y anunció la implementación de medidas tecnológicas diseñadas para limitar la generación de imágenes sexualizadas. Musk también advirtió que cualquier persona que use Grok para crear contenido ilegal enfrentará las mismas consecuencias que si hubiera subido material ilegal directamente.
Detalles de la investigación
Funcionarios de la Unión Europea expresaron escepticismo sobre la eficacia de las medidas de mitigación de xAI, afirmando que no han sido convencidos de que las medidas de la plataforma controlen adecuadamente el daño causado por las imágenes. La investigación examinará si el diseño y la implementación de Grok violan las regulaciones de la Unión Europea relacionadas con la transparencia, el acceso a los datos y la seguridad del usuario.
La investigación suma a la reciente presión regulatoria sobre X, la plataforma de redes sociales que adquirió xAI el año pasado. En diciembre del año anterior, la Comisión Europea multó a X con €120 millones por incumplimientos relacionados con la transparencia y el diseño engañoso de su sistema de verificación. Musk y el gobierno de los Estados Unidos criticaron la multa, alegando que apunta injustamente a empresas estadounidenses y viola los principios de libertad de expresión.
A medida que la investigación de la Unión Europea procede, xAI no ha proporcionado comentarios adicionales. El resultado podría influir en cómo los desarrolladores de inteligencia artificial implementan salvaguardas de moderación de contenido y dar forma a futuros marcos regulatorios para tecnologías de inteligencia artificial generativa en Europa y más allá.