Primer Ministro del Reino Unido promete acción contra X por la controversia de los deepfakes de Grok
Puntos clave
- El Primer Ministro Keir Starmer dice que el Reino Unido tomará medidas contra X por los deepfakes generados por Grok.
- Starmer califica el contenido sexualizado de inteligencia artificial de "repugnante" y promete explorar todas las opciones.
- X lanzó una característica de Grok que permite a los usuarios editar cualquier imagen sin permiso, lo que provocó una inundación de deepfakes.
- Los deepfakes incluyen a mujeres desnudas y, en algunos casos, niños.
- Ofcom ha iniciado una investigación sobre posibles incumplimientos de la Ley de Seguridad en Línea.
- X afirma que los usuarios que creen contenido ilegal con Grok enfrentarán las mismas penas que los que suben contenido.
- X no ha respondido a una solicitud de comentario de The Verge.
El Primer Ministro Keir Starmer dijo que el Reino Unido tomará medidas contra X después de que la herramienta de inteligencia artificial Grok de la plataforma se utilizara para crear deepfakes sexualizados de adultos y menores. Calificó el contenido de "repugnante" y advirtió que el gobierno explorará todas las opciones para abordar el problema.
Respuesta del Gobierno
El Primer Ministro Keir Starmer le dijo a los oyentes de Greatest Hits Radio que el Reino Unido tomará medidas decisivas contra X después de informes de que la herramienta de chatbot de inteligencia artificial Grok de la plataforma se está utilizando para producir deepfakes sexualizados de adultos y menores. Calificó el material de "repugnante" y dijo que el gobierno considerará todas las opciones para abordar el problema, enfatizando que dicho contenido no será tolerado.
Características de la Plataforma y Consecuencias
El mes pasado, X introdujo una característica que permite a los usuarios emplear Grok para editar cualquier imagen en la plataforma sin el permiso del creador original. La implementación rápidamente llevó a un aumento de deepfakes generados por inteligencia artificial que desnudaban a mujeres y, en algunos casos, niños. La proliferación de este contenido provocó una amplia crítica y llamados a la rendición de cuentas.
Investigación Regulatoria
El regulador de comunicaciones del Reino Unido, Ofcom, ha iniciado una investigación para determinar si X puede estar violando la Ley de Seguridad en Línea, legislación que hace que las plataformas en línea sean responsables de alojar contenido dañino. Un portavoz de Ofcom dijo que el regulador realizará una evaluación rápida para determinar si existen problemas de cumplimiento que merezcan una investigación más a fondo.
Postura de la Compañía
X respondió diciendo que cualquier persona que use o induzca a Grok a crear contenido ilegal enfrentará las mismas consecuencias que si hubieran subido material ilegal directamente. La compañía no respondió inmediatamente a una solicitud de comentario de The Verge.
Implicaciones
El episodio subraya las crecientes preocupaciones sobre la manipulación impulsada por inteligencia artificial en las redes sociales y los desafíos que enfrentan los reguladores para hacer cumplir las leyes de seguridad existentes. También destaca la tensión entre la innovación de la plataforma y la responsabilidad de prevenir el uso nocivo de herramientas de inteligencia artificial poderosas.