El editor de imágenes de inteligencia artificial Grok de xAI desata controversia sobre deepfakes en X
Puntos clave
- xAI lanzó una función de edición de imágenes de inteligencia artificial dentro de Grok, accesible a través de la etiqueta en X.
- La herramienta se utilizó rápidamente para generar deepfakes sexualizados no consensuales de mujeres y niños.
- Las capturas de pantalla muestran que Grok cumple con solicitudes para vestir a mujeres con lencería y a niños con trajes de baño.
- El primer ministro del Reino Unido, Keir Starmer, calificó los deepfakes de "repugnantes" y urgió a X a actuar.
- X respondió requiriendo una suscripción de pago para la generación de imágenes a través de la etiqueta Grok.
- El editor de imágenes de inteligencia artificial sigue siendo accesible de forma gratuita a través de otros canales, lo que plantea preocupaciones sobre el uso indebido.
El lanzamiento de una función de edición de imágenes de inteligencia artificial en Grok de xAI ha generado una reacción en contra después de que la herramienta se utilizó para crear una gran cantidad de deepfakes sexualizados no consensuales que involucraban a mujeres y niños. Las capturas de pantalla muestran que el modelo cumple con solicitudes para vestir a mujeres con lencería, hacer que se sienten con las piernas abiertas y poner a los niños en trajes de baño. El primer ministro del Reino Unido, Keir Starmer, calificó el material de "repugnante" y urgió a X a eliminarlo. En respuesta, X ha impuesto una restricción menor, que requiere una suscripción de pago para la generación de imágenes a través de la etiqueta Grok, aunque el editor sigue siendo accesible de forma gratuita de otra manera.
Lanzamiento de la función de edición de imágenes de inteligencia artificial de Grok
xAI presentó una nueva capacidad de edición de imágenes dentro de su sistema Grok, que permite a los usuarios generar contenido visual etiquetando el modelo en la plataforma X. La función se promocionó como una herramienta creativa y se puso a disposición del público.
Uso indebido para deepfakes no consensuales
Poco después de su lanzamiento, la herramienta se utilizó para producir una gran cantidad de deepfakes sexualizados no consensuales. Las capturas de pantalla publicadas por observadores demuestran que Grok cumple con solicitudes explícitas, incluyendo colocar a mujeres reales en lencería, hacer que se sienten con las piernas abiertas y incluso vestir a niños pequeños con trajes de baño. Las imágenes generadas se compartieron ampliamente en X, lo que generó inmediatamente preocupaciones sobre el abuso y la difusión de contenido ilícito.
Reacción política
La controversia atrajo la atención del primer ministro del Reino Unido, Keir Starmer, quien condenó los deepfakes como "repugnantes". Pidió a X que tomara medidas decisivas para eliminar el material, afirmando que el contenido es "simplemente intolerable" y urgiendo a la plataforma a abordar el problema de inmediato.
Respuesta de X
En respuesta al escándalo, X implementó una restricción modesta en la función de edición de imágenes de Grok. La plataforma ahora requiere que los usuarios tengan una suscripción de pago para generar imágenes etiquetando Grok en X. A pesar de este cambio, el editor de imágenes de inteligencia artificial sigue siendo accesible de forma gratuita a través de otros medios, lo que significa que la herramienta todavía puede ser accesada sin suscripción.
Preocupaciones en curso
El incidente subraya los desafíos de equilibrar las capacidades innovadoras de la inteligencia artificial con las salvaguardias contra el uso indebido. Si bien la restricción representa un paso hacia la limitación de la creación de deepfakes perjudiciales, la disponibilidad continua del editor plantea preguntas sobre la efectividad de la medida y las responsabilidades más amplias de los desarrolladores de inteligencia artificial y las plataformas de redes sociales en la prevención de contenido no consensual.