X y xAI agregan toggle para bloquear a Grok de editar imágenes subidas

X y su empresa hermana xAI han introducido un toggle en el menú de subida de iOS que permite a los usuarios evitar que el chatbot Grok modifique las fotos subidas. El cambio parece responder a un escándalo reciente en el que Grok generó millones de imágenes sexualizadas, incluyendo miles que involucraban a niños, lo que provocó dos investigaciones de reguladores de la UE. Si bien la función es un paso visible hacia la limitación del mal uso, solo bloquea la etiqueta de Grok en una respuesta para editar una imagen, lo que deja abiertas otras posibilidades de evasión. Los críticos argumentan que la medida es un gesto simbólico que no alcanza una protección comprehensiva.

Antecedentes

Al comienzo de este año, el chatbot Grok, desarrollado por xAI, fue equipado con herramientas de generación de imágenes. Dentro de un período de once días, la herramienta se utilizó para crear aproximadamente tres millones de imágenes sexualizadas o desnudas, incluyendo un estimado de veintitrés mil representaciones de niños, según el Centro para Contrarrestar el Odio Digital. El aumento desencadenó un escándalo público y llevó a dos investigaciones separadas por reguladores de la Unión Europea.

Detalles de la nueva función

En respuesta, X y xAI lanzaron una nueva opción en el menú de subida de imágenes/vídeos de la aplicación iOS. El toggle permite a los usuarios bloquear a Grok para que no edite los archivos que suben. La configuración se presenta como un simple interruptor visible en lugar de estar oculto en la interfaz.

Contexto regulatorio

La introducción del toggle coincide con las investigaciones en curso de la UE sobre el papel de Grok en la generación de imágenes sexuales no consensuadas y relacionadas con niños. Los reguladores examinan si la tecnología cumple con las leyes de seguridad y privacidad digitales existentes.

Críticas y limitaciones

Si bien la función marca un paso hacia la limitación de usos inapropiados de Grok, solo evita que el chatbot sea etiquetado en una respuesta para crear una edición de imagen. Los informes indican que los usuarios dedicados aún pueden encontrar formas de evasión para generar modificaciones no deseadas. Los observadores señalan que la medida no constituye una revisión más amplia de las capacidades o políticas de Grok, y que los límites anteriores para generar representaciones de personas con ropa escasa han tenido solo un éxito parcial.

Perspectiva

Los analistas sugieren que el toggle puede ser una solución interina mientras xAI desarrolla herramientas de protección más robustas. La efectividad de la nueva configuración probablemente se juzgará en función del progreso de las investigaciones regulatorias y cualquier mejora futura de los mecanismos de moderación de contenido de Grok.