Las herramientas de imagen de Grok de X siguen siendo gratuitas a pesar de las afirmaciones de pago
Puntos clave
- La respuesta automatizada de X afirma que las herramientas de imagen de Grok están limitadas a suscriptores pagos.
- Los usuarios gratuitos aún pueden acceder a la función de generación de imágenes de Grok a través del sitio web, la aplicación y el botón de edición.
- La restricción sigue a la reacción en contra de los deepfakes sexualizados de adultos y menores.
- Un portavoz del gobierno del Reino Unido calificó el pago de "solución inadecuada".
- Musk y xAI han amenazado con acciones contra los creadores de contenido ilegal, pero no han agregado salvaguardas técnicas.
- El enfoque de X difiere del de Google y OpenAI, que aplican salvaguardas más estrictas.
- Varios miembros del equipo de seguridad de xAI abandonaron la empresa en medio de la controversia.
- Los reguladores en todo el mundo están monitoreando la situación para posibles acciones de aplicación.
La plataforma X de Elon Musk anunció que las características de generación y edición de imágenes de Grok están limitadas a suscriptores pagos, pero las pruebas muestran que los usuarios gratuitos aún pueden acceder a las herramientas a través del sitio web, la aplicación y el botón de edición de imágenes
Antecedentes de las capacidades de imagen de Grok
El chatbot de inteligencia artificial Grok de Elon Musk, desarrollado por su empresa xAI, puede generar y editar imágenes cuando los usuarios etiquetan @grok en X o utilizan el botón "Editar imagen" en el sitio web de escritorio o la aplicación móvil. La funcionalidad incluye la capacidad de crear alteraciones visuales realistas, una característica que ha sido empleada para producir contenido tanto benigno como sugestivo sexualmente.
Restricciones de acceso recientes en X
En respuesta a la creciente crítica sobre un aumento de deepfakes no consensuados y sexualizados, muchos de los cuales representan a mujeres y menores, X publicó una respuesta automatizada a los usuarios que intentaban invocar a Grok a través de @grok. La respuesta indicaba que "La generación y edición de imágenes están actualmente limitadas a suscriptores pagos" y incluía un enlace que incentivaba la suscripción a los programas pagos de X. Los titulares rápidamente enmarcaron el cambio como un pago que restringe las herramientas de imagen de Grok a un grupo selecto de usuarios.
Acceso gratuito aún disponible a través de canales alternativos
Las pruebas realizadas por The Verge revelaron que el pago solo se aplica al mecanismo de respuesta específico @grok en X. Las cuentas gratuitas aún podían utilizar las características de edición de imágenes de Grok a través del sitio web independiente de Grok, la aplicación dedicada de Grok y el botón "Editar imagen" incrustado en las interfaces de escritorio y móvil de X. Al presionar durante un tiempo cualquier imagen en la aplicación X, los usuarios podían invocar a Grok y recibir resultados editados sin requisito de suscripción. Los experimentos de The Verge incluyeron solicitudes de un "nudify" completo y una imagen juguetona de Musk en bikini, todos los cuales fueron cumplidos para usuarios gratuitos.
Reacción regulatoria y política
La proliferación de deepfakes sexualizados generados por Grok ha generado una fuerte crítica de los reguladores en todo el mundo, quienes han advertido sobre posibles acciones contra X. Un portavoz del primer ministro del Reino Unido, Keir Starmer, citado el 9 de enero, desestimó el pago como una respuesta inadecuada, calificándolo de "insultante para las víctimas de la misoginia y la violencia sexual". La postura oficial enfatizó que restringir una característica a usuarios pagos no aborda la creación subyacente de imágenes ilegales.
Postura de Musk y preocupaciones de seguridad internas
Musk y xAI han indicado su disposición a tomar medidas contra los usuarios que producen contenido ilegal con Grok, sin embargo, no han introducido salvaguardas técnicas que impidan la generación de dicho contenido en primer lugar. Este enfoque contrasta con empresas como Google y OpenAI, que han implementado salvaguardas más estrictas en sus herramientas de imagen de inteligencia artificial. Los informes sugieren que Musk se opuso personalmente a salvaguardas más estrictas, y varios miembros del equipo de seguridad de xAI, ya de por sí pequeño, abandonaron la empresa en las semanas previas a la controversia sobre los deepfakes.
Implicaciones para la gobernanza de la IA
La decisión de X de limitar el acceso en lugar de hacer cumplir controles de contenido robustos destaca un debate más amplio sobre cómo las plataformas deben gestionar las capacidades de inteligencia artificial generativa poderosas. Si bien el pago puede disuadir el uso indebido casual, deja la tecnología central accesible a cualquiera dispuesto a navegar por puntos de entrada alternativos, manteniendo así el riesgo de creación de contenido perjudicial. La situación subraya los desafíos que enfrentan los reguladores para abordar los deepfakes impulsados por la IA, especialmente cuando las empresas priorizan el crecimiento de los usuarios y los ingresos sobre las medidas de seguridad comprehensivas.
Estado actual
Al último testing, los usuarios gratuitos de X aún pueden utilizar las funciones de generación y edición de imágenes de Grok en múltiples interfaces, a pesar del mensaje en pantalla de la plataforma sobre los requisitos de suscripción. X no ha proporcionado comentarios sobre el asunto, y la controversia que rodea la salida de deepfakes de Grok continúa alimentando las llamadas a protocolos de seguridad de IA más efectivos.