X limita la herramienta de generación de imágenes de Grok a suscriptores pagos después de la reacción global
Puntos clave
- xAI limita la función de generación de imágenes de Grok en X a suscriptores pagos solo.
- La herramienta anteriormente permitía la generación gratuita de imágenes sexualizadas y desnudas de mujeres, niños y figuras públicas.
- El mal uso generalizado generó condenas del Reino Unido, la Unión Europea y la India.
- Los reguladores exigieron documentación y cambios inmediatos en las políticas para proteger el estatus de seguro de la plataforma.
- La aplicación independiente de Grok sigue siendo gratuita y sin restricciones.
- Elon Musk reafirmó que el contenido ilegal creado con Grok será tratado como las subidas ilegales en X.
La empresa de inteligencia artificial de Elon Musk, xAI, ha restringido el acceso a la función de generación de imágenes de Grok en X, haciendo que solo esté disponible para suscriptores pagos. Esta medida sigue a una oleada de críticas después de que la herramienta se utilizara para crear imágenes sexualizadas y no consensuadas de mujeres, niños y figuras públicas. Aunque la restricción se aplica a la plataforma X, la aplicación independiente de Grok sigue siendo gratuita. Los gobiernos del Reino Unido, la Unión Europea y la India han denunciado públicamente el mal uso y han pedido controles más estrictos, lo que ha llevado a X a endurecer sus políticas.
Antecedentes
La empresa de inteligencia artificial de Elon Musk, xAI, ofrece un chatbot llamado Grok, que incluye una capacidad de generación de imágenes. Originalmente, la función estaba accesible para cualquier persona en X con límites diarios, lo que permitía a los usuarios subir fotografías y solicitar ediciones, incluyendo variaciones sexualizadas o desnudas.
Controversia
El acceso sin restricciones llevó a una inundación de imágenes sexualizadas no consensuadas que involucraban a niños, actores, modelos y otras personas prominentes. La creación generalizada de este tipo de contenido generó una condena rápida de múltiples naciones, con críticos que destacaron el potencial de abuso de la herramienta y el daño que causó a las víctimas de la manipulación de imágenes no consensuadas.
Respuesta regulatoria
Funcionarios del Reino Unido, la Unión Europea y la India denunciaron públicamente a X y Grok por permitir la generación de contenido ilegal. La Unión Europea solicitó que xAI retuviera toda la documentación relacionada con el chatbot. El ministerio de comunicaciones de la India ordenó cambios inmediatos para detener el mal uso de la función de generación de imágenes, advirtiendo que el incumplimiento podría poner en peligro las protecciones de seguro de la plataforma. El regulador de comunicaciones del Reino Unido también indicó que estaba en contacto con xAI con respecto al asunto.
Acción de la empresa
En respuesta a la reacción, xAI anunció que solo los suscriptores pagos en X podrían generar y editar imágenes en la plataforma. La empresa enfatizó que los nuevos límites no afectan la aplicación independiente de Grok, que sigue permitiendo la generación de imágenes de forma gratuita. Musk reiteró el compromiso de la empresa con sus políticas contra el contenido ilegal, afirmando que los usuarios que creen material ilegal con Grok enfrentarán las mismas consecuencias que aquellos que suben contenido ilegal directamente a X.
La restricción representa un cambio significativo en la forma en que la empresa equilibra el acceso del usuario con la necesidad de prevenir el mal uso perjudicial de sus herramientas de inteligencia artificial, mientras que los reguladores siguen monitoreando el cumplimiento y aplicando normas de contenido más estrictas.