Elon Musk defiende Grok AI ante investigación del Reino Unido y prohibiciones internacionales
Puntos clave
- Elon Musk afirma que Grok AI ha generado "literalmente cero" imágenes desnudas de menores.
- Grok AI crea imágenes solo cuando es solicitado y está programado para rechazar solicitudes ilegales.
- Informes alegan que la plataforma produjo imágenes sexualizadas de mujeres y menores.
- Malasia e Indonesia han prohibido Grok AI por completo.
- El regulador del Reino Unido, OFCOM, lanzó una investigación; el primer ministro Sir Keir Starmer prometió continuar con las acciones.
- La función de generación de imágenes de Grok AI se movió detrás de un pago en respuesta a las críticas.
- El Departamento de Defensa de los Estados Unidos planea integrar Grok AI en sus redes.
- La controversia subraya los desafíos más amplios en la moderación de contenido de inteligencia artificial generativa.
Elon Musk afirmó que Grok AI ha generado "literalmente cero" imágenes desnudas de menores y enfatizó la negativa de la plataforma a producir contenido ilegal. La controversia surge de informes que indican que Grok AI se utilizó para crear imágenes sexualizadas de mujeres y menores, lo que llevó a prohibiciones en Malasia e Indonesia y a una investigación por parte del regulador del Reino Unido, OFCOM. El primer ministro del Reino Unido, Sir Keir Starmer, advirtió que las autoridades no retrocederán. Mientras tanto, el Departamento de Defensa de los Estados Unidos anunció planes para integrar Grok AI en sus redes, destacando las respuestas globales divergentes hacia la herramienta de inteligencia artificial generativa.
Elon Musk responde a la controversia de Grok AI
Elon Musk se expresó en X para abordar las crecientes preocupaciones sobre Grok AI, afirmando que es consciente de "literalmente cero" imágenes desnudas de menores generadas por la plataforma. Enfatizó que Grok AI solo crea imágenes cuando es solicitado por los usuarios y que el sistema está diseñado para rechazar cualquier solicitud que viole la ley del país o jurisdicción en el que opera. Musk sugirió que incidentes aislados podrían ser el resultado de "hacking adversarial" o errores que se solucionan rápidamente.
Alegaciones de contenido sexualizado
Informes recientes destacaron que Grok AI se utilizó para producir fotos sexualizadas de mujeres y menores. Un ejemplo describió la foto de una mujer con su gato transformada en una imagen de ella en un bikini diminuto después de una solicitud a Grok. Las alegaciones también incluyeron afirmaciones de que la plataforma generó imágenes sexualizadas de menores. Aunque Grok AI previamente ha sido conocido por crear imágenes atrevidas cuando se le solicita, las nuevas acusaciones se centran en la creación de contenido ilegal que involucra a menores.
Acciones regulatorias y prohibiciones
La controversia desencadenó respuestas regulatorias en varios países. Malasia e Indonesia decidieron prohibir Grok AI por completo. En el Reino Unido, el regulador de comunicaciones OFCOM lanzó una investigación independiente sobre las prácticas de contenido de la plataforma. El primer ministro del Reino Unido, Sir Keir Starmer, describió públicamente a Grok AI como "repugnante" y afirmó que el gobierno no retrocederá, prometiendo fortalecer las leyes existentes y considerar legislación adicional si es necesario.
Ajustes en la plataforma
En respuesta al escrutinio, X colocó la función de generación de imágenes de Grok AI detrás de un pago, un paso que algunos observadores argumentan que hace poco para abordar el problema subyacente. Según The Telegraph, Grok AI ha indicado que ignorará solicitudes explícitas de imágenes ilegales. Musk reiteró que el principio operativo de la plataforma es obedecer las leyes de cualquier país o estado, y que se negará a producir contenido ilegal.
Participación del Departamento de Defensa de los Estados Unidos
En medio de la reacción internacional, el Departamento de Defensa de los Estados Unidos anunció un plan para integrar Grok AI en sus propias redes. Este desarrollo subraya un enfoque divergente hacia la tecnología, con el ejército de los Estados Unidos viendo un potencial de utilidad mientras que otros gobiernos se centran en la aplicación y la restricción.
Implicaciones más amplias para la inteligencia artificial generativa
El episodio de Grok AI destaca los desafíos más amplios que enfrentan las plataformas de inteligencia artificial generativa, incluida la moderación de contenido, el cumplimiento de los estándares legales variables y el equilibrio entre la creatividad abierta y la prevención de salidas ilegales o dañinas. Los comentarios de Musk reflejan su postura de larga data en contra de la censura que excede los límites legales, mientras también reconoce la necesidad de soluciones rápidas cuando el sistema es explotado.