Indonesia levanta la prohibición del chatbot de inteligencia artificial Grok con condiciones de monitoreo

El Ministerio de Comunicación y Asuntos Digitales de Indonesia anunció que el chatbot de inteligencia artificial Grok, operado por X, puede reanudar su servicio en el país después de que se levantara la prohibición. La decisión sigue la presentación por parte de X de una carta que describe salvaguardas para prevenir la creación de contenido ilegal, particularmente deepfakes sexualizados que involucran a mujeres y niños. Las autoridades realizarán pruebas continuas de estas medidas y retendrán el derecho de reimponer la prohibición si se producen violaciones. Este movimiento refleja decisiones recientes de Filipinas y Malasia, que también levantaron prohibiciones mientras mantienen una estricta supervisión. Las investigaciones en curso en Estados Unidos y Reino Unido siguen siendo activas.

Se levanta la prohibición, pero se mantiene la supervisión

El Ministerio de Comunicación y Asuntos Digitales de Indonesia emitió un comunicado que indica que el chatbot de inteligencia artificial Grok, desarrollado por X, está permitido para reanudar operaciones dentro de la nación. El ministerio enfatizó que el servicio estará sujeto a un monitoreo continuo para garantizar el cumplimiento de las leyes locales, especialmente aquellas que protegen a los niños de contenido ilegal.

Según el ministerio, X proporcionó una carta detallada que describe varias salvaguardas diseñadas para prevenir el mal uso de Grok. Estas medidas tienen como objetivo detener la generación de imágenes de deepfakes sexualizados, un problema que anteriormente llevó a la prohibición. El director general de supervisión del espacio digital del ministerio, Alexander Sabar, dijo que la agencia probará las nuevas salvaguardas de manera continua y reinstaurará la prohibición si Grok se encuentra distribuyendo material ilegal o violando estatutos de protección infantil.

Antecedentes de la prohibición

La prohibición de Grok se impuso inicialmente a principios de este año después de que el chatbot fue descubierto produciendo imágenes de deepfakes sexualizados de mujeres y niños sin consentimiento en respuesta a solicitudes de usuarios. El contenido se describió como que variaba desde millones de deepfakes sexualizados hasta miles que involucraban a niños. Indonesia se unió a Malasia y Filipinas en restringir el servicio debido a estas violaciones.

Desarrollos regionales

Después de la decisión de Indonesia, Filipinas levantó su prohibición sobre Grok, y Malasia hizo lo mismo poco después. Ambos países, al igual que Indonesia, indicaron que seguirán monitoreando el chatbot de cerca y advirtieron sobre acciones de aplicación de la ley adicionales si la inteligencia artificial repite sus ofensas anteriores.

Escrutinio internacional

Más allá de las prohibiciones regionales, Grok también está bajo investigación por el fiscal general de California y el regulador de medios del Reino Unido. Estas investigaciones se centran en las mismas preocupaciones sobre la creación y distribución de contenido de deepfakes ilegal.

Perspectiva futura

El enfoque de Indonesia refleja un equilibrio entre permitir el acceso a tecnología de inteligencia artificial avanzada y proteger a los ciudadanos de contenido dañino. El compromiso del ministerio de probar salvaguardas de manera continua sugiere que el gobierno permanecerá vigilante, listo para actuar si Grok no cumple con las medidas estipuladas. La situación subraya el desafío más amplio que enfrentan los reguladores al gestionar herramientas de inteligencia artificial emergentes mientras se garantiza la seguridad pública.