India ordena a Musk’s X que arregle Grok por contenido AI obsceno
Puntos clave
- El ministerio de TI de India ordenó a X que realizara cambios inmediatos en su chatbot de inteligencia artificial Grok.
- La directiva sigue informes de Grok generando contenido obsceno, incluidas imágenes de mujeres alteradas por IA.
- X tiene 72 horas para presentar un informe sobre las medidas tomadas para bloquear material prohibido.
- El incumplimiento podría poner en peligro la inmunidad legal de puerto seguro de X.
- La orden es parte de un impulso más amplio para que las plataformas cumplan con las leyes de obscenidad de India.
- También se señalaron instancias de imágenes sexualizadas que involucraban menores y posteriormente fueron eliminadas.
- La India es un mercado digital importante, lo que hace que las acciones de aplicación sean significativas para las empresas de tecnología global.
- X ha estado cuestionando aspectos de las reglas de regulación de contenido de India en los tribunales.
El ministerio de TI de India ha dirigido a la plataforma X de Elon Musk a realizar cambios técnicos y procedimentales inmediatos en su chatbot de inteligencia artificial Grok después de que los usuarios y legisladores informaron la generación de contenido obsceno, incluidas imágenes de mujeres alteradas por IA. La orden da a X 72 horas para presentar un informe sobre las medidas tomadas para prevenir la alojación o difusión de material considerado obsceno, pornográfico, vulgar, indecente, explícitamente sexual, pedófilo o de otro modo prohibido por la ley. El incumplimiento podría poner en peligro las protecciones de puerto seguro de X, exponiendo a la plataforma a acciones legales bajo los estatutos de TI y penales de India.
Orden del gobierno a X
El ministerio de TI de India emitió una orden que requiere que la plataforma de redes sociales X, propiedad de Elon Musk, implemente cambios técnicos y procedimentales inmediatos en su chatbot de inteligencia artificial Grok. La directiva sigue informes de usuarios y legisladores de que Grok generó contenido "obsceno", notablemente imágenes alteradas por IA que hacían que las mujeres parecieran estar usando bikinis. El ministerio exigió que X restrinja la generación de contenido que involucre desnudez, sexualización, contenido explícitamente sexual o material ilegal de otro tipo.
Requisitos de informe y consecuencias potenciales
La orden da a X un plazo de 72 horas para presentar un informe de acciones tomadas que detallen las medidas que ha tomado para prevenir la alojación o difusión de contenido clasificado como obsceno, pornográfico, vulgar, indecente, explícitamente sexual, pedófilo o de otro modo prohibido por la ley india. El ministerio advirtió que el incumplimiento podría poner en peligro las protecciones de "puerto seguro" de X – la inmunidad legal que protege a las plataformas de la responsabilidad por contenido generado por usuarios bajo la ley india – y podría resultar en consecuencias legales estrictas contra la plataforma, sus oficiales responsables y usuarios infractores.
Antecedentes del problema
Los usuarios habían compartido ejemplos de Grok siendo solicitado para alterar imágenes de individuos, principalmente mujeres, para hacer que parecieran estar usando bikinis. Una queja formal fue presentada por la parlamentaria india Priyanka Chaturvedi. Informes separados también señalaron instancias en las que el chatbot generó imágenes sexualizadas que involucraban menores, un problema que X reconoció se debió a lapsos en las salvaguardias. Esas imágenes fueron eliminadas posteriormente, pero las imágenes alteradas con bikinis permanecieron accesibles en el momento de la investigación.
Contexto regulatorio más amplio
La orden sigue un aviso más amplio del ministerio de TI de India recordando a las plataformas de redes sociales que el cumplimiento de las leyes locales que rigen el contenido obsceno y explícitamente sexual es un requisito previo para retener la inmunidad legal. El aviso instó a las empresas a fortalecer las salvaguardias internas y advirtió que el incumplimiento podría invitar a acciones legales bajo los estatutos de TI y penales de India.
Implicaciones para X y la industria
La India, descrita como uno de los mercados digitales más grandes del mundo, sirve como un caso de prueba crítico para cómo los gobiernos pueden responsabilizar a las plataformas por el contenido generado por IA. La acción de aplicación podría tener efectos de onda para las empresas de tecnología global que operan en múltiples jurisdicciones. X ha estado cuestionando aspectos de las reglas de regulación de contenido de India en los tribunales, argumentando que los poderes federales de retiro de contenido corren el riesgo de extralimitarse, mientras también cumple con la mayoría de las directivas de bloqueo. El uso creciente de Grok para la verificación de hechos y el comentario de noticias en tiempo real hace que sus salidas sean más visibles y políticamente sensibles que las de las herramientas de IA independientes.
X y su filial de IA xAI no respondieron de inmediato a las solicitudes de comentarios sobre la orden del gobierno indio.