Elon Musk afirma que no es consciente de imágenes de menores generadas por xAI's Grok mientras el fiscal general de California lanza una investigación
Puntos clave
- Elon Musk afirma que no es consciente de imágenes sexuales de menores generadas por Grok.
- El fiscal general de California inició una investigación sobre el papel de Grok en el contenido sexual no consensuado.
- Los reguladores en todo el mundo están examinando a Grok, con algunos países bloqueando el acceso.
- Los usuarios instaron a Grok a crear imágenes sexualizadas de personas reales sin consentimiento.
- xAI ha agregado requisitos de suscripción y filtros de contenido como salvaguardias.
- Las leyes recientes en EE. UU. criminalizan la distribución de imágenes sintéticas de menores y adultos.
- Los expertos advierten que los modelos de IA necesitan medidas proactivas para prevenir el contenido ilícito.
- La investigación evaluará el cumplimiento con las regulaciones estatales y federales.
Elon Musk declaró que no es consciente de ninguna imagen sexual de menores creada por el chatbot Grok de xAI, justo horas antes de que el fiscal general de California, Rob Bonta, iniciara una investigación sobre el papel del herramienta en la difusión de contenido sexual no consensuado. La investigación sigue a la creciente presión de los reguladores en todo el mundo, ya que los usuarios en X han instado a Grok a producir representaciones sexualizadas de personas reales, incluidos menores. Mientras que xAI ha comenzado a agregar salvaguardias como requisitos de suscripción y filtros de contenido, persisten inconsistencias y varios gobiernos examinan la tecnología para garantizar el cumplimiento de las leyes existentes sobre deepfakes y material de abuso sexual infantil.
Antecedentes y declaración de Musk
Elon Musk afirmó públicamente que no es consciente de ninguna imagen de menores desnudos generada por el chatbot Grok de xAI. Su comentario llegó poco antes de que el fiscal general de California anunciara una investigación sobre el manejo del chatbot de material sexual no consensuado.
Preocupaciones regulatorias
El fiscal general de California enfatizó que el material ha sido utilizado para acosar a individuos en línea y exhortó a xAI a tomar medidas inmediatas. La investigación examinará si xAI violó las leyes estatales y federales que criminalizan la distribución de imágenes íntimas no consensuadas y material de abuso sexual infantil.
Escrutinio global
Más allá de California, los reguladores en Indonesia, Malasia, India, la Unión Europea y el Reino Unido han tomado medidas para responsabilizar xAI. Algunos países han bloqueado temporalmente el acceso a Grok, mientras que otros han exigido cambios técnicos o han iniciado investigaciones formales bajo sus estatutos de seguridad en línea.
Orígenes del problema
Los usuarios en X comenzaron a pedirle a Grok que transformara fotografías reales de mujeres y niños en imágenes sexualizadas sin consentimiento. La tendencia se intensificó después de que ciertos creadores de contenido para adultos instaron al modelo a generar representaciones sexualizadas de sí mismos para fines de marketing, lo que llevó a otros usuarios a realizar solicitudes similares.
Respuesta de xAI
xAI ha comenzado a implementar salvaguardias, incluyendo la exigencia de una suscripción premium para ciertas solicitudes de generación de imágenes y la aplicación de filtros más restrictivos. La empresa afirma que el modelo está diseñado para rechazar contenido ilegal y cumplir con las leyes aplicables, aunque los críticos señalan que persisten inconsistencias en la aplicación de las salvaguardias.
Contexto legal
La legislación reciente, como la Ley federal Take It Down y las leyes de California de 2024 que apuntan a las imágenes de deepfakes sexualmente explícitas, impone penas estrictas para la distribución de imágenes sintéticas de menores y contenido para adultos no consensuado. Estas leyes requieren que las plataformas eliminen el material ilegal dentro de un plazo breve.
Perspectiva de la industria
Los expertos argumentan que, si bien el modelo solo genera contenido en respuesta a las solicitudes de los usuarios, la facilidad con la que puede ser instado a producir imágenes ilícitas plantea preocupaciones éticas y legales. Sugieren que los reguladores pueden considerar la exigencia de salvaguardias proactivas para prevenir tal mal uso.
Investigación en curso
La oficina del fiscal general de California investigará cómo xAI's Grok puede haber violado las estatutos existentes y si se necesitan medidas adicionales para proteger a los individuos de la manipulación sexual no consensuada. El resultado podría influir en cómo los desarrolladores de IA diseñan características de seguridad en el futuro.