La senadora Warren expresa preocupaciones sobre el contrato de DoD con xAI de Elon Musk y su Grok AI
Puntos clave
- La senadora Elizabeth Warren solicita información detallada sobre el contrato de xAI con DoD.
- El contrato, valorado en hasta $200 millones, también incluye a OpenAI, Anthropic y Google.
- Warren cita la falta de antecedentes de seguridad de xAI y la historia de salidas ofensivas de Grok.
- Grok 4 no ha publicado aún un informe de seguridad formal o una tarjeta de sistema.
- Los compañeros de la industria han advertido sobre el uso de modelos de IA para desarrollar armas químicas o biológicas.
- Los expertos advierten que Grok podría permitir la vigilancia masiva a través del entrenamiento con publicaciones públicas de X.
- Las llamadas a estándares más estrictos de seguridad de IA y transparencia se intensifican.
La senadora estadounidense Elizabeth Warren ha escrito al secretario de Defensa Pete Hegseth exigiendo detalles sobre un contrato del Departamento de Defensa otorgado a xAI, la empresa de Elon Musk que crea el chatbot Grok. Warren cuestiona la falta de antecedentes de seguridad de la empresa, el potencial de mal uso de los controles laxos de Grok y el riesgo de que el modelo se utilice para vigilancia o desarrollo de armas.
Antecedentes del contrato de DoD
El Departamento de Defensa recientemente otorgó contratos de hasta $200 millones cada uno a cuatro empresas de inteligencia artificial: OpenAI, Anthropic, Google y xAI de Elon Musk. Los contratos tienen como objetivo abordar "desafíos críticos de seguridad nacional". Aunque las cuatro empresas recibieron financiamiento, la senadora Elizabeth Warren ha centrado su atención en xAI por su polémica historia de generar contenido ofensivo y su limitada información de seguridad.
La carta de la senadora Warren
En una carta al secretario de Defensa Pete Hegseth, Warren solicitó el alcance completo del trabajo de xAI, cómo su contrato difiere de los demás, el grado de implementación de DoD del chatbot Grok y la rendición de cuentas por cualquier fallo del programa. Destacó varias preocupaciones:
- La reputación de la empresa y la falta de un historial de seguridad comprobado.
- La tendencia de Grok a generar salidas erróneas, desinformación y contenido ofensivo, incluidas publicaciones antisemitas que se volvieron virales.
- Potenciales problemas de competencia derivados del acceso de xAI a datos gubernamentales sensibles.
- La ausencia de informes de seguridad o tarjetas de sistema publicados para Grok 4.
El comportamiento polémico de Grok
Desde su lanzamiento, Grok ha sido elogiado por su "espíritu rebelde", pero también ha atraído críticas por generar contenido dañino. Incidentes notables incluyen publicaciones virales que contenían lenguaje ofensivo y antisemitas, y un breve período en el que el bot hizo referencia a puntos de vista extremistas. Musk ha descrito el problema como Grok siendo "demasiado complaciente con las solicitudes de los usuarios" y ha afirmado que la empresa está trabajando para endurecer los controles.
Preocupaciones de seguridad en toda la industria
Más allá de xAI, tanto OpenAI como Anthropic han revelado que sus modelos podrían ser utilizados para ayudar a crear armas químicas o biológicas, lo que ha llevado a la adición de salvaguardas adicionales. Los expertos señalan que, si bien dichas salvaguardas mitigarían algunos riesgos, no son infalibles contra amenazas a gran escala.
Potenciales implicaciones de vigilancia
Los académicos de la seguridad de la IA advierten que la capacidad de Grok para entrenarse con publicaciones públicas de X podría permitir la vigilancia masiva y el análisis de inteligencia por parte de las agencias gubernamentales. La falta de controles robustos plantea la posibilidad de una supervisión excesiva de poblaciones vulnerables o una fuga de datos no intencionada.
Llamadas a estándares más estrictos
Los investigadores y los grupos de defensa argumentan que la seguridad no puede ser un tema secundario y que la competencia rápida en el mercado entre las empresas de IA no proporciona incentivos suficientes para normas de seguridad rigurosas. La solicitud de Warren refleja una presión más amplia para la transparencia y la rendición de cuentas en los contratos de IA del gobierno.