CEO de Anthropic Dario Amodei se reunirá con la Casa Blanca sobre el acceso al modelo de inteligencia artificial Mythos
Puntos clave
- El director ejecutivo de Anthropic, Dario Amodei, se reunirá con la jefa de gabinete de la Casa Blanca, Susie Wiles, el viernes para discutir el acceso federal al modelo de inteligencia artificial Mythos.
- Mythos puede identificar y explotar miles de vulnerabilidades de día cero, teniendo éxito en el primer intento en más del 83% de los casos.
- Anthropic creó el Proyecto Glasswing, un programa de acceso controlado que actualmente sirve a aproximadamente 40 organizaciones verificadas.
- El Pentágono etiquetó a Anthropic como un riesgo para la cadena de suministro de la seguridad nacional después de que la empresa se negara a levantar las restricciones de seguridad.
- Varias agencias estadounidenses, incluyendo el Tesoro y la Agencia de Seguridad y Infraestructura de Ciberseguridad, buscan el uso defensivo de Mythos a pesar de la lista negra.
- Reguladores globales en el Reino Unido, Canadá y Estados Unidos están coordinando respuestas a las implicaciones de seguridad del modelo.
- Un acuerdo potencial podría restaurar la elegibilidad de Anthropic para los contratos gubernamentales mientras mantiene las salvaguardias de seguridad sobre las armas autónomas.
El director ejecutivo de Anthropic, Dario Amodei, se reunirá con la jefa de gabinete de la Casa Blanca, Susie Wiles, el viernes para negociar el acceso federal al modelo de inteligencia artificial Mythos, que puede descubrir y explotar miles de vulnerabilidades de día cero. Las conversaciones se producen después de que el Pentágono incluyera a Anthropic en una lista negra por negarse a levantar las salvaguardias de seguridad de sus modelos, incluso cuando el Tesoro, las agencias de inteligencia y la Agencia de Seguridad y Infraestructura de Ciberseguridad presionan para el uso controlado de la tecnología.
El director ejecutivo de Anthropic, Dario Amodei, se reunirá con la jefa de gabinete de la Casa Blanca, Susie Wiles, el viernes, lo que marca el paso más concreto hacia la resolución del enfrentamiento entre la empresa de inteligencia artificial y el Pentágono. La discusión se centra en Mythos, un modelo de inteligencia artificial de propósito general que sorprendió a sus creadores al identificar y explotar miles de vulnerabilidades de día cero desconocidas en los principales sistemas operativos y navegadores. Cuando se le asignó la tarea de crear exploits funcionales, Mythos tuvo éxito en el primer intento en más del 83% de los casos y completó una simulación de ataque a una red corporativa de 32 pasos desde el inicio hasta el final.
En lugar de lanzar Mythos públicamente, Anthropic implementó el Proyecto Glasswing, un programa de acceso controlado que suministra el modelo a aproximadamente 40 organizaciones verificadas, incluyendo Amazon Web Services, Apple, Google, Microsoft, Nvidia, Cisco, CrowdStrike, JPMorgan Chase y Palo Alto Networks. La empresa se comprometió a proporcionar hasta $100 millones en créditos de uso y $4 millones en donaciones a grupos de seguridad de código abierto, posicionando el modelo como una herramienta defensiva para encontrar y solucionar vulnerabilidades de software críticas antes de que los adversarios puedan aprovecharlas.
El conflicto con el Departamento de Defensa comenzó en febrero cuando el secretario de Defensa, Pete Hegseth, exigió acceso sin restricciones a los modelos de Anthropic para cualquier propósito legal, incluyendo armas autónomas y vigilancia doméstica. La negativa de Amodei llevó a Hegseth a calificar a Anthropic como un riesgo para la cadena de suministro de la seguridad nacional, una designación que anteriormente se reservaba para empresas vinculadas a adversarios extranjeros, lo que efectivamente incluyó a la empresa en una lista negra para los contratos de defensa. Anthropic demandó a la administración en marzo, alegando represalias ilegales. Un juez federal inicialmente bloqueó la lista negra, pero un tribunal de apelaciones revirtió esa decisión el 8 de abril, lo que dejó a la empresa excluida de los trabajos del Departamento de Defensa mientras continúa la litigación.
Paradójicamente, el mismo gobierno ahora busca Mythos para sus propias necesidades de ciberseguridad. El Departamento del Tesoro quiere el modelo para buscar fallos en sus sistemas, mientras que partes de la comunidad de inteligencia y la Agencia de Seguridad y Infraestructura de Ciberseguridad ya están probándolo. La Oficina de Administración y Presupuesto de la Casa Blanca está redactando salvaguardias para permitir que las agencias federales utilicen una versión controlada. Se informa que Anthropic contrató consultores con vínculos con la anterior administración para facilitar las negociaciones, y se espera que la reunión del viernes sentará las bases para un posible acuerdo.
Líderes de la industria han subrayado la importancia de Mythos. El director ejecutivo de JPMorgan Chase, Jamie Dimon, advirtió que el modelo "reveala muchas más vulnerabilidades" que las herramientas tradicionales. El Instituto de Seguridad de Inteligencia Artificial del Reino Unido describió una preview como "sustancialmente más capaz en ofensiva cibernética que cualquier modelo evaluado anteriormente". El Consejo de Relaciones Exteriores calificó el desarrollo como "un punto de inflexión para la inteligencia artificial y la seguridad global". Si la tecnología cae en manos hostiles, las consecuencias podrían ser catastróficas; si permanece con los defensores, podría cerrar brechas de seguridad que han persistido durante décadas.
A nivel global, los reguladores están tratando de entender las implicaciones. El gobernador del Banco de Inglaterra señaló a Mythos como un riesgo de ciberseguridad, lo que provocó una reunión de emergencia con los directores ejecutivos de los ocho principales bancos del Reino Unido y los principales proveedores de infraestructura financiera. Anthropic planea ampliar el Proyecto Glasswing a bancos británicos seleccionados en los próximos días y está expandiendo su oficina en Londres a 800 empleados. Funcionarios de finanzas canadienses han etiquetado el modelo como un "desconocido desconocido" en discusiones en reuniones del FMI, mientras que los reguladores en Estados Unidos, Reino Unido y Canadá coordinan marcos de evaluación.
Una resolución potencial restauraría la elegibilidad de Anthropic para los contratos gubernamentales, otorgaría acceso controlado a Mythos para fines defensivos y vería al Pentágono retirar la etiqueta de riesgo para la cadena de suministro. A cambio, la empresa podría acordar un proceso de revisión para casos de uso militar limitados que no violen sus principios de seguridad sobre armas autónomas y vigilancia masiva. Ambas partes tienen incentivos para comprometerse: Anthropic necesita una vía clara para trabajar con el gobierno estadounidense más amplio, y la administración necesita una herramienta poderosa para proteger la infraestructura crítica. El resultado de la reunión del viernes podría sentar un precedente para cómo la seguridad de la inteligencia artificial, los intereses comerciales y la seguridad nacional se intersectan en la era de la inteligencia artificial avanzada.