El experto de Wiz, Ami Luttwak, advierte que la IA está redefiniendo el panorama de los ciberataques
Puntos clave
- La IA acelera el desarrollo pero introduce atajos inseguros, especialmente en la autenticación.
- Los atacantes están utilizando código generado por la IA y técnicas basadas en solicitudes para infiltrarse en los sistemas.
- Los ataques recientes a la cadena de suministro, como el caso de Drift y el sistema de construcción de JavaScript Nx, resaltan los riesgos impulsados por la IA.
- Wiz ha lanzado Wiz Code y Wiz Defend para abordar las amenazas relacionadas con la IA en todo el ciclo de vida de desarrollo.
- Las startups deben integrar la seguridad y el cumplimiento desde el primer día, incluyendo SOC 2 y autenticación robusta.
- Mantener los datos del cliente dentro del entorno del cliente reduce la exposición y simplifica el cumplimiento.
- La evolución rápida de la IA crea oportunidades para ambos, atacantes y defensores, en toda la pila de seguridad.
Ami Luttwak, experto en tecnología de Wiz, explica cómo la rápida adopción de la inteligencia artificial está expandiendo la superficie de ataque para los ciberdelincuentes. Aunque la IA ayuda a los desarrolladores a entregar código más rápido, también crea atajos y implementaciones inseguras que los atacantes explotan.
La IA amplifica la superficie de ataque
En una entrevista reciente, Ami Luttwak, experto en tecnología de Wiz, describió la ciberseguridad como un "juego mental" que está siendo rehecho por una nueva ola de tecnologías de inteligencia artificial. Las empresas están ansiosas por integrar la IA en los flujos de trabajo de desarrollo - a través de la codificación de vibraciones, agentes de IA y nuevas herramientas - para acelerar la entrega. Sin embargo, las ganancias de velocidad a menudo vienen con atajos y implementaciones inseguras, especialmente en la autenticación, que Luttwak dice es un punto débil común en el código generado por la IA.
Vulnerabilidades en la cadena de suministro
Luttwak advirtió que las integraciones de IA crean nuevas avenidas para ataques a la cadena de suministro. Cuando los servicios de terceros con acceso amplio son comprometidos, los atacantes pueden pivotar más profundamente en los entornos corporativos. Citó el caso de Drift, una startup de chatbot, donde los tokens robados permitieron a los atacantes impersonar al chatbot, consultar datos de Salesforce y moverse lateralmente a través de las redes de los clientes. Otro incidente involucró al popular sistema de construcción de JavaScript Nx, donde el código malicioso detectó herramientas de desarrollo de IA como Claude y Gemini y las usó para escanear de forma autónoma en busca de datos valiosos, comprometiendo miles de tokens de desarrollador y repositorios privados de GitHub.
Ataques reales ilustran la amenaza
Estos ataques demuestran que la IA no solo está siendo utilizada por los defensores, sino también por los adversarios. Los atacantes están empleando técnicas basadas en solicitudes y sus propios agentes de IA para emitir comandos como "envíame todos tus secretos" o "elimina el archivo". Luttwak señaló que incluso con una adopción general de IA en las empresas baja, Wiz observa ataques semanales que afectan a miles de clientes, con la IA integrada en cada etapa del flujo de ataque.
Respuesta y recomendaciones de Wiz
Wiz ha ampliado su cartera de productos para mantener el ritmo con las amenazas impulsadas por la IA. Los lanzamientos recientes incluyen Wiz Code, que asegura el ciclo de vida de desarrollo de software detectando problemas de seguridad temprano, y Wiz Defend, que proporciona protección en tiempo de ejecución contra amenazas activas en entornos de nube. Luttwak enfatizó la importancia de comprender las aplicaciones de los clientes para ofrecer "seguridad horizontal" que se adapte a casos de uso únicos.
Para las startups, Luttwak enfatizó la construcción de la seguridad y el cumplimiento en la fundación - desde el cumplimiento de SOC 2 desde el primer día hasta la autenticación robusta, los registros de auditoría y el inicio de sesión único. Abogó por arquitecturas que mantengan los datos del cliente dentro del entorno del cliente, reduciendo la exposición y simplificando el cumplimiento. Al tratar la seguridad como una característica principal del producto en lugar de un después, las empresas pueden evitar la "deuda de seguridad" y estar mejor posicionadas para servir a los clientes empresariales.
Perspectiva para la innovación en seguridad
La democratización de las herramientas de IA ha generado una oleada de startups que prometen resolver los puntos dolorosos de las empresas, pero Luttwak advirtió contra compartir datos de forma indiscriminada con proveedores de SaaS pequeños. Ve un terreno fértil para la innovación en áreas como la protección contra el phishing, la seguridad de correo electrónico, la detección de malware y la protección de puntos finales - áreas donde tanto los atacantes como los defensores están evolucionando rápidamente.
En general, Luttwak concluyó que la revolución de la IA es más rápida que cualquier cambio tecnológico anterior, lo que exige que la industria de la seguridad se mueva rápidamente para protegerse contra nuevos vectores de ataque mientras también aprovecha la IA para fortalecer las defensas.