Firma de Seguridad de IA Irregular Recauda $80 Millones en Nueva Ronda de Financiamiento
Puntos clave
- Irregular recaudó $80 millones en una ronda de financiamiento liderada por Sequoia Capital y Redpoint Ventures.
- El CEO de Wiz, Assaf Rappaport, participó en la ronda, valorizando a la empresa en $450 millones.
- La empresa, anteriormente Pattern Labs, es conocida por su marco de trabajo SOLVE utilizado en las evaluaciones de seguridad de IA.
- Las simulaciones de Irregular enfrentan a los agentes de IA como atacantes y defensores para probar la robustez del modelo.
- Su trabajo se referencia en evaluaciones de seguridad para modelos como Claude 3.7 Sonnet y los próximos lanzamientos de OpenAI.
- Los cofundadores Dan Lahav y Omer Nevo enfatizan la creciente necesidad de seguridad enfocada en la IA a medida que los modelos se vuelven más capaces.
- La financiación apoyará los esfuerzos para detectar los riesgos emergentes antes de que se manifesten en aplicaciones del mundo real.
Irregular, una empresa de seguridad de IA anteriormente conocida como Pattern Labs, anunció una ronda de financiamiento de $80 millones liderada por Sequoia Capital y Redpoint Ventures, con la participación del CEO de Wiz, Assaf Rappaport. El capital valoriza a la empresa en $450 millones y apoyará su trabajo para garantizar la seguridad de los modelos de IA de vanguardia, incluyendo la creación de entornos simulados para probar los riesgos emergentes. Los cofundadores Dan Lahav y Omer Nevo enfatizaron la creciente necesidad de defensas sólidas a medida que los grandes modelos de lenguaje se vuelven más capaces, citando el marco de trabajo SOLVE de la empresa y su papel en la evaluación de modelos como Claude 3.7 Sonnet y los próximos lanzamientos de OpenAI.
Detalles de la Ronda de Financiamiento
Irregular reveló una ronda de financiamiento de $80 millones que fue liderada por Sequoia Capital y Redpoint Ventures. El CEO de Wiz, Assaf Rappaport, también participó en la ronda, que valoriza a la empresa en $450 millones. La inversión tiene como objetivo expandir las capacidades de Irregular para identificar y mitigar los riesgos emergentes asociados con los modelos de IA de vanguardia antes de que aparecen en implementaciones del mundo real.
Evolución de la Empresa y Tecnología Central
Anteriormente operando como Pattern Labs, Irregular se ha convertido en un jugador destacado en las evaluaciones de seguridad de IA. Su trabajo se cita en evaluaciones de seguridad para modelos como Claude 3.7 Sonnet y los próximos lanzamientos de OpenAI, incluyendo los modelos o3 y o4-mini. Central para la oferta de Irregular es el marco de trabajo SOLVE, un sistema de puntuación que mide la capacidad de un modelo para detectar vulnerabilidades. La empresa también ejecuta entornos de red simulados elaborados donde los agentes de IA actúan como atacantes y defensores, lo que permite al equipo observar dónde las defensas tienen éxito o fallan cuando se introducen nuevos modelos.
Contexto de la Industria y Perspectiva
El cofundador Dan Lahav señaló que la próxima oleada de actividad económica girará en torno a las interacciones humanas con la IA y la IA con la IA, lo que estresará las pilas de seguridad existentes. El cofundador Omer Nevo agregó que las simulaciones de Irregular permiten pruebas intensivas de los modelos antes de que se lancen, proporcionando información sobre posibles brechas de seguridad. Este enfoque se alinea con los movimientos más amplios de la industria, ya que las principales empresas de IA han mejorado las medidas de seguridad internas para protegerse contra el espionaje corporativo y la creciente capacidad de los modelos de IA para descubrir vulnerabilidades de software. La ronda de financiamiento posiciona a Irregular para continuar su misión de garantizar la seguridad de los modelos de IA de vanguardia cada vez más sofisticados, un desafío que Lahav describió como un "objetivo en movimiento" que requerirá esfuerzos continuos.