Empresa de Segurança de IA Irregular Capta US$ 80 Milhões em Nova Rodada de Financiamento
Pontos principais
- A Irregular captou US$ 80 milhões em uma rodada de financiamento liderada pela Sequoia Capital e Redpoint Ventures.
- O CEO da Wiz, Assaf Rappaport, participou da rodada, valorizando a empresa em US$ 450 milhões.
- A empresa, anteriormente Pattern Labs, é conhecida por sua estrutura SOLVE usada em avaliações de segurança de IA.
- As simulações da Irregular colocam agentes de IA como atacantes e defensores para testar a robustez do modelo.
- Seu trabalho é referenciado em avaliações de segurança para modelos como Claude 3.7 Sonnet e os lançamentos futuros da OpenAI.
- Os co-fundadores Dan Lahav e Omer Nevo enfatizam a crescente necessidade de segurança focada em IA à medida que os modelos se tornam mais capazes.
- O financiamento apoiará esforços para detectar riscos emergentes antes que eles se manifestem em aplicações do mundo real.
Irregular, uma empresa de segurança de IA anteriormente conhecida como Pattern Labs, anunciou uma rodada de financiamento de US$ 80 milhões liderada pela Sequoia Capital e Redpoint Ventures, com a participação do CEO da Wiz, Assaf Rappaport. O capital valoriza a empresa em US$ 450 milhões e apoiará seu trabalho em segurança de modelos de IA de fronteira, incluindo a criação de ambientes simulados para testar riscos emergentes. Os co-fundadores Dan Lahav e Omer Nevo enfatizaram a crescente necessidade de defesas robustas à medida que os grandes modelos de linguagem se tornam mais capazes, citando a estrutura SOLVE da empresa e seu papel na avaliação de modelos como Claude 3.7 Sonnet e os lançamentos futuros da OpenAI.
Destaque da Rodada de Financiamento
Irregular divulgou uma rodada de financiamento de US$ 80 milhões que foi liderada pela Sequoia Capital e Redpoint Ventures. O CEO da Wiz, Assaf Rappaport, também participou da rodada, que valoriza a empresa em US$ 450 milhões. O investimento visa expandir as capacidades da Irregular na identificação e mitigação de riscos emergentes associados a modelos de IA de fronteira antes que eles sejam implantados no mundo real.
Evolução da Empresa e Tecnologia Central
Anteriormente operando como Pattern Labs, a Irregular se tornou um jogador proeminente nas avaliações de segurança de IA. Seu trabalho é citado em avaliações de segurança para modelos como Claude 3.7 Sonnet e os lançamentos futuros da OpenAI, incluindo os modelos o3 e o4-mini. Central à oferta da Irregular está a estrutura SOLVE, um sistema de pontuação que mede a capacidade de um modelo de detectar vulnerabilidades. A empresa também executa ambientes de rede simulados elaborados, onde agentes de IA atuam como atacantes e defensores, permitindo que a equipe observe onde as defesas têm sucesso ou falham quando novos modelos são introduzidos.
Contexto e Perspectiva da Indústria
O co-fundador Dan Lahav observou que a onda de atividade econômica que está por vir girará em torno de interações humanas-IA e IA-IA, o que estressará as pilhas de segurança existentes. O co-fundador Omer Nevo acrescentou que as simulações da Irregular permitem testes intensivos de modelos antes que eles sejam lançados, fornecendo insights sobre possíveis lacunas de segurança. Esse foco alinha-se com os movimentos mais amplos da indústria, à medida que as principais empresas de IA atualizam as medidas de segurança internas para proteger contra espionagem corporativa e a capacidade crescente de modelos de IA de descobrir vulnerabilidades de software. A rodada de financiamento posiciona a Irregular para continuar sua missão de segurança de modelos de fronteira cada vez mais sofisticados, um desafio que Lahav descreveu como um "alvo móvel" que exigirá esforços contínuos.