Diretor Interino da CISA Carrega Acidentalmente Documentos Sensíveis para ChatGPT Público
Pontos principais
- O diretor interino da CISA carregou documentos "para uso oficial apenas" para o ChatGPT público.
- Alertas internos foram acionados para evitar a divulgação não autorizada.
- Os funcionários do Departamento de Segurança Nacional normalmente usam ferramentas de IA aprovadas que mantêm os dados nas redes federais.
- O material carregado era não classificado, mas sensível, potencialmente afetando a privacidade e os programas nacionais.
- Ferramentas de IA públicas, como o ChatGPT, com cerca de 700 milhões de usuários, apresentam riscos reais de segurança de dados.
- Uma investigação está em andamento para determinar possíveis medidas administrativas ou disciplinares.
O diretor interino da Agência de Segurança de Cibersegurança e Infraestrutura (CISA) carregou involuntariamente documentos marcados como "para uso oficial apenas" para uma versão pública do ChatGPT. Os carregamentos acionaram alertas internos e levantaram preocupações sobre a possível exposição de informações não classificadas, mas sensíveis, a milhões de usuários.
Visão Geral do Incidente
O diretor interino da Agência de Segurança de Cibersegurança e Infraestrutura (CISA), Madhu Gottumukkala, carregou involuntariamente documentos designados como "para uso oficial apenas" para a versão pública do ChatGPT no verão passado. De acordo com quatro oficiais do Departamento de Segurança Nacional com conhecimento do incidente, os carregamentos acionaram múltiplos alertas internos de cibersegurança projetados para evitar o roubo ou a divulgação involuntária de material do governo de redes federais.
Acesso Restrito a IA e Política
Gottumukkala solicitou permissão especial para usar o chatbot da OpenAI, uma ferramenta que a maioria dos funcionários do Departamento de Segurança Nacional é bloqueada para acessar. Em vez disso, os funcionários do Departamento de Segurança Nacional normalmente dependem de aplicativos de IA aprovados, como o DHSChat da agência, que são configurados para evitar que consultas ou documentos deixem as redes federais. O pedido de acesso e o uso subsequente levantaram preocupações entre os oficiais de que o diretor "forçou a CISA a lhe dar o ChatGPT e, em seguida, ele o abusou".
Natureza das Informações Vazadas
O material carregado não era classificado, mas carregava uma etiqueta "para uso oficial apenas", uma designação usada dentro do Departamento de Segurança Nacional para identificar informações não classificadas de natureza sensível. Se compartilhadas sem autorização, essas informações poderiam afetar adversamente a privacidade ou o bem-estar de uma pessoa e poderiam impedir programas essenciais para o interesse nacional.
Exposição Potencial e Riscos
Como o ChatGPT é um serviço público com cerca de 700 milhões de usuários ativos, há preocupação de que os dados carregados possam ser acessados ou usados para responder a prompts de qualquer um desses usuários. Especialistas alertaram que o uso de ferramentas de IA públicas apresenta riscos reais, pois os dados carregados podem ser retidos, violados ou incorporados em respostas para outros usuários.
Investigação e Consequências Possíveis
O Departamento de Segurança Nacional lançou uma investigação para avaliar se o incidente prejudicou a segurança do governo. Oficiais indicaram que a investigação pode levar a ações administrativas ou disciplinares que variam desde um aviso formal e retreinamento obrigatório até a suspensão ou revogação de uma autorização de segurança. A OpenAI não respondeu a pedidos de comentário.