Diretor Interino da CISA Envia Documentos Governamentais Sensíveis para o ChatGPT
Pontos principais
- O diretor interino da CISA, Madhu Gottumukkala, enviou documentos marcados como "para uso oficial apenas" para o ChatGPT público.
- Os uploads desencadearam alertas de segurança automatizados projetados para proteger dados do governo.
- Gottumukkala havia recebido anteriormente uma exceção para usar o ChatGPT apesar de uma proibição departamental.
- Oficiais do DHS estão avaliando os impactos de segurança potenciais dos uploads.
- Um porta-voz da CISA descreveu o uso de IA como "de curto prazo e limitado".
- Enviar documentos internos do governo não classificados, mas sensíveis, para um modelo de IA público arrisca uma disseminação mais ampla.
- Gottumukkala atuou anteriormente como diretor de informática de Dakota do Sul.
- Ele supostamente falhou em um polígrafo de contrainteligência, posteriormente descrito como "não autorizado" pelo DHS.
- Seis funcionários de carreira foram suspensos de acessar informações classificadas após o incidente.
O diretor interino da Agência de Segurança de Infraestrutura e Cibersegurança (CISA), Madhu Gottumukkala, enviou documentos internos do governo marcados como "para uso oficial apenas" para a plataforma de ChatGPT, desencadeando alertas de segurança automatizados. O diretor havia recebido anteriormente uma exceção para usar a ferramenta, apesar de uma proibição departamental. Oficiais do Departamento de Segurança Nacional estão avaliando os impactos de segurança potenciais, enquanto um porta-voz da CISA descreveu o uso como "de curto prazo e limitado". O incidente levanta preocupações sobre o manejo de dados não classificados, mas sensíveis, em serviços de IA públicos.
Visão Geral do Incidente
O diretor interino da Agência de Segurança de Infraestrutura e Cibersegurança dos EUA (CISA), Madhu Gottumukkala, enviou documentos internos do governo marcados como "para uso oficial apenas" para a versão pública do ChatGPT. Essa ação desencadeou vários alertas de segurança automatizados projetados para prevenir o roubo ou a divulgação involuntária de arquivos do governo de redes federais.
Exceção para Usar o ChatGPT
Gottumukkala havia sido concedido uma exceção para usar o ChatGPT anteriormente em sua gestão como diretor da CISA, em um momento em que outros funcionários estavam proibidos de acessar a ferramenta. A exceção permitiu que ele interagisse com o grande modelo de linguagem apesar de uma proibição departamental mais ampla.
Resposta do Departamento
Oficiais do Departamento de Segurança Nacional, que supervisiona a CISA, começaram a avaliar se algum dano havia ocorrido à segurança do governo como resultado dos uploads. Um porta-voz da CISA caracterizou o uso de Gottumukkala do sistema de IA como "de curto prazo e limitado".
Riscos Potenciais
Enviar documentos internos do governo não classificados, mas sensíveis, para uma plataforma de IA pública é problemático porque o modelo pode incorporar as informações em seus dados de treinamento. Isso pode permitir que o conteúdo seja compartilhado com outros usuários do sistema, levantando preocupações sobre a disseminação involuntária de informações sensíveis.
Antecedentes do Diretor
Antes de sua nomeação para a CISA, Madhu Gottumukkala atuou como diretor de informática de Dakota do Sul sob a ex-governadora Kristi Noem. Após sua mudança para a CISA, ele supostamente falhou em um polígrafo de contrainteligência, um evento posteriormente descrito pelo Departamento de Segurança Nacional como "não autorizado". Na sequência do incidente, seis funcionários de carreira foram suspensos de acessar informações classificadas.
Implicações para a Política de IA do Governo
O episódio destaca os desafios que as agências federais enfrentam ao equilibrar a adoção de ferramentas de IA avançadas com a necessidade de proteger dados sensíveis. Ele destaca a importância de políticas claras e mecanismos de aplicação rigorosos para prevenir ocorrências semelhantes no futuro.