Director interino de CISA sube documentos gubernamentales sensibles a ChatGPT
Puntos clave
- El director interino de CISA, Madhu Gottumukkala, subió documentos marcados como "para uso oficial solo" a la plataforma pública ChatGPT.
- Las subidas activaron advertencias de seguridad automatizadas diseñadas para proteger los datos gubernamentales.
- Gottumukkala había recibido una excepción para utilizar ChatGPT a pesar de una prohibición departamental.
- Los funcionarios de Seguridad Nacional están evaluando los posibles impactos de seguridad de las subidas.
- Un portavoz de CISA describió el uso de la inteligencia artificial como "de corto plazo y limitado".
- Subir documentos internos no clasificados pero sensibles a un modelo de inteligencia artificial público riesgos de divulgación más amplia.
- Gottumukkala se desempeñó previamente como director de información de Dakota del Sur.
- Presuntamente no aprobó una prueba de polígrafo de contrainteligencia, más tarde calificada como "no autorizada" por Seguridad Nacional.
- Seis miembros del personal de carrera fueron suspendidos de acceder a información clasificada después del incidente.
El director interino de la Agencia de Seguridad de Infraestructura y Ciberseguridad (CISA), Madhu Gottumukkala, subió documentos gubernamentales internos marcados como "para uso oficial solo" a la plataforma pública ChatGPT, lo que activó advertencias de seguridad automatizadas. El director había recibido previamente una excepción para utilizar la herramienta, a pesar de una prohibición departamental. Los funcionarios de Seguridad Nacional están evaluando los posibles impactos de seguridad, mientras que un portavoz de CISA describió el uso como de "corto plazo y limitado". El incidente plantea preocupaciones sobre el manejo de datos no clasificados pero sensibles en servicios de inteligencia artificial públicos.
Resumen del incidente
El director interino de la Agencia de Seguridad de Infraestructura y Ciberseguridad de EE. UU. (CISA), Madhu Gottumukkala, subió documentos gubernamentales internos marcados como "para uso oficial solo" a la versión pública de ChatGPT. Esta acción activó múltiples advertencias de seguridad automatizadas diseñadas para prevenir el robo o la divulgación involuntaria de archivos gubernamentales de las redes federales.
Excepción para utilizar ChatGPT
Gottumukkala había sido autorizado a utilizar ChatGPT con anterioridad en su cargo como director de CISA, en un momento en que otros empleados estaban prohibidos de acceder a la herramienta. La excepción le permitió interactuar con el modelo de lenguaje grande a pesar de una prohibición departamental más amplia.
Respuesta departamental
Los funcionarios del Departamento de Seguridad Nacional, que supervisa a CISA, comenzaron a evaluar si se había producido algún daño a la seguridad gubernamental como resultado de las subidas. Un portavoz de CISA caracterizó el uso de Gottumukkala del sistema de inteligencia artificial como "de corto plazo y limitado".
Riesgos potenciales
Subir documentos gubernamentales internos no clasificados pero sensibles a una plataforma de inteligencia artificial pública es problemático porque el modelo puede incorporar la información en sus datos de entrenamiento. Esto podría permitir que el contenido se compartiera con otros usuarios del sistema, lo que plantea preocupaciones sobre la divulgación involuntaria de información sensible.
Antecedentes del director
Antes de su nombramiento en CISA, Madhu Gottumukkala se desempeñó como director de información de Dakota del Sur bajo la ex gobernadora Kristi Noem. Después de su traslado a CISA, presuntamente no aprobó una prueba de polígrafo de contrainteligencia, un evento que más tarde fue descrito por Seguridad Nacional como "no autorizado". A raíz del incidente, seis miembros del personal de carrera fueron suspendidos de acceder a información clasificada.
Implicaciones para la política de inteligencia artificial del gobierno
El episodio destaca los desafíos que enfrentan las agencias federales para equilibrar la adopción de herramientas de inteligencia artificial avanzadas con la necesidad de proteger datos sensibles. Subraya la importancia de políticas claras y mecanismos de aplicación estrictos para prevenir ocurrencias similares en el futuro.