Sistema de Seguridad de Inteligencia Artificial Confunde Bolsa de Doritos con Arma en Escuela Secundaria de Maryland
Puntos clave
- Estudiante de la Escuela Secundaria Kenwood esposado después de que el sistema de inteligencia artificial identificó su bolsa de Doritos como un arma.
- Directora confirmó que la alerta de detección de armas fue revisada y cancelada.
- Oficial de recursos de la escuela involucró a la policía local antes de que se supiera la cancelación de la alerta.
- Omnilert expresó arrepentimiento pero mantuvo que el sistema operó según lo diseñado.
- El incidente destaca los desafíos de la seguridad basada en inteligencia artificial en las escuelas.
Un estudiante de la Escuela Secundaria Kenwood en el condado de Baltimore fue esposado y registrado después de que el sistema de detección de armas de inteligencia artificial de la escuela identificó su bolsa de Doritos como un posible arma de fuego. Los funcionarios de la escuela cancelaron posteriormente la alerta, pero el incidente provocó una respuesta del director de la escuela y del operador del sistema, Omnilert, que expresó arrepentimiento mientras afirmaba que el proceso funcionó como se pretendía.
Resumen del Incidente
Un estudiante de la Escuela Secundaria Kenwood en el condado de Baltimore, Maryland, fue supuestamente esposado y registrado después de que un sistema de detección de armas impulsado por inteligencia artificial identificó su bolsa de Doritos como un posible arma de fuego. El estudiante, identificado como Taki Allen, dijo que se le ordenó arrodillarse, poner las manos detrás de la espalda y fue esposado.
Respuesta de la Escuela
La directora Katie Smith dijo que el departamento de seguridad de la escuela revisó y canceló la alerta de detección de armas. Sin embargo, la cancelación de la alerta no fue reconocida de inmediato, lo que llevó al oficial de recursos de la escuela a involucrar a la policía local. La declaración del director a los padres destacó la cancelación y las acciones posteriores tomadas.
Reacción de la Compañía
Omnilert, la compañía que opera el sistema de inteligencia artificial, emitió un comunicado expresando arrepentimiento por el incidente y preocupación por el estudiante y la comunidad. La compañía también afirmó que el proceso funcionó como se pretendía a pesar de la falsa alarma.