Sistema de Segurança de IA Confunde Pacote de Doritos com Arma em Escola de Ensino Médio em Maryland
Pontos principais
- Estudante da Kenwood High School algemado após sistema de IA ter identificado pacote de Doritos como arma.
- Diretor confirmou que o alerta de detecção de armas foi revisado e cancelado.
- Oficial de recursos da escola envolveu polícia local antes que o cancelamento do alerta fosse conhecido.
- Omnilert expressou arrependimento, mas manteve que o sistema operou como projetado.
- Incidente destaca desafios da segurança baseada em IA nas escolas.
Um estudante da Kenwood High School no condado de Baltimore foi algemado e revistado após o sistema de detecção de armas de IA da escola ter identificado seu pacote de Doritos como uma possível arma de fogo. Mais tarde, os funcionários da escola cancelaram o alerta, mas o incidente provocou uma resposta do diretor da escola e do operador do sistema, Omnilert, que expressou arrependimento enquanto afirmava que o processo funcionou como pretendido.
Visão Geral do Incidente
Um estudante da Kenwood High School no condado de Baltimore, Maryland, foi supostamente algemado e revistado após um sistema de detecção de armas alimentado por IA ter identificado seu pacote de Doritos como uma possível arma de fogo. O estudante, identificado como Taki Allen, disse que foi obrigado a ajoelhar, colocar as mãos atrás das costas e foi algemado.
Resposta da Escola
A diretora Katie Smith disse que o departamento de segurança da escola revisou e cancelou o alerta de detecção de armas. No entanto, o cancelamento do alerta não foi imediatamente reconhecido, levando o oficial de recursos da escola a envolver a polícia local. A declaração do diretor para os pais notou o cancelamento e as ações subsequentes tomadas.
Reação da Empresa
Omnilert, a empresa que opera o sistema de IA, emitiu uma declaração expressando arrependimento sobre o incidente e preocupação com o estudante e a comunidade. A empresa também afirmou que o processo funcionou como pretendido, apesar do alarme falso.