Abuso policial del uso de IA en el Reino Unido lleva a una prohibición cuestionable de fanáticos
Puntos clave
- La policía admitió que un informe de inteligencia defectuoso fue producido por Microsoft Copilot.
- El error llevó a una prohibición de fanáticos del fútbol basada en datos inexactos.
- La Secretaria del Interior, Shabana Mahmood, calificó el incidente de "fracaso de liderazgo" y retiró la confianza en el funcionario policial.
- Legisladores y líderes de partido exigieron la renuncia del funcionario.
- Críticos señalaron la ausencia de una política de IA, capacitación o reglas para el uso policial de la tecnología.
- El caso destaca los riesgos de desplegar una IA poco fiable en decisiones de seguridad.
Un funcionario policial superior admitió que un informe de inteligencia erróneo sobre fanáticos del fútbol fue generado por Microsoft Copilot, una herramienta de inteligencia artificial propensa a la "alucinación". El error desencadenó una prohibición a los seguidores, lo que llevó a la Secretaria del Interior a criticar a la policía por confiar en una IA no probada sin política ni capacitación. Legisladores y líderes de partido pidieron la renuncia del funcionario, destacando preocupaciones sobre el uso de tecnología poco fiable en decisiones de seguridad.
Error generado por IA desencadena controversia
Un líder policial superior reconoció públicamente que una evaluación de inteligencia defectuosa sobre fanáticos del fútbol se originó a partir del uso de Microsoft Copilot, una herramienta de inteligencia artificial conocida por producir resultados inexactos, a menudo descritos como "alucinación". La admisión llegó después de que la policía negara haber utilizado herramientas de IA en la preparación de informes de inteligencia.
Consecuencias políticas
La Secretaria del Interior, Shabana Mahmood, abordó el tema en el Parlamento, describiendo el incidente como un "fracaso de liderazgo" y afirmó que no tenía confianza en el funcionario policial involucrado. Criticó la prohibición por "sesgo de confirmación" y dijo que la policía había afirmado anteriormente que la información se había recopilado a través de otros medios.
Llamadas a la rendición de cuentas
Miembros del Parlamento, así como figuras destacadas del partido gobernante, exigieron la renuncia del funcionario policial, argumentando que el uso de un sistema de IA poco fiable para decisiones de seguridad sensibles era inaceptable. Los críticos destacaron la falta de una política de IA, capacitación o reglas claras que rigen el despliegue de la tecnología.
Implicaciones más amplias
El episodio ha planteado preguntas sobre la adopción de tecnologías emergentes por parte de las agencias de aplicación de la ley, especialmente cuando esas herramientas pueden producir resultados erróneos sin supervisión adecuada. Subraya la necesidad de directrices claras, capacitación y mecanismos de rendición de cuentas antes de que los sistemas de IA se integren en operaciones críticas de seguridad pública.