Alerta de Google AI contiene insulto racial, lo que genera disculpas y preocupación en la industria
Puntos clave
- La notificación push generada por IA de Google incluyó la palabra N de manera incorrecta.
- La alerta vinculada a una historia de Hollywood Reporter sobre un incidente en los premios BAFTA.
- El usuario de Instagram Danny Price fue el primero en reportar el problema con una captura de pantalla.
- Google eliminó la notificación y se disculpó, prometiendo evitar que vuelva a suceder.
- El incidente en los BAFTA involucró a un miembro de la audiencia con síndrome de Tourette que gritó la palabra N durante una presentación de Michael B. Jordan y Delroy Lindo.
- El activista John Davidson dijo que estaba "profundamente mortificado" y enfatizó la naturaleza involuntaria de sus tics.
- El incidente generó indignación pública y discusión sobre tics vocales.
- Apple previously scrapped AI push notifications after similar high‑profile mistakes.
Google emitió una notificación push generada por IA que incluía la palabra N, vinculada a una historia de Hollywood Reporter sobre un incidente en los premios BAFTA. La alerta ofensiva fue identificada por el usuario de Instagram Danny Price, lo que llevó a Google a eliminar la notificación y disculparse.
Error en la notificación push de Google AI
Google envió una notificación push generada por IA que incluyó la palabra N de manera incorrecta. La notificación contenía un enlace a un artículo de Hollywood Reporter sobre un incidente en los premios BAFTA de cine. La palabra ofensiva apareció directamente debajo del enlace, lo que generó una reacción inmediata.
El problema fue detectado por primera vez por el usuario de Instagram Danny Price, quien compartió una captura de pantalla con la leyenda "qué mes de la historia negra tan interesante ha resultado ser". En respuesta, Google eliminó la notificación ofensiva, emitió una disculpa y dijo que estaba "trabajando para evitar que esto vuelva a suceder".
Contexto del incidente en los BAFTA
La historia de Hollywood Reporter vinculada cubría un incidente en los premios BAFTA en el que un miembro de la audiencia con síndrome de Tourette gritó la palabra N mientras Michael B. Jordan y Delroy Lindo estaban en el escenario presentando un premio. El individuo, identificado como el activista John Davidson, explicó más tarde que el estallido fue involuntario y expresó que estaba "profundamente mortificado si alguien considera que mis tics involuntarios son intencionados o llevan algún significado". El incidente generó indignación pública y renovó la discusión sobre las realidades de vivir con tics vocales.
Reacciones de la industria y errores de IA anteriores
El error de Google se suma a una lista creciente de errores de IA de alto perfil. Apple, por ejemplo, descontinuó sus propias notificaciones push impulsadas por IA después de una serie de errores vergonzosos, incluido un informe incorrecto de que un hombre acusado de matar al CEO de UnitedHealthcare, Brian Thompson, se había disparado a sí mismo. Estos incidentes resaltan los desafíos continuos en la implementación de IA para la entrega automática de contenido y subrayan la necesidad de salvaguardias más fuertes.
Ambas empresas han indicado su compromiso de mejorar sus sistemas de IA para evitar errores futuros que puedan causar daño o ofensa pública.