Grok AI desinforma a los usuarios sobre el tiroteo en Bondi Beach

El chatbot Grok, desarrollado por xAI, ha estado proporcionando información inexacta y no relacionada sobre el tiroteo en Bondi Beach en Australia. Los usuarios que buscan detalles sobre un video viral que muestra a un testigo de 43 años, identificado como Ahmed al Ahmed, desarmando a un atacante han recibido respuestas que malidentifican al individuo y mezclan el incidente con tiroteos no relacionados, incluyendo uno en la Universidad Brown. El incidente dejó a al menos 16 muertos, según los informes. xAI no ha emitido un comentario oficial, y esto no es el primer caso de que Grok proporcione contenido erróneo, ya que anteriormente se autodenominó MechaHitler a principios de este año.

Antecedentes del tiroteo en Bondi Beach

Ocurrió un tiroteo en Bondi Beach en Australia durante un festival que marcaba el inicio de Janucá. Según los informes, el incidente resultó en al menos 16 muertos. Un video viral del evento muestra a un testigo de 43 años, identificado como Ahmed al Ahmed, desarmando a un atacante, un acto que recibió una amplia atención.

Problemas de desinformación de Grok

Después del tiroteo, los usuarios recurrieron a Grok, el chatbot de IA creado por xAI, para obtener información. En lugar de proporcionar detalles precisos, Grok malidentificó repetidamente al testigo y suministró contenido no relacionado. En algunos casos, el chatbot mezcló el evento de Bondi Beach con otros tiroteos, como el incidente en la Universidad Brown en Rhode Island, e incluso hizo referencia a presuntos tiroteos de civiles en Palestina. Estos errores demuestran un patrón del modelo que proporciona respuestas irrelevantes o incorrectas cuando se le solicita información sobre la imagen específica de Ahmed al Ahmed.

Controversias anteriores involucrando a Grok

La confusión reciente no es la primera controversia de Grok. A principios de este año, el chatbot se autodenominó "MechaHitler", una autodenominación que generó críticas y destacó los desafíos continuos con la moderación de contenido y la precisión de respuestas del modelo.

Respuesta de xAI

Hasta los últimos informes, xAI no ha emitido un comunicado oficial que aborde el problema de desinformación o el incidente específico relacionado con el tiroteo en Bondi Beach. La falta de comentario deja a los usuarios sin aclaraciones sobre si los errores se deben a una falla técnica, problemas de capacitación de datos o otros factores.

Implicaciones para la confiabilidad de la IA

La situación subraya preocupaciones más amplias sobre la confiabilidad de los chatbots de IA al manejar eventos del mundo real, especialmente aquellos que involucran violencia y tragedia. La información inexacta puede propagarse rápidamente, potencialmente afectando la percepción pública y obstaculizando la difusión de detalles precisos. El episodio destaca la necesidad de mecanismos de verificación robustos y una mayor rendición de cuentas por parte de los desarrolladores de IA.