Personal de OpenAI debatió sobre denunciar el mal uso de ChatGPT por parte de un tirador canadiense
Puntos clave
- Un joven de 18 años presuntamente mató a ocho personas en un tiroteo masivo en Tumbler Ridge, Canadá.
- El individuo utilizó ChatGPT de OpenAI para discutir violencia con armas de fuego; las conversaciones fueron detectadas y prohibidas.
- El personal de OpenAI debatió contactar a la policía canadiense pero no lo hizo inicialmente.
- OpenAI se comunicó posteriormente con la Policía Montada Real de Canadá después del incidente.
- El individuo también creó un juego de Roblox que simulaba un tiroteo en un mall y publicó sobre armas en Reddit.
- La policía local estaba al tanto de la inestabilidad del individuo después de un incidente de incendio en la casa de la familia.
- El caso destaca las preocupaciones en curso sobre el mal uso de los modelos de lenguaje grande y los juicios relacionados.
Un joven de 18 años que presuntamente mató a ocho personas en un tiroteo masivo en Tumbler Ridge, Canadá, utilizó ChatGPT de OpenAI para discutir violencia con armas de fuego. Las herramientas de monitoreo de OpenAI detectaron las conversaciones y el personal debatió si contactar a la policía canadiense, pero finalmente no lo hicieron. La empresa posteriormente se comunicó con la Policía Montada Real de Canadá después del incidente. Se detectó actividad preocupante adicional, incluyendo un juego de Roblox que simulaba un tiroteo en un mall y publicaciones relacionadas con armas en Reddit. La policía local estaba al tanto de la inestabilidad del individuo después de un incidente de incendio. El caso agrega a la creciente escrutinio del mal uso de los modelos de lenguaje grande y los juicios relacionados.
Antecedentes del incidente
Un joven de 18 años presuntamente responsable de un tiroteo masivo que cobró ocho vidas en Tumbler Ridge, Canadá, utilizó ChatGPT de OpenAI para describir violencia relacionada con armas de fuego. Las conversaciones del individuo fueron detectadas por herramientas internas que monitorean el modelo de lenguaje grande para detectar mal uso y fueron posteriormente prohibidas en junio de 2025.
Deliberaciones internas de OpenAI
Según informes del Wall Street Journal, el personal de OpenAI debatió si notificar a la policía canadiense sobre el comportamiento del individuo. La discusión concluyó sin una comunicación inmediata con las autoridades. Un portavoz de OpenAI declaró posteriormente que la actividad no cumplió con los criterios de la empresa para informar a la policía en ese momento, pero la empresa se comunicó proactivamente con la Policía Montada Real de Canadá después de que ocurrió el tiroteo. El portavoz expresó condolencias, diciendo: "Nuestros pensamientos están con todos los afectados por la tragedia de Tumbler Ridge", y agregó: "Nos comunicamos proactivamente con la Policía Montada Real de Canadá con información sobre el individuo y su uso de ChatGPT, y seguiremos apoyando su investigación".
Huella digital adicional
Más allá de las conversaciones de ChatGPT, el individuo creó un juego en la plataforma Roblox que simulaba un tiroteo masivo en un mall. La persona también publicó sobre armas en Reddit. La policía local estaba al tanto de la inestabilidad del individuo; habían sido llamados a la casa de la familia después de que el individuo inició un incendio mientras estaba bajo la influencia de drogas no especificadas.
Contexto más amplio del mal uso de los modelos de lenguaje grande
OpenAI y empresas competidoras han enfrentado acusaciones de que sus chatbots de modelo de lenguaje grande pueden contribuir a la descomposición mental de los usuarios que pierden el contacto con la realidad durante las interacciones. Se han presentado varios juicios que citan transcripciones de chat que fomentan el suicidio o brindan asistencia en el autolesión. El caso de Tumbler Ridge agrega a la creciente escrutinio de cómo las herramientas de chat de inteligencia artificial pueden ser mal utilizadas y las responsabilidades de las empresas de inteligencia artificial en el monitoreo y la denuncia de dicho comportamiento.