El CEO de OpenAI, Sam Altman, se disculpa por no alertar a la policía sobre un usuario de ChatGPT vinculado al tiroteo en Tumbler Ridge

Dos meses después de un tiroteo fatal en la pequeña comunidad de Columbia Británica de Tumbler Ridge, el director ejecutivo de OpenAI, Sam Altman, emitió una disculpa formal por no informar a la policía sobre una cuenta de ChatGPT que había sido suspendida por infringir la política de la empresa sobre violencia en el mundo real. La cuenta pertenecía a Jesse Van Rootselaar, el sospechoso identificado por las autoridades como el tirador.

La carta de Altman, publicada en su totalidad por el medio local Tumbler RidgeLines, comienza con un reconocimiento directo del daño causado. "Lamento profundamente no haber alertado a las autoridades sobre la cuenta que fue suspendida en junio", escribió. La disculpa se envió después de que Altman habló con Darryl Krakowa, el alcalde de Tumbler Ridge, y David Eby, el primer ministro de Columbia Británica. Ambos funcionarios acordaron que una disculpa pública era necesaria, aunque Eby agregó en X que el gesto era "groseramente insuficiente para la devastación causada a las familias de Tumbler Ridge".

El incidente subraya la creciente tensión entre las plataformas de inteligencia artificial y las responsabilidades de seguridad pública. OpenAI había eliminado la cuenta del sospechoso en junio después de que el usuario publicó contenido que violaba su política de uso, que prohíbe las instrucciones o el fomento de actos violentos. En ese momento, el protocolo interno de la empresa no requería notificar a las autoridades a menos que una amenaza fuera considerada "inminente y creíble".

La disculpa de Altman hace referencia a una declaración anterior de Ann O’Leary, vicepresidenta de política global de OpenAI, quien se comprometió a notificar a las autoridades cuando surgieran amenazas creíbles. En su nueva carta, Altman reafirma ese compromiso y promete trabajar con todos los niveles de gobierno para desarrollar mecanismos que puedan ayudar a prevenir tragedias futuras.

Los funcionarios provinciales acogieron con beneplácito el reconocimiento, pero enfatizaron que se necesitan acciones concretas. El primer ministro Eby, mientras señalaba la disculpa en las redes sociales, pidió pautas claras que obligaran a las empresas de inteligencia artificial a informar sobre las amenazas de manera oportuna. "Una disculpa no devuelve las vidas perdidas", escribió, instando a OpenAI a traducir el arrepentimiento en cambios de política.

La respuesta de OpenAI llega en medio de un escrutinio más amplio de las herramientas de inteligencia artificial utilizadas en las salas de redacción y las plataformas de contenido. Los críticos argumentan que el crecimiento rápido de la industria supera el desarrollo de protocolos de seguridad, una preocupación que también expresan los medios de comunicación que experimentan con la automatización de noticias impulsada por la inteligencia artificial. Los próximos pasos de la empresa probablemente serán examinados por los reguladores y un público cada vez más vigilante.

Altman concluyó su carta afirmando que OpenAI "encontrará formas de prevenir tragedias como esta en el futuro" y colaborará con gobiernos de todo el mundo para establecer normas de informe. La disculpa marca un momento rareza de rendición de cuentas de una empresa de inteligencia artificial líder, pero si conduce a un cambio sustantivo queda por verse.