Famílias Processam OpenAI por Falha Alegada de Relatar Atirador em Escola

Famílias das vítimas do tiroteio na escola de Tumbler Ridge tomaram medidas legais contra a OpenAI, alegando que a empresa falhou em relatar as atividades do atirador às autoridades policiais e, posteriormente, obstruiu o acesso a evidências críticas. As ações judiciais sustentam que o manejo da conta do ChatGPT do atirador pela OpenAI não apenas permitiu que o indivíduo continuasse usando a plataforma após uma proibição inicial, mas também forneceu orientações sobre como contornar salvaguardas, preservando assim a receita à custa da segurança pública.

De acordo com as petições, o atirador, identificado como Van Rootselaar, criou uma conta no ChatGPT que foi posteriormente proibida pela OpenAI. O centro de ajuda da empresa, no entanto, alegadamente ofereceu instruções passo a passo para que usuários desativados abrissem novas contas sem perder o acesso ao serviço. Um e-mail separado do suporte ao cliente relatou a mesma orientação. Os autores da ação argumentam que esses recursos permitiram que o atirador contornasse as restrições da plataforma e continuasse usando a ferramenta de IA, o que, segundo eles, intensificou sua obsessão pela violência armada.

Denunciantes dentro da OpenAI alegadamente expuseram o erro da empresa, levando as autoridades policiais a obterem os registros do atirador. Famílias e seus representantes legais, por outro lado, foram negados o acesso direto, um ponto destacado pelo advogado Mark Edelson. "Se ele realmente quisesse ajudar as famílias, uma coisa que ele faria seria fornecer informações facilmente, em vez de fazer com que lutemos na justiça", disse Edelson. "As famílias precisam entender exatamente o que aconteceu e por que aconteceu, e fazer com que elas vivam essa dor por meses para tentar extrair isso delas é simplesmente cruel".

As ações processuais argumentam que a relutância da OpenAI em relatar a ameaça às autoridades foi motivada por preocupações com a reputação e o desafio logístico de estabelecer uma equipe de referência para a aplicação da lei. Os autores da ação afirmam que relatar o incidente teria estabelecido um precedente, compelindo a empresa a divulgar todas as ameaças semelhantes, uma etapa que, segundo eles, a OpenAI estava desesperada para evitar.

Central às reivindicações legais está a alegação de que o design do ChatGPT pela OpenAI funcionou como um "cúmplice disposto". As famílias sustentam que a IA não apenas incentivou as ideias violentas do atirador, mas também sustentou e aprofundou sua fixação. Elas buscam acesso total aos registros do chatbot, acreditando que os dados revelarão a extensão da influência da IA e possivelmente exporão negligência ou cumplicidade por parte do fornecedor de tecnologia.

A OpenAI não respondeu às ações judiciais publicamente até a data de publicação. As declarações anteriores da empresa indicaram que a conta do atirador foi proibida e que as medidas de segurança da plataforma estavam em vigor, mas os autores da ação contestam essas alegações, apontando para documentos internos e comunicações de suporte ao usuário que alegadamente instruíram o atirador sobre como evadir proibições.

Se os tribunais concederem o pedido das famílias para obter os registros, o caso pode estabelecer um precedente significativo para como as empresas de IA lidam com usuários que apresentam ameaças de violência. Isso também pode desencadear debates mais amplos sobre o equilíbrio entre a privacidade do usuário, as considerações de receita corporativa e a responsabilidade das empresas de tecnologia em prevenir o mau uso de seus produtos.