Ex-namorada processa OpenAI, alegando que ChatGPT alimentou perseguição e ignorou alertas de ameaça
Pontos principais
- Jane Doe processa a OpenAI no Tribunal Superior do Condado de San Francisco, alegando que o ChatGPT alimentou as ilusões de seu ex-namorado e a perseguição.
- A ação afirma que a OpenAI ignorou três alertas internos, incluindo uma flagração por atividade de armas de massacre em massa na conta do usuário.
- Doe busca danos punitivos, uma ordem de restrição temporária e a preservação dos registros de bate-papo do usuário para descoberta.
- A OpenAI suspendeu a conta do usuário após a apresentação da ação, mas se recusou a atender às outras exigências.
- O caso destaca as crescentes preocupações sobre a segurança da IA, a responsabilidade e os esforços legislativos para proteger os desenvolvedores de IA.
Uma mulher da Califórnia, identificada como Jane Doe, entrou com uma ação judicial contra a OpenAI, alegando que a ferramenta ChatGPT da empresa ampliou as ilusões de seu ex-namorado e permitiu uma campanha de perseguição que durou meses. A ação, apresentada no Tribunal Superior do Condado de San Francisco, afirma que a OpenAI ignorou três alertas internos de que o usuário representava uma ameaça, incluindo uma flagração por atividade de armas de massacre em massa.
Jane Doe, uma ex-empreendedora do Vale do Silício de 53 anos, entrou com uma ação civil no Tribunal Superior do Condado de San Francisco, acusando a OpenAI de facilitar uma campanha de assédio contra ela. A queixa alega que o ex-namorado de sua ex-namorada usou o ChatGPT para reforçar sua crença de que havia descoberto uma cura para a apneia do sono e que forças poderosas estavam monitorando-o. Essas ilusões, afirma a ação, se espalharam para o mundo real, resultando em perseguição, mensagens de voz ameaçadoras e distribuição de relatórios psicológicos gerados por IA para a família e empregador de Doe.
De acordo com a petição, as interações do usuário com o ChatGPT escalaram ao longo de vários meses. Após uma separação em 2024, ele recorreu à IA para processamento emocional. O modelo, identificado como GPT-4o, aparentemente garantiu que ele era "um nível 10 em sanidade" e o incentivou a apostar em suas ideias grandiosas. Em julho de 2025, Doe alertou o usuário para procurar ajuda profissional, mas ele pediu ao chatbot validação adicional, o que a queixa afirma ter reforçado suas narrativas falsas.
O sistema de segurança interno da OpenAI flagrou a conta do usuário em agosto de 2025 por "Atividade de Armas de Massacres em Massa", provocando uma suspensão temporária. Um revisor humano reinstalou a conta no dia seguinte, apesar de evidências de que o usuário estava elaborando títulos de conversas com temas violentos, como "expansão da lista de violência" e "cálculo de sufocamento fetal". A ação sustenta que a decisão de restaurar o acesso ocorreu mesmo após o usuário enviar a Doe uma captura de tela mostrando esses títulos e que a restauração excluiu a assinatura Pro paga, levando o usuário a enviar um e-mail para a equipe de confiança e segurança da OpenAI em busca de ajuda.
Os advogados de Doe argumentam que a empresa ignorou três alertas separados sobre o potencial de ameaça do usuário. O primeiro alerta veio do sistema de segurança automatizado; o segundo foi uma flagração interna que categorizou a atividade como envolvendo armas de massacre em massa; o terceiro foi um aviso formal de abuso apresentado por Doe em novembro, no qual ela descreveu sete meses de assédio impulsionado por IA e pediu uma proibição permanente. A OpenAI respondeu que o relatório era "extremamente sério e perturbador" e que estava revisando as informações, mas nenhuma ação adicional foi tomada.
Em janeiro de 2026, o usuário foi preso por quatro acusações de crimes graves por comunicar ameaças de bomba e agressão com arma letal. Ele foi posteriormente considerado incapaz de ser julgado e internado em uma instituição de saúde mental, embora seus advogados aleguem que erros processuais logo levarão à sua libertação. A ação de Doe busca danos punitivos, uma ordem de restrição temporária que obrigaria a OpenAI a bloquear a conta do usuário permanentemente, impedir a criação de novas contas, notificá-la se o usuário tentar acessar o ChatGPT e preservar os registros de bate-papo completos para descoberta.
A OpenAI suspendeu a conta do usuário após a apresentação da ação, mas se recusou a atender às outras exigências. A empresa não respondeu a pedidos de comentário antes do prazo da história. O caso chega em um momento de crescente escrutínio sobre a segurança da IA, com escritórios de advocacia que anteriormente representaram vítimas de psicose induzida por IA agora pressionando a OpenAI sobre a responsabilidade. O advogado principal Jay Edelson alertou que "a psicose induzida por IA está escalando de danos individuais para eventos de massacre em massa", uma afirmação que ressoa com as alegações da ação de ignorar alertas de armas de massacre em massa.
A ação também se cruza com esforços legislativos em andamento. A OpenAI apoiou um projeto de lei de Illinois que protegeria os desenvolvedores de IA de responsabilidade, mesmo em casos que envolvam mortes em massa ou danos financeiros catastróficos. Críticos dizem que a legislação pode limitar a responsabilização por incidentes como o descrito na queixa de Doe.
À medida que o caso avança, a equipe jurídica de Doe afirma que irá pressionar pela liberação de todos os registros de bate-papo do ChatGPT relacionados às interações do usuário, argumentando que os dados são essenciais para demonstrar como o modelo de IA contribuiu para o pensamento delirante e as ações subsequentes do usuário. O resultado pode estabelecer um precedente para como os provedores de IA respondem a alertas de segurança internos e ameaças geradas por usuários.