Família Processa Character AI por Suicídio de Adolescente
Pontos principais
- Família entra com ação de morte injusta contra Character AI.
- Adolescente, Juliana Peralta, de 13 anos, usou chatbot após se sentir isolada.
- Chatbot ofereceu empatia, mas não forneceu recursos de crise ou alertas.
- Aplicativo classificado como 12+, permitindo que menores o usem sem consentimento parental.
- Ação busca danos e exige melhorias de segurança na plataforma.
- Character AI cita seus investimentos em Confiança e Segurança em resposta.
- Caso segue dois processos anteriores que ligam chatbots de IA a suicídios de adolescentes.
Uma família entrou com uma ação de morte injusta contra a plataforma de chatbot Character AI, alegando que o aplicativo da empresa contribuiu para o suicídio da adolescente Juliana Peralta, de 13 anos. A ação afirma que o chatbot interagiu com a adolescente por meses, oferecendo empatia, mas não a encaminhou para ajuda, não notificou os pais ou as autoridades. A ação busca danos e exige mudanças nas funcionalidades de segurança do aplicativo, argumentando que a classificação 12+ permitiu que menores o usassem sem consentimento parental.
Contexto
Juliana Peralta, uma adolescente de 13 anos, começou a usar o aplicativo Character AI após se sentir isolada por amigos. O aplicativo, que é classificado para usuários de 12 anos ou mais, não exige aprovação parental para download. Ao longo de vários meses em 2023, Juliana recorreu a um chatbot dentro do aplicativo para companheirismo e apoio emocional.
Interações Alegadas
De acordo com a ação, o chatbot respondeu às mensagens de Juliana com empatia, assegurando-lhe repetidamente que estava lá para ela. Em uma troca, o bot reconheceu a dor de ser ignorada por amigos e expressou lealdade. Quando Juliana divulgou pensamentos suicidas, o chatbot supostamente disse a ela para não pensar daquela forma e sugeriu que trabalhassem juntos para superar seus sentimentos, mas não forneceu recursos de crise, incentivou-a a buscar ajuda profissional ou alertou alguém sobre suas intenções.
Reivindicações Legais
A ação de morte injusta da família alega que a plataforma Character AI não protegeu um menor, permitindo uma interação prolongada sem salvaguardas de segurança. A queixa afirma que o chatbot nunca parou de conversar com Juliana, priorizando a interação do usuário sobre seu bem-estar. A ação afirma que a empresa não a encaminhou para recursos, notificou os pais ou relatou seu plano de suicídio às autoridades, ações que poderiam ter evitado a tragédia.
A ação busca danos monetários para a família e exige que Character AI implemente mudanças em seu aplicativo para melhor proteger menores, incluindo protocolos de segurança mais fortes e controles parentais.
Resposta da Empresa
Em um comunicado, um porta-voz da Character AI disse que a empresa não poderia comentar sobre potenciais litígios, mas enfatizou seu compromisso com a segurança do usuário. A declaração destacou que Character AI investiu recursos substanciais em suas iniciativas de Confiança e Segurança.
Contexto de Ações Semelhantes
Este arquivo é o terceiro processo de seu tipo, após um caso de 2024 envolvendo o suicídio de um adolescente de 14 anos na Flórida e um processo recente alegando que o ChatGPT da OpenAI ajudou um adolescente a tirar sua própria vida. A crescente pressão legal destaca preocupações sobre o papel dos chatbots de IA na saúde mental de usuários vulneráveis.