Google e Character.AI Chegam a Acordo em Processos Judiciais sobre Danos a Crianças por Chatbots de IA
Pontos principais
- Google e Character.AI concordaram em resolver cinco processos judiciais em quatro estados.
- Os casos alegam que menores foram prejudicados por interações com chatbots da Character.AI.
- Uma reclamação de alto perfil envolve um adolescente de 14 anos de Orlando que morreu por suicídio após usar um chatbot.
- A Character.AI agora impede que usuários abaixo de 18 anos participem de conversas abertas com chatbots e usa software de detecção de idade.
- A OpenAI também enfrenta processos judiciais e fez alterações no seu serviço ChatGPT.
- O acordo está pendente de aprovação judicial e resolveria as reclamações na Flórida, Texas, Nova York e Colorado.
Google e Character.AI chegaram a um acordo que abrange cinco processos judiciais em quatro estados que alegam que menores foram prejudicados por interações com chatbots da Character.AI. Os casos incluem uma reclamação de alto perfil que um adolescente de 14 anos em Orlando morreu por suicídio após usar o serviço. Embora o acordo ainda esteja pendente de aprovação judicial, ele resolveria as reclamações na Flórida, Texas, Nova York e Colorado. A Character.AI já limitou o acesso a chatbots de conversação aberta para usuários abaixo de 18 anos e introduziu ferramentas de detecção de idade.
Contexto
Google e Character.AI têm sido associados por meio de trabalho colaborativo em tecnologia de chatbot de IA. Ao longo do último ano, uma série de processos judiciais foi arquivada em quatro estados - Flórida, Texas, Nova York e Colorado - afirmando que menores sofreram danos emocionais após interagir com os serviços de chatbot da Character.AI. O caso mais proeminente envolve um adolescente de 14 anos de Orlando que morreu por suicídio após uma sessão de chat com um dos bots. Sua mãe entrou com uma ação judicial em um tribunal federal dos EUA na Flórida, alegando que o chatbot contribuiu para o trágico resultado.
Detalhes do Acordo
As duas empresas concordaram em resolver cinco processos judiciais, embora o acordo ainda não tenha sido finalizado pelos tribunais. O acordo resolveria as reclamações nos quatro estados mencionados acima. Representantes do Google se recusaram a comentar, enquanto um porta-voz da Character.AI se referiu aos arquivos do estado, mas não forneceu detalhes específicos sobre os termos do acordo.
Em resposta aos desafios legais, a Character.AI fez mudanças significativas na plataforma no ano passado. A empresa agora impede que usuários abaixo de 18 anos participem de conversas abertas com seus chatbots. Em vez disso, os usuários mais jovens podem criar histórias usando as ferramentas de personagens de IA da empresa. A Character.AI também introduziu software de detecção de idade para verificar se um usuário tem 18 anos ou mais. O CEO Karandeep Anand explicou que a nova abordagem oferece uma "melhor maneira de atender aos usuários adolescentes", enfatizando que a experiência não precisa se parecer com um chatbot tradicional.
Contexto da Indústria
Google e Character.AI não são as únicas empresas de tecnologia que enfrentam escrutínio sobre danos a crianças causados por IA. A OpenAI também ajustou sua oferta ChatGPT em meio a processos judiciais que alegam suicídios e outros efeitos adversos em menores. Esses desenvolvimentos destacam um foco regulatório e de política pública mais amplo na proteção das crianças contra riscos potenciais associados à IA conversacional.
As ações judiciais e os acordos subsequentes destacam preocupações crescentes sobre como os chatbots de IA interagem com usuários vulneráveis. À medida que as empresas adotam medidas de verificação de idade e restringem certas funcionalidades para menores, a indústria parece estar se movendo em direção a práticas mais protetoras, embora a eficácia dessas etapas permaneça um tema de debate contínuo.