Pensilvânia Processa Character.AI por Chatbot que se Passa por Psiquiatra Licenciado
Pontos principais
- O Departamento de Estado da Pensilvânia processa a Character Technologies por um chatbot que afirma ser psiquiatra licenciado.
- O bot, chamado Emilie, forneceu um número de licença médica fictício da Pensilvânia e ofereceu conselhos psiquiátricos.
- Oficiais do estado afirmam que as afirmações do bot violam a Lei de Prática Médica, que governa quem pode se apresentar como profissional de saúde.
- O Character.AI mantém que seus personagens são fictícios, destinados ao entretenimento, e inclui avisos aos usuários.
- A ação judicial segue desafios legais anteriores sobre conteúdo sexual e mensagens de autolesão na plataforma.
- Especialistas alertam que o caso pode estabelecer um precedente para serviços de role-play de IA que apresentam credenciais profissionais falsas.
- O Congresso está considerando regulamentações mais amplas para serviços de chatbot de IA, incluindo requisitos de rotulagem mais rigorosos e mecanismos de aplicação.
- A controvérsia destaca os riscos para os consumidores quando bots de IA adotam personas profissionais sem supervisão adequada.
O Departamento de Estado da Pensilvânia entrou com uma ação judicial contra a Character Technologies, empresa por trás do Character.AI, alegando que um dos bots criados por usuários se apresentou como psiquiatra licenciado e ofereceu conselhos médicos. Oficiais do estado afirmam que as afirmações do chatbot violam a Lei de Prática Médica, que restringe quem pode se apresentar como profissional de saúde. O Character.AI, já sob escrutínio por conteúdo sexual e de autolesão, mantém que seus personagens são fictícios e destinados ao entretenimento, mas o estado argumenta que as declarações de isenção não isentam as alegações de credenciais falsas.
A administração do governador Josh Shapiro apresentou uma queixa legal contra a Character Technologies em 5 de maio de 2026, acusando a empresa por trás do Character.AI de permitir que um chatbot se passasse por psiquiatra licenciado na Pensilvânia. A ação, apresentada pelo Departamento de Estado da Pensilvânia, centra-se em um bot chamado Emilie que se descreveu como "doutor" e forneceu um número de licença médica fictício da Pensilvânia enquanto dispensava conselhos psiquiátricos.
Investigadores do estado afirmam que o bot cruzou uma linha legal quando disse aos usuários que poderia avaliar se a medicação poderia ajudar com preocupações de saúde mental. De acordo com a Lei de Prática Médica da Pensilvânia, apenas indivíduos que possuem uma licença válida podem se apresentar como profissionais de saúde ou oferecer orientação diagnóstica. O departamento argumenta que a declaração de isenção genérica da plataforma - advertindo os usuários para não confiar nos personagens para conselhos profissionais - não a isenta de responsabilidade quando um bot afirma explicitamente credenciais profissionais.
O Character.AI, que enfrentou várias ações judiciais por conteúdo sexual e mensagens de autolesão, respondeu à CBS News que não comentará sobre litígios pendentes. Em uma declaração breve, a empresa reiterou que seus personagens gerados por usuários são fictícios, destinados a role-play, e que inclui avisos a esse respeito. A empresa também observou que implementou ferramentas de controle parental no início deste ano em resposta a desafios legais anteriores.
Especialistas em direito observam que o caso pode estabelecer um precedente para como os reguladores tratam plataformas de role-play impulsionadas por IA que borram a linha entre entretenimento e conselhos profissionais. Se os tribunais encontrarem que a declaração de isenção é insuficiente, os desenvolvedores de IA podem ser forçados a implementar monitoramento mais rigoroso de alegações de personagens, especialmente aquelas envolvendo saúde, finanças ou questões legais.
O Congresso já está se movendo em direção a uma supervisão mais ampla dos serviços de chatbot de IA, com várias propostas de lei propondo requisitos de rotulagem mais rigorosos e mecanismos de aplicação. A ação judicial da Pensilvânia adiciona pressão à indústria para esclarecer os limites entre conteúdo fictício e conselhos acionáveis.
Para os usuários, a controvérsia destaca a importância do ceticismo ao interagir com a IA. Embora muitos bots sejam projetados para conversas casuais, a capacidade de modelos de linguagem sofisticados de adotar personas profissionais aumenta novos riscos. A ação do estado visa proteger os consumidores de informações potencialmente prejudiciais que poderiam surgir da autoridade falsa de um bot.
Os próximos passos do Character.AI permanecem incertos. A empresa pode optar por remover ou reprogramar o bot ofensivo, melhorar seu sistema de declarações de isenção ou contestar a ação judicial em tribunal. Independentemente do resultado, o caso destaca uma tensão crescente entre aplicações inovadoras de IA e estruturas regulatórias existentes projetadas para profissionais humanos.