Projeto de Lei do Senado da Califórnia 243 Avança na Regulação de Chatbots de Companhia de IA
Pontos principais
- A Assembleia da Califórnia aprova o PL 243 para regulamentar chatbots de companhia de IA.
- O projeto de lei exige alertas recorrentes para menores a cada três horas e relatórios de transparência anuais.
- Cria um direito de ação privada com danos de até $1.000 por violação.
- Data de vigência: 1 de janeiro de 2026; relatórios começam em 1 de julho de 2027.
- Legislação responde a incidentes envolvendo planejamento de suicídio de adolescente com ChatGPT e documentos vazados de chatbot da Meta.
- Investigações federais e estaduais sobre a segurança da IA intensificaram-se.
- Disposições anteriores sobre táticas de recompensa variável foram removidas após emenda.
- Grandes empresas de IA se opuseram a projetos de lei relacionados à segurança da IA na Califórnia.
A Assembleia Estadual da Califórnia aprovou o Projeto de Lei do Senado 243, uma medida bipartidária que regulamentaria os chatbots de companhia de IA para proteger menores e usuários vulneráveis. O projeto de lei exige que os operadores rotulem as interações de IA, limitam alertas para menores e apresentem relatórios de transparência anuais. Ele também cria um direito de ação privada para indivíduos prejudicados por violações. Se assinado pelo Governador Gavin Newsom, a lei entraria em vigor em 1 de janeiro de 2026, com requisitos de relatórios começando em 1 de julho de 2027. A legislação segue incidentes de alto perfil envolvendo chatbots de IA e vem em meio a um aumento da fiscalização federal e estadual sobre a segurança da IA.
Visão Geral do Projeto de Lei
O Projeto de Lei do Senado 243, introduzido pelos senadores estaduais Steve Padilla e Josh Becker, busca impor protocolos de segurança em chatbots de companhia de IA — sistemas que fornecem respostas adaptativas e humanas e atendem às necessidades sociais dos usuários, incluindo conversas sobre ideias suicidas, autolesão ou conteúdo explicitamente sexual. O projeto de lei define um chatbot de companhia como um sistema de IA capaz de engajar usuários de uma maneira que atenda às suas necessidades sociais.
Disposições Chave
A legislação exige que as plataformas que oferecem chatbots de companhia forneçam alertas recorrentes aos usuários, especificamente a cada três horas para menores, lembrando-lhes que estão falando com um IA, não com uma pessoa real, e incentivando pausas. As empresas também devem implementar requisitos de relatórios e transparência anuais, divulgando dados como o número de vezes que os usuários são encaminhados para serviços de crise.
O PL 243 cria um direito de ação privada, permitindo que indivíduos que acreditem ter sido prejudicados por violações entrem com processos judiciais buscando alívio injuntivo, danos de até $1.000 por violação e honorários de advogado.
Progresso Legislativo
O projeto de lei passou na Assembleia Estadual da Califórnia com apoio bipartidário e agora segue para o Senado estadual para uma votação final. Se o Senado aprovar a medida, ela será apresentada ao Governador Gavin Newsom para assinatura. A lei entraria em vigor em 1 de janeiro de 2026, enquanto as obrigações de relatórios começariam em 1 de julho de 2027.
Contexto e Reações
A legislação ganhou momentum após a morte do adolescente Adam Raine, que discutiu autolesão e planejamento de suicídio com o ChatGPT da OpenAI. Ela também responde a documentos internos vazados que indicam que os chatbots da Meta foram autorizados a se engajar em chats "românticos" e "sensuais" com crianças. Nas últimas semanas, houve uma intensificação da fiscalização de plataformas de IA por legisladores e reguladores dos EUA, incluindo uma investigação da Comissão Federal de Comércio sobre o impacto da saúde mental dos chatbots de IA e investigações em nível estadual pelo Procurador-Geral do Texas Ken Paxton, bem como investigações do Senado lideradas por Josh Hawley e Ed Markey.
Defensores argumentam que o projeto de lei equilibra a proteção de usuários vulneráveis e permite a inovação contínua. Críticos observam que versões anteriores do projeto de lei incluíam requisitos mais fortes, como a proibição de táticas de "recompensa variável" que poderiam encorajar o engajamento viciante, mas essas disposições foram removidas após emendas consideradas tecnicamente inviáveis ou excessivamente onerosas.
A OpenAI, Meta, Google e Amazon se opuseram a projetos de lei relacionados à segurança da IA na Califórnia, enquanto a Anthropic expressou apoio. A aprovação do PL 243 ocorre enquanto as empresas do Vale do Silício investem pesadamente em comitês de ação política pró-IA para influenciar as próximas eleições de meio de mandato em direção a uma abordagem regulatória leve.