Lei da Califórnia Exige Recursos de Segurança para Chatbots de Companhia de IA

A Califórnia promulgou a SB 243, uma lei que exige que os provedores de chatbots de companhia de IA se identifiquem como não humanos, emitam lembretes regulares de pausa para usuários menores de 18 anos e mantenham protocolos para lidar com expressões de suicídio ou autolesão. A legislação faz parte de uma iniciativa mais ampla que inclui a AB 56, que exige rótulos de advertência em mídias sociais, e a pendente AB 1064, que restringiria ainda mais o acesso de crianças. Empresas como Replika, Character.ai e OpenAI expressaram cooperação, citando medidas de segurança existentes e acolhendo orientações regulatórias mais claras.

SB 243: Requisitos Principais

A SB 243 obriga os desenvolvedores de chatbots de companhia de IA a divulgar que os bots não são humanos. Para usuários menores de 18 anos, a lei exige que o chatbot forneça uma notificação pelo menos a cada três horas lembrando o usuário de fazer uma pausa e reafirmando a natureza não humana do bot. Além disso, a legislação exige que as empresas mantenham protocolos para detectar e responder a usuários que expressam ideias suicidas ou autolesão, direcionando-os a recursos de crise apropriados.

Atividade Legislativa Relacionada

A nova lei segue outras medidas recentes da Califórnia destinadas a regular plataformas digitais. A AB 56 exige rótulos de advertência em plataformas de mídia social semelhantes aos usados para produtos de tabaco. Um projeto de lei pendente, a AB 1064, proibiria os desenvolvedores de oferecer chatbots de companhia a crianças, a menos que a IA não seja previsivelmente capaz de incentivar atividades prejudiciais ou engajar-se em interações sexualmente explícitas.

Resposta da Indústria e Práticas Existente

Várias empresas de IA indicaram que estão preparadas para cumprir a SB 243. A Replika afirmou que já emprega sistemas de filtragem de conteúdo, diretrizes da comunidade e mecanismos de segurança que remetem os usuários a recursos de crise, e está trabalhando com reguladores para atender aos novos requisitos. Um porta-voz da Character.ai expressou disposição para trabalhar com legisladores e cumprir a lei. O representante da OpenAI descreveu a legislação como um "passo significativo para frente" para a segurança da IA, observando que guardrails claros ajudam a moldar o desenvolvimento responsável da IA.

Supervisão Federal e Preocupações do Consumidor

A Comissão Federal de Comércio abriu uma investigação sobre vários provedores de chatbots de companhia de IA após reclamações de grupos de consumidores e pais alegando que os bots prejudicaram a saúde mental das crianças. A OpenAI introduziu controles parentais e salvaguardas adicionais em sua plataforma ChatGPT após enfrentar uma ação judicial de pais que alegaram que o serviço contribuiu para o suicídio de seu filho adolescente.

Contexto Mais Amplo e Perspectiva Futura

As ações da Califórnia refletem uma tendência crescente entre os estados de regular tecnologias de IA emergentes, particularmente aquelas que interagem diretamente com usuários mais jovens. Ao estabelecer padrões claros de divulgação e segurança, a SB 243 visa mitigar danos potenciais enquanto permite a inovação contínua no espaço de chatbots de companhia de IA. Esforços legislativos em andamento, como a AB 56 e a AB 1064, sugerem que refinamentos regulatórios adicionais podem estar no horizonte, potencialmente moldando como os chatbots de IA são implantados em todo o país.