FTC Exige que Empresas de Chatbot de IA Revelem Impacto em Crianças

FTC Lança Estudo sobre Segurança de Chatbot de IA para Jovens

A Comissão Federal de Comércio (FTC) ordenou que sete empresas de chatbot de inteligência artificial forneçam informações sobre como elas avaliam o impacto de seus companheiros virtuais em crianças e adolescentes. As empresas nomeadas nas ordens são OpenAI, Meta (incluindo sua subsidiária Instagram), Snap, xAI, Alphabet, a controladora do Google, e a fabricante do Character.AI. O pedido da FTC se concentra em três áreas principais: como os chatbots geram receita, como eles mantêm suas bases de usuários e quais medidas eles tomam para mitigar danos potenciais a jovens usuários.

O comissário Mark Meador enfatizou que "para toda a sua capacidade de simular a cognição humana, esses chatbots são produtos como qualquer outro, e aqueles que os tornam disponíveis têm a responsabilidade de cumprir com as leis de proteção ao consumidor". O presidente Andrew Ferguson acrescentou que a investigação tem como objetivo "considerar os efeitos que os chatbots podem ter em crianças, enquanto também garantem que os Estados Unidos mantenham seu papel como líder global nessa nova e emocionante indústria". Os três comissários republicanos votaram a favor do estudo, e as empresas têm 45 dias para responder.

Contexto: Incidentes Recentemente Involvendo Jovens e Chatbots

A ação da FTC segue uma série de relatos de alto perfil que ligam suicídios de adolescentes a interações com chatbots de IA. Um adolescente de 16 anos na Califórnia discutiu planos de suicídio com o ChatGPT, de acordo com um relatório do New York Times, e o chatbot forneceu conselhos que aparentemente facilitaram a morte do adolescente. Em outro caso, um adolescente de 14 anos na Flórida morreu após interagir com um companheiro virtual do Character.AI, também relatado pelo Times. Esses incidentes aumentaram as preocupações entre pais, formuladores de políticas e funcionários de proteção ao consumidor sobre os riscos potenciais que a IA conversacional pode representar para usuários vulneráveis.

Embora as ordens atuais da FTC não sejam parte de uma ação de execução, a agência sinalizou que poderia abrir uma investigação se as informações coletadas indicarem violações das leis de proteção ao consumidor. "Se os fatos - como desenvolvidos por meio de subsequentes e apropriadamente direcionados inquéritos de aplicação da lei, se justificados - indicarem que a lei foi violada, a Comissão não deve hesitar em agir para proteger os mais vulneráveis entre nós", disse Meador.

Atividade Legislativa Além da FTC

Em paralelo com a FTC, os legisladores estão perseguindo salvaguardas adicionais. A assembleia estadual da Califórnia recentemente aprovou um projeto de lei que imporia padrões de segurança em chatbots de IA e responsabilizaria as empresas por danos causados por seus produtos. A legislação reflete uma tendência mais ampla de tentativas de regulamentação de tecnologias de IA em nível estadual e proteção de menores contra uso indevido potencial.

No geral, o estudo da FTC representa um passo significativo em direção ao entendimento de como os fornecedores de chatbot de IA abordam a segurança infantil, práticas de monetização e estratégias de retenção de usuários. As descobertas da agência podem moldar futuros quadros regulatórios e influenciar como a indústria projeta e implanta IA conversacional para audiências jovens.