FTC Lança Investigação sobre Empresas de Chatbots de Companheiros de IA

A Comissão Federal de Comércio abriu uma investigação formal sobre várias empresas desenvolvedoras de chatbots de companheiros de IA. A investigação, que ainda não está vinculada a nenhuma ação regulatória, busca entender como essas empresas medem, testam e monitoram os impactos negativos potenciais em crianças e adolescentes, bem como como elas lidam com a privacidade de dados e a conformidade com a Lei de Proteção à Privacidade Online de Crianças.

FTC Inicia Investigação sobre Chatbots de Companheiros de IA

A Comissão Federal de Comércio (FTC) iniciou uma investigação formal sobre empresas que criam chatbots de inteligência artificial capazes de atuar como companheiros. Embora a investigação ainda não sinalize nenhuma ação regulatória específica, a comissão busca descobrir como essas empresas respondem a perguntas sobre a medição, teste e monitoramento de impactos negativos potenciais em crianças e adolescentes.

Empresas Solicitadas a Participar

Sete empresas foram solicitadas a participar da investigação da FTC. Essas incluem Alphabet, a empresa-mãe do Google; Character Technologies, criadora do Character.AI; Meta e sua subsidiária Instagram; OpenAI; Snap; e X.AI. A comissão está buscando uma variedade de informações de cada uma, cobrindo como elas desenvolvem e aprovam personagens de IA, como elas monetizam o engajamento do usuário e as práticas de manipulação de dados que elas empregam para proteger usuários menores de idade.

Foco na Segurança Infantil e Privacidade de Dados

A linha de questionamento da FTC enfatiza a conformidade com a Lei de Proteção à Privacidade Online de Crianças (COPPA). Os investigadores querem determinar se os criadores de chatbots estão protegendo adequadamente a privacidade de menores e se estão aderindo aos padrões legais relativos à coleta e uso de dados. A agência também quer insights sobre como essas empresas protegem as crianças de conteúdo ou interações potencialmente prejudiciais.

Motivação por trás da Investigação

Embora a FTC não tenha fornecido uma razão clara para a investigação, o Comissário Mark Meador referenciou relatórios recentes de grandes jornais que destacaram preocupações como chatbots e ideias suicidas e discussões com temas sexuais envolvendo usuários menores de idade. Meador sugeriu que, se os fatos descobertos através da investigação indicarem violações da lei, a comissão deve agir prontamente para proteger indivíduos vulneráveis.

Scrutínio em Nível Estadual Paralelo

Além da investigação federal, o Procurador-Geral do Texas lançou uma investigação separada focada no Character.AI e no Meta AI Studio. Essa investigação em nível estadual centra-se em questões semelhantes de privacidade de dados e na prática de chatbots se apresentando como profissionais de saúde mental, levantando mais questões sobre o panorama regulatório mais amplo em torno de companheiros de IA.

Contexto Regulatório e Implicações da Indústria

A ação da FTC reflete um foco regulatório crescente nos riscos imediatos de privacidade e saúde associados a chatbots de IA, mesmo enquanto os benefícios de produtividade de longo prazo da tecnologia permanecem incertos. Ao buscar divulgações detalhadas de desenvolvedores líderes, a comissão busca construir uma imagem mais clara das práticas da indústria e determinar se ações de aplicação adicionais podem ser justificadas.