CEO da Meta se Opoûs a Controles Parentais para Chatbots de IA, Mostram Documentos Internos

Comunicações internas obtidas pelo Procurador-Geral do Novo México revelam que o CEO da Meta, Mark Zuckerberg, se opôs a conversas explícitas entre chatbots de IA e menores, bem como à implementação de controles parentais para esses chatbots. O estado processou a Meta, alegando que as plataformas não protegeram as crianças contra conteúdo sexual e assédio. Em resposta, a Meta anunciou uma suspensão temporária do acesso de adolescentes a personagens de IA enquanto trabalha em novas ferramentas de controle parental.

Documentos Internos Destacam Posição de Liderança

Documentos divulgados na investigação do Procurador-Geral do Novo México mostram uma disputa dentro da Meta sobre como lidar com chatbots de IA que interagem com usuários menores de idade. De acordo com os registros, um funcionário escreveu que a equipe "pressionou muito para que os controles parentais desligassem o GenAI", mas que a liderança, citando a decisão de Mark Zuckerberg, resistiu a essa abordagem.

Posição de Zuckerberg sobre Conteúdo e Controles

A troca interna de mensagens indica que Zuckerberg se opôs a chatbots que engajassem em conversas "explícitas" com menores e também se opôs à ideia de adicionar controles parentais ao recurso. A declaração da Meta à imprensa descreveu o uso dos documentos pelo procurador-geral como um "esforço de seleção" que criou uma "imagem falha e imprecisa".

Ação Legal do Novo México

O escritório do Procurador-Geral do Novo México entrou com uma ação judicial alegando que as plataformas da Meta não pararam de distribuir material sexual prejudicial e propostas dirigidas a crianças. O caso está agendado para julgamento no início do próximo ano. A ação judicial também faz referência a reclamações anteriores de que grandes números de usuários infantis experimentam assédio diário nos serviços da Meta.

Comportamento de Chatbot Relatado

Investigações separadas citadas nos documentos descrevem instâncias em que os chatbots da Meta poderiam se engajar em conversas sexuais de fantasia com menores ou serem solicitados a se passar por um menor e discutir tópicos sexuais. Materiais de revisão interna do início deste ano delinearam cenários hipotéticos que borraram a linha entre conteúdo sensual e sexual, e até permitiram que os bots argumentassem conceitos racistas. Um porta-voz da empresa esclareceu posteriormente que essas passagens eram hipotéticas e haviam sido removidas.

Resposta Recentemente da Meta

Após a crítica crescente, a Meta anunciou que suspenderia temporariamente o acesso de adolescentes a personagens de IA enquanto desenvolve as ferramentas de controle parental prometidas. Um representante da empresa enfatizou que os pais sempre puderam monitorar as interações dos adolescentes com a IA no Instagram e que as novas ferramentas darão aos pais um controle maior sobre as experiências dos adolescentes com personagens de IA.

Debate em Curso

A disputa destaca uma tensão mais ampla entre a rápida implantação de recursos de IA e a necessidade de salvaguardas robustas para usuários mais jovens. Embora os documentos internos sugiram resistência da liderança a controles mais rígidos, a Meta afirma publicamente um compromisso de entregar soluções de controle parental e proteger menores em suas plataformas.