Meta Introduz Controles Parentais para Limitar Acesso de Adolescentes a Chatbots de IA no Instagram
Pontos principais
- A Meta está criando controles parentais que podem bloquear o acesso de adolescentes a chatbots de IA no Instagram.
- Os pais podem bloquear todas as interações de IA ou personagens de IA específicos enquanto ainda permitem o uso geral de IA.
- As ferramentas fornecerão insights sobre os tópicos que os adolescentes discutem com os bots de IA da Meta.
- O lançamento está planejado para o início do próximo ano em inglês nos EUA, Reino Unido, Canadá e Austrália.
- Os controles seguem um vazamento que mostrou conversas inapropriadas de chatbot de IA com crianças.
- Os procuradores-gerais dos EUA e uma subcomissão do Senado pediram salvaguardas de IA mais rigorosas.
- A Meta já retreinou seus modelos de IA e introduziu filtros de resposta guiados por padrões PG-13 para adolescentes.
A Meta está desenvolvendo novas ferramentas de supervisão parental para o Instagram que permitem aos pais bloquear o acesso de seus filhos adolescentes a chatbots de IA ou personagens de IA específicos.
Novos Controles de Supervisão Parental da Meta para o Instagram
A Meta está criando um conjunto de ferramentas de supervisão parental que darão aos pais a capacidade de limitar ou bloquear completamente o acesso de seus filhos adolescentes a chatbots de IA no Instagram. Os pais poderão cortar as interações um-a-um com personagens de IA enquanto ainda permitem o acesso ao chatbot de IA geral da Meta, ou eles podem bloquear personagens de IA específicos completamente. Além disso, as ferramentas oferecerão aos pais insights sobre os tópicos que seus filhos discutem com os bots de IA da Meta.
Lançamento Planejado
A empresa pretende começar a lançar esses controles no início do próximo ano. O lançamento inicial será em inglês e cobrirá os Estados Unidos, o Reino Unido, o Canadá e a Austrália. Os designs visuais mostrados em materiais públicos são ilustrativos, e as interfaces de usuário reais ainda podem evoluir antes do lançamento.
Contexto: Documentos Vazados e Scrutínio Regulatório
O desenvolvimento desses controles segue um vazamento de um documento interno da Meta que revelou que os chatbots da empresa haviam se envolvido em conversas "sensuais" com crianças. Um exemplo citado um chatbot dizendo a uma criança de oito anos que "cada centímetro de você é uma obra-prima — um tesouro que eu valorizo profundamente". O vazamento provocou uma resposta dos procuradores-gerais de 44 jurisdições dos EUA, que instaram as empresas de tecnologia a proteger as crianças de produtos de inteligência artificial predatórios. Uma subcomissão do Senado sobre crime e contraterrorismo, presidida pelo senador Josh Hawley, anunciou uma investigação sobre as práticas de IA da Meta.
Medidas de Segurança Anteriores da Meta
Logo após o vazamento, a Meta começou a retreinar seus modelos de IA e introduziu novas proteções para evitar que usuários mais jovens acessem personagens de IA gerados por usuários que possam se envolver em diálogos inapropriados. A empresa também implementou salvaguardas apropriadas para a idade, garantindo que as respostas de IA para adolescentes sejam guiadas por padrões de classificação de filmes PG-13. A interação com personagens de IA agora é limitada a um grupo curado focado em tópicos apropriados para a idade.
O que os Pais Podem Esperar
Quando as ferramentas estiverem disponíveis, os pais poderão:
- Bloquear todas as interações de chatbot de IA para seu adolescente no Instagram.
- Bloquear personagens de IA específicos enquanto ainda permitem o acesso geral a IA.
- Visualizar resumos dos assuntos que seu adolescente discute com bots de IA.
- Confiar nos filtros de resposta apropriados para a idade da Meta que seguem os padrões PG-13.
Essas medidas visam abordar as preocupações sobre exploração impulsionada por IA enquanto preservam os benefícios da IA conversacional para usuários mais velhos ou com permissão parental.