OpenAI Introduz Controles Parentais para ChatGPT
Pontos principais
- Controles parentais agora disponíveis para usuários da web do ChatGPT; suporte móvel está por vir.
- Os pais devem criar uma conta e vinculá-la à conta de um adolescente para gerenciar configurações.
- Filtros podem bloquear conteúdo gráfico, sexual, violento e de ideal de beleza extremo.
- A memória de conversas anteriores pode ser desativada para reduzir a personalização e salvaguardar interações.
- Os pais podem evitar que os dados de um adolescente sejam usados para treinar os modelos da OpenAI.
- Horários de silêncio permitem que os pais agendem tempo de inatividade para acesso ao chatbot.
- O modo de voz, a geração de imagens e outros recursos podem ser desativados para uso apenas de texto.
- Preferências de notificação incluem e-mail, SMS, notificações por push ou nenhuma notificação.
- Os controles foram introduzidos após um caso de suicídio de alto perfil de um adolescente e escrutínio do Senado.
OpenAI lançou uma série de controles parentais para ChatGPT, inicialmente disponíveis para usuários da web, com suporte móvel previsto para lançamento posterior. As ferramentas permitem que os pais limitem conteúdo sensível, desabilitem a memória de conversas anteriores, restrinjam o treinamento de modelos em dados de adolescentes, definam horários de silêncio e desativem voz, geração de imagens e outros recursos.
Visão Geral dos Novos Controles
OpenAI anunciou que os controles parentais para ChatGPT agora estão disponíveis para todos os usuários da web, com lançamento móvel previsto em breve. O conjunto de recursos permite que os pais personalizem a experiência do chatbot para contas de adolescentes, ajustando filtros de conteúdo, configurações de memória e permissões de uso.
Para ativar os controles, um pai deve criar uma conta OpenAI e vinculá-la à conta do adolescente. Os adolescentes podem optar por participar convidando um pai ou aceitando um convite e ainda têm a capacidade de se desconectar a qualquer momento, acionando uma notificação para o pai.
Funcionalidades Principais
Filtragem de Conteúdo: Os pais podem adicionar proteções extras que reduzem conteúdo gráfico, sexual, romântico, de papel de violência e de ideal de beleza extremo. Esse filtro é habilitado por padrão assim que uma conta de adolescente é vinculada.
Gerenciamento de Memória: Desativar a memória do ChatGPT de conversas anteriores reduz a personalização e ajuda a manter barreiras, impedindo que o modelo evolua respostas potencialmente inseguras ao longo de interações prolongadas.
Opt-out de Treinamento de Modelo: Os pais podem evitar que as conversas e arquivos carregados de um adolescente sejam usados para melhorar os modelos da OpenAI.
Horários de Silêncio: Os pais podem agendar períodos em que o adolescente não pode acessar o ChatGPT.
Bloqueio de Recursos: O modo de voz, a geração de imagens e outras capacidades interativas podem ser desativadas, limitando o adolescente a interações apenas de texto.
Opções de Notificação: Os pais podem receber alertas sobre atividades preocupantes por e-mail, SMS, notificações por push ou qualquer combinação, ou podem optar por não receber notificações.
Contexto de Segurança e Antecedentes
O lançamento segue uma série de preocupações de segurança de alto perfil envolvendo menores. Notavelmente, a morte de um adolescente de 16 anos que relatou ter confidenciado no ChatGPT provocou um processo contra a OpenAI e uma audiência no Senado sobre os riscos da IA para a juventude. Durante a audiência, o CEO da OpenAI, Sam Altman, enfatizou os esforços da empresa para equilibrar segurança com privacidade e liberdade, observando o trabalho em um sistema de previsão de idade para melhor avaliar a maturidade do usuário.
O anúncio anterior da OpenAI descreveu muitos desses controles, mas alguns recursos — como um contato de emergência de um clique — ainda não se concretizaram. O novo sistema de notificação, no entanto, visa alertar os pais se o sistema detectar sinais de risco de segurança grave, fornecendo apenas as informações necessárias para proteger o adolescente.
Detalhes de Implementação
Os pais não têm acesso direto ao histórico de conversas de um adolescente, preservando a privacidade, a menos que um raro risco de segurança seja sinalizado. Os controles são gerenciados por meio de uma página de recursos dedicada aos pais, que orienta os usuários durante a configuração e a seleção de recursos.
A estratégia de segurança mais ampla da empresa inclui pesquisas contínuas sobre moderação de conteúdo, estimativa de idade do usuário e mecanismos de resposta rápida para riscos emergentes.