OpenAI Introduz Rotas de Modelos de Raciocínio e Controles Parentais para Melhorar a Segurança do ChatGPT
Pontos principais
- OpenAI irá redirecionar bate-papos que mostram sinais de angústia aguda para modelos de raciocínio avançados como o GPT-5.
- Controles parentais serão introduzidos, permitindo que os pais vinculem contas e definam regras de resposta apropriadas para a idade.
- Os pais podem desabilitar memória e histórico de bate-papo e receber alertas se a angústia aguda for detectada em seu filho adolescente.
- Modo de Estudo e lembretes de pausa de sessão permanecem em vigor para promover hábitos de uso saudáveis.
- As melhorias de segurança fazem parte de uma iniciativa de 120 dias que visa melhorias mais amplas dentro do ano.
- OpenAI está colaborando com profissionais de saúde mental por meio de sua Rede Global de Médicos e Conselho de Especialistas
OpenAI anunciou planos para melhorar a segurança do ChatGPT, redirecionando automaticamente conversas sensíveis para modelos de raciocínio mais avançados, como o GPT-5, e lançando controles parentais que permitem aos pais gerenciar a interação de seus filhos adolescentes com o chatbot.
Melhoria na Rotação de Interações Sensíveis
OpenAI divulgou um novo roteador em tempo real que pode escolher entre modelos de bate-papo eficientes e modelos de raciocínio mais sofisticados com base no contexto da conversa. Quando o sistema identifica sinais de angústia aguda, ele redirecionará o usuário para um modelo de raciocínio como o GPT-5, que gasta mais tempo processando a solicitação e é projetado para ser mais resistente a prompts prejudiciais.
Lançamento de Controles Parentais
A empresa também está preparando para lançar controles parentais que permitem aos pais vincular sua conta à conta de seu filho adolescente. Esses controles são habilitados por padrão e incluem regras de comportamento de modelo apropriadas para a idade, a opção de desabilitar memória e histórico de bate-papo e a capacidade de receber alertas se o sistema detectar angústia aguda em um adolescente. Os pais poderão gerenciar como o chatbot responde, fornecendo uma salvaguarda contra conteúdo potencialmente prejudicial.
Modo de Estudo e Esforços de Segurança Contínuos
OpenAI introduziu anteriormente um Modo de Estudo para incentivar o pensamento crítico enquanto estuda, e continua a incorporar lembretes dentro do aplicativo que sugerem pausas durante sessões longas e intensivas. As novas funcionalidades de segurança fazem parte de uma iniciativa de 120 dias visando pré-visualizar e eventualmente lançar melhorias abrangentes dentro do ano.
Colaboração com Especialistas em Saúde Mental
Para moldar sua estratégia de segurança, OpenAI está se associando a especialistas em áreas como transtornos alimentares, uso de substâncias e saúde adolescente por meio de sua Rede Global de Médicos e um Conselho de Especialistas em Bem-Estar e IA. Essas colaborações visam definir métricas de bem-estar, estabelecer prioridades e projetar salvaguardas futuras.