OpenAI lança controles parentais para o ChatGPT
Pontos principais
- A OpenAI adiciona controles parentais que permitem aos pais vincular contas para usuários a partir de 13 anos.
- Os pais podem estabelecer restrições de recursos, controlar o salvamento do histórico de conversa e receber alertas de distresse.
- Conversas sensíveis ou relacionadas à saúde mental são roteadas por meio de um modelo especializado e cauteloso.
- Filtros de conteúdo apropriados para a idade são habilitados por padrão para usuários mais jovens.
- Um Conselho de Especialistas em Bem-Estar e uma Rede Global de Médicos de mais de 250 profissionais orientam o sistema de segurança.
- O lançamento começa no próximo mês, oferecendo uma abordagem proativa para o apoio à saúde mental impulsionado por IA.
A OpenAI anunciou novos controles parentais para o ChatGPT que permitem aos pais vincular contas, estabelecer limites de recursos e receber alertas se um adolescente mostrar sinais de distresse emocional. Conversas sensíveis são roteadas por meio de modelos especializados e mais cautelosos, projetados para lidar com crises de saúde mental. O lançamento começa no próximo mês e inclui filtros de conteúdo apropriados para a idade, salvamento opcional de histórico de conversa e uma rede de mais de 250 profissionais médicos que orientam a resposta do sistema a sinais de distresse.
A OpenAI introduz controles parentais para o ChatGPT
A OpenAI está adicionando uma série de ferramentas de controle parental à sua plataforma ChatGPT. Os novos recursos permitem que os pais vinculem suas próprias contas às de crianças a partir de 13 anos, dando-lhes a capacidade de restringir certas funcionalidades e monitorar o uso para detectar sinais de distresse emocional. Quando a IA detecta linguagem que sugere depressão, ansiedade ou outras preocupações de saúde mental, os pais recebem alertas em tempo real.
Além dos alertas, o sistema pode limitar se o chatbot retém o histórico de conversa ou usa sua função de memória, fornecendo uma camada extra de controle de privacidade para as famílias. As diretrizes de conteúdo apropriadas para a idade são habilitadas por padrão, garantindo que as respostas sejam personalizadas para usuários mais jovens.
A OpenAI também anunciou que conversas marcadas como potencialmente sensíveis - particularmente aquelas que envolvem lutas de saúde mental ou ideias suicidas - serão roteadas por meio de uma versão especializada do modelo. Essa versão emprega um método conhecido como alinhamento deliberado, que é projetado para responder de forma mais cautelosa, resistir a prompts adversários e aderir rigorosamente às diretrizes de segurança.
Orientação de especialistas e supervisão médica
Para definir como o distresse é detectado e como a IA deve responder, a OpenAI criou um Conselho de Especialistas em Bem-Estar e IA e reuniu uma Rede Global de Médicos. A rede inclui mais de 250 profissionais médicos especializados em saúde mental, uso de substâncias e cuidado com adolescentes. Esses consultores ajudam a definir protocolos de escalonamento e garantem que as intervenções do modelo estejam alinhadas com as melhores práticas clínicas.
O lançamento está programado para começar dentro do próximo mês, com o painel de controle parental se tornando disponível para os usuários que optarem por ele. A OpenAI enfatiza que as ferramentas são projetadas para ser proativas, visando intervir antes que uma conversa atinja um ponto de crise, em vez de reagir após o fato.
No geral, as novas atualizações de segurança representam uma mudança em direção a uma maior responsabilidade para as interações de IA que envolvem adolescentes. Ao combinar a supervisão parental, o roteamento de modelo especializado e a entrada de especialistas médicos, a OpenAI busca tornar o ChatGPT um companheiro mais seguro para usuários mais jovens, preservando a utilidade que tornou o serviço popular em todos os grupos etários.