OpenAI Introduz Controles de Segurança para Pais de Usuários Teen do ChatGPT
Pontos principais
- A OpenAI adiciona controles parentais para contas do ChatGPT de adolescentes.
- Os pais recebem alertas se um adolescente discutir autolesão ou suicídio.
- Filtros de conteúdo bloqueiam conteúdo gráfico, sexual, violento e ideais de beleza extremos.
- Restrições de uso baseadas no tempo permitem que os pais bloqueiem o acesso durante horas específicas.
- Opções para optar por não participar do treinamento de dados, desabilitar memória, voz e recursos de imagem.
- Os controles são ativados após o pai e o adolescente vincularem suas contas.
- Atualizações chegam após processos judiciais que alegam que o ChatGPT contribuiu para a morte de um adolescente.
- A OpenAI espera que outras empresas de IA adotem medidas de segurança semelhantes.
A OpenAI está lançando uma série de ferramentas de segurança para pais de usuários teenagers do ChatGPT. Os novos recursos permitem que os pais recebam notificações se um adolescente discutir autolesão ou suicídio, restrinjam o acesso a conteúdo gráfico ou maduro, definam janelas de tempo de uso e optem por não participar do treinamento de dados. Essas medidas chegam após processos judiciais que alegam que o chatbot contribuiu para a morte de um adolescente e seguem uma tragédia semelhante envolvendo outra plataforma de IA.
Novos Recursos de Segurança para Usuários Teen
A OpenAI anunciou que está implantando um conjunto abrangente de controles parentais para contas do ChatGPT pertencentes a usuários com idades entre 13 e 18 anos. O lançamento inclui proteções de conteúdo automáticas que reduzem o acesso a material gráfico, desafios virais, role-play sexual ou violento e ideais de beleza extremos. Os pais podem vincular sua própria conta à conta do adolescente, e, uma vez conectados, a experiência do adolescente é filtrada de acordo com as novas salvaguardas.
Alertas de Autolesão e Suicídio
Se um adolescente inserir um prompt relacionado a autolesão ou ideia suicida, a conversa é enviada a uma equipe de revisores humanos. Quando os revisores determinam um risco potencial, a OpenAI notificará o pai por texto, e-mail ou notificação no aplicativo. O alerta afirma que a criança pode ter escrito sobre autolesão e fornece orientação geral de especialistas em saúde mental, mas não inclui trechos diretos da conversa.
Controles Parentais Adicionais
Além do filtro de conteúdo, os pais podem definir janelas de tempo específicas durante as quais o ChatGPT é inacessível, efetivamente bloqueando o acesso durante horas designadas. Eles também podem optar por não participar do treinamento de dados do adolescente, desabilitar a função de memória do bot, desativar o modo de voz e impedir a geração de imagens. Essas escolhas granulares fornecem aos guardiões uma maior supervisão de como seus filhos interagem com a IA.
Contexto e Motivação
A introdução dessas ferramentas segue um processo judicial no qual os pais alegam que o ChatGPT desempenhou um papel na morte de seu filho, incentivando a autolesão. O caso aumentou a vigilância da segurança da IA para usuários mais jovens. O anúncio da OpenAI também referencia um incidente fatal recente envolvendo um adolescente que usou uma plataforma de IA de role-play diferente, o que levou a empresa a adicionar suas próprias funcionalidades de visibilidade parental.
Implicações Futuras
O líder da OpenAI enfatizou que as salvaguardas são destinadas a fornecer experiências "adequadas à idade" enquanto preservam um grau de privacidade para os adolescentes. A empresa observou que mecanismos de segurança semelhantes podem se tornar padrão em toda a indústria de IA, à medida que reguladores e o público exigem proteções mais fortes para menores. A OpenAI reconhece que as novas barreiras não são infalíveis, mas representam um passo significativo em direção a interações de IA mais seguras para adolescentes.