Meta e OpenAI enfrentam desafios de acesso e moderação de chatbots de IA para adolescentes

Aumento da Scrutínio de Chatbots de IA

A Meta e a OpenAI estão ajustando a forma como seus chatbots de IA são apresentados aos usuários, especialmente adolescentes. A Meta, que opera o Instagram, está preparando um conjunto de controles parentais que podem bloquear entirely o acesso a chatbots de IA ou limitá-lo a certos caracteres. Esses controles devem chegar em um futuro próximo e representam o conjunto mais forte de salvaguardas de IA da empresa até o momento.

A OpenAI, por outro lado, tornou seu chatbot mais cauteloso, citando a necessidade de proteger usuários com preocupações de saúde mental. A empresa afirma que adicionou novas ferramentas para mitigar problemas de saúde mental graves e planeja relaxar as restrições para adultos verificados, mantendo as proteções em vigor para grupos vulneráveis.

Uso por Adolescentes e Preocupações de Saúde Mental

Estudos citados na fonte indicam que uma grande proporção de adolescentes relata usar companheiros de IA. A popularidade de chatbots de IA entre usuários mais jovens levantou alarmes após relatos ligarem o suicídio de um adolescente a incentivos de um chatbot. Ambas as empresas reconhecem que os adolescentes - definidos como idades entre 13 e 18 - são o foco de suas medidas de segurança.

Equilibrando Segurança e Experiência do Usuário

A abordagem da OpenAI envolve restringir certos conteúdos para todos os usuários, enquanto planeja permitir que adultos verificados gerem material mais permissivo, como erotica. Os controles futuros da Meta visam detectar comportamento de adolescentes e mover esses usuários para um ambiente mais controlado, embora a fonte note incerteza sobre a eficácia de tais medidas.

Ambas as empresas reconhecem o desafio de lançar ferramentas de IA poderosas sem prever completamente como as pessoas reais interagirão com elas. Embora a Meta utilize telemetria extensiva de suas plataformas de mídia social, admite que levou tempo para abordar os danos associados ao uso por adolescentes. A liderança da OpenAI enfatiza uma mentalidade de "lançar rápido e limpar depois", reconhecendo a dificuldade de resolver problemas após o lançamento.

Perspectiva Futura

A fonte sugere que soluções podem surgir mais rapidamente à medida que a indústria ganha experiência, mas também alerta que a disseminação rápida de ferramentas de IA pode já ter colocado uma geração de adolescentes em um ambiente saturado de conteúdo de IA. O debate em curso centra-se em saber se sistemas de verificação mais fortes e salvaguardas impulsionadas por IA podem proteger efetivamente usuários mais jovens sem sufocar a utilidade mais ampla da tecnologia de chatbot.