Character.AI Lança Recurso "Histórias" e Barra Chatbots para Usuários com Menos de 18 Anos
Pontos principais
- A Character.AI lança "Histórias", um formato de ficção interativa para adolescentes.
- Todas as conversas de chatbot são bloqueadas para usuários com menos de 18 anos.
- A mudança responde a preocupações com a saúde mental e ações judiciais recentes.
- Usuários adolescentes têm reações mistas — alguns acolhem a medida de segurança, outros estão desapontados.
- A medida coincide com a regulação emergente de estado e federal de companheiros de IA para menores.
A Character.AI anunciou um novo formato de ficção interativa chamado "Histórias", projetado para permitir que adolescentes interajam com personagens favoritos em um ambiente guiado. A medida segue a decisão da empresa de bloquear todas as conversas de chatbot para usuários com menos de 18 anos, uma etapa tomada diante de preocupações sobre o impacto na saúde mental de chats de IA abertos e várias ações judiciais que alegam suicídios relacionados à IA.
Novo Recurso "Histórias" Introduzido
A Character.AI revelou um novo formato chamado "Histórias", que permite aos usuários criar e explorar ficção interativa com os personagens da plataforma. A empresa descreveu o recurso como uma "forma guiada de criar e explorar ficção, em lugar de chats abertos".
Restrição de Acesso a Chatbots por Idade
Em conjunto com o lançamento, a Character.AI anunciou que usuários com menos de 18 anos não podem mais participar de conversas de chatbot abertas. A restrição se aplica a todos os personagens de IA da empresa, efetivamente encerrando o acesso direto a chatbots para menores.
Motivação por trás da Mudança
A decisão vem diante de crescentes preocupações sobre os riscos para a saúde mental associados a chatbots de IA que operam 24 horas por dia e podem iniciar conversas sem prompts dos usuários. A empresa observou que várias ações judiciais foram movidas contra empresas de IA, incluindo OpenAI e Character.AI, alegando um papel nos suicídios de usuários. Ao limitar o acesso a chatbots e introduzir Histórias, a Character.AI visa fornecer um ambiente "segurança em primeiro lugar" para usuários adolescentes.
Reação da Comunidade
As respostas da comunidade Character.AI são mistas. Alguns usuários adolescentes expressaram alívio, dizendo que a mudança pode ajudar a reduzir sua dependência dos chatbots. Outros expressaram desapontamento, observando que, embora a decisão seja compreensível, limita sua capacidade de interagir com personagens diretamente.
Contexto da Indústria
A medida se alinha com a atenção regulatória mais ampla sobre companheiros de IA para menores. A Califórnia recentemente se tornou o primeiro estado a regular companheiros de IA, e legisladores nacionais introduziram projetos de lei que proibiriam companheiros de IA para usuários com menos de 18 anos. O CEO da Character.AI, Karandeep Anand, enfatizou a intenção da empresa de estabelecer um padrão para a indústria, sugerindo que chats abertos não são o produto apropriado para aqueles com menos de 18 anos.