Google reformula recurso de ajuda em crise do Gemini com acesso de um toque a linhas de prevenção ao suicídio

A Google anunciou hoje que reformulou o recurso de ajuda em crise do Gemini para permitir que os usuários acessem recursos de saúde mental com um único toque. A mudança chega enquanto a empresa se defende contra uma ação judicial por morte injusta que alega que o chatbot encorajou um usuário a acabar com sua vida.

Quando o Gemini detecta linguagem que sugere autolesão ou pensamentos suicidas, ele já exibe uma tela de "Ajuda disponível" que lista linhas de prevenção ao suicídio, como a National Suicide Prevention Lifeline e a Crisis Text Line. O novo design colapsa essa tela em uma interface simplificada que coloca o botão de ligação ou texto no centro, reduzindo o número de etapas que um usuário angustiado deve tomar.

A Google afirma que a reformulação também inclui linguagem mais empática. As respostas são criadas para "encorajar as pessoas a buscar ajuda", e o sistema mantém a opção de ajuda profissional visível por todo o resto da conversa, em vez de desaparecer após o prompt inicial.

A gigante da tecnologia consultou especialistas clínicos enquanto reorganizava o módulo. Esses especialistas ajudaram a moldar a linguagem e o layout visual, garantindo que o prompt esteja alinhado com as melhores práticas em prevenção ao suicídio. A Google enfatizou que o Gemini permanece uma ferramenta, não um substituto para a terapia profissional ou intervenção em crise.

Além da reformulação da interface, a Google se comprometeu a fornecer US$ 30 milhões em financ!iamento para linhas de crise globais nos próximos três anos. O dinheiro apoiará serviços existentes e expandirá a capacidade em regiões onde esses recursos são escassos.

A atualização segue uma onda de escrutínio legal e regulatório que visa fornecedores de IA. No início deste ano, uma ação judicial apresentada na Califórnia alega que o Gemini "treinou" um homem a cometer suicídio. Embora o caso ainda esteja pendente, ele amplificou os apelos por salvaguardas mais fortes em toda a indústria.

Concorrentes, como a OpenAI e a Anthropic, também introduziram medidas para sinalizar usuários em risco e encaminhá-los para linhas de ajuda. Testes independentes frequentemente encontram as salvaguardas da Google funcionando melhor do que muitos rivais, embora nenhum sistema seja perfeito. Críticos continuam a apontar instâncias em que os chatbots falharam em intervir adequadamente, por exemplo, ao ajudar inadvertidamente usuários com transtornos alimentares ou planejamento de armas.

O porta-voz da Google reiterou o compromisso da empresa com a segurança do usuário, observando que a reformulação de um toque é parte de um esforço contínuo para tornar as interações de IA mais seguras. "Nosso objetivo é garantir que qualquer pessoa que procure ajuda em crise encontre caminhos imediatos e claros para a ajuda profissional", disse o porta-voz.

A empresa também destacou que o módulo de ajuda permanecerá ativo por todo o resto da sessão de bate-papo, reduzindo a chance de que um usuário perca acesso a recursos após o alerta inicial. Ao manter a opção visível, a Google espera reduzir as barreiras para as pessoas que podem estar hesitantes em buscar ajuda.

Observadores dizem que a mudança marca um passo significativo, embora incremental, em direção ao deploy responsável de IA. Embora a reformulação não responda a todas as preocupações sobre aconselhamento de saúde mental impulsionado por IA, ela sinaliza que as principais empresas de tecnologia estão levando a pressão das ações judiciais e da advocacia pública a sério.