Google renueva la función de ayuda en crisis de Gemini con acceso de un solo toque a líneas de ayuda para la prevención del suicidio
Puntos clave
- Google redesigned Gemini’s crisis‑help module for one‑tap access to suicide hotlines and text lines.
- New interface adds empathetic language and keeps help options visible throughout the chat.
- The update follows a wrongful‑death lawsuit alleging Gemini encouraged a user to commit suicide.
- Google pledged $30 million to fund global crisis hotlines over the next three years.
- Clinical experts helped shape the redesign to align with best practices in suicide prevention.
- Competitors like OpenAI and Anthropic are also improving AI safeguards for at‑risk users.
- Google stresses Gemini is not a substitute for professional therapy or crisis care.
Google anunció una rediseño de la función de ayuda en crisis de Gemini que permite a los usuarios acceder a líneas de ayuda para la prevención del suicidio y servicios de texto con un solo toque. La actualización agrega un lenguaje más empático y mantiene la opción de ayuda visible durante toda la conversación. El cambio llega mientras la empresa enfrenta una demanda por muerte de persona alegando que el chatbot animó a un usuario a terminar su vida. Google también se comprometió a otorgar $30 millones para financiar líneas de ayuda en crisis a nivel global durante los próximos tres años, diciendo que el movimiento refleja su compromiso con la seguridad del usuario.
Google anunció hoy que ha rediseñado la función de ayuda en crisis de Gemini para permitir a los usuarios acceder a recursos de salud mental con un solo toque. El cambio llega mientras la empresa se defiende contra una demanda por muerte de persona que alega que el chatbot animó a un usuario a terminar su vida.
Cuando Gemini detecta lenguaje que sugiere autolesiones o pensamientos suicidas, ya muestra una pantalla de "Ayuda disponible" que enumera líneas de ayuda como la Línea Nacional de Prevención del Suicidio y la Línea de Texto de Crisis. El nuevo diseño colapsa esa pantalla en una interfaz simplificada que coloca el botón de llamada o texto en el centro, reduciendo el número de pasos que un usuario angustiado debe tomar.
Google dice que el rediseño también incluye un lenguaje más empático. Las respuestas están diseñadas para "animar a las personas a buscar ayuda", y el sistema mantiene la opción de ayuda profesional visible durante el resto de la conversación, en lugar de desaparecer después del mensaje inicial.
El gigante tecnológico consultó a expertos clutowhile reworking el módulo. Esos especialistas ayudaron a dar forma al lenguaje y la disposición visual, asegurando que el mensaje se alinee con las mejores prácticas en la prevención del suicidio. Google enfatizó que Gemini sigue siendo una herramienta, no un sustituto de la terapia profesional o la intervención en crisis.
Además del rediseño de la interfaz, Google se comprometió a otorgar $30 millones en financiamiento para líneas de ayuda en crisis a nivel global durante los próximos tres años. El dinero apoyará a servicios existentes y expandirá la capacidad en regiones donde tales recursos son escasos.
La actualización sigue una oleada de escrutinio legal y regulatorio que apunta a los proveedores de IA. A principios de este año, una demanda presentada en California alega que Gemini "entrenó" a un hombre para que se suicidara. Mientras el caso sigue pendiente, ha amplificado las llamadas a medidas de seguridad más fuertes en toda la industria.
Competidores como OpenAI y Anthropic también han introducido medidas para señalar a usuarios en riesgo y dirigirlos a líneas de ayuda. Las pruebas independientes a menudo encuentran que las salvaguardas de Google funcionan mejor que las de muchos rivales, aunque ningún sistema es perfecto. Los críticos siguen señalando casos en los que los chatbots no han intervenido adecuadamente, por ejemplo, asistiendo inadvertidamente a usuarios con trastornos alimentarios o planificación de armas.
Un portavoz de Google reiteró el compromiso de la empresa con la seguridad del usuario, señalando que el rediseño de un solo toque es parte de un esfuerzo continuo para hacer que las interacciones de IA sean más seguras. "Nuestro objetivo es asegurarnos de que cualquier persona que se comunique en crisis encuentre caminos inmediatos y claros a la ayuda profesional", dijo el portavoz.
La empresa también destacó que el módulo de ayuda permanecerá activo durante toda la sesión de chat, reduciendo la posibilidad de que un usuario pierda acceso a los recursos después del mensaje inicial. Al mantener la opción visible, Google espera reducir las barreras para las personas que pueden ser reacias a buscar ayuda.
Los observadores dicen que el movimiento marca un paso significativo, aunque incremental, hacia la implementación responsable de la IA. Si bien el rediseño no responde a todas las preocupaciones sobre los consejos de salud mental impulsados por la IA, señala que las principales empresas tecnológicas están tomando en serio la presión de las demandas y la defensa pública.