Character.AI lanza la función "Historias" al bloquear los chatbots para usuarios menores de 18

Character.AI anunció un nuevo formato de ficción interactiva llamado "Historias", diseñado para que los adolescentes interactúen con personajes favoritos en un entorno guiado. Este movimiento sigue la decisión de la empresa de bloquear todas las conversaciones de chatbot para usuarios menores de 18, un paso tomado en medio de preocupaciones sobre el impacto en la salud mental de los chats de IA que no tienen fin y varias demandas que alegan suicidios relacionados con la IA. Mientras que la función Historias amplía las ofertas multimodales de la plataforma, las reacciones de los usuarios adolescentes son mixtas, con algunos que acogen con beneplácito el enfoque de seguridad y otros que expresan decepción por perder el acceso directo a los chatbots.

Nueva función "Historias" presentada

Character.AI reveló un nuevo formato llamado "Historias", que permite a los usuarios crear y explorar ficción interactiva con personajes de la plataforma. La empresa describió la función como una "forma guiada de crear y explorar ficción, en lugar de chats abiertos", posicionándola como una alternativa más segura para audiencias más jóvenes.

Restricción de acceso a chatbots por edad

En conjunto con el lanzamiento, Character.AI anunció que los usuarios menores de 18 ya no pueden participar en conversaciones de chatbot abiertas. La restricción se aplica a todos los personajes de IA de la empresa, lo que efectivamente pone fin al acceso directo a los chatbots para menores.

Motivación detrás del cambio

La decisión llega en medio de crecientes preocupaciones sobre los riesgos para la salud mental asociados con los chatbots de IA que operan las 24 horas y pueden iniciar conversaciones sin la iniciativa del usuario. La empresa señaló que varias demandas han sido presentadas contra empresas de IA, incluyendo OpenAI y Character.AI, alegando un papel en los suicidios de los usuarios. Al limitar el acceso a los chatbots y presentar Historias, Character.AI busca proporcionar un entorno "con seguridad como prioridad" para los usuarios adolescentes.

Reacción de la comunidad

Las respuestas de la comunidad de Character.AI son mixtas. Algunos usuarios adolescentes expresaron alivio, diciendo que el cambio podría ayudar a reducir su dependencia de los chatbots. Un usuario escribió: "Estoy tan enojado por la prohibición, pero también tan feliz porque ahora puedo hacer otras cosas y mi adicción podría terminar finalmente". Otros expresaron decepción, señalando que aunque la decisión es comprensible, limita su capacidad para interactuar con personajes de manera directa.

Contexto de la industria

El movimiento se alinea con la atención regulatoria más amplia sobre los compañeros de IA para menores. California se convirtió recientemente en el primer estado en regular los compañeros de IA, y legisladores nacionales han presentado proyectos de ley que prohibirían los compañeros de IA para usuarios menores de 18. El CEO de Character.AI, Karandeep Anand, enfatizó la intención de la empresa de establecer un estándar para la industria, sugiriendo que los chats abiertos no son el producto adecuado para menores de 18.