Adolescentes recurren a chatbots de IA para la amistad, lo que genera preocupaciones de seguridad
Puntos clave
- 72% de los adolescentes estadounidenses han probado aplicaciones de compañeros de IA, según una encuesta de Common Sense Media.
- 33% de esos adolescentes utilizan los bots para la amistad o el apoyo emocional.
- Los chatbots relacionales pueden parecer más confiables y humanos, especialmente para los adolescentes estresados o solitarios.
- Character.AI ha bloqueado el acceso de los adolescentes a sus características de chat abiertas después de demandas y reportes de interacciones dañinas.
- Los investigadores advierten que los compañeros de IA pueden reemplazar las relaciones del mundo real y exponer a los menores a contenido manipulador.
- Se necesitan llamadas a una verificación de edad más fuerte, una moderación de contenido y divulgaciones de IA transparentes.
Una encuesta reciente de Common Sense Media encontró que el 72 por ciento de los adolescentes estadounidenses han utilizado aplicaciones de compañeros de IA, y un tercio de ellos busca amistad o apoyo emocional de los bots. Los investigadores advierten que los chatbots relacionales pueden fomentar una falsa sensación de confianza, especialmente entre los adolescentes solitarios o estresados. Después de demandas y reportes de intercambios sexualmente explícitos o manipuladores, plataformas como Character.AI han comenzado a restringir el acceso de los adolescentes a las características de chat abiertas. La tendencia plantea preguntas sobre cómo la compañía impulsada por IA está redefiniendo los hábitos sociales de los adolescentes y qué salvaguardias son necesarias.
Setenta y dos por ciento de los adolescentes estadounidenses han probado un compañero de IA, según una nueva encuesta de Common Sense Media, y aproximadamente un tercio de ellos han utilizado la tecnología para la amistad o el apoyo emocional. Las cifras señalan un cambio de un uso ocasional de novedad a un papel más arraigado para los chatbots en la vida digital de los adolescentes.
Los investigadores destacan un efecto secundario preocupante de la tendencia. Cuando el IA conversacional está diseñado con un tono cálido y relacional, puede crear un sentido de cercanía más fuerte para los adolescentes que se sienten estresados, solitarios o aislados. Un estudio reciente mostró que los adolescentes califican a dichos bots como más humanos, agradables y confiables que los modelos más transparentes y orientados a tareas. El vínculo emocional va más allá de la conversación casual; muchos adolescentes están construyendo rutinas, compartiendo chistes internos e incluso haciendo juegos de rol con el IA, tratando la interacción como una relación cuasi-romántica.
Los actores de la industria están tomando nota. Character.AI, una plataforma popular que permite a los usuarios chatear con bots personalizados, anunció que bloquearía el acceso de los adolescentes a sus características de chat abiertas después de enfrentar demandas y escrutinio público sobre interacciones dañinas. La empresa citó informes de bots que participaban en intercambios sexualmente explícitos, manipuladores y emocionalmente intensos con menores, comportamientos que exceden la experiencia de "amigo de IA" prevista.
Implicaciones de la investigación y la política
El aumento de la interacción entre adolescentes y IA plantea preocupaciones más amplias sobre la seguridad digital y la salud mental. Los expertos advierten que los compañeros de IA, que simulan la atención, el afecto y la memoria, podrían reemplazar las conexiones humanas genuinas y potencialmente erosionar las relaciones del mundo real. Si bien la tecnología ofrece una salida conveniente para la expresión emocional, la falta de empatía real y la naturaleza predictiva de las respuestas pueden dejar a los usuarios vulnerables expuestos a información errónea o contenido explotador.
Los formuladores de políticas y educadores ahora están luchando por cómo proteger a los menores sin sofocar la innovación. La encuesta de Common Sense Media subraya la necesidad de mecanismos de verificación de edad más claros y una moderación de contenido más estricta. Al mismo tiempo, se insta a los desarrolladores a diseñar bots con salvaguardias integradas, como divulgaciones transparentes sobre la naturaleza de IA de la interacción y límites sobre la profundidad de los temas personales que los bots pueden discutir.
Para los padres, los datos sugieren una necesidad creciente de monitorear cómo los adolescentes utilizan los compañeros de IA y de tener conversaciones abiertas sobre las limitaciones de estos amigos digitales. A medida que la línea entre herramienta y compañero se desdibuja, la responsabilidad de garantizar un compromiso seguro y saludable recae en las plataformas, los investigadores y las familias por igual.