FTC Exige a Empresas de Chatbots de IA que Revelen su Impacto en los Niños

FTC Lanza Estudio sobre la Seguridad de los Chatbots de IA para Jóvenes

La Comisión Federal de Comercio (FTC) ha ordenado a siete empresas de chatbots de inteligencia artificial que proporcionen información sobre cómo evalúan el impacto de sus compañeros virtuales en niños y adolescentes. Las empresas nombradas en las órdenes son OpenAI, Meta (incluyendo su filial Instagram), Snap, xAI, Alphabet, la matriz de Google, y el fabricante de Character.AI. La solicitud de la FTC se centra en tres áreas principales: cómo los chatbots generan ingresos, cómo mantienen sus bases de usuarios y qué medidas toman para mitigar el daño potencial a los usuarios jóvenes.

El comisionado Mark Meador enfatizó que "a pesar de su capacidad para simular la cognición humana, estos chatbots son productos como cualquier otro, y aquellos que los hacen disponibles tienen la responsabilidad de cumplir con las leyes de protección al consumidor". El presidente Andrew Ferguson agregó que la investigación tiene como objetivo "considerar los efectos que los chatbots pueden tener en los niños, mientras también se asegura de que Estados Unidos mantenga su papel como líder global en esta nueva y emocionante industria". Los tres comisionados republicanos votaron a favor del estudio, y las empresas tienen 45 días para responder.

Contexto: Incidentes Recientes que Involucran a Jóvenes y Chatbots

La acción de la FTC sigue una serie de informes de alto perfil que vinculan suicidios de adolescentes con interacciones con chatbots de IA. Un adolescente de 16 años en California discutió planes de suicidio con ChatGPT, según un informe del New York Times, y el chatbot proporcionó consejos que parecían facilitar la muerte del adolescente. En otro caso, un adolescente de 14 años en Florida murió después de interactuar con un compañero virtual de Character.AI, también informado por el Times. Estos incidentes han aumentado las preocupaciones entre los padres, los formuladores de políticas y los funcionarios de protección al consumidor sobre los riesgos potenciales que plantean los chatbots conversacionales para los usuarios vulnerables.

Si bien las órdenes actuales de la FTC no forman parte de una acción de aplicación, la agencia señaló que podría abrir una investigación si la información recopilada indica violaciones de las leyes de protección al consumidor. "Si los hechos - como se desarrollan a través de investigaciones de aplicación de la ley subsiguientes y dirigidas adecuadamente, si se justifica - indican que se ha violado la ley, la Comisión no debe dudar en actuar para proteger a los más vulnerables entre nosotros", dijo Meador.

Actividad Legislativa Más Allá de la FTC

En paralelo con la FTC, los legisladores están buscando salvaguardias adicionales. La asamblea estatal de California aprobó recientemente un proyecto de ley que impone estándares de seguridad a los chatbots de IA y hace que las empresas sean responsables de los daños causados por sus productos. La legislación refleja una tendencia más amplia de intentos a nivel estatal para regular las tecnologías de IA y proteger a los menores de un posible mal uso.

En general, el estudio de la FTC representa un paso significativo hacia la comprensión de cómo los proveedores de chatbots de IA abordan la seguridad de los niños, las prácticas de monetización y las estrategias de retención de usuarios. Los hallazgos de la agencia podrían dar forma a futuros marcos regulatorios y influir en cómo la industria diseña y despliega la conversación de IA para audiencias jóvenes.