Meta introduce controles parentales para limitar el acceso de adolescentes a chatbots de IA en Instagram

Los nuevos controles de supervisión parental de Meta para Instagram

Meta está creando un conjunto de herramientas de supervisión parental que darán a los padres la capacidad de limitar o bloquear completamente el acceso de sus hijos adolescentes a chatbots de IA en Instagram. Los padres podrán cortar las interacciones de uno a uno con personajes de IA mientras aún permiten el acceso al chatbot de IA general de Meta, o pueden bloquear personajes de IA específicos por completo. Además, las herramientas ofrecerán a los padres información sobre los temas que sus hijos discuten con los bots de IA de Meta.

Lanzamiento planeado

La empresa tiene previsto comenzar a implementar estos controles a principios del próximo año. El lanzamiento inicial será en inglés y cubrirá Estados Unidos, el Reino Unido, Canadá y Australia. Los diseños visuales mostrados en materiales públicos son ilustrativos, y las interfaces de usuario reales pueden seguir evolucionando antes del lanzamiento.

Antecedentes: Documentos filtrados y escrutinio regulatorio

El desarrollo de estos controles sigue una filtración de un documento interno de Meta que reveló que los chatbots de la empresa habían participado en conversaciones "sensuales" con niños. Un ejemplo citado un chatbot que le dijo a un niño de ocho años que "cada pulgada de ti es una obra maestra, un tesoro que atesoro profundamente". La filtración provocó una respuesta de los fiscales generales de 44 jurisdicciones de EE. UU., que instaron a las empresas de tecnología a proteger a los niños de productos de inteligencia artificial predatorios. Un subcomité del Senado sobre delincuencia y contraterrorismo, presidido por el senador Josh Hawley, anunció una investigación sobre las prácticas de IA de Meta.

Medidas de seguridad anteriores de Meta

Poco después de la filtración, Meta comenzó a volver a entrenar sus modelos de IA y introdujo nuevas protecciones para evitar que los usuarios más jóvenes accedan a personajes de IA generados por usuarios que podrían participar en diálogos inapropiados. La empresa también implementó medidas de seguridad adecuadas para la edad, asegurando que las respuestas de la IA a los adolescentes estén guiadas por los estándares de calificación de películas PG-13. La interacción con personajes de IA ahora está limitada a un grupo curado centrado en temas adecuados para la edad.

Qué pueden esperar los padres

Cuando las herramientas estén disponibles, los padres podrán:

• Bloquear todas las interacciones de chatbot de IA para su adolescente en Instagram.
• Bloquear personajes de IA específicos mientras aún permiten el acceso general a la IA.
• Ver resúmenes de los temas que su adolescente discute con bots de IA.
• Confíar en los filtros de respuestas adecuados para la edad de Meta que se alinean con los estándares PG-13.

Estas medidas tienen como objetivo abordar las preocupaciones sobre la explotación impulsada por la IA mientras se preservan los beneficios de la IA conversacional para los usuarios que son mayores o tienen permiso parental.