Meta lanza análisis de estructura ósea de IA para identificar cuentas menores de 13 años en Facebook e Instagram

Meta reveló el martes que sus plataformas comenzarán a utilizar inteligencia artificial para analizar imágenes y videos en busca de rasgos físicos que sugieran que un usuario es menor de 13 años. El sistema de IA busca "temas generales y señales visuales", incluyendo la altura y la estructura ósea, para identificar posibles cuentas de menores. A diferencia de las herramientas de reconocimiento facial, el sistema no intenta emparejar una cara con un individuo; simplemente evalúa si el sujeto parece ser un menor.

Cuando el algoritmo identifica una cuenta, Meta la desactivará y solicitará al propietario que verifique su edad antes de que el perfil pueda ser restaurado. Esta medida es parte del esfuerzo más amplio de la empresa para mantener a los menores de 13 años fuera de sus servicios, un requisito de la Ley de Protección de la Privacidad en Línea de los Niños (COPPA). Además del análisis visual, el sistema de IA también analizará publicaciones, comentarios, biografías y subtítulos en busca de pistas contextuales que sugieran que un usuario puede ser menor de edad.

Meta también está extendiendo una tecnología relacionada que coloca automáticamente a los usuarios de 13 a 17 años en "Cuentas para Adolescentes". Estas cuentas aplican controles de contenido más estrictos, bloquean mensajes de desconocidos y evitan que los usuarios menores de 16 años realicen transmisiones en vivo. Instagram ya utiliza este sistema; Facebook lo seguirá en Estados Unidos, con una implementación planificada para el Reino Unido y la Unión Europea en junio.

Las nuevas herramientas de IA se están introduciendo en un puñado de países, incluyendo Estados Unidos, antes de una implementación global más amplia. Meta dice que la función solo está disponible en "mercados selectos" en este momento.

El anuncio llega después de un reciente veredicto de un jurado en Nuevo México que encontró que Meta había violado la ley estatal al engañar a los clientes sobre la seguridad de la plataforma y no proteger a los niños de los depredadores. El tribunal ordenó a la empresa que pagara $375 millones y señaló que es posible que se requieran cambios adicionales, una perspectiva que Meta había advertido previamente podría llevarla a retirarse del estado.

En su publicación de blog, Meta reiteró su apoyo a los mecanismos de verificación de edad integrados en el nivel de la tienda de aplicaciones y el sistema operativo, un enfoque que está ganando tracción entre los legisladores en el Congreso y en estados como California y Colorado. La empresa argumenta que la verificación a nivel de sistema proporcionaría una barrera más confiable contra el acceso de menores de edad que las medidas específicas de la plataforma por sí solas.

Los críticos han señalado que escanear el contenido visual para la estructura ósea plantea preocupaciones de privacidad, aunque Meta enfatiza que la tecnología no identifica a los individuos. La empresa sostiene que el sistema de IA sirve una función de protección, con el objetivo de reducir la exposición de los niños a contenido y interacciones perjudiciales.

A medida que se produce la implementación, Meta monitoreará la efectividad del sistema de IA para identificar a los usuarios menores de 13 años y ajustará sus políticas en consecuencia. Los próximos pasos de la empresa incluyen expandir la tecnología a regiones adicionales y refinar las salvaguardias de las cuentas para adolescentes para cumplir con las expectativas regulatorias en evolución.