Proyecto de ley 'Control de Chat' de la UE enfrenta críticas académicas por riesgos de privacidad
Puntos clave
- El proyecto de ley 'Control de Chat' de la UE ha sido revisado para hacer que el escaneo sea voluntario, pero el alcance se ha ampliado para incluir texto.
- Los expertos académicos advierten que la vigilancia más amplia podría infringir la privacidad sin beneficios claros para la protección de los niños.
- Las herramientas de detección de inteligencia artificial actuales se consideran insuficientemente precisas, lo que plantea preocupaciones sobre resultados falsos positivos.
- Los nuevos requisitos de verificación de edad para aplicaciones y servicios de mensajería podrían exponer a los menores a riesgos de recopilación de datos.
- Los críticos argumentan que tanto la detección en el dispositivo obligatoria como la voluntaria carecen de efectividad demostrada y plantean un potencial de abuso.
Un grupo de académicos europeos de seguridad y privacidad cibernética ha advertido que la legislación revisada de 'Control de Chat' de la UE aún plantea importantes riesgos de privacidad y seguridad. Aunque la cláusula de escaneo obligatorio se cambió a un enfoque voluntario, el proyecto de ley ahora amplía su alcance para incluir texto, introduce requisitos de verificación de edad para aplicaciones y servicios de mensajería, y se basa en tecnologías de inteligencia artificial que los expertos consideran insuficientemente precisas.
Antecedentes y cambios recientes
La Unión Europea está revisando su propuesta de 'Control de Chat', que busca combatir la distribución de contenido sexual ilegal en línea. Después de que intentos anteriores no lograron obtener una mayoría, los legisladores alteraron la legislación haciendo que el escaneo de contenido en el dispositivo, previamente obligatorio, sea voluntario. Este cambio se presentó inicialmente como un compromiso que podría romper un estancamiento de tres años en las negociaciones.
Ampliación del alcance de la detección
A pesar del cambio a un escaneo voluntario, el proyecto de ley revisado amplía el rango de material que podría ser examinado. Originalmente limitado a URLs, imágenes y videos, la legislación ahora también tiene como objetivo los mensajes de texto. Los académicos advierten que esta expansión 'abre la puerta a vigilar y examinar una parte más grande de las conversaciones' sin beneficios demostrables para la protección de los niños.
Dependencia de la tecnología de inteligencia artificial
La propuesta depende de herramientas de inteligencia artificial para identificar contenido prohibido. Los investigadores advierten que los sistemas de inteligencia artificial actuales carecen de la precisión necesaria para una detección confiable, lo que aumenta la probabilidad de resultados falsos positivos. Argumentan que la tecnología 'está lejos de ser lo suficientemente precisa como para realizar estas tareas con las garantías necesarias para el nivel de precisión requerido'.
Medidas de verificación de edad
Un otro elemento controvertido es la introducción de mecanismos de verificación de edad en tiendas de aplicaciones y plataformas de mensajería encriptada como WhatsApp. Los expertos sostienen que los métodos existentes no pueden verificar la edad de manera que preserve la privacidad porque dependen de datos biométricos, de comportamiento o contextuales, lo que podría llevar a una mayor recopilación de datos sobre menores. También señalan que tales medidas podrían ser fácilmente sorteadas utilizando VPN o servicios fuera de la UE.
Riesgos y críticas potenciales
La coalición académica enfatiza varios riesgos asociados con el proyecto de ley:
- Vigilancia ampliada de las comunicaciones privadas.
- Falta de precisión en la inteligencia artificial que conduce a una señalización incorrecta de contenido.
- Nuevas vulnerabilidades de privacidad y seguridad debido a la verificación de edad obligatoria.
- Potencial exclusión de usuarios que no pueden proporcionar documentos oficiales para probar su edad.
Concluyen que las tecnologías de detección en el dispositivo, ya sean obligatorias o voluntarias, 'no pueden considerarse una herramienta razonable para mitigar los riesgos' dado la falta de beneficio demostrado y el alto potencial de abuso.
Perspectiva
La carta abierta al Consejo Europeo subraya una creciente inquietud entre los expertos en privacidad sobre la dirección de la legislación. Aunque el cambio a un escaneo voluntario puede haber aliviado las tensiones políticas, los académicos argumentan que las preocupaciones fundamentales — exceso de autoridad, inexactitud y intrusión en la privacidad — siguen sin resolverse, lo que genera dudas sobre la efectividad del proyecto de ley para salvaguardar a los niños sin infringir los derechos digitales fundamentales.