YouTube Amplía la Detección de Similitud para Combatir los Deepfakes Generados por IA
Puntos clave
- YouTube introduce una herramienta beta de detección de similitud para identificar videos generados por IA que malutilizan el rostro de un creador.
- La función requiere que los creadores verifiquen su identidad con una foto de identificación gubernamental y un video facial.
- Inicialmente probada con un pequeño grupo, la herramienta ahora se ofrece a más creadores elegibles.
- La detección de similitud opera de manera similar al sistema de detección de derechos de autor de YouTube.
- La implementación tiene como objetivo proteger a los creadores de la información errónea, el daño a la marca y el acoso.
- YouTube no planea prohibir los videos de IA, pero proporciona herramientas para mitigar los riesgos de los deepfakes.
YouTube está lanzando una herramienta beta de detección de similitud que busca identificar videos generados por IA que malutilizan el rostro de un creador. La función, similar al sistema de detección de derechos de autor de la plataforma, requiere que los creadores verifiquen su identidad con una identificación gubernamental y un video facial. Inicialmente limitada a un pequeño grupo, la herramienta ahora se ofrece a más creadores elegibles, brindándoles una forma de proteger su similitud de contenido sintético que podría difundir información errónea o dañar su marca.
Antecedentes
El contenido generado por IA ha ido mejorando cada vez más, desde imágenes iniciales con manos distorsionadas hasta videos sintéticos realistas que pueden ser difíciles de distinguir de metraje auténtico. El aumento de estos deepfakes ha generado preocupaciones entre creadores, influyentes y legisladores sobre el posible daño a la marca, la información errónea y el acoso.
Cómo Funciona la Detección de Similitud
La herramienta de detección de similitud de YouTube funciona de manera similar a su sistema de detección de derechos de autor existente. Cuando un creador se suscribe, la plataforma escanea los videos subidos en busca de instancias donde se utiliza el rostro del creador en contenido generado por IA sin permiso. Para activar la protección, los creadores deben verificar su identidad proporcionando una foto de una identificación gubernamental y un video de su rostro. Este paso de verificación adicional es necesario, aunque los videos existentes del creador ya contienen datos faciales.
Participación del Creador
La función comenzó como una prueba limitada con un pequeño grupo de creadores a principios de año. YouTube ha ampliado la elegibilidad, notificando al primer lote de creadores que pueden habilitar la detección de similitud. Los creadores interesados deben proporcionar la información de identificación requerida para recibir la protección. La herramienta aparece en YouTube Studio bajo el menú "Detección de contenido", aunque sigue siendo una función beta y puede que no sea visible para todos los usuarios.
Implicaciones para la Plataforma
La implementación de YouTube refleja el reconocimiento de Google de su papel en la proliferación de contenido de IA a través de sus potentes modelos gratuitos. Si bien la empresa no planea prohibir los videos generados por IA directamente, proporcionar herramientas para marcar y proteger contra el uso no autorizado de la similitud ofrece un compromiso que equilibra la seguridad del creador con el crecimiento continuo de los videos de IA en la plataforma. El movimiento también aborda preocupaciones más amplias sobre la información errónea impulsada por deepfakes y el potencial de acoso basado en IA.
Perspectiva Futura
A medida que la beta se expande, YouTube puede refinar el proceso de verificación y ampliar el acceso a más creadores. El enfoque de la plataforma sugiere una inversión continua en tecnología de detección para salvaguardar tanto a los creadores como a los espectadores de los medios sintéticos engañosos, manteniendo al mismo tiempo un entorno abierto para el contenido de IA legítimo.