YouTube lanza herramienta de detección de semejanza para combatir los deepfakes
Puntos clave
- YouTube introduce una herramienta de detección de semejanza para identificar videos con caras alteradas por IA.
- La función está inicialmente disponible para miembros del programa de socios de YouTube.
- La inscripción requiere una identificación gubernamental y una breve selfie en video para verificación.
- El sistema funciona como Content ID, escaneando subidas en busca de coincidencias visuales con caras verificadas.
- Los creadores pueden revisar videos señalados y solicitar la eliminación de contenido que infrinja las normas.
- La cobertura actual se limita a modificaciones faciales; las voces cambiadas por IA no son detectadas.
- La herramienta busca proteger a las personas del uso no autorizado de deepfakes en la plataforma.
YouTube comienza a implementar una función de detección de semejanza para identificar y eliminar videos que alteran la apariencia facial de una persona con inteligencia artificial. La herramienta, inicialmente disponible para miembros del programa de socios de YouTube, requiere que los creadores presenten una identificación gubernamental y una breve selfie para verificación.
Nueva herramienta contra manipulaciones faciales generadas por IA
YouTube ha iniciado la implementación de una función de detección de semejanza diseñada para combatir el creciente problema de los videos deepfakes que modifican la cara de una persona utilizando inteligencia artificial. La implementación se limita inicialmente a miembros del programa de socios de YouTube, brindando acceso temprano a creadores que cumplen con los criterios de elegibilidad de la plataforma.
Proceso de verificación similar a sistemas existentes
Para inscribirse en el programa, los individuos deben proporcionar un documento de identificación emitido por el gobierno y una breve selfie en video. Este paso de verificación confirma la identidad de la persona y suministra al sistema material de referencia que puede utilizar para comparar con contenido subido. El enfoque es similar a la tecnología Content ID de YouTube, que escanea coincidencias de audio y video con derechos de autor.
Cómo funciona la detección
Una vez verificada la identidad de un usuario, el motor de detección de semejanza escanea nuevas subidas en busca de patrones visuales que correspondan a las características faciales verificadas del individuo. Si se encuentra una coincidencia potencial, el creador recibe una notificación y puede revisar el video señalado. El creador luego tiene la opción de confirmar la infracción y solicitar la eliminación del contenido de la plataforma.
Alcance y limitaciones
La versión actual de la herramienta se centra únicamente en casos donde se ha alterado la cara de una persona con IA. No aborda aún situaciones en las que se modifica sintéticamente la voz de una persona sin consentimiento. Como resultado, los videos que presentan deepfakes de audio pero retienen la semejanza visual original pueden no ser capturados por este sistema de detección.
Implicaciones para creadores y espectadores
Al brindar a los creadores un mecanismo para proteger su semejanza visual, YouTube busca reducir la difusión de contenido deepfake no autorizado que puede dañar reputaciones o difundir información errónea. La función también refuerza el compromiso más amplio de la plataforma para salvaguardar el contenido generado por el usuario contra las amenazas impulsadas por IA en constante evolución.
Perspectiva futura
Aunque la herramienta está actualmente limitada a modificaciones faciales, la implementación de YouTube sugiere que la empresa puede ampliar las capacidades de detección para cubrir otras formas de manipulación generada por IA, como los deepfakes de voz, a medida que evoluciona la tecnología y crece la demanda de los usuarios.