Google utilizará hashes de StopNCII para eliminar imágenes no consensuadas de su búsqueda
Puntos clave
- Google se asocia con StopNCII.org para bloquear imágenes y videos íntimos no consensuados en los resultados de búsqueda.
- Se utilizarán hashes (PDQ para imágenes, MD5 para videos) para identificar y eliminar contenido marcado.
- La iniciativa sigue compromisos similares de Facebook, Instagram, TikTok, Bumble y la integración de Microsoft en Bing.
- Google ha sido criticado por retrasarse en la adopción de soluciones basadas en hashes en comparación con sus pares.
- Las herramientas actuales de eliminación aún requieren que las víctimas identifiquen y marquen el material ofensivo.
- Los defensores piden procesos de eliminación más fáciles que no dependan de hashes generados por las víctimas.
- La implementación está programada para comenzar en los próximos meses.
Google anunció una asociación con StopNCII.org para combatir la difusión de imágenes y videos íntimos no consensuados (NCII) mediante el uso de tecnología de hashes en sus resultados de búsqueda. En los próximos meses, la empresa utilizará los hashes de imágenes y videos de StopNCII (PDQ para fotos y MD5 para videos) para identificar y bloquear contenido marcado sin almacenar los archivos originales.
Antecedentes
Las imágenes y videos íntimos no consensuados, a menudo referidos como NCII, se han proliferado en la web abierta, lo que ha generado llamados a mayores salvaguardas. StopNCII.org ofrece un sistema basado en hashes que genera identificadores únicos para imágenes y videos abusivos, lo que permite a las plataformas bloquear contenido sin retener los medios reales. La organización utiliza hashes PDQ para imágenes y hashes MD5 para videos, lo que permite una detección precisa mientras se preserva la privacidad.
Nueva iniciativa de Google
En un anuncio reciente, Google confirmó una asociación con StopNCII.org para incorporar estos hashes en su motor de búsqueda. En los próximos meses, Google escaneará proactivamente los resultados de búsqueda para contenido que coincida con la base de datos de hashes de StopNCII y eliminará cualquier coincidencia. Al aprovechar la tecnología de hashes, Google busca bloquear imágenes no consensuadas sin almacenar ni compartir los archivos originales, lo que reduce la exposición de las víctimas a contenido dañino.
Contexto de la industria
La decisión de Google llega después de que varias plataformas importantes hayan adoptado los hashes de StopNCII. Facebook, Instagram, TikTok y Bumble se unieron a la organización a principios de 2022, y Microsoft integró el sistema en Bing en septiembre del año pasado. Se destacó que Google había sido más lento que muchos de sus pares en la industria para adoptar este enfoque, un punto reconocido en la publicación del blog de Google, que citó comentarios de sobrevivientes y defensores sobre la necesidad de una acción más amplia.
Desafíos y críticas
Aunque Google ha introducido herramientas que permiten a las personas solicitar la eliminación de contenido ofensivo, los críticos argumentan que el proceso aún coloca la carga en las víctimas para identificar y marcar el material ellas mismas. Los defensores enfatizan que requerir a las víctimas que generen y envíen hashes desde sus propios dispositivos es una barrera significativa, especialmente a medida que el contenido generado por IA se vuelve más prevalente. La dificultad de eliminar dicho contenido sin hashes iniciados por las víctimas sigue siendo una preocupación clave.
Perspectiva futura
La adopción de hashes de StopNCII por parte de Google marca un paso notable hacia la mitigación de la difusión de NCII a través de los resultados de búsqueda. Sin embargo, la empresa enfrenta una presión continua para simplificar los mecanismos de eliminación y reducir la carga en los sobrevivientes. A medida que otras plataformas continúan perfeccionando sus enfoques, es probable que la industria tecnológica en general observe de cerca la implementación de Google para evaluar su efectividad y potencial como modelo para futuras intervenciones.