Google se une a StopNCII para fortalecer las defensas contra el revenge porn
Puntos clave
- Google integrará el sistema de hash de StopNCII para bloquear el revenge porn en los resultados de búsqueda.
- StopNCII crea huellas digitales de imágenes íntimas sin subir los originales.
- El servicio ya es socio de plataformas importantes como Meta, Reddit y Microsoft Bing.
- El nuevo esfuerzo de Google se basa en herramientas de eliminación anteriores introducidas una década atrás y actualizadas en 2024.
- El sistema de hash solo funciona para imágenes conocidas y en plataformas participantes.
- Las víctimas deben generar un hash ellas mismas para proteger sus imágenes.
- La asociación busca disminuir la carga sobre las víctimas de NCII y mejorar la seguridad en línea.
Google anunció una asociación con la organización benéfica del Reino Unido StopNCII para expandir sus defensas contra la imagen íntima no consensuada (NCII), comúnmente conocida como revenge porn. La colaboración permitirá a Google incorporar el sistema basado en hash de StopNCII, que permite a los usuarios generar huellas digitales para bloquear contenido íntimo no deseado en los resultados de búsqueda.
Google amplía las contramedidas contra la NCII
Google se está asociando con la organización benéfica del Reino Unido StopNCII para luchar contra la imagen íntima no consensuada (NCII), a menudo referida como revenge porn. En los próximos meses, el gigante de la búsqueda comenzará a utilizar los hash de StopNCII - huellas digitales creadas desde archivos subidos por los usuarios - para bloquear el contenido íntimo no deseado de los individuos en sus resultados de búsqueda.
El sistema de StopNCII funciona permitiendo a los usuarios seleccionar una foto en su dispositivo; la organización luego crea un hash del archivo y sube esa huella digital a su servicio. La foto original nunca sale del dispositivo del usuario, preservando la privacidad. Las plataformas participantes reciben el hash y pueden eliminar o bloquear automáticamente la imagen si se sube en otro lugar.
Google no es la única empresa involucrada. StopNCII ya es socia de Meta, Reddit, Pornhub, OnlyFans, Snap, Microsoft Bing, X y otros servicios, creando una red más amplia de plataformas que pueden reconocer y actuar sobre contenido señalado.
Cómo funciona el sistema de hash
Cuando un usuario crea un hash, la huella digital se sube a StopNCII, que luego la comparte con las plataformas asociadas. Si un infractor intenta subir la misma imagen, la coincidencia de hash puede activar una eliminación o bloqueo automático, incluso antes de que se vuelva visible. El método se limita a imágenes conocidas; no cubre contenido nuevo o generado por IA, grabaciones de audio o chats de texto.
Debido a que el sistema se basa en hash conocidos, las víctimas deben generar primero una huella digital de la imagen íntima que desean proteger. El proceso está diseñado para ser sencillo y preservar la privacidad, asegurando que la imagen en sí nunca se transmita al servicio.
Aunque el enfoque basado en hash agrega una capa valiosa de protección, no es una solución infalible. Solo funciona para imágenes que han sido previamente hash y para plataformas que participan en la red de StopNCII. El contenido subido a sitios no asociados no será bloqueado automáticamente. Además, el sistema no aborda imágenes generadas por IA u otras formas de contenido no consensuado.
Sin embargo, la asociación representa un avance notable en el compromiso de Google para combatir la NCII. Al integrar la tecnología de StopNCII, Google busca reducir la prevalencia de revenge porn en sus servicios y aliviar la carga sobre las víctimas que buscan la eliminación de contenido dañino.