Google se une à StopNCII para fortalecer defesas contra pornografia de vingança
Pontos principais
- Google irá integrar o sistema de hash da StopNCII para bloquear pornografia de vingança nos resultados de busca.
- A StopNCII cria impressões digitais de imagens íntimas sem carregar os originais.
- O serviço já é parceiro de grandes plataformas como Meta, Reddit e Microsoft Bing.
- Os novos esforços da Google se baseiam em ferramentas de remoção anteriores introduzidas uma década atrás e atualizadas em 2024.
- O sistema de hash funciona apenas para imagens conhecidas e em plataformas participantes.
- As vítimas devem gerar um hash elas mesmas para proteger suas imagens.
- A parceria visa diminuir o fardo sobre as vítimas de NCII e melhorar a segurança online.
Google anunciou uma parceria com a organização sem fins lucrativos do Reino Unido, StopNCII, para expandir suas defesas contra imagens íntimas não consentidas (NCII), comumente conhecidas como pornografia de vingança. A colaboração permitirá que Google incorpore o sistema baseado em hashes da StopNCII, permitindo que impressões digitais geradas pelos usuários bloqueiem conteúdo íntimo indesejado de aparecer nos resultados de busca. O serviço protege a privacidade, pois nunca carrega a imagem original, e funciona em conjunto com outras plataformas já parceiras da StopNCII. Embora o sistema não seja uma solução completa, marca um passo significativo para Google na redução do fardo sobre as vítimas de NCII.
Google Amplia Medidas Contra NCII
Google está se unindo à organização sem fins lucrativos do Reino Unido, StopNCII, para combater imagens íntimas não consentidas (NCII), frequentemente referidas como pornografia de vingança. Nos próximos meses, o gigante de busca começará a usar os hashes da StopNCII — impressões digitais criadas a partir de arquivos carregados pelos usuários — para bloquear conteúdo íntimo indesejado de indivíduos de aparecer em seus resultados de busca.
O sistema da StopNCII funciona permitindo que os usuários selecionem uma foto em seu dispositivo; a organização então cria um hash do arquivo e carrega essa impressão digital para seu serviço. A foto original nunca deixa o dispositivo do usuário, preservando a privacidade. Plataformas participantes recebem o hash e podem remover ou bloquear automaticamente a imagem se ela for carregada em outro lugar.
Google não é a única empresa envolvida. A StopNCII já é parceira da Meta, Reddit, Pornhub, OnlyFans, Snap, Microsoft Bing, X e outros serviços, criando uma rede mais ampla de plataformas que podem reconhecer e agir em conteúdo sinalizado.
Esta iniciativa se baseia nos esforços anteriores da Google. Uma década atrás, a empresa introduziu um sistema para solicitações de remoção de pornografia de vingança, e em 2024 simplificou a remoção de NCII deep-fake. Na quarta-feira, o gerente de produtos da Google, Griffin Hunt, explicou que "considerando a escala da web aberta, há mais a ser feito para reduzir o fardo sobre aqueles que são afetados por isso".
Como Funciona o Sistema de Hash
Quando um usuário cria um hash, a impressão digital é carregada para a StopNCII, que então compartilha com plataformas parceiras. Se um ofensor tentar carregar a mesma imagem, a correspondência de hash pode acionar uma remoção automática ou mesmo bloquear o carregamento antes que se torne visível. O método é limitado a imagens conhecidas; não cobre novo ou conteúdo gerado por IA, gravações de áudio ou chats de texto.
Porque o sistema depende de hashes conhecidos, as vítimas devem primeiro gerar uma impressão digital da imagem íntima que desejam proteger. O processo é projetado para ser direto e preservador da privacidade, garantindo que a imagem em si nunca seja transmitida para o serviço.
Embora a abordagem baseada em hash adicione uma camada valiosa de proteção, não é uma solução infalível. Funciona apenas para imagens que foram previamente hash e para plataformas que participam da rede da StopNCII. Conteúdo carregado em sites não parceiros não será bloqueado automaticamente. Além disso, o sistema não aborda imagens geradas por IA ou outras formas de conteúdo não consentido.
No entanto, a parceria representa um avanço notável no compromisso da Google em combater NCII. Ao integrar a tecnologia da StopNCII, a Google visa reduzir a prevalência de pornografia de vingança em seus serviços e aliviar o fardo sobre as vítimas que buscam remover conteúdo prejudicial.