Chefe do Instagram afirma que fingerprinting de mídia real é mais prático do que rotular fakes de IA
Pontos principais
- AI‑generated images are rapidly filling Instagram feeds.
- Current labeling tools, like watermarks, are unreliable.
- Mosseri proposes cryptographically fingerprinting authentic media at capture.
- Camera manufacturers could embed signatures to verify content origin.
- Raw, unpolished visuals may become a new marker of authenticity for creators.
- Meta may shift focus from chasing fakes to enabling verification of real media.
O chefe do Instagram, Adam Mosseri, alertou que as imagens geradas por IA estão rapidamente invadindo a plataforma e que os métodos tradicionais de rotulagem podem logo se tornar ineficazes. Ele argumentou que uma solução mais realista é fingerprintar criptograficamente a mídia autêntica no momento da captura, permitindo que os usuários verifiquem o conteúdo real em vez de tentar perseguir fakes sintéticos.
Conteúdo de IA domina as feeds do Instagram
Adam Mosseri, o executivo que lidera o Instagram, observou que o fluxo visual da plataforma está cada vez mais cheio de imagens sintéticas criadas por inteligência artificial. Ele descreveu essa tendência como uma mudança fundamental, notando que as ferramentas que permitem que qualquer pessoa produza imagens realistas agora estão amplamente acessíveis.
Desafios de rotular mídia gerada por IA
Mosseri explicou que as abordagens existentes, como marcas d\'água ou rótulos de nível de plataforma, se provaram pouco confiáveis. As marcas d\'água podem ser removidas ou ignoradas, e o próprio sistema de rotulagem da Meta não identifica consistentemente o conteúdo gerado ou manipulado por IA. Ele alertou que, à medida que os modelos de IA melhoram, a detecção se tornará ainda mais difícil.
Fingerprinting de mídia real como alternativa prática
Em vez de perseguir todos os fakes, Mosseri defendeu um sistema que "fingerprinta" a mídia autêntica no momento da captura. Ele sugeriu que os fabricantes de câmeras poderiam embutir assinaturas criptográficas em fotos e vídeos, criando uma cadeia de custódia que verifica a origem do conteúdo. Essa abordagem, ele argumentou, tornaria mais fácil para os usuários confiar no que veem.
Implicações para criadores e fotógrafos
A mudança para feeds cheios de IA já frustrou muitos criadores que dependem do Instagram para exposição. Mosseri notou que o estilo "polido" clássico está desaparecendo, e que imagens raw e sem retoques podem se tornar um novo marca de autenticidade para criadores. Ele implícitamente sugeriu que criadores que adotem esse estilo poderiam demonstrar melhor que seu trabalho é genuíno.
Perspectiva futura
Embora reconheça a dificuldade do problema, Mosseri permanece confiante de que um esforço colaborativo, particularmente envolvendo fabricantes de câmeras, poderia fornecer uma solução viável. Ele enfatizou que a responsabilidade da plataforma pode ser menos sobre policiar cada peça de mídia sintética e mais sobre empoderar os usuários a reconhecer conteúdo real verificado.