Conteúdo Gerado por IA Satura as Mídias Sociais, Levantando Preocupações sobre Autenticidade e Confiança

Plataformas sociais, como Facebook, Instagram e TikTok, estão cada vez mais saturadas com mídia de baixa qualidade gerada por IA, frequentemente chamada de "lixo de IA", e vídeos de deepfakes de figuras públicas. Ferramentas gerativas como a Sora da OpenAI, a Veo do Google e a Midjourney permitem que qualquer pessoa crie vídeos realistas a partir de prompts de texto simples, borrando a linha entre conteúdo real e fabricado. Os usuários relatam redução da confiança e conexão emocional com posts criados por IA, enquanto as plataformas lutam para rotular e moderar esse material. Especialistas alertam que, sem uma regulação mais forte, o fluxo de conteúdo artificial pode further erodir a autenticidade e exacerbate a desinformação nas mídias sociais.

Proliferação de Mídia Gerada por IA

As redes sociais têm sido criticadas por apresentar conteúdo excessivamente polido e aspiracional. Recentemente, o problema se agravou com a chegada de ferramentas de inteligência artificial gerativa — mais notadamente a Sora da OpenAI, a Veo do Google e a plataforma de imagem-para-vídeo Midjourney — que permitem que os usuários produzam vídeos e imagens realistas a partir de prompts de texto simples. Essa capacidade levou a um influxo de posts de baixa qualidade gerados por IA, um fenômeno conhecido como "lixo de IA". O termo captura uma enxurrada de conteúdo que varia de vídeos de animais caprichosos a fotos de férias criadas por IA e personas de influenciadores completamente fabricadas.

Deepfakes e a Erosão da Confiança

Além do lixo de IA, a tecnologia de deepfakes tornou mais fácil criar vídeos convincentes de figuras públicas dizendo ou fazendo coisas que nunca ocorreram. A disseminação desse material fabricado desafia a capacidade dos usuários de discernir fato de ficção. De acordo com um estudo realizado pela firma de mídia Raptive, quando as pessoas suspeitam que um pedaço de conteúdo é gerado por IA, elas são menos propensas a confiar nele e sentem uma conexão emocional mais fraca. O estudo encontrou que quase metade dos respondentes viu o conteúdo criado por IA como menos confiável.

Perspectivas de Especialistas sobre Mudanças nas Plataformas

Alexios Mantzarlis, diretor da Iniciativa de Segurança, Confiança e Segurança da Cornell Tech, observa que as plataformas sociais parecem priorizar manter os usuários engajados com a tecnologia em si, em vez de fomentar conexões humanas genuínas. Ele nota que as empresas de tecnologia estão exibindo capacidades de IA para impulsionar o desempenho das ações, frequentemente às custas da experiência do usuário. Mantzarlis alerta que o conteúdo impulsionado por IA pode amplificar padrões de corpo irrealistas e distorcer ainda mais a realidade para os espectadores.

Resposta da Indústria e Lacunas Regulatórias

Em resposta a preocupações crescentes, as principais plataformas prometeram rotular o material gerado por IA e proibir posts prejudiciais, como aqueles que usam imagens de indivíduos privados de forma indevida. No entanto, o ritmo da regulação fica atrás dos avanços rápidos da IA, deixando as plataformas para policiar o conteúdo principalmente por conta própria. Paul Bannister, diretor de estratégia da Raptive, destaca que, embora as ferramentas de IA democratizem a criação expandindo o pool de potenciais criadores, o volume maciço de mídia gerada apresenta desafios significativos de moderação.

Caminhos Possíveis para o Futuro

Partes interessadas sugerem dar aos usuários mais controle sobre a quantidade de conteúdo de IA que eles encontram, citando os filtros de conteúdo de IA opcionais do Pinterest como um modelo possível. Med!idas como essas poderiam ajudar a restaurar um grau de autenticidade às feeds e mitigar a disseminação de desinformação. Até que quadros regulatórios mais claros surjam, o equilíbrio entre fomentar o uso criativo da IA e preservar a confiança nas mídias sociais permanece uma fronteira contestada.