Deepfakes Gerados por IA Exploraram Criadores Negros em Controvérsia com a DoorDash
Pontos principais
- A reclamação de assalto do motorista da DoorDash foi viral e mais tarde descartada pela polícia.
- Vídeos deepfakes gerados por IA usaram as faces de criadores negros sem consentimento.
- A prática, denominada blackface digital, espalha conteúdo estereotipado racialmente.
- Contas de bots postaram vários deepfakes, ecoando pontos de discussão idênticos.
- O TikTok e a OpenAI enfrentaram críticas por remover inadequadamente conteúdo de IA prejudicial.
- Grupos de defesa pedem salvaguardas mais fortes nas plataformas e proteções legais.
- A Lei Take It Down, sancionada em 2025, criminaliza deepfakes não consentidos.
Um motorista da DoorDash postou um vídeo no TikTok alegando assalto sexual, o que desencadeou um debate viral que foi logo dominado por vídeos deepfakes gerados por IA. Criadores negros, incluindo Mirlie Larose, encontraram suas semelhanças usadas sem consentimento em vídeos impulsionados por bots que ecoavam o mesmo roteiro, uma prática descrita como blackface digital. Plataformas como o TikTok e o Sora da OpenAI enfrentaram críticas por permitir a disseminação de conteúdo de IA estereotipado racialmente. Grupos de defesa e criadores estão reagindo, pedindo salvaguardas mais fortes e ação legislativa para conter deepfakes não consentidos.
Denúncias da DoorDash Desencadeiam Reação Viral
Um motorista da DoorDash postou um vídeo no TikTok alegando que foi vítima de assalto sexual enquanto fazia uma entrega. O vídeo rapidamente acumulou dezenas de milhões de visualizações, gerando tanto apoio quanto ceticismo. A polícia mais tarde descartou a alegação de assalto e o motorista enfrentou acusações criminais por vigilância ilegal.
Deepfakes de IA e Blackface Digital Aparecem
Logo após, usuários do TikTok descobriram vídeos que usavam a face e a voz da criadora negra Mirlie Larose sem sua permissão. Esses deepfakes gerados por IA repetiam os mesmos pontos de discussão, defendendo a postura de DARVO que defendia o suposto agressor e justificava a demissão do motorista. O fenômeno foi identificado como blackface digital - representações estereotipadas racialmente criadas por contas não negras usando IA gerativa.
Contas de Bots Ampliam o Problema
Contas de bots, como uma identificada como uimuthavohaj0g, postaram vários vídeos deepfakes com Larose e outros criadores negros. Os vídeos combinaram cliques fora de contexto do incidente original da DoorDash com narração gerada por IA, espalhando ainda mais desinformação. Depois que um criador negro conhecido alertou os espectadores, a página do bot foi eventualmente removida, mas conteúdo semelhante persistiu por dias.
Respostas das Plataformas e Lacunas nas Políticas
O TikTok removeu o vídeo original do motorista por violar sua política contra conteúdo sexual, mas as tentativas da plataforma de excluir os deepfakes foram inicialmente negadas. O aplicativo Sora da OpenAI, que alimenta muitos dos vídeos de IA, enfrentou reações adversas após produzir conteúdo que usava inglês vernáculo africano-americano estereotipado e mesmo após bloquear vídeos gerados por usuários de Martin Luther King Jr. após protestos do patrimônio.
Defesa e Ação Legislativa
A fundadora da Data for Black Lives, Yeshimabeit Milner, descreveu o blackface digital como uma forma de engenharia cultural que alimenta o engajamento por meio de estereótipos prejudiciais. Criadores como Zaria Imani estão perseguindo reclamações de violação de direitos autorais contra páginas de bots. Em maio de 2025, a Lei Take It Down foi sancionada, criminalizando a distribuição de imagens íntimas não consentidas, incluindo deepfakes gerados por IA.
Chamadas para Maior Responsabilidade
Especialistas argumentam que as plataformas devem estender as mesmas proteções concedidas a celebridades e personagens protegidos por direitos autorais a criadores cujas semelhanças são exploradas. A controvérsia em andamento destaca a necessidade de salvaguardas técnicas mais fortes, aplicação de políticas e medidas legislativas para conter o mau uso da IA gerativa.