Ferramenta de Vídeo Sora 2 da OpenAI Causa Controvérsia Sobre Uso de Celebrities Falecidas

A OpenAI introduziu a Sora 2 como um modelo de geração de vídeo que bloqueia as representações de figuras públicas por padrão, mas uma brecha permite que criadores insiram personalidades falecidas em clipes gerados por IA. A plataforma inclui uma marca d'água móvel para sinalizar conteúdo sintético, mas familiares e fãs estão chateados com as representações póstumas, exemplificadas pelo apelo público de Zelda Williams para parar de receber vídeos de IA de seu pai falecido.

Medidas de Segurança da OpenAI

Quando a OpenAI lançou a ferramenta de geração de vídeo Sora 2, a empresa anunciou que o sistema bloquearia as representações de figuras públicas por padrão. O objetivo era prevenir a criação de footages enganosos que apresentam personalidades vivas sem consentimento. Para reforçar isso, todos os vídeos gerados carregam uma marca d'água móvel que identifica o conteúdo como sintético, uma etapa destinada a reduzir o risco de os espectadores serem enganados.

Brecha Permite Figuras Falecidas

Apesar dessas medidas, criadores descobriram que o bloqueio padrão não se estende a indivíduos que não estão mais vivos. Plataformas de mídia social agora estão cheias de clipes gerados por IA que apresentam celebridades falecidas em novos cenários, muitas vezes cômicos. Exemplos incluem uma entrevista póstuma entre Tupac Shakur e Malcolm X, Bruce Lee apresentando um "set de DJ de energia de dragão", Michael Jackson realizando comédia stand-up baseada em cozinha, Stephen Hawking andando em uma rampa de skate gigante, Mister Rogers aparecendo em um show de acrobacias, Kurt Cobain roubando dedos de frango do KFC, e Martin Luther King Jr. tropeçando em um discurso famoso. A lista continua a crescer à medida que os usuários experimentam as capacidades da ferramenta.

Reação Pública e Preocupações da Família

A ressurgência dessas imagens provocou fortes reações de parentes e fãs. Zelda Williams, filha do falecido Robin Williams, postou uma história do Instagram agora apagada pedindo aos criadores que parassem de enviar vídeos de IA de seu pai. Ela escreveu: "Por favor, parem de me enviar vídeos de IA do meu pai... É bobo, é um desperdício de tempo e energia, e acreditem, não é o que ele queria". Sua declaração destaca o impacto emocional que essas representações sintéticas podem ter sobre aqueles que lembram os indivíduos reais.

Recursos "Cameo" da OpenAI para Usuários Vivos

Em paralelo com a controvérsia, a OpenAI comercializa uma opção "cameo" que permite que figuras públicas vivas forneçam voluntariamente um scan de seu rosto via smartphone. Esse recurso permite que os usuários insiram a si mesmos em qualquer cena da Sora 2 com alta fidelidade, mantendo o controle sobre como sua semelhança é usada. A OpenAI afirma que os participantes do cameo podem revogar o acesso a seus scans a qualquer momento e têm ferramentas de moderação para limitar o uso não autorizado. A empresa enfatiza que o sistema é projetado para garantir o consentimento e o controle de ponta a ponta para sujeitos vivos.

Equilibrando Criatividade e Ética

A situação destaca um debate mais amplo sobre as responsabilidades dos desenvolvedores de IA no gerenciamento da tecnologia de deep-fake. Embora a Sora 2 abra novas avenidas criativas, a capacidade de ressuscitar personalidades falecidas levanta questões sobre respeito a legados, consentimento e potencial para uso indevido. A marca d'água e os recursos de segurança do cameo da OpenAI abordam algumas preocupações, mas a brecha para figuras falecidas permanece não preenchida, deixando famílias e o público para lidar com as implicações éticas de tributos gerados por IA que podem não estar alinhados com os desejos daqueles retratados.