OpenAI promete salvaguardas mais fortes para semelhanças de celebridades no Sora após pressão de ator e herdeiros
Pontos principais
- OpenAI compromete a controles mais rígidos sobre semelhanças de celebridades em seu aplicativo de geração de vídeo Sora.
- Bryan Cranston e SAG-AFTRA pressionaram por um sistema de opt-in para atores.
- O espólio de Martin Luther King Jr. exigiu a remoção de depictions não autorizadas.
- OpenAI fortaleceu as salvaguardas para prevenir a replicação de vozes e faces sem consentimento.
- Representantes autorizados agora podem solicitar que seus sujeitos sejam excluídos do Sora.
- A medida reflete uma pressão mais ampla da indústria para proteger direitos pessoais e do espólio em mídias de IA.
OpenAI anunciou novas salvaguardas para sua ferramenta de geração de vídeo em AI, Sora, após atores, sindicatos de talentos e o espólio de Martin Luther King Jr. expressarem preocupações sobre vídeos de deepfakes não autorizados. A empresa concordou que figuras públicas devem optar por participar antes que suas semelhanças possam ser usadas, e que representantes podem solicitar remoção. A medida segue reclamações de Bryan Cranston, SAG-AFTRA e agências de talentos, bem como indignação pública sobre depictions desrespeitosas do Dr. King. OpenAI afirma que as políticas atualizadas visam dar aos indivíduos maior controle sobre como suas imagens e vozes são empregadas em conteúdo gerado por IA.
Contexto sobre Sora e preocupações emergentes
Sora, o novo aplicativo de geração de vídeo em AI da OpenAI, permite que os usuários criem e compartilhem vídeos que podem incorporar semelhanças gravadas de pessoas reais. Logo após seu lançamento, os usuários começaram a produzir clipes com atores e figuras públicas conhecidas sem consentimento, provocando críticas da indústria do entretenimento e defensores dos direitos civis.
Resposta do ator e do sindicato
O ator Bryan Cranston observou que sua semelhança estava sendo usada em vídeos gerados pelo Sora e alertou o Sindicato dos Atores de Cinema e Televisão dos EUA (SAG-AFTRA). Juntamente com várias agências de talentos, o sindicato negociou um acordo com a OpenAI que exige que as celebridades optem por participar antes que suas imagens ou vozes possam ser incorporadas em conteúdo gerado por IA.
Participação do espólio de Martin Luther King Jr.
O espólio de Martin Luther King Jr. também expressou preocupações após os usuários criarem depictions desrespeitosas do líder dos direitos civis. Representantes do espólio solicitaram que a OpenAI parasse de usar a semelhança do líder falecido, e a OpenAI afirmou que representantes autorizados podem exigir a exclusão de qualquer semelhança de figura pública do Sora.
Salvaguardas atualizadas da OpenAI
Em resposta à pressão, a OpenAI disse que fortaleceu as salvaguardas em torno da replicação de voz e semelhança. A empresa enfatizou que lamenta gerações não intencionais que levam a retratos desrespeitosos ou não consensuais. A OpenAI também observou que seu sistema já rejeita certos pedidos, como vídeos de performers conhecidos específicos, embora tenha reconhecido que as salvaguardas não são perfeitas.
Implicações para a criação de conteúdo de IA
O acordo destaca a crescente tensão entre os desenvolvedores de IA e os detentores de direitos sobre o uso de semelhanças pessoais em mídias gerativas. Ao exigir consentimento opt-in e fornecer um mecanismo de remoção, a OpenAI visa equilibrar capacidades inovadoras de IA com respeito pelos direitos individuais e do espólio.