OpenAI Interrompe Vídeos Gerados por IA de Martin Luther King Jr. na Plataforma Sora
Pontos principais
- A OpenAI pausou a criação de vídeos gerados por IA que apresentam Martin Luther King Jr. em seu aplicativo Sora.
- A decisão segue relatos de depicções desrespeitosas e ofensivas de Dr. King.
- Bernice King pediu publicamente o fim dos vídeos de IA de seu pai, ecoando preocupações de outras famílias de figuras públicas.
- As proteções existentes da OpenAI bloquearam alguns prompts de pessoas famosas, mas falharam em prevenir a onda de conteúdo de MLK.
- A família King colaborou com a OpenAI para controlar o uso da semelhança de Dr. King.
- A OpenAI afirmou que as famílias e representantes autorizados devem decidir como a imagem de uma figura pública é usada.
- O incidente destaca as tensões entre as empresas de IA e os detentores de direitos sobre direitos autorais e mecanismos de opt-out.
- A mudança de política da OpenAI ocorre em meio a um escrutínio legal mais amplo, incluindo uma ação judicial de violação de direitos autorais da Ziff Davis.
OpenAI parou a criação de vídeos gerados por IA que apresentam a semelhança de Dr. Martin Luther King Jr. em seu aplicativo de vídeo Sora, após a família relatar uma onda de depicções desrespeitosas. A medida destaca as tensões entre as empresas de IA gerativa e os detentores de direitos sobre o controle das imagens de figuras públicas.
Contexto
Sora, um aplicativo irmão do ChatGPT, permite que os usuários criem e compartilhem vídeos gerados por IA que podem incorporar a semelhança registrada de pessoas reais. A plataforma foi lançada com grande fanfarra, posicionando-se como uma ferramenta única que combina tecnologia de vídeo gerativa com compartilhamento de mídia social.
Controvérsia sobre as Depicções de Martin Luther King Jr.
Logo após o lançamento, os usuários começaram a produzir vídeos que colocavam Dr. Martin Luther King Jr. em uma variedade de cenários, incluindo contextos cômicos, absurdos e abertamente desrespeitosos. A família King descreveu muitos desses vídeos como "depicções desrespeitosas", observando que eles variavam do bizarro - como o líder dos direitos civis fazendo rap ou luta - para conteúdo explicitamente ofensivo.
Resposta da Família e Apelo Público
Bernice King, a filha de Dr. King, apelou publicamente para que as pessoas parassem de enviar vídeos gerados por IA de seu pai, ecoando preocupações semelhantes levantadas por outras famílias de figuras públicas. A família trabalhou diretamente com a OpenAI para abordar como a semelhança de Dr. King é representada dentro do Sora, buscando afirmar controle sobre seu uso.
Proteções e Mudança de Política da OpenAI
A OpenAI já empregava proteções destinadas a bloquear a criação de vídeos que apresentam indivíduos bem conhecidos; por exemplo, um prompt solicitando um vídeo de Taylor Swift no palco foi rejeitado. No entanto, as proteções se mostraram insuficientes para prevenir a onda de conteúdo relacionado a MLK. Em resposta, a OpenAI anunciou uma pausa na capacidade de gerar vídeos que apresentam Dr. King, afirmando que "figuras públicas e suas famílias devem, em última análise, ter controle sobre como sua semelhança é usada". A empresa enfatizou que representantes autorizados de figuras públicas podem solicitar que sua semelhança não seja incluída nas gerações do Sora.
Implicações da Indústria e Contexto Legal
O episódio destaca a fricção contínua entre os desenvolvedores de IA e os detentores de direitos, incluindo agências de talentos que foram informadas anteriormente de que poderiam optar por não ter seu conteúdo intelectual usado no Sora. A participação da família King ilustra como as famílias podem influenciar as políticas de conteúdo de IA. A abordagem da OpenAI foi notada como não totalmente alinhada com a lei de direitos autorais tradicional, que normalmente exige licenciamento antes de usar conteúdo protegido. A empresa posteriormente ajustou sua posição, refletindo o cenário legal e ético em evolução que cerca a mídia gerada por IA. Além disso, a OpenAI divulgou uma ação judicial movida por Ziff Davis, alegando violação de direitos autorais no treinamento e operação de seus sistemas de IA, destacando desafios mais amplos da indústria.