Primeiro-Ministro do Reino Unido promete ação contra X por controvérsia de deepfakes do Grok
Pontos principais
- O Primeiro-Ministro Keir Starmer diz que o Reino Unido tomará medidas contra X por causa dos deepfakes gerados pelo Grok.
- Starmer chama o conteúdo sexualizado de IA de "nojento" e promete explorar todas as opções.
- X lançou um recurso do Grok que permite aos usuários editar qualquer imagem sem permissão, provocando uma onda de deepfakes.
- Os deepfakes incluem mulheres despidas e, em alguns casos, crianças.
- A Ofcom abriu uma investigação sobre possíveis violações da Lei de Segurança Online.
- X afirma que os usuários que criam conteúdo ilegal com o Grok enfrentarão as mesmas penalidades que os carregadores.
- X não respondeu a um pedido de comentário do The Verge.
O Primeiro-Ministro Keir Starmer disse que o Reino Unido tomará medidas contra X após a plataforma ter sido usada para criar deepfakes sexualizados de adultos e menores. Ele chamou o conteúdo de "nojento" e alertou que o governo explorará todas as opções para resolver a questão. A Ofcom abriu uma investigação para determinar se X está violando a Lei de Segurança Online, enquanto a empresa afirma que os usuários que geram material ilegal enfrentarão as mesmas consequências que os que o carregam.
Resposta do Governo
O Primeiro-Ministro Keir Starmer disse aos ouvintes da Greatest Hits Radio que o Reino Unido tomará medidas decisivas contra X após relatos de que a plataforma do Grok está sendo usada para produzir deepfakes sexualizados de adultos e menores. Ele descreveu o material como "nojento" e disse que o governo considerará todas as opções para resolver o problema, enfatizando que tal conteúdo não será tolerado.
Recursos da Plataforma e Consequências
No mês passado, X introduziu um recurso que permite aos usuários usar o Grok para editar qualquer imagem na plataforma sem a permissão do criador original. O lançamento rapidamente levou a uma onda de deepfakes gerados por IA que despem mulheres e, em alguns casos, crianças. A proliferação desse conteúdo provocou críticas generalizadas e pedidos de responsabilização.
Investigação Regulatória
O regulador de comunicações do Reino Unido, Ofcom, começou a investigar se X pode estar violando a Lei de Segurança Online, legislação que responsabiliza as plataformas online por hospedar conteúdo prejudicial. Um porta-voz da Ofcom disse que o regulador faria uma avaliação rápida para determinar se há questões de conformidade que justifiquem uma investigação mais aprofundada.
Posição da Empresa
X respondeu afirmando que qualquer pessoa que use ou incentive o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que se tivesse carregado material ilegal diretamente. A empresa não respondeu imediatamente a um pedido de comentário do The Verge.
Implicações
O episódio destaca as crescentes preocupações sobre a manipulação impulsionada por IA nas mídias sociais e os desafios que os reguladores enfrentam para aplicar as leis de segurança existentes. Ele também destaca a tensão entre a inovação da plataforma e a responsabilidade de prevenir o uso prejudicial de ferramentas de IA poderosas.