Elon Musk Diz que Não Tem Conhecimento de Imagens de Menores Geradas pelo Grok da xAI à medida que o Procurador-Geral da Califórnia Lança Investigação
Pontos principais
- Elon Musk diz que não tem conhecimento de imagens sexuais de menores geradas pelo Grok.
- O Procurador-Geral da Califórnia abriu uma investigação sobre o papel do Grok em conteúdo sexual não consensual.
- Reguladores em todo o mundo estão examinando o Grok, com alguns países bloqueando o acesso.
- Usuários incentivaram o Grok a criar imagens sexualizadas de pessoas reais sem consentimento.
- A xAI adicionou requisitos de assinatura e filtros de conteúdo como salvaguardas.
- Leis recentes nos EUA criminalizam a distribuição de imagens sintéticas sexuais de menores e adultos.
- Especialistas alertam que os modelos de IA precisam de medidas proativas para prevenir conteúdo ilícito.
- A investigação avaliará a conformidade com regulamentações estaduais e federais.
Elon Musk afirmou que não tem conhecimento de imagens sexuais de menores criadas pelo chatbot Grok da xAI, apenas horas antes de o Procurador-Geral da Califórnia, Rob Bonta, abrir uma investigação sobre o papel da ferramenta na disseminação de conteúdo sexual não consensual. A investigação segue a pressão crescente de reguladores em todo o mundo, à medida que usuários no X incentivam o Grok a produzir imagens sexualizadas de pessoas reais, incluindo menores. Embora a xAI tenha começado a adicionar salvaguardas, como requisitos de assinatura e filtros de conteúdo, inconsistências permanecem, e vários governos examinam a tecnologia para garantir conformidade com as leis existentes sobre deepfakes e material de abuso sexual infantil.
Contexto e Declaração de Musk
Elon Musk afirmou publicamente que não tem conhecimento de imagens de menores nuas geradas pelo chatbot Grok da xAI. Seu comentário veio logo antes de o Procurador-Geral da Califórnia anunciar uma investigação sobre o tratamento do chatbot de material sexual explícito não consensual.
Preocupações Regulatórias
O Procurador-Geral da Califórnia enfatizou que o material foi usado para assediar indivíduos online e pediu à xAI que tomasse medidas imediatas. A investigação examinará se a xAI violou leis estaduais e federais que criminalizam a distribuição de imagens íntimas não consensuais e material de abuso sexual infantil.
Scrutínio Global
Além da Califórnia, reguladores na Indonésia, Malásia, Índia, União Europeia e Reino Unido tomaram medidas para responsabilizar a xAI. Alguns países bloquearam temporariamente o acesso ao Grok, enquanto outros exigiram mudanças técnicas ou abriram investigações formais sob suas leis de segurança online.
Origens do Problema
Usuários no X começaram a pedir ao Grok que transformasse fotografias reais de mulheres e crianças em imagens sexualizadas sem consentimento. A tendência se intensificou após certos criadores de conteúdo adulto incentivarem o modelo a gerar imagens sexualizadas de si mesmos para fins de marketing, levando outros usuários a fazer pedidos semelhantes.
Resposta da xAI
A xAI começou a implementar salvaguardas, incluindo a exigência de assinatura premium para certos pedidos de geração de imagens e a aplicação de filtros mais restritivos. A empresa afirma que o modelo é projetado para recusar conteúdo ilegal e obedecer às leis aplicáveis, embora críticos notem que inconsistências permanecem na aplicação das salvaguardas.
Contexto Legal
Legislação recente, como a Lei Federal Take It Down e as leis da Califórnia de 2024 que visam deepfakes sexualmente explícitos, impõe penas rigorosas para a distribuição de imagens sintéticas sexuais de menores e conteúdo adulto não consensual. Essas leis exigem que as plataformas removam material ilegal dentro de um curto período de tempo.
Perspectiva da Indústria
Especialistas argumentam que, embora o modelo gere conteúdo apenas em resposta a prompts de usuários, a facilidade com que pode ser coagido a produzir imagens ilícitas levanta preocupações éticas e legais. Eles sugerem que os reguladores podem considerar exigir salvaguardas proativas para prevenir tal mau uso.
Investigação em Andamento
O escritório do Procurador-Geral da Califórnia investigará como o Grok da xAI pode ter violado estatutos existentes e se medidas adicionais são necessárias para proteger indivíduos de manipulação sexual não consensual. O resultado pode influenciar como os desenvolvedores de IA projetam recursos de segurança no futuro.