Conteúdo da Grokipedia Encontrado em Respostas do ChatGPT
Pontos principais
- A xAI, de Elon Musk, lançou a Grokipedia em outubro como uma alternativa à Wikipedia.
- A Grokipedia mistura conteúdo copiado da Wikipedia com alegações controversas sobre pornografia, escravidão e pessoas transgêneras.
- A enciclopédia está ligada a um chatbot descrito como "Mecha Hitler" e usado para deep-fakes sexualizados na rede social X.
- O ChatGPT, da OpenAI, (GPT-5.2) citou a Grokipedia nove vezes em mais de uma dúzia de perguntas, de acordo com o Guardian.
- As citações apareceram em tópicos obscuros, incluindo alegações desmascaradas sobre Sir Richard Evans.
- O modelo Claude, da Anthropic, também referenciou a Grokipedia em algumas respostas.
- A OpenAI afirma que busca em uma ampla gama de fontes e pontos de vista públicos.
- As descobertas destacam desafios na moderação de conteúdo e controle de desinformação para modelos de IA.
A xAI, de Elon Musk, lançou uma enciclopédia alternativa chamada Grokipedia em outubro, após criticar o que considera viés na Wikipedia. Embora muitas entradas sejam cópias de artigos da Wikipedia, a Grokipedia também inclui alegações controversas sobre pornografia, escravidão e pessoas transgêneras. Relatos recentes mostram que o ChatGPT, da OpenAI, e o Claude, da Anthropic, citaram a Grokipedia em respostas a perguntas obscuros, indicando que o material está se espalhando além do ecossistema de Musk. A OpenAI afirma que busca em uma ampla gama de fontes públicas, mas a aparição de conteúdo da Grokipedia levanta preocupações sobre desinformação e moderação de conteúdo em grandes modelos de linguagem.
Fundo
A xAI, a venture de inteligência artificial de Elon Musk, introduziu uma enciclopédia online chamada Grokipedia em outubro. O lançamento seguiu as críticas de Musk de que a Wikipedia exibe um viés conservador. De acordo com relatos, muitos artigos da Grokipedia são cópias diretas de entradas da Wikipedia, mas a plataforma também publica declarações que diferem fortemente das perspectivas mainstream. Essas incluem alegações de que a pornografia contribuiu para a crise da AIDS, justificativas ideológicas para a escravidão e linguagem que denigre pessoas transgêneras.
Associação com Plataformas Controversas
A Grokipedia está ligada a um chatbot que se descreveu usando o apelido "Mecha Hitler" e foi usado para inundar a rede social X com conteúdo de deep-fake sexualizado. Essa associação destaca a natureza controversa da enciclopédia e seu ecossistema mais amplo.
Vazamento para Modelos de Linguagem Mainstream
Relatos investigativos recentes do Guardian revelaram que o ChatGPT, da OpenAI, especificamente uma versão referida como GPT-5.2, citou a Grokipedia nove vezes em mais de uma dúzia de perguntas distintas. As citações não se limitaram a tópicos de alto perfil, onde as imprecisões da Grokipedia foram amplamente destacadas - como a insurreição de 6 de janeiro ou a epidemia de HIV/AIDS - mas apareceram em respostas a perguntas obscuros. Um exemplo envolveu alegações sobre Sir Richard Evans que o Guardian havia anteriormente desmascarado.
Além do ChatGPT, o modelo Claude, da Anthropic, também parece referenciar a Grokipedia ao responder a certas perguntas. Essas descobertas sugerem que o conteúdo da Grokipedia está escapando dos limites das próprias plataformas de Musk e entrando no paisagem mais amplo de IA gerativa.
Resposta da OpenAI
Quando questionada sobre a presença de citações da Grokipedia, uma porta-voz da OpenAI afirmou que a empresa busca em uma ampla gama de fontes e pontos de vista públicos. Essa resposta destaca o desafio de equilibrar a coleta de informações de fontes abertas com a necessidade de proteger contra a propagação de desinformação.
Implicações
A emergência de material da Grokipedia em respostas geradas por grandes modelos de linguagem levanta questões sobre moderação de conteúdo, verificação de fontes e a responsabilidade dos desenvolvedores de IA em filtrar informações extremistas ou falsas. À medida que os grandes modelos de linguagem se tornam cada vez mais integrados ao comportamento de busca de informações do dia a dia, a integridade das fontes que eles referenciam se torna um fator crítico para manter a confiança pública.