Sam Altman Diz que Bots Estão Tornando as Mídias Sociais Artificiais
Pontos principais
- Sam Altman postou no X expressando preocupação de que bots estão tornando as mídias sociais artificiais.
- Ele apontou para uma enxurrada de postagens no Reddit sobre o Codex da OpenAI como potencialmente impulsionada por bots.
- Altman citou fatores como linguagem no estilo de grandes modelos de linguagem, postagem coordenada, incentivos de engajamento de plataforma e astroturfing.
- Dados da indústria mostram que mais da metade do tráfego da internet em 2024 foi não humano, principalmente de saídas de IA.
- A mistura de conteúdo humano e de IA levanta questões sobre autenticidade, ganhos de criadores e mensagens coordenadas.
O chefe da OpenAI, Sam Altman, postou no X que o surgimento de bots está transformando as mídias sociais em um ambiente onde é difícil determinar se as postagens são escritas por pessoas reais. Ele citou a enxurrada de postagens no Reddit sobre o Codex da OpenAI como um exemplo, observando que muitas podem ser geradas por contas automatizadas ou campanhas de astroturfing.
O fundador da OpenAI, Sam Altman, expressou uma crescente inquietude sobre a autenticidade das conversas nas mídias sociais. Ele observou que o volume de postagens no Reddit elogiando o programa Codex da OpenAI havia se tornado tão alto que era difícil determinar se os comentários vinham de usuários genuínos ou bots automatizados. Altman sugeriu que a mistura de usuários reais adotando padrões de linguagem de grandes modelos de linguagem, comportamento de postagem coordenado, incentivos de plataforma para engajamento e possível astroturfing estavam todos contribuindo para uma sensação de que o diálogo online parecia "falso".
Os comentários de Altman vieram após ele notar que o subreddit r/Claudecode estava cheio de usuários do Codex se autodenominando e anunciando migrações para a plataforma. Ele se perguntou quantas dessas postagens eram autênticas, observando que a proliferação de bots poderia estar inflando o aparente entusiasmo pelo serviço.
Dados da Indústria sobre Tráfego de Bots
Apoiar suas preocupações, Altman referenciou achados da indústria de que mais da metade de todo o tráfego da internet em 2024 foi identificado como não humano, impulsionado principalmente por saídas de grandes modelos de linguagem. Essa estatística destaca a escala em que o conteúdo automatizado está agora presente em canais digitais.
Implicações Potenciais
O executivo-chefe alertou que a mistura de conteúdo humano e gerado por IA poderia distorcer a percepção pública, afetar a monetização de criadores e amplificar esforços de mensagens coordenadas. Ele também sugeriu que o astroturfing — onde indivíduos pagos ou bots promovem uma narrativa em nome de uma terceira parte — poderia estar influenciando a conversa em torno dos produtos da OpenAI.
Os comentários de Altman refletem ansiedades mais amplas dentro da comunidade de tecnologia sobre o impacto de IA cada vez mais sofisticada na credibilidade de plataformas online. À medida que os grandes modelos de linguagem se tornam mais hábeis em imitar a escrita humana, distinguir o sentimento de usuário genuíno do amplificação automatizada se torna um desafio crescente para plataformas e consumidores.