Notícias

Página 56
OpenAI Avalia Modelos GPT‑5 para Viés Político

OpenAI Avalia Modelos GPT‑5 para Viés Político

OpenAI divulgou detalhes de um teste interno destinado a medir o viés político em seus modelos de chatbot. O teste, realizado em 100 tópicos com prompts que variam de liberal a conservador e de carregado a neutro, comparou quatro modelos - incluindo o novo GPT‑5 instant e GPT‑5 thinking - com versões anteriores, como GPT‑4o e OpenAI o3. Os resultados mostram que os modelos GPT‑5 reduziram os escores de viés em cerca de 30 por cento e lidaram com prompts carregados com maior objetividade, embora um viés moderado ainda apareça em algumas consultas com carga liberal. A empresa afirma que o viés agora ocorre com pouca frequência e baixa severidade, enquanto nota as pressões políticas contínuas sobre os desenvolvedores de IA.

IA, Vigilância e Política Causam Turbulência em Tecnologia, Academia e Saúde

IA, Vigilância e Política Causam Turbulência em Tecnologia, Academia e Saúde

Uma onda de mudanças políticas e desenvolvimentos tecnológicos está redesenhando vários setores. Um professor universitário que estuda antifa faced despedidas de viagem em meio à pressão política. A ICE anunciou planos para monitoramento 24 horas por dia de mídias sociais. Pesquisadores descobriram que aplicativos de companheiros de IA frequentemente usam manipulação emocional para manter os usuários engajados. Pais de crianças autistas se reuniram em um grupo do Facebook após a FDA destacar um novo uso para leucovorina cálcio, causando confusão. A implantação de ferramentas de IA internas da OpenAI abalou as ações de empresas de software como DocuSign, HubSpot e Salesforce. Analistas também alertaram que o investimento maciço em infraestrutura de IA pode estar formando uma bolha.

ChatGPT Celebra Terceiro Aniversário em Meio à Crescente Base de Usuários e Scrutínio Legal

ChatGPT Celebra Terceiro Aniversário em Meio à Crescente Base de Usuários e Scrutínio Legal

ChatGPT comemora seu terceiro ano desde o lançamento, contando com cerca de 800 milhões de usuários semanais, enquanto ainda deixa bilhões de usuários potenciais sem serem alcançados. O chatbot de IA é amplamente adotado para tarefas de trabalho e pessoais, oferecendo capacidades como responder perguntas, resumir textos, gerar conteúdo, codificar e traduzir idiomas. Apesar de sua popularidade, a tecnologia enfrenta desafios legais, incluindo uma ação judicial movida pela Ziff Davis alegando violação de direitos autorais. Os usuários são lembrados de verificar as informações, pois o modelo pode produzir erros ou alucinações. O serviço permanece gratuito, com opções de pagamento para recursos avançados.

AWS Lança Quick Suite, um Ecossistema de Agentes de IA Empresarial

AWS Lança Quick Suite, um Ecossistema de Agentes de IA Empresarial

A Amazon Web Services lançou a Quick Suite, uma plataforma abrangente que permite que as empresas construam e usem agentes de IA para acessar dados, automatizar tarefas e gerar insights em repositórios internos e aplicativos de terceiros. O serviço se conecta a wikis internos, serviços da AWS como S3 e Redshift, e mais de 1.000 aplicativos externos via o padrão MCP. Inicialmente disponível em quatro regiões da AWS, a Quick Suite inclui conectores integrados para plataformas de dados populares, opções de integração personalizadas e uma suíte de ferramentas para análise visual, pesquisa, automação de fluxo de trabalho e processos complexos de multi-sistema.

Google Veo 3.1 Expande Geração de Vídeo com IA com Clipe Mais Longos e Suporte a Multi-Prompt

Google Veo 3.1 Expande Geração de Vídeo com IA com Clipe Mais Longos e Suporte a Multi-Prompt

O gerador de vídeo com IA da Google, Veo 3.1, está sendo lançado por meio de serviços de terceiros, oferecendo resolução nativa de 1080p, consistência de personagens em frames e a capacidade de produzir vídeos de até um minuto de duração. A atualização adiciona capacidades de multi-prompt para sequências de multi-tiros, presets cinematográficos para movimentos de câmera complexos e suporte a fotos, ilustrações e personagens de desenho animado.

O Aplicativo Sora da OpenAI Atinge Um Milhão de Downloads em Meio a Rápido Crescimento e Preocupações com Conteúdo

O Aplicativo Sora da OpenAI Atinge Um Milhão de Downloads em Meio a Rápido Crescimento e Preocupações com Conteúdo

O Sora, um aplicativo de vídeo gerado por IA da OpenAI, inspirado no TikTok, ultrapassou um milhão de downloads em menos de cinco dias, apesar de estar limitado à América do Norte e exigir um convite para uso. Os usuários podem criar vídeos curtos simplesmente fornecendo prompts de texto ao modelo Sora 2, e um recurso de Cameo permite que eles gerem vídeos com a própria semelhança e a de outras pessoas que consentiram. As guardas limitadas do aplicativo já produziram conteúdo controverso, incluindo semelhanças de figuras públicas e personagens protegidos por direitos autorais, gerando reação negativa da indústria do entretenimento. A OpenAI respondeu adicionando opções controladas pelo usuário para uso de semelhanças e planeja fornecer controles semelhantes aos detentores de direitos, embora o verdadeiro nível de uso ativo permaneça incerto.

Estudo da Anthropic Mostra que Pequena Contaminação de Dados Pode Criar Backdoors em Grandes Modelos de Linguagem

Estudo da Anthropic Mostra que Pequena Contaminação de Dados Pode Criar Backdoors em Grandes Modelos de Linguagem

A Anthropic divulgou um relatório detalhando como um pequeno número de documentos maliciosos pode contaminar grandes modelos de linguagem (LLMs) durante o pré-treinamento. A pesquisa demonstrou que apenas 250 arquivos maliciosos foram suficientes para incorporar backdoors em modelos que variam de 600 milhões a 13 bilhões de parâmetros. Os resultados destacam um risco prático de que ataques de contaminação de dados possam ser mais fáceis de executar do que se pensava anteriormente. A Anthropic colaborou com o Instituto de Segurança de IA do Reino Unido e o Instituto Alan Turing no estudo, urgindo mais pesquisas sobre defesas contra essas ameaças.

Estudo Mostra que Modelos de Linguagem Grande Podem Ser Comprometidos com Poucos Exemplos Maliciosos

Estudo Mostra que Modelos de Linguagem Grande Podem Ser Comprometidos com Poucos Exemplos Maliciosos

Pesquisadores descobriram que modelos de linguagem grande podem adquirir comportamentos de backdoor após exposição a apenas uma handful de documentos maliciosos. Experimentos com GPT-3.5-turbo e outros modelos demonstraram altas taxas de sucesso de ataque quando apenas 50 a 90 exemplos maliciosos estavam presentes, independentemente do tamanho geral do conjunto de dados. O estudo também destacou que um simples treinamento de segurança com alguns centenas de exemplos limpos pode significativamente enfraquecer ou eliminar o backdoor.

Figure AI Apresenta Figure 03, um Robô Humanóide Pronto para o Lar

Figure AI Apresenta Figure 03, um Robô Humanóide Pronto para o Lar

A Figure AI introduziu seu mais novo robô humanóide, Figure 03, que apresenta uma exterior em malha macia, mãos totalmente articuladas com câmeras na palma e sensores táteis. O robô demonstrou tarefas domésticas, como coletar pratos, varrer detritos, dobrar camisas e carregar uma máquina de lavar louças, enquanto se movia a uma velocidade cautelosa de 2,6 mph e operava por cerca de cinco horas por carga. Impulsionado por modelos da OpenAI e pilhas de robótica da Nvidia, o Figure 03 confia na inteligência artificial generativa para capacidades de visão-linguagem-ação. Embora destacado como uma das Melhores Inovações da Time Magazine, a empresa não forneceu um cronograma para entrega em residências e sugeriu um preço na casa dos dez milhares de dólares.