Fundador do Signal Integra Plataforma de IA Encrypted com Meta
Pontos principais
- Moxie Marlinspike, fundador do Signal, está integrando sua plataforma de IA criptografada Confer com o Meta AI.
- A Confer visa fornecer criptografia de ponta a ponta para conversas de chat de IA, protegendo os dados contra empresas, hackers, intimações e governos.
- A integração manterá a Confer independente enquanto sua tecnologia subjaz aos serviços de IA da Meta.
- O chefe do WhatsApp, Will Cathcart, destacou a necessidade de IA privada em contextos pessoais e confidenciais.
- Pesquisadores como Mallory Knodel e JP Aumasson elogiaram a iniciativa como um passo importante para chatbots de IA privados.
- A tecnologia da Confer é construída em modelos de peso aberto, oferecendo privacidade enquanto trabalha com os modelos avançados de código fechado da Meta.
- A colaboração poderia estabelecer um novo padrão para interações de IA criptografadas em plataformas principais.
Moxie Marlinspike, criador do Signal e seu protocolo de criptografia, anunciou que sua plataforma de IA focada na privacidade, Confer, incorporará sua tecnologia ao Meta AI. A colaboração visa fornecer criptografia de ponta a ponta para conversas de chat de IA, protegendo os dados dos usuários contra empresas de IA, hackers, intimações e governos.
Contexto
Moxie Marlinspike, conhecido por criar o aplicativo de mensagens seguras Signal e seu protocolo de criptografia de código aberto amplamente utilizado, apresentou uma nova plataforma de IA centrada na privacidade chamada Confer no início deste ano. A plataforma é projetada para fornecer o poder da IA gerativa enquanto protege as conversas com criptografia de ponta a ponta.
Integração com Meta AI
Marlinspike anunciou que a tecnologia de criptografia da Confer será integrada ao Meta AI. Ele explicou que os serviços de chat de IA atuais carecem de criptografia, permitindo que os dados sejam acessados por empresas de IA, funcionários, hackers, intimações e governos. Ao incorporar a camada de privacidade da Confer, as conversas do Meta AI poderiam se tornar privadas, impedindo que os dados sejam usados para treinamento de modelos ou outros fins.
Detalhes da Colaboração
Marlinspike enfatizou que a Confer permanecerá independente da Meta, mesmo enquanto sua tecnologia subjaz ao Meta AI. Ele descreveu o objetivo como dar aos usuários "o pleno poder da IA junto com a plena privacidade de uma conversa criptografada". A parceria se baseia no trabalho de Marlinspike em 2016, quando ele ajudou a implementar a criptografia de ponta a ponta para o WhatsApp, um serviço de propriedade da Meta que recentemente adicionou um chatbot do Meta AI.
Reações da Indústria
Will Cathcart, chefe do WhatsApp, destacou a importância da IA privada para casos de uso pessoais e confidenciais. A pesquisadora de criptografia Mallory Knodel, da Universidade de Nova York, chamou o desenvolvimento de "ótimo para as pessoas que usam chatbots que usam o Meta AI para ter confidencialidade e privacidade dentro dessa troca", observando que a Meta não poderia acessar os dados de chat para treinamento. JP Aumasson, diretor de segurança da Taurus, chamou a Confer de "provavelmente a melhor solução de IA privada, considerando todos os aspectos", enquanto reconhecia que a documentação e o modelagem de ameaças ainda são limitadas.
Considerações Técnicas
A tecnologia da Confer é construída em modelos de peso aberto, permitindo que os usuários se beneficiem de uma ampla gama de tarefas enquanto falta algumas capacidades dos modelos de fronteira proprietários. A colaboração dá a Marlinspike a oportunidade de trabalhar diretamente com os modelos de código fechado da Meta, potencialmente combinando a tecnologia de chat de IA mais privada com os modelos de IA mais capazes disponíveis.
Perspectiva
Os pesquisadores veem a parceria como um passo significativo em direção à adoção mais ampla da IA criptografada, embora eles destaquem que a solução ainda não é perfeita. O esforço demonstra como os conceitos de computação confiável, datados da década de 1990, podem ser aplicados à IA gerativa moderna para proteger a privacidade do usuário. Se bem-sucedida, a integração poderia estabelecer um novo padrão para interações de IA privadas em plataformas principais.