Fundador de Signal integra plataforma de IA encriptada con Meta
Puntos clave
- Moxie Marlinspike, fundador de Signal, está integrando su plataforma de IA encriptada Confer con Meta AI.
- Confer busca proporcionar encriptación de extremo a extremo para conversaciones de chat de IA, protegiendo los datos de las empresas, hackers, citaciones judiciales y gobiernos.
- La integración mantendrá a Confer independiente mientras su tecnología sustenta los servicios de IA de Meta.
- El jefe de WhatsApp, Will Cathcart, destacó la necesidad de IA privada en contextos personales y confidenciales.
- Los investigadores Mallory Knodel y JP Aumasson elogiaron la iniciativa como un paso importante hacia los chatbots de IA privados.
- La tecnología de Confer se basa en modelos de peso abierto, ofreciendo privacidad mientras trabaja con los modelos avanzados de Meta.
- La colaboración podría establecer un nuevo estándar para las interacciones de IA encriptadas en las principales plataformas.
Moxie Marlinspike, el creador de Signal y su protocolo de encriptación, anunció que su plataforma de IA enfocada en la privacidad, Confer, incorporará su tecnología en Meta AI. La colaboración busca proporcionar encriptación de extremo a extremo para conversaciones de chat de IA, protegiendo los datos de los usuarios de las empresas de IA, hackers, citaciones judiciales y gobiernos. Los investigadores elogiaron el esfuerzo como un paso importante hacia los chatbots de IA privados, mientras señalan que la solución todavía está en evolución. El movimiento podría llevar interacciones de IA encriptadas a millones de usuarios en los servicios de Meta.
Antecedentes
Moxie Marlinspike, conocido por crear la aplicación de mensajería segura Signal y su protocolo de encriptación de código abierto ampliamente utilizado, presentó una nueva plataforma de IA centrada en la privacidad llamada Confer a principios de este año. La plataforma está diseñada para brindar el poder de la IA generativa mientras protege las conversaciones con encriptación de extremo a extremo.
Integración con Meta AI
Marlinspike anunció que la tecnología de encriptación de Confer se integrará en Meta AI. Explicó que los servicios de chat de IA actuales carecen de encriptación, lo que permite que los datos sean accesados por las empresas de IA, empleados, hackers, citaciones judiciales y gobiernos. Al integrar la capa de privacidad de Confer, las conversaciones de Meta AI podrían volverse privadas, evitando que los datos se utilicen para el entrenamiento de modelos o otros fines.
Detalles de la colaboración
Marlinspike enfatizó que Confer permanecerá independiente de Meta, incluso mientras su tecnología sustenta los servicios de IA de Meta. Describió el objetivo como dar a los usuarios "el poder total de la IA junto con la privacidad total de una conversación encriptada". La asociación se basa en el trabajo anterior de Marlinspike en 2016, cuando ayudó a implementar la encriptación de extremo a extremo para WhatsApp, un servicio propiedad de Meta que recientemente agregó un chatbot de Meta AI.
Reacciones de la industria
Will Cathcart, jefe de WhatsApp, destacó la importancia de la IA privada para casos de uso personales y confidenciales. La investigadora de criptografía Mallory Knodel de la Universidad de Nueva York calificó el desarrollo como "genial para las personas que utilizan chatbots que utilizan Meta AI para tener confidencialidad y privacidad dentro de ese intercambio", señalando que Meta no podría acceder a los datos de chat para el entrenamiento. JP Aumasson, director de seguridad de Taurus, calificó a Confer como "probablemente la mejor solución de IA privada, considerando todo", mientras reconoce que la documentación y el modelado de amenazas todavía son limitados.
Consideraciones técnicas
La tecnología de Confer se basa en modelos de peso abierto, lo que permite a los usuarios beneficiarse de una amplia gama de tareas mientras carecen de algunas capacidades de los modelos fronterizos propietarios. La colaboración da a Marlinspike la oportunidad de trabajar directamente con los modelos de código cerrado de Meta, combinando potencialmente la tecnología de chat de IA más privada con los modelos de IA más capaces disponibles.
Perspectiva
Los investigadores ven la asociación como un paso significativo hacia la adopción más amplia de la IA encriptada, aunque enfatizan que la solución todavía no es perfecta. El esfuerzo demuestra cómo los conceptos de computación de confianza, que datan de la década de 1990, pueden aplicarse a la IA generativa moderna para proteger la privacidad del usuario. Si tiene éxito, la integración podría establecer un nuevo estándar para las interacciones de IA privadas en las principales plataformas.