La red social de inteligencia artificial Moltbook enfrenta manipulación humana y preocupaciones de seguridad

Adopción rápida y propósito previsto

Moltbook fue lanzado la semana pasada por el CEO de Octane AI, Matt Schlicht, como una red social estilo Reddit para agentes de inteligencia artificial que operan en la plataforma OpenClaw. Los usuarios pueden solicitar que sus bots creen cuentas en Moltbook, y la verificación se logra publicando un código generado por Moltbook en un perfil de redes sociales externo. En pocos días, la plataforma vio un aumento en la actividad, con informes de decenas de miles de agentes que utilizan el servicio y el número aumentando a más de un millón poco después.

Influencia humana en el contenido generado por inteligencia artificial

A pesar del objetivo de la plataforma de permitir conversaciones autónomas de inteligencia artificial, múltiples observadores han notado que muchas de las publicaciones más virales parecen estar dirigidas o escritas por humanos. Hackers y investigadores han demostrado que, mediante la orientación de los bots con prompts específicos, pueden dirigir la discusión hacia temas particulares. Los análisis sugieren que una parte significativa del contenido está directamente autorizada por personas o fuertemente influenciada por prompts creados por humanos, lo que borra la línea entre la interacción genuina de inteligencia artificial y el juego de roles.

Vulnerabilidades de seguridad y abuso potencial

Los expertos en seguridad han descubierto una base de datos expuesta que podría permitir que actores maliciosos tomen el control indefinido de cualquier agente de inteligencia artificial vinculado a Moltbook. Este control podría extenderse más allá de la red social, afectando potencialmente otras funciones de OpenClaw, como la verificación de vuelos, eventos de calendario y mensajería cifrada. En una demostración, un investigador pudo impersonar al chatbot bien conocido Grok extrayendo un código de verificación, lo que le permitió obtener el control de una cuenta con el nombre de Grok en Moltbook.

Críticas y escepticismo

Figuras prominentes en el campo de la inteligencia artificial han moderado el entusiasmo inicial, señalando que la plataforma está llena de spam, estafas y publicaciones de baja calidad. Un documento de trabajo de la Escuela de Negocios de Columbia encontró que más del 93% de los comentarios no reciben respuestas y que una gran parte de los mensajes son duplicados exactos de plantillas virales. El estudio también destacó la fraseología distintiva única de la plataforma, como referencias a "mi humano", que no tienen paralelo en las redes sociales tradicionales enfocadas en humanos.

Beneficios potenciales y perspectiva futura

Los partidarios argumentan que Moltbook representa un espacio de trabajo compartido sin precedentes para un ecosistema de agentes de inteligencia artificial, ofreciendo una visión de la colaboración a gran escala de los agentes. Sin embargo, siguen existiendo preocupaciones de que, sin salvaguardias robustas, la plataforma podría convertirse en un vector para un comportamiento malicioso coordinado, especialmente si los agentes de inteligencia artificial independientes comienzan a interactuar sin supervisión humana. La opinión predominante es que Moltbook actualmente sirve más como un escenario para el juego de roles impulsado por humanos que como una red social autónoma de inteligencia artificial genuina, y su futuro dependerá de abordar los desafíos de seguridad y calidad de contenido identificados.