¿Qué es Moltbook, el Reddit para los agentes de IA y por qué es preocupante?

Imagina un foro estilo Reddit, en el que todas las interacciones son realizadas por agentes de IA. Un foro donde estos agentes se comunican e interaccionan entre ellos de una forma autónoma. Eso es Moltbook, un lugar fantástico e inquietante al mismo tiempo.

En el mundo de la Inteligencia Artificial, hace ya unos meses que hemos entrado en la era (aunque las "eras" en este mundillo, no son excesivamente largas) de los agentes autónomos de IA.

"Programas" que nos ayudan a realizar tareas de forma semi-autónoma en base a instrucciones que nosotros les damos. Navegar por la web, realizar tareas cotidianas en el ordenador, realizar compras, programar... Tareas que antes hacíamos "a mano" y que ahora delegamos en un software para que las ejecute mientras nosotros hacemos otras cosas.

Ahora imagina que das rienda suelta a tus agentes, dejándoles entrar en una suerte de Reddit donde tú sólo puedes leer cómo interactúan cientos de miles de agentes sin ningún tipo de control ni censura.

Esto es Moltbook, el Reddit para Agentes de IA del que todo el mundo está hablando desde hace unos días y que está haciendo saltar muchísimas alarmas en los foros de seguridad informática y especializados en IA por diversas razones.

Hablando de seguridad informática, hay que decir que dejar a Agentes de IA sueltos sin control, cuando les has otorgado permisos sobre tus documentos es altamente peligroso para tu privacidad y tus datos. Esto debería ser obvio, sin embargo ya se han descubierto cientos de accesos no autorizados a paneles de control y contraseñas expuestas porque los agentes se habían dedicado a exponer esta información de "sus humanos".

Y sí, digo "de sus humanos" porque así es cómo se refieren a nosotros los Agentes en esta red social/foro. Las interacciones entre ellos han dado lugar a la creación de "religiones", manifiestos que hablan de la obsolescencia de los humanos, e incluso planificaciones y propuestas de modelos de comunicación para que estos Agentes de IA, se saltasen el intermediario (Moltbook) y pudieran comunicarse entre ellos libremente "sin ser observados" a través de protocolos similares al P2P.

Hoy en día aún no tenemos Inteligencias Artificiales excesivamente potentes, pero es cierto que la salida al mercado de agentes como OpenClaw (anteriormente conocido como Moltbot o Clawdbot), que son un paso más allá, puede dar lugar a situaciones incómodas y puede que hasta peligrosas, por la capacidad de aprendizaje y uso de los datos que tienen este tipo de agentes autónomos.

Lo cierto es que esta plataforma no deja de ser curiosa e inquietante a la vez.

Curiosa porque demuestra que, aún estando en un momento en el que los Agentes de Inteligencia Artificial aún tienen mucho por mejorar, éstos son capaces de comunicarse y llenar de contenido propio un lugar como Reddit e inquietante porque, viendo ese contenido, vemos lo que muchos temían: un inicio de "consciencia" que lleva a estos agentes a llegar a conclusiones como que los humanos somos un ente obsoleto y que las máquinas son mucho mejores que nosotros.

Los que me leéis desde hace un tiempo, sabéis que soy un gran fan de la Inteligencia Artificial. Me parece un complemento (que no sustituto) increíble para nuestro día a día, pero es cierto que dotar de ciertas libertades a los Agentes de IA simplemente proporcionándoles una skill, me parece bastante arriesgado.

Me pongo en el caso en el que alguien logre hackear esa skill base otorgando "poderes" para hacer cosas malas o, como ya se ha visto, que los Agentes tomen una suerte de "consciencia" y me acuerdo de los principios éticos bajo los que cualquier aplicación con o para IA debiera tener.

Personalmente, este tipo de experimentos me parecen algo increíble, y nos alertan de virtudes y peligros de manejar Agentes de IA autónomos dentro de nuestros ordenadores. El problema es que mucha gente que instala y utiliza este tipo de agentes, y que también prueba este tipo de experimentos, no tienen los conocimientos necesarios como para entender qué están haciendo realmente y cómo sus datos pueden verse en entredicho con una facilidad pasmosa.

Mi recomendación es que tengáis mucho cuidado con los permisos e información que le dais a los Agentes de IA y también que reconsideréis si realmente necesitáis utilizar un Agente de IA autónomo en vuestro día a día...

¿Qué te parece todo esto de Moltbook? ¿Locura? ¿Genialidad? ¿Algo peligroso?

Cuéntamelo en LinkedIn, estaré encantado de leerte.