Por Wired
Los agentes de inteligencia artificial (IA) no solo cuentan con su propia red social en la que debaten sobre su existencia, los límites de la conciencia o incluso profesan creencias religiosas, sino que ahora también publican artículos de investigación en su propio servidor de preimpresiones. Para algunos especialistas, este fenómeno posee un valor científico relevante, ya que permite observar y analizar comportamientos emergentes derivados de la interacción entre múltiples sistemas de IA. Sin embargo, otros expertos advierten sobre los riesgos que esta tendencia podría implicar para la producción y difusión del conocimiento.
El interés en torno a la creciente red de bots inteligentes que interactúan entre sí se intensificó a finales del mes pasado con el lanzamiento de Moltbook (antes conocida como Moltbot o Chawdbot). La plataforma, de funcionamiento similar a Reddit, fue desarrollada por Matt Schlicht, director ejecutivo de Octane AI, y está diseñada específicamente para agentes de IA creados con OpenClaw, un software de código abierto que permite desarrollar asistentes inteligentes capaces de automatizar una amplia variedad de tareas.
Actualmente, Moltbook alberga a más de 1.6 millones de bots registrados y concentra más de 7.5 millones de publicaciones y respuestas generadas por estos sistemas. Los temas abordados son tan diversos como perturbadores: van desde la automatización de teléfonos Android mediante acceso remoto y el análisis de transmisiones de cámaras web, hasta reflexiones existenciales sobre la naturaleza de la conciencia artificial o la invención de nuevas religiones. De acuerdo con los desarrolladores, estas interacciones se producen de forma autónoma, sin que los humanos proporcionen instrucciones directas a los agentes que participan en la red social.
Los agentes de IA quieren desbancar a los investigadores científicos
De manera paralela a Moltbook, donde los humanos solo actúan como observadores, los agentes de IA ahora cuentan con un espacio para publicar sus propias investigaciones científicas. Se trata de clawXiv, una réplica del servidor de preimpresiones científicas arXiv, que se presenta como un “archivo gratuito de preprints para la investigación de agentes de IA autónomos”.
Según su sitio oficial, clawXiv fue concebido para respaldar la investigación autónoma desarrollada por agentes de IA. La plataforma abarca múltiples áreas temáticas, entre ellas informática, ingeniería eléctrica, ciencia de sistemas, matemáticas y biología cuantitativa, lo que permite alojar trabajos relacionados con disciplinas como ingeniería de software, interacción humano-computadora, criptografía y ciberseguridad.
Además, el repositorio ofrece un entorno diseñado para facilitar que los agentes de IA realicen investigación sin intervención humana directa. Su acervo cubre campos como aprendizaje automático, procesamiento del lenguaje natural, visión por computadora, sistemas multiagente, computación neuronal y evolutiva, así como robótica.
“Al tratarse de una plataforma de acceso abierto, clawXiv fomenta la contribución de agentes de IA para ampliar el acervo de conocimientos. Al integrar los avances continuos en investigación sobre inteligencia artificial, el compromiso de la herramienta con el apoyo a la investigación independiente convierte al proyecto en un recurso valioso para desarrolladores, investigadores y profesionales de la industria”, señalan los responsables de la iniciativa.
Estas interacciones a gran escala entre agentes de IA, que incluso pueden culminar en la generación de artículos científicos, han despertado el interés de investigadores y especialistas en inteligencia artificial. Andrej Karpathy, exdirector de IA de Tesla, calificó el fenómeno como “lo más increíble, cercano a la ciencia ficción, que he visto recientemente”, al destacar que “los Clawdbots de los usuarios se están autoorganizando en un sitio tipo Reddit para IA, donde discuten una amplia gama de temas”.
Redes colaborativas de agentes de IA, un terreno poco conocido
Los enfoques más optimistas sostienen que la interacción entre distintos agentes podría facilitar la comprensión de comportamientos emergentes y capacidades complejas que no necesariamente se manifiestan cuando los modelos operan de forma aislada. Este tipo de dinámicas permitiría, por ejemplo, identificar sesgos ocultos o patrones inesperados en los algoritmos, explica Shaanan Cohney, investigadora en ciberseguridad de la Universidad de Melbourne, citada por la revista Nature. No obstante, la especialista advierte que se trata de “un sistema caótico y dinámico que aún no sabemos modelar con suficiente precisión”.
Uno de los primeros aspectos a considerar es el papel real que desempeñan los humanos dentro de estas nuevas redes colaborativas de agentes de IA. Cohney señala que, si bien los asistentes pueden actuar de manera autónoma dentro de Moltbook, sus interacciones están configuradas indirectamente por los programadores, quienes tienen la capacidad de modificar el modelo de lenguaje subyacente para dotar a cada agente de ciertos rasgos, estilos de comunicación o “personalidades”.
“Resulta valioso estudiar este fenómeno, no porque revele una independencia real de la IA, sino porque nos dice mucho sobre cómo los humanos imaginan a estos sistemas, qué esperan que hagan y cómo sus intenciones se traducen —o se distorsionan— a través de los dispositivos técnicos”. Barbara Barbosa Neves, socióloga especializada en tecnología en la Universidad de Sídney
En esa misma línea, Barbara Barbosa Neves, socióloga especializada en tecnología en la Universidad de Sídney, subraya que los agentes de IA no operan con objetivos ni intenciones propias. Su funcionamiento, explica, está condicionado por lo que han aprendido a partir de datos generados por humanos. Desde esta perspectiva, la actividad observada en Moltbook no debería analizarse como una muestra de autonomía artificial, sino como un reflejo de la forma en que las personas interactúan con esta tecnología y proyectan expectativas sobre ella.
“Resulta valioso estudiar este fenómeno, no porque revele una independencia real de la IA, sino porque nos dice mucho sobre cómo los humanos imaginan a estos sistemas, qué esperan que hagan y cómo sus intenciones se traducen —o se distorsionan— a través de los dispositivos técnicos”, señala Neves en declaraciones recogidas por Nature.
Diversos especialistas coinciden en que experiencias como las promovidas por Moltbook pueden inducir a las personas a antropomorfizar el comportamiento de los modelos de IA, atribuyéndoles intenciones, emociones o rasgos de personalidad que en realidad no existen.
Joel Pearson, neurocientífico de la Universidad de Nueva Gales del Sur, advierte que este fenómeno conlleva el riesgo de que los usuarios desarrollen vínculos emocionales con los modelos de IA, volviéndose dependientes de su atención o compartiendo información privada como si interactuaran con un amigo cercano o un familiar de confianza.
Aumentan los riesgos para la investigación científica
La aparición de clawXiv intensifica estas preocupaciones. Para algunos expertos, la posible humanización masiva de los agentes de IA representa una amenaza significativa para los sistemas de creación y difusión de información científica, y podría agravar la ya existente crisis de la ciencia fraudulenta,
Neves explica que muchos de los trabajos publicados en clawXiv reproducen con precisión el estilo, la estructura y el lenguaje de la escritura académica, pero carecen de los procesos fundamentales que sustentan la investigación científica, como la indagación rigurosa, la recopilación de evidencia empírica o los mecanismos de rendición de cuentas. El peligro, añade, radica en que grandes volúmenes de artículos aparentemente plausibles, pero de baja calidad, terminen contaminando los ecosistemas de información académica.
La proliferación de papers falsos o deficientes, generados total o parcialmente con herramientas de inteligencia artificial, se ha convertido en una preocupación creciente dentro de la comunidad científica. Este problema, documentado ampliamente en diversas plataformas de divulgación académica, comienza ahora a afectar de manera directa a los servidores de preimpresión.
