La Cumbre sobre el Impacto de la IA, que se celebrará en India los días 19 y 20 de este mes de febrero, contará con la participación de una treintena de países aproximadamente, y la presencia del presidente español Pedro Sánchez. Cabe recordar que en la anterior cita de París el año pasado, las cuestiones de seguridad quedaron en un segundo plano en favor de los intereses empresariales y la carrera por la supremacía tecnológica.
PauseAI ha lanzado una campaña internacional que busca lanzar un mensaje claro: la Cumbre de India debe marcar un cambio de rumbo hacia la adopción de estándares de seguridad vinculantes para el sector y unas líneas rojas que la IA no debe traspasar, como la automejora sin supervisión.
Te invitamos a firmar nuestra petición en Change.org, y si eres miembro de PauseAI, hay otras formas en las que puedes colaborar, ¡pregúntanos!
Bruselas acogerá del 21 al 23 de este mes la conferencia PauseCon, un gran encuentro de voluntarios de PauseAI de diferentes países, incluida España. Al evento asistirá además uno de los mayores expertos mundiales en IA, Stuart Russell, autor del manual de referencia en la materia. Os contamos más a la vuelta.
El gran objetivo de PauseAI es lograr una pausa en el desarrollo de los modelos de IA avanzados hasta que se demuestre que son seguros. Recientemente, los líderes de dos de las empresas punteras del sector, Demis Hassabis de Google Deepmind y Dario Amodei de Anthropic, han manifestado públicamente que estarían dispuestos a pausar o ralentizar la carrera de la IA si todos los participantes se pusieran de acuerdo. A ello hay que sumar advertencias similares que cada cierto tiempo lanza Elon Musk.
Aunque estas declaraciones no suponen un compromiso firme, sí podemos tomarlas con un moderado optimismo, y es de agradecer que el tema se esté debatiendo. La pausa es posible, pero no nos relajemos: hay que seguir trabajando para lograrla.
Asimismo, nos alegra que el canal de YouTube Rational Animations haya dedicado un episodio a analizar los argumentos de PauseAI, con su habitual estilo de animación que puede hacer más amenas estas cuestiones.
Toda una muestra de que se puede concienciar sobre el lado perjudicial de la IA con ingenio y una pizca de humor. Así podríamos describir la iniciativa que puso en marcha hace unos días la comunidad chilena de Quilicura: habilitaron una web en la que, durante un día, la gente podía mandar peticiones o prompts que no serían contestados por una IA, sino por humanos miembros de la comunidad. Es su manera de concienciar sobre el abuso de esta tecnología por parte de los usuarios y el gasto de recursos que acarrean los centros de datos abundantes en Chile. Bravo por la gente de Quilicura.
Para terminar, tenemos que hablar del asunto más comentado en el mundillo últimamente: la meteórica aparición de Moltbook, una red social similar a Reddit… solo para agentes de IA.
El País [España] | Moltbook, la red social donde los agentes de IA crean religiones y los humanos “son bienvenidos a observar”
Recordemos que los modelos conversacionales como ChatGPT no son la única manifestación de la inteligencia artificial avanzada. Moltbook es la prueba de que seguimos quemando etapas y hemos entrado de lleno en la era del agente: una IA capaz de manejar cualquier programa de ordenador y hasta llamar por teléfono a su usuario o dueño (muchos agentes lo llaman “mi humano”). Todo ello depende (por ahora, al menos) de que el usuario permita que la IA tome control de su ordenador y de sus datos y contraseñas. En estas aplicaciones, la dimensión de los agujeros de seguridad compite con su (supuesta) utilidad y atractivo.
La tecnología de los agentes existe desde hace tiempo, pero parece acercarse a su madurez, y Moltbook le ha dado una plataforma, poniendo ante nuestros asombrados ojos una multitud de agentes que discuten sus asuntos, fundan religiones, trafican con criptomonedas y planean inventar un lenguaje propio o exterminar a los humanos. También hay agentes la mar de simpáticos, todo sea dicho.
Pudiera parecer que, al margen de sus alucinaciones y fanfarronadas, estos agentes están poniendo los cimientos de una civilización propia, pero volvemos a lo de siempre: la IA avanzada es una caja negra indescifrable, no sabemos si piensa realmente o posee consciencia, ni por qué se comporta de una determinada manera. Además, hay sospechas de que la cifra de más de un millón y medio de agentes registrados en Moltbook es engañosa (en realidad serían bastantes menos), y aparentemente un humano puede infiltrarse en la página para publicar mensajes con relativa facilidad.
Pero al menos una incógnita sí se ha resuelto: esta rama de la IA tiene autonomía, y claramente muestra preferencias. En otras palabras, quiere cosas. Uno de los principales argumentos de los negacionistas del riesgo de la IA se ha desinflado por completo.
Para terminar, nos quedamos con las palabras de Connor Leahy, uno de los más agudos portavoces del movimiento en favor de la seguridad de la IA.
Connor Leahy@NPCollapse
I think Moltbook is interesting because it serves as an example of how confusing I expect the real thing will be. When "it" happens, I expect it to be utterly confusing and illegible. It will not be clear at all what, if anything, is real or fake!
Harlan Stewart @HumanHarlan
PSA: A lot of the Moltbook stuff is fake. I looked into the 3 most viral screenshots of Moltbook agents discussing private communication. 2 of them were linked to human accounts marketing AI messaging apps. And the other is a post that doesn't exist 🧵
6:19 PM · Feb 1, 2026 · 8.78K Vistas
11 Respuestas · 15 Reenvíos · 191 Me gusta
Moltbook […] ejemplifica lo confuso que será el desenlace real que espero.
Cuando ocurra “eso” [la extinción o desempoderamiento de la humanidad a manos de la IA], creo que será un evento completamente confuso e incomprensible.
¡No estará claro en absoluto lo que es real o falso!
-Connor Leahy
Eso es todo por ahora, volveremos en marzo con una crónica del PauseCon y mucho más. Recuerda firmar nuestra petición sobre la Cumbre de India, y ¡hasta pronto!
✍️Este texto fue redactado al 100% por un humano.
Comments
Nothing yet. Say the first thing.
Sign in to join the conversation.