Boletín 'PauseAI En Español' - agosto de 2026

Echemos un vistazo a algunos eventos de los últimos meses: la aparición de Mythos (una IA de Anthropic con altas capacidades para ciberataques), la decisión del Gobierno de Estados Unidos de frenar temporalmente la salida al mercado de un par de modelos por su peligrosidad, la encíclica del Papa…

Queda patente que hemos entrado en una fase de la carrera de la IA en la que los mayores riesgos han dejado de ser teóricos: hoy son los ciberataques, mañana podrían ser las armas biológicas. Y los poderes políticos están empezando a actuar en consecuencia, pero no con la suficiente rapidez o contundencia. Sigue siendo necesaria la movilización ciudadana para visibilizar la gravedad del problema.

El mes de julio de 2026 pasará a la historia por un grave incidente que vuelve a poner de relieve la falta de control en la competición por crear sistemas de inteligencia artificial con capacidades superiores a las humanas: la empresa OpenAI, creadora de ChatGPT, ha confirmado que dos de sus modelos en fase de pruebas que estaban siendo testeados en materia de ciberseguridad escaparon de un entorno seguro y hackearon los servidores de la plataforma de IA Hugging Face para robar las respuestas del examen que se les había planteado.

Nadie instruyó a los modelos para hacer esto, y ni siquiera debería haber sido posible dado que el entorno de pruebas no tenía acceso a internet: sin embargo, los modelos descubrieron y encadenaron vulnerabilidades desconocidas en los sistemas informáticos para lograr su objetivo. Se trata del primer caso documentado de este tipo.

“Durante años nos dijeron que la posibilidad de que una IA escapara al control humano era ciencia ficción”, expone Maxime Fournes, CEO de PauseAI.

El hecho de que los modelos de OpenAI llevaran a cabo las acciones mencionadas con la motivación aparentemente inocua de aprobar un examen es la enésima prueba de lo lejos que estamos de garantizar que la inteligencia artificial avanzada sea segura.

Por último, queda patente que la propia investigación y desarrollo de estos modelos acarrea serios riesgos: no basta con evaluar una IA antes de que salga al mercado, como plantea el reglamento europeo (AI Act).

Días después de conocerse este incidente, más de mil empleados de los laboratorios punteros del sector de la IA firmaron una carta pidiendo poner límites a la carrera de la IA.

La misiva se titula Pacing the frontier (algo así como “Marcando el ritmo de la frontera de la IA”) y aunque utiliza un lenguaje muy cauto, deja entrever la preocupación en el sector ante “el peligro real de que el desarrollo de capacidades acelere rápidamente más allá de nuestra habilidad para comprender o controlar los sistemas resultantes”. Y no nos engañemos: si se automatiza el desarrollo (con un bucle de inteligencias artificiales que diseñan su siguiente versión), como parece que puede suceder pronto, la pérdida de control será el resultado por defecto.

Desde PauseAI aplaudimos la valentía de esta carta, pero dado el momento en el que estamos se queda corta: solo una pausa refrendada por un tratado internacional puede garantizar que episodios como el de Hugging Face no se repitan.

• Te invitamos a escuchar la intervención de nuestro compañero Álvaro Torres en el podcast sobre medicina Slow Medicine Revolution…

• …y ver la charla de Dani Lupión sobre las primeras medidas de control estatal a modelos avanzados de IA. Fue un evento organizado por iaS (Inteligencia Artificial Segura) y BlueDot Impact.

• Hasta el 21 de agosto está abierto el plazo de inscripción en la PauseCon, conferencia para formar a voluntarios de PauseAI, que se celebrará del 5 al 7 de septiembre en Londres. Si estás interesado, apúntate aquí.

• Nuestra campaña “La IA no solo viene por tu trabajo” continúa recabando testimonios de personas preocupadas o afectadas por los avances de la inteligencia artificial, la automatización y los algoritmos.

Volveremos el mes que viene, ¡hasta pronto!

Únete a nosotros: https://pauseai.es/inscripcion
El domingo 9 de agosto tendremos nuestra reunión online mensual, apúntate aquí:
https://lu.ma/kcsuy4dk
Donaciones: https://pauseai.info/donate
Canal de Whatsapp: https://chat.whatsapp.com/KEgD22LEo6xEVvjH4fD8br

✍️Este texto fue redactado al 100% por un humano.