La constitución política de la IA empieza a tomar forma

👋 Hola,

Bienvenido a Sintetika, nuestro newsletter semanal sobre futuro, innovación, tecnología y la construcción de la sociedad del mañana.

🧐 En esta edición encontrarás:

• La constitución política de la IA empieza a tomar forma

• OpenAI pide desechar la demanda de Apple por secretos comerciales

• OpenAI frena parte del desarrollo de Astra por sus capacidades para ciberataques

• Qwen ya compite con los mejores modelos estadounidenses, pero no ha superado a Claude en todo

• OpenAI ya presentó documentos para salir a bolsa, pero podría esperar hasta 2027

“La ambición debe contrarrestar a la ambición.”
— James Madison, The Federalist No. 51 (1788)

Mark Zuckerberg publicó el 10 de agosto del 2026 The Future is for Everyone, un ensayo de unas 6,500 palabras sobre el porvenir de la inteligencia artificial. Había adelantado la tesis del texto dos semanas antes en The Wall Street Journal: la superinteligencia llegará, será más capaz que nosotros y la cuestión decisiva será quién tenga acceso a ella.

Meta publicó el texto de Zuckerberg con algunos movimientos corporativos que no parecen casualidad: anuncios sobre nuevos modelos y un fondo de 1,000 millones de dólares para las comunidades donde construye centros de datos. Zuckerberg, inteligentemente, está explicando qué quiere construir, mientras da ejemplos de las reglas bajo las cuales esa construcción debería ser juzgada.

Las primeras reacciones muestran ya cuestionamientos hacia el ensayo. Anthony Aguirre, del Future of Life Institute, cuestionó que distribuir sistemas cada vez más poderosos resuelva el riesgo de perder el control sobre ellos (una de las propuestas). Fight for the Future, una organización favorable a las tecnologías abiertas, planteó otro problema: que distribuir una tecnología diseñada alrededor de Meta no necesariamente equivale a distribuir poder (otra propuesta que se puede inferir del texto, aunque no está explícitamente dicha así en el texto).

Conviene entender entonces primero la propuesta, para no asumir que todo mundo la ha leído (o que le interesa leerla íntegramente); preparamos un resumen de los postulados más importantes, para tener una base común sobre la que podemos hacer un análisis:

• La superinteligencia llegará y debe ser para todos. No debería quedar reservada a gobiernos, empresas o laboratorios.

• Agentes personales. Conocerían objetivos, salud, trabajo, finanzas y preferencias para actuar continuamente en favor de sus usuarios.

• Inventar antes que automatizar. La mayor aportación de la IA sería ampliar lo que cada persona puede crear, no reemplazar lo que cada quien ya hace.

• Empresas más pequeñas, quizá más empleo. Equipos minúsculos, amplificados por IA, podrían operar a escalas antes reservadas a corporaciones.

• Seguridad mediante equilibrio de poder. Muchas superinteligencias, distribuidas entre individuos e instituciones, podrían limitarse entre sí para que ninguna domine.

• Riesgo sin clausura. Reconoce amenazas en ciberseguridad, biología y vigilancia, pero prefiere reforzar defensas antes que restringir las capacidades de los modelos de forma general.

• Infraestructura y liderazgo estadounidense. Estados Unidos necesita energía, chips, centros de datos y velocidad regulatoria para no perder la carrera.

• Control frente a la auto-mejora. El documento contempla un escenario futuro en el que sistemas de IA puedan participar autónomamente en la mejora de sus propias capacidades y obtener, por esa vía, una ventaja extraordinaria sobre otros sistemas.

La primera conclusión es que la palabra que organiza el ensayo no es, en realidad, superintelligence, aunque ése sea su asunto explícito. Es “poder”.

Zuckerberg no lo menciona, pero parece abrevar de pensadores que, desde la política y la economía, intentaron regular aspectos que son anteriores a Silicon Valley. James Madison, el “padre de la Constitución de Estados Unidos”, por ejemplo, desconfiaba de cualquier sistema que dependiera de la virtud del gobernante. En Federalist No. 51 dejó una fórmula que parece vigente: “Ambition must be made to counteract ambition”. El poder necesita otro poder enfrente.

Zuckerberg intenta trasladar esa lógica a las máquinas. Hay también algo del economista y filósofo Friedrich Hayek: ninguna autoridad posee todo el conocimiento disperso en una sociedad ni puede decidir por todos qué constituye una buena vida. El ensayo de Zuckerberg insiste persistentemente en que es mejor tener muchas inteligencias obedeciendo a los intereses de muchos individuos que una sola inteligencia obedeciendo los intereses y creencias de una élite.

El texto de Zuckerberg está cuidadosamente construido y resulta, por momentos, convincente, pero no está libre de grietas argumentales.

Madison, por ejemplo, repartía autoridad y poder mediante instituciones. Zuckerberg quiere repartirla mediante herramientas.

Dar a dos personas acceso al mismo modelo no las vuelve igualmente poderosas, como parece asumir el ensayo. Una puede disponer de más dinero, energía, datos, influencia política y, sobre todo, más cómputo. La igualdad de acceso amplía oportunidades; no garantiza igualdad de poder.

Internet, de hecho, había generado posturas similares en sus inicios, y con ellas vinieron varios aprendizajes: distribuyó capacidades a una escala sin precedentes, pero eso no impidió que, sobre esa misma infraestructura abierta, surgieran algunas de las mayores concentraciones privadas de poder de nuestra época. Meta es una de ellas.

La paradoja se vuelve más notoria cuando Zuckerberg describe a los agentes personales basados en IA. Esa tecnología sabría qué queremos, cómo dormimos, cómo trabajamos, cuáles son nuestras finanzas y qué ocurre en nuestras relaciones. Esa tecnología podría aumentar nuestra autonomía. Y también podría convertirse en la interfaz más íntima que una corporación haya construido con una persona.

La propuesta viene de una empresa con un historial ampliamente documentado de controversias y sanciones relacionadas con la privacidad. Zuckerberg, no obstante, es cuidadoso ahí y promete para ese agente un modo privado en el que ni siquiera Meta pueda acceder a la información del usuario.

Hay otra tensión. Zuckerberg habla de inteligencia abundante mientras reconoce que el cómputo seguirá siendo finito. Si la capacidad más poderosa depende de chips, electricidad y centros de datos, alguien deberá asignarla. Tal vez todos tengamos superinteligencia. Pero nada garantiza que todos dispongamos de la misma cantidad, durante el mismo tiempo o al mismo precio. El producto se democratiza, pero los insumos siguen concentrándose en pocos.

La teoría de los contrapesos entre distintas superinteligencias enfrenta una dificultad aún mayor. Supone que democratizar una capacidad peligrosa puede generar equilibrio: si existe una IA capaz de atacar sistemas informáticos, despleguemos para todos otras capaces de defenderlos; si alguien tiene un abogado superinteligente, que todos tengan uno para que la impartición de justicia no sea tema de recursos.

En algunos ámbitos puede funcionar. En otros, ¿la defensa avanzará tan rápido como el ataque?

El International AI Safety Report 2026, elaborado con la participación de más de cien especialistas, mantiene entre sus riesgos relevantes tanto el uso malicioso como los escenarios de pérdida de control, aunque insiste también en la considerable incertidumbre que todavía existe alrededor de la supuesta pérdida de control de tecnologías de inteligencia artificial.

Zuckerberg conoce ese abismo. Se nota cuando llega al famoso recursive self-improvement, es decir, cuando una IA pueda participar autónomamente en la mejora de sus propias capacidades.

Él imagina una IA capaz de mejorar su propia eficiencia hasta extraer muchísimo más rendimiento de la misma infraestructura. Por ejemplo, multiplicar su capacidad de entregar resultados sin que eso signifique multiplicar el consumo de energía. En su escenario extremo, un sistema podría terminar acumulando una ventaja efectiva superior a la de sus competidores combinados. Pero ¿no es exactamente el tipo de concentración que su filosofía pretende evitar?

Y allí surge una dificultad que el ensayo no resuelve: los contrapesos necesitan tiempo. Tiempo para diseñarlos, para construirlos, para probarlos.

¿Qué ocurre si una inteligencia acumula ventaja más deprisa que la posibilidad de que otros construyan una respuesta?

Por eso The Future is for Everyone no es una predicción sobre la superinteligencia, sino un posicionamiento sobre el significado de la palabra “seguridad” en una era donde la IA asume cada vez más operaciones antes realizadas exclusivamente por humanos.

Una parte del debate sobre IA ya ha abordado la seguridad como control de capacidades: saber qué puede hacer un sistema, contener determinados usos, evaluar riesgos antes de desplegar modelos demasiado poderosos. En otros términos: capacidades, uso malicioso, salvaguardas y posibles escenarios de pérdida de control.

Zuckerberg desplaza esa definición. Para él, concentrar esas capacidades en pocas organizaciones también es peligroso. Un modelo retenido por una institución puede ser más amenazante que uno distribuido porque implica que unos pocos deciden por el resto del mundo. Una restricción concebida como protección puede terminar funcionando como mecanismo de concentración de poder.

La diferencia es política.

Si aceptamos la primera definición, limitar determinadas capacidades puede parecer prudente. Si aceptamos la segunda, las mismas restricciones pueden parecer autoritarias y peligrosas. La misma solución puede generar problemas distintos.

Meta ya compite por modelos, talento, chips y centros de datos. Zuckerberg acaba de abrir otra competencia, hasta ahora poco visible: la que decidirá con qué vocabulario juzgaremos todo lo anterior.

La superinteligencia todavía no existe en la forma que él describe.

Su constitución ya está siendo escrita.

OpenAI pidió a un juez federal de Estados Unidos que desestime la demanda presentada por Apple en julio, en la que la compañía del iPhone acusa al fabricante de ChatGPT y a dos exempleados de haberse apropiado de secretos comerciales para acelerar el desarrollo de nuevos dispositivos de consumo. OpenAI sostiene que Apple no identificó de manera suficientemente precisa cuáles serían esos secretos ni demostró que hubieran sido utilizados.

La respuesta legal es inusualmente agresiva. OpenAI afirma que no necesita información confidencial de Apple porque está desarrollando productos “enteramente nuevos” y acusa a su antiguo socio de utilizar una demanda “infundada” para compensar sus problemas para retener talento y sus dificultades para integrar inteligencia artificial en sus propios productos. Apple sostiene, por el contrario, que OpenAI aprovechó conocimientos obtenidos de exempleados y relaciones con proveedores para acelerar sus planes de hardware.

El enfrentamiento convierte en rivales a dos compañías que todavía mantienen una alianza: ChatGPT sigue integrado con Siri y otros servicios de Apple. Pero la disputa va más allá de los secretos industriales. Ambas compañías están preparando una generación de dispositivos y asistentes de IA que podría reducir la dependencia de las aplicaciones y del propio smartphone como centro de la vida digital.

OpenAI restringió parte del trabajo interno con Astra, uno de sus próximos modelos, después de que evaluaciones preliminares detectaran avances importantes en programación autónoma y ciberseguridad. La compañía dice que todavía no puede descartar que el sistema haya alcanzado el nivel “Critical” de su Preparedness Framework, el umbral de riesgo más alto previsto para capacidades cibernéticas.

OpenAI no ha confirmado que Astra ya pueda crear exploits de día cero de forma autónoma. Un exploit de día cero es una técnica que aprovecha una vulnerabilidad de software que todavía no ha sido corregida y que, muchas veces, ni siquiera es conocida por el fabricante; se llama “día cero” porque los desarrolladores han tenido cero días para preparar una defensa o parche.

Open AI afirma es que sus resultados son suficientemente fuertes para no excluir esa posibilidad.

OpenAI pausó las actividades internas que todavía no cumplen con nuevos controles reforzados, está usando entornos aislados, acceso restringido a redes y herramientas, protección adicional de los pesos del modelo y monitoreo continuo. También anunció que trabajará con agencias gubernamentales y organizaciones externas de seguridad antes de cualquier despliegue. Astra no está cancelado: su desarrollo continúa bajo un régimen de seguridad más estricto y su posible lanzamiento podría retrasarse.

Alibaba presentó Qwen3.8-Max, su modelo más grande hasta ahora, con 2.4 billones de parámetros. Tras su lanzamiento ascendió rápidamente en Arena.AI, una plataforma donde usuarios comparan respuestas de modelos sin conocer inicialmente cuál las produjo. Qwen3.8-Max se convirtió en el modelo chino mejor colocado en la clasificación de texto y Alibaba subió 7% en la bolsa de Hong Kong el día del anuncio.

En la clasificación de texto de Arena.AI quedó por encima de los modelos de OpenAI disponibles allí, pero por debajo de Claude Fable 5 y de tres variantes de Claude Opus. En evaluación multimodal (texto combinado con imágenes y otros contenidos visuales) alcanzó el segundo puesto mundial, nuevamente detrás de una variante de Claude Fable 5.

Lo significativo es que la distancia entre los principales sistemas chinos y estadounidenses se ha reducido mucho. Qwen3.8-Max admite hasta un millón de tokens de contexto y utiliza una arquitectura mixture-of-experts: aunque contiene 2.4 billones de parámetros, activa alrededor de 95,000 millones para cada tarea, lo que reduce el costo computacional.

La Oferta Pública Inicial de OpenAI dejó de ser solamente una posibilidad. La compañía confirmó el 8 de junio que presentó confidencialmente ante la SEC un borrador del formulario S-1, el documento que inicia formalmente el proceso para una salida a bolsa en Estados Unidos. Reuters reportó que OpenAI ha considerado una valoración de hasta un billón de dólares (un millón de millones), aunque la compañía no ha anunciado precio, tamaño de la oferta ni fecha definitiva.

En junio, Sam Altman comunicó internamente que esperaba que la empresa pudiera cotizar “dentro del próximo año”, pero dejó abierta la posibilidad de adelantar o retrasar el proceso. La propia OpenAI explicó que existen decisiones que podría resultar más sencillo tomar mientras continúa siendo una empresa privada.

Los últimos reportes fiables no apuntan a una aceleración inequívoca de la OPI. El 25 de junio, Reuters recogió información de The New York Times según la cual OpenAI estaba considerando esperar hasta 2027 para preservar su aspiración de alcanzar una valoración cercana al billón de dólares, en lugar de salir antes con una valoración inferior.

Gracias por leer Sintetika, el newsletter que te explica el futuro con profundidad y contexto.