Los límites de la IA y el ingenio humano

Karl Popper dejó escrito en La miseria del historicismo un argumento que parece un juego y termina siendo un teorema. El curso de la historia humana depende del crecimiento de nuestro conocimiento. Ese crecimiento no puede predecirse por medios racionales. Luego el curso de la historia tampoco puede predecirse. Toda la fuerza recae en la segunda premisa, y su demostración tiene una elegancia que desarma: predecir hoy el contenido de un descubrimiento futuro equivaldría a poseerlo ya hoy, con lo que dejaría de pertenecer al futuro para instalarse en el presente. La novedad genuina, por definición, no cabe dentro de lo que ya sabemos. Si cupiera, no sería novedad.

Popper no afirma que el futuro sea opaco en todo. Podemos anticipar que habrá innovación, estimar ritmos de patentes, contar con las restricciones que imponen la física y la demografía, incluso intuir cuándo un problema está maduro para caer. La historia está llena de descubrimientos simultáneos, señal de que el momento resulta más previsible que el contenido. Lo que se nos escapa es justamente el qué, la forma concreta que tomará la idea que todavía no existe.

Popper enunció su límite para cualquier predictor, y citó de manera expresa una máquina de calcular. Ahí es donde el viejo argumento toca nuestro presente. Los sistemas de inteligencia artificial más avanzados de hoy son, a grandes rasgos, interpoladores y extrapoladores muy capaces de un corpus que ya existe. Aprenden regularidades de lo que se ha escrito, calculado y fotografiado antes que ellos. Por el mismo motivo lógico que nos ata a nosotros, una IA no puede predecir el contenido del conocimiento futuro, porque para hacerlo tendría que contenerlo ya. La máquina que anticipase el hallazgo lo estaría, en ese mismo acto, descubriendo.

Pero hay una distinción más profunda, y tiene que ver con la manera en que nos equivocamos. Existe un resultado de Scott Page, el teorema de la predicción por diversidad, que lo formula con una precisión poco habitual. El error de un colectivo es igual al error individual medio menos la diversidad de las predicciones. La diversidad, medida como la varianza entre las respuestas, resta error. Un grupo acierta en la medida en que sus miembros son razonables y, sobre todo, distintos entre sí.

Llevémoslo al contraste entre la máquina y el ser humano. Los grandes modelos de IA se entrenan con corpus solapados, arquitecturas parecidas y objetivos similares. Sus errores tienden a estar correlacionados: fallan en lo mismo, comparten los mismos puntos ciegos. Apilar muchos modelos casi idénticos rinde poco. La heterogeneidad humana, con su conocimiento tácito, sus creencias previas dispares y sus estilos de razonar que no se parecen, descorrelaciona los errores. Por eso funcionan los mecanismos distribuidos: los mercados, la revisión por pares, los jurados, la ciencia entendida como proceso. Es la vieja lógica de Hayek y de Condorcet.

Se pueden construir conjuntos de modelos deliberadamente diversos, con arquitecturas y datos distintos, para descorrelacionar sus fallos, y de hecho se hace. Y los errores humanos también se correlacionan cuando compartimos sesgos: el anclaje, la disponibilidad o el comportamiento gregario. Una burbuja financiera es la imagen de millones de personas equivocándose a la vez, y rompe el teorema del jurado de Condorcet, que exigía votantes mejores que el azar e independientes entre sí. La varianza es una fortaleza cuando se da. No la garantiza el mero hecho de ser humano.

En definitiva, la fuerza del ingenio humano está en la varianza, en explorar un espacio de hipótesis más amplio y más extraño, a veces por error, por juego o por analogía. Donde un sistema que optimiza sobre datos pasados tiende a quedarse en lo transitado, el humano se desvía de cuando en cuando y tropieza con algo que no figuraba en ningún manual.

Cierro enlazando las dos ideas, que en el fondo son la misma. La novedad genuina de Popper es precisamente lo que no se deja extrapolar del conocimiento presente, y la IA actual es, en esencia, un extrapolador refinado de ese presente. La pregunta interesante, y la diría abierta de verdad, es si lo que produce es novedad que rompe el marco o búsqueda finísima en un espacio demasiado grande para nosotros. Hay casos que tiran del lado bueno. AlphaFold resolviendo el plegamiento de las proteínas, o la jugada 37 de AlphaGo, ese movimiento que ningún humano habría hecho y que resultó genial. Cosas nuevas, nacidas de recorrer espacios que nosotros no recorremos. Si eso equivale a la novedad abierta que señalaba Popper sigue siendo, a día de hoy, una cuestión sin cerrar. Y quizá la respuesta más honesta sea que lo sabremos cuando lo veamos, que es otra forma de decir que este futuro, también, se nos resiste.