Pensar el pensar.

En marzo de 2016, Lee Sedol era el campeón del mundo de Go. Era un ídolo nacional en Corea y parecía imbatible sentado ante cualquier rival frente al tablero. Con algo de soberbia -que venga la máquina que me la meriendo- Lee Sedol aceptó sentarse para jugar al Go y enfrentarse a algo que todavía no sabíamos nombrar bien. Era la inteligencia artificial, en este caso AlphaGo de DeepMind.

Lee Sedol perdió cuatro partidas de las cinco programadas contra la máquina. Ganó una - la cuarta, con una jugada que sus rivales llamaron “divina” - pero la victoria no le devolvió nada.

Tres años después, en un gesto insólito para un campeón de Go de 36 años, se retiró. Lo hizo con una renuncia formal, explícita y solemne de su condición de jugador. También acompañó su despedida con unas declaraciones que me parecen una confesión muy representativa del desasosiego propio de los tiempos de la inteligencia artificial:

“Con el debut de la IA en los juegos de Go, me di cuenta de que no estoy en la cima incluso si me convierto en el número uno mediante esfuerzos desesperados. Incluso si me convierto en el número uno, hay una entidad que no se puede derrotar*.

No dijo que fuera injusto. No dijo que hubiera trampa. Pero sí mencionó que la IA había cambiado la esencia del Go. Algunos años después Lee Sedol declaró:

“En el pasado, el Go partía de una hoja en blanco, y el propio proceso de crear nuevos caminos jugada a jugada según cambiaban las condiciones era arte. La IA reconoce el tablero como simples figuras geométricas y solo busca la jugada matemáticamente óptima para aumentar la probabilidad de victoria. Ahora la IA es muy superior, así que solo la seguimos.*

Con pocas palabras estas declaraciones iluminan con claridad los focos del debate sobre qué es el pensar en la época de la Inteligencia Artificial. Y más allá del debate, también ilustran el impacto emocional de esta reflexión. Las palabras de Lee no derivan de una reflexión intelectual distante, sino que surgen de un desasosiego interior y consciente, temeroso por su futuro y aturdido por el golpe. Es difícil que un ensayo sobre la conciencia de las máquinas transmita la duda intelectual y el impacto emocional derivado mejor que los comentarios de Lee Sedol. Él no hablaba de la máquina, hablaba de sí mismo y de su papel en el mundo.

Lo que Lee Sedol perdió aquella semana no fue una serie de partidas. Perdió la certeza tranquila de saber, sin necesidad de analizarlo, qué es pensar. Descubrió que toda esa creatividad y capacidad de cómputo extraordinaria que tanto tiempo le había costado desarrollar, era derrotada por un ordenador entrenado durante unos cuantos meses. Como él, llevamos milenios dando por sentado que pensar es algo que hacíamos nosotros y solo nosotros - los humanos - y de pronto una máquina juega mejor al juego más intuitivo que ha inventado el hombre, y la pregunta de qué es el pensar vuelve, no como ejercicio académico sino como zozobra generalizada.

La historia del antihéroe Lee Sedol, y los debates hacia los que apunta, es el asunto de fondo del último número de la revista ÁBACO (el 127, La inteligencia artificial y la enseñanza de la filosofía) de la que ponemos a disposición dos artículos en Ábaco40. A modo de contrapunto hemos rescatado un artículo del archivo - del número 37-38, allá en el año 2003 - que ofrece una mirada distinta.

En Calcular y decidir, José Luis González Quirós traza una frontera entre lo que una máquina puede calcular y lo que solo un ser consciente puede decidir, la decisión a diferencia de la inferencia, tiene consecuencias, y eso marca una distancia clara entre la inteligencia artificial y las inteligencias de los seres vivos. Paula Lázaro, en El olvido del cuerpo, sostiene que la IA es la culminación de un viejo sueño cartesiano: una razón sin cuerpo, sin experiencia, sin afecto y por tanto limitado en todos aquellos aspectos que realmente dan forma a la experiencia y el conocimiento humano.

Las cuestiones que se plantean en los artículos que presentamos, resuenan -desde perspectivas distintas- con las preguntas que se hacen, desde la ingeniería y no desde la filosofía, quienes creen que los modelos de lenguaje tocarán techo pronto. Su limitación reside precisamente en que los LLMs nunca han sentido caer un objeto, nunca han tenido que anticipar una trayectoria con el cuerpo, y nunca han sufrido en sus carnes las consecuencias reales de una decisión.

¿Pero qué ocurriría si construyéramos modelos del mundo además de modelos del lenguaje? Sistemas que integran sensores y visión en tiempo real, que aprenden con el tiempo a tomar decisiones en base a esas señales. ¿Podremos entonces hablar de alguna forma de consciencia artificial? Volveremos a reflexionar sobre lo importante que es lo corpóreo para el desarrollo del conocimiento, nos volveremos a preguntar si el lenguaje es suficiente para pensar el mundo, o hace falta haberlo tocado. En resumidas cuentas, nos adentramos en un periodo en el que vamos a dudar muchas veces sobre qué es el pensar y si de alguna manera eso que llamamos pensar nos hace de algún modo diferentes.

ÁBACO40 es fruto de la colaboración entre la editorial CICEES y Tinta Artificial

Centrar el análisis en la comparativa de la IA y la inteligencia humana, tiene el riesgo de acabar condicionando el debate a un estudio comparativo de inteligencias, eventualmente derivando en valoraciones morales a ratos tan violentas que deberíamos tratar de contener. Me huelo que la clave del equilibrio está en pensar en la IA como una herramienta, fruto de una evolución natural que necesariamente pasa por la tecnología. Los tiempos de la evolución de la tecnología no son los tiempos de la evolución biológica, pero son parte del mismo proceso.

En esta línea, y para proponer un prisma diferente, resaltamos el artículo que hemos rescatado del archivo de ÁBACO. Se llama Imprenta e Internet, y lo escribió Félix Fuertes hace más de veinte años, en 2003, en los comienzos de la popularización de Internet. Su tesis es sencilla: cada conquista técnica - la escritura, la imprenta, internet— trae consigo una atrofia. Lo nuevo siempre nos cuesta algo de lo viejo. Y solemos leer ese coste como un castigo, un pecado que pagamos por habernos atrevido a robar el fuego.

“Es el precio necesario; la compensación entrópica ineludible en cualquier proceso.”

No hay pecado. Hay física. El problema no es la pérdida - inevitable, medible, gestionable - sino la narrativa moral que le colgamos encima, la que convierte cada avance en transgresión y cada atrofia en castigo divino.

Toda historia que tiene un antihéroe tiene un héroe. Si Lee Sedol es el antihéroe más reciente de la inteligencia artificial, Fan Hui es probablemente el héroe de esta historia. Fan Hui era campeón europeo de Go, con un nivel competitivo muy por debajo de los mejores del mundo. Fue el primer jugador en enfrentarse - y caer derrotado - a AlphaGo. En octubre de 2015 perdió estrepitosamente cinco partidas a cero, pero el resultado no alertó a los grandes campeones, que consideraban que el nivel de Fan Hui era demasiado bajo para preocuparse por el éxito de la máquina.

Con mucho menos que perder que Lee Sedol, Fan Hui no decidió retirarse sino que se unió al equipo de DeepMind que había construido la máquina que le había derrotado. Se unió para ayudar a entrenar mejor al algoritmo, para validar y estresar las situaciones de juego, para entender cómo establecer un modelo de colaboración de la IA con los humanos. Hoy sigue trabajando con ellos.

Diez años después de aquella serie, en el mismo hotel de Seúl donde Lee Sedol vio derrumbarse su mundo, Lee Sedol volvió a sentarse frente a una IA - esta vez para construir algo junto a ella. “La IA ya no debe definirse como un oponente”, dijo, “sino como una herramienta que permite a los humanos desplegar una mayor creatividad.” Diez años le costó llegar hasta donde Fan Hui llegó casi de inmediato. Quizás porque Fan Hui, con menos que perder, pudo permitirse ser humilde antes.

Esa humildad - la de acercarse sin necesitar ganar, la de cruzar de un oficio a otro sin perder el propio - es, me parece, lo que de verdad necesitamos ahora mismo para renovar nuestro entendimiento sobre qué significa pensar y cuánto de humano hay en ello. Necesitamos filósofos que se atrevan a empaparse de ingeniería, ingenieros que se atrevan a revisar desde su perspectiva conceptos y cuestiones filosóficas; necesitamos matemáticos que se acerquen a las artes creativas, y artistas que descubran cómo colaborar con una herramienta como la Inteligencia Artificial: humanistas, científicos, ingenieros y artistas todos incómodamente mezclados pensando qué significa pensar en el siglo XXI. El número 127 de ÁBACO, así como las joyas escondidas en el archivo de la revista, son pequeñas contribuciones en este sentido. Es hora de disfrutarlas.

Puedes adquirir ÁBACO 127. La inteligencia artificial y la enseñanza de la filosofía en la página de la editorial CICEES.

Compra la revista en la página de CICEES

Al igual que Fan Hui, hace tiempo decidí que, sin tener mucho que perder, debía integrarme con la máquina, entender cómo escribir y pensar con su ayuda. Por eso este texto está escrito con la ayuda, en varios puntos del proceso, de un asistente de escritura llamado D-X-OPUS que es el que usamos para nuestros experimentos.