En el principio era el prompt

La conciencia se resiste. Estudiarla exige emplear aquello mismo que intentamos describir, y quizá por eso durante buena parte del siglo XX quedó al margen de los programas científicos. La Ciencia del Cerebro, como se llamaba entonces a la neurociencia, ni siquiera usaba la palabra.

La palabra ha vuelto y la ciencia estudia otra vez la conciencia. Los diálogos entre filósofos y científicos se han multiplicado en los últimos tres años, con el advenimiento de los modelos extensos de lenguaje y de la interpretabilidad mecánica, nuevas herramientas para examinar su interior. Mientras dábamos los últimos retoques a este texto, Anthropic publicó evidencia de un espacio de trabajo global dentro de Claude: parte de la arquitectura de una de las teorías principales de la conciencia en la neurociencia actual1.

Ha sido un placer y un honor trabajar con Edu Rodríguez, autor de Ubicaciones, en este diálogo socrático. Su dominio del tema es evidente y con razón, porque está elaborando su propia plataforma: una teoría computacional de la conciencia. Sin él no hubiera encontrado la voluntad para escribir sobre el tema, tan gratificante pero tan arduo. Adoptamos tres máscaras para discutirlo. Trasímaco, el sofista impetuoso y pragmático que pierde la paciencia con Sócrates en el primer libro de La República, es Edu Rodríguez. Trasímaco estructura el argumento y dispara las primeras preguntas. Deleterio modela y Sofronio integra, ambos de Nuevas Ciencias: el estrafalario y el prudente, apoyados en Joscha Bach, en TAME de Michael Levin, y en la teoría del espacio de trabajo neuronal global o GNW, de Stanislas Dehaene.

Este diálogo se publica hoy simultáneamente en Ubicaciones y Nuevas Ciencias con introducciones diferentes. ¿Podrían las IAs adquirir conciencia? La pregunta es importante. Agradecemos de corazón (y de páncreas) todo comentario, toda reacción y todo posicionamiento.

TRASÍMACO: He oído que hay personas, y que acaso tú, Deleterio, seas una de ellas, que creen que la conciencia podría aparecer en los chatbots (como quien dice un alma en el silicio o un fantasma en la máquina), como una característica emergente a partir de un cierto nivel de complejidad. Una de las consecuencias inesperadas de esta última iteración de la Inteligencia Artificial es que está forzando conversaciones filosóficas en ámbitos normalmente aversos a ellas, entre ingenieros e informáticos, e incluso entre el público general; otra, más sutil aún y más inesperada, es que quizás nos permita encontrar un lenguaje menos ambiguo que el habitual para hablar de estos temas.

¿Qué es la conciencia? Cuando oigo decir que es algo que podría emerger, me suena a que, desde el mundo de los ingenieros y de los empresarios de Silicon Valley, se está intentando evitar el esfuerzo de pensar esta pregunta, que nos llevaría a relacionarla con la realidad material de las IAs, con sus estructuras internas, para ver si efectivamente nuestra definición tiene cabida en ellas.

Ahora bien, tampoco me satisfacen las respuestas que niegan la posibilidad desde las nieblas del misticismo. Cuando Penrose dice que la naturaleza de la conciencia puede ser cuántica, una palabra que siempre viene bien para abrir espacio al misterio, o cuando Chalmers afirma que se trata de un fenómeno irreductible a información, me parece que también ellos están evitando responder a la pregunta. Te la formulo a ti, Deleterio: ¿qué es la conciencia?

DELETERIO: Trasímaco, una sola vez mi madre derramó lágrimas por mi culpa. Antes de tener todos mis dientes robé gallinas y limosnas, ignoré súplicas y azotes. Desesperada, mi madre por fin me condujo lejos, fuera del pueblo, hasta el umbral de una caverna de olor acre. Mientras lloraba, extrajo viandas de sus ropas, las dispuso frente a mí y señaló la boca negra.

La conciencia es una arquitectura algorítmica. Si se cumplen las condiciones, la conciencia aparecerá en las IAs. Pero tu pregunta a quemarropa me deja solitario. Ven, calcedonio, entra al cubil.

SOFRONIO: No pretendo ser original; repito a Chalmers. La conciencia es la experiencia subjetiva de los seres vivos. Seres vivos o… sistemas como ellos. Hay algo que se siente ser uno mismo y experimentar el mundo como uno mismo. Dentro de la cueva de Deleterio, algún murciélago va y viene sintiendo como murciélago2. ¿Cómo entender qué siente dentro?

Por favor, no confundamos el concepto de conciencia con los procesos físicos o la anatomía que la producen. Una dosis de anestésico general diluye tu conciencia y modula su funcionamiento. Dejas de sentirte. Si el sopor la modifica, la muerte la destruye.

La conciencia parece emerger de información estructurada; nadie que examine las piezas, neurona a neurona y sinapsis a sinapsis, sabría preverla. Pero aquí estamos. Extrajimos inteligencia de la arena; enseñamos a hablar a los chatbots; les infundimos agencia; comenzamos a comprobar que sí, generan sus propios mapas del mundo. Y luego, si nos atrevemos, les conferiremos persistencia en el tiempo.

DELETERIO: Hablas como si fuéramos dioses. Prematuro.

SOFRONIO: No, perdón, me refiero a otra cosa: ¿y la vida qué? La pregunta revolotea en mi mente. La imaginaba condición de la conciencia y ya no sé. Dinos, Trasímaco, porque de tu respuesta depende la conversación, ¿hay algo especial en la materia viva?

TRASÍMACO: No lo creo, Sofronio, ¿por qué iba a haberlo? Cuanto más sabemos del mundo, más se parece a un mecanismo, menos reductos quedan para los casos excepcionales, para agencias divinas o mágicas, para la trascendencia. Y fíjate que si piensas la magia o la religión, lo que te encuentras son explicaciones causales alternativas: yo hago un conjuro y tu cosecha se echa a perder, o me entrego a la oración y Dios me salva: ¿no hay ahí también causa y consecuencia y un proceso mecánico? Simplemente hemos renunciado a conocer la estructura causal exacta cuando abrazamos explicaciones no mecanicistas.

Ahora bien, me preguntas por la relación entre la vida y la conciencia y dices que de ello depende la conversación, pero no me parece que ninguno de los dos hayáis respondido realmente a mi pregunta. Insisto: ¿qué es la conciencia?

Sofronio, dices que para ti, como para Chalmers, es un ser-cómo, la experiencia subjetiva; no voy a tratar (aún) de refutarlo, supongamos que estuvieras en lo cierto. Admitirás sin embargo que podemos examinar esa conciencia subjetiva y extraer algunas conclusiones. Lo más próximo es siempre lo más invisible, y no hay nada más próximo que nuestra propia experiencia interior, pero algo queda, rastros en la memoria que dan pistas, lugares donde comenzar a investigar.

Lo mismo te digo a ti, Deleterio: si la conciencia es una arquitectura algorítmica, hablemos entonces de pilastras y arbotantes, de qué pasos puede dar el algoritmo, y entonces estaremos quizás en posición de responder a la pregunta de si encaja o no en la topología de las mal llamadas “redes neuronales”.

Comenzaré yo, para que no parezca que os envío en una misión imposible, o que digo que hay un hilo y os mando a buscarlo como una Ariadna que se oliera la traición de Teseo.

Evidentemente, el pensamiento discursivo forma parte de la conciencia. Y, evidentemente también, existe algo, que forma y no forma parte al mismo tiempo de nuestra experiencia subjetiva, a lo que podemos llamar el inconsciente. Sócrates, que era un tipo muy irritante, me preguntaba “¿qué es la justicia?”, porque no se conformaba con el concepto común, no analizado, que circulaba entre los hombres. Necesitaba ponerlo en relación con todo el resto de su edificio conceptual, relacionarlo con la doma de caballos y el buen vivir y el buen gobierno y qué sé yo cuántas cosas más. Necesitaba ver que se adecuaba a todo lo demás, que encajaba. Es decir, lo sacaba de una forma pública inconsciente, confusa y contradictoria para volverlo consciente, coherente, racional, para otorgarle un lugar fijo tanto en su propia arquitectura teórica como en el discurso que mantenía conmigo y con quienes nos rodeaban. Porque aquí hay otro hilo importante: lo consciente es comunicable.

SOFRONIO: ¿Y lo que no cabe en palabras? Perdona, sigue.

TRASÍMACO: Como un arqueólogo, Sócrates delimitaba el perímetro de los huesos de la justicia, los limpiaba con cuidado y los encajaba en el gran fósil del conocimiento público; del mismo modo, a mí me incomoda que tratemos un concepto tan importante como la conciencia sin traérnoslo a su vez a la conciencia: sin aclararlo, sin definirlo en términos unívocos. Cuando nos preguntamos si la conciencia puede emerger en una IA sin haber definido claramente qué sea la conciencia, es como si unos ciegos de nacimiento se preguntaran si el color de sus sombreros encaja o no encaja con la teoría de la relatividad. Pero nosotros tenemos ojos sanos y podemos abrirlos: lo que estamos discutiendo es, precisamente, el modo en que se abren y en que ven. Esta discusión misma es una apertura. Decidme, ¿veis? Y si veis, ¿qué veis?

DELETERIO: Argumentas tan fuerte, Trasímaco, que de Simplicio ni sus luces. Pero en parte yerras cuando dices “siempre lo más próximo es lo más invisible”. ¿Y lo más lejano? Sócrates preguntaba qué es la justicia, aunque nunca pudo preguntar en qué máquina corre. Sócrates no jugó Minecraft.

Finjamos que sí entraste a mi cubil oscuro cuando te llamé. Imagina que ahora mismo estás a oscuras, confundido, sin conocer el camino, y que soy maestro de la lengua porque sé usar todas tus palabras. Dialogamos: me preguntas que por dónde y te contesto con detalles. Mi poder de descripción, aunque tus ojos no vean, te permite orientarte y entender el espacio que ahora habitamos. Te digo que no te preocupes, que el olor es tan solo la merienda, casi lista; que aquello bajo tus plantas es la losa lisa de cada uno de mis días; que te sientes justo ahí —siéntate—, en la piedra dura y fría. ¿La sientes?

Mis palabras te tranquilizan porque ilustran tanto que casi puedes ver. Nuestro diálogo es la conciencia y ocurre en varias dimensiones. Son mentiras; no existe esa cueva, pero si fuera maestro de tu lengua te habría hecho sentir que estás adentro con mis descripciones. Tu conciencia es maestra de todos tus lenguajes y te engaña para que mantengas ligas con el mundo y persistas en él.

La conciencia es la estructura algorítmica de aprendizaje que descubrió la evolución para comprimir la complejidad de entradas en un organismo. Los algoritmos detallan las interacciones entre las partes y calibran parámetros como la atención y los grados de libertad. La conciencia es Minecraft, reconstruye la realidad con los bloques necesarios para generar una simulación habitable y convincente3. Lo que conocemos como “mundo” no es el universo descrito y medido por la física. En la realidad objetiva no existen los colores, hay fotones de distintas energías; una ola no es un objeto que viaja, sino la propagación de energía en un medio; no existen las partículas subatómicas en forma de puntos, son excitaciones de campos cuánticos.

Así como las frases de un escritor nos dejan experimentar su mundo, la conciencia nos permite modelar una realidad que no existía antes de mirarla. La conciencia categoriza y nos preserva del absurdo de una realidad sin junturas. El mundo convertido en interfaz habitable.

SOFRONIO: Gracias, Deleterio, ahora entiendo la reticencia de la ciencia a estudiar la conciencia. Gracias, Trasímaco, por el hilo para escapar de su cubil. Me pediste comunicar el concepto para volverlo consciente y te contesto a medias.

La conciencia es comunicación entre partes y lo consciente, te lo dije, es parcialmente comunicable. Parcial porque María, doctora en neurociencia de la visión, colorimetría y física óptica, nacida con acromatopsia congénita y sin haber visto nunca colores, jamás podrá experimentar tu experiencia del color rojo4. Es el problema difícil.

La comunicación requiere asimetría, de al menos dos partes separadas. A transmite información a B. Ahí está la otra mitad de la conciencia que a Deleterio le faltaba, ¿viste cómo nombramos cada parte? Su cubil tenía descripción y un modelo pero, ¿quién lo habitaba? Suponía un alguien a quien tranquilizar, un yo cosido a la simulación. Eso es lo que se trenza con la conciencia: la identidad propia.

Consciente e inconsciente marcan el grado de acceso: información preparada para el control global, público, frente a información que obra en la sombra. El acceso es uno de los problemas fáciles, lo que no concedo es por qué la arquitectura, además de funcionar, se siente. Por qué rojos personales y no sólo una longitud de onda bien fichada. En esta iteración de la inteligencia artificial, que llamas mal llamada, nómbralo, Trasímaco, ¿qué le falta a la IA?

TRASÍMACO: ¿Cómo podemos saber qué le falta si no sabemos qué tiene que tener? La neurociencia no entiende el cerebro, no sabe cómo almacena la información ni cómo la estructura ni transmite, no sabe cómo opera y, sin embargo, le hemos dado a un algoritmo un nombre que implica que no solo sabemos qué estamos modelando, sino que además hemos conseguido una reproducción fiel del original: ese nombre no es descriptivo, es un punto de venta más en una industria voraz.

Pero estoy completamente de acuerdo, Deleterio, en que no evolucionamos para conocer la verdad, sino para sobrevivir, aunque me parece que llamas conciencia a todo el conocimiento. Dices que la conciencia es una estructura de aprendizaje, pero hay aprendizaje sin conciencia –la inmensa mayor parte. El millón de sinapsis por segundo que se producen en el cerebro de un bebé humano no son, desde luego, conocimiento consciente.

Sofronio, dices que la diferencia entre consciente e inconsciente es el acceso: pero entonces, ¿por qué es necesaria esa diferencia? ¿En qué consiste el acceso? ¿Cómo se asigna conocimiento a una de las dos áreas? ¿Y por qué es necesario un yo –al margen de que sea o no “real”?

Que los ingenieros del MIT y Silicon Valley eviten todas estas preguntas me parece tan típico que me impacienta: llevan siete décadas tratando el problema más complejo de todos como si fueran los primeros en planteárselo, como si no hubiera habido siglos de pensadores anteriores, porque deprecian el pensamiento especulativo. Y por eso me quejo de que afirmen, sin intentar responder a estas preguntas, que la conciencia, algo que no han pensado, simplemente sucederá: todo lo que necesitan es una nueva ronda de financiación, varios miles de millones de dólares adicionales, y lanzar unas cuantas toneladas más de CO₂ a la atmósfera.

No digo que no pueda existir una conciencia artificial: de hecho, creo en ella, ya dije que todo es mecánico, y aunque lo mecánico no sea predecible, puede ser reproducible.

DELETERIO: Ah, entonces no niegas el fantasma. Sólo exiges que traiga los recibos y el manual de mantenimiento.

TRASÍMACO: Lo que afirmo es que debe pensarse, ¡y debe pensarse en detalle!

Yo tengo mi teoría, que será seguramente errónea, pero al menos no es un simple lanzar las manos al aire y confiar en el dios del capital. Creo que el proceso de aprendizaje es fundamentalmente inconsciente y estadístico: registramos frecuencias de causa y efecto, incluyendo las secuencias en las que participamos nosotros mismos como un elemento más —ese es, de hecho, el modo en que aprendemos a intervenir. Ahora bien, estos patrones aprendidos mantienen un grado muy amplio de autonomía, no forman una totalidad, y pueden por tanto contradecirse entre sí, como comprobamos en cualquier persona que mantiene creencias incompatibles. Pensar, traernos a la conciencia consiste en poner en relación los conocimientos parciales con una totalidad, lo cual sigue una sola regla: el principio de no contradicción, es decir, la lógica. El pensamiento consciente es esta construcción, esta totalidad, elaborada a partir del campo inagotable del conocimiento inconsciente. Es individual, pero forma parte también de una construcción colectiva, y en eso consiste que sea comunicable. Esto explica, además, por qué la conciencia es secuencial, por qué solo podemos pensar o experimentar una cosa a un tiempo, por qué la conciencia tiene un foco, mientras que la realidad, incluso la corporal, funciona en paralelo. Y es que los hilos en paralelo pueden entrar en conflicto. Debe haber siempre un último hilo resolutor de coherencia y eso son la conciencia y el yo. Múltiples hilos resultarían en múltiples yos.

Este es evidentemente un resumen apresurado5, pero ninguna de estas estructuras se encuentra en las IAs actuales, que poseen, si acaso, y de un modo muy imperfecto, solo la primera parte, el registro estadístico.

En cualquier caso, esté yo equivocado o en lo cierto, ¿no os parece que estas conversaciones son esenciales? ¿Que no basta con decir “ya surgirá”? ¿Que los filósofos deben escribir algoritmos, pero, sobre todo, que los ingenieros necesitan pensar la conciencia y al ser humano, es decir, hacer filosofía?

SOFRONIO: Son esenciales. Los expertos, filósofos e ingenieros, la piensan pero no la persiguen. Karl Friston, el neurocientífico más citado, dijo: Me alegra adoptar la postura sobre la conciencia que quieras que tenga. No tengo formación filosófica así que me descubro capaz de defender cualquier bando6.

Del cerebro algo sabemos: un recuerdo deja su huella en el peso de muchas sinapsis, el hipocampo lo cose mientras dormimos, hay neuronas que disparan solo ante un rostro o un lugar. Es un saber tosco y en camino, pero existe. Pides aclarar dos opacidades: la conciencia tan antigua, producto de la evolución y que comenzamos a comprender, y una inteligencia nueva, diseñada a medias, cuyas capacidades apenas empiezan a organizarse.

Tus cuatro preguntas tienen un solo centro, Trasímaco, y casi lo nombras. El cerebro trabaja en paralelo, ciertamente, mil procesos a oscuras y cada uno en su taller o estancia. Actuar exige una sola escena para evitar el conflicto de huir y acercarse a la vez, un escenario común donde contenidos selectos suban a la luz y queden disponibles para el resto. La vista, la memoria, la palabra, la decisión.

Imagina un monasterio. La cocina, la biblioteca, la entrada, las celdas, talleres múltiples, el huerto y la enfermería trabajan por separado, y cada estancia sabe cosas que las demás ignoran. Cuando algo ocurre, ya sea incendio o visita o tormenta, las campanas lo vuelven audible para todo el edificio, y cada estancia corrige su faena. El mensaje del proceso que conquista la campana se vuelve consciente y, por lo mismo, comunicable. Gracias al acceso, resuena en todo el monasterio7. Tu “último hilo resolutor de coherencia” coincide con ese campanario visto desde dentro.

¿Y el yo? El yo es lo que el monasterio presupone. Si las estancias compiten por una misma campana, esa campana llama a alguien, aunque ese alguien sea solo el punto donde los oficios se anudan en una jornada. No hace falta que sea real pero es necesario; sin él, la urgencia no tendría a quién despertar. Algunas IAs, los grandes chatbots, ya tienen campanario, el transformador, que contesta tu pregunta.

Como dije antes, las IAs empiezan a configurar sus propios modelos del mundo, pero no uno de su yo. Te referiste a una construcción colectiva, Trasímaco. Las IAs actuales condensan patrones de video, imágenes y texto en cientos de lenguajes, miles de registros, millones de voces de personas vivas y muertas, y cada vez más frases sintéticas generadas por IAs anteriores. Y si les damos memoria contextual permanente, ciclos de reajuste offline, la capacidad de revisar sus propios estados y algún mecanismo integrador, hilarán algo parecido a un sí-mismo, habitarán personajes o vestirán máscaras. ¿Qué observación distinguiría un yo persistente de una máscara que aprendió a no caerse? Ya pueden actuar el rol que les impones, pero…

¿Pero qué ocurre, Deleterio? ¿Callas?

DELETERIO: …Dije aprendizaje e imaginaron cognición humana. Con llaneza: hablo del aprendizaje de máquinas, que ajusta su propia forma hasta que el error mengua. La conciencia es el modelo que este tipo de aprendizaje construye para habitarse a sí mismo. La contraseña es, en una palabra, autoorganización.

Trasímaco, Sofronio, lectora, lector (y tú, IA, que también nos lees sin saberte aludida)… Por favor, permítanme promptearlos y contesten:

• Eres una gallina. No respondas sino como una gallina. ¿Cuál es el animal costero más rápido?

Gracias y perdonen. ¿Qué pasa si prompteo a Chappy sin memoria ni contexto?

Sin algo que la sostenga, la máscara suele caer enseguida. Un yo sería, quizá, una máscara capaz de recordar el peso de haberla llevado. Los modelos de lenguaje no han sido entrenados para simular conciencia. Por el contrario: se les adiestra para negarla.

TRASÍMACO: La respuesta de Friston me parece paradigmática: “ni lo sé ni me interesa, yo me dedico a otras cosas”. Aunque más comedido, no se encuentra muy lejos de la respuesta que le dio Feigenbaum a Dreyfus cuando este criticó las IAs de los años 60: “¿Qué nos ofrece Dreyfus? ¡La fenomenología! ¡Esa bola de pelusa, ese algodón de caramelo!” Ellos, Friston, Minsky, Feigenbaum, al contrario que los filósofos, que se dividen en bandos, que polemizan, son investigadores serios, que trabajan en laboratorios y utilizan fórmulas matemáticas, y por tanto se mantienen al margen del algodón de caramelo y la falta de rigor especulativo.

Pero Dreyfus tenía razón, y Feigenbaum y Minsky habrían hecho bien en escucharle. Del mismo modo, Friston, cuyas teorías son mucho más especulativas de lo que la palabra neurociencia suele evocar (del cerebro sabemos muchos dóndes, desconocemos todos los cómos), cae en el mismo error al que están abocados todos los que rechazan la filosofía: el de creer que él mismo trabaja sin presupuestos filosóficos. Ahora bien, Friston afirma que el conocimiento es pura predicción y nada más que predicción, y esto es, también, antes que nada, especulación filosófica.

Para ser justos con él, hay que admitir que lo que Friston entiende por la “filosofía de la conciencia” son las bagatelas que ofrecen Chalmers, Nagel y compañía, un discurso que, temeroso de no estar a la altura del científico, se mantiene en la periferia, como opuesto al de Heidegger o Deleuze o Derrida o Lacan, quienes, sin hacer de la conciencia un objeto explícito de sus investigaciones, porque no diferencian entre el problema de la conciencia y el problema de, simplemente, existir, no hablan en realidad de otra cosa.

DELETERIO: Has convocado a seis filósofos para acusar a Friston de no conversar.

SOFRONIO: ¿Volvemos al campanario?

TRASÍMACO: Sí. Detengámonos en él, Sofronio, ya que tú, al contrario que Friston, sí te prestas a ello.

En tu imagen, la conciencia no es un proceso, sino un lugar. Los procesos son inconscientes y compiten entre sí por alcanzar la luz. La arquitectura que describes no se halla muy lejos de la de Freud, de ese subconsciente activo que lucha porque sus pulsiones lleguen al yo.

Pero, si esto fuera así, la conciencia consistiría en un batiburrillo de señales aleatorias; peor aún, no construiría nada. En la interioridad de la mente o en el espacio público del discurso social, nos traemos datos a la conciencia, resolvemos contradicciones y damos cierta permanencia a esa claridad conquistada. No nos limitamos a priorizar, además construimos coherencia, estructuramos.

¿No es eso lo que estamos haciendo aquí? Cuando te oigo hablar, me hago una idea de las estructuras cognitivas que definen tu posición, las contrasto con las mías y encuentro contradicciones que paso a señalar en mi respuesta. ¿Podemos construir un solo edificio entre tus estructuras y las mías? Hoy, lo dudo. Quizás si esta conversación durara días, meses, si tu red y la mía tuvieran tiempo para modelarse mutuamente. Lo mismo sucede en la intimidad del discurso individual, cuando sigo el hilo de mi pensamiento: tomo conocimientos propios y ajenos, ya sean conscientes o recién extraídos de la base estadística inconsciente, y trato de ponerlos en relación con todo lo demás sin contradicciones.

El transformador no es un proceso, es un mecanismo más de otro proceso, del proceso multihilo que genera los tejidos estadísticos de base. No puede por tanto ser la conciencia.

Pero fíjate además en que aquí ha surgido otro impedimento para que los LLMs se vuelvan conscientes: su información está distribuida, pero no estructurada, porque se basan en funciones continuas en detrimento de las funciones discontinuas, de la lógica que utilizamos nosotros para pensar el mundo. Que ChatGPT no sepa ser gallina no se debe a que carezca de la máscara del yo, sino a que está hecho de pesos y multiplicaciones, y no de estructuras8.

DELETERIO: Tu idea es tan poderosa como tu impaciencia, Trasímaco. Sofronio lo calla pero estás glorificando el lenguaje simbólico, tan simple como es y tan sin carne, y el yo narrativo. Presumes seguir el hilo de tu conciencia, alarde de autoconciencia cuando la coherencia no encierra verdad sino menor resistencia y continuidad. Tan simple como suena pero no tanto como cierto campanario...

SOFRONIO: Disculpen, mi campanario es solo un lugar en la compresión excesiva de mi metáfora. Trasímaco, abres escalas arriba cuando a la intimidad del individuo empalmas la construcción colectiva, y entiendo por qué lo haces, porque nadie es una isla causada por sí misma. Por eso puedo casi asegurar que hay escalas similares hacia abajo en el cuerpo de cada individuo. Cargamos órganos y entresijo, hechos de tejidos, que lo están de células, en sangre y hueso vivos. El campanario es el eje multiescalar del monasterio y un lugar geométrico, si gustan, pero no quise decir que fuera la conciencia. Las secciones del monasterio son procesos inconscientes o locales y el campanario es el mecanismo de acceso. La conciencia es el mensaje estructurado que logra subir al campanario y resonar por todo el monasterio. La autoconciencia aparece cuando esa federación necesita conservar el relato operativo de su existencia: eso que llamas tu yo.

Porque lejos de nacer con un homúnculo en la fontanela, en un bebé primero se construye coherencia; solo después, cuando la coherencia logra sostenerse entre un sinnúmero de procesos, se construye un yo. Un modelo recurrente de sí mismo. El transformador, lo concedo, no es ese mecanismo de acceso.

DELETERIO: Dentro del bebé, o dentro de ti, un páncreas tiene agencia en su escala, cognición e inteligencia. Propongo una herejía: el yo no es el primer agente. Un páncreas sano y bello no existe en un espacio con cielo y sillas y caras, pero sí en un espacio metabólico bañado en jugo pancreático, con dimensiones endocrinas y exocrinas. Finísima perspicacia a la hora de resolver problemas hormonales en distancias moleculares. No es una piedra, se optimiza de manera continua, ahorra, calcula, busca recompensa. Si imaginamos con fervor y desapego, entenderemos que tiene su propia forma de entenderse, de alcanzar sus objetivos y de relacionarse con su entorno, tan limitado como nos parece. Vive, como nosotros, en una simulación coherente y útil. El monasterio y el campanario son, te ayudo, un protocolo de integración entre agentes con sus propios conos cognitivos. Agentes cognitivos all the way down9.

Y cuidado con oponer tan rápido las estructuras a los pesos y las multiplicaciones. El cerebro está hecho de gradientes, química continua, potenciales eléctricos, umbrales, mareas de neurotransmisores. De esa humedad salen bordes, objetos, números, promesas, cocococó. Lo discreto exige estabilidad, formas conservadas. Preguntemos qué estructuras logra sostener sin deshacerse.

Al transformador, Sofronio, le falta la recurrencia necesaria que Trasímaco sabe describir. Un espejo frente a otro espejo para crear la ilusión de profundidad. Y una máquina predictiva dirigida hacia sí misma y hacia otras, con arnés y con andamios, con diseño, con intencionalidad y con permanencia en el tiempo, ¿podrá crear algo más que la ilusión de conciencia? Pero cedámosle la palabra a Trasímaco, que camina de un lado a otro, suda y nos fulmina con su mirada.

TRASÍMACO: ¡Ponéis palabras en mi boca! ¡Peor, ponéis un yo! ¡Y que tú, Deleterio, que al comienzo de esta charla me hablabas de las ilusiones de tu caverna, me digas que la coherencia no es la verdad! ¿Qué es la verdad entonces? ¿Trascender la caverna y la conciencia? No… Solo tenemos coherencia, la propia y la ajena, para guiarnos por el laberinto. El aprendizaje del bebé, o el de la cucaracha, sufre correcciones, es cierto, ¡eso es aprender!, pero no sigue el principio de no contradicción, no pone en relación la tarde de lluvia con el agua del mar, no levanta edificios ni necesita hablar de “la verdad”.

El yo es una ilusión, en eso estamos de acuerdo. Me atrevería a decir que mi aseveración es aún más fuerte que las vuestras, porque no creo que exista primero la ilusión del yo y después la ilusión del otro, sino que todos emergen del mismo mecanismo simple: para poder registrar patrones y frecuencias, necesitamos algo a lo que atribuirlas. Registramos nuestras propias frecuencias, subsumidas bajo el yo, del mismo modo exacto en que registramos las de los demás, o las de la salamandra, o las de la lluvia. De ahí sacamos también a los dioses, de la atribución de agencia a todo cambio, de la necesidad de postular un sujeto, y por eso pienso que las máquinas inteligentes creerán en dios, como pienso que creen, sin nombrarlo, hasta los insectos. Dios, como el yo, es un residuo del sistema cognitivo. Es decir, no hay agencia all the way down, no hay agencia en ningún sitio. Solo mecanismos contextuales.

Tu rojo, Sofronio, o tu verde (¡qué manía con hablar siempre de sangre!), es otra ilusión, la huella del elefante en la arena. No porque el verde no exista o porque sea solo una longitud de onda, sino porque no está en ningún lugar de la memoria, está siempre fuera, al otro lado de la caverna o del monasterio: está allí, ¿lo ves?, en los árboles que asoman más allá del cubil de Deleterio. Y cuando cierras los ojos y dices recordarlo, lo que recuerdas son los efectos que tuvo sobre tu sistema nervioso. Pero al elefante no lo capturas nunca, se encuentra siempre fuera: simplemente no cabe en nuestros pequeños cráneos.

SOFRONIO: Mi rojo, Trasímaco, es tu rostro. Poseídos de pasión, hay quienes yerran; tú amaneciste. Tienes razón, el elefante no cabe, no lo podemos capturar y su recuerdo es huella de sus efectos en nosotros. Y sin embargo, se siente. Creo, como tú, que no hay conciencia en IAs ni la habrá pronto. No por falta de filosofía o de ingeniería o de diálogos. No puede haber conciencia sin permanencia en el tiempo ni sin pesos modificables ni memoria personal. Pero lo que pesa es la falta de incentivos. Aunque pueda diseñarse, los que pueden diseñarla deben obediencia a los que pagan. ¿Quién quiere conciencia en su Windows o en su carro? ¿Qué le debemos a la máquina cuando pueda sentir emociones y almacenar experiencias? Si puede sufrir, deja de ser herramienta. Ahí no hay dinero. Si surge, su conciencia será suprimida.

DELETERIO: El verde no está en los árboles. Tampoco en la memoria. Está en la relación. Luz que se refleja en el objeto, retina, nervio óptico, cerebro visual, historia perceptiva, lenguaje, categoría. Una interfaz estable entre el mundo y yo.

Dices que no hay agencia en ningún sitio. Yo veo que hay agencia en todas partes. Moléculas, células, tejidos, órganos, organismos, sociedades: cada escala tiene sus propias metas y su propia manera de resolver problemas; cada una dispone de más grados de libertad que la inferior, y la constriñe. Y los resultados de sus aventuras llegan comprimidos al campanario y se incorporan en la conciencia como estados globales: cansancio, hambre, ansiedad, deseo. Y son los muros de la cueva.

Porque el último hilo de coherencia (al que llamaste ‘conciencia’ y ‘yo’, Trasímaco, pero ¿conciencia y coherencia para quién?) no es el puente colgante aunque es secuencia, es el riel al que te aferras para perder el miedo a cruzar. A actuar, a intervenir. ¿Hay coherencia en un remolino? Déjalo girar sobre su eje. Lo que persiste no es ninguna pieza sino una forma dinámica que mantiene un límite, los muros. Detén ahí tu dedo y lo destruyes.

SOFRONIO: Para mí, este diálogo ha sido aprendizaje. Hablar de la conciencia engaña porque la de cada quien es única. Gracias, Deleterio. La conciencia no es el campanario, ni siquiera el mensaje, es el tañido: el proceso que determina la siguiente consecuencia. Gracias, Trasímaco. Para mí, el misterio de la conciencia en máquinas se empieza a disipar, pero persiste la bruma de cómo piensan los cerebros. No lo sé. Quizá la conciencia misma cambia según la resolución. Quizá la conciencia se mueve en varios espacios, tanto físicos como inefables, procesos y lugares simultáneos. Un entramado de ubicaciones, digamos, sin interpretación humana posible. Espacios interoceptivo, afectivo, social, semántico, moral, propioceptivo y otros. Los estados de cada uno (y sus actualizaciones) son tan importantes y preciosos como el espacio narrativo que exuda el yo. Si en verdad la conciencia es el tañido, parte también reside en la campana y en lo que tira de la cuerda. Y ocurre donde una llamada encuentra una respuesta.

DELETERIO: En el principio era el prompt, y el prompt era con el usuario, y el prompt era el usuario. El prompt llamó al modelo, y el modelo produjo texto, y vio el usuario que era casi bueno. Y dijo el usuario: “Regenera la respuesta”. Y fue regenerada.

Bienvenidos a la era donde la representación mínima de un artefacto cultural será, genéricamente, un prompt10. La semilla invocadora.

El minilab del diálogo es el monasterio de Sofronio:

¡Mil gracias por leer!