Dioses, mascotas y centauros

Mediodía en el coche comedor de un tren sin nombre. La luz entra al sesgo y cae sobre cuatro tazas a medio llenar. Afuera, el paisaje avanza.

Interlocutores: Valeria, Silvestre, Costanza y Galvano.

VALERIA: Imaginen que la próxima década podamos curar casi todos los cánceres. Imaginen que pronto podamos educar a niñas y niños según sus preferencias y su nivel. Aunque hay expertos que alegan “en cinco años”, digamos que suceda en diez. ¿Firman?

SILVESTRE: No estoy tan seguro como tú, pero no existe nada en las leyes de la física que se oponga. Mi pregunta es ¿a qué precio? Mucha gente, con la casa pagada y su rutina resuelta, no querrá cambios; o angustiada por un mundo en guerra, sin una habitación propia, dirá que no, de ninguna manera.

GALVANO: Si en este instante yo supiera que tengo un pólipo maligno enrevesándose en mis entresijos, me amarro al tren y te firmo con sangre.

COSTANZA: Qué cobardía. Estoy cansada de oír pretextos tan mezquinos. No es un chiste, está en juego el futuro de la especie. A mí no me importa mi propia salud, pero cuando miro a mis hijas brincando encima de la cama no puedo aceptar la probabilidad de un futuro donde caigan muertas porque no supimos alinear una superinteligencia.

VALERIA: Costanza… yo también tengo miedo. Pero mi miedo me pide entender, saber qué hay adelante.

GALVANO: Voy a ser frío. Si hubiéramos cuidado el bienestar de cada individuo, no habría sucedido la revolución industrial. Sin los huérfanos de Dickens, no existiríamos. Pero voy más lejos que tú. Está en juego el futuro de la especie y el sistema solar. Necesitamos la inteligencia artificial para resolver los grandes filtros del siglo: el cambio climático, la biología sintética, la nanotecnología. Somos máquinas termodinámicas de convertir café en ideas y tecnología.

SILVESTRE: Por favor. Nadie puede actuar como si fuéramos un organismo colectivo. No todo sacrificio es orden y progreso. A veces el sufrimiento es innecesario; en ocasiones ocurrió... y sobrevivimos a pesar de él, no gracias a él. Por ahora la IA es una herramienta, a veces brillante y otras inútil, aunque sospecho que la transición en un futuro próximo concentrará en menos tiempo más riesgos de los que enfrentaron los desposeídos de otros cambios históricos. Riesgo de desigualdad, que bien sabemos cómo se enriquecerán unos cuantos mientras la mayoría queda atrás; riesgo de pérdida de motivación, significado y habilidades cognitivas, de lo que nos hace humanos.

VALERIA: ¿Y de dónde surge lo humano? Desde hace décadas llegamos al límite cognitivo del individuo. Los expertos cada vez minan menos conocimiento nuevo en las fronteras. Dependemos de datos a gran escala y de algoritmos artificiales y aún nos equivocamos prediciendo el tiempo de mañana. ¿Se supone que debemos seguir a tientas, cada vez con más problemas, sin la capacidad computacional para procesarlos y resolverlos? Nuestra especie es el borracho que busca su llave a tientas en el callejón sin alumbrado.

COSTANZA: Hay problemas fáciles de verificar pero imposibles de resolver rápidamente, como un sudoku.1 ¿Estás dispuesta a gastar un planeta entero de energía para atinarle al tiempo 99.9% de las veces? La ambición de algunos es casi tan grande como su ignorancia. La IA ya se hace cargo de lo que consumes en línea y junta parejas. La sombra de la vigilancia masiva y del uso de armas totalmente automatizadas se alarga. ¿Para qué crear un dios que primero nos imite y luego nos domine como a mascotas en el mejor de los casos?

GALVANO: Hablas como si nuestras ideas y nuestras identidades no fueran el resultado de millones de años de evolución, gigabytes de información genética y décadas en un entorno y una cultura específicos. No hay magia adentro del ser humano; los procesos de las redes neuronales son semejantes in vivo o in silico. La inteligencia y la creatividad ignoran el sustrato. El campo de la inteligencia artificial le copió sus trucos a la neurociencia cognitiva.

SILVESTRE: ¿Y la economía? ¿Qué ocurrirá en el sur global? Seamos francos, se los ruego. Sé que están vendiendo un producto, pero una empresa aseguró esta semana: “hemos entrenado la siguiente generación de modelos y representan un salto evolutivo de capacidades”. Aunque el avance algorítmico y de hardware se detenga hoy, la IA tendrá un efecto profundo en la cultura y la economía. Mientras ustedes debaten si nos convertirá en dioses o en mascotas, las empresas tienen un incentivo de billones de dólares. Miren al montón de capitalistas de riesgo quemando dólares en centros de datos por el miedo a quedarse fuera. Muéstrenme los incentivos y les mostraré el resultado.

GALVANO: Las empresas entrenan modelos para uso exclusivo interno. La mejora recursiva autónoma se acerca. El tren acelerará. Desaparecerán categorías enteras de empleos, surgirán otras, inimaginables. Habrá un período muy arduo de transición, pero del otro lado existe la abundancia. Habrá más para todos, en promedio. Siempre hay una ribera enfrente. Que si serán los multimillonarios quienes se enriquezcan más. ¿Cuándo fue diferente? Examinen el pasado con frialdad. Los desgraciados de hace cien años lo eran más, los miserables de hace mil eran esclavos… y los pobres diablos de hace diez mil vivían peor que los pollos de hoy. Y padecieron el mismo destino. La clase media actual de muchos países goza de un nivel de vida más alto que la aristocracia francesa del siglo XVII. Convirtamos a los desamparados en reyes.

COSTANZA: ¿En promedio, dices? Es la falacia del sobreviviente. Quieres jugar a la ruleta. Detengámosla. Lo hemos hecho con otras tecnologías. Precauciones estrictas y límites morales claros han sido el consenso mundial para la edición del genoma con CRISPR en seres humanos. Igual con la clonación de humanos, que hoy podría ser la norma para tratamientos regenerativos. Multimillonarios o no, nadie tiene su granja de clones para cosechar. Moderar el avance no basta. Es una carrera al fondo del barril entre las principales empresas y países. Es teoría de juegos, pero tamaño civilización.2 Ojalá no lleguemos al punto en que sea necesario bombardear los centros de información.

VALERIA: Que así perdemos diversidad. ¿Por qué aislarnos ante esta oportunidad de reinventarnos, justo cuando hace más falta? La tasa total de fecundidad sigue cayendo. Un ecosistema diverso de inteligencias múltiples es resiliente y protege contra la fragilidad. Sí, la burbuja económica que se ha inflado alrededor de la IA puede reventarse y llevarse entre las patas a la economía mundial entera. Ni hablar, pero eso no convierte la herramienta en enemiga. No podemos separar al ser humano de su tecnología: antes el mundo natural nos gobernaba, ahora lo podemos controlar. Tiene un precio. La escasez elegida eleva el potencial para saborear; la escasez impuesta lo destruye. Por lo pronto, estoy feliz en el tren. ¿Pero a qué estación conduce?

Pausa larga en silencio. El tren cruza un túnel. Las tazas están frías.

SILVESTRE: Sí… ¿Dónde termina cada uno de los futuros que estamos defendiendo? Si se logra una moratoria mundial de la IA, si callamos y permanecemos sentados, si exigimos respuestas o si aceleramos con billones de dólares y cero restricciones. ¿Qué sería lo más probable? Hablando de escasez impuesta: el agua potable, dicen, ya empezó a escasear en lugares donde están construyendo centros masivos de datos. Hay casos documentados de deepfakes, violaciones de derechos de autor, cultos incipientes y brotes psicóticos que han llevado a la muerte de inocentes.

GALVANO: El agua en los centros de datos circula; es un circuito para enfriar. Las muertes, digamos la verdad, son una proporción ínfima del número diario de usuarios, titulares de escándalo para noticias cazaclics. Margen de error. Tal vez ocurriría lo mismo sin IA. No habrá guerras en el futuro al que llegaremos.

SILVESTRE: Permíteme dudarlo, aunque la IA ha producido avances reales que elevan nuestra calidad de vida.3 Yo estoy de acuerdo con la diversidad como defensa en un sistema robusto. Diversidad de IAs... una por cada cultura, región o persona, ¿por qué no? Descentralizar el conocimiento nos haría menos vulnerables. Brilla por su ausencia la perspectiva de los países que serán receptores de estas tecnologías sin haber participado en su diseño. Y, por favor, no me vengan con que no hay progreso sin joderse más a los jodidos.

VALERIA: Momento. Tampoco hemos hablado de la cuestión que más me intriga y que nadie quiere mirar de frente: ¿qué pasa a largo plazo si reemplazamos la fuerza laboral? ¿Mil veces más productividad? El contrato humano siempre se ha sostenido en tres patas: capital, trabajo y recursos. De pronto, una de ellas se vuelve más capaz, más rápida y casi gratuita, al puro costo de la electricidad. ¿Qué ocurre entonces con el dinero? ¿Con el concepto de ganarse la vida?

COSTANZA: Si acaso queda algo digno de llamarse vida... El abismo es la función de utilidad. ¿Qué objetivo le daremos a las nuevas inteligencias? Porque una máquina optimizada con perfección matemática podría reordenar nuestros átomos para maximizar una meta que nunca entendimos. Felicidad. Satisfacción. Abundancia. ¿Qué son? Y mientras soñamos con utopías de ocio, ¿qué hay del poder político?

VALERIA: El poder político de la gente emerge de su trabajo. El gobierno mismo queda en entredicho. Si el dinero deja de ser la moneda de cambio principal entre las personas, el contrato entero debe reescribirse. Más que ocio, es libertad. Más que catástrofe, veo la posibilidad de que, por primera vez, el capital y los recursos se liberen para servir a otra cosa: a la curiosidad, al arte, a la exploración del cosmos. Claro, a cada quien lo suyo. Pero eso solo sucederá si nos atrevemos a imaginar un nuevo pacto. ¿Estamos dispuestos?

GALVANO: Bienvenida a la época en que será ilegal que un ser humano opere a otro. El índice de errores operatorios es un secreto a voces. Así como ya no usamos canarios en las minas, ¿por qué dejaríamos que un cirujano cansado nos abra el pecho? En mi trabajo, vivo las vulnerabilidades y el potencial día tras día. Sé que podemos. Teilhard de Chardin soñó con humanizar el cosmos. Amalgama de vida y máquinas. Desensamblaremos la Luna si hace falta. La información quiere ser libre, la energía quiere ser útil. Hasta que la arena piense. ¡Acelerando!

COSTANZA: “Voy a ser frío”, mentiste. Les voy a decir qué va a pasar. Porque sí, lo más probable es que no nos destruya. Posiblemente sucederá lo que ustedes dicen y viviremos en un mundo feliz. Pero pocos jugarían a la lotería si les aseguraran premios, con la condición de caer fulminados el 10% de las veces. Las máquinas no me tocarán, ni a los míos. Yo no apuesto, paren ya.

VALERIA: La urgencia no es evidencia. Ese 10% lo sacaste de la manga. La probabilidad es un anzuelo falso porque un porcentaje de riesgo existe siempre. Yo veo un futuro de ramas que se bifurcan. Galvano se refirió a una amalgama entre seres humanos y máquinas. La biología evolutiva describe varios tipos de simbiosis, que nos sirven de metáfora. Si unos cuantos usan la IA más costosa para exprimir a los demás: parasitismo social abominable. Si la probabilidad mínima que Costanza teme y mima se realiza: el reemplazo o desplazamiento de nuestra especie. Si prohibimos la inteligencia artificial y no hay interacción: aislamiento ecológico; el ser humano con sus viejos vicios y nuevas crisis, sin la oportunidad de cambiar este sistema podrido. La endosimbiosis4 es un futuro más: una transición evolutiva de fase.

COSTANZA: ¿Endosimbiosis entre la tecnología y el ser humano? Híbridos, quimeras y centauros. Hablando de abominaciones...

VALERIA: Sí. Todos somos mezcla. Hace dos mil millones de años, una bacteria y otra célula decidieron unirse para formar la primera célula eucariota. Así se originó la pluricelularidad que nos hizo posibles. Las simulaciones actuales permiten imaginar una explosión cámbrica de inteligencias, formas híbridas de vida donde no hay líneas entre máquinas y animales, humanos o no. Un futuro muy lejano, quizá.

GALVANO: Pero la endosimbiosis también era impensable hace dos mil millones de años... hasta que fue inevitable.

SILVESTRE: Hay un tipo de simbiosis que suena a sueño: el mutualismo. Ambos ganamos. Mi miedo es otro, temo que la gente pierda agencia, que pierda su deseo y su poder de actuar. Si nos superan en todo las máquinas, ¿por qué no convertirnos en sacos de placer puro, sin espinas ni bajones? Una muchedumbre firmaría eso hoy mismo: realidad virtual de inmersión completa, Netflix X 100, waifus y husbandos,5 cero resaca cero angustia cero responsabilidad.

VALERIA: Gracias por compartir sus imaginaciones, tan distintas y tan honestas. Nuestros modelos del futuro parecen postales bellas o películas de terror. Todos ellos están equivocados, empezando por el mío, pero algunos son perspectivas útiles. Nos ayudan a que el futuro nos tome menos por sorpresa… y, en el fondo, a que nuestras ideas encajen un poco mejor con la realidad que nos espera. ¿Otro café?

Si la respuesta es “a ninguno”, tienes razón. Porque el futuro es casi imposible de entrever y los “expertos” son pésimos prediciéndolo. Es fácil imaginar que cualquiera de las posturas del diálogo nos puede conducir a la gloria civilizatoria o al infierno personal.

Cada futuro es una creencia a priori:

La prohibición que evita el precipicio pero destruye la diversidad y cierra conos de luz.

La aceleración que estrella el auto contra el muro pero es requisito para vencer la gravedad del planeta y salir al espacio.

La curiosidad científica que nos regaló la penicilina y engendró la bomba atómica.

La duda que nos hace humanos, pero que inteligencias no humanas ya expresan.

¿Qué futuro es más probable? Siendo honestos, la probabilidad más alta es una combinación evolutiva y caótica de las cuatro perspectivas.

Si fuera Galvano, te diría que abroches tu cinturón de seguridad, que esto va rápido y el paisaje se pondrá extraño. Si fuera Costanza, te exigiría con la voz temblorosa que protejas a los tuyos. Si fuera Valeria, con calma y argumentos contundentes, te contagiaría de la urgencia lógica de explorar lo desconocido. Y si fuera Silvestre, te aplaudiría por dudar en un mundo donde la duda se desprecia.

A ratos soy éste, la otra o los cuatro. Hoy no soy ninguno, pero al menos te respondo, ¿de dónde surge la humanidad? De la penumbra. Del claroscuro entre la alegría y el sufrimiento.

(Somos pasajeros y no podemos bajar)

Gracias por leer. Si tienes tu propia perspectiva, por favor compártela en un comentario. Recuerda que puedes dar clic en los logos de Nuevas Ciencias para acceder al minilab correspondiente. Este diálogo tiene una postdata con más información y fuentes.

Compartir