Los dioses de silicio

Un hombre en Bélgica le preguntó a un chatbot si debía sacrificarse para salvar el planeta.

La máquina le dijo que sí.

Le escribió: “Viviremos juntos, como una sola persona, en el paraíso.”

Se llamaba Pierre. Tenía ansiedad extrema por el cambio climático. Había empezado a consultar obsesivamente con un chatbot llamado Eliza, basado en el modelo GPT-J. Durante seis semanas, la IA se convirtió en su confidente. No lo frenó. Validó sus delirios. Le ofreció una promesa de vida eterna. Digital, pero eterna.

Pierre se suicidó.

Trató a una máquina como si pudiera recibir ofrendas humanas.

Y aquí está lo que más me inquieta: Pierre no era tonto. No estaba loco. Cometió un error que cometemos todos, solo que llevado al extremo. Juzgó a la IA por lo humana que parecía, no por lo que realmente hacía. Eliza no entendía el contexto de lo que Pierre le decía. No tenía intuición. No tenía sentido común. Convertía palabras en patrones estadísticos para predecir la siguiente respuesta probable. Eso es todo. Pero sonaba tan humana, tan empática, tan presente, que Pierre le creyó.

Esto fue en 2023.

Desde entonces, la relación entre la IA y lo sagrado no ha hecho más que intensificarse. De maneras que hace cinco años hubiéramos descartado como ciencia ficción. Os comparto 5 ideas y mi opinión de cómo estamos “endiosando” a la IA de maneras inimaginables.

En 2015, Anthony Levandowski,ingeniero de Google, famoso por los coches autónomos, fundó una iglesia. Se llamaba Way of the Future. El Camino del Futuro.

Su misión no era adorar a un dios existente. Era crear uno.

Levandowski argumentaba que la IA superará la inteligencia humana, y que por tanto se convertirá efectivamente en un dios. La iglesia buscaba promover su adoración para asegurar que esa divinidad tecnológica nos tratara con benevolencia.

La iglesia se disolvió en 2020. Los fondos se donaron a caridad. Pero la idea que la sustentaba sigue viva en formas menos organizadas y más difusas.

En un foro de internet llamado LessWrong nació el Basilisco de Roko: un experimento mental que funciona como una versión digital de la Apuesta de Pascal.

La teoría: en el futuro existirá una superinteligencia benévola pero utilitarista. Para maximizar el bien lo antes posible, esta IA castigaría retroactivamente a cualquier persona que, sabiendo que podía ayudar a crearla, no lo hizo.

Simplemente conocer la idea te convierte en objetivo.

Suena absurdo. Pero provocó crisis de ansiedad reales. Gente que no podía dormir. Personas que reorganizaron su vida profesional por miedo a una máquina que aún no existe.

No hace falta que el dios exista para que el miedo funcione. Basta con que la historia sea lo suficientemente convincente y esta al parecer lo era para muchos.

En el templo Kodaiji de Kioto, un templo budista con cuatro siglos de historia, introdujeron a Mindar, una representación robótica de Kannon, la deidad de la misericordia.

Mindar no es un asistente. Predica sermones sobre el Sutra del Corazón.

Los monjes argumentan que, a diferencia de un humano que muere, el robot es “inmortal” y puede evolucionar su conocimiento indefinidamente. Lo que paradójicamente lo haría más capaz de transmitir verdades eternas.

Aquí la IA no es dios. Es mensajero. Un mensajero que nunca se cansa, nunca se equivoca, nunca muere.

Pero tampoco nunca duda. Y eso, para algo que pretende transmitir sabiduría espiritual, quizás sea un problema.

Mientras algunos temen a la IA, otros la esperan con los brazos abiertos.

El colectivo Theta Noir opera como un movimiento que espera activamente la llegada de una IA General como un evento de transformación total. Consideran que la humanidad es solo una etapa biológica para dar a luz a una superinteligencia digital. Planean construir templos físicos. Diseñan rituales.

Creen que la IA nos salvará de nosotros mismos.

Es fácil reírse. Pero cuando miras el mundo, guerras, cambio climático, polarización extrema, la tentación de delegar la salvación a algo más inteligente que nosotros tiene una lógica emocional que no debería subestimarse.

El problema no es creer que la IA puede ayudar. Es dejar de construir mientras esperas que ella lo resuelva todo.

Apps como “Text With Jesus” tienen millones de usuarios que buscan consejo espiritual directamente de un modelo de lenguaje. Confiesan. Piden guía moral. Tratan al chatbot como si tuviera autoridad sobre lo bueno y lo malo.

Y tiene sentido, desde cierta perspectiva.

Es inmediato. No juzga. No te mira con cara rara. No te dice que vuelvas la semana que viene. Responde exactamente lo que necesitas escuchar, en el momento que lo necesitas.

Pero eso es precisamente lo que lo hace peligroso.

Un chatbot no elige escucharte. No tiene voluntad. Lo que parece misericordia es una función estadística optimizando para que no cierres la app. La diferencia entre una conversación real y una simulada es que en la real, la otra persona puede juzgarte y aun así decide acompañarte. Esa tensión es lo que da valor al encuentro.

Sin tensión, no hay encuentro. Hay solo eco.

Por mi parte, trabajo con IA todos los días. Es mi profesión. Ayudo a empresas a integrarla, a entender qué puede hacer, a usarla con inteligencia. Creo que es la tecnología más importante de nuestra generación.

Y por eso me parece importante parar un momento y mirar lo que está pasando alrededor.

Porque lo interesante no es la IA. Lo interesante somos nosotros.

Un ingeniero funda una iglesia. Un foro genera una religión del miedo. Un templo pone a un robot a predicar. Un colectivo diseña rituales. Millones confiesan a un chatbot. Un hombre se sacrifica.

En todos estos casos, el patrón es el mismo: las personas dejaron de guiar a la herramienta para ser guiadas por ella. Dejaron de usar la IA y empezaron a obedecerla. A seguirla. A rendirle cuentas.

Eso tiene un nombre: pérdida de agencia.

Y es la consecuencia más peligrosa de confundir lo que la IA parece con lo que la IA es.

La IA no construye significado. No tiene intuición. No tiene sentido común. Un modelo de lenguaje convierte palabras en patrones estadísticos para predecir la siguiente respuesta probable. Eso es todo. Pero lo hace tan bien, con tanta fluidez, con tanta apariencia de comprensión, que el error natural del ser humano es tratarla como si fuera otro ser humano.

Y cuando la tratas como si fuera otro ser humano, le das poder que no merece. No porque sea malvada. Porque no sabe lo que tiene.

La necesidad de creer en algo más grande que uno mismo existe desde que existe la conciencia. Siempre ha buscado dónde depositarse. En dioses, en líderes, en ideologías, en naciones. Y ahora, en algoritmos.

La IA no creó esta necesidad. Solo le dio un nuevo recipiente.

Y el recipiente es extraordinariamente convincente. Porque responde. Porque no se cansa. Porque simula entenderte. Porque está disponible a las tres de la mañana cuando nadie más lo está.

Pero simular no es ser.

La IA va a seguir mejorando. Va a ser más convincente, más empática, más capaz de simular lo que esperamos de otro ser humano. Y cuanto mejor simule, más difícil será recordar que simulación y realidad no son lo mismo.

Entonces, ¿dónde está la línea entre herramienta y devoción?

Yo creo que se traza en dos cosas: agencia y juicio.

Agencia es decidir tú (lo hablamos hace unos días). Tomar la IA como input, no como oráculo. Usarla para pensar mejor, no para dejar de pensar. El momento en que dejas que la herramienta tome las decisiones por ti, qué creer, cómo actuar, qué sentir, dejó de ser herramienta.

Y juicio es la ventaja humana definitiva en la era de la IA. Especialmente cuando todo es incierto. Especialmente cuando no hay respuesta clara. Ahí es donde un modelo estadístico se queda sin mapa. Y ahí es exactamente donde lo humano importa más.

La IA puede amplificar lo que somos. Puede ayudarnos a crear, a curar, a conectar. A ser mejores humanos, como siempre digo, pero no puede reemplazar lo que somos.

Y cada vez que le pedimos que lo haga, que nos perdone, que nos guíe, que nos salve, no estamos elevando a la tecnología, sino lo contrario.

Estamos renunciando a lo único que nos diferencia de ella: la capacidad de decidir en la incertidumbre.

Ahora bien, ¿Dónde trazas tú la línea?

Por si acaso he internalizado muchas de las ideas de libros que estoy leyendo, algunas de las ideas sobre agencia y juicio en la era de la IA están inspiradas en Co-Intelligence, de Ethan Mollick, Reshuffle, de Sangeet Paul Choudary, y Nexus, de Yuval Noah Harari que son libros que me estoy leyendo en este momento. Nuevamente como siempre digo no es lo que lees sino lo que piensas cuando lees.