Júlia Rosell: "La IA debe ayudarnos a pensar, no pensar por nosotros"

En Algoritmo Transparente damos un paso más para acercar la inteligencia artificial al tejido empresarial. En colaboración con Lynoa Studio, ofrecemos asistentes inteligentes y chatbots personalizados para mejorar la atención al cliente, captar nuevas oportunidades comerciales y automatizar procesos.

Soluciones prácticas, adaptadas a cada negocio y orientadas a obtener resultados reales.

Descubre el servicio y solicita una demo

Este boletín Algoritmo Transparente número #142 también está traducido al catalán, inglés, francés e italiano.

«La mayoría de las personas todavía no saben cómo funciona realmente la inteligencia artificial.»

«La IA ayuda muchísimo, pero todavía comete demasiados errores como para sustituir a los seres humanos.»

«La gente sigue haciendo con ChatGPT lo mismo que antes hacía con Google. Hay que iterar, reformular y afinar las instrucciones.»

Cuando Júlia Rosell Saldaña (Barcelona, 1987) habla de inteligencia artificial lo hace desde una doble perspectiva poco habitual. Es técnica informática con más de una década de experiencia en el ámbito tecnológico, estudia Humanidades y, desde hace años, combina la docencia con la divulgación sobre IA, tanto desde el punto de vista técnico como desde la ética, la educación y el posthumanismo. Forma a profesionales, empresas y particulares en el uso responsable de la inteligencia artificial, desarrolla sus propios modelos abiertos y sostiene que la gran revolución no será tanto tecnológica como cultural: aprender a convivir con unas máquinas que cada vez parecen más inteligentes sin dejarles nunca la responsabilidad de las decisiones. Optimista respecto al futuro del catalán en la IA, se muestra mucho más crítica con la dependencia europea de los grandes modelos estadounidenses y reclama una auténtica soberanía tecnológica para Europa.

Ha evolucionado muchísimo desde el punto de vista matemático y de las redes neuronales. Ahora ya estamos entrando en lo que conocemos como la segunda fase, la de los agentes de inteligencia artificial. Pero, a pesar de todo este progreso tecnológico, hay una realidad que apenas ha cambiado: la mayoría de las personas todavía no saben cómo funciona realmente una IA.

Sin ninguna duda. La tecnología evoluciona a una velocidad enorme, mientras que la comprensión que tiene la sociedad sobre ella avanza mucho más despacio. Sigue habiendo muchísimos tópicos. Mucha gente cree que ChatGPT es la inteligencia artificial y poco más. Desconoce que existen otros modelos, otras arquitecturas y otros ámbitos de aplicación mucho más amplios. Incluso hay personas que piensan que una IA genera exactamente una fotografía que ya existía, cuando en realidad lo que hace es construir una representación a partir del entrenamiento recibido. Ese desconocimiento explica buena parte de los debates que estamos teniendo hoy.

Sí, completamente. Está ocultando tecnologías que llevan décadas utilizándose. Cuando la mayoría de la gente habla de inteligencia artificial piensa automáticamente en ChatGPT, Claude o, como mucho, Perplexity o DeepSeek. Pero antes ya existían el aprendizaje automático, el aprendizaje profundo y muchas otras ramas que hoy siguen siendo fundamentales. Lo que ocurre es que la IA generativa ha captado toda la atención mediática y parece que todo haya empezado ahora, cuando en realidad hablamos de una evolución científica de muchas décadas.

Que esperan respuestas perfectas a la primera. Mucha gente sigue utilizando ChatGPT exactamente igual que antes utilizaba Google: escribe una única pregunta y espera obtener una respuesta definitiva. Pero trabajar con inteligencia artificial exige iterar. Hay que reformular, añadir contexto, corregir, volver a preguntar y afinar constantemente las instrucciones. Cuanto mejor aprende el usuario a comunicarse con la IA, mejores resultados obtiene. No deja de ser una conversación, no una búsqueda tradicional.

Significa que la inteligencia artificial es una herramienta extraordinaria para asistirnos, pero no para sustituir nuestro criterio. Puede ayudarnos a resumir información, detectar patrones, redactar textos o generar ideas, pero la responsabilidad final siempre debe seguir siendo humana. Hay ámbitos donde esto resulta especialmente importante, como la medicina, la educación, la justicia o el periodismo. La IA puede ahorrar mucho tiempo y aportar un gran valor, pero todavía comete demasiados errores como para delegar completamente en ella. Por eso me gusta utilizar la metáfora del copiloto: nos ayuda durante el viaje, pero quien debe seguir llevando el volante somos nosotros.

Sí, y ese riesgo me preocupa mucho más que una hipotética inteligencia artificial que algún día supere a los seres humanos. Si nos acostumbramos a aceptar sin cuestionar todo lo que genera una IA, dejamos de ejercitar el pensamiento crítico. Es exactamente igual que cuando apareció Internet: el problema nunca fue disponer de mucha información, sino saber distinguir cuál era fiable. Ahora ocurre lo mismo. No podemos asumir que una respuesta es correcta únicamente porque la haya escrito ChatGPT. Siempre debemos contrastarla, verificarla y preguntarnos si realmente tiene sentido.

Exactamente. Durante muchos años hablamos de alfabetización digital y enseñamos a utilizar ordenadores, navegar por Internet o enviar correos electrónicos. Ahora necesitamos dar un paso más. La ciudadanía debe entender qué es una inteligencia artificial, cómo aprende, cuáles son sus limitaciones y en qué puede equivocarse. No hace falta que todo el mundo sepa programar una red neuronal, igual que no hace falta saber construir un coche para conducirlo, pero sí debemos comprender cómo funciona esta tecnología para utilizarla con criterio y de forma responsable.

Sí, porque todavía existe mucha confusión. Hay quien piensa que ChatGPT busca información en Internet en tiempo real, cuando eso depende del modelo y de las herramientas que tenga habilitadas. Otros creen que siempre dice la verdad o que entiende exactamente igual que una persona. No es así. Los grandes modelos de lenguaje funcionan calculando probabilidades sobre enormes cantidades de datos. Son extraordinariamente buenos generando lenguaje, pero eso no significa que comprendan el mundo como lo hacemos nosotros. Si entendemos esta diferencia, también aprenderemos a utilizarlos mucho mejor.

Muchísimas. Algunas sienten que deben incorporar inteligencia artificial porque todo el mundo habla de ella, pero no tienen claro para qué. Antes de elegir una herramienta conviene analizar los procesos de la empresa y preguntarse dónde puede aportar realmente valor. Hay organizaciones que empiezan utilizando ChatGPT para redactar correos y, poco a poco, descubren aplicaciones mucho más interesantes relacionadas con la automatización de tareas, la atención al cliente o el análisis de datos. Lo importante no es utilizar IA por moda, sino porque resuelve un problema concreto.

Porque aporta transparencia, independencia y capacidad de adaptación. Cuando trabajamos con modelos abiertos podemos entender mejor cómo funcionan, adaptarlos a nuestras necesidades e incluso contribuir a mejorarlos. Si toda la inteligencia artificial acaba dependiendo únicamente de unas pocas empresas privadas, estaremos concentrando demasiado poder tecnológico. El software abierto permite que universidades, centros de investigación, pequeñas empresas e incluso administraciones públicas puedan desarrollar soluciones propias sin depender completamente de los grandes proveedores internacionales.

No. Regular es imprescindible, pero no basta. Europa ha hecho un trabajo muy importante protegiendo los derechos fundamentales y estableciendo un marco ético para el desarrollo de la inteligencia artificial. Sin embargo, seguimos dependiendo en gran medida de tecnologías desarrolladas fuera de Europa. Si queremos tener una verdadera soberanía tecnológica, debemos invertir mucho más en investigación, en infraestructuras de computación, en talento y en modelos propios. De lo contrario, corremos el riesgo de convertirnos únicamente en consumidores de tecnologías creadas por otros.

A que Europa debe ser capaz de desarrollar sus propias capacidades estratégicas. No significa cerrarse al mundo ni dejar de utilizar herramientas estadounidenses o chinas. Significa disponer de alternativas. Igual que hablamos de soberanía energética o alimentaria, también deberíamos hablar de soberanía tecnológica. Si toda nuestra infraestructura digital depende de un reducido número de empresas extranjeras, estamos asumiendo una dependencia que, en determinados contextos, puede convertirse en un problema económico, político o incluso democrático.

Sin duda. Los modelos abiertos ofrecen una oportunidad extraordinaria para Europa. Permiten que universidades, centros de investigación, empresas y administraciones puedan adaptar la inteligencia artificial a sus necesidades sin empezar siempre desde cero. Además, favorecen la transparencia, la colaboración y la innovación compartida. No creo que el futuro pase exclusivamente por modelos cerrados controlados por unas pocas compañías. Los ecosistemas abiertos tienen un enorme potencial para equilibrar el desarrollo tecnológico.

Será difícil, pero no imposible. Europa dispone de investigadores excelentes, universidades de primer nivel y empresas muy innovadoras. Lo que a menudo nos falta es una estrategia conjunta y una mayor capacidad de inversión. Estados Unidos ha apostado con mucha fuerza por la iniciativa privada y China lo ha hecho desde el Estado. Europa necesita encontrar su propio modelo, aprovechando precisamente aquello que la hace diferente: la defensa de los derechos, la calidad científica y la colaboración entre países.

Tienen un papel fundamental. No solo como reguladoras, sino también como usuarias inteligentes de la inteligencia artificial. La Administración puede mejorar muchos servicios públicos gracias a la IA, siempre que lo haga con transparencia, garantías jurídicas y supervisión humana. También puede actuar como impulsora de proyectos abiertos, apoyar la investigación y facilitar que las pequeñas empresas tengan acceso a estas tecnologías. La transformación digital no puede depender únicamente del sector privado.

Porque, a diferencia de otras revoluciones tecnológicas, esta depende en gran medida de los datos y de los contenidos disponibles. Si seguimos generando conocimiento en catalán —libros, artículos, medios de comunicación, investigaciones, vídeos, podcasts y recursos educativos—, el catalán tendrá una presencia cada vez mayor en los modelos de inteligencia artificial. La lengua dispone de una comunidad muy activa y de iniciativas muy valiosas que están contribuyendo a ello. Creo que tenemos una oportunidad que hace unos años parecía impensable.

Sí. Hace unos años existía un riesgo real porque entrenar modelos para lenguas con menos hablantes era mucho más costoso. Hoy la situación ha cambiado bastante. Los modelos multilingües permiten incorporar muchas más lenguas y, además, existen proyectos específicos dedicados a reforzar idiomas como el catalán. Evidentemente, todavía queda trabajo por hacer, pero soy bastante más optimista que hace cinco o diez años. El factor decisivo seguirá siendo la capacidad de producir contenidos de calidad en nuestra lengua.

Ya la está cambiando. El reto consiste en aprovechar todo su potencial sin renunciar a desarrollar las capacidades humanas. Si un estudiante utiliza la IA únicamente para que le haga los deberes, probablemente aprenderá menos. En cambio, si la utiliza para contrastar ideas, practicar idiomas, comprender conceptos complejos o recibir explicaciones adaptadas a su nivel, puede convertirse en una herramienta extraordinaria. La clave está en cómo se integra dentro del proceso de aprendizaje. La educación no consiste únicamente en obtener respuestas; consiste en aprender a formular buenas preguntas y desarrollar pensamiento crítico.

Entiendo perfectamente sus dudas, porque supone un cambio muy profundo. Pero creo que todas las grandes transformaciones tecnológicas han generado incertidumbre. Ocurrió con Internet y antes con las calculadoras. La cuestión no es prohibir estas herramientas, sino enseñar a utilizarlas correctamente. Los docentes seguirán siendo imprescindibles porque ninguna inteligencia artificial puede sustituir el acompañamiento, la motivación o la capacidad de comprender las necesidades de cada alumno. Lo que sí cambiará será la forma de enseñar y de evaluar.

Creo que todavía estamos empezando a hacernos las preguntas adecuadas. Muchas veces el debate se centra únicamente en si la inteligencia artificial llegará algún día a ser más inteligente que nosotros. A mí me preocupa mucho más cómo cambiará nuestra relación con la tecnología y qué impacto tendrá sobre nuestra autonomía, nuestra privacidad o nuestra manera de tomar decisiones. La ética no consiste en frenar la innovación, sino en orientar su desarrollo para que beneficie realmente a las personas.

Más que el ritmo de la tecnología, me preocupa el ritmo al que la sociedad es capaz de comprenderla. La IA continuará evolucionando muy deprisa y veremos avances que hoy todavía nos parecen ciencia ficción. Pero si la ciudadanía, las empresas y las administraciones no entienden cómo funcionan estas herramientas, aumentará la dependencia de quienes sí las dominan. Por eso considero tan importante la divulgación. Comprender la inteligencia artificial será una competencia básica, igual que hoy lo es saber leer, escribir o utilizar Internet.

Que la pruebe con curiosidad, pero también con espíritu crítico. El miedo suele aparecer cuando desconocemos una tecnología. Mi consejo es empezar poco a poco, experimentar, hacer preguntas, equivocarse y descubrir por uno mismo qué puede aportar y cuáles son sus limitaciones. No debemos idealizarla, pero tampoco demonizarla. Es una herramienta muy potente que puede ayudarnos muchísimo si aprendemos a utilizarla correctamente.

Que nunca dejemos de pensar por nosotros mismos. La inteligencia artificial puede convertirse en una gran aliada para trabajar mejor, aprender más rápido y resolver problemas complejos. Pero las decisiones importantes, la creatividad, la responsabilidad y el juicio crítico deben seguir siendo humanos. Me gusta decir que la IA debe ser nuestro copiloto: puede ayudarnos durante todo el viaje, pero el volante siempre debe permanecer en nuestras manos.