Nicoletta Rangone: «Innovar sí, pero sin renunciar a los derechos»

En Algoritmo Transparente damos un paso más para acercar la inteligencia artificial al tejido empresarial. En colaboración con Lynoa Studio, ofrecemos asistentes inteligentes y chatbots personalizados para mejorar la atención al cliente, captar nuevas oportunidades comerciales y automatizar procesos.

Soluciones prácticas, adaptadas a cada negocio y orientadas a obtener resultados reales.

Descubre el servicio y solicita una demo

Este boletín Algoritmo Transparente número #143 también está traducido al catalán, inglés, francés e italiano.

«Las normas existen para proteger los derechos de las personas, no por el simple hecho de regular.»

«Europa debe construir su propia soberanía digital sin renunciar a la innovación ni a los valores que la distinguen.»

«Si hiciéramos transparente el impacto ambiental de la inteligencia artificial, ciudadanos, empresas e instituciones tomarían decisiones muy diferentes.»

Nicoletta Rangone es una de las principales especialistas europeas en Derecho Administrativo, calidad regulatoria y gobernanza de la inteligencia artificial. Es catedrática de Derecho Administrativo en la Universidad LUMSA de Roma, donde dirige el grado en Derecho y forma parte del Centro Universitario de Investigación e Internacionalización. Además, imparte docencia en el programa Erasmus Mundus European Master in Law and Economics (EMLE) y ha sido titular de una Cátedra Jean Monnet dedicada al enfoque europeo de la Better Regulation.

Recientemente ha asumido la dirección del nuevo Centro de Excelencia Sustainable Artificial Intelligence for Regulation (SUSTAIN-AI-REG), un proyecto financiado por la Comisión Europea que durante los próximos tres años analizará cómo conciliar el desarrollo de la inteligencia artificial con la protección de los derechos fundamentales y del medio ambiente. También forma parte del Núcleo de Evaluación del Impacto de la Regulación (NUVIR) y asesora a organismos como la OCDE, el Banco Mundial, la Autoridad Italiana de Defensa de la Competencia y la Autoridad Nacional Anticorrupción. Rangone sostiene que Europa no debe imitar ni el modelo estadounidense ni el chino, sino construir un camino propio basado en los derechos, la transparencia y la soberanía tecnológica.

Se trata de un proyecto de tres años que acaba de comenzar y que da continuidad a una línea de investigación desarrollada durante los últimos años gracias a los programas Jean Monnet de la Comisión Europea. En un principio trabajábamos sobre Better Regulation y, casi de manera natural, ese ámbito de estudio terminó encontrándose con la inteligencia artificial. La IA puede convertirse en una herramienta extremadamente valiosa para ayudar a las administraciones públicas a elaborar mejores normas, realizar evaluaciones previas de impacto o gestionar procesos de participación pública a gran escala. Es un potente factor de amplificación de estas técnicas, pero también implica riesgos importantes, sobre todo en términos de inclusión, transparencia y protección de los derechos fundamentales. Por eso decidimos ampliar la investigación hacia un aspecto que hasta ahora había recibido mucha menos atención: la sostenibilidad ambiental de la inteligencia artificial.

Cuando empecé a estudiar la inteligencia artificial me di cuenta de que, además de los riesgos jurídicos y sociales, existía otra dimensión prácticamente ausente del debate público: la de los costes ambientales. Esos costes existen y son muy relevantes, pero a menudo permanecen ocultos porque se consideran externalidades que no asumen ni los desarrolladores ni los usuarios de los sistemas. Hablamos del consumo de energía, del agua necesaria para refrigerar los centros de datos, de la fabricación de microchips y de todo el ciclo de vida de los dispositivos. La verdadera cuestión es quién debe asumir esos costes y cómo deben incorporarse al marco regulatorio.

El Reglamento Europeo de Inteligencia Artificial es una norma de extraordinaria importancia y Europa puede sentirse orgullosa de haber sido la primera gran jurisdicción del mundo en dotarse de un marco jurídico completo para este ámbito. Sin embargo, también presenta limitaciones evidentes, y una de las principales es precisamente la escasa atención que dedica al impacto ambiental de la inteligencia artificial. Creo que este será uno de los grandes debates de los próximos años, porque la sostenibilidad no puede seguir siendo un aspecto secundario del desarrollo tecnológico.

No creo que el debate pueda simplificarse de esa manera. Las normas no existen para que los reguladores justifiquen su existencia; existen para proteger los derechos de las personas. Desde ese punto de vista, Europa tiene una gran fortuna, porque su Reglamento de Inteligencia Artificial está claramente orientado a los derechos (rights-driven), es decir, sitúa los derechos fundamentales en el centro del sistema. Otras regiones del mundo priorizan la innovación por encima de cualquier otra consideración. Europa, en cambio, intenta conciliar ambas necesidades y, en mi opinión, ese es precisamente su principal valor.

Exactamente. Es un falso dilema. No podemos proteger los derechos hasta el punto de impedir cualquier forma de innovación, pero tampoco podemos sacrificarlos en nombre del progreso tecnológico. El objetivo debe ser avanzar simultáneamente en ambos frentes, manteniendo un equilibrio constante entre la protección de las personas y la capacidad de innovar.

Sí. Los objetivos del Reglamento me parecen excelentes, pero el problema es su enorme complejidad. Solo el AI Act cuenta con 113 artículos, 180 considerandos y 13 anexos. A esta estructura, ya de por sí muy extensa, se suman actos delegados y de ejecución, normas armonizadas, códigos de buenas prácticas y directrices que todavía se están elaborando. Todo ello crea una arquitectura jurídica muy pesada, que genera incertidumbre tanto para las empresas como para las administraciones públicas. Europa necesita simplificar este sistema, pero simplificar no puede significar eliminar las garantías. Simplificar debe consistir en reducir las cargas administrativas manteniendo intactos los objetivos de protección de los derechos, porque de lo contrario ya no hablaríamos de simplificación, sino de desregulación.

El principal riesgo es la inestabilidad jurídica. A raíz del informe Draghi, la Comisión Europea ha impulsado varios paquetes ómnibus para revisar normativas como el AI Act y el Reglamento General de Protección de Datos. Algunas modificaciones pueden ser útiles porque reducen cargas innecesarias, pero otras representan un paso atrás. El problema es que se están modificando obligaciones antes incluso de que empresas y administraciones hayan tenido tiempo de aplicarlas. Adaptarse a la normativa europea ya supone costes muy elevados; si las reglas cambian continuamente, aumenta el coste del cumplimiento y también la tentación de esperar o incluso de no cumplirlas.

Sí, porque no podemos resolver la complejidad de la regulación empobreciendo el proceso democrático. Algunos de estos paquetes se han preparado mediante consultas muy limitadas, dirigidas sobre todo a expertos, sin una participación suficiente de la ciudadanía y sin una evaluación previa de impacto. Europa siempre se ha distinguido por herramientas como la plataforma Have Your Say, que permite a los ciudadanos contribuir a la elaboración de las políticas públicas. Renunciar a estas garantías en reformas que afectan al AI Act o al RGPD significa avanzar prácticamente a ciegas. La solución no consiste en simplificar el proceso de toma de decisiones, sino en producir normas más claras y menos gravosas.

Me sorprendió muy positivamente encontrar funcionarios públicos con una mentalidad tan abierta hacia la innovación. En las experiencias que conocí, el mensaje de las ciudades era básicamente este: «Traednos ideas y nosotros pondremos a disposición los datos urbanos». Lo más interesante es que todo ello se desarrolla bajo el mismo RGPD que tenemos en Italia. La diferencia, por tanto, no está en la normativa europea, que es idéntica para todos, sino en la manera en que las instituciones nacionales la interpretan. En España, al menos en los casos que tuve ocasión de conocer, la protección de datos no ha impedido innovar. En Italia, en cambio, algunas interpretaciones son mucho más restrictivas.

Sí. Aquella decisión se justificó por cuestiones relacionadas con la base jurídica del tratamiento de datos utilizado para entrenar los modelos, la exactitud de los datos y la ausencia de mecanismos adecuados de verificación de la edad. No cuestiono la necesidad de proteger la privacidad, pero una misma norma puede interpretarse de maneras muy distintas. La interpretación jurídica debe ser evolutiva y proporcionada. La protección de los derechos es irrenunciable, pero no debería anular otros objetivos legítimos, como la innovación en la Administración pública. Cuando es el sector público quien utiliza estas tecnologías, sabemos que la finalidad debe ser siempre el interés general y la mejora de los servicios a los ciudadanos.

Francia siempre ha tenido una cultura muy fuerte de defensa de sus propios campeones nacionales. Hoy eso se traduce en una estrategia concreta a favor de la soberanía digital: inversiones públicas en la nube, apoyo a empresas como Mistral y limitaciones al uso de determinadas plataformas extranjeras en los ámbitos más sensibles. Probablemente esas alternativas no ofrecen todas las funcionalidades de las grandes empresas tecnológicas estadounidenses, pero la cuestión no es elegir siempre la herramienta más potente. Las administraciones públicas también deben valorar dónde se almacenan los datos, qué ordenamiento jurídico los protege y qué grado de dependencia tecnológica se genera.

No estoy diciendo que estas herramientas no deban utilizarse, pero creo que hace falta una mayor conciencia del mensaje que transmite una institución pública cuando implanta de forma masiva una determinada plataforma. Cuando una universidad ofrece un producto a toda su comunidad, está sugiriendo implícitamente que es seguro y fiable. Sin embargo, en las universidades circulan datos personales, información sensible, resultados de investigación y contenidos que no deberían compartirse sin las debidas precauciones. Además, una vez que una organización adopta una plataforma, resulta muy difícil desligarse de ella. Esa dependencia también forma parte del debate sobre la soberanía digital.

No necesariamente. La soberanía digital no es un nacionalismo cerrado, sino la capacidad de garantizar que las tecnologías esenciales que utilizamos sean coherentes con nuestros valores jurídicos. Europa ha construido un modelo basado en los derechos fundamentales, la protección de los datos personales y la dignidad de la persona. Esa sensibilidad no es la misma en todos los ordenamientos jurídicos. Si afirmamos que nuestro modelo está orientado a los derechos (rights-driven), debemos ser coherentes también en nuestras decisiones tecnológicas y en la contratación pública.

Debe serlo. Se trata, una vez más, de encontrar un equilibrio. El AI Act, por ejemplo, prohíbe el uso de la inteligencia artificial para inferir emociones en determinados contextos, como el ámbito educativo. Esa prohibición puede limitar algunas aplicaciones destinadas a personalizar el aprendizaje a partir del análisis de las reacciones emocionales de los estudiantes. Sin embargo, también puede evitar que un joven quede etiquetado para siempre como un alumno lento, inestable o excepcional. Tal vez Europa renuncie a algunas aplicaciones, pero desarrollará otras que respeten mejor la dignidad humana. Innovar no significa necesariamente adoptar cualquier tecnología disponible.

Sí, probablemente sea uno de los pocos ámbitos que todavía no se han polarizado. En Italia casi todo genera división política, pero la inteligencia artificial no. En principio, eso es positivo porque evita que un debate tan complejo quede reducido a consignas ideológicas. Lo que sí me preocupa es que todavía se hable demasiado poco de ello. Aún no existe una verdadera conciencia sobre las implicaciones de esta tecnología, especialmente en lo que respecta a sus costes ambientales y a su impacto sobre las políticas públicas.

Exactamente. Cuando hablamos de los costes de la inteligencia artificial solemos pensar en conceptos muy abstractos, pero ya existen consecuencias muy concretas. En algunos países, por ejemplo, compañías energéticas han dejado de firmar contratos con comunidades locales porque la demanda procedente de los centros de datos absorbe una parte muy importante de la capacidad disponible. También sabemos que los sistemas conversacionales consumen mucha más energía que otros tipos de modelos. Todo ello debería llevarnos a reflexionar sobre cuándo es realmente necesario utilizar estas herramientas y cuándo existen alternativas más eficientes.

Sin ninguna duda. No todas las administraciones necesitan grandes modelos de lenguaje de propósito general. En muchos casos, los Small Language Models pueden resultar mucho más adecuados porque consumen menos recursos, son más fáciles de controlar y permiten reutilizar conocimientos ya desarrollados por otras administraciones. Las administraciones públicas comparten muchas funciones: inspecciones, gestión del riesgo, procedimientos administrativos o tareas de supervisión. Si una administración ya ha entrenado un sistema eficaz, tiene todo el sentido que otra pueda reutilizarlo en lugar de empezar desde cero. Eso reduce los costes económicos, disminuye el consumo energético y facilita también el cumplimiento de los requisitos de transparencia y trazabilidad.

Creo que sí. En Italia, la Agencia para la Italia Digital ya recomienda priorizar soluciones abiertas, pero eso solo puede funcionar si también existe transparencia. Es necesario saber qué ha desarrollado cada administración, qué herramientas están disponibles y qué resultados han obtenido. Compartir ese conocimiento es fundamental. Las ciudades europeas afrontan problemas muy similares y no tiene sentido que cada una reinvente las mismas soluciones. Más que copiar, se trata de aprender unas de otras y adaptar aquellas experiencias que ya han demostrado su eficacia.

Probablemente sea el mayor reto que tenemos por delante. Hoy no disponemos de una metodología compartida para medir el impacto ambiental de los sistemas de inteligencia artificial. No sabemos con precisión qué debe contabilizarse, dónde empieza el ciclo de vida de un sistema y dónde termina. Hablamos de los centros de datos, pero también de los microchips, de los dispositivos que utilizamos y de su reciclaje. Cada empresa realiza sus propios cálculos y, sin criterios comunes, resulta imposible comparar los resultados. Sin métricas compartidas tampoco puede existir una verdadera transparencia.

Exactamente. Si ciudadanos, empresas y administraciones conocieran el impacto ambiental real de los distintos sistemas, podrían tomar decisiones mucho más responsables. La transparencia tiene un efecto transformador porque favorece las soluciones más eficientes y crea incentivos reputacionales para que las empresas mejoren su comportamiento. Hoy, en cambio, todo sigue siendo extremadamente opaco. Las grandes plataformas protegen esa información porque representa una ventaja competitiva, y eso dificulta enormemente cualquier comparación objetiva.

Compartir

Es una de las lecciones más interesantes que deja el caso DeepSeek. Su desarrollo demuestra que innovar no significa necesariamente empezar siempre desde cero. Es posible reducir de manera significativa los recursos necesarios aprovechando modelos, conocimientos, arquitecturas e infraestructuras ya existentes. Esto refuerza la idea de que la reutilización también puede convertirse en un principio de sostenibilidad digital. Del mismo modo que la economía circular recupera materiales y componentes, en inteligencia artificial también deberíamos favorecer, siempre que sea posible, la reutilización de modelos y de recursos computacionales, evitando duplicidades innecesarias. El concepto de circularidad no debería limitarse únicamente a los objetos físicos, sino extenderse también a los sistemas digitales.

No obstante, también hay que tener en cuenta las recientes acusaciones formuladas por Anthropic contra DeepSeek, que ponen de manifiesto cómo la reutilización y la destilación de modelos plantean cuestiones delicadas relacionadas con las condiciones de acceso, las licencias, la transparencia y la protección de las inversiones realizadas por los desarrolladores originales. Por ello, fomentar la reutilización debe ir acompañado de normas capaces de equilibrar la sostenibilidad, la innovación y la protección de los derechos e intereses en juego.

Siempre europea. Me considero profundamente europea. Formo parte de la primera generación que vivió la experiencia Erasmus, y eso marcó profundamente mi forma de entender Europa. Cuando viajo a España, Francia o cualquier otro país europeo me siento como en casa porque, a pesar de las diferencias culturales y lingüísticas, compartimos un patrimonio de valores muy profundo.

Precisamente por eso creo que Europa debe construir una verdadera capacidad tecnológica propia, no para competir desde una lógica nacionalista, sino para preservar un modelo de sociedad basado en los derechos, la democracia y el Estado de derecho.

Lo que más me llamó la atención fue que el Papa abordara este tema de una manera tan explícita. La sensibilidad ecológica ya estaba presente en encíclicas anteriores, pero esta vez se habla directamente del consumo de agua, del consumo de energía y de los efectos que la inteligencia artificial puede tener sobre las generaciones futuras.

Es significativo que estas reflexiones provengan también de autoridades espirituales y de organismos internacionales como las Naciones Unidas. Eso significa que el debate ha dejado de ser exclusivamente tecnológico. La inteligencia artificial es una cuestión de responsabilidad colectiva y debemos afrontarla asumiendo también los costes que implica. Solo así podremos aprovechar todo su potencial sin comprometer el futuro.