Alberto Castro: "La IA ni ningún algoritmo pueden sustituir a la justicia"

👉 Convertir tus ideas en proyectos reales, aunque no tengas conocimientos técnicos.

👉 Automatizar procesos y olvidarte de tareas repetitivas con agentes de IA capaces de ejecutarlas por ti.

Y no te irás sólo con lo aprendido. También conseguirás tu certificado de asistencia y el material gratuito del curso para seguir aplicando todo lo aprendido después del directo.

¡Son los últimos días para apuntarte!
Reserva tu plaza gratis ahora.

Este boletín Algoritmo Transparente número #144 también está traducido al catalán, inglés, francés e italiano.

«El progreso tecnológico solo tiene sentido si está al servicio de la dignidad humana.»

«Toda persona debe tener el derecho a ser atendida por otra persona, y no solo por un chatbot.»

«El papel del jurista sigue siendo el de un humanista; eso es algo que la inteligencia artificial no puede sustituir.»

Alberto Castro (Lima, Perú, 1975) es doctor y máster en Derecho Público Comparado y Buen Gobierno, profesor del Departamento Académico de Derecho de la Pontificia Universidad Católica del Perú y coordinador del Programa de Segunda Especialidad en Derecho Público y Buen Gobierno. Especialista en derechos humanos, regulación, políticas públicas y modernización de las administraciones, acumula dos décadas de experiencia en el sector público, donde ha asesorado a altos cargos del Estado peruano y ha representado a su país ante los comités de Gobernanza Pública y Política Regulatoria de la OCDE. Autor del libro Principles of Good Governance and the Ombudsman (2019), su investigación se centra en el papel del defensor del pueblo como garante de los derechos fundamentales y del buen gobierno. Durante un seminario internacional celebrado en Barcelona reflexiona sobre el impacto de la inteligencia artificial en las administraciones públicas, la justicia y la democracia.

Mi intervención se centra en el impacto que la inteligencia artificial tendrá sobre el papel del defensor del pueblo, o ombudsman. Es un tema muy vinculado a mi trayectoria académica porque mi tesis doctoral analizó precisamente los principios de buen gobierno y la función de la Defensoría del Pueblo desde una perspectiva comparada.

Sí. Estudié los casos de Perú, España, el Reino Unido y los Países Bajos. Me interesaba entender cómo estas instituciones desarrollan estándares que permiten supervisar el funcionamiento de la administración pública. A menudo se ve al defensor del pueblo únicamente como un garante de los derechos humanos, pero también es una pieza clave para asegurar una buena administración y un buen gobierno.

No demasiado. Perú adopta esencialmente el modelo español, centrado en la defensa de los derechos humanos. En cambio, en los Países Bajos o en el Reino Unido, el origen constitucional del ombudsman pone más el acento en la buena administración que en la protección directa de los derechos fundamentales. El resultado final es parecido, pero el punto de partida es distinto.

Vivimos plenamente inmersos en la cuarta revolución industrial y eso está transformando nuestras sociedades desde un punto de vista económico, político y social. Las administraciones públicas también cambiarán profundamente, y eso genera oportunidades extraordinarias, pero también riesgos importantes para los derechos humanos.

Hay dos. El primero es interno: cómo la inteligencia artificial puede ayudar a gestionar expedientes, tramitar quejas o mejorar los procesos administrativos. Es lo que podríamos llamar el back office. Pero hay una segunda dimensión mucho más profunda: cómo tendrá que analizar los casos relacionados con la inteligencia artificial, cómo establecerá criterios éticos y jurídicos y qué estándares deberá proponer para que las administraciones actúen correctamente.

Exactamente. La tecnología es solo una parte del debate. Lo más importante es decidir cómo vamos a proteger los derechos fundamentales en este nuevo contexto. La Defensoría tendrá que formular recomendaciones, impulsar políticas públicas y contribuir a definir las reglas que garanticen una administración moderna, pero también respetuosa con la dignidad humana.

Sí, claramente. Siempre con optimismo. Las oportunidades y las amenazas existen al mismo tiempo. Todo depende de cómo las afrontemos. Disponemos de un marco muy sólido formado por los valores del Estado de derecho, la democracia, la libertad, la igualdad, la solidaridad y la equidad. Si no renunciamos a esos principios, tendremos herramientas para afrontar los nuevos desafíos.

Es fundamental porque no se limita a comprobar si una actuación es legal. También examina si es ética, si respeta los valores constitucionales y si garantiza los derechos humanos. Esa mirada más amplia será todavía más necesaria en la era de la inteligencia artificial.

Mucho. Creo que aborda una de las grandes cuestiones del primer cuarto del siglo XXI. Nos recuerda una idea aparentemente sencilla pero esencial: hay que preservar siempre la dignidad humana. Puede parecer una obviedad, pero precisamente aquello que parece evidente es lo que a menudo acabamos olvidando cuando la tecnología avanza muy deprisa.

Sí. En Perú la Defensoría del Pueblo estudió una queja muy significativa. Un ciudadano reclamaba el derecho a poder ser atendido por una persona y no exclusivamente por un chatbot. Creo que ese derecho es muy importante. La tecnología puede ayudar mucho, pero siempre debe existir la posibilidad de que un ciudadano pueda hablar con un ser humano.

Porque hay funciones que no pueden perder el componente humano. El defensor del pueblo convence, orienta y persuade. Sus resoluciones no son vinculantes; su fuerza reside en la autoridad moral. Cuando existen conflictos con una fuerte carga ética, ese contacto humano sigue siendo imprescindible.

Todos los casos ponen de manifiesto lo mismo: la inteligencia artificial plantea retos regulatorios muy importantes. Por un lado, transforma el funcionamiento de las instituciones; por otro, ofrece herramientas para resolver problemas públicos. Eso obliga a llenar vacíos normativos que todavía existen.

Las instituciones tienen responsabilidades distintas, pero las defensorías del pueblo pueden hacer una aportación muy valiosa. En muchos países disponen de iniciativa legislativa y pueden proponer leyes, reglamentos o recomendaciones. También pueden elaborar estándares que ayuden a definir qué derechos deben tener los ciudadanos en esta nueva realidad digital y cómo debe actuar la administración ante ellos.

En muchos casos, sí. Los parlamentos, los gobiernos y los tribunales tienen unos tiempos determinados. La Defensoría del Pueblo, en cambio, puede intervenir con mayor agilidad a partir de los casos concretos que recibe, de las investigaciones que impulsa de oficio y de las recomendaciones que formula. Esa flexibilidad le permite contribuir a dar contenido a nuevos derechos que, con el tiempo, pueden acabar incorporándose al ordenamiento jurídico.

Sin duda. No solo en Perú, sino en todo el mundo. Las defensorías tendrán que aprender a afrontar situaciones completamente nuevas y a construir criterios que hoy todavía no existen.

La gran pregunta es hasta qué punto seguiremos siendo útiles como operadores jurídicos. Durante muchos años hemos formado abogados muy orientados a aplicar normas y procedimientos, pero eso es precisamente lo que una inteligencia artificial podrá hacer muy rápidamente, probablemente mejor que nosotros en muchas tareas rutinarias.

Absolutamente. Las facultades de Derecho tendrán que enseñar a utilizar estas herramientas de manera responsable y ética, pero, sobre todo, tendrán que recuperar una dimensión que quizá habíamos ido perdiendo.

La del humanismo. El jurista no puede limitarse a identificar la norma aplicable. El derecho nace de la búsqueda de la justicia, y ese sentido profundo de la justicia es algo que la inteligencia artificial no puede sustituir. El papel del abogado sigue siendo, antes que nada, el de un humanista.

Es un debate que aparecerá cada vez más, pero creo que entraña un riesgo enorme. Los algoritmos no son neutrales. Incorporan los sesgos de los datos con los que han sido entrenados y de las personas que los desarrollan. Por tanto, pensar que una inteligencia artificial es automáticamente imparcial es una simplificación.

No. Hay funciones que no pueden ser reemplazadas por una inteligencia artificial. La función judicial o la del defensor del pueblo exigen ponderación, criterio, sentido de la justicia y responsabilidad moral. La tecnología puede ayudar mucho, pero esa no es la solución.

Persistir en la defensa de los principios democráticos y del Estado de derecho. Las democracias modernas afrontan una ola de pensamiento autoritario y de restricción de libertades. Precisamente por eso hay que volver a los valores que las inspiraron: la dignidad humana, la libertad, la igualdad y el respeto a los derechos fundamentales.

No. Es un fenómeno mucho más amplio. Tanto las izquierdas como las derechas pueden caer en dinámicas de polarización. Lo estamos viendo en muchos países y también en Perú. Cuando la sociedad se polariza, se reduce el espacio para la reflexión, para el bien común y para las decisiones objetivas.

Fue un proceso largo y complejo, que tuvo que repetirse varias veces antes de que el Parlamento pudiera elegir al nuevo defensor del pueblo. Hubo mucha tensión política y también recursos judiciales que cuestionaron el procedimiento.

Que la elección del defensor del pueblo es inevitablemente una decisión política, y eso no es necesariamente malo. El problema no es que sea política, sino la calidad de los actores políticos y el grado de polarización existente. Cuando los intereses partidistas pasan por delante, resulta muy difícil pensar en el interés general y en el bien del país.

Seguir sirviendo a mi país, como he hecho hasta ahora. Puedo hacerlo desde la universidad, investigando, formando a nuevos juristas, o desde el servicio público. Mi trayectoria siempre ha combinado esos dos ámbitos.

Nunca se sabe lo que puede pasar. Comencé mi carrera profesional precisamente en la Defensoría del Pueblo del Perú, donde trabajé casi diez años. Si algún día las circunstancias lo permiten, ya se verá. Pero se puede contribuir al país desde muchos lugares distintos.

Mantener el compromiso con la democracia, el Estado de derecho, la igualdad y las libertades fundamentales. Eso es lo que realmente da sentido a cualquier responsabilidad pública.

Cuando vine a Europa, y especialmente durante los años que viví en los Países Bajos realizando mi investigación doctoral, también tenía esa percepción. Desde fuera parece que aquí todo funciona perfectamente, que apenas existe burocracia o corrupción. Pero la realidad siempre es más compleja.

Sobre todo, un ejemplo de resiliencia. Perú ha afrontado crisis políticas y económicas muy profundas, ha sufrido la violencia terrorista durante décadas y sigue conviviendo con importantes problemas de desigualdad y exclusión. A pesar de todo ello, la sociedad peruana ha sido capaz de seguir avanzando.

Hemos conseguido reducir la pobreza, abrirnos al mundo, consolidar una clase media y construir instituciones que, con todas sus limitaciones, siguen funcionando. Todavía tenemos muchos retos pendientes, pero soy optimista. Estoy convencido de que Perú seguirá avanzando y tendrá un papel cada vez más relevante en el escenario internacional.

Sí. Las sociedades pueden adaptarse a los grandes desafíos si mantienen claros sus principios. La tecnología no es el problema. El reto es preservar la dignidad humana, los derechos fundamentales y la calidad de nuestras democracias mientras aprovechamos todo el potencial que ofrece la inteligencia artificial.

Que la inteligencia artificial puede transformar profundamente las administraciones públicas y la manera en que prestamos servicios a los ciudadanos, pero nunca debe sustituir los principios que fundamentan el Estado de derecho. El progreso tecnológico solo tendrá sentido si continúa estando al servicio de las personas, de la justicia y del buen gobierno.