Parolin: El derecho debe regir la IA eliminando las desigualdades

Parolin: El derecho debe regir la IA eliminando las desigualdades

Vatican News

El discurso de apertura del cardenal Secretario de Estado Pietro Parolin, pronunciado la tarde de este 20 de octubre, ofreció una amplia reflexión sobre el quinto capítulo de la Magnifica Humanitas: el capítulo sobre la "cultura del poder y la civilización del amor". El Purpurado, antiguo alumno de la Facultad, habló de la importancia del derecho internacional a la luz de la primera encíclica de León XIV, señalando que, en la formación de juristas, la universidad no pretende preparar «simplemente un exégeta de textos normativos o un técnico en procedimientos», sino más bien un «guardián de la legalidad» y un «guía de conductas propias de las relaciones humanas, y en este caso concreto, de una vida de fe, de pertenencia a la Iglesia, que a través del derecho traza el camino para alcanzar» la «salus animarum». Este es el «límite entre la limitada ambición humana y el poder del amor de Dios», un límite que a menudo se «disputa» y en el que se confrontan «la idea del derecho como instrumento para ejercer el poder y la realidad del derecho como sinónimo de justicia y, por lo tanto, barrera contra la ilegalidad, la opresión y la fuerza que se convierte en norma con el único fin de excluir a los más frágiles e indefensos».

Derecho, legalidad y justicia

En el Aula Magna de la Pontificia Universidad, el cardenal Parolin subrayó que el derecho, la legalidad y la justicia atañen a la «existencia cotidiana» y «son factores determinantes en la relación entre individuos, comunidades y pueblos». «Marcan límites, abren posibilidades, rigen el presente, pero también permiten vislumbrar el futuro». Por ello, en cada época, «su significado es objeto de reflexión, se abren debates y se establecen los parámetros necesarios para las relaciones dentro y entre los Estados». El Magisterio de la Iglesia considera que «el proceso jurídico es un proceso en constante evolución», «que en cada momento histórico» regula las «relaciones» y las construye, «otorgándoles continuidad». Esto es especialmente cierto hoy en día con las «promesas» de las «nuevas tecnologías», que, como escribe el Papa León XIV en Magnifica Humanitas, pueden ser «en cierto modo, una forma humana de participación en el acto divino de la creación». «Los desarrolladores, por lo tanto, tienen una particular carga ética y espiritual», observó el cardenal, ya que es necesario «verificar si el poder de las infraestructuras digitales y los algoritmos fomenta realmente la participación y la responsabilidad, protege a los más vulnerables, garantiza el acceso equitativo a las oportunidades y se mantiene orientado al bien común».

Progreso y dignidad humana

Si la Rerum Novarum de León XIII «indicaba maneras de preservar la dignidad humana frente a las estructuras de la revolución industrial y la cuestión laboral», hoy «Magnifica Humanitas proyecta su análisis en el contexto de la revolución digital» e invita a reflexionar sobre la protección de la persona humana en el contexto de los «avances en inteligencia artificial», señaló Parolin, recordando que León XIV insta a no reducir «la creación a un objeto de explotación y a las personas a engranajes de un sistema que debe hacerse cada vez más eficiente» y a «adoptar instrumentos regulatorios adecuados capaces de salvaguardar la justicia y contener los efectos distorsionadores del poder tecnológico».

El impacto de las innovaciones tecnológicas

En el quinto capítulo de su primera encíclica, el Pontífice se centra en «el impacto de las tecnologías emergentes en la guerra, la crisis del multilateralismo, la normalización de los conflictos y otros cambios más generales». Estas son áreas, afirmó el Cardenal Secretario de Estado, «que ponen de manifiesto una auténtica transformación de conceptos como la gobernabilidad o el papel de las instituciones, tanto internas como internacionales», y es necesario tener presente la advertencia que plantea la «noción de proteger a la humanidad». «Las innovaciones tecnológicas —incluida la inteligencia artificial— no son neutrales: pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión». Así pues, para los juristas, el quinto capítulo de Magnifica Humanitas «representa una provocación que atañe a la esencia misma del derecho y, aún más, a su función racional y a su impacto social». Plantea interrogantes: ¿qué espacio hay para las normas jurídicas cuando la tecnología producida por un algoritmo, en nombre de la eficiencia, sustituye su fundamento ético y su comprensión moral? ¿Cómo puede el derecho mantener su función frente a la automatización de la fuerza y ​​sus métodos, incluyendo aquellos que se legitiman al garantizar el orden público nacional o internacional? En resumen, ¿podemos frenar la «cultura del poder» cada vez más extendida en las relaciones entre individuos, comunidades y pueblos? Parolin destacó la referencia de la encíclica a la Doctrina Social de la Iglesia, al principio del destino universal de los bienes, «orientado a garantizar el acceso universal a la tecnología y la educación»; al de subsidiariedad, «que garantiza el papel de los individuos y las comunidades en la toma de decisiones y su modificación»; y también a la solidaridad, «que nos obliga a reconocer el trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos», y a la justicia social, «un objetivo que debe protegerse tras la adopción de tecnologías» y también «un requisito indispensable para su implementación desde su propio diseño».

Construir la civilización del amor

El Purpurado añadió que es necesario comprender cómo «sentar las bases de una nueva “civilización del amor”, mediada por un derecho auténticamente orientado a la construcción de estructuras de justicia, como requisito previo para el bien común». Si el magisterio de San Pablo VI enseña que la civilización del amor consiste en el «proyecto cristiano de construir una sociedad global fundada en la justicia, la paz y la fraternidad, en oposición a la lógica de la violencia y la división», entonces la inteligencia artificial «debe servir para construir esa familia humana universal, con derechos y deberes compartidos, donde la proximidad digital se convierta en una oportunidad real de encuentro y cuidado mutuo». Esto, subrayó Parolin, es «un objetivo que contrasta con la realidad actual, en la que el poder tecnológico adquiere una nueva faceta, predominantemente “privada”», y por lo tanto «es más difícil de discernir, gobernar y orientar hacia el bien común».

Los tres indicadores

Según la Magnifica Humanitas, incluso los juristas —y los diplomáticos, especificó el cardenal— «contribuyen a construir la “civilización del amor”». Por lo tanto, el texto normativo debería proponer «tres indicadores principales»: palabras conciliadoras, es decir, el uso de un «lenguaje capaz de mediar», abriéndose «al respeto mutuo y al diálogo» —un papel, también de la diplomacia, según Parolin, que debe «fomentar la confianza mutua, el respeto mutuo y la cooperación cohesionada para las relaciones entre Estados»—; adoptar la perspectiva de las víctimas, es decir, «mirar el sufrimiento de la población civil, de las personas desplazadas, de los refugiados» y de las «víctimas devastadas por los conflictos»; cultivar un sano realismo, que «en el lenguaje de las relaciones internacionales» significa no reducir «la política a la moral, pero tampoco entregarla a la violencia», sino buscar «vías prácticas para asegurar que la paz sea más que una simple palabra, es decir, instituciones creíbles, garantías verificables, negociaciones pacientes y prevención de conflictos».

Ser un cuerpo

En resumen, el cardenal señaló que «la civilización del amor contrarresta la cultura del poder buscando la justicia y construyendo instituciones eficientes», mediante «los instrumentos propios de la ley, construyéndolos pacientemente y verificando sus efectos». León XIV, por lo tanto, nos exhorta a «ser un "cuerpo", a crear un sistema». Pero «los procesos de innovación y la propia investigación científica están cada vez menos alineados con la acción o reacción de los aparatos estatales», observó Parolin, porque «están firmemente en manos de actores privados, a menudo transnacionales, dotados de recursos y capacidad de intervención superiores a los de muchos gobiernos». Dentro de los Estados, sin embargo, enfatizó el cardenal, los elementos fundamentales de la gobernanza «están experimentando una crisis de contenido», y «expresiones como la soberanía, los límites territoriales, el Estado de derecho, la separación de poderes e incluso la jerarquía de fuentes, son cada vez menos capaces de limitar la fuerza del poder». Además, hoy en día, «existe una creciente convicción de que, para garantizar el orden interno de las naciones, el ejercicio efectivo del poder se identifica con el monopolio de la fuerza», y esto se evidencia a nivel internacional «por la crisis del sistema multilateral». En particular, «en las relaciones internacionales, la falta o la limitada contribución del derecho a la gobernanza de las tecnologías digitales y los algoritmos pone de relieve la "cultura del poder" como ejercicio y actitud». Y todo esto «se ve reforzado por la multiplicidad de información que moldea la opinión» y «por la centralización del control mediante métodos o estructuras que, a través de la recopilación, el almacenamiento y la gestión de datos, buscan predecir, guiar y determinar el comportamiento humano». Asimismo, las «nuevas tecnologías» influyen en «la capacidad de observar fenómenos, evaluar su impacto y operacionalizarlos mediante la acción o la no oposición», como ocurre con «la automatización de las tecnologías bélicas».

Superar la teoría de la guerra justa

Hoy, «se ha arraigado la convicción de que el conflicto es el único instrumento para gestionar las relaciones entre personas, entre comunidades, entre Estados», afirmó el Secretario de Estado del Vaticano, y «esto normaliza la guerra y oscurece sus causas, sus modos de conducta y sus efectos. Por ello, León XIV, en Magnifica Humanitas, sostiene que debemos superar la teoría de la "guerra justa", invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa entendido en el sentido más estricto». Además, continuó Parolin, «la destructividad de las armas modernas y la imprevisibilidad de los avances tecnológicos hacen imposible contener los efectos de un conflicto o encauzarlo dentro de los límites de la justicia».

Gobernar la IA

Así pues, «frente a una tecnología que se separa de cualquier otro factor, hasta el punto de determinar su plena autonomía, casi supremacía, la ley, las leyes y las normas solo son legítimas si tienen la capacidad de gestionar situaciones», resumió el cardenal. Las normas son legítimas «porque son una herramienta concreta para garantizar la existencia, libertad y relaciones entre las personas. Pero «si la decisión del legislador o del juez se delega a un sistema predictivo basado en algoritmos», se socava el principio fundamental de la motivación del acto jurídico, y así «prevalecerá lo que el Papa León XIV llama una “cultura del poder”, reduciendo la ley a una técnica regulatoria, desprovista, sin embargo, de todo componente de justicia sustantiva». Por consiguiente, es necesario «desarrollar normas que nos permitan gobernar el fenómeno de la inteligencia artificial», concluyó el Cardenal Parolin, eliminando las «desigualdades» y abriendo paso a una «mayor justicia».

Gracias por haber leído este artículo. Si desea mantenerse actualizado, suscríbase al boletín pulsando aquí.