Le cardinal Parolin demande que l'IA soit régie par le droit

Le cardinal Parolin demande que l'IA soit régie par le droit

Vatican News

Le discours d’ouverture prononcé par le cardinal secrétaire d’État Pietro Parolin, qui a inauguré le 20 octobre, les cinq journées de rencontres et de réflexions organisées à l’occasion du 150e anniversaire de la Faculté de droit canonique de l’Université pontificale Grégorienne, à Rome, constitue une vaste réflexion sur le cinquième chapitre de l'encyclique Magnifica humanitas– celui consacré à la «culture du pouvoir et à la civilisation de l’amour». Le cardinal, ancien élève de la Faculté, a évoqué l’importance du droit international à la lumière de la première lettre encyclique de Léon XIV, en précisant que, dans la formation du juriste, l’université ne vise pas à former «

simplement un exégète de textes normatifs ou un technicien des procédures» mais un «

gardien de la légalité» et un «

guide des comportements qui s’inscrivent dans les relations humaines et, dans le cas présent, dans une vie de foi et d’appartenance à l’Église qui, par le droit, trace le chemin à suivre pour atteindre la "salus animarum"».

C’est là la «frontière entre l’ambition humaine limitée et la puissance de l’amour de Dieu», qui est souvent «contestée» et où «s’affrontent l’idée du droit comme instrument d’exercice du pouvoir et la réalité du droit comme synonyme de justice, et donc comme rempart contre l’illégalité, les abus, la force qui devient la règle dans le seul but d’exclure les plus fragiles et les plus vulnérables». 

Droit, légalité et justice

Dans l’Aula Magna de l’Université pontificale, le cardinal Parolin a souligné que le droit, la légalité et la justice concernent la «vie quotidienne» et «constituent des facteurs déterminants dans les relations entre les personnes, les communautés et les peuples», «fixent des limites, ouvrent des possibilités, régissent le présent mais permettent également d’envisager l’avenir». C’est pourquoi, à chaque époque, «leur signification donne lieu à des réflexions, suscite des débats et permet d’établir les paramètres nécessaires aux relations au sein des États et entre les États»; le Magistère de l’Église considère «le processus juridique comme un processus en constante évolution», «qui, à chaque moment historique», régit les «relations» et les construit «en leur assurant ainsi une continuité». Ce que l’on constate aujourd’hui tout particulièrement à l’égard des «promesses des nouvelles technologies», qui, comme l’écrit le Pape Léon XIV dans Magnifica Humanitas, peuvent être «en quelque sorte, une forme humaine de participation à l’acte divin de la création». «Les développeurs assument donc une responsabilité éthique et spirituelle particulière», a observé le cardinal, car il convient de «vérifier si le pouvoir des infrastructures numériques et des algorithmes favorise réellement la participation et la responsabilité, protège les plus fragiles, assure un accès équitable aux opportunités et reste ordonné au bien de tous».

Le progrès et la dignité humaine

Si l’encyclique Rerum Novarum de Léon XIII «indiquait les moyens de préserver la dignité humaine face aux structures de la révolution industrielle et à la question ouvrière», aujourd’hui «Magnifica Humanitas projette son analyse dans le contexte de la révolution numérique» et invite à réfléchir à la protection de la personne humaine dans le cadre des «développements de l’intelligence artificielle», a encore souligné le cardinal Parolin, rappelant que Léon XIV invite à ne pas réduire «la création à un objet d’exploitation et les personnes à des rouages d’un système qu’il faut rendre toujours plus performant» et à «adopter des instruments normatifs adaptés, capables de garantir la justice et de limiter les effets perturbateurs du pouvoir technologique».

L’impact des innovations technologiques

Dans le cinquième chapitre de sa première encyclique, le Souverain pontife s’attarde sur «l’impact que les technologies émergentes ont sur la guerre, sur la crise du multilatéralisme, sur la normalisation des conflits et sur les changements plus généraux». Ce sont là, a affirmé le cardinal-Secrétaire d’État, «des domaines qui mettent désormais en évidence une véritable mutation de concepts tels que la gouvernabilité ou le rôle des institutions, tant nationales qu’internationales», et il faut ensuite garder à l’esprit l’avertissement que représente la «notion de préservation de l’humain». «Les innovations technologiques – y compris l’intelligence artificielle – ne sont pas neutres: elles peuvent renforcer la participation et la justice, ou bien aggraver les inégalités, le contrôle et l’exclusion». Ainsi, le cinquième chapitre de l'encyclique représente pour les juristes «une provocation qui touche à l’essence même du droit et, plus encore, à sa fonction rationnelle et à son impact social». Et il soulève des questions: quelle place occupe la «norme juridique lorsque la technique produite par un algorithme, au nom de l’efficacité, se substitue à son fondement éthique et à sa compréhension morale?»; «comment le droit peut-il conserver sa fonction face à l’automatisation de la force et de ses méthodes», y compris celles «qui trouvent leur légitimité dans la garantie de l’ordre public interne ou international?». En somme, peut-on «mettre un terme à la "culture du pouvoir" de plus en plus dominante dans les relations entre les personnes, les communautés et les peuples?»

Le cardinal Parolin a souligné la référence faite dans l’encyclique à la doctrine sociale de l’Église, au principe de la destination universelle des biens, «visant à garantir un accès universel aux technologies et à la formation»; à celui de la subsidiarité «qui garantit aux personnes et aux communautés la possibilité de faire des choix et de les modifier»; ainsi qu’à celui de la solidarité, «qui “oblige à reconnaître le travail invisible, souvent exploité, qui alimente les modèles algorithmiques”», et à celui de la justice sociale, «objectif à préserver après l’adoption des technologies» et également «condition préalable à mettre en œuvre dès leur conception». 

Construire la civilisation de l’amour

Il faut ensuite, a ajouté le cardinal, chercher à comprendre comment «jeter les bases d’une nouvelle "civilisation de l’amour" fondée sur un droit véritablement orienté vers l’édification de structures de justice, en tant que condition préalable au bien commun». Si le magistère de saint Paul VI enseigne que la civilisation de l’amour consiste en «un projet chrétien visant à édifier une société mondiale fondée sur la justice, la paix et la fraternité, en opposition aux logiques de violence et de division», alors l’intelligence artificielle «doit servir à édifier cette famille humaine universelle, avec des droits et des devoirs partagés, où la proximité numérique devient une véritable occasion de rencontre et de sollicitude réciproque». Il s’agit là, a souligné Mgr Parolin, d’«un objectif qui contraste avec la réalité d’aujourd’hui, dans laquelle le pouvoir technologique revêt un visage inédit, essentiellement “privé” et donc plus difficile à discerner, à gouverner et à orienter vers le bien commun».

Les trois indicateurs

Selon Magnifica humanitas, le juriste lui aussi – tout comme le diplomate, a précisé le cardinal – «contribue à édifier la “civilisation de l’amour”». Ainsi, à travers le cadre normatif, il faudrait proposer «trois indicateurs principaux»: désamorcer les mots, c’est-à-dire utiliser un «langage capable de servir de médiateur», s’ouvrir «au respect mutuel et au dialogue» – rôle qui incombe également à la diplomatie, a déclaré le cardinal Parolin, laquelle doit «faire naître la confiance réciproque, le respect mutuel et la coopération qui cimente les relations entre les États» – ; adopter le regard des victimes, c’est-à-dire «se tourner vers les souffrances de la population civile, des déplacés, des réfugiés» et des «victimes dévastées par les conflits» ; cultiver un sain réalisme, ce qui, «dans le langage des relations internationales», signifie ne pas réduire «la politique à la morale, ni la céder à la violence», mais rechercher «des voies praticables pour que la paix soit plus qu’un simple mot, c’est-à-dire des institutions crédibles, des garanties vérifiables, des négociations patientes, la prévention des conflits». 

Être un corps

En résumé, a souligné le cardinal, «la civilisation de l’amour s’oppose à la culture du pouvoir en recherchant la justice et en construisant des institutions efficaces», à travers les «instruments propres au droit, en les élaborant patiemment et en vérifiant leurs effets». Léon XIV exhorte donc à «être un “corps”, à former un système». Mais «de moins en moins, les processus d’innovation et la recherche scientifique elle-même trouvent un écho dans l’action ou la réaction des appareils d’État», a-t-il estimé, car «ils sont fermement entre les mains d’acteurs privés, souvent transnationaux, dotés de ressources et de capacités d’intervention supérieures à celles de nombreux gouvernements». Au sein des États, en revanche, a souligné le cardinal, les éléments fondateurs de la gouvernance «traversent une crise de fond» et «des notions telles que la souveraineté, la frontière territoriale, l’État de droit, la séparation des pouvoirs et encore la hiérarchie des sources ont de moins en moins la capacité de limiter la force du pouvoir». 

De plus, aujourd’hui, «la conviction s’impose de plus en plus que, pour garantir l’ordre interne des nations, l’exercice effectif du pouvoir s’identifie au monopole de la force», ce qui, sur le plan international, est mis en évidence «par la crise du système multilatéral». En particulier, «dans les relations internationales, l’absence ou la portée limitée du droit pour régir le numérique et les algorithmes met en évidence la “culture de la puissance” tant comme pratique que comme attitude». Et tout cela «se renforce à travers la multiplicité des informations qui façonnent l’opinion» et «avec la centralisation du contrôle par des méthodes ou des structures qui, dans la collecte, la conservation et la gestion des données, visent à prévoir, orienter et déterminer le comportement humain». De plus, «les nouvelles technologies influencent la capacité à percevoir les phénomènes, à en évaluer l’impact, à les rendre opérationnels par l’action ou la non-opposition», comme c’est le cas avec «l’automatisation des technologies de guerre».

Dépasser la théorie de la guerre juste

«Aujourd’hui, s’est imposée la conviction que le conflit est le seul moyen de gérer les relations entre les personnes, entre les communautés, entre les États», a encore affirmé le Secrétaire d’État du Saint-Siège, et «cela banalise la guerre et en masque les causes, les modalités et les effets». C’est pourquoi Léon XIV, dans Magnifica humanitas, soutient qu’il faut dépasser la «théorie de la “guerre juste”, trop souvent invoquée pour justifier n’importe quelle guerre, sans préjudice du droit à la légitime défense au sens le plus strict», et d’ailleurs, a poursuivi le cardinal Parolin, «la destructivité des armes modernes et l’imprévisibilité des évolutions technologiques rendent impossible de contenir les effets d’un conflit ou de le faire rentrer dans les limites de la justice». 

Gouverner l’IA

Ainsi, «face à une technologie qui se détache de tout autre facteur, au point d’acquérir une autonomie totale, voire une suprématie, le droit, les lois et les règles ne se légitiment que s’ils sont capables de gérer des situations», a résumé le cardinal; la norme est légitimée «parce qu’elle est un outil concret pour garantir l’existence, la liberté et les relations entre les personnes». Mais «si la décision du législateur ou du juge est confiée à un système prédictif fondé sur des algorithmes», le principe fondamental de la motivation de l’acte juridique vient à manquer, et c’est ainsi que «s’imposera ce que le Pape Léon XIV appelle la "culture du pouvoir", réduisant le droit à une technique de régulation, vidée toutefois de toute composante de justice substantielle». Il faut donc, a-t-il conclu «élaborer des règles permettant de réguler le phénomène de l’intelligence artificielle», en éliminant les «inégalités et en laissant place à une plus grande justice». 

Merci d'avoir lu cet article. Si vous souhaitez rester informé, inscrivez-vous à la lettre d’information en cliquant ici.