« Affaires Orélien et Bardella : il y a un risque que l’IA s’impose comme arbitre de la vérité »

Ce qui me frappe dans des affaires récentes, telles que le cas de l’écrivain Thélyson Orélien et l’affaire opposant Jordan Bardella à Mediapart, c’est que l’IA, ou son ombre, soit convoquée comme figure intermédiaire, tantôt pour établir ce qui est vrai, tantôt pour accuser de fabriquer du mensonge. Dans un cas, le détecteur a joué le rôle d’une police qui accuse. Dans l’autre, la possibilité technique du faux devient un argument contre l’authenticité.

« L’affaire Thélyson Orélien fragilise l’autorité des faiseurs de réputation littéraire »

Dans ce qui a été appelé l’ère numérique, nous avons assisté au déploiement des procédures de confiance numérisées et des services de certification numérique accompagnés de codes déontologiques et de serments destinés à protéger la vérité. Notre société a mis en place une sorte de « police algorithmique » (Frédéric Kaplan) pour établir la provenance de contenus suspects.

Ces « policiers » sont de deux sortes. Les uns détectent si un texte, une image ou une vidéo a été produit par une machine ou un humain : Pangram, Compilatio, Illuminarty. Les autres enregistrent ou permettent de retrouver des informations sur l’origine et les transformations des documents, notamment par des signatures cryptographiques ou des tatouages numériques.

Ainsi, nous dit-on, le degré d’incertitude concernant la distinction entre l’humain et la machine serait effacé grâce à cette police qui nous protège d’autres algorithmes. Convoquée en tant qu’expert pour protéger la vérité, cette police établit la provenance d’un contenu, elle dit qui ou quoi a produit le texte. Ce faisant, elle déplace la question du vrai vers celle de la provenance, et la question de la duplicité, qui est celle du mensonge, s’efface.

Les deux affaires se répondent

Les deux affaires se répondent comme deux faces de la même crise, sans être symétriques. Dans la première, un résultat technique tient lieu d’accusation. Une œuvre est déclarée artificielle au nom d’un score, et l’on prête à ce score une sorte de jugement moral.

Dans la seconde, une simple possibilité tient lieu de réfutation. Si les documents sont authentiques, la possibilité générale du faux, opposée au travail d’enquête suffit à les nier. Ni le résultat technique ni le soupçon de fabrication ne répondent des raisons pour lesquelles on accuse on l’on récuse.

Il ne s’agit plus seulement de croire sans preuve, mais de ne plus croire malgré les preuves. Le soupçon débouche sur un verdict délégué à la machine, et la confiance accordée aux journalistes, aux éditeurs, aux expertes se trouve disqualifiée.

Tout auteur peut être une machine, toute enquête une manipulation. Il se forme un régime de défiance dans lequel la preuve reste exigée (l’auteur doit prouver qu’il est humain, l’enquête qu’elle n’a rien fabriquée) mais où cette preuve peut toujours être déclarée insuffisante par celui qu’elle met en cause comme par l’accusateur.

L’apport de la tradition biblique

La tradition biblique permet de mesurer ce qui se déplace ici : de la responsabilité de juger vers l’autorité d’un résultat, de la confiance envers des témoins vers la fiabilité supposée de la machine. Dans la Bible, la vérité engage la fidélité d’une parole et de celui qui la porte. Cela ne dispense pas de vérifier les faits, mais cela oblige à demander qui répond de ce qui est affirmé.

Dans les situations que nous venons de décrire, la confiance ne disparaît pas, elle est retirée aux journalistes, aux auteurs, aux témoins, aux experts, puis accordée à la machine. Ce transfert reste largement inaperçu : nous croyons avoir remplacé la confiance par une preuve, alors que nous avons changé de garant.

Avec Illich, nous pouvons interroger le seuil de contre-productivité à partir duquel un service nous dépossède de la capacité qu’il prétend soutenir : que devient notre capacité de juger lorsque toute parole doit être certifiée pour être entendue ? Illich parlait de monopole radical lorsqu’un outil s’impose comme la seule manière de satisfaire un besoin. C’est ce qui menace lorsque ces services deviennent le passage obligé de toute reconnaissance.

La défiance devient le milieu favorable à l’extension d’un pouvoir de certification. Ceux qui fixent les critères peuvent décider quelles traces comptent, quelles paroles sont recevables et quels témoins méritent d’être écoutés. La question est politique : qui acquiert le pouvoir de distribuer le crédit et le discrédit, et devant qui ce pouvoir doit-il répondre ?

Elle appelle des institutions capables de soutenir l’enquête, la contradiction et la réparation, et de reconnaître leurs propres erreurs. Nous avons à répondre du milieu que nous formons lorsque nous faisons du soupçon la règle et de la certification la condition de toute parole. Faute de quoi il se prépare un monde où la vérité serait placée sous la tutelle de ceux qui administrent les preuves, et où notre confiance deviendrait leur pouvoir.

Léon XIV écrit dans Magnifica humanitas « désarmer c’est rompre l’équivalence entre la puissance technique et le droit de gouverner » (n. 110). Désarmer ici serait refuser que la puissance technique de produire des preuves confère le droit de dire le vrai.

Ce texte est signé par un auteur invité. Il exprime son opinion et non celle de la rédaction. Notre rubrique À vif a pour but de permettre l’expression du pluralisme sur des sujets religieux, de société et d’actualité, et de favoriser le dialogue, selon les critères fixés par notre charte éditoriale.
Partagez votre opinion en commentaire ou en nous écrivant à : lecteurs.lacroix@groupebayard.com