Place de la vérité dans les IA

La vérité, nous dit saint Thomas d’Aquin, est l’adéquation de l’intelligence à la réalité. En d’autres termes, la vérité est la capacité de nos esprits à connaître les réalités qui nous entourent et qui ne dépendent pas de nous.

L’authenticité des informations

Nous avons tous entendu parler des fake news. Ce problème est réel à l’ère de l’IA. « Selon Hinton, il pourrait être impossible d’arrêter une concurrence aussi féroce [que la course à l’IA], qui aboutirait à un monde contenant tellement d’images et de textes truqués que plus personne ne serait en mesure de dire "ce qui est vrai". »

Ryan Hollyday écrivait : « Nous accordons une confiance excessive aux informations qui ont été écrites. C’est le résultat de plusieurs siècles passés à croire que l'écriture avait une immense valeur, que l’on pouvait sereinement supposer que personne n’irait gaspiller son énergie à coucher sur du papier des faits inexacts. » Si l’auteur dénonçait déjà ce décalage entre la confiance donnée par les lecteurs et la confiance qu’on peut réellement donner au « journalisme itératif », dix ans plus tard, ce problème explose plus que jamais.

Rédiger n’a jamais été aussi facile. Seulement, après 10 ans à sensibiliser sur les risques liés aux informations numériques, nous avions l’habitude d’être prudents, à vérifier la cohérence et l’origine des sources : texte, images, etc.

Malheureusement, toutes ces bonnes manières sont dépassées. Les images, les sons, les vidéos, les textes, tout peut être faux. Tout peut avoir été généré par un gouvernement étranger, par un groupe terroriste, par un groupe d’influence, par une entreprise qui cherche le profit… Les fausses images sont en train d’envahir les médias.

L’IA vient ajouter deux difficultés. Tout d’abord, elle vient faciliter la création de mensonges : cela ne demande plus aucun effort. Ensuite, elle vient améliorer la qualité du mensonge. Mis ensemble, il est facilement possible de créer des histoires complètes et cohérentes, texte, audio, vidéo, photo à l’appui.

Récemment, une fausse vidéo de 30 minutes représentait le pape Léon XIV prononçant un discours woke. Le ton de voix, les mouvements labiaux y étaient, le mouvement du corps y était presque. Quelques heures après, Google annonçait Veo 3, un outil capable de générer des vidéos ultra-réalistes, avec la bande son correspondante. Quelques semaines plus tôt, c’était OpenAI qui avait dévoilé son nouvel outil de génération d’image, lui aussi une pure merveille technique, mais inquiétante pour l’avenir de la vérité.

De là, il devient de plus en plus dur de distinguer le vrai du faux. C’est là l'une des plus grandes menaces spirituelles pour notre siècle. Quand on sait qu’on nous ment, on peut toujours trouver la vérité par opposition à la première. Mais, quand on ne sait plus distinguer le vrai du faux, il devient impossible de trouver la vérité.

Quand tout le monde vous ment en permanence, le résultat n'est pas que vous croyez ces mensonges mais que plus personne ne croit plus rien. Un peuple qui ne peut plus rien croire ne peut se faire une opinion. Il est privé non seulement de sa capacité d'agir mais aussi de sa capacité de penser et de juger. Et avec un tel peuple, vous pouvez faire ce que vous voulez.

Hannah Arendt

Du rejet de la réalité

Après avoir vu comment l’IA peut bouleverser le paysage médiatique, nous allons voir que la tendance n’est pas près de s’inverser. Nous serions tentés de croire qu’il est possible d’interdire ces outils. Mais qui le voudrait ?

Les IA sont entrées dans notre quotidien sans même nous en rendre compte. Elle n’est pas juste là pour nous faciliter les tâches lourdes et difficiles. Non, elle est plus que ça : elle sert à nous arracher du réel, notamment des efforts.

L’IA tend à conformer notre perception du réel à nos envies et non à ce qu’il est objectivement. Par exemple, fin 2023, nous découvrions que l’IA modifiait substantiellement les simples photos prises par les smartphones. Ce fut le cas de l’iPhone, manipulant gravement la réalité afin que le résultat soit plus « beau », plus « agréable ». Le souvenir stocké est « amélioré », plutôt que réaliste.

Nous avons encore connaissance de ce monde où les photos reflètent la réalité. Mais les générations futures, nées avec ces technologies dans les mains, croyez-vous qu’elles supporteront la réalité alors qu’elles ont toujours connu des technologies qui leur permettent de s’en abstraire ? Si nous n’y faisons rien, la réalité sera vue à travers des lunettes connectées, adaptant notre perception de la réalité à notre personnalité, à notre humeur, à ce que nous voulons qu’elle soit.

Dans de telles circonstances, croyez-vous qu’un être humain pourra chercher et trouver la vérité ? Croyez-vous que l’humanité pourra encore aimer la vérité ? Qui sera prêt à se confronter à la difficulté de la réalité, alors que nous pourrions agir sur ce que nous voulons ?

L’authenticité des relations

L’intelligence humaine n’est pas une faculté isolée, mais s’exerce dans les relations, trouvant sa pleine expression dans le dialogue, la collaboration et la solidarité. Nous apprenons avec les autres, nous apprenons par les autres. […]

L’amour de Dieu ne peut être séparé de l’amour du prochain.

Antiqua et Nova

Ce qui est censé être au cœur des relations humaines, c’est Dieu. L’homme se doit d’y travailler.

Or, dans un monde où l’IA s’interpose dans les échanges, dans quelle mesure peut-on dire que nos relations sont vraies ?

Par exemple, dans quelle mesure la relation entre le recruteur et son candidat est-elle vraie si les deux parties automatisent entièrement leur « relation » grâce à l’IA… (Si on peut appeler ça une relation.)

Cette science-fiction est déjà réalité. Un article de Clubic rapporte que de plus en plus de personnes ont recours à l’IA pour rédiger leurs CV et lettres de motivation. Certains poussent même l’idée plus loin : ils renseignent quelques informations personnelles sur un site et un service se charge de postuler aux offres d’emplois automatiquement.

Si seulement ça s’arrêtait là… Mais les recruteurs aussi automatisent la sélection des candidats à l’aide de l’IA. En effet, pour traiter un très grand nombre de profils, les recruteurs se tournent vers des outils de traitement automatique pour dénicher le « candidat idéal ».

« Les demandeurs postulent avec des IA, et les recruteurs recrutent avec des IA », titrait Charles Sannat. La situation semble absurde. Elle n’en est pas moins préoccupante : l’homme est en train d’être évacué des relations normalement humaines.

Peut-on dire que de telles relations sont vraies ?

La vérité est une vertu (entre autre¹). Saint Thomas d’Aquin la décrira ainsi : « Celui qui dit vrai emploie certains signes conformes à la réalité : des mots, des gestes et autres choses extérieures. Or, les vertus morales seules règlent l’emploi de ces choses, comme aussi l’usage de nos membres pour autant qu’ils sont soumis à la volonté. La vérité n’est donc ni une vertu théologale, ni une vertu intellectuelle, mais une vertu morale. […] que les paroles et les actions soient conformes à la réalité qu’elles expriment, comme le signe à la chose signifiée ; et la vertu de vérité a pour fonction de perfectionner l’homme sur ce point. » (Somme de théologie, II-IIae, Q109, A1 et A2)

Cette définition se déduit assez intuitivement de la définition de la vérité donnée en début d’article. « Être vrai » consiste à accorder nos paroles, nos actes et les moyens utilisés pour exprimer notre intention intérieure.

En appliquant ce principe aux cas précédents du recrutement automatisé par IA, on se rend compte que presque plus rien n’est vrai :

• La lettre de motivation exprime notre parcours. Nous nous exprimons au recruteur pour qu’il connaisse nos intentions, notre motivation. Pour ce faire, nous utilisons le « je » : « J’ai travaillé pour… », « Je souhaiterais m’entretenir avec vous ».

  Or, ce n’est pas le candidat qui s’exprime, mais l’IA au nom du candidat. Il y a là un certain décalage d’avec la réalité.

• Postuler est censé refléter un certain engagement de la personne envers le poste proposé. Or, si c’est l’IA qui le fait, aucun acte du candidat ne témoigne de cette inclination intérieure.

• De la même façon, lorsqu’un recruteur dira avoir sélectionné un candidat, en réalité, c’est un algorithme qui l’a fait pour lui. Le moyen mis en œuvre par la personne ne reflète pas ce qu’on aurait pu attendre de lui.

Nous pouvons également appliquer ce principe à d’autres formes de communication. Par exemple, WhatsApp (qui intègre depuis peu l’IA).

• Supposons que vous dictiez un brouillon de votre message, et que l’IA le formule et le mette en forme.

  Si le fond du message vient bien de vous, il n’en est pas moins que la façon dont vous l’avez « rédigé » ne reflète pas votre intention, qui n’est pas allée plus loin qu’un brouillon oral.

  Quand un message est simplement dicté, mais que votre correspondant le reçoit avec une forme adéquate, pensez-vous pouvoir dire que vous êtes vrai avec lui ?

• Supposons que vous receviez un message, et que l’IA vous propose une réponse toute faite. Vous cliquez simplement sur le message pour qu’il soit envoyé.

  Là encore, l’acte que vous posez, censé refléter votre relation à l’autre, n’est pas très investi… Il ne reflète pas votre disposition intérieure.

Il est possible d’appliquer ce raisonnement au domaine du travail². Si je publie un livre, une musique, un tableau, ou même un simple article à mon nom, alors que c’est l’IA qui a fait ce travail, alors je ne dis pas la vérité. Rédiger un prompt, ce n’est pas « faire le travail ». C’est tout au plus être le client qui commande une œuvre sur mesure. C’est être le consommateur de l’IA.

Tous ces exemples montrent un changement du rapport aux autres à cause de l’IA. La facilité entraîne la perte de la vertu de vérité.

Finalement, c’est la confiance entre les êtres humains qui est en train de s’éroder. Imaginez que vous receviez un message et que vous soyez incapable de savoir si cela reflète ce que votre correspondant pense de vous, parce que vous savez que l’IA a reformulé…

Quand nos relations sont dictées par la facilité, peut-on dire que nous sommes vraiment charitables envers notre prochain ?

La vérité disparaît, la confiance s’érode, Dieu est évacué des relations humaines, car nous ne communiquons plus conformément à nos dispositions intérieures (cf L’intimité assiégée). Dès lors, les relations humaines deviennent fausses.

Conclusion

Dans un monde où la place de l’IA n’est pas strictement et objectivement définie, la vérité court à sa perte. Aujourd’hui, le maître-mot qui semble le gouverner est : « La vérité ne nous intéresse pas. »

Or, un monde qui se détache de la Vérité court à sa perte³.

Après plusieurs siècles de révolte contre Dieu, l’humanité semble avoir trouvé la technologie qui lui permettra de s’abstraire de la réalité. Déléguer l’effort, générer des décalages entre ce qui est désiré intérieurement et les actes réellement posés, modifier notre perception de la réalité, voilà les meilleures façons de renoncer à la vérité.

Tout comme l’abondance de fake news aboutit à un monde où discerner le vrai du faux devient impossible, un monde sans réalité universelle n’aboutit pas à un monde de mensonge « volontaire », mais à un monde sans vérité.

L’humanité n’était certainement pas prête à accueillir vertueusement l’IA. Fixons courageusement les justes limites de cette technologie afin qu’elle reste un simple outil au service de l’homme.