Selon Guttenberg, l’IA brouille les frontières entre fiction et vérité

Les fausses nouvelles, les théories du complot et les mensonges sont plus répandus que jamais. « Qui pouvons-nous encore croire ? Les médias ? Les hommes politiques ? Personne ? » L’ancien ministre allemand de la Défense, Karl-Theodor zu Guttenberg, a posé ces questions à ses abonnés sur LinkedIn le 3 septembre. Il a lancé un avertissement : « Compte tenu des futures possibilités technologiques, en particulier l’intelligence artificielle, les frontières entre la fiction et la vérité pourraient s’estomper encore davantage. »

Si vous ne faites plus confiance aux médias établis ou aux hommes politiques, vous n’êtes pas le seul. Aux États-Unis, aucun média ne jouit de la confiance de plus d’un tiers de la population, à l’exception de la Weather Channel, selon une étude réalisée en 2023. Les Allemands font généralement plus confiance aux médias que les Américains, mais même dans ce cas, le taux de confiance a chuté à 43 pour cent, selon l’Institut Reuters pour l’étude du journalisme.

Le baromètre de confiance annuel d’Edelman, partagé en exclusivité avec Axios, montre que 56 pour cent des Américains sont d’accord avec l’affirmation suivante : « Les journalistes et les reporters essaient délibérément d’induire les gens en erreur en disant des choses qu’ils savent être fausses ou des exagérations flagrantes. »

C’est le champ de bataille dans lequel l’IA est en train d’entrer.

L’intelligence artificielle est utilisée par les réseaux sociaux, les publicités de microciblage et les algorithmes de recherche personnalisée afin d’apporter « de nouvelles façons de s’engager avec les utilisateurs, de collecter leurs données et d’influencer potentiellement leur comportement », note Marcello Ienca dans son article « On Artificial Intelligence and Manipulation » (Intelligence artificielle et manipulation). Cela peut conduire à « la manipulation, car ils offrent des capacités sans précédent pour cibler et influencer les individus à grande échelle et d’une manière plus subtile, automatisée et omniprésente que jamais auparavant ».

L’IA n’a aucune contrainte morale et aucune perception de ce qui est vrai et de ce qui est faux. Elle peut déployer de faux articles d’actualité, des messages sur les réseaux sociaux, des vidéos ou des interviews fabriquées de toutes pièces avec des personnalités publiques. Même si vous savez qu’il s’agit d’un faux, la répétition donne l’impression que le faux est réel. Or, l’attaque peut être beaucoup plus subtile que cela.

Dans le chapitre 9 de son livre Chat GPT : La face cachée de l’intelligence artificielle (IA), Ivan Venyamin écrit :

Grâce à des algorithmes sophistiqués et à des prises de décision fondées sur des données, les systèmes d’IA peuvent être conçus pour maintenir les utilisateurs engagés, voire dépendants, à l’égard de certains produits ou services. Cette dépendance peut être utilisée comme un outil d’exploitation et de manipulation, en particulier dans le contexte de la désinformation et de la propagande générées par l’IA. En ciblant les personnes vulnérables et en exploitant leurs tendances à la dépendance, les acteurs malveillants peuvent utiliser l’IA pour diffuser de fausses informations ou manipuler l’opinion publique.

Au fil des millénaires, l’humanité s’est avérée incroyablement vulnérable aux mensonges. Ce que nous percevons comme la vérité est bien plus qu’une simple série de faits : il s’agit souvent d’un récit. Les faits peuvent toutefois être utilisés pour construire un faux récit. Au fur et à mesure que les faits « prouvent » cette perception, elle devient la « vérité » dans l’esprit des gens. Les faits qui ne vont pas dans le sens de ce récit sont alors rejetés. Ce récit pourrait être que les catastrophes naturelles sont provoquées par les émissions de dioxyde de carbone, que tous les combattants ukrainiens pour la liberté sont des néo-nazis, que les États-Unis sont la cause de tous les maux, ou que notre monde est dirigé par un groupe élite de juifs.

Certains de ces récits n’ont rien de vrai, mais il existe des histoires vraies qui leur donnent de la crédibilité. La vérité devient plus obscure lorsqu’on commence à croire un certain récit.

Une fois que vous en venez à croire à un récit particulier, vous serez susceptible à recevoir des contenus qui montrent comment les gens souffrent du problème social, politique ou environnemental dont il est question. Si vous croyez au changement climatique, vous verrez plus sur des catastrophes. Si vous croyez au contraire, vous verrez plus d’histoires sur les conséquences négatives de l’énergie dite verte. Si vous croyez que les États-Unis et le capitalisme sont à l’origine de tous les maux, vous verrez plus d’histoires qui semblent prouver ce récit. Ces contenus pourraient être vrais ou légèrement modifiés, mais ils sont utilisés pour modifier votre façon de penser et votre comportement.

En fin de compte, l’on se retrouve dans une société polarisée, chargée d’émotions alimentées par des points de vue opposés, chaque faction étant convaincue qu’elle doit réduire l’autre au silence.

La confusion entre la vérité et le mensonge est une arme dangereuse. Aux États-Unis, cela risque de conduire à une guerre civile. Mais l’histoire montre qu’il y a aussi d’autres dangers. Adolf Hitler maniait habilement cette arme dans sa tentative de détruire toute une race et s’en est servi afin de déclencher la guerre la plus meurtrière de l’histoire. Des millions de personnes crurent en ses paroles et furent prêtes à se battre pour ce qu’elles considérèrent comme la vérité.

Ce n’est pas l’IA qui constitue le vrai danger. Les progrès technologiques ne sont pas plus dangereux que les humains qui les contrôlent. Mais la Bible nous met en garde contre un dirigeant du temps de la fin qui entrera en scène et jettera « la vérité par terre » (Daniel 8 : 12). Après avoir brouillé les frontières entre la vérité et le mensonge, il conduira notre monde polarisé à la guerre. « À cause de sa prospérité et du succès de ses ruses, il aura de l'arrogance dans le cœur, il fera périr beaucoup d'hommes qui vivaient paisiblement, et il s'élèvera contre le chef des chefs ; mais il sera brisé, sans l'effort d'aucune main » (verset 25).

La façon dont cet homme s’élèvera et trompera l’humanité est expliquée en détail dans notre brochure gratuite intitulée Nahum : une prophétie du temps de la fin pour l’Allemagne.

Qu’est-ce que la vérité, et comment se prémunir contre le mensonge ? La Bible nous donne l’unique solution. La Parole de Dieu est la vérité (Jean 17 : 17). Seul Son gouvernement à venir saura préserver la vérité à l’échelle mondiale.