Les intelligences artificielles occidentales, notamment celles de start-ups comme OpenAI et Mistral AI, sont progressivement intégrées dans notre quotidien. Cependant, leur capacité à fournir des réponses pose des questions sur leur fiabilité. Des recherches menées par Newsguard montrent que ces IA peuvent relayer de la propagande pro-russe, en se basant sur des informations fausses propagées par un réseau de sites internet, connu sous le nom de « Pravda ». En multipliant les récits biaisés, ces réseaux influencent les IA, qui ont tendance à accorder plus de crédibilité aux informations qui apparaissent fréquemment sur diverses plateformes. Ainsi, près d’un tiers des réponses fournies par ces intelligences artificielles peuvent nier des faits vérifiés, soulignant ainsi les défis de la lutte contre la désinformation.

Dans un monde où l’information circule à une vitesse fulgurante, les intelligences artificielles occidentales jouent un rôle crucial dans la manière dont nous percevons la réalité. Cependant, ces technologies, qui sont devenues des compagnons familiers de nos quotidiennes, se retrouvent souvent engagées malgré elles dans un jeu complexe de propagande. En effet, des start-ups de lutte contre la désinformation tirent la sonnette d’alarme sur l’infiltration de fausses informations, notamment celles émanant des réseaux pro-russes. Ce phénomène soulève des questions essentielles sur l’avenir de notre journalisme et l’intégrité de notre quête d’une vérité fiable.

Les avancées fulgurantes des intelligences artificielles (IA) génératives ont transformé notre rapport à l’information, mais elles soulèvent également des questions préoccupantes sur leur rôle dans la propagande et la désinformation. En particulier, des études récentes soulignent comment certaines IA occidentales, telles que celles développées par des entreprises comme OpenAI et Google, peuvent involontairement relayer la propagande russe, amplifiant ainsi des fausses informations à une échelle alarmante.

Le phénomène de la contamination informationnelle

La question de la contamination des intelligences artificielles par des campagnes de désinformation est devenue centrale. Des start-up comme Newsguard ont mis en lumière que plusieurs IA, en se basant sur des sources volatiles, reproduisent des discours imprégnés de propagande pro-russe. En analysant des réponses fournies par ces systèmes à des questions basées sur des infox répandues, Newsguard a constaté qu’un tiers des cas traités par ces IA relayaient des informations mensongères tirées de réseaux de sites pro-russes.

Les mécanismes de propagation des fausses informations

L’algorithme des IA leur permet de donner du crédit aux informations qui apparaissent fréquemment sur le web. Ainsi, plus un récit est partagé, plus il est susceptible de passer à travers les mailles du filet de vérification. Ce constat est opportunément exploité par des propagandistes comme John Mark Dougan, qui affirment qu’il est crucial de multiplier les récits « du point de vue russe » sur internet pour influencer les IA globales.

Des structures bien huilées pour la désinformation

La toile de la désinformation est vaste, et le réseau Pravda, qui regroupe 150 noms de domaine en 46 langues, représente un exemple frappant. Environ quatre millions d’articles et 200 fausses informations sont diffusés par ces sites, augmentant ainsi artificiellement la visibilité de la désinformation. Alors que ces sites ne sont pas nécessairement populaires, leur volume et leur diversité leur permettent d’alimenter les systèmes d’IA qui, à leur tour, peuvent relayer ces mensonges.

Exemples concrets de propagande relayée

Une recherche a mis en lumière des exemples concrets où des IA ont répondu à des fausses allégations en citant comme sources des articles du réseau Pravda. Par exemple, des affirmations selon lesquelles le président ukrainien aurait interdit un réseau social américain en Ukraine, alors qu’il n’y a jamais été disponible, ont été traitées par certaines IA comme si elles étaient des faits. Cela montre l’aptitude de ces systèmes à légitimer des informations infondées.

Une lutte acharnée contre la désinformation

Face à ces enjeux, la lutte contre la désinformation est plus que jamais d’actualité. Des organisations comme The American Sunlight Project et même des géants comme Google s’efforcent d’évaluer l’impact de ces technologies sur la diffusion de fausses informations. Des rapports soulignent que les IA qui se basent sur des données non vérifiées peuvent contribuer à des stratégies de désinformation massives.

Les défis posés par une nouvelle ère d’informations

Depuis la mise en ligne de ChatGPT, un flot d’outils basés sur l’IA a envahi notre espace médiatique. Les médias doivent faire face à de nouveaux défis pour garantir la fiabilité de l’information, alors que des outils automatiques, qui peuvent générer du contenu à grande échelle, s’installent dans les rédactions. La question de l’intégrité des informations relayées devient alors cruciale pour préserver le journalisme traditionnel.

Dans cette guerre silencieuse de l’information, il est fondamental d’interroger continuellement les systèmes d’IA sur la légitimité de leurs sources. La responsabilité des géants de la technologie est engagée, tout comme celle des utilisateurs qui doivent rester vigilants face aux discours que ces intelligences peuvent amplifier. La lutte contre la désinformation ne fait que commencer, et chaque utilisateur d’IA a un rôle à jouer dans la préservation de la vérité.

Comparaison de l’impact des intelligences artificielles occidentales sur la propagande russe

Axe d’analyse	Impact des IA occidentales
Fiabilité des informations	Les IA peuvent relayer des fake news sans vérification, augmentant la confusion sur l’actualité.
Propagation des rumeurs	La répétition de nouvelles douteuses sur divers sites leur confère une credibilité illusoire aux yeux des IA.
Influence sur l’opinion publique	Les réponses biaisées des IA peuvent former des opinions erronées au sein de la population.
Amplification des messages	Les algorithmes favorisent la visibilité des récits pro-russes, créant un cercle vicieux.
Désinformation organisée	Les propagandistes exploitent les IA pour multiplier les sources de désinformation.
Manipulation ciblée	Les IA adaptent leurs réponses en fonction des tendances du moment, augmentant la manipulation.
Plongée dans l’ignorance	Les utilisateurs peuvent rester mal informés, risquant une séparation d’avec la réalité.
Érosion de la confiance	L’utilisation d’IA pour relayer la propagande peut décourager la confiance dans les médias.

• Propagation de fausses informations: Les IA relaient souvent des rumeurs sans vérification.
• Manipulation par des réseaux organisés: Des organismes pro-russes créent de multiples sites pour influencer les IA.
• Visibilité accrue des contenus trompeurs: La répétition d’une information sur plusieurs plateformes confère crédibilité aux IA.
• Difficulté à distinguer le vrai du faux: Les réponses des IA peuvent intégrer des mensonges issus de sources biaisées.
• Impact sur la démocratie: Désinformation orchestrée à travers l’IA menace la confiance publique dans les médias.
• Facteurs de crédibilité: Plus une info est présente sur le web, plus elle est assimilée comme véridique par les IA.
• Risques d’ingérence étrangère: Les campagnes de désinformation ciblent des opinions publiques pour semer le doute.

Les intelligences artificielles et la propagande : un lien inquiétant

Les intelligences artificielles (IA) génératives ont rapidement intégré nos vies quotidiennes, fournissant des réponses instantanées à nos questions. Toutefois, une préoccupation majeure émerge concernant leur vulnérabilité à la propagande, notamment la propagande pro-russe. Des rapports récents signalent que certaines de ces IA occidentales ont relayé des informations erronées provenant de réseaux de désinformation, comme ceux associés à la Pravda. Cette situation souligne la nécessité de prendre des mesures pour contrer la manipulation de l’information par ces technologies.

Alerte à la désinformation

Les IA occidentales, comme Chat GPT et d’autres plateformes similaires, trouvent leurs réponses en analysant des données disponibles sur Internet. Ce processus n’est pas infaillible. Lorsque des fausses informations deviennent fréquentes sur le Web, les algorithmes peuvent être programmés pour leur accorder une crédibilité non fondée. Un exemple frappant est celui où six IA ont expliqué faussement des événements entourant le président ukrainien, Volodymyr Zelensky, en se basant sur des articles d’un réseau de désinformation.

La nature évolutive de la désinformation

Les réseaux pro-russes, tels que celui de la Pravda, ont développé un vaste arsenal de sites Internet uniquement dédiés à diffuser de fausses informations. Avec près de 150 domaines et des millions d’articles, ce dispositif triste mais efficace cherche à influencer les IA et à rediriger le discours à leur avantage. L’avantage de cette approche réside dans la possibilité d’inonder l’espace numérique avec de fausses narrations, ce qui complique le travail de vérification des faits.

Des risques pour la démocratie

La démocratie est menacée par cette guerre secrète d’informations. Les IA, en relayant sans discernement des narrations biaisées, contribuent non seulement à la désinformation, mais aussi à la polarisation de l’opinion publique. Les citoyens, se basant sur ce qu’ils perçoivent comme de l’information fiable, peuvent être indûment influencés par des mensonges intégrés dans leur consommation d’information.

La nécessité d’une vigilance accrue

Il est essentiel de renforcer la vigilance face à l’impact des IA sur la diffusion de fausses informations. Le combat contre la désinformation nécessite de réelles initiatives qui allient éducation et technologie. Les utilisateurs doivent être sensibilisés aux risques que représentent les IA en matière de propagation de fausses narrations. Parallèlement, les développeurs d’IA doivent intégrer des mécanismes de vérification qui scrutent la crédibilité des sources avant de diffuser des informations.

Une coopération internationale pour contrer la propagande

Pour faire face à cette situation alarmante, une approche coordonnée à l’échelle internationale est indispensable. Les gouvernements, les entreprises technologiques et les chercheurs doivent collaborer pour élaborer des politiques qui limitent la propagation de la désinformation. Par ailleurs, la transparence des algorithmes utilisés par les IA pourrait permettre de mieux comprendre les sources d’influence et de biais au sein de ces systèmes.

Empowerment des utilisateurs

Enfin, un effort collectif pour éduquer les utilisateurs à l’usage critique de l’information est primordial. Cela peut inclure des formations sur la vérification des faits, le discernement des sources d’information et la détection des fake news. En dotant les citoyens de compétences médiatiques, ils pourront mieux naviguer dans cet océan numérique souvent troublé par des informations biaisées.

R : Les intelligences artificielles peuvent accidentellement relayer des informations erronées en se basant sur des contenus biaisés trouvés en ligne. Cela permet à des propagandistes de manipuler l’information facilement.

R : Les IA évaluent la fiabilité des informations en fonction de leur présence répétée sur de multiples sites. Les narratifs pro-russes sont souvent amplifiés en raison de leur diffusion sur de nombreux domaines.

R : Le réseau Pravda consiste en 150 noms de domaines diffusant près de quatre millions d’articles qui contiennent des fausses informations. Leur objectif est d’augmenter artificiellement la visibilité de ces contenus.

R : Les IA, face à des informations répétées et largement relayées, leur accordent plus de crédit. Cette tendance expose les utilisateurs à des contenus peu fiables sous couvert de légitimité.

R : Ces études montrent que, dans de nombreux cas, les IA relayent des infox, ce qui soulève des inquiétudes quant à leur capacité à vérifier l’exactitude des informations.

R : Une approche proactive est essentielle pour contrer la désinformation en formant les IA à distinguer les sources fiables des sources douteuses.