La guerre informationnelle dopée à l'intelligence artificielle


La guerre informationnelle dopée à l'intelligence artificielle

Publié le mercredi 12 juin 2024 à 11:09

b401df450c624098396f701be80a6ec17d446c20-ipad.jpg

(SEBASTIEN BOZON / AFP)

Auteur(s)

Théo MARIE-COURTOIS / AFP France

Des millions de messages en quelques heures, de fausses discussions sur des forums: l'intelligence artificielle permet aux infox et aux opérations d'ingérence étrangère de démultiplier encore davantage leur impact à moindre coût, alertent les experts.

A l'approche des élections européennes qui se sont tenues dimanche, "il y a [eu] une massification générale" de ces contenus venus de l'étranger et l'IA "est une nouvelle étape dans la chaîne d'automatisation de ces publications (qui) permet d'[en] massifier la production", pointe auprès de l’AFP Valentin Châtelet, du laboratoire d'analyse numérique de l’Atlantic Council (DFRLab, liens archivés ici et ici).

Selon les données, analysées par l’AFP, du collectif Antibot4Navalny qui traque les opérations d'influence numérique en lien avec la Russie, des milliers de bots (comptes automatiques), sont utilisés quotidiennement par la propagande pro-russe sur X (lien archivé ici). 

Dans la foulée de la tuerie du Crocus City Hall près de Moscou le 22 mars, qui a fait au moins 144 morts et 360 blessés, le collectif a compté plus de deux millions de messages sur X en moins de 24 heures, accusant l'Ukraine et l'Occident d'avoir facilité l’attaque ainsi que la fuite des assaillants, une thèse similaire à celle développée, dans un premier temps, par les autorités russes (lien archivé ici).

Au moins 30.000 bots auraient été utilisés dans le cadre de cet évènement avec une particularité, selon Antibot4Navalny : publier tous un message au contenu similaire mais à la formulation différente.

"Étant donné le délai très court entre l'événement sur le terrain et les premières publications de cette campagne, il n'était pas du tout possible d'écrire manuellement autant de messages uniques évoquant efficacement 2 à 3 mots-clés, combinés de manière très variée", a souligné auprès de l'AFP le collectif, pointant l'utilisation de l'intelligence artificielle pour réaliser cette tâche d'ampleur.

"Pendant la durée de chaque épisode (événement d'importance planétaire, NLDR), le fonctionnement quotidien régulier est interrompu : tous les bots (...) sont entièrement dédiés à l'épisode en question", a ajouté Antibot4Navalny.

a1ca54e185997a9cbb97f744096d8ba74f103d30-ipad.jpg

 

Graphique représentant le nombre quotidien de messages publiés sur X par des bots lors d'évènements planétaires (Antibot4Navalny)

Théo MARIE-COURTOIS

 

ChatGPT

OpenAI, le créateur de ChatGPT, avait indiqué fin mai que des groupes d'influence russes, chinois, iranien ainsi qu'une "entreprise commerciale en Israël" avaient utilisé ses programmes pour tenter de manipuler l'opinion d’autres pays (lien archivé ici).

Les contenus fabriqués traitaient d'une "large palette de sujets, notamment l'invasion de l'Ukraine par la Russie, le conflit à Gaza, les élections indiennes, la politique européenne et américaine ainsi que des critiques du gouvernement chinois par des dissidents".

L'IA ne sert pas nécessairement à produire des contenus sophistiqués, comme des vidéos type "deepfake", de fausses photos ou de faux audios: selon OpenAI, le système a été utilisé pour générer "principalement du texte, parfois des images, tels que des dessins" satiriques. 

Elle permet aussi de "simuler de l'engagement" sur les réseaux et "gagner en productivité", note OpenAI. 

L'IA peut, par exemple, servir à traduire un faux article en de nombreuses langues puis à le poster automatiquement sur une multitude de comptes et de sites.

Selon Antibot4Navalny, l'IA permet aussi d'éviter aux bots d'être repérés par la modération des réseaux sociaux en multipliant les messages dont le fond est similaire mais pas tout à fait identiques (formulations différentes, etc.).

b543eafefff8635c0ca0a777d79c1ba942d9974f-ipad.jpg

 

Montage réalisé le 11/06/2024 par l'AFP à partir de plusieurs messages publiés sur X

 

Et les contenus sont divers : faux articles, faux graffitis, faux reportages... Ces bots peuvent aussi relayer massivement de vrais articles de presse mais en les accompagnant de messages politiques, comme "le RN est la (sic) parti de la paix, contrairement à Macron qui cherche à attiser la guerre" ou que "c'est une honte de voir nos dirigeants gaspiller l'argent du peuple pour des jeux (olympiques)!".

2f80f2b1b44f4918c5b35d55d5601c03d466492b-ipad.jpg

 

Capture d'écran prise le 11/06/2024 d'un faux site de presse usurpant l'identité du Parisien

Théo MARIE-COURTOIS

 

17abc6a49391010f7515a8d842fd85388fafb6b5-ipad.jpg

 

Capture d'écran d'une publication X archivée, prise le 11/06/2024

Théo MARIE-COURTOIS

 

"En tant qu'utilisateur, vous pouvez avoir l'impression que ces points de vue sont massivement soutenus par des gens basés en France alors que ce n'est pas forcément le cas", relève Alexandre Alaphilippe, directeur exécutif de l'ONG européenne EU DisinfoLab (lien archivé ici).

"Vous pouvez aller sur un forum, voir des gens qui se parlent entre eux mais en réalité toute cette conversation a été générée par intelligence artificielle (IA)", poursuit le spécialiste.

La Russie est considérée comme le pays le plus actif en termes d'ingérence étrangère via Internet par les experts et les services de renseignements et gouvernements occidentaux même si d'autres pays, comme l'Azerbaïdjan, l'Iran ou la Chine sont aussi pointés du doigt.

Ces derniers mois, ont été mises au jour plusieurs opérations, comme Doppelgänger (imitation de médias occidentaux pour diffuser des infox), Matriochka (interpellation directe de médias pour les inciter à vérifier des infox), ou Olympiya, visant les JO.

Long-terme

Pour Alexandre Alaphilippe, ces opérations ne "vont pas s'arrêter" maintenant que les élections européennes sont passées puisqu'elles "sont conçues pour tenir dans la durée".

L’élection présidentielle américaine, qui se déroulera le 5 novembre, sera aussi un enjeu crucial. Selon les données d’Antibot4Navalny, fin mai 2024, en plein procès de l’ancien président et futur candidat Donald Trump, au moins deux millions de messages critiquant la politique de Joe Biden, l’actuel président candidat à sa réélection, ont été publiés sur le réseau social X par des bots.

"Ce qui rend ces élections – et celles à venir aux États-Unis – uniques, c'est qu’elles surviennent à un moment où il est dans l'intérêt stratégique de la Russie d'affaiblir le soutien occidental à l’Ukraine", indique John Kennedy, chercheur en défense et sécurité à l'institut de recherche Rand (lien archivé ici). 


© AGENCE FRANCE-PRESSE | 2024 | Tous droits réservés. L’accès aux contenus de l'AFP publiés sur ce site et, le cas échéant, leur utilisation sont soumis aux conditions générales d'utilisation disponibles sur : https://www.afp.com/fr/cgu. Par conséquent, en accédant aux contenus de l’AFP publiés sur ce site, et en les utilisant, le cas échéant, vous acceptez d'être lié par les conditions générales d'utilisation susmentionnées. L’utilisation de contenus de l'AFP se fait sous votre seule et entière responsabilité. 


Republication
Si vous êtes un média et souhaitez publier ce Fact-check de l’AFP sur votre site officiel, vous pouvez le faire en acceptant et dans le respect de ces Conditions générales d'utilisation. Après avoir accepté ces Conditions générales d'utilisation, vous pourrez télécharger le Fact-Check de l’AFP pour le publier sur votre site officiel.