Dans le rapport sur les risques mondiaux 2024, le Forum économique mondial a identifié la désinformation et la mésinformation générées par l’IA comme le deuxième risque mondial le plus important après les conditions météorologiques extrêmes. Cette préoccupation est bien fondée, surtout avec la montée rapide d’outils comme les deepfakes activés par l’IA générative, qui menacent l’intégrité des processus démocratiques. Les deepfakes, qui sont des vidéos ou des images fabriquées très réalistes, peuvent tromper les électeurs, manipuler l’opinion publique et ternir la réputation des partis politiques et des politiciens.

Anna Collard, vice-présidente de la stratégie de contenu et évangéliste chez KnowBe4 AFRICA, une organisation de formation en cybersécurité, déclare que la qualité des deepfakes s’est considérablement améliorée au cours de la dernière année, les rendant plus convaincants et difficiles à identifier. Dans un incident notable d’octobre dernier, des cybercriminels ont utilisé des vidéos deepfake pour se faire passer pour le président de la Commission de l’Union africaine Moussa Faki Mahamat lors de conversations en ligne avec des diplomates européens. De même, en décembre, Facebook a supprimé plus de 100 publicités deepfake payantes mettant en vedette le premier ministre britannique Rishi Sunak après que près d’un demi-million de personnes les ont vues.

« Les deepfakes posent des risques majeurs à l’approche des élections, au Royaume-Uni comme en Afrique du Sud », déclare Anna Collard. « Les électeurs doivent être conscients de ce risque et prendre des mesures proactives pour en atténuer l’impact. »

Être conscient des deepfakes

Selon Anna Collard, la première étape pour lutter contre l’impact de la désinformation grâce aux deepfakes est de sensibiliser le public. « Il est crucial que le public soit conscient de l’existence de ce phénomène », insiste-t-elle, ajoutant : « La production de vidéos et d’images deepfake est bon marché et facile. »

CounterCloud, un projet de recherche visant à montrer la facilité de créer des campagnes de désinformation entièrement automatisées, a fonctionné avec un budget modeste de seulement 400 $. Son objectif était de contrer les dépeintures négatives des États-Unis propagées par les médias russes. « Si vous êtes un politicien, attendez-vous à ce que des deepfakes vous imitant apparaissent pour influencer l’opinion publique », affirme-t-elle. « De même, les électeurs ne devraient pas croire que tout ce qu’ils voient ou entendent sur les réseaux sociaux est vrai. »

Vérifier les informations

Outre la sensibilisation, un autre principe crucial est la vérification des informations. « Si un politicien a prétendument dit quelque chose de profondément polarisant, il est important de vérifier s’il l’a vraiment dit ». Pour contrer le risque des deepfakes, la Commission électorale indépendante (IEC), en collaboration avec Media Monitoring Africa, a lancé une initiative appelée Padre. Cette initiative permet aux électeurs de vérifier les informations concernant les partis politiques sud-africains et leurs déclarations récentes.

La recherche d’images inversées de Google est un autre outil utile qui vous permet de vérifier si une image en ligne a été utilisée ailleurs. De plus, FotoForensics fournit une analyse plus approfondie des images. Cependant, malgré ces outils, la vérification des informations reste un défi. « Les deepfakes deviennent plus convaincants, ce qui rend la vérification des informations encore plus difficile », déclare Collard.

Ne pas surréagir

Enfin, lorsqu’elle est confrontée à un contenu incendiaire, Anne Collard insiste sur l’importance de ne pas surréagir. « Les escrocs veulent attiser vos émotions et vous mettre dans un état où vous êtes incapables de penser rationnellement », dit-elle. « Restez calme et ne partagez pas de contenu trop émotionnel. Chaque fois que vos émotions sont déclenchées, ralentissez et vérifiez — il pourrait s’agir d’un canular. »

Anna Collard estime qu’il est de la responsabilité de chaque électeur de s’informer sur les dangers des deepfakes. « Les contenus générés artificiellement ont d’énormes implications pour la société, en particulier pendant les périodes électorales », déclare-t-elle. « Pour lutter contre cette forme de désinformation et sauvegarder le processus démocratique, les plateformes de médias sociaux, les partis politiques et les chiens de garde indépendants ainsi que nous, le public, devrons tous travailler ensemble. »

Anna Collard, vice-présidente de la stratégie de contenu et évangéliste chez KnowBe4 AFRICA