À l’occasion de la cinquième Journée internationale de lutte contre les discours de haine, célébrée le 18 juin au siège des Nations Unies à New York, diplomates, experts et représentants de la société civile ont lancé un appel commun : il devient urgent de reprendre le contrôle d’un espace numérique où les algorithmes favorisent trop souvent l’indignation, la désinformation et la polarisation.
Dans un message adressé aux participants, le Secrétaire général de l’ONU, António Guterres, a dénoncé des modèles numériques qui récompensent la division plutôt que le dialogue. Selon lui, certains algorithmes amplifient les contenus les plus provocateurs, encouragent la diffusion de fausses informations et contribuent à banaliser la violence en ligne. L’essor de l’intelligence artificielle et le manque de régulation de nombreuses plateformes renforcent encore cette tendance.

Recherche de rentabilité des plateformes numériques

Pour les Nations Unies, le danger ne réside plus seulement dans le contenu des messages haineux, mais dans leur capacité à se propager rapidement et à devenir socialement acceptables. Chaloka Beyani, conseiller spécial pour la prévention du génocide, a rappelé que les grandes tragédies du XXe siècle ont commencé par des mots. L’Holocauste, le génocide des Tutsis au Rwanda en 1994 ou encore le massacre de Srebrenica ont été précédés par des campagnes de déshumanisation visant certaines populations.
Les plateformes numériques sont aujourd’hui particulièrement pointées du doigt. Melissa Fleming, responsable de la communication de l’ONU, estime que la réduction des équipes de modération et la recherche de rentabilité favorisent la circulation de contenus toxiques. Certains créateurs de contenus haineux parviennent même à monétiser leurs publications grâce aux mécanismes publicitaires des réseaux sociaux.

Les femmes figurent parmi les premières victimes

Les femmes figurent parmi les premières victimes de cette violence numérique. Responsables politiques, journalistes ou militantes font régulièrement l’objet de campagnes de harcèlement, souvent amplifiées par des montages générés par intelligence artificielle. Pour la présidente de l’Assemblée générale de l’ONU, Annalena Baerbock, l’objectif de ces attaques est clair : intimider et réduire au silence celles qui occupent l’espace public.
Face à ce défi mondial, l’ONU plaide pour une réponse collective associant États, entreprises technologiques, médias, chercheurs et société civile. L’enjeu n’est plus seulement de supprimer les contenus haineux, mais de transformer l’architecture même des plateformes afin qu’elle cesse de privilégier les discours qui divisent. Pour les Nations Unies, c’est sur ce terrain que se joue désormais la prévention des violences de demain.