Partager cette publication
Ce document a été rédigé par deux chercheurs tunisiens qui préfèrent rester anonymes.
Dans le sillage des élections présidentielles, les premières depuis le coup d’Etat de Juillet 2021, la Tunisie a connu un regain de contenu politique sponsorisé suspect, aussi bien pro que anti-régime, sur les réseaux sociaux. On a pu observer des publicités dénonçant le refus du président de l’instance électorale, Farouk Bouasker de réintégrer certains candidats. On a observé également des profils aux noms à consonance égyptienne « fermés » (locked) réagir par des likes ou des émojis “rire” sur les publications de la page de la présidence de la République Tunisienne. Face à la multiplication de pages anti-Saied récoltant des milliers de likes en l’espace de quelques jours, des vidéos d’influenceurs pro-régime se sont multipliées pour dénoncer la prolifération de ces pages et contenus, et prenant à témoin leur audience sur la vérité du complot ourdi par des forces obscures, principal fonds de commerce du nouveau régime.
On peut difficilement négliger le poids de Facebook en Tunisie. Il reste le réseau le plus utilisé , et il continue d’être le lieu où une grande partie de la vie politique se joue. S’il a depuis longtemps été le lieu de campagnes de désinformation en Tunisie, on constate depuis quelques années que l’affaire a pris une tout autre dimension : le secteur est passé d’une industrie locale, artisanale, à une véritable industrie gérée par des entreprises spécialisées agissant à l’échelle internationale. A cette industrialisation de la désinformation, s’ajoute un phénomène de manipulation des réseaux qui prend la forme de profils trolls dictant l’ordre du jour politique ou encore de faux profils créant un faux effet de popularité pour certaines idées. Aussi bien la désinformation que la manipulation posent question pour l’avenir de la démocratie, aussi bien en Tunisie que dans le monde, dans un contexte où pour beaucoup, ces réseaux continuent de représenter un reflet fidèle de la réalité.
Cet article cherche à donner une vue d’ensemble des dynamiques désinformationnelles à partir de l'espace digital tunisien, en explorant les différents récits véhiculés, les formes de manipulation et le rôle des plateformes de réseaux sociaux dans leur amplification. L’article montre aussi que certains récits de désinformation circulent entre différents pays de la région. L’objectif est d’élargir la réflexion sur ces formes de manipulation tout en proposant un agenda de recherche et d’action régional qui puisse contribuer à réduire l’impact de ces activités connues dans le monde arabe sous le nom général de “mouches électroniques”.
Manipulation ou désinformation ? Démêler les concepts.
Il importe de clarifier les concepts utilisés quand on parle de désinformation ou de manipulation en ligne. Les deux étant souvent entremêlés, il est facile d’utiliser ces mots comme des synonymes. Claire Wardle et Hossein Derakhshan, dans leur rapport "Information Disorder: Toward an Interdisciplinary Framework for Research and Policymaking", présentent la manipulation de l'information à travers trois types de désordre informationnel : la désinformation (information fausse créée délibérément pour nuire), la mésinformation (information fausse partagée sans intention de nuire), et la malinformation (information vraie utilisée pour nuire).
Ces désordres suivent un cycle en trois phases : la création, la production et la distribution du contenu, réalisé par divers agents aux motivations politiques, sociales ou financières. Ces agents, qu'ils soient officiels (acteurs étatiques, partis politiques) ou non officiels (groupes de citoyens, trolls isolés), jouent un rôle central dans la diffusion de messages qui peuvent prendre différentes formes (textes, vidéos, images, memes). Leurs motivations sont variées, allant de l'intérêt financier à l’intérêt social ou politique. Les messages eux-mêmes varient au niveau de la durabilité, certains sont conçus pour avoir un impact à long terme, tandis que d'autres sont temporaires et ciblent des événements spécifiques, comme une élection.
Jonathan Corpus Ong et Jason Vincent A. Cabañes présentent les auteurs de manipulation digitale comme les “architectes de la désinformation”, qui supervisent et conçoivent des campagnes basées sur des fausses nouvelles et des interactions orchestrées. Souvent issus des secteurs de la publicité et des relations publiques, ces “architectes” collaborent avec des influenceurs anonymes, qui gèrent plusieurs faux comptes ayant un nombre important de followers. Ces influenceurs créent des contenus attrayants et partageables, mélangeant des informations vraies et fausses pour amplifier les messages des campagnes. Plus bas dans la hiérarchie, les opérateurs de faux comptes au niveau communautaire génèrent des “illusions d'engagement” à travers les partages et les likes des contenus.
L’élection présidentielle de 2019 : Premiers ballons d’essai
L’élection présidentielle anticipée de 2019 a été le premier signal d’alarme de la montée de gamme de la désinformation en Tunisie. Plusieurs enquêtes ont révélé l’usage massif de pages Facebook au contenu suspect. L’Oxford Internet Institute, dans son inventaire mondial de la manipulation organisée sur les réseaux sociaux, a révélé une utilisation massive des réseaux sociaux pour manipuler l'opinion publique lors des élections présidentielles de 2019. Les tactiques de manipulation présentées dans son étude de cas par pays ont inclus la création et la gestion de pages Facebook non affiliées, qui ont diffusé de fausses enquêtes, des rumeurs infondées et du contenu délibérément trompeur pour influencer les électeurs et électrices. L’utilisation par les partis politiques de faux comptes humains pour diffuser des récits pro-gouvernementaux ou pro-partis, ainsi que pour attaquer les opposants, a été documentée.
Ainsi, une enquête, publiée en 2019, par le Digital Forensic Research Lab (DFR Lab), le centre de recherche en désinformation et manipulation en ligne du think-tank américain Atlantic Council, a révélé qu’une entreprise israélienne Archimedes Group a créé des campagnes de désinformation dans un certain nombre de pays africains, notamment en Tunisie. L’analyse menée par Inkyfada tendait à conclure que le contenu des onze pages concernées bénéficiait au futur candidat aux présidentielles Nabil Karoui, ce qui laisse à croire qu’il en était le commanditaire. Les pages, qui se donnaient l’apparence de pages « coup de gueule » contre les politiciens ont mystérieusement épargné Karoui, voire, ont tressé ses lauriers. Les pages en question ont été supprimées par Facebook, qui avait détecté un comportement “coordonné” et “trompeur”. Elles se caractérisaient par une croissance trop rapide par rapport à leur date de création. Par exemple, la page la plus populaire de l’ensemble des pages désactivées était aussi la plus récente, elle a ainsi récolté 104 000 likes en l’espace de deux mois. Souvent, les pages sont likées par des milliers de bots, donnant l’apparence d’une popularité qui pousse de vrais profils à se joindre à un mouvement qui semble massif.
Une deuxième enquête, toujours menée par DFR Lab, publiée en 2020 avait révélé l’existence d’autres pages, toujours au bénéfice de Nabil Karoui, qui attaquaient ses adversaires. Cette fois-ci, c’était une entreprise tunisienne, Ureputation qui était à la manœuvre. Ces pages sponsorisées se faisaient souvent passer pour des canaux d’information journalistique neutres (par exemple, en se targuant d’être spécialisées dans le fact-checking) et s’appuyaient sur des faux « médias d’information », créés en ligne pour leur donner une plus grande crédibilité. Cette pratique semble aujourd’hui avoir été abandonnée puisque ce sont bien souvent ces sites web d’information, dont on pouvait facilement trouver l’origine d’achat du nom de domaine qui ont permis d’identifier les exécutants.
En outre, le rapport de la cour des comptes sur les élections de 2019 avait observé l’existence de centaines de pages non officielles des différents candidats à la présidentielle. L’exemple de Kais Saied est le plus intéressant : de tous les candidats, Kais Saied était le seul à ne pas avoir de page officielle, il était aussi celui avait le plus de pages de soutien non-officielles (30), avec 120 administrateurs et un peu plus de 3 millions de likes. Son adversaire, lui, n’avait que 3 pages non-officielles et quelques 586 000 likes.
Le 25 Juillet 2021 : Une mobilisation en ligne suspecte ?
Le 25 juillet 2021 marque un tournant aussi bien politique que numérique. La suspension des activités parlementaires par le président Kais Saied a été précédée par une large mobilisation sur les réseaux sociaux, avec certaines pages rassemblant plus de 700 000 abonnés, comme le groupe Facebook “NON aux indemnisations des Nahdhaouis”, aujourd’hui inaccessible. Toutefois, des groupes et pages du même nom subsistent encore, avec un nombre d’abonnés conséquent. Certains groupes avaient d’autres fonctions, telles que commerciales, et ont vu leurs noms changer quelques jours après le 25 Juillet. Selon le chercheur Larbi Sadiki, ces pages auraient contribué à amplifier la colère populaire dès le 12 juillet, dans un contexte de crise profonde due à la gestion hasardeuse de la pandémie par le gouvernement Mechichi. Il est important de noter que, bien que ces pages ont certainement joué un rôle amplificateur dans ce mouvement, il n'est pas possible d'affirmer qu'il s'agissait de manipulation sans preuves concrètes ; elles peuvent être le fait d’une réelle mobilisation.
La mobilisation sur les réseaux sociaux ne s’est pas limitée à l’espace digital tunisien et aux acteurs locaux. Les mesures prises par le président après le 25 juillet ont suscité une diversité de contenus sur l’espace médiatique et les réseaux sociaux. D'une part, des messages anti-Ennahdha ont été diffusés par le biais de bots, d’influenceurs et de hashtags largement partagés, tels que “Tunisians revolt against the brotherhood”. Selon le chercheur Marc Owen Jones, cette activité provient en grande partie de comptes liés à l’axe Émirats Arabes Unis-Égypte-Arabie Saoudite.
D'autre part, une fausse nouvelle publiée par Middle East Eye a été massivement relayée, affirmant que l’ancien chef du gouvernement Hichem Mechichi avait été agressé physiquement au palais de Carthage par des officiers égyptiens, accusant l’armée égyptienne et le président des Émirats Arabes Unis d’avoir directement soutenu le coup d’état.
De la manipulation politique à la traque des migrants
La manipulation de l’espace digital tunisien, qui jusque-là ciblait principalement les différentes factions politiques du pays, a pris un tournant sinistre avec la campagne de haine à l’égard des migrants d'Afrique subsaharienne. Cette campagne, débutée selon Falso, une plateforme de fact-checking indépendante, en 2021 par le Parti Nationaliste Tunisien (un micro parti comprenant 3 membres), culminera par le discours du président du 21 Février 2023 sur le « plan criminel pour changer la composition du paysage démographique » que représenterait l’immigration subsaharienne.
Dans les mois précédant ce discours, l’espace digital tunisien a été inondé de vidéos, de “memes” et de témoignages, souvent issus de comptes et de groupes anonymes, propageant des discours de haine et des fausses rumeurs sur la communauté subsaharienne. La principale rumeur concerne la disparition des chats de rue, et même domestiques, que les migrants auraient mangé. Curieusement, la même rumeur est aujourd’hui utilisée aux Etats-Unis par Donald Trump, et ses partisans, contre les migrants haïtiens.
Cette campagne, qui a débuté dans des groupes Facebook restreints, s’est ensuite propagée dans divers groupes Facebook à large audience et sur TikTok. Bien que Facebook ait suspendu certains de ces groupes et comptes, en suivant les recommandations d’organisations tunisiennes partenaires, ils restent encore actifs ailleurs, notamment sur Instagram.
Au printemps 2023, plus d’une cinquantaine de groupes et pages Facebook anti-migrants ont émergé, avec des abonnés provenant de divers pays du Maghreb. Plusieurs comptes X sont également apparus, partageant systématiquement du contenu axé sur la suprématie maghrébine et relayant les discours de haine et rumeurs à l’encontre des migrants. Il est intéressant de noter que contrairement au mouvement sur Facebook et TikTok, qui était dirigé vers une audience locale, les comptes anti-migrants sur X sont quasiment exclusivement francophones et semblent plutôt viser la diaspora maghrébine.
Ce mouvement n’est d’ailleurs pas limité à la Tunisie : au Maroc, des mouvements ultranationalistes se propagent sur les réseaux à partir de 2019. La rhétorique est la même, elle s’appuie sur des « memes » empruntés à l’ « alt-right » américaine, dépeignant les migrants comme des criminels, et sur des symboles historiques marocains, comme le drapeau mérinide. En Egypte, un mouvement similaire émerge en 2022, avec deux groupes distincts : Le premier, les «Fils de Kemet», revendique une pureté raciale égyptienne, se considérant comme les héritiers de la civilisation égyptienne ancienne. Ils prônent l'expulsion de ceux qui ne partagent pas ces prétendues caractéristiques génétiques. Le second groupe, « Le Nationalisme Egyptien», adopte une vision nationaliste avec un discours anti réfugiés similaire à ceux de l'extrême droite occidentale.
Ces mouvements s’appuient sur des rhétoriques et symboles similaires: Une nostalgie d’un passé glorieux, que ce soit les pharaons, l'empire du Maroc ou la civilisation carthaginoise, la volonté de restaurer un État fort, caractérisée par un nationalisme xénophobe et anti-minorités ethniques et religieuses, ainsi qu'une opposition virulente aux ONG qui défendent les minorités et les migrants. Et enfin, la réappropriation de memes de l'alt-right américaine. Bien qu’on ne puisse clairement identifier qui se trouve derrière, ces points communs montrent qu’on fait bien face à une industrie assez rodée et massive.
En Tunisie, ces mouvements ont gagné en sophistication, des comptes X et Instagram, monnayés, se présentant comme de simple pages de passionnés d’histoire ont émergé, partagent du contenu sur l'histoire et la civilisation carthaginoise, en utilisant majoritairement des images générées par l'intelligence artificielle pour illustrer la grandeur passée de la nation. Leur contenu est ponctué de temps à autres par des contenus racistes, qui deviennent majoritaires quand le sujet des migrants redevient d’actualité pour ensuite disparaitre, comme si de rien n’était. “Ces pages essayent de contourner quelques mécanismes de modération de contenu des plateformes, en postant par exemple des stories éphémères ou en supprimant rapidement les contenus haineux, avant qu’ils ne soient modérés par les plateformes ou signalés par d’autres utilisateurs. Les administrateurs de ces pages ont donc conscience que leur contenu enfreint les règles des plateformes. Il y a aussi l’utilisation de la fonctionnalité live, sur Facebook, en utilisant des vidéos préenregistrées, ce qui leur permet d’utiliser les avantages de la fonctionnalité au niveau de l’audience, des algorithmes et des notifications envoyées à leurs followers,” explique Rima Sghaier, défenseuse des droits numériques avec laquelle nous nous sommes entretenus.
La modération continue d’être un point noir dans la gestion de ces contenus. En effet, une grande partie du travail est automatisé par les grandes plateformes, ce qui les rend incapables de détecter les contenus haineux en langue arabe ou en dialectes arabes. Une enquête interne de Facebook en 2020 révèle que dans la région Moyen-Orient et Afrique du Nord, seuls 6% du contenu haineux a été détecté sur Instagram contre 40% sur Facebook. De plus, “une personne qui veut signaler des contenus ne va presque jamais tomber sur un vrai humain de l’autre côté” signale Rima Sghaier. Ce n’est qu’en cas de campagne massive et de signalement par des trusted partners locaux que les pages tombent, ce qui met beaucoup de temps. Marc Owen Jones, spécialiste de la désinformation en ligne dans la région parle dans le podcast Afikra d’effet d’ « impérialisme des données », où les GAFAM (Google, Amazon, Facebook, Apple, Microsoft) tirent profit des données des utilisateurs du Sud Global tout en concentrant la quasi-exclusivité de leurs ressources en matière de modération sur les pays du Nord global, le risque réputationnel étant plus grand là-bas.
Fermes à trolls: Une pratique florissante insuffisamment étudiée
Dans la région, la manipulation à des fins de désinformation est devenue une industrie florissante, bien que cachée. En plus de la création de pages et de groupes Facebook de propagande, des centaines voire des milliers de personnes sont employées dans des fermes à trolls prenant l’apparence de boîtes de communication digitale pour animer de faux comptes personnels. Dans un article publié les chercheurs Marina Ayeb et Tiziano Bonini ont interviewé quelques travailleurs de fermes à troll, basés en Egypte et en Irak. Reproduisant un modèle révélé notamment durant les élections américaines de 2015, ces derniers expliquent que leur travail consiste à animer des dizaines de faux profils pour réagir à l’actualité selon les directives qui leurs sont données en amont, des milliers de comptes sont animés ainsi, ayant tous le même son de cloche, attaquant les mêmes personnes sans pour autant donner l’apparence d’être des « bots ». Cela crée un effet de masse, qui vise tout simplement à donner l’impression que les opinions que ces comptes défendent sont les opinions majoritaires. Certains de ces travailleurs, notamment en Egypte, ont expliqué avoir remarqué que les mêmes « talking points » qu’ils devaient répandre sur les réseaux étaient reproduits à l’identique dans les médias radio-télévisés.
Dans l’article Social Media Manipulation in the MENA: Inauthenticity, Inequality, and Insecurity, Leber et Abrahams identifient plusieurs types d’acteurs participant à la manipulation des réseaux sociaux dans la région MENA. Les régimes autoritaires dirigent souvent des campagnes centralisées, utilisant des "armées de bots" pour diffuser des récits pro-gouvernementaux. Toutefois, des acteurs décentralisés, comme des groupes d’utilisateurs coordonnés ou des influenceurs cooptés, participent également à ces campagnes de manipulation. Ces individus ou entités peuvent opérer indépendamment, tout en favorisant les objectifs étatiques. Des entreprises privées fournissent également des services d’engagement automatisés, ce qui rend la distinction entre manipulation étatique et initiative privée encore plus floue.
Dans une région où le chômage et plus particulièrement celui des jeunes est structurel, ces emplois peu épanouissants et précaires sont difficiles à refuser ou à quitter: ils restent des emplois. En l’absence de toute réglementation en amont aussi bien au niveau des Etats qu’au niveau des GAFAM, l’industrie a de beaux jours devant elle. Pire, avec le rachat de Twitter par Elon Musk, et la mise en place d’un système de certification payant, les comptes de désinformation ont gagné une marge de manœuvre importante puisqu’ils peuvent désormais se doter d’une apparence officielle.
Quelles implications pour l’avenir ?
La désinformation en ligne est aujourd’hui une pratique mondialisée. Aussi bien les techniques que les “memes” circulent de pays en pays et participent à la montée générale de formes renouvelées d’autoritarisme qui secouent le monde. Si les réseaux sociaux étaient, au début de la décennie 2010, un moteur de mobilisation de masse des mouvements sociaux, ils sont devenus au fur et à mesure que les GAFAM trouvaient leur modèle de rentabilité, un lieu où la manipulation de masse, tant qu’elle est payée, est devenue légion.
Les pratiques de désinformation industrialisée couplées au manque de modération posent une menace sérieuse à la démocratie. Des pays comme la Tunisie où la confiance dans les institutions est faible et où la démocratie est jeune et fragile, y résistent bien peu. Bien sûr, il ne s’agit pas de dire que ce sont les campagnes Facebook qui ont fait plonger le pays, mais ces campagnes ont participé au pourrissement de l’environnement politique. Au-delà des campagnes, c’est la centralité même d’un réseau social où l’engagement est accentué par le clash et le conflit qu’il faut remettre en question.
De par la menace que ces nouvelles pratiques posent au débat public et à la démocratie, le niveau de réglementation est insuffisant, quand il n’est pas tout simplement un outil pour embastiller les opposants. Le décret-loi 54 sur la lutte contre la désinformation qui a vu le jour en 2022 en Tunisie est devenu l’outil privilégié de répression des opinions des citoyens et journalistes, accusés de propager des fausses nouvelles quand ils critiquent la situation du pays ou le régime. Il n’a aucun effet sur la désinformation industrialisée qui sévit dans le pays.
En amont, les entreprises comme META, X, ou TikTok doivent être mises face à leurs responsabilités en matière de modération des contenus, ce qui passe également par la réglementation. L’arabe et plus particulièrement les différents dialectes continuent d’être très faiblement modérés, ce qui laisse passer des discours de haine, notamment racistes au grand public.
Par ailleurs, la question demande un plus grand investissement dans la recherche. La recherche sur la désinformation est encore jeune et présente des lacunes importantes dans la région, notamment en ce qui concerne la compréhension de son impact réel sur les comportements politiques et sociaux. Quelle influence exercent ces campagnes ? Comment créent-elles leurs narratifs et dans quel but ? Qui sont les commanditaires ? Pourquoi un recours si fréquent à une histoire supposée glorieuse ? Quelle est l’influence de l’extrême-droite occidentale sur ces mouvements ? Les études disponibles se concentrent principalement sur les campagnes de manipulation menées aux Etats-Unis ou en Europe, ce qui limite leur pertinence dans d'autres contextes, comme celui de la Tunisie. Il est donc impératif de développer un cadre de recherche propre à la région, qui prenne en compte ses spécificités politiques et sociales. Mais avant même de s’intéresser aux narratifs et à leurs impacts, c’est la capacité même de faire de la recherche sur ces contenus qui doit être renforcée. Or, cela est rendu de plus en plus difficile par la fermeture croissante des API et leur commercialisation à des prix dépassant les moyens de bien des institutions du Sud Global. “Même lorsque certains accès sont accordés à une poignée de chercheurs, comme c’est le cas avec Meta, un système de filtrage favorise les chercheurs occidentaux. Les outils de recherche sont devenus inaccessibles et trop chers, comme Crowdtangle qui est fermé ou encore X qui a rendu ses API payantes à des tarifs prohibitifs, créant une barrière pour les institutions de notre région.” explique Rima Sghaier.
Le fact-checking, bien que présent en Tunisie, n'est pas suffisant pour enrayer la diffusion de la désinformation à grande échelle. Selon Jon Bateman et Dean Jackson, dans leur rapport Countering Disinformation Effectively, les efforts de fact-checking sont efficaces pour corriger les croyances erronées, mais ils n’entraînent pas nécessairement des changements comportementaux durables, il est donc essentiel de compléter les efforts de fact-checking par une éducation critique aux médias, afin de renforcer les capacités des utilisateurs à résister aux manipulations.
Enfin, l’industrialisation de la manipulation en ligne et la trop grande faiblesse des réponses qui lui sont données pose une question plus large aux militants pour la démocratie et la justice sociale dans le monde arabe : Comment investir les réseaux sociaux aujourd’hui ? Quelle place doivent-ils avoir dans les mouvements d’émancipation quand le terrain semble d’avance miné par la mainmise de l’extrême-droite , encouragée par les algorithmes, voire, dans le cas de X, le chef d’entreprise lui-même. Faut-il déserter et créer d’autres espaces ou industrialiser à son tour la présence en ligne au risque d’être à contre-courant d’algorithmes plus forts que soi ?
Les opinions représentées dans cet article sont celles des auteurs et ne reflètent pas nécessairement les vues de l’Arab Reform Initiative, de son personnel ou de son conseil d'administration.
