Spécialiste de la propagande et de la guerre de l’information, David Colon explique le fonctionnement de la désinformation russe dont les effets sont démultipliés par le recours à l’intelligence artificielle générative. Pour combattre ce fléau, affirme l’expert, la société civile en France et partout en Occident doit réfléchir à de nouveaux outils de communication, en vue de créer un espace informationnel en prise avec la réalité factuelle.
Propos recueillis par Galia Ackerman
Comment est organisé le système de désinformation russe ? Y a-t-il un centre unique de commande de ce système et si oui, où se trouve-t-il ?
Nous avons une connaissance encore fragmentaire de la structure des organes de propagande, de leur hiérarchie. Traditionnellement, les acteurs de la propagande bénéficient d’une relative autonomie, à la façon de ce que l’armée appelle « l’art opératif ». L’État-major définit les grandes lignes de stratégie, tout en laissant les unités, à l’échelle tactique ou opérationnelle, prendre des initiatives dans l’accomplissement de cet objectif stratégique. De même, en matière de désinformation et d’ingérence, on laisse aux acteurs en charge d’une opération, comme CopyCop, Doppelgänger, etc. le soin de prendre des initiatives sans subir de procédures administratives trop lourdes.
Notre connaissance du système de désinformation du Kremlin a toutefois progressé. En décembre dernier, le Washington Post a publié des documents secrets du Kremlin, qui tendent à accréditer l’idée selon laquelle Sergueï Kirienko, premier adjoint au chef de l’administration présidentielle, se serait vu confier par Poutine la tâche de coordonner les actions des services de renseignement, notamment dans le champ de la guerre informationnelle. Dans d’autres fuites de documents internes russes, il est plusieurs fois question de réunions au Kremlin, autour de Kirienko et de responsables du renseignement. Par exemple, en août 2023, il y a eu une réunion pour fixer la ligne stratégique des récits concernant l’Ukraine. En 2022, c’est apparemment à Kirienko qu’a été confié le soin de réorganiser les services de renseignements en vue de mieux coordonner leur action et de compenser l’expulsion de nombreux diplomates, ou plus exactement d’espions sous couverture diplomatique, avec l’objectif d’intensifier les opérations de subversion dans les pays qui soutiennent l’Ukraine.
Plus généralement, dans le mode de fonctionnement du Kremlin, il existe des organes officiels et des organes officieux. Ainsi, le Conseil de sécurité de Russie est à peine mentionné dans la Constitution, et son rôle n’est nullement précisé, sauf erreur de ma part. Or il s’agit d’un organe tout à fait essentiel, comme on l’a vu juste avant l’agression à grande échelle lancée par la Russie le 24 février 2022. Comme on l’a vu également dans des documents relatifs à des campagnes de désinformation ou de soutien à Donald Trump en 2016, les décisions venaient de cet organe-là. Et, au sein du Conseil de sécurité, Dmitri Medvedev joue un rôle central. Il apparaît clairement, depuis bien longtemps, qu’il exprime publiquement les vues du Kremlin. Par exemple, il a déclaré ouvertement en février dernier que le Kremlin soutiendrait lors d’élections en Occident des partis anti-système et favoriserait leur accession au pouvoir afin d’améliorer la situation géopolitique de Moscou.
Enfin, on ne peut pas faire abstraction de l’éléphant dans la pièce. Vladimir Poutine est entré au KGB en 1975, il y a été formé par Andropov, un maître dans l’art de la propagande et de la déstabilisation, auquel il se réfère constamment. Il a pu peaufiner ses connaissances pendant son séjour à Dresde, de 1985 à 1989, où il fut affecté, sous couverture diplomatique, en tant qu’agent de liaison auprès de la Stasi. Or, la Stasi à Dresde comportait la dixième section de la HVA, Hauptverwaltung Aufklärung ( « administration centrale de la reconnaissance »), qui était chargée depuis des années 1960 des opérations de désinformation menées contre l’Occident. Poutine était donc aux premières loges pour apprendre les stratégies et les méthodes opératoires de la Stasi.
Pour résumer, vous affirmez que les récits sont commandités depuis le Kremlin, et que différentes structures affectées à la diffusion de la désinformation — au sein du KGB et du GRU notamment — confient ensuite des tâches à divers acteurs, comme la fameuse usine de trolls de feu Prigojine.
C’est exact. En fait, ce que détermine le Kremlin, c’est la ligne de communication stratégique, en particulier ces méta-récits sur la guerre en Ukraine où la Russie apparaît comme victime agressée par les « ukronazis » ukrainiens, etc. Ensuite, ces récits sont exploités par différents acteurs jouissant d’une relative autonomie. Pendant longtemps, la coordination n’était pas la première caractéristique des services de renseignement. Par exemple, en 2016, il n’était pas rare aux États-Unis de trouver trace sur un même ordinateur de logiciels pirates associés d’une part au GRU (APT28,ou Fancy Bear) et d’autre part au FSB ou au SVR (APT29, ou Cosy Bear).
Aujourd’hui, en revanche, on constate une plus grande coordination. Dans les révélations récentes, relatives au projet Kylo du SVR, il apparaît qu’à un certain stade d’élaboration du projet, celui-ci est soumis aux autres services de renseignement pour qu’ils en soient informés et, le cas échéant, puissent l’appuyer, via leurs réseaux d’agents d’influence ou d’officiers illégaux en Europe. De même, dans les opérations menées en Europe depuis l’automne dernier, comme les étoiles de David faites au pochoir ou les cercueils près de la tour Eiffel, on décèle un certain niveau de coordination entre les auteurs recrutés par le 5e service du FSB et l’action de réseaux de propagande tels que Doppelgänger qui, selon moi, sont d’une manière ou d’une autre subordonnés au renseignement militaire (GRU). Cette coordination s’explique, dans le cas des opérations menées en France ou en Allemagne, par leur caractère hautement stratégique dans le contexte de la guerre en Ukraine. Il s’agit d’affaiblir au plus vite, par tous les moyens possibles, le soutien européen à l’Ukraine. Medvedev a eu une expression révélatrice : les ingérences sont menées « apertum et secretum », à savoir ouvertement ou secrètement. Cela justifie au fond que la France et l’Allemagne fassent l’objet d’opérations de type hybride mêlant des actions de subversion secrètes, des publications ciblées sur les réseaux sociaux, des actions de communication stratégique et de diplomatie publique, parce qu’il s’agit d’atteindre très rapidement cet objectif d’affaiblissement du soutien, aussi bien au sein de l’opinion publique que parmi nos dirigeants.
Quel est selon vous le rôle de Dmitri Medvedev ? En Russie comme en Occident, on considère souvent qu’il consomme de la drogue et abuse de l’alcool, ce qui expliquerait son langage violent et ordurier sur sa chaîne Telegram et ailleurs. Il menace ouvertement l’Ukraine, l’OTAN, l’Occident entier de destruction. Il me semble qu’on l’aurait fait taire s’il ne jouait pas un rôle structurel dans le système global de l’intimidation de l’Occident. Qu’en pensez-vous ?
Je crois que Medvedev est très important pour le maître du Kremlin. Il importe pour Poutine de ne pas apparaître en première ligne dans ces opérations. Il est clair aujourd’hui que le Kremlin s’emploie depuis 2016 à établir une forme de déni plausible et à nier sa responsabilité dans un certain nombre d’opérations. C’est pour cela que Medvedev jouit d’une telle liberté de parole ! En atteste le fait que ses déclarations sont reprises par l’agence TASS et autres médias officiels. Il porte donc la voix du Kremlin.
Je voudrais citer un autre exemple, celui du propagandiste du Kremlin Vladimir Soloviov. Cet homme a traité à l’antenne le président de la République Française Emmanuel Macron — je cite — de « salaud de nazi ». Or, outre le fait qu’il n’a pas été sanctionné pour ces propos tenus sur une chaîne d’État, on sait, grâce à la fuite de documents secrets de l’administration présidentielle, qu’il est rémunéré directement par le Kremlin à hauteur de l’équivalent de 15 millions d’euros par an. Cela met très fortement en doute l’hypothèse d’une personnalité excessive qui, sous l’emprise de la colère ou de substances quelconques, tiendrait des propos incohérents. En comparaison, le porte-parole du Kremlin, Dmitri Peskov, apparaît comme un modéré. C’est cela, le déni plausible.
Dans quelle mesure les services russes, qui disséminent des fake news et des « récits » de propagande, s’appuient-ils sur des réseaux ou des individus à l’étranger ? Comment diffuse-t-on ces rumeurs qui deviennent virales, comme le soi-disant achat d’une Bugatti par Mme Zelenskaya ?
En la matière, il y a une très longue tradition qui remonte à l’époque de Lénine. La Russie soviétique s’appuyait déjà sur des relais à l’étranger. Ces relais, pilotés par les services de renseignement qui venaient de naître, étaient voués à discréditer les oppositions à travers des opérations sous faux drapeau1. Aujourd’hui, on retrouve les mêmes opérations dans l’espace numérique. Plusieurs ont été récemment dévoilées, je pense notamment aux opérations sous faux drapeau sur Facebook des services de propagande de l’armée russe, qui entretiennent certaines « légendes ». Je dirais que cette tradition ne s’est jamais perdue. Ensuite, il ne faut pas négliger le fait que tout l’appareil d’influence constitué patiemment par le KGB pendant la guerre froide à travers des organisations satellites, telles que le Forum mondial pour la paix, a perduré après la chute de l’URSS. On constate aujourd’hui qu’une bonne partie de cet écosystème de relais d’influence poursuit son action, notamment au sein des organisations internationales. Enfin, dans sa conception de désinformation, Iouri Andropov considérait que la meilleure désinformation était celle qui, constamment répétée, finissait par trouver ses propres relais, sans qu’il fût nécessaire de les entretenir directement. Et là c’est le rôle d’un certain nombre de mythes construits par la propagande du Kremlin, le mythe par exemple de la nation russe qui s’érige en défenseur du monde chrétien — je parle de mythe car il est aujourd’hui bien établi que les Russes vont moins souvent à la messe que les Français. Or ce mythe a séduit un nombre considérable de gens à travers le monde, comme Steve Bannon aux États-Unis qui voit en la Russie chrétienne un « rempart contre l’islam ». Je songe en France à un certain nombre de catholiques très conservateurs qui, de bonne foi, peuvent adhérer à ce mythe de la Russie protectrice de la chrétienté. Et cela démultiplie les capacités d’influence du Kremlin.
Aujourd’hui, dans l’espace numérique, il est fascinant de voir comment les caractéristiques même des plateformes numériques sont instrumentalisées par les « polit-technologues » du Kremlin pour démultiplier les effets de leurs campagnes. Depuis longtemps, ils conçoivent leurs opérations comme des virus. Il s’agit de récits manipulatoires qu’il faut injecter savamment, avec précision, dans la chaîne de production d’information occidentale, pour qu’ils soient en quelque sorte « blanchis » par des médias légitimes, avant d’en faire ensuite l’objet d’une infection secondaire dans un écosystème d’information où, une fois recyclé, ce récit peut être relayé par le Kremlin à travers le monde. Et les réseaux numériques ont permis de substituer à ces virus médiatiques des virus cognitifs dotés d’une grande force persuasive, comme ces récits conspirationnistes détachés de toute réalité qui, par la contribution conjuguée des plateformes numériques et des « polit-technologues » qui en exploitent tout le potentiel, ont séduit une part considérable de la population américaine, et continuent de séduire une part considérable de la population occidentale.
Enfin, je voudrais souligner le fait que le Kremlin est, dans le champ informationnel, une fabrique d’irréalité. Irréalité au sens d’une déconnexion totale d’avec la réalité factuelle. Les théories du complot jouent un rôle essentiel dans cette fabrique de mensonges à grande échelle, dans la mesure où, une fois que vous parvenez à persuader quelqu’un que la terre est plate et qu’on s’emploie à vous le cacher, vous pouvez le convaincre de n’importe quoi. Par exemple, que Mme Zelenskaya aurait acheté une Bugatti ou que Mme Clinton serait une tueuse d’enfants.
Ce qui a contribué à l’accélération de l’impact des campagnes du Kremlin, ce n’est pas seulement l’avènement des réseaux sociaux, des smartphones, mais aussi l’intelligence artificielle, qui permet d’analyser la personnalité de chaque utilisateur de manière automatisée, de réaliser aussi de façon automatisée un certain nombre de tâches qui jusque-là avaient été dévolues aux petites mains du Kremlin — à l’instar des trolls de Prigojine, ainsi que de générer de faux contenus ou, pire encore, des contenus mêlant le vrai et le faux, ce qui est souvent bien plus toxique, car le faux est alors moins facilement identifiable.
À vous écouter, on pourra donc donner bientôt des directives à l’IA, par exemple, lui proposer un méga-récit à partir duquel elle générera une multitude de fake news, etc. On n’aura même plus besoin de fermes de trolls !
C’est à cela que travaillent des groupes d’ingénieurs au service de la propagande du Kremlin. Depuis des décennies, les services secrets russes sont fascinés par la pensée du mathématicien américain Norbert Wiener, qui est l’un des pères de l’apprentissage-machine et qui a conçu la cybernétique comme une science de l’automatisation des sociétés et des espaces informationnels. On sait déjà par exemple que le FSB s’est doté d’outils numériques automatisant la génération de commentaires sur les réseaux sociaux de façon à maintenir les commentaires favorables au régime au niveau à peu près stable d’environ 70 %. Dans une perspective cybernétique, il s’agit de stabiliser l’environnement informationnel, de noyer les dissidents éventuels dans un agrégat de contenus automatiquement générés qui vont fausser la perception que les Russes ont de l’opinion majoritaire de leurs compatriotes.
En Occident, il s’agit au contraire d’encourager l’entropie, c’est-à-dire la décomposition de nos sociétés, en recourant à des récits déstabilisateurs qui vont fragiliser la cohésion sociale. Et cette démarche, depuis 1962, c’est-à-dire depuis que Norbert Wiener a été invité en Russie pour y présenter son travail, imprègne la réflexion des théoriciens de la propagande. Elle imprègne le travail du FSB à travers son système SORM, comme elle imprègne le travail du GlavNIVTs qui est un centre de recherche extrêmement important. Ces réflexions imprègnent l’effort collectif pour faire de l’IA le moteur de la suprématie du récit du Kremlin au sein de la société russe et au sein des sociétés occidentales. Il n’est pas anodin que le 1er septembre 2017, Vladimir Poutine ait affirmé que celui qui dominerait l’IA dominerait le monde. Lorsqu’il a tenu ces propos, il était informé par le Premier ministre de l’époque, Dmitri Medvedev, de la parfaite connaissance qu’avaient acquis les services russes de renseignement des outils d’apprentissage par des machines développés en Occident, notamment par Steve Bannon et ses ingénieurs spécialisés en analyse prédictive de la personnalité au sein de la société Cambridge Analytica.
Cette obsession du contrôle qui caractérise le Kremlin sous Vladimir Poutine est étendue au domaine informationnel grâce à des outils qui sont — dans leur immense majorité — des outils occidentaux. Ce qui est passionnant dans les rapports récemment publiés, c’est qu’on constate à chaque fois combien les infrastructures numériques, notamment les campagnes de désinformation du Kremlin, s’appuient sur des services achetés à des sociétés occidentales. John Mark Dougan, à la tête de son réseau CopyCop, a utilisé les services commerciaux du ChatGPT et d’autres outils d’IA générative. Doppelgänger fait appel pour ses infrastructures numériques à des sociétés européennes spécialisées dans l’hébergement web. Et de même que les services de renseignement soviétiques, puis russes se sont employés, depuis des décennies, à capturer les technologies occidentales pour rattraper en partie leur retard technologique, ils s’emploient plus que jamais à capturer nos techniques publicitaires, nos techniques d’influence, nos techniques de relations publiques. Souvenons-nous par exemple que des oligarques proches du Kremlin ont employé pendant une dizaine d’années en Ukraine Paul Manafort, un consultant américain très célèbre, qui avait auparavant travaillé pour certains des pires dictateurs de la planète, et qui a importé en Ukraine un certain nombre de stratégies ayant fait son succès aux États-Unis quand il travaillait pour Viktor Ianoukovitch, avant de réimporter ensuite aux États-Unis certaines techniques apprises au contact de « polit-technologues » russes présents en Ukraine à l’époque. À chaque fois, le Kremlin s’emploie à perfectionner sa connaissance de nos forces et de nos fragilités. Vladimir Poutine se targue d’être judoka. Or, dans le judo, il s’agit d’instrumentaliser la force de l’adversaire pour la retourner contre lui. C’est ce que les propagandistes du Kremlin s’emploient à faire dans leur travail.
Dans ces conditions, peut-on imaginer que certains réseaux qui véhiculent le plus de désinformation, comme TikTok ou X, puissent être un jour interdits en Europe, à l’instar de TikTok qui est interdit aux États-Unis ?
Je ne crois pas que ce soit une bonne idée. Et je ne crois pas que ce soit efficace. On a vu, avec l’interdiction de RT, que cette mesure a été aisément contournée par ceux qui tenaient absolument à accéder aux contenus de RT. On a vu aussi qu’une telle mesure liberticide provoquait en retour une défiance encore plus grande de ceux qui se méfient des autorités politiques ou des médias dits « mainstream ». On a vu enfin qu’une telle mesure contribuait au fond à conforter le Kremlin et autres régimes autoritaires, comme le régime communiste chinois, dans leur discours whataboutiste, consistant à poser une équivalence entre ce qu’ils font et ce que nous faisons. Je crois bien davantage aux vertus potentielles de nouveaux systèmes d’information intègres. Je crois qu’il est bien plus facile en l’état de repartir de zéro et de créer de nouveaux médias sociaux, sans publicité ciblée, sans possibilité de recourir à des trolls ni de diffuser des contenus générés par l’IA. Parce que, tout ce qui a été mis en œuvre jusque-là pour entraver l’instrumentalisation des réseaux sociaux par les propagandistes du Kremlin et autres a échoué. Je vous donne un exemple. On sait que pendant les élections européennes, la plupart des plateformes n’ont pas agi avec suffisamment de détermination contre les contenus identifiés comme ceux de la désinformation russe. Meta a accepté et continue d’accepter des publicités Facebook qui émanent du réseau de désinformation Doppelgänger. Et la régulation a montré ses limites, comme les interdictions. Je pense qu’il est temps de changer de paradigme et de mobiliser la société civile au profit de la création de nouveaux réseaux sociaux qui ne permettront pas au Kremlin et aux autres régimes autoritaires d’amplifier artificiellement leur poids dans les débats publics.
Des gens bien orientés iront donc sur ces réseaux-là, mais cela me semble bien difficile, étant donné le nombre d’utilisateurs de réseaux sociaux déjà existants, des milliards de personnes qui sont sur X ou TikTok. Qu’est-ce qui les pousserait à tourner vers de nouveaux réseaux ?
Selon moi, l’objectif principal des désinformateurs du Kremlin sur les réseaux sociaux, c’est l’ex-Twitter, X. Cette plateforme n’a certes pas beaucoup d’utilisateurs dans le monde, quelque 400 millions, ce qui est peu par rapport à Facebook, Instagram ou TikTok [environ 3 milliards, 2 milliards et 1,5 milliard respectivement — NDLR], mais elle est massivement utilisée par les journalistes, les experts, les décideurs, de sorte que X est un peu le creuset de l’information mondiale. J’ai dit tout à l’heure que l’obsession de la propagande russe était d’insérer ses récits dans la chaîne de production de l’information occidentale. Ce qui a conduit depuis très longtemps les opérateurs du Kremlin, comme Doppelgänger ou Prigojine et tant d’autres, à s’emparer de la plateforme pour peser sur la fabrique de l’opinion publique mondiale à travers X/Twitter.
Ce dont nous avons besoin aujourd’hui, d’urgence, face au propriétaire de X Elon Musk, qui affiche publiquement son soutien à Donald Trump et est un allié objectif du Kremlin, c’est de concevoir une plateforme qui serait une forme de safe zone, pour tous les journalistes, tous les experts, tous les décideurs qui ont besoin d’un espace informationnel intègre et d’un espace démocratique, d’un espace public impartial. Aujourd’hui, cet espace est faussé sur Twitter par l’amplification de la manipulation, à savoir par des outils algorithmiques de la plateforme, par des outils publicitaires, par des trolls, par des botnets, etc. Imaginons un instant un Twitter sans publicité ciblée, sans amplification artificielle des contenus, sans botnets, sans trolls et sans l’IA générative, ce serait un lieu extrêmement utile. Les Britanniques ont une formule, garbage in garbage out, ce qui veut dire que si vous entrez des déchets dans une chaîne de production de l’information, il va en sortir également des déchets. C’est exactement ce que s’emploie à faire le Kremlin, à une échelle désormais considérable. Il a pollué à ce point notre espace informationnel qu’il en ressort mécaniquement des contenus pollués. Le recours à l’IA générative a accentué ce phénomène à une échelle totalement inédite. Selon News Guard, les dix principaux outils d’IA générative sur les marchés régurgitent, une fois sur trois, des contenus de désinformation du réseau d’influence CopyCop de John Mark Dougan, qui n’est pourtant actif que depuis mars 2024. Il nous faut aujourd’hui adopter une démarche systémique et assainir d’urgence nos espaces informationnels.
Qui pourrait assumer une telle tâche ? Un milliardaire altruiste ? L’Union européenne ?
Je pense que c’est la tâche de la société civile. Il ne faut pas tout attendre de l’État. Il nous faut nous mobiliser pour trouver des bonnes volontés parmi nous et parmi les gens désireux de créer et de maintenir un espace informationnel en prise avec la réalité factuelle. Ce n’est pas utopique puisque les Taïwanais l’ont fait. Lorsqu’ils ont pris conscience des ingérences informationnelles et politiques du régime chinois, en particulier à partir de 2018, ils se sont dotés d’un certain nombre d’outils numériques qui ont permis de préserver une partie de leur espace public de ces interférences. Il nous faut réfléchir à de nouveaux outils de communication et pas nous obstiner à penser que nous finirons un jour par faire plier Elon Musk, ce qui est fort peu probable.
À lire également : Sommes-nous en train de perdre la guerre mondiale de l’information ? • Desk Russie
Née à Moscou, elle vit en France depuis 1984. Après 25 ans de travail à RFI, elle s’adonne désormais à l’écriture. Ses derniers ouvrages : Le Régiment immortel. La Guerre sacrée de Poutine, Premier Parallèle 2019 ; Traverser Tchernobyl, Premier Parallèle, 2016.
