Près d’un millier de comptes Twitter contrôlés par une grande ferme de robots diffusant de la propagande russe et les domaines utilisés pour enregistrer les robots ont été supprimés lors d’une opération conjointe internationale d’application de la loi dirigée par le département américain de la Justice.
Organisés et gérés par un rédacteur en chef adjoint de l’organisation de presse publique russe Russia Today (RT) et un officier du FSB russe, les robots ont diffusé de la désinformation ciblant les utilisateurs de Twitter dans le monde entier depuis 2022 à l’aide d’un logiciel basé sur l’IA nommé Meliorator.
Les affiliés de RT ont utilisé Meliorator pour créer des comptes de médias sociaux d’apparence authentique se faisant passer pour de vraies personnes de plusieurs pays du monde entier afin d’amplifier les faux récits et l’influence étrangère malveillante de la Russie sur Twitter.
La ferme de robots des médias sociaux a permis à RT de diffuser largement l’information, s’alignant sur l’objectif de leadership de RT d’étendre la distribution de l’information au-delà des émissions télévisées traditionnelles.
« Dès 2022, RT avait accès à Meliorator, un logiciel de génération et de gestion de fermes de robots activé par l’IA pour diffuser de la désinformation vers et à propos d’un certain nombre de pays, dont les États-Unis, la Pologne, l’Allemagne, les Pays-Bas, l’Espagne, l’Ukraine et Israël », a déclaré le FBI.
« Meliorator a été conçu pour être utilisé sur les réseaux sociaux afin de créer en masse des personnalités « authentiques », permettant la propagation de la désinformation, ce qui pourrait aider la Russie à exacerber la discorde et à tenter de modifier l’opinion publique dans le cadre d’opérations d’information. »
Alors qu’en juin 2024, Meliorator ne travaillait que sur X (anciennement connu sous le nom de Twitter), l’analyse suggère que ses opérateurs étendraient probablement ses fonctionnalités pour prendre en charge d’autres réseaux de médias sociaux.
La ferme de robots a enregistré de nouveaux robots Twitter en utilisant des serveurs de messagerie privés au mlrtr[.] com et otanmail[.] domaines com, qui ont été saisis [affidavit] dans le cadre de l’opération dirigée par le DOJ.
X a également supprimé 968 profils de médias sociaux [affidavit] identifiés comme faisant partie de la ferme de robots de RT, prétendant souvent appartenir à des individus aux États-Unis.
« Les actions d’aujourd’hui représentent une première dans la perturbation d’une ferme de robots de médias sociaux génératifs améliorés par l’IA parrainée par la Russie », a déclaré mardi le directeur du FBI, Christopher Wray.
« La Russie avait l’intention d’utiliser cette ferme de robots pour diffuser de la désinformation étrangère générée par l’IA, en intensifiant son travail avec l’aide de l’IA pour saper nos partenaires en Ukraine et influencer les récits géopolitiques favorables au gouvernement russe. »
Le FBI et la Cyber National Mission Force (CNMF) ont publié un avis conjoint [PDF] avec plus de détails techniques sur le logiciel Meliorator alimentant la ferme de robots en partenariat avec le Centre canadien pour la cybersécurité( CCCS), le Service général de renseignement et de sécurité des Pays-Bas (AIVD), le Service de Renseignement et de sécurité militaire des Pays-Bas (MIVD) et la Police néerlandaise.