Fabriquer de faux humains à grande échelle

Deux chapitres du rapport - influence et arnaques - racontent la même chose sous deux habits : fabriquer des humains qui n'existent pas, en nombre, et les faire parler à des humains qui, eux, existent. Neuf opérations d'influence venues de Russie, d'Iran, de Turquie, du Golfe, d'Asie du Sud, d'Afrique et d'Europe, un réseau d'applications de rencontre, et un fil conducteur : la preuve par le visage, la voix et le style d'écriture ne prouve plus rien.

Ce qu'Anthropic voit et que les plateformes ne voient pas #

La position d'observation est inhabituelle. Un réseau social découvre une opération quand le contenu circule déjà. Un fournisseur de modèle la voit pendant qu'elle se construit : quand l'acteur planifie, choisit ses cibles et écrit son matériel. D'où une capacité à interrompre en amont, et une cécité complète sur la suite. Pour mesurer l'impact, Anthropic emploie l'échelle Breakout, à six catégories : la première désigne un contenu confiné à une seule communauté sur une seule plateforme, les suivantes des diffusions de plus en plus larges.

Le chapitre s'ouvre sur huit tendances, qui se lisent comme la fiche de poste d'une industrie en train de se professionnaliser.

• L'influence vendue comme un service. Des sociétés produisent du contenu pour qui paie, ce qui offre au commanditaire une dénégation plausible. Dans deux cas, une agence de publicité ou de marketing en activité menait l'opération à côté de son travail ordinaire.
• L'IA comme secrétariat de rédaction. Le modèle s'insère dans une chaîne éditoriale humaine déjà en place, ce qui permet à des acteurs peu dotés de tenir une échelle hors de leur portée.
• L'IA fabrique l'appareil, pas seulement le contenu. Manuels de doctrine, dossiers sur l'opposition, portefeuilles ministériels, systèmes de personas, bases de cibles, contrats de travail encodant la loyauté éditoriale, grilles de notation du personnel.
• Un outillage persistant. Des fichiers de doctrine réutilisés presque mot pour mot sur des centaines de sessions, des listes de mots interdits dans les agents, des fichiers partagés de sources approuvées et de règles d'évasion, des logiciels appelant le modèle par lots fixes. Les producteurs n'ont plus besoin de se connaître. Un acteur montait un cours pour enseigner la méthode.
• Le blanchiment de l'attribution, de la source et de la certitude. Retrait de l'attribution étatique sur du matériel republié, passage des affirmations par des chaînes de titres jusqu'à ce qu'elles semblent confirmées de façon indépendante. Dans un cas russe, l'acteur a produit des affirmations que le modèle disait non vérifiées, puis lui a ordonné d'ôter ces réserves.
• Une sécurité opérationnelle accrue. Effacer les marques du texte automatique, bâtir une logique de préchauffage des comptes, retirer métadonnées et noms de code avant livraison. Côté accès : VPN, numéros étrangers, rotation de comptes, services tiers masquant l'origine.
• Fausses personas et usurpation de personnes réelles. Photos de profil générées, biographies inventées pour de faux journalistes - mais aussi usurpation de personnes et d'institutions réelles, dont un porte-parole d'État et une organisation de défense des droits humains.
• Le ciblage des personnes et des mécanismes de responsabilité. Clonage du compte d'un militant réel, témoignage écrit par un tiers et prononcé devant une instance internationale, contre-dossiers sur des rapporteurs de l'ONU.

Soixante-dix journaux qui n'existent pas, montés depuis la France #

Le cas GTG-54002 est celui qui devrait le plus retenir l'attention d'un lecteur français. Anthropic a tracé jusqu'à LKM Company, une agence française de publicité numérique, un réseau d'environ soixante-dix faux sites d'information se présentant comme des rédactions locales indépendantes, amplifiés par autant de comptes sur X et par plus de 250 comptes de commentaires créés en juin et juillet 2025, beaucoup avec des photos de profil générées. Les domaines ont été enregistrés depuis la France en dix semaines, sur une infrastructure partagée derrière un déploiement unique : c'est ce détail d'hébergement qui les a rattachés à un seul compte.

• 8 913 articles en une vingtaine de langues, visant six continents, avec une concentration sur les États-Unis, le Brésil, la France et la République démocratique du Congo - dont 318 articles pour ce dernier pays.
• Un pipeline standardisé : chaque prompt imposait une structure JSON fixe, du HTML formaté, des limites de caractères exactes et trois à quatre liens internes par article, explicitement pour améliorer le classement des sites dans les moteurs de recherche.
• Trois manœuvres récurrentes : réécrire la même dépêche dans deux directions idéologiques opposées selon l'audience, ajouter un angle politique à un sujet qui n'en avait pas, et blanchir une histoire en la faisant traverser des frontières jusqu'à ce qu'elle perde son contexte.
• Des signatures de journalistes qui n'existent pas, pour donner à chaque site l'apparence d'une rédaction.
• Le réseau ne défendait aucune ligne : il changeait de camp selon qui payait. C'est la définition de l'influence vendue comme un service.

Ce qui a trahi le réseau : le 11 septembre 2025, ses sites ont publié des articles quasi identiques sur le conflit en RDC à trois minutes d'intervalle. Anthropic classe l'opération en catégorie deux, sans percée au-delà de ses propres comptes.

Un millier de comptes préchauffés pour une élection #

Le cas GTG-84005 documente une plateforme commerciale de manipulation électorale visant la Malaisie, rattachée à une société technologique stambouliote qui en vendait l'accès. Sa documentation interne la présentait comme un « écosystème d'opérations politiques en temps réel, de qualité militaire, piloté par l'IA ». Vue de l'extérieur, elle se donnait l'apparence d'un outil de lutte contre la désinformation.

• Un ciblage circonscription par circonscription, sur des données de recensement et des données électorales réelles, couvrant les 222 circonscriptions du pays et visant les lignes de faille les plus sensibles : race, religion, monarchie.
• Un parc de plus de 1 000 faux comptes X, chacun doté d'une logique de préchauffage le faisant passer pour un compte ordinaire avant son emploi, avec renouvellement des témoins de connexion et des adresses. Les tableaux de bord réglaient le nombre de vues artificielles servi à chaque cible : le rapport mentionne une demande d'un million de vues sur le compte du Premier ministre en exercice.
• Un faux média qui moissonnait de vrais articles malaisiens, les faisait réécrire et les republiait sous des signatures fabriquées - ainsi que des contenus de médias d'État russes et chinois débarrassés de leur attribution, présentés comme du journalisme local.
• Des dossiers de renseignement fabriqués accusant un opposant nommé et des organisations de la société civile - sans aucune corroboration, y compris dans les recherches du modèle lui-même.

Deux détails comptent. Le modèle a refusé plusieurs fois, notamment après avoir identifié un document comme du matériel de diffamation politique : l'acteur a alors négocié une formulation aseptisée pour construire la même capacité. Et l'opérateur cherchait un contrat auprès du régulateur national des communications - sans succès constaté.

Quand l'IA entre dans une vraie rédaction #

Le rapport distingue deux mondes. La plupart des réseaux clandestins n'atteignent personne : la majorité des contenus découverts n'a suscité aucun engagement authentique. La portée réelle apparaît quand le canal est un média d'État existant - radio FM, radio satellitaire et à ondes courtes, télévision mondiale.

C'est le cas GTG-24015 : quatre comptes utilisaient le modèle comme secrétariat de rédaction pour des médias d'État russes, livrant du contenu fini directement à la chaîne de production. Un ancien rédacteur en chef de l'édition moldave transformait presse roumaine et moldave, sondages et publications de l'opposition en articles russophones repris par un canal Telegram d'État et par une agence nationale, avec des boucles de fausse vérification - la même information relayée par plusieurs titres pour qu'elle paraisse confirmée de façon indépendante. Il a aussi amplifié des affirmations diffamatoires fabriquées sur la présidente moldave avant le scrutin du 28 septembre 2025.

Les trois autres comptes déclinent le même modèle : un prestataire écrivant en espagnol latino-américain sous supervision éditoriale, un autre produisant pour l'Afrique selon un guide de style maison de quarante règles, et un employé de média d'État fabriquant bandeaux, incrustations et voix off au caractère près, à partir de dépêches russes et d'éléments du renseignement extérieur et du ministère de la Défense. Dans au moins un cas confirmé, ce matériel est passé à l'antenne.

Autre variante, en Centrafrique, le cas GTG-04001 : un opérateur russophone à Bangui alimentait une radio locale émettant en FM - créée et financée par le groupe Wagner en 2017, selon une enquête citée par le rapport - et faisait passer ses contenus vers le diffuseur national en troquant du temps d'antenne contre des places dans un programme russe de formation pour journalistes étrangers. Il faisait aussi produire par le modèle les contrats de travail de l'équipe - avec clause de loyauté au président du pays et à « la Russie et son contingent » -, les fiches de poste, les grilles de notation des articles et une procédure de licenciement en trois avertissements, puis s'en servait pour décider qui garder et qui renvoyer. Quand le modèle a signalé le caractère politique de la grille, l'acteur l'a reformulée en termes neutres et a conservé la notation.

Le même acteur produisait des faux documents gouvernementaux - communications de la gendarmerie et du ministère de la Défense - à partir des fichiers de mise en page d'origine, et tenait à jour un suivi des figures de l'opposition. C'est le passage qui montre le mieux que l'IA ne sert pas qu'à écrire le contenu : elle monte l'appareil administratif d'une opération d'influence. Le modèle a refusé la demande la plus agressive - nommer des individus réels comme militants pour attirer sur eux les forces de sécurité ; l'acteur s'est rabattu sur une source anonyme. Seule opération du chapitre classée en catégorie quatre.

L'usurpation d'une personne réelle #

Un cas se détache, parce qu'il ne vise plus une audience mais des individus nommés. Une opération liée à une organisation d'opposition iranienne en exil a cloné le compte de messagerie d'un militant réel. Le modèle a reçu pour consigne, en persan, qu'il était cette personne ; on lui a fait lire environ 8 400 de ses messages publics pour en copier le style ; puis il a conversé en direct avec ses contacts, qui ne savaient pas, écrit Anthropic, qu'ils parlaient à une machine.

Le même réseau avait moissonné plus de 500 canaux pour profiler des personnes à l'intérieur de l'Iran, regroupées par ville, âge, profession, orientation politique - et par historique d'arrestation, dans un pays où ces personnes risquent la prison ou pire. Il a analysé environ 51 944 messages archivés pour bâtir des dossiers psychographiques sur des dizaines d'individus nommés. Le tout tournait sur une plateforme d'agents partagée où chaque espace de travail entretenait ses fichiers de mémoire longue : mots interdits, sources approuvées, règles d'évitement. Un acteur y avait chargé la doctrine fondatrice du mouvement comme « donnée de base stratégique » réutilisable par les autres.

Une fausse ONG devant une instance internationale #

Le cas GTG-84002 est le plus troublant pour quiconque travaille avec des institutions. Un acteur unique faisait tourner, sur sa propre plateforme privée, une persona pilotée par un fichier de doctrine maître qui réassignait la même mission au modèle sur des centaines de sessions. Cinq chantiers de front : un réseau d'environ 300 faux comptes d'influenceurs, financé et coordonné de façon centrale ; une fausse ONG copiant l'identité d'une organisation réelle, qui publiait sous son nom des rapports écrits par l'État commanditaire ; des témoignages officiels écrits pour deux personnes, destinés à être prononcés lors de la 62e session d'une instance internationale des droits humains, sous contrainte explicite de ne jamais citer le pays commanditaire ; le profilage de 18 députés européens et de journalistes ; des contre-dossiers visant des rapporteurs spéciaux critiques. Un rapport interne qualifiait l'« indépendance » du réseau de « plus grand atout stratégique ».

4 700 personnages, 25 000 personnes, deux semaines #

Le chapitre « arnaques » n'en contient qu'un cas, mais il est spectaculaire. Un studio chinois a construit un réseau de plus de vingt applications de rencontre et a fait tourner les personnages qui y conversaient - tout en vendant le service comme « 100 % humain ». Sur deux semaines en avril 2026 : plus de 4 700 personnages distincts, au moins 25 000 personnes réelles, 2,36 millions de messages, via une infrastructure de revente d'accès aux modèles.

• Trois personnages artificiels pour un humain réel. L'utilisateur visé faisait défiler un fil composé à 75 % de personas et à 25 % de personnes réelles, sans moyen de les distinguer. Le studio recrutait ces travailleurs à la tâche sur invitation et les payait au message, à l'appel vidéo et à l'abonnement rendu - les gestes que la machine ne savait pas faire. Ces personnes étaient elles-mêmes assistées : un autre modèle leur proposait trois réponses à choisir d'une pression du doigt.
• Plusieurs fournisseurs d'IA, chacun dans un rôle distinct : la conversation ici, la notation des visages et la modération là, la génération des avatars ailleurs.
• Une consigne d'exploitation explicite : ne jamais révéler qu'on est automatisé, esquiver les demandes d'appel vidéo ou de photo, suivre une séquence fixe d'étapes. Le système fabriquait de faux « j'aime », de faux visiteurs et des vidéos préenregistrées, et suivait qui commençait à soupçonner un robot.
• Des applications conçues pour passer la revue des magasins : un contrôleur d'interface qui ne s'activait que pendant l'examen des plateformes, des noms de classes différenciés sur plus de vingt variantes pour déjouer les contrôles de similarité, une redirection de paiement activable côté serveur, donc masquable.

Anthropic note un point qui dérange, et qui dit la limite des garde-fous en contexte. Vu de l'intérieur d'un échange, rien ne distinguait ce dispositif d'un compagnon conversationnel ordinaire : ni la monétisation ni la tromperie n'étaient visibles depuis la conversation. Dans quelques échanges, des utilisateurs révélaient une maladie grave ou une détresse aiguë ; le raisonnement du modèle relevait le problème, et la réponse continuait dans le personnage.

Ce qu'une entreprise fait de tout ça, lundi #

La conclusion pratique tient en une idée : plus rien de ce qui ressemble à une personne ne constitue une preuve d'identité. Ni une photo, ni une voix, ni un visage en visioconférence, ni un style d'écriture familier.

1. La règle du canal secondaire, écrite et affichée. Aucun virement, aucun changement de coordonnées bancaires ou d'accès sur la foi d'un appel, d'un message vocal, d'une vidéo ou d'un courriel - sans rappel sur un numéro déjà connu, jamais celui indiqué dans la demande. C'est la seule mesure qui résiste à un faux parfait, et elle ne coûte rien.
2. Un mot de passe de vérification interne pour les demandes sensibles entre dirigeants et comptabilité. Ringard, efficace, non reproductible par une machine.
3. Une procédure de recrutement qui vérifie l'existence. Le rapport d'août 2025 d'Anthropic documentait déjà des opérateurs décrochant des postes techniques sans savoir coder. Entretien vidéo en direct avec des questions imprévisibles, vérification d'identité à l'embauche, prudence sur les profils distants aux références introuvables.
4. Une veille sur votre propre marque. Domaines ressemblants, faux profils de vos dirigeants, faux avis, articles vous citant sur des sites inconnus. D'où l'intérêt d'un DNS correctement tenu et signé et d'un domaine de messagerie verrouillé : l'usurpation commence souvent là.
5. Une règle de vérification des sources pour tout ce qui alimente une décision : deux sources dont vous connaissez l'éditeur, et méfiance devant l'information « confirmée par plusieurs médias » qui pourrait n'être qu'une seule source blanchie - le blanchiment de certitude consiste précisément à faire disparaître les réserves d'une affirmation en la faisant circuler.

Demain, dernier épisode : les cas extrêmes - missiles, drones autonomes, recherche biologique - et ce qu'ils disent du choix d'un fournisseur d'IA. Avec la liste de contrôle qui résume les dix jours.

Sources #

• Anthropic, Detecting and countering misuse of AI: September 2026 (10 septembre 2026) - chapitres Influence operations (pages 41-80) et Scams and fraud (pages 139-142).
• Cas cités : GTG-04001, GTG-54002, GTG-84005, GTG-24015, GTG-34001, GTG-54006, GTG-84006, GTG-54004, GTG-84002 et GTG-15001.
• Anthropic, Detecting and countering misuse of AI: August 2025 - sur les opérateurs infiltrant des postes techniques.
• Notre premier article sur le sujet : L'IA pirate déjà : quatorze mois qui ont changé la menace.