OpenAI admet avoir été exploité par des réseaux de désinformation provenant de Russie et de Chine

OpenAI confirme avoir été exploité par des réseaux de désinformation liés à la Russie et à la Chine. L’entreprise dit avoir détecté et démantelé cinq opérations d’influence au cours des trois derniers mois. Comptes bannis, contenus stoppés, méthodes décortiquées. Un signal net : l’intelligence artificielle générative est désormais un levier central pour manipuler l’opinion en ligne.

Ce qui s’est passé

Dans un rapport récent, OpenAI détaille comment des groupes de désinformation ont détourné ses modèles pour produire et diffuser des contenus trompeurs. Objectif affiché : peser sur l’opinion publique et, potentiellement, influer sur des scrutins.

L’entreprise californienne dit avoir neutralisé cinq opérations en peu de temps. Elle a fermé les comptes associés, coupé les accès aux outils et documenté les procédés utilisés. Deux réseaux russes sont explicitement mis en cause, ainsi que des réseaux basés en Chine.

• À retenir : cinq opérations stoppées par OpenAI ; des réseaux actifs en Russie et en Chine ; des contenus pensés pour paraître « organiques » ; mesure immédiate : bannissement des comptes.

Comment ils s’y prennent

Première méthode repérée côté russe : la messagerie chiffrée Telegram comme caisse de résonance. Des messages rédigés avec l’aide de modèles génératifs y ont circulé pour installer des récits biaisés. Une approche discrète, rapide, capable de multiplier les variantes d’un même message.

Deuxième méthode : la génération de commentaires en plusieurs langues, disséminés sur des réseaux sociaux et des forums. L’idée est simple : donner l’illusion d’un consensus spontané, saturer les fils de discussion, noyer les contradicteurs.

Côté chinois, OpenAI dit avoir détecté des opérations similaires : utilisation de ses modèles pour produire des informations trompeuses et chercher à manipuler l’opinion. Même logique, mêmes ressorts : volume, vitesse, multiplicité des canaux.

La riposte d’OpenAI

OpenAI met en avant un dispositif renforcé de surveillance et de détection des abus. L’entreprise coupe l’accès aux comptes identifiés, puis partage ses constats avec des spécialistes de la désinformation et des chercheurs. But affiché : améliorer la robustesse des filtres et réagir plus tôt.

Cette démarche s’inscrit dans un contexte plus large où l’IA générative est à la fois un outil de création légitime et une arme informationnelle. Les annonces d’OpenAI sur ses nouveaux modèles, comme l’assistant vocal présenté récemment, éclairent le potentiel comme les dérives possibles : plus l’outil est fluide et accessible, plus il est précieux… pour tous les usages, y compris les plus douteux. À lire aussi : La nouvelle génération de l’assistant vocal OpenAI révolutionne avec le GPT-4o.

Pourquoi c’est sérieux

L’IA générative abaisse les barrières à l’entrée de la propagande en ligne. Elle produit du texte convaincant en série, dans plusieurs langues, et s’adapte à des plateformes variées. Elle permet de tester des versions d’un message, d’ajuster le ton, d’imiter des styles. Résultat : une amplification à bas coût, difficile à distinguer du bruit ordinaire des réseaux.

Le passage par des canaux fermés ou semi-ouverts, comme Telegram, complique la détection. Et même quand une opération est coupée, des fragments de contenus survivent, recopiés ailleurs. La frontière entre opinion et manipulation s’en trouve brouillée, surtout quand la cadence de publication est industrielle.

Les limites et les zones d’ombre

OpenAI ne publie pas l’intégralité des données opérationnelles. Normal : révéler chaque détail, c’est aussi livrer une feuille de route aux imitateurs. Mais cela crée une tension : comment rassurer le public sans trop en dire ? Comment coordonner avec les plateformes, les médias et les autorités sans exposer les méthodes de défense ?

Autre point sensible : l’évaluation des faux positifs. Repérer vite, oui ; surbloquer, non. Séparer la satire, la polémique et l’ingérence orchestrée exige des garde-fous. C’est là qu’interviennent les collaborations avec les chercheurs et les spécialistes de la désinformation.

Et maintenant ?

OpenAI promet de poursuivre ses efforts de détection et de travailler avec les acteurs concernés pour limiter l’empreinte de ces campagnes. L’enjeu dépasse une seule entreprise : les réseaux de désinformation, eux, ne respectent ni frontières ni plateformes.

Une coopération internationale plus serrée s’impose pour partager des signaux, harmoniser les procédures de signalement et accélérer les réponses. Les grandes entreprises technologiques, les autorités publiques et les équipes de recherche sont invitées à jouer collectif. Les poursuites et débats juridiques autour de l’IA montrent par ailleurs que la gouvernance du secteur est en mouvement : voir OpenAI et Microsoft face à des poursuites de journaux américains.

Ce que cela change pour vous

Vous lisez un fil qui s’enflamme en quelques minutes, avec des commentaires multilingues au ton trop huilé ? Méfiance. Vous voyez le même récit, recopié à l’identique, surgir sur plusieurs plateformes ? Prenez du recul. Les opérations décrites par OpenAI jouent sur la répétition et la saturation.

Des réflexes utiles : remonter à la source initiale d’une affirmation ; vérifier si un média reconnu l’a recoupée ; se demander qui gagne à propager ce message ; regarder si les profils qui publient ont un historique crédible. Et, autant que possible, ne pas partager sous le coup de l’émotion.

Le contexte tech

La puissance des modèles actuels élargit le champ des possibles, pour le meilleur et pour le pire. Les innovations se succèdent à vive allure, y compris hors des États-Unis. Exemple côté chinois : des outils de création vidéo par IA sont désormais présentés au grand public, signe d’une course technologique ouverte. À lire pour mesurer la vitesse du secteur : La Chine dévoile Vidu, un outil de création de vidéos par IA.

Dans ce paysage, les plateformes et les laboratoires d’IA sont jugés autant sur leurs prouesses que sur leurs mécanismes de protection. La capacité à documenter, détecter et démanteler des opérations malveillantes devient un critère central de crédibilité.

Le point d’équilibre à trouver

Empêcher l’ingérence sans étouffer le débat. Protéger l’intégrité de l’espace public sans basculer dans la censure automatique. Rendre les systèmes plus sûrs, sans entraver l’innovation utile. C’est l’équation qu’OpenAI, et plus largement l’écosystème, doivent résoudre.

Le message envoyé par cette mise au jour est clair : les opérations d’influence instrumentalisent l’IA générative dès maintenant. Les défenses existent et progressent, mais elles doivent gagner en coordination et en transparence. L’alerte est lancée ; la course, elle, ne fait que commencer.

• Cinq opérations d’influence détectées et neutralisées par OpenAI en quelques mois.
• Réseaux identifiés : deux basés en Russie et d’autres en Chine.
• Méthodes : messages générés sur Telegram, commentaires multilingues sur réseaux et forums.
• Réponse : comptes bannis, surveillance accrue, travail avec des experts et des chercheurs.