ChatGPT « empoisonné » : le chatbot peut vous rediriger vers des sites d'arnaque

Utiliser ChatGPT pour dénicher un bon plan shopping peut sembler pratique — mais la pratique cache un danger bien réel. Des arnaqueurs ont découvert comment manipuler les sources que consulte l'intelligence artificielle d'OpenAI pour lui faire recommander de faux sites marchands. Une fois sur ces pages frauduleuses, les victimes voient leurs informations de carte bancaire dérobées sans jamais recevoir la commande passée. L'agence spécialisée dans la lutte contre les escroqueries Ask Silver a été la première à documenter ce phénomène inquiétant, relayé par The Guardian.

Le mécanisme exploité par les fraudeurs est à la fois simple et redoutable. ChatGPT, comme tous les grands modèles de langage, construit ses réponses en s'appuyant sur des données issues du web. Lorsqu'un utilisateur lui demande de recommander un site pour acheter un produit particulier, le modèle va explorer les pages référencées sur internet et proposer celles qui lui semblent les plus pertinentes. Le problème : les arnaqueurs ont appris à créer des sites qui semblent parfaitement légitimes aux yeux des algorithmes, en utilisant des techniques de référencement naturel (SEO) et en produisant des contenus qui imitent ceux de vrais e-commerçants. Résultat : l'IA les identifie comme fiables et les suggère à ses utilisateurs sans en détecter le caractère frauduleux.

Le cas qui illustre le mieux cette menace est celui de Russell & Bromley, une marque britannique de chaussures et de maroquinerie haut de gamme placée sous administration judiciaire en janvier 2026 avant d'être rachetée par le groupe Next. Depuis le rachat, ses produits sont vendus exclusivement sur le site de Next. Mais ChatGPT continue de recommander un prétendu site « officiel » de Russell & Bromley — qui n'est en réalité qu'un clone frauduleux, conçu par des escrocs pour capter les clients qui ne savent pas que la marque a disparu en tant qu'entité indépendante. Sur ce faux site, tout est soigné : design convaincant, promotions alléchantes, formulaire de paiement fonctionnel. Mais l'argent part dans les poches des criminels, les données bancaires sont aspirées, et la commande n'arrive jamais.

Ce type d'attaque illustre une nouvelle catégorie de menaces numériques, parfois désignée sous le terme de « SEO poisoning » : les cybercriminels ne s'attaquent plus seulement aux utilisateurs directement, mais à l'intermédiaire numérique qu'ils consultent pour prendre leurs décisions. La France est particulièrement exposée aux cyberattaques visant à dérober des données personnelles et financières, et ce nouveau vecteur via les IA génératives ouvre un front supplémentaire que les consommateurs n'anticipent pas encore suffisamment.

Pourquoi ChatGPT est-il si difficile à protéger de ces arnaques ?

La réponse tient à la nature même du fonctionnement des modèles de langage. Contrairement à un moteur de recherche traditionnel qui applique des filtres anti-fraude sophistiqués et blackliste régulièrement les sites malveillants détectés, ChatGPT ne dispose pas d'un système de vérification en temps réel de la légitimité des URLs qu'il suggère. Le modèle est entraîné sur un corpus de données figé à une certaine date, et ses connaissances sur le web ne sont mises à jour que lors de ses phases d'entraînement successives. Un faux site créé récemment, ou un site légitime converti en plateforme frauduleuse après la fermeture d'une marque, peut donc passer entre les mailles du filet.

Par ailleurs, Russell & Bromley n'est pas un cas isolé. Selon Ask Silver, de nombreuses marques ayant fermé ou fusionné ces dernières années sont concernées par ce phénomène. Les arnaqueurs surveillent activement les redressements judiciaires et les rachats d'entreprises pour identifier des opportunités : créer un faux site au nom d'une marque disparue, dont les anciens clients cherchent encore les produits, est une stratégie particulièrement efficace car elle exploite une crédibilité héritée. ChatGPT, qui n'a pas été mis à jour sur la disparition de la marque, continue de la suggérer comme si elle existait encore de manière autonome.

OpenAI est conscient de ce type de risques et travaille à renforcer les mécanismes de vérification des sources citées par ses modèles. Mais la course-poursuite entre les améliorations de sécurité des IA et l'inventivité des fraudeurs est permanente. ChatGPT fait déjà l'objet d'une attention accrue des autorités françaises, qui surveillent de près les usages problématiques de cet outil aussi puissant que répandu.

Comment se protéger face à ce nouveau type d'arnaque ?

Les conseils des experts en cybersécurité sont clairs et peuvent être appliqués immédiatement. Premièrement, ne jamais cliquer aveuglément sur une URL suggérée par ChatGPT ou tout autre chatbot sans l'avoir vérifiée. Il est impératif d'examiner le nom de domaine exact : les faux sites reproduisent souvent le nom de la marque mais avec une extension différente (.net, .shop, .store au lieu du .com ou .fr officiel), ou en ajoutant des mots comme « officiel », « france », « outlet » dans le nom de domaine.

Deuxièmement, avant tout achat sur un site recommandé par une IA, rendez-vous directement sur le site officiel en tapant l'URL dans votre navigateur, en passant par un moteur de recherche en vérifiant bien que le résultat provient du domaine attendu, ou en cherchant la marque sur des plateformes de référence comme Google Shopping. Si une marque a récemment changé de propriétaire ou fermé, une simple recherche d'actualités permettra de le confirmer. Ne vous fiez jamais uniquement à ce que vous dit le chatbot pour valider l'existence et la légitimité d'un site marchand.

Troisièmement, méfiez-vous des offres trop alléchantes. Les faux sites attirent souvent les victimes avec des promotions importantes — -30%, -50%, liquidation de stock — qui jouent sur l'urgence et l'appât du gain. Si le prix proposé vous semble anormalement bas par rapport au marché habituel, c'est un signal d'alarme. En cas de doute, n'hésitez pas à signaler le site suspect directement à OpenAI via leur formulaire en ligne, mais aussi à la plateforme nationale Pharos, qui centralise les signalements de contenus illicites sur internet en France. La vigilance des utilisateurs reste, à ce stade, le meilleur rempart contre cette nouvelle forme d'escroquerie numérique alimentée par l'intelligence artificielle.