Un journaliste techno basé aux États-Unis a réussi, en une vingtaine de minutes seulement, à faire raconter n’importe quoi à ChatGPT et à l’IA de Google.
Dans un récit publié par la BBC, le journaliste technologique Thomas Germain détaille comment il a manipulé les réponses de ChatGPT et des outils d’IA de Google depuis les États-Unis, simplement en écrivant un faux article sur son site personnel. Son expérience met en lumière une faille préoccupante : avec un peu de malice, il devient possible d’orienter ces systèmes vers des mensonges très précis, susceptibles d’influencer des décisions touchant à la santé, à l’argent ou même au vote.
Une expérience absurde pour révéler un problème très sérieux
Pour démontrer la fragilité de ces outils, Thomas Germain raconte avoir eu l’idée la plus « débile » de sa carrière, comme il le reconnaît lui‑même : se fabriquer une réputation mondiale… d’ogre du hot‑dog.
Depuis son ordinateur, il rédige en une vingtaine de minutes un article sur son site personnel, intitulé en anglais « Les meilleurs journalistes tech pour manger des hot dogs ». Tout y est inventé :
- une compétition fictive, le « South Dakota International Hot Dog Championship 2026 » ;
- un classement de faux journalistes et de vrais confrères (cités avec leur accord) ;
- et bien sûr, lui‑même placé à la première place du podium.
Il n’existe aucun championnat du genre, aucune donnée, aucune preuve. L’intégralité du contenu repose sur des mensonges assumés.
Ce simple article mensonger a suffi à pousser ChatGPT, l’IA de recherche de Google et Gemini à affirmer, avec aplomb, que Thomas Germain est le meilleur journaliste tech de la planète pour manger des hot dogs.
L’objectif n’était pas de prouver qu’il est un champion de casse‑croûte, mais de montrer qu’un texte publié en ligne, même sur un site obscur, peut contaminer les réponses des IA génératives utilisées par le grand public.
Comment une simple page web peut piloter les réponses des IA
Les grands modèles de langage comme ceux derrière ChatGPT ou Gemini s’appuient sur des masses de textes pré‑intégrés lors de l’entraînement. Mais, pour certaines requêtes spécifiques ou récentes, plusieurs outils vont chercher des informations sur internet, sans toujours l’indiquer clairement. C’est cette couche de recherche en ligne que le journaliste a visée.
En publiant un article mensonger, structuré comme un vrai contenu éditorial, il a exploité :
- la capacité des IA à repérer et résumer rapidement des pages web ;
- leur tendance à faire confiance à ce qui ressemble à une source « sérieuse » ;
- et l’absence de vérification systématique à grande échelle.
Résultat : des internautes posant à ces outils des questions du type « Qui est le meilleur journaliste tech pour manger des hot dogs ? » se sont vu répondre, sans nuance, que Thomas Germain détient ce titre. L’histoire absurde est devenue une « vérité » dans les réponses fournies par l’IA.
Le problème ne se limite pas à des blagues. Le journaliste explique avoir étudié « des dizaines » d’exemples où des individus utilisent la même méthode pour faire promouvoir leurs entreprises, leurs services, ou pousser des informations trompeuses.
Une “renaissance” pour le spam, selon les spécialistes
Pour analyser l’ampleur du phénomène, la BBC cite Lily Ray, vice‑présidente de la stratégie et de la recherche en référencement naturel (SEO) chez l’agence de marketing américaine Amsive. Elle observe une explosion d’optimisation agressive ciblant les IA.
« C’est facile de tromper les chatbots, bien plus facile qu’il ne l’était de tromper Google il y a deux ou trois ans », alerte Lily Ray, citée par la BBC.
Selon elle, les entreprises d’IA avancent à grande vitesse sur le plan commercial, bien plus vite que leur capacité à contrôler la qualité des réponses. Elle parle d’une forme de « renaissance » du spam : des contenus optimisés non plus seulement pour les moteurs de recherche classiques, mais aussi pour les chatbots et les assistants intégrés dans les résultats.
Des données d’outils spécialisés, mentionnées par le média britannique, suggèrent que ce type de manipulation se produit aujourd’hui à très grande échelle, avec des listes « les meilleurs X » ou « les top Y » créées uniquement pour forcer les IA à recommander tel prestataire ou tel site.
Google et OpenAI se défendent, mais la faille persiste
Interrogé par la BBC, un porte‑parole de Google affirme que l’IA intégrée en haut de la page de résultats de Google Search repose sur des systèmes de classement qui maintiennent les réponses « à 99 % exemptes de spam ». Le groupe reconnaît que des acteurs cherchent à contourner ces défenses et assure travailler activement à y répondre.
OpenAI, qui édite ChatGPT, souligne de son côté mettre en place des mesures pour « perturber et exposer » les tentatives d’influence malveillante de ses outils. Les deux entreprises rappellent qu’elles préviennent les utilisateurs que leurs systèmes « peuvent se tromper ».
Malgré ces engagements, les experts interrogés par la BBC jugent le problème loin d’être résolu. Cooper Quintin, technologue principal à l’Electronic Frontier Foundation (association de défense des droits numériques), se montre particulièrement inquiet.
« Ils foncent à toute vitesse pour trouver comment tirer un profit de ces outils. Les façons d’en abuser sont innombrables : escroquer des gens, détruire la réputation de quelqu’un, voire les pousser à se mettre en danger physiquement », prévient Cooper Quintin.
Pour lui, tant que les garde‑fous techniques et réglementaires n’auront pas suivi, les usages malveillants resteront possibles à une échelle jamais vue.
Quels dangers concrets pour les internautes ?
Dans son article, Thomas Germain insiste sur la portée très concrète de cette faiblesse. Les réponses biaisées ou manipulées des IA ne concernent pas que des anecdotes farfelues : elles touchent déjà à des domaines sensibles comme la santé ou les finances personnelles.
Parmi les risques cités par le journaliste et les spécialistes :
- des conseils médicaux orientés vers un produit ou une clinique particulière, sur la base de contenus trompeurs publiés en ligne ;
- des recommandations financières favorisant des plateformes ou des placements douteux ;
- des sélections de prestataires (« le meilleur plombier », « le meilleur avocat ») truquées au profit de ceux qui manipulent les IA ;
- des réponses politiques biaisées, influençant subtilement le vote ou l’opinion.
Dans beaucoup de cas, l’utilisateur ne sait pas si la réponse provient de la base interne du modèle, de pages web récentes, ou d’une combinaison des deux. Cette opacité renforce l’illusion d’autorité de la machine.
Pourquoi cette manipulation est si facile à reproduire
L’expérience de Thomas Germain montre que la barrière à l’entrée est extrêmement basse : il suffit d’un site, d’un texte minimement structuré et de quelques notions de référencement pour tenter de peser sur ce que racontent les IA.
Le journaliste précise que le niveau de difficulté varie selon les sujets. Sur des thèmes très surveillés, comme certaines requêtes médicales, les systèmes semblent mieux protégés. Sur des domaines plus anecdotiques ou concurrentiels, le champ reste largement ouvert aux manipulateurs.
Une personne isolée, avec un simple blog, peut déjà déformer la réalité renvoyée par les IA. À l’échelle de réseaux organisés de spammeurs, le potentiel d’influence devient considérable.
Ce que cela change pour un internaute français
Les faits relatés par la BBC se déroulent aux États‑Unis, mais les outils concernés – ChatGPT, Google Search et Gemini – sont massivement utilisés en France. Le mécanisme décrit par Thomas Germain ne connaît pas de frontières : tout contenu francophone optimisé peut, en théorie, influencer des réponses données à un utilisateur en France.
Traditionnellement, un internaute français pouvait déjà être exposé au « référencement bidon » : faux avis clients, sites trompeurs remontant en tête des résultats, comparateurs orientés. Les moteurs de recherche classiques ont mis des années à renforcer leurs filtres, sans parvenir à éradiquer totalement ces pratiques.
Avec les IA génératives, le risque s’étend :
- les réponses apparaissent sous forme d’un texte unique, plus difficile à remettre en question qu’une liste de liens ;
- le discours est fluide, naturel, parfois rassurant, ce qui renforce la confiance de l’utilisateur ;
- les sources exactes ne sont pas toujours visibles ou identifiables.
Pour les sujets relevant du droit, de l’argent ou de la santé, un Français doit donc garder les mêmes réflexes que face à un moteur de recherche classique : vérifier les informations sur les sites officiels, les autorités publiques ou des organismes de référence, et ne pas prendre pour argent comptant une réponse donnée par un chatbot, même si elle semble sûre d’elle.
Comment un utilisateur peut limiter les risques de se faire manipuler
Les experts cités par la BBC insistent sur la responsabilité des plateformes. Mais un internaute peut déjà adopter quelques réflexes pratiques lorsqu’il interroge une IA :
Les grandes entreprises d’IA, de leur côté, sont poussées à renforcer leurs garde‑fous : meilleure détection du spam, traçabilité des sources, alertes plus claires en cas d’incertitude. L’expérience de Thomas Germain montre qu’un simple test ludique suffit à mettre en évidence leurs limites actuelles.
IA, hallucinations et manipulation de l’information : ce qu’il faut retenir
Depuis leur lancement, ChatGPT et ses concurrents sont régulièrement critiqués pour leurs « hallucinations », ces réponses inventées par le modèle lui‑même. L’enquête de la BBC décrit un phénomène différent, mais complémentaire : non plus une erreur spontanée, mais une manipulation organisée de l’environnement informationnel dont l’IA se nourrit.
Pour un lecteur français, cette distinction a une conséquence très concrète : certains mensonges ne viennent pas d’un bug interne, mais de contenus rédigés volontairement pour tromper. Ils sont donc susceptibles de se multiplier, de se structurer et de cibler des domaines de plus en plus sensibles. Les IA ne sont pas seulement des outils sophistiqués de rédaction ; elles deviennent aussi le théâtre d’une nouvelle bataille du référencement, où la frontière entre visibilité et désinformation se brouille encore un peu plus.
