En Chine, un agriculteur âgé s’est fié aux conseils d’une IA pour traiter son champ de sésame. Quelques heures plus tard, les plants se sont mis à dépérir.
Cette histoire rapportée par le média scientifique en ligne américain Future Human se déroule dans la province d’Anhui, en Chine. Un agriculteur de 67 ans, surnommé Wu, y a vu des dizaines d’acres de sésame partir en fumée après avoir suivi les recommandations d’un chatbot. Le cas, encore invérifiable de façon indépendante, illustre les risques très concrets d’une confiance trop grande accordée à l’intelligence artificielle dans des domaines techniques comme l’agriculture.
Un an de confiance croissante dans un chatbot agricole
Selon le récit relayé par Future Human, Wu consultait depuis environ un an une application basée sur l’IA pour l’aider dans ses choix techniques à la ferme. Au début, le sexagénaire se montrait méfiant. Puis, au fil des réponses jugées utiles, sa confiance a augmenté.
Comme beaucoup d’utilisateurs de chatbots, il aurait commencé par de petites questions, testé les réponses, puis pris l’habitude de solliciter l’outil pour ses décisions courantes. Les conseils semblant « tenir la route », le réflexe de vérifier systématiquement se serait peu à peu émoussé.
Un jour, Wu cherche une solution pour lutter à la fois contre les mauvaises herbes et les insectes dans un champ de sésame. Il demande alors au système quel traitement appliquer. L’IA finit par lui proposer un mélange associant deux herbicides, le haloxyfop-P-méthyl et le fomesafène, avec des insecticides.
Le même chatbot qui lui avait recommandé le traitement finira par lui expliquer… pourquoi il pouvait être inadapté à sa culture.
Un mélange d’herbicides aux effets dévastateurs
Le haloxyfop-P-méthyl est un herbicide sélectif, ciblant essentiellement les graminées. Utilisé correctement, il permet, sur une culture à feuilles larges, de détruire les herbes indésirables de type gazon ou céréales sauvages. Sur le papier, traiter un champ de sésame avec ce type de produit peut donc sembler cohérent.
Le fomesafène, lui, est un herbicide destiné aux plantes à larges feuilles, couramment employé dans des cultures comme le soja. En Chine, les formulations à base de fomesafène sont encadrées par des notices très précises : type de culture autorisée, dose, stade des mauvaises herbes, conditions météo, volume de pulvérisation. Les étiquettes préviennent aussi du risque en cas de dérive de pulvérisation sur des cultures sensibles ou de surdosage.
Selon Future Human, Wu affirme avoir mélangé les produits indiqués par l’IA, puis pulvérisé l’ensemble de son champ de sésame, soit environ 10 hectares, l’équivalent de 25 acres.
Le résultat ne se fait pas attendre : dans les 24 heures, les jeunes plants commencent à se flétrir. Le sésame jaunit, brûle et meurt. La quasi-totalité de la parcelle serait perdue.
« Oh, cela pourrait être une erreur » : l’IA se dédit après coup
Sous le choc, l’agriculteur retourne vers le chatbot pour comprendre. Il décrit les symptômes, rappelle le mélange appliqué. L’IA reconnaît alors que la combinaison pouvait être problématique, selon les captures d’écran et le témoignage rapportés par le média.
Autrement dit, le même système qui avait proposé le traitement fournit ensuite l’explication de son échec possible. Le cas ne relève même pas d’une « hallucination » au sens classique du terme : les molécules citées sont bien réelles et employées dans le monde agricole, y compris en association dans certaines cultures, par exemple le soja.
Dans cette affaire, ce n’est pas la chimie en elle-même qui est fantaisiste, mais le contexte qui a été mal pris en compte.
Le sésame n’est pas le soja. La sensibilité de la culture, le stade de développement des plants, la dose exacte, la formulation des produits, la météo au moment de l’application ou encore la variété cultivée peuvent transformer un traitement acceptable ailleurs en catastrophe locale.
Des conseils « presque justes » mais dramatiquement hors contexte
Future Human souligne que ce récit repose sur la version de Wu, et qu’aucune analyse chimique ou enquête scientifique détaillée n’a pour l’instant été publiée sur ce cas. Mais l’histoire met en lumière un type de défaillance de l’IA de plus en plus fréquent : le conseil partiellement correct, mais déconnecté du terrain réel.
Les modèles de langage performants excellent dans des questions générales : explications théoriques, définitions, principes agronomiques de base. Ils peinent davantage sur les questions où chaque détail local compte. En agriculture, beaucoup de décisions entrent dans cette catégorie :
- « Quand dois-je semer cette variété ? »
- « Quel produit puis-je pulvériser sur cette culture ? »
- « À quelle dose dois-je fertiliser ce champ précis ? »
Ces interrogations exigent de connaître le climat local, le type de sol, la date, la rotation des cultures, les pratiques déjà mises en œuvre, voire la réglementation spécifique du pays. Un chatbot peut maîtriser la fiche technique d’un herbicide et ignorer le point crucial qui rend le conseil dangereux dans la parcelle de l’utilisateur.
Une question de confiance : quand l’IA est « assez bonne » pour tromper la vigilance
L’affaire Wu illustre un dilemme majeur soulevé par Future Human : que se passe-t-il quand un système d’IA est suffisamment fiable pour gagner la confiance des utilisateurs, sans être suffisamment fiable pour avoir raison en permanence ?
Une IA qui se tromperait la moitié du temps serait vite disqualifiée. Mais un chatbot qui fournit, disons, neuf bonnes réponses sur dix peut susciter un réflexe de confiance. Avec l’habitude, l’avertissement « L’IA peut se tromper » en bas de l’écran finit par se fondre dans le décor.
Dans des domaines comme la santé ou l’agriculture, « presque toujours » avoir raison peut ne pas suffire : l’erreur isolée peut coûter une récolte, voire une vie.
Le texte cité par Future Human fait le parallèle avec la médecine. Une recommandation thérapeutique dépend d’innombrables paramètres : âge, poids, autres traitements en cours, allergies, antécédents, grossesse, fonctionnement du foie ou des reins, diagnostic précis. Une IA peut tenir un discours cohérent sur un médicament et pourtant ignorer le détail qui en fait une mauvaise idée pour un patient donné.
Quelle comparaison avec la situation en France ?
En France, les conseils en matière de produits phytosanitaires restent strictement encadrés. La vente et l’usage des pesticides sont réglementés, et certaines spécialités sont réservées aux agriculteurs ou aux professionnels titulaires de certificats spécifiques, comme le Certiphyto. De nombreux agriculteurs s’appuient sur :
- des techniciens de coopératives agricoles ;
- des ingénieurs-conseils ou des chambres d’agriculture ;
- des bulletins de santé du végétal régionaux ;
- des guides officiels qui listent les usages autorisés par culture.
Un équivalent français de la situation de Wu serait un agriculteur remplaçant l’avis de son technicien ou de son conseiller agricole par un simple échange avec un chatbot généraliste, sans vérifier les usages autorisés ni les doses inscrites sur l’étiquette. Les règles françaises imposent déjà de suivre ces mentions réglementaires, et les assurances ou les coopératives peuvent refuser de couvrir des dégâts liés à un non-respect manifeste de ces recommandations.
Les organismes publics et les instituts techniques insistent sur le fait que les outils numériques d’aide à la décision doivent compléter, et non remplacer, l’expertise humaine et la consultation des documents réglementaires de chaque produit.
Produits phytosanitaires : pourquoi le contexte change tout
Un pesticide homologué n’est jamais « bon pour tout ». Son usage est limité à certaines cultures, à certaines périodes et à certaines conditions. Pour un lecteur français, quelques principes de base ressortent de cette affaire :
Les étiquettes précisent généralement les cultures cibles, les stades possibles, les doses maximales par hectare, le nombre d’applications par an, et énumèrent les plantes sensibles. Ignorer ces détails parce qu’un outil d’IA propose une stratégie « théoriquement logique » augmente fortement le risque d’accident.
IA et conseil technique : quelques repères pour limiter les dégâts
L’exemple de Wu montre qu’un chatbot peut bien connaître le haloxyfop-P-méthyl, le fomesafène et leurs usages typiques, sans se rendre compte qu’il applique un schéma valable au soja à un champ de sésame. Pour un agriculteur ou un particulier en France, quelques réflexes prudents s’imposent lorsqu’un outil d’IA donne un conseil dans un domaine technique :
- vérifier systématiquement les étiquettes, notices ou fiches officielles du produit mentionné ;
- contrôler si la culture concernée figure bien parmi les usages autorisés ;
- en cas de doute, demander confirmation à un conseiller agricole ou à un technicien ;
- éviter de tester un mélange sur toute la surface d’un coup, et commencer par une petite zone si la pratique reste incertaine.
L’IA peut rendre service pour synthétiser des informations, rappeler des principes agronomiques ou expliquer le rôle d’une substance active. En revanche, elle ne dispose ni de la vue de la parcelle, ni du ressenti du sol sous la botte, ni de la connaissance précise des historiques de traitement. Sans ces éléments, son conseil reste généraliste, même lorsqu’il a l’air très sûr de lui.
Dans les champs comme dans les cabinets médicaux, l’affaire de ce producteur de sésame chinois rappelle qu’un chatbot performant n’est pas un ingénieur agronome ni un médecin. La ligne est parfois fine entre une aide précieuse et un conseil qui, transposé sans filtre à une situation concrète, se transforme en perte sèche.
