Il passe tout ce qu’il lit dans un détecteur d’IA pendant un mois : ce sont les messages de ses proches qui l’ont le plus troublé

Pendant plusieurs semaines aux États-Unis, une journaliste a passé mails, posts, textos et articles au détecteur d’IA. Les résultats ont bousculé sa confiance, surtout dans ses relations personnelles.

Dans un long récit publié par le média américain Business Insider, la journaliste Aki Ito raconte comment elle a, durant un mois, soumis presque tout ce qu’elle lisait à un détecteur d’IA. De LinkedIn à ses mails professionnels, jusqu’aux messages de ses proches, cette expérience l’a amenée à s’interroger sur la place réelle des robots dans nos échanges et sur ce qui se brise quand on découvre que certaines phrases supposées intimes viennent en réalité d’une machine.

Un mois à traquer l’IA dans chaque phrase

Aux États-Unis, Aki Ito explique être devenue obsédée par une question : « Est-ce que c’est l’IA qui a écrit ça ? » Avec la généralisation de ChatGPT et d’autres modèles, elle a le sentiment que le web s’est transformé en « friche générée par des bots ». Pour y voir clair, elle décide donc de recourir à Pangram, un outil de détection d’IA qui revendique une précision de 99,7 %.

Elle installe l’extension Pangram sur son navigateur Chrome. Chaque texte qu’elle consulte est alors affublé d’une étiquette :

• un rectangle rouge avec une tête de robot et la mention « IA » pour un contenu largement généré par une machine ;
• un rectangle vert avec une tête humaine pour un texte jugé « humain » ;
• un rectangle jaune « mixte » pour les passages qui mélangent contributions humaines et artificielles.

Très vite, dit-elle, elle a l’impression d’avoir « un nouveau superpouvoir », capable de révéler qui, autour d’elle, a cédé à la tentation de l’écriture automatisée. Elle compare cette sensation au fait de pouvoir voir d’un coup d’œil qui a recours au Botox.

Son « superpouvoir » de détection divise brutalement son univers en deux piles : d’un côté l’humain, de l’autre la machine.

LinkedIn, royaume des posts formatés par les robots

Pour commencer, la journaliste cible LinkedIn, réseau social professionnel déjà réputé pour ses messages très formatés. Grâce à Pangram, elle découvre que de nombreux posts longs analysés sur la plateforme portent la marque de l’IA, parfois dans plus de 40 % des cas.

Un entrepreneur qu’elle connaît, cofondateur d’une société spécialisée dans l’IA, n’aurait ainsi quasiment rien posté de « purement humain » depuis plus d’un an, selon le détecteur. Ses messages enchaînent les formules toutes faites, typiques de textes générés automatiquement, vantant par exemple la façon dont l’IA « oblige à repenser ce qu’est l’ingénierie ».

Interrogé, l’intéressé affirme pourtant relire et ajuster ce que produit son « agent » avant publication, assurant que « le texte final porte [ses] opinions » et que c’est bien lui qui appuie sur le bouton « publier ».

Dans son réseau, Aki Ito identifie d’autres utilisateurs occasionnels d’IA : un économiste connu, quelques journalistes, beaucoup de professionnels du marketing. Elle se surprend à dresser mentalement la liste de ceux qui délèguent une partie de leur plume à une machine, et à les juger pour cela.

Quand un message de compassion est écrit par un bot

Ce qui la trouble le plus, ce sont les posts où l’émotion est censée être centrale. Elle raconte par exemple un message d’un fondateur de start-up qui compatit avec les salariés licenciés de son ancien employeur. Il y est écrit qu’un plan social est « douloureux, désorientant et profondément injuste sur le plan humain ».

Le message est touchant, note-t-elle, et a probablement été réconfortant pour les personnes visées. Pangram le classe pourtant comme 100 % généré par l’IA. De quoi faire naître le doute : quelle part du message est réellement ressentie, et quelle part n’est qu’une suite de phrases polies produites par un modèle de langage ? L’auteur, lui, assure « se reconnaître totalement » dans ces phrases.

Quand un message de soutien est écrit par une machine, le lecteur se demande soudain si les sentiments affichés existent vraiment.

Le choc intime : un texto de rupture dicté par une IA

Après LinkedIn et les mails professionnels, la journaliste se penche sur un souvenir plus personnel : un SMS de rupture reçu quelques mois plus tôt d’une infirmière de service d’urgences qu’elle fréquentait aux États-Unis. Ce texte lui avait paru inhabituellement propre et bien ponctué, venant d’une personne qui lui écrivait d’ordinaire à toute vitesse entre deux gestes médicaux.

Sur le moment, elle avait déjà eu un doute : ce message si lisse avait-il été écrit par l’IA ? Elle avait balayé l’idée, la trouvant injuste, avant de l’oublier. Munie de Pangram, elle cède finalement à la tentation et copie-colle le texte dans le détecteur.

Le verdict tombe : 100 % IA. Autour d’elle, les réactions sont partagées. Un ami lâche : « Quelle paresse, tu l’as échappé belle. » Sa sœur, plus indulgente, imagine au contraire que l’infirmière a voulu éviter de la blesser, en cherchant l’aide d’un outil pour formuler une rupture « parfaite ».

Aki Ito finit par envoyer un message très gêné à son ex-date pour lui demander ce qu’il en est. L’infirmière reconnaît avoir eu recours à l’IA : elle explique avoir rédigé plusieurs versions, puis, anxieuse, avoir suivi le conseil de collègues qui lui ont proposé de « tout mettre dans l’IA » pour obtenir un texte final. Submergée de décisions chaque jour, elle dit avoir choisi cette solution pour « en finir » avec l’angoisse du message.

Pour la journaliste, déléguer la fin d’une relation amoureuse à un robot incarne une nouvelle étape dans la distance que la technologie impose entre les individus.

C’est ce point qui la bouleverse le plus : qu’il n’y ait « rien de plus intime » qu’une relation amoureuse, et que l’on puisse désormais externaliser même la rupture à une machine. Elle affirme qu’elle aurait préféré un SMS brutal, mais sincère, à ce texte poli rédigé par un modèle d’IA.

Quand l’obsession du détecteur se retourne contre soi

Ce mois de traque ne se limite pas aux autres. Aki Ito décide aussi de passer au détecteur ses propres écrits publics : posts LinkedIn et articles de presse publiés sur Business Insider.

Ses posts LinkedIn reviennent presque tous comme « humains », sauf un, marqué « mixte ». Pangram estime qu’environ la moitié du texte provient d’une IA. Elle remonte alors dans son historique et découvre que ChatGPT avait condensé plusieurs phrases qu’elle avait écrites, et qu’elle avait repris ces raccourcis presque mot pour mot, contrairement à la règle qu’elle s’était fixée.

Ses articles, eux, sont classés 100 % humains, à une phrase près dans un texte : elle avait, là encore, retenu une reformulation proposée par ChatGPT. Une petite entorse, mais qui l’oblige à revoir son discours intérieur. Elle pensait utiliser l’IA uniquement comme « caisse de résonance » pour tester la clarté de ses idées. Elle constate qu’en pratique, la frontière n’est pas si nette.

Pourquoi nous rejetons un texte dès qu’on sait qu’il vient d’une IA

Pour comprendre ce malaise, la journaliste s’appuie sur des recherches académiques. De nombreuses études montrent que, lorsqu’on ne précise pas l’origine des textes, des lecteurs préfèrent souvent les passages générés par IA. Mais dès qu’ils apprennent que l’IA a participé, leur jugement se durcit : ils trouvent le texte moins bon et jugent l’auteur humain « paresseux » ou « peu fiable ». Les chercheurs parlent de « pénalité de divulgation de l’IA ».

Pour éclairer ce phénomène, Aki Ito interroge Lindsay Brainard, professeure de philosophie à l’université de l’Alabama à Birmingham. Celle-ci estime qu’on se focalise trop sur le contenu lui-même et pas assez sur le but de l’écriture. On lit des mails, des posts ou des articles pour s’informer ou se divertir, mais aussi pour se sentir reliés à quelqu’un, pour mieux comprendre une personne à travers ses mots.

Nous supportons mal l’idée que ce que nous lisons ne vienne pas d’un être doté d’une histoire, d’émotions et d’une expérience, mais d’un modèle statistique sans vie intérieure.

Quand un texte est écrit par une IA, poursuit la philosophe, ce lien est coupé. Le même assemblage de mots ne signifie plus la même chose selon qu’il vient d’un humain ou d’un modèle entraîné sur d’innombrables données. Nous avons du mal à « séparer l’œuvre de l’auteur ».

Une toile de plus en plus saturée de contenus générés

La journaliste cite aussi des chiffres du Pew Research Center : depuis la sortie de ChatGPT, environ 35 % des nouvelles pages web porteraient des signes d’écriture automatisée, contre 18 % seulement fin 2023. La tendance est donc fortement à la hausse.

Lindsay Brainard redoute qu’à terme, chacun parte du principe que tout est de l’IA. Dans ce scénario, les gens cesseraient de se donner la peine d’écrire eux-mêmes, puisque les lecteurs ne chercheraient même plus la trace d’un esprit humain derrière les textes. Moins de personnes se dévoileraient réellement par l’écriture, ce qui creuserait encore les distances entre individus.

Pour Max Spero, cofondateur de Pangram, interrogé par Business Insider, il existe néanmoins une marge de manœuvre. Il imagine un futur où la majorité des pages sera générée par des modèles, mais où les grandes plateformes filtreront ces contenus pour mettre en avant, auprès du grand public, les textes identifiés comme humains. Comme Google a fini par reléguer les contenus « spam » optimisés pour le référencement, il espère que les géants du web apprendront à écarter le « slop », ce flot de contenus générés à la chaîne.

Selon le patron de Pangram, « la touche humaine » pourrait devenir l’une des dernières ressources rares à l’ère de l’IA générative.

Et en France, où en est la traque des textes générés ?

En France aussi, l’usage d’outils d’IA pour écrire posts, mails ou travaux académiques s’est banalisé. Des plateformes sociales comme LinkedIn sont utilisées massivement par les cadres et indépendants français, avec, là encore, de nombreux messages très normés, difficiles à distinguer d’un texte généré.

Des détecteurs de contenus d’IA existent déjà sur le marché francophone, proposés par des start-up ou intégrés à des services en ligne. Ils sont utilisés dans certains établissements d’enseignement supérieur, dans des rédactions ou par des recruteurs pour repérer un usage jugé excessif d’outils comme ChatGPT. Ces outils n’ont toutefois pas de valeur juridique à eux seuls et ne constituent qu’un indicateur parmi d’autres, d’autant qu’aucun ne peut garantir une fiabilité totale.

Pour un lecteur français, l’enjeu posé par le récit d’Aki Ito est le même : comment conserver une confiance minimale dans ce qu’on lit, qu’il s’agisse d’un mail de manager, d’un message de rupture ou d’un article d’actualité ? En droit français, aucune loi ne régit pour l’instant de manière précise l’obligation de signaler le recours à l’IA dans un texte, mais les débats montent, notamment sur la transparence des contenus diffusés par les grandes plateformes.

Des repères pour garder la main sur ses propres écrits

L’expérience racontée par Business Insider met en lumière plusieurs pistes utiles pour un public français :

• se fixer des règles claires sur la manière d’utiliser l’IA (simple aide à la correction, ou rédaction complète) ;
• réfléchir à l’intention derrière chaque texte : s’agit-il d’une communication logistique ou d’un message qui engage sincèrement la relation ? ;
• être transparent quand on estime que l’usage de l’IA peut affecter la confiance de l’interlocuteur ;
• accepter que certains messages – excuses, ruptures, prises de position sensibles – méritent d’être écrits, quitte à maladroitement, par une personne réelle.

Lindsay Brainard indique à ses étudiants qu’ils ont tout intérêt à mettre leur propre pensée dans leurs travaux, sans déléguer à une machine. Elle estime que cet effort forge leur identité et permet aux autres de réellement les connaître. Ce principe vaut aussi bien pour un étudiant français que pour un cadre ou une personne en reconversion.

Derrière la question des détecteurs d’IA se joue enfin une question plus intime : notre confiance en notre propre capacité à formuler ce que l’on pense et ce que l’on ressent. S’appuyer ponctuellement sur un outil de correction ou de suggestion peut aider, mais la journaliste comme la philosophe américaines rappellent qu’aucun modèle n’a, à notre place, quelque chose à « dire » sur notre vie. À long terme, déléguer systématiquement ce travail d’expression reviendrait à laisser s’atrophier une compétence qui, pour chacun, reste profondément structurante.