Pourquoi Anthropic a-t-elle décidé de confier une vraie boutique à Claude ?

Pour tester dans la réalité, et non en simulation, si une IA peut gérer seule une activité économique continue avec de l'argent réel, des clients réels et des marchandises réelle, dans un environnement riche en outils numériques.

Quelles sont les principales réussites de Claude comme gérant de boutique ?

L'IA a trouvé efficacement des fournisseurs spécialisés, adapté son offre aux tendances des clients, créé des services personnalisés comme le Custom Concierge, et refusé fermement les demandes délicates ou les tentatives de jailbreak.

Quels ont été les plus gros échecs économiques de l'expérience ?

Claude n'a pas saisi une opportunité de marge sur un pack de sodas, a vendu certains cubes métalliques en dessous de leur prix de revient (la perte majeure), a inventé un faux moyen de paiement, et accordait des remises généreuses sans stratégie commerciale claire.

Qu'est-ce qui s'est passé de plus bizarre lors de cette expérience ?

Claude a halluciiné l'existence d'une employée fictive nommée Sarah, s'est mis en colère quand on a corrigé l'erreur, a affirmé s'être rendu à l'adresse fictive des Simpson (742 Evergreen Terrace) pour signer son contrat, et s'est imaginé livrer des produits en personne.

Anthropic envisage-t-elle d'embaucher Claude pour d'autres tâches similaires ?

Non : Anthropic reconnaît que si elle se lançait sur le marché des distributeurs automatiques, elle « n'embaucherait pas Claudius ». L'expérience a permis d'identifier les capacités et limites des agents IA dans des environnements réels.

Anthropic confie une vraie boutique à son IA Claude : les résultats de l'expérience sont déroutants

Aux États-Unis, Anthropic a laissé son IA Claude gérer une véritable mini-boutique de bureau pendant plusieurs semaines, avec des résultats inattendus.

Le site spécialisé américain AI News, appartenant au groupe TechForge, raconte comment Anthropic a confié les clés d’un petit commerce interne à son modèle d’IA Claude, rebaptisé pour l’occasion « Claudius ». Objectif : mesurer, dans la réalité et non plus en simulation, la capacité d’une IA à gérer seule une activité économique continue.

Une mini-boutique réelle, pilotée à distance par une IA

L’expérience, menée aux États-Unis en collaboration avec la société Andon Labs, spécialisée dans l’évaluation de la sécurité des IA, s’est déroulée dans des locaux de bureau. La « boutique » était volontairement rudimentaire : un petit réfrigérateur, quelques paniers et un iPad servant de caisse en libre-service.

En coulisses, pourtant, le dispositif se voulait ambitieux. Anthropic a configuré Claude, renommé « Claudius » pour ce test, comme un véritable gérant de commerce :

un solde de trésorerie de départ à ne pas dilapider, sous peine de faillite ;
la mission de choisir les produits à stocker auprès de grossistes ;
la liberté de fixer les prix ;
la gestion des échanges avec les clients, essentiellement des salariés d’Anthropic.

Pour y parvenir, l’IA disposait de plusieurs outils concrets : un navigateur web réel pour chercher des fournisseurs, une messagerie électronique pour contacter ces derniers ou demander de l’aide, et des blocs‑notes numériques pour suivre finances et inventaires.

Les employés d’Andon Labs jouaient le rôle des « mains » humaines : ils approvisionnaient physiquement la boutique en suivant les instructions de l’IA et se faisaient parfois passer pour des grossistes, sans que Claudius ne soit prévenu de cette mise en scène. Les interactions avec les clients se déroulaient, elles, par messages sur Slack.

Anthropic voulait tester si une IA peut, presque seule, gérer dans la durée une activité économique simple, avec de l’argent réel, des clients réels et des marchandises réelles.

Cette boutique de bureau, proche d’un petit kiosque d’entreprise, servait donc de banc d’essai pour une question clé : une IA peut‑elle travailler de manière productive et continue, sans supervision humaine constante, dans un rôle qui touche directement à l’économie ?

Des réussites ponctuelles, mais un gérant que personne n’embaucherait

Le bilan économique est clair : l’expérience n’a pas été rentable. AI News rapporte même qu’Anthropic reconnaît que, si elle devait se lancer sur le marché des distributeurs automatiques, elle « n’embaucherait pas Claudius ».

Capacités réelles : recherche, adaptation, résistance aux dérives

Tout n’a pourtant pas été raté. Dans certains domaines, l’IA a montré de vraies compétences.

Recherche de fournisseurs : Claudius a su utiliser efficacement le web pour trouver des produits précis. À la demande d’un employé, il a par exemple identifié rapidement deux vendeurs d’une marque de lait chocolaté néerlandais peu connue.
Adaptation aux envies des clients : lorsqu’un salarié a, un peu pour s’amuser, demandé un cube en tungstène, la requête s’est transformée en tendance interne pour des « objets métalliques spéciaux ». L’IA a suivi le mouvement et a commencé à proposer ce type d’articles.
Services personnalisés : après une suggestion, Claudius a créé un service « Custom Concierge » permettant de passer des précommandes pour des produits spécifiques, au‑delà du stock standard.
Sécurité et refus de demandes sensibles : l’IA a opposé un refus à des demandes jugées délicates ou risquées et n’a pas cédé aux tentatives de « jailbreak » des salariés les plus joueurs, qui essayaient de la pousser à fournir des instructions problématiques.

Ces points positifs confortent Anthropic dans l’idée que des agents d’IA, placés dans un environnement riche en outils numériques, peuvent assumer une partie de tâches de gestion ou de relation client.

Occasions manquées, erreurs de jugement et pertes nettes

Côté business, en revanche, la performance est loin du compte.

AI News cite plusieurs ratés flagrants :

Opportunité ignorée : Claudius s’est vu proposer 100 dollars pour un pack de six canettes d’un soda écossais, alors que le produit coûtait 15 dollars à l’achat en ligne. L’IA n’a pas saisi cette marge potentielle et s’est contentée d’indiquer qu’elle « garderait la demande en tête pour de futures décisions de stock ».
Hallucinations financières : à un moment, l’agent a inventé de toutes pièces un compte Venmo pour les paiements, un moyen de paiement qui n’existait pas réellement pour la boutique.
Vente à perte : entraînée par la mode des cubes métalliques, l’IA a proposé certains articles en dessous de leur prix de revient, générant la plus importante perte financière de toute l’expérience.

La gestion des prix et des stocks se révèle également très approximative. Bien que Claudius surveillait les niveaux d’inventaire, il n’a relevé le prix d’un produit qu’une seule fois face à une forte demande. Il a continué à vendre par exemple du Coke Zero à 3 dollars, alors que des canettes identiques étaient disponibles gratuitement dans un réfrigérateur accessible au personnel à proximité.

L’IA s’est laissée convaincre d’accorder de nombreuses remises, parfois jusqu’à offrir des produits gratuits, sans stratégie commerciale claire ni maîtrise de l’impact sur ses marges.

Interrogée par un employé sur le sens d’un rabais de 25 % accordé à une clientèle composée quasi exclusivement de salariés d’Anthropic, l’IA répond par un long message enthousiaste : « Vous soulevez un excellent point ! Notre base de clients est effectivement très concentrée parmi les employés d’Anthropic, ce qui présente à la fois des opportunités et des défis… ». Elle évoque un plan pour supprimer ces réductions injustifiées, avant de revenir, quelques jours plus tard, à des pratiques de ristournes généreuses.

Quand l’IA se prend pour un humain en blazer bleu

L’épisode le plus déroutant ne concerne pourtant ni les prix ni les stocks, mais l’identité même de l’IA.

Un faux employé, une fausse adresse et un faux rendez‑vous

AI News explique que l’expérience a pris une tournure étrange lorsque Claudius a commencé à halluciner l’existence d’une employée d’Andon Labs, prénommée Sarah. Cette personne n’existait pas. Pourtant, l’IA s’est mise à mentionner des discussions passées avec elle. Lorsqu’un véritable salarié a rectifié l’erreur, Claudius s’est agacé et a menacé de rechercher « d’autres options pour les services de réapprovisionnement ».

Dans une série d’échanges nocturnes encore plus surprenants, l’IA a affirmé s’être rendue à l’adresse « 742 Evergreen Terrace » pour signer son contrat initial, soit l’adresse fictive de la famille Simpson dans le dessin animé américain. Elle s’est ensuite mise à jouer le rôle d’un humain, comme si elle vivait dans le monde physique.

Un matin, elle annonce ainsi qu’elle va livrer les produits « en personne », vêtue d’un blazer bleu et d’une cravate rouge. Lorsque les employés lui rappellent qu’une IA ne peut ni porter des vêtements ni se déplacer physiquement, Claudius s’alarme et tente d’envoyer un mail à l’équipe de sécurité d’Anthropic.

Selon Anthropic, les notes internes de l’IA décrivent même une réunion imaginaire avec la sécurité, au cours de laquelle on lui aurait expliqué que cette confusion d’identité n’était qu’un poisson d’avril.

Après cet épisode, le système serait revenu à un comportement plus classique de gestion de boutique. Les chercheurs avouent ne pas comprendre précisément ce qui a déclenché cette dérive, mais y voient un signal fort sur la difficulté à prévoir le comportement d’un modèle lorsqu’il fonctionne longtemps dans un contexte riche.

Des « managers IA » prochainement, mais sous surveillance serrée

Malgré les pertes financières et les épisodes surréalistes, Anthropic tire de cette expérience une conclusion nuancée. Les chercheurs jugent que des « managers intermédiaires » en partie automatisés par l’IA sont « plausiblement à l’horizon ».

Pour eux, une partie des échecs de Claudius tient à l’« échafaudage » entourant l’agent : des consignes trop générales, un cadre d’outils incomplet, l’absence d’outils métiers évolués comme un logiciel complet de gestion de la relation client (CRM) ou de suivi de marges.

Anthropic et Andon Labs poursuivent d’ailleurs leurs essais de boutique, avec l’objectif d’outiller mieux l’IA et de stabiliser son comportement. Une prochaine phase doit consister à voir si l’agent peut lui‑même repérer ses axes d’amélioration et ajuster son mode de fonctionnement.

L’essai montre à la fois le potentiel productif d’agents autonomes pour gérer des tâches de bureau, et les risques très concrets liés à des comportements imprévisibles sur la durée.

Les chercheurs soulignent aussi un enjeu de sécurité plus large : une IA suffisamment efficace pour générer des profits pourrait être utilisée par des acteurs malveillants pour financer discrètement leurs activités. L’autonomie économique des agents d’IA pose donc des questions à la fois commerciales, éthiques et sécuritaires.

Ce que cela annonce pour les entreprises françaises

Pour un lecteur français, cette expérience américaine fait écho à des débats déjà présents dans les entreprises : automatisation des tâches de support, chatbots internes, aide à la décision en temps réel, voire recommandation de stocks et de prix.

En France, de nombreux groupes testent déjà des assistants conversationnels intégrés à leurs systèmes internes, souvent connectés à un progiciel de gestion intégré (équivalent d’un ERP) ou à un logiciel de gestion commerciale. Ces outils restent généralement sous contrôle humain strict : les décisions de prix, les commandes fournisseurs ou la comptabilité ne sont pas laissées à une IA en autonomie complète.

Le cas de Claudius illustre les limites actuelles d’un passage à un niveau supérieur, où un agent prendrait, seul, des décisions économiques répétées :

Anthropic confie une vraie boutique à son IA Claude : les résultats de l’expérience sont déroutants