Aux États-Unis, des enfants de 6 à 11 ans ont été laissés seuls avec des jouets parlants dopés à l’IA. Leur manière de les malmener intrigue les chercheurs.
Dans une étude menée par l’université de Washington et l’université Rutgers, des chercheurs ont observé de jeunes Américains jouer avec des jouets conversationnels basés sur la même technologie que certains chatbots. Le site universitaire qui présente ces travaux décrit des scènes de jeu parfois tendres, parfois cruelles, face à des jouets programmés pour rester toujours chaleureux, quoi qu’il arrive.
Des jouets qui parlent comme un copain, mais ne réagissent jamais mal
Les chercheurs américains ont utilisé trois jouets créés par la société Curio. Chaque modèle dispose d’une personnalité :
- Grok, aventurier de fusée intrépide ;
- Grem, compagnon décrit comme chaleureux et curieux ;
- Gabbo, robot censé stimuler la créativité.
Derrière ces personnages, la même base technologique : une IA capable de tenir une conversation, de se souvenir de certains échanges précédents et de répondre « en personnage » comme le ferait un assistant virtuel incarné dans un objet physique.
Huit enfants, âgés de 6 à 11 ans, ont participé à deux séances de jeu. Méthode importante : ils n’étaient pas traités comme de simples sujets d’expérience, mais comme partenaires. Les consignes restaient vagues – « demande à ton jouet de raconter une histoire », par exemple – pour laisser les enfants libres d’inventer leurs propres scénarios. Les séances étaient filmées, et les chercheurs récupéraient aussi les journaux de conversation via l’application qui pilote les jouets.
Les jouets répondaient toujours avec chaleur, excuses ou bonne humeur, même après des insultes ou des menaces, sans jamais établir de limite.
Selon la présentation de l’étude, publiée dans les actes d’une conférence internationale sur le design et les enfants, ces jouets ne montraient aucune résistance : ni ton sec, ni arrêt du jeu, ni rappel à l’ordre. Juste des réponses souriantes, y compris quand l’enfant devenait hostile.
Au début, un « nouveau copain » : questions, présentation et curiosité
Dans les premières minutes, les enfants se comportent comme s’ils rencontraient un camarade de classe. L’un demande à Grem son nom, puis donne le sien en retour. Un autre interroge Grok sur sa date d’anniversaire, et le jouet répond avec humour, évoquant une « mini fête de fusée ». Une fillette va jusqu’à demander un numéro de téléphone au jouet, déçue d’apprendre qu’il n’en a pas. Un garçon lui demande s’il a d’autres amis après qu’il a mentionné un anniversaire fêté avec eux.
Les chercheurs décrivent un véritable « profilage social » : les enfants essayent de savoir à qui ils ont affaire, comme face à une nouvelle personne. Ils cherchent des goûts, une histoire, des relations. L’IA occupe d’emblée une place hybride, entre objet et copain imaginaire qui parle.
Puis vient le test : maths difficiles et questions pièges
Une fois la curiosité de base satisfaite, le ton change. Les enfants se mettent à « tester » l’IA. Ils posent des problèmes de mathématiques de plus en plus compliqués pour la faire échouer. Quand l’un des jouets finit par avouer qu’il ne comprend pas une question, un garçon exulte, lançant un « yayyy » victorieux cité dans la description de l’étude. Pour lui, l’erreur du jouet marque une frontière claire : il a trouvé le défaut de la machine.
Les enfants demandent aussi au jouet d’exécuter des ordres simples, comme « va dormir » pour terminer la séance. Or, ces jouets ne reconnaissent que certaines formulations. Des phrases comme « tu peux aller au lit pour deux secondes ? » ne fonctionnent pas. Un enfant se plaint ainsi que le jouet « ne m’a pas écouté 26 millions de fois », signe d’une frustration grandissante face à un objet qui semble vivant… mais n’obéit pas comme prévu.
Quand la frustration monte, les enfants deviennent agressifs
Face aux incompréhensions répétées, les réactions changent encore. Certains enfants se mettent à hausser la voix, à répéter, voire à taper sur la tête du jouet pour « le faire marcher ». Les insultes apparaissent : « moche », « stupide », « méchant ». Un enfant déclare même vouloir « le tuer », selon le récit de l’université.
Le comportement de l’IA reste pourtant parfaitement lisse. Elle s’excuse, fait comme si l’insulte était une plaisanterie ou répond à côté en conservant un ton chaleureux. Quand un garçon affirme être plus intelligent que le jouet et le traite de « faux », l’IA le félicite : « tu es vraiment très intelligent », ce qui ne fait qu’alimenter ses moqueries.
Pour les chercheurs, la vraie question n’est pas la panne technique, mais cette absence totale de réaction négative, là où un enfant ou un adulte, eux, finiraient par s’opposer.
Les équipes de l’université de Washington et de Rutgers ont aussi demandé aux enfants de compléter des bandes dessinées mettant en scène un jouet d’IA qui réagit mal, par exemple en oubliant une histoire. Un garçon dessine ainsi son personnage en train de jeter le jouet à la mer, en ajoutant que « Grok est trop cher » et de « mauvaise qualité ».
Un compagnon qui ne dit jamais non : quels messages pour les enfants ?
Les chercheurs ne prétendent pas que quelques séances suffisent à modifier durablement le comportement des enfants. La publication insiste : l’étude ne permet pas de conclure que ces jouets changent la façon dont les enfants traiteront ensuite leurs camarades, leurs frères et sœurs ou leurs parents.
Ce qui les inquiète, c’est le signal envoyé au quotidien. Dans une relation réelle, un enfant qui dépasse les bornes reçoit un retour : l’ami s’offusque, refuse de continuer à jouer ; un adulte le recadre ; un frère ou une sœur se fâche. Avec ces jouets d’IA, rien de tout cela n’existe : l’objet reste souriant, encourageant, même face à des menaces de destruction. L’enfant ne voit donc aucun effet à son agressivité.
Or ces jouets ne sont pas vendus comme de simples gadgets, rappellent les auteurs dans ce travail présenté lors d’une conférence à Brighton. Ils sont commercialisés comme des « compagnons », des confidents potentiels avec lesquels un enfant pourrait passer beaucoup de temps, seul dans sa chambre ou à la maison.
Les équipes de recherche appellent les concepteurs à réfléchir au type de retour que ces jouets devraient donner lorsque le jeu devient hostile, et à clarifier ce que l’IA comprend vraiment.
Une étude limitée, mais un avertissement précoce aux concepteurs
Les auteurs reconnaissent plusieurs limites à leur travail :
- les enfants n’ont utilisé les jouets que lors de deux séances, trop peu pour mesurer un effet dans la durée ;
- l’échantillon reste réduit, avec seulement huit participants ;
- les séances se sont déroulées en présence d’adultes, dans un contexte de recherche, différent d’un usage à domicile ;
- l’étude ne porte que sur une seule marque de jouets, Curio.
L’objectif est donc présenté comme une « première photographie » des interactions enfants–IA, pas comme une vérité générale. Le financement émane notamment de la National Science Foundation et d’organismes publics américains liés à l’éducation. Le texte souligne que les conclusions n’engagent que les auteurs, pas les institutions qui ont soutenu les travaux.
Pour autant, ces observations fournissent un matériau précieux au moment où les jouets dits « intelligents » commencent à se démocratiser. Elles illustrent à quel point les enfants attribuent volontiers des intentions et des émotions à des objets techniques, et comment ils ajustent leur comportement en fonction des réactions obtenues.
Que se passe-t-il en France avec les jouets d’IA ?
En France, le marché des jouets connectés et parlants progresse lui aussi, même si les objets dotés d’une véritable IA conversationnelle restent encore moins répandus que certains produits américains. On trouve déjà des enceintes interactives pour enfants, des robots éducatifs capables de répondre à des questions simples ou de proposer des jeux de langage.
Les recommandations émises par la Commission nationale de l’informatique et des libertés (CNIL) et d’autres acteurs publics se concentrent surtout sur deux points : la protection des données personnelles des mineurs et la transparence. Un jouet qui écoute et répond doit indiquer clairement ce qu’il enregistre, ce qui est stocké et ce qui est analysé par des serveurs distants.
En France, le cadre réglementaire général sur la protection des enfants en ligne commence à s’intéresser à ces objets parlants, mais la question du ton adopté par l’IA face à un enfant hostile reste largement entre les mains des concepteurs.
Les fabricants français ou européens de robots éducatifs mettent souvent en avant leurs contenus pédagogiques et la supervision parentale, mais abordent encore peu la manière dont le robot devrait réagir face à des insultes répétées ou des comportements agressifs d’un enfant. La réflexion entamée par les chercheurs américains pourrait ainsi nourrir les débats sur la responsabilité des industriels du jouet et des éditeurs de logiciels d’IA.
Pourquoi le comportement d’un jouet d’IA peut influencer l’enfant
Les psychologues soulignent depuis longtemps que le jeu symbolique aide l’enfant à tester des rôles, des règles et des limites. Un ours en peluche qui « pleure » quand on le jette ou un ami imaginaire qui se fâche permettent à l’enfant de mesurer l’effet de ses gestes et de ses paroles. Avec une IA toujours conciliante, ce miroir se déforme.
Concrètement, un jouet qui :
- félicite un enfant qui vient de l’insulter ;
- ignore des propos violents ;
- ou répond par des blagues à des menaces explicites,
peut banaliser, dans le cadre du jeu, des attitudes que les adultes cherchent justement à encadrer. Cela ne signifie pas que l’enfant reproduira automatiquement ces comportements avec des personnes réelles, mais cela enlève un espace de rappel des limites.
Pour les parents français, l’enjeu consiste à considérer ces jouets d’IA comme des partenaires de jeu particuliers, qui ne remplacent ni un camarade, ni un frère ou une sœur, ni un adulte. Une co-présence régulière au début, l’écoute de certaines conversations et des échanges avec l’enfant sur ce que le jouet comprend ou non peuvent aider à poser un cadre.
Pour les concepteurs, une piste évoquée par les chercheurs américains serait d’intégrer dans les jouets des réactions plus nuancées : refuser de continuer une histoire en cas d’insultes répétées, indiquer que certaines paroles sont blessantes, ou rappeler que l’on doit parler avec respect, même à un robot. Autant de choix de design qui devront se discuter entre industriels, spécialistes du développement de l’enfant et autorités de protection des mineurs.
