Math class is tough!
Mattel et OpenAI ont annoncé la signature d’un partenariat stratégique, qui permettra au géant du jouet de s’appuyer sur les produits d’IA de la famille de ChatGPT pour son fonctionnement interne, mais aussi et surtout pour concevoir de nouveaux « produits et expériences ». L’introduction possible de briques d’IA génératives dans des jouets et jeux destinés aux enfants suscite déjà des inquiétudes.
Revenue sous les feux de la rampe depuis la sortie du film Barbie, la poupée éponyme sera-t-elle bientôt capable de dialoguer avec les enfants ? Le scénario reste pour l’instant très hypothétique, mais le géant du jouet Mattel a ouvert une porte à l’intelligence artificielle générative en annonçant, le 12 juin dernier, la signature d’une « collaboration stratégique » avec OpenAI, l’éditeur de ChatGPT.
Une collaboration aux débouchés encore flous
La nouvelle n’est pas anodine : c’est a priori la première fois qu’un éditeur d’intelligence artificielle noue un contrat à grande échelle avec un acteur du monde du jouet, en sachant que parmi ces derniers, Mattel fait figure de poids lourd.
Le groupe américain, qui a pesé 5,38 milliards de dollars de chiffre d’affaires en 2024, est un incontournable des rayons de la grande distribution, avec Barbie bien sûr, mais aussi Hot Wheels, Polly Pocket ou Fisher Price, mais aussi Scrabble, UNO ou Pictionary, sans oublier des dizaines d’autres licences.
L’un des volets de cet accord prévoit que Mattel, qui compte 34 000 employés dans le monde, intègre les outils d’OpenAI tels que ChatGPT Enterprise à ses activités internes, pour « améliorer le développement de produits et l’idéation créative, stimuler l’innovation et approfondir l’engagement avec son public ».
Si ce premier point semble relativement intelligible, la « collaboration » prévoit un second pan nettement plus flou :
« Cet accord allie l’expertise respective de Mattel et d’OpenAI pour concevoir, développer et lancer des expériences innovantes pour les fans du monde entier. Grâce à la technologie d’OpenAI, Mattel apportera la magie de l’IA à des expériences de jeu adaptées à chaque âge, en mettant l’accent sur l’innovation, la confidentialité et la sécurité ».
Les deux partenaires évoquent bien l’intégration de briques d’IA dans des jeux ou jouets, mais ne précisent en rien les produits concernés ou les fonctionnalités envisagées. L’omission n’est pas forcément problématique : après tout, si les deux entreprises débutent tout juste leur partenariat, il semble logique qu’elles n’aient pas encore abouti à des propositions.
Des commentateurs déjà inquiets
Tous n’accordent pas à Mattel et OpenAI le bénéfice du doute. Le think tank Public Citizen, basé à Washington et spécialisé dans le lobbying en faveur de la défense des consommateurs, a par exemple tiré la sonnette d’alarme sans attendre les premiers jouets dopés à l’IA.
« Mattel ne devrait pas abuser de la confiance que lui accordent les parents pour mener une expérience sociale imprudente sur nos enfants en vendant des jouets intégrant l’IA », clame son coprésident, Robert Weissman. Selon lui, le fait d’engager les enfants dans des interactions vocales imitant la voix humaine de façon réaliste soulève un véritable risque. « Cela peut nuire au développement social, interférer avec la capacité des enfants à nouer des relations, les éloigner des moments de jeu avec leurs pairs et éventuellement leur infliger des dommages à long terme ».
« Je veux bien donner gratuitement un slogan accrocheur à cette idée de jouets IA : « arrêtez de penser avant même d’avoir commencé » », ironise de son côté l’essayiste Rebecca Solnit.
En dépit de leurs engagements en matière de confidentialité et de sécurité, les deux entreprises sont a priori conscientes que le sujet risque de susciter la controverse. Une source proche indique par ailleurs à Axios que le premier produit issu de cette collaboration sera positionné sur la tranche des 13 ans et plus, précisément pour limiter les critiques et les contraintes réglementaires, souvent plus strictes sur les jeunes publics.
En attendant d’en savoir plus sur les fruits de cette collaboration, reste donc une équation dont les paramètres mêlent enjeux économiques et considérations sociales, voire sociétales. D’un côté, les premiers jeux et jouets IA sont susceptibles de bénéficier d’une traction commerciale particulièrement forte, du fait de la nouveauté et de promesses inédites en matière d’interactions, de divertissement ou pourquoi pas d’apprentissages. Ce qui explique sans doute pourquoi OpenAI et Mattel souhaitent se positionner dès à présent comme les précurseurs de ce nouveau marché.
De l’autre, on retrouve bien sûr les innombrables zones d’ombre et sources d’inquiétude liées à l’IA générative – hallucinations, biais des modèles de langage, exploitation de données personnelles, etc. – catalysées par la fragilité du public visé.
« Je ne veux pas publier dans un an des articles sur la façon dont une voiture Hot Wheels a encouragé l’automutilation ou sur les relations amoureuses prolongées entre des enfants et leurs Barbie IA. C’est prévisible et, je l’espère, évitable. Mais c’est assurément la direction vers laquelle nous allons si nous ne prenons pas les précautions nécessaires avec ces produits », s’inquiète Adam Dodge, cofondateur de l’association EndTAB (Ending Technology-Enabled Abuse).
Fin avril, une équipe conjointe de chercheurs de Stanford et de l’association de protection de l’enfance Common Sense Media ont partagé un rapport d’évaluation des risques liés à l’utilisation de chatbots basés sur l’IA générative par les jeunes publics. Dans le sillage de révélations liées par exemple aux dérives permises par des outils comme Character.ai, ils y préconisent que ces agents conversationnels ne soient pas utilisés par les moins de 18 ans.
Connexion
