What could go wrong?

L’entreprise de Sam Altman annonce la mise en place de plusieurs barrières pour les mineurs. Des protections supplémentaires… avant de lâcher la bride à son chatbot sur ce que les adultes peuvent générer ? C’est ce qu’avait laissé entendre Sam Altman, affaire à suivre donc.

OpenAI a annoncé ce mardi la mise en place de son système interne de prédication d’âge sur ChatGPT ainsi qu’un système de vérification d’âge géré par une entreprise tierce en deuxième option. Ce double système doit permettre de séparer les utilisations de son chatbot par les adolescents et par les adultes.

Sam Altman avait déjà sorti que son chatbot pourrait être plus érotique à l’occasion de cette séparation, mais OpenAI précise que les filtres de ChatGPT seront différents aussi pour d’autres sujets comme la violence graphique ou gore et les comportements malsains. Le déploiement est mondial, mais la société précise que, « dans l’UE, la prédiction de l’âge sera mise en place dans les prochaines semaines afin de tenir compte des exigences régionales ».

Deux solutions possibles pour franchir la barrière d’âge

Pour permettre d’accéder à son chatbot avec des restrictions beaucoup plus faibles, OpenAI propose plusieurs solutions censées filtrer les moins de 18 ans. Si les adolescents déclarent être âgés de moins de 18 ans lors de leur inscription, l’entreprise active des filtres de protection « visant à réduire leur exposition à des contenus sensibles ou potentiellement préjudiciables ».

Mais si l’utilisateur ne donne pas explicitement son âge, OpenAI utilise deux systèmes pour filtrer les mineurs. La première est un système interne de « prédiction d’âge ». Ici pas de scan de carte d’identité. OpenAI va utiliser toutes les données qu’elle collecte sur l’utilisateur pour prédire s’il a ou non plus de 18 ans. « Il examine différents signaux liés à votre compte. Par exemple, il peut examiner les sujets généraux dont vous parlez ou les moments de la journée où vous utilisez ChatGPT », affirme l’entreprise dans sa page d’aide à ce sujet. Si l’entreprise donne ces exemples, elle ne dévoile pas tous les paramètres qu’elle prend en compte pour prédire l’âge de l’utilisateur.

« Aucun système n’est parfait. Il peut parfois y avoir des erreurs », explique OpenAI dans un moment d’humilité rare dans le monde de l’IA. Elle explique que « si vous avez 18 ans ou plus et que vous avez été classé par erreur dans la catégorie des moins de 18 ans, vous pouvez vérifier votre âge ». Pour ça, l’entreprise utilise le système de vérification d’un tiers nommé Persona.

Pour cette vérification, Persona pourra, en fonction du pays où l’utilisateur se trouve, utiliser soit un selfie live soit une pièce d’identité qu’il faudra uploader. « Persona vérifie votre date de naissance et s’assure que votre selfie correspond à la photo de votre pièce d’identité », explique OpenAI, qui ajoute que « les pièces d’identité acceptées varient selon les pays ». Au passage, elle précise que Persona doit supprimer les photos des pièces d’identité et les selfies sept jours après la vérification. Le tiers envoie la date de naissance de l’utilisateur ou la prédiction d’âge. L’entreprise de Sam Altman assure conserver « ces informations en toute sécurité et les [utiliser] uniquement conformément à la politique de confidentialité d’OpenAI ».

Au passage, on peut remarquer qu’OpenAI n’a pas choisi de s’appuyer sur l’outil de scan d’iris de World ID, l’autre entreprise de Sam Altman.

• Reddit envisage de vérifier ses utilisateurs avec l’outil de scan d’iris de Sam Altman

Des filtres différents sur des sujets sensibles selon l’âge de l’utilisateur

À partir du moment où l’utilisateur est enregistré comme ayant plus de 18 ans par OpenAI, ChatGPT aura beaucoup moins de garde-fous.

Si l’utilisateur est détecté comme ayant moins de 18 ans, ChatGPT « applique automatiquement des protections supplémentaires conçues pour réduire l’exposition à des contenus sensibles, telles que la violence graphique ou gore, les défis viraux pouvant encourager des comportements risqués ou dangereux, les jeux de rôle à caractère sexuel, romantique ou violent, les contenus promouvant des normes de beauté extrêmes, des régimes alimentaires malsains ou du body shaming ».

Le risque est aussi que ça laisse plus de possibilités à OpenAI pour, ensuite, lâcher les vannes pour ses utilisateurs adultes et ainsi rejoindre Grok et xAI dans la génération de contenus sans réelles limites éthiques.

Rappelons qu’avec beaucoup moins de limites que ses concurrents, l’IA d’Elon Musk a généré des textes antisémites et négationnistes, des deepfakes dénudant des femmes et qu’il alimente le climatoscepticisme. La vague d’indignation mondiale suite aux deepfakes de Grok diffusés sur X ne semble pas avoir d’influence sur la levée des barrières décidée par les majors états-uniennes de l’IA.

• Deepfakes sur Grok : plus de 50 députés réclament un réseau social à la Commission européenne

L’annonce revêt une portée symbolique certaine : Sony, pionnier du téléviseur et référence emblématique du secteur, a annoncé le 20 janvier son projet de transférer les activités associées à ses gammes d’écrans Bravia au sein d’une coentreprise opérée en partenariat avec le fabricant chinois TCL.

Selon les termes préliminaires de ce protocole d’entente (memorandum of understanding), c’est TCL qui aurait le contrôle de cette nouvelle entité, avec 51 % des parts (et donc des droits de vote), contre 49 % pour Sony.

La coentreprise aurait vocation à intervenir sur l’ensemble de la chaine, « du développement et de la conception de produits à la fabrication, aux ventes, à la logistique et au service client pour des produits tels que les téléviseurs et les équipements audio domestiques », indique le géant japonais.

Sony et TCL viseraient un accord ratifié aux alentours de mars 2026. Une fois ce dernier validé par les différentes autorités compétentes, la coentreprise ainsi constituée débuterait ses activités à partir d’avril 2027.

Les deux partenaires présentent la démarche comme la combinaison du savoir-faire historique de Sony et de la puissance de sa marque aux capacités industrielles de TCL, notamment en matière de production de dalles haut de gamme, d’économies d’échelle et d’efficacité industrielle globale.

Les produits TV et audio de la future coentreprise (dont le nom n’a pas été révélé) porteront les marques Sony et Bravia. Le groupe japonais, qui confirme donc son virage engagé vers les contenus, n’a pas précisé quelles conséquences cet accord aurait sur ses propres ressources industrielles, notamment en matière d’emploi.

• C’est une première en France : « le smartphone dépasse le téléviseur au sein des foyers »

En octobre, Arduino annonçait deux grosses nouveautés. La première, son rachat par Qualcomm, un séisme dans le monde des microcontrôleurs, soulevant des inquiétudes malgré des promesses de laisser à Arduino « sa marque, ses outils et sa mission indépendants ».

La deuxième annonce était l’Arduino Uno Q et un SoC Qualcomm Dragonwing (d’où le Q dans le nom), avec une conception hybride. Ce produit peut se brancher à un ordinateur ou bien fonctionner de manière autonome grâce à un SoC et Linux.

• Qualcomm rachète Arduino, qui montre son Uno Q, une carte « double cerveau »

Seule la version avec 2 Go de mémoire et 16 Go de stockage était disponible, celle avec respectivement 4 et 32 Go devait arriver plus tard. Elle était prévue pour novembre, mais vient seulement d’arriver, comme annoncé par Arduino. Pas de changement au niveau du cœur de la machine : SoC Qualcomm Dragonwing QRB2210 et microcontrôleur STM32U58.

Arduino annonçait à l’époque un tarif de 59 euros, alors que la carte est vendue 64,66 euros aujourd’hui, sur la boutique officielle d’Arduino. Elle est vendue 64 euros chez RS, 64 euros aussi chez Kubii, 61 euros chez Farnell, mais seulement 53 euros chez Amazon.

Y a plus qu'à

Alors que le règlement sur l’internet ouvert a dix ans, l’autorité publie un rapport sur son rôle alors que les IA génératives bouleversent Internet aussi bien dans ses usages que dans son paysage économique. Elle y affirme que l’Europe doit plus appliquer les textes déjà votés aux entreprises d’IA plutôt que d’en voter de nouveaux.

À l’occasion des 10 ans du règlement sur « l’internet ouvert » qui a ancré dans les textes européens la fin de l’itinérance et la neutralité des réseaux, l’Arcep cherche à regarder plus loin.

L’autorité a posé la question « et ensuite ? » lors d’un événement organisé au Parlement européen et publié un rapport soulignant les « défis pour l’avenir de l’internet ouvert » engendrés par l’IA générative [PDF].

Dans celui-ci, l’Arcep estime que l’arrivée de ces nouveaux outils « qui produisent des réponses uniques aux requêtes des utilisateurs » est « susceptible d’entrer en contradiction avec certaines valeurs fondatrices de l’internet au premier rang desquelles son ouverture, entendue comme la liberté pour tout internaute d’accéder, de publier et de contribuer en ligne, et son caractère décentralisé, qui repose historiquement sur une pluralité de points d’accès, d’acteurs et de sources ».

L’IA générative change beaucoup de choses pour le principe de « l’internet ouvert »

L’autorité réaffirme « l’internet ouvert » comme un « principe fondateur pour l’innovation et les libertés en ligne ». Mais elle souligne que « depuis les premiers débats relatifs à la neutralité du net, l’écosystème numérique a profondément évolué ». Et qu’« au-delà des fournisseurs d’accès à internet, de grandes plateformes numériques, telles que les moteurs de recherche, les réseaux sociaux, les systèmes d’exploitation ou les boutiques d’applications, sont devenues des intermédiaires incontournables pour accéder aux contenus et services en ligne ».

L’Arcep constate que les IA génératives changent beaucoup de choses. Ainsi, pour l’autorité, avec les chatbots IA, « l’utilisateur passe d’un rôle d’explorateur du web, naviguant de lien en lien, à celui de lecteur d’une réponse synthétique produite par un système d’IA ». Elle note cependant que, depuis l’arrivée de ChatGPT, « des progrès notables » ont été réalisés, « avec le déploiement de mécanismes permettant d’expliciter le raisonnement et d’indiquer certaines sources mobilisées ».

L’autorité souligne que l’arrivée des agents IA pourrait conduire les internautes à leur déléguer le
choix des applications ou des services utilisés. « La sélection effectuée pourrait alors être orientée par les préférences ou les partenariats, notamment commerciaux, établis par le fournisseur du service d’IA, au détriment du libre choix et de l’innovation ouverte sur internet », commente-t-elle.

Tous ces changements soulèvent « des enjeux majeurs en matière de découvrabilité, de modèles économiques et de pérennité des acteurs traditionnels de la création et de la fourniture de contenus et de services en ligne ». L’Arcep n’oublie pas d’évoquer les problèmes liés aux sites GenAI en citant le travail de Next sur le sujet. Elle souligne d’ailleurs que « le scénario d’une artificialisation de l’internet, dominé par des contenus majoritairement synthétiques, constituerait non seulement une atteinte à la diversité en ligne, mais pourrait également fragiliser le développement des futurs services d’IA générative eux-mêmes, puisque les données issues du monde réel sont nécessaires à leur entraînement et à la qualité de leurs sorties ».

• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

Mais les textes européens sont là, il faut les appliquer, selon l’Arcep

Pour autant, l’autorité souligne l’existence du Digital Markets Act (DMA) qui a « apporté de premiers éléments de réponse », et l’Arcep pousse non pas à continuer de créer de nouveaux textes dans le droit européen, mais à « mobiliser les outils de régulation existants pour garantir l’ouverture des services d’IA générative ». Ainsi, elle souligne que le DMA « s’applique déjà à plusieurs acteurs et services intégrant des fonctionnalités d’IA, notamment certains moteurs de recherche, systèmes d’exploitation et navigateurs ».

Elle ajoute que « certaines de ses obligations nécessitent d’être adaptées », mais par l’adoption d’actes délégués. Ceux-ci permettent « au législateur de l’Union européenne de déléguer à la Commission européenne le pouvoir d’adopter des actes non législatifs de portée générale qui modifient ou complètent des éléments non essentiels de l’acte législatif », comme l’explique le Sénat.

L’autorité fait aussi remarquer que « bien que le cloud fasse déjà partie des services de plateforme essentiels au titre du DMA, aucun fournisseur de services cloud n’a, à ce jour, été désigné en tant que contrôleur d’accès ». Elle rappelle que la Commission enquête justement pour déterminer si Amazon et Microsoft doivent être désignées comme contrôleurs d’accès sur le cloud.« Si ces acteurs étaient désignés au titre du DMA, plusieurs obligations viendraient encadrer leurs pratiques et auraient un impact positif sur la diversité des services d’IA présents sur le marché », plaide l’autorité française. Elle souligne aussi la possibilité que les « principaux services d’IA générative puissent remplir à terme les conditions pour être directement visés par le DMA en tant que navigateurs web, services d’intermédiation ou moteurs de recherche ».

Pour l’Arcep, le Data Act pourrait être aussi mobilisé pour réguler ce nouveau secteur. « En particulier, le
règlement sur les données pourrait s’appliquer à certains fournisseurs d’IA générative dont les services sont susceptibles d’être identifiés à des services cloud, dont font par exemple partie les services de type ” AI as a service” (AIaaS), et ainsi faciliter la portabilité des données des utilisateurs et l’interopérabilité des système », explique-t-elle. Elle vise notamment le développement de l’IA agentique « qui nécessite des protocoles interopérables entre outils d’IA générative et services tiers », mais aussi la possibilité, pour les utilisateurs, « de changer facilement de fournisseur de service d’IA en conservant leurs données ».

Enfin, le DSA pourrait « contribuer à l’atténuation de certains risques liés à l’usage de l’IA générative ». Elle souligne que certaines entreprises étant déjà des fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne (on pense à Google, par exemple), elles sont déjà soumises à des exigences plus contraignantes par le texte. Mais l’autorité suggère que « certains services d’IA générative pourraient être considérés comme de très grands moteurs de recherche en ligne (VLOSE) et ainsi relever directement du périmètre d’application de ces obligations ». Ainsi, la Commission pourrait assez facilement contraindre des acteurs comme OpenAI, par exemple, sans que ne soient adoptées de nouvelles lois.

« L’arsenal réglementaire actuel fournit déjà des outils pertinents qu’il conviendra de mobiliser pour traiter une partie des problématiques identifiées et tempérer certains risques liés aux services d’IA », souligne l’autorité.

C’est via un message sur LinkedIn que le principal intéressé confirme son changement de crémerie. Le monde des GPU, il connait puisque cela fait plus de 25 ans qu’il baigne dedans.

Au début des années 2000, il est chez ATI, puis il passe chez AMD après le rachat. Il part ensuite pour un voyage de 14 ans chez Qualcomm pour finir vice-président senior de l’ingénierie, en charge du développement des GPU de Qualcomm, la gamme de produits Adreno.

Chez Intel, il occupe le poste de vice-président senior (des vice-présidents, il y en a à la pelle) en charge de l’architecture GPU. Il précise à CRN que, dans ses missions, il y a un « focus sur l’IA ». Intel a, pour rappel, annoncé récemment une nouvelle série de CPU pour le mobile : les Core Ultra Series 3, notamment avec la gamme « X » équipée d’un GPU Arc B390. Rendez-vous le 27 janvier pour les premiers tests indépendants.

• Intel lance 14 processeurs Core Ultra Series 3 (Panther Lake), les premiers gravés en 18A

Dans un message sur LinkedIn, il explique que cette décision vient d’une discussion avec sa femme sur l’avenir et de rencontres avec Lip-Bu Tan (le patron d’Intel) : « Il m’a impressionné. Charmant, intelligent et clairement stratégique dans ses opinions sur Intel ». Pas un mot par contre sur Qualcomm, son ancien employeur.