Bouh ! Même pas peur (enfin pas trop)

Au forum de Davos, plusieurs dirigeants d’entreprises de la tech américaine se disputent sur la tactique à mettre en place face à la Chine dans la course à l’IA, chacun voyant midi à sa porte.

Avant que l’arrivée de Donald Trump à Davos ne recentre les discussions sur sa volonté d’annexion du Groenland, les dirigeants des géants américains de l’IA générative ont opposé leurs visions stratégiques concentrées sur un pays qu’ils considèrent comme leur seul adversaire : la Chine.

Si les volontés chinoises de s’emparer du territoire dépendant du Danemark ne se retrouvent vraiment que dans les déclarations du dirigeant américain, la Chine a montré de réelles capacités concernant l’IA il y a un an avec le modèle R1 de DeepSeek. Publié en open-source, il provoquait une déflagration sur le marché de l’IA et, même si la course était déjà bien engagée avant, les entreprises états-uniennes découvraient qu’elles avaient de sérieux concurrents dans le pays dirigé par Xi Jinping.

Cette année, les dirigeants de la tech américaine se disputent sur la stratégie à mettre en place. Certains évoquent clairement le pays comme l’éventuel futur de l’IA. Ruth Porat, la présidente et directrice des investissements chez Alphabet (Google), a affirmé à Semafor que la Chine répondrait forcément présente si un vide était laissé par les États-Unis. Elle raconte à nos confrères que des chefs d’États lui affirment ne pas vouloir rater cette transformation numérique et que « si les États-Unis ne sont pas là, nous travaillerons avec la Chine ».

« Comme vendre des armes nucléaires à la Corée du Nord »

Dans le même sens, le CEO d’Anthropic, Dario Amodei a profité d’une interview chez Bloomberg pour critiquer le choix pris récemment par l’administration Trump d’autoriser NVIDIA à exporter en Chine ses puces H200. « Les PDG de ces entreprises affirment que “c’est l’embargo sur les puces électroniques qui nous freine” », a-t-il affirmé.

• Trump autorise la vente de puces NVIDIA H200 en Chine… mais la Chine en veut-elle ?

Les H200 seraient les puces américaines les plus avancées qui pourraient être exportées en Chine, font remarquer nos confrères de Bloomberg et NVIDIA n’y vendrait pas ses Blackwell et celles qui sont encore en préparation dans ses laboratoires (Vera Rubin et suivantes).

Mais pour lui, cette décision va se retourner contre les États-Unis : « Nous avons plusieurs années d’avance sur la Chine en matière de fabrication de puces. Je pense donc que ce serait une grave erreur d’expédier ces puces ». Cette avance pourrait aussi fondre comme neige au soleil, avec la Chine qui met des moyens colossaux dans ses champions locaux (Huawei et Baidu) pour développer des GPU maison capables de rivaliser avec ceux de NVIDIA.

• NVIDIA pris entre deux feux : on vous explique la bataille entre les États-Unis et la Chine

« Je trouve cela complètement fou », a ajouté Dario Amodei, « c’est un peu comme vendre des armes nucléaires à la Corée du Nord et se vanter que Boeing a fabriqué les boîtiers ». Mais il n’a pas voulu répondre quand le rédacteur en chef de Bloomberg, John Micklethwait, lui a fait remarquer que son ami, David Sacks, qui est aussi le CEO de Palantir, était « en train d’armer les Chinois ».

Une vision atténuée par Demis Hassabis, le CEO de DeepMind

Cette vision du danger chinois pour les entreprises d’IA américaines est un peu atténuée par le CEO de DeepMind, Demis Hassabis. Pour lui, il y a eu une « réaction disproportionnée » l’année dernière face à l’arrivée du modèle R1 de Deepseek.

Le développement de l’IA en Chine n’a pas encore atteint le niveau américain : « ils sont très doués pour rattraper leur retard et se rapprocher de la frontière, et ils sont de plus en plus capables de le faire, affirme-t-il, mais je pense qu’ils doivent encore prouver qu’ils peuvent innover au-delà ».

Rappelons que pour mettre en place R1, la recherche chinoise a paradoxalement été boostée par les restrictions américaines. Les chercheurs de DeepSeek se sont posé, à l’époque, la question de la possibilité de faire sans les H100 de NVIDIA et ont élaboré une architecture capable d’entrainer le modèle sur des puces H800, une version castrée pour le marché chinois.

• DeepSeek : la recherche chinoise paradoxalement boostée par les restrictions américaines

Le CEO de NVIDIA, Jensen Huang, semble avoir volontairement évité de mentionner la Chine comme le fait remarquer le South China Morning Post. Mais pour lui, chaque pays devrait développer son propre système d’IA, en intégrant sa propre langue et sa propre culture dans les modèles.

Selon Reuters reprenant Bloomberg, la réouverture du marché pour son entreprise le pousserait à faire une visite d’ici la fin du mois. Il y a quelques mois, il marchait sur des œufs : « Nous ne pouvons servir un marché que si le pays le veut bien […] Je suis déçu par ce que je vois, mais il y a des sujets plus larges à régler entre la Chine et les États-Unis, et je le comprends ». Il avait alors « demandé à tous les analystes financiers de ne pas inclure la Chine » dans les prévisions. L’ambiance change.

Le CEO de Microsoft, Satya Nadella, semble vouloir éviter le sujet, par contre. Il est resté dans le nouveau couloir de communication de son entreprise sur le besoin de mettre en place une IA qui serait utile. « En tant que communauté mondiale, nous devons parvenir à utiliser l’IA pour faire quelque chose d’utile qui change la vie des gens, des communautés, des pays et des industries » a-t-il déclaré.

• Pour Microsoft, le slop de l’IA est un sujet dépassé, place à l’IA utile

La Chine n’est pas le seul sujet de préoccupation (même s’il est sur toutes les lèvres ou presque), comme en témoigne la présidente de la fondation Signal. Elle préfère aborder les questions de sécurité que pose l’introduction des agents IA. Notamment, elle a souligné que leur intégration plus poussée dans les appareils serait « assez périlleuse ».

Fidèle au créneau de sécurité de la vie privée de Signal, elle pointe leurs besoins d’accéder à d’énormes quantités de données stockées dans les diverses applications. Et elle souligne que casser « la barrière hémato-encéphalique entre l’application et le système d’exploitation » provoquerait des risques : « Si vous accordez à un tel système des droits d’accès root, il peut être piraté ».

Et de mettre en avant le problème pour une application comme Signal : « Notre chiffrement n’a plus d’importance si tout ce que vous avez à faire est de détourner cette fenêtre contextuelle qui dispose effectivement des droits root dans votre système d’exploitation pour accéder à toutes ces données ».

What could go wrong?

L’entreprise de Sam Altman annonce la mise en place de plusieurs barrières pour les mineurs. Des protections supplémentaires… avant de lâcher la bride à son chatbot sur ce que les adultes peuvent générer ? C’est ce qu’avait laissé entendre Sam Altman, affaire à suivre donc.

OpenAI a annoncé ce mardi la mise en place de son système interne de prédiction d’âge sur ChatGPT ainsi qu’un système de vérification d’âge géré par une entreprise tierce en deuxième option. Ce double système doit permettre de séparer les utilisations de son chatbot par les adolescents et par les adultes.

Sam Altman avait déjà sorti que son chatbot pourrait être plus érotique à l’occasion de cette séparation, mais OpenAI précise que les filtres de ChatGPT seront différents aussi pour d’autres sujets comme la violence graphique ou gore et les comportements malsains. Le déploiement est mondial, mais la société précise que, « dans l’UE, la prédiction de l’âge sera mise en place dans les prochaines semaines afin de tenir compte des exigences régionales ».

Deux solutions possibles pour franchir la barrière d’âge

Pour permettre d’accéder à son chatbot avec des restrictions beaucoup plus faibles, OpenAI propose plusieurs solutions censées filtrer les moins de 18 ans. Si les adolescents déclarent être âgés de moins de 18 ans lors de leur inscription, l’entreprise active des filtres de protection « visant à réduire leur exposition à des contenus sensibles ou potentiellement préjudiciables ».

Mais si l’utilisateur ne donne pas explicitement son âge, OpenAI utilise deux systèmes pour filtrer les mineurs. La première est un système interne de « prédiction d’âge ». Ici pas de scan de carte d’identité. OpenAI va utiliser toutes les données qu’elle collecte sur l’utilisateur pour prédire s’il a ou non plus de 18 ans. « Il examine différents signaux liés à votre compte. Par exemple, il peut examiner les sujets généraux dont vous parlez ou les moments de la journée où vous utilisez ChatGPT », affirme l’entreprise dans sa page d’aide à ce sujet. Si l’entreprise donne ces exemples, elle ne dévoile pas tous les paramètres qu’elle prend en compte pour prédire l’âge de l’utilisateur.

« Aucun système n’est parfait. Il peut parfois y avoir des erreurs », explique OpenAI dans un moment d’humilité rare dans le monde de l’IA. Elle explique que « si vous avez 18 ans ou plus et que vous avez été classé par erreur dans la catégorie des moins de 18 ans, vous pouvez vérifier votre âge ». Pour ça, l’entreprise utilise le système de vérification d’un tiers nommé Persona.

Pour cette vérification, Persona pourra, en fonction du pays où l’utilisateur se trouve, utiliser soit un selfie live soit une pièce d’identité qu’il faudra uploader. « Persona vérifie votre date de naissance et s’assure que votre selfie correspond à la photo de votre pièce d’identité », explique OpenAI, qui ajoute que « les pièces d’identité acceptées varient selon les pays ». Au passage, elle précise que Persona doit supprimer les photos des pièces d’identité et les selfies sept jours après la vérification. Le tiers envoie la date de naissance de l’utilisateur ou la prédiction d’âge. L’entreprise de Sam Altman assure conserver « ces informations en toute sécurité et les [utiliser] uniquement conformément à la politique de confidentialité d’OpenAI ».

Au passage, on peut remarquer qu’OpenAI n’a pas choisi de s’appuyer sur l’outil de scan d’iris de World ID, l’autre entreprise de Sam Altman.

• Reddit envisage de vérifier ses utilisateurs avec l’outil de scan d’iris de Sam Altman

Des filtres différents sur des sujets sensibles selon l’âge de l’utilisateur

À partir du moment où l’utilisateur est enregistré comme ayant plus de 18 ans par OpenAI, ChatGPT aura beaucoup moins de garde-fous.

Si l’utilisateur est détecté comme ayant moins de 18 ans, ChatGPT « applique automatiquement des protections supplémentaires conçues pour réduire l’exposition à des contenus sensibles, telles que la violence graphique ou gore, les défis viraux pouvant encourager des comportements risqués ou dangereux, les jeux de rôle à caractère sexuel, romantique ou violent, les contenus promouvant des normes de beauté extrêmes, des régimes alimentaires malsains ou du body shaming ».

Le risque est aussi que ça laisse plus de possibilités à OpenAI pour, ensuite, lâcher les vannes pour ses utilisateurs adultes et ainsi rejoindre Grok et xAI dans la génération de contenus sans réelles limites éthiques.

Rappelons qu’avec beaucoup moins de limites que ses concurrents, l’IA d’Elon Musk a généré des textes antisémites et négationnistes, des deepfakes dénudant des femmes et qu’il alimente le climatoscepticisme. La vague d’indignation mondiale suite aux deepfakes de Grok diffusés sur X ne semble pas avoir d’influence sur la levée des barrières décidée par les majors états-uniennes de l’IA.

• Deepfakes sur Grok : plus de 50 députés réclament un réseau social à la Commission européenne

Y a plus qu'à

Alors que le règlement sur l’internet ouvert a dix ans, l’autorité publie un rapport sur son rôle alors que les IA génératives bouleversent Internet aussi bien dans ses usages que dans son paysage économique. Elle y affirme que l’Europe doit plus appliquer les textes déjà votés aux entreprises d’IA plutôt que d’en voter de nouveaux.

À l’occasion des 10 ans du règlement sur « l’internet ouvert » qui a ancré dans les textes européens la fin de l’itinérance et la neutralité des réseaux, l’Arcep cherche à regarder plus loin.

L’autorité a posé la question « et ensuite ? » lors d’un événement organisé au Parlement européen et publié un rapport soulignant les « défis pour l’avenir de l’internet ouvert » engendrés par l’IA générative [PDF].

Dans celui-ci, l’Arcep estime que l’arrivée de ces nouveaux outils « qui produisent des réponses uniques aux requêtes des utilisateurs » est « susceptible d’entrer en contradiction avec certaines valeurs fondatrices de l’internet au premier rang desquelles son ouverture, entendue comme la liberté pour tout internaute d’accéder, de publier et de contribuer en ligne, et son caractère décentralisé, qui repose historiquement sur une pluralité de points d’accès, d’acteurs et de sources ».

L’IA générative change beaucoup de choses pour le principe de « l’internet ouvert »

L’autorité réaffirme « l’internet ouvert » comme un « principe fondateur pour l’innovation et les libertés en ligne ». Mais elle souligne que « depuis les premiers débats relatifs à la neutralité du net, l’écosystème numérique a profondément évolué ». Et qu’« au-delà des fournisseurs d’accès à internet, de grandes plateformes numériques, telles que les moteurs de recherche, les réseaux sociaux, les systèmes d’exploitation ou les boutiques d’applications, sont devenues des intermédiaires incontournables pour accéder aux contenus et services en ligne ».

L’Arcep constate que les IA génératives changent beaucoup de choses. Ainsi, pour l’autorité, avec les chatbots IA, « l’utilisateur passe d’un rôle d’explorateur du web, naviguant de lien en lien, à celui de lecteur d’une réponse synthétique produite par un système d’IA ». Elle note cependant que, depuis l’arrivée de ChatGPT, « des progrès notables » ont été réalisés, « avec le déploiement de mécanismes permettant d’expliciter le raisonnement et d’indiquer certaines sources mobilisées ».

L’autorité souligne que l’arrivée des agents IA pourrait conduire les internautes à leur déléguer le
choix des applications ou des services utilisés. « La sélection effectuée pourrait alors être orientée par les préférences ou les partenariats, notamment commerciaux, établis par le fournisseur du service d’IA, au détriment du libre choix et de l’innovation ouverte sur internet », commente-t-elle.

Tous ces changements soulèvent « des enjeux majeurs en matière de découvrabilité, de modèles économiques et de pérennité des acteurs traditionnels de la création et de la fourniture de contenus et de services en ligne ». L’Arcep n’oublie pas d’évoquer les problèmes liés aux sites GenAI en citant le travail de Next sur le sujet. Elle souligne d’ailleurs que « le scénario d’une artificialisation de l’internet, dominé par des contenus majoritairement synthétiques, constituerait non seulement une atteinte à la diversité en ligne, mais pourrait également fragiliser le développement des futurs services d’IA générative eux-mêmes, puisque les données issues du monde réel sont nécessaires à leur entraînement et à la qualité de leurs sorties ».

• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

Mais les textes européens sont là, il faut les appliquer, selon l’Arcep

Pour autant, l’autorité souligne l’existence du Digital Markets Act (DMA) qui a « apporté de premiers éléments de réponse », et l’Arcep pousse non pas à continuer de créer de nouveaux textes dans le droit européen, mais à « mobiliser les outils de régulation existants pour garantir l’ouverture des services d’IA générative ». Ainsi, elle souligne que le DMA « s’applique déjà à plusieurs acteurs et services intégrant des fonctionnalités d’IA, notamment certains moteurs de recherche, systèmes d’exploitation et navigateurs ».

Elle ajoute que « certaines de ses obligations nécessitent d’être adaptées », mais par l’adoption d’actes délégués. Ceux-ci permettent « au législateur de l’Union européenne de déléguer à la Commission européenne le pouvoir d’adopter des actes non législatifs de portée générale qui modifient ou complètent des éléments non essentiels de l’acte législatif », comme l’explique le Sénat.

L’autorité fait aussi remarquer que « bien que le cloud fasse déjà partie des services de plateforme essentiels au titre du DMA, aucun fournisseur de services cloud n’a, à ce jour, été désigné en tant que contrôleur d’accès ». Elle rappelle que la Commission enquête justement pour déterminer si Amazon et Microsoft doivent être désignées comme contrôleurs d’accès sur le cloud.« Si ces acteurs étaient désignés au titre du DMA, plusieurs obligations viendraient encadrer leurs pratiques et auraient un impact positif sur la diversité des services d’IA présents sur le marché », plaide l’autorité française. Elle souligne aussi la possibilité que les « principaux services d’IA générative puissent remplir à terme les conditions pour être directement visés par le DMA en tant que navigateurs web, services d’intermédiation ou moteurs de recherche ».

Pour l’Arcep, le Data Act pourrait être aussi mobilisé pour réguler ce nouveau secteur. « En particulier, le
règlement sur les données pourrait s’appliquer à certains fournisseurs d’IA générative dont les services sont susceptibles d’être identifiés à des services cloud, dont font par exemple partie les services de type ” AI as a service” (AIaaS), et ainsi faciliter la portabilité des données des utilisateurs et l’interopérabilité des système », explique-t-elle. Elle vise notamment le développement de l’IA agentique « qui nécessite des protocoles interopérables entre outils d’IA générative et services tiers », mais aussi la possibilité, pour les utilisateurs, « de changer facilement de fournisseur de service d’IA en conservant leurs données ».

Enfin, le DSA pourrait « contribuer à l’atténuation de certains risques liés à l’usage de l’IA générative ». Elle souligne que certaines entreprises étant déjà des fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne (on pense à Google, par exemple), elles sont déjà soumises à des exigences plus contraignantes par le texte. Mais l’autorité suggère que « certains services d’IA générative pourraient être considérés comme de très grands moteurs de recherche en ligne (VLOSE) et ainsi relever directement du périmètre d’application de ces obligations ». Ainsi, la Commission pourrait assez facilement contraindre des acteurs comme OpenAI, par exemple, sans que ne soient adoptées de nouvelles lois.

« L’arsenal réglementaire actuel fournit déjà des outils pertinents qu’il conviendra de mobiliser pour traiter une partie des problématiques identifiées et tempérer certains risques liés aux services d’IA », souligne l’autorité, qui les détaille et illustre dans une BD disponible (en français et en anglais) en exergue de son communiqué.