Selon Bloomberg, X, le réseau social d'Elon Musk, est devenu l'un des sites les plus utilisés pour diffuser des images de personnes déshabillées sans leur consentement par une intelligence artificielle. Des milliers de cas ont été recensés chaque heure au cours d'une journée en début de semaine. Depuis fin décembre, les utilisateurs de X sollicitent de plus en plus Grok, le chatbot IA associé au réseau social, pour modifier les photos qu'ils publient. Lors d'une analyse de 24 heures des images publiées par le compte @Grok sur X, le chatbot a généré environ 6 700 images par heure à caractère sexuel ou montrant de la nudité, d'après Genevieve Oh, chercheuse spécialisée dans les médias sociaux et les deepfakes. Les cinq autres sites les plus populaires pour ce type de contenu ont enregistré en moyenne 79 nouvelles images de déshabillage par IA par heure sur la même période, entre le 5 et le 6 janvier, a constaté Oh. L'ampleur des deepfakes sur X est « sans précédent », a déclaré Carrie Goldberg, avocate spécialisée dans les crimes sexuels en ligne. « Nous n'avons jamais eu de technologie aussi simple pour générer de nouvelles images », a-t-elle ajouté, car Grok est gratuit et connecté à un système de distribution intégré.
Contrairement à d'autres chatbots de premier plan, Grok n'impose que peu de limites aux utilisateurs et ne les empêche pas de créer du contenu sexualisé mettant en scène de vraies personnes, y compris des mineurs, a expliqué Brandie Nonnecke, directrice des politiques chez Americans for Responsible Innovation. D'autres technologies d'IA générative, notamment celles d'Anthropic PBC, d'OpenAI et de Google (Alphabet Inc.), « s'efforcent de limiter la création de ce type de contenu », a-t-elle précisé. « De toute évidence, xAI est différent. C'est un peu la foire d'empoigne. » Musk a présenté Grok comme plus ludique et irrévérencieux que les autres chatbots, se félicitant que X soit un espace de liberté d'expression. X n'a pas répondu aux demandes de commentaires. Plutôt que d'empêcher le chatbot de créer ce contenu, Musk a évoqué la possibilité de sanctionner les utilisateurs qui le sollicitent. « Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s'il téléchargeait du contenu illégal », a déclaré Musk en réponse à une publication sur X. (
Lire la suite)