Salesforce va réduire l’usage des LLM dans certains scénarios pour gagner en fiabilité
Salesforce, un mastodonte du logiciel B2B, lève le pied sur l’intégration massive de l’IA. Pour rappel, ce géant américain est spécialisé dans les produits de relation client et a racheté Slack en 2021. Si le groupe propose différents services basés sur des LLM, il a récemment changé son fusil d’épaule en expliquant vouloir faire appel à des automatisations déterministes basiques sur certains points. Cette approche qui fonctionne à chaque fois est donc dans certains cas préférée aux modèles de langage.

Salesforce est connu pour Agentforce, un outil servant à automatiser des actions variées grâce à l’IA. Sanjna Parulekar, vice-présidente du marketing produit, a confié à The Information vouloir revenir à un système plus simple à la place des modèles de langage dans certains scénarios. « Nous avions tous davantage confiance dans les LLM il y a un an », a-t-elle déclaré.
Le mouvement surprend, le site de l’entreprise allant jusqu’à vanter une approche plus déterministe pour éviter que les LLM n’improvisent. Salesforce annonce qu'Agentforce peut aider à « éliminer le caractère aléatoire inhérent » aux LLM, garantissant que les flux de travail critiques « suivent exactement les mêmes étapes à chaque fois ».
Ce pas en arrière reflète la difficulté pour certaines entreprises d’adopter les LLM, une technologie ayant la mauvaise habitude d’halluciner des informations sans qu’il ne soit possible d’en créer une 100 % fiable. Or, de mauvaises réponses données à un client ou des chiffres inventés dans un tableur Excel peuvent avoir des conséquences lourdes pour une entreprise.
Pour le CTO d’Agentforce Muralidhar Krishnaprasad, il est donc parfois plus avantageux de revenir à de bonnes vieilles commandes basiques. « Si vous donnez à un LLM plus de, disons, huit instructions, il commence en quelque sorte à en laisser tomber certaines, ce qui n'est pas très bon », a-t-il déclaré. « Il y a des aspects où vous voulez qu'il soit absolument déterministe, et vous ne gaspillez pas de tokens pour cela. C'est une autre façon pour nous de réduire le coût du LLM, mais surtout, nous nous assurons que les gens obtiennent les bonnes réponses ». Autrement dit, la meilleure solution pour baisser la facture des LLM… c’est de ne pas s’en servir !
The Information relaye le cas de l’entreprise de télésurveillance Vivint, qui a voulu adopter Agentforce pour son SAV. L’IA n’était pas complètement fiable, refusant parfois d’envoyer un questionnaire de satisfaction en fin de discussion. Salesforce a finalement mis en place une commande basique pour effectuer l’action après chaque conversation d’une manière ne reposant pas sur l’IA.