Depuis fin 2022, le phénomène ChatGPT a déferlé dans l'espace numérique. Touchant inévitablement l'entreprise. Sauf qu'en raison de ses caractéristiques intrinsèques - hallucinations fréquentes, exfiltration des données intégrées aux prompts... -, l'outil d'OpenAI n'est guère adapté aux contraintes professionnelles. Et que l'univers des LLM (Large Language Model, le socle technologique de ChatGPT) s'est depuis rapidement complexifié, avec l'émergence d'un grand nombre de modèles plus ou moins performants en fonction des tâches qui leur sont assignées.

Visionnez l'émission des rédactions du Monde Informatique et de CIO avec les témoignages du Crédit Agricole, de Veolia et de Club Med (vidéo, 54 min.)

Pour toutes ces raisons, les grandes entreprises ont mis en oeuvre des stratégies dédiées, ciblant souvent, dans un premier temps, des gains de productivité en interne. « Il fallait d'abord mutualiser les réflexions au sein du groupe pour comprendre la technologie et au-delà, encadrer la façon dont nous allions l'expérimenter, puis passer à l'échelle », raconte Aldrick Zappellini, le chief data officer de Crédit Agricole. « Nous avons réuni très rapidement une quinzaine d'entités pour élaborer une stratégie d'adoption maîtrisée de l'IA générative. » Une stratégie basée sur l'expérimentation des cas d'usage les plus prometteurs.

Proposer une réponse, garder la traçabilité des sources

La banque choisit tout d'abord de se cantonner à des usages internes : pas question, par exemple, d'ouvrir un chatbot à destination des clients. « Ensuite, nous avons défini des conditions plus techniques pour ces expérimentations : nous ne menons nos tests que sur des environnements que nous maîtrisons », reprend le CDO. Les équipes de ce dernier ont également élaboré un cadre commun d'évaluation des résultats des expérimentations et des gains susceptibles d'en découler. « La technologie a été très utilisée par tous les métiers associés à un grand volume de procédures, de normes, de réglementations. Le chatbot (développé par la banque pour tester les usages en interne, NDLR) permet alors de rédiger une réponse à une question, tout en traçant les sources », indique le CDO.

Dans le collaboratif, les expérimentations du Crédit Agricole autour de Microsoft Copilot touchent 300 collaborateurs dans divers métiers. « Le premier bilan, c'est que l'intégration à un poste bancaire, par nature très sécurisé, impose un travail préparatoire. Les fonctions très packagées intégrées à Teams sont plébiscitées : comptes-rendus de réunion, résumés de conversations, capacité à rattraper les premiers échanges d'une réunion à laquelle on arrive en retard, indique Aldrick Zappellini. Dans Word et PowerPoint, un apprentissage aux prompts s'avère nécessaire et nous allons porter l'effort là-dessus. L'offre reste encore un peu en retrait dans Excel. » Mais le CDO insiste sur la nécessité de garder un esprit critique vis-à-vis des résultats fournis par la technologie. « Nous sommes dans une logique de gain de productivité, mais le collaborateur reste responsable du contenu produit. »

Une application devenue un ensemble d'API

Chez Veolia, la DSI groupe a pris très tôt le parti de développer une application permettant de tester les différents usages de l'IA générative auprès de l'ensemble de ses plus de 100 000 collaborateurs. Ouverte en 2023, SecureGPT - c'est son nom - permet de converser avec un LLM, de traduire des documents et de charger ses propres documents de travail pour les interroger (soit une approche RAG). « L'application a déjà évolué et permet désormais d'interroger des bases de connaissances très volumineuses, comptant plusieurs dizaines de milliers de fichiers chacune, ou encore de générer des images pour des besoins internes et externes. Par ailleurs, le service est passé d'une application à une plateforme d'API, ce qui permet aux collaborateurs et aux DSI du groupe de construire des architectures modulaires », indique Fouad Maach, responsable de l'architecture au sein de la DSI de Veolia Group.


Fouad Maach, responsable de l'architecture au sein de la DSI de Veolia Group : « L'objectif de proposer, en fonction du cas d'usage et du profil de l'utilisateur, un prompt et un LLM optimisé. »

Pour ce dernier, le taux d'adoption du service - utilisé désormais par plus de la moitié des cols blancs du groupe - est un bon indicateur de la percée de la technologie et de son utilité dans le quotidien des collaborateurs. « Nous avons des retours très positifs des fonctions support et de nombreuses demandes des métiers - eau, déchets et énergie - de mise en place du service par API afin d'enrichir les applications existantes, indique l'architecte en chef. C'est aussi une révolution des usages. Nous devons donc accompagner les utilisateurs pour qu'ils appréhendent au mieux les forces et faiblesses de ce type d'outils. » Pour ce faire, Veolia a mis en place une formation tant théorique que pratique à grande échelle, avec des champions formés dans toutes les filiales afin de démultiplier le programme.

Visionnez l'émission des rédactions du Monde Informatique et de CIO avec les témoignages du Crédit Agricole, de Veolia et de Club Med (vidéo, 54 min.)

« La plateforme continue à s'étoffer notamment avec une grande diversité de modèles de LLM, assure Fouad Maach. L'objectif est d'identifier le LLM le plus pertinent pour les différents cas d'usage et d'enrichir une bibliothèque de prompts afin de proposer, en fonction du cas d'usage et du profil de l'utilisateur, un prompt et un LLM optimisé. » Une façon également de limiter les coûts et l'impact environnemental de la technologie.

Gemini pour indexer les images

L'IA générative est venue également bousculer les habitudes des collaborateurs de Club Med, comme le raconte son Chief Data Officer, Siddharta Chatterjee. « Nous avons décidé d'être un pionner des usages de l'IA générative, en visant tant l'amélioration de l'expérience client que l'augmentation de l'efficacité interne. Depuis plus d'un an maintenant, nous travaillons sur les cas d'usage dans ces deux directions », indique notre invité. Avec notamment un chatbot dédié aux conseillers assurant la préparation des vacances des clients du groupe de loisirs aux 25 000 collaborateurs, afin d'accélérer la recherche d'information en langage naturel sur les 70 villages Club Med. Ou encore avec l'indexation des images. « Nous avons exploré les capacités multimodales de la technologie pour labelliser les images automatiquement, avec Gemini, le LLM de Google. Les résultats sont très satisfaisants et même supérieurs à l'indexation manuelle », assure le CDO. Qui souligne encore : « sur tous ces cas d'usage centrés sur nos collaborateurs, nous avons adopté une approche bottom-up, démarrant par les points de douleur ressentis par les équipes pour prioriser les cas d'usage. Et les collaborateurs sont très intéressés par la technologie, qui est devenue le premier sujet de formation en interne. » Même si l'arrivée de la GenAI suscite également des préoccupations parmi les équipes, reconnaît Siddharta Chatterjee.


Siddharta Chatterjee, CDO de Club Med : « la qualité des données et leur disponibilité sont des facteurs essentiels dans le succès des déploiements ».

Surtout, Club Med a désormais décliné le chatbot créé pour ses conseillers à destination cette fois de ses clients. L'outil a été testé au Brésil, via le canal WhatsApp très utilisé localement. « Cet outil est capable de gérer seul 40% des demandes des clients relatives aux questions sur nos resorts et ils sont satisfaits à 80% des réponses apportées », détaille Siddharta Chatterjee, qui vise désormais un déploiement à plus grande échelle et une extension des capacités de l'outil à la fourniture de devis.

Mais, pour le CDO, les différentes expérimentations menées jusqu'à présent montrent que cette technologie n'est pas totalement clef en mains, contrairement à ce que laissent entendre les discours marketing des éditeurs. « Et, pour les outils conversationnels, la qualité des données et leur disponibilité sont des facteurs essentiels dans le succès des déploiements », souligne le CDO. Faute de quoi la confiance des utilisateurs - internes ou externes - dans ces outils serait détruite. « Le sujet de la gouvernance redevient sexy, car, avec l'IA générative, vous avez besoin d'une qualité de données presque parfaite. »

Visionnez l'émission des rédactions du Monde Informatique et de CIO avec les témoignages du Crédit Agricole, de Veolia et de Club Med (vidéo, 54 min.