Audi a amélioré la gestion interne de ses connaissances à l'aide d'un chatbot basé sur l'IA générative. Le système a été développé par Storm Reply, un partenaire AWS. Pour développer ce bot, l'entreprise a eu recours à Amazon Sagemaker. Cette plateforme cloud permet aux utilisateurs de créer, d'entraîner et de mettre en oeuvre des modèles de Machine Learning.

Les employés d'Audi utilisent le chatbot pour trouver des informations en quelques secondes, par exemple des données issues de documentations de projets et d'évaluations de risques. « Le chatbot est capable d'intégrer des données provenant de sources telles que Confluence, Notion, des PDF et des sites web spécifiques afin de maintenir la base de données à jour », explique Filippo Rizzante, le Chief Technology Officer de Reply.

L'aspect sécurité a également été pris en compte : « L'architecture du chatbot a été développée dans un Virtual Private Cloud (VPC) afin de garantir la sécurité des données et la confidentialité des utilisateurs », reprend le CTO.

Seules les données pertinentes sont mises à disposition

Le chatbot ne met à la disposition des utilisateurs que des données pertinentes. Cela signifie qu'il n'invente pas de réponses (les fameuses hallucinations) lorsque les informations dont il dispose sont insuffisantes. Au lieu de cela, le bot informe l'utilisateur qu'il ne peut pas répondre avec certitude à la question, faute de données manquantes.

L'un des éléments clés du système est la génération augmentée de récupération (RAG pour Retrieval Augmented Generation). Cette approche combine des composants dédiés à la création de textes assistée par l'IA avec des fonctions pour l'extraction d'informations à partir de différentes sources telles que des bases de données, des articles de blog et des bases de documents.

L'un des avantages du RAG réside dans le fait que la base de connaissances peut être modifiée et affinée sans qu'il soit nécessaire de former à nouveau le modèle de langage. De plus, le RAG fournit des réponses qui sont davantage liées au contexte des requêtes (voir encadré).

Des extensions pour un effort réduit

Le chatbot permet à Audi de briser les silos de connaissances, de rationaliser les processus et, en fin de compte, de réduire les coûts. « Il réduit les obstacles à la recherche de connaissances pour nos différents interlocuteurs internes et ne nécessitera probablement que peu d'efforts supplémentaires pour être étendu à d'autres cas d'utilisation », explique Michael Pawelke, Product Owner AWS Foundation Services chez Audi AG.

À cela s'ajoute un autre facteur : « Le chatbot d'IA générative développé par Storm Reply accélère notre transition vers le cloud. C'est un excellent exemple de la façon dont une technologie innovante peut être utilisée pour résoudre des cas d'usage pratiques avec un court de mise en oeuvre réduit », ajoute Michael Pawelke.