La plupart des éditeurs sont passés à l’acte 2 des chatbots IA. Place aux agents, des applications plus complexes qui nécessitent plus de réflexion, de code, de tests et de garanties. Cette évolution entraîne par ailleurs un changement dans les outils de développement. Chez Microsoft, une grande partie des outils actuels d’Azure au-delà de ses API Cognitive Services, sont axés sur la construction de chatbots, utilisant le framework Prompt Flow pour ajouter des index vectoriels externes aux LLM pour le RAG. Le tout en rajoutant une couche de sécurité. Pour les agents, Microsoft mise sur une autre plateforme présentée à l’occasion de la conférence Ignite à Chicago : Azure AI Foundry.
Un hub pour développer des agents IA
L’éditeur définit ce dernier comme « une plateforme complète pour construire, évaluer et déployer des applications d'IA à grande échelle ». Au lieu de se concentrer sur des services comme Azure AI Studio, l'entreprise amène le développement d'Azure AI là où se trouvent les développeurs : leurs environnements de développement. AI Foundry se connectera aux IDE et aux éditeurs tels que Visual Studio et Visual Studio Code, ainsi qu'à des plateformes telles que GitHub.
Cela ne signifie pas la fin d'AI Studio. Au contraire, il va jouer un nouveau rôle en tant que portail où vous pouvez gérer vos modèles et les applications qui les utilisent. Il servira de pont entre l'entreprise et le développement, permettant aux propriétaires d'applications, aux parties prenantes et aux architectes de partager les mesures nécessaires concernant son code. AI Foundry aidera à gérer l'accès aux outils et aux services, en utilisant un abonnement Azure pour rassembler les informations clés dans une vue unique. Le service cloud sera capable de gérer aussi les ressources et les privilèges et de réduire le risque de failles de sécurité.
Azure AI Foundry est une portail réunissant plusieurs outils pour développer ses agents. (Crédit Photo: Microsoft)
Une plateforme commune entre les développeurs et les métiers
AI Foundry est aussi un lieu de bonnes pratiques avec un accès à la documentation sur Azure Essentials. Les développeurs peuvent ainsi consulter la plateforme pour connaître les règles de l’art en matière d'architecture et de conception développées par les partenaires de Microsoft et sa propre équipe de services. Ils ont accès également à Azure Migrate, le Cloud Adoption Framework et les directives Well Architected. La plateforme comprend de plus des outils pour comparer les modèles et choisir le meilleur pour l’application souhaitée. Ils analysent et proposent des mesures sur la performance, la cohérence et le coût d’exécution.
Le résultat devrait être une plateforme commune pour la collaboration entre les développeurs et les parties prenantes de l'entreprise. À mesure que l'IA moderne migre du chatbot à l'automatisation intelligente des processus via des agents, cette approche va devenir de plus en plus importante. Les équipes de développement doivent comprendre les problèmes métiers qu'elles tentent de résoudre, tandis que les analystes et les datascientists seront nécessaires pour aider à fournir les invites nécessaires pour guider les agents d'IA.
Une fusion entre AutoGen et Semantic Kernel
Le lancement d'AI Foundry est étroitement lié à la fusion prévue du framework pour les agents IA AutoGen de Microsoft Research avec Semantic Kernel. Cette combinaison permettra de développer et d'exploiter des processus métier sur le long terme, en hébergeant des composants dans Dapr et Orleans. AutoGen s'appuyant sur Orleans, il y a déjà suffisamment de convergence entre Semantic Kernel stable et le projet de recherche multi-agents d'AutoGen.
AutoGen restera une plateforme de recherche pour expérimenter des projets complexes d'informatique contextuelle. Les projets peuvent ensuite être portés sur Semantic Kernel, ce qui donne un runtime supporté pour les agents afin de les faire fonctionner en production. Microsoft donne un préavis suffisant pour cette transition, qui devrait avoir lieu au début de l'année 2025.
Azure AI Agent Service en rôle d’intégrateur
Parallèlement à AI Foundry, Microsoft déploie Azure AI Agent Service pour prendre en charge les intégrations nécessaires avec les applications métier. Il simplifie les connexions à la plateforme de données d'Azure, ainsi qu'à Microsoft 365. Si AI Foundry vise à amener l'IA là où se trouvent les développeurs, AI Agent Service l'amène là où se trouvent les données de l'entreprise, dans des outils tels que les datalake de Fabric et le contenu d'entreprise stocké dans SharePoint.
Azure Agent AI va jouer le rôle d'intégrateur et de contrôleur des agents IA. (Crédit Photo : Microsoft)
Le service s'appuie sur les capacités d'infrastructure d'Azure, en ajoutant la prise en charge des réseaux privés et du stockage. L'objectif est de tirer parti des certifications et des approbations réglementaires existantes dans Azure pour créer rapidement des outils d'IA afin de fournir des applications conformes. Cette évolution devrait aider les entreprises à adopter l'IA, en utilisant AI Foundry pour réunir les parties prenantes concernées et AI Agent Services pour appliquer les contrôles nécessaires - pour les approbations internes et externes.