Le monde du développement se met lui aussi à l’IA avec des passerelles entre le code et les grands modèles de langage. Dans ce cadre, Microsoft veut faciliter la création d’interfaces en langage naturel à travers sa bibliothèque open source baptisée TypeChat. Disponible sur GitHub, elle exploite TypeScript et l'IA générative pour faire le lien entre le langage naturel, les schémas d'application et les API. TypeChat se sert des définitions de type de l’application pour récupérer des réponses structurées de l'IA, comprenant des types sécurisés.
Présentée le 20 juillet par une équipe dont fait partie Anders Hejlsberg, chef développeur en C# et en TypeScript et membre de l'équipe technique de Microsoft, TypeChat vise à simplifier le développement d’interfaces en langage naturel, les applications s'appuyant sur des arbres de décision complexes pour déterminer l'intention et collecter les données nécessaires à l'action. « TypeChat remplace le promp engineering par l'ingénierie des schémas », ont expliqué les créateurs de TypeChat. « Les développeurs peuvent définir des types qui représentent les intentions prises en charge dans une application en langage naturel. Il peut s'agir d'une simple interface de catégorisation des sentiments ou d'une interface plus complexe, comme les types pour un panier d'achat ou une application musicale ».
Des usages à développer
Une fois les types définis par le développeur, TypeChat construit une invite pour le LLM sur la base de ces types et valide la réponse du modèle si elle est conforme au schéma. Si l’approbation échoue, une interaction supplémentaire avec le modèle de langage est utilisée pour réparer la sortie non conforme. TypeChat résume également l'instance et confirme qu'elle correspond à l'intention de l'utilisateur.
Concernant la bibliothèque open source, ses fondateurs ont déclaré que « l’engouement » récent pour les LLM avait soulevé beaucoup de questions chez les développeurs. Si les chatbots ont représenté l’une des applications les plus directes de ces modèles, des questions se sont posées sur la manière d'intégrer ces modèles dans les interfaces d'applications existantes. Par exemple, ils se sont demandés comment étendre les interfaces utilisateur traditionnelles avec celles en langage naturel et comment utiliser l'IA pour convertir une demande d'utilisateur en un formulaire sur lequel les applications peuvent opérer. TypeChat vise à répondre à ces questions.