En un an, OpenAI a bien grandi, au point d’organiser sa première conférence développeur à San Francisco. Sam Altman, le CEO de la firme, a profité de son discours d’ouverture pour présenter les différentes évolutions des solutions d’IA génératives. Avant de les détailler, le dirigeant a donné quelques chiffres sur l’usage de ces technologies : ChatGPT compte plus de 100 millions d’utilisateurs hebdomadaires actifs et 2 millions de développeurs créent des applications à l'aide des API d’OpenAI.

GPT-4 Turbo passe à l’échelle

La principale annonce du DevDay est la présentation de GTP-4 Turbo. Ce LLM se caractérise par trois éléments : la longueur du contexte, des connaissances plus à jour et le prix. Sur le premier point, les grands modèles de langage s’appuient sur une « fenêtre de contexte », définissant la quantité de texte traité en même temps. Cette fenêtre est mesurée en tokens qui sont des morceaux de mots. Selon OpenAI, un jeton correspond à peu près à environ quatre caractères de texte anglais, soit environ les trois-quarts d'un mot. Avec Turbo, le nombre de tokens passe à 128 000 contre 8 000 auparavant (extensible à 32 000 via une API pour certains développeurs). L’éditeur rattrape ainsi son retard par rapport à Anthropic qui a annoncé une version de 100 000 tokens pour ses modèles Claude et Claude 2.

Sur l’actualisation, GPT-4 Turbo intègre la connaissance des évènements jusqu’à avril 2023. Le modèle s’arrêtait auparavant sur des évènements allant jusqu’à septembre 2021. En ce qui concerne les coûts, l'exécution de GPT-4 Turbo en tant qu'API coûterait un tiers de moins que GPT-4 pour les jetons d'entrée (à 0,01 $ pour 1 000 jetons) et la moitié de moins que GPT-4 pour les jetons de sortie (à 0,03 $ pour 1 000 jetons). Dans le même ordre d’idées, OpenAI a également baissé les prix de ses modèles d’API GPT-3.5 Turbo. Il a par ailleurs annoncé qu'il doublerait la limite de jetons par minute pour tous les clients payants GPT-4, autorisant également les demandes d'augmentation des limites de débit.

Une personnalisation accrue des assistants à base d’IA

L’évolution des chatbots à base d’IA générative passe par davantage de personnalisation. OpenAI l’a bien compris en présentant la fonctionnalité « GPTs » pour créer des versions customisées de son assistant. L’objectif est de créer une marketplace, nommée GPT Store où les utilisateurs pourront choisir des assistants aux rôles préétablis. Plusieurs fonctions sont en test : Writing Coach, Sous Chef, Math Mentor et Sticker Whiz. Ils seront capables d’aider à rédiger des commentaires, des recettes de cuisine, de l'aide aux devoirs de mathématiques et de créer des autocollants. OpenAI indique que le Store aura des classements pour les GPT populaires et qu'à terme, les créateurs pourront gagner de l'argent en fonction du nombre de personnes qui l'utilisent. Pour faciliter la création de GPT, la start-up ajoute à son portefeuille le service GPT Builder.

Le GPT Store se construit petit à petit. (Crédit Photo : OpenAI)

La personnalisation concerne aussi les API avec l’arrivée d’« API Assistants ». Ce service est destiné aux développeurs pour créer des « expériences de type agent » au sein de leurs propres applications. Selon OpenAI, la clé d’API Assistants réside dans « des threads persistants et infiniment longs », évitant aux programmeurs de gérer manuellement les limitations des fenêtres contextuelles et le suivi de l’historique de conversation existant.

Propriété intellectuelle : un bouclier face au risque de procès

La propagation de l’IA générative a engendré des questions juridiques autour du droit de la propriété intellectuelle. Plusieurs artistes ont récemment attaqué des éditeurs d’IA générative sur ces problématiques. Face à ce risque, OpenAI lance un service nommé « Copyright Shield » où il s’engage à protéger les entreprises et ses clients API contre les poursuites judiciaires liées à la violation du droit d’auteur.

Sam Altman, CEO d'OpenAI a présenté un service de protection des entreprises utilisant des produits OpenAI. Si ces dernières font face à des réclamations concernant une violation du droit d'auteur en ce qui concerne les applications et services OpenAI, la firme déclare qu'elle paiera les frais juridiques encourus par les clients. (Crédit Photo: OpenAI)

À noter que ce bouclier ne concerne que les clients ChatGPT Enterprise et la plateforme pour les développeurs. Les utilisateurs de la version gratuite et Plus de l’assistant ne sont pas couverts par cette garantie.