GPT-4 Turbo et Assistants, une menace pour les solutions open source

Les mises à jour annoncées par le créateur de ChatGPT et GPT-4 lors de sa première conférence des développeurs pourraient menacer la survie de plusieurs éditeurs de systèmes open source, estiment les analystes. Lors de cette conférence, OpenAI a présenté plusieurs évolutions, dont API Assistants, des GPT personnalisés, un magasin de modèles et des évolutions de prix. « Ces annonces visent directement la communauté open source dans son ensemble, car OpenAI reproduit une grande partie des fonctionnalités que l’on trouve dans des frameworks et des bibliothèques comme LangChain et même des solutions ponctuelles comprenant des bases de données vectorielles, comme Faiss de Meta et ChromaDB, par exemple », a déclaré Bradley Shimmin, analyste en chef chez Omdia.

« La baisse de prix, la capacité de personnalisation, l’utilisation du multimodale (code, images, etc.) et l’ajout de fonctionnalités d'intégration, le tout en natif de l'expérience utilisateur de GPT, indiquent qu’OpenAI tente de se positionner comme une alternative viable aux efforts de développement open source de type 'build-it-yourself" » », a ajouté le consultant. Ce dernier a comparé ces annonces d'OpenAI à celles de Google Cloud, à travers son offre Vertex AI. Ces deux initiatives « peuvent créer une concurrence pour les créateurs de modèles et sur les outils travaillant dans la communauté open source », poursut-il.

Une menace pour certains éditeurs

« L’API Assistants pourrait donner aux développeurs la capacité de créer facilement des applications d'IA plus sophistiquées, ce qui pourrait attirer des utilisateurs d'autres plateformes », a déclaré Jim Kaskade, CEO du fabricant de chatbots pilotés par l'IA, Conversica. Parmi les fonctionnalités de l’API, OpenAI mentionne un interpréteur de code, la génération augmentée de récupération (Retrieval Augmented Generation, RAG pour l'actualisation des modèles) et l'appel de fonctions pour gérer les « tâches lourdes » qui nécessitaient auparavant l'expertise des développeurs pour créer des applications basées sur l'IA. Selon Andy Thurai, analyste principal chez Constellation Research, cette fonction, en particulier, pourrait entraîner des pertes de revenus pour les solutions open source comme LangChain, LLamaIndex et ChromaDB. « Pour les entreprises qui souhaitent standardiser OpenAI, plus leur plateforme offrira de possibilités, plus elles pourront se passer d'autres frameworks comme Langchain et LlamaIndex. Les annonces d’OpenAI offrent aux développeurs de créer leurs applications dans un framework unique », a déclaré David Menninger, directeur exécutif de Ventana Research. Cependant, ce dernier pense que, tant que les dernières fonctionnalités, dont l’API, ne seront pas généralisées, les entreprises continueront à mettre leurs applications en production en s'appuyant sur des frameworks open source existants.

« Les entreprises qui proposaient des workflows spécifiques, des outils d'orchestration et d'autres outils pour le modèle RAG pourraient également souffrir, tout comme les entreprises de bases de données vectorielles comme ChromaDB et Pinecone, qui pourraient voir un impact sur leur chiffre d'affaires », a aussi déclaré Andy Thurai. « Si la fonction RAG de GPT-4 Turbo améliore considérablement l'efficacité et la précision de la recherche d'informations et peut être intégrée facilement dans les applications d'IA, elle pourrait constituer une menace concurrentielle pour les produits de recherche vectorielle de Pinecone », a déclaré Jim Kaskadede, le CEO de Conversica. D'un autre côté, David Menninger, de Ventana Research, estime que si des fonctionnalités telles que RAG peuvent réduire les opportunités de marché pour les éditeurs de bases de données vectorielles, la diversité du marché dans ce segment entraînera une autre vague d’innovation. Selon Bradley Shimmin d'Omdia, les récentes évolutions d'OpenAI pourraient aussi servir de catalyseur à l'innovation sur le marché.

GPT-4 Turbo et fonctionnalités multimodales

Lors de cet événement, OpenAI a lancé le modèle GPT-4 Turbo, non seulement plus rapide et plus efficace, mais aussi moins cher que les offres existantes. « GPT-4 Turbo est plus performant et connaît les événements mondiaux jusqu'en avril 2023. Il dispose d'une fenêtre contextuelle de 128 ko, ce qui lui permet d'afficher l'équivalent de plus de 300 pages de texte dans une seule invite », a écrit l'entreprise dans un billet de blog, ajoutant que le modèle a été optimisé pour améliorer les performances et réduire le coût des jetons d'entrée et de sortie par rapport au modèle GPT-4. Compte tenu des fonctionnalités avancées et du prix réduit de ce modèle, de nombreuses entreprises, les start-ups en particulier, auront beaucoup de mal à rivaliser avec OpenAI dans le domaine de l'IA générative. « Beaucoup de petites entreprises et start-ups spécialisées dans l'IA générative ont du mal à se faire connaître. À moins qu'elles ne se reconvertissent pour résoudre des problèmes métiers spécifiques, elles ne peuvent pas rivaliser avec ces géants », a déclaré Andy Thurai. Selon Rowan Curran, analyste chez Forrester, les entreprises qui ont émergé au début de l'année avec une proposition de valeur équivalant à une simple couche sur les API ChatGPT existantes risquent de souffrir davantage, car leur présence commerciale est récente. « Les annonces d'OpenAI les obligeront soit à s'adapter et à fournir des fonctions différenciées à valeur ajoutée, soit à disparaître », a déclaré M. Curran.

Outre son prix réduit, GPT-4 Turbo surmonte les principales limitations de ChatGPT, notamment l'absence de prise en charge des capacités multimodales. Le modèle Turbo introduit deux versions - l'une pour le texte uniquement, moins chère, et l'autre pour le texte et les images. Le prix du modèle texte uniquement est de 0,01 dollar/1000 jetons d'entrée et de 0,03 dollar/1000 jetons de sortie, alors que le coût d'entrée du modèle GPT-4 32K s'élevait à 0,06 dollar. GPT-4 Turbo coûtera 0,00765 dollar pour le traitement d'une image de 1080×1080 pixels, a indiqué l’entreprise. Une forte concurrence pour les fournisseurs de LLM, dont Cohere et Anthropic. « Les annonces et améliorations du DevDay pourraient tuer Anthropic et Cohere s'ils n'innovent pas plus rapidement. À l'heure actuelle, GPT-4 Turbo a une longueur d'avance sur la concurrence », a déclaré Andy Thurai, ajoutant que les deux fournisseurs de modèles devraient sûrement livrer des mises à jour prochainement. Selon Rowan Curran de Forrester, GPT-4 Turbo devrait baisser la barrière d'entrée pour les développeurs qui souhaitent créer leurs applications d'IA, mais dont les ressources sont limitées. Les récentes capacités rendent aussi OpenAI plus attractif pour les grandes entreprises, qui ont jusqu'à présent hésité à adopter certains LLM d'OpenAI en raison de leurs coûts élevés et de la disponibilité d'autres LLM basés sur l'open source.

D'autres sources de revenus pour les entreprises

Malgré l'impact des annonces d'OpenAI sur les rivaux et les éditeurs de logiciels open source, les experts et les analystes estiment que ces mêmes mises à jour pourraient contribuer à générer d’autres sources de revenus pour les entreprises. « Un grand nombre d’applications peuvent tirer parti de ces mises à jour, notamment des solutions d'IA personnalisées pour les secteurs industriels, des chatbots avancés, des applications vocales, des analyses de données et des rapports avancés, des jeux et des divertissements alimentés par l'IA, la programmation et la génération de code, des services d'intégration et l'analyse de la voix et du texte », a déclaré M. Kaskade de Conversica. Selon OpenAI, les cas d’usage de l'API Assistants sont nombreux, pouvant aller de l’application d'analyse de données basée sur le langage naturel à l’assistant de codage et au planificateur de vacances alimenté par l'IA.