Des budgets en croissance et une diversité de technologies qui progresse largement. Tel le constat dressé par le fonds américain Andreessen Horowitz (ou a16z), fondé en 2009 par Marc Andreessen et Ben Horowitz. Sur la base d'une enquête menée auprès de 70 des 500 plus grandes entreprises américaines - assortie d'entretiens approfondis avec des dirigeants de ces mêmes organisations -, l'étude du fonds estime que, sur la base de premiers résultats encourageants lors des expérimentations avec le GenAI, les entreprises vont augmenter les investissements consacrés à la technologie. « Presque toutes les entreprises avec lesquelles nous nous sommes entretenus ont prévu de multiplier leurs dépenses par un facteur de 2 à 5 en 2024 pour soutenir le déploiement d'un plus grand nombre d'applications en production », écrit a16z, qui explique que les réserves des entreprises concernant la technologie (hallucinations, gestion des données confidentielles) ne suffisent pas à ralentir cette croissance.

Mieux, selon cette étude, les entreprises américaines sont en train de dédier des enveloppes budgétaires à la GenAI, même si le phénomène reste encore minoritaire : seules 19% des organisations ont créé un budget spécifique pour les LLM, 37% vont encore piocher dans le budget innovation ou dans d'autres budgets IT. « À une échelle beaucoup plus réduite, nous avons également commencé à voir certains dirigeants déployer des budgets GenAI sur la base d'économies de personnel, en particulier dans le service client », souligne Andreessen Horowitz, qui cite le cas d'une entreprise non identifiée qui économiserait 6 dollars par appel traité par son service client équipé d'un LLM, ce qui pousserait cette organisation à multiplier par 8 son investissement dans la technologie.

Le défi du calcul du ROI

Notons que cette croissance des investissements résulte plus de perceptions que de KPI solidement établis. 56% des entreprises pensent ainsi que le ROI de la technologie est positif... sans le mesurer. « À court terme, les dirigeants sont encore en train de déployer cette technologie et de déterminer les meilleurs indicateurs pour quantifier les résultats, mais au cours des deux ou trois prochaines années, le retour sur investissement va devenir de plus en plus important. Alors que les dirigeants cherchent encore la réponse à cette question, nombreux sont ceux qui se fient aux dires de leurs employés affirmant mieux utiliser leur temps grâce à la technologie », analyse a16z.

Les grands modèles de langage les plus déployés auprès des 70 grandes entreprises américaines interrogées par a16z.

L'étude du fonds d'investissement zoome également sur les choix technologiques des entreprises. Premier constat : la domination sans partage d'OpenAI s'effrite et on se dirige vers un paysage technologique plus diversifié. « Aujourd'hui, lorsqu'on parle aux dirigeants d'entreprise, ils testent tous - et dans certains cas, utilisent même en production flechaux- plusieurs modèles, ce qui leur permet d'adapter les cas d'usage en fonction des performances, de la taille et du coût, d'éviter l'enfermement technologique et d'exploiter rapidement les avancées dans un domaine qui évolue rapidement », écrivent les auteurs de l'étude. Ainsi, 57% des entreprises utilisent déjà, en production ou pour leurs prototypes, 4 modèles de LLM ou davantage, souvent avec des architectures flexibles permettant de passer de l'un à l'autre. Si OpenAI fait toujours la course en tête - notamment quand on se focalise sur les applications en production -, Google et Meta arrivent à des niveaux de déploiement significatifs. Et le Français Mistral pointe le bout de son nez, en 5e position (avec 17% des entreprises exploitant ses modèles, pour la plupart sur des tests).

L'open source pour renforcer le contrôle sur les modèles

Et, si on se fie aux tendances dessinées par Andreessen Horowitz, ce paysage devrait encore évoluer. Car plus de 8 décideurs interrogés sur 10 manifestent leur volonté de renforcer l'usage des modèles open source, comme Llama ou Mistral. Un renversement de tendance selon le fonds, qui évalue la part de marché des modèles propriétaires à 80 à 90 % en 2023, la majorité de cette part revenant à OpenAI. Et ce choix du code source ouvert n'est pas dicté par les coûts, mais d'abord par les capacités de contrôle qu'offrent ces modèles (sécurité des données confidentielles et compréhension des résultats) et pour leurs possibilités de customisation. « Avec la montée en puissance des modèles open source de bon niveau, la plupart des organisations choisissent de ne pas former leur propre LLM à partir de zéro et d'utiliser à la place la technique du Retrieval augmented generation (RAG) ou d'effectuer un fine-tuning d'un modèle pour leurs besoins spécifiques », souligne a16z.

Globalement, le fonds d'investissement estime que le niveau de dépense annuelle des entreprises dans l'IA générative - hors fonctionnalités embarquées dans des logiciels tiers - va passer de de 1,5 à 2 Md$ fin 2023 à 5 Md$ à la fin de cette année.