Selon une enquête publiée récemment par Gartner Research, d'ici 2026, 80 % des entreprises auront utilisé des API d'IA générative (genAI) ou de grands modèles de langage (LLM) ou déployé des applications basées sur l'IA générative dans des environnements de production, contre moins de 5 % en 2023. Ce résultat montre que les entreprises adoptent massivement cette technologie pour découvrir des modèles et des informations exploitables et aider les travailleurs en automatisant les tâches fastidieuses.

Cependant, même si 9 % des entreprises exploitent actuellement la genAI pour transformer leurs business model et créer des opportunités, près d'un tiers de ces projets seront abandonnés d'ici la fin de l'année prochaine, majoritairement en raison de la mauvaise qualité des données, de contrôles des risques insuffisants, de coûts de plus en plus élevés ou d'une valeur commerciale peu claire.

La moitié des LLM internes seront abandonnés d’ici 2028

Pour cette enquête, Gartner a interrogé 822 dirigeants d'entreprise et membres de conseils d'administration. « Après le battage médiatique de l'année dernière, les dirigeants sont impatients de voir les retours sur investissement de la genAI, mais les entreprises peinent à prouver et à réaliser la valeur », a déclaré Rita Sallam, analyste distinguée et vice-présidente de Gartner. « À mesure que la portée des initiatives s'élargit, le fardeau financier du développement et du déploiement des modèles de genAI se fait de plus en plus sentir », a-t-elle ajouté. Les déploiements d'IA peuvent coûter cher, dans une fourchette allant de 5 à 20 M$. Selon Gartner, d'ici 2028, plus de la moitié des entreprises qui ont construit des LLM à partir de zéro les abandonneront en raison des coûts, de la complexité et de la dette technique de leurs déploiements.

Gartner a synthétisé les coûts des différents cas d'usages de la GenAI. (Crédit Photo: Gartner)

Malgré tout, dans certains cas, les outils de genAI s'avèrent avantageux pour les pionniers. Dans l'ensemble des secteurs et des processus métiers, les entreprises constatent des améliorations qui varient en fonction du cas d’usage, du type d'emploi et du niveau de compétence de l’utilisateur. Les chefs d'entreprise interrogés par Gartner ont fait état d'une augmentation du chiffre d'affaires de 15,8 %, d'une réduction des coûts de 15,2 % et d'une amélioration de la productivité de 22,6 %, en moyenne. « Malheureusement, il n'y a pas de solution unique pour la genAI, et les coûts ne sont pas aussi prévisibles que pour d'autres technologies. Ils dépendent, entre autres choses, de ce que dépense l’entreprise, des cas d’usage dans lesquels elle investit et des approches de déploiement qu’elle adopte », a expliqué Rita Sallam.

Un essoufflement déjà perceptible

Selon un rapport publié en août 2023 par le cabinet de conseil McKinsey & Co, l'année 2023 a été l’année de l'adoption de l'IA par les entreprises : 55 % d’entre elles ont expérimenté l'IA générative dans leurs flux de travail. Pourtant, à l'époque, moins d'un tiers des entreprises interrogées avaient déclaré utiliser l'IA pour plus d'une fonction, « laissant entendre que l'utilisation de l'IA restait limitée dans sa portée ». La deuxième étude annuelle mondiale « GenAI Global Study » publiée par le fournisseur Lucidworks  (spécialisé dans la recherche et le discovery basées sur l’IA) montre que seulement 63 % des entreprises mondiales prévoient d'augmenter leurs dépenses en matière d'IA au cours des 12 prochains mois, contre 93 % en 2023. L’éditeur a également constaté que les entreprises de services financiers n'ont déployé qu'un quart des initiatives d'IA qu'elles avaient planifiées pour 2024, même si près de 50 % des dirigeants de services financiers avaient une vision positive de l'IA en 2023. Selon Lucidworks, les plus grandes préoccupations liées à l'utilisation de l'IA générative dans les services financiers concernent la sécurité des données (45 %), suivie de la précision (43 %) et du coût (40 %).

Basée sur une enquête menée auprès de plus de 2 500 chefs d'entreprise impliqués dans la prise de décision en matière de technologie de l'IA, l'étude de Lucidworks montre clairement que la croissance autrefois explosive de l'IA générative s'essouffle, car les entreprises sont confrontées à des obstacles liés aux coûts et à la sécurité. « Les entreprises reconnaissent le potentiel, mais aussi les risques et les coûts », a déclaré Mike Sinoway, CEO du fournisseur, dans un communiqué. Parmi les entreprises qui prévoient d'augmenter leurs dépenses en IA cette année (69 %, celles basées aux États-Unis restent les plus optimistes. Mais même si les investissements restent élevés, de plus en plus d'entreprises cherchent à équilibrer le potentiel de la genAI avec la gestion des risques et des coûts.

Paradoxalement, c’est essentiellement par souci de compétitivité que la plupart des entreprises déploient des outils d'IA générative. Ainsi, selon LucidWorks, un tiers des chefs d'entreprise ont l'impression d'être distancés par leurs concurrents alors que presque tout le monde s'efforce de mettre en œuvre la technologie. L'investissement dans l'IA se poursuit cependant et, d'ici 2030, les entreprises dépenseront 42 Md$ par an dans des projets de genAI comme les chatbots et les outils de recherche, de rédaction et de synthèse. Même si les LLM payants dominent actuellement le marché, de plus en plus d'entreprises s'intéressent aux petits modèles personnalisés qui n'utilisent que des données internes. « Près de huit entreprises sur dix utilisent des LLM payants, et 21 % ont opté pour l'open source uniquement », a indiqué LucidWorks.

Un ROI toujours difficile à déterminer

Selon Lucidworks et d'autres études, alors que la technologie a été vantée pour les gains de productivité qu’elle pouvait apporter, le retour sur investissement (ROI) s'est avéré difficile à déterminer. 42 % des entreprises ont déclaré qu'elles n'avaient pas encore tiré d'avantages significatifs de leurs initiatives genAI. Les secteurs de l’IT et la grande distribution se distinguent par un déploiement plus important et des gains réalisés, mais dans l'ensemble, pour l’éditeur, la plupart des industries sont lentes à aller au-delà des programmes pilotes. Toujours selon lui, la sécurité reste une préoccupation majeure pour les chefs d'entreprise, mais les inquiétudes liées aux coûts ont été multipliées par 14 au cours de l'année écoulée. De plus, les inquiétudes concernant la précision des réponses ont été multipliées par cinq, probablement en raison de problèmes d'hallucinations, ce qui montre l’importance d’une sélection minutieuse des LLM pour équilibrer les coûts et garantir des résultats précis et sûrs.

« Concernant la genAI, nous ne disons pas qu'il est difficile de trouver le retour sur investissement, mais qu'il est difficile de l'exprimer parce que de nombreux avantages comme la productivité… ont des impacts indirects ou non financiers qui génèreront plus tard des résultats », avait déclaré Mme Sallam dans une précédente interview. Par exemple, l'utilisation de la genAI pour automatiser la génération de code pourrait rendre un développeur de logiciels plus productif, et il disposerait ainsi de plus de temps pour améliorer sa productivité et accroître l'innovation. À terme, cela pourrait se traduire par une mise sur le marché plus rapide de nouvelles fonctionnalités et par une plus grande satisfaction des clients.

« Il est difficile de mesurer le retour sur investissement », a reconnu Bret Greenstein, responsable des données et de l'IA chez PriceWaterhouseCoopers (PwC). Mais en adaptant un LLM pour exécuter une fonction ou un processus, il est plus facile de comparer ses performances en termes de coût, de précision et de rapidité avec les processus antérieurs. En termes simples, le retour sur investissement est un ratio financier du gain ou de la perte d'un investissement par rapport à son coût. Ainsi, quand une entreprise investit dans la genAI, les bénéfices de ces dépenses devraient dépasser les coûts. « Une fois que l’on a réussi à atteindre ce nouveau niveau de performance, il est possible de le déployer en production avec la gouvernance et les processus opérationnels appropriés et suivre son utilisation », a déclaré le responsable. « Lorsqu'un cas d’usage permet d'économiser deux heures sur un processus de six heures, et que l’on suit son utilisation, on peut agréger les économies ».

Quels objectifs pour les initiatives de genIA ?

Selon Gartner, pour mener à bien leurs projets d'IA générative les dirigeants devraient :

- Déterminer les gains en valeur que peut apporter un business model basées sur l’IA générative et ses innovations, en explorant l'alignement stratégique des adaptations commerciales avec le déploiement de l'IA générative.

- Calculer les coûts totaux de l'innovation du modèle d'affaires basé sur la genAI en considérant à la fois les dépenses encourues dans le déploiement de cette technologie et les coûts associés aux ajustements nécessaires de l'entreprise.

- Prendre des décisions d'investissement éclairées en calculant et en évaluant le retour sur investissement de l'innovation du modèle commercial basé sur la genAI. Il s'agit d'estimer les retours financiers et de les comparer aux coûts totaux associés à l'innovation, y compris ceux associés aux ajustements commerciaux nécessaires.

Selon Gartner, si le retour sur investissement répond aux attentes ou les dépasse, il est possible d'accroître les investissements en développant l'innovation et l'utilisation de l'IA générative auprès d'une base d'utilisateurs plus large ou en la mettant en œuvre dans d'autres secteurs d'activité. Si le retour sur investissement n'est pas à la hauteur, il peut être nécessaire de reconsidérer les investissements et d'explorer d'autres scénarios pour l'IA générative.