Sélectionner les bonnes technologies fait partie des aspects les plus complexes du métier de CIO. C'est d'autant plus difficile lorsque les besoins sont pressants et que les technologies ne sont pas encore matures. Comme c'est le cas aujourd'hui pour l'IA générative.
Face à un sujet mouvant comme celui-ci, la tentation est grande de recourir à des solutions sur étagère - en attendant de voir. Une réponse tactique, à l'apparence raisonnable, mais qui met en danger la maîtrise du sujet au sein de l'entreprise. A contrario, s'engager dans une démarche de construction d'une plateforme GenAI peut paraître risqué, mais c'est elle qui assurera la maîtrise, l'évolutivité et l'agilité du SI "augmenté".

Un paradoxe vieux comme l'IT

Le marché de l'IA générative bouillonne. Les annonces se succèdent, et chaque avancée technologique laisse entrevoir de nouveaux cas d'usage. Le plus simple pour bénéficier du rythme de ces avancées est de souscrire à l'offre d'un éditeur - surtout s'il est un pionnier et une référence du secteur. C'est le grand argument d'OpenAI. Ce faisant, un DSI est sûr de ne pas se tromper, non ? Une interrogation qui fait écho à ce qu'on entendait il y a des années déjà, à propos d'IBM ou d'Oracle, pour des options qui ont finalement donné lieu à des stratégies de désengagement longues et coûteuses.

Le choix de baser tout un pan de son SI sur un seul éditeur, OpenAI ou autre, est toujours à double tranchant. On bénéficie d'un écosystème bien intégré, mais on crée une forte dépendance. À la feuille de route de l'éditeur, bien sûr. Mais aussi à son devenir - et on a vu combien la gouvernance d'une société comme OpenAI pouvait s'avérer fragile.

Besoin d'une intégration native avec le SI

En matière d'IA générative, le verrouillage sera encore plus fort : comment imaginer que des utilisateurs, des directions entières ayant commencé à s'approprier des assistants d'IA générative, renonceront facilement à leurs outils si la DSI essaye d'opérer un quelconque changement ? Parce que le futur proche de ces solutions réside bien dans leur personnalisation pour répondre à des problématiques métiers, voire personnelles. Comment, dans ces conditions, adapter l'usage des outils à la stratégie et la gouvernance de son entreprise ? Comment mettre en place des garde-fous spécifiques à son entreprise, à ses valeurs et à son fonctionnement ? Se poser ces questions en amont conduit naturellement à considérer l'approche plateforme.

L'idée d'une plateforme d'IA générative ne consiste pas, pour l'entreprise, à se substituer aux offres des éditeurs, mais bien à assurer son indépendance et donc sa compatibilité avec le futur. Une plateforme basée sur un orchestrateur et des API ouvre le champ des possibles. Il devient aisé de travailler avec les meilleurs LLM du marché et d'en changer au fur et à mesure de leurs évolutions respectives, sans retoucher aux applications ni devoir accompagner les utilisateurs. Ces derniers peuvent même sélectionner leur modèle préféré lors de chaque requête. Ou l'entreprise peut aiguiller les requêtes en fonction des coûts ou de l'empreinte environnementale.

Avec une plateforme interne, la DSI facilite la mise en oeuvre de n'importe quel type de use case tout en se concentrant sur ses aspects régaliens, typiquement l'ajout de services de sécurisation des requêtes et des réponses, un monitoring des usages ou encore l'intégration native avec le SI de l'entreprise - et en premier lieu avec l'annuaire d'entreprise.

Des assistants intelligents qui s'appuient sur le système de gestion des droits

Personnaliser l'IA générative pour répondre aux besoins professionnels très divers de l'ensemble des employés demande un accès aux données et aux documents de l'entreprise, au travers de mécanismes de RAG (retrieval augmented generation). Pour autant, il est hors de question de laisser l'ensemble des employés accéder à l'ensemble des documents ; il faut bien s'appuyer sur un mécanisme de vérification des droits lié aux rôles et identités, qui existe déjà au sein de l'entreprise pour l'accès à l'information.

Bien entendu, mettre en place une plateforme demande un peu plus d'investissement, mais l'effort reste finalement relativement limité, grâce à des projets open source comme LangChain et un ensemble de services déjà disponibles dans le Cloud. Avec de tels outils et une plateforme d'API management à disposition, changer quelques lignes de code suffit pour s'adapter à l'arrivée de nouveaux produits dans l'écosystème de l'IA générative.

Autant cela n'aurait aucun sens de concevoir ses propres modèles, autant bâtir sa plateforme pour utiliser les modèles disponibles et créer ses propres assistants au sein du SI de l'entreprise est donc un choix qui préserve son avenir face à l'évolution rapide de la technologie et des offres associées.