Un coup d’accélérateur a été donné par Stanislas Guerini, ministre de la Fonction publique, sur les tests de l’IA générative auprès des agents. Il se concrétise par deux projets menés en parallèle. Le premier est organisé par la DITP (direction interministérielle de la transformation publique) auprès des agents du site Services Publics +. Il s’agit d’une plateforme de témoignages des usagers sur leur expérience avec l’administration.

Les agents vont disposer d’un bouton où une IA générative va leur proposer une réponse. Ils pourront l’éditer, la modifier et ensuite la publier. Une première expérimentation s’est déroulée avec des agents de la CNAV (caisse nationale de l’assurance-vieillesse) avec comme résultat, un temps de réponse divisé par 2. Bientôt, 1 000 agents volontaires vont être équipés et les tests seront d’ici la fin de l'année étendus aux agents des maisons France services dans leur accompagnement des usagers au guichet. Concernant la technologie utilisée, la DITP a fait le choix d’un modèle commercial pour cette première phase. Notre confrère d’Acteurs publics souligne que le modèle Claude d’Anthropic a été utilisé mais via la start-up Allobrain.

Une IA générative nommée Albert en préparation

Deuxième étage de cette campagne autour de l’IA générative, la Dinum (direction interministérielle du numérique) est chargée de plancher sur l’élaboration d’une solution « souveraine ». Le développement se déroule au sein de Datalab, pour mettre au point « une IA multiforme avec plusieurs modèles », rapporte Ulrich Tan, chef du pôle Datalab du département Etalab. Il ajoute, « nous travaillons sur des briques technologiques libres et nous testons plusieurs LLM dont Falcon, XGen, Llama et Llama 2 (13B) ». Le responsable reconnaît aussi « avoir regardé Mistral AI, il s’agit d’un modèle léger et les réponses sont plutôt bonnes ». 

Si le choix des LLM est important, il y a aussi beaucoup de travail additionnel. « Il y a différents travaux sur le fine tuning des modèles, le RAG (Retrieval Augmented Generation) pour sourcer les données d’entraînement, la création de modèles pour faire des inférences », indique Ulrich Tan. En termes d’infrastructure, pour les entraînements « nous testons sur de l’hybride avec des instances dédiées SecNumCloud sur des A100 80 Go », glisse le responsable pour répondre à la problématique de sécurité des données. Le petit nom de cette IA générative, qui doit arriver d’ici la fin de l’année est provisoirement « Albert ». Sur les cas d’usages, Ulrich Tan évoque « l’aide apportée aux agents des maisons France Services ».