Ce 17 novembre était annoncé comme un rendez-vous phare pour le secteur de l’intelligence artificielle. Et le moins que l'on puisse dire, c'est que Xavier Niel a su réunir une bonne partie de cet écosystème pour l'occasion. L'annonce clé était - sans grande surprise - le lancement officiel du laboratoire de recherche Kyutai qui doit faire décoller l'intelligence artificielle en France. Décrit comme le « premier laboratoire de recherche européen indépendant dédié à l’open science en IA », il est le fruit d’un rapprochement entre Iliad, CMA-CGM - via la voix de Rodolphe Saadé, son dirigeant - et Schmidt Futures, le fonds d’investissement ou « entreprise philanthropique » comme aime à le présenter Eric Schmidt, ancien CEO de Google. Ce laboratoire a ainsi bénéficié des généreuses contributions de chacune de ces entreprises à hauteur d'environ 100 millions d’euros et a vocation à fédérer d’autres investissements à l’avenir afin de grossir son enveloppe actuelle comprise entre 250 et 300 millions d’euros. L’organisation se démarque par ailleurs de nombreuses autres initiatives lancées ces derniers mois ; elle est « non-profit » (à but non lucratif). Et autant pour Xavier Niel que pour Rodolphe Saadé, ce terme a son importance.
« Nous ne faisons que financer » répète le fondateur d’Iliad pour qui l’idée de pouvoir aider au développement de modèles d’IA de façon différente des Gafam est primordiale. Il insiste également sur le fait que Scaleway ne sera pas un partenaire exclusif. « Le projet va sûrement attirer d’autres investisseurs et nous sommes ouverts à ce que d’autres rentrent. Les montants nécessaires pour pouvoir développer des modèles d’IA sont importants ». Et Rodolphe Saadé d’ajouter : « On est dans la mise en place d’un bien commun, gratuit, disponible à tout le monde. Il y a beaucoup d’idées en France et peu de financement ». Xavier Niel ne mâche d’ailleurs pas ses mots : « J’aimerais bien qu’un jour on parle de l’impérialisme français dans l’IA. Si on ne fait rien, il ne se passera rien, c’est la seule chose dont je suis sûr ».
Plus que de l’open source, faire de l’open science
Le laboratoire de recherche doit ainsi couvrir un spectre large : s’attaquer aux principaux défis de l’IA en développant notamment de grands modèles multimodaux (générant du texte mais aussi du son, des images, etc.) et en inventant des algorithmes pour améliorer leurs capacités, leur fiabilité et leur efficacité. Il bénéficie pour cela de la puissance de calcul de Scaleway. « Il s’agit d’un petit effectif, on va donc se concentrer sur les modèles fondamentaux dans un premier temps ». « L’un de nos premiers buts est de construire un de ces LLM from scratch » indique de son côté Edouard Grave, l’un des six chercheurs de l’équipe, avant de compléter : « Nous devons être capables d’intervenir à n’importe quel moment de développement de ces modèles. Il y a un besoin de maîtriser l’intégralité de la stack technique ». En ce qui concerne la suite, Neil Zeghidour, autre chercheur de Kyutai, a déjà une vision long terme. Il évoque le modèle de Transformer – introduit par Google – et aujourd’hui « devenu le modèle d’IA sous-jacent d’à peu près tout ce qui existe. Nous voulons être aussi l’équipe qui proposera une alternative à ce modèle » conclut-il.
In fine, Kyutai a pour projet de réussir à attirer les meilleurs chercheurs pour créer les modèles d’IA et arriver à entraîner les systèmes. Portant l’ambition de partager ses avancées avec l’ensemble de l’écosystème (la communauté scientifique, les développeurs, le tissu industriel, pour ne citer qu’eux), Kyutai veut également former « de futurs experts de la discipline, via l’accueil d’étudiants en master pour des stages au sein du laboratoire et la supervision de doctorants et de postdoctorants ». Hervé Jégou, membre de l’équipe, a une vision bien précise du projet de Kyutai : « Nous voulons faire de l’open science, expliquer comment nous sommes arrivés au modèle que nous partageons. Nous avons vocation à partager cette sauce secrète pour aider l’écosystème et en faire bénéficier par la suite tous les industriels ».
Xavier Niel, Eric Schmidt, Rodolphe Saadé, Aude Durand ainsi que les six chercheurs de Kyutai réunis à Station F ce vendredi 17 novembre 2023. (Crédit : Iliad)
À date, le laboratoire – basé à Paris dans le 3e arrondissement – compte une équipe de six chercheurs – Alexandre Défossez, Edouard Grave, Hervé Jégou, Laurent Mazaré, Patrick Pérez, Neil Zeghidour – pour la plupart passés par Meta et son laboratoire de recherche FAIR, mais aussi Apple, l'Inria ou encore DeepMind.
Scaleway multiplie les partenariats
En parallèle de cette annonce, Scaleway – fournisseur des services cloud et filiale d'Iliad – a surtout passé une grande partie de l'événement à mettre en avant la multitude de partenariats dont bénéficie l’entreprise afin de s’inscrire dans l’écosystème d’intelligence artificielle. Damien Lucas, à la tête de Scaleway depuis le 9 mai dernier, a fièrement annoncé qu’il est temps d'entrer dans l'ère du « changement ici et maintenant ». Tout d’abord, il y a le rapprochement phare avec Nvidia qui apporte aux entreprises clientes de Scaleway un avantage clé ; il s’agit des instances GPU L4 qui seront disponibles au cours du premier semestre 2024. Les clients de Scaleway auront donc accès aux accélérateurs GPU, au logiciel Nvidia AI Enterprise et aux services clé pour accélérer le développement des grands modèles de langage (LLM) et de l'IA générative. Les start-ups profitent également de ce partenariat puisque le Français annonce que, grâce au programme Nvidia Inception, les jeunes sociétés en faisant partie recevront des crédits cloud pour accéder au DGX SuperPOD de Nvidia équipé des serveurs DGX H100. Pour mémoire, ces deniers reposent sur une paire de processeurs Intel Xeon Sapphire Rapids (56 cœurs) avec jusqu’à huit cartes Tensor Core H100.
Lors de cette matinée, la firme a annoncé un partenariat avec Ampere. « Avec les puces Ampere Altra, nous étendons notre gamme d’instances et nous offrons aux entreprises une alternative puissante et rentable. Ce qui leur permet d'obtenir des résultats haute performance de la manière la plus durable possible » a déclaré Damien Lucas. Ainsi, Scaleway lance des instances sur base Ampere, qui pourra notamment servir pour la mise en œuvre de chatbots, de solutions de contenu vidéo,... Pour Jeff Wittich, directeur produit chez Ampere, « l’inefficacité en puissance et le coût des déploiements constitue encore un obstacle majeur à la mise à l'échelle de l'IA », blocage qu’Ampere propose de supprimer.
Une offre « quantum as a service »
En parallèle, Scaleway a dévoilé un autre accord avec Quandela, start-up française très en vue travaillant dans le domaine du quantique. Le fruit de ce rapprochement ? Un service quantique à la demande (QaaS) disponible dès aujourd’hui. Reposant sur la technologie de Quandela et l’infrastructure de Scaleway, ce service doit être « un environnement propice à l'expérimentation et à l'optimisation des algorithmes quantiques ». Le service QaaS est « propulsé par un simulateur de circuit de Quandela, et accéléré par les cartes H100 Tensor Core de Nvidia » précise le fournisseur cloud. Pour ce dernier, cela constitue une avancée technologique considérable « en attendant la maturité des unités de traitement quantique à grande échelle, prévue d'ici 2027-2030 ». Pour Damien Lucas, il s’agit de l’association parfaite : « Notre nouveau service QaaS […] offre une expérience quantique dès maintenant tout en préparant le terrain pour l'avenir ».
De son côté, Jean Senellart, directeur produit chez Quandela a souligné l’avantage d’un tel partenariat : « Ce service ouvre la voie au développement d'algorithmes quantiques hybrides préparant les industries à l'ère quantique ». La jeune pousse, qui travaille d’ores et déjà avec OVH en lui fournissant des plateformes de calcul, agrandit ainsi son cercle d’utilisateurs. Enfin, Damien Lucas a précisé que Scaleway s’associera également aux entreprises suivantes – Poolside, Free Pro, Hugging Face et Mistral AI – pour poursuivre son objectif de rayonnement dans l’écosystème d’IA.