Après s’être discrètement emparé de Gretel, spécialisé dans les données synthétiques, Nvidia a une autre cible dans son viseur. Selon The Information, il serait en pourparlers avancés pour acquérir la start-up Lepton AI. Des sources proches du dossier évoquent une opération à plusieurs centaines de millions de dollars. Une sortie intéressante pour les investisseurs de Lepton AI, CRV et Fusion Found ayant mené un tour de table de 11 M$ il y a environ deux ans.

La jeune entreprise a été fondée en 2023 par Yangqing Jia et Junjie Bai, anciens chercheurs du laboratoire d’IA de Meta. Le duo n’est pas inconnu en ayant contribué au développement de plusieurs outils d’IA notamment PyTorch, un framework de Meta pour la création de modèle d’IA. La société propose une plateforme cloud comprenant des GPU pour former des modèles ou réaliser de l’inférence.

Des questions autour des raisons de l’acquisition

Elle apporte aussi des fonctionnalités pour optimiser les tâches et corriger des erreurs pendant cette phase d’entraînement. Une fois terminée, les clients peuvent déployer leur modèle sur des instances optimisées pour l’inférence. La plateforme promet de fournir des vitesses de traitement de plus de 600 jetons par seconde tout en maintenant une latence inférieure à 10 millisecondes. Lepton AI accélère l'inférence en utilisant des outils open-source tels que vLLM qui consolide les requêtes LLM similaires en une seule demande

La question est maintenant de savoir la raison pour laquelle Nvidia s’intéresse à Lepton AI. Est-ce pour ses talents en matière d’IA  ou pour la plateforme cloud ? Si c’est la deuxième raison, va-t-il la continuer ? Cette plateforme est en concurrence avec des clients de Nvidia dont CoreWeave qui va bientôt s’introduire à la bourse.