Spécialisée dans les entrepôts de données basés sur le cloud (data store), Snowflake, a racheté l'un des principaux actifs de la start-up TruEra. Basée à Redwood, celle-ci est spécialisée dans le suivi et la gestion du cycle de vie des applications et services basés sur l'apprentissage automatique et les grands modèles de langage (LLM). Le montant de l'opération n'a pas été précisé. "Snowflake acquiert la plateforme d'observabilité TruEra AI, qui fournit des capacités de pointe pour évaluer et surveiller les applications LLM et les modèles d'apprentissage automatique en production", a déclaré l'éditeur dans un communiqué. La plateforme d'observabilité de l'IA de TruEra est une offre managée qui peut être déployée en SaaS aussi bien sur un cloud privé, public ou hybride. A noter que TruEra propose également une offre self-service, baptisée TruLens, qui ne ferait pas partie de l'accord signé avec Snowflake.

Parmi les fonctions clés de la plateforme d'observabilité de TruEra, figurent l'explicabilité, l'analyse de la qualité, et la gouvernance des modèles, les workflows d'exécution mais aussi les comparaisons et la sélection des modèles ainsi que la surveillance continue de signalement des incidents. Selon Snowflake, ces offres permettent d'évaluer la qualité des entrées, des sorties et des résultats intermédiaires des applications basées sur les LLM, y compris l'hallucination, le biais ou la toxicité. Un dernier domaine sur lequel se positionne aussi la start-up Patronus AI qui vient d'ailleurs de lever 17 M$. "Cela accélère l'évaluation des expériences pour une grande variété de cas d'utilisation, y compris la réponse aux questions, le résumé, les applications basées sur la génération augmentée par la recherche (RAG apps) et les applications basées sur les agents", poursuit l'éditeur. En outre, la plateforme a également la capacité de fournir des informations détaillées et exploitables pour améliorer la performance et la précision des modèles d'apprentissage automatique en révélant les anomalies dans les métriques du modèle et en fournissant une analyse spécifique de la cause première pour un débogage rapide.

Lutter contre Amazon Bedrock, Google Vertex AI et Microsoft Azure AI

Alors que Snowflake affirme que l'acquisition de Observability Platform viendra s'ajouter aux fonctionnalités existantes de gouvernance de l'IA au sein de son offre AI Data Cloud, cette décision pourrait être considérée comme un effort de l'éditeur pour aligner ses capacités sur celles d'AWS Bedrock, de Google Vertex AI et de Microsoft Azure AI. Car leur point commun est en effet d'apporter des capacités d'évaluation, de gestion du cycle de vie et de surveillance des LLM. Snowflake a commencé à s'orienter vers la GenAI l'année dernière en présentant Snowpark Container Services en juin 2023, puis Cortex en novembre 2023. 

Snowpark Container Services, conçu pour supporter des charges de travail plus diverses dont des LLM, à la Data Cloud Platform, agit comme un pivot connectant les données d'entreprise stockées dans Snowflake avec de nombreuses sources. A savoir des LLM, des interfaces d'entraînement de modèle, des frameworks de gouvernance de modèle, des applications tierces d'augmentation des données, des modèles d'apprentissage automatique, des API sans compter le framework applicatif natif de Snowflake. D'autre part, Cortex est un service entièrement serverless et managé au sein du Data Cloud qui fournit aux entreprises les éléments de base pour utiliser les LLM et l'IA sans nécessiter d'expertise dans la gestion d'une infrastructure complexe basée sur les GPU. En début d'année, la firme de San Mateo a présenté en avant-première son grand modèle de langage open source Arctic pour affronter les modèles Llama 3 de Meta, la famille de modèles Mistral, Grok-1 de xAI et DBRX de Databricks. Arctic, accessible via Cortex, est destiné aux tâches d'entreprise telles que la génération SQL, la génération de code et le suivi des instructions.

Les trois co-fondateurs de TruEra rejoignent Snowflake

Suite à la transaction avec TruEra, au moins 37 de ses employés vont rejoindre Snowflake, y compris ses trois cofondateurs : son président et directeur scientifique Anupam Datta, son CTO Shayak Sen, et son CEO Will Uppington. TruEra, qui a levé environ 43 M$ depuis sa création, est soutenue notamment par Menlo Ventures, Greylock Partners, Wing Venture Captial, Harpoon Ventures, HPE et Conversion Captial. La jeune pousse a démarré ses activités après six années de recherche pendant qu'Anupam Datt et Shayak étaient à l'université Carnegie Mellon. L'entreprise possède quatre bureaux en Inde, à Singapour, au Royaume-Uni et aux États-Unis. Ce rachat a été effectué quelques jours après l'annonce de l'échec du rachat de Reka AI par Snowflake en vue d'intégrer davantage de LLM dans ses services et ses offres. Selon Bloomberg, le spécialiste du data store avait proposé environ 1 Md$ pour cette acquisition. Les deux sociétés avaient pourtant un atome crochu, car Snowflake Ventures était aussi investisseur dans cette start-up fondée par des chercheurs de Meta et de Google.