Les choses se précisent pour la mise en place d’une IA factory pour xAI, entreprise derrière le modèle Grok. Dans un tweet, Michael Dell a indiqué, « nous construisons une IA factory avec Nvidia pour alimenter Grok de xAI ». Le dirigeant du constructeur fait référence aux annonces faites lors du Dell Technologies World avec un serveur dédié au GPU B200 de Nvidia. Elon Musk a ajouté dans un tweet « pour être précis, Dell assemble la moitié des racks qui vont dans le supercalculateur que xAI est en train de construire ».
D'après d'autres annonces, nous savons que Dell et Supermicro construiront le cluster de superordinateurs Grok en utilisant la dernière plateforme GPU Blackwell de Nvidia, annoncée en mars. L'image accompagnant le tweet de Dell montrait des lignes de serveurs Nvidia en rack encore dans leur emballage, signe que le projet d'installation dans un lieu non confirmé ne fait que démarrer.
Une gigafactory pour l'IA
Actuellement, pour sa phase de développement, le chatbot de xAI utilise le LLM multimodal Grok 1.5/1.5v, dont la principale caractéristique est qu'il peut traiter des images, de la parole et de la vidéo en plus du texte. Cependant, à ce jour, Grok n'est disponible que pour les abonnés Premium+ de X, qui paient 16 dollars par mois, sans doute parce que la capacité physique du système reste limitée. Elon Musk a déjà déclaré qu'il souhaitait que Grok atteigne sa version de supercalculateur de plus grande capacité, hébergée dans ce que le dirigeant a appelé « une gigafactory de calcul », à la fin de l’année 2025. L’ensemble du projet repose sur un mix d'ingrédients anciens et nouveaux, comme sait si bien le faire l'industrie IT.
Dans ce paysage, Dell et Supermicro font figure de vieux routiers, mais ils ont une longue expérience dans la fabrication des systèmes informatiques. Par exemple, Supermicro est connu pour son expertise en matière de refroidissement, un élément essentiel de tout clustering de centre de données, et autant pour sa compréhension de la plateforme Nvidia. Par contre le mystère reste entier sur la localisation de ce supercalculateur dédié à l'IA.
Interrogation sur la pertinence de Grok
Mais, la question la plus importante pour le projet Grok est peut-être de savoir tout simplement à qui il s'adresse, dans le domaine très encombré et toujours plus concurrentiel des chatbots et des LLM. « Je ne vois pas quelle est la base d'utilisateurs de Grok, dont l’accès est payant et qui n'offre rien pour se différencier, si ce n'est a) Musk lui-même et b) son accès aux données de Twitter », a déclaré Kate Bevan, directrice de la cybersécurité à l'Infosys Knowledge Institute.