Lancée récemment par Nvidia, la dernière génération d'accélérateur réseau Ethernet, Spectrum-X, est spécialement destinée aux datacenters qui traitent des workload d'IA. Il fait travailler en tandem le commutateur Ethernet Spectrum-4 (qui peut atteindre 51 Tb/s) et le DPU BlueField-3 pour réduire la congestion du trafic et éviter la perte potentielle de paquets. Selon le fournisseur, par rapport à des solutions Ethernet, cette technologie combinant matériel et logiciel améliore de 1,6 fois le travail des applications d'IA. Une nécessité, étant donné que les workloads d'IA sont très gourmands en ressources y compris réseau.

Nvidia qualifie de "SuperNIC" ces interfaces réseau compatibles avec l'IA. La technologie Spectrum-X sera disponible dans les serveurs de Dell, Hewlett Packard Enterprise (HPE) et Lenovo. Ils intègreront également les derniers GPU H100 Tensor Core et le logiciel AI Enterprise de Nvidia, ainsi que AI Workbench. « Grâce à la collaboration entre Dell Technologies et Nvidia, nous pouvons fournir aux clients l'infrastructure et les logiciels nécessaires pour extraire rapidement et en toute sécurité l'intelligence de leurs données », a déclaré Michael Dell, dans un communiqué.

« Rien de nouveau », selon Broadcom

Si Nvidia est surtout réputé pour ses accélérateurs GPU, l'entreprise conçoit aussi des commutateurs de réseau et sa série de commutateurs Spectrum sert pour accélérer les charges de travail big data dans les centres de données. « L'IA générative va sans aucun doute stimuler l'innovation dans de multiples industries », a déclaré Antonio Neri, président et CEO de HPE, dans un communiqué. « Ces applications puissantes nécessiteront une architecture fondamentalement différente pour supporter diverses charges de travail dynamiques ». Spectrum-X est actuellement utilisé dans le supercalculateur Israel-1 de Nvidia, construit avec des serveurs Dell et la plateforme HGX 100. Ce supercalculateur comprend des GPU, des DPU BlueField-3, des SuperNIC et des commutateurs Spectrum-4. Selon Nvidia, ce modèle sert de référence aux entreprises qui construisent des clusters de calcul à haute performance basés sur l'IA

C’est lors du salon Computex de Taipei, organisé fin mai 2023, que Nvidia avait annoncé Spectrum-X pour la première fois. Lors de son intervention, le CEO Jensen Huang, avait déclaré que Spectrum-X était la « première solution Ethernet haute performance au monde pour l'IA » sans perte de paquets. À l'époque, Broadcom avait répliqué en déclarant au site technologique The Register « qu'il n'y avait rien d'unique dans leur dispositif que nous n'ayons pas déjà ». Ram Velaga, vice-président du groupe de commutation de Broadcom, avait déclaré à The Register que la technologie de Broadcom gérait déjà efficacement la congestion d'une manière plus agnostique, en s'attaquant à la couche logicielle propriétaire de Nvidia. « La raison pour laquelle Ethernet a du succès aujourd'hui, c’est que son écosystème est très ouvert », aurait-il déclaré.

De l'IA dans tout le datacenter et des perspectives de bénéfices

La demande en infrastructures réseau prêtes pour l'IA, comme Spectrum-X de Nvidia, est largement alimentée par l'augmentation des dépenses dans les datacenters. « Au deuxième trimestre 2023, les dépenses mondiales en produits d'infrastructure cloud ont augmenté de 7,9 % pour atteindre 24,6 milliards de dollars », a indiqué le cabinet d'études IDC dans un communiqué. Selon IDC, les dépenses mondiales en solutions d'IA devraient augmenter pour atteindre plus de 500 milliards de dollars en 2027. Toujours selon IDC, 41% des banques de détail en Asie chercheraient à investir dans ce domaine, et 80% des DSI tireront parti des changements organisationnels pour exploiter l'IA, ce qui stimulera la demande en centres de données prêts pour l'IA.

Malgré les restrictions à l'exportation vers la Chine qui pourraient peser sur les bénéfices de Nvidia, l'action de l'entreprise a dépassé les 500 dollars, un record historique, en grande partie parce qu'elle est bien capitalisée sur la demande continue d'IA qui stimule les dépenses pour les centres de données. « Nous pensons que la demande des clients américains du cloud et des clients d’autres centres de données reste forte et intacte, étant donné que ces entreprises sont encore en train de transformer leurs centres de données pour les doter de capacités de calcul accélérées », a écrit Harsh Kumar, analyste chez Piper Sandler, dans une note récente.