L’IA se diffuse partout et aussi via les réseaux mobiles. Preuve en est la récente annonce d’un partenariat entre Verizon et Nvidia pour construire un service capable d’exécuter des applications IA sur des réseaux 5G privés. L’offre dénommée « 5G Private Network with Enterprise AI » accueillera une série de charges de travail d'IA sur le réseau 5G privé de Verizon. Elle est complétée par l’architecture MEC (mobile edge computing) de l’opérateur pour faciliter les opérations de calcul avec une faible latence au plus prés des équipements du client. 

Quant à Nvidia, elle apportera sa plateforme logicielle AI Enterprise et ses microservices NIM pour fournir des services d'IA en temps réel sur site aux entreprises clientes. La société affirme qu'elle rendra le processus aussi prêt à l'emploi que possible. Les ingénieurs de Verizon commenceront les démonstrations de cette solution début 2025.

Plusieurs usages envisagés

La plateforme prendra en charge l’architecture multi-tenant, de façon à répondre à différents cas d’usage ou cas clients. De plus, elle pourra s'adapter à la demande pour répondre aux besoins applicatifs spécifiques des clients. « Grâce aux atouts uniques de notre réseau, notamment nos réseaux privés, et au leadership mondial de Verizon dans le domaine du MEC privé, combinés aux capacités de calcul de l'IA de Nvidia, nous allons fournir une sécurité, une latence ultra-faible et une bande passante élevée nécessaires au fonctionnement des applications d'IA en temps réel », a déclaré Srini Kalapala, vice-président senior de la technologie et du développement des produits chez Verizon, dans un communiqué.

Cette pile logicielle pourra gérer les applications à forte intensité de calcul, en particulier les LLM pour l'IA générative et les modèles de langage de vision, le streaming vidéo, la gestion de la diffusion, la vision par ordinateur, la réalité augmentée/virtuelle/étendue, les robots mobiles autonomes/les véhicules guidés autonomes et l'IoT.