Certains risques directs ou indirects associés au déploiement de l'IA générative dans les entreprises sont désormais bien documentés, comme la mauvaise utilisation de la technologie, la percolation des biais cognitifs, les hallucinations, mais aussi le manque de compétences, le coût financier associé à la puissance nécessaire, la protection des données d'entraînement, etc.

Au travers d'une enquête sur les freins au déploiement de la GenAI « 2024 Interconnection report : The impact of generative AI on networks » l'opérateur de Network-as-a-service Console Connect met l'accent sur un autre risque plus rarement évoqué : le réseau d'entreprise. À travers les risques cyber, mais aussi la capacité de l'infrastructure à soutenir les applications de GenAI.

Arlington Reseach a mené à bien en janvier cette enquête pour Console Connect auprès d'un millier de CTO et managers IT seniors, majoritairement dans des entreprises de moins de 5000 employés. Les répondants sont majoritairement anglo-saxons (Etats-Unis, Royaume-Uni, Australie, mais l'enquête couvre également Hong-Kong et Singapour).

La mise à niveau du réseau peu prioritaire

Sept CTO et managers IT sur dix interrogés estiment probable ou extrêmement probable que l'IA générative expose leur réseau à des risques de cyberattaques ou de violation de données. Et une proportion presque équivalente juge que leur infrastructure réseau ne permet pas en l'état d'embrasser pleinement cette technologie. Des craintes qui deviennent des freins importants pour les projets d'IA, puisque 41% placent le risque cyber au premier rang des freins à l'adoption de la technologie dans leur entreprise et un tiers en font de même avec la capacité de l'existant à soutenir le déploiement de l'IA générative.

Près de 7 répondants sur 10 se disent inquiets de la capacité de leur infrastructure réseau existante à tenir la charge de l'IA générative. 

L'enquête révèle ensuite qu'ils sont presque autant à considérer en toute logique la cybersécurité comme une priorité. Mais moins d'un tiers des répondants estiment que la mise à niveau de l'infrastructure réseau en est une. Difficile de savoir s'il s'agit d'une préoccupation difficile à faire entendre aux directions générales ou financières, ou si les coûts déjà élevés de l'IA générative découragent les investissements supplémentaires en la matière.

Les risques liés à la latence et l'engorgement du réseau

Pourtant, comme le rappelle le compte-rendu de l'enquête, « l'IA générative requiert d'importantes ressources de calcul et de data-crunching pour fonctionner efficacement, ce qui suppose des solutions réseau rapides et flexibles pour suivre les évolutions fréquentes de la technologie ». Pour Console Connect, les infrastructures réseau actuelles ne sont pas « en mesure de stocker, de traiter ou de récupérer les ensembles de données massifs dont cette technologie se nourrit. »

Si le fournisseur de services d'interconnexion NaaS préconise sans surprise un audit du réseau, il identifie aussi des points d'attention précis comme « les capacités en edge computing nécessaires pour traiter les données IoT et fournir des informations de qualité en temps réel » par exemple. Il attire également l'attention sur la cybersécurité comme autre risque majeur, même si celui-ci est déjà pris en compte de façon plus générale par la plupart des entreprises aujourd'hui.

Enfin, pour 16% des répondants, la crainte majeure liée à l'utilisation de l'IA générative sur le réseau de l'entreprise réside dans la sécurisation et la protection des données, et pour 14% de leur précision et leur fiabilité. Mais environ un responsable IT sur dix s'inquiète aussi d'une congestion du réseau ou d'une consommation trop importante de la bande passante et des ressources réseau. Le compte-rendu de l'étude considère la latence comme un facteur critique qui venir contrarier la manipulation des volumineux datasets nécessaires à l'entraînement de l'IA dans le cloud public. Quant à la congestion des réseaux, elle pourrait même selon le rapport nuire à « la capacité des entreprises à bâtir leurs propres modèles dans des délais raisonnables, empêchant l'alimentation des LLM avec des data récentes ».