Les spécialistes de la cybersécurité se penchent sur la protection des grands modèles de langage. Dernier en date, Cloudflare qui a mis à jour son firewall applicatif (WAF) en ajoutant une fonction baptisée Firewall for AI. Elle a été spécialement conçue pour les applications utilisant des LLM, comprendra des outils WAF existants et nouveaux capables d'analyser les invites soumises et d'identifier les tentatives d'exploitation. « Firewall for AI est agnostique par rapport au déploiement spécifique et peut être appliqué pour protéger des modèles hébergés sur Cloudflare Workers AI ou sur n'importe quelle autre infrastructure tierce, tant que le trafic transite en proxy via Cloudflare WAF », a déclaré un porte-parole du fournisseur.

« Les clients pourront contrôler et configurer la fonction en utilisant le plan de contrôle de Web Application Firewall ». La plateforme d'inférence d'IA en tant que service Cloudflare Workers AI, ouverte et payante à l’usage, donne aux développeurs la capacité d'exécuter des modèles de machine learning sur le réseau Cloudflare à partir de leur propre code. De plus, la société a annoncé un programme appelé Defensive AI qui utilisera la technologie pour lutter contre un nombre croissant d'attaques basées sur l'IA ciblant les API et les courriels et l'accès des employés.

Protection contre le déni de service et les fuites de données

Spécifiquement destinée aux clients qui exécutent une IA sur Workers AI, Firewall for AI protège notamment contre l'injection d'invites et la fuite de données. Elle analyse et évalue les invites soumises par un utilisateur afin de bloquer l'exploitation de modèles et les tentatives d'extraction de données. La capacité s'appuie sur une combinaison d'heuristiques et de couches d'IA propriétaires pour évaluer les invites et identifier les abus et les menaces. « Firewall for AI protégera contre le déni de service par modèle ou Model Denial of Service et la divulgation d'informations sensibles ou Sensitive Information Disclosure, grâce à des outils et des fonctionnalités disponibles pour tous les clients de l’offre Web Application Firewall », a précisé le porte-parole de Cloudflare. Firewall for AI exécutera également une série de détections capables d’identifier les tentatives d'injection rapide et d'autres abus, en s'assurant par exemple que le sujet reste dans les limites définies par le propriétaire du modèle. « La validation de l'invite de Firewall for AI est actuellement en cours de développement et une version bêta sera publiée dans les prochains mois », a indiqué par ailleurs le porte-parole.

Une IA défensive pour détecter les comportements anormaux

Dans le cadre de son programme Defensive AI, Cloudflare travaille sur des systèmes IA pour examiner les modèles de trafic de clients spécifiques et construire une base de référence de comportement normal de façon à détecter toute anomalie dans les environnements, y compris les API, les courriels et l'accès des employés. « Defensive AI sert à comprendre comment les systèmes intelligents peuvent améliorer l'efficacité des solutions de sécurité », a déclaré le porte-parole du fournisseur. « Cloudflare utilise l'IA pour augmenter le niveau de protection dans tous les domaines de la sécurité, qu'il s'agisse de la sécurité des applications, de la sécurité du courrier électronique ou de la plateforme Zero Trust de Cloudflare », a-t-il poursuivi.

« Les modèles d'IA sont adaptés à l'application spécifique, de sorte que la protection de l'API utilise des modèles différents de ceux du courrier électronique ou de la confiance zéro », a ajouté le porte-parole. Même si la mise en œuvre peut différer, les concepts sont similaires - par exemple, adapter le modèle au modèle de trafic de clients spécifiques ou identifier une base de comportement normal et l'utiliser pour identifier les anomalies. Alors que Firewall for AI est déjà disponible pour les clients de Cloudflare, les modèles Defensive AI sont actuellement en cours de développement et l'entreprise n'a pas encore annoncé de date de disponibilité.