Si les entreprises s’interrogent sur l’usage de l’IA générative, les cybercriminels s’y intéressent aussi et développent de solutions ad hoc. Il y a quelques semaines, des chercheurs avaient déniché sur les forums underground un outil baptisé WormGPT, capable de réaliser de multiples choses. Après cette première découverte, une autre offre à base d’IA est apparue sur les forums : FraudGPT.

Trouvé par une équipe de Netenrich, éditeur de solutions de sécurité cloud, FraudGPT est vendu par abonnement 200 dollars par mois et jusqu’à 1 700 dollars par an. Le vendeur revendique déjà près de 3 000 ventes pour l’outil de piratage. Dans sa promotion, il se présente comme « un bot sans limites, règles et frontières » et se trouve sur différentes places de marché du dark web (Empire, WHM, Torrez, World , AlphaBay et Versus).

Des campagnes de phishing en priorité

Comme WormGPT, son homologue FraudGPT liste ses capacités de nuisance. Ecrire du code malveillant, créer des malwares indétectables, concevoir des pages de phishing, trouver des groupes de piratage, des sites et des market place, exploiter des fuites et des vulnérabilités, etc. Un inventaire à la Prévert, mais la principale utilisation de FraudGPT est la création de campagnes de phishing et l’outil en démontre un exemple dans sa promotion.

Le développement de telles solutions devrait se poursuivre et pulluler sur le dark web. Les cybercriminels tentent de « jailbreaker » les IA génératives pour faire sauter les garde-fous mis en place au sein des LLM. Dans le même temps, les entreprises doivent s’attendre à des campagnes de phishing de plus en plus précises et pertinentes. La sensibilisation des salariés et un outillage idoine seront plus que jamais nécessaires pour contrecarrer cette menace.