L’été dernier, les organisateurs du Cyber Grand Challenge, concours parrainé par l'agence de défense américaine DARPA, avait livré un aperçu de la puissance de l’intelligence artificielle. Sept supercalculateurs s’étaient affrontés pour montrer que les machines pouvaient effectivement trouver et corriger des vulnérabilités dans les logiciels. Théoriquement, cette technologie peut servir à perfectionner tout type de code informatique et à le débarrasser de vulnérabilités exploitables. Mais, imaginons, comme le font les experts, que cette puissance de calcul serve demain à des fins malveillantes… La cyberdéfense aura-t-elle son pendant dans le piratage informatique ?

Les risques potentiels

Par exemple, les cybercriminels pourraient utiliser ces capacités pour rechercher des vulnérabilités jusque-là inconnues dans les logiciels et les exploiter à mauvais escient. À n’en pas douter, une IA serait beaucoup plus efficace que l’homme pour mener des attaques. Dans ce scénario cauchemardesque, le développement de procédures d’attaques prendrait beaucoup moins de temps et les hacks seraient peu coûteux à produire. À une époque où l'industrie technologique développe des voitures autonomes, des robots sophistiqués et d'autres systèmes automatisés, les experts en cybersécurité ont tout à fait pris la mesure de ce risque. « La technologie est toujours effrayante », a déclaré David Melski, vice-président de la recherche chez GrammaTech.

L’entreprise, qui a construit un superordinateur pour participer au Cyber Grand Challenge du mois d’août, envisage désormais d'utiliser cette technologie pour aider les éditeurs à repérer les failles dans leurs appareils IoT ou à mieux sécuriser les navigateurs Internet. « Cette capacité à trouver des vulnérabilités est à double tranchant », a déclaré David Melski. « Nous automatisons tout, et de plus en plus ». Comme d’autres experts en sécurité, il imagine facilement le pire : par exemple, que les intelligences artificielles construisent ou contrôlent elles-mêmes de puissantes armes cybernétiques. David Melski rappelle l’histoire du ver informatique malveillant Stuxnet, conçu pour perturber le programme nucléaire iranien. « Si l’on imagine le contrôle d’un malware automatisé comme Stuxnet, il y a de quoi s’alarmer », a-t-il ajouté.

Exploiter les ressources disponibles

« Je ne veux donner de mauvaises idées à personne », a déclaré pour sa part Tomer Weingarten, CEO de l’entreprise de sécurité SentinelOne. « Mais, l’usage de technologies d'intelligence artificielle explorant l’Internet à la recherche de vulnérabilités pourrait devenir une réalité », a-t-il déclaré. Ce type de procédure a déjà été utilisé par le cybercrime. Sur le marché parallèle, il est possible de louer des services de « piratage à la demande », basés sur des interfaces Web et des commandes faciles à comprendre, et d’infecter ainsi des ordinateurs avec un ransomware. Selon Tomer Weingarten, ces services de location pourraient très bien incorporer des technologies AI capables d’élaborer des stratégies d'attaques complètes, les mettre en œuvre et calculer les honoraires associés. « Des attaquants humains pourraient alors récolter les fruits de ce travail », a-t-il ajouté. Cependant, le terme AI est surchargé de sens. Toutes les entreprises technologiques en parlent, mais aucune n'a encore créé de véritable intelligence artificielle. L'industrie a mis au point des technologies AI qui rivalisent avec l’homme dans certains jeux, alimentent en arrière-plan des assistants numériques, ou servent même à diagnostiquer des maladies rares.

 

Les experts en sécurité pensent que l’IA pourrait servir un jour à des actions de piratage. (Crédit : Michael Kan) 

Des entreprises de cybersécurité comme Cylance ont également utilisé une sous-catégorie d'IA appelée apprentissage machine pour stopper les logiciels malveillants. Pour cela, elle a construit des modèles mathématiques basés sur des échantillons de logiciels malveillants qui permettent de savoir si, sur un ordinateur, certaines activités sont normales ou non. « En fin de compte, il s’agit d’évaluer une probabilité statistique pour déterminer si un fichier est bon ou mauvais », a expliqué Jon Miller, directeur de recherche pour l'entreprise de sécurité Cylance. « Dans plus de 99 % des cas, l'apprentissage machine est capable de détecter les logiciels malveillants », a-t-il déclaré. « Nous ajoutons continuellement dans notre modèle de nouvelles données (des échantillons de malware) », a encore déclaré Jon Miller. « Plus il y a de données, plus la précision augmente ».

Escalade à venir

Mais, l'apprentissage machine peut coûter cher. « Nous dépensons un demi-million de dollars tous les mois pour développer des modèles informatiques », a-t-il déclaré. L’argent sert notamment à payer la location de services cloud chez AWS pour exécuter les modèles. Toute personne ou toute organisation qui voudra utiliser les technologies IA à des fins malveillantes devra assumer ces dépenses. En outre, elle devra également recruter les meilleurs développeurs. « Mais, le prix pour accéder à cette puissance de calcul finira inévitablement à baisser », a encore déclaré Jon Miller.

Néanmoins, le jour où les pirates pourront mettre l’intelligence artificielle à leur service est peut-être loin. « Une des raisons pour lesquelles cela n’existe pas encore, c’est qu’il y a aujourd’hui suffisamment de vulnérabilités connues et exploitables pour commettre des attaques ou des piratages ». La majorité des piratages se produisent après des campagnes d'hameçonnage, notamment l’envoi de logiciels malveillants par messagerie électronique. Les victimes utilisent aussi des mots de passe trop faibles pour sécuriser leurs connexions ou elles oublient de mettre à jour leurs logiciels avec le dernier correctif. Tous ces usages facilitent grandement le travail des pirates.

Une guerre des machines 

« Les technologies d'intelligence artificielle comme l'apprentissage machine ont prouvé leur capacité à résoudre certains de ces problèmes », a déclaré Justin Fier, directeur de la cyberinformation pour l’entreprise de sécurité Darktrace. Mais les pirates finiront bien par moderniser leur arsenal et leurs techniques d’attaques. À ce moment-là, les entreprises de cybersécurité devront affronter les pirates sur le terrain de l’intelligence artificielle. « Cela ressemble à une cyber guerre où les machines affronteront d’autres machines », a déclaré Justin Fier.