Le rôle d'un assureur, dont le métier est la couverture de risques, est aussi d'étudier et d'anticiper l'évolution des risques à couvrir. C'est ainsi que Allianz Global Corporate & Specialty (AGCS) a publié une réflexion baptisée « The Rise of Artificial Intelligence : Future Outlook and Emerging Risks ». Comme son titre l'indique, cette réflexion vise à cerner l'évolution des risques impactant les entreprises à cause de l'émergence de l'intelligence artificielle.

Comme nous l'avons relevé sur la CIOnférence du 20 mars 2018, l'intelligence artificielle peut contribuer à baisser les risques encourus par les entreprises en améliorant leur sécurité, notamment leur cybersécurité. Les technologies d'IA peuvent en effet mieux analyser certaines cyber-attaques. Mais c'est bien le seul apport positif en matière de risques pointé par Allianz qui relève aussi cependant les apports à l'expérience client, la baisse des tâches répétitives, etc.

Des risques purement cybers ou industriels

Ce qui peut soigner peut aussi tuer : les cybercriminels peuvent utiliser l'IA pour automatiser des attaques à grande échelle, avec recherche systématique de failles. Les IA « faibles » réalisent des tâches précises mais les IA « fortes » seront en mesure de résoudre des problèmes complexes, renforçant les risques.

Le développement des usages en matière de relation client ou d'objets autonomes (l'automobile étant un exemple extrême) entraîne également des risques. Ces objets peuvent être piratés. Mais, au delà, ils peuvent aussi être défectueux ou avoir des réactions inappropriées, générant une responsabilité civile pour leur propriétaire. Si la défectuosité était liée à une erreur de programmation, celle-ci serait probablement reproduite à très grande échelle.