Le géant de la finance JPMorganChase a déployé un assistant d'IA interne baptisé LLM Suite auprès de plus de 200 000 de ses employés. Un déploiement en production qui s'appuie sur les plateformes de machine learning AWS SageMaker et d'IA générative AWS Bedrock, comme l'a détaillé Lori Beer, DSI monde de la banque à l'occasion d'AWS re :Invent qui s'est tenu à Las Vegas du 2 au 6 décembre. « Nous constatons déjà la valeur apportée par ces technologies dans certains cas d'usage de LLM Suite, a précisé Lori Beer. L'IA propose des idées pour mieux interagir avec les clients à nos banquiers et conseillers. Nos agents de voyages utilisent les LLM pour les aider à créer et à réserver des itinéraires de voyage pour nos clients. Nos agents de centre de contact résument les transcriptions d'appels. Enfin, nos développeurs utilisent des outils de génération de code à base d'IA et nous explorons des moyens d'exploiter en parallèle pour eux des agents à base d'IA ». Et bien que de nombreuses sociétés du monde de la finance préfèrent rester discrètes sur l'utilisation de la GenAI en production, JPMorganChase ne cache pas que l'IA générative fasse partie de ses 17 Md$ d'investissement total dans la technologie.

« Aujourd'hui, nous débloquons activement de nombreux cas d'utilisation de GenAI et nous travaillons pour ce faire avec AWS sur la feuille de route de Bedrock », a expliqué Lori Beer. Les améliorations promises par l'Américain en matière de réduction des hallucinations et de sécurité dans sa plate-forme Bedrock ont, selon les dires de la DSI, permis de lever les craintes liées à ces risques. Des craintes qui empêchent certains acteurs de la finance de passer du PoC à la production.

Une résilience interrégionale

Il y a deux ans, JPMorganChase a migré son application grand public Chase.com et son app mobile sur AWS, réduisant ainsi les coûts et augmentant la résilience. D'autant que la banque a exploité les capacités de configuration active d'AWS entre plusieurs régions du monde. « Deux régions sur trois peuvent ainsi tomber en panne sans impact sur le client, a expliqué Lori Beer, mais le routage ainsi géo-optimisé a aussi amélioré notre expérience client globale. La pile d'infrastructure AWS est fréquemment et automatiquement actualisée afin d'améliorer notre exposition au risque et notre résilience et répondre à nos exigences en matière de contrôle de sécurité. »

Plus de transactions e-commerce dans le cloud

JPMorganChase a commencé à travailler avec AWS en 2020, et sa banque grand public, Chase.com, au Royaume-Uni a été construite à partir de zéro sur ce dernier. En 2023, l'entreprise comptait près de 1 000 applications en production sur AWS, y compris des services de base tels que les dépôts et les paiements. JPMorganChase a également utilisé des processeurs AWS Graviton dans ce cadre.


« Aujourd'hui, nous débloquons activement de nombreux cas d'utilisation de GenAI et nous travaillons pour ce faire avec AWS sur la feuille de route de Bedrock », dit Lori Beer, DSI monde de JPMorganChase. (Photo : JPMorganChase)

La société vieille de 225 ans gère environ 50% de toutes les transactions de commerce électronique aux États-Unis, jouant un rôle majeur par exemple lors des méga-ventes du Black Friday et du Cyber Monday. « C'est pourquoi nous avons réinventé la façon dont nous construisons l'infrastructure bancaire et de paiement mondiale, et c'est pourquoi nous avons poussé le cloud dans ses derniers retranchements », a souligné la DSI de la banque.
Dans une récente interview avec CIO.com, Gill Haus, DSI de Chase.com, a convenu que la plupart des transactions par carte de crédit passaient toujours par le mainframe, mais il a également signalé que le développement de la plate-forme de dépôt de Chase offrait à l'entreprise davantage d'opportunités en matière de transactions e-commerce sur des clouds privés et publics.

Une plate-forme data pour les clients institutionnels

JPMorganChase a également lancé une nouvelle entreprise, qui s'appuie sur AWS Fusion, pour fournir une plate-forme de gestion des données et des analyses tout au long du cycle de vie des investissements, améliorant ainsi l'interopérabilité entre plusieurs sources de données et permettant à ses clients institutionnels d'accéder à des bases à grande échelle. « Nous disposons de près d'un exaoctet de données, ce qui fait de la data un de nos actifs les plus critiques, a précisé la DSI, d'autant que nous intégrons de plus en plus l'IA dans nos développements avec les outils de gestion de données comme AWS Glue. Nos données sont découvrables, accessibles, interopérables et réutilisables sur notre plateforme de data et d'IA sécurisée de bout en bout ».

JPMorganChase se sert du machine learning d'AWS Sagemaker pour simplifier le cycle de vie de développement de ses modèles, de l'expérimentation au déploiement en production. « C'est le fondement de notre plateforme d'IA à l'échelle de l'entreprise, que nous avons conçue pour être reproductible avec une architecture extensible, de sorte que nos data scientists tirent parti de cette gamme de solutions de l'écosystème AWS. » Lori Beer précise que 5 000 employés exploitent déjà SageMaker et plus de 200 000 la suite LLM.

« Nous commençons maintenant à explorer Bedrock pour fournir aux data scientists un accès transparent à davantage de modèles, qui peuvent être affinés sur nos data, a poursuivi Lori Beer. Notre objectif est d'utiliser la GenAI à grande échelle, et nous continuons d'apprendre comment tirer le meilleur parti de ces nouvelles capacités au sein d'une entreprise réglementée comme la nôtre. »