Avec presque 10 ans d’expérience et plus de 800 projets menés en matière d’IA, BNP Paribas a éprouvé sa stratégie sur les usages de l’intelligence artificielle au sein du groupe. Su Yang, Head of AI for transaction banking and Head of AI and IT innovation chez BNP Paribas, détaille pour nous ses procédés nouvellement mis en place, tels que la plateforme LLM as a Service.
Quels sont les usages de l’IA chez BNP Paribas ?
L’intelligence artificielle a pris sa place au sein de BNP Paribas depuis plus de dix ans, à travers environ 800 projets d’IA. Avant 2022, c’étaient exclusivement des projets sans IA générative, telle qu’une IA “classique”, utilisée par exemple pour accompagner l’analyse des demandes de crédit des clients. Aujourd’hui, l’IA traditionnelle et générative ont de multiples applications. C’est, par exemple, un outil de lutte contre la fraude au paiement ou au virement pour la filière transaction banking. Elle intervient pour sécuriser les opérations de la banque comme l’accessibilité à la gestion de trésorerie, de paiements et de flux financiers de manière générale. Globalement, tous les métiers et fonctions utilisent de l’IA avec une utilisation particulièrement répandue dans la branche banque d’investissement et de financement du groupe BNP Paribas (CIB), qui propose des solutions financières personnalisées aux entreprises et investisseurs institutionnels.
Est-il possible d’attribuer un gain d’efficacité aux outils d’IA générative ?
Ce n’est pas forcément évident de trouver les bons indicateurs de performance (KPI). Par exemple, pour affirmer que l’on gagne une heure ou deux grâce à l’IA quelque part, il faudrait avoir la capacité de dire comment sont exploitées ces heures récupérées. Aujourd’hui, on sait que l’intelligence artificielle fait gagner en efficacité opérationnelle. BNP Paribas Cardif, spécialisé dans l’assurance, et Orange ont, par exemple, développé un outil capable d’automatiser et de traiter en moins de dix secondes une déclaration de sinistres. De leur côté, les banques commerciales, qui s’adressent à une clientèle de particuliers, d’artisans et de PME, sont en train de mettre en place de l’IA générative pour améliorer l’interaction avec les clients au quotidien. Dans le cadre de mes fonctions, je travaille également sur les projets IA pour l’IT du groupe BNP Paribas. Il y a notamment un enjeu important autour du métier de développeur, pour lesquels l’IA générative permet d’augmenter l’efficacité. Au-delà du cycle de développement, elle permet d’améliorer la qualité du code grâce à des tests automatisés.
Qu’en est-il des contraintes réglementaires spécifiques (transparence, auditabilité) propres au secteur bancaire ?
Les sujets réglementaires autour de l’IA et de la data sont pilotés au niveau de l’équipe Data Office du Groupe, qui édictent des guidelines ensuite déclinées opérationnellement dans le département IT. La mise en place de l’IA Act ou le respect du RGPD sont des exigences réglementaires que nous intégrons dès la mise en place d’un projet. Par exemple, il y a une chartre qui doit être lue et signée par les data scientists avant de travailler sur un projet de production. Des audits internes sur les risques cyber sont également menés a posteriori, en plus des contrôles effectués tout au long de la création d’un projet. Nous avons également une gouvernance définie. Elle se compose d’un comité stratégique présidé par la direction générale, puis de quatre comités dont un portant sur les risques. En ce qui concerne le “Shadow AI”, les risques sont très limités : les solutions d’IA générative sont disponibles dans des environnements sécurisés et ne sont généralement pas directement reliées à Internet. Les applications comme ChatGPT sont donc interdites sur nos postes de travail.
Comment développer des projets d’IA générative dans un aussi grand groupe ?
Pour passer à l’industrialisation des projets d’IA générative dans un grand groupe, nous avons dû relever plusieurs défis. D’abord, cette technologie étant nouvelle, notre enjeu était de recruter et de former des experts tout en assurant la mise en production de projets. Il devient donc essentiel de centraliser à la fois les compétences et la gouvernance. Ensuite, l’IA générative consomme des GPU, ce qui représente des investissements importants ; il est donc primordial de coordonner l’expérimentation et le déploiement d’outils au sein de nos différentes entités. Cette approche permet de gérer les nombreuses complexités liées à l’orchestration entre des machines GPU de générations différentes, les moteurs d’inférence et les modèles eux-mêmes. Pour répondre à ces enjeux, nous avons mis en place la plateforme “LLM as a Service”, qui permet de se concentrer sur l’intégration des capacités d’IA générative dans les applicatifs. Ma priorité reste ainsi l’industrialisation, la mutualisation et la focalisation sur les projets qui délivrent le plus de valeur.
Pouvez-vous nous en dire un peu plus sur votre plateforme “LLM as a Service”?
Elle met à disposition plus d’une dizaine de modèles qu’on utilise en production, pour la plupart provenant de notre partenariat avec Mistral AI. Chaque projet souhaitant exploiter l’IA générative peut en bénéficier. LLM as a Service est en production depuis 6 mois déjà et elle est, depuis, le moyen privilégié pour accéder à l’IA générative au sein du groupe, ce qui permet d’en sécuriser le déploiement. Par la suite, les modèles mis à disposition seront contextualisés avec les connaissances de l’entreprise pour qu’ils délivrent une réelle valeur ajoutée.
Quelle est votre vision du futur de l’IA et des nouvelles technologies dans le secteur bancaire ?
En ce moment, nous regardons tous de très près le quantique. Même si cette technologie a l’air assez éloignée, nous savons que, lorsqu’elle va arriver, l’impact va être important. Si on ne se prépare pas en amont, le quantique sera dur à implémenter. C’est pourquoi des équipes de BNP Paribas expérimentent déjà cette technologie. Dans les prochaines années, il y a également beaucoup de choses que l’on peut faire autour de l’efficacité opérationnelle, notamment au niveau des agents d’IA qui contribueraient à automatiser des tâches. Cependant, force est de constater que la définition d’agents n’est pas partagée par tout le monde : un effort de clarté doit être fait sur l’ensemble du marché. Je suis convaincu que les outils d’IA générative vont rapidement devenir des outils agentiques. Cela contribuera aux prises de décision et une hyperpersonnalisation des offres et du conseil. Ainsi, tous les métiers de proximité avec les clients en bénéficieront. Naturellement, les métiers autour du cycle de développement informatique aussi.