Finances News Hebdo : Tout d’abord, quels sont les exemples les plus marquants de l'application de l'intelligence artificielle dans le secteur bancaire, et comment ont-ils amélioré l'efficacité opérationnelle et l'expérience client ?

Pr. Amal El Fallah Seghrouchni : L’intelligence artificielle est largement utilisée dans le domaine bancaire. Il est possible de distinguer trois grandes catégories d’utilisation : le front-office, pour l’interface avec les clients, le middle-office, pour une meilleure gestion du système d’information, et le back-office, pour l’accomplissement des tâches en arrière-plan. En front-office, l’IA est utilisée pour améliorer l’interaction avec les clients de la banque et la gestion de la relation client (CRM). Cela consiste à personnaliser les interactions avec les clients en analysant leurs comportements passés, leurs préférences et besoins afin de leur offrir des produits et des services plus adaptés à leurs besoins. On parle de services customisés sur la base d’une vision 360° du client.

Les techniques d’IA mobilisées sont les chatbots pour une assistance virtuelle en temps réel aux clients, pour répondre à leurs questions, gérer les demandes de routine et fournir des informations sur les comptes. L’IA est également utilisée pour évaluer la solvabilité des emprunteurs en analysant diverses données, incluant les historiques de paiement, les comportements financiers et les tendances économiques. Les systèmes de reconnaissance biométrique telles que la reconnaissance faciale, d'empreintes digitales et vocale, sont utilisées pour renforcer l'authentification des utilisateurs et sécuriser l’accès aux comptes bancaires. On peut citer deux exemples. *HSBC propose le chatbot Amy, qui comprend l'anglais, le chinois traditionnel et simplifié, et aide les clients à obtenir des réponses instantanées aux questions les plus courantes sur les produits et services de la banque *CITI SG permet aux clients d’obtenir des réponses aux questions concernant le solde du compte, les transactions, les récompenses et les informations sur les paiements pour les cartes de crédit, les comptes chèques et les comptes d'épargne. En middle6office, l’IA est utilisée pour l’automatisation et l’optimisation des processus internes au système d’information. Elle permet de réduire les erreurs humaines, d’accélérer les délais de traitement et d’améliorer l'efficacité opérationnelle. De nombreuses techniques d’IA sont mises à contribution.

• L’analyse prédictive permet d’optimiser la gestion des portefeuilles et des portefeuilles d'investissement, de fournir des recommandations aux gestionnaires de fonds;

• L’analyse de grandes masses de données est utilisée pour identifier et anticiper les tendances du marché et pour évaluer les risques de crédit;

• L’analyse des comportements permet de détecter les fraudes et d’améliorer la gestion des risques pour les clients et pour la banque.

Notons que les techniques de fraude ne cessent d'évoluer et les dispositifs de lutte antifraude doivent s'adapter. Le recours à l'intelligence artificielle fait émerger de nouvelles approches innovantes fondées sur des algorithmes et des technologies de grandes masses de données (Big Data). Aussi, la prédiction de la fraude et la détection des transactions suspectes (ex. le blanchiment d'argent) deviennent possibles et reposent sur des techniques d’apprentissage automatique pour analyser les modèles de transactions et identifier les comportements suspects. En back-office, l’IA permet l’automatisation des opérations de back-office comme la vérification des documents, la gestion des demandes de prêts, et d'autres processus administratifs.

F.N.H. : En considérant le potentiel de l'IA pour dissimuler des activités criminelles et contourner des infrastructures sécurisées, quelles stratégies peuvent être mises en place par les banques pour se protéger contre ces risques associés à l'utilisation de l'intelligence artificielle ?

Pr. A.E.S. : Il est en effet bien connu que l’IA est à double tranchant, car elle peut être utilisée pour sécuriser le système bancaire, mais peut également y introduire des vulnérabilités. Par exemple, l’IA peut aider à la création de fausses vidéos, à doper des logiciels malveillants alimentés par l'IA, à créer des attaques d'ingénierie sociale plus intelligentes, etc. La banque doit se doter d’une stratégie de résilience pour faire face aux usages maléfiques de l’IA afin de détecter ces vulnérabilités et sécuriser le système relativement aux trois niveaux (le front, le middle et le back-office). Cette stratégie de protection doit inclure la sensibilisation des collaborateurs et des clients aux risques, l’augmentation des protections du système d’information et le renforcement des authentifications. Cela passe par la sécurisation des données bancaires et des données personnelles et l’investissement dans des développements d’une IA de confiance. On estime aujourd’hui les risques de la cybersécurité à 403 Mds de dollars, et le marché mondial de la cybersécurité d'ici 2027 avec un taux de croissance annuel composé (TCAC) de 12,5%.

Le marché de la cybersécurité valait 176,5 milliards de dollars en 2020. Selon des recherches menées par IBM, il faut 280 jours pour trouver et contenir une cyberattaque moyenne, tandis que celle-ci coûte en moyenne 3,86 millions de dollars. Le logiciel de la banque n’en est pas exempt. Le rôle de l'IA pour la cybersécurité est double. D’une part, grâce à l’IA on peut implémenter l’automatisation des tâches courantes de cybersécurité : gestion des vulnérabilités, détection des menaces, etc. D’autre part, il devient possible, voire aisé d’identifier des menaces dans de grands ensembles de données qui n'ont pas été analysés manuellement. Plus récemment, une nouvelle génération de cybermenaces est apparue avec l’arrivée de l’IA générative. Cette dernière a ouvert la voie à de nouveaux risques et de nouvelles menaces que les cyber-attaquants ont intégré à leur arsenal de plus en plus multimodal. Ainsi, les pirates ne se contentent plus de pirater des courriels, de faire de l’hameçonnage, mais peuvent imiter des voix, des visages et même des personnalités pour s’approprier les identités de leurs victimes et les piéger. Autant de nouveaux défis pour sécuriser les banques et leurs clients.

F.N.H. : Comment les institutions bancaires peuvent-elles s'assurer de la fiabilité et de l'éthique des systèmes d'IA qu'elles utilisent, et quel rôle joue la réglementation dans ce contexte ?

Pr. A.E.S. : Les banques déploient des systèmes d’IA qui doivent pallier les risques de sécurité informatique et ceux qui relèvent de l’éthique. Si les premiers sont bien connus et bien documentés, les algorithmes d’IA impliquent des problèmes différents et qui sont en cours de réglementation au niveau mondial. Citons à titre d’exemple le AI Act en Europe et des initiatives similaires en Chine et aux états Unis. Comment s’assurer que les données utilisées (lors de la collecte ou de l’entrainement des systèmes d’IA) ne contiennent pas de biais qui induisent nécessairement des problèmes de justice ou d’équité dans divers processus bancaires comme l’octroi de crédit, la lutte contre le blanchiment d’argent et le financement du terrorisme. La fiabilité des données, la justesse des algorithmes et la capacité d’expliquer leurs recommandations constituent un gage d’acceptabilité des systèmes d’IA dans le domaine bancaire et financier.

F.N.H. : Comment l'approche politique européenne basée sur le risque influence-t-elle le développement et la confiance dans les systèmes d'IA dans le secteur bancaire ?

Pr. A.E.S. : D’un point de vue réglementaire, en 2020, la Commission européenne mettait en avant les principaux risques que l’IA fait courir pour les personnes. Le Ai act qui s’en est suivi définit 4 niveaux de risques.

• Pratiques interdites de l’IA pour les systèmes d’IA à risques inacceptables. Il s’agit de l’interdiction d’un ensemble très limité d'utilisations particulièrement nuisibles de l'IA, qui sont contraires aux valeurs de l’UE parce qu'elles violent les droits fondamentaux.

• Systèmes d’IA à haut risque et réglementés pour les systèmes à haut niveau de risque. Il s’agit d’un nombre limité de systèmes d'IA ayant un impact négatif sur la sécurité des personnes ou leurs droits fondamentaux, comme les systèmes bancaires.

• Transparence  pour les systèmes d’IA à un niveau limité de risque. Pour certains systèmes d'IA, des exigences de transparence spécifiques sont imposées. Par exemple, les utilisateurs doivent être conscients qu'ils interagissent avec une machine.

• Pour tous les autres systèmes d’IA, sur une base volontaire, les développeurs doivent choisir d'appliquer les exigences relatives à une IA digne de confiance et d'adhérer à des codes de conduite volontaires. Dans le secteur bancaire et financier, les systèmes d’IA bancaires sont considérés comme des systèmes d’IA à haut risque, en particulier pour les droits fondamentaux, la protection des données à caractère personnel, le respect de la vie privée, et la non-discrimination.

Par exemple, la prise en compte du département de résidence du client dans un algorithme de scoring pour l’octroi des crédits bancaires peut discriminer les habitants d’un département pauvre pour l’obtention d’un prêt, ce qui peut renforcer les inégalités existantes. De même que l’analyse de type de consommation à partir des relevés de comptes bancaires peut donner lieu à une ingérence dans la vie privée des clients. Dans ce contexte de réglementation européenne, les implications pour les banques sont très contraignantes et on peut les résumer comme suit. Pour la gestion du côté de la banque, il faudrait :

• Établir et mettre en œuvre un système de gestion de la qualité au sein de l’organisation; rédiger et tenir à jour la documentation technique; procéder à l'évaluation de la conformité et, éventuellement, à la réévaluation du système (en cas de modifications significatives);

• Enregistrer le système IA autonome dans la base de données de l’UE; signer la déclaration de conformité et apposer le marquage CE et effectuer une surveillance après la mise sur le marché;

• Signaler les incidents graves, les dysfonctionnements entraînant des violations des droits fondamentaux et collaborer avec les autorités de surveillance du marché. Pour la gestion des clients, il faudrait :

• Utiliser le système IA à haut risque conformément au mode d'emploi; assurer une supervision humaine et surveiller les opérations pour déceler les risques éventuels;

• Conserver les journaux générés automatiquement et informer le fournisseur ou le distributeur de tout incident grave et de tout dysfonctionnement;

• De plus, les obligations légales existantes continuent de s'appliquer (par exemple, en vertu du GDPR).

F.N.H. : Quels sont les opportunités et les défis spécifiques au développement de l'intelligence artificielle dans le secteur bancaire africain, et comment cela peut-il contribuer au «leapfrogging» technologique du continent ?

Pr. A.E.S. : Le développement de l’IA en Afrique, tous secteurs confondus, soulève de nombreux défis. D’abord, des défis technologiques relatifs à : • La disponibilité et la qualité de grandes quantités de données;

• L’avancement rapide des technologies de l’IA (ex. l’IA générative);

• L’évolution de l’infrastructure IT existante (ex. disponibilité de la connexion). Ensuite, des défis organisationnels nécessitant :

• Des nouvelles cultures d'entreprise qui soutiennent l'innovation et l'agilité;

• Le soutien du top management pour adopter les changements induits par l’IA;

• La transformation des structures internes et des mentalités par la phase de transformation digitale en cours induisant une meilleure acceptabilité de l’IA.

Enfin, des défis environnementaux, et là on retrouve :

• Les évolutions réglementaires;

• La pression concurrentielle des entreprises fintech;

• L’évolution de la demande client.

De ce fait, le développement du secteur bancaire en Afrique devra relever tous ces défis à la fois et rattraper son retard en termes de ressources humaines (de nouvelles compétences sur le marché national capables de mener la transformation par l’IA à la banque). Il est à noter qu’au niveau global, le consensus est global autour de l’IA des acteurs de la banque : 74 des cadres bancaires pensent que le secteur sera complètement transformé par les technologies intelligentes, et 64 des employés de la banque s’attendent que l’IA crée des opportunités pour leur travail. Mais l’IA, et en particulier l’IA générative, apporte de nouveaux outils de formation pour l’up-skilling et le re-skilling des cadres et aussi des clients. Par exemple, des outils multimodaux peuvent rapprocher les services bancaires des populations souffrant d’un fort taux d’analphabétisme.

F.N.H. : Ai Movement a été labélisé centre de catégorie 2 de l’UNESCO. En quoi consiste cette labélisation et quel impact cela pourrait-il avoir sur le développement de l'IA au Maroc et dans la région ?

Pr. A.E.S. : La Conférence générale de l’Organisation des Nations Unies pour l’éducation, la science et la culture (Unesco), réunie au titre de sa 42ème session, a approuvé avec ses 194 Etats membres, le 14 novembre 2023 à Paris, la désignation du Centre international d’intelligence artificielle au Maroc «Ai Movement», relevant de l’Université Mohammed VI Polytechnique (UM6P) de Rabat, en tant que centre de catégorie II (C2C) sous l’égide de l’Unesco. Ce label d’excellence nous donne une grande visibilité au niveau du continent, mais aussi au niveau international, puisque Ai Movement est le seul C2C d’IA en Afrique et appartient dorénavant au réseau des centres d’excellence de l’Unesco.

Cette reconnaissance par l’UNESCO est donc une consécration du centre AI Movement, et nous pouvons nous positionner, en toute légitimité, comme un hub d’excellence et régional de l’IA en Afrique. Nous avons déjà des retombées très positives et des sollicitations de diverses régions du monde, incluant les organismes onusiens pour tisser des collaborations internationales et élaborer des projets communs, que ce soit en formation ou en recherche et développement en IA et science des données. Notre rêve de créer un mouvement de l’IA de confiance, éthique et responsable en Afrique est en train de se concrétiser. **La catégorie II signifie que la gouvernance reste au sein d’Ai Movement avec un accord tripartite entre le gouvernement marocain, l’Unesco et Ai Movement. (alors que la catégorie I transfert la gouvernance à l’Unesco).