Este es concretamente el caso de uso en el que trabaja CaixaBank, con una propuesta para evitar la posible aparición de sesgos discriminatorios en el uso de la inteligencia artificial aplicada a los sistemas de detección del fraude.
La Comisión Europea ha presentado la primera legislación mundial sobre inteligencia artificial, un marco legal que describe cómo las empresas y gobiernos pueden utilizar esta tecnología para garantizar la seguridad y los derechos de los usuarios. La norma identifica sistemas de alto riesgo, con un posible uso en sectores especialmente sensibles, como el financiero o el sanitario, en los que se exige que la aplicación de la IA cuente con mecanismos específicos de supervisión humana. En estos casos, debe ser un humano el que pueda intervenir en el sistema para paliar estos sesgos discriminatorios que pueden afectar a la población.
GREEN.DAT.AI, proyecto que ha recibido financiación del programa de investigación e innovación Horizonte Europa bajo la GA 101070416, pretende proporcionar herramientas para ayudar a comprender cuales son los criterios que la IA está siguiendo para tomar la decisión en cada caso y así poder realizar un seguimiento sobre estas decisiones y corregir y evitar este riesgo de sesgo discriminatorio. Este proyecto pretende facilitar la supervisión que exige la norma y así contribuir a su cumplimiento.
Serveo, referente internacional en el diseño, mantenimiento, operación y gestión integral de infraestructuras públicas y privadas de transporte, energía, salud, industria, y en la prestación de servicios de facility management, y Atos IT Solutions and Services Iberia, líder en transformación digital, computación en la nube, ciberseguridad y supercomputación, son las otras empresas españolas integrantes del consorcio, en el que participan compañías de 10 países de diferentes sectores, como el energético, agrario o movilidad, entre otros. El proyecto, que se ha iniciado en 2023, finalizará en diciembre de 2025 y tiene un enfoque multidisciplinario para aprovechar el conocimiento de expertos en diferentes materias.
Al contar con financiación de la Unión Europea y estar dentro de la convocatoria del programa Horizonte Europa, las conclusiones del proyecto, cuando este finalice, se pondrán a disposición de todas las empresas e instituciones europeas que estén interesadas en mejorar los diversos aspectos de la sostenibilidad del análisis de datos a gran escala.
Proyectos europeos de investigación
Además de este consorcio, CaixaBank ha participado en otros proyectos europeos en el marco del programa Horizonte 2020, que contó con casi 80.000 millones de euros de financiación de la Unión Europea durante siete años (2014-2020). El actual marco de financiación para la investigación y la innovación de la Comisión Europea, Horizonte Europa, cuenta con 95.510 millones de euros para el período 2021-2027 y su objetivo es garantizar que Europa produzca ciencia de primer nivel y elimine las barreras para la innovación.
CaixaBank ha conseguido formar parte de diez consorcios ganadores en los últimos años, con una financiación recibida en innovación tecnológica y de ciberseguridad superior a los 2,5 millones de euros. Entre ellos, figuran otros proyectos relacionados con inteligencia artificial y big data, como A4CYBER, que analiza cómo aplicar esta tecnología en la mejora de la ciberseguridad.
La participación de CaixaBank en estos proyectos posiciona a la entidad como un agente implicado en I+D para el sector financiero, con un foco especial en la seguridad de la información. Además, formar parte de estos consorcios internacionales proporciona a la entidad una mayor coordinación con otras empresas, universidades y centros de investigación en la innovación de diversos aspectos tecnológicos, como la ciberseguridad.
Banco más innovador en la aplicación de la IA a los servicios financieros
CaixaBank es el banco más innovador en la aplicación de la Inteligencia Artificial a los servicios financieros en España. La entidad ha sido pionera a nivel mundial en el entrenamiento en español de la IA conversacional y en la puesta en marcha de asistentes cognitivos para atender a empleados y a clientes.
Hoy en día, CaixaBank está aplicando toda la potencia de la IA al desarrollo de herramientas para sus gestores y sus clientes, así como a otros objetivos estratégicos, como la formación de sus empleados. En 2022, CaixaBank fue elegido 'Mejor Banco en Análisis de datos e Inteligencia Artificial en el Mundo' por Qorus-Accenture y 'Mejor Entidad de Banca Privada en Europa en Análisis de Datos e Inteligencia Artificial' por la revista PWM (Grupo FT).
La tecnología y la innovación son clave para la entidad. Con más de 11 millones de usuarios de su banca digital, la mayor base de clientes digitales del sector financiero en España, la entidad trabaja cada día para desarrollar nuevos modelos que le permitan dar respuesta a las demandas y necesidades de sus clientes y que acerquen los productos, los servicios y la cultura financiera a todos los ciudadanos.