Las conclusiones del whitepaper “The Emerging Economics of AI in Finance” apuntan a que la capacidad de entender y justificar cómo la IA llega a sus respuestas se está convirtiendo en un requisito clave para su adopción en el área financiera, a medida que las organizaciones buscan más confianza, control y responsabilidad sobre los resultados generados por estas herramientas.
A raíz de una encuesta realizada a más de 2.000 responsables senior de toma de decisiones financieras a nivel global, la investigación revela que más de la mitad de las organizaciones estaría dispuesta a pagar más por soluciones de IA que ofrezcan mayor visibilidad sobre cómo se toman las decisiones. Los resultados indican que la transparencia en el funcionamiento de la IA se está convirtiendo en un factor cada vez más importante a la hora de evaluar este tipo de soluciones.
“En finanzas, decir que algo es casi correcto siempre ha significado que era incorrecto. A medida que la IA asume flujos de trabajo financieros más complejos, el coste de la incertidumbre es sencillamente demasiado alto”, afirma Aaron Harris, CTO de Sage. “Esta investigación muestra que la próxima era de la IA no se ganará sólo con la capacidad técnica del modelo por sí sola; se ganará con infraestructura de confianza. Los equipos financieros no pueden permitirse pasar horas haciendo de detectives con resultados de IA de caja negra. Necesitan soluciones que aporten transparencia, control y trazabilidad a los sistemas que hay detrás de sus resultados, para poder ejecutar con absoluta confianza”.
Entre las principales conclusiones de la investigación se incluyen:
• El auge del “Verification Tax”. Los profesionales financieros dedican cerca de 13 horas cada semana a reconstruir, validar y defender resultados de IA. A nivel global, casi la mitad (48%) dedica 15 horas o más a la semana a tareas de verificación, una cifra que asciende al 50% en España, mientras que casi uno de cada cinco (19%) dedica 30 horas o más.
• La precisión sin auditabilidad es una responsabilidad inaceptable. La investigación muestra que el rendimiento no es suficiente si la IA no puede mostrar cómo ha llegado a sus conclusiones, con más de la mitad de las organizaciones dispuestas a pagar una prima por transparencia.
• Los equipos financieros se están convirtiendo en la garantía de confianza de la IA. Al preguntar qué habilidades son más importantes para los líderes financieros actuales, los encuestados situaron en primer lugar el riesgo, la gobernanza y el criterio para la toma de decisiones, valorándolos casi el doble que la contabilidad técnica profunda. En España, el riesgo, la gobernanza y el criterio para la toma de decisiones alcanzan 32,1 puntos, frente a los 16,8 puntos de la contabilidad técnica profunda.
De la IA estilo ‘Black Box’ a la IA ‘Glass Box’
Las conclusiones apuntan a un cambio más amplio desde los sistemas tradicionales de IA Black Box, en los que resulta difícil entender o cuestionar los resultados, hacia enfoques Glass Box más transparentes, que ofrecen visibilidad sobre el razonamiento, las fuentes y la lógica que hay detrás de las recomendaciones generadas por IA. Como reflejo de esta tendencia, el 71% de los líderes financieros afirma que un proveedor con principios de diseño Glass Box en sus desarrollos elevaría claramente su estatus como partner preferente.
En respuesta a la creciente demanda de transparencia y auditabilidad, el enfoque de Sage en el diseño y desarrollo de IA para las finanzas se basa en la confianza. Una IA que los equipos financieros pueden analizar en detalle, gobernar y utilizar con confianza, gracias a resultados explicables y verificables, acciones controladas y trazabilidad completa de cada decisión impulsada por IA. Al integrar transparencia y auditabilidad en sus capacidades de IA, Sage permite a los equipos financieros actuar con mayor confianza, control y responsabilidad.
Kevin Permenter, Research Director, Financial Applications en IDC, añade que “las organizaciones que lograrán la ventaja más duradera en IA serán aquellas que replanteen la infraestructura de confianza no como una restricción para el despliegue de la IA, sino como la base sobre la que se construye una IA escalable. Las organizaciones deben tomar una elección; actuar pronto para convertir la confianza en procesos concretos o arriesgarse a verse desbordadas por la sobrecarga de verificación”.