Por qué no siempre hacemos caso a los algoritmos

(Anna Sáez de Tejada Cuenca, IESE Business School (Universidad de Navarra)) En plena efervescencia de la inteligencia artificial y el análisis de datos, el uso de herramientas basadas en algoritmos se está extendiendo rápidamente en las empresas.

Image description

Estas herramientas, como los sistemas de soporte de decisiones (DSS, por sus siglas en inglés), están diseñadas para producir recomendaciones que ayuden a los directivos a tomar decisiones más informadas.

Estas recomendaciones son objetivas y no tienen otra finalidad que aumentar la eficiencia y rentabilidad de los procesos y operaciones empresariales. Los directivos lo saben. También saben que los DSS están ahí para hacerles la vida más fácil. Aun así, y por sorprendente que parezca, no siempre siguen sus recomendaciones.

Entender por qué los sistemas de soporte de decisiones son importantes para las empresas les permitirá ajustarlos y sacarles el máximo partido. Pero estamos ante un problema que debe inscribirse en el marco de una cuestión más amplia: la interacción entre humanos y algoritmos.

Para arrojar luz sobre esta relación, estudiamos la adherencia de los directivos de una cadena de moda con presencia en 56 países a las recomendaciones de precios del DSS de la compañía durante siete campañas de rebajas. Queríamos saber si, en sus decisiones, los directivos se desviaban de las recomendaciones del algoritmo, cuánto, con qué consecuencias y, sobre todo, por qué. Nuestro análisis señaló a los sospechosos habituales: los sesgos cognitivos.

La resistencia tiene un precio

La empresa hizo una prueba piloto de un sistema de desarrollo de decisiones diseñado para ayudar a los directivos a fijar precios en los periodos de rebajas. Los directivos que siguieron sus recomendaciones aumentaron los ingresos en casi un 6 %, lo que convenció a la compañía para implantar la herramienta en sus tiendas y franquicias de todo el mundo.

Basándose en las previsiones de demanda, el algoritmo hacía recomendaciones de precios semanales, pero eran los directivos los que tenían la última palabra al respecto.

La cosa se torció: los directivos empezaron a ignorar las recomendaciones, incluso más de la mitad de las veces. A menudo bajaban los precios cuando el DSS aconsejaba mantenerlos, o aplicaban descuentos más agresivos de lo que sugería la herramienta. Finalmente, quienes más se desviaron de las recomendaciones a menudo tuvieron menos ingresos de lo esperado.

El factor humano

Lo ocurrido en esta cadena de moda ya lo había detectado antes otro estudio de una empresa de electrónica de consumo, cuyos directivos ignoraban las recomendaciones del DSS más del 80 % de las veces. Y también lo hacían por razones de sesgo.

En nuestro estudio, estos fueron los sesgos más importantes que identificamos:

  • El sesgo de statu quo. Las personas somos, en general, reacias al cambio. Así, los directivos optaban por ceñirse a lo que ya conocían en lugar de aceptar un sistema nuevo que se apartaba de la norma.

  • La asignación de relevancia. Acostumbrados a recibir informes semanales con los niveles de inventario, los directivos se afanaban por vender lo antes posible el stock que quedaba. En cambio, las recomendaciones del DSS iban dirigidas a que los ingresos fueran más altos al final de las rebajas, aunque eso implicase unos descuentos más conservadores al principio. Volcados en el inventario, que era la métrica que les parecía más relevante, los directivos terminaron por no hacer caso al algoritmo. Sus recomendaciones les parecían contraintuitivas porque daban más relevancia a los ingresos que al inventario.

  • El coste de atención. Nuestra capacidad cognitiva es limitada. Por eso, los directivos se sentían abrumados al tener que comprobar la excesiva cantidad de datos a considerar y de recomendaciones de precios que producía el DSS.

Contrarrestar los sesgos

Ante esta situación, la empresa revisó su DSS para resaltar la importancia de los ingresos (más que de los niveles de inventario o de las unidades vendidas) y mejoró los resultados.

Además, hizo dicha información más comprensible mostrando los datos numéricos en contexto para facilitar su interpretación. De ese modo, consiguió aumentar la adherencia de quienes más ignoraban la herramienta.

Nuestro estudio apunta en esa dirección. Los directivos confían más en su intuición y experiencia que en los DSS. Por tanto, es esencial comprender cómo interactúan con este tipo de herramientas para diseñarlas de forma que confíen en ellas.

Los DSS deberían dejar bien clara la lógica de sus recomendaciones, subrayar los datos que interesan, haciéndolos más relevantes, y simplificar las opciones que ofrecen. Estos cambios en la información presentada a los directivos pueden ayudar a vencer su resistencia.

Anna Sáez de Tejada Cuenca, Assistant Professor de Operaciones, Información y Tecnología, IESE Business School (Universidad de Navarra)

Este artículo fue publicado originalmente en The Conversation. Lea el original.

The Conversation

Tu opinión enriquece este artículo:

Líderes de Alibaba.com, Miravia, Destinia, Just Eat, Ikea o Alain Afflelou se citarán en el Retail Tech Fest para desvelar sus claves de éxito en ecommerce

Con un peso cada vez mayor en la economía comunitaria, el sector del retail representa ya el 11,5% del valor añadido de la Unión Europea y da empleo a cerca de 30 millones de personas. Como consecuencia de esta relevancia en la esfera internacional y del papel estratégico que la innovación tecnológica desempeña en su evolución, Adigital y DES – Digital Enterprise Show 2025 coorganizarán por primera vez el Retail Tech Fest, el nuevo punto de encuentro de referencia para el ecosistema minorista y de comercio electrónico.

Mahou San Miguel impulsa la realización del mural más grande de Madrid en el Palacio Vistalegre

Mahou San Miguel, compañía de bebidas y servicios, 100% española y líder del sector cervecero en nuestro país, refuerza su compromiso con Madrid y la escena creativa de la ciudad con una colaboración única con motivo del 25º aniversario del Palacio Vistalegre, ubicado en Carabanchel. Concretamente, la compañía ha impulsado la creación de "La musa de Vistalegre", un mural de 1.100 m² que cubre la fachada del espacio y que es obra del artista urbano Sfhir, uno de los más reconocidos internacionalmente y originario de este barrio. Con este mural, el más ambicioso hasta el momento para el autor, se quiere rendir homenaje a la cultura local a través de la representación de una figura femenina tocando la guitarra.

Los españoles se gastarán un 22% más en sus comidas y cenas en restaurantes esta Semana Santa (en comparación al 2024)

Las vacaciones de Semana Santa están a la vuelta de la esquina y muchos españoles aprovechan para disfrutar de su tiempo libre y de la gastronomía, en compañía de su pareja, familia o amigos. Según el análisis que ha realizado TheFork, la plataforma líder de reservas online en Europa, durante el periodo comprendido entre el Jueves Santo (17 de abril) y el Domingo de Resurrección (20), los españoles se van a gastar de media un 23% más que el año pasado en disfrutar de una comida o cena en un restaurante. Concretamente, el ticket medio por persona se situará en los 32€, frente a los 26€ registrados en 2024.

Las mejores playas de España para hacer surf (Loquis tiene el podcast que te pone las olas en los oídos)

Si vives por y para el surf, si tu religión es el salitre y tu altar una buena tabla… ¡Aquí tienes tu dosis de stoke! Presentado por el loco de las olas Miguel Ángel Galguera, este podcast es tu billete rápido a los spots más épicos de la costa española. Sin rollos, sin relleno: puro jugo surfero en capsulitas explosivas de info útil, vibraciones altas y paisajes que te dejarán con la boca abierta. Playa de Razo, Patín, Rodiles… Cada episodio es una inmersión total en un nuevo paraíso. ¡Apúntatelas todas, porque este verano tienes tarea!

El euro cruza la barrera de los 1,14 dólares por primera vez desde 2022

La cotización del euro frente al dólar prosigue su escalada y llegaba a superar este viernes el umbral de los 1,14 'billetes verdes' por primera vez en tres años en respuesta a las erráticas políticas implementadas por la Casa Blanca, lo que lleva a los inversores a obviar la dinámica de la evolución de los tipos de cambio en el corto plazo.

Nace la Red de Pueblos Gastronómicos de España (un nuevo, sorprendente e integrador proyecto turístico)

Fogón y Candela, los dos personajes que van a acompañar al viajero en su camino por decenas de pueblos maravillosos que tenemos en España, donde el Turismo, en su más amplio sentido, y la Gastronomía, desde la perspectiva de la excelencia culinaria, se unen en una simbiosis perfecta para ofrecer al visitante una experiencia inolvidable, en un marco de ensueño, nos contaron, el pasado 10 de Abril, una apasionante historia… Nace “la Red de Pueblos Gastronómicos de España”, un innovador y ambicioso proyecto turístico, que de la mano de tres grandes corporaciones especializadas en el sector, y después de tres duros años de trabajo, unen su experiencia, liderazgo, conocimiento y el buen hacer para ofrecer al viajero una singular propuesta en la que va a poder recorrer toda nuestra geografía descubriendo los pueblos más bellos y sorprendentes de nuestro país, su gastronomía más autóctona, sus productos locales, las recetas que han pasado de generación en generación, sus fiestas, su patrimonio, su cultura, sus tradiciones, sus leyendas, historia y, sobre todo, su alma… 

Porto Alegre, capital de la innovación en Latinoamérica con South Summit Brazil 2025

South Summit Brazil, el encuentro líder del ecosistema emprendedor e innovador en Latinoamérica co-organizado por IE University y el Gobierno de Río Grande do Sul, inauguró el pasado miércoles 9 de abril su cuarta edición en la ciudad de Porto Alegre. South Summit Brazil 2025 ha reunido hasta el viernes 11 a los principales protagonistas del ecosistema emprendedor mundial en Porto Alegre, que con esta nueva edición consolida su posición como capital de la innovación y el emprendimiento en América Latina.

Éste sitio web usa cookies, si permanece aquí acepta su uso. Puede leer más sobre el uso de cookies en nuestra política de cookies.