Por qué no siempre hacemos caso a los algoritmos

(Anna Sáez de Tejada Cuenca, IESE Business School (Universidad de Navarra)) En plena efervescencia de la inteligencia artificial y el análisis de datos, el uso de herramientas basadas en algoritmos se está extendiendo rápidamente en las empresas.

Image description

Estas herramientas, como los sistemas de soporte de decisiones (DSS, por sus siglas en inglés), están diseñadas para producir recomendaciones que ayuden a los directivos a tomar decisiones más informadas.

Estas recomendaciones son objetivas y no tienen otra finalidad que aumentar la eficiencia y rentabilidad de los procesos y operaciones empresariales. Los directivos lo saben. También saben que los DSS están ahí para hacerles la vida más fácil. Aun así, y por sorprendente que parezca, no siempre siguen sus recomendaciones.

Entender por qué los sistemas de soporte de decisiones son importantes para las empresas les permitirá ajustarlos y sacarles el máximo partido. Pero estamos ante un problema que debe inscribirse en el marco de una cuestión más amplia: la interacción entre humanos y algoritmos.

Para arrojar luz sobre esta relación, estudiamos la adherencia de los directivos de una cadena de moda con presencia en 56 países a las recomendaciones de precios del DSS de la compañía durante siete campañas de rebajas. Queríamos saber si, en sus decisiones, los directivos se desviaban de las recomendaciones del algoritmo, cuánto, con qué consecuencias y, sobre todo, por qué. Nuestro análisis señaló a los sospechosos habituales: los sesgos cognitivos.

La resistencia tiene un precio

La empresa hizo una prueba piloto de un sistema de desarrollo de decisiones diseñado para ayudar a los directivos a fijar precios en los periodos de rebajas. Los directivos que siguieron sus recomendaciones aumentaron los ingresos en casi un 6 %, lo que convenció a la compañía para implantar la herramienta en sus tiendas y franquicias de todo el mundo.

Basándose en las previsiones de demanda, el algoritmo hacía recomendaciones de precios semanales, pero eran los directivos los que tenían la última palabra al respecto.

La cosa se torció: los directivos empezaron a ignorar las recomendaciones, incluso más de la mitad de las veces. A menudo bajaban los precios cuando el DSS aconsejaba mantenerlos, o aplicaban descuentos más agresivos de lo que sugería la herramienta. Finalmente, quienes más se desviaron de las recomendaciones a menudo tuvieron menos ingresos de lo esperado.

El factor humano

Lo ocurrido en esta cadena de moda ya lo había detectado antes otro estudio de una empresa de electrónica de consumo, cuyos directivos ignoraban las recomendaciones del DSS más del 80 % de las veces. Y también lo hacían por razones de sesgo.

En nuestro estudio, estos fueron los sesgos más importantes que identificamos:

  • El sesgo de statu quo. Las personas somos, en general, reacias al cambio. Así, los directivos optaban por ceñirse a lo que ya conocían en lugar de aceptar un sistema nuevo que se apartaba de la norma.

  • La asignación de relevancia. Acostumbrados a recibir informes semanales con los niveles de inventario, los directivos se afanaban por vender lo antes posible el stock que quedaba. En cambio, las recomendaciones del DSS iban dirigidas a que los ingresos fueran más altos al final de las rebajas, aunque eso implicase unos descuentos más conservadores al principio. Volcados en el inventario, que era la métrica que les parecía más relevante, los directivos terminaron por no hacer caso al algoritmo. Sus recomendaciones les parecían contraintuitivas porque daban más relevancia a los ingresos que al inventario.

  • El coste de atención. Nuestra capacidad cognitiva es limitada. Por eso, los directivos se sentían abrumados al tener que comprobar la excesiva cantidad de datos a considerar y de recomendaciones de precios que producía el DSS.

Contrarrestar los sesgos

Ante esta situación, la empresa revisó su DSS para resaltar la importancia de los ingresos (más que de los niveles de inventario o de las unidades vendidas) y mejoró los resultados.

Además, hizo dicha información más comprensible mostrando los datos numéricos en contexto para facilitar su interpretación. De ese modo, consiguió aumentar la adherencia de quienes más ignoraban la herramienta.

Nuestro estudio apunta en esa dirección. Los directivos confían más en su intuición y experiencia que en los DSS. Por tanto, es esencial comprender cómo interactúan con este tipo de herramientas para diseñarlas de forma que confíen en ellas.

Los DSS deberían dejar bien clara la lógica de sus recomendaciones, subrayar los datos que interesan, haciéndolos más relevantes, y simplificar las opciones que ofrecen. Estos cambios en la información presentada a los directivos pueden ayudar a vencer su resistencia.

Anna Sáez de Tejada Cuenca, Assistant Professor de Operaciones, Información y Tecnología, IESE Business School (Universidad de Navarra)

Este artículo fue publicado originalmente en The Conversation. Lea el original.

The Conversation

Tu opinión enriquece este artículo:

Que el dólar deje de ser moneda de reserva mundial tendrá implicaciones geopolíticas

(José Antonio Clemente Almendros, UNIR - Universidad Internacional de La Rioja ; Florin Teodor Boldeanu, SKEMA Business School y Samer Ajour El Zein, EAE Business School) El dólar estadounidense es la moneda dominante en el comercio y las finanzas globales y representa casi el 60 % de los bancos centrales del mundo (en 1999 era el 71 %). Además, la economía estadounidense es la más grande del mundo, por lo que sus éxitos y fracasos tienen un impacto significativo en la economía global.

C.Madrid cree que Sánchez se equivoca al eliminar la 'Golden Visa': "Lanza un mensaje negativo a inversores"

El consejero de Presidencia, Justicia y Administración Local de la Comunidad de Madrid, Miguel Ángel García, ha sostenido que el presidente del Gobierno, Pedro Sánchez, "vuelve a equivocarse" al anunciar la eliminación del visado de oro, también conocido como 'Golden Visa', para los extranjeros no residentes en la Unión Europea que invierten más de 500.000 euros en vivienda.

MediaMarkt celebra 25 años en España acercando la tecnología a las personas (a través de un recorrido por 5 ‘experience rooms’)

MediaMarkt, compañía omnicanal líder en el sector de la distribución de electrónica de consumo y servicios relacionados, celebra este año el 25º aniversario de su actividad en España. Para ello, la compañía ha organizado un recorrido exclusivo a través de 5 experience rooms en el Hotel RIU de Madrid donde se exponen algunos de los productos, campañas y momentos más icónicos que ayudan a explicar de una forma muy ‘real’ la evolución de MediaMarkt desde su llegada a España hace 25 años. Próximamente se expondrá para el público de forma itinerante en algunas tiendas de la compañía en varias localidades españolas.

¿Qué une a Decathlon, El Corte Inglés, H&M, IKEA e Inditex? La Asociación para la Gestión del Residuo Textil (y tienen un plan para el tema)

Este martes, la Asociación para la Gestión del Residuo Textil -iniciada por Decathlon, El Corte Inglés, H&M, IKEA, Inditex, KIABI, Mango y Tendam y a la que se ha sumado en las últimas semanas también Sprinter- ha presentado un estudio junto con 40db sobre los hábitos de consumo en la sociedad actual, así como los retos y las perspectivas que la industria textil afronta en materia de circularidad.

Cataluña pone en marcha la campaña de adhesiones para impulsar la Región Mundial de la Gastronomía 2025

Cataluña ha puesto en marcha los engranajes para ser Región Mundial de la Gastronomía en el año 2025. En un encuentro celebrado hoy en los jardines del Palau de Pedralbes, el consejero de Empresa y Trabajo, Roger Torrent i Ramió, y el consejero de Acción Climática, Alimentación y Agenda Rural, David Mascort y Subiranas, han dado el pistoletazo de salida a la campaña de adhesiones para formar parte de esta distinción y han desgranado algunas de las propuestas que deben permitir poner en valor la producción alimentaria, la cocina catalana y Cataluña como destino turístico de calidad.

Los top mundiales del pádel, álex ruiz y gemma triay, embajadores de cantabria labs y ndl pro-health

Cantabria Labs y NDL Pro-Health han anunciado hoy, en un evento de presentación que ha tenido lugar en la Ciudad de la Raqueta, en Madrid, sus dos nuevos patrocinios deportivos: los jugadores de pádel Álex Ruiz y Gemma Triay. Con esta alianza, ambas compañías refuerzan su compromiso con la promoción del deporte español explorando nuevos territorios dentro de su estrategia de patrocinios: el pádel.

Éste sitio web usa cookies, si permanece aquí acepta su uso. Puede leer más sobre el uso de cookies en nuestra política de cookies.